미국 빅테크, “이스라엘에 AI 모델 제공 방식” 공개

미국 IT 대기업들이 이스라엘에 ‘인공지능(AI) 모델’을 제공한 방식이 공개되면서, “전쟁에서 기술의 역할”에 대한 의문이 제기되고 있다고 AP통신이 30일(현지시간) 보도했다.

이 같이 미 빅테크(Big Tech.)들이 인공지능(AI) 및 클라우드 컴퓨팅 서비스를 통해 이스라엘군을 지원하고 있으며, 이러한 기술이 전쟁에서 ‘민간인 피해’를 증가시키는 데 기여했다는 우려가 제기되고 있다.

특히 마이크로소프트(MS)와 오픈AI(Open AI)의 기술은 이스라엘군의 표적 식별 및 추적에 중요한 역할을 하고 있으며, 이러한 기술의 군사적 사용에 대한 윤리적 논란이 지속되고 있다.

이스라엘은 AI를 활용해 방대한 정보와 감시 자료를 분석하여 적의 움직임을 파악하고 있는데, 하마스 공격 이후 마이크로소프트와 오픈AI 기술 사용량이 급증했으며, 결함 있는 데이터로 인한 오류 발생 가능성도 제기되고 있다. 이 오류로 민간이 살해가 급증하고 있어 전쟁에서의 AI의 역할 문제가 크게 제기되고 있다.

이스라엘군은 인공지능을 “판도를 바꾸는 기술”로 평가하며, 목표물을 신속히 제거하는 데 사용. 전쟁 발발 이후 가자지구와 레바논에서 대규모 사상자 발생 및 건물 파괴를 확대해 왔다.

OpenAI와 마이크로소프트의 협력 관계 및 군사적 AI 사용에 대한 윤리적 논란이 끊이없이 일고 있으며, 이스라엘군은 AI 도구를 통해 민간인 사상자를 최소화하려 했다고 주장하지만 보고에 따르면 현실은 정반대이다.

또 구글과 아마존은 “님버스 프로젝트”를 통해 이스라엘군에 클라우드 및 AI 서비스를 제공했으며, 이스라엘군은 대규모 감시 데이터를 분석하여 표적 식별 및 추적에 활용해 왔다. AI 시스템이 번역 오류로 인해 표적 선정에 실수가 발생할 수 있다는 문제점이 중단 없이 지적되고 있다.

* 기업엔 AI 수요 창출, 그러나 오류로 무고한 사람 살해 급증

미국의 거대 기술 기업들이 인공지능 및 컴퓨팅 서비스 분야의 급증하는 수요를 충족시켜 이스라엘이 가자지구와 레바논에서 무장세력으로 추정되는 사람들을 더욱 신속하게 추적하고 사살할 수 있도록 조용히 지원해 왔으나, 이러한 기술들이 무고한 사람들의 죽음을 초래하고 있다는 우려와 함께 민간인 사망자 수도 급증했다.

군대는 오랫동안 민간 기업에 맞춤형 자율 무기 개발을 의뢰해 왔다. 그러나 최근 이스라엘의 전쟁은 미국에서 개발된 상업용 인공지능 모델이 실제 전쟁에 사용된 대표적인 사례로 꼽힌다. 이러한 모델들이 원래 ‘생사 결정용’으로 개발된 것이 아니라는 우려에도 사실상 ‘생사 결정용(life-or-death decision)’을 가진 도구로 사용되고 있다.

이스라엘군은 인공지능(AI)을 활용하여 방대한 양의 정보, 감청된 통신, 감시 자료를 분석하고 의심스러운 언행을 찾아내며 적의 움직임을 파악한다. AP 통신 조사에 따르면, 2023년 10월 7일 가자지구의 하마스 정파(政派)의 기습 공격 이후 마이크로소프트와 오픈AI 기술의 사용량이 급증했다.

이번 조사에서는 인공지능 시스템이 목표를 선택하는 방식과 잘못된 데이터 또는 결함 있는 알고리즘으로 인해 발생할 수 있는 오류에 대한 새로운 세부 정보도 밝혀졌다. 조사 내용은 내부 문서, 데이터, 그리고 현직 및 전직 이스라엘 관리와 회사 직원들과의 단독 인터뷰를 바탕으로 했다고 AP는 소개했다.

* 판도를 바꾸는 기술?

약 1,200명의 사망자와 250명 이상의 인질을 낸 공격 이후 이스라엘의 목표는 하마스를 완전히 제거하는 것이었으며, 이스라엘군은 인공지능(AI)을 목표물을 더욱 신속하게 제거하는 데 있어 “판도를 바꾸는 기술”(game changer)이라고 평가했다. 가자지구와 레바논 보건부에 따르면, 전쟁 발발 이후 가자지구와 레바논에서 5만 명 이상이 사망했고, 가자지구 건물 중 거의 70%가 파괴되었다. 이스라엘군은 인공지능을 전쟁터에서 사용하면서 라벤더(Lavender)와 가스펠(Gospel)이라는 좋은 이름의 AI를 이용했지만, 결과는 집단 살해(Genocide)라는 치명적인 오명(汚名)을 낳았다.

에이아이 나우 연구소(AI Now Institute)의 수석 AI 과학자 이자 OpenAI의 전임 수석 안전 엔지니어였던 하이디 클라프(Heidy Khlaaf)는 “이번 사례는 상용 AI 모델이 전쟁에 직접 사용되고 있다는 사실을 처음으로 확인시켜 준 것”이라고 지적하고, “이는 앞으로 기술이 이러한 비한다”고 강조했다.

* 전쟁 중 이스라엘의 AI 및 클라우드 컴퓨팅 사용량 급증

미국 기술 기업 중 마이크로소프트(MS)는 수십 년에 걸쳐 이스라엘군과 특히 긴밀한 관계를 유지해 왔다.

다른 기술 기업들과의 관계를 비롯한 이러한 협력 관계는 하마스의 공격 이후 더 강화됐다. 라헬리 뎀빈스키(Racheli Dembinsky) 대령(군 최고 정보 기술 책임자)은 2025년 발표에서 “이스라엘의 전쟁 대응으로 자체 서버에 과부하가 걸리고, 외부 제3자 공급업체에 대한 의존도가 높아졌다”고 밝혔다.

그녀가 인공지능이 가자지구에서 이스라엘에 ‘매우 중요한 작전 효율성’을 제공했다고 설명하는 동안, 그녀 뒤편의 대형 스크린에는 마이크로소프트 애저(Azure), 구글 클라우드(Cloud), 아마존 웹 서비스(Amazon Web Services)의 로고가 나타났다고 AP통신이 전했다.

AP통신이 회사 내부 정보를 검토한 결과, 이스라엘군의 마이크로소프트와 오픈AI 인공지능 사용량이 10월 7일 공격 직전 주에 비해 지난 3월 거의 200배 가까이 급증한 것으로 나타났다. 마이크로소프트 서버에 저장된 데이터의 양은 그 시점부터 2024년 7월까지 두 배로 늘어 13.6페타바이트(PB=petabytes)를 넘어섰는다. (페타바이트는 컴퓨터 데이터 저장 용량 단위로, 1,024 테라바이트에 해당한다.)

이는 미국 의회 도서관에 있는 모든 책을 저장하는 데 필요한 디지털 메모리의 약 350배에 달하는 양이며, 전쟁 발발 후 첫 두 달 동안에만 군의 마이크로소프트 대규모 서버 사용량이 거의 3분의 2 가까이 증가했다.

마이크로소프트는 이 기사에 대한 어떠한 논평도 제공하지 않았으며, 이스라엘군에 제공하는 클라우드 및 AI 서비스에 대한 자세한 질문 목록에도 답변하지 않았다고 AP통신은 전했다.

마이크로소프트는 웹사이트에 게시한 장문의 성명에서 “인권 존중은 마이크로소프트의 핵심 가치”라며 “전 세계적으로 기술의 긍정적인 역할을 옹호하기 위해 노력한다”고 밝혔다. 40페이지 분량의 ‘2024년 책임 있는 AI 투명성 보고서’(Responsible AI Transparency Report for 2024) 에서 마이크로소프트는 “개발 주기 전반에 걸쳐 생성형 AI의 위험을 파악하고 측정하며 관리하여 피해 위험을 줄이겠다”고 약속했지만, 수익성이 높은 군사 계약에 대해서는 언급하지 않았다.

챗GPT 개발사인 오픈AI는 마이크로소프트의 애저 클라우드 플랫폼을 통해 고급 AI 모델을 제공하고 있으며, 이스라엘군은 이를 구매하고 있다는 사실이 문서와 데이터에서 드러났다. 마이크로소프트는 오픈AI의 최대 투자자이다.

* OPEN AI : “자사의 사명과 일치하는 국가 안보 관련 사용 사례 허용”

OpenAI는 이스라엘 군과 협력 관계가 없으며, 자사 제품 사용 정책에 따라 고객은 무기 개발, 재산 파괴 또는 인명 피해를 목적으로 제품을 사용해서는 안 된다고 밝혔다. 그러나 약 1년 전, OpenAI는 군사적 사용을 금지했던 이용 약관을 변경하여 “자사의 사명과 일치하는 국가 안보 관련 사용 사례”는 허용하기로 했다.

이스라엘군은 미국 기술 기업의 상용 AI 제품 사용에 대한 AP 통신의 자세한 서면 질문에 답변을 거부했지만, 분석가들이 AI 기반 시스템을 사용하여 목표물을 식별하고 고위 장교들과 함께 독립적으로 검토하여 국제법을 준수하고 군사적 이점과 부수적 피해를 비교 평가한다고 밝혔다. 그러나 실상은 국제법 위반 사례가 보도되고 있다.

이스라엘군은 AP통신에 보낸 성명에서 “이러한 AI 도구들은 정보 수집 과정을 더욱 정확하고 효율적으로 만들어준다. 더 많은 목표물을 더 빠르게 찾아내지만, 정확도를 희생시키지 않으며, 이번 전쟁에서 여러 차례 민간인 사상자를 최소화하는 데 기여했다”고 주장했다.

* 구글, 아마존, IBM, 팔란티어 등 : 이스라엘군과 협력

구글과 아마존은 2021년 체결된 12억 달러 규모의 “님버스 프로젝트”(Project Nimbus)를 통해 이스라엘군에 클라우드 컴퓨팅 및 인공지능(AI) 서비스를 제공하고 있으며, 이 프로젝트는 이스라엘이 자체 개발한 AI 기반 표적 시스템을 처음으로 시험 가동한 사례이다.

‘님버스 프로젝트’는 구글과 아마존 웹 서비스(AWS)가 이스라엘 정부 및 군대에 포괄적인 클라우드 솔루션을 제공하는 대규모 사업으로, 이 프로젝트를 통해 이스라엘은 데이터 저장, 분석 및 AI 모델링 역량을 강화하게 되었으며, 해당 기술이 군사 작전 및 감시 활동에 활용될 수 있다는 점 때문에 인권 단체와 해당 기업 직원들 사이에서 큰 윤리적 논란이 되고 있다.

이스라엘 방위군(IDF)은 시스코(Cisco)와 델의 서버 팜(Dell server farms) 또는 데이터 센터를 활용해 왔다. IBM의 독립 자회사인 레드햇(Red Hat) 또한 이스라엘군에 클라우드 컴퓨팅 기술을 제공하고 있으며, 미국 방위산업 계약에서 마이크로소프트의 파트너사인 팔란티어 테크놀로지스(Palantir Technologies)는 이스라엘의 전쟁 수행을 지원하는 AI 시스템을 제공하는 “전략적 파트너십”을 맺고 있다.

오픈AI가 작년에 국가 안보 목적을 위해 이용 약관을 변경한 데 이어, 구글도 이달 초 자사의 공개 윤리 정책에서 인공지능을 무기나 감시 목적으로 사용하지 않겠다는 문구를 삭제하는 유사한 변경을 단행했다.

구글은 “사람들을 보호하고, 세계적인 성장을 촉진하며, 국가 안보를 지원하는” 인공지능을 책임감 있게 개발하고, 배포하는 데 전념하고 있다고 밝혔다.

* 상업용 AI : 윤리 무시 경향 짙어

이스라엘 정보 당국 관계자에 따르면, 이스라엘 방위군(IDF)은 마이크로소프트 애저를 사용하여 대규모 감시를 통해 수집한 정보를 취합하고, 통화, 문자 메시지, 음성 메시지 등을 녹취 및 번역한다. 이렇게 수집된 데이터는 이스라엘 자체 표적 시스템과 상호 검증할 수 있다.

방대한 텍스트 자료 속에서 용어와 패턴을 신속하게 검색하기 위해 애저(Azure)가 사용된다고 한다. 예를 들어 50페이지 분량의 문서에서 두 사람 간의 대화를 찾아내는 데 Azure가 유용하다는 것이다. 애저는 또 텍스트에서 서로에게 길 안내를 하는 사람들을 찾아낼 수 있으며, 이를 군 자체의 AI 시스템과 대조하여 정확한 위치를 파악할 수 있다.

AP가 검토한 마이크로소프트 데이터에 따르면, 10월 7일 공격 이후 이스라엘군은 구체적인 내용은 밝히지 않았지만, 녹취 및 번역 도구와 오픈에이아이(OpenAI) 모델을 집중적으로 사용한 것으로 나타났다.

일반적으로 녹취 및 번역 기능을 갖춘 AI 모델은 영어에서 가장 뛰어난 성능을 보인다. 오픈에이아이는 아랍어를 포함한 여러 언어로 녹취 및 번역이 가능한 자사의 인기 AI 기반 번역 모델인 위스퍼(Whisper)가 인종차별적 발언이나 폭력적인 수사 등, 아무도 하지 않은 말을 지어낼 수 있다는 점을 인정했다.

* 이스라엘의 AI 시스템은 신뢰할 수 있나?

표적 시스템 및 기타 기술 전문가들과 협력해 온 이스라엘군 관계자들은 인공지능(AI) 관련 오류는 여러 가지 이유로 발생할 수 있다고 말했다. 개인 프로필과 연결된 도청 통화 기록에는 발신 시간과 통화 참여자의 이름 및 전화번호가 포함된다. 그러나 원본 음성을 듣고 검증하거나 번역 녹취록을 확인하려면 추가적인 단계가 필요하다.

이스라엘군 당국은 아랍어를 아는 사람이 번역을 검토해야 한다고 밝혔다. 그러나 한 정보 장교는 아랍어에서 히브리어로의 기계 번역 오류가 발생하여 표적 선정에 실수가 생긴 사례를 목격했다고 말했다.