미국 실리콘 밸리의 새로운 기술 군사주의(military-tech sector)와 AI 기반 전쟁 기술의 개발, 그리고 이로 인해 발생할 수 있는 윤리적, 정치적 문제에 대한 다양한 의견들이 개진되고 있다.

특히, 팔란티어(Palantir)의 CEO 알렉스 카프(Alex Karp)와 같은 기술 리더들이 군사 기술의 무분별한 사용을 정당화하며, 민주주의와 국제법을 약화시키고 있다는 점이 비판받고 있다. 나아가 이러한 기술이 전쟁을 더 효율적으로 만들 수는 있지만, 전쟁의 빈도를 증가시킬 위험이 있다고 경고한다.

알렉스 카프는 군사 기술 혁신에 의한 군사적 강압과 잔혹함을 정당화하며, 그의 회사는 가자 지구와 같은 분쟁 지역에서 민간인을 포함한 많은 사람들을 죽이는 데 기여했다. 카프는 자신의 소프트웨어가 미국 수정 헌법 제4조를 준수한다고 주장했지만, 이민세관단속국(ICE)과의 계약을 유지하며 평화적 반대 의견 탄압에 이용될 수 있는 기술을 제공했다.

팔란티어와 같은 회사들은 AI를 활용한 군사 기술 개발로 미국의 글로벌 우위를 유지하려는 “신 맨해튼 프로젝트”를 주장하며, 이를 통해 중국을 견제하려 한다고 주장한다.

실리콘 밸리의 새로운 군사 기술 기업들은 전통적인 군산복합체(MIC)와 달리, 더 개방적으로 군사주의를 옹호하며, 전쟁을 필연적이고 바람직한 것으로 묘사한다. 그래야 자신들의 기술이 빛을 발할 수 있는데다. 엄청난 돈을 쓸어 담을 수 있기 때문일 것이다.

기술 기반의 전쟁 시스템은 더 저렴하고 효과적일 수 있지만, 이는 전쟁의 빈도를 증가시키고, 민주적 통제를 약화시키며, 윤리적 문제를 야기할 위험이 상당히 있다. 실리콘 밸리의 군사 기술 로비는 전통적인 군산복합체를 대체하려 하며, 더 빠르고 저렴한 전쟁 시스템을 주장하지만, 그들의 주장에는 여전히 검증이 필요하다. 이른바 AI 군산복합체(AI MIC)는 기존의 MIC와는 알고리즘이 다르고 복잡하다.

AI 기반 군사 기술은 약한 공적(公的) 감독과 논의 부족 속에서 빠르게 개발되고 있으며, 이는 민주주의와 국제 안정성을 위협할 수 있는 요소를 충분히 내포하고 있다.

* 이스라엘의 AI 전쟁 기계, 사람 표적(Human Target)의 ‘라벤더’(Lavender)

실례로 이스라엘의 팔레스타인 자치구 가자 지구 폭격에 설익은 인공지능(AI) ‘라벤더’(Lavender)가 이용됐다. 이스라엘군은 인간의 감독을 거의 받지 않으며 사상자 발생에 무감각한 인공지능(AI) 표적 지시 체계로 수만 명의 가자 지구 주민들을 표적으로 삼았고, 7만 명 이상의 가자 지구 주민들이 무고하게 살해당했다.

이스라엘의 라벤더 시스템은 가자 지구의 하마스(Hamas : 이슬람 무장 정파)와 팔레스타인 이슬라믹 지하드(PIJ :이슬람 전사들)의 전투부서 소속으로 의심되는 하위 요원을 포함한 모든 구성원을 잠재적인 공격 대상으로 지정하도록 알고리즘이 짜졌다. 이스라엘군이 전쟁 초기에 몇 주 동안 거의 전적으로 라벤더에 의존했고, 라벤더는 최대 3만 7천 명에 달하는 팔레스타인인을 무장세력 가담자(하마스 요원)로 분류했고, 그들의 집을 공습 대상으로 지목했다는 보도이다.

이스라엘군은 ‘라벤더’의 ‘사살 표적 목록’ 그대로를 승인했으며, 이 결정이 내려진 이후 장교들은 인공지능 체계가 왜 그런 결정을 내렸는지 철저하게 확인할 필요조차 없었고, 역시 판단의 근거가 된 1차 정보 데이터를 확인할 필요가 없었다.

따라서 이스라엘 장교는 AI 체계가 내린 결정에 ‘무조건 따라야만 하는 일종의 거수기’ 역할만 할 수밖에 없는 즉, 인간의 판단이 AI 기계인 라벤더를 통제할 필요성이 없어, 결과적으로는 무고한 수많은 민간인 살해를 초래하게 됐다.

그 장교는 폭격을 승인하기 전에 ‘라벤더’가 지시한 표적당 20초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인하고 바로 공격을 가해 희생들이 급증할 수밖에 없는 부분적 핵무기 역할을 한 모양새라는 것이다. 이는 라벤더 시스템이 평균적으로 10%가량 '오류'를 범했으며, 무장단체와 느슨한 연관관계에 있거나, 전혀 연관이 없는 인물을 지목하는 경우가 발생하곤 했다.

* AI 전쟁 기계, 사람이나 군사적 구조물 표적의 가스펠(Gospel)

‘+972와 로컬콜’의 탐사보도와 이스라엘군의 발표를 통해 공개된 데이터에 따르면, 라벤더 체계는 2023년 11월, 또 다른 AI 시스템인 ‘가스펠’(Gospel)과 함께 사용된다. 라벤더와 가스펠 시스템의 근본적인 차이는 표적의 정의에 있다. 가스펠은 이스라엘군에서 팔레스타인 무장단체가 활동한다고 주장하는 ‘건물이나 다른 군사 구조물’을 표적으로 탐지하도록 개발된 반면, 라벤더는 ‘사람을 표적’으로 규정하고 이들을 표적 명단에 올린다는 차이이다.

* 생명을 도외시한 이스라엘군의 결정

이스라엘군은 전쟁 초기 몇 주 동안 라벤더가 지목한 하위 하마스 요원 한 명당 최대 15명, 혹은 20명의 민간인 사망자를 허용하는 전례 없는 결정을 내렸다고 한다. 이전에는 하위 요원을 공격하는 경우에 부수적 피해 자체를 허용하지 않았다. 그만큼 초기에는 생명을 중시하려 했던 것으로 보이지만. 실제로 AI 전쟁 기계 사용에서는 생명 살해를 광범위하게 허용했다는 점이다. 공격 대상이 적어도 대대장이나 여단장급 이상인 하마스 고위 간부일 경우 한 명당 100명 이상의 부수적 피해를 몇 차례 허용했다는 것이다. ‘계급에 따른 생명 차별’을 둔 이스라엘 군의 결정이다.

* 기술 군사주의, 기술 공화국을 선호하는 사람들

신흥 군사 기술 기업 팔란티어의 CEO 알렉스 카프는 “드론을 도입해서 우리를 속이려 했던 분석가들에게 펜타닐이 섞인 소변을 뿌리는 아이디어가 마음에 든다”고 비아냥거렸다. 그의 발언은 단순한 ‘즉흥적 발언’이 아니라, 실리콘 밸리의 군사 기술 분야에 ‘만연한 사고방식’을 반영한다.

이 사고방식은 ‘강압을 혁신’으로, ‘잔혹함을 솔직함’으로, 그리고 기술력의 무분별한 사용을 불가피하고 바람직한 것으로 여긴다. ‘기계, 기술 만능주의’ 사고방식이다.

카프는 첨단 무기를 제조하는 회사를 운영하는 것만큼이나 언쟁을 즐긴다. 그의 회사 팔란티어는 이스라엘이 가자 지구에서 팔레스타인 주민들을 폭격하고 학살하는 속도를 높이는 데 일조했으며, 이민세관단속국(ICE)이 추방 절차를 가속화하고 미니애폴리스 시위대의 위치를 ​​파악하고 신원을 확인하는 데에도 기술을 제공했다. 카프는 자사 제품으로 인한 피해에 대해 조금도 사과하지 않을뿐더러, 오히려 공개적으로 즐기는 인물이라고 재닛 아부-엘리아스와 윌리엄 D. 하퉁은 강조한다.

재닛 아부-엘리아스(Janet Abou-Elias)는 퀸시 책임국가연구소의 외교정책 민주화 프로젝트 연구원이자 여성 무기 거래 투명성 단체의 설립자이며, 윌리엄 D. 하퉁(William D. Hartung)은 동(同)연구소의 선임 연구원이자 벤 프리먼(Ben Freeman)과 함께 쓴 저서 “1조 달러 전쟁 기계: 폭주하는 군사비 지출이 어떻게 미국을 해외 전쟁으로 몰아넣고 국내 재정을 파산시키는가( The Trillion Dollar War Machine: How Runaway Military Spending Drives America into Foreign Wars and Bankrupts Us at Home)의 저자이다.

지난 2월 알렉스 카프는 CNBC와의 인터뷰에서 ”만약 당신이 ICE를 비판한다면, 팔란티어의 더 많은 지원을 요구하는 시위에 나서야 한다. 우리 제품은 본질적으로 수정 헌법 제4조의 데이터 보호 조항을 준수하도록 요구한다“고 말했다. 미국 수정 헌법 제4조는 ”시민을 불합리한 수색 및 압수로부터 보호하는 조항이다. 그러나 카프는 이러한 주장에도 불구하고 ICE가 평화로운 반대 의견에 대한 탄압에 자신의 소프트웨어를 사용하는 것을 중단해달라고 요청하지 않았으며, ICE의 상위 기관인 국토안보부(DHS)와 체결한 10억 달러(약 1조 4,990억 원) 규모의 무기한 계약을 수용하는 데에도 아무런 변화를 주지 않았다.

국내외 탄압에 대한 그의 전폭적인 지지에 발맞춰, 가자 전쟁이 한창이던 시기에 카프는 “텔아비브에서 팔란티어 이사회 회의를 열고, 이 지역에서 우리의 사업은 그 어느 때보다 중요하며, 앞으로도 계속될 것”이라고 선언까지 했다. 무차별 인명 살상을 해 나가겠다는 기술만능주의자이다.

알레스 카프는 뉴욕타임스(NYT)의 모린 다우드(Maureen Dowd)와의 인터뷰에서 자신의 철학을 이렇게 요약했다. “사실 나는 진보주의자이다. 나는 전쟁이 줄어들기를 바란다. 전쟁을 멈추는 유일한 방법은 최고의 기술을 보유하고 적들을 완전히 겁주는 것이다. 적들이 두려워하지 않는다면, 아침에 눈을 뜨는 것도, 잠자리에 드는 것도 두려워하지 않고, 미국의 분노가 자신들에게 쏟아질 것을 두려워하지 않을 것이다. 그러면 그들은 우리를 공격할 것이다. 그들은 도처에서 우리를 공격할 것”이라고 강조했다. 카프의 세계관을 엿볼 수 있는 인터뷰 내용이다.

그러나 현실은 카프가 말한 대로 되지 않는 그처럼 간단하지 않다. 팔란티어의 기술은 가자 지구와 그 너머에서 수만 명의 사람들을 죽이는 데 사용되었으며, 그중에는 하마스와 아무런 관련이 없고, 하마스의 행동을 통제할 수도 없었으며, 무고하게 살해당한 사람들은 심지어 2006년 하마스가 지방 선거에서 승리하고 가자 지구를 통치하기 시작했을 당시에는 태어나지도 않았던 사람들도 많다. 살해당한 자들의 원한이 도처에 도사리고 있을 것이다.

* 이스라엘의 끝없는 전쟁과 제노사이드

2023년 10월 7일 하마스의 이스라엘 공격이 비양심적인 행위였다는 점에는 의심의 여지가 없다. 그러나 이스라엘이 이에 대한 대응으로 가자 지구에서 7만 명이 넘는 팔레스타인인을 살해한 것은 대부분의 독립적인 전문가들이 집단학살(Genocide)로 규정하는 극도로 과도한 대응이다. 이스라엘 정부조차도 이제는 인정하는 비교적 보수적인 수치가 바로 7만 명 대량 학살이다.

이러한 대량 학살을 “악당들을 겁주고 폭력을 줄이는 방법으로 정당화하려는 생각”은 지적으로 용납될 수 없으며 도덕적으로도 혐오스럽다. 자신의 범죄와 투옥되는 일을 피하려 베냐민 네타냐후 이스라엘 총리는 자신의 무한대 권력 유지를 위하고, 미국의 무기를 동원해 전쟁을 치르려는 그의 간계(奸計)는 계속되고 있다. 네타냐후의 그런 야욕에 적합한 신기술이 바로 AI 전쟁 기계이며, 카프는 매우 효과적인 AI 기술을 제공한 것이다. 카프는 전쟁 현장인 이스라엘에서 마치 파티를 즐기는냥 회의를 개최하는 몰염치한 행각을 했다.

* 인공지능의 군사화, 혹은 기술 낙관주의의 폭주

AI 전쟁 기계는 구세대의 군산복합체(MIC)가 아니다. 록히드 마틴, RTX(옛 레이시온), 보잉, 제너럴 다이내믹스, 노스럽 그루먼 같은 거대 산업 기업을 이끄는 현재의 ‘군산복합체’ 경영진들은 알렉스 카프보다 훨씬 신중한 태도를 보인다. 이들 기업의 지도자들은 중동이나 아시아의 긴장 고조가 해당 지역의 미국 동맹국들 사이에서 자사 제품에 대한 수요를 창출할 수 있다는 언급을 간혹 할 수는 있지만, 카프가 전문적으로 사용하는 듯한 노골적인 오웰식 수사(Orwellian rhetoric)를 결코 사용하지는 않는다.

미래의 군산복합체(MIC)는 기술이나 사업 방식의 변화뿐 아니라, 알렉스 카프가 지적했듯이 세계 안정 증진이나 "규칙 기반 국제 질서" 수호와 같은 명분 없이도 군사주의가 공공연하게 찬양받는 문화적 변혁을 예고한다.

새로운 AI 군산복합체는 철학자 토마스 홉스(Thomas Hobbes)의 “만인의 만인에 대한 전쟁”(war of all against all)을 첨단 기술을 이용해 구현한, 거칠고 개인주의적인 집단이라고 볼 수 있다. 공공성(being public)은 찾기 힘들다. 이 집단을 이끄는 자들은 미래 전쟁에서 ‘승리’하는 유일한 방법은 알렉스 카프, 팔란티어 창립자 피터 틸(Peter Thiel), 안두릴(Anduril) CEO 팔머 럭키(Palmer Luckey), 그리고 독보적인 일론 머스크(Elon Musk)와 같은 자칭 우월한 존재들에게 정치의 열쇠를 넘겨주는 것이라고 주장한다.

* 중국의 기술 패권을 용납할 수 없는 기술 군사주의자들

알렉스 카프는 “기술 공화국: 강대국, 온건한 신념, 그리고 서구의 미래”(The Technological Republic: Hard Power, Soft Belief, and the Future of the West)라는 책을 공동 집필했다.

카프는 그 책에서 미국이 다시 세계 패권을 장악하기 위해 필요한 것이 무엇인지에 대한 자신의 비전을 제시한다. 이 책은 미국인 대부분이 목적의식과 애국심을 잃고 리얼리티 TV나 비디오 게임 같은 시시한 일에 시간을 낭비하는 현실을 한탄하는 내용이다. 카프와 공동 저자인 니콜라스 W. 자미스카(Nicholas W. Zamiska)는 “이러한 나태한 미국인들을 바로잡고, 미국을 세계 최강의 정치·군사 강대국으로 되돌리기 위한 새로운 국가적 사명이 필요하다”고 주장한다. “치고 올라오는 중국을 두 눈 뜨고 볼 수는 없다”는 그의 인식으로 보인다.

카프가 제시한 해결책은 바로 ‘새로운 맨해튼 프로젝트’(제2차 세계대전을 종식시킨 원자폭탄을 개발한 프로젝트)이다. 이번에는 핵무기 개발이 아니라 인공지능(AI)의 군사적 활용을 가속화하고 미국이 중국에 대해 영구적인 기술적 우위를 확보하는 데 초점을 맞춰야 한다는 것이다. 이보다 더 빈약하고 잘못된 미국의 미래 비전, 또는 기본적인 인간성이 결여된 미래를 상상하기는 어려울 것이라는 인식이다.

재닛 아부-엘리아스와 윌리엄 D. 하퉁은 “강경파, 전통적 현실주의자, 그리고 기술 군사주의자들은 당연히 외교 및 국내 정책에서 인류 우선주의를 내세우는 접근 방식을 순진하다고 비웃겠지만, 실제로 진정으로 순진한 사람들은 신세대 군국주의자들이다. 수조 달러를 낭비하고 수십만 명의 목숨을 앗아간 이번 세기의 전쟁들, 즉 (최근 이란전쟁처럼) 애초에 내세웠던 목표를 달성하는 데는 한참 실패하고 세상을 훨씬 더 위험한 곳으로 만든 전쟁들에 대해 그들은 여전히 ​​‘힘을 통한 평화’와 ‘규칙 기반 국제 질서’를 뒷받침하기 위한 미국의 군사력 사용에 대한 뻔한 말을 되풀이하고 있다”고 강하게 비판했다.

재닛 아부-엘리아스와 윌리엄 D. 하퉁은 “이라크와 아프가니스탄에서 훨씬 더 자금력이 부족하고 기술적으로도 뒤떨어진 적들에게 미국이 입은 손실을 생각하면, 이러한 진부한 수사는 잔인한 농담처럼 들리거나, 쇠퇴하는 제국의 대표자들이 내뱉는 탄식처럼 들리기 시작한다”고 안타까워 했다.

* 기술 전쟁은 가성비 좋고, 인간을 보호해 줄까?

재닛 아부-엘리아스와 윌리엄 D. 하퉁은 “신흥 기술 기업들이 정말로 더 적은 비용으로 더 나은 전쟁 시스템을 만들어낼 수 있는지에 대한 더 좁은 질문을 던졌다.”

팔란티어 창립자 피터 틸의 제자인 안두릴의 팔머 럭키는 최근 CNBC와의 인터뷰에서 “미국이 현재 1조 달러에 달하는 국방 예산의 절반만 쓰더라도 ‘잘못된 것들’에 대한 구매를 중단한다면 훨씬 더 효과적인 방어 시스템을 구축할 수 있을 것”이라고 말해 화제가 됐다.

군수업체가 더 적은 비용으로 더 많은 것을 제공하겠다고 제안한다는 발상은 군수산업계에 만연한 탐욕과 부패가 여전히 심각한 시대에 거의 혁명적인 발상처럼 보인다. 안두릴의 팔머 럭키가 CNBC에 한 발언의 바탕이 된 철학은 “민주주의의 무기고 재건”(Rebooting the Arsenal of Democracy)이라는 제목의 주목할 만한 안두릴 문서에 잘 나타나 있는데, 이 문서는 미 국방부와 록히드 마틴 같은 거대 군수업체들의 현행 사업 관행을 신랄하게 비판하고 있다.

팔머 럭키의 선언문은 록히드 마틴과 RTX(옛 레이시온)를 필두로 국방부 계약 예산의 3분의 1을 차지하는 ‘5대 방산기업’에 대한 강력한 비판으로 해석된다. 이 글은 거대 기업들이 지난 세기 냉전 시대에 필수적이고 유용한 일을 하며 전성기를 누렸다는 주장이다. “기존 방산기업들이 왜 더 나은 일을 하지 못하는가?"라고 묻는다. ”......이 기업들은 느리게 움직이는 반면, 최고의 엔지니어들은 빠른 속도로 일하는 것을 즐긴다...이 기업들은 과거에 우리를 안전하게 지켜준 도구들을 만들었지만, 미래의 국방을 책임질 기업은 아니다.“라고 규정짓는다.

팔머 럭키의 문서는 ”록히드 마틴 같은 회사들에게 평생 공로상을 수여한 다음, 틸, 카프, 럭키, 머스크 같은 사람들이 무기 산업을 이끌도록 자리를 내줘야 한다“는 것을 은근히 시사하고 있다.

문제는 다른 시급한 국가적 우선순위를 고려할 때 무기 지출을 줄이는 것이 유용하긴 하지만, 그것이 국방 정책의 유일한 목표가 될 수는 없다는 것이다. 가장 중요한 질문은 인공지능 기반 시스템이 더 저렴하고, 더 민첩하며, 더 정확하다고 알려져 있는데, 이러한 시스템들이 실제로 전쟁을 더욱 부추기는 것이 아니라 평화와 안정을 증진하는 방식으로 배치될 수 있느냐는 것이다.

현실적으로, 미국이 이러한 시스템을 사용하여 사상자를 줄이면서 일상적으로 군사 개입을 할 수 있다고 생각한다면, 오히려 전쟁을 일으키고 싶은 유혹이 커질 위험이 있다는 반론도 유의미하다.

일단 미국 무기 개발 및 생산을 장악하고 있는 대형 계약업체들의 영향력을 깨뜨리는 아이디어는 매력적이지만, 기술 업계가 더 적은 비용으로 더 나은 결과를 낼 수 있다는 주장은 아직 입증된 것이 없다. 드론이 F-35 전투기보다 저렴한 것은 분명하지만, 전쟁 중에 대규모로 투입되고 신속하게 보충되는 드론 편대나, 복잡하고 검증되지 않은 소프트웨어로 작동하며 결정적인 순간에 오작동할 가능성이 있는 무인 함선과 장갑차는 어떻게 될까?

그리고 기술 업계와 그들의 로비스트들이 바라는 대로, 독립적인 시험이나 가격 폭리 방지 같은 안전장치가 약화되고, 신세대 군사주의자들이 거의 또는 전혀 감시 없이 활동할 수 있게 된다면 어떻게 될까? 이러한 안전장치들은 이미 너무 미약해서 제대로 된 역할을 수행하기 어렵다는 게 일반적인 진단이다. ‘구세대 군사주의자들’은 ‘AI로 무장한 신세대 군사주의자’로의 전환일뿐 인류 살상의 문제에서 보면, AI 전쟁 기계가 훨씬 더 위험하고 인류 파멸을 초래하는 길을 넓힐 수 있다는 주장도 설득력을 가지고 있다.

* 과거 : “신뢰하되 검증하라” vs 지금 : “불신하고 검증하라”

20세기 로널드 레이건 미국 대통령이 소련 지도자 미하일 고르바초프와 군비 통제 협정을 협상할 당시 그의 좌우명은 “신뢰하되 검증하라”(trust but verify)였다. 팔란티어와 같은 기업들의 경우에는 "불신하고 검증하라"(mistrust and verify)가 좌우명이 되어야 할지도 모른다.

그들의 그럴듯한 ‘마케팅 슬로건’(marketing slogans)에 현혹되어서는 안 된다. 그들의 신기술이 광고대로 작동하는지, 그리고 기존 기술보다 실제로 더 나은지 증명하도록 줄기차게 요구해야 한다. 팔란티어와 안두릴은 단순히 서비스를 제공하는 업체로 취급되어 그에 대한 대가를 받는 것은 문제될 게 없다. 하지만, 군사 예산이나 외교 정책, 더 나아가 이미 ‘민주주의의 근간’을 흔들려는 권한은 결코 인정받아서는 안 된다.

* 군사 기술 로비: 극강의 혁신가들

이제 실리콘 밸리는 치밀하게 계획된 선거 자금 기부부터 전직 정부 관료들을 고용해 자신들의 뜻대로 움직이게 하는 것까지, ‘합법화된 부패’(legalized corruption)에 완전히 뛰어들었다.

가장 대표적인 인물이 바로 JD 밴스 부통령이다. 그는 상원의원과 부통령에 오르는 과정에서 팔란티어 창립자 피터 틸의 고용, 멘토링, 그리고 자금 지원을 받았다. 2024년 도널드 트럼프의 부통령 후보로 지명되자, 일론 머스크를 비롯한 군사 기술 업계에서 수백억 달러를 포함한 막대한 자금이 선거 캠페인으로 쏟아져 들어왔다. 부통령 후보로 지명된 후, 밴스의 주요 임무 중 하나는 실리콘 밸리의 군국주의자들로부터 더 많은 기부금을 끌어내는 것이었다. 대통령 후보자의 입장에 선 도널드 트럼프는 ‘멋진 신세계’의 즐거움을 맛보았을 수 있다.

그 후 머스크가 이끄는 정부 효율성부(DOGE)가 등장했다. 머스크가 지원한 선거 자금은 약 2800억 원으로 알려져 있다. 이 조직은 연방 프로그램과 인력을 무작위로 삭감하고, 국제개발처(USAID)와 같은 필수적인 기관들을 무력화시키면서 미 국방부는 거의 손대지 않은 채 효율성이라는 이름에 먹칠을 했다.

특히 그동안 USAID에도 문제점이 있었지만, 전 세계 수백만 명의 삶을 지탱하는 필수적인 개발 및 공중 보건 사업에 자금을 지원해 왔습니다. 진정한 효율성 증진을 위해서는 USAID에서 무엇이 효과가 있었고 무엇이 효과가 없었는지 살펴봐야 했으나, 기술 군사주의들은 극강의 혁신만을 내세우며, 효율만 강조했다. 그들은 경제 원조에 대해 아무것도 몰랐던 머스크의 추종자들은 그저 USAID를 해체해 버렸다. 역시 공공성(being public) 의식은 쓰레기통에나 있을 법한 사례이다.

현재 실리콘 밸리 출신 임원들이 트럼프 행정부의 주요 직책을 상당수 맡고 있는데, JD 밴스를 비롯해 군, 국방부 고위 지도부, 그리고 다양한 국내외 정책 기관의 핵심 직책에 수십 명이 포진해 있다.

* 기술 군사주의자들은 인간의 얼굴을 가질 수 있을까?

재닛 아부-엘리아스와 윌리엄 D. 하퉁은 “새로운 기술 군사주의자들의 문제는 ‘기술의 힘에 대한 오해’에서 비롯된 것이 아니라, 누가 어떤 목적을 위해 어떤 제약 조건 하에서 그 힘을 행사해야 하는지에 대한 위험한 오판에 있다”고 지적했다.

제약 없는 권력은 혁신이 아니다(Power without restraint is not innovation). 그것은 필연성으로 위장한 무모함일 뿐이다. 미국의 외교 및 국내 안보 정책을 좌우하는 도구들의 상당 부분이 소수의 민간 기업에 의해 설계, 배치, 홍보되고 있는데, 이들의 동기는 오로지 재정적 이익에 기반하고 있으며, 세계관은 극도로 군사화되어 있고, 대중에 대한 책임은 최소한에 그치고 있다는 지적을 받고 있다.

재닛 아부-엘리아스와 윌리엄 D. 하퉁은 “국가에 필요한 것은 전쟁은 불가피하고, 공포만이 평화로 가는 유일한 길이며, 민주주의는 알고리즘을 코딩하고 무기를 만드는 자들의 우월한 지혜에 무릎을 꿇어야 한다고 말하는 억만장자 엔지니어들의 새로운 사제단이 아니다.”라고 강조했다.

냉전 시대 핵 전략가들, 베트남 전쟁 당시 사상자 수 계산에 열광했던 자들, 그리고 이라크를 파멸로 이끈 충격과 공포 작전의 설계자들에게서 진정한 인간의 얼굴을 찾는 것은 어려운 일일까?

오늘날 특히 위험한 점은 이러한 첨단 시스템들이 개발되고 배치되는 속도와 ‘불투명성’이다. AI 기반 표적 설정 도구, 예측 감시 플랫폼, 자율 무기, 데이터 융합 시스템 등이 최소한의 공론화, 허술한 감독, 그리고 그 결과로 고통받고 죽어갈 사람들의 실질적인 동의 없이 군대와 국내 치안 체계에 통합되고 있다. ‘AI 주도 혁신’이라는 수사는 민주적 절차를 완전히 무시하는 편리한 구실이 되어가고 있다는 지적이 많다.

기술 군사주의자들의 근본적인 전제는 영구적인 전쟁이 인간 세계의 자연스러운 상태이며, 인간이 선택할 수 있는 유일한 길은 전쟁을 얼마나 효율적으로 수행할 것인가라는 것이다. 하지만 현실적으로 안보는 결코 전 세계를 공포에 떨게 하여 굴복시키는 것으로 얻어지는 것이 아니다. 안보는 외교, 자제, 국제법 준수, 경제적 정의 실현, 그리고 대규모 폭력 발생 가능성을 자동화하는 것이 아니라 낮추는 제도를 구축하는 느리고도 칙칙한 노력을 통해 얻어진다는 역사의 교훈이 아직 선명하게 보인다.

“지배를 힘으로, 혁신을 지혜로 착각하는 것은 허무주의적이고 나약한 것이라 할 수 있다. 오직 자신만이 누구의 생명을 희생시킬지 결정할 자격이 있다고 믿는 인간들이 주도하는 끝없는 군비 경쟁은 양심이 보이는 인간의 얼굴을 가질 수 없다. 그런 얼굴이 있는 것처럼 보이는 것은 위선이다. 이 새로운 AI 전쟁 기계가 만들어낸 올더스 헉슬리(Aldous Huxley)의 ”멋진 신세계“는 이름과 달리 유토피아적 미래를 묘사하는 것으로 이해되지만, 실제로는 통제와 쾌락주의가 결합된 디스토피아적 경고를 뜻한다.

따라서 ”국제 사회는 기술이 작동하는 규칙“을 만들어야 한다. 그렇지 않으면 도덕적 판단력이 소수 극강의 기술 혁신가들에 의해 통제될 수 있다. 그들에게 맡겨진 세계는 민주주의는 사라지고, 전체주의를 연상시키는 ‘기술 공화국’ 즉, ‘기술 권력’이 될 수 있다. 다양성의 역사는 그런 도박을 감행할 여유가 없다는 것을 보여주고 있다.