도널드 J. 트럼프 미국 대통령은 앤트로픽(Anthropic)사의 ‘인공지능(AI) 기술’이 국방부와의 갈등으로 인해 모든 연방 기관에서 사용을 중단하도록 명령했다고 28일 AP통신이 보도했다.

트럼프는 “우리는 그것이 필요하지도 않고, 원하지도 않으며, 다시는 그들과 거래하지 않을 것이다!”라고 썼다. 트럼프 특유의 일방적 조치이다.

트럼프는 대부분의 기관이 앤트로픽의 AI 사용을 즉시 중단해야 한다고 말했지만, 국방부에는 이미 군사 플랫폼에 탑재된 해당 기술을 단계적으로 폐지할 수 있도록 6개월의 유예 기간을 주었다.

미 국방부는 챗봇 클로드를 개발한 앤트로픽이 군사적 목적에 ‘AI 기술’을 자유롭게 사용할 수 있도록 허용하지 않을 경우 제재를 가하겠다고 경고했으나, 앤트로픽은 윤리적 이유로 이를 거부했다. 이 문제는 기술 업계와 정부 간의 갈등을 더 심화시켰으며, 인공지능의 ‘군사적 사용’과 ‘안전장치’에 대한 논란을 불러일으키고 있다.

앤트로픽사의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)는 국방부의 요구에 윤리적 문제를 이유로 응할 수 없다고 선언했고, 국방부는 앤트로픽의 AI 기술을 군사적 목적으로 자유롭게 사용할 수 있도록 허용하지 않을 경우 제재를 가하겠다고 경고했다.

트럼프 대통령은 앤트로픽 기술의 단계적 폐지를 지시하며, 협조하지 않을 경우, 민사 및 형사적 결과에 직면할 것이라고 경고했고, 국방부는 앤트로픽과의 계약을 파기하거나, 공급망 위험 기업으로 지정할 가능성을 언급했다.

앤트로픽은 국방부의 군사적 요구가 ‘국가 안보’를 위협할 수 있다고 주장하며, AI의 ‘안전장치’가 없는 사용에 대한 우려 표명했다. 이와 관련 미국 기술 업계에서는 앤트로픽을 지지하는 목소리와 비판하는 목소리가 엇갈리며 논란이 확산되고 있어 귀추가 주목된다.

오픈AI의 CEO 샘 알트먼은 앤트로픽의 입장을 지지하며 국방부의 태도에 의문 제기하고 나섰으며, 이번 갈등은 국가 안보와 AI 기술의 윤리적 사용 간의 균형 문제를 둘러싼 논쟁을 심화시키고 있다.

* 왜 트럼프는 앤트로픽사의 AI 안정장치 탑재 기술 사용 중단 명령했나 ?

우선 ‘안전성 문제’이다. 앤트로픽사의 인공지능 기술이 군사적 목적으로 사용될 경우, 국가 안보에 대한 심각한 위험이 발생할 수 있다는 우려가 제기되었다. 파괴와 살상이 없는 전투는 상상할 수 없는 국방부로서는 인간을 위험에 빠뜨릴 수 있는 인공지능 기술에 사람을 보호할 수 있는 안전장치가 군대의 전쟁 실행에 걸림돌이 될 수 있다는 판단으로 보인다.

둘째, ‘윤리적 문제’이다. 앤트로픽의 CEO 다리오 아모데이는 국방부의 요구에 대해 “양심상 응할 수 없다”며, 인공지능 기술의 군사적 사용이 윤리적으로 문제가 있다고 주장했다. 인간의 얼굴이 있는 기술을 탑재해야 한다는 앤트로픽과 겉으로는 생명보호를 최우선으로 한다면서 실질적으로 무한대의 살상도 가능해야 한다는 의중이 있다고 보이는 국방부 간의 첨예한 갈등이 존재한다.

국방부가 앤트로픽에게 인공지능 기술의 군사적 무제한 사용을 허용하지 않을 경우, 제재를 가하겠다고 경고한 상황에서, 트럼프 대통령은 이러한 갈등에 개입하여 기술 사용 중단을 명령했다.

나아가 정치적 메시지도 있다. 트럼프는 “우리는 그것이 필요하지도 않고, 원하지도 않으며, 다시는 그들과 거래하지 않을 것"이라며, 정치적 입장을 명확히 하고 앤트로픽과의 관계를 단절하겠다는 의지를 표명했다. 이러한 이유들로 인해 트럼프 대통령은 앤트로픽의 기술 사용을 모든 연방 기관에서 중단하도록 명령하게 됐다.

* 앤트로픽과 국방부 간 갈등의 주요 쟁점은 무엇인가 ?

먼저 AI 기술의 군사적 사용이다. 국방부는 앤트로픽의 인공지능 기술을 군사적 목적으로 자유롭게 사용할 수 있도록 요구하였으나, 앤트로픽은 이러한 요구에 대해 윤리적 이유로 응할 수 없다고 주장했다.

둘째, 앞서 언급되었지만, 안전장치 문제이다. 앤트로픽은 AI 기술이 안전장치 없이 사용될 경우 국가 안보에 심각한 위험을 초래할 수 있다고 경고했다. 그러나 국방부는 이러한 안전장치가 필요 없다고 판단하고, 앤트로픽에게 군사적 사용을 강요했다.

셋째, 계약 조건과 요구 사항이다. 앤트로픽은 국방부와의 계약에서 AI 기술이 미국인에 대한 대규모 감시나 완전 자율 무기에 사용되지 않도록 제한하는 조건을 요구했으나, 국방부는 이를 수용하지 않았다. 이는 양측 간의 협상에서 큰 갈등을 일으켰다.

넷째, 트럼프 행정부의 정치적 압박이다. 트럼프의 개입으로 인해 앤트로픽은 국방부의 요구에 대한 압박을 더욱 강하게 느끼게 되었고, 이는 정치적 갈등으로 비화됐다. 대통령의 발언은 국방부의 입장을 강화시키는 결과를 초래했다.

마지막으로 공급망 위험 지정이다. 국방부는 앤트로픽을 "공급망 위험 기업"으로 지정할 가능성을 언급하며, 이는 앤트로픽이 다른 기업들과의 파트너십에 심각한 영향을 미칠 수 있다. 앤트로픽은 이러한 지정이 부당하다고 반발하고 있다.

이러한 쟁점들은 앤트로픽과 국방부 간의 갈등을 심화시키고 있으며, 인공지능의 군사적 사용과 관련된 윤리적, 정치적 논란을 불러일으키고 있다.

* 미국의 기술 업계가 앤트로픽과 국방부 간의 갈등에 대해 보인 입장은 ?

대부분의 거대 기술기업은 앤트로픽 지지를 하고 나섰다. AI 기술은 오로지 군사적 목적용이 아니다. 수요는 민간 분야에 더 많다. 국방부는 ‘국방부 입장’에서만 AI 기술을 들여다보고 있는 셈이다.

일부 기술 기업과 업계 관계자들은 앤트로픽의 입장을 지지하며, 국방부의 요구가 윤리적으로 문제가 있다고 주장했다. 특히, 인공지능의 안전성과 윤리적 사용에 대한 우려를 강조했다.

다수의 기술기업들은 공개서한을 통해 앤트로픽을 지지하고 나섰다. 오픈AI와 구글의 직원들이 작성한 공개서한에서는 국방부가 앤트로픽이 거부한 사항에 대해 기술기업 간에 분열시키려는 의도가 있다고 주장했다. 다른 의도는 국방부가 기술기업들을 순한 양으로 만들어, 자신들이 요구하는 대로 사용이 가능하도록 하기 위한 과정의 하나로 볼 수 있다는 의견도 제시되고 있다.

나아가 앸트로픽 지지 기술기업들은 ‘AI 안전성 강조’하고 있다. 기술 업계의 많은 관계자들이 AI 기술의 안전성과 책임감 있는 사용을 강조하며, 무제한적인 군사적 사용에 대한 반대 의견을 표명했다. 이들은 AI 기술이 국가 안보에 미치는 위험을 심각하게 받아들여야 한다고 주장했다.

또 경쟁업체 간의 연대 의식을 보여주고 있다. 앤트로픽의 주요 경쟁자인 오픈AI의 CEO 샘 알트먼은 앤트로픽을 지지하는 발언을 하며, 국방부의 조치를 "위협적"이라고 비판했다. 이는 기술 업계 내에서의 연대감을 보여주는 사례이다.

결국은 갈등의 양극화가 심화될 수 있다. 이번 갈등은 기술 업계 내에서의 의견 분열을 더욱 심화시켰다. 일부는 국방부의 요구를 지지하는 반면, 다른 이들은 앤트로픽의 ‘윤리적 입장’을 지지하며 갈등이 심화되고 있다.

오픈AI와 구글은 머스크의 xAI와 함께 군사 분야에 AI 모델을 공급하는 계약을 체결했다. 일론 머스크는 27일 자신의 소셜 미디어 플랫폼 X에서 ”앤트로픽은 서구 문명을 증오한다“(Anthropic hates Western Civilization)며, 트럼프의 공화당 행정부를 옹호했다. 머스크의 그록(Grok)과 오픈에이아이(OpenAI)의 챗지피티(chatGPT)를 포함한 모든 주요 AI 모델은 챗봇의 가치관과 행동 방식을 안내하는 일련의 지침으로 프로그래밍되어 있다. 앤트로픽은 이러한 모델을 헌법 지침(guidance a constitution)이라 한다.

일론 머스크와 방위산업체 안두릴(Anduril)의 공동 창업자인 팔머 럭키(Palmer Luckey)를 포함해 트럼프와 가까운 일부 기술 업계 리더들이 이 논쟁에 참여했지만, ”깨어있는 AI“(woke AI)를 둘러싼 양극화된 논쟁은 다른 기업들을 어려운 상황에 빠뜨렸다.

이와 같은 다양한 입장들은 기술 업계가 인공지능의 군사적 사용과 관련된 윤리적 문제에 대해 깊이 고민하고 있다는 것을 보여주고 있다.