만일 그렇게 똑똑하다는 인공지능(AI)이 실수로 인간으로 하여금 핵사용 단추를 눌렀을 때 ‘세계대전’이 발발할 우려를 배제할 수 없다.

고도로 향상된 인공지능이 단지 전쟁뿐만 아니라 일상생활에서 다양한 실수에 의한 원치 않은 수많은 사건과 사고들이 발생한다고 가정하면 미래사회는 걷잡을 수 없는 혼란의 시대가 될 수도 있다.

이에 많은 과학자들은 인공지능의 올바른 사용에 대해 본격적으로 연구하고 AI의 실수를 막을 수 있는 방안에 대해 기술적으로 개발하고, 정치권은 입법을 통해 살인, 사고, 군사적 이용에 대한 국제적인 표준을 만들어 내야 할 필요성이 시급해지고 있다.

최근 미국은 AI의 군사적 이용에 대한 국제적 규범 마련에 착수하기 시작했다. 지난해 2월 24일 러시아의 우크라이나 침공 1년 동안 우크라이나 전장에서 활용된 AI의 능력이 수준과 그 잠재력을 실감하고 있기 때문에 시급히 국제적 규범 마련에 들어간 것이다.

다소 뒤쳐져 있는 한국 정부도 우선 관련 인재육성에 나서야 하며, 국제 규범(표준) 마련에 저극적인 참여가 필요하다. 미국은 ‘자국의 개발은 착실하게 진행시키면서 인공지능의 군사적 이용에 거액을 투입하고 있는 중국’을 끌어들여 위험도를 낮추는 방향으로 나아가겠다는 생각이다.

보니 젠킨스(Bonnie Jenkins) 미국 국무부 차관은 지난 16일 중국도 참석한 가운데 네덜란드에서 열린 국제회의에서 “빠르게 변화하는 AI의 군사적 이용과 관련해 책임 있고 강한 규범을 만들 의무가 있다”고 강조하며 국제적인 규범 마련을 제안했다.

그 자리에서 젠킨스 차관이 당부한 것은 “AI 군사 이용에 열심인 중국을 규범(rule) 만들기에 끌어들이기 위해서다. 중국이 AI 무기를 고도화하면 억지를 위해 미국도 대응할 수밖에 없다. 군사 활용의 과도한 경쟁이 벌어지면 AI 판단에 따른 오폭 등 위험이 더 커진다"고 강조했다.

그는 “특히 위기감을 고조시키는 것은 핵무기다. 핵보유국인 러시아나 중국에서 군사시스템에 AI 도입이 진행되는 가운데, 실수로 핵무기가 사용될 경우, 세계대전으로 발전할 위험성도 내포하고 있다. 미국은 규범에 핵사용의 모든 행동에 대해 인간의 관여를 유지한다”고 분명히 했다.

미국 외교협회(Council on Foreign Relations)의 로렌 칸(Lauren Kahn) 연구원은 “우크라이나 전장에서 AI 활용이 진전되면서 다자 협력을 통한 관리 메커니즘의 필요성과 시급성이 높아지고 있다. AI가 관여하는 핵의 리스크 경감은, 각국 공통의 이익이 된다”고 강조한다.

* AI의 국제적인 선량한 이용 연구 필요성 대두

다자간 협력을 추구하는 동시에 중국, 러시아는 물론 이에 대응하기 위한 차원에서도 미국은 막대한 자금을 투입, 군사시스템에 AI이용을 추진하려 하고 있다.

미국 국방부 산하 국방고등연구계획국(DARPA)은 지난 2월 13일 AI조종에 의한 F-16 전투기 비행시험을 사상 처음 실시했다. 지금까지는 시뮬레이터 실험이었지만, 인간 조종사를 태우고 인공지능(AI)이 조종간을 잡았다.

미국 군사전문 매체들도 2월 중순 미 육군이 주력 전차 ‘M1 에이브럼스’를 사용해 표적을 AI로 인식하는 개조형 에이브럼스 운용 시연(試演)했다고 보도했다. 인간이 분간할 수 없는 위험을 인식, 발사하는 구조로 오작동 방지 등의 기술 개발을 계속해 나간다는 방침이다.

* 뒤쳐지는 민군융합 전략과 투자

미국은 민간 AI기술에서는 세계 1위를 달리면서, 인력이 민간으로 흘러들어가 미군에 AI도입이 여의치 않다는 미 군사전문매체의 보도이다. “민군융합(Civilian-Military Convergence)”을 국가전략으로 내걸어 민간이나 대학의 연구 성과를 군사면에서 직접 응용하는 중국과의 경쟁에서 위기감이 강하다는 게 미국 군사전문 매체들의 전언이다. 한국은 미국보다도 더 덜 갖춰진 시스템이다.

지난 2월 15일 미국 상원 군사위원회에서 로널드 레이건 대통령 재단(Ronald Reagan Presidential Foundation and Institute)의 로저 잭하임(Roger Zakheim) 소장은 “육해공 시스템을 AI에 의한 자율형으로 대체하는 투자규모가 중국에 비해 훨씬 뒤쳐져 있다”고 지적했다. 최근 미 의회에서는 AI의 군사 이용 압력이 강해지고 있어, 미 정부는 윤리면과의 양립을 강요당하고 있는 상황이다.

그러면 지금까지 미국이 제창해 오고 있는 인공지능(AI)의 군사 이용에 관한 국제 규범 의 골자를 보면 아래와 같다.

▶ 국제인도법에 부합하는 형태로 AI를 사용한다.

▶ 핵무기 사용은 인간이 완전하게 관여하고 유지한다.

▶ 자국군의 AI 개발 및 사용에 관한 원칙을 공표한다.

▶ AI 무기의 개발 및 사용 등에 있어서, 인간의 관여를 포함한 적절한 취급을 보증한다.

▶ AI 무기 담당 인력에 대한 충분한 훈련을 확보한다.

▶ 의도하지 않은 결과를 회피하는 능력을 설계상에 포함한다 등이다.

한편, 최근 미국은 “중국이 러시아에 드론(drone, 무인기) 등을 제공한다면 심각한 상황이 될 것”이라고 중국에 경고했다.

제이크 설리번(Jake Sullivan) 미국 백악관 국가안보보좌관은 26일(현지시간) 미국 CNN 프로그램에서 “우크라이나를 침략하고 있는 러시아에 중국이 무기를 제공할 경우 ‘중국은 희생을 치르게 될 것’이라고 말해 대중 제재 가능성을 시사했다. 이 같이 미국은 강력하게 경고함으로써 무기 공여를 저지할 생각이다.

토니 블링컨 국무장관은 18일 독일 뮌헨 안보회의에서 회담한 중국 외교수장인 중국 공산당 중앙정치국 위원인 왕이(70)에게 직접 우려를 전달했다.

윌리엄 번스 미 중앙정보국(CIA) 국장도 26일 방송된 미 CBS와의 인터뷰에서 “살상 능력이 있는 무기 제공을 중국이 검토하고 있다”고 확신한다고 지적하고, “중국에 있어서 매우 리스크가 높고 무모한 도박”이라고도 했다.

이 같이 인력, 투자에서 중국에 다소 뒤쳐져 있는 미국은 첨단 반도체 등 첨단기술의 중국 이전을 차단하는 것과 마찬가지로 인공지능(AI)분야에서도 철저하게 중국 억제를 위한 움직임이 갈수록 빨라지고 있다.