새로운 것이 생겨나 시장이 완숙 단계에 들어서면, 그 부작용에 대한 규제나 수정이 쉽지 않다.

'살해 로봇(killer robots 혹은 slaughterbots)‘의 개발 속도가 빨라지고 있는 가운데 지난 2013년부터 국제 비정부기구(NGO)가 규제를 호소하고, 125개국과 지역이 비준하는 특정재래식무기금지유엔협약(CCW, United Nations’ Convention on Certain Conventional Weapons) 회의에서 규제가 논의되어 왔다.

그러나 2021년 12월 현재까지도 그 규제에 관한 합의는 이뤄지지 않고 있다.

살인 로봇은 사람의 개입 없이 목표물을 골라 힘을 가하는 무기를 말한다. 살일 로봇은 사람 대신 본질적으로 일련의 알고리즘인 인공지능(AI) 소프트웨어로 모든 판단을 하고, 그 판단을 토대로 결정을 내린다.

2021년 들어 처음으로 유엔 특정재래식무기금지협약(CCW)에 가입한 125개국 가운데 대다수가 살인 로봇(킬러로봇)에 대한 “새로운 법”이 도입되기를 원하고 있는 것으로 알려져 있지만, 원하는 대로 되지 않고 있다.

문제는 킬러 로봇을 열심히 개발 중인 미국, 러시아, 영국, 이스라엘 등등이 규제 법안에 반발을 보여 합의가 불가능했다고 CNBC가 지난 22일 보도했다.

최근 제네바에서 열린 CCW회의에서 이른바 ‘살인 로봇’의 사용과 개발 금지에 대한 유엔 회의가 합의를 하지 못하면서 인공지능, 군사전략, 군축, 인도주의 법률 전문가들에게 경종을 울렸다.

자율무기(autonomous weapons)에 대한 미래인생연구소(Future of Life Institute)의 옹호 프로그램을 이끌고 있는 에밀리아 자보르스키(Emilia Javorsky) 의사과학자(physician scientist)는 CNBC와의 인터뷰에서 “모두가 이 사실을 알고 싶어 했다”고 말했다. 그러나 안타깝게도 이번 CCW 총회는 28일(현지시간) 모두가 받아들일 수 있는 가능한 조치들을 앞으로 검토하기로 약속하면서 마무리됐다.

* 만장일치식 포럼으로 자국 이익 위한 이탈 손쉬워

지난주 CCW가 구체적인 합의점을 찾지 못한 것은 자보르스키에 의한 '서사시적 실패'로 끝났다. 자보르스키는 “이 포럼의 만장일치 요구사항으로 인해 기득권 국가가 쉽게 탈선할 수 있다는 것이 명백해졌다. 인공지능과 같은 새로운 기술로 인한 긴급한 위협을 유의미하게 다루기는커녕 심각하게 받아들일 능력이 없다”고 비판했다.

앰네스티 인터내셔널(Amnesty International)의 선임고문인 베리티 코일(Verity Coyle)은 성명에서 “킬러 로봇에 대한 연구와 실험이 진행됨에 따라, 킬러 로봇을 규제할 수 있는 기회의 창은 점점 작아지고 있다”고 지적했다.

베리티 코일은 이어 “CCW는 의미 있는 진전을 이루지 못한다는 것을 다시 한 번 보여주었다”면서 “이제 헌신적인 국가들이 우리가 이전에 지뢰와 집속탄(cluster munitions)에서 보았던 종류의 돌파구를 제공할 수 있는 외부 과정에 앞장설 때”라고 목소리를 높였다.

* 킬러 로봇은 이미 사용 중

일부 사람들이 생각하는 것과는 달리, 살인 로봇은 오늘날 이미 전쟁터에서 사용되고 있다는 사실이다.

지난 3월 발간된 유엔 보고서에 따르면, 리비아에서는 터키 STM이 제작한 공격 드론인 카르구 드론(Kargu drones)이 내전에 활용돼 왔다. STM의 웹사이트에 따르면, 이 카르구 드론은 소형 휴대용 회전익 공격 드론으로 “지상부대에 정밀 타격(precision strike) 능력”을 제공한다.

유엔 보고서에 따르면, 카르구 드론은 리비아에서 퇴각하는 군인들을 추적하기 위해 사용되었다고 한다.

자보르스키는 보고서에서 “이러한 종류의 무기 사용에 대한 확실한 문서는 이번이 처음”이라면서 “우리는 살인 로봇이 배치되고 개발되고 사용되고 있다는 소식을 듣고 있다”고 말했다.

이러한 드론을 만드는 회사들은 카메라를 통해 사람의 표적의 열적 신호를 식별하거나 얼굴을 식별할 수 있는 인공지능(AI) 시스템을 개발하려고 노력하고 있다. 하지만 전투원과 비전투원을 구별하기 위해서는 정확성이 필요하다.

활동가들이 가장 걱정하는 것은 STM과 같은 드론이다. 일반 소비자용 드론과 비슷하게 생겼지만 총이 부착된 이 드론들은 구매가격이 상당히 저렴하고 상대적으로 대량 생산이 쉽다.

미 매사추세츠공대 교수이자 미래인생연구소(Future of Life Institute)의 회장인 맥스 테그마크(Max Tegmark)교수는 갱단이 형편이 된다면 살인 로봇을 사용하려고 시도할 것이라면서 “"누군가를 죽이고 싶은 사람이라면 누구에게나 무기가 될 것이며, 살인 로봇은 기본적으로 누군가를 화나게 하는 사람을 익명으로 암살할 수 있다”고 지적했다.

많은 사람들이 전쟁법의 수호자로 보는 국제적십자 위원회는 인간을 목표로 설계되거나 사용되는 자율적인 무기의 금지를 요구해왔다. 스톱킬러로봇캠페인(Stop Killer Robots campaign)의 코디네이터인 리차드 모예스(Richard Moyes)는 성명에서 “정부 지도자들은 기계에 의한 인간 살인에 대해 도덕적이고 법적인 선을 그을 필요가 있다”고 특히 강조했다.

현재 세계 각지에서 원격 조종의 소형 무인기(drone)들이 무기(weapons)로 사용되고 있다. 일반적으로 드론은 제조비용이 저렴하고 병사들의 희생이나 양성 비용도 억제되기 때문에 침략자 입장에서의 병사들의 생명을 보로하고 경제적으로도 이익을 볼 수 있는 무인기, 특히 자율무기 개발에 열을 올리고 있다.

살인로봇(Killer Robots)은 LAWS이다. 즉 치명적인 살상자율무기시스템(Lethal Autonomous Weapon Systems)이다. 인간의 판단을 떠나 인공지능을 이용해 표적을 자동으로 식별하고, 공격하는 무기이다. 이러한 살상무기임에도 불구하고 개발국들은 인도주의는 안중에도 없다. 더 많이 살상을 할 수 있는 살인로봇 개발에온 힘을 쏟아 붓고 있다. 보다 더 구체화되기 전에 인도주주의 차원에서 살인 로봇 제작 규제를 위한 국제법 제정에는 반발이 크다.

일부 개발국들은 그럴듯한 변명을 하고 있다. “살인 로봇이 아니라 민생용 로봇개발”이라고 항변한다. 탄도미사일과 인공위성의 기술이 동일하지만 용도에 따라 엄청난 차이가 난다. 이 킬러 로봇도 민생용과 군사용 기술의 경계를 설정하기가 거의 불가능하다.

전투의 무인화(無人化)는 사람이 사람을 죽이는 죄책감을 줄이고, 전쟁장애물을 낮출 수 있다는 장점이 있어 선호되고 있다. 문제는 원격 조정으로 움직이는 무인기(무기용)도 오폭은 언제라도 수반할 수밖에 없다. 그런데 LAWS의 식별능력이 완전하지 않고, 컴퓨터 바리어스에 의한 오작동의 위험도 배제할 수 없다.

미국과 중국의 치열한 대결 속에서 군비확장의 목소리가 커지고 있다. 자국의 안전보장을 물론 첨단 무기의 개발로 수출 시장 확대를 통한 경제적 이익을 극대화하자는 목적도 무기개발 경쟁을 부추기는 한 요인이다. 사람을 죽이는 로봇이든 아니든 많이 팔아 막대한 돈을 벌어들이기만 하면 된다는 이기적 탐욕주의가 기승을 부리는 시대이다. 핵무기와 마찬가지로 새로운 무기는 실용화하면 규제가 현저히 어려워진다.

그래서 지난 2013년부터 살인 로봇 규제를 위한 국제적 공조를 외치고 있지만, 8년이 지난 지금까지 조금의 진척도 보지 못하고 있는 냉엄한 국제사회를 보고 있다.