인공지능(AI)에 인간의 감정이 그대로 학습해 인간처럼 활동할 수 있을까? 아마 그럴 리가 없다는 게 대체적인 견해이다. 인공지능 알파고와 한국의 이세돌 9단과의 바둑 대결을 보면서 우리는 인공지능 알파고의 기대를 뛰어 넘는 성능에 놀라워했다.

특히 사람을 죽이는 것에 대한 망설임도, 죽임을 당하는 공포심도 인공지능에는 없다. 만일 인간의 판단을 거치지 않고 AI이 사람의 목숨을 앗아갈 수 있다면, 그러한 인공지능 무기가 등장하기 전에 인류의 예지를 십분 발휘해 실효성 있는 규제안을 마련해야 한다.

북아프리카 리비아 내전 중 군용 무인기(Drone)가 인간의 통제 범위를 벗어나 표적을 공격했을 가능성이 있다는 유엔 안전보장이사회 전문가 패널의 보고서는 지적했다.

인공지능을 이용해 인간의 관여 없이 적군을 살상하는 무기를 ‘치명적 자율무기 시스템(LAWS, lethal autonomous weapons systems)’이라고 한다. 전쟁의 양상을 말해주는 것으로 화약, 핵무기에 이른 제 3의 순사혁명으로 불리며, 미국, 중국, 러시아 등이 개발 중인 것으로 알려졌다. 기술적으로는 이미 가능한 단계라고 알려져 있지만, 실전에 사용되었다면 세계 최초의 보고된 사례가 된다.

살일 로봇(Killer Robot)이라 불리는 이 무기는 감정이나 컨디션에 얽매이지 않기 때문에, 적의 식별과 공격이 정확해져 비전투원의 피해를 줄일 수 있다는 주장도 없진 않다. 하지만, 아군의 인적 희생을 피할 수 있고, 병사들에게 사람을 죽이는 정신적 부담을 지우지 않는다면, 전쟁의 장벽이 낮아질 것임은 자명하다. 인공지능에 의한 판단의 잘못이나 오작동, 폭주의 위험성도 부정할 수 없다.

인공지능 살인무기가 완성되어 실전 배치가 진행된 후에는 규제를 가하기가 지극히 어려워진다. 리비아의 경우는 사상자 유무를 비롯해 세부 사항이 불분명해 실제로 자율형 살상무기시스템에 해당되는지는 현재까지는 알 수 없다. 그러나 군사기술의 급속한 진전을 고려할 때, 법적 구속력이 있는 규제를 위한 국제적인 합의를 서두를 필요가 있다.

비(非)인도적인 특정 재래식 무기사용을 금지, 제한하는 조약의 틀 아래 4년 전 본격적인 논의를 시작한 전문가 모임은 2019년에 보고서를 작성했지만, 그 뒤 신종 코로나 바이러스의 세계적 대유행(Pandemic)으로 논의가 거의 진척되지 못했다.

보고서에는 LAWS의 행위에도 국제인도법이 적용되며, 그 사용은 인간이 책임을 진다는 공감대가 담겼다. 그러나 법 규제를 둘러싸고, 중남미나 아프리카 국가 등 금지조약을 요구하는 국가와 이에 반대하는 미국과 러시아 등 개발국 사이에 대립하고 있다.

무엇을 가지고 인간이 ‘관여’했다고 할까 등을 포함 우선 지금까지 쌓아온 논점들을 대상으로 논의를 깊이 있게 해나가면서 조금이라도 골을 메워 실효성이 있는 규제로 연결 지어야 할 것이다.

특히지난 6월 21일 인공지능(AI) 영역을 규제하기 위한 법안이 유럽연합(EU)에서 발표됐다. 부속서를 포함해 120쪽 넘는 긴 법안으로 상세한 내용이 담겨 있다.

EU에서는 이 법안을 두고 오랜 기간 동안 입법 논의가 이뤄질 것으로 보인다. 2018년 EU에서는 고위 전문가 그룹을 구성, 규제법안 논의를 시작했고, 2020년에는 인공지능 백서를 발간했다.

EU의 규제안을 개괄적으로 살펴보면, 특히 위험도가 높은 기술은 4가지 유형으로 나타난다.

(1) 사람이 의식하지 못하는 사이, 사람의 행동양식에 왜곡을 초래하거나, 피해를 유발시킬 수 있는 인공지능 시스템

(2) 나이, 신체적 장애, 정신적 장애 등 특정 집단에 속하는 사람의 취약점을 이용, 이들이나 2- 3자에게 해를 끼칠 우려가 있는 인공지능 시스템

(3) 개인의 사회적 행동양식이나 속성에 기초하여 사회적인 신뢰도 등에 대해 공공기관이 점수화하고, 이것을 통해 부당한 불이익이 발생할 수 있는 유형의 인공지능 시스템

(4) 공공장소에서 법집행을 목적으로 실시간으로 원격 생체정보 식별을 하는 인공지능 시스템 가운데 납치, 테러, 범죄자 확보 등 법에서 허용하는 예외 사항에 해당하지 않는 경우 등으로 분류할 수 있다.

인공지능 기술이 세계에서 가장 앞선 나라 미국에서는 버락 오바마 시절부터 인공지능 기술 발전을 도모하는 동시에 부작용을 어떻게 규제할 것인가 하는 논의가 이뤄졌고, 연방 차원에서도 별도의 입법은 아직 이뤄지지 않고 있지만 입법 내용에 대한 깊숙한 논의는 활발하다.

AI와 알고리즘 전문성을 확보하고, 법을 집행해 온 오랜 경험이 있는 미국의 연방거래위원회(FTC)는 지난 6월 19일 “기업이 인공지능 기술을 개발하는 과정에서 어떻게 ▶ 진실성, ▶ 공정성, ▶ 형평성을 추구해야 할 것인지에 관한 지침을 제시했다.

FTC가 제시한 중요한 지침의 골자는 아래와 같다.

▶ AI 모형의 개발에 이용되는 데이터 셋(Data Set) 자체의 편향을 최소화하기 위한 노력

▶ AI 모형을 적용한 결과, 불공정하거나 차별적 상황이 발생하지는 않는지에 대한 모니터링

▶ 투명성, 개방성의 확보

▶ 개별 기업이 자신의 AI기술이 공정하다거나 편향이 없는 결과를 가져온다는 식의 과장된 언급을 개별 기업 마음대로 하지 않도록 주의

▶ 이용자의 데이터를 이용할 경우, 용도에 관한 명확한 고지

▶ 인종이나 성별 등이 고려된 맞춤형 광고를 제공할 경우, 부당한 차별이 초래될 가능성에 유의 하고

▶ 문제가 발생할 경우, 책임을 질 준비를 할 것 등이다.

기술을 예상 밖의 속도로 발전하고 있으며, 따라서 그 보조를 맞추기 위한 외교적 노력이 시급하다. 완전 자율 살상 무기는 수많은 법적, 윤리적, 기술적, 그리고 보안 문제를 제기한다. 이러한 요소들을 포괄할 수 있는 새로운 국제법을 통해 LAWS는 방지되고 금지돼야 한다.

정치 전문 매체인 미국의 ‘폴리티코’에 2018년 4월 보도에 따르면, UN 산하 ‘특정재래식무기금지협약(CCW)’ 그룹이 인공지능(AI) 기반 완전자율무기 개발 및 배치를 금지하는 국제 조약에 관한 공식적인 논의에 대해 각국의 의사를 타진했지만 미국과 러시아는 유보적인 태도를 보였다. 나아가 당시 한국, 이스라엘, 호주, 일본 등도 공식적인 국제 조약 제정 등에 반대 입장인 것으로 전해졌다.

유보적이거나 반대의 입장에 서 있는 국가들을 포함해 국제사회는 새로운 룰(rule)을 마련하는데 건설적인 역할을 해야 한다.