인공지능(AI)의 발전 속도는 상상을 뛰어 넘을 정도로 빠르다. 인류의 행복과 연결시키기 위해서는 인공지능 악용을 방지할 수 있는 국제적인 공통규칙을 마련하는 것이 필요하다.

유엔 안전보장이사회(안보리)에서는 최근 인공지능에 과한 첫 회의를 열고, 미국의 IT 대기업들과 중국의 전문 연구자들을 초정 회의를 가졌다.

인공지능이 초래할 수 있는 편의성에 기대가 큰 것은 사실이다. 이 혁신적인 기술이 세계의 평화와 안정을 해칠 가능성도 편의성과 함께 높아지고 있다는 위기감이 상존한다.

인공지능의 편의성과 장점 대신 악용될 소지를 훑어보면, 첫째 AI는 많은 양의 데이터를 수집하고, 처리해야 하는데, 바로 이로 인해 개인정보의 유출, 개인의 사생활 침해 등 이를 악용하는 사례가 얼마든지 발생할 수 있다.

둘째, 인공지능은 학습 데이터에 내재된 편향성을 학습할 수 있다. 알고리즘의 결정과 예측에 편향이 반영될 수 있으며, 이는 사회적 불평등을 심화시킬 수 있다.

셋째, AI와 자동화 시스템은 일부 산업과 직업을 대체할 수 있으며, 이로 인해 일자리 손실과 경제적 문제가 발생할 수 있다.

넷째, 악의적인 이용이 특히 문제가 된다. AI기술은 사회공격이나 보안 위협에 이용될 수 있으며, 가짜뉴스의 전파, 영상조작, 끊임없는 해킹 시도 등 사회 암적인 존재로 AI가 변질될 수 있다.

다섯째, AI를 개발하고, 사용함에 따라, 윤리적인 문제가 발생한다. 어떻게 AI가 사용되는지에 대한 책임과 투명성이 필요하며, 악용될 가능성이 충분하므로 이를 최소화할 국제적인 규제 장치가 마련돼야 한다.

악용될 가능성의 사례가 실재(實在)한다. 유엔평화유지활동(PKO)은 사이버 공격의 표적이 되기도 했다. 가짜 정보나 혐오(증오)발언(Hate Speech)이 퍼져, 증오의 선동으로 이어질 우려가 있으며, 테러조직이 AI를 악용하면 엄청난 피해가 생길 수 있다.

인간이 관여하지 않고 AI의 판단으로 사람을 살상하는 ‘자율살상무기(LAWS)’에 대해서 유엔 전문가 회합에서 국제규제 논란이 시작되고 있다. 　안보리 회합은 공적인 범죄에 관해 더 넓게 논의하자는 것이 그 목적이다.

미국이나 유럽, 중국 등 주요 국가와 지역은 ‘개별적으로 이용의 룰(rule) 만들기'를 진행하고 있다. 영향은 국경을 자유롭게 넘나들기 때문에 각국에서 국제적 규칙을 요구하는 목소리가 강하게 나오고 있다.

유엔은 AI 관리 방식을 검토하는 회의를 올해 말까지 개최한다고 발표했다. LAWS를 금지하는 틀에 대해서도 2026년까지 협상을 마무리하겠다는 의지이다. 현재 상정되고 있는 것은 핵사찰을 담당하는 국제원자력기관(IAEA)이나 항공기의 안전운행을 조정하는 국제민간항공기관(ICAO)과 같은 국제적인 기구이다.

핵이나 항공기에 비해 AI를 사용한 시스템은 ▷ 비교적 저렴하고 ▷ 외부 감시가 쉽지 않다. ‘국제적인 룰 만들기’에서는 그러한 특징을 고려한 논의가 필수적이며, 개발도상국과 신흥국의 의견도 청취, 선진국이 AI 활용의 이익을 독점하지 않는 배려도 매우 중요하다.

러시아에 의한 우크라이나 침공으로 유럽과 미국, 그리고 중국과 러시아가 대립해 유엔 안보리는 기능부전에 빠져 있다. 러시아는 이번에도 “유럽과 미국이 AI에 부정적인 메시지를 확산시키고 있다”고 주장하며 비협조적인 자세를 보이고 있다.

안토니우 구테흐스　유엔 사무총장은 “지금 행동하지 않으면, 차세대에 대한 책임을 포기하게 될 것”이라고 경고하고 있다.

국제사회는 반드시 위기감을 공유해야 하고, 글로벌 이익의 관점에서 논의가 가속화 되어야 하겠다.