중국 정보기관 수장이 “베이징이 인공지능의 가장 큰 위험 요소로 보는 부분”에 대해 이례적으로 의견을 밝혔다.

천이신(陳一新, Chen Yixin)은 지난 13일에 발표된 학술지 논문에서 중국이 직면한 ‘6가지 주요 인공지능 위험 요소’(six major AI risks for China를 제시했으며, 그의 경고는 주요 AI 기업 대표들이 ‘성장 속도 둔화’가 필요하다는 데 공개적으로 동의한 시점에 나왔다고 비즈니스 인사이더가 14일 보도했다.

천이신(陳一新) 중국 국가안전부 부장(장관)은 13일 오전 중국 인터넷 규제기관인 국가인터넷정보판공실( Cyberspace Administration of China)이 운영하는 학술지 ‘중국 사이버공간’(China Cyberspace에 기고문을 발표했다.

* 저렴한 비용, 정치적루머 양산, 정권 안보 위협

그 보고서에서 천이신은 인공지능(AI)이 베이징에 초래할 수 있는 6가지 주요 위험을 지적했는데, 첫 번째는 “정권 안보”(政權安保, regime security)였다.

그는 “다양한 적대 세력과 악의적인 개인들이 딥페이크 오디오 및 비디오, AI 생성 이미지 및 텍스트, 지능형 온라인 군대와 같은 생성형 AI 기술을 악용하여 저렴한 비용으로 대량의 정치적 루머를 생산하고 있다”고 썼다.

그는 그러한 도구들이 “유해한 정보를 퍼뜨리고, 적대적인 감정을 선동하며, 여론전과 인지전을 벌일 수 있다”며, 중국의 정치적, 제도적, 이념적 안보에 직접적인 위협을 가한다고 말했다.

첸은 또한 다음과 같은 다섯 가지 주요 AI 위험 요소를 지적했다.

* 핵심 기반 시설에 대한 사이버 공격

미국 앤트로픽의 미토스(Mythos)와 같은 모델의 성능을 고려할 때, 사이버 공격은 매우 효율적으로 수행될 수 있으므로 중국의 핵심 기반 시설에 위험을 초래할 수 있다.

* 대규모 데이터 유출 위험

대규모 데이터 유출 위험이 존재하며, 이로 인해 중국의 AI 사용자뿐만 아니라 해외 정보기관도 국가 중요 데이터, 영업 비밀 또는 시민의 개인 정보를 입수할 수 있다.

* 독점, 폐쇄적 기술 시스템 기술 개발 불균형 초래

독점과 폐쇄적인 기술 시스템으로 인해 기술 개발의 불균형이 발생하며, 국가들은 국가 안보라는 명목으로 인공지능의 힘을 악용하고 공급망을 분산시킬 수 있다.

* 공공질서 혼란 유발

사회 거버넌스에 대한 도전 과제들이 공공질서의 혼란으로 이어진다.

* 전쟁 양상 근본적 변화

인공지능 기반 정밀 타격이 적에게 전장에서 상당한 이점을 제공하면서 전쟁 양상이 근본적으로 변화하고 있다.

따라서 ‘모든 인류의 복지’를 위한 더 많은 규제가 필요하다는 의견이 대부분이지만, 정치권력을 가진 자들은 경쟁국보다 기술이 뒤쳐질 것이라는 이유로 개발 속도 완화를 일축하고, 폐쇄적 기술을 선호하는 경향이 있어 기술 기업과 정부 간의 의견이 엇갈려 효과적인 통제 혹은 규제책이 나올 수 있을지 불확실하다.

천이신은 인공지능에 대한 강력한 “개발 가이드라인”(developmental guidelines)을 마련해야 한다고 주장했는데, 이는 본질적으로 인공지능 개발에 대한 정부의 더 많은 통제를 의미한다.

천이신 따르면, 이를 위해서는 베이징이 “안보 위험 예방 및 통제 시스템 구축을 가속화”해야 한다. 그는 중국이 “고효율적인 관리”(high-efficiency governance)를 통해 인공지능의 “건전하고 질서 있는 발전”을 촉진해야 한다고 말했다.

그는 이어 인공지능은 “전 인류의 복지를 최우선 원칙으로 삼아 개발되어야 한다”면서 “세계 강대국들이 패권주의, 기술 장벽, 배타적 블록에 단호히 저항하고, 공정하고 개방적인 국제 AI 규칙 체계를 구축하기 위해 노력해야 한다”고 덧붙였다.

천이신의 발언은 시진핑 중국 국가주석이 13일 뉴델리에서 열린 브릭스(BRICS) 정상회의에서 인공지능(AI) 발전을 강조했다는 점에서 나온 것이다.

시 주석은 “우리는 사람 중심적인 접근 방식을 취하고, 긍정적이고 유익한 방향으로 인공지능을 개발하며, 합의에 기반한 글로벌 인공지능 거버넌스 체계를 더욱 빠르게 발전시켜 새로운 기술이 공동 번영으로 가는 길을 밝힐 수 있도록 해야 한다”고 말했다.

천이신과 시진핑의 발언은 미국에서 인공지능(AI)으로 인한 종말 가능성에 대한 논쟁이 뜨거워지는 가운데 나왔다. 지난 주말, 앤트로픽 CEO 다리오 아모데이, 오픈 AI의 샘 알트만, 테슬라의 일론 머스크는 모두 첨단 AI 개발 속도를 늦춰야 한다는 주장에 동참했다.

CEO들은 자사 직원들이 개발 중인 제품이 제대로 개발되지 않을 경우 인류 대부분을 멸망시킬 수 있다고 공개적으로 경고한 후 이러한 우려를 표명했다.

가장 주목받는 사례로, 앤트로픽 연구소의 연구원 제이콥 콕슨은 연구소와 ChatGPT 개발사인 오픈AI가 “우리의 생명을 걸고 도박을 하고 있다”고 말하며 연구소를 떠났다.

그러나 도널드 트럼프는 13일(현지시간) 기술 업계의 여러 지도자들이 인공지능(AI) 개발 속도를 늦춰야 한다고 촉구한 후, AI가 통제 불능 상태에 빠질 수 있다는 우려를 일축했다.

미국 공영방송 NPR은 이날 “트럼프가 아일랜드 둔베그 골프 리조트(Doonbeg golf resort)에서 기자들에게 연설하면서 AI에 대한 심각한 경고는 과장되었으며 ‘부정적인 세력’(negative forces)이 일어나지 않을 일에 대해 주장하고 있다”고 말했다고 보도했다.

트럼프는 “우리는 인공지능 분야에서 중국을 앞서고 있으며, 세계에서 가장 앞선 국가이다. 솔직히 말해서, 나는 이 상태를 유지하고 싶다. 인공지능에서 승리하는 팀이 승리하는 것이기 때문”이라며, “물론 우리는 안전장치를 마련하고 여러 가지 조치를 취할 수 있다. 하지만 나는 일부 부정적인 세력들이 이 문제를 제기하고 있는데, 그들은 그럴 필요가 없다고 생각한다.”고 말했다.