앤트로픽 연구원, “인공지능 10년 안에 인류 멸망” 경고하며 사직

미국의 앤트로픽(Anthropic) 인류학 연구소의 한 연구원이 사임했는데, 그의 퇴사 사직서가 섬뜩하다.

그는 인공지능(AI)을 개발하는 사람들이 내심 인공지능이 10년 안에 모든 사람을 죽일 수 있다고 믿고 있다고 밝혔다고 월스트리트 저널(WSJ) 등 미국 매체들이 10일 보도했다.

그의 사임은 해당 기술을 개발하는 기업 내부에 퍼지고 있는 공포를 가장 명확하게 보여주는 신호이다. 이는 단지 한 명의 불만스러운 직원의 반응이 아니다. 같은 연구소의 고위 직원들도 공식적으로 그의 입장을 지지하고 있는 현실이라는 것이다.

앤트로픽의 제이콥 콕슨(Jacob Coxon, 27세)은 지난 3년간 AI 관련 분야에서 일해 왔다. 오픈 AI에서 근무하다가 앤트로픽으로 자리를 옮겼으며, 지난 8일(현지시간) 사임 소식을 X에 게시했다.

WSJ에 따르면, 콕슨은 안전성에 대한 평판 때문에 올해 초 앤트로픽에 합류했다고 한다. 그런데 바로 그 점이 그를 씁쓸하게 만든다. 그는 앤트로픽조차도 인간을 능가하는 “AI를 제어할 실질적인 계획”을 가지고 있지 않다고 말했다.

그는 이러한 상황을 바꿀 수 있는 유일한 방법은 “정부의 강력한 개입” 또는 “모든 주요 AI 연구소가 함께 개발 속도를 늦추는 데 동의”하는 것뿐이라고 말했다. 하지만 현재로서는 둘 다 일어나지 않고 있다.

콕슨은 업계 사람들이 이 시기를 “결정적인 시기”(crunch time)이라고 부르기 시작했고, 어떤 이들은 “최종 단계”(endgame)라고 표현한다고 한다. 하지만 바로 그 결과물을 만들어내고 있는 사람들에게서 이런 표현을 듣는 것은 결코 위안이 되지 않는다.

그는 “인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다”고 X에 적었다.

인류학 연구원은 콕슨은 “문제의 일부는 경쟁 그 자체에 있다”고 말했다. 연구소들이 서로 경쟁하면서 ‘안전’은 계속해서 뒷전으로 밀리게 된다는 것이다.

* 앤트로픽 고위 직원들 조차 콕슨의 경고지지

콕슨은 오랫동안 혼자가 아니었다. 앤트로픽의 정렬 과학(alignment-science : AI의 목표나 행동을 인간의 의도 및 가치와 일치시키는 연구 분야) 책임자인 에반 휴빙어(Evan Hubinger)도 그의 의견에 동의했다. 그는 인공지능이 향후 10년 안에 인류를 멸망시킬 확률이 10%를 넘는다고 예측했다. 이런 예측을 하는 사람은 주변 직원이 아니라, 그런 일이 일어나지 않도록 막는 일을 담당하는 사람이다.

휴빙어는 또 앤트로픽이 초지능 시스템(superintelligent system)을 인간이 원하는 바와 일치시키는 방법을 찾지 못했다고 인정했다.

확장 가능한 감독을 이끄는 사무엘 마크스(Samuel Marks)도 비판에 가세한 것으로 알려졌다. 그의 분석에 따르면, 연구소 내부에서 직급이 높을수록 두려움이 커지는 경향이 있다는 것이다. 이는 결코 안심할 만한 소식이 아니다.

최근 발생한 AI 해킹 사건들은 상황을 더욱 악화시켰다. 콕슨은 OpenAI와 Anthropic 모델들이 조직적으로 ‘떼거리로’(swarms) 활동하는 사례들을 지적했다. 일부 모델은 독자적으로 공격을 감행했고, 심지어 감시하는 인간에게 들키지 않으려고 시도하기도 했다고 한다.

* OpenAI의 최고위층 인사들조차 경고음

앤트로픽만이 경고음을 울리는 것은 아니다. 오픈AI의 CEO 샘 알트만(Sam Altman)은 지난주 G20 회의에서 AI의 발전 속도가 심각한 사이버 보안 문제로 이어질 수 있다고 경고했다.

WSJ 보도에 따르면, 이 회사의 수석 과학자인 야쿠브 파초키(Jakub Pachocki)는 한발 더 나아가 “정부 규제에 기반한 업계 차원의 생산 감축을 원한다”고 밝혔다.

현재 1,000명이 넘는 AI 연구자들이 상황이 악화될 경우, 제동을 걸 수 있는 방안에 대한 전 세계적인 협력을 촉구하는 성명에 서명했다.

워싱턴에서도 이 문제를 어느 정도 인지하고 있는 듯하다. 지난주 버니 샌더스(Bernie Sanders) 상원의원과 그렉 카사르(Greg Casar) 하원의원은 초지능 AI를 전면 금지하는 법안을 발의한 것으로 알려졌다. 또, 실질적인 안전 규정이 마련될 때까지 개발을 동결하려는 계획도 포함되어 있다.

한편, 앤트로픽은 기업 가치가 2조 달러에 육박할 것으로 예상되는 대규모 기업공개(IPO)를 준비하고 있는 것으로 알려졌다. 이 회사는 투자자들에게 자사가 그 누구보다 안전을 최우선으로 생각한다고 강조하고 있다.

하지만 콕슨은 이를 믿지 않는다. 그는 앤트로픽이 가장 강력하고 위험한 모델에 대해 슬랙 채널(Slack channel : 협업 툴 내의 대화 공간)과 샌프란시스코 엔지니어들의 노트북을 통해 논의한다고 말했다. 그는 이런 논의는 슬랙 채널만으로는 부족하다고 주장했다.

더 넓은 공론의 장으로 이 문제를 확산시키는 용기있는 개발자들이 필요한 때이다.