인공지능(AI) 모델 ‘클로드 미토스’를 개발한 미국의 신흥 강자 앤트로픽(Anthropic)이 “AI가 인간의 손에 의하지 않고, 자율적으로 후계 모델을 설계하고, 개발할 수 있게 되면, AI를 제어할 수 없게 되는 리스크가 높아진다”면서 개발 속도를 줄이면서 대책을 준비하자고 제언했다.

앤트로픽 연구소의 고위 관계자 두 명이 블로그 게시글에 아래와 같은 글을 적었다.

“사회 구조와 협력 연구가 기술 발전에 발맞춰 나갈 수 있도록, 첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권이 세계에 주어지는 것이 바람직하다고 생각합니다.(We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development to enable societal structures and alignment research to keep up with the advance of the technology.)

엔트로픽은 ”향후 정책 입안자나 연구자들과의 대화의 장을 마련, 구체적인 대책을 검토“할 예정이다.

AI가 인간의 손에 의하지 않고 자율적으로 후계 모델을 설계·개발할 수 있게 되면, AI를 제어할 수 없게 되는 리스크가 높아지면서, 개발을 지연시켜 대책을 마련할 필요가 있다고 주문했다. 이들은 국제적인 틀을 정돈해, AI 각사가 발길을 갖춰 나가는 것이 바람직하다고 호소했다.

AI의 개발 경쟁을 선도하는 앤트로픽이 기술 개발 속도에 일정한 제어를 걸 가능성을 제시함으로써, AI의 안전성을 둘러싼 논란이 일고 있다.

* 앤트로픽 제안 ‘이기적인 시도?” 비판

앤트로픽 연구소 소장인 마리나 파바로(Marina Favaro)와 공동 창립자인 잭 클라크(ack Clark)는 지난 4일(현지시간) ”인공지능 연구소들이 국가들이 핵무기 확산을 감시하는 방식과 유사한 협력 관계를 구축해야 한다“고 제안하면서, 그러한 합의가 결실이 맺어지기까지 ‘수십 년’을 기다릴 여유가 없다”고 강조했다.

그들의 제안은 순조롭지 못한 출발을 보였는데, 기술 업계 일부에서는 이를 기업공개(IPO)를 준비하는 선도적인 AI 기업의 이기적인 시도로 규정하고 있다.

앤트로픽 대변인은 ‘비즈니스 인사이더’와의 인터뷰에서 “자사가 개발 중단을 요구하는 것은 아니다”면서 “대신, 앤트로픽은 주요 경쟁사들이 개발 중단을 가능하게 하는 시스템을 갖추기를 바란다”고 설명했다. 개발 속도를 고려할 때, 그러한 제한이 필요하다고 판단되기 전에 이 문제를 미리 검토하고 싶다는 것이다.

* 미트 롬니 상워의원 : 미국은 AI 보호장치 집중 개발해야

이와 관련, 전 미국 상원의원이자 2012년 공화당 대선 후보였던 미트 롬니(Mitt Romney)는 “미국이 ‘인공지능 보호 장치’(AI safeguards) 개발에 집중해야 한다”고 주장했다고 비즈니스 인사이더가 전했다.

그는 X(옛. 트위터)에 기고한 글에서 앤트로픽의 성명에 대한 언론 보도를 인용하며 “우리나라(미국)의 최우선 과제는 인공지능 보호책을 마련하는 것”이라고 적었다. 2012년 공화당 대선 후보는 “인공지능 무기, 병원균, 대규모 실업, 감시, 심지어 인류 멸종의 위험을 더 이상 크게 무시해서는 안 된다”고 말했다.

* 전 백악관 AI 책임자 데이비드 색스 : “앤트로픽, 앞만 보고 달려가” 비판

백악관 고위 보좌관을 지낸 데이비드 색스는 앤트로픽의 제안을 강하게 비판했다.

“당신이 첨단 AI 연구소를 국유화하려는 징후는 다음과 같다. 핵무기에 비유하고… 사무직 일자리의 절반을 위협하고… 재귀적 자기 개선이 인류를 파멸시킬 수 있다고 경고하면서도… 그럼에도 불구하고 앞만 보고 달려가는 것”이라고 데이비드 색스(David Sacks)는 X에 썼다.

트럼프 전 대통령 시절 인공지능 및 암호화폐 담당 책임자였던 그는 과거 앤트로픽을 규제 당국을 포섭하려는 음모를 꾸미고 있다고 공개적으로 비난한 적이 있다. 그는 이번 글에서 앤트로픽을 직접적으로 언급하지는 않았지만, 과거 발언과 글의 내용을 보면 그가 누구를 비난하는지는 명백했다. “다시 말해, 당신은 정부가 우리를 당신으로부터 구해주길 바라는 거군요.”(you want the government to save us from… you)라고 그는 썼다.

* 스탠퍼드대 앤드류 B. 홀 교수 : 개발 중단 혹은 감속은 회의적

포럼 AI의 고문이자 이전에는 메타 플랫폼의 고문이었던 앤드류 B. 홀(Andrew B. Hall)은 구글 딥마인드 CEO 데미스 하사비스(Demis Hassabis)가 “모든 첨단 개발자들이 협조한다면, 전 세계적인 개발 중단을 지지할 것”이라고 이전에 밝힌 적이 있다고 말했다.

그는 “불과 얼마 전까지만 해도 전혀 믿기 어려운 일처럼 보였겠지만, 행정명령(EO), 글래스윙(Glasswing), 그리고 어제 공개된 강화된 모델 검토 제안 등을 보면 더 이상 그렇게 황당하게 느껴지지 않는다.”고 홀은 X에 썼다.

홀은 특히 중국에 기반을 둔 기업이나 오픈소스 모델에 적용될 경우, 일시 중단 조치가 어떻게 효과를 발휘할지에 대해 ‘회의적’이라면서 “적어도 개발과 소비자 출시를 별개로 늦추는 데에는 합의할 수 있을지도 모른다. 내가 인피니티 머신에 대해 읽어본 바와 하사비스가 순수 연구를 선호하는 점으로 미루어 보아, 그는 이러한 방안을 지지하는 것 같다.”라고 적었다.

* 기술 전문 기자 태 김 : 앤트로픽이 불필요한 불안감을 조장

“인간 중심적 공포 조장(FUD)으로 일반인들이 겁먹고, 좋은 일자리와 금리 인상 가능성이 거론되고, 세미애널리시스의 기억 조각에 대한 오해가 더해져 성장주가 숨 돌릴 틈을 갖게 됐다”고 태 김(Tae Kim)은 X에 글을 올렸다. FUD는 공포(Fear), 불확실성(Uncertainty), 의심(Doubt)을 뜻한다.

“엔비디아 방식: 젠슨 황과 거대 기술 기업의 탄생”(The Nvidia Way: Jensen Huang and the Making of a Tech Giant)의 저자인 김씨는 AI 기업 엔비디아에 대해 단호한 메시지를 전했다.

“이봐, 앤트로픽, 그만해.”(Hey Anthropic, stop it.)

* 인월드 CEO 카일란 깁스 : 애트로픽 자사에 유리한 기반만 다지고 있어

인월드(Inworld) AI의 CEO인 카일란 깁스(Kylan Gibbs)는 앤트로픽이 자사에 유리한 방향으로 AI 규제를 형성하기 위한 기반을 다지고 있다고 말했다.

이전에 구글 딥마인드에서 근무했던 깁스는 정부에 AI의 위험성을 알리는 사람이 바로 당신이라면, 규제 시점이 왔을 때 관계자들이 당신을 가장 먼저 찾게 될 것이라고 말했다. 이는 앤트로픽이 오픈소스 경쟁업체를 제한하거나 중국으로의 GPU 수출을 통제하는 등 자신들이 원하는 방향으로 규제를 만들어낼 수 있는 기회를 제공한다.

그는 이어 “이는 대기업들이 자신들만이 돈으로 통과시킬 수 있는 규제를 밀어붙이는, 이전에도 목격했던 추세와도 관련이 있다. 결국 이러한 규제에 효과적으로 대처할 법률적 자원이 부족한 소규모 기업들에게 악영향을 미치게 되는 것”이라고 그는 덧붙였다.

* 게리 마커스, 인공지능 연구자이자 뉴욕대학교 명예교수 : ‘수사적 표현에 불과’

인공지능 전문가 게리 마커스(Gary Marcus)는 사람들이 앤트로픽의 제안서를 ‘꼼꼼히’ 읽어봐야 한다고 말했다.

‘그들은 양쪽 모두를 원한다. 사실 그들은 적어도 지금 당장은 멈추고 싶어 하지 않다. 오히려 ’가장 신중하지 못한 행위자들‘을 핑계로 삼아 서둘러 앞으로 나아가고 싶어한다.“고 마커스는 X에 썼다.

마커스는 앤트로픽의 제안을 ”놀라울 정도로 비용이 들지 않는 수사적 표현으로, IPO 시점에 완벽하게 맞아떨어진다“고 평했다. 그는 AI 기업인 앤트로픽이 실제로는 결코 사업 중단을 원하지 않을 것이라고 덧붙이면서 ”오히려 그들은 실제로 취할 계획도 없고, 앞으로도 취할 가능성이 거의 없는 '선택지'에 대해 사람들이 이야기하도록 만들고 싶어한다.“고 마커스는 썼다. 그는 이어 ”(그들이 늘 그랬듯이 중국을 암시하며 계속해서 앞으로 나아갈 가능성이 더 크다“고 덧붙였다.

* 루이스 가리카노(런던 경제대학 교수) : ”모델 경쟁업체 막으려 하고 있어“

런던 경제대학의 공공정책 교수인 루이스 가리카노(Luis Garicano)는 ”앤트로픽이 오픈 소스 모델 경쟁업체를 막으려 하고 있다“고 말했다.

”프론티어 모델의 수익성에 대한 핵심 위협은 개방형 가중치이다. 만약 그것이 모두를 극도로 불안하게 만든다면, 자연스러운 수순은 그것을 금지하고 '신뢰할 수 있는 개발자'만 허용하는 것이 될 것“이라고 X에 썼다.