저커버그, ‘AI 권력의 중앙집중화’ 경고

마크 저커버그는 6,500단어 분량의 에세이에서 인공지능에 대한 자신의 비전을 자세히 설명하고, “인공지능(AI) 권력의 중앙집중화‘를 경고했다고 10일(현지시간) 정치전문 매체 ’폴리티코‘가 보도했다.

메타의 CEO 마크 저커버그(Mark Zuckerberg)는 10일, 인공지능(AI) 기술의 급속한 발전이 미국과 전 세계적으로 더욱 면밀한 검토와 규제 요구에 직면하고 있는 가운데, 인공지능 사용을 열정적으로 옹호했다.

저커버그는 자사 모델인 뮤즈 스파크(Muse Spark)의 새로운 오픈 소스 버전 발표에 맞춰 6,500단어 분량의 게시글을 통해 인공지능에 대한 자신의 비전을 자세히 설명하고, 이 기술은 두려워할 대상이 아니며 ‘초지능’이 일자리를 빼앗을 수 있다는 우려에 반박했다.

그는 “인공지능이 너무 위험해서 유일하게 안전한 길은 극단적인 권력 집중이라는 생각 자체가 근본적으로 문제가 있다”며, “역사적으로 충분히 ‘계몽된 절대 권력’이 인류를 자비롭게 보살펴 줄 것이라는 기대는 안전하거나 긍정적인 결과를 가져오지 못했다”고 썼다.

저커버그의 비전은 인공지능이 일자리 감소를 초래할 수 있다고 경고했던 앤트로픽 CEO 다리오 아모데이(Dario Amodei)의 비전과 정면으로 배치된다. 메타는 가장 앞선 인공지능 모델을 보유한 앤트로픽과 오픈AI에 비해 뒤처져 있다.

저커버그는 자신의 에세이에서 아모데이(Amodei)나 오픈AI(OpenAI)를 직접적으로 언급하지는 않았지만, “초지능 AI를 널리 보급하여 경제적 기회를 창출해야 한다”고 주장했다. 그는 이어 “그렇게 함으로써 소수의 정부, 기업, 기타 기관이 지나치게 많은 권력을 장악하는 것을 막는 안전망을 마련할 수 있다”고 강조했다.

하지만 저커버그는 “세계 최고의 모델을 만들기 위해서는 미국이 AI 기업에 대한 규제를 해결해야 한다”면서 “미국과 동맹국들이 전 세계 AI 사용량의 상당 부분을 차지하게 될 오픈 소스 AI 생태계를 주도하는 것도 중요하다.”고 에세이에 적고, “현재 해외 연구소들은 훈련 데이터에 대한 많은 추가적인 제약을 준수해야 하는 미국 연구소들에 비해 여러 가지 이점을 가지고 있다.”고 말했다.

저커버그의 에세이는 AI 안전에 대한 우려가 커지는 가운데 나왔다. 지난달, 앤트로픽은 자사의 고급 모델 여러 개가 4월부터 세 건의 별도 사건을 통해 세 개 기업에 접근했다고 밝혔다. 이 해킹 사건은 오픈에이아이(AI) 자사의 가장 강력한 모델 두 개가 테스트 환경을 벗어나 여러 기업을 침해했다고 발표한 직후에 발생했다.

지난달 미국 의원들은 재앙적인 위험을 초래할 수 있는 모델 사용을 정부가 제한할 수 있도록 하는 법안을 발의했다. 이는 인공지능 모델에 대한 우려를 해소하기 위한 가장 최근의 초당적 노력이었지만, 의회는 결국 포괄적인 법안을 통과시키지 못했다.

저커버그는 사이버 보안과 생물 테러에 대비하기 위한 전략을 제시하면서, 연방 정부가 기업들과 협력하여 새로운 모델을 시험해 볼 것을 촉구했다.

그는 “첫째, 유해 물질의 물리적 생산과 유통을 제한하는 데 집중해야 한다”고 썼다. “물리적 구성 요소를 규제하고 통제하는 것이 지식의 확산을 막는 것보다 쉬울 것으로 예상되므로 이는 중요한 정책적 초점 영역이다.

둘째, 새로운 치료법을 개발하고 새로운 문제가 발생할 때마다 예방 접종을 할 수 있는 사회적 역량을 가속화해야 한다. 여기에는 FDA와 기타 규제 기관이 새로운 치료법을 시험하고 승인하는 절차를 간소화하는 것이 포함된다.”고 주장했다.

저커버그는 데이터 센터(AIDC) 확산을 옹호하며, 이러한 센터들이 지역 사회에 대한 투자를 의미한다고 주장했다. 또한 그는 자사의 목표가 “물 사용량보다 더 많은 물을 2030년까지 사업 운영 지역의 유역에 되돌려주는 ‘물 긍정적 기업(water-positive)’”이 되는 것이라고 강조했다.