요즈음 인기 있는 오락처럼 돼 있는 미국의 오픈 AI의 ‘챗GPT(chatGPT)'에 대해 테슬라 최고경영자인 일론 머스크(Elon Musk), 좌파 지식인 노암 촘스키(Noam Chomsky), 99세에 은퇴를 한 정치인 헨리 키신저(Henry Kissinger)와 같은 다양한 분야의 유명 인사들의 인공지능(AI)에 대한 경보음을 보내고 있다.

특히 관심을 끌고 있는 것은 인공지능 연구계 내부자들의 우려이다. 선구적인 연구원이자 이른바 “AI의 대부”라고 불리는 제프리 힌튼(Geoffrey Hinton)은 그가 창조하는 것을 도왔던 기술의 위험성에 대해 더 자유롭게 말할 수 있도록 구글에서의 역할을 그만두었다고 AP통신이 4일 보도했다.

수십 년 간의 경력 동안, 딥 러닝(deep learning)과 신경망(neural networks)에 대한 힌튼의 선구적인 연구는 오늘날 우리가 보는 많은 AI 기술의 기반을 마련하는 데 도움이 됐다.

최근 몇 달 동안 인공지능 도입이 급증했다. ChatGPT를 후원하는 마이크로소프트의 지원을 받는 샌프란시스코에 기반을 둔 스타트업 OpenAI는 지난 3월 최신 인공지능 모델인 GPT-4를 출시했다. 구글의 “바드(Bard)”를 포함한 다른 기술 대기업들은 경쟁적인 도구에 투자했다.

힌튼은 BBC와의 인터뷰에서 AI 챗봇의 위험 중 일부는 ‘매우 무섭다’고 말했다. “지금 당장은 우리보다 지능이 높지 않다. 하지만 곧 그럴 수도 있다고 생각한다”고 강조했다.

MIT 테크놀로지 리뷰(MIT Technology Review)와의 인터뷰에서 힌튼은 “선거를 조작하거나 폭력을 선동하는 것과 같이 사회에 해로운 영향을 미칠 수 있는 방식으로 AI를 사용할 수 있는 ‘나쁜 행위자들(bad actors)’을 지적하기도 했다.

75세의 힌튼은 더 이상 거대 기술 회사에서 일하지 않는 사람으로서 잠재적인 위험에 대해 공개적으로 말할 수 있도록 하기 위해 구글에서 은퇴했다고 말했다.

그는 MIT 테크놀로지 리뷰와의 인터뷰에서 “구글의 비즈니스와 어떻게 상호 작용하는지에 대해 걱정할 필요 없이 AI 안전 문제에 대해 이야기하고 싶다”면서 “내가 구글에서 돈을 받는 한, 나는 그렇게 할 수 없다”고 강조했다.

구글을 떠나겠다고 발표한 이후, 힌튼은 구글이 AI와 관련하여 “매우 책임감 있게 행동했다”고 주장했다. 그는 이어 “구글의 좋은 점들”도 있지만, “내가 더 이상 구글에 머물러 있지 않다면, 사람들은 나의 말을 훨씬 더 신뢰할 수 있을 것”이라고 말했다.

힌튼은 지난 2일 더 이상의 언급을 거부했지만 3일 회의에서 인공지능에 대해 더 많은 이야기를 할 것이라고 밝혔다.

AI 상태에 대한 논쟁의 핵심은 주요 위험이 미래에 있는지 현재에 있는지 여부이다. 인간의 지능을 대체하는 컴퓨터에 의해 야기되는 실존적 위험에 대한 가상의 시나리오가 있다. 다른 한편으로는 자동화 기술에 대한 우려가 있는데, 이는 이미 기업과 정부에 의해 광범위하게 배포되고 있으며 실제 환경에 해를 끼칠 수 있다.

지난 2월까지 백악관 과학기술정책실과 AI 도구의 책임 있는 사용에 관한 지침 제정 추진을 이끈 알론드라 넬슨(Alondra Nelson)은 “좋은 일이든 아니든, 챗봇 모멘트가 한 일은 AI를 AI 전문가와 개발자만 포함하는 국가적인 대화 및 국제적인 대화로 만들었다.”고 말했다.

넬슨은 지난달 인터뷰에서 “AI는 더 이상 추상적이지 않으며, 내 생각에 우리는 기술이 있는 민주적인 미래와 착취적이지 않은 미래에 대해 새로운 대화를 나눌 수 있는 여지가 있다”고 말했다.

많은 AI 연구원들은 오랫동안 인간의 거대한 글쓰기에 대해 훈련되고, 사회에 존재하는 차별을 증폭시킬 수 있는 텍스트 기반의 큰 언어 모델을 포함하여 AI 시스템의 인종, 성별 및 다른 형태의 편견에 대해 우려를 표명했다.

비영리 AI 나우 연구소(AI Now Institute)의 사라 마이어스 웨스트(Sarah Myers West) 관리 이사는 “우리는 한 걸음 물러서서 누구의 요구가 위험에 대한 논의에서 전면에 배치되고 있는지 정말로 생각할 필요가 있다”며 “오늘날 AI 시스템에 의해 시행되고 있는 해악은 실제로 균등하게 분산되어 있지 않다. 그것은 불평등의 기존 패턴을 매우 악화시키고 있다”고 지적했다.

힌튼은 2019년에 기술 산업 버전 노벨상으로 알려진 영예인 튜링상(Turing Award)을 수상한 세 명의 AI 개척자 중 한 명이다. 다른 두 수상자인 요수아 벤지오(Yoshua Bengio)와 얀르쿤(Yann LeCun)도 AI의 미래에 대한 우려를 표명했다.

몬트리올 대학의 교수인 벤지오는 3월 말에 기술 회사들이 강력한 AI 시스템 개발을 6개월간 중단하는 것에 동의할 것을 요구하는 청원에 서명했고, 페이스북 모기업 메타(Meta)의 최고 AI 과학자인 르쿤(LeCun)은 보다 더 낙관적인 접근법을 취했다.