생성형 인공지능(AI) 챗지피티(ChatGPT) 제작사인 오픈 에이아이(Open AI)가 내놓은 ‘목소리 복제 엔진(Voice Engine)’이 15초 동안 목소리 샘플(Audio Sample)을 기반으로 사람의 음성을 복제할 수 있다고 밝혔다.

오픈 AI는 사람들의 목소리를 복제하는 도구를 공개는 했지만, 주요 선거 연도에 오용 가능성에 대한 우려 때문에 공개를 보류하고 있다고 알자지라가 1일 보도했다.

이 목소리 복제 엔진을 시연하는 오픈 AI의 블로그 게시물에 따르면, 목소리 복제 엔진은 15초 목소리 샘플을 기반으로 사람의 음성을 복제할 수 있다는 것이다.

그러나 챗지피티 창시자는 이 기술에 대해 “신중하고 정보에 입각한 접근 방식을 취하고 있으며, 합성 음성의 책임 있는 배포에 대한 대화를 시작하기를 희망한다”고 블로그 게시물에서 밝혔다.

샌프란시스코에 본사를 둔 이 스타트업은 “우리는 사람들의 목소리와 유사한 연설을 생성하는 것이 심각한 위험을 안고 있다는 것을 알고 있으며, 이는 특히 선거가 있는 해에 가장 중요한 문제”라고 강조했다.

그 스타트업은 “우리는 정부, 미디어, 엔터테인먼트, 교육, 시민 사회 등 다양한 분야의 미국 및 국제 파트너와 협력하여 구축 과정에 그들의 피드백을 반영하고 있다.”고 밝혔다.

오픈AI는 테스트와 공개 토론을 기반으로 기술을 대규모로 배포하는 것에 대해 “더 많은 정보를 바탕으로 결정을 내릴 것”이라고 말했다.

인공지능(AI)의 오용은 올해 선거를 앞두고 전 세계 인구의 약 절반을 대표하는 국가에서 주요 관심사로 떠올랐다.

역사상 가장 큰 선거의 해로 불리는 2024년에는 멕시코, 남아프리카공화국, 미국 등 전 세계 80여 개국의 유권자들이 투표에 참여하게 된다. 유권자에 대한 AI의 영향은 이미 여러 선거에서 정밀한 조사를 받았다.

감옥에 갇힌 파키스탄 전 총리 임란 칸(Imran Khan)은 지난 2월 총선을 앞두고 지지자들에게 호소하기 위해 AI가 생성한 연설을 사용했다.

또 지난 1월 미국 대선 후보 딘 필립스(Dean Phillips)의 정치 공작원은 조 바이든 미국 대통령을 사칭하여 유권자들에게 뉴햄프셔 주 민주당 예비선거에서 투표하지 말 것을 촉구하는 자동녹음전화를 내보내기도 했다.

오픈AI는 목소리 복제 엔진을 테스트하는 파트너를 위해 “목소리 복제 엔진에서 생성된 목소리의 출처를 추적하기 위한 워터마킹과 사용 방법에 대한 사전 모니터링을 포함하여 여러 가지 안전 조치를 구현했다”고 밝혔다.