생성형 인공지능(AI)를 악용한 ‘딥 페이크(Deep Fake)'라는 가짜 동영상 등이 선거에 영향을 미치는 것을 방지하기 위해 세계 주요 빅테크(IT) 기업 22개사가 모여 협업을 하기로 합의했다.

특히 2024년도에는 11월 미국 대선 등 대형 선거가 예정되어 있어 업계가 서로 협업을 통해 가짜정보 확산 방지를 꾀하기로 했다고 AP통신 등 복수의 외신들이 보도했다.

16일(현지시간) 독일 남부 뮌헨에서 개막한 “뮌헨 안보회의”에 맞춰 이 같은 합의를 도출했다. 챗지피티(chatGPT)를 개발을 한 기업은 물론 SMS관련 업체, 그리고 반도체 개발 및 보안관련 업체들이 함께 뜻을 모았다.

우선 생성형AI 개발업체로는 오픈AI(OpenAI), 마이크로소프트(MS), 구글(Google), 아마존(Amazon), 스태빌러티 AI(Stability AI), 닷컴(dotcom), 어도비(Adobe), 앤스로픽(Anthropic), 인플렉션AI(Inflection AI), 노타AI(Nota AI), 일레븐 랩스(Eleven Labs) 등 11개사가 동참했고, SNS개발 업체로서는 메타(META), 틱톡(TikTok), 엑스(X, 옛 트위터), 스냅(Snaps), 링크드인(Linkedin) 등 5개사, 반도체 개발관련 업체인 아이비엠(IBM), 암(ARM) 등 2개사, 보안(Security)관련 업체인 맥아피(McAfee), 트렌드(Trend), 마이크로(Micro), 투르픽(Truepic) 등 4개사 등 총 22개사가 참여했다.

이들 기업들은 앞으로 정보를 공유하면서 동영상 출처를 명시하는 전자 워터마크 개발과 SNS 상에서 가짜 정보를 검출하는 기술 향상 등을 추진하기로 했다.

합의의 핵심 골자를 보면, 기술개발 측면에서 인공지능(AI)로 생성된 동영상, 화상의 출처를 표시해주는 ‘전자워터마크’를 개발하고, SNS 대책으로는 SNS상의 가짜 정보의 검출 기술을 개선하고, 언론의 자유와 안전성의 관점에서 SNS상의 가짜정보에 대한 적절한 대처를 하며, 정보공유 차원에서는 가짜정보에 대한 대처를 업계가 서로 공유하고, 가짜정보 대처 방법을 유권자들에게 설명을 하기로 했다.

올해에는 미국 대통령 선거 이외에도 유럽연합 의회 선거(6월) 등도 예정되어 있다.

유럽과 미국 미디어에서의 합의는 각사가 자발적인 조치를 하는 것이어서 가짜정보 금지 등 강제력이 없다는 등 효과를 의문시하는 목소리도 나오고 있지만, 켄트 워커(Kent Walker) 구글 글로벌사업부 사장은 16일 “자유에서 공정한 선거의 실현은 정보의 신뢰성에 달려 있다”며 대응을 서두르겠다는 방침을 강조했다.

넷상(on net)의 기사나 광고에, 발신자의 정보를 전자적으로 부여해 신뢰성을 담보하는 기술 "오리지네이터·프로파일(OP=Originator Profile)"의 개발을 진행시키는 OP 기술연구조합은 17일 이 합의를 지지한다고 발표하고, “민주주의를 지키기 위해 기술적인 해결책을 계속 찾아 나서겠다”는 성명을 발표했다.