한 국가의 미래를 결정지을 수 있는 대통령 선거에서 정교하고 인간을 능가할 정도의 생성 대화형 챗GPT(chatGPT)를 이용, 진짜 같은 가짜를 만들어 선거 캠페인에 이용되면서 그 내용이 설득력이 있느냐, 신뢰성은 높으냐는 등의 논란이 끊이지 않을 것 같다.

인공지능(AI)과 관련한 법의 정비를 구상을 밝힌 미국의 첫 슈머(Charles E. Schumer) 민주당 상원의원은 2024년 미국 대통령 선거가 AI에 의해 왜곡될 가능성에 대해 경종을 울렸다고 미 악시오스 등이 보도했다.

미 공화당 공천 경쟁에서는 이미 AI를 이용한 흑색선전이 난무, 유권자들의 투표 행태에도 영향을 미칠 수 있는 상황이다.

이 같은 AI를 이용한 흑색선전은 먼 이야기가 아니라 당장의 이야기이다. 조치를 취하지 않으면 민주주의는 존속이 위태롭다는 게 일반적인 인식이다.

21일(현지시간) 미국 싱크탱크 전략국제문제연구소(CSIS)에서 강연한 척 슈머 상원의원은 강한 위기감을 감추지 않았다. 마치 인간이 만든 것 같은 문장이나 이미지를 작성하는 “생성 AI”다.

슈머 의원은 “선거의 후보자의 화상이나 영상이 조작되는 것으로, 후보자 본연의 모습이 왜곡되어 유권자에게 전달된다”고 지적하면서, “반면 그 정교함 때문에 정보가 신뢰성이나 설득력을 가짐으로써, 진실로 받아들여지고 결과적으로 선거의 정당성이 흔들릴 수 있다”고 우려했다.

척　슈머 의원은 “의회로서 초당적이고 신속하게 대응할 필요성을 호소했지만, 이미 그런 제안은 ‘마이동풍(馬耳東風, Preaching to the wind)’이라는 것이다.

2024년 대선 출마를 표명한 공화당에서 론 드산티스(Ron DeSantis) 플로리다 주지사 캠프는 5일 트위터에 올린 동영상에 “생성 AI가 작성한 것으로 알려진 가짜 이미지”를 섞었다. 같은 당 지명 후보를 다투는 트럼프 전 대통령이 정부 수석 의료고문으로 코로나 대책을 지휘한 앤서니 파우치(Anthony Fauci) 박사와 포옹하는 광경이다.

앤서니　파우치 박사의 엄격한 감염 대책은 보수층의 호평을 샀고, 트럼프와도 불화가 지적되고 있다. 그런 두 사람의 친밀함을 조작함으로써 보수층으로의 침투를 노렸을 가능성이 있다는 분석이다.

트럼프 측도 장남 주니어가 SNS에서 사람 표정을 다른 사람 얼굴에 합성하는 AI 기술 ‘딥페이크’를 사용한 것으로 보이는 가짜 동영상을 올렸다. 론 드산티스가 여성용 정장을 입는 가짜 동영상이지만 목소리도 빼닮았다.

이러한 SNS는 수많은 조회수를 벌고 있어, 시청자의 인상을 조작하고 있을 우려는 분명하다.

미국 대선에서는 지금까지도 가짜 이미지와 동영상을 이용한 흑색선전이 전개돼 왔다. 하지만 이번에는 ‘생성 AI’의 발전으로 리얼함(reality)이 크게 늘면서, 진짜와 AI가 작성한 가짜를 구분하기 어려워지고 있다. 가짜 이미지나 동영상을 쉽게 만들 수 있는 것도 확산의 배경이다.

한편, 미국에서는 지난 5월 국방부 인근에서 폭발이 발생했다는 가짜 이미지가 확산되면서 뉴욕증시가 일시적으로 혼란스러운 일이 벌어진 일도 있었다.

법 정비나 규제가 충분하지 않고, 가짜뉴스에 대한 면역이 없는 상황에서 가짜 이미지나 동영상이 확산되면 혼란을 초래해 투표 행태를 좌우할 수 있다. 워싱턴 포스트는 “AI는 대선에 있어서의 거대한 리스크”라고 우려를 나타냈다.