지난 4월 10일, 한국에서는 제 22대 국회의원 총선거가 치러졌으며, 제 1야당인 더불어민주당이 300석 가운데 175석, 집권 여당인 국민의힘이 108석을 차지했다. 투표율은 67%로 32년 만에 최고치를 기록하는 등 유권자들의 총선거에 대한 관심이 컸다.

부정투표, 투표소의 스파이 카메라, 사전투표 사기 등 전통적인 우려는 물론 인공지능(AI)을 활용한 선거 간섭 및 딥 페이크(deep Fake)에 대한 우려 등 이전에 여러 가지 우려들이 표면화 됐다.

2022년 대통령선거에서는 국민의당 AI윤석열, 더불어민주당 AI챗봇 등 인공지능(AI)이 정치캠페인에 활용되었지만 큰 위력을 발휘하지 못했다. 2024년 총선거에서도 AI가 힘을 쓰지 못했다. 그러나 유세 중에서 AI가 강조되지는 않았지만, AI가 생성한 딥 페이크와 허위정보가 적발되기도 했다고 외교전문 매체인 ‘더 디플로매트’가 지난 13일(현지시간) 보도했다.

한국에서는 가짜가 판치는 선거 캠페인이 크게 우려되었다. 뉴스, SNS, 정보 환경은 이미 가짜뉴스로 넘쳐났다. 국회 국방위원회 전직 직원은 한국에서 가장 인기 있는 메시징앱인 카카오톡이 플랫폼에 전달되는 이른바 ‘찌라시(가짜뉴스와 음모론)’의 양으로 인해 한국의 ‘가장 큰 잘못된 정보 소스’라는 악명이 붙기도 했다. 한국 언론재단의 2018년 조사에 따르면, 응답자의 69.2%가 SNS 사이트에서 조작되거나 허위 정보를 발견된 것으로 나타났다.

나아가 한국언론진흥재단의 ‘디지털 뉴스 보고서 2023’에 따르면, 한국인의 53%가 유튜브를 주요 뉴스 소스로 활용하고 있다는 점을 강조, 주류 뉴스 매체에 대한 신뢰도가 낮다는 것으로 보여줬다.

2022년 한국의 공식 언론 매체인 YTN은 유튜브 채널 ‘공병호 TV’가 2022년 대선과 관련된 잘못된 정보를 유포했다고 비난하는 유튜브 동영상을 게시했다. 하지만 영상 속 댓글은 콘텐츠 제작자 공병호 편을 드는 경향이 있었다.

또 합법적인 매체를 모방하여 청중을 혼란스럽게 하는 사이트를 포함하여 많은 한국 가짜 뉴스 사이트가 존재한다. 예를 들어 가짜뉴스 사이트 ‘노컷 일베’는 합법적인 사이트 인 노컷뉴스 의 상표와 명칭을 침해하고 있다.

이러한 우려와 상황을 고려할 때, 2024년 국회의원 선거에 대한 성찰은 한국이든 해외든 향후 선거에서 가짜 뉴스와 AI 기반 허위 정보에 맞서 싸울 수 있는 시사점을 제공하고 있다고 매체는 소개했다.

* 이전 허위사실 기재 사례

AI에 대한 우려가 커지기 전부터 한국에서는 허위정보가 국내에서 정치적으로 이용되는 일이 발생했다. 2017년 박근혜 전 대통령 탄핵 당시 양당은 소셜미디어(SNS)에서 허위정보를 활용했다. 예를 들어, 탄핵 반대 정치인들은 도널드 트럼프 당시 미국 대통령이 탄핵에 반대했고, 그 배후에 북한이 있다는 허위 주장을 했다.

같은 해 미국의 고고도미사일방어체계(THAAD, 사드)의 한국 지상 배치 논란이 일자 사드가 암을 유발하는 전자파를 방출한다는 소문도 돌았다. 사드 반대 민주당 의원들은 촛불 집회에 참석해 사드 위협의 위협을 강조하는 노래를 불렀고, 사드 반대 시위는 2020년까지 계속됐다.

2018년 문재인 전 대통령의 측근이자 김경수 전 경남도지사가 '파워블로거' 드루킹과 협력해 문재인 대통령에 대한 검색결과와 온라인 인식을 조작한 사실이 2018년 드러낸 드루킹 게이트 사건이다.

국내 정치적 경쟁 외에도 외국의 적, 특히 북한과 중국도 허위 정보 확산에 관심을 갖고 있다. 한국 자유민주연구원은 2018년 북한이 대남 선전정보전을 위해 7000명의 요원을 고용하고 있다고 보고했다.

2022년에는 2014년까지 정찰총국 대령급 부관을 지낸 한 탈북자가 북한의 사이버 부대가 2000년대 초반부터 한국 여론에 영향을 미치고 있다고 확인했다. 탈북민은 2012년 대선 당시 박근혜, 안철수 후보에 대해 부정적인 글을 쓰는 등 영향력 있는 활동을 했다고 털어놨다. 흥미롭게도 탈북자는 드루킹 게이트에도 북한의 작전이 관여했다고 언급했다.(그러나 아직까지 확인된 것은 없다.)

중국은 한국의 민주주의를 훼손하고 아시아에 대한 미국의 전략적 이익을 방해하기 위해 정보 작전과 허위 정보 캠페인을 실시하고 있다. 2020년 국회의원 선거를 앞두고, 중국 조선족 내부 고발자가 친중 정서를 조장하기 위해 허위사실을 유포했다고 자백했다. 2021년 대선에서 가천대학교 교수는 한국 최대 웹 포털인 네이버 댓글을 통해 중국의 어젠다를 홍보하는 계정이 50개가 넘는 것을 확인했다. 지난해 국가정보원은 중국 홍보업체 2곳이 친중·반미 선전을 위해 운영하는 한국어 뉴스 사이트 38곳도 적발했다.

* 2024년 국회의원 선거 정보조작

2024년 국회의원 선거에서도 비슷한 허위정보 문제가 발생했지만 AI가 관련됐다. 중앙선거관리위원회는 1월 29일부터 2월 16일까지 129개의 선거 관련 딥 페이크를 발견했다고 발표했다.

2023년 12월에는 윤 대통령이 비리를 인정한 것으로 추정되는 46초 분량 의 딥 페이크 영상이 업로드 됐다. 해당 영상은 2024년 2월 큰 인기를 끌었고 방송통신심의위원회(KCSC)가 만장일치로 해당 영상을 차단했다. 이 딥 페이크는 사실 딥 페이크가 아니라 기존의 영상을 패러디 편집한 것이라는 문구를 영상 맨 앞에 게시했지만, 일부 정부 기관에서는 딥 페이크로

딥 페이크는 AI의 접근성으로 인해 소셜미디어 플랫폼에 확산됐다. 그러나 중국이 AI 생성 콘텐츠를 이용해 2024년 미국, 한국, 인도 선거에 영향력을 행사하려 한다는 마이크로소프트의 경고와 북한 해커들이 AI 생성 콘텐츠를 이용해 선거에 영향력을 행사한다는 국정원의 경고 에도 불구하고 이러한 해외 개입은 관찰되지 않았다.

* 선거 관련 허위정보에 대한 노력

AI 기반 허위 정보의 제한된 영향은 선거의 무결성을 보호하려는 민간 및 공공 부문의 노력 때문일 수 있다.

2022년 5월 지방선거를 앞두고 윤 대통령이 지역 후보를 지지하는 것처럼 보이는 딥 페이크 영상이 유포되면서 2023년 공직선거법 개정으로 이어졌다.

개정안은 선거일 전 90일의 캠페인 기간 동안 선거 관련 딥 페이크 영상, 사진, 오디오를 금지했다. 위반자는 최대 7년의 징역 또는 최대 $37,500(약 5,000만 원 이상)의 벌금에 처해질 수 있다. 캠페인 모토, 노래 가사, 연설을 생성하기 위해 챗GPT(Chat GPT)를 사용하는 것은 계속 허용된다.

이번 개정 이후 민간 부문에서도 완화 접근 방식을 취했다. 네이버는 지난 1월 AI 챗봇 서비스에서 부적절한 콘텐츠를 생성하지 않을 것이며, 개정된 선거법을 위반하는 콘텐츠가 있는지 플랫폼을 모니터링하겠다고 밝혔다. 카카오는 지난 3월 AI가 생성한 콘텐츠에 워터마크를 생성하는 ‘카를로 AI 프로파일(Karlo AI Profile)’을 출시했다. 국내 생성 AI 기업 딥 브레인AI(Deepbrain AI)도 딥 페이크 추적 및 선거범죄 대응 탐지 솔루션을 맞춤화하기 위해 경찰청과 협력한다고 발표했다.

이 밖에도 네이버, 카카오, SK커뮤니케이션즈가 체결한 선거 관련 딥 페이크 악의적 이용 방지를 위한 공동선언, LG가 체결한 글로벌 AI 선거 협약 등 민간 차원의 이니셔티브도 표면화됐다.

* 허위 정보에 맞서기 위한 요점

한국에는 아직 AI 법률이 없지만, 최근 선거, AI를 기반으로 한 허위 정보에 맞서기 위한 노력, 정보 환경은 몇 가지 주목할 만한 시사점을 제공한다.

첫째, 딥 페이크에 맞서기 위해 공공 부문과 민간 부문이 협력해야 한다. 한국의 노력에서 볼 수 있듯이, 공공 부문은 악성 딥 페이크를 금지하는 규정을 통과시켜야 하며, 민간 부문은 위협에 맞서기 위해 필요한 기술 솔루션을 구축하거나 완화 조치를 취해야 한다. 따라서 AI 관련 규정을 만들고, 제정하는 데 민관 협력이 있으면 효율성이 높아질 것이다.

둘째, AI를 활용한 허위정보와의 전쟁에서는 신중하게 단속해야 한다. 한국에서는 이러한 노력이 정치적 이익을 위해 활용됐다. 예를 들어, 2014년 세월호 사건 이후 박근혜 당시 대통령이 카카오를 단속하면서 많은 카카오 이용자들이 텔레그램으로 전환하게 됐다.

윤석열 대통령은 더 우려스럽진 않더라도 비슷한 조치를 취했다. 2022년 9월 대통령이 미국 국회의원에 대해 욕하는 오디오 클립을 공개한 MBC 핫 마이크 클립(MBC hot mic clip) 사건 이후 윤 대통령은 MBC를 가짜 뉴스 보도 혐의로 비난하고 MBC 기자들의 대통령 비행기 탑승을 금지하기도 했다. (그러나 이 사건도 아직 분명한 결론을 내지 못하고 있다. 많은 국민들은 아직도 ‘바이든’이냐 ‘날리면’이냐를 두고, 논란을 벌이고 있다. 꽤나 많은 사람들은 ‘바이든’으로 들린다며 말하고 있는 것에 대해, 억지 주장을 한다며 논쟁은 끝나지 않고 있다.)