핀란드의 법무부 의뢰를 받아 실시한 유토피아 애널리틱스(Utopia Analytics)의 연구 결과 온라인 증오 발언이 토론 포럼에서 자주 나타나는 것으로 밝혀졌다.

이 보고서에 따르면 토론 포럼이 전체 확인된 증오 발언들 가운데 97%를 차지했다. 다음으로 많은 수의 증오 발언이 발견된 플랫폼은 트위터 메시지로, 전체의 2.5%를 차지했고 인스타그램은 0.2%를 차지했다. 한편 블로그와 뉴스 코멘트, 공공 페이스북 메시지는 전체 증오 발언 발견 건수의 0.02%를 차지했다. 페이스북 그룹 같은 비공개 토론 페이지는 데이터에서 제외했다.

법무부의 ‘증오에 대한 사실(Facts Against Hate)’ 프로그램의 일부로 진행되는 이 프로젝트는 온라인 환경에서 인공지능(AI) 기술을 통해 증오 발언을 감지하는 방식을 채택했다. 이 프로젝트는 머신러닝 결과와 수작업 평가를 병행해서 이뤄졌다. 여기에서 가장 중요한 목표는 증오 발언의 주된 채널을 찾아내고 각기 다른 플랫폼 간에 증오 발언 유형의 차이점을 확인하는 것이었다.

증오 발언의 정의는 사회과학 분야 학술 연구에 근거한다. 이 정의는 증오 발언 유형을 분류하고 온라인 메시지 데이터 속에서 증오 발언의 사례를 수작업으로 찾아내는데 이 분류 유형을 사용했다. 이러한 주석은 텍스트 분석과 머신러닝 알고리즘을 사용하는 언어와는 무관한 툴인 유토피아의 AI 모더레이터(AI Moderator)에 데이터를 공급하는데 사용됐다. 이 데이터는 2020년 9월부터 10월 사이에 수집된 1200만건의 핀란드어로 된 코멘트와 포스팅으로 구성됐다.

이를 통해 매달 핀란드의 소셜 미디어 공공 플랫폼상에서 15만건의 메시지가 증오 발언을 포함하고 있음이 밝혀졌다. 이는 전체 메시지 가운데 1.8%에 해당되는 수치다.

글로벌 차원의 공공 소셜 미디어 플랫폼 가운데 트위터가 가장 많은 증오 발언을 포함해 7450건(0.14%)의 증오 발언이 발견됐다. 그러한 메시지를 확산시키는 가장 중요한 수단은 리트윗이어서 전체 증오 발언 트윗 가운데 39%가 리트윗인 것으로 밝혀졌다.

유토피아의 CEO인 마리 사나 포케리(Mari-SannaPaukkeri)는 “우리가 분석했던 메시지들은 거의 모두가 핀란드어 메시지였지만 다른 언어 메시지에서도 패턴은 거의 비슷하게 나온다. 예를 들어 핀란드의 가장 대표적인 증오 발언 플랫폼인 일리아우타(Ylilauta)는 포챈(4chan)과 자매 사이트에 해당된다. 우리는 단 2주 만에 다른 언어로 증오 발언 분석을 위한 AI 모델을 구축할 수 있다. 개별 문화권에서 어떤 발언이 증오 발언인지를 정의해줄 수 있는 단 한 명의 언어 및 문화 전문가만을 필요로 하며 이를 통해 데이터 분석을 할 수 있다”고 말했다.