사용자들이 ‘불쾌감’을 보고한 콘텐츠 70% 이상이 유튜브 알고리즘에 의해 추천된 것이라는 연구 결과가 나왔다.

8일 에포크타임스에 따르면 소프트웨어 비영리단체인 모질라 재단은 지난 10개월간 91개국에서 지원자 3만 7380명의 유튜브 사용 경험을 추적한 연구 결과를 7일(현지시각) 발표했다.

모질라 연구진은 지원자들에게 크라우드 프로그램에 참여하도록 한 뒤, 유튜브에서 성적인 내용, 코로나19에 대한 공포감 조장, 잘못된 정치 뉴스, 부적절한 어린이용 만화 등 시청 후 불쾌감이 느껴지는 콘텐츠를 보고하도록 했다.

이런 콘텐츠가 보고되면 크라우드 프로그램은 해당 콘텐츠에 대해 유튜브가 추천한 것인지, 지원자가 직접 찾은 것인지 추적했다.

그 결과 지원자들은 작년 7월부터 올해 5월까지 10개월 동안 총 3362개의 콘텐츠를 신고했는데 이 중 71%가 유튜브 알고리즘이 추천한 콘텐츠였다.

지원자들이 관람 후 불쾌함을 느낀 사유로는 ‘잘못된 정보’가 가장 많았고 이어 ‘폭력적 또는 사진 콘텐츠’ ‘증오 발언’ ‘스팸 또는 사기’ 순이었다.

모질라는 이날 성명을 통해 유튜브가 지원자들에 추천했다가 신고당한 영상 200여 건을 삭제했지만, 이미 해당 영상 조회 수가 1억 6천만 회를 넘어선 뒤였으며 해당 영상 중 일부는 유튜브 자체 규정마저 위반한 것들이라고 전했다.

모질라 측은 “유튜브는 알고리즘이 사람들에게 유해하고 잘못된 정보를 주는 식으로 설계됐음을 인정해야 한다”며 “이번 연구는 유튜브가 자체 정책을 위반하는 동영상을 허용하고 있으며, 사용자들에게 적극적으로 추천하고 있음을 확인시켜줬다”고 말했다.

또한 사용자들이 거부하는 영상을 추천한다면 알고리즘은 누구를 위한 것인지 의문을 제기하면서 “이번 발견은 빙산의 일각”이라며 유튜브의 인공지능에 대한 투명성이 왜 필요한 것인지 정치권과 국민들의 관심을 환기할 수 있기를 희망했다.

유튜브 대변인은 이에 대해 유해하다고 규정된 영상을 추천하는 경우를 전체 조회된 영상의 1% 미만으로 줄이려 조처했다고 밝혔다.

대변인은 유튜브가 이 분야에 대한 연구를 확대하고 있으며 외부 연구자들을 초빙하는 방안도 검토 중이라고 밝혔다.

모질라는 또한 이번 보고서에서 브라질, 독일, 프랑스 등 비영권 국가에서 시청 뒤 후회하게 되는 콘텐츠의 비율이 60% 이상이었다고 밝혔다.