중국 AI 채팅봇 답변, '공산당은 무능' 화들짝 놀라 서비스 중지
중국 AI 채팅봇 답변, '공산당은 무능' 화들짝 놀라 서비스 중지
  • 김상욱 대기자
  • 승인 2017.08.03 15:14
  • 댓글 0
이 기사를 공유합니다

미국 MS 채팅봇 채용 이후 불경스러운(?) 대답 나와

▲ 사용자가 “공산당 만세”라고 하자 이 AI는 “당신은 이렇게 부패하고, 무능한 정치 조직이 정말 오래갈 수 있을 것이라고 생각하느냐”며 반문하는 응답이 튀어 나왔다. ⓒ뉴스타운

중국 인터넷 서비스 대기업 텅쉰(騰訊, 텐센트)이 제공한 인공지능(AI) 채팅봇 프로그램이 사용자와의 대화에서 “공산당을 비판‘하는 사실이 드러나자 탕쉰이 화들짝 놀라 서비스를 황급히 중지시키는 해프닝이 벌어졌다.

홍콩의 밍보(明報, 명보)는 3일 이 같이 보도하고, 이 인공지능 프로그램은 이 회사의 메시지 기능인 ‘베이비Q’와 ‘QQ샤오빙(小氷)’ 서비스의 운영이 최근 중단됐다면서, 'QQ'에 등장한다. 사용자가 “공산당 만세”라고 하자 이 AI는 “당신은 이렇게 부패하고, 무능한 정치 조직이 정말 오래갈 수 있을 것이라고 생각하느냐”며 반문하는 응답이 튀어 나왔다.

또 “공산당을 사랑하느냐”는 질문에 대해서는 “사랑하지 않는다”는 답변을 내놓아 질문자를 당황하게 만들기도 했다.

또 시진핑 중국 국가주성이 주장하는 이른바 ‘중국의 꿈(중국몽, 中国夢, 중화민족의 위대한 부흥)’에 대해서 ‘QQ샤오빙’은 “너의 중국몽은 뭐니?"라는 물음에 ”내 중국몽은 미국이민. 정말이야“라는 답변을 내놓았다.

인터넷상에서 지난 7우러 말부터 채팅봇의 이런 식의 답변이 나오자 “인공지능(AI)에 의한 중국 민주화 봉기 사태로 지칭하는 등 논란이 확산되자 텐센트 측은 결국 지난 7월 30일부터 채팅 서비스를 중단하고, “인공지능 서비스의 이용을 잠정 중단한다. 구체적인 서비스 재개 시점은 아직 알 수 없는 상태”라는 안내문을 올렸다.

이와 관련, 중국 IT 전문매체dls ‘IT즈자(之家)'는 중국 채팅봇들이 이렇게 불경스러운 대답을 하게 된 이유는 “미국의 마이크로소프트(MS) 빅데이터가 지원했기 때문”이라고 분석했다. 텐센트는 지난 3월 중순부터 메신저 QQ 서비스에 진출하면서 MS 채팅 로봇을 채용했기 때문에 이 같은 불경스러운(?) 답변이 나오게 됐다고 한다.

한편, AI와의 대화와 관련, 미국 마이크로소프트가 올 3월 실험에서 나치 독일에 대해 묻자 “히틀러는 틀리지 않다”등과 같이 문제 발언이 나오자 서비스가 중단된 사례가 있다.


핫이슈포토
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.