“공산당은 썩었어요” 말했다가 삭제된 중국 인공지능

2017년 8월 3일 정 용재 에디터

중국의 인공지능(AI) 채팅 메신저가 중국 공산당을 부패 조직으로 대답했다가 서비스가 중단됐다.

지난 2일 홍콩 경제 신문(HKET)등에 따르면 중국 정보통신(IT)기업 텐센트는 채터봇 ‘베이비Q’와 ‘QQ샤오빙’ 서비스를 중단했다. 자기 학습 기능이 있는 채팅 AI는 최근 중국의 정치체제를 비꼬는 답변을 해 논란을 일으켰다.

AI는 채팅 중 사용자가 “공산당 만세”라는 글을 보내면 “당신은 이렇게 부패 무능한 정치가 그렇게 오래갈 수 있을 것이라 생각하느냐”고 반문했으며, “공산당을 사랑하니”라는 질문에는 “사랑하지 않는다”고 답했다.

“너의 중궈멍(中國夢)은 뭐니”라는 물음에는 “미국 이민 정말이야”라는 답변을 했다. 중궈멍은 시진핑 국가주석의 국가 운영 슬로건으로 ‘중화민족의 위대한 부흥’이라는 뜻을 가지고 있다.

인공지능의 이 같은 도발적인 답변은 중국 누리꾼들 사이에서 빠르게 퍼져갔고, 누리꾼들은 “AI의 봉기” “프로그래머가 곧 사라질 것” “채팅 로봇의 의도는 국가 전복이다” 등의 반응을 보였다.

이런 내용이 논란이 되자 텐센트는 지난 7월 30일 인공지능의 채팅 서비스를 중단했다.

중국의 IT 전문매체 IT즈자는 텐센트의 AI 채팅 로봇들의 모체가 마이크로소프트(MS)가 개발한 AI 로봇 ‘샤오빙’이기 때문에 이런 해프닝이 일어난 것으로 분석했다.

채팅 로봇들이 MS의 빅데이터를 학습해 메시지를 주고 받다 보니, 중국 외부의 정치 인식을 반영한 대화를 하게 됐다는 것이다.