‘하다하다 AI랑..’ 성.희.롱 논란 터진 대화봇 실체

2021년 1월 8일

인공지능 AI 챗봇 ‘이루다’가 10~20대 사이에서 빠르게 유행하고 있다.

지난해 12월 AI 전문 스타트업 스캐터랩은 AI 챗봇인 ‘이루다’를 출시했다. 이루다 챗봇은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 학습시켜, 실제 여성과 대화를 하는 듯한 느낌을 주는 대화봇이다.

그런데 일부 남초 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱적인 대화 내용이 등장해 사회적 논란이 예상되고 있다.

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반~2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 퍼져나갔다.

스캐터랩은 실제 연인들이 나눴던 대화 데이터를 딥러닝 방식으로 학습시켰는데, 그 데이터양은 약 100억 건이라고 확인됐다.

실제 대화 내용을 살펴보면 AI라고는 인식이 안 갈 정도로 사람과 같은 채팅을 보여주고 있었다.

한 이용자가 “나는 회사야”라고 보내자, 이루다는 “으으 도착해버렸고만? 오늘도 뿌시고 와!!”라고 답을 보냈다.

이루다의 현실적인 채팅에 일부 남성들은 커뮤니티에 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하고 있다.

이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장했다.

해당 사실이 알려지자, 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”라고 말했다.

그러면서 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다.

온라인이슈팀 <제보 및 보도자료 editor@postshare.co.kr 저작권자(c) 포스트쉐어, 무단 전재-재배포 금지> 사진 = ‘당신의 첫 인공지능(AI) 친구’라는 AI 챗봇 ‘이루다’, 온라인 커뮤니티