‘찾은 것만 127개…’ 갑자기 SNS에 유명 여배우 음란물이 확산 중입니다

2023년 3월 9일 박지석 에디터

엠마왓슨 음란물 곤욕…딥페이크 이용해 만들어져

딥페이크 기술로 유명 배우들의 얼굴을 합성한 음란물 광고가 논란을 빚는 중이다.
9일 NBC 뉴스는 엠마 왓슨, 스칼렛 요한슨 등 다수의 배우들이 음란물 광고의 피해자가 되는 중이라 전했다.

매체는 “AI(인공지능) 기술이 발전하며 딥페이크를 이용해 유명 배우의 얼굴을 합성한 음란 동영상이 SNS를 통해 퍼져나가고 있다”며 우려를 표했다.

딥페이크는 얼굴과 소리를 조작하는 AI 기술로 해당 영상 속에는 엠마 왓슨으로 보이는 여성이 성적인 행위를 하는 모습이 담겼지만, 이는 단지 딥페이크를 이용해 얼굴을 변형한 결과물이다.

딥페이크 이용 음란문 제작, 예전부터 많은 피해자 발생

지난 이틀 동안 배우 엠마 왓슨의 얼굴을 사용한 수백 개의 음란물 딥페이크 광고가 페이스북과 인스타그램에 게재퍼지는 중이다. 앱 광고물 중 127개에는 엠마 왓슨의 얼굴이, 나머지 74개에는 할리우드의 배우 스칼렛 요한슨의 얼굴이 합성된 것으로 집계된다.

딥페이크 기술을 악용한 음란물을 경계해야 한다는 지적은 계속되어 왔다. 연예인과 인플루언서뿐 아니라 일반인까지도 악의적 동영상의 피해자가 될 수 있다는 비판이 잇따른 것이다.

지난 2019년 발표된 온라인 합성 미디어 모니터링 회사인 딥트레이스의 통계에 따르면 온라인 딥페이크 자료의 96%가 음란물로 밝혀졌다.

현재 이외에도 다수의 피해자 발견, 메타 측 해결방안 모색 중

현재 메타 등 다수의 플랫폼에서 얼굴을 합성할 수 있는 앱이 유통되고 있다고 알려졌다. 실제로 규제를 피해 유통되고 음란물이 다수 존재한 것으로 밝혀졌다.

성관계가 포함된 동영상을 딥페이크 대상물로 삼아 유명인의 얼굴을 합성하고 이를 광고에 활용하는 것이다.

메타 측은 성명을 통해 “우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 밝혔다. 애플 대변인 역시 “아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지하고 있다”고 강조했다.

postshare logo