[아이뉴스24 김효진 기자] 세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 음란 '딥페이크'(가짜 영상·이미지) 이미지가 온라인상에서 확산해 논란이 일고 있다.
이 음란물이 인공지능(AI) 기술로 만들어진 것이라는 추정이 나오면서, 백악관은 딥페이크를 규제하는 법안을 고려해야 한다고 밝혔다.
26일(현지 시각) 워싱턴포스트와 CNN 등에 따르면, 최근 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 엑스(X·옛 트위터) 등 SNS에서 확산했다.
X 측은 해당 계정을 정지 조치했지만, 삭제되기 전까지 4500만회 이상 조회수를 기록한 것으로 알려졌다. 이후 해당 이미지는 페이스북, 인스타그램, 레딧 등 다른 소셜미디어 플랫폼에서도 발견됐다.
X는 성명을 통해 "확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다"며 "추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다"고 밝혔다.
스위프트의 팬들은 해당 이미지 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 "테일러 스위프트를 보호하라"는 문장과 함께 관련 키워드를 달아 올리며 스위프트의 합성 음란물이 검색에 노출되는 것을 막기 위해 노력했다.
AI 탐지를 전문으로 하는 사이버 보안업체 리얼리티 디펜더 창립자인 벤 콜먼은 뉴욕타임스에 "스위프트 딥페이크 이미지가 AI 모델을 사용해 생성된 것으로 90% 확신한다"고 말했다.
이에 따라 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 거세지고 있다. 현재 미국 9개 주에서는 AI를 이용한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없다.
카린 장 피에르 백악관 대변인은 브리핑에서 "매우 우려스러운 일"이라며 "우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산하는 것을 방지하기 위해 소셜미디어 업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다"고 말했다.
또한 "조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다"고 덧붙였다.
/김효진 기자(newhjnew@inews24.com)
--comment--
첫 번째 댓글을 작성해 보세요.
댓글 바로가기