"불법·피해촬영물 꼼짝마!"…인공지능이 빠르게 찾고 삭제한다

[아이뉴스24 정종오 기자] 인공지능(AI)이 불법촬영물 유포를 막는데 큰 도움이 되고 있는 것으로 나타났다. 서울시가 AI를 도입한 결과 디지털성범죄 영상 모니터링이 1265% 증가했다. 삭제지원도 2배가량 늘었다.

서울시가 디지털성범죄 예방과 피해자 지원을 위해 AI 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만7440건(올해 3~10월)의 영상물을 모니터링하는 성과를 냈다.

이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때(3만3511건, 2022년 같은 기간)와 비교하면 무려 1265%나 상승한 규모다.

서울시는 디지털성범죄 예방과 피해자 지원을 위해 2022년 3월 ‘서울 디지털성범죄 안심지원센터’(서울특별시여성가족재단 운영)를 개관한 바 있다. 올해 3월에는 개관 1년을 맞아 서울연구원과 함께 전국 최초로 AI 삭제지원 기술을 개발‧도입했다.

AI 삭제 지원 기술은 사회관계망서비스(SNS) 상의 피해영상물을 24시간 실시간 자동으로 추적‧감시해 찾아내는 역할을 하고 있다.

피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 걸렸다. AI 기술은 3분 만에 찾아내 검출시간이 97.5%가 단축됐다.

SNS 특성상 전파‧공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 24시간 모니터링이 반드시 필요하다. AI는 자동 모니터링이 가능하기 때문에 사람이 일하지 않는 새벽시간대에도 모니터링이 가능하다. 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점이 있다.

서울시는 디지털성범죄 AI 삭제지원 프로그램이 올해 처음 적용된 만큼, 앞으로 AI 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다.

서울시는 ‘서울 디지털성범죄 안심지원센터’를 통해 피해영상물 삭제지원은 물론, 긴급상담부터 수사‧법률지원, 심리치료‧의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월 말까지 392명의 피해자를 지원했다.

서울시가 지원한 피해자의 연령대는 10~20대(51%, 200명)가 가장 높은 비율을 차지했다. 이중 10대 비율은 13.5%(53명)이었다.

한편 서울시는 디지털성범죄뿐 아니라 스토킹 피해자, 아동‧청소년을 대상으로 한 성착취 등 최근 증가하고 있는 신종 성범죄에 대한 예방과 지원에 최선을 다하고 있다.

스토킹 범죄의 경우 피해자의 안전과 일상회복을 위해 올해 9월 전국 최초의 전담 조직인 ‘스토킹 피해자 원스톱지원 사업단’을 출범했다. 서울 경찰과 긴밀한 공조 아래 출범 한 달 만에 총 200건, 39명을 지원했다.

스토킹 가해자 76.7%가 연인, 배우자, 직장동료 등 가까운 관계인 경우가 많고, 피해자와 거주지‧직장 등이 노출된 경우가 많은 만큼 피해자의 ‘안전’을 최우선으로 지원한다.

서울시는 갈수록 심각해지는 성착취로부터 아동‧청소년을 보호하기 위해 전국 최초로 ‘서울특별시 아동·청소년 성착취 방지 및 피해자 지원 조례’를 2022년 10월 제정했다.

피해 아동·청소년이 경찰 조사를 받을 때 상담원을 파견하는 ‘전문상담원 동석지원 제도’를 신설하고, ‘인권보호 안내서’를 서울시 소속 경찰서 31곳에 제작·배포하는 등 피해 지원에 나서고 있다.

오세훈 서울시장은 “n번방 사건 등 디지털 성범죄는 우리 사회에 큰 충격을 줬고 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다”며 “서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.