로블록스, '아동 착취' 대화 감지하는 '로블록스 센티널' 도입

[아이뉴스24 박정민 기자] 로블록스(Roblox)는 아동 학대·위협 관련 대화를 조기에 감지할 수 있는 인공지능(AI) 시스템 '로블록스 센티널(이하 센티널)'을 8일 공개했다.

센티널은 로블록스가 오픈소스로 제공하는 안전 도구로, 그루밍 범죄로 이어질 수 있는 소통 패턴을 식별하도록 설계됐다.

로블록스는 센티널을 통해 지난해 말부터 '아동 착취' 대화에 신속히 대응할 수 있도록 지원한 바 있다. 올 상반기에만 아동 착취 시도로 의심되는 약 1200건의 사례를 센티널로 감지해 미국 국립아동실종학대방지센터(NCMEC)에 신속히 보고했다.

로블록스는 안전을 강화하기 위해 센티널과 숙련된 전문인력의 협업을 지원하고 있다. 전문가들이 AI가 위험하다고 판단한 사례를 직접 검토하며, 로블록스는 판단을 기반으로 사례·지표·학습 데이터를 축적해 기술을 지속적으로 보완한다.

맷 코프먼 로블록스 최고안전책임자(CSO)는 "AI는 로블록스가 안전을 강화하고 이용자들을 보호하는 데 핵심적인 역할을 하고 있다"며 "앞으로도 로블록스는 관련 기술을 공유하고, 업계 선도 기업들과 협력해 인터넷을 더욱 안전한 공간으로 만들 수 있도록 노력할 것"이라고 밝혔다.