[아이뉴스24 정승필 기자] 오픈AI가 인공지능(AI)이 만든 글을 식별할 수 있는 텍스트 워터마크를 도입한다. 유럽연합(EU) AI법이 요구하는 생성형 AI 투명성 규정에 대응하기 위한 조치다.
5일(현지시간) 오픈AI는 AI 생성 글을 식별하는 기술인 '텍스트그레인'을 도입한다고 밝혔다.
텍스트그레인은 AI가 문장을 만들 때 단어를 선택하는 과정에 미세한 통계적 신호를 넣는 방식이다. 사람이 읽는 글의 내용이나 가독성에는 영향을 주지 않으면서 별도 탐지 도구로 AI 생성 여부를 확인할 수 있다.
다만 한계도 있다. 문장이 짧거나 수학 공식처럼 단어 선택 폭이 좁은 글은 식별 정확도가 떨어질 수 있다. 생성된 글을 사용자가 수정해도 탐지가 어려워진다.
오픈AI에 따르면 400토큰 분량 글에서 단어 10%를 유의어로 바꾸면 식별률은 92%에서 66%로 떨어진다. 25%를 교체하면 17%까지 낮아진다.
텍스트그레인은 앞으로 몇 주 안에 EU 지역 챗GPT와 코덱스 결과물에 적용된다. 개발자용 응용프로그램 인터페이스(API)는 기본적으로 기능을 끈 상태로 제공하며 기관이 필요에 따라 활성화할 수 있다.
워터마크 탐지 도구는 승인받은 연구자와 전문기관에 우선 제공할 예정이다.
한편, 앤트로픽도 지난 8월 유사한 기능을 도입했고, 구글은 제미나이에 '신스ID-텍스트'를 적용하고 있다.
/정승필 기자(pilihp@inews24.com)