[아이뉴스24 정유림 기자] 네이버가 날씨 요약 정보에 인공지능(AI) 활용 사실을 표기하는 등 안전성 체계(ASF 2.0)의 구체적인 사례를 담은 보고서를 16일 발간했다.
ASF 2.0은 AI 모델의 성능과 위험 수준을 비롯해 이용자·서비스 보호까지 포괄하는 네이버의 AI 안전성 관리 체계다. 네이버의 서비스에 AI를 적용하는 '온서비스 AI' 전략과 전 세계 AI 생태계, 정책·제도 환경의 변화 등을 다각적으로 반영해 AI 서비스의 설계·개발부터 출시·운영에 이르는 전 과정에서 안전성을 체계적으로 관리하는 것을 목표로 한다.
이번 보고서에서는 ASF 2.0과 이를 기반으로 한 실행 체계(CHEC 2.0)가 실제 서비스에 어떻게 적용되고 작동하는지 구체적인 사례와 함께 담겼다.
네이버는 AI 서비스에서 발생할 수 있는 위험을 법률·사회·산업적 사례를 바탕으로 110개 세부 항목으로 분류한 AI 위험 분류·식별 체계(N-ARTI)를 마련했다. 이 체계는 서비스별 특성을 반영하면서도 전사적으로 일관된 안전 기준을 적용할 수 있도록 AI 위험을 체계적으로 식별·분류한다. 이를 바탕으로 생성형 AI 서비스가 제공하는 정보가 사전에 설정된 안전 기준을 벗어나지 않도록 관리하는 '가드레일'을 구축할 수 있다.
생성형 AI 서비스가 제공하는 답변의 안전성을 평가하는 체계(N-ASET)도 구축했다. 이는 AI 서비스의 응답을 유해성과 사용성이라는 2가지 관점에서 종합적으로 평가하는 도구다. 단순히 유해한 답변을 차단하는데 그치지 않고 이용자의 질의에 적절하게 대응했는지까지 함께 살펴 안전성과 서비스 유용성을 균형 있게 평가할 수 있도록 설계됐다.
보고서는 이용자의 쇼핑을 돕는 AI 쇼핑 에이전트, 날씨 서비스 등에서 AI 활용 사실을 표시·고지해 이용자에게 안내한 사례도 소개했다. AI 안전성을 위한 조치가 실제 서비스에서 어떻게 구현되고 있는지 이용자가 직관적으로 이해할 수 있도록 소통한다는 취지다. 지난 6월 선보인 대화형 AI 검색 서비스 AI탭도 실행 체계를 기반으로 설계부터 출시까지 전 과정에서 AI 안전성을 점검한 대표 사례다.
네이버는 앞으로도 한국과학기술원(KAIST), 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계·전문 기관과의 협력을 확대하며 AI 서비스에서 발생할 수 있는 위험을 선제적으로 파악하고 예방·완화하기 위한 연구와 실천을 이어간다.
원성재 네이버 AI 세이프티 센터장은 "네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 AI 안전성 체계를 꾸준히 고도화하고 적용해 나갈 것"이라고 밝혔다.
/정유림 기자(2yclever@inews24.com)