KT, 한국 특화 AI 벤치마크 'KSAFE-MM' 공개

[아이뉴스24 안세준 기자] KT(대표 박윤영)는 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다고 16일 밝혔다.

KSAFE-MM은 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT와 고려대학교가 공동 개발했다. 총 1만4135개 평가 샘플로 구성돼 있다. 국내 최대 규모 한국어 멀티모달 안전성 평가 데이터셋이다.

글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 이슈를 반영한 'KSAFE-MM-C'로 구성된다.

KT는 RAI 전담 조직을 중심으로 안전 리스크 분류 체계 설계, 평가 지표 및 로직 구현 등 연구 전반에 핵심적 역할을 수행했다. KT Responsible AI 전담 조직은 최근 다국어 텍스트 벤치마크 'XL-SafetyBench'를 공개한 데 이어, KSAFE-MM을 별도 연구로 선보이며 한국형 AI 안전성 평가 생태계를 선도하고 있다.

박재형 KT AX미래기술원 Frontier AI Lab장(상무)은 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.