[아이뉴스24 최효경 기자] 셀렉트스타는 자사의 금융 인공지능(AI) 안전성 평가 연구 논문이 데이터 마이닝 분야의 세계적 권위 학회인 'IEEE ICDM 2026(IEEE International Conference on Data Mining 2026)' 메인 콘퍼런스에 채택됐다고 5일 밝혔다.
'IEEE ICDM'은 데이터 마이닝 분야의 세계적인 국제학술대회로, 컴퓨터과학 분야 국제학회 평가 지표인 ICORE에서 최고 등급인 A로 평가받는 톱티어 학회다. 셀렉트스타의 논문은 전체 투고 논문 가운데 174편(약 8.9%)에만 주어지는 구두 발표 논문으로 선정됐다.
채택된 논문은 'FinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming(금융 LLM 레드티밍을 위한 전문가 기반 벤치마크 생성 및 평가 프레임워크)'이다.
셀렉트스타는 금융보안 전문가의 지식과 실제 금융 문서를 결합해 현실적인 위험 시나리오를 생성하고, AI 답변의 유해성과 위험 행위 지원 여부 등을 종합적으로 판정하는 AI 안전성 평가 프레임워크 'FinRED(핀레드)'를 구축했다.
FinRED는 금융 전문가의 판단을 반영한 평가 기준으로 AI가 생성한 답변이 실제로 위험한 행위를 지원하는지 평가하는 기술이다. FinRED의 금융 특화 평가 기준은 기존 범용 평가 방식 대비 금융보안 전문가 판단과의 일치율이 76.92%에서 88.46%로 11.54%포인트 높아졌다.
연구진은 금융 분야의 위험을 사이버 위협, 금융 범죄, 허위정보 및 기만, 소비자 권익 침해, 금융 ICT 규제 회피 등 5개 주요 영역과 26개 세부 유형으로 분류했다. 이를 바탕으로 실제 금융 문서에서 다양한 위험 시나리오를 생성하는 체계를 구축했으며, 총 5805개의 전문가 검증 기반 평가 데이터를 확보했다.
김민우 셀렉트스타 AI Safety팀 리더는 "FinRED'는 금융 전문가의 판단을 반영해 AI 답변의 위험성을 정교하게 평가하고, 새로운 위험과 규제 변화에 맞춰 평가 시나리오를 지속적으로 확장할 수 있다는 점에서 의미가 있다"고 말했다.
/최효경 기자(hyomirror@inews24.com)