TTA, 'AI 보안' 표준화 전담 조직 신설…생성형·에이전틱 AI 대응

[아이뉴스24 서효빈 기자] 한국정보통신기술협회(TTA)는 인공지능(AI) 모델 신뢰성과 데이터 보호 강화를 위한 '인공지능 보안' 표준화 전담 프로젝트그룹(PG507)을 신설했다고 30일 밝혔다.

이번 프로젝트그룹은 인공지능 기술 확산에 따른 보안 위협 증가에 대응하기 위해 마련됐다. 생성형 AI 중심으로 기술이 고도화되면서 자율주행차, 맞춤형 교육, 지능형 로봇 등 다양한 산업과 결합이 확대되고 있다.

프로젝트그룹은 △인공지능 시스템 정보보호 기술 △인공지능 개인정보 보호 기술 △인공지능 보안성 평가 기술 △생성형 AI 보안 기술 △에이전틱 AI 보안 기술 분야를 중심으로 국내외 표준 개발을 추진한다. 모델 탈취, 프롬프트 인젝션, 적대적 공격 등 신종 위협과 각국의 AI 규제 환경도 반영할 계획이다.

손승현 TTA 회장은 "이번 프로젝트그룹이 인공지능 산업 육성과 기술 신뢰성 확보에 기여할 것"이라며 "국내외 표준화 기구와 협력을 통해 우리 기술을 국제표준으로 확산하는 기반이 될 것"이라고 말했다.