정부 'AI 안전 마스터플랜' 속도…"피해 구제 절차부터 설계해야"

[아이뉴스24 서효빈 기자] 정부가 '국가 인공지능(AI) 안전 생태계 조성 마스터플랜' 수립을 추진하는 가운데 AI로 피해를 입은 국민의 권리와 대응 절차를 명확히 해야 한다는 요구가 제기됐다. 기술 중심 안전 논의를 넘어 실제 피해 당사자가 체감할 수 있는 권리 보장과 구제 절차를 제도화해야 한다는 지적이다.

과학기술정보통신부는 6일 서울 중구 은행회관에서 한국정보통신기술협회, 인공지능안전연구소와 함께 '국가 AI 안전 생태계 조성 마스터플랜 의견수렴 간담회'를 개최했다. 간담회는 안전한 AI 활용 환경 조성에 대한 공감대를 넓히고 학계·산업계·시민사회 의견을 청취하기 위해 마련됐다.

'AI 안전 마스터플랜' 밑그림… 정부 "안전·신뢰가 혁신 조건"

정부는 현재 학계·산업계와 협력해 마스터플랜 초안을 준비 중이다. 초안에는 AI 안전 에이전트 개발, 관계 기관 연계를 통한 AI 위험 대응·예방 정보 제공 체계, AI 안전 포털 구축 등 활용 기반 정비 방안이 담겼다.

이진수 과기정통부 인공지능정책기획관은 "규제라고 보였던 것들이 차츰 사회적으로 합의가 이루어지면서 규범화됐을 때 산업 발전이 이루어졌다"며 "AI에서도 안전과 신뢰가 중요해지면 혁신을 저해할 것이라고 단기적으로 보는 분들도 있지만 장기적으로는 혁신의 조건이 될 것"이라고 말했다.

발제에 나선 김명주 인공지능안전연구소장은 AI 안전 평가 체계 마련과 법·제도 표준 연구를 추진하고, 안전성 검증을 위한 테스트베드 인프라를 기업과 연구자에게 개방하겠다고 밝혔다. 대학과 연계해 최소 3곳 이상의 AI 안전 융합센터를 구축하고 150명 이상의 다학제 융합 인재를 양성하겠다는 계획도 제시했다. AI와 결합할 경우 파장이 커질 수 있는 화학·생물학 등 분야까지 아우르는 융합 인재 양성도 추진 대상에 포함된다.

시민사회 "피해 구제 절차 불명확"… 산업·학계도 "신뢰 기반 체계 필요"

토론에서는 시민단체를 필두로 제도적 실효성에 대한 문제 제기가 이어졌다. 이지은 참여연대 선임간사는 "AI 안전과 관련한 위험이 발생했을 때 위험 당사자가 실제로 어떻게 해결하고 도움을 받을 수 있는지에 대한 시스템이 필요하다"고 강조했다. 포털 구축이나 인재 양성과 같은 거시 계획을 넘어 국민이 쉽게 접근할 수 있는 AI 피해 구제 체계가 마련돼야 한다는 주장이다.

그는 지난 1월 시행된 AI 기본법을 언급하며 "'영향받는 자' 개념이 포함돼 있지만 구체적으로 어떤 피해가 발생할 수 있는지, 어떤 권리와 구제 수단이 보장되는지는 충분히 담기지 않았다"고 평가했다. 공공기관 AI 채용 시스템 사례를 들며 "탈락자가 왜 떨어졌는지 설명받기 어렵고 이의 제기 절차도 불분명하다"고 지적했다.

정지연 한국소비자연맹 사무총장도 "AI 챗봇, 안전포털 등 단순 정보제공이 아니라 피해 발생 시 어떻게 대응해야 하는지 구체적으로 설계가 되어야 한다"며 "자율에 맡긴 안전은 소비자에게 위험을 전가하는 것"이라고 지적했다.

산업계와 학계에서도 신뢰 기반 안전 체계 필요성에 공감했다. 김경훈 카카오 AI 세이프티 리더는 "오픈 소스 커뮤니티를 통해 AI가 빠르게 발전하고 있는데 안전에 대한 평가, 기술 등에 대한 오픈 소스 커뮤니티도 확산돼야 한다"며 "한국은 상대적으로 (해외에 비해) 이같은 커뮤니티가 빈약하다"고 말했다.

이상근 고려대 정보보호대학원 교수도 "우리는 산업 분야, 특히 금융, 의료, 공공 분야에서 다른나라와 비교할 때 빠른 속도로 AI를 받아들이고 있다"며 "하지만 안전과 신뢰, 보안에 대한 문제가 굉장히 크다. 안전과 보안에서 더 나아가 국가 안보까지 담론을 확장해야 한다"고 말했다.

한편 과기정통부는 이날 간담회에서 제시된 의견을 마스터플랜에 반영해 상반기 중 구체적인 내용을 발표할 예정이다.