"내가 AI 면접서 왜 떨어졌나요?"...AI 결정에 거부권 행사 가능해진다

[아이뉴스24 박진영 기자] A씨는 신입사원 채용 과정에서 최근 도입된 인공지능(AI) 면접을 봤는데 불합격 통보를 받았다. 기존 면접과는 달리 AI 시스템이 자신을 평가한다는 새로운 환경에 압박감이 컸던 탓이다. AI 면접관과는 어떠한 감정적 교류도 할 수 없었다. A씨는 기업에 불합격 이유 등 AI채용 과정에 대한 설명을 요구했다.

#공공기관에서 복지수당을 받아온 B씨가 AI 부정수급자 탐지 시스템 도입 후 복지수당 지급이 취소됐다는 결과를 통보 받았다. 이 공공기관은 'AI 부정수급자 탐지 시스템' 만으로 수급자의 개인정보를 분석·처리한 것이다. 수급자는 복지수당 지급 취소 결정에 대한 거부권을 행사했고, 공공기관은 사람이 개입하는 재처리 과정을 거쳐야 했다.

정부가 AI 등이 개입한 결정에 대해 설명을 요구하거나 거부할 수 있는 권리를 도입한다.

개인정보보호위원회는 자동화된 결정에 대한 권리 등을 보장한 개인정보보호법 하위 시행령을 실시한다고 6일 밝혔다.

자동화된 결정은 AI 등 완전히 자동화된 시스템으로 개인정보를 처리해 이루어지는 결정이다. 결정 과정에서 정당한 권한을 가진 사람이 실질적으로 개입하지 않거나 단순 결재 등 형식적인 절차만 운영해도 완전히 자동화된 결정에 해당된다.

이번 시행령을 통해 완전히 자동화된 시스템에 의한 결정에 대해선 개인이 설명을 요구할 수 있고, 개인의 권리나 의무에 중대한 영향을 끼쳤을 경우 거부권까지 행사할 수 있다. 일례로 AI 면접만을 통해 응시자에 불합격을 통보했거나, AI 배차 등 부정거래탐지시스템을 통해 계약 해지 등 불이익을 주는 경우 등이 해당된다.

개인이 자동화된 결정에 대해 설명을 요구할 경우, 개인정보처리자는 해당 결정의 기준과 처리 과정에 대해 간결하고 의미있는 설명을 제출해야 한다. 또 개인의 권리를 제한하거나 박탈하는 등 중대한 영향을 미칠 경우 거부권을 행사할 수 있다. 거부권이 행사되면, 개인정보처리자는 해당 결정을 적용하지 않는 조치를 하거나, 인적 개입에 의한 재처리를 하고 30일 이내 그 결과를 정보주체에 알려야 한다.

다만, 자동화된 결정에 대해 사전에 동의, 계약 등을 통해 미리 알렸거나 법률에 명확히 규정돼 있는 경우 거부는 인정되지 않고 설명이나 검토 요구만 가능하다.

개인정보위 측은 "AI 등 자동화된 결정에 대한 개인정보 처리 과정의 투명성을 높이기 위한 것이지, AI 결정으로 정보 주체에 영향을 미친 상황을 구제하기 위한 목적은 아니다"라면서 "정보주체인 국민이 AI 서비스를 신뢰하고 이용할 수 있는 사회적 안전장치 중 하나의 역할을 할 것"이라고 강조했다.

이와 함께 기업 매출액과 개인정보 보유 규모를 고려해 CPO 자격 요건이 강화됐다. △연 매출 1500억원 이상이고, 100만명 이상 개인정보나 5만명 이상 민감정보를 처리하는 경우 △재학생 수 2만명 이상의 대학 △대규모 민감정보를 처리하는 상급종합병원(현재 기준 국내 47개 병원) △공공시스템운영기관(현재 50여 곳) 등이 해당된다. 이들은 개인정보보호 경력 2년을 필수로 개인정보보호·정보보호·정보기술 경력 총 4년 이상을 갖추고 있는 사람을 CPO로 지정해야 한다.

또 CPO 독립성을 보장하기 위해 대표자 또는 이사회에 정기적으로 보고할 수 있는 보고체계를 구축하고, CPO 협의회 등을 구성해 CPO 간 협력 활동이 가능할 수 있는 기반을 마련했다.