AI기본법, 최소 1년 규제 유예…사실조사 '예외적' 실시 [AI브리핑]

[아이뉴스24 윤소진 기자] 'AI기본법'이 최소 1년간은 규제 유예기간으로 운영된다. 이 기간 중 사실조사는 인명사고나 인권훼손 등 중대한 피해가 발생한 경우에만 예외적으로 실시된다.

과학기술정보통신부는 24일 서울 중구 한국지능정보사회진흥원(NIA)서울 사무소에서 설명회를 열고 이같은 내용을 담은 'AI기본법 시행령 제정 관련 의견 수렴 사항 및 향후 추진 계획'을 발표했다. 정부는 입법예고 과정에서 제기된 산업계와 시민사회의 의견을 반영해 시행령 수정안을 마련하고, 법제·규제 심사를 거쳐 내년 1월 22일 공포 및 시행을 추진한다.

AI 기본법 운영은 최소 1년 이상의 규제 유예기간을 두되 해외동향, 기술발전 등을 고려해 추가 연장이 가능하도록 했다. 유예 기간 중 사실조사는 인명사고·인권훼손 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에 한해 예외적으로 실시한다.

AI기본법상 사실조사(법 40조)는 일정한 의무 위반 혐의가 있을 때 과학기술정보통신부 장관이 사업자에게 자료 제출을 요구하고 필요 시 현장 조사를 실시하는 행정조사 절차를 의미한다. 법 제정 당시 이 조항은 단순 신고나 민원 접수만으로 사업자를 조사할 수 있어 과도한 규제라는 지적이 제기된 바 있다.

이러한 우려를 고려해 시행령 제정안에는 이미 충분한 증거가 있거나, 명백히 부당한 목적의 신고·민원에 대해서는 사실조사를 하지 않을 수 있도록 하는 남용 방지 장치도 포함됐다.

기업의 법 적용 여부 판단과 의무 이행 점검을 지원하기 위해 ‘AI안전신뢰지원데스크(가칭)’도 운영한다. AI 사업자 지위, 투명성 의무, 고영향 AI 해당 여부 등 AI기본법 관련 문의를 기업이 사전 질의하면 유관기관과 전문가 집단이 컨설팅 방식으로 지원하는 구조다.

투명성·안전성 의무 등 4개 영역 운영 방향 제시

이와 함께 과기정통부는 입법예고 과정에서 제기된 의견을 크게 △투명성 의무 △안전성 의무 △고영향 AI 확인 절차 △고영향 AI 사업자 책무 등 4개 영역으로 나눠 운영 방향을 제시했다.

투명성 의무는 이용자가 AI 시스템 또는 생성형 AI 결과물을 인지할 수 있도록 사전 고지나 표시를 하도록 하는 규정이다. 생성형 AI 결과물에는 ‘AI 생성’ 여부를 알 수 있는 워터마크나 표시를 해야 하며, 서비스 이용 과정에서도 AI 활용 사실을 명확히 고지하도록 했다.

안전성 의무는 일정 기준을 충족하는 고영향 AI(사람의 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템)에 대해 안전성 확보 조치를 의무화하는 규정이다. 현재 기준은 누적 연산량 등을 중심으로 설정돼 있으며, 정부는 시행 초기에는 이 기준을 유지하고 적용 대상을 확대하지 않기로 했다.

고영향 AI 확인 절차는 사업자가 자사 AI 시스템이 고영향 AI에 해당하는지 판단하기 어려울 경우 과기정통부에 공식 확인을 요청할 수 있도록 한 제도다. 과기정통부는 확인 요청을 받으면 원칙적으로 30일 이내에 회신하고 필요시 1회 연장할 수 있도록 했다.

고영향 AI 사업자 책무는 고영향 AI로 판단된 경우 적용된다. 해당 사업자는 설명 방안 수립, 이용자 보호 조치 마련 등 일정한 관리·책임 체계를 갖춰야 하며 구체적인 이행 방식은 사업자가 자율적으로 정하도록 했다.

과기정통부는 법 시행 전까지 시행령을 최종 수정하고 내년 1월 고시와 가이드라인을 공개할 예정이다.

다만 AI 표시제 범위, 고영향 AI 기준의 적정성 등을 두고 산업계와 시민사회 간 시각 차이는 여전히 좁혀지지 않은 상태다. 산업계는 예측 가능성과 사업 안정성을, 시민사회는 보다 엄격한 안전 기준을 요구하고 있다.

이에 정부는 관련 쟁점을 중장기적으로 검토하기 위해 산업계·시민단체·학계가 참여하는 '제도개선 연구반'을 운영하며, 시행 이후에도 제도 보완 논의를 이어갈 계획이다.

이진수 과기정통부 인공지능정책기획관은 “AI 기본법은 규제를 위한 법이 아니라 AI 기술 발전과 신뢰 확보를 함께 추진하기 위한 기본 틀”이라며 “시행 초기에는 제도가 현장에 안착할 수 있도록 최소한의 규제를 원칙으로, 현장과 지속적으로 소통하며 운영해 나가겠다”고 말했다.