[AI 기본법 명암 ㊤] 세계 최초 전면 시행…기틀 잡은 AI 생태계

[아이뉴스24 문영수 기자] 오는 1월 22일 인공지능의 개발과 활용 전반을 규율하는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)'이 전면 시행된다. 2024년 12월 국회 본회의를 통과하고, 2025년 1월 공포된 지 1년 만이다.

우리나라는 유럽연합(EU)에 이어 두 번째로 AI 관련 법과 규제를 제정하고 시행하는 국가로 기록될 전망이다. EU는 AI 법안인 'AI 액트(act)'를 가장 먼저 제정하고 현재 단계적 시행 중이며 AI 관련 규제는 올해 8월부터 적용된다. 우리나라는 AI 기본법이 1월 22일 전면 시행되지만 지난 12월 규제 유예 기간을 최소 1년 이상 두겠다고 밝히며 EU 보다 한 걸음 물러난 양상이 됐다. AI 기본법 시행 자체는 세계 최초지만, 규제 여부는 EU의 추이를 지켜보고 결정한다는 의미다.

그럼에도 AI 기본법의 제정과 시행 자체는 크나큰 의미를 가진다. 미국의 싱크탱크인 정보혁신재단(ITIF)는 지난해 9월 분석 보고서를 통해 "AI 기본법은 향후 10년간 한국의 AI 방향을 결정할 것"이라며 "구조적 결함을 수정하기 위해 법률을 강화하고 균형 잡히고 성과 중심의 규칙을 시행한다면 한국은 권리를 보호하고 일상생활을 개선하는 혁신을 촉진하며 글로벌 경쟁력에서 견고한 우위를 확고히 할 것"이라고 분석하기도 했다.

AI 기본법과 시행령, 목적은?

한국 AI 기본법의 가장 큰 특징은 '사전 통제' 방식이 아닌 '혁신 우선' 원칙을 고수했다는 점이다. AI 기본법은 누구나 자유롭게 AI 기술을 개발하고 출시할 수 있도록 보장한다. 법적 근거가 없다는 이유로 새로운 서비스를 막는 구태를 방지하기 위함이다. 정부 또한 AI 전용 데이터센터 구축, 기술 표준화 지원, 전문 인력 양성 등 기업들이 체감할 수 있는 지원 예산을 법적으로 뒷받침한다.

AI 기본법은 국민의 생명과 안전에 직결된 분야를 '고영향 인공지능(High-Impact AI)'으로 지정해 별도 관리한다. 의료기기, 에너지 관리(수도·가스), 채용 심사, 원자력 설비 등 AI의 오류가 사회적 재난으로 이어질 수 있는 분야가 이에 해당된다. 고영향 AI 사업자는 해당 시스템의 신뢰성과 안전성을 확보하기 위한 내부 조치(모니터링, 위험 관리 등)를 취하고 이를 정부에도 보고해야 한다.

딥페이크 성범죄와 선거 가짜뉴스로 인한 사회적 혼란을 막기 위한 '투명성 조항'도 있다. 생성형 AI를 이용해 만든 이미지, 영상, 음성 콘텐츠에는 반드시 'AI 생성물'임을 알리는 식별 표시(워터마크)를 해야 한다. 사람이 눈으로 식별할 수 있는 텍스트 표시뿐만 아니라, 기계가 읽을 수 있는 비가시적 워터마크 기술이 도입돼야 한다.

부처 간 칸막이를 허물고 일관된 AI 정책을 추진하기 위한 거버넌스도 가동된다. 국가인공지능위원회는 대통령을 위원장으로 하는 범국가적 컨트롤 타워로, 민·관이 머리를 맞대고 AI 국가 전략을 수립하게 된다. AI의 위험성을 전문적으로 평가하고 글로벌 안전 표준을 연구하는 'AI 안전 연구소'도 지난 11월 문을 열었다.

오는 1월 12일까지 입법예고를 진행하는 AI 기본법 시행령은 AI 기본법에서 추상적으로 정한 투명성·안전성 확보 의무, 고영향 인공지능 판단 기준과 사업자의 책무 등의 내용을 보다 구체화했다. AI 산업 육성을 위한 AI 연구 개발, 학습용 데이터 구축 등의 지원 대상, 기준 등을 명확히 규정하고, AI 집적 단지의 지정 기준과 절차를 마련했다.

정부는 AI 기본법 시행령을 산업계와 시민사회의 의견을 종합적으로 반영해 AI의 안전과 신뢰를 확보하되, 혁신을 저해하지 않는 수준에서 제도적 기반의 구축을 목표로 하고 있다. '고영향 AI'의 정의와 해당 시스템에 대한 안전성 확보 조치 요구 사항, 사실조사의 구체적인 범위 등 세부 지침의 명확성이 향방을 가를 것이란 전망이 나온다.

우려의 목소리도

AI 기본법과 시행령 시행을 앞두고 관련 산업계에서는 우려의 목소리도 없지 않다. 특히 인터넷 플랫폼·스타트업 업계에서는 고영향 AI의 범위가 넓어질 경우 행정 부담이 과도해질 수 있다는 목소리가 나온다. 규제 해석이 모호할 경우 혁신 속도가 둔화될 수 있다는 지적도 반복된다.

스타트업얼라이언스가 지난달 3일 발간한 'AI 기본법과 스타트업: AI 스타트업이 겪는 현실'에 따르면 AI 기본법에 대한 기업들의 대응 현황을 묻는 질문에서 "대응 계획을 수립하고 준비 중"이라고 답한 기업은 2%에 불과했다. 반면 "내용을 잘 모르고 준비도 안 되어 있다" 48.5%, "법령은 인지하지만 대응은 미흡하다" 48.5%로 나타나, 응답 기업의 98%가 실질적인 대응 체계를 갖추지 못한 것으로 조사됐다.

스타트업얼라이언스 측은 "산업 현장에서는 여전히 AI 기본법 시행령과 가이드라인의 구체성, 규제 적용 범위의 명확성, 국제 기준과의 정합성 등을 둘러싼 많은 질문과 우려가 제기되고 있다"며 "이제 중요한 것은 시행 여부를 넘어, 이 유예 기간을 어떻게 활용해 제도의 실효성과 예측 가능성을 높일 것인가에 대한 논의"라고 했다.

한국인터넷기업협회도 EU 집행위원회가 AI 법(AI act) 고위험 시스템 규정의 적용 시점을 조건부로 연기하는 '디지털 옴니버스(Digital Omnibus)' 패키지를 지난해 11월 공식 발표한 것을 짚었다.

인기협 측은 "이는 준비가 되지 않은 채 규제를 밀어붙이는 것보다, 표준과 감독체계가 완비된 이후에야 규제 의무를 부과하겠다는 현실적 조정이자 중요한 전환"이라며 "한국 또한 2026년 1월 시행을 앞둔 AI 기본법이 존재하지만, 시행령도 채 완비되지 않은 상태이며, 실질적 기준이나 감독체계도 미흡하다. 그런데도 처벌만 유예하는 접근은 기업에게는 법적 불확실성을, 정부에게는 집행 리스크를 안기는 구조를 초래하고 있다"고 했다.

정부가 AI 기본법 규제 유예를 최소 1년 이상 두기로 한 것도 각계에서 제기된 우려를 반영한 결과다. 과학기술정보통신부는 지난달 24일 서울 중구 한국지능정보사회진흥원(NIA) 서울 사무소에서 설명회를 열고 이같은 계획을 밝혔다. 유예 기간 중 인명사고·인권훼손 등 사회적 문제를 야기하거나 국가적 피해를 초래한 경우에 한해 예외적으로 사실조사를 실시한다는 방침이다.

또한 정부는 AI기본법 시행령 입법예고 과정에서 제기된 산업계와 시민사회의 의견을 반영해 시행령 수정안을 마련하고, 법제·규제 심사를 거치기로 했다. 아울러 산업계·시민단체·학계 등 이해관계자 모두 참여하여 논의하는 연구반을 구성 및 운영해 분과별 제도 개선방향, 전체 회의를 통해 AI 기본법 개선 방안을 도출하는 등 지속 개선한다는 계획이다.

이진수 과학기술정보통신부 인공지능정책기획관은 "AI 기본법은 규제를 위한 법이 아니라 AI 기술 발전과 신뢰 확보를 함께 추진하기 위한 기본 틀"이라며 "시행 초기에는 제도가 현장에 안착할 수 있도록 최소한의 규제를 원칙으로, 현장과 지속적으로 소통하며 운영해 나가겠다"고 말했다.

필연적으로 등장한 AI 기본법, 갈고 닦아야

AI 기본법의 등장은 필연적이었다. 생성형 AI의 등장으로 AI가 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 커지면서 이를 대비하기 위한 법적 장치의 필요성이 대두됐기 때문이다. 실제 AI 기술이 고도화되면서 등장한 딥페이크 논란은 AI 규제의 필요성을 역설하기도 했다.

그동안 AI 정책은 과기부, 방통위, 개보위 등 정부 부처별로 흩어져 명확한 컨트롤 타워 부재가 반복적으로 지적됐다. 그러나 AI 기본법은 국가인공지능위원회로 컨트롤 타워를 단일화함으로써 구조적 문제를 해소하고, 최소한의 공통 규칙과 책임 체계를 마련했다는 점에서 의미가 크다.

전문가들은 AI 기본법은 완결형 규제가 아니라, 출발점인 만큼 지속해서 수정·보완을 해나가야 한다고 짚는다. 임문영 대통령직속 국가인공지능전략위원회 부위원장은 "AI 기본법 시행을 두고 속도에 대한 우려가 제기되는 것은 이해하지만, 정부는 1년 가량의 계도 기간을 두고 제도를 안착시킬 계획"이라며 "AI 사회는 우리가 한 번도 경험해보지 못한 영역인 만큼 미룬다고 해서 모든 문제가 해결되는 것은 아니다"고 말했다.

임 부위원장은 또한 "AI 기본법은 계도 기간이 있고, 시행 과정에서 문제가 드러날 경우 국회 차원의 개정 논의도 충분히 가능하다"며 "기업들이 실제로 어떤 불편을 겪는지, 그것이 제도적으로 문제가 되는 사안인지 면밀하게 모니터링해 나갈 계획"이라고 했다.

최민희 국회 과학기술정보방송통신위원장은 "산업계가 규제 부담을 느끼고 있다는 점과 그에 대한 정부의 고민에 대해 충분히 이해한다. 산업계는 EU 동향을 언급하며 규제 속도 조절의 필요성을 설명하고 있으나 EU 역시 인공지능 규제 체계의 기본 원칙인 투명성, 책임성, 사후 감독의 틀 자체를 폐기한 것은 아니다"고 했다.

또한 "AI 기본법은 산업을 위축시키기 위한 법이 아니다. 인공지능 기술이 사회 전반에서 신뢰를 바탕으로 활용될 수 있도록 하기 위한 법이며 AI 산업의 발전을 위한 법"이라며 "국회 과학기술정보방송통신위원회는 시행령이 법률의 취지와 위임 범위를 벗어나지 않는지 산업 육성과 이용자들의 신뢰 간의 균형이 유지되고 있는지를 지속적으로 점검해 나갈 것"이라고 강조했다.