[AI브리핑] AI기본법 제정 '급물살'…진흥·규제 균형점 찾았나

[아이뉴스24 윤소진 기자] 국회 과학기술정보방송통신위원회(이하 과방위) 법안심사소위원회가 지난 21일 인공지능(AI) 기본법 발의안 19건을 병합 심사해 통과시켰다. 이번 법안에는 글로벌 AI 사업자의 국내 대리인 지정제도, 고영향 AI 규제, 워터마크 표시 의무화 등의 내용이 담겼다.

법안의 주요 내용 중 하나는 '고영향 AI'의 도입이다. 고영향 AI는 의료기기, 에너지 등 분야의 AI 중 사람의 생명·신체, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 AI를 의미한다. 사업자는 자사의 AI가 고영향 AI에 해당하는지 과학기술정보통신부 장관에게 자율적으로 확인을 요청할 수 있으며, 장관이 고영향 AI로 인정하면 안전성 및 신뢰성 검증을 요구할 수 있다.

고영향 AI 관련 제재 조항도 포함됐다. 사업자가 고영향 AI를 이용자에게 고지하지 않거나 정부의 시정명령을 따르지 않으면 3000만원 이하의 과태료가 부과된다. 생성형 AI 사업자 역시 이를 이용자에게 고지하지 않으면 동일한 과태료가 부과된다.

AI 기술을 활용한 콘텐츠 제작과 관련한 안전장치도 마련됐다. 최근 연예인 딥페이크 동영상 유포, AI 기반 사칭 보이스피싱 등 AI 범죄가 급증하고, AI 생성 콘텐츠의 저작권 분쟁이 잇따르자 법안은 AI로 생성한 영상이나 사진에 워터마크를 의무적으로 표시하도록 규정했다.

해외 AI 기업에 대한 규제도 명시됐다. 국외에서 이뤄진 행위라도 국내 시장과 이용자에게 영향을 미치는 경우 법이 적용되며, 이용자 수와 매출액이 일정 기준을 초과하는 오픈AI, 마이크로소프트(MS), 구글 등과 같은 글로벌 빅테크는 국내 대리인을 의무적으로 지정해야 한다. 이들 기업은 국내 대리인을 통해 정부의 안전성·신뢰성 확보 조치 이행에 필요한 지원을 제공해야 하며, 대리인 미지정 시 3000만원 이하의 과태료가 부과된다.

AI 정책 추진을 위한 행정 체계도 구축된다. 과기정통부 장관은 3년마다 AI 기본계획을 수립·시행하며, 이는 국가AI 위원회의 심의·의결을 거치게 된다. 대통령이 위원장을, 민간위원이 부위원장을 맡는 국가AI 위원회 내에는 전문 분야별 분과위원회와 자문단이 구성될 수 있다. AI 정책센터와 AI 안전연구소 설립 근거도 마련됐다.

이번 법안은 이르면 다음 주 과방위 전체 회의에서 의결될 예정이며, 이후 법제사법위원회 심사와 본회의 의결 절차가 남아있다.

업계는 AI 기본법 마련 자체에 대해서는 환영하는 입장이나, AI 기술이 빠르게 발전하고 변화하는 만큼 일괄적인 규제보다는 유연한 적용이 필요하다는 의견을 제시하고 있다.

법안이 연내 제정되더라도 시행령과 시행규칙 등 후속 법령 마련 과정에서 구체적인 기준과 절차가 확정돼야 한다. 특히 고영향 AI의 구체적 범위, 해외 기업의 국내 대리인 지정 기준, 과태료 부과 세부 기준 등이 향후 쟁점이 될 것으로 보인다.

업계 한 관계자는 "AI 기본법이 마련돼 제도적 기반이 생긴다는 점은 긍정적"이라면서도 "시행령 단계에서 고영향 AI의 범위가 지나치게 넓어지거나 규제가 경직되면 신생 기업들의 혁신이 제한될 수 있다"고 우려했다. 이어 "글로벌 경쟁이 치열한 AI 분야에서 국내 기업들이 뒤처지지 않으려면 안전성과 혁신성의 균형이 중요하다"며 "시행령 마련 과정에서 업계의 의견이 충분히 반영되길 기대한다"고 말했다.