'AI' 사전예방원칙 적용할까…판단기준 '오락가락' [IT돋보기]

[아이뉴스24 김혜경 기자] 지난해 4월 유럽연합(EU)이 발표한 ‘인공지능(AI) 법안’의 핵심은 위험기반 규율 체계다. 국내에서도 ‘고위험 AI’ 개념이 수면 위로 부상한 가운데 편익도 함께 고려해 제도를 정비해야 한다는 목소리가 나온다. 위험기반 접근 방식의 득과 실을 따져 국내 산업 환경에 맞는 방식을 찾아야 한다는 의미다.

김병필 카이스트(KAIST) 기술경영전문대학원 교수는 26일 열린 과학기술정보통신부가 주최한 제4차 인공지능 법‧제도 세미나에서 “사전예방원칙이 AI 규제에도 적용될 수 있는지 여부를 살펴봐야 한다”며 “AI의 위험성만 분석할 것이 아니라 도입 시 얻을 수 있는 편익도 함께 비교해서 판단해야만 적정 수준의 규제를 만들 수 있다”고 강조했다.

사전예방원칙은 재난적인 결과를 초래할 수 있는 잠재적 위험이 있다면 명확한 증거가 없더라도 적극 규제해야 한다는 원칙이다. 일반적으로 환경 분야에 적용되며 다른 분야에서도 해당 개념을 도입해야 한다는 필요성이 논의되는 상황이다. AI에도 이와 비슷한 수준으로 규제를 할 것인지가 쟁점이라는 것.

김 교수는 “특정 위험에 대해 과대 및 과소 평가가 혼재된 상황에서 적절한 규제 지점을 어떻게 찾아낼 수 있을지도 관건”이라며 “어떤 지표를 기준으로 공정성을 평가할 것인지 명확하지 않은 문제도 있다”고 설명했다.

이근우 법무법인 화우 변호사는 AI 위험성 판단 기준을 '기계학습이 가능한 알고리즘이 적용된 소프트웨어의 잠재적인 위해성을 판단하기 위한 기준'으로 정의했다. 이 변호사는 “기술 자체는 가치중립적”이라며 “위험성 정도에 맞춰 적절한 관리 방법을 적용하는 것이 중요하다”고 말했다.

EU 법안에서는 ▲기본권에 대한 침해가능성 ▲AI 시스템의 의도된 목적 ▲AI 시스템이 사용됐거나 사용될 가능성의 정도 ▲AI 시스템에 대한 기록된 위해성 ▲AI 영향을 되돌릴 수 있는 가능성 ▲AI 리스크 관련 법적 보상 유무 등을 위험성 판단 고려 요소로 보고 있다. 이에 AI를 위험도에 따라 ▲허용할 수 없는 위험 ▲높은 위험 ▲낮거나 최소 위험군으로 구분했다.

고위험군은 ▲생체인식 ▲교통‧수도‧가스‧난방 등 주요 사회기반시설 관리·운용 ▲채용 등 인사 평가 및 직무 배치의 결정 ▲응급 서비스, 대출 신용평가 등 필수 공공·민간 서비스 ▲수사 및 기소 등 기본권을 침해할 수 있는 국가기관의 권한 행사 ▲문서 진위 확인, 위험 평가 등 이민, 망명 및 출입국 관리 등에 AI가 활용되는 경우다.

이 변호사는 위험성 판단 법적 기준을 ▲발생할 수 있는 위험의 정도 및 발생 가능성 ▲AI 기술을 사용하거나 적용한 목적 ▲사용된 데이터의 신뢰성 ▲재산권‧기본권 침해 등을 들었다.

그는 “학습에 사용된 데이터는 AI 기술에 원하는 목적에 맞게 동작할 것인지 여부에 직접적인 영향을 받는다”며 “데이터 신뢰도도 ’높은 리스크‘ 판단에 직접적 기준이 될 수 있다”고 설명했다.

박상철 서울대 교수는 EU 법안의 문제점을 지적하며 국내 지능정보화기본법을 참고할 필요가 있다고 강조했다. 박 교수는 “비용과 편익을 함께 분석해야 하는데 EU 법안은 그렇지 못할 뿐만 아니라 위험 기반 규제도 아니라고 본다”며 “아울러 투명성만을 지나치게 강조하다 보면 정확성과 공정성이 침해될 수 있다는 것도 고려해야 한다"고 말했다.

이날 박운규 과기정통부 정보통신정책실장은 이같은 현장 의견들에 대해 “시장이 수용할 수 있는 범주 내에서 조화로운 방향으로 기준이 정립되도록 노력할 것”이라며 “선도업체들의 제안한 기준안도 적극 경청하겠다”고 말했다.