'이루다·테이' 교훈 "AI윤리 규제 필수"… "잠재적 문제까지 찾아야"

[아이뉴스24 박진영 기자] "AI기술 인한 새로운 유토피아는 결코 얻어질 수 없다. AI윤리를 실행하는 데 있어 좋은 규제는 꼭 필요하다. 그렇지 않으면, AI는 인류를 위한 기술이 아닌 인류 모두를 디스토피아로 몰아넣는 기술이 될 수도 있다"

조장래 한국마이크로소프트(MS) 전무는 29일 소프트웨어정책연구소(SPRi)가 진행한 온라인 포럼 '신뢰할 수 있는 AI 구현을 위한 우리 사회의 역할과 과제'에서 이같이 말했다.

전 세계적으로 딥페이크 범죄, 자율주행차 사고, 인공지능 편향성 등 신기술 관련 문제가 부각되고 있다. 미국, 유럽 등 주요국은 신뢰할 수 있는 AI 구현을 위한 법·제도를 도입하고, 테크 기업들은 AI 윤리준칙 등을 고안해냈다. 최근 국내에서도 AI 챗봇 '이루다' 사태로 인해, 신뢰할 수 있는 AI에 대한 논의가 활발히 진행 중이다.

특히, MS AI챗봇 '테이' 사태를 계기로 전사적으로 AI윤리 정책을 강화했다.지난 2016년 3월, MS가 출시한 AI 챗봇 테이는 성·인종차별 관련 혐오발언을 쏟아내 16시간 만에 운영을 중단한 바 있다.

AI 기술 개발 시, 단지 기술적 차원을 넘어선 문화적 차원까지 고려해야 한다고 강조했다. 챗봇 '테이'의 경우, 중국에서 4천만명을 대상으로 충분히 테스트베드를 시행한 후, 미국 등 다른 문화권에 서비스를 출시했는데, 예상치 못하게 편향성 문제가 불거졌다는 설명이다.

AI 설계에서 기술로 오용될 수 있는 여러 부작용 중 잠재적 문제까지 찾아내는 것이 테크 기업의 의무라고 강조했다. MS는 이를 위해 내부조직인 '인공지능 윤리 위원회(Aether Committee)'를 설립했다. 위원회는 개발, 데이터, 마케팅, 정책 등 다양한 전문가가 모여, AI 서비스 출시부터 적용 등 전 단계를 감시하고, 비판하는 역할을 담당한다.

MS는 ▲공정성 ▲신뢰·안전 ▲프라이버시·보안 ▲포용성 ▲투명성 ▲책임성 등 AI윤리 6대 준칙을 세우고, 신뢰할 만한 AI개발에 집중하고 있다.

또 고도화된 기술을 여러 분야에 적용하기 위해서 명확한 가이드라인이나 규제가 우선이라고 주장했다.

예를 들어, 안면인식기술은 어릴 적 사진으로 현재 모습을 예측해낼 정도로 상당히 발전한 분야다. 일명 '포토DNA' 기술은 실종아동이나 이산가족 등을 찾는 데 적용할 수 있다. 하지만, 안면인식 기술이 특정국가에서 사람을 감시하는 등 민주주의 가치를 훼손하는 하는 용도로 활용되기도 한다.

조 전무는 "기술이 상당히 발전하고 있지만, 윤리 문제 때문에 다양한 분야에 적용하지 못하고 있는 상황"이라면서, "기술 자체가 인류의 공공성에 기여할 수 없다는 전제로 명확한 가이드라인이나 규제가 필요하다"고 밝혔다.

이어 "AI관련 규제나 정책이 지나치게 광범위하거나 수용자가 지키기 어렵다면 많은 혼란을 야기할 것", "수반되는 문제의 균형점을 찾아가는 논의가 필수적이고, 사안에 대해 리스크 기반의 접근이 필요하다"고 덧붙였다.