[아이포럼 2021] 민원기·마크 로텐버그 "韓, AI 정책 수립 뛰어나"…특별대담

[아이뉴스24 신지훈,최은정,고정삼 수습 기자] "인공지능(AI) 시스템은 형평성과 투명성을 기반으로 민주주의적 가치가 반영되어야 한다."

마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터(Center for AI and Digital Policy)장은 "언젠가 AI가 인간의 지능을 뛰어넘을 것"이라며 "인간 중심의 신뢰할 수 있는 AI 시스템을 개발하는 것이 중요하다"며 이 같이 말했다.

세계 최초의 AI 기구인 'OECD AI 전문가 그룹'의 일원이자 AI 정책 분야의 최고 권위자인 그는 아이뉴스24가 2일 서울 드래곤시티호텔에서 개최한 '아이포럼 2021'에서 민원기 과학기술협력대사 겸 한국뉴욕주립대학교 총장과 'AI 거버넌스'를 주제로 특별 대담을 가졌다.

이날 대담은 신종 코로나바이러스 감염증(코로나19)에 따른 이동에 대한 어려움으로 미국과 포럼 현장을 온라인으로 연결해 화상으로 진행됐다.

AI 기술이 고도화하고 복잡화됨에 따라 AI의 '신뢰성'에 대한 논의도 폭넓게 이뤄지고 있다. 'AI가 예측 또는 판단한 결과를 믿을 수 있는가', 'AI 판단에 공정성을 부여할 수 있는가' 등 'AI 거버넌스' 체계에 대한 논의가 활발하게 진행되고 있다.

민 총장과 로텐버그 센터장도 이날 'AI에 대한 윤리 정립'에 대해 강조했다.

민 총장은 "AI의 발전, 특히 머신러닝 기술로 인해 인간이 AI를 컨트롤 할 통제권을 잃고 있는 것은 아닌가 생각한다"며 "빅데이터를 기반으로 하는 AI 기술이 우리의 프라이버시를 악용하고, 개인정보 유출 등에 대한 우려도 발생하고 있다"고 말했다.

이에 대해 로텐버그 센터장은 "최근의 AI는 개인정보 등의 데이터를 활용해 인간에게 과거보다 더 큰 영향력을 행사하고 있다"며 "이와 관련한 중요한 용어로 '블랙박스'가 있다. 즉, AI의 숨겨진 기능이 굉장히 많다는 것이다. 이는 AI 시스템 책임자라고 하더라도 AI가 도출해낸 결과에 대해 재현하거나 입증할 수 없다는 것"이라고 설명했다.

그는 "향후 어느 시점에서 AI의 지능이 인간의 지능을 뛰어넘을 것"이라며 "AI는 완벽한 존재라고 볼 수 없기 때문에 AI에 대한 통제권은 인간이 갖고 있어야 한다. '지속가능한 혁신'에는 리스크가 존재하지 않는다"고 지적했다. AI 기술의 발전과 혁신을 위해선 리스크를 만들어서는 안된다는 것이다.

민 총장은 이를 위해 글로벌 AI 거버넌스 체계를 구축하는 것이 중요하다고 강조했다.

민 총장은 "AI 알고리즘의 설계, 데이터 수집·보관·이용에 대한 투명성, 공정성, 책임성 확보의 중요성이 증대되고 있는 만큼, 윤리 정립을 위해선 AI 알고리즘 개발자와 데이터 관리자 및 사용자에 대한 수준 높은 윤리 교육이 필요하다"고 제안했다.

로텐버그 센터장 또한 "AI가 주는 솔루션에 대해 확신할 수 있도록 인간에게 전문성을 더욱 늘려줘야한다"고 말했다. 그는 "예를 들어 모든 사람들의 의견이 반영된 공평한 판결을 AI가 도출해내기 위해서는 우선적으로 이러한 시스템을 개발하는 사람의 전문성과 책임감이 주요하다"고 설명했다.

더불어 로텐버그 센터장은 AI 규정과 관련한 글로벌 원칙을 수립할 필요성이 있다고 강조했다. 그는 "경제협력개발기구(OECD), 유네스코(UNESCO) 등 국제기구는 물론 글로벌 빅테크 기업들의 AI 거버넌스 체계에 대한 논의도 활발히 이뤄지고 있다"며 "이 같은 움직임을 반영해 각 국가들은 명확하게 AI 규제 프레임워크를 만들라고 제안하고 싶다"고 했다.

이어 "현재 유럽이 앞장서서 AI 규제 관련 리더십을 보여주고 있으며, 한국의 기업들도 글로벌 관점으로 관련 규정을 준수할 필요가 있다"며 "즉, 한국 기업들이 유럽에 진출하기 위해서는 유럽이 마련한 규제를 준수해야하며, 이를 따를 준비를 해야한다"고 덧붙였다.

AI 산업 발전을 위해 한국 정부의 역할 등에 대한 의견도 오갔다.

로텐버그 센터장은 "한국은 AI 정책 수립과 관련해 높은 점수를 받고 있는 국가"라며 "정부가 원칙을 세우는 것도 중요하지만 실행을 옮기는 과정이 더욱 중요하다"고 말했다.

민 총장은 "한국 정부는 AI 산업을 적극적으로 지원하고 있고 산업과 협업을 잘하고 있는 걸로 명성이 높다"며 "단순하게 산업의 관점에서 지원을 하는 것 이상으로 대중의 이해관계도 생각해봐야 한다"고 밝혔다.

예를 들어 대중의 개인정보를 수집해 기술을 개발하지만 대중은 개발 과정에서 통제할 수 있는 권한은 없기 때문에 대중의 정보를 통해 기술을 개발한다면 시스템의 혜택 또한 이들에게 돌아가게 하는 것이 중요하다는 조언이다.