[IT돋보기] "저작권 침해 등 AI 윤리 문제 심각...법제화 필요"

[아이뉴스24 박진영 기자] "인공지능(AI)이 글이나 그림을 만들어내고 있는데 현재로서는 사람이 만들었는지 AI가 만들었는지 구분하기 어렵다. 이로 인해 의도치 않은 개인정보 도용 문제가 발생하고 이미지 등 저작권 침해 문제가 현실화되면서 대책 마련이 시급하다."

28일 한국데이터법정책학회가 개최한 인공지능윤리법제 포럼에서 하주영 변호사는 생성형AI의 부작용에 대해 이같이 우려하면서 법제화의 필요성을 강조했다. 인공지능윤리법제 포럼은 데이터법정책학회 소속 법학 교수, 변호사 등 전문가 20여 명이 AI의 윤리적 문제에 대한 광범위한 법제화를 논의하는 자리로 마련됐다.

이 자리에서 하 변호사는 생성형AI 세션을 맡아 세계적인 현황과 법제화 필요성을 강연했다. 대화형 AI챗봇 이루다를 만든 스캐터랩 소속인 하 변호사는 "AI 연구의 중심인 미국에서는 허락 없이 저작물 이용이 가능하다 견해가 통설"이라며 "기존 텍스트 생성AI의 경우 구체적 피해가 적었으나 이미지 생성AI가 발표되면서 화가 등 예술계를 중심으로 기존 통설의 정당성에 대한 의문이 제기되고 있는 상황"이라고 밝혔다.

그가 언급한 것처럼 AI 학습 데이터의 경우 각국은 저작권을 좁게 인정하고 있는 게 사실이다. 유럽연합(EU), 일본 등에서는 AI 학습 데이터의 경우 이용 허락을 받지 않고도 저작물을 이용할 수 있는 특례조항을 입법화했다. 국내에서도 AI저작물 사용을 폭넓게 허용하는 저작권법 개정안이 국회에 계류 중이다.

하지만 생성AI 사례에서 볼 수 있듯이 AI가 학습 과정에서 저작권을 침해할 소지가 커지면서 오히려 저작권을 폭넓게 인정해야 한다는 것이 그의 주장이다. 하 변호사는 "이미지 생성AI가 화가들의 저작물을 무단으로 이용해 상업용 삽화 등 시장 수요를 대체하고 그에 따른 수익을 AI개발사가 독식하는 상황이 과연 정당한 가치 배분 방법인지 논의할 필요가 있다"고 설명했다.

따라서 "AI 법제화는 영국 자동차 산업에 악영향을 끼친 적기 조례(붉은 깃발법)가 아니라, 높은 수준의 안전규제로 항공여객운송산업 부흥에 기여한 항공안전규제의 길을 따라야 한다"고 하 변호사는 강변했다.

그는 또 다른 문제로 '개인정보 무단 도용 등 프라이버시 침해'를 꼽았다. AI학습에서 필요한 대규모 데이터는 대부분 공개된 웹사이트에서 수집하므로 상당량의 개인정보가 포함된 만큼 사생활 침해 소지가 크다는 것이다.

하 변호사는 "AI는 특성상 한번 학습된 후 특정 데이터만 제거하는 것은 불가능하고 문제가 될 경우 해당 모델 전체를 폐기해야 한다"며 "이미지나 목소리를 손쉽게 무단 도용할 수 있을 뿐 아니라 새롭게 생성한 이미지를 통해 조작이 가능해지면서 일명 딥페이크 2.0 문제가 불거질 수 있다"고 우려했다.

기존에 유명인의 이미지를 불법 합성해 논란이 된 게 '딥페이크'인데 현재는 고성능 AI 모델이 오픈소스로 공개돼 언제든 생성AI를 이용해 조작의 범위가 커진 것이다. 실제로 최근 미국에서는 한 여성 게임 크리에이터가 자신의 얼굴이 생성AI 성인물에 출연해 피해를 보기도 했다.

하 변호사는 " 생성형AI가 만든 창작물이 많아지고 인간의 창작물과 구분하기 어려운 상황에서 이에 따르는 부작용 해소를 위해 AI산업 발전과 함께 윤리 법제화를 논의해야 한다"고 거듭 강조했다.