[아이포럼 2021] 정상조 교수 "AI가 사고치면 책임은?…분쟁 증가"

[아이뉴스24 김태환 기자] 인공지능(AI) 이용이 활성화되는 미래사회에선 AI와 공존할 수 있는 새로운 질서 확립이 필요하다는 지적이 나왔다. 현재 법 체계로는 대규모 데이터 이용과 사고가 발생했을 경우 책임을 누가 지느냐에 대해 불분명하다는 문제가 나타나기 때문이다.

2일 정상조 서울법학대학원 교수 겸 국가지식재산위원회 위원장은 서울 용산구 드래곤시티호텔에서 열린 ‘아이뉴스24 아이포럼 2021’ 기조강연을 통해 "AI와 함께하는 새로운 질서를 마련하기 위해 많은 이해관계인들이 참여하고 고민해야 한다"고 밝혔다.

정 교수는 "AI가 우리의 성향을 분석해 맞춤형 서비스를 제공해 편리한 삶을 누리고 있지만 그 이면에는 섬뜩한 현실이 있다"면서 "우리는 기억 못하지만 1년 전 내가 어디에 있었는지, 무엇을 했는지 등 데이터를 분석해 서비스 가치를 산정해버린다"고 지적했다.

예를 들어, 일반 택시를 탈 경우 기본료와 거리요금이 정해져 있어 요금이 얼마가 나올지 예측할 수 있다. 하지만 우버를 이용하면 러시아워 시간에는 요금이 최대 4~8배까지 비싸진다.

정 교수는 "AI는 수요자가 얼마나 급한지, 얼마나 많은지 등을 계산해 택시요금을 수시로 바꾸게 된다"면서 "이렇게 되면 기존 공정거래법상 불공정성에 대한 문제가 제기될 수 있게 된다"고 설명했다.

같은 맥락으로 배달 앱의 경우 배달기사들의 일거리는 AI가 거리와 요금 등을 정해 배정한다. 거리가 멀거나 수수료가 싼 일거리만 배정된다면 노동법상 문제가 발생할 수도 있다.

데이터 이용과 관련해 개인정보법과 충돌하는 사례도 빈번히 일어난다. 대표적인 문제가 ‘이루다’ 사태였다고 정 교수는 지적했다.

정 교수는 "이루다 서비스 문제는 자신이 제공하는 정보가 개인정보인지 아닌지 구분하지 못한 채 대화를 했기 때문에 나타난 것"이라며 "이루다가 성희롱‧차별 발언을 하고 개인정보를 누설하는 것은 이루다가 잘못한게 아니라 이루다를 만든 기업이 우리 대화를 그대로 학습시켜 나타난 결과"라고 분석했다.

데이터 이용과 관련한 분쟁도 증가하고 있다. 데이터를 수집‧학습하는 주체가 사람이 아니라 AI가 되면서 로열티 제공과 관련한 새로운 질서 정립이 필요해졌기 때문이다.

정 교수는 "부동산정보를 제공하는 네이버부동산과 직방은 데이터 무단복제 문제로 소송전을 벌였지만 데이터 복제가 이뤄지지 않았다는 판결이 났다"면서 "반면 같은 문제로 잡코리아와 사람인 간의 소송에서는 유죄가 인정되기도 하는 등 데이터 이용 관련 기준이 아직 정립되지 않았다"고 설명했다.

그는 "우리나라 대법원과 미국의 경우 AI도 사람과 똑같이 취급해야 한다는 판결이 늘어나고 있다"면서 "특히 정부에서도 저작권법 개정안, 부정경쟁방지법 개정, 데이터기본법 등으로 AI의 데이터 이용과 관련한 법적 질서 정비를 지속하고 있다"고 설명했다.

AI 이용에 있어 문제가 발생했을 때 통제 문제도 제기된다. AI 프로그램의 성희롱 발언이나 자율주행자동차가 사고를 냈을 경우 누구에게 책임을 지게 하고, 재발방지책을 마련하는가에 대한 문제다.

정 교수는 "AI나 로봇을 처벌하거나 책임을 부과한다고 해도, (AI와 로봇이) 문제에 대해 반성하고 책임을지지 않도록 노력해야 하는데, 아무 효과가 없다는 문제가 발생한다"면서 "AI 주인을 처벌하거나 AI를 만든 기업을 처벌해야 하는데 현실적으로는 쉽지 않다"고 지적했다.

그는 "현행법 질서에 따라 어떤 처벌해야 할지 불명확 불확실 부적절한 경우 많기 때문에 우리는 AI와 공존하기 위한 새로운 시대의 새 질서에 대해 고민해야 한다"면서 "참여민주주의를 통해 보다 많은 이해관계인들이 참여해 새로운 질서를 모색해 나가야 할 것"이라고 말했다.

한편 아이뉴스24는 이날 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 'AI 위드 휴먼(AI WITH HUMAN)'을 주제로 AI 기술의 현재를 살펴보고 미래 발전 방향을 제시하는 한편, 인간과 AI의 공존을 탐구해보는 '아이포럼 2021'을 개최했다.

민원기 과학기술협력대사 겸 한국뉴욕주립대 총장과 세계 최초의 AI 기구인 'OECD AI 전문가 그룹'의 일원인 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터(Center for AI and Digital Policy)장의 특별 대담이 진행됐다.

이어 각 분야 전문가들이 ▲AI의 윤리 ▲산업 ▲증권·금융 ▲정보미디어 ▲보건의료 등 5개 세션을 주제로 AI 기술과 관련한 법적 규범과 제도적 장치, 인류와의 공존, 그리고 향후 변화까지 조망하는 심도 있는 주제강연이 이어진다.