[ICTF 2023] "생성형 AI는 디지털 뮤즈...인류 위한 안정 장치 필수"

[아이뉴스24 김혜경 기자] [아이뉴스24 김혜경 기자 "생성형 인공지능(AI)은 우리 사회의 많은 면을 근본적으로 변혁할 수 있는 잠재력을 지녔다. AI 기술의 사회·윤리적 영향을 고려해 공익 증진에 활용되도록 보장하는 작업이 반드시 필요하다."

데이비드 리 쿠오 추엔(David Lee Kuo Chuen) 싱가포르 국립사회과학대학교(SUSS) 교수는 오는 24일 '초거대 AI 시대: 챗 GPT와 미래 세상'을 주제로 서울시 중구 페럼타워에서 열리는 '2023 아이뉴스24 ICT 포럼(ICTF 2023)'에 앞서 진행된 사전 인터뷰에서 생성 AI의 파급력을 강조하며 이같이 전했다.

생성형 AI는 업무를 자동화하고 새로운 기회를 창출하는 등 산업 지형을 바꿀 수 있다고 리 쿠오 추엔 교수는 설명했다. 다만 AI 기술이 사회를 이롭게 만드는 방향으로 개발될 수 있도록 안전장치 마련이 필수라고 강조했다.

다음은 데이비드 리 쿠오 추엔 교수와의 일문일답.

Q> 생성형 AI를 한 단어로 표현하자면

A> 생성형 AI는 '디지털 뮤즈'다. 이전에 본 적 없는 아이디어와 멜로디, 예술 작품을 만들 수 있기 때문이다. 가능성의 한계를 넘어설 수 있도록 인간을 돕는 도구라고 본다.

Q> 생성형 AI의 특징은 무엇이라고 보나

A> 전통적인 AI는 기존 데이터에서 패턴을 발견하지만 생성형 AI는 기존 데이터와 유사하거나 새로운 데이터를 만든다. 가장 흥미로운 점은 잠재력이다. 신약 혹은 맞춤형 치료법을 개발할 수도 있고, 딥페이크로 알려진 가짜 미디어를 생성할 수도 있다. 한계가 없는 셈이다.

생성형 AI는 우리가 교육‧보건‧엔터테인먼트‧일자리‧산업에 대해 생각하는 방식을 완전히 바꿀 것이다. 특정 직업은 대체될 가능성도 배제할 수 없다. 특정 시점에 도달했을 때 인간은 고용 시장에서 생존하기 위해 새로운 능력을 익히고 훈련해야 할 것이다.

Q>AI 활용으로 어떤 유형의 혁신이 가능한가. 기업의 성장 전략에 미치는 영향은

A> 생성형 AI는 소비자 취향과 행동 양식에 기반한 맞춤형 서비스 개발에 활용될 수 있다. 개인화(Personalization)가 가능하다는 것이다. 예를 들면, 고객의 구매 이력과 브라우징 패턴, 인구통계학적 데이터에 기반해 상품을 제안하는 식이다. 소셜미디어 업데이트나 제품 설명 등 콘텐츠 제작에도 사용 가능하다.

생성형 AI로 고객 행동과 거래 데이터를 분석해 사기를 탐지·예방하는 것도 가능하다. 누군가 대량으로 물품을 주문할 시 AI가 이를 분석해 정상적인 패턴이 아닐 경우 경고를 보내는 방식이다. 기업은 AI 활용을 통해 양질의 콘텐츠를 제작하거나 인력과 리소스를 다른 곳에 배치할 수 있다. 업무 방식을 혁신적으로 바꿀 수 있다.

Q> 생성형 AI의 부정적인 영향은 무엇인가

첫 번째는 편향성과 공정성이다. 훈련용 데이터의 대표성이 충분치 못하다면 AI가 편견을 가질 수 있고, 공정한 결과를 보장할 수 없다. 두 번째는 프라이버시 문제다. 생성형 AI는 실제와 같은 이미지와 영상을 허락 없이 생성할 수 있다. 생성형 AI 모델이 프라이버시를 침해하거나 인간을 기만하는 콘텐츠를 만들지 않도록 조치하는 것이 매우 중요하다.

허위정보와 지식재산 이슈도 불거질 수 있다. 생성형 AI가 만든 가짜 이미지와 영상이 프로파간다에 동원될 수 있고, 최초 아이디어의 소유권을 둘러싼 문제도 발생할 수 있다. 마지막으로 보안 문제다. AI가 보안 규정을 위반하거나 보안을 위협하는 일에 오‧남용되지 않도록 각별한 주의를 기울여야 한다.