보안기업도 주목하는 챗GPT…"생성 AI 리스크는 정보 유출·저작권"

[아이뉴스24 김혜경 기자] "챗GPT 열풍이 불면서 생성형 인공지능(AI)의 보안 이슈도 부각되고 있다. 대표적인 리스크는 정보 유출과 저작권 문제, 새로운 유형의 사이버 공격이다. 생성 AI를 활용해 만든 컨텐츠의 저작권은 누구에게 귀속되는 지가 문제다."

19일 서울 여의도 페어몬트 앰배서더 호텔에서 열린 기자간담회에서 조규곤 파수 대표는 생성 AI가 가져올 IT 환경 변화와 새롭게 부각되는 리스크를 설명하며 이같이 밝혔다.

최근 챗GPT가 선풍적인 인기를 끌면서 멀웨어(악성 소프트웨어)를 제작하거나 피싱 도구로 이용하려는 시도가 늘고 있다. 챗GPT를 악용할 것인지 혹은 이로운 방향으로 활용할 것인지 갈림길에 서 있는 상황에서 생성 AI를 접목한 보안 서비스도 부각되고 있다.

코스닥 상장사인 파수는 데이터 보안 전문기업으로, 주력 사업은 디지털권리관리(DRM) 솔루션과 데이터 보안 플랫폼이다. DRM은 디지털 컨텐츠 사용 권한을 제한하는 기술로, 파수는 이 기술을 세계 최초로 상용화해 국내외 2천여개 기업‧기관에 제공하고 있다. 현행법이 모호한 상황에서 DRM 기술을 적극 활용해야 한다는 게 조 대표의 설명이다.

조 대표는 "지금까지 AI 학습을 위해선 반드시 문제와 답이 있는 데이터가 필요했는데 생성 AI는 이 같은 데이터가 필요 없다"며 "원 데이터를 비롯해 모든 텍스트로 학습이 가능하다는 점이 특징"이라고 말했다.

그는 "기업들은 생성 AI를 데이터 분석과 보고서 작성, 코딩 등 어시스턴트(보조 역할) 기능과 접목해 활용할 수 있다"며 "여러 채널로 들어오는 데이터를 통합하는 작업이 중요하다"고 전했다.

다만 AI가 제공하는 정보를 100% 믿을 수 없고 정보 유출도 우려된다는 게 조 대표의 지적이다. 그는 "특정 AI 서비스를 본인만 사용하는 것이 아닌 다른 이와 공유함으로써 발생하는 문제도 고려해야 한다"며 "본인이 공유한 정보를 활용해 다른 사람이 재가공을 할 경우 새로운 컨텐츠로 인지될 수 있는데 이 과정에서 저작권 문제가 발생한다"고 했다.

이 같은 문제를 해결하기 위해 파수는 DRM 솔루션을 고도화하고 자체 기술을 활용해 기업 맞춤형 어시스턴트 기능 등을 개발하고 있다. 조 대표는 "기업이 자체적으로 사용할 수 있는 모델을 개발할 것"이라며 "앞으로는 AI를 잘 활용하는 기업이 잘 활용하지 못하는 기업을 대체할 가능성이 높다"고 말했다.