딥페이크·사진조작, 모바일 앱으로 확인한다

[아이뉴스24 최상국 기자] KAIST 교원 창업기업인 디지탈이노텍(대표 이흥규 전산학부 교수)은 인공신경망 기반 딥페이크(deepfake) 탐지 및 사진 위변조 탐지 소프트웨어인 `카이캐치(KaiCatch)'를 모바일 앱(안드로이드)으로 개발해 서비스를 시작한다고 30일 밝혔다.

KAIST에서 잡아낸다는 의미의 `카이캐치(KaiCatch)'는 이흥규 교수팀이 2015년 국내 최초로 공개한 영상 변형 탐지 무료 서비스에 기반해 전통적인 포렌식 기술과 인공지능 기술을 융합해 업그레이드한 것으로, 일반인들도 손쉽게 이용할 수 있도록 모바일 앱으로 만든 것이다.

사진의 경우 BMP, TIF, TIFF, PNG, JPEG 형식의 이미지를 모두 처리할 수 있으며 avi 나 mp4 형식의 동영상은 개별 프레임을 PNG 포맷으로 만들어 앱에 업로드하면 딥페이크 등 위변조 여부를 확인할 수 있다. 동영상 내의 얼굴이 지나치게 작거나(해상도 128×128 이하), 얼굴이 상당 부분 잘린 경우가 아니면 90% 이상의 정확도로 탐지가 가능하다.

위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 일반인들도 간단하게 판단할 수 있도록 표시된 두 장의 분석 이미지로 보여준다. 분석 결과는 0에서 100 (%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높다.

주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환 등 크게 3가지 유형으로 나눌 수 있다. 연구팀이 개발한 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지한다. 어떤 방식으로 위변조가 됐는지 관계없이 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석해 탐지하는 기술이다.

이흥규 교수는 "카이캐치는 다양한 유형의 변형에 대응한 범용성을 가지도록 인공지능과 미세 이상 신호 흔적 분석 기법을 사용해 개발됐다”며 "우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다”고 설명했다.

개발된 기술은 위변조 탐지는 물론 무결성 검증에 활용할 수 있다. 이 교수는 "디지털콘텐츠 위변조 탐지 기술을 일반인들도 활용할 수 있도록 실용화 단계로 들어섰다는 점에서 의미가 크다"며 "언론사에 접수되는 수많은 사진들의 실시간 검증으로 왜곡 정보 제공 가능성을 크게 낮출 수 있을 것"으로 기대했다.

또한 "가까운 기간내 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 앱 들도 출시할 계획"이라면서 "기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 지속적으로 추가 탑재해 탐지가 안 되는 경우들을 더욱 줄여나가겠다"고 덧붙였다.

앱은 구글스토어에서 `카이캐치'를 검색해 무료로 다운로드할 수 있다. 서비스 이용료는 기본 2천원이다.