인공지능(AI) 해킹 기술 왜 중요하냐고?

[김국배기자] 약 한 달 전 미국 라스베이거스에서 열린 세계 최대 해킹대회 '데프콘'에서는 이전에는 보지 못한 낯선 풍경이 연출됐다.

'해커들의 월드컵'이라 불리는 이 대회에 인간이 아닌 기계가 본선에 오른 것이다. 카네기멜론대학 연구팀이 만든 '메이헴(Mayhem)'이라는 이름의 인공지능(AI) 시스템이었다.

사람이 아닌 유일한 참가자 메이헴은 아직 최종 순위가 발표되진 않았지만 15개팀 중 14위를 기록할 것으로 예상된다. 인간의 승리라고 할 수 있지만 AI 해킹 기술의 가능성은 엿본 사례다.

해킹 공격과 방어를 자동화할 수 있는가. 이는 컴퓨터 보안의 최대 난제 중 하나로 꼽힌다. 해킹의 자동화, 즉 'AI 해킹'은 도대체 왜 중요한 것일까.

메이헴을 만드는 과정에 참여하기도 한 차상길 카이스트 교수는 6일 서울 중구 대한상공회의소에서 행정자치부 주최로 열린 '2016 SW 개발보안콘퍼런스'에서 그 이유에 대해 설명했다.

그는 AI 해킹 기술이 중요한 이유 중 하나로 "취약점을 찾는 일이 개인의 능력에 매우 의존적이기 때문"이라고 말했다.

차 교수는 "조지 호츠와 같은 천재 해커가 한 시간이면 찾는 프로그램 취약점을 프로그래밍 10년차 개발자는 한 달이 걸려도 결국 못 찾는 경우가 발생한다"며 "개개인의 능력에 따라 해킹의 성패가 좌우되는 셈"이라고 말했다.

이어 "사이버 전쟁 시대에 대규모 취약점 분석이 필요한 경우 수동 분석에 의존하면 중국과 같은 해커들이 많은 나라를 이겨낼 수 없다"며 "자동화된 해킹을 통해 갭(gap)을 메워나갈 수 있다"고 설명했다.

AI 해킹이 중요한 또 다른 이유로는 '수많은 버그'를 꼽았다. 취약점 찾기는 개인의 능력에 의존하는 상황에서 버그는 날이 갈수록 증가하고 있다는 것이다.

차 교수는 "버그를 고치는 속도보다 새로운 버그가 생성되는 속도가 훨씬 빨라 자동화된 해킹을 통해 보안에 관련된 버그만 선별적으로 고칠 필요가 있다"고 언급했다.

차 교수의 말에 따르면 우분투(Ubuntu) 버그 데이터베이스(DB)에 등록된 버그의 수는 12만 개에 이른다.

한정된 자원 속에서 선택적으로 취약점을 고쳐야 하는 상황이 발생할 수밖에 없는 만큼 중요한 버그를 빨리 고칠 수 있는 자동화된 해킹이 중요하다는 얘기다.

그는 "개발자 입장에서는 제품의 취약점을 고칠 수도, 새로운 기능을 추가하는 업무를 할 수도 있지만 회사 입장에서는 후자의 경우 소비자가 상품을 가치있게 보고 살테니 돈이 되는 일"이라며 "투자수익률(ROI) 측면에서 회사는 버그보다는 새 기능을 우선시한다"고 말했다.

마지막으로 그는 "보안 취약점에 빠르게 대응할 수 있다"는 점을 들었다. 차 교수는 "자동화된 해킹을 통해 배포 이전에 사전 점검이 가능하고, 배포된 이후에도 재빠른 사후조치가 가능하다"고 말했다.

차 교수는 또한 "자동화된 해킹에 대한 연구는 이제 막 시작 단계"라며 "자동화된 해킹 기술은 세계적인 트렌드이며 보안에 있어 매우 중요하다"고 강조했다.