[아이뉴스24 정유림 기자] 카카오는 자체 개발한 인공지능(AI) 모델 카나나의 경량 언어모델(SLM)을 오픈소스로 28일 공개했다. 스마트폰 등과 같은 디바이스(기기)에서 구동할 수 있는 카나나-2 경량 언어모델 시리즈로, 카나나-2-1.3B-베이스, 카나나-2-1.3B-인스트럭트, 카나나-2-3B-베이스, 카나나-2-3B-인스트럭트 등이다.
카카오는 크기가 작더라도 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량 언어모델을 연구해왔다. 카카오에 따르면 카카오톡 속 나만의 AI 비서를 표방하는 '카나나 인 카카오톡', 카카오톡 대화·통화 요약, AI 국민비서 등 다양한 서비스에서 경량 모델이 활용되고 있다.
이번에 공개한 모델들은 작은 크기에도 한국어와 영어 모두에서 세계적인 수준의 성능을 구현한 것이 특징이다. 유사 크기의 최신(SOTA) 오픈소스 모델 대비 한국어, 영어, 지식, 수학, 코드 등 대부분의 대표 벤치마크에서 우수한 성능을 기록한 것으로 전해졌다.
카카오 관계자는 "이번에 공개한 카나나-2-1.3B-인스트럭트와 함께 개발한 더 작은 규모의 카나나-2-0.9B-인스트럭트는 대화, 지식, 코드, 수학, 지시 이행, 도구(툴) 호출 등 실제 서비스 활용 역량에서도 알리바바의 큐웬, 구글의 젬마 등 동급 모델과 경쟁력 있는 성능을 보였다"고 강조했다.
자체 개발한 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저란 AI 모델이 문자(텍스트)를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 기술이다. 한국어에 최적화된 토크나이저를 사용할수록 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다. 카카오는 지난해 개발 완료한 한국어 특화 토크나이저를 이번 모델 전반에 적용했다.
또 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 문제를 해결하기 위해 슬라이딩 윈도우 어텐션 구조를 도입했다. 이로써 최대 3만2000개의 토큰(약 2만4000개 단어) 길이 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있도록 한다.
카카오는 이번 모델을 상업적 활용까지 허용하는 카나나 오픈 라이센스로 배포한다. 이로써 개발자, 스타트업, 연구기관 등 누구나 제약 없이 기술을 활용할 수 있다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "이번에 공개한 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 밝혔다.
/정유림 기자(2yclever@inews24.com)