SKT 독파모 참여 AI 학자들이 말하는 'A.X K2'의 강점은 [현장]

[아이뉴스24 안세준 기자] "AI 분야 발전과 변화 속도는 매우 빠릅니다. 때문에 최신 연구 트렌드를 모델 개발에 반영하기 위한 노력이 필수적입니다."

23일 서울 중구 을지로 SK T타워에서 열린 'SKT 독파모 아카데믹 2차 세미나'에서 SK텔레콤 정예팀 관계자는 "어떤 선행연구를 바탕으로 모델을 개발하는지에 대한 학문적 기반을 누구나 이해할 수 있는 수준으로 안내하기 위해 세미나를 기획했다"며 이같이 밝혔다.

이 세미나는 SK텔레콤이 정부 독자 AI 파운데이션 모델(독파모) 프로젝트를 통해 개발 중인 후속 플래그십 모델 'A.X K2'(에이닷엑스 케이투)에 어떤 학문적 기반이 녹아드는지 소개하기 위해 마련됐다. SK텔레콤은 총 3회에 걸쳐 AI 모델의 수학적 원리, 추론·행동 방식, 시스템 구조를 주제로 릴레이 강연을 진행하고 있다.

지난 17일에는 서인석 서울대 수리과학부 교수가 'AI가 생각하는 원리'를 주제로 첫 강연을 맡았다. 23일 2회차 강연은 유영재 서울대 컴퓨터공학부 교수가 'AI가 행동하는 방법, 에이전틱 AI'를 주제로 발제했다. 오는 7월1일에는 윤성로 서울대 전기전자공학부 교수가 발표한다. 이들은 모두 컨소시엄을 통해 A.X K2 개발에 참여하고 있다.

유 교수는 이날 강연에서 생성형 AI가 에이전틱 AI로 진화하기 위해서는 단순 응답을 넘어 계획, 실행, 검증이 가능한 구조가 필요하다고 설명했다. 기존에는 사용자 질문에 답을 생성하는 데 초점을 맞췄다면, 에이전틱 AI는 사용자의 목표를 인식하고 스스로 계획을 세운 뒤 실제 작업을 수행하는 방향으로 발전하고 있다는 것이다.

유 교수는 "에이전틱 AI는 능동적인 에이전트를 말한다. LLM이 두뇌 역할을 한다면 (에이전트 AI는) 툴과 메모리, 액션을 통해서 실제로 일을 하는 것"이라며 "단순히 질문에 대답하는 것을 넘어 알아서 검증·확인하고 실제 결과물을 줄 수 있는 형태여야 한다"고 말했다.

AI가 실제 행동 권한을 갖게 되는 만큼 보안과 신뢰성 문제도 커질 수 있다는 지적도 나왔다. 챗봇의 오류가 잘못된 답변에 그쳤다면 에이전트의 오류는 실제 피해로 이어질 수 있어서다.

유 교수는 "과거 준비가 잘 되지 않은 챗봇은 예를 들어 욕을 하거나 차별적 발언을 하는 등의 문제가 있었다"며 "(생성형 AI의 경우) 액션을 하게 되면, 실제로 스위치를 맡기게 된다면 자칫 되돌릴 수 없는 결과가 나올 수도 있다"고 했다.

그러면서 "에이전틱 AI를 실현할 때에는 휴먼 인 더 루프(Human-in-the-Loop)라는 개념, 즉 사람이 중간에 검수해야 하는 등 책임 있게 만들 필요가 있다"고 강조했다.

에이전틱 AI 구현 과정에서 하네스 엔지니어링만으로 충분한지, 모델 파인튜닝이 여전히 필요한지에 대해서는 "하네스만으로 하기는 어려울 수 있다"며 "모델이 잘 알고 있는 영역은 하네스로도 가능하겠지만, 더 어려운 태스크는 튜닝이 필요한 부분이 있다"고 답했다.

한편 A.X K2 개발에는 SK텔레콤을 비롯해 크래프톤, 포티투닷, 리벨리온, 라이너, 셀렉트스타, 서울대, KAIST 등이 참여하고 있다. SK텔레콤은 멀티모달, 수학, 에이전트 등 다양한 영역에서 모델 고도화를 추진하고 있다. 독파모 정예팀들은 조만간 모델 개발을 마무리하고 평가서류를 제출할 예정이다.