SKT AI 데이터센터 찾은 과기정통부…국산 NPU 활용 현황 점검

[아이뉴스24 서효빈 기자] SK텔레콤은 과학기술정보통신부가 29일 인천에 있는 AI 서비스 전용 데이터센터를 방문해 국산 신경망처리장치(NPU) 활용 현황을 점검했다고 밝혔다.

이번 점검은 정부가 추진 중인 'K-엔비디아 육성 프로젝트' 산업 현장을 확인하기 위해 마련됐다. 현장에는 이도규 과기정통부 정보통신정책실장, 박병관 SK텔레콤 Core플랫폼담당, 박성현 리벨리온 대표가 참석했다.

최근 AI 산업의 중심축이 대규모 학습에서 실시간 추론으로 이동하면서, 정부는 추론에 특화되고 전력 효율이 높은 NPU를 중심으로 국산 AI 반도체 생태계 구축에 나서고 있다.

지난 3월 열린 'K-엔비디아 육성 프로젝트' 민관 합동 간담회에서 정부는 국민성장펀드를 통해 AI·반도체 분야에 5년간 50조 원, 올해 10조 원 규모의 장기 인내자본을 공급하고, 2030년까지 AI 반도체 글로벌 유니콘 5곳을 배출한다는 목표를 발표한 바 있다.

SK텔레콤 AI 서비스 전용 데이터센터에는 리벨리온의 데이터센터용 NPU '아톰(ATOM)'과 '아톰 맥스(ATOM MAX)'를 탑재한 서버가 설치돼 있다. SK텔레콤은 이를 '에이닷 전화 통화요약'과 반려동물 영상진단 보조 서비스 '엑스칼리버'에 적용하고 있다.

현장에서 박병관 담당은 "SK텔레콤은 아톰과 아톰 맥스 기반 서버를 에이닷 전화 통화요약과 엑스칼리버에 적용하고 있다"며 "아톰 맥스 기반 상용 서비스를 계속 확대할 계획"이라고 설명했다.

에이닷 전화 통화요약은 SK텔레콤 자체 거대언어모델(LLM) '에이닷엑스(A.X)'를 기반으로 하루 최대 5000만건의 API 호출을 처리한다. SK텔레콤은 이를 국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI' 구현 사례로 보고 있다.

앞서 SK텔레콤과 리벨리온은 국산 NPU 생태계 확대를 위한 기술 협력도 강화하고 있다. 양사는 지난달 글로벌 반도체 설계 기업 Arm과 3자 업무협약(MOU)을 맺었다. CPU와 NPU를 결합한 AI 추론 서버 공동 개발에도 착수했다.

양사는 실증을 통해 SK텔레콤의 자체 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 해당 서버에서 운영하는 방안도 검토하고 있다. 정부의 '독자 AI 파운데이션 모델' 프로젝트에도 SK텔레콤 컨소시엄 정예팀으로 함께 참여하고 있다.

SK텔레콤 관계자는 "국가 간 AI 기술 경쟁이 심화되는 가운데 국내 AI 생태계 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소"라며 "국산 LLM이 국산 NPU를 통해 서비스되는 소버린 AI를 확대할 계획"이라고 말했다.