[종합]SKT, 2020년 5G 대화형 AI 목표 기술개발

[아이뉴스24 김문기 기자] "자체 인공지능(AI) 가속 솔루션을 내년 2.0으로, 2020년에는 3.0으로 버전업해 최종적으로 '대화형 지식 AI 서비스'를 선보이겠다."

정무경 SK텔레콤 ICT기술원 SW기술원 머신러닝(ML) 인프라랩 팀장은 21일 서울 을지로 삼화빌딩에서 열린 뉴ICT 포럼에서 SK텔레콤이 2년여간 공들여 자체 개발한 인공지능(AI) 가속 솔루션 상용화를 발표하며 이같이 말했다.

이날 공개한 AI 가속 솔루션 'AIX'는 뉴럴프로세싱엔진(NPU)와 HBM 메모리 등이 탑재된 카드 형태로 제작된 하드웨어와, AI 알고리즘과 음성인식 서비스 누구와 관련된 소프트웨어가 결합된 형태다. SK텔레콤은 NPU를 설계하는 한편, 데이터센터에 추가 도입해 쓰일 수 있도록 솔루션을 구성했다.

SK텔레콤은 AI 서비스 '누구'가 기존 대비 서비스 용량이 약 5배 늘어날 것으로 기대했다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산속도도 20배 빨라진다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 더 탁월하다는 게 SK텔레콤의 설명이다. 즉, 서버 증설 없이도 비용을 절감할 수 있다.

이는 AIX가 AI 서비스에 특화돼 효율적으로 운영되면서 기존 대비 더 많은 AI 데이터를 한꺼번에 처리할 수 있게 됐기 때문이다. 즉 데이터센터를 물리적으로 늘리기 보다는 한꺼번에 몰리는 데이터를 빠르게 처리해줌으로써 마치 수용량이 늘어난듯한 효과를 줄 수 있게 된다. 덤으로 속도와 전력효율도 높일 수 있다.

정 팀장은 실제 CPU로 초당 처리할 수 있는 데이터 수용량과 SK텔레콤의 AIX를 도입했을 때를 비교 시연해줬다. CPU로 처리했을 때는 초당 3천 프레임 정도를 기록했지만, AIX 상황에서는 이보다 높은 1만5천 프레임 정도로 더 높았다. 음성도 CPU에서는 툭툭 끊겼지만 AIX에서는 자연스럽게 이어진다.

SK텔레콤의 머신 인프라랩은 수백명의 인원이 AI 가속기 개발에 매달리고 있는 엔비디아나 구글, 인텔과는 달리 규모가 작지만, 자체 보유한 AI 서비스 최적화 시키는데 집중하는 방향으로 나아갈 계획이다.

정 팀장은 "엔비디아의 GPU나 구글의 TPU는 수백명 정도가 연구에 투입되고 있지만 그들이 구축하는 AI 가속기는 너무나 다양하고 어디에 쓰일지 모르는 기술"이라며, "우리의 AIX는 우리의 서비스에 특화돼 있고, 최적화돼 있으며, 그간 전문경험이 있는 엔지니어들을 충분히 보강했기 때문에 국내 최초로 AI 가속기를 도입할 수 있게 됐다"고 강조했다.

SK텔레콤은 AI 전문인력 보강과 관련 업체의 인수합병도 고려 중이다. 정 팀장은 "(인력 보강에 대한) 목표수치가 있다"라며, "인수도 SK텔레콤이 우리가 부족한 부분을 중심으로 다방면으로 탐색해보고 있다"고 말했다.


향후 SK텔레콤은 오는 2020년 대화형 지식기반 AI 서비스를 론칭할 계획이다. 이를테면 '누구'와 의사소통이 가능하게 된다. 이를 위해서는 개인용 디바이스인 '누구'가 지능화돼야 하며, 데이터센터도 더 빠르게 데이터를 날라야 한다. 이 과정에서 5G가 제 역할을 톡톡히 해줄 것으로 기대된다.

SK텔레콤이 자체 개발한 NPU를 '누구'에 이식시킬 수 있다. 대체적으로 간단한 음성 대화는 누구가 자체적으로 처리할 수 있게 된다. 고품질 AI 서비스는 5G 통로를 통해 데이터센터가 역할을 맡는다. 데이터센터 역시 AIX 도입으로 이전 대비 더 많은 사용자를 한꺼번에 수용하면서도 속도는 더 빠르게 대응할 수 있게 된다.

정 팀장은 "누구를 통해 음성명령이 데이터센터를 왔다갔다 해야 하는데 5G가 도입되면 이 구간의 지연문제가 해결되고 보다 고품질의 서비스 제공이 가능해질 뿐만 아니라 다양한 디바이스에서 통일된 AI 서비스를 보편적으로 누릴 수 있다"라며, "미래 AI는 다인식 AI로 동작하는 퍼스널 디바이스와 고차원의 AI 서비스가 동작하는 데이터센터의 조합이 될 것"이라고 설명했다.

한편, 미국 시장조사업체 트랙티카가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억 달러에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.