LGU+, AWS 행사서 AI 운영 플랫폼 구축 사례 공개…'모델 준비 상태' 구현

[아이뉴스24 서효빈 기자] LG유플러스는 아마존웹서비스(AWS)가 주최한 '2026 Modern Agentic Applications Day' 행사에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 공개했다고 10일 밝혔다. 이번 행사는 생성형 AI와 에이전트 기술 기반 인프라 운영 자동화를 주제로 열렸다.

LG유플러스는 기존 온프레미스 중심 AI 개발 환경을 클라우드와 연계한 구조로 전환했다. AI 개발부터 서비스 운영까지 전 과정을 연결하는 플랫폼 구축 경험을 공유했다. 모델 학습·평가·배포·운영이 분리돼 발생하던 반복 작업을 하나의 흐름으로 통합한 것이 핵심이다. 데이터 수집부터 운영까지 전 과정을 단일 파이프라인으로 구성해 개발자와 운영자가 일관된 환경에서 AI를 활용할 수 있도록 했다.

이번 플랫폼은 '모델 준비 상태(Model Ready)' 유지에 초점을 맞췄다. AI를 개발 후 종료하는 방식이 아니라 언제든 서비스에 적용 가능한 상태를 유지하도록 설계했다. 이를 위해 AWS의 관리형 쿠버네티스 서비스 Amazon EKS 기반 하이브리드 인프라를 도입했다. 온프레미스 GPU 자원을 EKS 클러스터에 통합하고 컨트롤 플레인은 AWS 완전관리형으로 운영해 관리 부담을 줄였다. GPU 자원도 필요에 따라 유연하게 배분하는 구조를 적용해 활용 효율을 높였다.

LG유플러스는 이번 구축을 통해 AI를 기술이 아닌 서비스 관점에서 안정적으로 운영할 수 있는 기반을 마련했다고 설명했다. 플랫폼이 인프라 관리 부담을 줄이면서 AI 서비스 제공 속도와 품질을 높이고 운영 안정성도 강화했다는 평가다.

권기덕 LG유플러스 AX엔지니어링Lab장은 "LG유플러스는 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC 기반 엔지니어링 플랫폼 역량을 강화하고 있다"며 "AWS와 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높이겠다"고 말했다.