메가존클라우드, 기업 맞춤 생성 AI 설계·구축·운영 서비스 출시

[아이뉴스24 박진영 기자] 메가존클라우드는 생성형 인공지능(AI)을 도입하고자 하는 기업을 위해 설계부터 구축, 운영까지 지원하는 기업 맞춤형 생성형 AI 서비스 '젠AI360(GenAI360)'을 출시했다고 19일 밝혔다.

젠AI360은 △기업의 생성형 AI 활용 전략 수립, 파일럿 과제 수행을 포함한 컨설팅 △기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 △기업 내 활용 대상 서비스 개발 및 가이드 제공 △생성형 AI 운영 전략 수립 및 서비스 운영 등으로 구성된다.

메가존클라우드는 지난 7월부터 9주간 사내 HR 헬프데스크에 접수된 질의 응답을 한국어 특화 거대언어모델(LLM)에 학습시키고, 관련 문서와 사내 가이드는 검색 증강 생성(RAG)을 적용해 신뢰할 수 있는 답변을 생성하도록 하는 프로젝트를 수행했다.

그 결과 첫 질문에 대한 답변의 정확도는 평균 75% 이상으로 확인됐고 이후 질문 수정 및 추가 질문을 통해 향상된 답변의 정확도는 90% 이상인 것으로 평가됐다.

이 파일럿 프로젝트는 데이터 분석과 AI·ML을 위한 다양한 AWS 서비스를 기반으로 클라우드 아키텍처로 구성됐다. 비용 효율적인 아키텍처 구성과 답변 품질을 향상시킬 수 있는 학습 방법 등을 위해 AWS와 생성형 AI 분야의 기술 협력을 강화했다고 회사 측은 전했다.

공성배 메가존클라우드 AI·데이터분석센터 센터장은 "LLM에 대한 뜨거운 관심에 비해 비즈니스 가치가 검증된 사례는 많지 않은 게 사실"이라면서 "메가존클라우드의 경험과 기술력을 AWS 서비스에 결합해 LLM의 한계를 극복하고 비즈니스적 가치를 고객들에게 명확하게 제공할 것"이라고 말했다.