[AWS 리인벤트 2024] "에너지 소비 46% 줄인 데이터센터로 AI 혁신"

[아이뉴스24 윤소진 기자] 아마존웹서비스(AWS)가 컴퓨팅 파워를 12% 높이고 에너지 소비는 46% 줄인 차세대 데이터센터 구축 계획을 공개했다.

AWS는 미국 라스베이거스에서 2일(현지시간) 연례 최대 기술 컨퍼런스 '리인벤트 2024'를 열고 이같은 내용을 공개했다.

AWS에 따르면 새로운 데이터센터는 전력, 냉각, 하드웨어 설계의 혁신을 결합해 에너지 효율성을 크게 개선했다. 특히 전기 배전 및 기계 시스템을 간소화해 99.99%의 인프라 가용성을 실현하고, 전기 관련 문제로 영향을 받을 수 있는 잠재적 랙의 수를 89% 감소시켰다.

핵심은 액체-칩(liquid-to-chip) 냉각 시스템이다. AWS는 AWS 트레이니움2와 엔비디아 GB200 NVL72 같은 고성능 AI 칩을 위한 액체 냉각과 일반 네트워크 및 스토리지 인프라를 위한 공기 냉각을 원활하게 통합했다. 이를 통해 전통적인 워크로드나 AI 모델을 실행할 때 최저 비용으로 최대 성능과 효율성을 제공할 수 있게 됐다.

제임스 브래드버리 앤스로픽 컴퓨팅 부문 수석 엔지니어는 "선도적인 파운데이션 모델을 개발하는 데 있어 안전하고, 성능이 뛰어나며, 에너지 효율적인 인프라에 대한 접근성은 중요한 성공 요소"며 "최첨단 데이터센터 구축을 위한 AWS의 노력은 우리가 주요 클라우드 제공업체이자 교육 파트너로 AWS를 선택한 핵심 이유 중 하나"라고 강조했다. 앞서 AWS는 오픈AI 대항마로 꼽히는 앤스로픽에 총 80억달러(11조원)을 투자하며 생성형AI 연합전선을 구축했다.

새로운 데이터센터 구성요소는 AWS의 전 세계 34개 리전, 108개 가용 영역에 순차적으로 구현될 예정이며, 첫 번째 구축은 2025년 초 미국에서 시작된다.

AWS는 또한 클라우드 컨택센터 설루션인 '아마존 커넥트'에 새로운 생성형 AI 기능을 추가했다.

소비자들은 점점 더 개인화되고, 더 빠르며, 더 유능한 셀프 서비스 지원을 기대한다. 새롭게 도입된 '아마존 Q 인 커넥트'는 고객 데이터를 실시간으로 분석해 개인화된 응답과 선제적 조치를 제공한다. 예를 들어 항공사는 상당한 지연을 경험하고 있는 단골 승객을 식별해 그들의 충성도 상태와 과거 여행 패턴을 기반으로 우선 예약 변경 옵션이나 개인화된 보상을 자동으로 제공할 수 있다.

AWS는 AI 생성 응답의 안전성과 신뢰성을 높이기 위해 맞춤형 AI 가드레일을 도입했다. 기업들은 이를 통해 바람직하지 않은 주제를 차단하고, 유해하고 부적절한 콘텐츠를 필터링하며, 민감한 정보를 삭제해 고객 개인정보를 보호할 수 있다.

아마존 커넥트의 새로운 기능은 컨택센터 관리자들의 업무 효율도 크게 개선한다. 관리자들은 생성형 AI를 활용해 모든 고객 상호작용을 자동으로 분석하고 평가할 수 있게 됐다. 이를 통해 상담원의 성과를 정확히 파악하고, 구체적인 코칭 기회를 발견하며, 전반적인 서비스 품질을 향상시킬 수 있다.

파스칼 드마이오 AWS 아마존 커넥트 부문 부사장 겸 총괄 매니저는 "아마존 커넥트를 통해 기업들이 고객 관계를 구축, 육성, 유지하는 방식을 근본적으로 재구상하고 있다"며 "아마존 Q 인 커넥트의 지속적인 발전은 기업이 프로그래밍 전문 지식 없이도 정교한 고객 서비스 시나리오를 처리하는 데 필요한 모든 기능과 유연성을 제공한다"고 말했다.

한편, 이날 개막한 '리인벤트 2024'는 AWS의 연중 최대 클라우드 행사로, 오는 6일까지 닷새간 열린다. 올해는 생성형AI, 머신러닝, 컴퓨팅 등 다양한 영역에서 2500여개 세션이 진행된다.