[KCSF2024 개막] NHN클라우드 "AI 시대 설비가 기업의 가장 큰 도전…클라우드 사업자와 협업해야"

[아이뉴스24 서효빈 기자] "인공지능(AI) 시대에서는 적절한 설비를 갖추고 운영을 하는 것이 기업 입장에서 가장 큰 도전이다. 클라우드 사업자가 협업해 기술적 문제를 해결하고 기업은 혁신에 집중해야 한다."

강민수 NHN Cloud CIO 겸 클라우드서비스센터장은 26일 아이뉴스24가 개최한 '대한민국 클라우드/SaaS 포럼 2024(KCSF 2024)'에서 'AI인프라 by NHN Cloud'를 주제로 한 발표에서 이같이 말했다.

NHN클라우드는 국내 최대 규모의 데이터센터 클러스터를 통해 혁신 기업의 AI 인프라를 지원하고 있다. 대표적인 AI 개발 스타트업 업스테이지의 경우 "NHN클라우드는 변동성이 안정적이라 새로운 환경과 라이브러리를 실험하는데 매우 유용했다"고 평가하기도 했다.

◇AI 인프라 중심 광주 AI데이터센터..."15kW 전력 밀도 최초 도입"

강 센터장은 NHN클라우드의 AI인프라 광주 AI 데이터센터를 중심으로 고효율 데이터센터 인프라를 구축했다고 밝혔다.

광주 AI 데이터센터는 77페타플롭스 이상의 연산 성능을 지원하며, 470개 이상의 기업이 이용하고 있다. NHN Cloud는 이번 데이터센터에 15kW 전력 밀도 랙을 도입하여 발열과 전력 소모 문제를 해결했다. 이는 기존 데이터센터의 평균 전력 밀도(5kW)보다 3배 높은 수준이다.

강 센터장은 "저희는 2015년 NHN클라우드 센터(NCC1)를 통해 국내 최초로 8kW 랙 전력 밀도를 제공한 경험을 바탕으로, 이번 광주 AI 데이터센터에서는 15kW의 전력 밀도를 최초로 도입했다"고 말했다.

이러한 고전력 밀도 랙 설계를 통해 AI 데이터센터는 고성능 컴퓨팅 환경을 안정적으로 운영할 수 있다. 앞으로 NHN클라우드는 30kW 이상의 랙 전력 밀도를 갖춘 두 번째 AI 데이터센터 구축을 계획하고 있으며, AI 인프라의 지속적인 확장을 추진 중이다.

◇"데이터센터 발열 잡는게 중요"…7.6m 천장부터 이중마루 구조까지

AI 데이터센터에서 중요한 과제 중 하나는 발열 관리다. 강 센터장은 "발열을 잡는게 데이터센터 운영에 굉장히 중요하다"며 "국내 다른 업체들이 광주 데이터센터의 사례를 굉장히 궁금해하고 어떻게 구현했는지 알고 싶어한다"고 설명했다.

광주 AI 데이터 센터는 천장까지의 높이가 약 7.6m에 육박한다. 발열량과 전력량을 많이 소모하는 GPU 장치들에 대한 냉각 효율을 높이기 위해서다.

또한 일반적으로 이중마루를 쓰는 데이터 센터와 다르게 서버룸 자체에 냉기를 보관할 수 있는 큰 공간을 만들고 고용량 팬과 냉각 코일로 냉기를 공급해주는 방식을 택하기도 했다.

냉각 시스템으로는 '에어쿨링'을 이용하고 있는데, 이에 대해 강 센터장은 "앞으로 냉각 방식에 대한 고민을 해봐야 하는데, 에어쿨링 방식을 쓰면 냉각 가능한 정도가 한 20kw 수준이 아닐까"라며 "액침냉각 등의 방식은 아직 상용화하기에 굉장히 난관이 많다"고 설명했다.

마지막으로 강 센터장은 "NHN클라우드가 제공하는 GPU 클라우드 서비스는 유연한 플랫폼 운영을 가능케 하고, 새로운 환경과 라이브러리를 실험하는 데 매우 적합하다"고 말했다. 이어 "앞으로도 고성능 AI 인프라를 바탕으로 다양한 기업들의 디지털 혁신을 지원할 것"이라고 덧붙였다.