구글클라우드, 8세대 학습·추론용 TPU 공개

[아이뉴스24 정유림 기자] 구글클라우드는 연례 기술 콘퍼런스에서 기업의 인공지능(AI) 도입 효율을 높이는 8세대 맞춤형 텐서 프로세서 장치(TPU)를 선보였다.

22일(현지시간) 미국 라스베이거스에서 열린 구글클라우드 연례 기술 콘퍼런스에서 AI 학습과 추론에 각각 최적화된 TPU 8t와 TPU 8i가 공개됐다. 이들 칩은 고성능 AI 모델 구축부터 여러 AI를 하나로 묶어 쓰는 에이전트 군집 운영, 복잡한 추론 과제 해결 등을 돕는다.

7세대까지는 학습과 추론을 하나의 칩에서 모두 처리하는 구조였는데 8세대에서는 학습용과 추론용, 2가지 종류로 나눠 선보였다. AI를 고도화하는 '학습'보다 실제 업무에 투입해 복잡한 업무를 수행하는 '추론'의 중요성이 커졌기 때문으로 분석된다.

8세대 TPU는 이전 세대 대비 달러당 성능을 80% 높였다. 기업은 이를 통해 동일한 비용으로 2배에 달하는 고객 수요를 처리할 수 있다. 두 가지 칩 모두 올해 안으로 정식 버전(GA)이 출시될 예정이다.

구글클라우드는 전 세계 고객의 약 75%가 AI 제품군을 활용하고 있다고 강조했다. 지난 1년 간 구글클라우드 고객사 330개는 1조 토큰 이상의 데이터를 처리한 것으로 나타났다.

국내 기업으로는 인터넷 전문은행 카카오뱅크가 기업용 AI 플랫폼 '제미나이 엔터프라이즈'를 활용해 금융 산업 규제 요건을 충족하면서도 생산성을 높이고 있다고 소개했다.

토마스 쿠리안 구글클라우드 최고경영자(CEO)는 "모든 기업의 AI 도입을 지원하겠다"며 "모든 요소가 수직적으로 최적화된 통합 스택을 제공하며 새로운 AI 상용화 시대를 선도하겠다"고 밝혔다.