[아이뉴스24 권서아 기자] 삼성전자가 미국 실리콘밸리에서 차세대 인공지능(AI) 메모리 전략을 공개하고 AMD, 엔비디아 등 글로벌 반도체 기업과의 협력 성과를 선보였다.
13일 삼성전자에 따르면 심호준 디바이스솔루션(DS)부문 메모리사업부 애플리케이션엔지니어링(AE)팀 상무는 지난 12일(현지시간) 미국 캘리포니아주 새너제이컨벤션센터에서 열린 'OCP 글로벌 서밋 2026'에서 속도·확장성·영속성에 초점을 맞춘 3대 메모리 전략을 발표했다.
심 상무는 차세대 고대역폭메모리(HBM)5와 고객 맞춤형 HBM으로 데이터 처리 속도를 높이고, 컴퓨트익스프레스링크(CXL) 기반 기술로 메모리 용량을 확장하겠다는 구상을 밝혔다. 대규모 AI 데이터 저장에는 차세대 기업용 솔리드스테이트드라이브(SSD)를 활용할 계획이다.
이번 전략은 AI 시장이 학습에서 추론으로 확대되면서 달라진 메모리 수요에 대응하기 위한 것이다. AI 모델이 대형화하고 이전 대화나 처리 결과를 임시로 저장하는 'KV캐시(Key-Value Cache)'의 용량이 급증하면서 데이터 처리 속도뿐 아니라 메모리 용량과 저장 능력도 중요해지고 있다.
삼성전자는 우선 데이터 처리 속도를 높이기 위해 HBM5와 고객 맞춤형 HBM을 개발하고 있다. HBM은 여러 개의 D램을 수직으로 쌓아 데이터 전송 속도를 높인 반도체로, AI 가속기의 핵심 부품이다.
이번 행사에서는 HBM5 모형과 차세대 반도체 웨이퍼를 전시했다. 연산칩 위에 메모리를 적층하는 zHBM과 메모리 내부에서 일부 연산을 수행하는 PIM(Processing-In-Memory) 기술도 소개했다. 데이터 이동에 따른 시간과 전력 소모를 줄이기 위한 기술들이다.
메모리 확장 분야에서는 AMD와의 협력이 주목된다. 삼성전자와 AMD는 CXL 기반 메모리 확장 기술을 공동 검증하고, 이를 활용한 '메모리 풀링' 기술을 시연한다.
CXL은 중앙처리장치(CPU)와 메모리 등을 고속으로 연결하는 기술이다. 기존 서버는 장착할 수 있는 메모리 용량에 한계가 있지만, CXL을 활용하면 외부 메모리를 추가로 연결해 용량을 늘릴 수 있다.
메모리 풀링은 여러 서버가 메모리 자원을 공동으로 사용하는 방식이다. 특정 서버의 메모리가 부족하면 공유 자원에서 필요한 용량을 할당받을 수 있어 메모리 활용도를 높일 수 있다.
삼성전자와 AMD는 AI 에이전트 확산으로 CPU 사용량이 늘어나는 데 비해 메모리 용량이 이를 따라가지 못하는 문제에 주목했다. 양사는 CXL을 통해 메모리 용량과 대역폭을 확장하고 CPU가 데이터 처리를 기다리는 시간을 줄이는 방안을 검증했다.
삼성전자는 자체 CXL 메모리 모듈인 'CMM-D'를 활용한 기술도 선보였다. 여러 AI 모델에 메모리를 고정적으로 할당하는 대신 사용량에 따라 필요한 용량을 유동적으로 배분하는 방식이다.
삼성전자가 공개한 시험 결과에 따르면 유동적인 메모리 할당 방식을 적용했을 때 첫 응답까지 걸리는 시간은 기존 고정 할당 방식보다 최대 38% 줄었다. 유효 처리량은 최대 3.3배 높아졌다.
이번 기술 공개는 리사 수 AMD 최고경영자(CEO)의 방한 직후 이뤄졌다는 점에서도 주목된다. 수 CEO는 지난 7일 삼성전자 서초사옥을 방문해 전영현 DS부문장(부회장)과 3시간 넘게 만나 반도체 분야 협력 확대 방안을 논의했다.
앞서 양사는 지난 3월 차세대 AI 메모리와 컴퓨팅 기술 협력을 위한 업무협약(MOU)을 체결했다. AMD의 차세대 AI 가속기 'MI455X'에 사용되는 HBM4와 서버용 CPU에 적용되는 DDR5 메모리 분야에서 협력을 확대하기로 했다.
삼성전자는 데이터 저장 분야에서도 차세대 기업용 SSD를 활용해 대규모 AI 데이터의 저장 성능과 용량을 높일 계획이다. CXL 기반 메모리와 SSD를 연계해 AI 추론 과정에서 발생하는 데이터를 효율적으로 관리한다는 구상이다.
전시장에는 삼성전자 파운드리가 생산하는 엔비디아의 AI 추론 전용 칩 '그록3(Groq 3)' 언어처리장치(LPU) 웨이퍼도 등장했다. 엔비디아의 추론용 시스템 '그록3 LPX'와 삼성전자 2나노미터(㎚) 공정 웨이퍼도 함께 전시됐다.
그록3 LPU는 AI가 이용자의 질문에 답변을 생성하는 추론 작업에 특화된 반도체다. 삼성전자가 4나노 공정으로 생산을 맡고 있으며, 엔비디아는 지난 8월 이 칩 256개를 하나의 랙에 탑재한 '그록3 LPX'의 양산을 시작했다.
삼성전자는 이번 행사에서 메모리와 저장장치뿐 아니라 첨단 파운드리 기술까지 선보였다. AMD와의 메모리 기술 협력에 이어 엔비디아의 AI 추론용 반도체 생산 역량을 소개하며 AI 반도체 사업 전반에서 입지를 확대하려는 행보로 풀이된다.
/권서아 기자(seoahkwon@inews24.com)