차세대 HBM부터 AGI칩까지…삼성전자의 AI 반도체 대추격전

[아이뉴스24 김종성 기자] 삼성전자가 반도체 '초격차' 리더십 지위 회복을 위한 인공지능(AI) 반도체 추격전을 본격화하고 있다.

경쟁사인 SK하이닉스에 선두 자리를 내준 고대역폭메모리(HBM)의 차세대 제품 개발과 양산에 역량을 집중하고 있는 것. 뿐만 아니라 엔비디아가 주도하는 'AI 가속기'에 대항할 수 있는 슈퍼칩 개발도 뛰어들었다.

23일 업계에 따르면 삼성전자는 최근 미국 캘리포니아주 새너제이에서 열린 엔비디아 'GTC 2024' 행사에서 5세대 HBM인 HBM3E 12단 실물 제품을 처음으로 공개했다. HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 크게 높인 제품이다. 방대한 데이터를 신속하고 끊임없이 처리해야 하는 생성형 AI를 구동하려면 HBM과 같은 고성능 메모리가 반드시 필요하다.

HBM3E는 AI 서버용 반도체 제조에 필요한 고대역폭메모리(HBM)의 5세대 제품이다. 삼성전자는 엔비디아에 샘플을 제출해 검증 절차를 받고 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 지난 19일(현지시간) GTC 글로벌 미디어 행사에서 "삼성제품을 현재 테스트하고 있다"며 "기대가 크다"고 밝힌 바 있다.

삼성전자는 전통적인 메모리 강자로 군림해 왔지만, HBM에서만큼은 경쟁사 SK하이닉스에 1위 자리를 내줬다. SK하이닉스는 4세대 HBM3를 업계 처음 양산해 엔비디아에 독점 공급하며 HBM3 시장에서 90% 이상의 점유율을 기록하고 있다. 여기에 최근에는 지난 8월 5세대 HBM3E 개발을 완료하고, 7개월 만에 가장 먼저 고객사에 공급을 시작했다.

HBM 시장에서 한발 늦은 삼성전자는 더 이상 밀릴 수 없다는 위기감에 차세대 HBM 개발과 양산에 사활을 걸고 있다. 삼성전자가 이번에 공개한 5세대 HBM3E 12단 제품은 기존 8단 HBM3E 제품보다 성능과 용량을 50% 이상 개선했다. 36기가바이트(GB) 용량으로, 현재 개발된 HBM 제품 중 용량이 가장 크다. 올해 상반기 중 제품 양산에 들어간다는 계획이다.

경계현 삼성전자 DS부문 대표이사 사장은 "메모리는 12나노급 32Gb DDR5 D램을 활용한 128GB 대용량 모듈 개발로 시장을 선도하고 12단 적층 HBM 선행으로 HBM3·HBM3E 시장의 주도권을 찾을 계획"이라고 밝혔다. 아울러 "D1c D램, 9세대 V낸드, HBM4 등과 같은 신공정을 최고의 경쟁력으로 개발해 다시 업계를 선도하고 첨단공정 비중 확대, 제조 능력 극대화를 통해 원가 경쟁력을 확보하겠다"고 말했다.

삼성전자는 AI 슈퍼칩 개발도 본격화했다. 지난 20일 열린 정기주주총회에서 대규모 언어모델(LLM)을 지원하는 범용인공지능(AGI) 반도체 솔루션 '마하1(MACH-1)' 개발 계획을 공개한 것이다. 삼성전자는 '마하1'을 내년 초 출시한다는 목표다.

마하1은 데이터 병목 현상을 8분의 1로 줄이고, 전력 효율을 8배 높인 제품이다. AI 가속기에 HBM대신 LP(저전력) D램을 활용할 수 있어 가격 경쟁력과 효율성 개선이 기대된다. 삼성전자는 이를 통해 향후 2~3년 안에 반도체 세계 1위 자리를 되찾겠다는 목표다.

경 사장은 "현존하는 AI 시스템은 메모리 병목으로 인해 성능 저하와 파워 문제를 안고 있다"며 "이 문제를 개선하기 위해 AGI 컴퓨팅랩을 신설하고 AI 아키텍처의 근본적인 혁신을 추진하겠다"고 말했다.