[아이뉴스24 민혜정 기자] SK하이닉스가 최신 컴퓨팅 기술을 공유하는 미국 행사에서 인공지능(AI)용 차세대 메모리반도체를 선보였다.
SK하이닉스는 최근 미국 콜로라도주 덴버에서 열린 '슈퍼컴퓨팅 2023(Supercomputing 2023)'에 참가해 최첨단 인공지능(AI)과 고성능 컴퓨팅(HPC) 솔루션을 선보였다고 20일 밝혔다. 이 회사는 이 자리에서 AI와 HPC에 특화된 차세대 고대역폭메모리 'HBM3E'와 생성형 AI 가속기인 AiMX(AiM based Accelerator)를 시연했다.
이 행사는 미국 컴퓨터 학회(ACM)와 IEEE 컴퓨터 학회(IEEE)가 1988년부터 열고 있는 연례행사다. HPC, 네트워킹, 스토리지, 데이터 분석 분야의 최신 기술을 공유하는 자리다. SK하이닉스는 이 행사에 처음으로 참가했다.
'HBM3E'는 SK하이닉스의 HBM3가 적용된 AI용 고성능 그래픽처리장치(GPU)인 엔비디아 H100과 함께 전시돼 많은 관심을 받았다. 이 제품은 속도와 용량, 방열성, 전력 효율 등에서 업계 최고 수준을 구현한 솔루션이다.
AiMX는 인간의 언어를 이해하고, 생성 가능한 대규모 언어모델(LLM) 구현에 특화된 제품이다. 현재 AI 데이터 추론에 GPU 중심의 생성형 AI 시스템이 사용되는데, 이보다 추론 시간을 대폭 단축하는 동시에 더 낮은 전력으로 구동 가능하다는 장점이 있다.
이 제품에는 메모리 반도체에 자체적인 연산 기능을 더해, 데이터 이동 정체 문제를 풀 수 있는 차세대 기술인 프로세싱인메모리(PIM) 기반의 SK하이닉스의 'GDDR6-AiM''칩이 들어갔다. 권용기 SK하이닉스 솔루션개발팀장은 "메타의 OPT(Open Pretraining Transforer) 언어 모델에 SK하이닉스의 AiM을 활용할 경우, 최신형 GPU를 활용한 시스템보다 최대 10배 속도가 빠르다"며 "동시에 비용과 에너지 소비를 줄일 수 있다"고 강조했다.
--comment--
첫 번째 댓글을 작성해 보세요.
댓글 바로가기