[아이뉴스24 박지은 기자] "AI가 더 똑똑해질수록 더 많은 데이터를 기억해야 한다."
구글 딥마인드가 차세대 인공지능(AI) 시대를 이끌 메모리 기술로 '고대역폭플래시(HBF)'를 지목했다. AI가 단순히 답을 학습하는 단계를 넘어 이용자와 대화하고 추론하는 방식으로 발전하면서 기존 D램만으로는 용량과 비용 한계를 극복하기 어려워졌다는 이유에서다.
6일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 'FMS(Future of Memory and Storage) 2026'에서는 'HBF로 메모리 월(Memory Wall)을 넘다(Breaking the Memory Wall with High Bandwidth Flash)'를 주제로 패널 토론이 열렸다.
이날 토론에는 구글 딥마인드 샤오위 마 연구원과 SK하이닉스 임의철 솔루션 AT 담당, 샌디스크 라지브 나가비라바 부사장이 참석해 AI 시대 메모리 구조의 변화와 HBF의 역할을 논의했다.
눈길을 끈 것은 실제 AI 서비스를 개발하는 구글의 설명이었다.
샤오위 마 연구원은 앞으로 10년 동안 AI 추론용 반도체 시장이 10배 이상 성장할 것으로 전망했다. AI 산업의 중심이 모델을 학습시키는 단계에서 이용자의 질문에 답하고 업무를 수행하는 '추론' 단계로 빠르게 이동하고 있다는 것이다.
그는 AI가 텍스트뿐 아니라 이미지와 영상, 음성까지 동시에 처리하는 멀티모달 기술이 확산되고, 이전 대화 내용을 기억하기 위한 'KV 캐시' 데이터도 급격히 늘면서 메모리 부담이 커지고 있다고 설명했다.
결국 AI는 빠른 메모리뿐 아니라 훨씬 더 큰 용량의 메모리도 함께 필요해졌고, HBF가 이를 해결할 새로운 메모리 계층이 될 것이라는 게 구글의 설명이다.
HBF는 초고속 메모리인 고대역폭메모리(HBM)와 저장장치인 솔리드스테이트드라이브(SSD)의 중간 역할을 하는 기술이다.
HBM처럼 연산에 필요한 데이터를 빠르게 공급하면서도 낸드플래시를 기반으로 해 훨씬 많은 데이터를 저장할 수 있다. HBM을 대체하는 것이 아니라 AI가 자주 사용하는 데이터를 효율적으로 관리하는 보조 메모리 역할을 맡는다는 설명이다.
앞서 SK하이닉스와 샌디스크는 이번 행사 개막에 맞춰 HBF의 첫 표준 규격을 공개했다. 올해 2월 컨소시엄 출범 이후 약 6개월 만에 내놓은 첫 결과물로, 현재 구글과 AI 반도체 기업 텐스토렌트도 표준화 작업에 참여하고 있다.
샌디스크는 HBF를 적용하면 AI가 이전 대화 내용을 더 효율적으로 관리할 수 있어 응답 속도를 높이고 GPU 사용 부담도 줄일 수 있다고 설명했다. 특히 낸드플래시 기반인 만큼 전원이 꺼져도 데이터를 유지할 수 있다는 점도 장점으로 꼽았다.
SK하이닉스는 HBF를 실제 AI 시스템에 적용하기 위해서는 메모리와 소프트웨어를 함께 최적화하는 설계가 필요하다고 설명했다. 읽기 속도가 중요한 연산은 HBM이 담당하고, 대용량 데이터 저장은 HBF가 맡는 구조가 AI 인프라의 효율을 높일 수 있다는 것이다.
업계에서는 이번 토론의 의미를 기술 자체보다 실제 수요자인 구글이 HBF의 필요성을 공개적으로 제시했다는 점에서 찾고 있다. 메모리 업체가 제안한 새로운 구조에 AI 서비스를 직접 개발·운영하는 기업이 공감대를 형성하면서 차세대 AI 메모리 생태계 구축에도 속도가 붙을 것이라는 전망도 나온다.
한편 FMS는 메모리와 저장장치 분야의 최신 기술을 소개하는 세계 최대 행사로 지난 4~6일(현지시간) 열렸다. 삼성전자와 SK하이닉스, 마이크론테크놀로지, 샌디스크 등 주요 메모리 기업들이 대거 참가했다.
/박지은 기자(qqji0516@inews24.com)