▲ 'zHBM' 소개하는 김경륜 삼성전자 상무 현지시간 4일 미국 캘리포니아주 샌타클래라 컨벤션센터에서 개막한 메모리 반도체 행사 'FMS 2026'의 최대 관심은 인공지능(AI) 시대의 새로운 한계로 떠오른 '메모리 장벽'(Memory Wall)을 어떻게 극복할 것인가에 쏠렸습니다.AI가 단순히 인간의 질문에 답하는 수준을 넘어 스스로 계획을 세우고 실행하는 'AI 에이전트' 단계로 발전하면서 데이터를 저장하고 전달하는 메모리의 중요성이 갈수록 커지고 있기 때문입니다.아무리 뛰어난 성능의 AI 반도체가 있어도, 필요한 데이터를 제때 공급받지 못하면 연산 능력을 충분히 활용할 수 없습니다.아무리 똑똑한 두뇌가 있어도, 처리해야 할 자료가 늦게 도착하면 제 기능을 발휘하기 어려운 것과 같습니다.삼성전자는 이 같은 메모리 장벽을 넘기 위한 해법으로 기존의 평면 구조를 벗어나, 메모리를 위로 쌓아 올리는 3차원 기술을 제시했습니다.현재 고대역폭 메모리, HBM은 그래픽처리장치, GPU 같은 AI 가속기 옆에 배치해 데이터를 주고받는 방식입니다.메모리와 연산 장치 사이의 거리를 최대한 줄이고 데이터 처리 속도를 높였지만, 물리적인 공간이 존재하는 만큼 데이터 이동 시간과 전력 소모라는 한계가 남아 있었습니다.삼성전자가 이날 공개한 'zHBM'은 이 문제를 해결하기 위해 GPU 위에 HBM을 직접 쌓는 방식을 적용했습니다.데이터가 이동하는 거리를 사실상 '0'에 가깝게 줄이겠다는 개념입니다.삼성전자에 따르면 zHBM은 오는 2028년 양산이 예상되는 8세대 HBM5와 비교해도 성능은 최대 8배, 전력 효율은 최대 3배 수준에 이를 것으로 전망됩니다.김경륜 삼성전자 D램 개발실 상무는 "현재 HBM 기술이 앞으로 수년 안에 한계에 부딪힐 것이라는 점은 모두가 알고 있다"며 "이를 어떤 기술로 돌파할 것인가를 생각하면 3차원밖에 답이 없다"고 강조했습니다.다만 AI 가속기 위에 메모리를 쌓으면 열이 많이 발생할 수 있다는 문제가 있습니다.삼성전자는 이를 해결하기 위해 HBM보다 D램 적층 단수를 줄이는 방식을 선택했습니다.김 상무는 "지금 고객들이 원하는 바를 보면 발열 문제나 대역폭 문제를 해결하는 데 수요가 더 강한 상황"이라고 덧붙였습니다.SK하이닉스 역시 비슷한 방향의 3차원 메모리 기술을 공개했습니다.SK하이닉스의 'G0.5'는 고대역폭은 뛰어나지만 용량이 작은 S램과, 대용량을 제공하는 기존 HBM 사이의 빈틈을 겨냥한 제품입니다.S램을 G0, 기존 HBM을 G1이라고 할 때 그 중간 단계라는 의미에서 G0.5라는 이름을 붙였습니다.두 회사는 차세대 AI 메모리로 낸드플래시 활용 방안도 함께 제시했습니다.초거대 AI가 작동하면서 만들어내는 대량의 토큰, 즉 AI 연산 과정에서 발생하는 데이터 양이 급격히 늘어나면서 이를 모두 비싼 D램에 저장하기는 어려워졌기 때문입니다.이에 따라 속도는 D램보다 느리지만 가격이 낮고 저장 용량이 큰 낸드플래시를 새로운 대안으로 제시한 것입니다.SK하이닉스는 HBM과 D램 사이를 보완하는 'G1.5' 제품으로 고대역폭 낸드플래시, HBF를 선보였습니다.삼성전자 역시 낸드플래시를 수직으로 쌓고 신경망처리장치, NPU와 결합한 'z낸드-O'를 공개했습니다.다만 두 제품의 목표 시장에는 차이가 있습니다.SK하이닉스의 HBF가 데이터센터와 같은 서버 환경을 겨냥한 제품이라면, 삼성전자의 z낸드-O는 스마트폰 등 기기 안에서 AI를 처리하는 '온디바이스 AI'에 초점을 맞췄습니다.삼성전자와 SK하이닉스 모두 메모리를 수직으로 쌓는 기술을 선택했지만, 시장을 공략하는 방식은 달랐습니다.메모리뿐 아니라 반도체 위탁생산, 즉 파운드리 사업까지 보유한 삼성전자는 설계부터 생산, 첨단 패키징까지 한 번에 제공할 수 있는 통합 경쟁력을 강조했습니다.또 갤럭시 스마트폰 등 개인용 AI 기기를 생산하는 기업이라는 점을 바탕으로, 기기 안에서 AI를 직접 실행하는 온디바이스 AI 시장도 적극 공략한다는 계획입니다.반면 SK하이닉스는 개방형 협력과 표준화를 통한 시장 확대 전략을 내세웠습니다.SK하이닉스가 샌디스크 등과 함께 개발한 HBF 표준 규격을 세계 최대 개방형 데이터센터 기술 협력체인 OCP를 통해 공개한 것도 이런 전략의 일환입니다.삼성전자와 SK하이닉스가 제시한 차세대 메모리 기술이 앞으로 AI 시대의 주도권을 결정할 핵심 경쟁력이 될 수 있을지 주목됩니다.(사진=삼성전자 제공, 연합뉴스)