삼성전자와 SK하이닉스가 고대역폭메모리(HBM) 이후의 차세대 메모리 기술로 경쟁을 넓히고 있습니다. 두 회사는 연산 칩과 메모리를 결합하는 구조를 바꿔 AI 연산 능력을 키우고, 저전력 모듈로 데이터 관리 효율을 높이는 방향으로 시장 공략을 강화하고 있습니다.

배경에는 AI 모델의 대형화가 있습니다. 추론과 AI 에이전트 서비스가 퍼지면서 메모리에 요구되는 조건이 데이터 처리 속도에서 전력 효율, 데이터 저장·관리 능력까지 넓어졌습니다.

AI 칩 위에 메모리를 쌓는 삼성전자

삼성전자는 AI 반도체 위에 메모리를 수직으로 쌓는 3차원(3D) 메모리 구조에 주목하고 있습니다. 최근 국내외 반도체 기술 전시회에서 선보인 구상 가운데 대표적인 것이 zHBM과 z낸드-O입니다.

zHBM은 AI 가속기 바로 위에 HBM을 직접 올려 데이터가 오가는 거리를 최소화한 구조입니다. 삼성전자는 데이터 병목 현상을 풀고 전력 효율을 극대화할 수 있다고 설명했습니다. HBM의 차세대 제품인 HBM5(8세대)와 견주면 그래픽처리장치(GPU) 하나당 성능이 최대 8배 높습니다. 전력 대비 성능은 최대 3배까지 끌어올릴 수 있다는 것이 삼성전자의 설명입니다.

z낸드-O는 기기 안에서 AI를 구동하는 온디바이스 AI에 맞춘 고성능 낸드플래시 솔루션입니다. 기존 V낸드의 수직 적층 기술에 실리콘관통전극(TSV)을 결합했습니다. TSV는 칩을 수직으로 관통하는 전극으로, 적층된 칩 사이를 짧게 잇는 통로 역할을 합니다. D램의 용량 부족과 낸드의 낮은 대역폭 문제를 동시에 해결해 대용량 데이터를 효율적으로 처리하는 것이 목표입니다.

D램을 쌓고 HBF로 용량을 넓히는 SK하이닉스

SK하이닉스는 해법으로 3D 적층 D램을 제시했습니다. GPU나 신경망처리장치(NPU) 같은 연산 반도체 위에 D램을 쌓아 데이터의 물리적 이동 거리를 줄이는 방식입니다. 대규모 AI 모델 추론에 필요한 데이터를 연산기 가까이에서 빠르게 공급해 성능은 높이고 전력 소비는 낮춥니다.

급증하는 메모리 용량 수요에는 고대역폭 낸드플래시(HBF)로 대응합니다. HBM의 빠른 처리 속도와 낸드플래시의 대용량 저장 능력을 결합한 제품인데요. HBM과 D램 사이에 새로 놓이는 메모리 계층으로, 같은 세대 HBM의 절반 수준 대역폭을 확보하면서 용량은 약 10배로 높이는 것이 SK하이닉스의 목표입니다.

저전력 메모리와 CXL로 번지는 경쟁

전력 효율을 높이는 저전력 메모리에서도 두 회사가 맞붙고 있습니다. 올해 상반기 삼성전자와 SK하이닉스는 연달아 LPDDR(저전력 D램) 기반의 서버용 저전력 메모리 모듈 SOCAMM2(소캠2) 양산에 들어갔습니다.

삼성전자는 지난달 16GB LPDDR6을 퀄컴의 스냅드래곤 8 엘리트 익스트림 6세대 플랫폼에서 검증하는 데 성공했습니다. 차세대 모바일용 저전력 D램으로는 업계 최초입니다.

AI 가속기와 메모리를 빠르게 잇는 컴퓨트 익스프레스 링크(CXL), 이를 활용한 메모리 모듈 CMM 기반 기술에서도 양사는 경쟁하고 있습니다. CXL은 AI 서버의 메모리 용량을 늘릴 수 있어 메모리 부족 문제를 푸는 기술로 꼽힙니다.

업계 관계자는 "AI 메모리 경쟁의 중심이 개별 제품의 성능을 높이는 단계에서 서버 등의 전체적인 구조와 운영 효율을 개선하는 단계로 이동하고 있다"고 말했습니다. 이어 "차세대 메모리 기술 상용화 시점과 실제 비용 절감 효과가 향후 시장에서 양사의 경쟁력을 가를 변수"라고 덧붙였습니다.