HBM은 기존 메모리보다 훨씬 높은 대역폭을 제공하는 고성능 D램 기술이다. 여러 개의 D램을 수직으로 적층하여 병렬 데이터 처리가 가능하며, 특히 GPU 및 AI 연산에서 중요한 역할을 한다.
(1) HBM이란?
HBM(High Bandwidth Memory)은 고대역폭 메모리 기술로, 기존 GDDR 메모리보다 빠르고 전력 효율이 높은 차세대 D램 기술이다. HBM은 GPU와 AI 연산을 위한 고속 데이터 전송이 필요한 경우에 사용된다.
(2) HBM의 구조
HBM은 D램 칩을 여러 개 수직으로 쌓아 3D TSV(Through-Silicon Via) 기술을 이용하여 연결
각각의 D램 스택이 독립적으로 데이터를 처리할 수 있도록 설계됨
1024개의 데이터 통로를 제공하여 고속 데이터 전송 가능
(3) HBM vs GDDR 비교
항목
HBM
GDDR
구조
D램 칩을 적층하여 TSV로 연결
GPU 주변에 여러 개의 메모리 모듈 배치
데이터 통로
4096개
최대 384개
전력 소비
낮음
높음
성능
더 높은 대역폭 제공
구조적 한계로 대역폭 증가에 제한
(4) HBM의 장점
고속 데이터 전송: HBM은 1024개 이상의 데이터 통로를 통해 매우 빠른 속도로 데이터를 처리할 수 있음
전력 효율성: GDDR보다 낮은 전력 소비로 높은 성능 제공
확장 가능성: HBM의 적층 기술은 추가적인 메모리 용량 확장을 용이하게 함
HBM 기술은 AI, 머신러닝, 데이터 센터, 고성능 컴퓨팅(HPC) 등에서 중요한 역할을 하고 있으며, 미래의 메모리 기술 발전에 있어 핵심적인 요소로 자리 잡고 있다.
GPU와 HBM (출처: KBS)고대역폭메모리(HBM)는 단층 구조의 D램(그래픽 붉은 부분)을
여러 층 쌓아 올린 고층 빌딩 같은 구조다. 이 고층 빌딩을 오가는 ‘엘리베이터’ 역할을 ‘실리콘 관통 전극(TSV·하얀색 네모 부분)’이 맡는다.
TSV를 어떻게 설계하느냐가 앞으로 HBM 성능을 끌어올리는 데 중요한 역할을 할 전망이다.
출처: 조선일보, AMD·오크메틱, 그래픽=김의균
HBM 반도체의 구조 및 원리
출처: 세계일보
