[Home] AI로 돌아가기

HBM (High Bandwidth Memory) - 고대역폭 메모리

HBM은 기존 메모리보다 훨씬 높은 대역폭을 제공하는 고성능 D램 기술이다. 여러 개의 D램을 수직으로 적층하여 병렬 데이터 처리가 가능하며, 특히 GPU 및 AI 연산에서 중요한 역할을 한다.

(1) HBM이란?

HBM(High Bandwidth Memory)은 고대역폭 메모리 기술로, 기존 GDDR 메모리보다 빠르고 전력 효율이 높은 차세대 D램 기술이다. HBM은 GPU와 AI 연산을 위한 고속 데이터 전송이 필요한 경우에 사용된다.

(2) HBM의 구조

(3) HBM vs GDDR 비교

항목 HBM GDDR
구조 D램 칩을 적층하여 TSV로 연결 GPU 주변에 여러 개의 메모리 모듈 배치
데이터 통로 4096개 최대 384개
전력 소비 낮음 높음
성능 더 높은 대역폭 제공 구조적 한계로 대역폭 증가에 제한

(4) HBM의 장점

HBM 기술은 AI, 머신러닝, 데이터 센터, 고성능 컴퓨팅(HPC) 등에서 중요한 역할을 하고 있으며, 미래의 메모리 기술 발전에 있어 핵심적인 요소로 자리 잡고 있다.

HBM 구조
HBM 구조
HBM TSV 기술
HBM TSV 기술
HBM 데이터 처리
HBM 데이터 처리
HBM과 GDDR 비교
HBM과 GDDR 비교
HBM 적용 사례
HBM 적용 사례