HBM

뜻풀이

쉬운 AI 사전

1. [명사] (인프라) AI 반도체 옆에 겹겹이 쌓아 붙여 데이터를 아주 빠르게 주고받게 하는 특수한 메모리.

실무 AI 사전

1. [명사] (인프라) 거대 모델은 연산 못지않게 가중치를 메모리에서 읽어 오는 속도가 병목이 된다. HBM은 GPU 바로 옆에서 넓은 통로로 데이터를 공급해 AI 가속기의 필수 부품이 되었고, 용량이 모델 크기와 서빙 비용을 좌우한다.

전문 AI 사전

1. [명사] (인프라) DRAM 칩을 수직으로 적층하고 TSV(실리콘 관통 전극)로 연결해 인터포저 위에서 프로세서와 매우 넓은 버스로 접속하는 메모리. 단위 면적당 대역폭이 높고 전력 효율이 좋으며 세대별로 대역폭과 용량이 늘어난다.

관용구/함께 쓰는 말

• 메모리 병목 — 연산 장치는 빠른데 데이터 공급이 못 따라가 성능이 막히는 상태.
• 적층 — 칩을 층층이 쌓아 붙이는 구조.

쉬운 비유

일반 메모리가 좁은 외길이라면 HBM은 고층 빌딩에 엘리베이터를 여러 대 설치해 짐을 한꺼번에 나르는 것과 같다.

예문

• AI 가속기 성능은 연산 능력만큼 HBM 용량과 속도에 달려 있다.
• HBM 수요가 늘면서 메모리 업계가 주목받고 있다.
• 모델이 커서 GPU의 HBM에 한 번에 올라가지 않는다.

헷갈리는 용어 비교

GPU

GPU는 계산을 하는 칩이고 HBM은 그 GPU가 쓰는 작업 기억 장치다. 계산이 아무리 빨라도 HBM 용량과 속도가 모자라면 큰 모델을 돌릴 수 없다.

맞춤법/표기법

바른 표기

HBM

주의할 표기

에이치비엠 메모리

원어

HBM (High Bandwidth Memory)

다른 이름

고대역폭 메모리, 에이치비엠, 고대역폭메모리

참고

읽을 때는 '에이치비엠'. 세대는 HBM3, HBM3E처럼 숫자로 구분한다.

관련어

마지막 확인 2026-10-15
뜻풀이는 학습용 참고 자료입니다.