HBM3E·HBM4는 무엇이 달라질까?
AI 메모리 발전 과정 쉽게 이해하기
앞에서 우리는 HBM이 무엇인지 배웠습니다.
여러 개의 DRAM을 위로 쌓고,
TSV로 연결하고,
GPU 바로 옆에서 엄청난 양의 데이터를 빠르게 전달하는 메모리가 HBM입니다.
그런데 반도체 뉴스를 보면 HBM이라는 이름 뒤에 계속 숫자가 붙습니다.
HBM2
HBM2E
HBM3
HBM3E
HBM4
심지어 이제는 HBM4E라는 이름까지 등장하고 있습니다.
그렇다면 숫자가 하나씩 올라갈 때마다 무엇이 달라지는 걸까요?
단순히 메모리가 조금 빨라지는 것일까요?
그렇지 않습니다.
특히 HBM3E에서 HBM4로 넘어가는 변화는 단순한 속도 향상보다 훨씬 큰 의미를 가지고 있습니다.
데이터가 지나가는 통로 자체가 넓어지고,
HBM 아래쪽의 베이스 다이가 더욱 똑똑해지며,
메모리 회사와 파운드리 회사의 기술이 더 가까워지고 있습니다.
이번 글에서는 HBM이 어떻게 발전해왔고 HBM3E와 HBM4가 무엇이 다른지 아주 쉽게 알아보겠습니다.
먼저 한 문장으로 정리하면?
HBM의 발전 방향은 크게 세 가지입니다.
더 많은 데이터를 저장하고
더 많은 데이터를 한꺼번에 전달하고
그 과정에서 사용하는 전기를 줄이는 것
입니다.
특히 HBM4에서는 데이터가 이동하는 통로 자체가 전 세대보다 크게 넓어졌습니다.
HBM3E 세대의 1,024개 I/O에서 HBM4는 2,048개 I/O를 사용하는 구조로 확대되면서 한 스택이 처리할 수 있는 전체 대역폭이 크게 증가했습니다. SK하이닉스는 HBM4에서 I/O 수를 2배 늘려 전 세대 대비 대역폭을 2배로 높였다고 설명하고 있습니다.
HBM은 왜 계속 새로운 세대가 나올까?
이유는 GPU가 계속 빨라지고 있기 때문입니다.
AI용 GPU가 계산할 수 있는 양이 늘어나면 그만큼 더 많은 데이터가 필요합니다.
예를 들어 과거 GPU가 1초에 계산 문제 100개를 처리했다고 생각해보겠습니다.
그런데 새로운 GPU는 1초에 1,000개를 처리할 수 있습니다.
GPU만 10배 빨라졌는데 메모리가 예전과 같은 속도로 데이터를 공급한다면 어떻게 될까요?
GPU가 데이터를 기다리게 됩니다.
따라서 GPU가 발전하면 메모리도 함께 발전해야 합니다.
자동차 엔진과 연료 공급장치로 생각해보자
자동차 엔진이 점점 강력해진다고 생각해보겠습니다.
처음에는 작은 엔진이라 좁은 연료관으로도 충분했습니다.
그런데 엔진이 훨씬 강력해졌습니다.
더 많은 연료를 빠르게 공급해야 합니다.
그런데 연료관은 그대로입니다.
그러면 엔진이 최대 성능을 낼 수 없습니다.
AI에서
GPU = 엔진
HBM = 초고속 연료 공급장치
라고 생각하면 됩니다.
GPU가 강해질수록 HBM도 더 많은 데이터를 공급해야 합니다.
HBM의 세대는 어떻게 발전했을까?
아주 큰 흐름만 살펴보겠습니다.
HBM
초기 고대역폭 메모리.
↓
HBM2
더 높은 용량과 대역폭.
↓
HBM2E
HBM2를 더욱 발전시킨 세대.
↓
HBM3
AI와 고성능 컴퓨팅 시대에 더욱 높은 성능 제공.
↓
HBM3E
HBM3의 성능을 한 단계 더 높인 확장 세대.
↓
HBM4
데이터 통로 자체를 크게 넓히고 베이스 다이의 역할까지 더욱 강화한 차세대 구조.
이렇게 발전해왔습니다. SK하이닉스 역시 HBM → HBM2 → HBM2E → HBM3 → HBM3E → HBM4를 HBM의 세대 흐름으로 설명하고 있습니다.
그런데 HBM3E의 E는 무엇일까?
HBM3E의 E는 Extended, 즉 기존 세대를 확장하고 개선했다는 의미로 이해하면 쉽습니다.
완전히 새로운 구조로 넘어가기 전에 HBM3의 성능을 더욱 끌어올린 세대입니다.
자동차로 비유하면
HBM3가 새로운 자동차 모델이라면,
HBM3E는 같은 모델을 바탕으로
엔진,
연비,
변속기
등을 더욱 개선한 고성능 버전이라고 볼 수 있습니다.
HBM3E는 얼마나 빠를까?
제품마다 세부 성능은 다르지만 HBM3E는 한 스택에서 초당 1TB가 넘는 데이터를 처리하는 수준까지 발전했습니다.
예를 들어 SK하이닉스는 8단 HBM3E에서 초당 약 1.18TB의 데이터 처리 성능을 설명했으며, 삼성전자 역시 자사 HBM3E에서 스택당 최대 약 1,180GB/s의 대역폭을 제시하고 있습니다.
1TB는 엄청난 양입니다.
하지만 AI GPU의 계산능력이 계속 증가하면서 이것마저도 부족해지기 시작했습니다.
GPU가 또 빨라졌다
AI 반도체는 계속 발전했습니다.
GPU 안의 계산장치는 늘어나고,
여러 GPU가 하나의 시스템으로 연결되고,
AI 모델은 더 커졌습니다.
특히 대규모 언어모델과 생성형 AI에서는 엄청난 양의 모델 데이터와 중간 계산값을 계속 움직여야 합니다.
그러자 다시 같은 문제가 발생합니다.
메모리 병목입니다.
16차선 고속도로도 막히기 시작했다
HBM3E를 16차선 고속도로라고 생각해보겠습니다.
처음에는 매우 넓었습니다.
자동차가 시원하게 달렸습니다.
그런데 도시가 커지면서 자동차가 10배 많아졌습니다.
이제 16차선 도로도 막히기 시작합니다.
그러면 어떻게 해야 할까요?
도로 자체를 더 넓혀야 합니다.
이런 방향으로 등장한 중요한 변화가 HBM4입니다.
HBM4에서 가장 큰 변화: 길이 두 배로 넓어진다
HBM3 계열에서는 데이터를 주고받는 I/O가 1,024개였습니다.
HBM4에서는 이것이 2,048개로 늘어났습니다.
여기서 I/O는 쉽게 말하면
GPU와 HBM 사이에서 데이터를 주고받는 출입구
입니다.
출입구가 1,024개에서 2,048개로
대형 경기장이 있다고 생각해보겠습니다.
경기가 끝났습니다.
관객 10만 명이 한꺼번에 나가야 합니다.
출구가 10개밖에 없다면 사람들이 줄을 서게 됩니다.
그런데 출구를 20개로 늘리면 같은 시간 동안 더 많은 사람이 나갈 수 있습니다.
HBM4에서도 비슷한 일이 일어납니다.
데이터가 지나갈 수 있는 통로가 크게 늘어납니다.
중요한 것은 ‘핀 속도만 빨라진 것’이 아니다
HBM4를 이해할 때 이 부분이 매우 중요합니다.
HBM4가 HBM3E보다 빠른 이유를 단순히
“신호 하나가 두 배 빨라졌다.”
라고 이해하면 정확하지 않습니다.
핵심 변화 중 하나는 데이터 통로의 폭 자체가 두 배로 넓어진 것입니다.
실제로 삼성전자가 발표한 HBM4 제품을 보면 HBM3E 대비 핀 속도 향상은 약 1.22배지만, 전체 스택 대역폭은 최대 약 2.7배 수준으로 높아졌습니다. 데이터 출입구가 1,024개에서 2,048개로 늘어난 것이 큰 역할을 합니다.
자동차 한 대가 아니라 차선 수를 늘린 것이다
HBM3E와 HBM4의 차이를 도로로 다시 생각해보겠습니다.
HBM3E에서는 자동차 한 대의 속도를 계속 높였습니다.
그런데 어느 순간 자동차를 더 빠르게 달리게 하는 것만으로는 한계가 있습니다.
그래서 HBM4에서는
자동차 속도도 높이고
동시에
도로 차선 수도 크게 늘렸습니다.
그 결과 전체 물류량이 크게 증가합니다.
이것이 대역폭이다
대역폭은 자동차 한 대의 최고속도가 아닙니다.
1초 동안 도로 전체를 통해 자동차를 얼마나 많이 보낼 수 있는가
입니다.
AI에서 중요한 것도 바로 이 전체 데이터 처리량입니다.
GPU가 원하는 것은 데이터 한 조각이 조금 빨리 오는 것뿐 아니라 수많은 데이터를 동시에 받는 것입니다.
HBM4는 어느 정도의 대역폭을 목표로 할까?
2026년 공개된 실제 HBM4 제품을 보면 한 스택에서 수 TB/s급 대역폭이 현실화되고 있습니다.
삼성전자는 자사 HBM4에서 최대 약 3.3TB/s의 스택 대역폭을 발표했고, Micron은 자사 HBM4에서 2.8TB/s 이상을 제시하고 있습니다. 제품과 동작 조건에 따라 숫자는 달라지지만 HBM3E의 약 1TB/s급에서 HBM4는 수 TB/s급으로 올라가는 흐름을 보여줍니다.
숫자를 반드시 외울 필요는 없습니다.
핵심은 이것입니다.
HBM4에서는 한 개의 메모리 스택이 GPU에 전달할 수 있는 데이터양이 크게 증가했습니다.
1초에 수 TB의 데이터가 움직인다는 것은 얼마나 빠를까?
2.8TB/s라고 생각해보겠습니다.
아주 단순하게 표현하면 1초 동안 수 테라바이트에 해당하는 데이터를 메모리와 프로세서 사이에서 처리할 수 있는 수준입니다.
일반적인 개인용 저장장치에서 파일을 복사하는 속도와 비교하면 전혀 다른 세계입니다.
HBM은 파일을 오래 저장하기 위한 SSD가 아니라 GPU 바로 옆에서 데이터를 초고속으로 공급하기 위한 메모리이기 때문입니다.
그런데 대역폭만 늘리면 될까?
문제가 하나 있습니다.
통로를 넓히면 더 많은 데이터를 보낼 수 있습니다.
하지만 데이터가 더 많이 움직이면
전력 소비
와
발열
도 문제가 됩니다.
고속도로를 두 배 넓혀 자동차를 두 배 많이 보내면 주유도 더 많이 필요하고 열도 더 발생하는 것과 비슷합니다.
AI 데이터센터에서 전기가 왜 중요한가?
AI 데이터센터에는 GPU가 한두 개 있는 것이 아닙니다.
수많은 GPU와 HBM이 동시에 작동합니다.
메모리 하나에서 조금 더 사용하는 전력은 작아 보일 수 있습니다.
하지만 수십만 개의 칩으로 확대하면 엄청난 차이가 될 수 있습니다.
그래서 HBM의 세대가 올라갈수록
성능뿐 아니라 전력 효율
도 매우 중요합니다.
SK하이닉스는 자사 HBM4에서 전 세대 대비 40% 이상 향상된 전력 효율을 발표했고, 삼성전자 역시 자사 HBM4에서 전 세대 대비 약 40% 수준의 에너지 효율 개선을 설명하고 있습니다.
빠른 것과 효율적인 것은 다르다
자동차가 시속 300km로 달릴 수 있다고 생각해보겠습니다.
엄청나게 빠릅니다.
그런데 10km를 달릴 때마다 연료통 하나를 모두 사용한다면 실제 사용하기 어렵습니다.
AI 데이터센터도 마찬가지입니다.
반도체가 빨라지는 것만으로는 부족합니다.
같은 계산을 처리하면서
전기를 얼마나 적게 사용할 수 있는가
가 매우 중요합니다.
HBM4의 두 번째 큰 변화: 베이스 다이가 더 중요해진다
앞에서 HBM을 배울 때 여러 DRAM 다이 아래에 베이스 다이(Base Die)가 있다고 했습니다.
베이스 다이는 HBM의 가장 아래쪽에서
전력,
신호,
데이터 이동
등을 관리하는 기반 칩입니다.
HBM4에서는 이 베이스 다이의 역할이 더욱 중요해지고 있습니다.
베이스 다이를 아파트 관리실로 생각해보자
HBM을 고층 아파트라고 생각해보겠습니다.
각 층에는 DRAM이 있습니다.
아래에는 관리실이 있습니다.
예전에는 관리실이 비교적 단순한 역할을 했다고 생각해봅시다.
그런데 아파트가 점점 커집니다.
사람도 많아지고,
엘리베이터도 많아지고,
전력 관리도 복잡해집니다.
그러면 관리실도 더 똑똑해져야 합니다.
HBM4의 베이스 다이가 이런 방향으로 발전하고 있습니다.
메모리 아래에 ‘로직 반도체’ 기술이 들어온다
HBM4에서는 베이스 다이에 더 정교한 로직 기능을 넣을 수 있기 때문에 메모리 공정만으로 모든 것을 해결하기 어려워집니다.
실제로 삼성전자는 HBM4 베이스 다이에 4나노 로직 공정을 적용했다고 밝혔습니다.
이것은 매우 중요한 변화입니다.
왜냐하면 HBM 기술이 단순히
“DRAM을 잘 만드는 기술”
에서
“DRAM + 로직 + 패키징을 함께 설계하는 기술”
로 발전하고 있기 때문입니다.
메모리 회사와 파운드리의 경계가 가까워진다
과거에는 이렇게 생각하기 쉬웠습니다.
SK하이닉스·삼성전자·Micron
→ 메모리를 만든다.
TSMC·삼성 파운드리
→ 로직 반도체를 만든다.
하지만 HBM4에서는 상황이 조금 더 복잡해집니다.
HBM 아래쪽 베이스 다이가 복잡해지면서 로직 반도체 제조기술도 중요해집니다.
즉 AI 시대에는 메모리와 파운드리 기술이 서로 더 가까워지고 있습니다.
이것이 ‘커스텀 HBM’으로 연결된다
앞으로 HBM은 모든 고객에게 완전히 똑같은 제품을 파는 것만으로 끝나지 않을 수 있습니다.
AI 가속기마다 원하는 구조가 다를 수 있기 때문입니다.
A 회사는 특정 데이터 처리 기능이 필요하고,
B 회사는 전력 효율을 더 중요하게 생각하고,
C 회사는 GPU와 HBM 사이의 연결 방식을 다르게 하고 싶어할 수 있습니다.
그래서 고객의 AI 칩에 맞춰 HBM의 베이스 다이와 인터페이스를 최적화하는 커스텀 HBM의 중요성이 커지고 있습니다.
맞춤 정장으로 생각해보자
예전 HBM이 기성복에 가까웠다면
미래의 HBM은 점점 맞춤 정장에 가까워질 수 있습니다.
같은 메모리라도
NVIDIA용,
다른 AI 가속기용,
특정 클라우드 기업용
으로 필요한 특성이 조금씩 달라질 수 있습니다.
이것은 HBM 회사가 고객과 더 긴밀하게 협력해야 한다는 뜻입니다.
HBM4의 세 번째 변화: 더 높은 적층
HBM의 용량을 늘리는 방법 중 하나는 DRAM을 더 많이 쌓는 것입니다.
8단,
12단,
16단
처럼 위로 쌓을 수 있습니다.
2026년 공개된 삼성 HBM4는 8단·12단 구성을 제공하고, 16단 적층을 통한 최대 48GB급 구성까지 확장 계획을 제시하고 있습니다.
그런데 높이만 계속 올리면 안 될까?
아파트라면 땅이 부족할 때 층을 계속 높이면 됩니다.
HBM도 그렇게 하면 될 것 같지만 반도체에서는 훨씬 어렵습니다.
층을 높일수록
칩을 더 얇게 만들어야 하고,
각 층을 정확하게 정렬해야 하고,
TSV를 연결해야 하며,
열을 빼내야 하고,
패키지가 휘는 문제도 관리해야 합니다.
그래서 8단에서 12단으로 올라가는 것조차 매우 어려운 기술입니다.
높아질수록 열 문제가 커진다
토스트를 여러 장 쌓았다고 생각해보겠습니다.
맨 위와 맨 아래는 공기와 닿아 쉽게 식습니다.
하지만 가운데 있는 토스트는 열이 빠져나가기 어렵습니다.
HBM도 여러 반도체가 겹쳐 있기 때문에 가운데 층에서 발생한 열을 밖으로 빼내는 것이 중요합니다.
그래서 HBM 경쟁에는 방열 기술도 포함됩니다.
HBM4에서는 전력과 열을 함께 해결해야 한다
I/O를 1,024개에서 2,048개로 늘렸다고 생각해보겠습니다.
데이터 출입구가 두 배가 되었습니다.
성능은 좋아집니다.
하지만 동시에 더 많은 신호가 움직입니다.
전력 소비와 열이 증가할 위험이 있습니다.
그래서 회로의 전압을 낮추고 전력 공급망을 개선하는 등의 기술이 함께 필요합니다. 삼성전자 역시 HBM4에서 I/O 확대에 따른 전력·열 문제를 줄이기 위해 저전력 회로와 전력분배 설계를 최적화했다고 설명합니다.
HBM은 이제 메모리만의 문제가 아니다
HBM3E까지 공부하면
“빠른 DRAM을 여러 층 쌓는 기술이구나.”
라고 생각할 수 있습니다.
하지만 HBM4부터는 더 넓게 봐야 합니다.
DRAM
로직 베이스 다이
TSV
적층 기술
첨단 패키징
열 관리
GPU와의 공동 설계
가 모두 중요합니다.
HBM이 하나의 작은 시스템처럼 발전하고 있는 것입니다.
HBM3E와 HBM4를 한 번에 비교해보자
아주 단순하게 비교하면 다음과 같습니다.
HBM3E
HBM3를 더욱 발전시킨 고성능 세대.
높은 핀 속도.
1TB/s를 넘는 스택 대역폭.
AI GPU에 널리 필요한 고성능 메모리.
1,024개 수준의 데이터 I/O 구조.
HBM4
다음 세대의 구조적 변화.
I/O가 2,048개로 확대.
스택당 수 TB/s급 대역폭.
베이스 다이의 역할 강화.
더 복잡한 로직 기술과 결합.
높은 전력 효율과 열 관리가 더욱 중요.
더 높은 적층과 커스텀 설계 방향으로 발전.
즉 HBM4는 단순한 HBM3E의 ‘조금 빠른 버전’이라고 보기 어렵습니다.
HBM4가 등장하면 AI가 어떻게 좋아질까?
GPU가 데이터를 기다리는 시간을 줄일 수 있습니다.
AI 모델이 커질수록 계산할 데이터도 많아집니다.
메모리 대역폭이 높아지면 GPU가 더 많은 데이터를 빠르게 받을 수 있습니다.
따라서 GPU의 계산장치를 더 적극적으로 활용할 수 있습니다.
공부 잘하는 학생에게 책을 더 빨리 전달한다
학생이 문제를 푸는 속도는 엄청나게 빠릅니다.
문제 한 장을 1초 만에 풉니다.
HBM3E 도서관 직원은 1초에 문제지 10장을 가져옵니다.
그런데 학생이 20장까지 풀 수 있게 발전했습니다.
학생은 절반의 시간 동안 기다립니다.
HBM4에서는 자료 전달 시스템 자체를 크게 확장해 더 많은 문제지를 공급하는 것입니다.
AI 학습뿐 아니라 추론에서도 중요하다
HBM을 이야기하면 대규모 AI 학습만 생각하기 쉽습니다.
하지만 추론(Inference)에서도 중요합니다.
사용자가 AI에게 질문할 때 모델의 수많은 가중치를 메모리에서 계속 읽어야 합니다.
사용자가 많아지고,
AI 모델이 커지고,
긴 문맥을 처리할수록
메모리에서 움직이는 데이터양도 증가할 수 있습니다.
그래서 AI 서비스가 대중화될수록 메모리 대역폭의 중요성도 커질 수 있습니다.
긴 대화를 기억하는 AI도 메모리를 더 필요로 한다
AI가 처리하는 문장이 짧다면 데이터양이 상대적으로 적습니다.
그런데
책 한 권,
수백 페이지의 보고서,
긴 영상,
아주 긴 대화
를 한꺼번에 처리하려고 한다면 더 많은 데이터가 필요합니다.
AI가 발전하면서 이런 대규모 작업이 늘어난다면 빠르고 큰 메모리의 가치도 커집니다.
GPU 한 개에 HBM을 무한히 붙이면 될까?
그럴 수는 없습니다.
GPU 주변 공간은 제한되어 있습니다.
패키지 크기도 제한됩니다.
열도 발생합니다.
전력도 공급해야 합니다.
그래서 단순히 HBM 숫자를 늘리는 것이 아니라
한 스택의 용량과 대역폭을 높이는 것
이 중요합니다.
여기서 첨단 패키징이 다시 등장한다
GPU와 HBM을 하나의 패키지 안에 넣으려면 매우 정교한 연결 기술이 필요합니다.
GPU 주변에 여러 HBM 스택을 배치하고,
엄청나게 많은 데이터선을 연결해야 합니다.
그래서 HBM이 발전할수록 패키징 기술도 같이 발전해야 합니다.
HBM4가 좋아도 패키징이 부족하면 소용없다
예를 들어
GPU 100만 개,
HBM4 100만 세트
를 만들었습니다.
그런데 GPU와 HBM을 연결할 수 있는 첨단 패키징 능력이 30만 개뿐입니다.
최종 AI 가속기는 몇 개 만들 수 있을까요?
30만 개 수준밖에 만들지 못합니다.
그래서 AI 반도체 산업에서는 가장 부족한 단계가 전체 공급량을 결정할 수 있습니다.
HBM 경쟁은 이제 패키징 경쟁이기도 하다
HBM 제조기업이 좋은 DRAM만 만든다고 끝나는 것이 아닙니다.
얼마나 얇게 만들 수 있는지,
몇 층까지 안정적으로 쌓을 수 있는지,
열을 얼마나 잘 빼낼 수 있는지,
GPU와 얼마나 안정적으로 연결할 수 있는지
가 모두 중요합니다.
그래서 HBM 경쟁은 점점 종합 반도체 기술 경쟁이 되고 있습니다.
삼성전자에게 HBM4가 특별한 이유
삼성전자는
DRAM,
로직,
파운드리,
패키징
기술을 폭넓게 가지고 있습니다.
HBM4처럼 베이스 다이의 로직 기술과 메모리 기술이 더 가까워질수록 이런 수직적인 기술 연결이 활용될 여지가 있습니다.
실제로 삼성전자는 2026년 HBM4 양산 제품에서 1c DRAM과 4나노 로직 베이스 다이를 함께 적용했다고 밝혔습니다.
다만 기술을 많이 가지고 있다는 것만으로 시장 성공이 자동으로 결정되는 것은 아닙니다.
수율,
성능,
고객 인증,
생산능력,
납기
까지 모두 중요합니다.
SK하이닉스에게 HBM4가 중요한 이유
SK하이닉스는 HBM 시장에서 쌓아온 적층과 제조 경험을 HBM4에서도 이어가고 있습니다.
SK하이닉스는 2025년 HBM4 개발 완료와 양산 준비를 발표하면서 2,048 I/O, 10Gbps 이상의 동작속도, 전 세대 대비 2배 대역폭 등을 공개했습니다.
HBM 세대가 올라갈수록 기존 HBM 고객과의 협력 경험도 중요한 경쟁 요소가 될 수 있습니다.
Micron도 왜 중요할까?
HBM 시장에는 SK하이닉스와 삼성전자만 있는 것이 아닙니다.
미국의 Micron도 HBM3E와 HBM4를 개발·생산하고 있습니다.
Micron은 2026년 HBM4 36GB 12단 제품의 대량생산을 공개했으며, 11Gbps가 넘는 핀 속도와 스택당 2.8TB/s 이상의 대역폭을 제시하고 있습니다.
따라서 AI HBM 시장은 주요 메모리 3사의 기술·생산·고객 경쟁으로 보는 것이 좋습니다.
HBM 경쟁은 단순히 ‘누가 제일 빠른가’가 아니다
고객이 AI 가속기용 HBM을 고른다고 생각해보겠습니다.
최대 속도만 볼까요?
아닙니다.
여러 요소를 봅니다.
대역폭은 충분한가?
용량은 충분한가?
전력은 얼마나 사용하는가?
열은 잘 관리되는가?
수율은 안정적인가?
필요한 수량을 공급할 수 있는가?
GPU와 잘 연결되는가?
고객 인증을 제때 받을 수 있는가?
이 모든 것이 중요합니다.
100m 달리기만으로 최고의 선수를 고를 수 없는 것
한 선수가 100m는 세계에서 가장 빠릅니다.
하지만 마라톤은 완주하지 못합니다.
다른 선수는 조금 느리지만 체력이 좋고 부상도 적습니다.
누가 더 좋은 선수인지는 어떤 경기를 하느냐에 따라 달라집니다.
HBM 역시 최대 속도 숫자 하나만으로 전체 경쟁력을 판단하기 어렵습니다.
HBM4 다음에는 끝일까?
아닙니다.
AI GPU는 계속 발전하고 있습니다.
따라서 HBM도 계속 발전합니다.
실제로 2026년에는 HBM4 다음의 확장 세대인 HBM4E 제품 개발과 샘플 공급 발표까지 나오고 있습니다.
즉
HBM3
↓
HBM3E
↓
HBM4
↓
HBM4E
처럼 발전이 계속되고 있는 것입니다.
그런데 언제까지 위로 쌓을 수 있을까?
HBM도 영원히 높게만 쌓을 수는 없습니다.
높이가 증가하면
열,
휘어짐,
제조난이도,
수율,
연결 문제
도 커질 수 있습니다.
따라서 미래에는 단순히 층을 높이는 것뿐 아니라
새로운 접합기술,
새로운 패키징,
새로운 메모리 구조
등도 중요해질 가능성이 있습니다.
하이브리드 본딩이라는 기술도 등장한다
반도체를 더 촘촘하게 연결하는 방법 중 하나로 하이브리드 본딩(Hybrid Bonding) 같은 기술도 연구·개발되고 있습니다.
기존 방식보다 칩과 칩을 더욱 촘촘하게 연결할 수 있는 방향의 기술입니다.
앞으로 적층 수가 높아지고 연결이 복잡해질수록 이런 차세대 접합기술도 중요해질 수 있습니다.
다만 어떤 세대에서 어떤 접합방식이 실제 대량생산의 주류가 될지는 비용·수율·열 특성 등을 함께 봐야 합니다.
HBM 발전에서 진짜 중요한 변화
처음의 HBM 경쟁은 이렇게 보였습니다.
메모리를 위로 쌓아서 빠르게 만들자.
하지만 점점 이렇게 바뀌고 있습니다.
메모리와 로직을 함께 설계하자.
↓
GPU와 HBM을 더 가깝게 연결하자.
↓
고객에게 맞는 HBM을 만들자.
↓
전체 AI 시스템의 전력과 성능을 최적화하자.
HBM은 단순한 메모리 부품에서 AI 시스템의 핵심 설계요소로 발전하고 있는 것입니다.
AI 시대에는 ‘메모리 회사’라는 말도 달라질 수 있다
과거 메모리 회사의 핵심 경쟁력은
DRAM을 얼마나 작게 만들고,
얼마나 많이 생산하며,
원가를 얼마나 낮추는가
에 크게 집중되어 있었습니다.
HBM 시대에는 여기에
로직 설계,
패키징,
적층,
열 관리,
고객 공동개발
이 추가됩니다.
메모리 회사도 점점 더 복잡한 시스템 기술을 갖춰야 합니다.
AI 반도체 산업을 다시 연결해보자
NVIDIA 같은 회사가 차세대 AI GPU를 설계합니다.
↓
GPU의 계산능력이 크게 증가합니다.
↓
기존 HBM의 대역폭이 부족해집니다.
↓
더 빠른 HBM4가 필요합니다.
↓
HBM4의 I/O가 늘어나고 베이스 다이가 복잡해집니다.
↓
파운드리와 로직 기술이 중요해집니다.
↓
GPU와 HBM을 연결할 첨단 패키징이 중요해집니다.
↓
전력과 발열 문제가 커집니다.
↓
데이터센터의 냉각과 전력시설까지 중요해집니다.
이것이 AI가 반도체 산업 전체를 변화시키는 방식입니다.
HBM4는 단순한 메모리 업그레이드가 아니다
이것이 오늘 글에서 가장 중요한 결론입니다.
HBM3E에서 HBM4로 넘어가는 것을
“아이폰 15에서 아이폰 16으로 바뀐 것처럼 조금 빨라졌다.”
정도로 생각하면 부족합니다.
HBM4에서는
데이터 통로가 크게 넓어지고,
베이스 다이가 더 중요해지고,
로직 공정과의 연결이 커지고,
패키징이 더욱 중요해지고,
고객 맞춤형 설계 가능성이 커집니다.
즉 HBM의 역할 자체가 변하고 있습니다.
오늘 내용 한눈에 정리하기
오늘은 여덟 가지를 기억하면 됩니다.
첫째, HBM은 GPU가 발전하면서 더 높은 대역폭과 용량, 전력 효율을 제공하는 방향으로 계속 발전하고 있습니다.
둘째, HBM3E는 HBM3의 성능을 더욱 높인 확장 세대로 1TB/s가 넘는 스택 대역폭을 제공하는 제품들이 등장했습니다.
셋째, HBM4에서는 데이터 I/O가 1,024개에서 2,048개로 확대되어 데이터가 지나가는 통로 자체가 크게 넓어졌습니다.
넷째, 그래서 HBM4는 핀 속도 향상뿐 아니라 더 넓어진 인터페이스를 통해 스택당 수 TB/s 수준의 대역폭을 제공할 수 있게 되었습니다.
다섯째, HBM4에서는 전력과 신호를 관리하는 베이스 다이의 역할이 더욱 중요해지고 있습니다.
여섯째, 이 때문에 HBM 경쟁은 DRAM 기술뿐 아니라 로직·파운드리·패키징 기술까지 연결되는 종합 경쟁으로 변하고 있습니다.
일곱째, AI 데이터센터에서는 성능뿐 아니라 전력 효율과 열 관리도 매우 중요하기 때문에 HBM 역시 이 부분을 함께 발전시켜야 합니다.
여덟째, HBM4 이후에도 HBM4E 등 다음 세대로 기술 발전이 계속되고 있습니다.
그렇다면 삼성전자·SK하이닉스·Micron은 왜 HBM을 놓고 이렇게 치열하게 싸울까?
이제 HBM 기술 자체는 어느 정도 이해했습니다.
그런데 다음 질문이 생깁니다.
세계적인 DRAM 회사는
삼성전자,
SK하이닉스,
Micron
세 곳이 대표적입니다.
이 회사들은 모두 오랫동안 메모리 반도체를 만들어왔습니다.
그런데 AI 시대가 되면서 HBM 경쟁은 일반 DRAM 경쟁보다 훨씬 중요해졌습니다.
왜 그럴까요?
HBM이 일반 DRAM보다 더 많은 돈을 벌 수 있는 제품이기 때문일까요?
NVIDIA 같은 AI 반도체 고객을 먼저 확보하면 어떤 장점이 생길까요?
왜 HBM은 단순히 공장을 많이 가지고 있다고 바로 따라잡기 어려울까요?
그리고 삼성전자·SK하이닉스·Micron의 강점은 각각 무엇이 다를까요?
다음 글에서는
「삼성전자·SK하이닉스·Micron은 왜 HBM을 놓고 경쟁할까?｜AI 메모리 전쟁의 핵심」
을 통해 AI 시대의 세계 메모리 반도체 경쟁을 알아보겠습니다.
댓글 0
첫 댓글을 남겨보세요.