[ ChatGPT ] DRAM과 HBM의 패키징에 대하여 질문

질문 내용

DRAM이 CPU와 연결될때 모듈 형태로 구성되어 슬랏으로 마더보드 기판에 연결되는데, HBM은 어떤 모양으로 마더보드 기판에 연결되지?

답변

HBM(High Bandwidth Memory)은 기존 DRAM 모듈과는 다르게 CPU나 GPU와 연결됩니다. HBM은 전통적인 DIMM 슬롯을 사용하지 않으며, 대신 실리콘 인터포저(또는 팬아웃 기판)를 이용하여 CPU/GPU와 직접 연결됩니다. 이로 인해 HBM의 연결 방식은 다음과 같은 특징을 가지고 있습니다.

HBM의 구성 및 연결 방식

3D 스태킹 구조
- 여러 개의 DRAM 다이(die)를 수직으로 쌓아 TSV(Through-Silicon Vias)를 통해 서로 연결합니다.
실리콘 인터포저
- HBM과 CPU/GPU는 실리콘 인터포저를 통해 연결됩니다. 실리콘 인터포저는 매우 많은 수의 마이크로 범프(micro bumps)를 통해 HBM과 CPU/GPU 사이의 고속 데이터 통로를 제공합니다.
- 실리콘 인터포저는 전통적인 마더보드 기판과는 달리 매우 정밀하게 제조된 기판으로, 많은 수의 연결을 작은 공간에 집약할 수 있습니다.
패키징
- CPU/GPU와 HBM은 동일한 패키지 안에 포함될 수 있습니다. 이를 통해 데이터 전송 거리를 줄이고, 전력 효율성을 높일 수 있습니다.
- 패키지 자체는 마더보드에 BGA(Ball Grid Array) 방식으로 납땜되어 연결됩니다. 이는 기존 DRAM 모듈의 DIMM 슬롯과는 다른 방식입니다.

시각적 설명

plaintext
+-------------------------+        +-------------------------+
|                         |        |                         |
|         CPU/GPU         |        |         HBM Stack       |
|                         |        |     (Multiple DRAM die) |
+-------------------------+        +-------------------------+
           |                                |
           +--------------------------------+
                        |
               실리콘 인터포저
                        |
     +--------------------------------------------------+
     |                      마더보드                     |
     +--------------------------------------------------+

주요 차이점 정리

연결 방식
- 기존 DRAM: DIMM 슬롯에 꽂혀 마더보드와 연결됨.
- HBM: 실리콘 인터포저를 통해 CPU/GPU와 직접 연결됨.
패키지 통합
- 기존 DRAM: CPU와 별도의 모듈로 존재.
- HBM: CPU/GPU와 동일한 패키지 내에 존재하여 통합됨.
데이터 전송 거리
- 기존 DRAM: 상대적으로 긴 데이터 전송 거리.
- HBM: 매우 짧은 데이터 전송 거리로 인한 고속 데이터 전송 가능.

이러한 구조적 차이로 인해 HBM은 기존 DRAM보다 훨씬 높은 대역폭과 효율적인 전력 소비를 제공합니다. HBM의 이러한 특성은 고성능 컴퓨팅 및 그래픽 처리에서 중요한 역할을 합니다.

-------------------------------------------------------------------------------------------------

시사점)

HBM은 SOC와 동일한 패키지 내로 통합된다고 하는군요.

HBM과 Processor간의 패키징 기술은 제조사마다 다양한 방식을 취하고 있습니다. 정리를 위해 아래 관련 사이트를 모아봤습니다. 시간이 되면 제조사와 패키지 방식을 정리해봐야겠습니다.

보다 상세한 기술 자료 사이트 공유

https://news.skhynix.co.kr/post/dgist-series-1
https://gigglehd.com/gg/hard/938740
https://news.samsung.com/kr/%ED%98%84%EC%A1%B4-%EC%B5%9C%EA%B3%A0-%EC%86%8D%EB%8F%84%EB%B3%B4%EB%8B%A4-%EB%AC%B4%EB%A0%A4-7%EB%B0%B0-%EB%B9%A0%EB%A5%B8-%EB%A9%94%EB%AA%A8%EB%A6%AC-4gb-hbm-d%EB%9E%A8%EC%9D%98-%EB%B9%84%EB%B0%80
https://v.daum.net/v/20240423163108331
https://www.electimes.com/news/articleView.html?idxno=335795

궁금한 사항을 ChatGPT에 물어보곤 하는데, 새롭게 알게된 내용을 블로그에 기록해 보기로 했습니다. 무궁무진한 AI 산업, AI 산업으로 파생되는 수 많은 사업군들을 만들어볼 수 있을 것 같습니다.

개발노트

이 블로그 검색