HBM: High Bandwidth Memory
HBM은 High Bandwidth Memory의 약자로, 고대역폭 메모리를 의미한다.
얇은 D램 칩을 수직으로 쌓아 올려 초거대 AI 모델이 요구하는 메모리의 성능과 용량을 만족시킨다.
*대역폭(bandwidth): 메모리의 데이터 전송 속도를 의미한다. 대역폭이 높을 수록 한 번에 처리할 수 있는 데이터의 양이 많아짐
36GB HBM3E 12H(Shinebolt) D램은 삼성전자의 5세대 HBM으로 D램 칩을
TSV 기술로 12단까지 적층한 메모리로, 2024년 2월 최초로 개발에 성공했다.
*TSV(Through-silicon Via): 실리콘 관통 전극
초당 최대 1,280GB의 대역폭과 현존 최대 용량인 36GB를 제공한다.
전 세대 HBM3 8H (Icebolt) 대비 메모리 성능과 용량이 50% 이상 개선되어
평균 34% 향상된 AI 학습 훈련 속도와 11.5배 많은 AI 사용자 서비스를 제공할 수 있다.
HBM은 열 관리도 중요한데,
삼성전자의 TC-NCF 기술은 열 방출에서 경쟁력을 갖고 있다.
*TC-NCF(Thermal Compression Non-conductive Film) :
적층된 칩 사이를 절연시키고 충격으로부터 연결 부위를 보호하기 위해 사용하는 고분자 물질
많은 빅테크 기업이 AGI 시대를 만들기 위해 AI 모델을 고도화 하고 있다.
그 과정에서 고용량의 HBM은 필수로 수반된다.
*AGI(Artificial General Intelligence) : 범용 인공지능
36GB HBM3E 12H(Shinebolt) D램의 장점:
Advanced TC-NCF (열압착 비전도성 접착 필름), 맞춤형 bump
얇아지는 Core die의 문제를 해결하기 위해 NCF의 소재 두께를 낮추고, 열압착 기술을 통해 칩 간격을 줄이고
고단적층에서의 칩 제어 기술을 고도화 함.
7마이크로미터의 칩 간격을 구현하면서도 맞춤형 bump를 적용해
열 특성을 강화함과 동시에 수율도 극대화 하였음.
*core die(코어다이): D램 칩을 의미하며, 데이터를 저장하는 역할을 함
*bump(범프): 칩 사이를 전기적으로 연결하기 위해 형성한 전도성 돌기를 통칭
삼성전자는 향후 HBM4E에 16H 기술까지 도입 할 계획이다.
출처:
AI 시대, 삼성전자 HBM이 만들어 내는 완벽한 하모니
고대역폭 메모리 ‘HBM(High Bandwidth Memory)’은 초거대 AI 시대라는 악곡(樂曲)의 뛰어난 오케스트라 연주자로 비유할 수 있다. 마치 능숙한 연주자가 빠르고 정확하게 멜로디를 연주하는 것처럼, HB
news.samsungsemiconductor.com
