우리 반도체 기업에 투자하면서 HBM을 모르시는 분들은 없으시겠죠. 특히 SK하이닉스라는 회사와 HBM은 떼려야 뗄 수 없는 관계입니다. SK하이닉스는 HBM을 세계 최초로 개발했을 뿐만 아니라 이 덕분에 한때 삼성전자를 제치고 D램 시장 세계 1위를 1년간 차지하기도 했습니다. 무려 30년간 삼성전자가 유지해온 자리를 빼앗은 것이죠. HBM은 메모리 반도체 기업들에도 큰 의미가 있습니다. 범용 메모리를 저가로 대량생산하는 기존의 단순한 사업 구조에서 벗어나 인공지능(AI) 시스템의 중요한 구성 요소 중 하나로 메모리 반도체가 자리 잡았기 때문입니다. 그래서 SK하이닉스의 HBM 개발 과정을 살펴보면 왜 한국 메모리 반도체 기업들이 중요한지, 왜 그들이 쉽게 대체되기 어려운지에 대해 알 수 있습니다.
◆ 2008년 시작은 미약했지만
반도체를 만드는 데 쓰이는 웨이퍼. 이 원판에 점점 더 세밀하게 회로를 그려넣은 것이 바로 반도체 발전의 역사입니다. 이것은 메모리 반도체도 마찬가지인데요. 이 같은 미세화 공정이 점점 더 어려워지면서 이른바 '무어의 법칙'이 한계에 다다랐다는 우려가 커지고 있었고, 이런 생각을 가진 사람 중 한 명이 GHBM(범용 HBM)의 아버지로도 불리는 김정호 KAIST 교수입니다. 그는 D램을 쌓은 후 TSV(Through Silicon Via·실리콘 관통전극)라는 기술로 구멍을 뚫어서 메모리 반도체의 대역폭을 크게 늘리는 기법을 연구하고 있었습니다. 김 교수처럼 당시 학계에는 TSV를 반도체 성능의 한계를 높이는 중요한 기술로 보고 있었습니다. 하지만 실제로 이를 기반으로 하는 제품은 나오지 않고 있었습니다.
SK가 하이닉스를 인수하기 전인 2008년. 하이닉스에 AMD의 핵심 고위 엔지니어인 브라이언 블랙이 찾아옵니다. 그는 TSV 기술을 이용해 고성능 그래픽처리장치(GPU)를 만들자는 제안을 하는데요. 지금과 달리 당시 GPU는 게임용 그래픽 처리가 주목적인 제품이었고 AMD는 고대역폭 D램을 통해 게임에서 고객이 경험하는 성능이 향상되기를 기대했습니다.
하이닉스는 AMD의 제안을 받아들여 1년 후부터 함께 TSV 기술을 적용한 D램을 개발하기 시작합니다. 이때 하이닉스 연구과제를 맡았던 곳이 김 교수의 연구실이었습니다.
SK하이닉스와 AMD가 함께 개발을 시작해 2013년 12월 처음으로 TSV 기술을 적용한 D램이 등장합니다. 당시만 해도 HBM이라는 이름조차 없었지만 SK하이닉스는 세계 최초 HBM 개발이라는 업적을 달성합니다. 반도체를 쌓는다는 완전히 다른 발상을 가지고 실제 제품을 내놓은 것입니다.
HBM이라는 이름이 처음으로 세상에 등장한 것은 그로부터 1년 반 후인 2015년 6월 3일. 대만 최대 전자 행사인 '컴퓨텍스 2015'에서입니다. 대만 이민자 출신으로 AMD 최초의 여성 최고경영자(CEO)인 리사 수가 침몰해가던 AMD의 CEO가 된 것이 불과 1년 전. 그는 기자회견에서 갑자기 예정에 없던 신형 GPU 피지(Fidji)를 공개합니다.
이 피지 GPU에 붙어 있던 D램이 바로 'HBM'이었습니다. 수 CEO는 피지를 발표하면서 처음으로 제품에 들어가는 '고대역폭메모리(High Bandwith Memory·HBM)'라는 이름을 공식화했고, 피지 GPU와 HBM이 탑재된 최초의 그래픽카드 라데온 R9 퓨리X가 2주 후 미국의 게임쇼 E3에서 공개됩니다.
하지만 라데온 R9 퓨리X는 보기 좋게 망합니다. HBM이 탑재됐지만 이 제품은 가격이 너무 비쌌고, 비싼 만큼 소비자들에게 효용을 높여주지 못했습니다. 최초의 1세대 제품 HBM1은 불과 1만여 개만 판매되는 데 그칩니다.
◆ 2016년 AI 혁명의 주인공이 되다
HBM이라는 제품의 진가를 알아보고 이를 적재적소에 사용한 기업. 그것은 엔비디아와 삼성전자였습니다.
최초의 HBM이 세상에 등장하고 나서 역시 1년 반 후인 2016년 1월 삼성이 2세대 HBM인 HBM2의 개발을 알립니다. 이 HBM은 미국 빅테크 기업들이 사용하기로 약속돼 있었는데요. 그 회사는 바로 엔비디아였죠. 그해 4월 엔비디아가 출시한 테슬라 P100 GPU에 HBM이 사용됩니다. 엔비디아의 P100 GPU를 구매해서 사용한 기업은 어디일까요. 바로 오픈AI, 그리고 구글입니다.
GPU가 AI 학습(딥러닝)에 최고의 반도체라는 것을 알아차린 젠슨 황 엔비디아 CEO는 회사를 AI 기업으로 변신시키고 있었는데요. 그동안 그래픽카드용 GPU에 쓰던 GDDR D램이 아니라 AI 학습에 사용되는 GPU에는 HBM을 넣어본 것이죠. 성능은 대만족. 하지만 이때부터 삼성전자와 SK하이닉스 사이에서 공급사를 바꿔가는 엔비디아의 조련술도 시작됩니다.
최초로 HBM을 개발한 SK하이닉스가 HBM2를 엔비디아에 공급하지 못한 것은 기술력이 떨어졌기 때문. SK하이닉스는 한 제품만이라도 1등이 돼보자는 야심에 HBM을 만들었는데 이번에도 1등에 시장을 빼앗긴 것이었습니다. 당시 박성욱 SK하이닉스 사장의 지시로 HBM 개발팀을 크게 확대해서 마침내 성능을 개선했고 2018년 HBM2E부터는 엔비디아에 공급하기 시작합니다.
위기가 기회가 된다는 말이 있는 것처럼 SK하이닉스는 HBM2E라는 기술을 고안하는 과정에서 MR-MUF도 개발하는데요. 기존에 보편적이었던 TC-NCF가 아니라 MR-MUF라는 신기술을 도입해 효율성뿐만 아니라 발열까지 한번에 잡을 수 있었습니다. 이는 HBM3E까지도 SK하이닉스가 기술적 우위를 유지하는 데 도움을 줍니다.
이때 삼성전자가 HBM팀을 축소한 것도 SK하이닉스에 기회가 됩니다. 삼성전자는 2018년 메모리 반도체 초호황을 겪으면서 '계륵'이었던 HBM팀을 축소했고, 덕분에 2021년에는 SK하이닉스가 먼저 HBM3를 개발합니다.
2021년만 해도 HBM은 여전히 계륵이었습니다. 첨단 기술이고, AI 학습에 필수적인 부품이었지만 AI 시장 자체가 크지 않았기 때문입니다. 특히 메모리 반도체 시장이 좋을 때는 D램 생산능력의 상당 부분을 할애해야 하는 HBM은 기회비용이 큰 제품이었습니다. 2022년부터 2023년까지 메모리 반도체 시장이 침체에 들어가기 시작하면서 HBM의 운명은 더 위태로웠습니다. 고객이 약속했던 HBM을 살 수 없다면서 '오더 컷'까지 들어와 SK하이닉스는 HBM 후공정 생산라인의 가동을 중단하는 것까지 검토했습니다.
◆ 2022년 챗GPT가 모든 것을 바꿔놨다
2022년 기적 같은 일이 발생했습니다. 그해 11월 등장한 오픈AI의 챗GPT가 사용자들로부터 폭발적인 반응을 얻어냈기 때문입니다. 이는 빅테크 기업들의 AI 모델 개발 경쟁에 불을 붙였고, 엔비디아의 AI 가속기에 대한 주문이 홍수처럼 쏟아지기 시작했습니다. 당연히 AI 가속기에 반드시 필요한 HBM에 대한 주문도 쏟아졌습니다.
물이 들어올 때 노를 젓는 것이 중요하지만 '노'를 준비해놓지 않으면 소용이 없는 것처럼, HBM 수요가 폭발하고 있을 때 SK하이닉스는 이를 맞춰줄 생산능력을 갖고 있었습니다. 당시 낸드플래시 확장을 위해 완공한 청주 M15 팹의 2층이 비어 있었는데, 이를 HBM용 후공정 팹으로 개조한 것입니다. 오더 컷에도 불구하고 P&T 팹 가동을 중단하지 않은 것, 그리고 M15를 HBM용으로 신속하게 전환한 곽노정 현 SK하이닉스 CEO의 결정이 주효했던 것이죠.
SK하이닉스는 엔비디아의 초고속 성장에 따른 수혜를 고스란히 받아냅니다. 삼성전자가 2조원의 적자를 기록했던 2023년 4분기에 하이닉스는 흑자 전환에 성공했고, 2025년 상반기까지 사실상 HBM 시장을 지배하게 됩니다. 뒤늦게 마이크론이 HBM3부터 시장에 진입했지만 압도적 강자는 SK하이닉스였습니다. 메모리 반도체 가격이 바닥일 때 안정적으로 빅테크 기업에 공급한 HBM은 SK하이닉스의 탄탄한 실적을 만들어줍니다. 2024년 23조원, 2025년 44조원이라는 높은 영업이익을 기록한 것은 HBM의 기여가 컸습니다.
◆ 공급 부족에 다시 주목받는 D램
1등 자리를 빼앗긴 삼성전자는 이후 절치부심을 통해 HBM4에서는 SK하이닉스보다 먼저 공급하는 성과를 냅니다. 하지만 여전히 전체 HBM 시장에서의 점유율은 SK하이닉스가 높습니다. 전체 생산능력이 SK하이닉스가 더 많기도 하고, 지금은 HBM3E가 가장 많이 만들어지고 있기 때문입니다. HBM은 2025년부터 메모리 반도체 전체 수요를 끌어올리는 예상치 못했던 연쇄효과를 냅니다. HBM이 필요해도 너무 많이 필요하니까 메모리 반도체 기업들이 범용 D램을 덜 만들기 시작했습니다. 그런데 AI 데이터센터에도 범용 D램이 필요합니다. 이중으로 D램의 수요가 올라간 것이죠.
그 덕분에 2025년 하반기부터 D램이 공급 부족 상황에 빠졌고, 1년 단위로 계약한 가격에 따라 공급되는 HBM과 달리 D램은 수요 부족에 따라 말 그대로 '로켓'처럼 가격이 치솟게 됩니다. D램익스체인지에 따르면 올해 2월 DDR4 8Gb 가격은 13달러로, 지난해 2월 1.35달러 대비 10배가량 올랐습니다. 이렇다 보니 HBM보다 D램의 수익성이 더 좋아지는 아이러니한 상황도 벌어집니다. HBM을 만드느니 D램을 만드는 것이 더 돈을 많이 버는 상황이 된 것입니다.
돈 되는 정보 '반도체플러스'
실리콘밸리 특파원 출신이 돈이 되는 반도체 정보를 전달하는 연재 '반도체 플러스' 전문은 7일 오픈하는 프리미엄 재테크 콘텐츠 플랫폼 '매경플러스'에서 확인하실 수 있습니다. 6일까지는 아래 URL을 복사해 주소창에 입력하거나, 스마트폰으로 QR코드를 찍으시면 매경플러스 멤버십을 만나보실 수 있습니다.
[이덕주 기자]
English (US) · 