[디지털데일리 배태용 기자] 삼성전자가 최근 엔비디아에 제안한 HBM3E(5세대 고대역폭 메모리)가 기존 1a(10나노급 D램 4세대 공정) 나노 공정 기반 제품에서 발열 문제를 개선한 '개선판'인 것으로 파악됐다.

HBM3E는 AI 반도체 시장에서 필수적인 메모리 제품으로 자리 잡고 있지만, 고성능 연산이 요구되는 만큼 발열 관리가 중요한 요소로 작용한다. 삼성전자는 엔비디아의 요구 사항을 충족시키기 위해 기존에 사용해 왔던 1a 나노 공정을 유지하면서도 회로 패턴 최적화, 소재 변경 등을 통해 발열 문제를 해결하는 방향으로 접근하고 있다. 이번 개선판이 엔비디아의 테스트를 통과할 경우, 삼성전자의 HBM 시장 반등 여부가 판가름 날 전망이다.

18일 반도체 업계에 따르면, 삼성전자 전영현 부회장은 최근, 이 같은 개선품을 들고 엔비디아 본사로 직접 찾아가 고위 관계자와 미팅했던 것으로 파악된다. 젠슨 황 엔비디아 CEO는 지난달 CES 2025에서 AI 반도체의 성능을 극대화하기 위해 삼성전자는 기존 설계 방식을 바꿔야 한다고 언급한 바 있다.

이러한 발언은 HBM 공급업체들에게도 의미심장한 메시지로 해석된다. 엔비디아가 AI 반도체 성능을 극대화하기 위해 메모리 업계에 더 높은 수준의 HBM 기술을 요구할 가능성이 커졌기 때문이다.

특히, 엔비디아는 고대역폭 메모리의 발열 문제를 해결해야지만 차세대 AI 반도체의 성능을 최적화할 수 있다는 입장을 밝히고 있다. 엔비디아가 기존 설계를 변경하는 과정에서, HBM의 발열과 전력 효율이 더욱 중요한 평가 기준으로 삼고 있는 것으로 전해진다.

현재 삼성전자는 HBM3E 생산에 있어 1a 공정을, SK하이닉스는 1b 공정을 채택하고 있다. 여기서 1a, 1b 공정은 반도체 미세 공정을 구분하는 기술적 단계다. 1a는 4세대 10나노급 D램 공정으로, 삼성전자가 기존 HBM3E를 생산할 때 적용한 방식이다. 반면, SK하이닉스는 HBM3E부터 1b(5세대 10나노급) 공정을 적용해 생산하고 있다. 1b 공정은 미세 공정 난도가 높지만, 전력 효율과 성능 면에서 개선된 것으로 평가받는다.

삼성전자는 당초 1b 공정을 건너뛰고, 차세대 HBM4에서 1c 공정을 적용하는 전략을 계획해 왔다. 하지만 HBM3E 시장에서의 성과가 기대에 미치지 못하자, 1a 기반의 개선형 HBM3E를 새롭게 개발해 엔비디아에 제안한 것으로 보인다.

즉, 삼성전자가 엔비디아에 제시한 제품은 1b 공정을 도입한 것이 아니라, 기존 1a 공정에서 미세 회로 설계를 변경하고, 패턴 최적화 및 소재를 개선해 발열 문제를 잡는 방향으로 설계된 제품이다.

업계 한 관계자는 "삼성전자 전영현 부회장이 이번에 엔비디아에 제공한 샘플 공정을 1b라고 명명하기도 하지만, 엄밀히 말하면 JEDEC(국제 반도체 표준화 기구)에서 공식적으로 규정한 1b 공정은 아닌 것으로 파악된다"라고 전했다.

삼성전자는 1a 나노 공정의 수율, 발열, 전력효율 등을 높이기 위해 미세 회로 최적화, 패턴 개선, 소재 변경, 발열제어 기술 적용 등을 통해 기존 문제를 해결하는 방향으로 진행한 것으로 파악된다. 또한, 삼성전자는 HBM 내부 인터포저(Interposer) 구조 및 TSV(실리콘 관통 전극) 기술을 일부 개선해 전력 소모를 최적화하면서도, 기존 제품 대비 발열을 효과적으로 억제하는 전략을 택한 것으로 보인다.

업계에선 전 부회장이 삼성전자가 엔비디아에 제안한 새로운 HBM3E는 기존 제품 대비 발열을 더 효과적으로 관리할 수 있는지가 공급 여부를 결정짓는 가장 중요한 요소가 될 것이라 보고 있다. 엔비디아의 AI GPU는 고성능 연산을 지속적으로 수행해야 하므로 HBM의 발열이 제대로 관리되지 않으면 성능이 저하될 가능성이 크다.

HBM 시장에서 삼성전자는 현재 SK하이닉스와 마이크론에 밀려 엔비디아 향 제품 공급이 지연된 상태다.

한 업계 관계자는 "엔비디아는 HBM을 선택할 때 성능뿐만 아니라 발열, 전력 효율, 안정성 등을 종합적으로 평가한다"면서 "삼성전자가 개선된 HBM3E로 발열 문제를 해결했다면, 엔비디아의 채택 가능성이 높아질 것"이라고 말했다.

이어"다만, SK하이닉스가 HBM3E 12단 및 16단 공급을 추진하며 시장 점유율을 확대하고 있는 상황에서, 삼성전자가 개선된 HBM3E로 얼마나 빠르게 시장을 따라잡을 수 있을지는 미지수다"라고 덧붙였다.