[디지털데일리 배태용 기자] "HBM의 한계를 넘어서기 위해 CXL이 필요하다."

'SK AI 서밋 2024(SK AI Summit 2024)에서 둘째 날인 5일, SK하이닉스는 차세대 메모리 기술로 AI 시대의 요구를 충족하기 위한 전략을 발표했다. 이번 발표를 맡은 SK하이닉스 강욱성 부사장과 폴 페이(Paul Fahey) 부사장은 HBM(고대역폭 메모리)과 CXL(Compute Express Link) 메모리의 상호 보완적 역할을 강조하며, AI 메모리 시장의 미래를 제시했다.

두 부사장은 AI 모델의 성능 향상과 함께 메모리 수요가 급증하면서 HBM 대역폭의 한계가 더욱 뚜렷해지고 있다고 입을 모았다.

강 부사장은 "HBM의 대역폭이 한계에 이르면서, AI가 요구하는 고성능 워크로드를 완전히 수용하기에는 어려움이 있다"고 설명했다. UC 버클리 연구 자료에 따르면, GPU(그래픽처리장치) 성능이 2년마다 약 3배씩 증가하고 있지만, HBM 메모리의 대역폭 증가는 이에 미치지 못해, AI의 급증하는 메모리 요구와의 간극이 커지고 있는 상황이다.

이에 따라 SK하이닉스는 CXL 메모리가 HBM의 한계를 보완할 수 있는 유망한 솔루션으로 주목받고 있다고 강조했다. CXL 메모리는 기존의 메모리 구조와 달리, 서버 외부에서 메모리 풀(pool) 형태로 여러 호스트가 공유할 수 있도록 지원해, 메모리 자원을 효율적으로 분배할 수 있다.

페이 부사장은 "CXL 메모리는 CPU와 GPU 간의 메모리 자원을 유연하게 공유하게 해, 병목 현상을 해소하고 데이터센터의 총 소유 비용(TCO)을 절감할 수 있다"고 설명했다. 그는 "CXL을 통해 메모리 풀링이 가능해지면서, 필요할 때 메모리를 동적으로 확장할 수 있어 데이터센터의 운영 효율성을 극대화할 수 있다"라고 덧붙였다.

CXL 외에도, 메모리 내부에서 연산을 수행하는 PIM 기술이 AI 워크로드에서 중요한 역할을 할 것이라고 강조했다. PIM은 CPU와 메모리 간 데이터 이동을 최소화해 대역폭을 극대화하고 에너지 효율성을 높일 수 있는 기술로, AI 서버의 처리 속도와 성능을 크게 개선할 수 있다.

특히 강 부사장은 "모바일 AI 환경에서는 PIM이 높은 에너지 효율성과 처리 속도로 기존 메모리 병목 현상을 해결할 수 있을 것"이라며, PIM 기술이 AI 시대에서 메모리의 새로운 표준으로 자리 잡을 수 있음을 시사했다.

두 부사장은 끝으로 파트너십을 통한 지속 가능한 성장의 중요성을 강조했다. 페이 부사장은 "AI 시대의 메모리 솔루션은 단순히 더 높은 성능을 넘어서, 전력 소비 절감과 지속 가능성을 위한 협력이 필수적"이라고 말했다.