“AI 가속기가 각광받고는 있으나 결국 제온6와 같은 CPU가 핵심적인 역할을 담당한다.”

“대규모 AI 용량 향상을 위해 가우디3는 성능 대비 가격 측면에서 분명한 이점을 갖고 있다.”

[디지털데일리 김문기 기자] 나승주 인텔 데이터센터 및 AI 사업부 한국 영업 총괄 상무는 26일 서울 전경련회관에서 데이터센터용 신제품 출시 기자간담회를 갖고, 제온 6 P-코어와 가우디 3 신제품의 상세한 기술사항을 발표한 자리에서 이같이 말했다.

AI를 통한 업계 혁신이 계속되면서 기업들은 비용 효율적이면서도 빠르게 개발 및 배포할 수 있는 인프라를 필요로 하고 있다. 이러한 요구에 대응하기 위해 인텔은 제온 6 P-코어(Xeon 6 with Performance-cores, 코드명 그래나이트 래피즈)와 가우디 3(Gaudi 3) AI 가속기를 출시를 알렸다. 아울러, 최적의 와트(watt)당 성능과 더 낮은 총 소유 비용(TCO)을 제공해 강력한 AI 시스템을 지원하겠다는 포부도 밝혔다.

저스틴 호타드(Justin Hotard) 인텔 데이터센터 및 AI 사업 총괄 수석부사장은 "AI에 대한 수요가 데이터센터의 대규모 변화를 이끌고 있으며, 업계는 하드웨어, 소프트웨어, 개발 도구에서 다양한 선택지를 원하고 있다"고 말하며, "제온 6 P-코어 프로세서 및 가우디 3 AI 가속기의 출시와 함께, 인텔은 고객들이 더 높은 성능, 효율성, 보안을 갖춘 워크로드를 구현할 수 있도록 개방형 생태계를 지원하고 있다"고 강조했다.

이 자리에서 나승주 상무는 “지난 6월 E코어 기반 제온 6를 출시한데 이어, 오늘 코어당 고성능 제품을 원하는 고객을 공략할 수 있는 P코어 제품을 출시하며 제온 6 라인업이 좀 더 풍성해졌다”며 “이뿐 아니라, AI 가속기 신제품인 가우디 3 제품을 출시함으로써, 국내 고객들에게 AI 인프라 구축에 폭넓은 선택지를 제공할 수 있게 됐다”고 설명했다.

이어, “조만간 주요 OEM에서 오늘 출시한 인텔 제품을 탑재한 서버를 국내 출시할 계획인만큼 국내 고객들도 인텔 신제품의 강점을 빠른 시일안에 경험할 수 있을 것으로 예상한다”고 덧붙였다.

GPU 가속 서버 73% ‘인텔 제온’ 기반

실제 시장에서는 GPU 가속 서버의 73%가 호스트 CPU로 ‘인텔 제온’을 사용하고 있다. 인텔은 AI 가속기 시장에서도 CPU 리더십을 기반으로 고객사들이 보다 비용효율적인 시스템 구축할 수 있을 것이라 예상했다. 이 자리에서 인텔은 데이터 센터 포트폴리오에 두 가지 주요 업데이트를 포함한 최신 AI 인프라스트럭처 지원사항에 대해 발표했다.

우선 인텔 제온 6(Intel Xeon 6) P-코어다. 코드명 그래나이트 래피즈인 이번 모델은 앞서 출시된 제온6 E-코어(코드명(시에라 포레스트) 대비 높은 성능에 주안점을 둔다. 컴퓨팅 집약적인 워크로드를 탁월한 효율로 처리할 수 있도록 설계돼 이전 세대 대비 2배 높은 성능을 제공한다.

코어 수 증가, 메모리 대역폭 2배 증가, 모든 코어에 내장 AI 가속 기능을 갖춘 것이 특징이다. 이 프로세서는 엣지에서 데이터센터 및 클라우드 환경에 이르기까지 AI의 성능 요구를 충족하도록 설계됐다.

‘제온6-가우디3' 조합 ‘고성능 저비용’ 두마리 토끼 잡았다

대규모 AI 배포를 위해서는 유연한 배포 옵션, 경쟁력 있는 가격 대비 성능, 접근 가능한 AI 기술 등을 고려해야 한다. 인텔은 x86 인프라와 광범위한 개방형 생태계는 기업들이 최적의 TCO와 성능 대 전력비를 갖춘 고부가가치 AI 시스템을 구축할 수 있도록 지원하겠다고 발표했다.

이에 따라 최근 인텔은 AI 가속기 ‘가우디3’를 정식 출시했다. 대규모 생성형 AI에 최적화된 가우디 3은 64개의 텐서 프로세서 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)을 통해 심층 신경망 연산을 가속화한다. 가우디 3은 학습 및 추론 작업을 위한 128GB의 HBM2e 메모리와, 확장 가능한 네트워킹을 위한 24개의 200Gb 이더넷 포트를 갖추고 있다.

또한 파이토치(PyTorch) 프레임워크와 허깅페이스(Hugging Face)의 고급 트랜스포머 및 디퓨전 모델과의 호환성을 제공한다. 인텔은 최근 IBM과 협력하여 IBM 클라우드에서 가우디 3 AI 가속기를 서비스 방식으로 배포한다고 발표한 바 있다. 이를 통해 인텔과 IBM은 AI를 활용하고 확장하는 데 있어 총 소유 비용을 줄이고 성능을 향상시킬 계획이다.

'가우디3'의 특징은 높은 성능 대비 비용 효율성이 높다는데 있다. 나승주 상무는 “엔비디아나 특정 벤더 등에 종속되지 않는 강력한 대체제로, 이는 고객사들이 특정 벤더, 특정 기술에 대해서 종속되는 것을 거부하는 수요에 완벽하게 부합한다”라며, “최근 기업들은 AI로 어떤 서비스를 전개해야 하나 고민하고 있으며, 이를 위해서는 보다 많은 용량의 하드웨어 인프라가 필요하게 된다. 이 지점에서 특정 벤더 외에 대체제가 필요하고 또 저렴한 비용도 동반해야 한다”고 설명했다.

앞서 지난 6월 대만 타이베이에서 개최된 컴퓨텍스 2024에서 무대에 오른 팻 겔싱어 인텔 CEO는 가우디3와 관련해 엔비디아 H100을 완벽하게 대체할 수 있다고 자신했다. 그는 “인텔 가우디3 AI 가속기는 동급 경쟁 플랫폼 가격 대비 약 3분의2 수준”이라며, “가격만으로 승리하는 것은 아니다. 놀라운 TCO 성능을 갖추고 있다”고 강조했다.

즉, 인텔은 서버 시장에서의 제온6 리더십을 가져가면서도 엔비디아를 대체할 수 있는 보다 저렴한 AI 가속기를 통해 보다 높은 용량의 하드웨어 및 소프트웨어 인프라를 구축하고자 하는 기업들을 공략하겠다는 목적이다.

나 상무는 “가우디3가 경쟁사(엔비디아 H100) 대비 1.09배 인퍼런스 처리량을 가지고 있어 비슷하거나 소폭 높은 성능이라고 말할 수 있으나 가격은 3분의 2 수준이다”라며, “가격적인 면에서의 성능효율은 우리가 1.8배 더 높다”고 강조했다.

엔비디아가 구축한 쿠다(CUDA) 생태계와 관련해서도 “대부분의 사용자나 AI 리서치 연구원들에게는 쿠다는 크게 상관이 없어졌다. 이미 상위 레벨의 언어를 쓰고 있기 때문”이라며, “소규모 쿠다 전환 니즈가 있기에 변환툴을 제공해서 보다 쉽게 할 수 있는 환경을 지원하고 있다”고 말했다.

인텔은 델 테크놀로지스(Dell Technologies), 슈퍼마이크로(Supermicro) 등 주요 OEM 파트너들과 협력하여 고객의 특정 요구에 맞춘 AI 배포 시스템을 공동 설계하고 있다. 델 테크놀로지스는 현재 가우디 3과 제온 6을 활용한 RAG 기반 솔루션을 공동 설계 중이다.

공동 엔지니어링으로 프로토타입에서 생산까지의 격차 해소

생성형 AI(Gen AI) 솔루션을 프로토타입에서 생산 준비가 완료된 시스템으로 전환하는 과정에는 실시간 모니터링, 오류 처리, 로깅, 보안, 확장성 등에 대한 과제가 포함된다. 인텔은 OEM 및 파트너들과의 공동 엔지니어링을 통해 이러한 문제를 해결하며, 생산 준비가 완료된 RAG 솔루션을 제공한다.

이 솔루션은 오픈 플랫폼 엔터프라이즈 AI(OPEA) 플랫폼을 기반으로 하며, OPEA 기반 마이크로서비스를 통합하여 확장 가능한 RAG 시스템을 구축하고, 제온 및 가우디 AI 시스템에 최적화되어 고객이 쿠버네티스(Kubernetes), 레드햇 오픈시프트 AI(Red Hat OpenShift AI) 및 레드햇 엔터프라이즈 리눅스 AI(Red Hat Enterprise Linux AI)에서 쉽게 애플리케이션을 통합할 수 있도록 설계되었다.

인텔의 타이버(Tiber) 포트폴리오는 AI, 클라우드, 엣지 환경 전반에서 접근성, 비용, 복잡성, 보안, 효율성 및 확장성 문제를 해결하는 비즈니스 솔루션을 제공한다. 인텔 타이버 개발자 클라우드(Intel Tiber Developer Cloud)는 이제 기술 평가 및 테스트를 위한 인텔 제온 6의 미리보기 시스템을 제공한다.

또한, 선별된 고객들은 AI 모델 배포를 검증할 수 있는 인텔 가우디 3에 대한 조기 접근 권한을 이용할 수 있으며, 가우디 3 클러스터는 다음 분기부터 대규모 생산 배포를 위해 출시될 예정이다.

새로운 서비스 제공 사항에는 신뢰할 수 있는 AI 애플리케이션 개발을 위해 시커(Seekr)의 엔드투엔드 AI 플랫폼인 시커플로우(SeekrFlow)가 포함된다. 최신 업데이트에는 새로운 AI 가속 기능과 제온 6 프로세서 지원이 포함된 파이토치 2.4(PyTorch 2.4)와 인텔 oneAPI 및 AI 도구 2024.2가 탑재된 인텔 가우디 소프트웨어의 최신 버전과 주피터(Jupyter) 노트북이 지원된다.