[디지털데일리 권하영기자] 생성형 인공지능(AI)이 각광받으며 최근 클라우드 업계가 주목하는 게 있습니다. 바로 그래픽처리장치(GPU)입니다.

복잡한 단일 연산 처리에 최적화된 중앙처리장치(CPU)와 달리, GPU는 병렬형 구조로 한번에 여러 작업을 수행할 수 있어 다량 데이터의 빠른 처리가 중요한 AI 연산에 더 적합한데요. 그래서 요즘은 GPU를 아예 ‘AI 가속기’라고 부르고 있습니다.

이에 따라 클라우드 인프라 또한 급증하는 AI 수요에 대응하기 위해 기존 CPU 중심에서 이제 GPU 중심으로 재편되는 분위기입니다.

삼성SDS 황성우 대표는 3일 서울 코엑스에서 열린 ‘삼성SDS 리얼 서밋 2024’ 기조연설에서 “삼성클라우드플랫폼(SCP)을 ‘GPU 중심 AI 클라우드(GPU Centric AI Cloud)’로 발전시키겠다”고 아예 선언을 했죠. 최고 성능 GPU를 장착해 AI에 최적화된 클라우드 서비스를 제공하는 게 클라우드 업체들의 주된 경쟁력이 된 겁니다.

이 때문에 삼성SDS의 경우 최근 델 테크놀로지스와 엔비디아 등 서버 및 GPU 선도기업들과의 동맹을 적극적으로 강조하고 있습니다.

현재 GPU 시장에서 가장 선도 기업인 엔비디아의 최신 GPU ‘H100’은 돈 주고도 못 사는 품귀 현상이 일어날 정도였고, 이 H100을 얼마나 많이 확보하는가가 AI 및 클라우드 업체들의 숙제이기도 했으니까요. 게다가 AI 전용 고성능 서버가 있는 델 테크놀로지스도 중요한 파트너입니다. 황 대표는 지난 5월 델 행사에서 “지난해 GPU 서버가 부족했을 때 델이 구원자였다”고 언급하기도 했습니다.

이러한 GPU 협력으로 삼성SDS는 생성형 AI 서비스 매출을 빠르게 확대하고 있습니다. 올해 2분기 AI를 포함한 클라우드 매출은 5560억원으로, 전년 동기보다 25% 늘었는데요. 특히 생성형 AI를 위한 GPU 서비스가 늘면서 SCP 매출이 49% 증가한 2095억원을 기록했습니다. 심지어 삼성SDS는 “생성형 AI 매출은 하반기에 본격화될 것”이라며 “올해 연간 1000억원대 중반까지 가능하다”고 내다봤습니다.

삼성SDS뿐만이 아닙니다. NHN클라우드도 “국내 최대 AI GPU 인프라로 클라우드 시장을 선도하겠다”고 밝혔었죠. 김동훈 NHN클라우드 대표는 올해 3월 ‘광주 AI 데이터센터’ 방문 간담회에서 “NHN클라우드의 기술적 강점은 AI에 특화된 데이터센터 설계 역량과 GPU의 성능을 100% 활용하는 최적화”라고 자신하기도 했습니다.

실제 NHN클라우드는 엔비디아 H100을 1000대 이상 확보했으며, 이를 바탕으로 광주와 판교 및 평촌 센터에서 총 99.5페타플롭스(PF, 1초당 1000조번 연산 처리)에 달하는 연산 능력의 AI GPU 설비를 갖추고 있다는 점을 강조하고 있습니다.

이 밖에 SK텔레콤도 미국 GPUaaS(GPU as a Service) 기업인 ‘람다(Lambda)’와 협력해 오는 12월 서울 가산동에 AI 데이터센터를 출범할 계획을 밝히는 등 GPU를 활용한 새로운 클라우드 비즈니스도 떠오르는 상황입니다.

아래는 지난주 국내에 전해진 국내외 클라우드 관련 소식입니다. 개별 기사에 대한 자세한 내용을 원하시는 분은 기사 제목을 검색하면 전체 내용을 읽으실 수 있습니다.

◆오케스트로, ‘초거대AI 플랫폼 이용지원 사업’ 공급기업 선정=오케스트로가 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 주관하는 ‘초거대 AI 기반 플랫폼 이용지원 사업’에 공급기업으로 선정됐다. 이 사업은 초거대 AI 플랫폼을 보유한 공급기업과 활용 수요를 가진 중소·벤처기업 및 공공기관을 매칭해, 공급기업이 수요기관에 심층 컨설팅과 개념검증(PoC) 등을 제공하도록 지원한다. 오케스트로는 이번 사업을 통해 클라우드 네이티브 기반의 대화형 AI 솔루션을 제공할 계획이다. 특히 검색증강생성(RAG) 기술을 활용해 대규모언어모델(LLM)에서 발생하는 환각현상(Hallucination)을 해소하고, 고객 도메인에 특화된 LLM을 파인튜닝(미세조정)하고 배포할 수 있도록 클라우드 네이티브 기반으로 솔루션을 설계했다.

◆‘왓슨x’ 내세운 한국IBM…이은주 사장 “AI가 전세계 GDP 증가시킬 것”=IBM는 3일 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 ‘기업 혁신을 극대화하는 AI, 자동화, 하이브리드 클라우드’ 주제로 ‘IBM AI 서밋 코리아 2024’를 개최했다. IBM은 지난해 생성형AI 및 데이터 플랫폼 ‘왓슨x’를 출시하고 기업용 AI 시장을 공략하고 있다. 이번 행사에선 기업들이 AI를 테스트하는 단계에서 벗어나 비즈니스 전반에 확대 적용하기 위한 전략과 최신 기술 및 고객 사례를 소개했다. 이 자리에서 이은주 한국IBM 대표는 “향후 4년 내 최대 10억개 앱이 만들어질 것으로 예상한다”며 “AI 기반 자동화는 더 이상 선택이 아니며, 생성형AI는 기업 생산성을 높이고 성장을 촉진하며 새로운 자동화 시대를 열 것”이라고 강조했다.

◆안랩클라우드메이트, '초거대 AI 기반 서비스' 개발 착수=안랩의 클라우드 운영관리 서비스(MSP) 전문 회사인 안랩클라우드메이트가 ‘초거대 AI를 이용한 통합 연구 자원 생성·관리·지원 서비스’ 개발 사업에 착수했다. 이번 사업에는 안랩클라우드메이트를 비롯해 경제·인문사회연구회, 네이버클라우드가 컨소시엄으로 참여한다. 안랩클라우드메이트는 정책 연구 AI와, 서비스를 도입할 시 필요한 초기 구축·개발 비용을 줄여주는 전용 서비스형소프트웨어(SaaS) 개발을 맡는다. 이번 사업은 공공부문 정책 연구 전분야에 걸쳐 AI를 활용할 수 있는 서비스를 개발하고 구축하는 것이 핵심이다. 과학기술정보통신부가 한국지능정보사회진흥원(NIA)을 통해 공모한 ‘2024년 초거대 AI 기반 서비스 개발 지원사업’에서 공공범용 부문 지원 과제로 선정됐다.

◆“데이터센터 보안 간소화” 체크포인트, 관리형 방화벽 서비스 ‘MFaaS’ 발표=체크포인트소프트웨어테크놀로지스가 관리형 방화벽 서비스(MFaaS)로 데이터센터 보안을 간소화한다. 체크포인트의 MFaaS는 데이터센터 워크플로우 오케스트레이션을 단순화하는 동시에 포괄적인 보안을 제공하도록 설계됐다. 프라이빗 및 퍼블릭 네트워크 서비스에 특화된 보안을 제공하면서, 기존 보안 인프라와 통합돼 네트워크 기반 비용이 효율적이고 확장 가능한 위협 방지 솔루션을 제공한다. 이 밖에 ▲모니터링 및 알림 ▲24시간 관리 서비스 ▲방화벽 및 VPN 서비스 ▲침입방지시스템(IPS) ▲애플리케이션 제어 및 URL 필터링 ▲봇 및 바이러스 백신 ▲안티스팸 및 위협 에뮬레이션·추출 등을 지원한다.