[디지털데일리 권하영기자] 국내외 인공지능(AI) 수요가 폭발하면서 이를 뒷받침하기 위한 초고사양 인프라로서 데이터센터의 역할 또한 중요해지고 있다.

이에 국내에서는 국가적인 AI 인프라 수요에 대응하기 위해 민관이 협력해 출범시킨 데이터센터가 있는데, 공공부문 클라우드 강자인 NHN클라우드가 지난해 10월 광주광역시에 터를 잡고 본격 개소한 ‘국가 AI 데이터센터’가 바로 그것이다.

국가 AI 데이터센터는 NHN클라우드가 과학기술정보통신부와 광주광역시가 추진하는 ‘AI 중심 산업융합 집적단지 조성사업’에서 클라우드 인프라 구축·운영 사업자로서 광주광역시 첨단3지구 AI중심산업융합집적단지 내 구축한 데이터센터다. 지난해 11월부터 정식 운영을 시작해 현재 470여곳 기업·기관이 이용하고 있다.

이곳은 기업·연구기관·대학 등에 AI 연구개발을 지원할 수 있는 컴퓨팅 연산능력 88.5페타플롭스(PF), 저장용량 107페타바이트(PB) 규모 인프라를 갖추고 있다. 88.5PF는 일반 업무용 노트북 약 50만대 규모의 연산처리량을 1초만에 수행할 수 있는 수준이고, 107PB는 1테라바이트(TB) 하드디스크 10만7000개의 저장용량에 해당한다.

국가 AI 데이터센터는 고성능 AI 가속기를 제공해 짧은 시간 내에 방대한 데이터의 딥러닝 학습, 데이터 분석 및 활용을 지원하고, AI 연구개발에 최적화된 인프라를 제공한다. 첨단 인프라 외에도 이용자가 AI 서비스 및 제품을 개발하는 데 필요한 개발도구와 데이터 수집·가공·분석에 필요한 데이터레이크 등을 통합 지원하고 있다.

기자는 지난 21일 국가 AI 데이터센터를 직접 방문했다. 직원들은 통상 지문과 출입카드 인식뿐만 아니라 AI를 활용한 안면인식으로 데이터센터 입장이 가능하며, 방문인은 허가받은 인원의 정보를 수집하고 출입증을 교부하는 1층 보안실의 통제 아래 로비와 홍보관을 둘러볼 수 있게 설계돼 있다.

필로티 구조의 2층 건물로 구성된 이곳은 1층 로비와 보안실 및 홍보관 외에 전산망 교차연결을 위한 밋미룸(MeetMeRoom)과 전원공급시설이 설치된 수배전실, 비상발전기실이 설치돼 있으며, 2층은 종합운영실과 전산1·2실, 배터리실과 무정전전원장치(UPS)실, 그리고 옥상에는 냉난방을 위한 공조시설이 갖춰져 있다.

그 중에서도 전산실은 데이터센터의 심장부라고 할 수 있다. 기자가 화물 엘리베이터를 타고 직접 올라간 2층에는 복도에 설치된 운영 모니터링을 위한 DID(Digital Information Display)를 사이에 두고 전산1실과 전산2실이 나뉘어 있었다.

이곳 전산실의 가장 큰 특징은 고밀도전력과 효율적 소비전력 설비가 구축돼 있다는 점이다. AI 개발에 필수적인 그래픽처리장치(GPU)는 수천~수만개 코어로 병렬연산을 수행함으로써 복잡한 작업을 동시에 대량으로 처리할 수 있는데, 이로 인해 일반적인 중앙처리장치(CPU) 서버 장비보다 전력사용량과 발열량이 높은 문제점이 있다.

이를 해결하기 위해 국가 AI 데이터센터에는 전력공급 최적화 기술이 적용돼 있다. 서버와 통신장비 등 시스템 구성 장비를 보관하는 틀인 ‘랙(Rack)’당 전력밀도가 15킬로와트(kW)에 이르는데, 이는 에어컨 9대 혹은 TV 98대를 동시에 가동할 수 있는 전력이다. 한국데이터센터에너지효율협회(KDCEA)가 발표한 국내 데이터센터의 랙당 사용 평균 전력밀도인 4.8kW보다도 3배나 높다.

전산실의 총 IT 용량은 3.2메가와트(mW)로, 전산1실은 8.8kW 랙 12개씩 10개 열로 구성돼 총 120개 랙을 갖추고 있으며, 전산2실은 15kW 랙 14개씩 10개 열로 총 140개의 고집적 랙이 설치돼 있다. AI 데이터센터로서 주요 특징은 전산2실에 구축돼 있는데, 이곳에 엔비디아 최신 AI 칩인 ‘H100’이 설치돼 있었다. 국가 AI 데이터센터의 전체 PF 규모인 88.5PF의 66%를 H100이 차지한다고 한다.

또한 전산실 양쪽에는 월타입 쿨링 유닛이 설치돼 양방향에서 찬 공기를 동시 공급할 수 있도록 구성돼 있었다. 특히 콜드아일(Cold Aisle)과 핫아일(Hot Aisle)의 차폐 환경을 조성했는데, 차폐 환경은 장치에서 공급되는 찬 공기와 더운 공기가 섞이지 않게 함으로써 전산실 냉방에 사용되는 에너지를 최소화한다.

이 밖에도 국가 AI 데이터센터는 비상용 1대를 포함한 2000kW 비상발전기 총 5대가 설치돼 있는 비상발전기실과, 완전한 무정전 실현을 위해 배터리가 떨어지면 최대 27시간 가동이 가능하도록 UPS 1대당 650암페어(Ah) 용량의 배터리를 갖춘 UPS실을 운영하고 있었다.

NHN클라우드는 이곳 국가 AI 데이터센터를 통해 국내 최대 수준의 ‘멀티 AI GPU 팜(Farm)’을 구축, 인공지능전환(AX)의 새 패러다임을 이끌어내겠다는 전략이다.

실제 NHN클라우드는 국가 AI 데이터센터를 포함해 판교 데이터센터(NCC1) 등 자사 데이터센터에 현재 엔비디아 H100 1000개 이상을 비롯한 엔비디아 기반 77.3PF, 그래프코어 기반 11.2PF, 사피온 기반 11PF까지 총 99.5PF에 달하는 AI GPU 팜을 구축했다.

이를 토대로 현재 NHN클라우드를 활용한 클라우드 서비스는 200여개에 이르며, 500개 이상 파트너와 함께 5700개 이상 고객사를 확보했다는 설명이다.

김동훈 NHN클라우드 대표는 “현재 국가 AI 데이터센터의 이용률은 100%라고 보면 되는데, 장비 대비 훨씬 많은 기업들이 신청하고 있어서 경쟁이 치열한 상태기 때문”이라며 “강력한 AI 데이터센터를 중심으로 AI 2.0 시대에 적극 대응해 AI 인프라 시장을 이끌어가겠다”고 밝혔다.