[디지털데일리 이종현기자] 인공지능(AI) 시대가 되면서 이를 위한 가속기로 그래픽처리장치(GPU)의 수요가 폭발적으로 늘었다. GPU 시장에서 압도적인 점유율을 가진 엔비디아는 알파벳, 아마존 등을 제치고 전 세계 기업 시가총액 3위에 오른 상태다.

엔비디아는 AI 이전에 블록체인 바람을 타며 1차 호황기를 누린 바 있다. 암호화폐 시장이 급성장하면서 채굴 대란이 발생할 때 급성장했다. 코로나19 대유행에 러시아-우크라이나 전쟁 등이 겹치면서 공급이 수요를 따라가지 못해 품귀현상이 발생하기도 했다.

1차 호황기는 암호화폐에 대한 열기가 식으면서 끝났다. 2021년 11월을 정점으로 1년가량 상승분을 토해냈다. 당시 기업가치는 최고점 대비 절반 이상 줄었다.

이런 분위기를 반전 시킨 것이 오픈AI다. 2022년 11월30일 오픈AI가 생성형 AI ‘챗GPT’를 발표한 이후 엔비디아의 주가는 상승세를 이어갔다. 2022년 11월29일 156.3달러였던 주가는 2024년 5월9일 887.4달러로, 5.6배 상승했다. 암호화폐 채굴에 GPU가 활용됐듯, AI 학습에 GPU가 필요로 하기에 이룬 성과다.

이와 같은 성장은 마땅한 대안이 없기에 가능한 일이다. 대규모 데이터를 반복 학습한다는 AI의 특성은 병렬처리에 특화돼 있는 GPU에 날개를 달아줬다. 그리고 엔비디아는 2023년 기준 전 세계 데이터센터용 GPU 시장 98%를 차지하고 있다. AMD와 인텔이 남은 2%를 점유하는 중이다.

다만 이와 같은 독주가 언제까지고 이어지리라는 보장은 없다. 신경망처리장치(NPU)와 같이 AI 학습에 특화된 새로운 칩에 대한 연구가 이뤄지는 중이다. 오픈AI가 수천조원의 자금을 조달해 자체적인 AI 반도체 생태계를 꾸리겠다고 발표하기도 했다. 마이크로소프트(MS), 알파벳, 아마존, 메타, 테슬라 등도 엔비디아와 협력하면서 꾸준히 자체 칩 개발을 준비해 왔다.

이처럼 독점에 대한 견제가 이뤄지는 가운데 엔비디아는 최근 하드웨어(HW)를 넘어 소프트웨어(SW)에 힘을 싣고 있다. 압도적인 GPU 점유율을 무기로 삼아 SW까지 강화해 AI 생태계를 엔비디아의 품에 가두겠다는 전략이다.

이는 지난 3월 개최된 엔비디아의 연례행사 GTC2024에서도 확인할 수 있었다. 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 대규모 AI 모델 배포를 위한 추론 마이크로서비스 ‘NIM(Nvidia Inference Microservices)’을 특히 강조하며 단순 하드웨어 공급 기업이 아닌, AI를 위한 플랫폼 기업으로 거듭나겠다는 포부를 밝힌 바 있다.

엔비디아 정구형 이사는 지난 4월30일 MS의 개발자 행사 ‘AI 투어 인 서울’에서 무대에 올라 NIM과 대규모언어모델(LLM)을 학습하기 위한 딥러닝 프레임워크 ‘니모(NeMo)’를 강조했다.

그에 따르면 최적화를 하지 않은 AI 모델을 엔비디아 GPU로 추론(Inference)하면 최적화를 했을 때보다 훨씬 큰 배포 비용이 발생한다. 이에 엔비디아는 새로운 AI 모델이 출시될 때마다 모델 개발사들과 협력해 최적화 작업을 수행 중인데, 이를 컨테이너화한 것이 NIM이다. 메타가 지난 4월 공개한 ‘라마3(Llama3)’를 효과적으로 사용하고 싶다면 ‘NIM for 라마3’를 설치하면 된다는 설명이다.

엔비디아가 SW를 강조한 것이 처음은 아니다. 엔비디아는 개발 플랫폼 ‘쿠다(CUDA)’로 AI 개발자들을 묶어두려 하고 있다. 젠슨 황 CEO는 지난 3월 미디어와의 간담회에서 “AI용 SW‧플랫폼의 시장 규모는 GPU보다 훨씬 커질 것”이라고 말했는데 쿠다, NIM, NeMo 등이 더해지면서 엔비디아의 SW 드라이브에는 더욱 속도가 붙을 것으로 전망된다.