[디지털데일리 이종현기자] 인공지능(AI) 기술이 정보기술(IT) 산업계 전반에 대변혁을 이루고 있다. 머신러닝(ML)을 통해 자사 서비스의 경쟁력을 높이던 과거 방식에서 진일보해 대규모언어모델(LLM)을 이용한 생성형 AI 도입이 본격화되는 추세다. 이 과정에서 소프트웨어(SW)와 하드웨어(HW) 기업간 융화도 본격화되는 추세다.

기본적으로 AI 시대에 주목받는 것은 오픈AI, 마이크로소프트(MS), 구글과 같은 SW 기술을 갖춘 기업들이다. 생성형 AI의 주역이기도 한 이들 기업은 짧은 시간 내 파격적인 새로운 기술을 선보이며 시장 판도를 뒤흔들고 있다. 이들 기업의 LLM을 기반으로 발전하고 있는 곳들도 대부분 SW 기업이다.

그러나 AI를 SW 기업의 전유물이라고 말하기는 어렵다. AI 처리를 위해서는 그래픽처리장치(GPU)와 같은 병렬 연산을 위한 컴퓨팅 파워가 요구된다. 폭증하는 AI 수요에 전 세계 기업들이 GPU를 구매하기 위해 줄을 섰다. GPU 설계 기업인 엔비디아가 세계에서 7번째로 시가총액 1조달러를 넘는 등, AI를 위한 고성능 컴퓨팅을 제공하는 HW 기업들 역시 AI 시장의 한 축을 맡고 있다.

AI를 위해서는 많은 충분한 수의 GPU가 필요로 한다는 것은 상식이다. 때문에 AI는 비싼 GPU 서버를 다수 확보할 수 있는 빅테크 기업을 위주로 시장이 형성될 수밖에 없다고 여겨졌다. 컴퓨팅 파워를 구독형으로 제공하는 클라우드 서비스 기업(CSP)이 AI에 사활을 걸고 있는 것도 그 일환이다.

다만 최근들어 시장 상황이 변하는 중이다. 가장 큰 비용이 든다고 할 수 있는 LLM은 오픈소스로 접근할 수 있다. 메타(구 페이스북)의 ‘라마2(Llama2)’가 대표적이다. ‘팔콘(Falcon)’, ‘MPT-7B’ 등 숱한 LLM 프로젝트가 개방돼 있다. 기술적 진입장벽이 크게 낮아졌다.

한정된 자원을 보다 효율적으로 활용할 수 있도록 하는 기술도 등장하고 있다. GPU를 분할 가상화해 관리할 수 있도록 하는 것이 대표적이다. 국내 기업인 래블업의 ‘백엔드닷AI(Backend.AI)’가 이 분야에서 두각을 드러내고 있다.

자원을 더 효율적이게 쓰고, LLM에 쉽게 접근할 수 있다고 하더라도 이를 잘 활용할 수 있느냐는 별개의 문제다. 소프트웨어 정의 데이터센터(Software Defined Data Center, SDDC)와 같은 클라우드 환경 구축이 선결과제다. 클라우드 시대에 접어들면서 IT에 투자하는 기업들은 이미 인프라 환경을 SDDC로 전환한 상태지만, 그렇지 못한 기업들도 적지 않다.

여기서 등장하는 것이 효성인포메이션과 같은 시스템통합(SI) 기업이다. 이들 기업은 기업이 AI를 개발할 수 있는 환경을 구축할 수 있도록 하는 컨설팅부터 인프라 장비, 그리고 해당 장비를 효율적으로 활용할 수 있도록 하는 SW 일체를 하나의 플랫폼 형태로 제공한다. ‘AI를 위한 A to Z’를 제공한다고도 할 수 있다.

이런 움직임은 곳곳에서 확인할 수 있다. 가상화 분야 1위 기업인 VM웨어가 대표적이다. VM웨어는 지난 8월 미국 라스베이거스에서 개최한 연례 콘퍼런스 ‘VM웨어 익스플로어 2023’에서 엔비디아, 레노버 등 HW 기업과의 협력을 핵심 어젠다로 제시했다. 프라이빗 클라우드 구축부터 이를 위한 HW, HW를 잘 활용할 수 있도록 하는 SW, 그리고 여러 LLM을 한데 모아 선택할 수 있도록 하는 플랫폼까지 한데 모아 제공하는 ‘프라이빗 AI’다.

HW 기업과 SW 기업은 항상 협력해 왔다. 중앙처리장치(CPU)나 GPU, 그리고 스토리지 등 HW를 제공하는 기업들은 SW 기업과의 호환성이나 최적화에 공을 들여왔다. 벤치마크 등에서는 성능차 없지만 정작 필요로 하는 SW에서 구동했을 때는 차이가 발생하는 등은 이런 최적화의 수준에 달렸다.

이런 협력에 전 세계 메모리 반도체 1위 기업인 삼성전자는 한발 물러나 있었다고 평가받는다. SW와의 최적화는 삼성전자의 낸드플래시로 서버를 만드는 기업들의 몫이었다. 하지만 최근 들어 가시적인 변화가 이뤄지고 있다. 삼성전자가 직접 VM웨어, 레드햇과 같은 기업들과 손잡고 메모리 단 SW 최적화에 공을 들이고 있다.

삼성전자 PCI익스프레스(PCIe) 5세대 비휘발성메모리익스프레스(NVMe) 솔리드스테이트드라이브(SSD) 제품 ‘PM1743’이 VM웨어의 소프트웨어 정의 스토리지(SDS) 솔루션 ‘vSAN’의 인증을 받은 것이 일례다. 삼성전자는 VM웨어와 함께 협력을 이어가며 향후 대규모 데이터 분석 플랫폼 ‘그린플럼(Greenplum)’에 대한 인증도 받겠다는 계획이다.

협력을 외치며 연합체를 꾸리는 기업들의 속내는 하나로 정의하기 어렵다. 다만 진입장벽을 낮춤으로써 시장을 확대함으로써 더 많은 고객을 확보하려 한다는 점에서는 공통분모를 보인다. 그리고 이는 실제 일반 기업들의 AI 진입을 한층 수월하게 만들고 있다. 더이상 AI가 빅테크 기업의 전유물이 아닌 이유다.