[디지털데일리 권하영기자] 대규모 투자 중심이던 인공지능(AI) 시장에서 딥시크 쇼크 이후 저비용 AI의 가능성이 열리면서, 기업들의 관심은 AI 비용을 어떻게 줄일 수 있을지에 쏠리고 있다. 이는 AI 사용 패턴에 따라 최적의 클라우드 비용을 관리하는 ‘핀옵스(FinOps)’ 개념이 시장에 다시 부상하고 있는 이유다.

4일 엔터프라이즈 IT관리 전문업체 플렉세라의 ‘2023 클라우드 현황 보고서’에 따르면, 주요 IT 리더의 82%는 기업의 최우선 과제로 ‘클라우드 지출 관리’를 꼽고 있다.

특히 생성형 AI 시대에 접어든 이후 대규모 AI 모델들이 나오기 시작하면서, 기업들의 비용 구조는 더욱 복잡해지고 지출해야 할 금액도 커지고 있다. 실제 글로벌 비영리단체 핀옵스 재단이 발표한 핀옵스 현황 리포트에서는 생성형 AI 등장 이후 기업 내 AI 지출 관리자가 2배 이상 늘었음을 확인할 수 있다.

자체 AI 모델이 있는 기업이라면 프롬프트튜닝부터 검색증강생성(RAG), 파인튜닝, 학습에 이르기까지 대규모의 그래픽처리(GPU) 리소스가 필요한 만큼, 이 비용을 줄이는 게 우선이다. 최근 저비용 고성능 AI 모델 개발에 성공한 중국 딥시크의 경우, 전문가혼합(MOE, Mixture of Experts) 구조를 활용해 꼭 필요한 매개변수만 활성화하는 방식으로 GPU 연산 비용을 크게 절감한 것으로 알려졌다.

하지만 AI를 클라우드 기반 서비스형소프트웨어(SaaS) 형태로 구독하는 기업이라면 또 다른 비용 전략이 필요하다. 벤더별로 가격 구조가 제각각인데다 AI 모델 호출량과 스토리지 사용 패턴에 따라 비용이 달라지는 복잡한 구조를 띄기 때문이다. 이런 가운데 핀옵스는 클라우드 비용을 효과적으로 관리하고 최적화하는 전략으로서 AI 비용을 절감하는 방법론으로 떠오르고 있다.

최근 핀옵스는 단순히 AI 지출을 최소화하기 위해 클라우드 비용을 관리하는 역할(FinOps for AI)에서 나아가, 거꾸로 AI와 접목됨으로써 더욱 고도화(AI for FinOps)되고 있다. 기존의 핀옵스는 비용을 모니터링하고 분석해 사후적인 절감 전략을 수립하는 방식이었다면, AI가 결합된 이후에는 머신러닝(ML)과 대규모언어모델(LLM)을 활용해 데이터를 실시간 분석하고 최적 비용 전략을 자동으로 추천·실행하는 것이다.

이러한 AI 기반 핀옵스는 IBM(클라우드빌리티 및 터보노믹)과 브로드컴(클라우드헬스) 등 글로벌 기업 중심으로 시장이 형성돼 있지만 최근에는 국내 시장 경쟁도 치열해지고 있다. 국내 클라우드 매니지드서비스제공사(MSP) 베스핀글로벌 관계사 옵스나우는 지난 2월 핀옵스파운데이션의 ‘핀옵스 인증 플랫폼’ 지위를 국내 기업 중 유일하게 획득, AI 기반 클라우드관리플랫폼(CMP) ‘옵스나우 프라임’의 올해 상반기 출시를 계획 중이다.

SK C&C도 최근 AI 핀옵스를 강조하고 있다. 이미 국내외 수백 개 엔터프라이즈 고객이 사용 중인 자사 멀티클라우드관리플랫폼(MCMP)에 AI 핀옵스를 새롭게 추가, 최신 딥러닝 알고리즘을 활용해 고객의 클라우드 자원 사용 패턴을 분석함으로써 최적화된 자원 활용 방안을 추천한다. 이러한 AI 핀옵스를 도입한 고객들은 클라우드 자원 비용을 평균 35%씩 절감하고 있다는 설명이다.

이 밖에도 클루커스는 MS 애저에 특화된 ‘클루옵스’ 서비스를 고도화하고 있고, 나무기술도 자사 CMP ‘스페로’에 핀옵스 개념을 도입해 업그레이드했다. 솔트웨어는 ‘핏클라우드’, 이노그리드는 ‘탭클라우드잇’을 선보인 바 있다.