[디지털데일리 이안나기자] 기업들 생성형 AI 투자가 급증하는 가운데, 오픈소스 AI에 대한 관심이 폭발적으로 증가하고 있다. 글로벌 IT 지출 증가율의 5배에 달하는 성장세를 보이는 생성형 AI 시장에서 오픈소스 AI의 비중이 크게 늘며 기업들 AI 전략에도 변화가 일고 있는 것. 레드햇은

한국레드햇 성희경 이사는 11일 양재동 엘타워에서 열린 ‘레드햇 컨테이너데이’ 행사에서 “2020년 약 15%에 불과했던 오픈소스 AI 사용 비율이 2024년에는 70%까지 상승하는 추세”라며 전했다. 이어 “오픈소스 AI 기술이 빠르게 발전하면서 폐쇄형 AI와 기술 격차가 점차 줄어들고 있으며, 최근 오픈소스 AI 기반 수많은 서비스 출시는 이러한 변화를 가속화하고 있다”고 설명했다.

성 이사는 기업들이 생성형 AI를 도입할 때 가장 크게 고민하는 과제로 비용과 복잡성, 유연성 세 가지를 꼽았다. 대형 AI 모델 사용 시 발생하는 막대한 비용, 기업 자체 데이터에 맞춰 AI 모델을 활용하기 위한 복잡한 과정, 다양한 환경에 유연하게 배포해야 하는 필요성이 주요 과제라는 것이다.

이러한 고민을 해결하기 위한 솔루션으로 레드햇은 ‘IBM 그래니트(Granite)’를 소개했다. 이는 대규모언어모델(LLM)을 기반으로 AI 애플리케이션을 빠르게 제공할 수 있도록 설계된 오픈소스 모델이다. 아파치 2.0 라이선스 하에 누구나 비용 부담 없이 사용할 수 있다. 성 이사는 “유사한 크기의 모델들에 비해 높은 성능을 보이며, 상대적으로 작은 크기에서도 실행 가능하다”고 강조했다.

특히 최근 출시된 레드햇 엔터프라이즈 리눅스 AI의 새로운 버전에는 IBM 그래니트 3.1 버전이 포함됐다. 12조개 이상 고품들 제이터로 학습하면서 한국어를 포함한 다국어 성능이 향상됐다는 점이 특징이다. 또한 의미 검색 강화, AI 오류 감지 등 기업에서 필요한 AI 기능들이 포함돼 레드햇 AI 핵심 모델로 자리 잡았다.

레드햇은 향후 기업의 오픈소스 AI 사용을 더욱 활성화하기 위해 서드파티 모델 검증 또는 인증 프로그램을 마련할 계획이다. 이를 통해 기업들이 라마나 미스트랄 같은 비용 효율적인 오픈소스 AI 모델을 더욱 적극적으로 활용할 수 있게 될 전망이다.

성 이사는 기업 맞춤형 모델 구축을 위한 ‘인스트럭트랩’도 소개했다. 이는 LLM 성능을 향상시키는 데 중요한 역할을 하는 모델 정렬 도구다. 기업 고유 데이터를 통합하고 부족한 데이터는 합성 데이터를 생성해 모델 학습에 활용한다. 성 이사는 “인스트럭트랩은 챗봇 기능 훈련을 통해 기업이 자신들 데이터를 기반으로 모델을 효과적으로 커스터마이징할 수 있도록 돕는다”고 설명했다.

한편 레드햇은 지난해 11월 vLLM(Variable-sized Large Language Model) 업체 뉴럴매직을 인수해 AI 추론 엔진을 강화했다. vLLM은 대규모언어모델 수정 속도를 높이고 메모리 사용을 최적화하는 오픈소스 AI 추론 엔진으로, GPU 없이도 AI 모델을 효율적으로 구동할 수 있는 기술이다.

성 이사는 “기업 AI 전략과 예산, 역량에 맞게 레드햇 AI 솔루션과 서비스를 선택해서 비용 효율적이고 어디서나 배포되는 AI 네이티브 환경을 구축한다면, AI 네이티브 시대 생성형AI를 통한 기업 혁신이 이뤄질 것”이라고 덧붙였다.