[디지털데일리 권하영기자] KT클라우드는 업스테이지, 디노티시아, 폴라리스오피스, 리벨리온과 ‘AI 파운드리(AI Foundry)’ 사업을 위한 전략적 파트너십을 체결했다고 18일 밝혔다.

최근 많은 기업들이 AI 도입을 통한 업무 혁신에 관심을 갖고 있지만, 높은 인프라 투자 비용, 개별 솔루션 도입과 운영 측면의 부담, AI 기술 전문성 확보 등의 어려움에 직면하고 있다. 이에 KT클라우드는 검색증강생성(RAG), AI모델, 추론용 인프라 등 AI 분야에서 검증된 기술력을 갖춘 파트너사들과 협력해 기업들의 AI 니즈를 ‘엔드투엔드(End-to-End)’로 실현하는 AI 파운드리 사업을 추진한다.

이번 전략 파트너십 체결은 고객이 보유한 데이터를 빠르게 정제하고, 경량화된 AI 모델과 모듈형 RAG 서비스를 통해 신뢰성 높은 AI 시스템을 간편하게 구현하는 서비스 출시에 목적이 있다.

이를 위해 우선 RAG 구현에 필수적인 ▲파싱(Parsing, 데이터 성분을 분석하고 구조화하는 과정)과 광학문자인식(OCR) 영역에서는 폴라리스오피스와 업스테이지, ▲ 임베딩(Embedding, AI 모델이 데이터를 이해하고 처리하도록 데이터를 벡터 형태로 변환하는 과정) 모델 영역에서는 업스테이지, ▲ 벡터 데이터베이스(DB) 영역은 디노티시아와 협력한다.

AI 모델의 경우, 라마4스카우트(Llama 4 Scout), 미스트랄7B(Mistral 7B), 솔라(Solar) 등 시장에서 인기 있는 다양한 오픈소스 모델들이 연계될 예정이다. 또한, AI 파운드리의 추론용 인프라 팜에는 엔비디아 그래픽처리장치(GPU)뿐만 아니라 KT클라우드와 오랫동안 협력해 온 리벨리온의 신경망처리장치(NPU)도 적용된다.

고객은 KT클라우드 AI 파운드리를 기반으로 필요한 업무에 최적화된 AI 모델링을 간편하고 신속하게 구현할 수 있을 뿐 아니라, 실 사용량 기반으로 요금이 책정되는 RAG 모듈(파싱, 임베딩 등)을 이용해 AI 구축과 운영 비용을 최적화할 수 있다.

예를 들어 ‘AI 금융 상담사' 출시를 원하는 A 금융사의 경우 KT클라우드 AI 파운드리를 통해 매일 5 천여 개의 투자 리포트와 시장 분석 자료를 자동으로 처리하고, ‘지식 베이스 기반으로 최적의 상품을 추천하는 고객 상담 서비스’를 신속하고 효율적으로 구현할 수 있다.

KT클라우드는 AI 파운드리 서비스의 정식 출시에 앞서 고객 참여형 파일럿 프로그램을 2분기 내 선보일 예정이다. 대기업부터 스타트업까지 업종과 규모에 관계없이 무상으로 해당 프로그램에 참여가 가능하며, 참여 기업은 AI 프로토타입 모델을 개발하고 검증하는 기회를 확보할 수 있다.