[디지털데일리 이종현기자] ‘챗GPT’가 정보기술(IT) 업계를 휩쓸었다. 거부할 수 없는 메가 트렌드가 된 인공지능(AI)을 이용하기 위해 모든 산업 분야 기업들이 적극적으로 나서고 있다. 하지만 자체 역량을 보유하지 않은 기업이 AI를 자사 비즈니스에 녹여내는 것은 쉽지 않은 일이다. 이런 기업들을 위한 도우미를 자처하는 기업들이 등장하는 중인데, 올거나이즈 역시 그들 중 하나다.

올거나이즈 신기빈 최고인공지능책임자(CAIO)는 <디지털데일리>와의 인터뷰에서 “올거나이즈는 엔진 역할을 하는 대규모언어모델(LLM)을 어떻게 잘 이용할 수 있을지, 고객에게 맞춤화할지 도와주는 전문 기업”이라고 소개했다. 엔진에 대해 몰라도 자동차를 사고 운전할 수 있듯, AI에 대한 원천 기술이 없더라도 AI를 이용할 수 있도록 한다는 것이다.

◆한국‧미국‧일본 동시 공략하는 스타트업… 맞춤형 AI 제공 전문가

올거나이즈는 2017년 미국 캘리포니아주에서 설립된 기업이다. 한국인인 이창수 대표와 일본인인 야스오 사토(Sato Yasuo) 이사가 공동 창업했다. CAIO인 신기빈 이사도 초창기 합류해 공동 창업자 명단에 이름을 올렸다. 신 CAIO는 시니어 엔지니어로 입사해 최고기술책임자(CTO)를 거쳐 AI 기술 연구를 맡는 CAIO가 됐다.

미국에서 사업을 시작했지만 2018년과 2019년 한국과 일본에도 법인을 설립했다. 현재 본사는 일본이다. 다만 한국, 미국, 일본 법인 모두 연구개발(R&D)부터 영업까지 각기 비즈니스를 수행하는 법인들로, 엄격하게 역할이 구분돼 있지는 않다는 것이 신 CAIO의 설명이다.

그는 현재 3개국 중 엔지니어 채용 및 비즈니스가 가장 활발한 것은 한국이라고 전했다. 초창기 일본이 빠르게 성장했지만 챗GPT가 등장하면서 LLM에 대한 기업들의 관심이 커진 이후 한국이 일본을 따라잡은 상황이다.

신 CAIO는 “올거나이즈는 생성형 인지검색, 검색증강생성(RAG)에 특장점을 지녔다”며 “기업은 굉장히 방대한 문서를 보유하고 있다. 이를 검색하려면 키워드를 정확히 알아야 하는데, 인지검색은 AI가 질문을 파악하고 그에 적합한 답을 보다 빠르고 정확하게 찾아낼 수 있도록 하는 역할을 한다”고 말했다.

◆하루가 다르게 변하는 AI 시장… 기반 기술 연구에

올거나이즈는 맞춤형 AI 애플리케이션(앱)을 제작하거나 이를 위한 환경을 제공하는 등 기업 맞춤형 서비스를 제공하는 것이 특징이다. AI 기반 기술을 바탕으로 인적자원(HR) 및 금융, 보험, 에너지, 건설, 게임, 정보기술(IT), 유통 등 각 분야를 위한 솔루션을 제공해왔다.

신 CAIO는 “오픈AI의 모델이 등장하면서 업계에 엄청난 충격을 줬다. 그런데 규모를 일정 이상 키우다 보니 학습시키기가 너무 어렵다는 문제가 생겼다”며 “그래서 더 적은 데이터로, 더 적은 비용으로 성능을 높이는 것으로 방향성이 바뀌었다. 이게 소형언어모델(sLLM)인데, 올거나이즈는 파운데이션모델(FM)을 바탕으로 보다 쉽게 원하는 sLLM을 만들 수 있도록 돕는다”고 밝혔다.

최근 사례로는 SK텔레콤의 ‘AI 앱마켓’이 대표적이다. SK텔레콤은 지난 1월 기업 및 공공기관이 생성형 AI 서비스를 제작 및 이용할 수 있도록 하는 엔터프라이즈 AI 마켓을 출시했는데 이는 올거나이즈의 ‘알리 앱 마켓’을 화이트라벨링 방식으로 이용한 케이스다.

올거나이즈는 자체적으로 FM을 개발하는 기업은 아니다. 메타의 ‘라마(Llama2)’와 같은 잘 만들어진 FM을 파인튜닝해 기업에게 적합한 용도로 구성한 뒤 제공한다. LLM을 개발하는 기업이 엔진 개발사면 이를 사용자가 탑승할 수 있도록 자동차와 같은 형태로 만드는 역할을 한다고 볼 수 있다.

신 CAIO는 “작년 3월 라마2가 공개되기 전까지는 불안감이 있었다. 성능이 원하는 수준으로 나오지 않았기 때문이다. 그런데 높은 성능의 라마2가 등장하면서 상황이 반전됐다”며 “올해 초 나온 논문에 따르면 오픈소스 LLM이 오픈AI의 ‘GPT-3.5 터보’의 성능을 넘었다고 한다. 그만큼 오픈소스 진영의 발전이 눈부시다. 자연히 기업들이 원하는 수준의 성능을 갖춘 AI를 개발하는 것도 쉬워졌다”고 말했다.

◆B2B AI는 벤더 락인‧보안 탓에 온프레미스 이용 불가피

초창기 AI 시장은 마이크로소프트(MS)를 비롯한 거대 클라우드 기업을 중심으로 형성됐다. 오픈AI의 서비스 역시 MS의 애저(Azure)를 통해 이용 가능했다. 시장을 선점한 오픈AI ‘GPT스토어’를 출시하는 등 생태계 장악에 나서다 보니 AI 스타트업들에 대한 위기론이 확산됐다.

이와 관련 CAIO는 여전히 시장에 많은 기회가 있다고 말한다. 이는 오픈AI의 GPT스토어와 올거나이즈의 알리 앱마켓을 나란히 두고 살펴보면 여실히 드러난다.

GPT스토어와 알리 앱마켓은 보다 쉽게 AI를 개발하고 이용할 수 있도록 한다는 점에서 같은 기능을 수행한다. 다만 GPT스토어의 경우 누구나 이용할 수 있는 개방된 형태이고, 기반이 되는 LLM은 오픈AI인 것과 달리 알리 앱마켓은 폐쇄적인 기업 환경이고 엔진이라고 할 수 있는 LLM을 라마나 ‘앤트로픽’ 등 입맛에 맞게 바꿀 수 있다는 점이다.

신 CAIO는 “기업들이 오픈AI가 만든 생태계에 종속되고 싶어하지는 않을 거다. AI를 위해 자사의 데이터를 학습시키는 것도 꺼려한다”며 “지금은 오픈AI가 시장을 독주하고 있지만 구글이 ‘제미니’를 발표하고 라마3도 출시하는 등 각축전을 벌이고 있다. 각각의 모델이 서로 특장점을 지니게 될 것”이라고 피력했다.

RAG 기술을 특장점으로 삼고 있는 올거나이즈로서는 LLM의 수준이 높아질수록 반가운 일이다. 신 CAIO는 “지금까지는 RAG 기술이 비즈니스의 킬러 앱이 되고 있다. 지금은 또다른 킬러 앱을 발굴하고 있는 단계”라며 “이를 위한 좋은 엔지니어가 필요하다. 올거나이즈와 함께 하고 싶은 사람이 있다면 언제든지 연락달라”고 말했다.