[디지털데일리 김보민기자] 파수가 문서 관리 및 보안 역량을 토대로 인공지능(AI) 시장에 뛰어들었다. 기업용 경량언어모델(sLLM) '파수 엔터프라이즈 LLM(ELLM)'이 주인공이다.

파수는 모델 구조(아키텍처) 측면에서 ELLM이 경쟁력이 있다고 자신하고 있다. 온프레미스 구축형이지만 프라이빗과 퍼블릭 LLM을 동시 활용할 수 있는 구조를 취해, 기업이 맞춤형 AI를 구현하도록 돕는다는 구상이다.

윤경구 파수 본부장은 3일 서울 여의도 페어몬트호텔에서 열린 'FDI(Fasoo Digital Intelligence) 2024' 무대에 올라 "ELLM은 데이터를 지능으로 변환해 연결하는 역할을 한다"며 "검색증강생성(RAG), 그리고 추가 학습으로 데이터를 연결해 결과물을 낼 수 있다"고 말했다.

파수는 ELLM을 '작지만 강한 맞춤형 AI'라고 부른다. 보고서 작성, 문서 요약, 내부 데이터 분석, 지식 창고 운영, 고개 응대 등 주요 작업에서 업무 생산성을 높일 수 있고 문서 기반 AI 채팅, 결재함 제공도 가능하다. 사전특화학습(DAPT), 미세조정(파인튜닝) 학습도 구현할 수 있다.

ELLM 아키텍처는 ▲데이터 ▲파수 데이터 필터 익스트랙트(FX) ▲파수 프리 트레이너 ▲검색 모듈 ▲ELLM CX 등으로 구성된다.

먼저 데이터 영역에는 문서, 데이터베이스(DB), 서비스 등을 포함한 로데이터(raw data)가 포함된다. 아울러 법률 등 도메인별 특화 학습 데이터도 해당 영역에 탑재된다. 이러한 데이터는 파수 데이터 FX를 통해 추출 및 정제 작업을 거친다. 광학문자인식(OCR) 방식으로 필요 데이터만 잡아내거나, 독성(toxic) 요인을 걸러내는 방식이다.

이후 데이터와 지능을 연결하기 위한 작업이 이어진다. 대표적으로 LLM에 기업 지식정보를 내재화하는 '프리 트레이너(pre-trainer)' 방식이 있다. 이 방식은 기본 파운데이션 모델은 물론 이미지·요약·번역 모델, 코드 LLM 등을 융합해 기업 정보를 학습하고 고객 질문에 답하기 위한 기반을 마련한다. 파운데이션 모델은 영어와 한글을 기본 학습했다.

검색 모듈 차원에서도 데이터를 끌어올 수 있다. 관계DB(RDB) 혹은 벡터DB에 있는 데이터를 가져오는 방식이다. 해당 DB는 애플리케이션프로그래밍인터페이스(API) 형태로 지식 정보를 연결할 때 쓰인다. 이 때 검색 활용도를 높이는 RAG가 가동된다.

이러한 과정은 모두 ELLM CX에 연결된다. 데이터 지능 역할을 하는 ELLM CM은 텍스트, 이미지, 코드 등 sLLM 뿐만 아니라 GPT, 클로드, 제미나이 등 클라우드 LLM을 모두 아우른다. ELLM이 온프레미스 구축형으로 출격했지만 퍼블릭 LLM과도 연동이 가능하다는 의미다.

파수에 따르면 ELLM은 기존에 사용하거나 새로 도입할 예정인 보안 솔루션과 연동 가능하다. 이날 발표자로 나선 김용길 파수 본부장은 "AI 기반 데이터 플랫폼 '랩소디(Wrapsody)'와도 결합 가능하다"고 강조했다. 세부 접근 제어 정책과 메타데이터 정보를 sLLM과 연동해 기업에 맞는 생성AI 서비스를 구현할 수 있다는 설명이다.

한편, 국내 시장에서 AI 보안 분야에서 선두주자 타이틀을 얻은 기업은 아직 없다. 파수는 ELLM을 기반으로 틈새 기회를 노려 고객 영역을 늘릴 방침이다. 지금은 공공, 금융을 중심으로 관심이 커지고 있는 것으로 전해진다.

조규곤 파수 대표는 "LLM은 단순 언어모델을 넘어 기업 지식 기반(knowledge base) 역할을 한다"며 "파수는 기업이 AI 여정에 앞장설 수 있도록 도울 예정"이라고 강조했다.