[디지털데일리 이나연기자] 정보기술(IT) 플랫폼 기업들이 주력 서비스에 인공지능(AI) 기능을 속속 도입하는 것을 넘어 임직원들의 AI 활용 능력 제고에도 힘 쏟고 있다.

9일 IT업계에 따르면 밀리의서재는 지난달부터 전체 임직원들에게 개발 및 일반 업무에 도움을 주는 챗봇 플랫폼 ‘AI 밀키트’를 제공하고 있다.

AI 밀리키트(kit) 줄임말인 AI 밀키트는 마이크로소프트(MS)의 ‘애저 오픈AI’와 아마존웹서비스(AWS)의 ‘아마존 베드락’ 서비스를 통해 GPT 모델과 앤트로픽 클로드 모델을 포함, 다양한 거대언어모델(LLM)을 제공하는 챗봇 플랫폼이다. 검색 기반 생성 모델(RAG·Retrieve-and-Generate) 기술을 접목해 사내 데이터와 문서를 조회할 수 있다.

임직원들이 만들어낸 다양한 결과물이 실제 밀리의서재 서비스에 반영되는 등 AI 밀키트가 내부 업무 지원을 넘어 서비스 품질 향상에 직접적으로 기여하고 있다는 게 회사 측 설명이다.

AI 밀키트는 코딩 어시스턴트·도서 검색과 추천·표지 및 카드뉴스 생성과 콘티 제작 등 서비스 영역부터 문서 요약·창작·번역과 같이 일반 업무에 생성형 AI를 사용할 수 있도록 제공하고 있다. 코딩 어시스턴트를 통해서는 코드 리팩토링·테스트 코드 생성·코드 리뷰를 하고, AI 스마트 키워드와 도서 정보를 사용 시 질의를 분석해 맞춤형 큐레이션을 생성하는 식이다.

회사는 향후 AI 밀키트가 모든 업무에 꾸준히 활용될 수 있도록 사내 데이터를 유동적으로 연결하고, 장기 기억 메모리(Long-term Memory)를 개인화로 연계해 자체 의사결정이 가능한 멀티 에이전트 플랫폼으로 확장할 계획이다.

밀리의서재는 앞서 생성형 AI에 대한 사내 이해도를 높이기 위해 오픈AI ‘ChatGPT’ 유료계정 체험단을 구성하고 6개월 간 운영한 바 있다. 당시 사내 뉴스레터·카드뉴스 제작·도서 추천에 활용하며 임직원에 생성형 AI 교육을 진행했다. 이 과정에서 도출된 내부 아이디어가 서비스에 적용될 수 있도록 AI 개발에도 박차를 가하고 있다.

밀리의서재는 AI TTS(음성 합성·Text To Speech)·AI 스마트 키워드·AI 페르소나 챗봇 등 AI 기술을 접목한 독서 콘텐츠를 개발해 왔다. 내년 1분기에는 ‘AI독파밍’을 출시할 예정이다. AI독파밍은 AI 챗봇과 실시간 상호작용하며 독서하는 대화형 서비스다.

방은혜 AI 서비스 본부장은 “AI 독파밍은 MS 에저나 오픈AI 챗GPT 생성형 AI 모델을 쓸 예정이라 어떤 질문이든 대응이 가능할 것”이라며 “고도화 측면에서는 좋은 파트너십을 맺은 회사와 공동 프로젝트를 진행해 새로운 차원의 소통 AI 모델들을 보여주겠다”고 전했다.

생성형 AI 기반 대화형 서비스를 사내에 도입해 업무 효율을 강화하려는 시도는 플랫폼 업계 곳곳에서 일어나고 있다. 이들 서비스는 주로 개발 업무에서 생산성을 향상하고, 흩어져 있는 문서 정보를 통합 검색하는 데 중점을 둔다.

카카오는 사내에서 AI를 적극적으로 활용해 업무 방식을 혁신하고 있다. 대표적인 예가 ▲AI 버디 ▲코드 버디 ▲Matrix AI다. AI 버디는 카카오 사내 커뮤니케이션 툴인 ‘아지트(Agit)’·업무관리 툴인 ‘지라(Jira)’·지식베이스인 ‘위키(Wiki)’를 통합해 크루(임직원)들이 일하는 방식을 개선하고, 업무 효율성을 높이는 데 기여한다.

AI 버디는 사내 문서 및 데이터를 분석하고 요약하며, 효율적인 지식 관리와 문서 검색을 통해 업무 환경을 지능적으로 지원한다. 회의실 예약, 휴가 신청 등 업무도 AI 버디를 통해 자동화됐다.

코드 버디는 코드 변경 요청(PR) 리뷰를 돕는 AI 도구로, 코드 요약·리뷰·개선 제안을 통해 개발자 업무를 지원하고 있다. 카카오가 자체 기술로 구축한 Matrix AI는 카카오 서비스 아키텍처 전반을 실시간으로 모니터링하고, 이상 현상을 감지하면 AI 리포트를 해당 시스템 담당 개발자에게 발송한다.

앞서 네이버도 ‘프로젝트 커넥트X’라는 이름으로 자체 LLM인 하이퍼클로바X 기반 사내 업무 생산성 도구를 제공했다. 메일 초안 작성·업무 메시지 요약·사내 시스템 내 정보 검색·할 일 추천 등 기능들을 실험한 사례다.

네이버 관계자는 “내부적으로 기술을 테스트하고 개선하기 위한 실험 목적 프로젝트였다”며 “현재는 1차적인 실험을 마치고 다음 단계를 준비하는 상황”이라고 설명했다.

한편 스타트업얼라이언스와 오픈서베이가 공동 조사한 ‘스타트업 트렌드 리포트 2024’에 따르면 창업자와 투자자, 스타트업 및 대기업 재직자의 40% 이상이 자신의 회사와 업무에 AI 도입한 것으로 나타났다. 이를 제대로 활용하는 비중은 10~20%가량으로 비교적 낮았다.