사람의 뇌는 단순한 정보보다 ‘이야기’를 좋아하고 감정과 기억도 더 오래 각인한다고 합니다. 디지털데일리 테크콘텐츠랩의 ‘스토리팩’은 혁신기업의 기술, 인재, 조직 관련 소식들을 책 한권 읽는 듯한 재미와 구성으로 풀어낸 기업별 연재 기획물입니다. <편집자주>

#콘텐츠 구성

1. 배경지식

- 1-1. ‘온디바이스 AI’ 시대가 온다

- 1-2. 업무· 생산성 도구와 ‘찰떡궁합’

2. 핵심 인사이트

- 2-1. 온디바이스용 LLM의 ‘미덕’은?

- 2-2. ‘AGI for Work!’ 더 구체화된 정체성

[디지털데일리 이건한 기자] 올해 AGI for Work(업무용 인공 일반지능) 실현을 새로운 목표로 설정한 업스테이지가 관련 행보로 기업용 기업용 온디바이스(On-device) AI 파트너십을 강화하고 있습니다. 이미 LG전자, 폴라리스 오피스, 센드버드 등 굵직한 기업들이 업스테이지와의 협력 소식을 전하며 목표 달성을 향한 여정도 순항이 예상되는데요. 이번 이야기에선 업스테이지가 개발한 경량 LLM 솔라(SOLAR)를 중심으로 최근 AI 업계에서 온디바이스 AI가 큰 주목을 받는 이유와 업무용 AGI 실현과의 연관성 등을 설명해드릴게요.

1. 배경지식

1-1 ‘온디바이스 AI’ 시대 본격화

업스테이지는 지난 6일 글로벌 챗봇 API 플랫폼 회사인 센드버그가 자사 AI 챗봇에 솔라를 하기로 한 소식을 전했습니다. 미국 실리콘밸리에 본사를 둔 센드버그는 3억명에 달하는 이용자 수와 더불어 한국의 첫 B2B(기업간거래) 부문 유니콘(기업가치 1조원)으로 잘 알려진 기업이죠. 앞서 2월에도 LG전자가 자사의 스테디셀러 노트북 ‘그램(GRAM)’에, 전세계 1억2800만명의 사용자를 보유한 폴라리스 오피스는 문서형 오피스 솔루션에 솔라 기반 온디바이스 AI 기능을 탑재하겠다고 밝혔는데요.

여기서 계속 언급되는 온디바이스 AI는 표기 그대로 On-device, 즉 기기 내에서 자체 구동이 가능한 인공지능(AI)을 말합니다. 클라우드를 비롯한 외부 네트워크를 사용하지 않는 특징이 있죠. 이 때문에 기본적으로 AI 구동과 관련된 사용 데이터가 외부로 전송되지 않습니다. 덕분에 개인정보 보호에 유리하며 보안에 민감한 정부·금융·사기업도 상대적으로 사용 부담을 덜 수 있죠. 사용자층이 제한돼 있는 만큼 맞춤형 AI 환경 구현도 용이한 편이며 네트워크 접속 비용이 들지 않아 경제적이기도 합니다.

따라서 사용자 입장에선 AI를 가급적 온디바이스 환경에서 사용할 수 있는 것이 경제성과 안전성 측면에서 모두 유리합니다. 하지만 그동안은 고성능 클라우드 컴퓨팅 인프라 위에서 작동하는 AI 대비 낮은 성능 탓에 기대만큼 널리 쓰이기 힘들었는데요. 올해는 상황이 빠르게 달라지고 있습니다. 지난 수년 간 산업계의 지속적인 기술 고도화 노력 끝에 이제는 온디바이스 환경에서도 꽤 좋은 성능을 보이는 경량 AI 모델과 하드웨어들이 속속 상용화되고 있거든요.

일례로 삼성전자는 올해 초 공개한 신형 스마트폰 ‘갤럭시S24’ 시리즈에 강력한 온디바이스 AI 기반 서비스들을 성공적으로 탑재해 큰 화제를 모은 바 있죠. 이는 단순히 삼성전자의 성공만으로 볼 일은 아닙니다. 일상에서 가장 널리 쓰이는 범용 IT 제품인 스마트폰에서도 고성능 온디바이스 AI가 안정적으로 작동할 수 있다는 사실이 증명된 사건이거든요. 그만큼 온디바이스 AI 제품들이 그간의 성능의 아쉬움은 뒤로 하고, 이제 더 다양한 카테고리에서 폭발적으로 쏟아져 나올 것을 예상케 하기도 합니다. 나아가 사용자들은 더 많은 서비스를 AI 기반으로 편리하게 이용하면서도 보안 위협와 경제적 부담은 줄일 수 있으니 유익은 더욱 커질 수밖에 없습니다.

1-2. 업무· 생산성 도구와 ‘찰떡궁합’

LG전자와 폴라리스 오피스가 각각 노트북과 오피스 솔루션에 온디바이스 AI 접목을 결정한 이유도 같은 선상에서 해석할 수 있습니다. 두 제품의 공통점은 모두 높은 가성비로 사무환경에서도 널리 쓰이는 생산성 도구란 건데요. 일반적으로 생산성 도구들은 분류 그대로 가성비와 업무처리의 효율성이 가장 중요한 경쟁력이므로 각종 편의 기능 탑재, 손쉬운 사용자경험(UX)에 대한 개발 우선순위가 높습니다.

예컨대 LG전자는 "노트북에 접목한 AI로 사용자의 명령을 인식하고, 저장된 데이터 기반으로 사용자가 원하는 내용을 검색 및 추천하거나 요약하는 기능을 제공할 수 있게 된다"고 설명한 바 있습니다. 기존에는 사용자가 관련 기능의 실행 메뉴얼을 숙지하거나 직감 등을 동원해 처리했어야 할 일을 “쓸만한 OO 데이터를 찾아 요약해줘” 같은 한마디로 AI에게 대신 맡길 수 있게 되는 겁니다. 이런 환경에선 당연히 비효율적인 작업 시간을 크게 줄일 수 있게 되죠.

따라서 이제는 AI와 잘 융합된 생산성 도구, 그렇지 않은 도구 간 사용자 만족도 격차는 점차 크게 벌어질 겁니다. 이는 업무용 제품 시장에서 치열하게 경쟁하는 기업들이 타 분야보다 앞서 온디바이스 AI 도입에 더 적극적으로 나설 수밖에 없는 이유이기도 합니다. 같은 가격이라면 사용 부담이 적으면서도 훨씬 편리한 환경을 제공하는 온디바이스 AI 접목 제품들이 사용자들의 선택을 받을 테니까요.

2. 핵심 인사이트

2-1. 온디바이스용 LLM의 ‘미덕’은?

그러나 기업의 온디바이스 AI 도입은 신중해야 합니다. 구동 환경이 과거보다 좋아졌다지만 여전히 최소 하드웨어로 최대 성능을 내기 위한 AI 모델 최적화는 중요한 문제니까요. 또한 아무리 자체 성능이 좋은 AI 모델이라도 그것을 얼마나 빠르고 유연하게 자사 제품에 접목할 수 있는지 여부는 기업의 제품 출시시기 및 개발비용 절감과도 밀접하게 맞닿은 부분인 까닭도 있습니다.

이 가운데 업스테이지가 2023년 공개한 사전학습형 경량 LLM 솔라가 온디바이스 AI 시장에서 선전하는 이유를 분석해볼 수 있습니다. 솔라는 앞서 언급한 온디바이스 AI 구현의 필요를 모두 충족한 모델로서 성능과 활용성 모두 대내외적인 인정을 받아왔거든요.

몇 가지 예로 ▲지난해 글로벌 LLM 분야의 ‘빌보드 차트’로 불리는 허깅페이스 리더보드에서 챗GPT의 바탕 LLM인 GPT-3.5 점수를 세계 최초로 추월한 사건 ▲글로벌 생성형 AI 활용 플랫폼 ‘Poe’에 오픈AI(챗GPT), 구글, 메타, 엔트로픽 등 유명 기업들의 LLM과 함께 솔라의 이름이 오른 것 ▲올해 초 솔라를 기반으로 만들어진 수학 특화 AI 모델 ‘MathGPT‘가 글로벌 수학AI 벤치마크 테스트 2곳에서 마이크로소프트를 앞선 것 등을 꼽을 수 있습니다.

특히 솔라는 태생부터 기업을 타깃으로 설계돼 위와 같은 성능지표를 넘어, 실제 기업용 제품 환경에서도 높은 효용을 보이고 있습니다. 우선 솔라의 기술적 특징 중 하나는 '데성비(학습 데이터 대비 성능)'라고 볼 수 있는데요. 소형 LLM에 속하는 매개변수 30B(300억개) 미만 모델 중에서도 성능이 좋지만 사이즈가 큰 13B 모델, 사이즈는 작지만 지적 능력에 제약이 있는 7B 모델 사이에서 장점을 최적화한 세계 최초의 10.7B 모델에 속합니다. 업스테이지 여기에 자체 개발한 ‘Depth-Up-Scaling’ 방식을 추가로 적용, 모델의 사고 체계를 한층 고도화함으로써 솔라를 적은 데이터로도 우수한 성능을 내는 LLM으로 만드는 데 성공했습니다.

또한 다양한 기업 서비스 환경에서 꼭 필요한 기본 지식과 원활한 자연어 소통을 돕는 핵심 데이터들을 사전학습시킨 것도 솔라의 주요 특징이자 경쟁력입니다. '기본형 솔라'의 효용을 최대한으로 높인 건데요. 자동차로 치면 최저트림인 ‘깡통차’에도 상당한 편의옵션들이 내장된 경우라고 볼 수 있겠습니다. 또한 이 덕분에 이번에 솔라를 접목하는 폴라리스 오피스는 자사 문서 솔루션용 온디바이스 AI 구현을 위해 별도의 추가 데이터 학습 및 파인튜닝(Fine-tuning, AI 모델을 특정한 목적에 맞춰 조정하는 작업)을 거칠 필요가 없었던 것으로 확인됐습니다.

이처럼 일반 사용자와 마찬가지로 기업 역시 AI 개발 및 도입 비용과 시간을 줄일 수 있다는 건 큰 이점인데요. 앞서 업스테이지와 파트너십을 체결한 중량급 기업들이 많은 LLM 중 솔라를 채택한 이유를 여기서도 찾아볼 수 있겠습니다.

2-2. ‘AGI for Work!’ 더 구체화된 정체성

‘물 들어올 때 노 젓는다’는 말이 있죠. 온디바이스 AI 중심으로 급변 중인 AI 업계 기술 트렌드와 솔라의 성과를 바탕으로 업스테이지도 당분간 솔라 기능 고도화에 전력을 다할 계획이라고 합니다. 그 일환의 결과물들도 이미 주목할 만한 성과를 내고 있습니다. 최근 API로 공개한 솔라의 번역 특화 모델의 경우 AI번역 벤치마크 테스트인 ‘Flores’에서 GPT-4(챗GPT 유료모델), DeepL(유명 AI 번역 플랫폼) 등을 제치고 1위를 기록했는데요. 요즘 AI 번역 기능의 대한 소비자 제품 및 서비스 부문의 수요가 높아지고 있는 점을 고려하면 기본형 솔라의 활용가치가 번역 부문에서도 더욱 개선될 것이 예상됩니다.

더불어 근래 파트너십을 체결한 기업들은 모두 해외에도 큰 시장을 가진 기업들이죠. 이를 바탕으로 업스테이지의 숙원 중 하나인 '글로벌 공략' 도 한층 탄력을 얻을 전망입니다. 업스테이지 스토리팩 기술편을 보신 분들은 아시겠지만 이곳은 설립 당시부터 기업의 손쉬운 AI 도입 및 운용을 돕는 조력자 역할을 겨냥한 스타트업이었는데요. 그동안 그 역할론에 다소 광의적인 측면이 보였다면 이제는 업무용 제품 시장의 사용자 경험을 뒤바꾸는 ‘AGI for Work‘를 더 구체적인 정체성과 기치로 내세울 수 있게 됐습니다. 참고로 AGI 및 인공 일반지능은 사람과 동등한 수준의 지적 수준을 가진 미래 AI를 의미합니다.

업스테이지는 선점 효과를 극대화하고 해외시장에서도 가시적인 성과를 거두기 위해 전사 조직 측면에서도 변혁에 노력을 기울이고 있습니다. 업스테이지에 따르면 최근 대고객 서비스 및 AI B2B 솔루션 총괄을 위해 EBS(Enterprise Business Solution)이라는 조직도 확대 신설했는데요. 동시에 국내에서 시행 중인 완전자율 원격근무를 해외환경에 맞춰 최적화하는 방안도 고민 중이라고 합니다. 모두 더 넓은 시장에서의 안정적인 서비스 제공 및 고객사 관리, 현지 인재 고용의 안정화를 위한 사전 작업으로 풀이됩니다.

# 이후 연재될 이야기 미리보기 ▷ 포털 검색창에 ‘DD테크콘텐츠랩’ 혹은 ‘업무용 AGI 스토리팩’ 검색

# 이전 이야기 모아보기 ▷ 네이버 뉴스 하단 '기업 스토리팩' 구독 혹은 '업스테이지 스토리팩' 검색