[디지털데일리 이안나기자] 생성형AI 시대가 도래했지만 실제 업무환경에선 이같은 큰 변화를 체감하기엔 아직 부족한 상황이다. 글로벌 빅테크 기업들 중심으로 초거대언어모델(LLM) 경쟁을 하는 사이 더존비즈온은 기업 업무 시스템과 연결된 인공지능(AI) 활용을 확장 중이다.

송호철 더존비즈온 플랫폼사업부문 대표는 9일 <디지털데일리>가 주최한 ‘AI WAVE 2024: 산업별 도전과 혁신과제’ 콘퍼런스에서 ‘생성형AI가 바꾸는 기업의 업무환경’ 주제로 AI 활용 방법을 시연했다.

더존비즈온은 생성형AI를 업무 효율성 관점에서 바라본다. 그간 생성형AI는 질문을 하면 일반적인 인터넷 여러 정보들을 엮어 학습하고 미세조정(파인튜닝)해서 답변을 제공한다. 범용성은 갖출 수 있지만 정작 회사 계약서나 제안서, 메일 등 핵심 업무는 데이터 유출 우려로 LLM에 학습시킬 수가 없다는 고민이 있다.

이런 고민에서 더존비즈온은 ▲회사와 자신을 잘 이해하는 AI ▲ 자신에게 맞춤형으로 기능할 수 있는 AI ▲필요한 데이터만 학습해 데이터 유출을 방지할 수 있는 AI 관점으로 살핀 후 서비스를 출시할 계획이다. 더존비즈온은 LLM에 검색증강생성(RAG)를 적용했고, 환각(할루시네이션) 현상이 발생하지 않도록 연구했다.

송 대표는 “의도에 맞는 데이터를 잘 뽑을 수 있도록 가령 회계나 세법 같은 문서들을 임베딩시키고, 여러 알고리즘을 사용해 벡터DB를 관리한다”며 “제 답변을 했을 땐 정상적인지 아닌지도 가중치를 줘서 RAG에 대한 답변을 LLM에 넘기기 전 정확해지도록 한다”고 했다.

더존비즈온이 서비스에 적용하는 AI 특징은 단순한 질문과 답변 수준에 그치지 않는. 먼저는 ‘액션’을 수행할 수 있는 AI를 개발 중이다. 가령 “원천징수 이행증명서를 떼서 팩스로 보내줘”라고 요청하면 요청대로 작동하는 복합 액션이 가능하다. “매일 아침 회사 현금 시제를 모두 찾아 표료 요약해서 보여줘”라고 하는 예약 기능이 담긴 것도 가능해질 전망이다.

더존비즈온은 비즈니스 플랫폼 ‘위하고’를 운영 중이다. 메일 전송부터 회계처리, 화상회의 등 여러 솔루션과 서비스를 하나의 플랫폼에서 이용할 수 있다. 국내에선 약 24만5000개 기업이 위하고를 사용 중이다.

최근 더존비즈온은 위하고에 ‘원(ONE) AI’를 적용하고 직원들 대상으로 테스트하고 있다. 송호철 대표는 “위하고에 LLM을 붙이면서 사람이 하는 것 중 AI가 대신할 수 있는 영역들이 있다는 걸 파악했고, 이를 실제 적용해서 오는 6월 출시할 예정”이라고 말했다.

실제 시범 운영 중인 위하고를 살펴보면, 화상회의에서 늦게 들어온 직원일지라도 AI를 활용해 금방 회의 흐름을 따라갈 수 있다. “지금까지 논의된 회의 내용을 요약해서 알려줘”, “회의에 참석한 사람별로 해야할 일을 정리해줘”라고 요청하면 이에 대한 답변을 실시간으로 받을 수 있다.

이외에도 이메일 번역은 물론, 메일 스레드를 모두 이해해서 이에 맞는 답변을 만들어내기도 한다. 여러 제안서와 계약서도 한 번에 분석할 수 있다. 또한 회사 내부 데이터를 학습시켜 답변을 받았을 때, 이게 정확한 답인지 담당자들이 확인할 수 있도록 어떤 파일을 참고했는지 근거를 함께 제시하는 것도 특징이다.

그동안 근로계약서 같은 건 사람 특성을 반영하기 쉽지 않아서 AI를 활용하기 어려웠으나, 이제 AI가 연봉이나 급여 등을 포함한 표준근로계약서를 만들 수 있다. 여러 가지 업무에 AI가 녹아진 셈이다.

송 대표는 “전통적인 LLM만을 두고 보면 사실 할 수 있는 게 굉장히 제한적”이라며 “더존비즈온은 엔진은 좋은 걸 외부에서 가져다 쓰고 기존에 갖고 있는 기업 업무환경 여러 데이터 서비스 인터페이스들을 연계해 적합하게 도울 수 있는 방법에 집중한다”고 강조했다.

이어 “이외에 인사이트 AX 등 기업이 갖고 있던 과거 패턴 데이터를 머신러닝할 수 있는 영역도 추구하고 있다”고 덧붙였다.