[디지털데일리 이건한 기자] "AI 에이전트 개발은 쉽게 생각할 문제가 아니다. 언어모델과 생성형 AI도 에이전트를 구성하는 개별 요소(Component)일 뿐, 이들에 의존하면 제품 성능을 끌어 올리기 어렵다"

김경채 셀바스AI 매니저는 16일 서울 코엑스 AI 엑스포 코리아 2025에서 '생성형 AI와 맞춤형 에이전트의 미래' 발표에서 이같이 강조했다. AI 에이전트는 올해 전세계 AI 산업을 관통하는 핵심 화두지만, 많은 기업이 아직 완성도 높은 AI 에이전트 개발에 중요한 사항들을 간과하고 있다는 지적이다. 또한 이 때문에 상당수 기업이 AI 에이전트 개발 프로젝트가 정작 제품화, 상용화 단계에서 멈추는 문제로 고민 중이란 설명이다. 김 매니저는 그 원인으로 ▲AI 에이전트 구성 요소별 균형 무시 ▲ㅈAI 모델과 기존 시스템의 약한 연결성 ▲오픈소스 과신 등을 꼽았다.

우선 AI 에이전트가 좋은 성능을 내려면, 입력된 명령과 데이터 기반으로 창의적 사고 및 추론 과정이 효율적으로 이뤄져야 한다. 이때 단순 생성 언어처리나 생성 프로세스 외에도 전체 입출력 요소 간 균형이 중요한데, 여전히 많은 AI 업계 종사자가 언어모델과 생성에 집중하는 경향이 AI 에이전트 성능 저하로 이어지고 있다.

또한 AI 에이전트가 사용자(개인, 기업)의 사용 환경을 완벽히 이해하는 것도 선행조건이다. 기존 레거시 시스템의 특성, 도메인 데이터, 모델과 높은 연결성을 먼저 확보하지 않으면 고성능 에이전트를 기대하는 건 무리라는 의미다. 김 매니저는 "흔히 파운데이션 모델로 불리는 언어모델도 언어를 생성하는 모델일 뿐, 모든 개별 시스템을 완전히 이해하는 건 아니"라고 말했다.

현재 AI 업계에서 널리 쓰이는 오픈소스에 대한 높은 의존도도 문제가 된다. 오픈소스는 이미 완성된 모듈을 쉽게 가져다 조립할 수 있기 때문에 AI 에이전트 개발 속도를 높일 수 있다. 하지만 반대로 개별 사용자 수요에 맞춤화된 개발이 어렵다. 또한 오픈소스는 쉽게 시작한 만큼, 사후 관리와 유지보수, 운영에 대한 치밀한 준비도 중요하므로 숙련된 기획자와 개발자의 경험도 중요하다.

김 매니저는 "결국 필요한 기능이야 어떤 방법이든 구현이 가능하다. 하지만 성능이 기대에 못 미치면 어차피 버려지는 것"이라며 "최악의 경우 사용자가 우리 제품 가치에 대해 의심하는 상황까지 벌어진다"고 말했다. AI 에이전트 개발, 성능에 집중하기 앞서 개발 프로세스를 치밀하게 다듬어야 한다는 메시지다.

나아가 구체적인 해법으로 AI 에이전트 개발 단계별 HCI(인간-컴퓨터 상호작용)의 중요성을 강조했다. 예컨대 사용자가 음성으로 '내일 오전에 일정이 있다'고 AI에게 말하면 음성 HCI의 역할은 이를 텍스트로 전환, 캘린더에 전송, 언어모델에 알람 설정 요청 등이다. 경우에 따라 음성기기를 위한 음성학습 출력도 필요하다. 이 가운데 처음 음성 입력 단계부터 불명확한 인식 데이터가 들어가거나, 마지막 음성 출력 단계 등은 사용자가 직접 연결되는 과정으로 전체 프로세스에서 특히 높은 중요도를 갖는다.

셀바스AI는 지난 10년 이상 고도화한 자체 HCI 기술을 바탕으로 이런 문제들을 해결 중이다. 핵심 키워드로는 ▲정확한 데이터 입력 지원 ▲음성, 영상, 텍스트, 터치 등 사용자 중심의 다양한 멀티모달 인터페이스 지원 ▲사용자 맞춤형 모델링, 적응형 시스템 구축 등을 제시하고 있다.

김 매니저는 일례로 국내 한 병원 고객사의 영상의학과 사례를 제시했다. 해당 병원은 분석과 판독이 필요한 CT, MRI 결과가 보유 의료진 대비 월등히 많아 발생하는 여러 문제를 해결하고자 AI 도입을 추진한 케이스다. 다만 의료기관 특성상 민감 데이터 유출 우려, 이에 오픈소스 기반 시스템 구축 진행 또한 불가능했다.

셀바스AI는 이 문제 해결을 위해 해당 병원 내 실환경 의료 데이터로 최적화된 음성엔진을 적용한 병원의무기록 자동화 솔루션 '메디보이스'를 도입했다. 메디보이스는 사용자 최적화된 데이터를 통해 음성입력의 정확도가 높고, 구조적으로 데이터 유출에서 안전하다. 회사는 나아가 메디보이스를 더 전문화된 에이전틱 AI로 만들기 위해 s-LLM(경량화된 대형언어모델)과 연계해 판독 기록 작성 외, 진료 기록 요약 등의 추가 업무 효율화 기능을 추가하겠단 계획이다.

김 매니저는 "앞으로도 AI 에이전트 개발 시 고객 환경을 고려한 AI 사용환경 설계, 관리는 여전히 사람의 몫인 점과 HCI, 기타 분석 모델을 적절히 조합하는 상호작용 구조화에 집중해야 완성도를 높일 수 있다는 사실을 기억하길 바란다"며 "한두 요소가 아니라, 시스템과 제품 내 모든 컴포넌트를 늘 최고의 수준으로 균형 있게 조합하는 전략이 궁극적인 해답이 될 것"이라고 제언했다.