[IT전문 미디어 블로그=딜라이트닷넷]

인공지능(AI) 기술이 발전하면서 가장 주목을 받고 있는 서비스는 단연 AI에이전트로 불리는 업무 자동화 서비스다. 사용자 명령을 듣고 대부분의 업무 처리를 알아서 진행해 결과물을 만들어내는 AI에이전트를 통해 전 산업 분야 업무 효율을 크게 증대시킬 수 있을 것이란 기대감이 높아지고 있다.

최근 대형언어모델(LLM) 워크프레임 ‘랭체인(LangChain)’은 글로벌 기업 1300명 관계자를 대상으로 AI에이전트 활용 현황에 대한 설문조사를 실시했다. 조사 대상은 제품관리자(PM)부터 개발자와 임원 등이다.

랭체인 조사에 따르면 응답자 약 51%가 현재도 제품 생산 과정에 AI에이전트를 사용하고 있는 것으로 나타났다. AI에이전트를 활용한 업무가 무엇인지 묻는 질문(복수 응답)에는 검색 및 요약 업무(58%) 때 AI에이전트를 사용하고 있다고 대답한 응답자 비중이 가장 높았다. 이어 고객 서비스(CS)에 사용하고 있다고 응답한 이들이 45.8%, 코드 생성이라고 답한 사람들이 35.5%, 데이터 변환 및 확장에 사용 중이라고 답한 응답자는 33.8%로 나타났다.

AI에게 권한을 부여한 정도에 대해서도 설문이 진행됐다. 응답자 중 43.5%는 AI의 데이터 읽기 및 쓰기, 삭제 등 권한은 인간의 승인이 있을 경우에만 실행할 수 있도록 조치했다고 응답했다. 42.9%는 데이터 읽기에서는 AI가 자율적으로 접근할 수 있도록 했다고 응답했다. AI에게 자율적으로 읽기, 쓰기, 삭제 권한을 부여한 이들은 13.7%에 불과했다.

다양한 권한을 AI에게 넘기는 것은 편의성을 높여주지만, AI의 통제 불능 가능성도 함께 높아질 수 있다. 이에 랭체인은 기업 관계자들이 생각하는 AI에이전트 통제 방법에 대해서도 조사했다. AI에이전트에 대한 추적 및 관찰 도구는 필수적인 통제 수단이며, 개발자가 AI에이전트 작동 투명성을 확보하는데 도움이 된다는 설명이다.

AI에이전트에 대한 주요 통제 방법으로는 AI에이전트의 작동 과정을 살펴볼 수 있는 ‘추적 관찰’ 기능(55.4%)이 지목됐다. AI에이전트 작동 한계를 설정하는 가드레일 방식(44.3%)을 사용하고 있다는 응답자 비중이 뒤를 이었다. AI 모델 배포 전 연결이 끊어진 상태에서 작동 상태를 확인하는 ‘오프라인 평가’ 방식을 사용 중인 이들 비중은 39.8%인 것으로 나타났다.

AI에이전트를 활용함에 있어서 가장 문제가 되는 부분에 대해 묻는 질문에는 ‘AI에이전트 품질’이라 답한 이들 비중은 41%로 가장 많았다. 비용(18.4%), 안전우려(18.4%), 지연문제(15.1%), 그 외(7%)가 뒤를이었다. 업무 효율을 증대시키는 것이 AI에이전트의 주된 존재 이유인 만큼 품질 고도화가 AI에이전트 효용성을 높일 수 있는 핵심 요소로 지목된 모습이다.

랭체인은 보고서를 통해 “지난해부터 AI에이전트는 업계 전반에서 기업 데이터 분석, 코드 작성에 이르기까지 워크플로에서 활약하고 있다”며 “AI에이전트 고도화 경쟁도 치열해지고 있으며, 지난해에도 수많은 에이전트 프레임워크가 인기를 끌었다”고 말했다.