[디지털데일리 이안나기자] IBM이 AI 에이전트를 핵심으로 한 ‘엔터프라이즈를 위한 AI’ 전략으로 기업 디지털 혁신을 가속화한다. 단순히 질문에 답변하는 AI 어시스턴트 차원을 넘어 다양한 AI 어시스턴트 및 비즈니스 애플리케이션 등을 연계한 에이전틱AI 환경으로 이끌어 기업 혁신을 촉진한다는 전략이다.

이지은 한국IBM 최고기술책임자(CTO) 전무는 21일 서울 여의도 본사에서 열린 기업용 에이전틱 AI 세션에서 IBM 기업용 AI 전략과 왓슨x 플랫폼을 기반으로 한 AI 에이전트 기술을 소개했다.

이 전무는 ▲개방성 ▲비용효율성 ▲온프레미스와 클라우드를 포함하는 하이브리드 기술 ▲고객 특정 산업 안에서 특정 분야에 해당하는 전문성 ▲영역별 전문성을 토대로 한 IBM 컨설팅 서비스 등 5가지를 차별화 요소로 꼽았다.

IBM의 기업용 AI 전략은 ‘개방성’을 중심축으로 삼고 있다. 이 전무는 “AI 기술 발전은 오픈소스 커뮤니티와 함께 이루어지고 있다”며 “IBM은 오픈소스를 최대한 활용하고, 다양한 파트너 기업들의 AI 기술까지 유연하게 통합함으로써 고객들이 기술적 제약 없이 AI를 활용할 수 있도록 지원한다”고 설명했다. 이는 많은 기업들이 자사 모델만을 활용하는 폐쇄적 접근법과 차별화된다는 게 IBM 경쟁력이다.

비용효율성 또한 IBM AI 핵심 전략이다. 많은 기업들이 AI 실험 단계에서 실제 도입으로 확장하려 할 때 비용 문제에 직면하는데, IBM은 소형 LLM(대규모언어모델)을 특정 업무에 맞춤화하여 높은 성능을 유지하면서도 비용을 효율적으로 관리할 수 있는 방안을 제공한다.

이 전무는 또다른 경쟁력으로 기업들이 운영하는 복합적 IT 환경을 고려한 ‘하이브리드’ 방식을 꼽았다. 그는 “퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스 환경을 모두 활용하는 기업 현실을 고려해 모든 환경에서 원활하게 작동하도록 설계됐다”며 “기업이 특정 환경에 종속되지 않고 자유롭게 AI를 활용할 수 있도록 하는 것이 IBM 지향점”이라고 설명했다.

IBM은 기업용 에이전틱AI 지원을 위해 ‘도메인 전문성’도 강조했다. 단순한 기술 제공을 넘어 컨설팅과 엔지니어링 전문성을 결합해 고객 산업과 특정 분야에 맞는 AI 전략을 수립한다는 전략이다. 이 전무는 “더불어 기업이 AI를 안전하게 관리하고 규제를 준수하며 정확한 결과를 보장할 수 있도록 지원하는 ‘거버넌스와 보안’ 역량이 IBM AI 전략의 근간”이라고 덧붙였다.

기업용 AI 도입의 실질적 방법론으로 이 전무는 IBM ‘클라이언트 제로(Client Zero)’ 전략을 소개했다. 이 전무는 “IBM은 전 세계 27만명 이상 직원을 보유한 글로벌 기업으로서, 우리 스스로가 첫 번째 고객이 되어 AI를 적용하고 그 과정에서 얻은 통찰과 노하우를 고객들에게 전수하고 있다”며 “현재 HR, IT, 영업 등 70개 이상 업무 영역에 AI를 도입해 지난 2년간 35억달러 생산성 향상을 이뤘다”고 강조했다.

그러면서도 “생산성 향상은 단순히 시간을 절약하는 것을 넘어, 혁신을 통한 성장과 비즈니스 운영 모델의 근본적인 변화를 의미한다”고 덧붙였다.

IBM은 초기 단순히 질문에 답변하는 어시스턴트 수준을 넘어 이제 에이전틱 AI 환경을 제공한다. 이 전무는 “이제는 항공권 예약이나 데이터 분석과 같은 특정 업무를 자율적으로 수행하는 싱글 에이전트로 발전했다”며 “앞으로는 하나의 복잡한 업무를 처리하기 위해 여러 전문 에이전트가 협업하는 멀티 에이전트 체계로 진화할 것”이라고 부연했다.

김지관 한국IBM 클라이언트 엔지니어링 총괄 상무는 에이전틱 AI 개발을 위한 핵심 솔루션으로 IBM ‘왓슨x 오케스트레이트’를 소개했다. IBM AI 플랫폼인 ‘왓슨x’는 사전 구축된 에이전트부터 기업 맞춤형 에이전트, 이들을 유기적으로 연결하는 오케스트레이션 기술까지 종합적으로 제공한다.

이 솔루션은 자연어 기반 직관적인 대화형 인터페이스를 통해 직원, 고객 등 최종 사용자의 요청을 수집하고, 이를 다양한 비즈니스 애플리케이션과 연결해 자동화된 방식으로 처리한다. LLM 기반 시스템을 통해 사용자 요청을 지능적으로 분석하고 가장 적절한 경로로 연결한다.

왓슨x 오케스트레이트는 생성형 AI를 포함한 다양한 인공지능 기술이 기본 내장돼 있는 사전 구축된 AI 에이전트를 제공, 개발자가 아닌 비전문가도 별도의 코딩 없이 간편하게 에이전틱 AI를 구축할 수 있도록 지원한다. 또한 수천개 자동화 작업 중에서 선택해 적용함으로써 맞춤형 에이전틱 AI를 쉽게 구축할 수 있다.

AI 도입 과정에서 가장 중요한 성공 요인으로 이 전무는 ‘플랫폼 접근법’을 제시했다. AI 도입 과정에서 많은 기업들이 직면하는 문제는 바로 개인 역량에 의존하는 파편화된 접근이다. 즉 기업은 통합된 플랫폼을 구축해 개인 역량에 의존하지 않고 조직 차원에서 AI를 활용할 수 있어야 한다는 설명이다.

이 전무는 “IBM의 왓슨x 플랫폼은 데이터 관리부터 모델 운영, 거버넌스, 보안에 이르기까지 기업이 필요로 하는 AI 기능을 통합적으로 제공하는 일종의 ‘엔터프라이즈 AI 운영체제’ 역할을 한다”고 강조했다.