[디지털데일리 김보민기자] "인공지능(AI) 시대에서 그래픽처리장치(GPU)와 대형언어모델(LLM)을 이야기하는 경우가 많습니다. 그러나 AI 활용 사례가 늘어날수록, '얼마나 제대로 보안을 할 수 있느냐'가 중요해질 것입니다."

최지희 시스코코리아 대표는 3일 서울 강남구 그랜드인터컨티넨탈 서울 파르나스에서 취재진을 만나 이렇게 밝혔다. 인공지능전환(AX)에 뛰어든 기업들은 많지만, 철저한 보안 체계 없이는 내·외부 위협에 노출될 수밖에 없다는 취지다.

최 대표는 규모가 큰 대기업조차도 AI 보안 체계를 갖추지 못한 경우가 있다고 분위기를 전했다. 최 대표는 "최근 만난 고객들의 경우 빨리 AI를 개발해 사용하는 데 집중하고 있고, 보안에 대해 고민하는 고객은 대형에서도 많지 않다"며 "아직은 소비자(컨슈머) 차원에서 챗GPT를 쓰는 수준이라, 추후 보안에 대한 중요성이 커질 것으로 본다"고 말했다.

시스코는 AX를 추진하지만 보안 체계를 갖추는 데 어려움을 겪는 기업을 돕기 위해, 올 1월 'AI 디펜스(AI Defense)'를 공개했다. AI 디펜스는 AI 애플리케이션을 개발·배포·보호하는 보안 솔루션으로, '시스코 시큐리티 클라우드' 플랫폼에 통합 제공된다.

이날 현장에는 아난드 라가반 시스코 AI 제품 총괄 부사장이 온라인으로 참석해 AI 디펜스를 소개했다. 라가반 부사장은 "모든 조직에서 AI가 핵심 영역에 활용되는 경우가 늘어나고 있다"며 "모델 사용 가시성, 운영 환경 배포 전 모델 검증, 모델 보호를 위한 가드레일 등 3가지가 중요한데, 시스코 AI 디펜스는 서드파티 AI 애플리케이션에 대해 안전하고 보안된 접근을 제공한다"고 말했다.

이어 "이 플랫폼은 안전, 보안 및 개인정보보호 안전 장치(가드레일)를 기반으로 AI 애플리케이션을 보호한다"며 "이러한 가드레일은 오픈웹애플리케이션보안프로젝트(OWASP) 선정 LLM 10대 취약점, 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크, 마이터 아틀라스(MITRE ATLAS) 등 국제 표준을 준수한다"고 설명했다.

AI 디펜스는 기업이 AI 기술을 도입할 때, 위협 요인을 파악할 수 있도록 돕는 데 특화됐다. 공공 및 프라이빗 클라우드에서 승인, 인지, 감독 없이 사용되는 AI 애플리케이션을 탐지하는 것이 특징이다. 아울러 프롬프트 인젝션, 서비스 거부, 민감 데이터 유출 등 잠재 위협을 검증할 수 있다. 모델 튜닝 등 AI 도입 작업에서 발생할 수 있는 보안 문제를 점검해, AI 기반 알고리즘 레드팀이 취약점을 식별하고 가드레일을 추천해 줄 수도 있다.

라가반 부사장은 "우리는 수많은 질문을 AI에게 쏟아내고 있지만, AI 입장에서 이 규모는 많지 않다"며 "OWASP·MITRE 등 표준을 준수하는 가드레일은 조직이 보안 체계를 세부적으로 강화하고 추천을 받을 수 있도록 도와줄 것"이라고 말했다.

시스코는 네트워크 안에 전통 보안을 결합시켜, 글로벌 기업과 차별화된 AI 보안을 제공할 수 있을 것으로 자신했다.

라가반 부사장은 "AI 디펜스는 네트워크에 결합돼 있는 동일한 가드레일을 적용해준다"며 "네트워크의 경우 시스코 시큐어액세스를 통해 가드레일을 적용할 수 있고, 클라우드 앱의 경우 멀티클라우드 디펜스를 통해 적용이 가능하다"고 부연했다. 방화벽 제품군도 마찬가지다. 라가반 부사장은 "언제 어디서든 개발자들이 정책을 적용할 수 있고, 보안 관련 정보를 수집할 수 있게 됐다"고 강조했다.

한편 시스코는 취재진을 만난 이후, 같은 장소에서 연중 최대 행사인 '시스코 커넥트 코리아(CISCO CONNECT KOREA) 2025'를 개최했다. 이날 행사는 최 대표의 환영사를 시작으로, 주요 임원진과 네이버클라우드·삼성SDS 등 기업들의 발표가 이어졌다.

칼 솔더 시스코 호주 및 뉴질랜드 최고기술책임자(CTO)는 'AI를 위한 보안'을 주제로, 데이비드 코벤트리, 시스코 APJC 협업 부문 매니징 디렉터는 '미래에 대비된 업무 환경'을 주제로 키노트 발표를 했다. 이어 아난드 파틸 시스코 APJC 고객경험(CX) 아키텍처 및 솔루션 시니어 디렉터는 '실용적인 AI: CX를 통해 잠재력을 영향력으로 전환하기'를 주제로 CX 전략에 대한 노하우를 공유했다.