[디지털데일리 이안나기자] 생성형 인공지능(AI)이 업무 전반으로 빠르게 확산하면서 기업 보안 전략에도 전면적인 재설계가 요구된다. 팔로알토네트웍스는 AI 활용 방식에 따라 발생할 수 있는 보안 위협을 사전 차단하고, 침해 사고 발생 시 신속한 탐지·대응이 가능한 통합 플랫폼을 제시했다.

이태일 팔로알토네트웍스 프로는 20일 서울 중구 롯데호텔에서 <디지털데일리>가 개최한 ‘NSIS 2025’ 콘퍼런스에서 “AI 기술이 고도화되면서 악성코드 생성, 계정 탈취, 피싱 공격 자동화 등 공격자들의 무기 또한 정교해지고 있다”며 “팔로알토는 보안에 최적화된 머신러닝과 딥러닝을 접목한 ‘프리시전 AI’ 기술로 대응력을 끌어올리고 있다”고 밝혔다.

그는 최근 사이버 침해 트렌드로 ▲지능화된 랜섬웨어 및 정보 탈취 ▲소프트웨어 공급망 공격 ▲침입 후 빠른 데이터 유출 ▲국가 주도형 해킹 증가 ▲AI를 악용한 스피어피싱·악성코드 자동화 등을 꼽았다. 특히 생성형 AI 확산은 임직원의 자율적 사용과 기업의 AI 앱 개발 등 두 방향 모두에서 새로운 보안 리스크를 유발할 수 있다는 것이 이태일 프로의 설명이다.

팔로알토는 이 같은 위협에 대응하기 위해 AI 보안 전략을 크게 두 가지 시나리오로 나눠 접근하고 있다. 하나는 사내 임직원이 챗GPT, 코파일럿 등 공개된 생성형 AI를 활용할 때 발생하는 이른바 ‘섀도우 AI’ 문제이고, 다른 하나는 기업 자체적으로 생성형 AI 애플리케이션을 개발·운영할 때의 보안 취약성이다.

임직원들이 AI를 사용하는 상황에서 팔로알토는 ▲AI 액세스 시큐리티 ▲프리즈마 엑세스 브라우저 기능을 중심으로 대응하고 있다. 이태일 프로는 “직원들이 다양한 서비스형소프트웨어(SaaS) 애플리케이션과 생성형 AI를 혼합 사용하는 경우가 많다”며 “단 이들이 어떤 데이터를 입력하는지, 민감한 정보가 노출되지는 않는지에 대한 가시성이 부족하다”고 지적했다.

AI 액세스 시큐리티는 600개 이상 주요 AI 앱을 실시간 탐지하고, 사용 행위를 분석해 관리자에게 위험 여부를 알린다. 예를 들어 직원이 프롬프트에 고객 개인정보나 내부 문서를 입력하는 경우, 해당 행위를 탐지하고 정책에 따라 차단할 수 있다. 프리즈마 엑세스 브라우저는 기업 내부 보안 정책에 맞춘 전용 브라우저 환경을 제공해 승인되지 않은 프롬프트나 애플리케이션 접속을 제어한다.

이 프로는 “단일 플랫폼에서 각 직원 생성형 AI 사용 행위를 카테고리화하고, 승인·조건부 허용·차단 등으로 자동 분류할 수 있다”며 “챗GPT를 포함해 60개 이상 주요 AI에 대해 세부 정보와 위험도를 바탕으로 관리자가 정책을 수립할 수 있게 돕는다”고 설명했다. 또한 사전 정의된 모범 정책과 탐지 기능을 통해 생성형 AI 활용 과정에서 발생할 수 있는 민감정보 유출이나 프롬프트 인젝션 등 위협에 대응하고 있다.

두 번째 시나리오는 기업이 AI 애플리케이션을 직접 개발하고 배포하는 경우다. 이 경우 팔로알토는 ▲AI 런타임 시큐리티 ▲AI-SPM(Secure Posturet Management)을 제공한다. 이는 애플리케이션 실행 단계에서 발생할 수 있는 보안 위협을 실시간으로 감시하고 대응하는 플랫폼이다.

AI 런타임 시큐리티는 모델, 데이터셋, 사용자, 플러그인 등 구성 요소를 한눈에 파악할 수 있는 대시보드를 제공한다. 프롬프트 인젝션, 민감정보 유출, 모델 악성 변조 등 AI 특화 위협을 탐지하고 대응한다. 이 솔루션은 현재 아마존웹서비스(AWS), 애저, 구글클라우드플랫폼(GCP) 등 주요 퍼블릭 클라우드에 적용 가능하며 프라이빗 클라우드 지원도 예정돼 있다.

팔로알토는 이미 40개 이상의 AI 모델과 12가지 프롬프트 공격 유형에 대해 보안 검증을 마쳤으며, API 기반 연동도 가능해 유연한 적용이 가능하다. 팔로알토는 생성형 AI 확산에 따라 보안 전략 재정립이 필요한 시점임을 강조하며 자사 보안 플랫폼을 통해 실질적인 대응 방안을 제공하겠다고 강조했다.

이태일 프로는 “AI 개발과 운영에는 새로운 유형 공격이 동반되며 기존 전통적 보안 체계만으로는 충분히 대응하기 어렵다”며 “팔로알토는 단일 플랫폼으로 탐지, 분석, 보호, 규정 준수까지 전 주기를 지원해 기업이 AI를 안전하게 활용할 수 있도록 지원하고 있다”고 전했다.