[디지털데일리 김보민기자] 국내 기업이 인공지능(AI) 기술 발전에 관심이 높지만, 보안 취약점에 대한 우려를 표하고 있다는 조사 결과가 나왔다. 특히 거대언어모델(LLM)을 활용할 때, 민감 데이터가 외부에 유출되는 것을 우려하고 있는 것으로 나타났다.

이스트시큐리티는 국내 기업 보안 담당자 및 실무자 200여명을 대상으로 설문조사를 진행했다고 5일 밝혔다. 조사에 따르면 응답자 절반은 업무에 생성형 AI를 적용하고 있는 것으로 나타났다. '데이터 분석'(42%), '고객 서비스'(30%), '콘텐츠 생성 및 자동화'(28%) 분야에서 AI 활용이 활발해진 것으로 집계됐다.

다만 LLM을 도입했을 때 보안 취약점이 발생할 것을 우려하고 있는 것으로 나타났다. 응답자는 LLM을 도입했을 때 가장 큰 우려 사항으로 '민감 데이터 유출'(64.5%)을 꼽았다. 이어 '시스템 안정성 및 신뢰성 부족'(20.6%), '악의적 공격 및 모델 오용'(14.9%)이 뒤를 따랐다. 응답자 79%는 생성형 AI로 인한 정보 유출과 데이터 손실을 우려한다고 답했다.

응답자 87%는 LLM 보안을 위한 전문 솔루션이 필요하다고 답했다. 특히 민감 데이터 유출 차단 기능이 중요 고려 요소로 꼽혔다. LLM 사용 과정에서 기밀 정보가 외부로 유출되지 않도록 돕는 보안 체계를 중요하게 생각하고 있다는 점을 엿볼 수 있는 부분이다.

AI 보안 솔루션에 대한 관심도 높아진 것으로 나타났다. 응답자 58%는 생성형 AI 사용 혹은 도입을 고려하고 있고, 필요에 따라 전문 보안 솔루션을 검토하겠다고 답했다. 도입 때 중요한 고려 요소로는 '민감 데이터 유출 차단 기능'(51.8%)이 꼽혔다. 반면 24%는 내부 정책상 생성형 AI 사용을 제한 중이라 관련 솔루션 도입 계획이 없다고 답했다.

김병훈 이스트시큐리티 최고기술책임자(CTO)는 "이스트시큐리티는 기업들이 안전하게 AI를 활용할 수 있도록 보안 기술을 개발 및 고도화하고, 안전한 LLM사용 환경을 만들기 위해 노력할 것"이라고 말했다. 한편 이스트시큐리티는 기업 내 LLM을 사용할 때 발생할 수 있는 데이터 유출과 악성 콘텐츠 수신 위협을 탐지 및 차단하는 '알약 xLLM'을 개발했다. 해당 솔루션은 올해 정식 출시를 앞두고 있다.