[디지털데일리 김보민기자] SK쉴더스가 인공지능(AI) 보안 위협에 선제 대응하기 위한 취약점 진단 가이드를 공개했다.

SK쉴더스(대표 홍원표)는 '거대언어모델(LLM) 애플리케이션 취약점 진단 가이드'를 발간했다고 8일 밝혔다.

AI는 물론, 기술 기반 재료인 LLM에서 보안 위협이 발생할 수 있다는 경고가 이어지고 있는 가운데, 피해를 예방할 수 있는 안내서를 전달하자는 취지다. 현재 AI는 '양날의 검'으로 여겨지고 있다. AI 기술을 활용해 방어 수준을 높일 수 있지만, 동시에 공격자 또한 관련 서비스를 악용해 위협 난도를 높이고 있기 때문이다.

LLM 기반 애플리케이션의 경우, 자연어 처리와 생성에 특화된 대규모 언어 모델을 활용해 금융, 제조, 헬스케어 등 주요 산업에서 활용되고 있다. 다만 이러한 애플리케이션은 데이터 및 사용자 입력 처리 방식의 특성으로 인해, 기존 정보기술(IT) 시스템과 다른 보안 위협에 취약해 대비가 필요하다.

SK쉴더스는 2025년 주요 보안 위협 중 하나로 'AI 기반 해킹 증가'를 꼽으며, 특히 소규모 언어 모델(sLLM)을 겨냥한 위협과 LLM 구조적 취약점을 악용한 데이터 조작 및 유출 공격이 심화될 것으로 전망했다.

이번 가이드는 ▲LLM 통합 ▲에이전트 ▲모델 등 세 가지 영역의 보안 이슈를 담고 있다. 특히 14개 주요 취약점을 위험도에 따라 3단계로 분류해, 점검 방법과 대응 방안을 제시하고 있다.

보고서에 따르면 대표적인 보안 위협으로는 '프롬프트 인젝션'과 'API 매개변수 변조', '검색증강생성(RAG) 데이터 오염'이 있다. 프롬프트 인젝션은 사용자 입력값을 조작해 시스템이 의도하지 않은 응답을 출력하도록 유도하는 공격으로, 민감한 정보를 유출할 수 있다.

API 매개변수 변조는 시스템 간 통신에 사용되는 요청값을 변경해, 시스템 권한을 초과하는 동작을 실행시키는 위협이다. 악성 이메일 전송, 데이터 유출, 시스템 장악과 같은 문제가 발생할 수 있다.

RAG 데이터 오염은 외부 데이터를 조작해 검색 정보 신뢰도를 떨어뜨리는 방식으로 보안 문제를 야기한다. 이 밖에도 서드파티 소프트웨어 사용과 보호 영역 안에서만 프로그램이 작동 가능한 샌드박스 미적용도 위험도가 높은 항목으로 꼽혔다.

이번 가이드는 보안 위협을 예방하기 위해 사용자와 시스템 명령어(프롬프트)를 분리하고, 데이터 흐름 점검 및 데이터 검증 절차를 강화해야 한다고 강조했다. 또한 LLM의 코드 실행 유무에 따라 샌드박스를 활용해 악성코드 실행을 방지하고, RAG 활용 시 권한 없는 데이터 접근을 차단하기 위해 그룹별 권한 관리 체계를 구축할 것을 권고했다. 다층보안 체계를 도입해 데이터 오염 및 권한 상승 공격을 방지해야 한다고는 점도 강조했다.

김병무 SK쉴더스 사이버보안부문장(부사장)은 "AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 해킹 사고가 발생할 수 있다"며 "이번 가이드는 기업과 기관이 직면할 수 있는 AI 보안 문제를 사전에 예방하고, 신뢰할 수 있는 AI 시스템을 구축하는 데 도움을 줄 것으로 기대된다"고 말했다.