[디지털데일리 이종현기자] 사이버보안 기업 트렌드마이크로는 사이버위협 환경에서 생성형 인공지능(AI)의 역할 등의 내용을 담은 ‘2024 보안 예측’ 보고서를 22일 발표했다.

에릭 스키너(Eric Skinner) 트렌드마이크로 시장 전략 담당 부사장은 ”모든 언어에 능통한 고급 대규모언어모델(LLM)은 형식이나 문법의 오류와 같은 전통적인 피싱 지표를 제거하기 때문에 탐지하기가 매우 어렵고 심각한 위협이 되고 있다”며 “기업은 기존의 피싱 훈련에서 벗어나 최신 보안 제어 기능을 우선적으로 도입하여 사람의 탐지 능력을 뛰어넘는 고급 방어 기능과 복원력을 확보할 필요가 있다”고 말했다.

트렌드마이크로는 2024년에는 생성형 AI의 광범위한 가용성과 향상된 품질, 그리고 적대적 생성 신경망(Generative Adversarial Networks, GAN)의 사용으로 인해 피싱 시장에 지각변동이 일어날 것으로 예상했다. 이러한 변화는 극히 사실적인 오디오·비디오 콘텐츠를 저렴하게 제작할 수 있게 하여 비즈니스 이메일 사기 공격(BEC)과 가상 납치 및 기타 사기의 새로운 트렌드를 주도할 것으로 트렌드마이크로는 예측하고 있다.

위협 행위자는 악의적인 활동을 통해 얻을 수 있는 잠재적 수익을 위해 악의적인 생성형 AI 도구를 개발하거나 훔친 인증정보와 가상사설망(VPN)이 포함된 합법적인 도구를 사용해 신원을 숨길 것이라고 지적했다. FBI에 따르면 2022년 한 해 동안 BEC로 인한 피해 금액은 27억 달러를 상회한다.

2024년에는 AI 모델 자체도 공격받을 수 있다. 생성형 AI와 LLM 데이터 세트는 위협 공격자가 영향을 미치기 어렵지만 특화된 클라우드 기반 머신러닝 모델은 학습된 데이터 세트가 많을수록 민감 데이터의 유출, 사기(Fraud) 탐지 필터 우회, 커넥티드카 방해와 같은 다양한 목적의 데이터 오염 공격 대상이 될 수 있다. 이러한 공격은 이미 100달러 미만의 비용으로 수행할 수 있다.

이와 같은 추세로 인해 규제 당국의 조사가 강화되고 있다. 사이버보안 부문에서 자체적으로 문제를 해결하려는 움직임이 나타날 수 있다.

그렉 영(Greg Young) 트렌드마이크로 사이버보안 담당 부사장은 “내년부터는 사이버 보안 관련 AI 정책이나 규제의 개발에 있어 사이버 업계가 정부를 앞지르기 시작할 것”이라며 “업계는 옵트인 기반의 자율 규제를 위해 빠르게 움직이고 있다”고 말했다.

이 밖에도 트렌드마이크로의 ‘2024년 보안 예측’ 보고서는 고도의 자동화를 통해 최소한의 노력으로 취약점과 잘못된 구성에 침입해 여러 컨테이너, 계정 및 서비스에 영향을 미치는 클라우드 네이티브 웜 공격이 급증할 것으로 전망했다. 또 클라우드 네이티브 애플리케이션(앱)이 자동화된 공격에 취약하다는 점을 강조하면서 클라우드 환경 보안 격차의 해소와 위험 완화를 위한 방어 메커니즘과 철저한 보안 감사를 포함한 사전 예방적 조치를 권고했다.

공급망 공격의 경우 업스트림 오픈소스 소프트웨어 구성 요소뿐만 아니라 통신사 SIM과 같은 ID 관리 시스템의 저장소도 공격의 표적이 될 수 있다. 사이버 범죄자들은 또한 CI/CD 시스템을 통해 공급업체의 소프트웨어 공급망을 악용할 가능성이 높으며, 특히 서드파티 구성 요소에 집중할 것이다.

한편 다수의 프라이빗 블록체인 구현의 취약점으로 인해 프라이빗 블록체인에 대한 공격이 증가할 것이라는 전망도 제기했다. 위협 행위자는 이러한 권한을 사용하여 항목을 수정·재정의·삭제한 다음 금전을 요구할 것이며, 충분한 노드를 장악할 수 있는 경우 전체 블록체인을 암호화하려고 시도할 수 있다고 우려했다.