[디지털데일리 오병훈기자] “시스템 방어 관점에서 AI 기술을 이용해 여러 가지 고도화된 탐지 기술을 사용할 수 있지만, 반대로 공격자 입장에서도 이를 활용해 다양한 공격 수법을 고안할 수 있습니다.”

17일 김귀련 한국마이크로소프트 매니저는 <디지털데일리>가 개최한 웨비나 ‘쉴드체인 2024 버추얼 콘퍼런스:소프트웨어 신뢰망 구축, 공급망 보안과 SBOM’에서 ‘MS 디지털 디펜스 리포트 2024:사이버 보안의 새로운 도전과 기회’를 주제로 발표하며 이같이 강조했다.

가속화되는 정보기술(IT) 발달 속도만큼, 사이버 위협 기술 고도화 속도도 빨라지고 있는 추세다. 특히 최근 각광받고 있는 생성형AI 기술은 사이버 위협 방어자에게 큰 위기감을 선사했다. 정보 탈취를 목표로 각종 사칭 데이터를 끊임없이 생성하며, 변화무쌍한 공격방식으로 시스템에 침투하는 특징을 가지고 있기 때문이다.

결과적으로 이에 걸맞는 새로운 보안 기술이 필요한 시점, MS는 올해 AI 사이버 공격과 방어에 미치는 영향에 대한 연구 결과를 다룬 ‘MS 디지털 디펜스 리포트 2024’를 발간한 바 있다. 이 보고서는 8개 MS 조직 200여명 보안 전문가가 지난해 7월부터 올해 6월까지의 MS 공격 사례를 중심으로 작성했다.

김 매니저는 “생성형 AI 모델 경우 동일한 값을 입력하더라도 그 결과가 계속해서 변한다는 것을 확인할 수 있었다”며 “보안 관점에서 기존 고전적인 방식으로 하는 취약점을 패치는 효과가 없다는 결론을 내렸다”고 말했다.

이어 “AI를 이용해 이력서를 위조하고, 기업에 취업한 뒤 회사 기밀을 빼가는 사례도 있었다”며 “고도화된 AI 공격이 이루어졌을 때 이 부분을 방어하기 위해서는 기존의 고전적인 방법에서는 도저히 불가능하다”고 덧붙였다.

물론, 방어자 입장에서도 강력한 방패 하나가 마련된 셈이다. MS는 이점을 이용해 새로운 방어 전략을 구축하기로 했다. MS는 AI 기반 통합 보안 솔루션 ‘코파일럿 포 시큐리티’를 통해 보안 인력 문제를 해소하는데 집중했다. 사이버 보안 분야에서는 항상 인력 등 자원 부족 문제에 시달리지만, 관련 업무에 AI를 통한 지속적인 위협 분석 및 대응책 마련으로 일정 부분 해소하겠다는 전략이다.

김 매니저는 “평균적으로 위협을 식별을 하고 격리하는 데 약 277일 정도 소요가 되는데 AI 기술을 이용을 했을 땐 그 작업 속도가 28% 가량 더 빨라졌고, 정확도는 44% 향상됐다”며 “생성형 AI를 활용한 주니어 보안 담당자를 훈련시키거나, 맞춤형 대응책을 마련하는데도 효과적인 부분이 있다”고 말했다.

김 매니저는 정부 정책의 협조 중요성도 짚었다. AI 기술 안전 및 보안이 정부가 AI를 어떻게 책임 있게 관리해야 하는지를 정하는 기준이 되고 있다는 설명이다. 그 결과 AI 기술에 대한 국제표준에 대한 연구 및 논의가 활발하게 이뤄지고 있으며, 이는 AI 보안 규제 단편화 문제를 완화하는 데 도움을 준다는 것이다.

그는 “미국 같은 경우 국립표준기술연구소(NIST)가 AI와 보안 교차 지점 위협 관리를 위한 프레임워크, 크로스 워크 매핑 기술을 보유하고 있다”며 “메사추세츠 공과대학교(MIT) 연구소 등 기관에서도 책임 있는 AI 모델 개발을 위한 연구를 지속하고 있다”고 강조했다.

이어 “한국에도 AI 기술 발전 속도에 맞춰 양질의 AI를 사용할 수 있게끔 그런 규제를 계속 마련을 하고 있는 상황”이라며 “AI 국가 전략과 그에 따른 정부 산하 연구기관을 통한 안전 로드맵이 속속 발표되고 있는 모습”이라고 덧붙였다.

그는 마지막으로 “AI 기술을 활용한 방어 전략 강화도 매우 중요하다. 이는 한 기업이나 한 개인이 할 수 있는 부분은 아니며, 국가 차원에서 관심을 가지고 노력해줘야 하는 부분”이라며 “지속적인 관심과 협력이 이뤄져야 하며 협력을 바탕으로 안전한 디지털 환경을 구축하는 데 필요한 발판을 마련해야 한다”고 전했다.