[디지털데일리 오병훈기자] “생성형AI 등장 이전에는 제로데이 공격에 필요한 비용이 높은 편이었기 때문에 공격자들이 저가인 엔데이(N-day), 칩제로데이(Cheap Zero-day) 등 공격을 주로 했으나, 생성형 인공지능(AI) 등장 이후 복잡한 제로데이(Zero-day) 공격이 쉬워졌고, 공격 비용도 낮아지는 추세입니다.”

10일 윤인수 한국과학기술원(KIST) 교수는 ‘삼성 보안기술 포럼 2024(SSTF)’에서 시스템 해킹 동향 및 생성형 AI를 활용한 보안 기술 연구 중요성을 강조하며 이같이 말했다.

생성형 AI 등장은 우리에게 많은 편익을 가져다 줬지만, 이는 해킹 범죄자들에게도 같은 이점으로 작용했다. 과거 해킹 기술 개발을 위해서는 수준 높은 전문지식을 지닌 인력이 필요했지만, 생성형 AI 등장 이후 일정 수준 지식만 있다면 누구나 쉽게 해킹 툴을 만들 수 있게 됐다.

윤 교수는 “해킹 공격과 방어는 경제적인 부분과 연관이 깊다”며 “일반시민을 공격하는 해킹은 적은 비용으로 불특정 다수를, 정치인이나 주요 기업 인사를 공격할 때는 높은 비용을 투자하더라도 큰 이득을 얻기 위한 방식을 채택했었다”고 분석했다.

그는 비용을 기준으로 시스템 해킹 방식을 두 가지로 나눴다. 피싱과 스미싱과 같이 불특정 다수를 대상으로 행해지는 공격 비용은 0에 수렴한다. 문자나 전화 등 매체를 통해 악성 프로그램을 무제한으로 배포 후 한명의 피해자만 속여도 이득을 볼 수 있다는 것이다. 대표적인 공격 예시로 보안패치가 이뤄지지 않은 부분을 공략한 ‘엔데이(N-day)’ 공격과, 쉽게 찾을 수 있는 취약점을 노린 ‘칩제로데이(Cheap Zero-Day)’ 등이 있다.

그에 반해 특정인을 겨냥한 제로데이(Zero-Day) 공격은 복잡한 시스템 취약점을 분석하고 이를 공략하는 방식이다. 공격 난이도가 높아 공격자가 상당한 전문지식을 보유하고 있어야 하기 때문에 비용도 함께 높아지게 된다. 그러나 생성형 AI로 제로데이 공격이 쉬워졌고, 이를 막기 위한 보안기술 연구 중요성이 높아졌다는 것이 윤 교수 설명이다.

윤 교수는 생성형 AI 활용 해킹을 다시 생성형 AI를 활용해 막는 ‘이이제이’ 전술을 강조했다. 생성형AI를 활용해 취약점을 분석하고 해커가 생성형 AI를 어떻게 활용할지, 어떤 시스템에 접근할지 예측하는 것이다.

윤 교수는 “취약점 버그를 탐지 및 제거해 버그를 익스플로잇(공격을 목표로 하는 일련의 명령)하는 것을 막자는 취지다”라며 “자동으로 취약점을 찾는 연구를 하는 것이 중요해졌다. 구글과 같은 빅테크 기업에서도 제로 데이 공격 분석하고 매년 발표를 하고 있다”고 설명했다.

그는 거대언어모델(LLM)을 활용한 취약점 분석 및 보안 기술 개발 방법에 대한 연구가 필요하다고 언급했다. 윤 교수는 “LLM은 사용하면서 확실히 잠재력 있는 도구지만, 사람은 아니기 때문에 ‘이 문제를 해결하라’는 일반적인 명령으로는 다루기 어렵다”며 “다양한 관점에서 LLM과 소통하는 방법을 연구해야 한다”고 설명했다.

한편, 화이트 해커 출신인 윤 교수는 연구실을 중심으로 ‘팀 애틀랜타’를 구성해 미국에서 개최된 시스템 취약점 분석 대회 ‘AI 사이버 챌린지’에 참가해 국내 대학 팀 중에서는 유일하게 결승에 진출한 바 있다. 또, 개인 학술 성과로는 국제 학술대회 ‘USENIX Security 2018’, ‘USENIX OSDI 2018’에서 최우수 논문상을 수상 등이 있다.