[디지털데일리 김보민기자] 생성형 인공지능(AI)과 소프트웨어(SW) 공급망 보안에 대한 경각심이 커진 가운데, 내년에도 유사한 양상이 이어질 것이라는 전망이 나왔다. '소 잃고 외양간 고치기'에 안주한 조직이 다수인 만큼, 보안 인식이 제고될 필요성이 커지는 분위기다.

박용규 한국인터넷진흥원(KISA) 단장은 26일 서울 강남구 노보텔앰배서더에서 열린 '2024 ICT융합산업보안 콘퍼런스'에서 '최신 사이버보안 위협 동향 및 전망'을 주제로 발표했다. 박 단장은 "내년에는 해커들이 생성형 AI라는 익숙해진 기술을 이용해 적극적인 공격을 할 것"이라며 "OT/ICS 등 디지털 융복합 시스템에 대한 사이버 공격도 증가할 가능성이 있다"고 밝혔다.

그간 사이버보안 업계에서는 해커를 비롯한 사이버 공격자들이 생성형 AI 서비스를 사용하고 있다는 추측이 제기돼 왔다. 다만 이를 입증할 근거를 찾기가 어려웠는데, KISA 측은 최근 관련 증거를 확보해 12월 중 보고서를 통해 상세 내용을 공개한다는 입장이다.

박 단장은 "위협조직을 추적하다 보니 공격 인프라를 찾았고, 공격 인프라를 분석하는 과정에서 실제 공격자가 생성형AI를 활용하고 있다는 증거를 찾아냈다"고 설명했다. 이어 "생성형 AI에게 필요 데이터를 얻어내기 위한 악성코드를 만들어 달라고 요청하는 등 관련 내용이 해커 공격 인프라에 남아 있는 것을 확인했다"고 부연했다.

생성형 AI를 활용한 사이버 공격이 늘어날 것이라는 예측은 지난해부터 제기된 바 있다. 앞서 KISA는 2024년도 사이버위협 전망을 통해 ▲생성형 AI ▲SW공급망 ▲정치 및 사외적 이슈 ▲융복합 환경(OT/ICS 및 IoT) 등 네 가지 영역에서 공격 양상이 두드러질 것으로 예측했다.

실제 이러한 공격 동향이 이어지면서 관련 신고 건수도 매해 늘어나는 추세다. 침해사고 신고는 2021년 640건에서 올해(10월 기준) 1527건으로 약 2.4배 증가했고, 같은 기간 서버해킹 신고는 166건에서 881건으로 5.3배 늘었다. 분산서비스거부(DDoS·이하 디도스) 공격 신고는 123건에서 239건으로 약 2배 증가했다.

박 단장은 AI 등 차세대 기법을 활용한 공격이 늘어날수록 SW공급망 보안 또한 위기에 처할 수 있다고 내다봤다. 그는 "북한 해커그룹은 기업이 개발하고 납품한 SW에 관심이 많다"며 "SW를 이용해서 공격을 했을 때 효과성이 높다는 것을 체험하고 있고, 이에 따라 집요한 공급망 공격이 진행 중"이라고 진단했다.

그러면서 "공격자들은 AI를 활용하거나 공격 기법을 이용해 취약점을 찾으려 노력할 것"이라며 "계속 공격을 이어갈 것이기 때문에 현장에서 (원인 파악 및 해결 등에) 노력을 해줘야 한다"고 제언했다.

올해의 경우 안다리엘과 같은 국가 배후 해킹 조직을 중심으로 SW공급망 보안이 이어졌다. 주로 소스코드가 유출됐을 대 제로데이 및 취약점을 찾고, SW를 기반으로 제품을 사용하는 고객사 등을 노리는 방식이었다. 정상 업데이트 서버라는 신호를 던져 클라우드 솔루션을 속여 악성코드를 전파하는 방식도 포착되고 있다.

여기에 생성형 AI 기술까지 적극 활용하게 된다면, 위협 크기는 더욱 커질 것으로 보인다. 특히 해커가 '수익 실현'에 대한 공격 기법이 다양해지고 있는 만큼 방어 체계와 인식을 고도화할 필요도 커지고 있다.

이와 관련해 박 단장은 "SW 취약점이 발견됐을 때 해결하려는 노력을 기울여야 한다"고 강조했다. 그는 "많은 기업들이 취약점을 안내받지만 여력이 없다는 이유로 더디게 대응하고 있고 있다"며 "공격자들이 AI를 활용하거나 공격 기법을 이용해 취약점을 찾으려 노력하고 있는 만큼, 이는 더 이상 이유가 되지 않는다"고 꼬집었다.

이어 "랜섬웨어의 경우 해커와 협상을 해더라도 조치를 하지 않으면 반복, 그리고 재발된다"며 "사고가 났을 때 숨기지 말고 문제 해결 노력을 기울여야 한다"고 말했다. 그러면서 "네티즌들 또한 사고가 났을 때 숨기는 것이 아닌 어떻게 대응했느냐를 통해 기업 가치를 판단하고 있다"며 "어떤 노력을 기울일지에 대해 고민할 때"라고 언급했다.

한편 국가정보원(이하 국정원)과 과학기술정보통신부(이하 과기정통부)는 최근 'SW 공급망보안 태스크포스(TF)'를 발족하고, 단계별 로드맵을 추진한다고 밝힌 바 있다. 구체적인 보안 정책 및 산업 지원 방안은 내년 1월까지 완성될 방침이다.