사이버 보안 이미지 [ⓒ 픽사베이]

[디지털데일리 최민지 기자] 2024년 보안업계를 관통하는 트렌드 하나를 꼽으라면, 단연 인공지능(AI)이다.

챗GPT와 같은 생성형AI 출현으로, 이를 악용한 AI 위협에 대한 우려가 커지고 있다. AI 기술 발전에 따른 새로운 위협에 대한 대응을 요구하는 시기다. 동시에, AI 기술은 신규 보안 솔루션‧서비스 출시를 돕는다. 이를 통해 정교한 공격에 대응하고, 빠르게 위험을 탐지할 수 있도록 한다.

이처럼 AI는 새로 나타난 위협이자 기회다. 이에 국내 보안기업‧기관은 ‘AI 보안’을 중심으로 조직을 재편하고 신규 사업을 검토하는 등 발빠르게 기회를 찾고 있다.

일례로, 파수는 AI에 대응해 기업비전을 새롭게 세웠다. 파수 조규곤 대표는 올해 시무식을 통해 ‘AI를 쉽고 간단하게’를 지원하는 기업이 되겠다고 선포했다. AI 기업으로 거듭나겠다는 포부다. 이를 위해 파수는 올해 1분기 ‘엔터프라이즈 LLM’를 선보인다. 정보 유출 방지에 특화된 거대언어모델(LLM)을 선보이겠다는 설명이다.

이글루코퍼레이션(이하 이글루)은 AI 기술 개발에 집중하는 모습이다. 이글루는 최근 다중모델을 활용해 AI 신뢰도를 높이는 기술, 감시 대상에 대한 AI 예측 데이터에 룰 필터링(Rule Filtering)을 적용하는 기술에 대한 특허를 취득했다. 지난해엔 AI 탐지모델 서비스 ‘에어(AiR)’, 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스 ‘이글루XAI’를 선보인 바 있다. 여기서 더 나아가 보안 특화 자체 소형언어모델(sLLM) ‘그린AI’를 개발 중이다.

AI 보안 스타트업도 나타나고 있다. 최근 윤두식 지란지교시큐리티 대표는 AI 보안 스타트업 ‘이로운앤컴퍼니’를 창업했다. 국내 대표 보안기업 중 한 곳인 지란지교시큐리티 대표를 10여년간 역임해 온 윤두식 대표가 AI 보안분야에서 새 기회를 찾기로 했다. 이로운앤컴퍼니는 ‘세이프X(SAIFE X)’ 솔루션을 개발 중이다. 기업에서 생성형AI를 사용하는 전‧후 과정에서 유해정보 등을 탐지‧차단하는 등 LLM 관련 보안 이슈를 해결하는 솔루션이다.

AI 전담 조직도 신설됐다. 금융보안원은 신년 조직개편을 통해 AI혁신실을 신설했다. AI데이터팀에서 AI 관련 업무를 맡아왔으나, 실 단위로 확대 개편해 AI 관련 금융 보안에 적극 대응하기로 했다. AI혁신실에서는 AI 관련 금융권 가이드 개발과, AI 모델 공정성‧보안성‧알고리즘 신뢰성 등을 검토할 예정이다.

이와 관련 이글루는 2024년 사이버보안 위협 및 기술 전망 보고서를 통해 “생성형AI를 을 이용한 공격과 오픈소스 생태계로 인한 위협 체인화, 고도화된 랜섬웨어 공격 역시 늘어날 것”이라며 “보안 운영·위협 대응 자동화(SOAR), 위협 인텔리전스(CTI), 공격표면관리(ASM), 생성형AI 등 인텔리전스 기반의 보안관제센터(SOC) 자동화 구현을 위한 지능형 보안 솔루션 도입이 증가할 것”으로 내다봤다.