[디지털데일리 김보민기자] 올 초부터 전 세계 산업을 들썩이게 한 인공지능(AI) 기업을 말하라 하면, 딥시크(DeepSeek)를 빼놓을 수 없다. 딥시크는 '저비용 고효율'이라는 꼬리표가 붙으며 AI 시장에 충격을 준 동시에, 무단으로 사용자 데이터를 수집하고 외부로 유출한다는 의혹이 제기되며 우려 또한 번지고 있다.

사이버보안 업계에서 약 25년간 경력을 쌓은 댄 카파티(Dan Karpathi) 체크포인트소프트웨어테크놀로지스(이하 체크포인트) AI 부문 부사장은 딥시크 사태가 시장에 긍정적인 경종을 울렸다고 평가했다. 그는 <디지털데일리>를 만나 "딥시크가 공개한 AI 모델과 서비스가 좋고 나쁘다를 판단할 순 없지만, AI 시장에 획기적인 발전을 가져온 것은 맞다"고 밝혔다.

특히 비용이 많이 투입되는 하드웨어 측면에서 흐름을 뒤바꿨다고 진단했다. 카파티 부사장은 "개방형 AI 시장에서 사람의 손을 거치지 않고 AI 자체만으로 학습이 가능하다는 점을 보여주면서 창의적으로 생각했다고 평가할 수 있다"며 "(AI) 민주화에 힘을 보태며 다른 기업에게도 기회의 문을 연 것"이라고 말했다.

현재 딥시크는 개인정보 수집 및 유출 의혹을 중심으로 주요국 사이 '금지 명령'을 받고 있다. 한국 또한 흐름에 올라탄 상황이다. 개인정보보호위원회(이하 개인정보위)는 딥시크 애플리케이션(앱) 국내 서비스가 15일 오후부터 잠정 중단됐다며, 국내 개인정보보호법에 따라 개선 및 보완 작업이 끝난 이후 서비스를 재개하겠다는 뜻을 밝혔다. 우려가 해소될 때까지 딥시크 앱 신규 다운로드를 제한하겠다는 계획이다.

카파티 부사장은 "테스트를 진행해 본 결과, (정보보호 등에 대한 우려는) 딥시크에만 국한된 것이 아니다"라며 "오픈AI를 비롯한 다른 공개포럼도 마찬가지"라고 말했다. 어떤 AI 모델과 서비스가 더 위험하다고 평가하기 전, 전반적인 AI 산업에 대한 보안 경종이 울렸다는 취지다.

딥시크 이슈를 계기로 AI 모델 개발과 사용에 있어 보안을 강화하려는 움직임 또한 극대화되야 할 것으로 내다봤다. 카파티 부사장은 "빠르게 AI 기술을 구축할 때, 엄격한 테스트가 필요하다"며 "일례로 에이전트로 특정 작업을 수행할 경우 툴(도구)에 권한을 부여하게 되는데 이때 보안 측면 문제가 없는지 여부를 확인해야 한다"고 설명했다.

신뢰 기반 AI 생태계가 마련돼야 한다는 의견이다. 글로벌 보안업계에서는 2022년 챗GPT서비스가 첫 출시된 이후 생성형 AI가 '무엇을 할 수 있는지'에 초점을 뒀다면, 이제는 '무엇이 잘못됐는지'를 고쳐야 할 때라는 목소리를 내놓고 있다. 사용자가 안전하게 AI 기술을 활용할 수 있도록 글로벌 단위 움직임이 필요하다는 것이다. 카파티 부사장은 "(딥시크 사태는) 전 세계 AI 발전을 위한 계기가 될 것"이라며 "오픈소스와 마찬가지로, 신뢰 구축이 우선시돼야 한다"고 끝맺었다.