[디지털데일리 이건한 기자] "딥페이크 피해를 방지하려면 교육 강화, 규제 마련, 기술 개발이 모두 중요합니다. 이 중에 어느 하나만 잘 한다고 피해가 줄어들 거라 보지 않습니다." 이정수 딥브레인AI 사업총괄이사는 15일 과학기술정보통신부가 주최한 '2025 ICT 산업전망 컨퍼런스' 2일차 행사에서 이렇게 말했다. 딥브레인AI는 가상인간 제작 기술을 바탕으로 최근 딥페이크 탐지 솔루션에서도 두각을 나타내는 국내 스타트업이다.

인공지능(AI) 학습기술의 하나인 '딥러닝(Deep-Learning)'과 가짜를 의미하는 페이크(Fake)의 합성어인 딥페이크는 AI 기술로 생성하는 가짜 콘텐츠 전반을 총칭한다. 초기엔 인물 중심이었지만 이제는 사물이나 배경, 풍경까지 대상의 폭이 넓어지고 있다는 것이 이 이사의 설명이다.

딥페이크는 현재 그 명암이 극명히 갈리는 기술이기도 하다. 긍정적으로는 가상인간을 중심으로 기업이 마케팅·광고·엔터테인먼트 등 다양한 영역에서 새로운 형태의 콘텐츠를 생산하거나, 방송이나 교육 분야에서 가상인간을 출연시켜 시간 및 비용 효율성을 확보하는 사례 등이 대표적이다. 또한 딥브레인AI의 경우 이를 '고인 추모 서비스'로 확장해 고인의 생전 사진, 음성 데이터 일부만으로 유가족이 고인으로부터 듣고 싶은 메시지나 영상을 제작하는 서비스를 만들어 좋은 평가를 받은 바 있다.

하지만 부작용도 심각하다. 사회적 영향력이 큰 정치 분야에서 유력 정치인의 가짜 영상과 메시지가 딥페이크로 생성돼 확산되거나 유명인의 사칭 광고로 금전적 손실을 입는 사람들이 점점 늘어나고 있다. 무엇보다 분별력이 약한 청소년들이 딥페이크 음란물 제작 환경에 쉽게 노출됨으로써 가해자와 피해자가 대량 양산된 점은 심각한 사회 문제로 부각되기도 했다.

문제는 실효성 있는 대책이 마련되기도 전에 급속도로 발전 중인 딥페이크 기술이다. 이 이사는 "LLM(대형언어모델)이 등장 후 초기에는 딥페이크에 LLM을 붙여도 응답 속도가 5~7초 수준으로 매우 늦었는데, 이제는 3초 이내에 음성과 영상 합성 및 발화까지 가능한 수준"이라며 "AI 아나운서 제작도 초기엔 약 1만 문장의 발화 데이터가 필요했다. 그러나 이제는 300문장이나 그 미만의 데이터로도 생성이 가능해진 시대"라고 설명했다.

그만큼 이제는 이런 기술 발전 속도에 발맞춰 대응책도 신속하게 고도화되어야 할 때다. 이 이사는 우선 딥페이크 범죄율이 높은 10대 청소년, 그리고 일반인 대상으로 딥페이크 예방 윤리 교육을 실시하고 자신도 피해자가 될 수 있다는 사실을 알리는 것이 중요하다고 말했다. 또한 규제 측면에선 딥페이크를 이용해 아동 성착취물을 제작하거나 보유하는 것을 불법으로 규정하는 부분도 시급해 이뤄져야 할 일이라고 봤다.

인터넷 플랫폼 사업자들의 더 적극적인 예방 대책도 주문했다. 핵심은 선제적 탐지다. 특히 사용자들이 콘텐츠를 올리기 전에 AI 생성 여부를 판단해 관련 내용을 표기하게 하게 하고, 게시를 금지하는 부분은 정부가 규제 측면으로도 강화해야 한다고 제언했다.

무엇보다 딥페이크 탐지 솔루션을 비롯한 기술 강화의 필요성을 강조했다. 딥페이크는 온라인 환경을 바탕으로 확산성이 빠르다. 따라서 우선은 탐지 솔루션에 인물이나 키워드 기반으로 특정 인물을 탐지할 수 있는 기능과 함께 유튜브나 틱톡처럼 다양한 SNS 사이트에서 해당 인물에 대한 생성형 AI 콘텐츠를 탐지할 수 있는 기술도 필요하다.

딥브레인AI도 실제 이런 관점을 바탕으로 딥페이크 탐지 솔루션을 개발 후 고도화 중이다. 이 이사에 따르면 현재 ▲딥페이크 대상의 성인용 채널 게시 여부 검색 및 탐지 ▲딥페이크 생성물에 대한 실시간 알림 ▲다인 감시 및 딥페이크 유포 채널 추적 기능 등이 구현돼 있다. 이를 통해 인간이 24시간 모니터링 할 수 없는 부분에 대해 비용, 시간적인 부담을 줄이고 선제적 대응 수준이 높아지는 기대 효과가 있다는 설명이다.

한편으론 딥페이크 피해 예방 준비가 미비했던 점에 아쉬움을 표하기도 했다. 이 이사는 "소 잃고 외양간 고친다는 표현이 있다. 딥페이크 관련 기술이 처음 나왔을 때 이미 문제가 예견된 부분들을 미리 선제적으로 준비했다면 현재와 같은 사회적 이슈들은 발생하지 않지 않았을 것"이라고 말했다.