[디지털데일리 이나연기자] 최근 텔레그램 기반 불법 합성 음란물을 제작·유포하는 ‘딥페이크 성범죄’ 사건이 잇따르면서 유통 창구가 되는 국내외 온라인플랫폼들 대응에 업계 안팎이 주목하고 있다. 네이버와 카카오 등 토종 플랫폼 기업은 자체 개발한 인공지능(AI) 기술을 활용한 선제적 조치뿐만 아니라, 신고·삭제 등 사후 대책과 관계기관 협조에 발 빠르게 움직이는 모습이다.

반면 텔레그램을 비롯한 해외 소셜 네트워크 서비스(SNS) 경우, 이메일과 공문 등으로 시정 요구와 자율적 규제를 요청할 수밖에 없는 상황이다. 해외 SNS가 딥페이크 성 범죄물 주요 유통경로인 만큼, 국가적 차원에서 더 신속한 소통과 협력이 시급하다는 목소리가 나온다.

29일 정보기술(IT)업계에 따르면 방송통신심의위원회는 전날 딥페이크 음란물, 성범죄물 관련 긴급 전체회의를 열고 “텔레그램과 페이스북, X(옛 트위터), 인스타그램, 유튜브 등 글로벌 온라인플랫폼 사업자들과 긴밀한 협의체를 구성해 신속한 삭제 및 차단 조치를 하겠다”라고 밝혔다.

아울러 방심위는 온라인상에 무분별하게 확산하는 딥페이크 성 범죄물에 대한 빠른 조치를 위해 네이버와 카카오에도 방심위 전용 신고 배너 설치를 요청했다. 네이버는 당일 오후 고객센터를 통해 ‘딥페이크 유포 주의 사항 및 신고 채널’을 안내했다. 포털 다음(DAUM)을 운영하는 카카오 고객센터도 다음 날인 29일 ‘딥페이크 범죄 주의 및 신고 채널’을 공지했다.

네이버와 카카오는 딥페이크 성 범죄물 관련 사전 조치도 시행 중이다. 네이버는 AI 기술 기반 음란물 필터링 시스템인 ‘클로바 그린아이(Green-eye)’로 자사 플랫폼 내 딥페이크 성 범죄물을 실시간으로 탐지해 삭제하고 있다.

클로바 그란아이 시스템은 네이버에 축적된 수백만장 이미지를 학습, 부적절한 이미지나 동영상이 네이버에 등록되면 AI 기술이 이를 감지하고 실시간으로 검색 노출을 차단한다. 네이버 검색, 카페, 블로그, 지식인 등에 적용됐다.

네이버는 지난 2017년 클로바 그린아이 시초 모델인 ‘엑스아이(X-eye)’를 개발한 데 이어 네이버AI 랩과 클로바의 선행 이미지 인식 기술 연구 결과를 토대로 2021년 ‘그린아이 2.0’을 도입했다. 그린아이 2.0은 기존 정상 또는 음란 구분에서 4가지 등급(정상·음란·성인·선정)으로 확대하고 적중률도 99.5%로 높였다.

이듬해인 2022년부터는 네이버 클라우드 플랫폼을 통해 외부 기업도 사용할 수 있는 솔루션으로 공개하고 있다.

카카오도 딥페이크를 이용한 허위 조작정보와 콘텐츠 유통을 막는 조치에 한창이다. 먼저 지난 1월 한국인터넷자율정책기구(KISO)와 협의해 포털 다음에 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했다. 이어 3월에는 딥페이크 유통을 막기 위한 이용자 대상 캠페인을 진행했다.

이달에는 카카오톡에 페이크 시그널을 도입해 허위 조작정보로 인한 사기, 사칭을 줄이기 위한 경고 메시지를 전달하고 있다. 딥페이크 관련한 제재 정책으로는 카카오톡 오픈채팅, 포털 다음을 비롯한 카카오 내 공개 게시판 서비스에 딥페이크 유통을 감시하는 모니터링 중이다.

특히 카카오는 카카오톡에서 허위 영상물을 배포하거나 제공하는 이용자에 카카오톡 전체 서비스 영구 제한 정책을 시행한다.

이와 달리, 이번 딥페이크 사태 근원지로 지목된 텔레그램은 기존 방심위 시정요청 협력 대상에 등재되지 않아 문제 콘텐츠에 대한 자율 삭제를 유도하기 어렵다. 방심위는 앞서 텔레그램 측에 이메일로만 시정요청을 했는데, 절반 가까이는 받아들여지지 않은 것으로 알려졌다. 텔레그램이 콘텐츠 삭제 여부를 결정하는 기준 또한 일관되지 않은 점도 개선 필요성이 지적됐다.

업계 관계자는 “국내 플랫폼들은 전부터 온라인상에 유포되는 성 범죄물 등에 24시간 필터링 등 여러 대책을 취해왔지만 정작 이번 사태 발현지인 텔레그램은 방심위 협의체에도 빠져있다”며 “텔레그램 등 글로벌 플랫폼에 대한 확실한 제재와 협조가 시급하다”라고 말했다.

한편 프랑스 수사당국은 지난 24일(현지시간) 파벨 두로프 텔레그램 창업자 겸 최고경영자(CEO)를 온라인 성범죄 등 각종 범죄에 공모한 혐의로 긴급 체포했다.