[ⓒ 네이버·카카오]

[디지털데일리 이나연기자] 오는 4월 제22대 국회의원 총선거를 앞두고 포털 플랫폼에 유통되는 콘텐츠들에 대한 관리 책임 요구가 커진 가운데, 네이버와 카카오가 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 및 유해 콘텐츠 대응책 재정비에 한창이다.

일부 주의가 필요한 콘텐츠에 경고성 문구를 확대 적용하는 한편, 인공지능(AI) 기술을 활용해 허위정보 혹은 딥페이크 콘텐츠를 검출하는 방안도 검토한다.

23일 정보기술(IT)업계에 따르면 네이버는 다음 주부터 딥페이크 포함한 일부 키워드에 대해 안내 문구를 노출할 예정이다.

가령 사용자가 네이버 검색창에 ‘딥페이크앱’, ‘딥페이크 사이트’ 같은 검색어를 입력하면 검색 결과에 주의 문구를 띄우는 식이다. 네이버 총선 페이지가 열리는 시점과 맞물려 딥페이크 콘텐츠가 정치적으로 오용·악용되는 사태를 막기 위한 여러 방안을 활용하겠다는 의도로 보인다.

현재 네이버는 카페, 블로그에 콘텐츠를 올릴 때도 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 노출하고 있다.

네이버 관계자는 “총선 페이지 오픈과 함께 선거 콘텐츠 관련 회사의 대응 방침과 노력에 관한 내용도 종합적으로 공개할 계획”이라고 설명했다.

아울러 네이버판 챗GPT인 ‘클로바X’ 경우, 음란성 콘텐츠나 얼굴 합성 요청에 대한 결과물을 내놓지 않기로 했다. 클로바X는 네이버 자체 초대규모언어모델(LLM)인 ‘하이퍼클로바X’를 활용한 AI 챗봇 서비스다.

클로바X는 사용자가 대화창에 질문과 요청을 하면 답을 해주는 구조다. 여기에 이미지 삭제나 변경을 해주는 편집 기능을 제공하게 되면서 부적절한 콘텐츠 생성은 사전 차단하는 조치를 취했다.

카카오가 운영하는 포털 사이트 다음(Daum)도 유해 콘텐츠를 필터링하는 기술에 대한 연구를 이어오고 있다.

카카오 관계자는 “AI 콘텐츠 건강성 관련 연구 차원에서 허위정보 혹은 딥페이크를 검출하는 역할을 하는 방향으로 연구가 진행 중이며, AI 어뷰징 관련 기술적 대응을 위한 팀을 별도 운영 중”이라고 전했다.

예컨대 카카오는 다음 이미지 검색에 있어 올려진 콘텐츠가 성인물인지 검출하는 시스템을 적용하고 있다. AI 기술을 활용해 일반 이미지와 스팸·성인 이미지를 분류해 빨리 색인 대상으로 유입되는 이미지들을 분류 처리하는 것이다.

생성 AI 이미지 차원에선 카카오브레인의 이미지 생성 모델인 칼로에 비가시성 워터마크 기술을 검토 중이다. 비가시성 워터마크(invisible watermark)는 이용자들에겐 보이지 않으나 기술적으로는 칼로 생성 여부를 할 수 있는 기술로, 구글에서도 해당 기술을 연구하고 있다.

업계 관계자는 “글로벌 빅테크들도 딥페이크 등 주의 콘텐츠를 100% 잡아낼 수 있는 AI 기술은 없는 상황”이라며 “국내 포털 플랫폼도 이용자 주의 환기 등 기본적인 허들부터 시작해 점차 관련 대책이 고도화할 것”이라고 말했다.