[디지털데일리 이건한 기자] 국민의힘 김승수 의원이 인공지능(AI)으로 만든 딥페이크 콘텐츠 게재 시 워터마크(식별표시) 표시를 의무화하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률' 일부개정법률을 20일 대표발의했다.

이번 개정안은 최근 AI 기술의 급격한 발전과 활발한 활용에 따라 온라인에서 AI를 이용한 거짓의 음향·화상 또는 영상 정보가 빈번하게 유통되며 어떤 정보가 딥페이크로 인한 거짓 정보인지 혼란을 초래하는 상황에 대한 우려로 마련됐다. 특히 딥페이크 피해 당사자들은 자신도 모른 채 자신의 얼굴과 음성이 성적인 허위영상물, 금융사기와 같은 범죄에 악용되고 있는 상황이다.

실제로 최근 '서울대 N번방' 으로 불리는 대학교 내 딥페이크 성적 허위영상물 관련 사건이 심각한 사회문제로 대두되기도 했다. 방송통신심의위원회의 딥페이크 기반 성적 허위영상물 시정요구 처리 건수도 ▲2020년 6월 25일 이후 473건 ▲2021년 1913건 ▲2022년 3574건 ▲2023년 7187건 등 매년 기하급수적으로 증가하고 있다.

이와 같은 추세에 국·내외에서 관련 논의가 활발히 진행되고 있다. 국내에서 지난 22대 총선을 앞두고 선거운동 관련 딥페이크 영상 게시 시 가상 정보라는 사실을 표시하도록 하는 공직선거법 개정안이 시행된 예가 있다. 해외에서는 유럽연합(EU)이 지난 12월 8일 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 마련했다. 미국의 경우 지난해 7월 구글, 마이크로소프트, 오픈 AI 등 주요 AI 기업 7곳이 미국 정부와 워터마크 사용을 공식화하고 의회 차원의 초당적 법안 제정도 추진되고 있다 .

김 의원이 이번 개정안도 주요 내용은 정보통신망을 통해 공개되는 딥페이크 영상( 음향·화상 포함)의 워터마크 표시를 의무화하고 지키지 않을 시 1000만원 이하의 과태료를 부과하도록 했다. 해당 영상을 삭제할 수 있는 조항도 담겼다.

한편 지난 5월에도 국회 국민동의 청원에 'AI 생성 표기 의무화 법안의 통과 촉구' 관련 청원이 제기돼 5만953명이 서명한 바 있다. 당시 소관위원회에도 회부됐으나 제21대 국회가 임기만료됨에 따라 폐기됐다.

이와 관련해 김 의원은 "AI 기술 발전과 함께 이를 악용하는 범죄와 피해사례가 지속해서 증가하고 있다"며 "AI 기술을 활용한 거짓 영상에 대한 식별 표시를 의무화하면 건전한 AI 기술 활용 문화 정착 및 피해 감소에 큰 도움이 될 것으로 기대한다"고 말했다.