[디지털데일리 서정윤 기자] 생성형 인공지능(AI)을 활용한 이미지 제작과 합성은 점점 쉬워지는 추세다. 이에 엔터테인먼트 업계를 중심으로 연예인 이미지가 음란물 제작에 쓰이거나, 허락받지 않은 사진이 AI 모델 학습에 쓰이는 등 다양한 부작용이 발생할 수 있다는 우려가 나온다.

최근 엔터테인먼트 업계를 중심으로 연예인 사진이 생성AI에 악용될 수 있다는 불안감이 가중되고 있다. 딥페이크 음란물 등 악용된 사례를 찾아내기 어렵고, AI와 관련된 제도도 미비한 상황이라 단순히 소속사의 노력만으로는 대응하기 어렵다는 지적이다.

딥페이크 등 이미지 합성으로 인한 범죄는 성폭력처벌법 14조의2로 처벌한다. 해당 법안은 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물과 이에 따른 편집물·합성물·가공물·복제물을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 한다는 내용을 다룬다.

다만 딥페이크로 인한 피해를 실질적으로 예방할 수 있는지에 대한 의문은 지속되고 있다. 이미지 제작 사이트 대부분이 해외에 서버를 두고 있어 제작자를 적발하는 건 물론, 처벌도 쉽지 않기 때문이다.

방송통신심의위원회가 허은아 국민의힘 의원실에 지난해 제출한 자료에 따르면 시정 요구 및 자율 규제 조치한 성적 허위 영상물은 2020년 548건, 2021년 2988건, 2022년 7월 2723건으로 매년 증가 추세를 보였다. 다만 지난해 신고된 관련 범죄는 146건으로 5%수준이었다. 검거된 건수도 63건에 불과했다.

엔터테인먼트 업계는 케이팝(K-POP)의 인기가 높아지고 있는 가운데 연예인들이 딥페이크로 인한 피해에 노출되기 쉽다며, 관련 가이드라인이 필요하다는 입장이다. 업계의 한 관계자는 "딥페이크를 활용한 디지털 성범죄는 소속사만의 노력으로는 대응이 어려운 게 사실"이라며 "실질적인 처벌이 필요한 법적 조치와 가이드라인이 하루빨리 마련되기를 바란다"고 말했다.

업계 다른 관계자는 "문제를 인지하고는 있으나 현실적으로 대처하기 어려운 상황"이라며 "피해를 미연에 방지하기 위해서는 실질적으로 대처할 수 있는 가이드라인이 필요하다"고 설명했다.

해외에서는 생성AI가 범죄에 악용되지 않도록 규제하기 위한 움직임이 나타나는 추세다. 유럽연합(EU)은 AI가 야기할 수 있는 위험을 네 가지로 분류하고 허용되지 않는 위험을 야기하는 AI는 금지하는 법안을 준비 중이다. 또한 생성AI가 위법한 콘텐츠를 생성하지 못하도록 설계·개발·학습할 의무를 의무를 부과했다.

국내에서는 개인정보보호위원회를 중심으로 규제 논의가 이뤄지고 있다. 과학기술정보통신부도 디지털 질서의 새로운 방향을 담은 '디지털 권리장전'을 마련하기 위해 준비 중이다.