흑인과 전과 기록 광고 사이트를 자동으로 연결토록 한 것이다. 구글 검색 엔진에 적용된 인공지능(AI) 기반 알고리즘이 데이터에 숨은 차별 기제를 기계적으로 학습한 결과였다.

이러한 사례는 정보기술(IT)이 일상화되고 또 고도화될수록 더 많아지고 있다. 미국 사법부에 잠시 도입됐던 ‘AI 판사’가 유색인종과 저소득층의 재범 가능성을 높게 예측하는가 하면, 마이크로소프트(MS)의 트위터봇 ‘테이’는 백인 우월주의자들에게 배운 증오 발언을 쏟아내기도 했다. 테크놀로지가 혐오를 재생산하는 수단이 된 것이다.

N번방 사태가 국민적 공분을 사고 있다. 성범죄의 ‘디지털화’가 거대 해악을 낳았다. 미성년자를 포함한 여성 성착취가 각종 보안 기술이 적용된 온라인 메신저 텔레그램을 통해 조직적으로 이뤄졌다. 사건이 수면 위로 오르자 일부 검색 포털에선 2차 가해가 벌어졌다. N번방 관련 피해자 정보와 이미지가 자동 연관검색어에 오르내리기 시작했다.

그러나 플랫폼 사업자들은 소극적인 대처로 일관했다. 특히 국내 규제를 받지 않는 해외 기업의 방관은 심각하다. N번방 범행의 본거지가 된 텔레그램은 아직 공식 협조를 발표하지 않았다. 본사 위치조차 알 수 없고 각국 정부 요청에도 쉽게 응답하지 않는다. 국민들은 텔레그램의 수사 협조를 촉구하며 가입 탈퇴 시위까지 벌이고 있다.

구글은 정부가 N번방 관련 검색어 삭제를 요청하자 뒤늦게 수습에 나섰다. 하지만 아직도 일부 검색어와 이미지들이 무방비로 노출되고 있다. 늑장 대응부터 안일한 대처까지, 과연 피해자를 보호하려는 의지가 있는지 의심이 든다. 구글을 비롯한 일부 해외 포털사업자들은 자율규제기구 KISO에도 가입하지 않아 국내에선 규제가 어려운 실정이다.

이들은 이번 사태의 공범이 아니라고 할 수 있을까?

구글, 트위터, 텔레그램, 디스코드 등 해외 플랫폼에서 유통되는 디지털 성범죄물은 매년 가파르게 증가하고 있다. 지난 5년간 방송통신심의위원회(방심위)가 심의한 해외 사업자의 디지털 성범죄물은 8만5818건에 달한다. 하지만 사업자들의 자율적인 삭제 조치는 그중 32%에 그친다.

무책임한 태도다. 물론 N번방 사태는 더 근본적인 문제들을 안고 있다. 성범죄에 대한 처벌이 미약한 국내 법체계, 왜곡된 성 관념과 약자혐오 등 풀어야 할 숙제가 많다. 하지만 디지털 성범죄를 뿌리 뽑기 위해서는 유통 길목인 플랫폼 사업자들의 책임 있는 자세도 필요하다. 그저 글로벌 스탠다드를 운운하며 눈을 감고 귀를 막아선 안 된다.

유색인종과 저소득층에 편견을 가졌던 AI 판사는 결국 미국 사법계에서 퇴장당하고 말았다. 증오 발언을 서슴지 않았던 MS의 트위터봇도 얼마 가지 않아 계정이 삭제됐다. 구글도 흑인을 차별하지 않기 위한 또 다른 알고리즘을 만들어야 했다. 인간을 존중하지 않는 기술은 바로 퇴출한다, 이것이 IT 시대의 진짜 ‘글로벌 스탠다드’가 되어야 하지 않을까.

<권하영 기자>kwonhy@ddaily.co.kr