성평등가족부가 디지털성범죄 피해자 보호를 위해 1) 삭제요청 자동화 2) AI 기반 아동ㆍ청소년 온라인 성착취 선제 대응 3) AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입하기로 했다. 피해자 중심의 신속하고 선제적인 대응을 완성하는 것이다.

성평등부에 따르면, 이번 조치로 2만개 사이트의 삭제요청부터 처리 관리까지 전 과정이 자동화됐다. 건당 처리는 1분 이내다. 중앙디지털성범죄피해자지원센터의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어와 연계했다. 우회 접속 URL도 대량 자동 삭제요청 할 수 있는 것이다.

또 ‘아동ㆍ청소년 온라인 성착취 선제적 대응 시스템’은 인공지능(AI) 기술을 활용해 소셜미디어나 랜덤채팅 앱 등에서 24시간 자동 수집해 분석, 신고, 삭제요청을 하는 방식이다.

성평등부는 시스템 구축 이후 25일 동안의 시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동ㆍ청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가했다고 집계했다.

에디터스 픽=우리의 안전한 디지털 환경을 위한 성평등부의 노력을 소개했습니다. AI를 선용하는 대표적인 사례가 아닐 수 없습니다. 여성은 물론이고, 어린이와 청소년에 대한 보호는 더더욱 중요한 일이 아닐 수 없습니다. 피해자가 인지하지 못한 합성물도 찾아내며 추가 유포를 사전에 차단할 수 있다는 점이 효과적입니다.

우먼스플라워 박종미