성평등가족부가 AI 탐지 시스템 도입 뒤 6개월 동안 아동·청소년 성착취물 9만6000여 건의 삭제를 지원했습니다. 성평등가족부는 지난 10일 이 같은 실적을 공개했습니다.

종사자 1인당 하루 평균 처리량은 도입 전 20.8건에서 202건으로 늘었습니다. 9.7배입니다. 김미순 중앙디지털성범죄피해자지원센터 센터장도 시스템 도입 뒤 담당자 1인당 일평균 처리량이 9.7배 증가했다고 말했습니다.

시스템은 올해 4월부터 가동 중입니다. 구글, 트위터(X), 블루스카이, 텔레그램 등 14개 주요 온라인 채널과 각종 채팅앱에서 텍스트, 이미지, 영상을 24시간 자동으로 모아 분석합니다. AI가 의심 게시물을 먼저 골라 근거를 내놓으면, 담당자가 탐지 결과를 검토하고 유포 현황을 확인한 뒤 플랫폼에 삭제를 요청합니다. 최종 신고 여부는 사람이 판단하고, 검토 화면의 게시물 이미지는 흐리게 처리됩니다. 센터는 육안으로 가려내기 어려운 딥페이크도 찾아낸다고 밝혔습니다.

도입 전에는 사정이 달랐습니다. 담당자가 성착취물을 직접 눈으로 확인하다 심리적 소진을 겪었고, 수작업만으로는 많은 자료를 처리하거나 실시간으로 살피기 어려웠습니다. AI가 유해 영상을 먼저 찾아내면서 종사자가 이런 콘텐츠에 직접 노출되는 빈도도 줄었습니다.

센터 전체 처리 건수를 보면, 2025년 한 해 4만5438건이었습니다. 올해 4월부터 9월까지 6개월 동안은 9만6210건입니다. 두 기간의 길이가 다르기 때문에 9.7배는 전체 건수를 단순 비교한 수치가 아니라, 담당자 1인당 일평균 처리량의 변화를 뜻합니다.

센터 운영 현황과 해외 사이트 대응

삭제 지원을 맡은 중앙디지털성범죄피해자지원센터는 한국여성인권진흥원 안에 2018년 4월 문을 열었습니다. 지난해 12월까지 누적 삭제 지원은 168만 건을 넘었습니다. 일하는 인원은 정규직 43명과 기간제 4명을 합쳐 47명입니다.

해외 서버에 숨은 사이트에는 자동화된 연계 체계로 맞서고 있습니다. 센터는 미국 국립실종학대아동방지센터(NCMEC)의 사이버팁라인, 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연결해 삭제 요청을 처리합니다. API는 서로 다른 시스템이 정해진 방식으로 데이터를 주고받게 하는 접속 통로입니다. 약 2만 개 웹사이트의 삭제 요청과 이력 관리가 이 체계로 이뤄지고, 건당 처리 시간은 1분 이내로 줄었습니다.

성과는 구체적인 건수로도 나왔습니다. 삭제 요청에 응하지 않던 미국 서버 기반 해외 사이트에서는 95건이 제거됐습니다. 클라우드플레어를 통한 자동 삭제로는 2만5000여 건이 사라졌습니다.

피해자 지원 절차와 향후 계획

삭제를 원하는 피해자는 센터 홈페이지에서 비공개 온라인 상담을 신청하거나 전화로 접수할 수 있습니다. 게시물의 구체적인 인터넷 주소, 피해 영상이나 사진, 게시물 제목과 내용 같은 정보를 준비하면 접수가 수월합니다. 미성년 피해자는 법정대리인 동의 없이 직접 신청할 수 있습니다. 가해자를 경찰에 신고하는 것은 삭제 지원의 필수 조건이 아니라고 센터는 안내했습니다.

성평등가족부는 과학기술정보통신부와 함께 2027년까지 탐지 대상 플랫폼을 넓히고 AI 판별 정확도를 높일 계획입니다. 지역 센터에는 설치형 소프트웨어를 보급해 영상 분석, 유포 모니터링, 삭제 요청을 현장에서 처리하도록 할 예정입니다. 이 소프트웨어는 피해자의 민감정보를 외부로 보내지 않는다고 성평등가족부는 설명했습니다.