[AI 활용] 디지털 성범죄 예방…24시간 자동 감시 시스템 구축 (2025.07.23) > 블랙뉴스

🧾 관련 정보  

주관: 과학기술정보통신부, 여성가족부  

시행기관: 한국지능정보사회진흥원 등  

사업명: AI 기반 디지털 성착취 대응 시스템

📅 발생 일시  

2025년 7월 23일 사업 착수 보고회 개최

🧩 사건 개요  

정부는 인공지능(AI)을 활용해 아동·청소년 대상 성 착취물 유통을 실시간 감시·차단하는 시스템을 구축 중입니다. 기존 수작업 기반 탐지 방식에서 벗어나, AI가 이미지·키워드 유해성 분석을 통해 24시간 자동 탐지하고, 플랫폼에 삭제 요청 및 이력 관리를 수행합니다.

💸 피해 금액  

(금액 산정 불가 – 예방적 목적의 시스템)

🕵️ 수법 요약  

- 기존 수작업 모니터링 → AI 기반 자동 감시 전환  

- 유해 키워드·이미지 탐지 후 위험도 분석  

- 의심 게시물 자동 삭제 요청  

- 처리 내용 통합 관리 및 피해 접수 연계

📎 참고 정보  

- 자가 학습형 AI 기반  

- 한국여성인권진흥원, 삭제지원 업무 참여  

- 상담-삭제-피해자 지원까지 통합 체계 구축 추진

🚨 주의사항  

- **디지털 성범죄는 실시간 감시·차단 시대 진입**  

- 온라인 상 유해물 게시 시 자동 추적·삭제될 수 있음  

- 피해자는 해당 시스템 통해 즉시 신고 및 상담 연계 가능  

- AI 오작동 시 오인 삭제 우려도 있어 정확도 관리 병행 필요