정부가 인공지능(AI)을 활용해 지난 6개월간 아동·청소년 성착취물 9만 6000여 건의 삭제를 지원한 것으로 나타났다. 기존 중앙디지털성범죄피해자지원센터(이하 중앙디성센터) 종사자 1명이 하루 평균 처리하던 삭제 요청 건수와 비교하면 약 9.7배 늘어난 규모다.
 
성평등가족부는 10일 “지난 4월부터 본격 운영한 AI 시스템을 통해 불법촬영물 등의 삭제 요청과 이력 관리를 자동화하면서 업무 처리 속도가 크게 향상됐다”며 이같이 밝혔다.
 
중앙디성센터가 활용하는 AI 시스템은 온라인상의 성착취물과 유인 정보를 24시간 자동으로 탐지·분석한다. 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인 정보를 수집하고, 이후 담당자의 검토를 거쳐 유포 현황 모니터링과 삭제 요청이 이뤄진다.
 
지난해까지만 해도 이 같은 업무는 대부분 종사자의 수작업으로 진행됐다. 이에 중앙디성센터가 1년간 삭제 지원한 아동·청소년 성착취물은 4만 5000여 건에 그쳤지만, AI 시스템 도입 이후에는 6개월 만에 9만 6000여 건으로 늘었다.
 
삭제 요청과 처리 이력을 관리하는 업무에도 자동화 기술이 적용됐다. 약 2만 개 사이트를 대상으로 삭제 요청과 처리 이력을 자동 관리할 수 있게 됐으며, 건당 삭제 요청 처리 시간도 1분 이내로 단축됐다.
 
종사자들의 업무 환경 개선 효과도 나타났다. 성착취물에 직접 노출되는 빈도가 줄어들면서 심리적 부담을 덜고 피해자 지원 업무에 집중할 수 있게 됐다. 미국 국립실종학대아동방지센터와 글로벌 콘텐츠전송네트워크(CDN) 사업자인 클라우드플레어와 API 연계를 통해 우회 접속 주소에 대한 대량 자동 삭제 요청도 가능해졌다.
 
성평등가족부는 한국여성인권진흥원과 함께 AI 탐지 체계를 더욱 고도화할 계획이다. 과학기술정보통신부와 협력해 내년까지 AI 시스템의 성능을 개선하고 탐지 대상 플랫폼을 확대한다. 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도도 높일 방침이다
 
아울러 중앙디성센터에서 활용하는 AI 기술을 지역 현장까지 확대해 디지털 성범죄 피해자 지원을 강화할 예정이다.
 
원민경 성평등부 장관은 “기술 환경 변화에 따라 빠르게 진화하는 디지털 성범죄에 강력하고 신속하게 대응하기 위해 정부 차원의 기술적 대응이 필수적”이라며 “AI 등 최신 기술을 현장에 적극 도입해 대응 속도와 정확도를 높이겠다”고 밝혔다.