서울시 “AI 기술로 디지털성범죄 영상 모니터링 1265% 상승…삭제지원 2배↑”

AI 도입 이후 45만 건 모니터링
피해 영상 검출시간 97.5% 단축

▲서울시 AI 디지털성범죄 삭제지원 프로그램 성과. (자료제공=서울시)

서울시가 디지털성범죄 예방을 위해 AI(인공지능) 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만7440건의 영상물을 모니터링 하는 성과를 냈다. 이는 사람이 직접 모니터링 했을 때와 비교하면 무려 1265%나 늘어난 것으로 나타났다.

12일 서울시는 지난해 3월 개관한 ‘서울 디지털성범죄 안심지원센터’에서 서울연구원과 함께 전국 최초로 개발한 AI 삭제지원 기술을 운영하고 있다고 밝혔다.

AI 삭제지원 기술은 24시간 실시간 자동으로 디지털성범죄 영상을 추적·감시하는 시스템이다. 시는 지난 3월부터 올해 10월까지 총 45만7440건의 영상을 모니터링한 것으로 나타났다. 이는 AI 도입 전 삭제지원관이 직접 모니터링 한 3만3511건과 비교하면 약 1265%나 상승한 규모다.

실제 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%나 단축됐다. 피해영상물 삭제지원도 AI 기술 도입 이후 4141건을 지원한 것으로 나타났다.

현재 시는 ‘서울 디지털성범죄 안심지원센터’를 통해 피해영상물 삭제지원뿐만 아니라 긴급상담, 수사‧법률지원, 심리치료‧의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월 말까지 392명의 피해자를 지원했으며, 총 지원 건수는 1만5002건이다.

서울시 관계자는 “올해 처음으로 적용된 디지털성범죄 AI 삭제지원 프로그램이 향후 AI 학습 데이터가 축적되면서 정확도와 속도가 지속해서 향상될 것으로 기대하고 있다”고 말했다.

스토킹 피해자 원스톱지원 사업단 출범…“안심도시 서울”

▲서울디지털성범죄 안심지원센터 개관 1주년 기념식에 참석한 오세훈 서울시장. (자료제공=서울시)

시는 올해 9월 ‘스토킹 피해자 원스톱지원 사업단’을 출범하며 스토킹 범죄 대응에도 나섰다. 시는 서울경찰청과 공조해 출범 한 달 만에 총 200건, 39명을 지원했다. 특히 기존에는 재발 스토킹 범죄를 파악하기 어려웠다면, 현재는 ‘스토킹 피해자 핫라인 시스템’이 구축돼 피해자의 안전 상황 및 스토킹 재발 여부를 확인할 수 있게 됐다.

아울러 시는 ‘아동･청소년 성착취 방지 및 피해자 지원 조례’를 제정하며 정책 기반을 마련했다. 피해 아동·청소년 경찰 조사 시 상담원을 파견하는 ‘전문상담원 동석지원 제도’를 신설하고, ‘인권보호 안내서’를 시 소속 경찰서 31곳에 제작･배포하는 등 피해 지원에 나서고 있다.

오세훈 서울시장은 “서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.