[안전] AI로 성착취영상 찾아 삭제 신고까지 6분! 전국 최초 개발

| 기존 3시간→6분, 처리 속도 30배 획기적 단축

AI 모니터링 도입에 이어 삭제 신고까지 ‘전 과정 자동화’
서울시가 온라인상 성착취영상을 찾아내 삭제 신고까지 지원하는 ‘AI 자동 삭제신고 시스템’을 최초로 개발해 실행에 들어간다.

시는 디지털 성범죄 예방과 피해자 지원을 위해 2023년도 3월 서울연구원과 협력, 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발했다. 이를 활용해 서울 디지털성범죄 안심지원센터(서울특별시여성가족재단 운영)에서 24시간 불법 영상물 감시 및 삭제지원을 하고 있다.

‘AI 자동 삭제신고 시스템’은 AI가 24시간 피해 영상물을 상시 검출한 뒤, 찾아낸 영상물을 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다. 이렇게 완성된 신고 이메일은 삭제지원관이 최종 확인해 발송하게 된다.

이렇게 되면 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인 상에 무분별하게 떠도는 불법 영상물을 찾아내서 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 기존 약 2시간 반~3시간에서 불과 ‘6분’으로 획기적으로 단축된다.

출처 : 내 손안에 서울