서울시, 전국 첫 AI로 디지털 성범죄물 24시간 추적·삭제
조희선 기자
수정 2023-03-30 06:02
입력 2023-03-30 01:59
영상물 3분 내 검출… 정확도 200%
미성년자는 피해 신고 없어도 조치
센터는 제2, 제3의 ‘n번방’ 피해를 막는다는 목표로 지난해 3월 29일 개관했다. 영상물 삭제부터 법률 지원, 심리 치유까지 디지털 성범죄 피해자를 통합 지원한다.
서울기술연구원이 개발한 AI 기술은 24시간 실시간 모니터링을 통해 소셜네트워크서비스(SNS)에 게시된 피해 영상물을 자동으로 검출해 영상물을 삭제한다.
기존에는 피해자의 얼굴이나 특이점을 눈으로 판독해 수작업으로 찾아내야 했으나 앞으로는 AI 딥러닝 기술을 기반으로 오디오, 비디오, 문자 정보를 종합적으로 분석해 버튼을 한 번 누르면 피해자와 관련한 모든 영상물을 즉시 찾아낼 수 있게 된다.
관련 키워드 입력부터 영상물을 찾아내는 데까지 걸리는 시간이 기존 1~2시간에서 약 3분으로 크게 단축되고, 정확도 역시 200% 이상 높아졌다고 시는 설명했다. 또 센터 직원이 피해 영상물을 찾으면서 겪게 되는 트라우마와 스트레스도 줄일 수 있다.
시는 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해 건수가 지속적으로 증가하는 만큼 아동·청소년 피해 예방에 주력할 계획이다.
본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’에 따라 본인이나 부모의 신고 없이도 즉시 삭제가 가능한 만큼 AI 추적·감시를 통해 피해 예방에 선제적으로 나설 방침이다.
조희선 기자
2023-03-30 6면
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
