AI로 ‘성착취물’ 감시하니 삭제 지원 10배 늘었다…은어까지 속속 판별

김우진 기자
입력 2026 11 10 18:15
수정 2026 11 10 18:15
구글·엑스(X)·텔레그램 등에서 수집
범죄 기술도 고도화…합성 피해 증가
하루 5000건. 중앙디지털성범죄피해자지원센터의 인공지능(AI) 시스템이 감시하는 ‘아동·청소년 성착취물’의 개수다. 시스템은 구글·엑스(X)·블루스카이·텔레그램 등 총 14개 플랫폼의 게시물 중 성착취물 의심 게시물을 24시간 수집한다. 사진이나 영상에 등장한 연필·책상·교복 객체나 은어 등 220개 키워드가 기준이다.
성착취물일 확률이 60%가 넘으면 판단 사유와 함께 삭제 지원 실무자에게 전달된다. 실무자는 최종 판단 후 수사 의뢰, 홈페이지 신고 등 조치한다.
AI와 딥페이크 기술, 소셜미디어(SNS)의 발전으로 삽시간에 퍼지는 성범죄물의 덜미를 잡기 위해 삭제 기술에 AI가 도입됐다. 디성센터는 지난 4월 이런 AI 시스템을 이용한 후 1명당 하루 평균 성착취물 삭제 요청 건수가 9.7배 증가했다고 10일 밝혔다.
기존엔 실무자가 SNS에 성착취 키워드를 검색해 확인해야 했다. 업무 시간 외에는 모니터링이 불가해 1명당 하루 평균 20.8건을 처리했다. AI 시스템 도입 후엔 202건을 삭제 요청하고 있다. ‘조건만남’을 초성으로 쓴 ‘ㅈㄱㅁㄴ’도 포착해 100% 성착취물이라고 판단하는 등 정확도가 높다.
그러나 그만큼 범죄 기술도 고도화되고 있다. 성범죄물 삭제 지원 건수는 2022년 21만 3602건에서 2025년 31만 8020건으로 48.9%(10만 4000건) 늘었다. 딥페이크로 인한 피해는 커지고 있다. 2022년 1만 2727건의 피해 중 합성 편집은 1.7%(212건)였지만 올해 9월 기준 1만 6997건 중 9.1%(1552건)로 증가했다. 디성센터 관계자는 “매우 많은 딥페이크 제작 사이트가 온라인에 배포됐고 10세 이하도 활용이 가능할 정도로 간단하게 작동한다”고 설명했다.
유포 속도를 따라잡기 위해 디성센터는 탐지 플랫폼을 올해 74개, 내년엔 139개까지 늘린다. 대화의 맥락을 파악해 청소년이 올린 짧은 영상에 ‘예쁘다’, ‘몇 살이야’와 같은 댓글을 다는 ‘범죄 신호’도 포착하도록 학습시킨다.
다만 사이트가 삭제를 거절하는 비율이 28.5%인 점은 한계다. 성평등부 관계자는 “불법 사이트 서버를 해킹해 성범죄물을 삭제한다든지 사이트를 폐쇄할 방법에 대해 협의하고 있다”고 말했다.
ⓒ 트윅, 무단 전채 및 재배포 금지