지워도 지워도… 생겨나는 AI딥페이크 범죄

김우진 기자
입력 2026 11 10 18:20
수정 2026 11 11 00:54
디성센터 SNS 삭제 요청 건수 10배
유포속도 더 빨라… 탐지 대상 강화
하루 5000건. 중앙디지털성범죄피해자지원센터가 인공지능(AI) 시스템이 감시하는 ‘아동·청소년 성착취물’(아청물)의 개수다. 시스템은 구글·엑스(X)·블루스카이·텔레그램 등 총 14개 플랫폼의 게시물 중 아청물 의심 게시물을 24시간 수집한다. 사진이나 영상에 등장한 연필·책상·교복 객체나 은어 등 220개 키워드가 기준이다.아청물일 확률이 60%가 넘으면 판단 사유와 함께 삭제 지원 실무자에게 전달된다. 실무자는 최종 판단 후 수사 의뢰, 홈페이지 신고 등 조치한다. 신고에 필요한 자료도 AI 시스템이 자동으로 정리한다.
AI와 딥페이크 기술, 소셜미디어(SNS)의 발전으로 삽시간에 퍼지는 성범죄물의 덜미를 잡기 위해 삭제 기술에 AI가 도입됐다. 디성센터는 지난 4월 이런 AI 시스템을 이용한 후 1명당 하루 평균 아청물 삭제 요청 건수가 9.7배 증가했다고 10일 밝혔다.
기존엔 실무자가 SNS에 성착취 키워드를 검색하고 게시물을 모두 확인해야 했다. 업무 시간 외에는 모니터링이 불가해 1명당 하루 평균 20.8건을 처리했다. AI 시스템 도입 후엔 202건을 삭제 요청하고 있다. 조건만남을 초성으로 쓴 ‘ㅈㄱㅁㄴ’도 포착해 100% 성착취물이라고 판단하는 등 정확도가 높다.
그러나 삭제 기술이 정교해지는 만큼 범죄 기술도 고도화되고 있다. 성범죄물 삭제 지원 건수는 2022년 21만 3602건에서 2025년 31만 8020건으로 48.9%(10만 4000건) 늘었다. 특히 딥페이크 기술이 발전하면서 합성 편집 피해는 커지고 있다. 2022년 1만 2727건의 피해 중 합성 편집은 1.7%(212건)였지만 올해 9월 기준 1만 6997건 중 9.1%(1552건)로 증가했다. 디성센터 관계자는 “굉장히 많은 딥페이크 제작 사이트가 온라인에 배포됐고 10세 이하도 활용이 가능할 정도로 간단하게 작동해 SNS로 나르기도 쉽다”고 설명했다.
유포 속도를 따라잡기 위해 디성센터는 탐지 대상 플랫폼을 올해 74개, 내년엔 139개까지 늘린다. 대화의 흐름과 맥락까지 파악해 청소년이 올린 짧은 영상에 ‘예쁘다’, ‘몇 살이야’와 같은 댓글을 다는 ‘범죄 신호’도 포착하도록 학습시킨다.
ⓒ 트윅, 무단 전채 및 재배포 금지