경찰이 인공지능(AI)을 이용해 지인 등의 사진을 이용해 합성물을 제작·유포 하는 '딥페이크 성범죄'에 대한 특별 단속에 나선다. 단속은 28일부터 7개월간 집중한다.

윤석열 대통령이 27일 국무회의에서 “철저한 실태 파악과 수사를 통해 '디지털 성범죄'를 뿌리 뽑으라”고 지시했다.

최근 텔레그램 등 SNS와 온라인 커뮤니티를 통해 초등학생부터 군인까지 대상을 가리지 않고 무차별적으로 불법 합성물이 유포돼 큰 사회 문제가 되고 있다.

SNS와 온라인 커뮤니티에 유포된 '딥페이크 피해학교 지도'. 이 사이트 운영자는 제보를 바탕으로 지도를 제작해 실제 피해 여부를 검증한 것은 아니라고 밝혔다. '피해학교지도 사이트' 캡처

AI 기술 발전으로 누구나 어렵잖게 허위 영상물을 만들 수 있게 되면서 관련 성범죄가 크게 증가하고 있다.

텔레그램에는 전국 초·중·고·대학의 이름이나 '지능방(지인능욕방)', '겹(겹치는) 지인방' 등의 이름으로 딥페이크 합성물을 제작해 유포하는 불법 대화방이 우후죽순처럼 생겨 피해자가 속출하고 있다.

경찰 자료에 따르면 허위 영상물 등 관련 범죄는 2021년 156건에서 2022년 160건, 지난해 180건으로 늘다가 올해는 7월 현재 무려 297건으로 폭증했다.

특히 10대 청소년이 딥페이크 허위 영상물을 만들어 유포하는 비중이 커지고 있다.

10대 유포자 중 피의자 수는 2021년 78명 중 51명(65.4%)에서 지난해 120명 중 91명(75.8%)으로 2년 새 1.8배로 증가했다.

올해 7월까지 검거된 피의자 178명 중 131명(73.6%)이 10대로 조사됐다.

딥페이크 성범죄가 암호화가 상대적으로 잞돼 있는 텔레그램에서 주로 이뤄지고 있다. 적발되면 방을 폐쇄한다.

경찰의 특별단속은 시도 경찰청 사이버성폭력수사팀을 중심으로 진행된다.

딥페이크 여부를 탐지하는 프로그램을 활용해 범행을 분석하고, 국제 사법 공조도 할 예정이다.

또 학교전담경찰관(SPO)을 중심으로 한 범죄첩보 수집 및 교육활동을 통해 교내 범죄 예방에도 나선다.

청소년성보호법에는 청소년이 불법 영상을 소지하거나 시청하면 1년 이상의 징역에, 제작·배포할 경우엔 최소 징역 3년에서 최대 무기징역에 처하도록 규정하고 있다.

한편 SNS 등에는 ‘피해학교 지도’가 만둘어져 공유되고 있다. 이를 만든 사이트는 딥페이크 피해가 발생한 학교와 위치를 통해 피해 사실을 스스로 확인할 수 있게 했다.

딥페이크 성범죄가 학생들을 중심으로 만들어지고 유통되면서 학부모들도 온라인 커뮤니티 등에 어린 자녀의 ‘휴대전화를 검사했다’나 ‘텔레그램 사용 여부 등을 확인해야 한다‘는 글을 올리고 있다.

SNS에 프로필 사진(프사)을 공개한 네티즌들은 얼굴 사진을 삭제하거나 비공개로 전환하고 있다. 또 온라인의 개인정보를 삭제해주는 ‘디지털장의사’ 문의도 많아지고 있다.

더경남뉴스 정창현 기자 gaia008@naver.com 정창현 기자의 기사 더보기

저작권자 ⓒ 더경남뉴스