전국적으로 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄 피해가 확산되자 정부가 나섰다.

윤석열 대통령은 27일 국무회의 모두발언에서 “딥페이크 영상물은 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위다. 우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”며 강력히 대응할 것을 지시했다.

윤석열 대통령이 27일 국무회에서 딥페이크 등 성범죄에 강력 대응할 것을 지시하고 하고 있다. 대통령실

윤 대통령은 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS(소셜미디어)를 타고 빠르게 유포되고 있다. 피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”고 지적했다.

이어 “관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑고, 건전한 디지털 문화가 자리할 수 있도록 교육 방안도 강구해 달라”고 당부했다.

지난 2월 ‘윤석열 대통령 양심고백 영상’이란 제목으로 유포된 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물. SNS

이에 따라 방송통신심의위원회도 이날 긴급회의를 소집했다.

방심위는 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련했고, 오는 28일 전체 회의를 열어 해당 내용을 확정하기로 했다.

방심위는 우선 방심위 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설한다. 또 모니터링 요원을 기존보다 배로 늘려 실시간 피해 상황을 감시할 방침이다.

또 즉시 협의할 수 있는 '핫라인'을 개설해 피해 확산 차단에 신속성을 기할 예정이다.

이 같은 피해 확산은 국회 탓이 더 크다.

딥페이크 범죄 근절과 관련 법안들은 지난 21대에서 발의됐으나 미적댔고 22대 국회에서 재발의된 상태다.

다만 AI 기술이 고의로 악용되는 우려를 막기 위한 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등은 지난 26일 국회 과학기술정보방송통신위 전체 회의에서 법안소위로 넘어가는 등 논의가 다시 시작되고 있다.

이 법안은 AI 생성물에 가상의 정보인을 알리는 특정 표식, 이른바 워터마크나 메타데이터를 넣도록 하고, 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화했다.

한편 최근 텔레그램 등 소셜미디어에서는 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포한 단체 대화방이 대규모로 발견됐다.

경찰청은 지난 1~7월 딥페이크 성 착취 범죄 신고가 전국에서 총 297건 접수됐으며, 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했다고 밝혔다.

더경남뉴스 정창현 기자 gaia008@naver.com 정창현 기자의 기사 더보기

저작권자 ⓒ 더경남뉴스