불특정 여성의 얼굴과 나체 사진을 합성하는 '딥페이크' 사진 성범죄물이 온라인에서 공유되고 있다는 사실이 알려지면서 불안감에 소셜서비스(SNS)에 올렸던 사실을 삭제하는 사람들이 늘어나고 있다.
26일 온라인 커뮤니티와 SNS 등에 '텔레그램 딥페이크 피해자 명단'이라는 글이 다수 게재되자, 자신도 피해자가 될 수 있겠다는 불안감에 휩싸여 SNS에 올렸던 본인 얼굴을 삭제하는 이들이 늘어나고 있다. 한 누리꾼은 "딥페이크 성범죄의 가장 악랄한 점은 '혹시 나도?'라는 생각을 끊임없이 떠오르게 한다는 점"이라고 했다.
온라인에 나돌고 있는 명단은 최근 딥페이크 사건이 발생했던 대학교를 비롯해 전국의 중·고등학교 이름까지 나와있다. 딥페이크 피해 학교 명단이 나돌게 된 계기는 얼마전 서울대와 인하대 학생들의 텔레그램 단체대화방에서 이같은 합성물이 유포되고 있다는 사실이 알려지면서부터다. 실제로 텔레그램에서 '지인'이나 '능욕' 등으로 검색해보면 수십 개의 대화방이 검색된다.
채팅방에서 지인의 신상정보나 평범한 사진들을 공유하면, 이 사진들이 딥페이크 사진이나 영상물로 제작 배포되는 것으로 알려졌다. 몇몇 채팅방은 처음 몇 건은 무료로 제작해주고, 일정 횟수가 넘어가면 유료로 제작해주는 것으로 알려졌다.
또 최근에는 여군을 상대로 한 딥페이크 성범죄물이 유포됐다. 여군을 상대로 딥페이크 사진을 유포하고 성희롱 발언을 주고받은 대화방 참가자는 900명이 넘는 것으로 확인됐다. 해당 대화방에 참가하기 위한 조건 중에는 여군의 개인 텔레그램과 신상을 공유하거나 관리자가 지정한 여군에게 '능욕 메시지'라는 것을 보내고 이에 대한 반응을 인증하는 등 도를 넘는 행위가 명시돼있다.
이 사실이 알려지면서 현재 SNS와 일부 커뮤니티에서 딥페이크 성착취물 가해자 및 운영자로 지목된 남성들의 신상을 퍼뜨리는 사적제재가 가해지면서 또다른 문제가 되고 있다. 현재 '딥페이크 가해자 인스타그램 아이디'라는 제목의 명단이 빠르게 유포되고 있는데 이 명단이 실제 가해자 명단인지 여부도 확인되지 않은 채 나돌고 있어 선의의 피해자가 양산될 우려가 크다.
딥페이크 성범죄에 대해 "터질 게 터졌다"는 반응도 있다. 인공지능(AI) 응용 코디네이션 학과를 재학중인 김모(24)씨는 "AI 기술이 발달하면서 합성사진은 물론 영상까지 누구나 손쉽게 만들 수 있게 됐다"며 "얼마전 일론 머스크가 여러 유명인사를 합성해 우스꽝스러운 런웨이 영상을 만들지 않았냐, 오히려 이제서야 이슈가 된 게 놀랍다"고 말했다.
실제로 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면 허위(합성) 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 이번 피해로 인해 올해는 기존보다 2배 이상 급증할 것으로 예상된다.
방송통신심의위원회는 텔레그램 단체 대화방을 중심으로 확산되고 있는 딥페이크 성적 허위영상물 관련 대응에 나서겠다고 밝혔다. 방심위는 악성 유포자 정보가 확인되는 대로 수사의뢰하고, 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고 했다. 다만 현행법상 불법합성물을 제작 및 소지했다 하더라도 '유포 목적'이 입증되지 않으면 처벌이 어려워 관련법 개정을 요구하는 목소리도 커지고 있다.
Copyright @ NEWSTREE All rights reserved.
