문서의 을 확인하세요.
| <colbgcolor=#bc002d><colcolor=#fff> 텔레그램 딥페이크 음란물 유포 사건 | |
| 발견 일자 | 2024년 8월 20일[1] |
| 발생 국가 | [[대한민국|]][[틀:국기|]][[틀:국기|]] |
| 발생 지점 | 전국 100여개 이상의 교육기관, 군 부대 및 텔레그램 |
| 관련 법률 | 협박 (형법 제283조) |
| 아동ㆍ청소년성착취물의 제작ㆍ배포 등 (청소년성보호법 제11조) | |
| 통신매체를 이용한 음란행위[2] (성폭력처벌법 제13조) | |
| 허위영상물 등의 반포등 (성폭력처벌법 제14조의2) | |
| 피해자 | 교육부 집계 920명 (2024. 11. 4. 기준)[3] 경찰청 집계 51명 이상 (2024. 07. 말 기준)[4] 국방부 집계 13명 이상 (2024. 09. 05. 기준)[5] 검찰청 집계 1200명 (2024. 09. 13. 기준)[6] |
| 가해자 | 경찰청 집계 318명 (2024. 09. 10. 기준)[7] |
| 현황 | 경찰 수사 중[8] |
1. 개요2. 유형3. 전개
3.1. 8월 19일 ~ 22일3.2. 8월 26일3.3. 8월 27일3.4. 8월 28일3.5. 8월 29일3.6. 8월 30일3.7. 9월 1일3.8. 9월 2일3.9. 9월 3일3.10. 9월 4일3.11. 9월 5일3.12. 9월 6일3.13. 9월 8일3.14. 9월 9일3.15. 9월 21일3.16. 9월 26일3.17. 9월 30일3.18. 10월 16일3.19. 10월 18일3.20. 10월 21일
4. 반응5. 논란 및 사건 사고6. 대처7. 여담8. 관련 정보9. 둘러보기[clearfix]
1. 개요
2020년부터 시작된 텔레그램에 개설된 단체 채팅방을 통해 학생·교원 등 교육계 인사들을 대상으로 한 딥페이크 음란물이 유포되는 디지털 성범죄 행위가 발생하였던 사실이 2024년 8월 말 동시다발적으로 발견되고 알려진 사건이다.2. 유형
이미지 출처: 한겨레 기사[9]
주로 가해자들은 인스타그램, 네이버 블로그, 페이스북 등의 게시물에서 셀카를 여러 장을 무단으로 수집해 AI에게 학습시켜 기존 음란물에 얼굴만 갈아 끼우는 식으로 합성하는 것으로 추정되며 이는 셀카가 불특정 다수가 볼 수 있는 곳에 업로드하면 누군가는 그 사진을 가져가 딥페이크 음란물을 만들어 텔레그램에 유포하는 식으로 보인다. 중·고등학생 또한 범죄의 표적이 된 것으로 추정되며 겹지인방이라는 텔레그램 채널을 통해 지역이나 학교 등 범위를 제한하여, 일반인의 신상을 특정하고 이렇게 특정된 신상에 대해 미디어 사료를 수집하여 딥페이크를 제작하는 방식으로 추정된다. 그리고 이를 통해 수익을 창출한다고 한다.[10] 일부는 텔레그램이 아닌 Discord로 공유한다고 한다. #
3. 전개
3.1. 8월 19일 ~ 22일
2024년 8월 19일 MBC 뉴스데스크가 단독으로 보도하면서 이슈가 시작되었다. 보도 내용은 인하대 졸업생 유 씨가 자신의 얼굴이 텔레그램 방에서 개인정보와 함께 딥페이크로 합성된 음란물이 유포되고 있다는 인스타그램 DM을 받았고, 음란물 중 딥페이크 사진 등도 있었으며 음성 파일도 포함되어 있었다는 것이다. 그리고 해당 방 안에 있는 음란물을 이모티콘화시켜 조리돌림하였으며 유 씨가 이 채팅방의 존재를 알아내자 방 참가자들끼리 직접 유 씨의 인스타그램 등으로 조롱이 섞인 DM을 보냈고, 연락을 받지 않자 가해자들은 DM을 통해 "너 때문에 지인들까지 피해 보는 거다", "흉기로 지인을 해칠 것"이라는 보복 협박까지 이어나가는 등 피해자를 조롱하였다.MBC는 해당 보도에서 해당 텔레그램 방이 마치 인하대생 천수백 명이 모여 있는 인하대 내부 텔레그램 방인 것처럼 왜곡보도하였으나, 실제로는 전국의 불특정 다수 천수백 명이 모여 있는 방이었으며 그 안에는 피해자들이 전국 70여 개 소속 대학별로 분류되어 있었고 그 피해자들 중에 인하대생도 있는 것이었다. # 인하대 측에서는 MBC를 비롯한 언론들의[11] 이런 왜곡보도에 대해 입장문을 내기도 했다. #
대학교 뿐만 아니라 중·고등학생을 대상으로 한 방도 있는 것으로 드러났다. 모여 '겹지인'에 해당하는 인물을 대상으로 딥페이크 합성물을 만드는 방식이다. 구체적으로 지역, 대학별로 모여 특정 여성을 아는지 확인하고 겹치는 여성이 있으면 해당 여성을 대상으로 딥페이크 성범죄물을 나아가 특정 여성의 딥페이크 합성물이 대량으로 생성되면 '김아무개 능욕방'과 같은 채널을 따로 만들어 가해하기도 했다. #
3.2. 8월 26일
이외에도 군인을 대상으로 한 딥페이크 범죄와[12] # 군대 이외에도 특정 직업군을 대상으로 세분화된 불법합성물 채널도 여럿 존재한다는 것이 밝혀졌으며 이에는 교사, 간호사를 포함하여 운동 선수까지 포함되었다. # 심지어는 여동생·엄마 등 가족을 대상으로 한 딥페이크까지 등장하기까지 할 정도였다. #이와 같이 여러 피해사례가 발견되자 SNS에서는 딥페이크 영상물이 만들어진 지역과 학교 명단도 공유되었다. 실제 이 학교 소속 학생들의 피해 여부는 확인되지 않았지만, 명단에 올라 있는 전국 중·고교와 대학교 이름만 수백곳에 달하는 것으로 알려져 충격을 주었다. 가해자 신상이라며 다수의 이름과 얼굴 등이 담긴 게시물도 빠르게 번졌으나 이것 역시 진위 여부는 아직 밝혀지지 않았다.
이에 대해 경찰과 교육 당국이 대응에 나섰다. #
3.3. 8월 27일
대구시교육청은 피해 사례가 접수되지 않았다고 밝혔다. 대구경찰청 사이버수사대는 온라인에 올라온 지역의 학교 명단을 확인하고 피해자가 있는지 확인하고 있다면서 대구경찰이 지금까지 수사한 딥페이크 관련 사건도 해당 학교들과 관련성이 없다고 밝혔다. #울산시교육청은 피해 사례를 파악했으나 아직까지 피해 사례는 한 건도 접수되지 않았다고 밝혔다. #
제주경찰청은 현재까지 딥페이크 성범죄 관련 피해 신고는 접수되지 않은 것으로 파악되었다면서 해당 게시물에 대해서도 근거가 없는 상황이라고 밝혔다. 제주 경찰은 게시물 진위 여부를 조사 중이다.
제주도교육청은 도내 학교에 미확인 정보들로 인해 일부 학생들이 2차 피해를 입을 수 있어 허위사실 유포 주의 등을 교육해 달라고 당부했다. 제주서도 '딥페이크' 공포…확인되지 않은 명단 떠돌아
충청북도교육청은 도내 학교에서 접수된 피해 신고가 없는 것으로 파악되었다고 밝혔다. #
경기도교육청은 '디지털 성범죄(불법 합성 및 유포) 대응 및 예방 교육'이라는 가정 통신문을 배포했다. 다만 경기도교육청은 도교육청에 접수된 피해 사례는 아직까지 없다면서 확인된 피해 사례는 없지만 경찰과 함께 피해 학교들이 있는지 계속 확인해 있으면 지원할 것이라고 밝혔다. #
대전광역시교육청은 조선일보와의 인터뷰에서 각 학교에 관련 공문을 보냈다고 밝혔다. # 또한 대전 지역은 피해사례가 1건임을 대전교육청이 밝혔다.
인천광역시교육청은 딥페이크 음란물 관련 신고는 접수되지 않았다면서 신고는 없지만 예방 차원에서 피해 의심 학교를 중심으로 전수 조사를 실시해 대응에 나서기로 했다고 밝혔다. #
전북특별자치도교육청은 서거석 교육감이 "최근 딥페이크 사건이 확산하고 있다. 이에 대한 예방과 대응 강화가 필요하다"고 민주시민교육과에 대응책 마련을 긴급 지시했다. 서거석 전북교육감 "딥페이크 등 사이버범죄 대응 강화하라" - 뉴스1
서울특별시경찰청은 딥페이크를 이용한 성범죄가 발생하지 않도록 각 교육청에 긴급스쿨벨 2호를 발령하여 일부 텔레그램 채널에 대해 내사에 착수했다. 서울경찰 '딥페이크' 긴급스쿨벨…텔레그램 채널 내사 착수 - 연합뉴스
국가수사본부는 8월 28일부터 2025년 3월 31일까지 7개월간 '딥페이크 성범죄 관련 특별 집중단속'을 실시한다고 밝혔다. '딥페이크 성범죄' 7개월간 집중단속…학교 첩보수집 강화 - 연합뉴스
국회 여성가족위원회가 9월 4일 '딥페이크 성범죄' 대응 현황을 점검하기 위한 긴급 현안질의를 진행한다고 밝혔다. #
3.4. 8월 28일
국무회의에서는 불법 해외직구 통관 안전성 검사를 94억원을 들여 확대함과 동시에 딥페이크 성범죄가 잇따르는 것에 따라 관련 영상·음성 분석 예산 27억 원을 편성, 투입하기로 의결했다. #과학기술정보통신부는 딥페이크 예방 예산 20억 원을 포함해 내년도 예산을 19조 원 규모로 편성했다고 밝혔다. 딥페이크 탐지 고도화 및 생성 억제 기술 개발에 10억 원, 자가진화형 딥페이크 탐지 기술 개발에 10억 원 등 총 20억을 투입하겠다는 것이다. 이를 통해 과기정통부 소관 R&D 예산은 올해보다 16.1% 증액된 9조 7000억 원이 되었다. #
강도현 과학기술정보통신부차관과 신영숙 여성가족부차관, 신보라 한국여성인권진흥원 원장이 한국여성인권진흥원 디지털성범죄피해자지원센터에 현장방문을 했다. #
- 강도현 차관은 "피해자 입장에서 여러 제도적 보완과 정책적 지원에 대한 문제를 논의하고자 오늘 (디성센터를) 찾았다"라고 밝혔다. 이어 "방송통신위원회, 방송통신심의위원회, 경찰 등 사법 기관과의 협조를 통해 그간 (대응을 위해) 준비된 부분을 조속히 시행하고 제도적 보완 측면도 강력하고 과감하게 진행할 계획"이라면서 여가부와도 "성폭력 방지법 개정안과 딥페이크 성범죄 영상물 탐지 시스템 구축 방안을 구체화해 나가는 것으로 알고 있다"라고 전했다.
- 신영숙 차관은 "(성 착취물을) 빠르게 탐지할 수 있는 삭제 시스템의 고도화와 피해 지원 현장에서 개선이 필요한 사항을 중심으로 협력 방안을 잘 논의해 볼 것"이라고 밝혔다.
- 신보라 원장은 "아동·청소년 신상 정보를 포함한 불법 합성 피해 모니터링 집중 기간을 운영해 텔레그램 피해 촬영물이 게시된 URL 및 계정 등 증거 자료를 수집해 수사에 적극 협조하겠다"라면서 "디지털 성범죄 특성상 영구적 삭제가 불가능한 경우도 많지만, 피해자의 고통을 덜기 위해 보다 신속하고 완전한 삭제를 목표로 다양한 기술적 방법을 모색해 왔다"라고 강조했다.
오석환 교육부차관은 정부세종청사 교육부 브리핑실에서 언론 브리핑을 가지고 피해자 수가 학생 186명, 교원 10명으로 총 196명으로 밝혀졌다고 발표했다. 브리핑 올해 학생·교사 딥페이크 피해 총 196건…179건 수사 의뢰 - 연합뉴스 교육부는 최대 9호 처분(퇴학)까지 시킬 수 있다고 밝혔다. #[13]
오세훈 서울특별시장과 류희림 방송통신위원회 위원장이 긴급 회동해 딥페이크 영상물을 신속하게 삭제하기 위해 지자체 최초 방심위와 핫라인을 구축하는 것을 골자로 하는 협약을 체결했다고 밝혔다. #
서울특별시경찰청은 8월 28일부터 7달 동안 사이버수사과에 TF을 운영한다고 전했다. #
김태규 방송통신위원회 위원장 직무대행은 과학기술정보방송통신위원회 전체회의에서 최근 불거진 '딥페이크(인공지능(AI) 기반 합성기술) 성착취물 사태'와 관련해 "삭제나 유통 방지 등 제재를 가하는 것이 가능한지 법률적 검토를 해볼 것"이라고 밝혔다. #
강원특별자치도교육청은 28일부터 '딥페이크 위기 대응 지원단'을 운영한다고 전했다. 강원교육청은 현재까지 도내 학교에서 딥페이크 피해 신고는 없었다고 밝혔다. #
강원경찰청은 본 사태에 대해 강폴 알람을 사상 처음으로 발령했다. #
3.5. 8월 29일
당정이 본 사태와 관련해 입법적 측면에서 현행 최대 징역 5년인 '허위영상물' 유포 등 형량을 '불법 촬영물'과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진한다고 전했다. 더불어 촉법소년의 기준도 낮추는 방안도 검토한다고 했다. 연합뉴스전북특별자치도교육청은 본 사태로 인해 디지털 성폭력 예방교육을 강화한다고 밝혔다. #
충청북도경찰청도 2025년 3월 31일까지 7개월 동안 딥페이크 성범죄 특별 집중단속을 실시한다고 밝혔다. #
이원석 전 검찰총장이 검찰청에 최근 텔레그램을 기반으로 딥페이크 불법 합성물 피해가 확산되고 있는 것과 관련해 신속히 엄정대응하라고 지시했다. #
최재해 감사원장이 본 사태에 대한 정부의 대처가 적절했는지를 점검하는 감사를 진행하라고 감사원 사무처에 지시했다. #
인천남동경찰서는 교사 2명을 상대로 딥페이크 합성물을 만들고 유포한 남고생 2명을 입건했다고 밝혔다. #
기자들을 상대로 한 딥페이크 '기자 합성방'의 존재마저 확인되었다. 이로 인해 언론의 자유가 위축될 수 있다는 우려가 생기고 있다. #
3.6. 8월 30일
방송통신심의위원회는 텔레그램 딥페이크 성범죄영상물 대응과 관련해 글로벌 협의체 구축에 나섰다고 밝혔다. #서울경찰청 TF는 딥페이크를 비롯한 허위 영상물 279개(피해자 246명)를 제작하고 자신이 운영하는 텔레그램 채널에 유포한 20대 남성을 8월 22일 긴급체포해 구속하고 청소년성보호법 위반 등의 혐의로 검찰에 송치했다고 밝혔다. #
3.7. 9월 1일
방송통신심의위원회는 텔레그램 딥페이크 성 착취물 확산 사태를 계기로 구글, 유튜브, 페이스북, 인스타그램, X, TikTok, Tumblr, 핀터레스트, 윅스, 왓패드, 미디엄 등 글로벌 플랫폼 사업자들과 10월 중으로 첫 간담회를 진행할 예정이다. #심우정 검찰총장은 국회에 제출한 서면 답변문에서 '딥페이크 성 착취물' 확산에 대해 "취임하면 디지털 성범죄 전담 검사를 확대 지정하고 경찰과 신속한 협조체제를 구축해 엄정 대응하겠다"고 밝혔다. #
3.8. 9월 2일
부산광역시교육청은 시내 전체 초·중·고를 대상으로 딥페이크 성범죄 확산에 선제 대응하기 위해 교육감, 변호사, 경찰관 등이 강사로 나서는 '법 교육' 특강을 운영하고 있다고 밝혔다. #부산광역시경찰청도 수사부장을 주재로 TF가 설치된다고 밝혔다. #
우종수 국가수사본부장은 정례 기자간담회에서 "프랑스에서 했듯이 서울경찰청이 텔레그램 법인에 대해 입건 전 조사에 착수했다"며 "혐의는 이번 범죄(허위영상물 등 범죄) 방조에 대한 것"이라고 밝혔다. # 또한 유사시 창립자 등에 대한 인터폴 적색수배를 검토하고 있다고 한다. #
조지호 경찰청장은 딥페이크 성범죄 문제와 관련해 "보안 메신저에 대해 직접적으로 방조 혐의를 적용해 수사하는 방안을 검토하고 있다"고 밝혔다. #
방송통신심의위원회는 '딥페이크 성착취물' 확산 사태를 계기로 관련 ARS(1377)를 간소화시켜 상담원 연결까지 걸리는 시간을 종전 2분30초에서 40초로 줄였다고 전했다. #
3.9. 9월 3일
텔레그램은 동아시아 지역 관계자의 공식 이메일 서한을 통해 "최근 한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데 어려움을 겪고 있다는 언론보도를 알게 됐다"며 허위영상물 삭제와 동시에 "현재와 같은 상황 전개는 매우 안타깝게 생각하고 양측간에 오해의 소지가 있었다면 사과한다", "한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰관계 구축을 희망한다"고 밝혔다. #3.10. 9월 4일
국회에서 여성가족위원회를 주재로 '딥페이크 성범죄' 대응 현황을 점검하기 위한 긴급 현안질의가 진행됐다. # 신영숙 여성가족부차관을 비롯한 과학기술정보통신부, 방송통신심의위원회, 법무부, 경찰청 등 실무자들과 여야 의원들이 참석했다. #경찰청은 여성가족위원회에 제출한 '딥페이크 성범죄 근절 대책'에서 야간, 공휴일 등 긴급한 경우에도 '신분 비공개 수사'가 개시될 수 있도록 청소년성보호법 개정을 추진하겠다고 밝혔다. #
방송통신심의위원회는 텔레그램이 전용 이메일을 제공한 것과 관련해 "(유관 기관에서 필요한 경우) 즉시 텔레그램 측에 요청해 삭제할 수 있도록 하겠다"고 밝혔다. #
부산광역시교육청이 방송통신심의위원회와 딥페이크 등 디지털성범죄영상물에 대한 공동 대응에 나서기로 밝혔다. #
3.11. 9월 5일
국방부의 조사결과 일주일 새 피해자 13명이 확인되었고 피해를 입은 여군 중에선 극단적 선택까지 시도한 것으로 밝혀졌다. 피해자 중 한 명은 익명으로 제보를 받았으며 본인에게 알리는 이유를 추궁하자 '도용당했는데 알려드려야죠. 본인이 신고를 하셔야지.'라는 등 마치 본인은 이 사건과 무관하며 피해자에게 진실을 알리고자 한 행동인 것마냥 꼬리자르기하려는 행동을 보인다. 이어 '어떻게 나라고 확신하고 연락했나'라는 질문에 '공군인 친구가 알려줬다'며 본인의 이름과 계급 등에 대해선 끝까지 언급하지 않았다. #김태규 방송통신위원회 위원장 직무대행이 네이버 본사인 네이버 1784에 현장방문을 했다. #
- 김태규 위원장 직무대행은 모두발언에서 "최근 딥페이크 성범죄 문제 관련해 많은 관심이 있고 포털 뉴스 공정성 다양한 문제점들이 이야기 되고 있다"라며 "그래서 통신정책에 대해 국민 관심이 이만큼 높구나. 플랫폼의 중요성에 대해 우리가 다시 한번 더 관심 갖고 이 부분에 대해 한번 알아봐야겠다 생각했다"라고 네이버에 방문한 배경을 설명했다. 그리고 플랫폼의 중요성이 커지고 있다고 평가하며, 네이버에 포털 뉴스 공정성의 중요성을 강조했다.
국회에서 과학기술정보방송통신위원회 주재로 딥페이크 성범죄 근절 긴급 토론회가 진행됐다. 강도현 과학기술정보통신부차관을 비롯한 국회입법조사처, 메타코리아, 방송통신위원회, 방송통신심의위원회 등의 관계자들이 참석했다. #
3.12. 9월 6일
충청남도금산교육지원청은 딥페이크 성범죄 예방 및 대응 강화를 위한 학교장 회의를 개최했다. #3.13. 9월 8일
국방부는 딥페이크 성 착취물 사태를 계기로 장병 및 군무원, 공무원의 사진을 비공개 조치했다. # 단, 대한민국 공군은 2021년에 성추행 피해 공군 부사관 사망 사건의 피의자의 사진이 인터넷에 퍼진 직후 이를 먼저 시행하고 있었다.3.14. 9월 9일
김봉식 서울경찰청장은 정례 기자간담회에서 '딥페이크(Deepfake·이미지 합성 기술) 성범죄'의 온상으로 지목되는 텔레그램 운영자와 관련해 "혐의 내용과 범죄 사실이 특정되면 체포 영장을 발부 받을 수 있고 인터폴 수배가 가능하다고 본다"고 밝혔다. #3.15. 9월 21일
2018년 혜화역 시위의 후속격으로 <딥페이크 성착취엄벌촉구시위>가 진행되었다. #3.16. 9월 26일
성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안(대안)에 대한 수정안이 국회에서 가결되었다.3.17. 9월 30일
방심위와 텔레그램이 대면 실무회의를 가졌다. 텔레그램은 불법콘텐츠 삭제와 차단에 적극 협력하겠다고 밝혔다. #3.18. 10월 16일
방송통신심의위원회는 텔레그램과의 핫라인 구축과 상시 협력 기반 마련 등에 공조한 해외 유관기관과 국제협의체를 대상으로 '딥페이크 관련 대응 현황' 정보를 국문과 영문으로 작성해 전달했다고 밝혔다. #3.19. 10월 18일
방송통신심의위원회는 '딥페이크 성범죄영상물 종합대책' 발표 이후 지난 달 말까지 한 달간의 후속 조치로 신고 및 시정 요구, 수사 의뢰 건수 등이 동반 증가했다고 밝혔다. #3.20. 10월 21일
경찰청이 국경을 넘어 확산하는 딥페이크 등 사이버 성범죄 차단을 위해 인터폴 차원의 대응을 추진하기로 결정했다. #4. 반응
4.1. 정부
- 한덕수 국무총리는 "디지털 기술, 인공지능(AI), 이런 것들이 잘못 활용되면 우리 사회 전체를 망가뜨릴 수 있는 위험이 있는 것에 대해서도 경고를 해야 한다"고 강조하며 "마약과 같은 수준의 단속부터 시작돼야 한다"고 말했다. #
- 고학수 개인정보보호위원회 위원장이 정부서울청사에서 정례브리핑을 열어 '딥페이크 성범죄' 관련 개인정보위의 대응이 미흡하다는 지적에 대해서 "관련 부처들과 태스크포스(TF) 작업에 참여하면서 위원회가 할 수 있는 역할을 하고 있다"며 "큰 틀에서는 개인정보를 보호해야 하는 근본적인 이념과 맞닿은 문제를 정리할 것인지, 이를 반영해 법 개정을 어떻게 할 것인지 정리하는 과정에 있다"고 밝혔다. #
- 방송통신심의위원회는 최근 텔레그램을 통해 확산된 딥페이크 성적 허위영상물에 대해 강력히 대응하겠다고 밝혔다. 방심위는 관련 영상물을 중점적으로 모니터링하고, 24시간 내에 시정 요구를 하며, 악성 유포자는 수사를 의뢰하겠다고 밝혔다. 또한 초동대처의 중요성을 강조하며 이용자들의 적극적인 신고를 당부했다.[14]
- 여성가족부는 경찰에 피해자 연계를 요청했다고 밝혔다. 피해가 접수될 경우 디지털성범죄피해자지원센터를 통해 영상물 삭제 등을 지원할 계획이다. 또한 딥페이크 등 허위 영상물과 관련한 입법 미비 사항에 대해 인식하고 있으며, 과학기술정보통신부와 협력해 법제도 개선과 정책 연구를 진행 중이라고 밝혔다. 경찰청 등 범부처 합동 대응체계 강화 방안을 세우고 있고, 허위 영상물 탐지 시스템을 강화하기 위한 예산도 확보하려고 노력 중이라고 강조했다.[15]
- 국방부 대변인실은 군인을 대상으로 한 텔레그램 대화방과 관련해 "경찰 수사 결과에 따라 필요한 절차를 하겠다"면서 "지금 단계에서 우리가 할 수 있는 것은 없는 것 같다"고 입장을 표명했다.[16]
- 교육부는 26일 전국 17개 시도교육청에 딥페이크 피·가해 현황을 파악해 달라는 공문을 보냈다고 밝혔다. 또한 각급 학교를 통해 디지털 성범죄 대응 및 예방을 위한 교육에 나서 달라고 협조를 요청했다. 교육계 퍼지는 '딥페이크' 공포…교육부도 전교조도 실태조사 - 뉴시스
- 국무조정실은 김종문 1차장 주재로 TF가 설치된다고 밝혔다. # 또한 딥페이크 성범죄 영상물을 소지, 구입, 시청 시 법적 처벌을 할 수 있도록 법률안을 개정하겠다고 발표했다. #
4.2. 정당
4.2.1. 국민의힘
- 한동훈 대표는 "AI를 악용하는 것도 사람이지만, 예방하고 제한할 수 있는 것도 사람"이라며 "'N번방 방지법'이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도와 정책은 신속히 보완돼야 한다"며, 국민의힘이 디지털 성범죄 근절 대책 마련에 앞장서겠음을 밝혔다. #
- 탈북민 출신인 박충권 의원은 인공지능(AI) 기술을 이용한 딥페이크(Deepfake) 허위 영상물을 피해자의 의사에 반해 유통할 시 엄중히 처벌하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'을 대표 발의했다고 밝혔다. #
- 국민의힘은 법사위, 과방위, 교육위, 행안위 등 관련 상임위와 의원들이 참여하는 TF를 구성하기로 했다. # TF 위원장직으로 안철수 의원을 유력한 후보로 검토 중이라고 한다. 안철수 역시 추경호 원내대표와 위원장직에 대한 이야기를 나눴다고 밝혔다. #
- 서범수 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "각 부처의 역할도 있지만 각자 역할을 총괄하고 피드백을 해줘야 시너지 효과가 난다"며 딥페이크 주무 부처인 여성가족부가 '컨트롤타워' 역할을 해달라고 주문했다. #
- 한지아 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 디지털성범죄피해자지원센터 인력이 줄어든 반면, 업무량은 2배가량 늘어난 점을 지적하며 "피해자 지원 업무에 공백이 생기지 않도록 각별히 신경 써달라"고 주문했다. #
- 이인선 여성가족위원회 위원장은 딥페이크 성범죄 사태와 관련한 현안질의에서 "여야 위원들이 문제의 중요성에 깊이 공감하고 정쟁을 떠나 협치의 정신으로 함께 노력하기로 했다"며 "여가부가 관계부처 합동으로 대응안을 신속하게 논의해달라. 사후약방문처럼 시간 지나서 하는 것은 아무런 소용이 없다"고 당부했다. #
4.2.2. 더불어민주당
- 민주당은 여성가족위원회를 중심으로 과방위, 법사위 등 관련 상임위와 의원들이 참여하는 TF를 구성하기로 했다.
- 이재명 대표는 딥페이크 범죄 근절을 위한 국회 차원의 대책을 마련하라고 지시했는데, 특히 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌 규정을 강구할 것을 당부했다.
- 박지현 전 비상대책위원장은 자신의 페이스북을 통해 최근 딥페이크 음란물 유포 문제를 '국가적 재난 상황'으로 선포해야 한다고 주장했다. 이어 "정말 진정한 'N번방 방지법'을 만들었다면 2024년에 이런 일이 벌어졌을까"라며, 현 상황이 "4년 전에도 매일 같이 일어났던 일"이라고 비판했다. 박 전 위원장은 SNS 사진 삭제와 같은 임시방편적인 대응은 해결책이 될 수 없다며, 텔레그램의 일시적 접속 차단, 상담 기구 설치 등 정부와 입법부의 역할을 강조했다.[17]
- 김부겸 전 국무총리는 정부·여당에 합동대책본부 구성을 촉구했다. SNS에 "익명의 다수가 저지른 성범죄는 사회적 테러라 봐도 무방하다"며 "과학기술정보통신부, 행정안전부, 경찰청을 필두로 한 합동대책본부를 구성해야 한다. 끝까지 추척해 발본색원해야 한다"고 주장했다.
- 문재인 정부에서 국가정보원장을 지낸 박지원 의원은 페이스북에 딥페이크 성범죄 확산과 관련해 "소 잃고 외양간이라도 고쳐야 한다"며 정부에 대책을 강구했다. #
- 조인철 의원은 유상임 과학기술정보통신부장관에 대해 "지금 전과자를 사회에서 관리해야 한다고 했을 때, 어떻게 재발을 방지할 수 있겠나"라고 우려를 표하며 "사이버상에서 그런 범죄(디지털 성범죄)를 저지른 사람에게 전자팔찌가 효력이 있겠나"라고 강조했다. #
- 서영교 최고위원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "피해자들이 경찰에서 '(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다'는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나"라며 경찰에 적극적인 피의자 추적·단속을 촉구했다. #
- 백승아 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 일부 학교가 피해 예방 명목으로 여학생들에게만 소셜미디어(SNS)에서 사진을 내리도록 하거나, 피해자 익명성을 보장하지 않은 채 현황을 조사하는 점을 지적하며 "피해자들이 겁내지 않고 피해 사실을 밝힐 수 있도록 안내하는 게 중요하다"고 강조했다. #
- 김남희 의원은 딥페이크 성범죄 사태와 관련한 현안질의에서 "경찰이 딥페이크 대책이라며 성인까지 위장수사를 확대하겠다고 했는데 지금 아동·청소년 딥페이크 성착취 범죄에 대해 위장수사 안 되는 거 알고 있냐"며 "딥페이크 성범죄는 위장수사 대상도 아닌데, 경찰이 대책을 발표하면서 성인까지 대상을 확대하겠다고 한 걸 보면 뭘 할 수 있는지 뭘 할 수 없는지 파악을 하지 못하고 있다"고 지적했다. #
4.2.3. 조국혁신당
- 강미정 대변인이 논평에서 “윤석열 정권은 2019년 ‘n번방 사태’ 이후 법무부에 설치된 ‘디지털 성범죄 TF’를 사실상 해체했다”라며 “2022년 윤 대통령이 취임하자마자, 한동훈 법무장관이 취임하기 직전에, 임기가 남은 디지털 성범죄 TF 책임자였던 서지현 검사를 다른 부서로 인사하는 바람에 TF 자체가 흐지부지되고 말았다”고 지적했다. 이어 “윤 대통령과 한동훈 국민의힘 대표는 관계 당국의 철저한 실태 파악과 수사를 당부하기 전에 반성부터 해야 한다”고 지적했다. #
- 김선민 최고위원은 딥페이크 성범죄 사태와 관련한 현안질의에서 한상형 법무부 형사법제과장에게 "(2020년 n번방 사건을 계기로 만들어진 법무부의) 딥페이크 범죄 TF가 제대로 일을 했더라면 오늘과 같은 사태가 과연 발생했을지 의문"이라며 비판했다. #
- 9월 2일, 기자회견에서 딥페이크 성범죄 사태와 관련해 윤석열 정부가 취임 직후 디지털성범죄대응전문위원회를 강제 해산시켰다며 혁신당 차원에서 입법을 준비하고 있다고 밝혔다. #
4.2.4. 개혁신당
- 이준석 의원은 강도현 과학기술정보통신부 제2차관에 대해 "텔레그램 차단 외에 현실적인 방법이 있나"라고 물으며 기술적으로 말이 되는 제안이 나와야 할 것 같다"고 강조했다. #
- 또한 김태규 방송통신위원회 위원장 직무대행에 대해 "해당 텔레그램방은 해외 개발자가 만든 봇이라 국내 이용자가 아닌 해외 이용자 수가 22만 명이라는 것"이라며 "방통위에서 불안이 실제보다 과장되지 않도록 신경써달라"고 하였다. #
- 이후 페이스북을 통해 2020년 'N번방 방지법' 당시 "텔레그램이라는 매개에는 어떤 제약도 추가 되지 않고 오히려 카카오톡과 커뮤니티 사이트 등에 검열서버를 두는 것을 강제하는 결론이 났다","범죄의 매개인 텔레그램을 손대지 못하고 결국 국민들에 대한 검열만 강화된 것"이라고 언급하며 "실효적 조치로 할 수 있는 것은 텔레그램의 인증서버 등에 대해 완전 차단을 하는 것이지만, 어차피 매개에 불과한 텔레그램은 어차피 또 대체재가 만들어질 것이고, 그래서 그 조치가 무의미한 것"이라고 주장했다. "이번에도 규제를 통해 국민에 대한 국산 메신저 검열만 강화되는 결과로 귀결되지 않았으면 좋겠다"라고 밝혔다.
- 천하람 원내대표는 이데일리와의 인터뷰에서 '자유주의적 실용정당'이 무엇이냐는 질문에 본 사태와 n번방 성착취물 제작 및 유포 사건을 언급해 "n번방 사건이 발생한 외국기업 텔레그램은 정작 규제하지 못하고 정작 카카오만 엄청난 규제를 떠안았다"며 "범죄자는 당연히 잡아야겠지만, 정치권이 위험을 크게 해석하고 실용적이지도 않은 무의미한 규제를 만드는 것은 자유주의적 관점에서 배척해야 한다"고 주장했다. #
4.2.5. 진보당
- 8월 27일, 손솔[18]과 홍희진[19]을 공동단장으로 한 진보당 딥페이크 성범죄 대응 TF를 꾸려 경찰청 앞에서 기자회견을 열어 최근 논란이 되는 텔레그램 딥페이크 성범죄에 대해 경찰이 적극적으로 수사하라고 촉구했다. #
- 8월 31일, 종로에서 '딥페이크 불법 합성물' 규탄 집회를 개최해 경찰에 강력수사를 촉구했다. #
4.2.6. 사회민주당
- 임명희 대변인이 이번 사태가 n번방 사건처럼 후속조치가 미흡하지 않도록 관련 논의를 국회와 정부가 적극적으로 열어줄 것을 요청한다며, 수습을 넘어 향후 얼마든지 더 큰 규모로 발생할 수 있는 디지털 범죄를 국가적 재난으로 여기고 대응하는 시스템 구축과 인력확보를 강력하게 요구한다고 했다. #
4.2.7. 기본소득당
- 용혜인 대표는 본 사태에 대해 "경찰은 텔레그램 협조 없이는 가해자 특정이 어렵다며 책임을 회피하고 있다. 비극적인 현실이다. 10월 국정감사에서 디지털성폭력에 대한 경찰의 미온적 대응을 확실하게 짚겠다."고 밝혔다. #
4.2.8. 원외정당
- 정의당
- 성명문에서 "딥페이크 범죄의 가장 큰 문제는 일상을 위협하는 불안감"이라며 정부에 전방위적인 특별수사를 촉구했다. #
- 장혜영 의원은 토론회에서 "한 사람의 정치인으로서, 우리 사회의 어른으로서 더 나은 사회를 만드는 게 가능하다고 믿고 살아온 모든 시민분들에게 이런 사회를 마주하게 해 죄송하다"며 먼저 고개를 숙였고, 딥페이크 성범죄 가해자 중 다수가 10대는 통계를 언급하며 "가해 청소년들이 타인을 존중할 수 있는 인간으로 성장할 수 있는 환경을 만들지 못한 건 어른들의 책임이고 정치인들의 책임"이라고 밝혔다. #
- 본 사태와 관련해 "위협이 과대평가되고 있는 게 사실"이라고 주장한 이준석 의원에 대해서도 "딥페이크 성폭력으로 인한 공포는 정치를 포함한 공적인 영역에서 존중돼야 마땅하다"며 "(위협이) 과장됐다며 평가절하하는 건 그 어떤 경우에도 용납될 수 없다. 정치는 엄연한 현실을 이름 붙이고 존중할 책무가 있다"고 강도 높게 비꼬았다.
- 녹색당
- 성명문을 통해 이번 사태에 대해 경악을 금치 못한다며, 우리 사회의 여성에 대한 인식이 얼마나 처참한 수준인지를 뼈아프게 돌아봐야 한다고 주장했다. #
- 여성의당
- 새미래민주당
4.3. 연예계
| <colbgcolor=#fff,#1c1d1f> ADOR 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> 울림엔터테인먼트 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> 모드하우스 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> JYP엔터테인먼트 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> FCENM 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> ATRP 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> CTDENM 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> YG엔터테인먼트 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> 큐브엔터테인먼트 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> 사람엔터테인먼트 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> 빅플래닛메이드엔터 입장문 |
|
| <colbgcolor=#fff,#1c1d1f> HYBE 입장문 |
|
4.4. 사회 각계
- 노동계
- 8월 26일, 교사노동조합연맹은 “최근 텔레그램 딥페이크 제보방이 만들어지면서 피해 학교 200개 이상이 공개됐다. 학교로 딥페이크 피해 제보와 신고가 이어지고 있다”며 “학생과 교사 피해자를 위한 긴급 심리 지원을 제공하라”고 촉구했다. 또한 인공지능(AI)과 딥페이크 기술에 대한 청소년의 접근 제한에 대해 논의하고 담당할 부서를 편성하라고도 했다. 이들은 “일부 청소년들은 디지털 성범죄의 결과물을 경제적 가치로 교환하는 것을 학습하고 있는 상황”이라며 “학교의 예방 교육, 연수 늘리기만으로는 이런 문제를 해결할 수 없다”고 했다. 초·중·고로 확산되는 딥페이크 피해···교사노조 “수사 전담팀 마련하라”
- 8월 26일, 전국교직원노동조합은 성명문을 내고 당국의 조속한 대응을 촉구했다. 교원노조들은 피해 학생 및 교사를 위한 긴급 심리 상담, 국가 차원의 수사 전담팀 마련 등을 촉구했다. 또한 "각 학교로 공문이 도달한 시점은 오늘(27일) 오전 10시께였으나 교육부는 낮 12시까지 현황을 제출할 것을 요구했다"며 "형식적이고 급박한 조사만으로는 정확한 실태를 파악하는 것도 불가능하다"고 교육 당국의 대응도 지적했다. #
- 27일, SNS에서 돌고 있는 '딥페이크 성범죄 피해학교 명단'에 포함된 전국 초·중·고교를 대상으로 점검한 결과 최소 40곳의 중·고교에서 실제 피해가 있는 것으로 파악됐다고 밝혔다. #
- 29일, 정부서울청사 앞에서 기자회견을 열어 지난 27일부터 이틀 간 진행된 딥페이크 실태조사에 접수된 피해 건수가 2492건에 달했다고 밝혔다. #
- 8월 28일, 실천교육교사모임도 성명문을 내고 "딥페이크 범죄와 'N번방' 등 음란물 범죄의 온상이 되고 있는 텔레그램에 강력한 조처를 하라"며 "정보기술 전문가 등으로 대책반을 구성하고 범죄 행위에 대한 증거를 확보해 모든 가해자가 법적인 처벌을 피하는 일이 없도록 해 달라"고 촉구했다. 또한 "이미 오래전부터 음란물 피해에 대한 경종이 울려 왔는데, 교육 당국의 대처는 늑장과 방치 그 자체였다"며 교사의 행사 사진이나 졸업 앨범 사진을 활용한 유사 사례가 과거에도 많았다고 정부의 늦장 대처를 꼬집었다. #
- 8월 29일, 한국교원단체총연합회는 보도자료를 통해 "학생이 교사 합성 사진을 만들어 갖고 있는 일이 많은데, 현행법으론 '유포(’널리 퍼뜨린다’는 뜻)' 목적이 아니면 처벌할 수 없다니 납득하기 어렵다"면서 "딥페이크 범죄에서 학생, 교사를 보호할 대책을 마련해달라"고 밝혔다. #
- 9월 3일, 전국민주노동조합총연맹은 정부서울청사 앞에서 기자회견을 열어 "여성에 대한 혐오와 성폭력이 일상이 된 국가재난 상황의 가장 큰 책임이 윤석열 대통령과 정부에 있다"고 밝혔다. #
- 경제계
- 8월 28일, 네이버가 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. #
- 8월 29일, 카카오도 고객센터와 카카오톡 공지사항을 통해 "카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견하신 경우 즉시 신고해 주시기를 바란다"며 관련 링크를 안내했다. #
- 8월 30일, 딥브레인AI가 딥페이크의 진위를 판별할 수 있는 설루션[22]을 각급 학교와 관공서, B2B(기업간거래) 기업 등에 1개월 무료로 지원하기로 했다고 전했다. #
- 9월 3일, 피자스쿨이 서울도봉경찰서와 업무협약을 맺고 피자 박스에 딥페이크 성범죄 경고문구를 삽입한다고 밝혔다.
- 9월 8일, SK텔레콤이 경찰청과 캠페인을 통해 딥페이크 범죄에 대한 예방 방안과 주의사항 등이 담긴 문자를 청소년과 학부모들에게 이번달 발송할 예정이라고 밝혔다. #
- 법조계
- 서혜진 여성변호사회 아동·청소년 특별위원장은 연합뉴스와의 인터뷰에서 본 사태에 대해 "타인의 얼굴 사진을 성 착취물과 합성한 '딥페이크' 피해가 커지고 있는 주요 원인으로 텔레그램이 꼽히고 있죠. 그게 문제는 맞지만, 피해자가 계속 늘고 있다는 사실은 수사당국의 시스템에도 개선할 점이 있다는 방증입니다." 이라며 "여가부가 나서서 모든 부처와 지자체, 시민단체 등 사회 각 분야에 의제를 던져야 하고, 사태 해결의 선두에 나서야 한다"고 당부했다. #
- 검찰청 내부 성추문 사건을 폭로하여 미투 운동을 촉발시켰던 서지현 전직 검사도 본 사태에 대해 "디지털 성범죄의 지옥문이 열렸다고 대책 시행을 촉구한 지 2년이 넘었는데, 그동안 국가는 무엇을 했나"라며 비판했다. #
- 성폭력 전문 변호사인 이은의는 "문제 의식을 가진 이들이 '과잉 반응한다'는 안일한 인식이야말로 디지털 성폭력을 법으로 규제하지 못하게 하는 걸림돌"이라고 밝혔다. #
- 학계
- 범죄심리 전문가인 이수정 경기대학교 사회과학대학 교수는 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 발제자로 참석해 "'n번방' 가해자 몇 명을 엄벌하는 것으로 수사를 마무리한 게 실수였다"고 밝혔다. #
- 시민단체
- 8월 26일, 한국여성민우회는 성명문을 내고 "지인의 사진을 보내면 5초 만에 유료로 나체를 합성해주는 텔레그램 채널 가입자는 무려 22만 7천여명"이라며 "특정 개인들에 국한된 문제가 아님을 보여주고도 남는 숫자"라고 지적했다. 이어 "여성들은 반복되는 디지털성범죄, 강간, 여성살해, 교제폭력 뉴스를 보면서 여성 멸시를 방조하는 사회, 망가진 시민을 길러내는 붕괴된 사회에 대한 절망과 분노 속에 지쳐가고 있다"고 주장했다. #
- 8월 27일, 군인권센터는 "국방부는 책임지고 여군을 능욕하는 딥페이크 관련자를 발본색원하라"고 요구했다. 이어 "문제의 텔레그램 단체 채팅방(이하 여군능욕방)은 한국 사회에 만연한 여성에 대한 차별과 혐오가 군에서 여군에 대한 차별과 혐오로 나타난 것"이라며 "(가해자들은) 여군을 군수품, 물질로 치환하고 오로지 성적인 존재로 취급하기 위해 군복 입은 여군들의 사진을 이용했다"고 지적했다. 아울러 "이러한 행위는 과거 일본군 성노예 범죄와 맥이 닿아 있다. 당시 일본군은 위안부 피해자들을 군수품으로 취급했다"고 강조했다. #
- 9월 3일, 9월 30일까지 '여군 딥페이크 피해' 집중 신고기간을 운영한다고 밝혔다. #
- 8월 29일, 한국여성단체연합, 한국사이버성폭력대응센터, 한국성폭력상담소 등 여성단체들이 공동성명을 발표해 윤석열 정부의 여성가족부 폐지 공약 및 예산 삭감을 비판하며 "삭제지원의 안정화를 위한 성찰과 대책은 빠져 있다", "피해 이미지에 가슴이나 성기 부위 노출이 없다는 이유로 피해자가 삭제지원에서 탈락하기도 하고, 스무 명도 안 되는 삭제지원자 확충과 고용안정화도 시급하다", "텔레그램 등 해외 플랫폼과 '핫라인' 개설은 방심위가 진작에 했어야 할 일이고 온라인 플랫폼 규제에 책임이 있는 방통위는 침묵하고 있다"며 "디지털성범죄피해자지원센터(디성센터)의 삭제 지원, 방통심의 심의와 피해구제는 사후책일 뿐이다. 디지털성범죄 생성과 유통 예방을 한번도 진지하게 고려한 적이 있느냐", "경찰은 향후 7개월 간 불법합성 성범죄물 특별 집중단속을 선포했는데, '텔레그램이라 잡기 어렵다', '탈퇴계정이라 잡기 어렵다', '우회IP라 잡기 어렵다', '가해자가 미성년자라서, 학생이라서 압수수색이 어렵다' 등 피해자들을 숱하게 좌절시키던 경찰의 태도가 떠오른다"는 등 윤석열 정부와 경찰의 대응을 꼬집었다. #
4.5. 외신
[[싱가포르|]][[틀:국기|]][[틀:국기|]]
[[영국|]][[틀:국기|]][[틀:국기|]]
[[미국|]][[틀:국기|]][[틀:국기|]]
[[인도|]][[틀:국기|]][[틀:국기|]]
[[홍콩|]][[틀:국기|]][[틀:국기|]]
[[프랑스|]][[틀:국기|]][[틀:국기|]]
5. 논란 및 사건 사고
5.1. 가해자 수 왜곡 보도 논란
5.1.1. 한겨레
- [단독] 딥페이크 텔레방에 22만명…입장하니 "좋아하는 여자 사진 보내라" - 한겨레
- With a click, 220,000+ member Telegram room generates illegal deepfake porn - 한겨레(영문)[수정]
상기 기사에서 22만명이라는 인원 수가 처음으로 언급되었으며, 특히 영문판 제목에서는 "220,000+ member Korean Telegram room"이라는 표현을 썼었다.@ 이는 번역하면 "22만 명의 멤버가 있는 한국의 텔레그램방"이라는 뜻인데 이 텔레그램방은 한국에서 사용된 사례가 존재할 뿐 특별한 상관은 없어서 오보라는 지적을 받았다. 이후 영미판 제목은 8월 30일에 Korean을 없애는 것으로 수정되었다.
기사에 언급된 텔레그램방은 딥페이크 음란물을 제작하는 1:1 봇 채널 중 하나인데, 해당 봇 채널은 해외에서 개발 및 운영되고 있으며 이용자 또한 한국인뿐만 아니라 전 세계를 대상으로 한다. 첨부된 스크린샷에서 한국어로 대화하는 이유는, 해당 봇 채널에 기기의 언어를 감지하여 자동으로 번역되는 기능이 있기 때문이다. 운영체제의 언어를 바꾸고 접속하면 바뀐 언어로 말을 거는 봇을 볼 수 있다.
2024년 8월 27일, 국회 과학기술정보방송통신위원회에서 김태규 방송통신위원회 부위원장의 질의응답에 따르면 한국인 이용자 22만 명이 텔레그램 대화방에 참여했다는 것은 오보이며, 해당 텔레그램 대화방은 한국인이 아닌 해외 개발자가 만든 봇으로 국내 이용자가 아닌 해외 이용자 수가 포함되어 22만 명이 있는 것이라고 밝혀졌다.[24] 다만 텔레그램 봇은 직접 내부의 기능을 사용하지 않고 간단한 호출 명령어를 사용해도 사용자로 집계되기 때문에 해당 채널의 딥페이크 기능을 사용한 사람은 실제보다 적을 가능성이 있다.
실제 한국인 이용자 수가 몇 명이나 되는지에 대해서는 밝혀지지 않았다. 이준석 개혁신당 의원은 전체 텔레그렘 이용자 중 한국인 비율이 0.33%이므로 (실제 가해자가 이보다 많을지 적을지는 모르겠으나) 산술적으로는 이 텔레그램방 역시 한국인 멤버가 726명 정도일 것이라고 주장했다. 물론 이는 단순계산이고 해당 텔레그램방의 이용자 중 한국인 비율이 반드시 전체 텔레그램 이용자 중 한국인 비율과 일치할 것이라는 보장은 없다.
5.1.2. 뉴시스
[단독]22만 '딥페이크' 텔레방에 이어 40만 유사 텔레방 확인뉴시스에서 보도한 40만 명 텔레그램방 기사 역시 오해의 소지가 있어 주의가 필요하다. 22만 명이라는 수치가 "전 세계에서" 이용하는 사람에 해당하는 것처럼, 해당 기사에서 서술하는 40만 명 또한 "한국인만" 포함하고 있는 게 아니다. #
5.2. 검증되지 않은 피해 학교 명단 공개
사건 발생 후 인스타그램, X(트위터) 등 SNS 등지에서 피해 학교 명단 등이 공유되고 있는데, 해당 학교 내 피해자 실존 여부는 공식적으로 확인되지 않았으며 단순히 해당 학교 이름으로 된 텔레그램 채팅방이 있다는 것 또는 사실 관계가 확인되지 않은 증언 등으로 추가되는 경우도 있기 때문에 피해 학교 리스트는 신뢰에 주의가 필요하다. 마찬가지로 피해 학교 지도 또한 이러한 문제점을 지니고 있다.[25]물론 실제 피해자가 있을 수 있는 것도 사실이지만, 문제는 검증을 하지 않고 올리는 경우도 있다는 점이다.
실제로 누군가 피해 학교 수집 과정의 허술함을 비꼬고자, 실존하지 않는 학교의 이름인 '봉하고'와 피해자 수를 '523명'이라고 제보하였으나 이를 검증없이 목록에 추가하는 모습을 보였다. #
5.3. 가해자 헛지목 문제
X(트위터), 디시인사이드, 인스타그램 등 인터넷 커뮤니티와 SNS를 통해 공유되는 일부 잘못된 정보로 인해 애꿎은 사람이 욕을 먹는 일이 생기고 있다. 일부 피해 학교 명단에 올라온 학교에서는 학생들이 한 학생을 여러 가지 이유로 가해자로 몰아가는 사례가 발생하고 있는데, 상술했듯이 아직 피해 학교 명단은 신뢰성이 높지 않을 뿐더러 가해자로 지목된 사람이 실제 가해자가 아닐 가능성이 있어 주의가 필요하다. 또한 이러한 사실을 공유하면 최악의 경우 허위사실에 의한 명예훼손죄 등으로 법적 조치가 취해질 수 있다.8월 26일에는 출처와 진위가 불명확한 가해자 명단이 올라와 명단에 오른 대학생을 놓고 해당 학교 커뮤니티엔 신상정보와 함께 “퇴학시켜야 한다” 등 요구가 빗발쳤다. 정작 가해자로 지목된 또 다른 네티즌은 “두 아이의 엄마로, 텔레그램은 하지도 않는다”며 경찰에 진정을 접수했다고 밝혔다. 문화일보
또다른 헛지목 피해자가 있다. 해당 유저는 글에서 언급된 계정이 본인의 계정이고 염탐 계정이며 안 쓴 지 오래 됐다고 하는데 갑자기 왜 본인의 계정이 갑자기 가해자 신상이라고 올라오는지 모르겠다고 말하였다.
거기다 텔레그램에 일절 가입하지 않았거나 재미 삼아 자신의 얼굴을 딥페이크로 변형한 학생을 가해자로 몬 사례까지 확인되었다. MBC충북 해당 기사에 언급된 피해자 중 1명의 가족이 에펨코리아에 작성한 게시글
심지어 대뜸 미성년자를 가해자라고 주장하더니 감금시켜 폭행하고, 머리카락을 자르거나 눈썹을 밀고 옷을 벗겨 춤을 추게 하는 등 가혹행위도 한 것도 모자라 이를 실시간 방송으로 송출시키기까지 한 사례가 있다. #
5.4. 아카라이브를 타겟으로 한 허위사실 유포
더쿠, 남연갤, X(트위터) 등 여초 커뮤니티 등지에서 남초 커뮤니티인 아카라이브에 딥페이크 성착취물이나 아동 나체등을 업로드 한 사실이 있다고 주장했으나, 아카라이브 운영진이 데이터베이스에서 찾아본 결과 그러한 게시글은 존재하지 않았던 것으로 드러났다. 아카라이브는 이전부터 포르노, AV나 AI 이미지생성과 같은 그림이나 애니메이션 그래픽 등의 가상이 아닌 실사 형태로 된 음란물 사진, 동영상의 업로드가 엄격하게 금지되어 있었다.
해당 소식을 공론화한 기자가 해당 사실을 공론화한 트위터 계정주에게 인터뷰 요청을 남겼으나 부담스럽다는 입장과 함께 거부했다고 한다. 대신 본인이 올린 자료들은 기사로 작성해도 된다고 말하면서 조작 의혹이 나왔다.
2024년 9월 6일에는 공론화 측에서 오마이뉴스와 인터뷰한 기사가 올라오기도 했다.
이에 대해 아카라이브 운영진은 여러 차례에 걸친 공지를 통해 대응하겠다고 밝혔다. 1차 공지, 2차 공지 3차 공지
자세한 내용은 해당 문서를 참고.
6. 대처
경기도는 딥페이크 불법 영상물 초기 대응 지침을 관계부처에 발송했다. 본 대처법은 이 공식 자료를 기반으로 기술되었다.
- 딥페이크 불법 영상물을 발견할 시 먼저 합성물 속 인물이 본인인지 확인하고 간접피해나 2차 피해를 막기 위해 자신의 누리소통망(SNS)을 비공개 계정으로 전환할 것.
- 개인정보 파악이 가능한 사진(교복, 건물, 위치태그) 등을 삭제하거나 비공개로 전환할 것. 이어서 제작·유포(제보) 정황을 캡처하고, 추후 모니터링 지원을 받을 수 있도록 딥페이크 불법 영상물에 사용된 원본 사진이 자신에게 있는지 유무를 확인.
- 지인의 제보를 받은 경우에는 합성물이 제작·유포된 플랫폼과 피해 영상물의 유포 수준을 대략적으로 파악할 것.
- 모르는 사람에게서 DM이나 메시지로 제보를 받았을 때는 캡처 후 연락을 차단할 것.
- 제보할 때 공유받은 링크는 클릭하지 않고 무리하게 텔레그램 방에 접속하지 않을 것. 링크를 클릭할 경우 악성 프로그램이 설치되어 피해를 입을 수 있으며, 직접 잠입해서 잡겠다는 위험한 생각으로 텔레그램 대화방에 들어갔다가는 2차 가해를 당하거나 수사에 혼선을 줄 수 있음.
- 신고 필요 시 대응단 경기도 디지털성범죄피해자원스톱지원센터(1544-9112)나 수사기관에 연락해 피해 정황을 전달할 것.
7. 여담
- 학습데이터가 많으면 많을수록 더 정확해지는 딥러닝 특성 상, 여러 사람의 얼굴을 뒤섞어서 학습하면 어떤 사람이 나와도 걸릴 수 있다.라는 맹점이 존재한다. 의외로 얼굴이 비슷한 사람은 이 세상에 상당히 많다.[26] 오히려 사진에 워터마크나 가짜눈, 가짜입, 가짜얼굴 등을 섞어 학습 자체를 교란하는 것이 더 이 문제를 방어하는데 효과적이다. 링크링크(피부에 워터마크가 변형된 채로 찍혀 나오기 때문에 학습된 데이터의 여부를 쉽게 알아낼 수 있다.) 대부분의 딥페이크 범죄자들은 특정인을 지목해서 음란물을 만드는 경우 학습시간을 넉넉하게 줘서 자연스러워 질 때까지 계속 학습 처리를 하지 않고 즉각즉각 내놓으므로,[27] 화질이 열악하거나 하는 오류가 있는데, 워터마크를 적용하는 것으로 불쾌한 골짜기를 더 강하게 할 수 있다. 그러한 사유로 이건 신고가 필요한 친고죄가 될 수밖에 없다. SNS에서 사진을 지인들하고만 공유하도록 권한설정을 하는 방법도 예방책으로 사용할 수 있다.
- 위에 설명했듯 이현령비현령이 되는 경우, 잡아갈 사람들이 너무 많다. ## "알고 봤다"의 기준이 사실상 없기때문에 마음대로 유관해석이 가능한 사항이다. 사실상 불특정 다수에 대한 합법적인 테러도구로 사용될 수도 있다.
- 인스타그램을 중심으로 계정을 해킹한다는 등의 소문이 돌고 있다. 유형은 비공개 계정의 비공개 설정 무력화나 로그인 위치가 실제 위치와 다르다는 것 등인데 인스타그램을 관리하는 Meta는 초거대 IT기업인 만큼 높은 수준의 보안을 유지하고 있어 해킹이 쉽지 않다.[28] 이러한 높은 수준의 보안을 뛰어넘는 해커가 고작 딥페이크에 쓸 사진을 목적으로 일반인의 계정에 접근한다는 것은 상식적으로 생각하기 어렵고 효용도 떨어지기 때문이다. 또한 로그인 위치는 원래 자신의 실제 위치와 다를 수밖에 없고[29] 텔레그램에서 인스타그램 해킹 봇을 이용한다면 비공개 계정을 해킹할 수 있다고 하나, 봇들은 가짜이며, 실제로 되지도 않는다. 그러므로 이러한 해킹 루머는 말 그대로 루머에 불과하다. 만일 그래도 개인정보 유출이 불안하다면 털린 내 정보 찾기 서비스를 사용하는 방법도 있다. 물론 이 방법도 유출 내역을 100% 확인할 수는 없다.
- 실제 딥페이크 성범죄 가해자들 중 일부를 수사에 넘겨 재판을 진행 중인 피해자 루마(필명)씨는 26일 오후 <오마이뉴스>에 "계속 텔레그램 계정을 갈아엎으면서 흔적을 철저하게 지웠던 가해자 역시 잡혀서 재판받고 있지 않나. 대화 내용을 삭제해도 (텔레그램 대화를 나눈) 상대방의 기록으로 잡혀 발등을 찍힌 것"이라고 말했다.[30]
- 한겨레의 보도 중 "2023년 딥페이크 생성물의 53%가 한국인을 대상으로 이루어졌다"는 대목이 호도되어, 딥페이크 음란물의 53%가 한국에서 제작되거나, 한국인의 53%가 피해를 입었다는 오해가 퍼졌다. # # 오마이뉴스 기사 그러나 실제 기사에서 인용한 시큐리티히어로의 보고서는 100여 곳의 음란물 사이트를 조사한 결과 해당 사이트들에 있는 딥페이크 음란물 중 한국인을 활용해 만든 비율이 53%라고 나와 있을 뿐이며, 여기서 지칭하는 피해자들은 대체로 한국의 가수 및 배우, 즉 연예인들이었다.[31] 물론 이러한 통계가 본 사건의 시의성을 흐리지는 않으며, 보고서에서도 제도적 미비점의 보완을 강조하고 있다. SBS의 기사에서는 딥페이크 영상물 중 96%가 포르노 영상이었고 그 영상의 피해자 중 25%가 한국 연예인인 것으로 드러났다고 하며, 피해 유형으로는 영국 배우가 가장 많았고 다음으로 한국 K-POP 가수가 많았다고 한다. 즉 딥페이크 피해자 국적은 조사기관이나, 조사대상에 따라 달라질 수 있다.
- 8월 28일, 사건에 관련하여 '딥페이크 피해학교 지도'가 공개되었는데, 중학생 제작이라 화제가 되었다. 그러나 지도의 피해학교에 대한 좌표들은 이메일 등으로 받은 제보 등을 토대로 지도에 반영되고 텔레그램과 SNS 소셜미디어에서 수집한 정보에 의한 것으로서, 거짓 정보에 대한 필터링이나 정확성은 많이 떨어진다. 애초에 증거에 대한 최소한의 간접적 게시도 아닌 제보된 위치만 게시되기에 좌표에 대한 신빙성도 없는 상태이다. #
- 한 학교에서 딥페이크 관련으로 학생들을 대상으로 텔레그램을 사용하는지 안 하는지 설문조사를 부적절하게 하여 빈축을 사기도 했다.[32]
- 공교롭게도 MBC의 첫 보도로부터 일주일 뒤인 8월 26일 텔레그램의 CEO인 파벨 두로프가 프랑스에서 체포되었다. 파벨 두로프는 이전부터 익명성과 자유라는 이름 아래 텔레그램에서 강력범죄들까지 암암리에 허용했던 것은 물론 대화 내역 또한 각국 정부와 수사기관에도 공유하지 않으며 텔레그램이 범죄의 온상으로 악용되는 것과 관련해 악명이 높았는데, 사건 발생 시점과 맞물려 CEO가 체포됨에 따라 프랑스 검경과의 공조 또한 필요할 것으로 보는 시각이 있었고, 8월 29일 방송통신심의위원회에서 파벨 두로프를 수사 중인 프랑스에 텔레그램 딥페이크 성범죄영상물 대응과 관련해 긴급 공조 요청을 보냈다고 밝혔다. # 경찰청 역시 프랑스에 텔레그램 수사를 위해 국제형사사법공조를 요청했다. #
- 중국에서도 딥페이크 범죄가 발생하였던 사실이 베이징 인민검찰원에 의해 밝혀졌다. #
8. 관련 정보
8.1. 관련 문서
8.2. 관련 미디어
8.3. 관련 청원
- 국민동의청원
- 텔레그램 딥페이크성착취물 제작 및 유포 사건 가해자들의 강력처벌 및 신상공개 요청에 관한 청원 (2024-08-30 ~ 2024-09-29)
- 딥페이크 및 성착취물 유포자 형량 강화 및 성착취물이나 디지털 성범죄에 관한 미디어물 유포하는 방에 참가한 방조자 처벌 요청에 관한 청원 (2024-08-29 ~ 2024-09-29)
- 무분별한 생성 AI 개발과 남용을 방지하고, 윤리적인 생성 AI 개발과 사용을 위한 규제에 관한 청원 (2024-09-13 ~ 2024-10-13)
8.4. 관련 사건
- 서울대학교 허위 음란물 제작 유포 사건 - 해당 사건과 가장 유사한 사건이다. 딥페이크로 제작된 허위 영상이 공유되어서 문제가 되었다.
- n번방 성착취물 제작 및 유포 사건 - 같은 텔레그램에서 일어난 사건이며 아동 청소년 피해자가 있다는 것이 공통점이다.
- 여성시대 남성 성착취물 공유 사건
9. 둘러보기
| 대한민국의 성범죄 사건 | |
| {{{#!wiki style="margin:0 -10px -5px; min-width:300px; min-height:calc(1.5em + 5px); word-break: keep-all" {{{#!folding [ 펼치기 · 접기 ] {{{#!wiki style="font-size:0.9em" A: 성추행, B: 업무상 위력 성범죄, C: 불법촬영, 성착취물 등 디지털 관련 성범죄, D: 마약 및 약물 사용 성범죄, E: 공연음란, F: 외국인 연루 및 피해 성범죄, Fa: 성폭력 무고 및 조작, G: 집단 성폭행, H: 성희롱, I: 피해자 협박 및 2차 가해, K: 피해자 납치 및 감금, M: 살인 결합, N: 시신 강간 및 훼손, Na: 국가행정조직 연루, O: 성매매 관련, P: 아동 대상 성범죄, R: 강간, Ra: 강간미수, S: 연쇄 성폭행, T: 절도 및 강도 결합, V: 폭행 및 상해 결합, Y: 청소년(미성년자) 대상 성범죄, ?: 사건 경위 불명 및 미제사건 {{{#!wiki style="display: inline-table; min-width: 33%; min-height:2em"{{{#!folding [ 조선~대한제국 ] | 잉읍금 사건(1398)P R 내은이 사건(1404)G R Y 김잉읍화 사건(1426)P R 종단이 사건(1767)P R |
- [ 일제강점기 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=1000>고창 경관 윤간 사건(1923)G Na 전주 소학생 유괴 살인사건(1926)K M P ? 이관규 연쇄살인 사건M P S 가짜 형사 유부녀 능욕 사건(1933)R||
- [ 광복~1960년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=1000>열차 내 강간 살인 사건(1953)M R ? 국방부 초병 강간치상 사건(1968)G K Na V||
- [ 1970년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=1000>춘천 강간살인 조작 사건(1972)Fa M Na R P ? 김대두 사건(1975)M R S T||
- [ 1980년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=1000>사진작가 이동식 살인사건(1982)C D M 공주 연쇄살인 사건(1983~1987)M Ra S T 부천 경찰서 성고문 사건(1986)A Na 화성군 태안읍 일대 연쇄 강간 사건(1986)R S T 정명석 성폭행 사건(1987)A G H I K P R S Y 이춘재 연쇄살인 사건(1986~1994)M N Na P Ra S T Y 전용운 연쇄살인 사건(1987)M P Ra S T수원 여고생 강간 살인 사건M Y R S 오이균 사건(1989) M P R S Y||
- [ 1990년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=1000>부산 엄궁동 2인조 살인사건(1990)M ? 조경수, 김태화 사건(1990)G A M R S T Y 청주고 야구부 사건(1991)G 청주 처제 살인사건M R 인천가톨릭대학교 신학생 성추행 사건(1996~1998)A 빨간 마후라 사건(1997)C 서귀포 호프집 여주인 살인사건(1997)M N ? 관덕정 살인사건(1997)M N V ? 함평 여고생 집단 성폭행 사건(1997)G Y 대전 갈마동 월평산 여중생 살인사건(1998)M R Y ? 대구 여대생 사망 사건(1998)G ? 대전 발바리 사건(1998~2005)R S T 부산 며느리 강간 사건(1999~2006)R 황호진 연쇄살인 사건(1999~2000)A M R S T||
- [ 2000년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=80px> 2000 ||<width=1000>부산 미용사 살인사건G M ? 고창 연쇄 살인 사건A M K Ra S P V Y 강릉 지적장애 여성 집단성폭행 사건G 안산 부녀자 연쇄살인 사건A F M N T ||
2001 드들강 여고생 살인 사건M R Y 부천 탈영장교 살인사건M Na R T 2002 용인 연쇄살인 사건G K M T 대구 빨랫줄 연쇄성폭행 사건(~2007)S T 이경영 미성년자 성매매 사건O Y 2003 김지연 군 살인 사건A F M Y 스포츠조선 임산부 술 강권 및 성희롱 사건A B H 유영철 사건(~ 2004)K M O 2004 정남규 사건( ~2006)A M R S T 단역배우 집단 성폭행 사건G 대구 노래방 여주인 살인사건M N Ra T 밀양 여중생 집단 성폭행 사건G I Y 반포동 빌라 지하방 살인사건R T S 화성 여대생 살인 사건M R ? 익산 여중생 집단 성폭행 사건(~2005)G Y 2005 강호순 사건( ~2009)K M R S T생방송 음악캠프 알몸노출 사건E 서정범 교수 무고 사건Fa 신정동 연쇄폭행살인사건A K M ?(~2006) 수원 발바리 사건R S T(~2007) 광주 인화학교 사건G R P Y 2006 김근식 연쇄 성폭행 사건K P S Y 대구 송현동 여고생 강간 살인사건K M N R Y 경주 동거녀 딸 성폭행 사건A P V ? 김윤철 연쇄살인 사건K M N R S 영등포 노들길 살인 사건A M ? 서울 가정집 아동 성추행 사건A Y 용산 아동 성폭력 살해사건M P 2007 보성 어부 살인 사건A M 안양 초등생 유괴 살인 사건A K M N P Ra 2008 양주 여중생 살인 사건F M Ra Y 강화도 모녀 납치 살해 사건G K M T 중랑구 강간미수 사건Ra 조두순 사건K P R V 부산 재송동 모텔 성폭행 사건G V Y 2009 부천 여고생 집단성폭행 사망 사건G Y / 익산 모친 성폭행 살해 사건M / 군산 초등학생 집단 성폭행 사건(~2010)G P
- [ 2010년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=80px> 2010 ||<width=1000>김길태 살인사건K M P R T 영등포 초등생 납치 성폭행 사건K P R 대전 지적장애 여중생 성폭행 사건G Y 수원 미성년자 집단 성폭행 사건G Y 장흥 지적장애소녀 집단 성폭행 사건G Y 경기도 양주 친모 성폭행 살인사건M R T 고영욱 미성년자 성범죄 사건(~2013)A R S Y ||
- [ 2020년대 ]
- ||<tablewidth=100%><tablebgcolor=#fff,#1f2023><width=80px> 2020 ||<width=1000>2020년 교회 아동성착취 사건A C G K P R V Y 오거돈 성추행 사건A B Na 최신종 사건K M R S T 경주시청 트라이애슬론 팀 집단 가혹행위 사건A B H I V 박원순 성폭력 사건A B H I Na 부산시의원 성추행 사건 A Na 정배우 로건·정은주 저격 사건C I 대구 달서구의회 성희롱 논란H Na 부산 황령산 혀 절단 사건K R V 울산 초등교사 아동학대 사건C H B ||
[1] 2020년부터 발생하였던 것이 2024년 8월 20일에 대거 발견되며 보도되었다. 대학생 1천명 채팅방에 4년간 ‘딥페이크 영상’ 공유 - 국민일보 이후 현재까지 사건이 진행형이다.[2] 통매음[3] #[4] #[5] #[6] #[7] #[8] #[9] 단, 이미지에 쓰여진 인원수는 교차검증되지 않았고, 이런 식으로 불확실한 수치를 단정하여 자극적으로 보도하는 기자의 행태에 관해 논란이 있다.[10] 사례1, 사례2[11] MBC에서 먼저 보도한 후 타 언론들에서도 이를 베껴 쓴 보도가 잇달았다.[12] 현역 군인들이 참가한 것으로 추정되는 텔레그램 단체 채팅방에서 타 군인을 '군수품'으로 지칭하며, 딥페이크 범죄에 사용할 피해자 사진을 요구하는 것을 '상납 양식'으로 표현하고 있다. 현역 군인인 A씨는 한국일보와의 인터뷰에서 "실제 제작된 여군 성착취물을 확인해 보니 피해자 얼굴, 이름, 소속, 사단 마크까지 적나라하게 나와 있다"라고 설명했다. 한 피해자는 수년 전 자신의 사적 SNS에 올린 정복 사진이 성착취물에 활용된 사실을 실제로 확인했다. 이미 전역한 B씨는 "해당 착취물에 내 이름과 성희롱 발언이 적혀 있었고, 이를 본 군동기가 연락을 해서 피해 사실을 인지했다"고 말했다. B씨는 "과거 사진을 누군가 오랫동안 보유하고 있다가 최근 성착취물을 만든 것으로 의심된다"면서 "여러 사람이 해당 착취물을 접했을 거라 생각하니, 내가 잘못한 것도 아닌데 움츠러들게 된다"고 말했다.[13] 다만 이는 교육부가 집계한 것이기 때문에, 군과 수사당국의 수사가 큰 진척을 맞지 않은 점, 학생 및 교직원에 대해서만 조사한 것이라는 점, 한 사람이 246명의 피해자를 발생시킨 사례도 있다는 의혹이 보도됐다는 점 등을 이유로 정확한 규모가 아닐 수 있다는 지적도 있다. #[14] 방심위, ‘대학가 딥페이크 성범죄’ 대응 착수 - 경향신문[15] 여가부 '대학가 딥페이크 사건, 신고 접수 시 영상 삭제 지원' - 서울경제[16] 학교·군대 이어 가정까지 파고든 딥페이크 성착취물···‘대책이 없다’ - 경향신문[17] “딥페이크 가해자 22만명”… 박지현, ‘국가재난’ 선포 촉구[18] 전 청년민중당 대표, 현 더불어민주연합 비례 승계 1순위 후보[19] 현 청년진보당 대표[20] 아래의 TWICE가 가장 먼저 공지했다고 알려졌으나# 실제로는 ARTMS가 더 빠르게 공지했다.[21] 이 소식을 들은 해외 누리꾼들도 레딧, X(트위터) 등을 통해 단호한 법적 대응을 해야 한다며 추가 피해를 우려하기도 했다. 관련기사[22] 딥페이크로 의심되는 영상을 시스템에 올리면 즉각 진위 여부를 판별해 결과를 제공하는 소프트웨어.[수정] 2024/08/30에 수정[24] 과방위 회의 내용에 따르면 사실관계를 확인하였을 때는 국내에서 만든 봇이 아니고 해외 개발자가 만든 봇으로 나왔는데 해외 시스템으로 한국인을 대상으로 한 것이 아니라 오보라고 말하였다.[25] 딥페이크 영상 확산…대전교육청, 디지털 성범죄 특별주의보 - 연합뉴스[26] 대부분 사람들이 생각하는 미남미녀의 기준은 대동소이하므로. 어떤 사람이던지 여기에 걸면 이현령비현령 꼴이 되기 딱 좋다.[27] 안 그러면 전기세 때문에 본인이 지칠 것이므로.[28] 대신 공개 계정을 상대로 스토리나 하이라이트 등을 열람 이력을 남기지 않고 갈무리해주는 서드파티 플랫폼은 존재한다.[29] 이는 로그인 위치 기록 시에 GPS를 사용하지 않고 오로지 인터넷 연결로만 기록하기 때문에 서버 등의 위치에 따라 달라지기 때문이다.[30] '딥페이크 성범죄, 잡힐 확률 0%'라고? "사실 아냐" - 오마이뉴스[31] 전 세계 딥페이크 생성물의 94%는 연예인을 합성한 경우라고 한다. 최근에는 K팝의 세계적 인기로 인해 한국 아이돌이 주요한 타겟이 된 것으로 보이며, 미국 전문지 롤링스톤에 따르면 한국 연예인의 딥페이크 영상은 대부분 중국에서 제작된다고 한다.[32] 왜냐면 가해자 중 "내가 했소"라고 자수하는 경우가 많지 않기 때문이다. 특히 성범죄처럼 비난 가능성이 높은 범죄라면 더더욱 그렇다. 괜히 자수가 감형 요소가 되는 게 아닌 셈. 게다가 설령, 정말 범죄용으로 사용하는 것이 아니라고 해도 텔레그램의 이미지가 워낙 나쁘다 보니 더더욱 답하지 않을 것이기 때문이다. 그렇기에 이미 커뮤니티에서는 저기에 자길 괴롭힌 일진 이름, 마음에 안 들었던 반 찐따 이름, 정치인 이름을 쓴다는 등 조롱이 이어지고 있다.[33] 텔레그램 개발자이며 현재 CEO이다. 본 사건이 한창이던 8월 24일 텔레그램 부실 관리 혐의로 프랑스 파리에서 체포되었다. 본 사건에 직접적인 관여를 한 것은 아니고, 체포 시기 역시 단순히 우연하게 겹친 것이긴 하지만 체포 사유가 텔레그램 상에서 이뤄지는 각종 범죄 행위에 대한 방관과 수사 비협조임을 감안하면 딥페이크 성범죄와 연관성이 없다고 보긴 어렵다.