10대가 저지르는 딥페이크 성범죄…뿌리 뽑을 방법은 [뉴스in뉴스] / KBS 2024.09.20.

[앵커] 영상물에 사람의 얼굴을 합성하는 딥페이크 기술. 최근 이 딥페이크 기술을 허위 음란물 제작에 악용하는 성범죄가 계속돼 우려가 커지고 있습니다. 이 문제 취재한 최혜림 기자 나와있습니다. 최 기자, 이 딥페이크가 어떤 기술인지부터 설명을 해주시죠. [기자] 네, 딥페이크는 인공지능으로 합성 영상물을 만드는 기술을 의미하는데요. 이미 미국 대통령이나 유명 연예인의 얼굴을 합성한 가짜 영상이 수 년 전에 등장해 논란이 일었었죠. 문제는 이 딥페이크 기술이 발전하면서 누구나 쉽게 대량으로 이런 허위 영상물을 만들다 보니 성범죄에까지 악용되기 시작한 겁니다. 실제로 제가 무료 앱을 다운받아서 AI 이미지에 제 얼굴을 합성해 보니 결과물을 얻는데 가지 10초도 걸리지 않았고요. 인터넷에는 딥페이크를 이용해 정교한 허위 음란물을 만드는 방법을 공유하고 있기도 합니다. [앵커] 딥페이크로 만든 허위 영상물이 논란이 된 게 이번이 처음이 아닌데, 이렇게 우려와 논란이 커진 이유, 뭐죠? [기자] 최근 지인의 사진을 텔레그램 대화방에 올리고 음란물에 합성하는 딥페이크 성범죄가 적발되고 있기 때문입니다. 이런 대화방은 '겹지방'이라고 불리는데요. 서로 아는 지인들의 정보를 공유하고 사진을 음란물에 합성해달라고 의뢰하는 겁니다. 음란물 합성 의뢰를 받는 대화방에는 22만 명이 참여한 곳도 있었습니다. 피해자의 이야기를 직접 들어보시겠습니다. [A 양/'딥페이크 성범죄' 피해 학생/음성변조 : "뉴스에서만 봤지 주변인들도 다 당할 거라고는 생각을 하지 못했어요. 당한 애들 얼굴이 진짜 겁에 질린 표정으로 학교에 왔더라고요."] [B 양/'딥페이크 성범죄' 피해 학생/음성변조 : "○○ 능욕 사진 그런 식으로 주로 대화가 오갔고 이미 합성된 사진들도 있었어요. 나체 사진 그런 내용들이 많았어요."] 학생뿐 아니라 여군, 여교사까지 대상이 됐는데, 피해 학생들의 학교 명단을 모은 사이트까지 등장했습니다. 피해가 반복되는 만큼, 솜방망이 처벌이란 지적도 반복되고 있습니다. 대법원 양형기준에는 딥페이크를 제작, 유포할 경우 가중처벌까지 받아도 최대 징역 2년 6개월에 그칩니다. 성인 대상 딥페이크 범죄는 제작했을 때만 처벌이 되고 소지나 시청은 처벌할 수 없어서 처벌 규정을 강화하라는 지적이 계속 나오고 있습니다. [앵커] 여자 연예인들을 대상으로 한 딥페이크 성범죄도 심각하다고요? [기자] 네, 그렇습니다. 최근 K팝 아이돌 사진을 합성해 딥페이크 음란물 영상을 만들고 공유하는 사이트가 다수 확인됐습니다. 로그인이나 성인인증 같은 절차 없이 주소만 입력하면 들어갈 수가 있어 문제가 심각합니다. 해당 사이트들은 지난달 말 방송통신심의위원회에 신고됐지만, 아직도 버젓이 운영되고 있습니다. 전 세계 딥페이크 음란물 피해자의 절반 이상은 한국인이었고, 피해자 대부분은 가수와 배우 등 연예인이라는 조사 결과까지 있습니다. 앞서 말씀드렸던 텔레그램 상의 '겹지방'이 문제가 되니까 SNS에서 사진을 내리라는 게 하나의 해결책으로 공유가 됐는데요. 이런 식으로 대중에게 더 많이 노출된 연예인을 대상으로 한 딥페이크 범죄가 계속 생기고 있어서 단순히 피해자들이 사진을 내리는 것만으로 딥페이크 범죄를 막을 수는 없다는 걸 알 수 있습니다. [앵커] 그런데 이런 딥페이크 합성물, 흔하게 쓰는 사진 앱에서도 원치 않게 생길 수 있단 지적이 있죠? [기자] AI 기술로 자신의 모습을 바꿀 수 있는 사진 앱 '스노우'에서 합성 피해가 발생했습니다. 머리 스타일을 바꾸는 기능을 썼더니, 피해자의 얼굴에 나체가 합성된 사진이 나온 겁니다. 스노우가 출시한 또 다른 사진 앱, 소다에서도 사진의 배경을 바꾸려다 성적 수치심을 느낄 만한 합성물이 나오는 피해가 있었습니다. 스노우 측은 "AI 이미지 변환 모델의 한계로 생긴 일"이라며 외부 유출 가능성은 없다고 해명했는데, 피해자들은 스노우 측에 구체적인 재발 방지 대책을 요구하고 있습니다. [앵커] 문제가 정말 심각한데 경찰이 특별 수사팀까지 꾸려서 대대적으로 수사에 나섰죠? [기자] 경찰은 지난달부터 딥페이크 성범죄에 대한 특별 집중 단속을 하고 있습니다. 집중단속이 시작된 지난달 26일부터 30일까지 딥페이크 범죄 신고는 118건이 접수됐습니다. 경찰은 이 중 피의자 33명을 특정해 7명을 검거했는데, 검거된 피의자 6명은 10대였습니다. 실제로 이런 딥페이크 범죄는 피의자와 피해자가 대부분 10대 미성년자라서 더욱 문제가 큰데요. 지난 10일 기준으로 올해 1월부터 경찰이 검거한 딥페이크 성범죄 피의자 318명 가운데 10대는 251명으로 전체의 약 79%를 차지했습니다. 경찰은 내년 3월까지 7개월 동안 집중 단속을 벌일 예정인데, 제작과 유포 단계부터 추적하고 국제 공조까지 나선단 방침입니다. [앵커] 네 최혜림 기자 잘 들었습니다. ▣ KBS 기사 원문보기 : http://news.kbs.co.kr/news/view.do?nc... ▣ 제보 하기 ◇ 카카오톡 : 'KBS제보' 검색 ◇ 전화 : 02-781-1234 ◇ 홈페이지 : https://goo.gl/4bWbkG ◇ 이메일 : [email protected] Copyright ⓒ KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지 #딥페이크 #성범죄 #10대