인공지능(AI) 합성 기술인 딥페이크를 사용한 온라인 성범죄가 확산하는 가운데 방송통신심의위원회가 성범죄물이 주로 유통되는 텔레그램방 제재에 나섰다. 텔레그램 측에 협조를 요청해 불법 게시물을 삭제하는 방안인데, 피해신고 접수를 홍보하고 모니터링 요원도 두 배 이상 늘리기로 했다.

방심위는 28일 전체회의를 열고 딥페이크 성범죄 대응 방안을 발표했다. 방심위는 성범죄물이 공유되는 텔레그램방을 찾아낼 모니터링 인력을 기존 6명에서 12명으로 두 배 늘리고, 향후 인력을 더 확대하기로 했다. 또 27일 홈페이지에 전용 신고배너를 설치한 데 이어 네이버 등 포털에도 협조를 얻어 신고 배너를 띄우기로 했다.

방송통신심의위원회가 27일 홈페이지에 띄운 딥페이크 성범죄 신고 창구.

방심위는 불법 게시물을 발견하면 텔레그램 측에 삭제해 달라고 요청하고, 악성 유포자는 경찰에 수사를 의뢰할 계획이다. 해외에 서버를 둔 텔레그램은 기술적으로 국내에서 게시물을 지울 수 없어 텔레그램 측에 자체적인 조치를 요구해야 한다. 텔레그램 측은 익명성과 보안성을 지키기 위해 사용자 정보 제공 등 세계 각국의 수사 요청에는 일절 응하지 않고 있다.

방심위는 2019년 성착취물을 조직적으로 제작해 거래한 ‘N번방’ 사건 때부터 협조를 요청해 왔는데, 텔레그램 측이 시정요구에 잘 응하고 있다고 설명했다. 이날 전체회의에서 방심위는 지난해 텔레그램 측에 161건을 시정요구해 160건이 실제로 삭제됐다고 밝혔다.

텔레그램은 다른 메신저 프로그램인 카카오톡과 달리 대화방과 대화방 내 메시지마다 인터넷 주소(URL)가 부여되는 특징 때문에 대화 내용을 기술적으로 삭제할 수 있다. 카카오톡도 익명으로 대화를 나눌 수 있는 ‘오픈채팅방’은 인터넷 주소가 생성된다.

딥페이크는 인공지능 기술인 ‘딥러닝(Deep learning)’과 가짜를 뜻하는 ‘페이크(Fake)’의 합성어로, 최근 주변인의 일상 사진에서 얼굴을 따 성적인 영상에 입히는 문제가 불거지고 있다. 인공지능 기술 발달로 일반인도 제작이 쉬워지면서 초중고등학교를 비롯해 대학, 군대에서도 가까운 사람을 모욕하려 범행하는 사례가 나타나고 있다.