인공지능(AI) 합성 기술인 딥페이크를 사용한 온라인 성범죄가 확산하는 가운데 방송통신심의위원회가 성범죄물이 주로 유통되는 텔레그램방 제재에 나섰다. 텔레그램 측에 협조를 요청해 불법 게시물을 삭제하는 방안인데, 피해신고 접수를 홍보하고 모니터링 요원도 두 배 이상 늘리기로 했다.
방심위는 28일 전체회의를 열고 딥페이크 성범죄 대응 방안을 발표했다. 방심위는 성범죄물이 공유되는 텔레그램방을 찾아낼 모니터링 인력을 기존 6명에서 12명으로 두 배 늘리고, 향후 인력을 더 확대하기로 했다. 또 27일 홈페이지에 전용 신고배너를 설치한 데 이어 네이버 등 포털에도 협조를 얻어 신고 배너를 띄우기로 했다.
방심위는 불법 게시물을 발견하면 텔레그램 측에 삭제해 달라고 요청하고, 악성 유포자는 경찰에 수사를 의뢰할 계획이다. 해외에 서버를 둔 텔레그램은 기술적으로 국내에서 게시물을 지울 수 없어 텔레그램 측에 자체적인 조치를 요구해야 한다. 텔레그램 측은 익명성과 보안성을 지키기 위해 사용자 정보 제공 등 세계 각국의 수사 요청에는 일절 응하지 않고 있다.
방심위는 2019년 성착취물을 조직적으로 제작해 거래한 ‘N번방’ 사건 때부터 협조를 요청해 왔는데, 텔레그램 측이 시정요구에 잘 응하고 있다고 설명했다. 이날 전체회의에서 방심위는 지난해 텔레그램 측에 161건을 시정요구해 160건이 실제로 삭제됐다고 밝혔다.
텔레그램은 다른 메신저 프로그램인 카카오톡과 달리 대화방과 대화방 내 메시지마다 인터넷 주소(URL)가 부여되는 특징 때문에 대화 내용을 기술적으로 삭제할 수 있다. 카카오톡도 익명으로 대화를 나눌 수 있는 ‘오픈채팅방’은 인터넷 주소가 생성된다.
딥페이크는 인공지능 기술인 ‘딥러닝(Deep learning)’과 가짜를 뜻하는 ‘페이크(Fake)’의 합성어로, 최근 주변인의 일상 사진에서 얼굴을 따 성적인 영상에 입히는 문제가 불거지고 있다. 인공지능 기술 발달로 일반인도 제작이 쉬워지면서 초중고등학교를 비롯해 대학, 군대에서도 가까운 사람을 모욕하려 범행하는 사례가 나타나고 있다.
박성동 기자의 전체기사 보기Copyright @2004 한국기자협회. All rights reserved.