이번 총선부터 딥페이크를 활용한 선거운동이 금지돼 중앙선거관리위원회가 단속에 나서 100여 건을 적발했다. 수사기관에 고발하지는 않고 있지만 선거가 임박하면 실제 입건 사례도 나올 수 있어 긴장이 높다. 처벌은 최대 징역 7년으로 수위가 높고 적용 예외도 없어 법을 적용하는 데도 고심이 깊어질 것으로 보인다. 과잉 입법이라는 지적도 나온다.

딥페이크 게시물 한 달 만에 100여 건 단속

경기도 과천시 정부종합청사 부지에 위치한 중앙선거관리위원회 '허위사실·비방·AI딥페이크 특별대응 모니터링반'. 중앙선관위에는 AI전담 모니터요원이 5명 있고, 전국 시도선관위를 포함해 모두 72명이 일하고 있다. /박성동 기자

중앙선관위는 개정 공직선거법이 시행된 지난달 29일부터 한 달 동안 딥페이크로 만든 온라인 선거운동 게시물 129건을 찾아내 모두 삭제했다고 27일 밝혔다. 선관위로부터 삭제를 요청받은 홈페이지 운영자나 SNS 사업자 등은 이에 따라야 한다. 유튜브나 틱톡 등 해외사업자는 국내법을 반드시 따를 필요가 없지만 적극적으로 협조하고 있다.

적발된 게시물 가운데는 총선 입후보 예정자가 스스로 비난하며 이른바 ‘셀프디스’하거나 예비 후보자가 자신을 국회로 보내 달라며 지지를 호소하고 세배하는 영상이 있었다. 모두 실제 있었던 일이 아니라 AI로 만든 가상의 선거운동이다.

딥페이크(Deep fake)는 인공지능 기술인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 누군가의 얼굴이나 목소리를 여러 차례 학습시키면 인공지능이 그대로 따라 해내 대상자가 하지 않은 말과 행동을 만들 수 있는 기술이다. 목소리 흉내는 범용 프로그램을 통한 수십 회 정도 학습만으로도 가능하다. 후보자는 온라인 선거운동으로 비용을 줄이고 시공간 제약도 덜 받을 수 있지만 진위를 알기 어려운 표현물이 여론을 왜곡할 우려도 있다.

얼굴 사용 동의해도 처벌...면책·예외 없어

딥페이크 조항이 들어간 개정 공직선거법의 내용은 크게 세 가지로, 어느 경우든 처벌 수위가 높고 일단 입건되면 면책받을 수 있는 예외가 거의 없다.

우선 선거일로부터 90일 동안 딥페이크를 사용한 선거운동은 전면적으로 금지된다. 이를 어기면 7년 이하의 징역이나 1000만원 이상 5000만원 이하 벌금에 처한다. 영상이나 음성 내용이 사실인지 아닌지는 따지지 않는다. 얼굴이 사용된 상대가 동의해도, 자기 홍보용으로 후보 본인이 만들어도 처벌한다. 제작자와 유포한 사람 모두 처벌 대상이다.

선거일 90일 전이 아닌 평소에도 문제가 된다. 딥페이크로 허위사실을 공표하면 처벌한다. 누군가를 낙선시키려 했다면 7년 이하 징역, 당선이 목적이었다면 5년 이하 징역에 처할 수 있다. 정식으로 등록한 후보자에 대해서는 물론 평소 언행이나 신분에 비춰 선거에 나서겠다고 인식되는 사람에게도 적용된다.

마지막으로 선거일 90일 전이 아니고 허위사실도 없었더라도 가짜 표현물이라고 표시하지 않으면 1000만원 이하 과태료를 부과할 수 있다. 사람이 아닌 캐릭터 신체에 후보자의 얼굴을 입히는 등 누가 보더라도 가짜임을 알아차릴 정도만 예외다.

"심각한 경우에만 고발"...신중한 선관위

이 때문에 당장 법을 집행해야 하는 선관위는 매우 신중한 분위기다. 선관위가 적발한 129건도 모두 처벌 대상이지만 경찰로 넘기지는 않았다. 손욱 사이버조사과 주무관은 “지금까지는 유권자를 속이기보다 개인적인 표현행위 수준이었다”며 “선거가 임박하면 악의적이고 조직적인 여론조작이 나타날 수 있는데 이때는 실제 고발을 검토할 수 있다”고 말했다.

애초 선관위는 자유로운 선거운동을 좀 더 존중하는 입장이었다. 선관위는 2022년 1월 ‘딥페이크 영상 관련 법규운용기준’을 발표해 후보자는 실제보다 좋은 이미지의 영상을 만들 수 있고 허위사실이거나 비방일 때는 현행법으로도 규제할 수 있다고 설명했다.

딥페이크에 유례 없는 형사처벌...과잉 입법 지적

2022년 대선 때 등장한 'AI윤석열'. 시민의 가벼운 질문에도 답하는 영상을 올리며 선거운동을 했다.

분위기는 2022년 3월 대선과 6월 지방선거를 치르면서 급변했다. 대선 당시 국민의힘과 더불어민주당에서 AI 후보를 만들어 눈길을 끌었다. 이어진 지방선거에서 이른바 ‘AI윤석열’이 국민의힘 경남 남해군수 후보를 지지하는 영상이 나와 논란이 됐다. 박지현 당시 민주당 공동비상대책위원장은 “제작을 허락했거나 알고도 묵인했다면 대통령 선거 중립 의무를 명백히 위반해 탄핵도 가능”하다며 날을 세우기도 했다.

이후 지난해 11월까지 여야 의원들이 발의한 선거법 개정안이 11건 쌓였다. 처음 발의된 안은 3년 이하 징역형을 만들거나 신설 없이 기존 법체계에 포괄하자는 내용, 명백히 허위인 때만 처벌하자는 내용 등이었다. 하지만 법안심사 과정에서 딥페이크는 사실과 허위 구분을 어렵게 하는 만큼 일반적인 허위사실공표죄보다 가중처벌이 필요하다는 논의가 이뤄졌고, 적용 예외도 거의 사라졌다.

딥페이크 선거운동 금지법은 비슷한 해외 입법례를 찾기 어렵다. 이인호 중앙대 법학전문대학원 교수는 “미국 캘리포니아주법에는 후보자 평판을 해치거나 유권자를 속이려고 ‘거짓으로 묘사’할 때만 후보자 본인이 유포금지나 손해배상을 청구할 수 있다”며 “딥페이크 기술을 선거운동에 사용했다는 이유만으로 처벌한다면 기술 자체를 적대시하는 것일 수 있다”고 말했다.