우리 역사에 기록된 ‘최초의 가짜뉴스’는 <서동요>라는 말이 있을 정도로 ‘가짜뉴스’의 역사는 아주 오래됐다고 알려진다. 넓게는 루머, 음모론 등을 포함하는 가짜뉴스는 디지털 시대, 기술의 발전과 소셜미디어 등장에 힘입어 대홍수를 이뤘고, 급기야 전 지구적인 문제로 떠올랐다. 2016년 미국 대선은 그런 가짜뉴스의 위력을 확인한 장이었다. 그리고 미 대선과 우리나라 총선을 포함, 전 세계 76개국에서 선거를 치르는 ‘슈퍼 선거의 해’인 올해, 세계는 생성형 인공지능(AI)의 발달로 ‘진화’된 가짜뉴스, ‘딥페이크(deepfake)’와 일전을 벌이고 있다.

서울대 공익산업법센터가 지난 24일 서울 중구 더플라자호텔에서 ‘가짜뉴스 규제의 최근 동향과 쟁점’을 주제로 학술세미나를 열었다. 이 자리에선 가짜뉴스와 AI 관련 해외 각국의 규제 동향과 쟁점 등을 공유하고 우리에게 필요한 대응 등을 점검했다. /김고은 기자

여러 연구 결과에 의하면 사진이나 영상 같은 시각적 정보가 있을 때 가짜뉴스를 진실로 받아들이는 경향이 많은데, 최근 주목받는 생성형 AI들은 이런 고품질의 이미지나 영상을 만들어내는 데 특화돼 있다. 훨씬 적은 비용과 시간으로 꽤 ‘그럴듯한’ 가짜뉴스, 딥페이크를 더 많이 만들어 퍼뜨릴 수 있는 환경이 만들어진 셈이다. 유럽과 미국 등 세계 주요 국가들이 AI나 딥페이크 관련 규제에 발 빠르게 나선 이유다.

우리나라도 큰 틀에선 이런 흐름 속에 있는데, ‘처벌주의’에 입각한 법적 규제 논의가 주를 이룬다는 게 특이점이다. 그러나 규제 범위를 명확히 하지 않은 채 강력한 법적 규제만 밀어붙이면 표현의 자유 등 국민의 기본권이 침해되는 것은 물론이고, ‘AI 거버넌스’라는 세계 공통의 이슈에서 우리만 고립될 수 있다는 지적이 나온다. 서울대학교 공익산업법센터가 24일 ‘가짜뉴스 규제의 최근 동향과 쟁점’을 주제로 연 세미나에서 전문가들은 과도한 법적 규제보다는 자율규제와의 조화 등을 통해 규제의 실효성을 높일 수 있는 적정선을 찾는 게 중요하다고 제언했다.

최경진 가천대 법과대학 교수(한국인공지능법학회장)는 우선 규제의 대상과 목적을 분명히 해야 한다고 강조했다. 그러기 위해선 가짜뉴스, 딥페이크 등의 명확한 개념 정의부터 선행돼야 한다. 가짜뉴스는 통상 ‘뉴스의 형식’을 띠고 남을 속이려는 의도로 만들어진 거짓 정보를 가리킨다. 그런데 이 가짜뉴스가 정치적·정파적 용어로 쓰이면서 언론 오보나 단순 오정보를 포함해 ‘내 편’이 아닌 뉴스를 규제 틀에 넣으려는 시도가 이어져 왔다. ‘가짜뉴스 처벌’을 내건 언론중재법 개정 논의나 방송통신심의위원회의 ‘가짜뉴스 신속심의센터’ 등이 대표적 예다. 때문에 학계 등에선 가짜뉴스란 말부터 ‘허위조작정보’로 바로잡아야 한다고 지적해 왔지만, 이날 세미나 주제조차 가짜뉴스를 내걸 만큼 일반적인 용어로 자리 잡았다. 심석태 세명대 저널리즘대학원 교수는 “전문가들이 쓰니 정당성이 있는 것으로 여겨져 반복해서 쓰이는 악순환의 고리에 빠진 건 아닌지” 꼬집기도 했다.

딥페이크 역시 마찬가지다. 캠브리지 영영사전 등은 딥페이크를 ‘누군가’의 얼굴 또는 음성을 다른 무엇으로 대체하는 것으로 정의한다. 최경진 교수는 “누군가의 아이덴티티나 그 사람에 대한 평가를 조작하는 게 굉장히 중요한 요건”이라고 말했다. 그런데 지난해 말 개정된 우리 공직선거법은 딥페이크의 정의를 ‘인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상’으로 확대하고, 이를 이용한 선거운동을 모두 금지했다. 최 교수는 “우리가 원하는 규제 대상은 허위 이미지를 만드는 게 아니라 특정인에 관한 사실이 왜곡되거나 잘못된 정보가 전달돼 공직선거에 영향을 미치는 건데, 이건 아무 기술도 쓰지 말라는 뜻”이라고 지적했다. 이어 그는 “딥페이크 규제가 필요한 이유가 뭔지 정확하게 짚어주지 않으면 이후 나올 AI나 딥페이크 규제법도 공직선거법 개정의 길을 그대로 따를 수 있다”면서 “그러면 인공지능의 발전은 사실상 멀어지게 된다”고 말했다.

최 교수는 “처음부터 과감하게 법적 규제를 만드는 건 바람직하지 못하고, 국제적인 공동의 대응 노력 없이 국내 논의만 하면 과잉 대응하게 될 수 있다”며 “테일러 스위프트의 딥페이크 영상이 나왔을 때 엑스(구 트위터)가 검색 확산을 막는 등 자체 조치를 취한 것처럼 사업자들도 자발적으로 노력하고, 거기에 일정한 힘을 실어주는 정부의 노력도 필요하다”고 밝혔다.