유튜브·틱톡 등 SNS에 무차별 유통
삭제 요청 건수만 지난 총선 13배
삭제 요청 건수만 지난 총선 13배
6·3 대선을 앞두고 특정 후보를 비방하기 위한 딥페이크 허위 합성물이 기승을 부리고 있다. 중앙선거관리위원회가 삭제를 요청한 딥페이크 영상물 건수는 지난해 총선 당시보다 13배 많은 것으로 파악됐다.
선관위는 22일 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 대선 관련 딥페이크 영상물이 총 5233건(오후 4시 기준)으로 집계됐다고 밝혔다. 지난해 총선 기간 선관위가 삭제를 요청한 딥페이크 영상물(388건)보다 크게 증가했다. 실제 유통되는 딥페이크 영상물은 삭제 요청 건수보다 훨씬 많을 것으로 추정된다.
유튜브나 틱톡 등 소셜미디어에선 대선 후보 관련 딥페이크 영상물을 쉽게 찾아볼 수 있다. 일부 유튜브 채널에는 이재명 더불어민주당 대선 후보를 비방하는 내용의 딥페이크 영상이 올라오고 있다. 지난달 25일에는 이 후보가 배에서 드럼통을 열자 밧줄에 묶인 문재인 전 대통령이 소리를 지르고, 이 후보가 드럼통을 바다에 던지는 쇼츠 영상이 업로드됐다. 드럼통 밈(온라인 유행 콘텐츠)은 극우 온라인 커뮤니티에서 이 후보를 비하하려는 목적으로 사용해 왔다. 이 후보가 당선되면 반대 세력을 탄압할 것이라는 의미를 담고 있다.
틱톡에도 딥페이크 영상이 빠르게 확산하고 있다. 코를 꼬집히는 이 후보 영상, 순대를 먹는 김문수 국민의힘 대선 후보 영상, 이준석 개혁신당 대선 후보가 정치 브로커 명태균씨에게 ‘황금폰’ 비밀번호를 알려 달라고 우는 영상 등이 대표적이다.
전문가들은 상당수 딥페이크 영상 퀄리티가 떨어지지만 실제 사진을 교묘하게 편집해 유권자들의 판단을 흐릴 수 있는 영상물도 적지 않다고 본다. 정수환 숭실대 전자정보공학부 교수는 “(딥페이크 영상을) 만드는 게 쉬워지니 더 많아지고, 더 빨리 유포되는 상황”이라며 “전문적인 툴로 오랜 시간 작업했을 때는 일반인이 진위를 구별하지 못할 영상이 나온다”고 말했다. 이어 “각 플랫폼이 자동으로 딥페이크 영상을 탐지해 ‘마크’를 넣어주든지 시청자들에게 경고하는 방식으로 플랫폼에 책임을 부여해야 한다”고 말했다.
문제는 급속도로 진화하는 딥페이크 영상을 일일이 모니터링하거나 분석할 인원이 부족하다는 점이다. 국립과학수사연구원에는 전담 인원이 전무해 디지털 담당 직원 6명이 딥페이크 합성물을 감정하는 업무를 맡고 있다. 경찰은 전국 시·도 경찰청 사이버과에서 딥페이크 관련 선거 범죄를 수사하고 있다. 경찰청은 지난 19일 기준 딥페이크 범죄 총 8건, 18명에 대한 사건을 접수해 수사 중이라고 밝혔다.