메뉴 건너뛰기

사진제공=유튜버 딸깍 디자이너. 연합뉴스

[서울경제]

인공지능(AI) 기술로 제작된 영상이 현실과 구분하기 어려운 수준까지 발전하면서 소셜미디어를 중심으로 딥페이크 오남용에 대한 우려가 급속히 확산되고 있다.

8일 연합뉴스에 따르면 최근 SNS 플랫폼 스레드에 올라온 한 영상은 AI 생성 콘텐츠의 위험성을 경고하는 내용을 담고 있어 화제를 모았다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 가상의 속보를 전하며 현장 기자와 연결하는 장면으로 시작된다. 뒤편에 시뻘간 용암이 솟아오르는 상황에서도 태연하게 서 있던 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 정체를 밝히며 시청자들에게 '속지 말라'고 경고한다. 이어 등장하는 학생, 연예인, 사업가 등 모든 인물이 자신이 AI임을 강조하는 내용으로 구성됐다.

영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크 얼굴로 로맨스스캠을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 점이 놀라웠다"고 제작 배경을 설명했다. 그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상 접근성은 높아지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 우려를 표했다.

네티즌들 사이에서는 현실에 버금가는 영상 품질에 놀라움을 표하면서도 끊임없이 진화하는 AI 기술의 악용 가능성에 대한 우려의 목소리가 높아지고 있다. 특히 AI 활용에 익숙하지 않은 고령층이 AI 생성 여부를 판단할 수 있도록 하는 디지털 리터러시 교육의 필요성이 제기되고 있다.

한편 AI 영상 광고 제작소 '아웃오프라인'이 비오3를 활용해 제작한 '한국 남성의 삶' 영상도 주목받고 있다. 유년기부터 노년까지의 인생 과정을 AI 기술로 자연스럽게 표현한 이 영상에 대해 네티즌들은 "비오3로 만든 영상 중 가장 자연스럽다"는 호평과 함께 "숏폼 시장을 이런 제작자들이 선점하게 될 것"이라는 전망을 내놓고 있다.

서울경제

번호 제목 글쓴이 날짜
50378 '내란·김건희 특검·채 상병 3대 특검법' 의결‥윤 부부 정면 겨냥 랭크뉴스 2025.06.10
50377 대통령실 “이재명 시계 만든다…‘만들지 말라 했다’는 오보” 랭크뉴스 2025.06.10
50376 ‘예스24’ 이틀째 접속 장애…뒤늦게 해킹 사실 인정 랭크뉴스 2025.06.10
50375 새 정부 국세청 ‘탈세 철퇴’ 시동…고액 체납자 710명 추려 1조원 추징 나선다 랭크뉴스 2025.06.10
50374 건진, 김건희에 "윤핵관이 제사람 쓰지 말란다" 인사 불만 문자 랭크뉴스 2025.06.10
50373 김민석 총리 후보자, 재산 2억여원 신고…병역 면제 랭크뉴스 2025.06.10
50372 용산 떠나 다시 청와대로... 李 주재 국무회의서 복귀 예비비 259억 의결 랭크뉴스 2025.06.10
50371 [단독] 정부·대학, 의대에 만연한 ‘시험 족보 문화’ 손본다 랭크뉴스 2025.06.10
50370 [단독] 영변 새 핵시설 위성에 포착…“새 농축 시설 가능성” 랭크뉴스 2025.06.10
50369 한동훈·이준석 이어 김문수… '대선 패배 책임자' 저격수 된 전한길 랭크뉴스 2025.06.10
50368 윤건영 "尹, 1년 걸려 구축한 靑 지하벙커 뜯어가 용산 이전" 랭크뉴스 2025.06.10
50367 ‘이재명 시계’ 못 본다? 대통령실 “사실과 달라” 랭크뉴스 2025.06.10
50366 [단독] 불닭볶음면부터 제네시스까지…중기부 ‘꼼꼼한’ 협찬 요구 랭크뉴스 2025.06.10
50365 이재명 정부 ‘탈세 철퇴’ 시동…고액 체납자 710명 추려 1조원 추징 나선다 랭크뉴스 2025.06.10
50364 김민석 총리 후보자, 재산 2.1억원 신고…병역은 ‘면제’ 랭크뉴스 2025.06.10
50363 검찰, 건진법사와 김 여사 측 주고받은 문자 내역 확보… 인사청탁 의심 랭크뉴스 2025.06.10
50362 "이 대통령 재판 연기는 위헌"‥헌법소원 4건 잇따라 제기 랭크뉴스 2025.06.10
50361 "24인분 주세요"…부산서 음식점 주문 사기 잇따라 랭크뉴스 2025.06.10
50360 대통령실 "이재명 시계 만들지 말라했다는 보도 사실 아냐" 랭크뉴스 2025.06.10
50359 3개 대형수사 동시 착수…‘윤 외환 혐의’까지 집중 수사 랭크뉴스 2025.06.10