메뉴 건너뛰기

사진제공=유튜버 딸깍 디자이너. 연합뉴스

[서울경제]

인공지능(AI) 기술로 제작된 영상이 현실과 구분하기 어려운 수준까지 발전하면서 소셜미디어를 중심으로 딥페이크 오남용에 대한 우려가 급속히 확산되고 있다.

8일 연합뉴스에 따르면 최근 SNS 플랫폼 스레드에 올라온 한 영상은 AI 생성 콘텐츠의 위험성을 경고하는 내용을 담고 있어 화제를 모았다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 가상의 속보를 전하며 현장 기자와 연결하는 장면으로 시작된다. 뒤편에 시뻘간 용암이 솟아오르는 상황에서도 태연하게 서 있던 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 정체를 밝히며 시청자들에게 '속지 말라'고 경고한다. 이어 등장하는 학생, 연예인, 사업가 등 모든 인물이 자신이 AI임을 강조하는 내용으로 구성됐다.

영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크 얼굴로 로맨스스캠을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 점이 놀라웠다"고 제작 배경을 설명했다. 그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상 접근성은 높아지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 우려를 표했다.

네티즌들 사이에서는 현실에 버금가는 영상 품질에 놀라움을 표하면서도 끊임없이 진화하는 AI 기술의 악용 가능성에 대한 우려의 목소리가 높아지고 있다. 특히 AI 활용에 익숙하지 않은 고령층이 AI 생성 여부를 판단할 수 있도록 하는 디지털 리터러시 교육의 필요성이 제기되고 있다.

한편 AI 영상 광고 제작소 '아웃오프라인'이 비오3를 활용해 제작한 '한국 남성의 삶' 영상도 주목받고 있다. 유년기부터 노년까지의 인생 과정을 AI 기술로 자연스럽게 표현한 이 영상에 대해 네티즌들은 "비오3로 만든 영상 중 가장 자연스럽다"는 호평과 함께 "숏폼 시장을 이런 제작자들이 선점하게 될 것"이라는 전망을 내놓고 있다.

서울경제

번호 제목 글쓴이 날짜
50310 예스24, 해킹 피해로 이틀째 접속 장애…“정보유출 없어” 랭크뉴스 2025.06.10
50309 '내란 등 3대 특검법' 공포…李대통령 "나라정상화에 반드시 필요"(종합2보) 랭크뉴스 2025.06.10
50308 [속보] 통상교섭본부장 여한구, 기획재정부 1차관 이형일 랭크뉴스 2025.06.10
50307 MS·구글 인공지능 잔치…애플은 “끼지도 못했다” 랭크뉴스 2025.06.10
50306 김용태 "법 위에 선 권력 오래 못 가"‥우상호 "여과 없이 전달할 것" 랭크뉴스 2025.06.10
50305 "매달 20만 원씩 드려요"…한숨 나오는 월세값 보태주는 '청년월세' 뭐길래 랭크뉴스 2025.06.10
50304 3.9초에 한 마리씩 유리창에 ‘쿵’…천연기념물도 위협 랭크뉴스 2025.06.10
50303 대통령실, 청와대 복귀 '시동'‥예비비 259억 원 국무회의 의결 랭크뉴스 2025.06.10
50302 트럼프 회동 앞두고 ‘즉시 전력감’ 외교·통상 협상팀 꾸려 랭크뉴스 2025.06.10
50301 불은 꺼졌지만 “장사도, 삶도 멈췄다”…을지로 재개발의 현재 [취재후] 랭크뉴스 2025.06.10
50300 이주호, 리박스쿨 국회 현안질의 '불참'‥"사의 밝힌 한시적 국무위원일 뿐" 랭크뉴스 2025.06.10
50299 [단독] '리박스쿨'과 '한국늘봄연합회' 대표는 모녀 사이‥"차명 운영 의혹" 랭크뉴스 2025.06.10
50298 "커피값 너무 비싸요" 카공족 다 어디로 갔나 보니…金계란에 자영업자도 '한숨' 랭크뉴스 2025.06.10
50297 우원식 "진관사 태극기가 국기 모독이라니… 그냥 웃는다" 랭크뉴스 2025.06.10
50296 대통령실 “청와대 복귀 관련 예비비 259억원 의결”···8월부터 관람 중단 랭크뉴스 2025.06.10
50295 李대통령, 취임 일주일만 '尹부부 정조준' 매머드급 특검 승인 랭크뉴스 2025.06.10
50294 대통령실, ‘청와대 복귀’ 예비비 259억원 의결... “소통 고려해 사무실 배치” 랭크뉴스 2025.06.10
50293 대통령실 “청와대 복귀에 예비비 259억…용산 이전의 69% 수준” 랭크뉴스 2025.06.10
50292 문재인 부탁에도 “안 됩니다”…깐깐한 청와대 살림꾼의 복귀 랭크뉴스 2025.06.10
50291 [단독]특검 후보 찾는 여당, ‘문재인 정부 검찰 고위직’ 출신 우선 물망 랭크뉴스 2025.06.10