메뉴 건너뛰기

사진제공=유튜버 딸깍 디자이너. 연합뉴스

[서울경제]

인공지능(AI) 기술로 제작된 영상이 현실과 구분하기 어려운 수준까지 발전하면서 소셜미디어를 중심으로 딥페이크 오남용에 대한 우려가 급속히 확산되고 있다.

8일 연합뉴스에 따르면 최근 SNS 플랫폼 스레드에 올라온 한 영상은 AI 생성 콘텐츠의 위험성을 경고하는 내용을 담고 있어 화제를 모았다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 가상의 속보를 전하며 현장 기자와 연결하는 장면으로 시작된다. 뒤편에 시뻘간 용암이 솟아오르는 상황에서도 태연하게 서 있던 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 정체를 밝히며 시청자들에게 '속지 말라'고 경고한다. 이어 등장하는 학생, 연예인, 사업가 등 모든 인물이 자신이 AI임을 강조하는 내용으로 구성됐다.

영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크 얼굴로 로맨스스캠을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 점이 놀라웠다"고 제작 배경을 설명했다. 그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상 접근성은 높아지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 우려를 표했다.

네티즌들 사이에서는 현실에 버금가는 영상 품질에 놀라움을 표하면서도 끊임없이 진화하는 AI 기술의 악용 가능성에 대한 우려의 목소리가 높아지고 있다. 특히 AI 활용에 익숙하지 않은 고령층이 AI 생성 여부를 판단할 수 있도록 하는 디지털 리터러시 교육의 필요성이 제기되고 있다.

한편 AI 영상 광고 제작소 '아웃오프라인'이 비오3를 활용해 제작한 '한국 남성의 삶' 영상도 주목받고 있다. 유년기부터 노년까지의 인생 과정을 AI 기술로 자연스럽게 표현한 이 영상에 대해 네티즌들은 "비오3로 만든 영상 중 가장 자연스럽다"는 호평과 함께 "숏폼 시장을 이런 제작자들이 선점하게 될 것"이라는 전망을 내놓고 있다.

서울경제

번호 제목 글쓴이 날짜
50754 이 대통령, 체코 총리와 첫 통화…“원전 넘어 포괄적 협력으로 확대” 랭크뉴스 2025.06.11
50753 李대통령, 오후 2시부로 군 대북 확성기 방송 중지 지시 랭크뉴스 2025.06.11
50752 대북 확성기 방송 오늘 오후부터 중단…이 대통령 의지 반영 랭크뉴스 2025.06.11
50751 軍, 대북 확성기 방송 전면 중지… 대북 전단 중단 이어 이재명표 유화 제스처 랭크뉴스 2025.06.11
50750 검찰, '휴대폰 가입자정보 이용 살해협박' 40대 남성 구속기소 랭크뉴스 2025.06.11
50749 "형이다 생각해" 훈훈했던 분위기‥대통령 질문 공세에 '급반전' [현장영상] 랭크뉴스 2025.06.11
50748 대북전단 말리고 확성기도 껐다…긴장완화 손짓에 北호응하나 랭크뉴스 2025.06.11
50747 ‘코스피 5,000’ 묘책은?…“국장 돌아오는 건 지능 순” 말 나오게 랭크뉴스 2025.06.11
50746 ‘전남 비하 논란’ 유튜버, 5·18기념재단에 기부했지만… 재단 “반환할 것” 랭크뉴스 2025.06.11
50745 “법정관리 홈플러스” 인수합병 추진…임대료 협상은 난항 랭크뉴스 2025.06.11
50744 법원, 윤석열 전 대통령 소송비용 담보 신청 기각 랭크뉴스 2025.06.11
50743 강한 자외선…내일, 제주 올해 첫 장맛비 [퇴근길 날씨] 랭크뉴스 2025.06.11
50742 李대통령, 체코총리와 통화 "원전 계약…경제협력 시금석" 랭크뉴스 2025.06.11
50741 문재인 전 대통령 “울산지법으로 사건 옮겨달라”…재판부에 신청 랭크뉴스 2025.06.11
50740 [속보] 머스크 “지난주 트럼프 공격 지나쳤다…후회해” 랭크뉴스 2025.06.11
50739 대북 확성기 방송 1년만에 중지…“남북 신뢰회복 공약 이행” 랭크뉴스 2025.06.11
50738 "밤새 보석거리 털려 난장판"…33년전 LA폭동 악몽 떠오른다 [르포] 랭크뉴스 2025.06.11
50737 민생회복지원금, 이번에도 '국민 88%'만 주나? 랭크뉴스 2025.06.11
50736 [단독] 김민석, 옛 불법 정치자금 제공자에 재차 돈 빌리고 7년째 미상환 랭크뉴스 2025.06.11
50735 [속보] 李대통령, 대북 확성기 방송 중지 지시 랭크뉴스 2025.06.11