메뉴 건너뛰기

사진제공=유튜버 딸깍 디자이너. 연합뉴스

[서울경제]

인공지능(AI) 기술로 제작된 영상이 현실과 구분하기 어려운 수준까지 발전하면서 소셜미디어를 중심으로 딥페이크 오남용에 대한 우려가 급속히 확산되고 있다.

8일 연합뉴스에 따르면 최근 SNS 플랫폼 스레드에 올라온 한 영상은 AI 생성 콘텐츠의 위험성을 경고하는 내용을 담고 있어 화제를 모았다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 가상의 속보를 전하며 현장 기자와 연결하는 장면으로 시작된다. 뒤편에 시뻘간 용암이 솟아오르는 상황에서도 태연하게 서 있던 기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 정체를 밝히며 시청자들에게 '속지 말라'고 경고한다. 이어 등장하는 학생, 연예인, 사업가 등 모든 인물이 자신이 AI임을 강조하는 내용으로 구성됐다.

영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크 얼굴로 로맨스스캠을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 점이 놀라웠다"고 제작 배경을 설명했다. 그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상 접근성은 높아지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 우려를 표했다.

네티즌들 사이에서는 현실에 버금가는 영상 품질에 놀라움을 표하면서도 끊임없이 진화하는 AI 기술의 악용 가능성에 대한 우려의 목소리가 높아지고 있다. 특히 AI 활용에 익숙하지 않은 고령층이 AI 생성 여부를 판단할 수 있도록 하는 디지털 리터러시 교육의 필요성이 제기되고 있다.

한편 AI 영상 광고 제작소 '아웃오프라인'이 비오3를 활용해 제작한 '한국 남성의 삶' 영상도 주목받고 있다. 유년기부터 노년까지의 인생 과정을 AI 기술로 자연스럽게 표현한 이 영상에 대해 네티즌들은 "비오3로 만든 영상 중 가장 자연스럽다"는 호평과 함께 "숏폼 시장을 이런 제작자들이 선점하게 될 것"이라는 전망을 내놓고 있다.

서울경제

번호 제목 글쓴이 날짜
50772 윤석열, ‘계엄 위자료’ 청구 시민들에게 “소송비용 담보해라”···법원이 기각 랭크뉴스 2025.06.11
50771 李 대통령, 예대금리차 정조준…"해외보다 심한 것 아닌가" 랭크뉴스 2025.06.11
50770 조정식측, 현직교사 문항거래 의혹 부인…"직접 준 적 없어" 랭크뉴스 2025.06.11
50769 암소 샀는데 송아지는?…거래소 방문한 이재명 대통령의 경고 [이런뉴스] 랭크뉴스 2025.06.11
50768 국민의힘 상임고문단 “김용태, 임기 연장 바람직… 탄핵 반대 당론 무효화는 분열 우려” 랭크뉴스 2025.06.11
50767 경찰, 정진석 전 비서실장 ‘컴퓨터 파기 지시 혐의’ 수사 착수 랭크뉴스 2025.06.11
50766 “나도 ‘휴면 개미’”···이재명 대통령, 한국거래소 찾아 “편하게 말해요” 랭크뉴스 2025.06.11
50765 예스24 사흘째 먹통에 공연 관객 발 동동... "복구에 최대 4일 더 걸릴 듯" 랭크뉴스 2025.06.11
50764 軍이 중지시킨 대북 확성기 방송, 李대통령의 지시였다 랭크뉴스 2025.06.11
50763 경찰, 정진석 전 비서실장 입건… ‘대통령실 PC 파쇄지시 의혹’ 관련 랭크뉴스 2025.06.11
50762 [단독] 법원, 윤석열 ‘내란 위자료’ 소송비용 담보 요구 기각 랭크뉴스 2025.06.11
50761 서울 시내 곳곳에 가수 보아 모욕 낙서…경찰 수사 중 랭크뉴스 2025.06.11
50760 軍, 대북 확성기 오늘 오후 2시부터 중지…李 대통령 지시 랭크뉴스 2025.06.11
50759 국힘 의총취소·당무감사에 '舊주류 vs 김용태·친한계' 갈등 고조(종합) 랭크뉴스 2025.06.11
50758 李 "나도 깡통 차본 휴면개미…부당이득은 과징금 물려 환수" 랭크뉴스 2025.06.11
50757 브리핑실 카메라 4대 늘린다…“기자도 찍자” 이재명 스타일 랭크뉴스 2025.06.11
50756 [속보] 대북 확성기 방송 중지, 李대통령의 지시였다 랭크뉴스 2025.06.11
50755 이준석 "홍준표와 신당 창당? 전혀 검토한 적 없다" 랭크뉴스 2025.06.11
50754 이 대통령, 체코 총리와 첫 통화…“원전 넘어 포괄적 협력으로 확대” 랭크뉴스 2025.06.11
50753 李대통령, 오후 2시부로 군 대북 확성기 방송 중지 지시 랭크뉴스 2025.06.11