SNS 캡처

인공지능(AI)으로 만들어진 이미지·영상이 확산하면서 딥페이크와 가짜뉴스 유통 등 AI 생산 콘텐츠의 악용에 대한 우려도 높아지고 있다. AI 콘텐츠 생산·유통 기업들은 ‘AI 생성’이란 문구를 삽입하고 있지만 유포 과정에서 해당 문구가 삭제되는 경우도 많아지고 있다. 구글, 마이크로소프트 등 빅테크 기업들은 육안으로 볼 수 없는 식별 장치 도입 등을 통해 가짜 콘텐츠를 구분해 내는 기술을 고도화하고 있다.

22일 인스타그램 등 SNS에는 이스라엘 공군의 최신예 F-35 스텔스 전투기가 이란에 격추된 사진이 등장했다. 한쪽 날개가 떨어져 나간 전투기가 사막에 추락해 있고, 그 주변에 사람들이 모여 있는 장면이다. 하지만 자세히 들여다보면 전투기 주변 모래가 추락 흔적 없이 깨끗하고, 사람들 크기도 차량 크기만큼 커 조작된 사진임을 알 수 있다. 그럼에도 SNS에 해당 사진이 전파되자 격추설은 걷잡을 수 없이 퍼져나갔다. 남아프리카공화국의 마트 정육 코너에 들이닥친 사자가 진열된 고기를 먹는 영상도 최근 SNS에 올라와 조회 수 수백만회를 기록했다. 이 영상 역시 AI로 생성된 가짜였다.

틱톡이나 메타, 삼성전자 등 기업들은 AI 생성 콘텐츠에 이를 표시하는 워터마크를 삽입하고 있다. 하지만 유통 과정에서 문구가 삭제될 경우 AI 콘텐츠임을 알기 쉽지 않다. 빅테크 기업들이 눈에 보이지 않는 워터마크를 삽입해 식별할 수 있는 기술을 개발하는 데 나선 이유다. 구글 ‘신스ID 디텍터’는 구글 AI로 생성된 이미지에 신스ID 워터마크가 포함되어 있는지를 확인할 수 있다. 구글은 AI로 생성된 이미지뿐 아니라 텍스트, 오디오, 영상 콘텐츠까지 적용 범위를 확장했다. 지금까지 100억개 이상의 콘텐츠에 신스ID 워터마크가 삽입됐다.

예를 들어 이용자가 특정 이미지나 영상을 신스ID 디텍터에 올리면, 시스템이 워터마크가 포함돼 있는지 감지한 후 몇 % 확률로 AI 영상인지 알려준다. 신스ID 워터마크가 감지되면 콘텐츠 내에서 AI로 만들어졌을 가능성이 높은 부분을 강조해 보여준다. 메타, 마이크로소프트 등도 자체 기술로 AI 생성 이미지를 구분하고 있다. 마이크로소프트는 AI로 생성된 콘텐츠에 생성자, 방식, 시간 등을 메타데이터로 삽입한다.

구글코리아 관계자는 “구글이 아닌 다른 AI 서비스를 활용해 만든 이미지는 신스ID 디텍터로 구분이 어려울 수 있다”면서도 “신스ID를 오픈소스화해서 배포하고 있는 만큼 활용도가 높아질 것으로 기대한다”고 말했다.

국민일보

심희정 기자(simcity@kmib.co.kr)