로이터연합뉴스

엑스(X·옛 트위터)에 탑재된 인공지능(AI) 챗봇 ‘그록’을 둘러싼 딥페이크 논란이 점점 확대되고 있다. 해외에서는 제대로 된 보호장치가 마련되기 전까지 그록 이용을 제한하는 초강수까지 나오고 있다. 이에 비해 국내의 경우 ‘사후 규제’에 초점이 맞춰져 있고, 접속 차단과 같은 강경책도 시행하기 어려운 상황이다. 이용자들 사이에서는 이미 유통된 딥페이크 게시물을 규제하는 방식으로는 문제의 근본적 해결이 불가능하다는 지적이 나온다.

엑스는 지난해 8월 ‘그록 이매진’ 기능을 추가했다. 사용자는 이를 통해 짧은 텍스트 명령어로 엑스에 게시된 사진을 편집하거나, 새로운 이미지를 생성할 수 있다. 문제는 콘텐츠를 생성하는 과정에서 대상자의 나이나 본인 동의 여부 등을 확인하는 절차가 없었다는 점이다. AI 시스템이 안전하고 윤리적으로 실행되도록 하는 ‘가드레일’ 설계에도 문제가 있었다. 그록은 실존 인물의 사진에 ‘수영복을 입혀라’ 등 명령어를 입력해도 그대로 수행했고, 그 결과 실제 여성과 아동, 청소년의 성착취 이미지가 다수 유통된 사실이 확인됐다.


AI가 통제를 벗어나자 일부 국가에서는 접속 자체를 막아버리며 대응에 나섰다. 인도네시아 통신디지털부는 지난 10일 세계 최초로 그록 접속 차단 조치를 단행했다. 무티아 하피드 장관은 성명에서 “동의 없는 딥페이크 생성 및 유포 행위는 인권과 인간의 존엄성, 디지털 공간에서의 시민 안전을 침해하는 중대한 위반”이라고 밝혔다. 지난 12일에는 말레이시아 통신멀티미디어위원회가 자국 내 그록 접속을 일시적으로 제한했다. 말레이시아 당국은 이달 초 엑스와 그록 개발사 xAI 측에 유해 콘텐츠 삭제를 명령하는 통지서를 발송했지만, 아무런 조치가 없었던 것으로 알려졌다.

유럽 정부도 강도 높은 조사에 돌입하고 있다. 영국 미디어 규제기관 오프컴은 12일 엑스에 대한 공식 조사에 착수했다. 엑스가 법을 위반한 것으로 결론이 날 경우 전 세계 연간 매출의 최대 10%가 과징금으로 부과될 수 있다. 또 법원 결정을 통해 결제 서비스 차단이나 영국 내 접속 제한 조치도 이뤄질 수 있다. 프랑스는 이번 사안이 유럽연합(EU) ‘디지털서비스법’ 위반에 해당할 수 있다고 보고 방송·통신 규제기구 아르콤에 회부한 상태다. 해당 법안은 온라인 플랫폼에서의 불법 콘텐츠 유통 방지와 이용자 권리 보호 등을 목적으로 한다. 위반 시 과징금 상한선은 전 세계 연간 매출의 6%다.

이처럼 엑스를 상대로 칼을 빼드는 사례가 속속 나오고 있지만, 국내의 경우 유통된 딥페이크 게시물 삭제 및 차단 외에 뾰족한 수가 없는 실정이다. 방송미디어통신위원회 관계자는 “방송미디어통신심의위원회가 온라인 상의 유해정보에 시정을 요구하고, 이를 미이행할 경우 방미통위에서 시정명령과 형사고발을 진행하는 구조”라고 설명했다. 해외처럼 접속을 제한하거나, 막대한 과징금을 물릴 제도적 근거도 없다. 다만 국내 이용자들 사이에서 불안이 확산되자 방미통위는 이날 엑스 측에 유해 정보로부터 청소년을 보호하기 위한 접근 제한 및 관리 조치 등 계획을 수립하고, 결과를 회신하라고 요청했다. 방미통위 관계자는 “2주 정도 기한을 두고 엑스에 자료를 제출받기로 했다”며 “엑스가 계획을 제대로 이행하지 않을 경우 정보통신망법상 최대 1000만원의 과태료가 부과될 수 있다”고 말했다.

국민일보

박선영 기자([email protected])