로런스 레시그 미국 하버드대 로스쿨 교수가 25일 오전 서울 중구 대한상공회의소에서 열린 제4회 사람과디지털포럼에서 ‘인공지능(AI)과 민주주의: 새로운 위협과 우리의 선택’을 주제로 영상을 통해 특별강연을 하고 있다. 김영원 기자 forever@hani.co.kr

“인공지능이 우리의 삶에 침투했다. 민주주의를 인공지능의 해로운 영향력으로부터 격리하고 보호해야 한다.”

로런스 레시그 미국 하버드대 로스쿨 교수는 25일 제4회 사람과디지털포럼에서 ‘에이아이(AI)와 민주주의: 새로운 위협과 우리의 선택’을 주제로 한 특별강연을 통해 민주적 숙의 과정이 인공지능 알고리즘에 의해 훼손된 시대에 ‘시민의회’ 운동을 확대할 것을 강조했다.

저명한 진보 성향 법학자이자 사회운동가인 레시그는 창작물 공유 운동을 전개한 비영리 조직 크리에이티브 커먼즈를 설립한 인물이다. 디지털 시대에 새롭게 발생한 사회·법률적 쟁점부터 민주주의 개혁에 이르기까지 광범위한 영역에서 혁신적 활동을 이어왔다.

이번 포럼의 특별강연에서 레시그는 빅테크의 인공지능 알고리즘이 목표하는 바를 “참여 기반 비즈니스 모델”로 규정했다. 소셜미디어 광고를 통해 수익을 얻는 빅테크 기업들은 보다 많은 이용자의 플랫폼 참여도를 이끌어 내야 한다. 이를 위해 인공지능 알고리즘은 자극적이고 극단적인 게시물을 추천하고, 그 결과 이용자는 혐오가 가득한 콘텐츠에 장시간 노출된다. 이 과정에서 인공지능 알고리즘이 사람들의 주의력을 조작하는 “브레인 해킹”이 발생하는데, 레시그는 이를 “민주주의를 위협하는 비지니스 모델”이라고 진단했다. 그는 “더 극단적이고 양극화된, 혐오로 가득한 콘텐츠를 이용자가 소비할수록 인공지능은 이를 학습하고 우리에게 주입시킨다”며 “인공지능은 이용자가 좋아하는 제품을 제안하는 것이 아니라 사람들의 선호를 바꾸는 작업을 통해 이용자를 예측 가능하게 만드는 역할을 한다”고 했다.

인공지능 알고리즘에 기반한 소셜미디어의 확산은 “급진적 사고의 증가”로 이어진다. 레시그는 “이는 기업이 의도한 것은 아니지만 ‘참여 기반 비즈니스 모델’의 부산물”이라며 “자신이 듣고 싶고, 믿고 싶고, 알고 싶은 내용만 소비한다”라고 설명했다. 같은 생각을 하는 집단의 의견, 뉴스만을 보게 되는 ‘필터 버블’에 빠지게 된다는 의미다.

리처드 닉슨 대통령이 1974년 워터게이트 사건으로 사임할 때 민주당원과 공화당원, 중도층의 지지율 추이가 비슷한 흐름을 보였던 것과 달리, 도널드 트럼프 1기 행정부 시절 민주당원과 공화당원의 지지율 격차가 ‘평행선’을 달린 모습을 예시로 들며 레시그는 필터버블 시대의 “뉴 노멀”이라고 지적했다.

레시그는 이런 인공지능 알고리즘의 영향으로부터 민주주의를 온전히 보호할 수 없다면, 기존 제도를 보완할 새로운 방법을 모색해야 한다고 주장했다. “전통적 선거 제도만으로는 민주주의를 지키기 어렵다”며, 그는 ‘보호된 민주적 숙의 기구’를 대안으로 제시했다. 2008년 세계금융위기를 계기로 개헌을 추진하면서 시민들이 새 헌법 초안을 작성한 아이슬란드와 2016년 시민의회를 설립해 시민 대표와 정당 대표의 공동 숙의를 가능하게 한 아일랜드의 사례를 인공지능 시대에 민주주의를 실현할 수 있는 모델로 언급했다.

레시그는 “이 가운데 어떤 것도 완벽하진 않았지만 모두 놀라울 만큼 희망적”이라며 “단지 좋은 아이디어 차원이 아니라 민주주의에 있어 존재론적인 문제다. 우리는 참여 기반 비즈니스 모델을 이길 방법이 전혀 없다”며 전 세계 시민들의 행동을 촉구했다.

한겨레

선담은 기자 sun@hani.co.kr