[책과 세상]
마크 그레이엄·제임스 멀둔·캘럼 캔트, AI는 인간을 먹고 자란다
마크 그레이엄·제임스 멀둔·캘럼 캔트, AI는 인간을 먹고 자란다
신간 'AI는 인간을 먹고 자란다'는 인공지능(AI) 신화에 가려진 보이지 않는 노동자들을 조명한다. 챗GPT 생성 이미지
인공지능(AI) 기반의 챗GPT를 쓰면서 이를 만든 사람들을 떠올려 본다. 미국 샌프란시스코, 쾌적한 사무실에서 기술 혁신을 논하는 고액 연봉의 엔지니어들. 이 책을 읽고 나면 다른 장면을 연상하게 될지도 모르겠다. 동아프리카 케냐나 우간다의 도시 외곽. 1달러가 조금 넘는 시급을 받고, 온종일 모니터를 뚫어져라 바라보며 할당량을 맞추기 위해 데이터 처리 작업에 열을 올리는 노동자들 말이다.
신간 'AI는 인간을 먹고 자란다'는 영국 옥스퍼드대 인터넷연구소의 AI 산업 종사자 실태 보고서다. 3명의 연구자가 전 세계를 10년 동안 돌며 AI 산업 최전선에서 일하는 200명 이상을 인터뷰했고, 책에 이 중 각 분야 7명의 이야기를 실었다.
AI 기술엔 저임금 장시간 노동 투입
최첨단 AI 기술도 결국 노동집약적 산업 위에 세워진다. 컴퓨터가 인식하고 학습할 수 있도록 이미지마다 박스로 테두리를 치고 이름을 다는 '데이터 라벨링(주석)'이나 온라인에 올라오는 사진이나 영상이 윤리 규정에 적합한지 검열하는 '콘텐츠 검수' 작업은 사람의 손길이 필수적이다. 자율주행차량이 도로에서 자동차, 신호등, 보행자를 구분하려면 라벨링이 된 수백만 개의 데이터를 인간이 입력해 훈련시켜야 한다. AI 훈련에 필요한 시간의 약 80%는 데이터세트 주석 작업에 쓰인다. 제조업 시대 단순 반복 노동의 상징이었던 '인형 눈알 붙이기'와 같은 'AI에 눈알 붙이기'인 셈이다. 저자들이 보기에 AI는 인간의 사고 과정을 재현하기보다는 자본, 권력, 천연자원, 인간 노동, 데이터, 집단 지성을 빨아들여 통계적 예측치로 변환하는 '추출 기계'에 가깝다.
신간 'AI는 인간을 먹고 자란다'의 저자들은 AI 산업이 18세기 후반 유럽에서 인기를 모았던 매커니컬 터키 사기극과 유사하다고 설명한다. 매커니컬 터키는 실물 크기 나무 인형으로, 자동으로 체스를 둘 수 있다고 소개됐으나 기계 속에 인형을 조작하는 인간 체스 마스터가 숨어 있었다. 아마존의 디지털 노동 플랫폼 이름이 '아마존 매커니컬 터키'다. 게티이미지뱅크
테크 기업은 이 같은 '데이터 노동'을 두 가지 방식으로 외주화한다. 개별 노동자가 아마존 매커니컬 터키, 클릭워커, 앱펜과 같은 디지털 노동 플랫폼에 로그인해 작업을 하도록 하거나 수천 명의 단기 계약직으로 이뤄진 기업에 하청을 주는 것이다. 대부분 기업은 관리의 수월성, 보안 등을 이유로 후자를 선호한다. 업무 특성상 지리적 제약이 없기 때문에 보통 인건비가 싼 지역에 하청 기업이 포진해 있다.
저임금, 계약직, 장시간 노동이 기본인 일터는 열악할 수밖에 없다. 언제든지 다른 인력으로 대체될 수 있다는 위협 때문에 웬만큼 부당한 일은 견딘다. 저자들이 만난 콘텐츠 검수원들은 자살, 고문, 성폭행 영상을 거의 매일 봐야 했다. 어떤 검수원은 참수 영상을 보고도 쉬지 못했다. 자신의 이름이 빨간색으로 변하지 않고 초록색으로 유지되도록 일정한 속도로 일해야 하기 때문이다. 화장실 이용을 가리키는 코드를 컴퓨터에 입력하지 않고, 잠시 자리를 비우면 생산성 점수가 감점된다. 기계를 인간처럼 만들기 위해 수백만 명의 노동자가 기계처럼 일하고 있는 모순된 현실이다.
AI 기술은 장시간의 저임금 노동이 투입된 결과물이다. 책은 이들의 일상이 "하루에 세 번씩 자기가 딴 면화를 감독관에게 가져가 무게를 재야 했던 17세기 식민지 플랜테이션 농장"의 착취 구조와 닮았다고 지적한다.
'공정 데이터 노동'으로 만들어졌나요?
샘 올트먼 오픈AI 최고경영자와 그가 챗GPT의 최신 이미지 생성 모델을 이용해 '스튜디오 지브리 스타일'로 만든 자신의 엑스(X) 프로필 사진. EPA 연합뉴스·X캡처
인간의 편의를 위한 기술 뒤엔 분투하는 인간이 있다. AI는 사진을 업로드하면 1분 만에 일본 애니메이션감독 미야자키 하야오 특유의 따뜻한 감성이 담긴 지브리 스타일 그림으로 바꿔준다. 시를 입력하면 10분 안에 유명 밴드 콜드플레이풍 노래가 완성된다. 책은 이런 "AI의 가능성과 편의성을 강조하는 서사"에 집중하느라 놓친 유령 노동자들을 상기시킨다.
변화의 조짐도 있다. 2023년 5월 1일 노동절, 케냐 나이로비에서 메타, 오픈AI와 같은 테크 기업의 아웃소싱 회사의 전현직 콘텐츠 검수원 150여 명이 모여 '아프리카 콘텐츠 검수원 노조(African Content Moderators Union·ACMU)'를 발족했다. 공정 무역으로 생산된 제품인지를 따지고 물건을 고르듯 조만간 '공정 데이터'로 학습한 AI인지를 따지는 소비자가 등장할 지도 모르겠다.
AI는 인간을 먹고 자란다·마크 그레이엄, 제임스 멀둔, 캘럼 캔트 지음·김두완 옮김·흐름출판 발행·348쪽·2만4,000원