AI, 인간을 착취해 유지되는 추출 기계

AI 생태계 다양한 구성원 인터뷰

아프리카 등 저개발국 노동자들

‘시간당 1600원’ 데이터 주석 작업

인간의 생체 정보·창작물 등은

AI 개발·훈련에 ‘먹이’로 사용

유발 하라리는 <넥서스>에서 인공지능(AI)을 “도구가 아니라 행위자”라고 규정했다. 인간 없이 정보를 처리하고 자율적으로 결정하는 존재라는 뜻이다.

그러나 ‘자율성’을 강조하다 보면 AI를 움직이는 것이 사람이라는 사실을 잊게 된다. 옥스퍼드 대학교 인터넷연구소의 마크 그레이엄, 제임스 멀둔, 캘럼 캔트는 AI를 인간을 착취해서 유지하는 ‘추출 기계’라고 규정한다.

이들이 공저한 는 ‘추출 시스템으로서의 AI 생태계’를 데이터 주석 작업자, 머신러닝 엔지니어, 데이터센터 기술자, 창작자, 물류 노동자, 실리콘밸리 투자자, 노동조합 활동가 등의 관점에서 비판적으로 해부한 책이다. 저자들은 이 책을 위해 지난 10년 동안 다양한 직종에 종사하는 200여명을 인터뷰했다.

AI는 인간을 먹고 자란다

마크 그레이엄·제임스 멀둔·캘럼 캔트 지음 | 김두완 옮김

흐름출판 | 348쪽 | 2만4000원

우리가 컴퓨터 모니터나 휴대폰 액정에서 대면하는 AI 인터페이스는 거대한 AI 인프라의 극히 일부분에 불과하다. AI는 온라인으로만 존재하는 디지털 네트워크가 아니라, 방대한 땅을 차지하는 데이터센터와 수많은 서버, 전 세계를 그물처럼 연결하는 케이블 등으로 이뤄져 있다.

AI의 ‘자율성’이라는 것도 과장된 측면이 강하다. AI는 ‘저절로’ 돌아가는 알고리즘의 집적체가 아니다. AI가 ‘매끄럽게’ 움직이려면 아프리카나 아시아의 저개발국가에서 종일 모니터를 들여다보는 노동자들의 집약된 노동이 필요하다.

우간다의 도시 굴루에서 데이터 주석 작업자로 일하는 애니타의 사례를 보자. 애니타는 새벽 5시 버스가 다니지 않는 흙길을 걸어 샌프란시스코에 본사가 있는 데이터 주석 회사의 지역센터로 출근한다. 그는 자율주행 차량 회사의 프로젝트를 수행하고 있다. AI가 도로상의 사람, 자전거, 표지판, 고양이, 나무, 다른 차량 등을 정확하게 구분할 수 있도록 설명(주석)을 달아주는 것이 애니타의 업무다. 목표량을 달성하지 못하면 무급으로 야근을 해야 한다. 주간 목표량에 미달하면 주말에 무급으로 추가 근무를 해야 한다. 주당 최소 45시간을 근무해야 하지만 애니타가 받는 임금은 시간당 1.16달러에 불과하다. 고용 형태도 정규직이 아닌 계약직이다. 그럼에도 일자리가 드문 우간다에서 이 일을 하겠다는 사람들은 넘쳐난다. 이처럼 저개발 국가의 노동을 착취해서 유지되는 데이터 주석 시장은 2022년에만 22억2000만달러 규모를 기록했고, 해마다 약 30%씩 성장했다.

AI 성능 개선과 훈련을 위한 데이터 수집과 분류를 주로 아프리카와 아시아의 저개발 국가 노동자들이 한다는 사실은 과거 서구 제국주의 식민지 수탈을 떠올리게 한다. 저자들은 AI 관련 하청 작업이 1840년대 미국 남부 면화 농장에서 시작된 플랜테이션 노동 시스템과 본질적으로 동일하다고 본다. “노동자들을 철저하게 감시하고 통제한다는 근본적인 원칙만큼은 그대로 유지되었다.”

AI에 ‘먹이’를 줘야 한다는 점에서는 선진국 노동자들도 마찬가지다. 영국의 아마존 풀필먼트 센터(주문처리 센터) BHX4에서 물품마다 일일이 바코드를 스캔하는 노동자들은 자신도 모르는 사이에 AI 시스템에 필요한 핵심 정보를 생산하고 있는 것이다. “노동자들은 과거 증기 기관에 석탄을 집어넣던 화부들처럼, 아마존의 추출 기계에 데이터를 공급하는 역할을 하고 있다.”

AI가 발달해 스스로 데이터를 생산할 수 있게 된다 하더라도, AI가 필요로 하는 데이터를 인간이 공급하는 시스템이 사라질 가능성은 낮다. “컴퓨터가 아무리 세밀한 데이터를 만들어낸다고 해도, 그것을 검증하고 다듬는 작업에는 결국 사람이 필요하다. 특히 빠르게 변화하고 새로운 맥락이 지속적으로 등장하는 환경에서는, 직접 경험을 가진 인간이 반드시 데이터를 정제해야 한다.”

오늘날의 AI 생태계에서 인간은 스스로 AI의 ‘먹이’가 되기도 한다. 책에는 어느 웹사이트의 인공지능에 자신의 목소리가 사용됐다는 사실을 알고 경악하는 배우 로라의 사례가 나오는데, 이는 빙산의 일각일 뿐이다. 2023년 할리우드 제작사들은 배우들의 이미지를 확보해 향후 AI로 이들을 대체하는 방안을 추진하다 배우조합의 거센 반발에 부딪혔다. 작가들이 쓴 대본은 AI 시나리오 봇을 훈련하는 데 필요한 데이터로 사용될 수 있다.

막대한 비용이 드는 AI 개발에 천문학적 자본을 쏟아붓는 실리콘밸리의 투자자들과 테크 기업 창업자들은 AI 생태계의 최상층에서 AI의 미래를 결정할 권한을 쥔 자들이다. 이들에게 AI 생태계의 미래를 맡겨도 될까. 책에 따르면 “이들은 민주주의보다는 시장을, 공공 지출보다는 기업과 자선 활동을, 그리고 법적 규제보다는 자율 규제를 더 신뢰한다.” 더 큰 문제는 이들이 세상을 타협과 숙고가 필요한 복잡한 곳이 아니라, 자신들의 기술로 해결할 수 있는 단순한 세계로 본다는 점이다. “그들은 자신을 위협적인 존재로 인식하지 않기 때문에, 결과적으로 우리 삶에 엄청난 영향력을 아무런 거리낌 없이 행사하고 있다.”

저자들은 전 세계적인 AI 관련 노동자들의 저항과 연대가 필요하다고 말한다. 미국 ‘테크 노동자 연대’의 차별적 데이터베이스 구축 반대 선언, 케냐의 아프리카 콘텐츠 검수원 노조(ACMU) 결성, 아마존 파업 등에서 드러나듯, 노동자들 스스로 변화의 계기를 만들고 있다. “우리는 이제 그들의 뒤를 따라야 한다. AI 추출 기계를 해체하고, 그 잔해를 해방의 도구로 다시 조립하는 일, 그것이 이제 우리 모두의 몫이다.”