II

여성이 알렉사에게 말하는 장면은 2017년 아마존 에코 신제품 홍보 영상에 나온 장면이다. 영상은 이렇게 시작한다. “새로운 에코와 인사하세요.” 그런 뒤 에코가 알렉사(인공 지능 에이전트)에 연결해 ‘음악을 재생하고, 친구와 가족에게 전화를 하고, 스마트 가전 제품 작동 등의 기능’을 수행한다고 설명한다. 아마존 에코 닷은 총 일곱 개의 마이크를 적용해 음악이 재생되고 있는 순간에도 언제든 사용자의 목소리가 들리도록 제작했다. 또한 건메탈 그레이, 베이직 베이지를 비롯해 ‘무난하거나 개성 있는’ 다양한 스타일로 선보였다. 하지만 광택 있는 스타일 역시 특유의 단순한 디자인은 그대로인데, AI 제품의 상호 작용 기능에 반응하고 그 기능을 작동시키는 방대한 네트워크를 소비자가 경계하지 않도록 하기 위함이다. 홍보 영상에서 알렉사가 처리할 수 있는 일이 계속 늘어난다는 말이 나온다. “알렉사는 클라우드를 기반으로 하는 까닭에 날마다 조금씩 더 스마트해지며 새로운 기능을 추가합니다.”

어떻게 그러는 것일까? 알렉사는 엄청나게 복잡한 단계의 정보 처리가 일어나는 인간과 AI의 상호 작용 인터페이스를 대변하는 기계 음성이다. 이곳으로 새로운 정보가 끊임없이 들어온다. 장치로 들어오는 인간의 목소리는 문자 질문으로 변환되고, 이를 통해 답변 후보 데이터베이스에 질문이 전달되고, 알렉사가 답변한다. 알렉사가 보이는 모든 반응의 유효성은 그 다음 벌어지는 일로 가늠할 수 있다.

같은 질문을 다시 했는가? (사용자가 자기 목소리가 들렸다고 생각했는가?)

질문의 단어가 바뀌었는가? (사용자가 자기 질문을 제대로 이해했다고 생각했는가?)

질문 뒤에 행동이 뒤따랐는가? (질문에 대한 반응을 제대로 했는가? 가령 불을 켜거나 물건을 구매하거나 음악을 재생했는가?)

상호 작용을 할수록 알렉사는 학습을 통해 인간 사용자의 말을 더 잘 듣고, 더 정확하게 이해하고, 사용자의 명령을 더 정확하게 감지해 반응하고 또 사용자의 선호, 습관, 욕망에 관한 더 완전한 모델을 구축한다. 이렇게 되기 위해서 무엇이 필요할까? 쉽게 설명하자면 이렇다. 질문에 답하거나 불을 켜거나 노래를 재생하는 등 이런저런 작은 편리함의 순간을 위해서는 재생 불가능한 재료, 노동, 데이터의 추출을 동력으로 한 거대한 지구적 네트워크가 필요하다. 이때 드는 자원의 규모는 인간이 가전 제품을 작동하거나 스위치를 켜는 데 드는 에너지와 노동력과는 비교가 되지 않을 정도로 크다. 여기에 들어가는 노력과 비용을 다 설명하기란 불가능에 가깝지만, 우리 삶을 움직이는 기술적 인프라를 이해하고 통제하고자 한다면 그 규모와 범위를 이해하는 것은 점점 더 중요한 문제가 된다.

IV

우리의 분해 조립도는 대규모 AI 시스템을 작동하는 데 필요한 세 가지 핵심 추출 과정, 즉 물적 자원과 인간의 노동, 그리고 데이터 추출 과정을 통합하고 시각화한다. 우리는 이 세 가지 요소를 지속적으로 언급하며, 이 요소들은 아마존 에코 기기의 탄생, 생애, 죽음이라는 시각적 묘사로 설명할 예정이다. 이때 개개의 인간, 그들의 데이터, 특정 기술 회사간의 단순한 관계 분석을 넘어서 한발 더 나아가야 진정 지구적인 규모의 추출을 이해할 수 있다. 미국의 정치 경제학자 빈센트 모스코는 외부 데이터 관리와 처리용 클라우드를 ‘구름’에 빗댄 은유가 인간의 광물 채취와 지구 불법 점유라는 실제 현실과 얼마나 상반되는지 보여줬다.⁹ 산드로 메자드라와 브렛 닐슨은 현대 자본주의에서 일어나는 다양한 형태의 추출 작업 간의 관계를 ‘채굴주의(extractivism)’라는 용어로 이야기하는데, 이는 AI 산업에서 반복적으로 나타난다.¹⁰ 지구와 생물권의 자원을 그야말로 바닥내는 작업과 데이터를 수집하고 AI에 소통과 사회성을 학습시켜 경제적 이익을 남기는 일은 서로 깊이 얽혀 있다. 메자드라와 닐슨은 노동이 이 추출 관계의 핵심이며, 이는 지금까지 수없이 되풀이되어 왔다고 말한다. 유럽 제국주의 시대에 강제 노동자를 이용한 일부터 말레이 반도의 고무 재배 농장에서 강제 노동자를 쓴 일, 볼리비아 원주민을 강제 동원해 최초의 세계 통화였던 은화 제작에 쓰이는 은 채광에 투입시킨 일이 모두 그 예다. 추출에 대해 이야기하기 위해서는 노동, 자원, 데이터를 모두 고려할 필요가 있다. 이는 인공 지능에 대한 중요하며 보편적인 이해에 질문을 던진다. 이 모든 과정을 하나로 보기도, 또 따로 떼어놓고 ‘보기도’ 힘들다. 따라서 이 과정을 하나로 연결하는 동시에 전 세계 이곳저곳에 흩어져 있는 과정을 하나의 맵으로 도식화할 필요가 있다.

V

우리 지도를 왼쪽에서 오른쪽으로 보면 이야기는 지구, 그리고 심원한 시간의 지질 작용에서 시작하고 끝난다. 하지만 위에서 아래로 보면 이야기는 인간에서 시작하고 끝난다. 위쪽은 휴먼 에이전트(human agent)로, 에코에 질문을 던지고, 아마존에 구두 질문과 답변에 대한 귀중한 학습 데이터를 제공해 음성 인식 AI 시스템의 성능을 높이는 데 활용할 수 있도록 한다. 지도 아래쪽에는 또 다른 인적 자원이 있다. 바로 인간의 지식과 능력의 역사로, 이 역시 AI 시스템을 학습시키고 최적화하는 데 쓰인다. 이것은 AI 시스템이 소비자 기술과 구분되는 중요한 차이다. 즉 AI 시스템은 인간이 만들어 낸 방대한 규모의 이미지, 텍스트, 영상을 흡수, 분석, 최적화해 작동한다.

VI

인간이 에코를 비롯한 음성 인식 AI 기기와 상호 작용할 때 다만 제품의 소비자 역할에만 그치지 않는다. AI 시스템의 인간 사용자를 단일 카테고리에만 놓기는 힘들며, 그보다는 혼합형(hybrid)으로 보는 편이 맞겠다. 그리스 신화 속에 등장하는 키메라가 사자의 머리, 염소의 몸통, 뱀의 꼬리가 합쳐진 괴물이었던 것처럼 에코 사용자 역시 소비자인 동시에 인적 자원이자 작업자이자 제품이기도 하다. 많은 기술 시스템의 인간 사용자는 이러한 복합적 역할을 한다. 아마존 에코의 경우, 사용자는 본인이 구입한 소비자 기기로 편리한 기능을 제공받는다. 하지만 동시에 자원의 역할도 하므로, 에코 사용자의 음성 명령은 수집, 분석, 보관해 더 많은 인간 음성과 지시어 코퍼스를 구축하는 데 활용된다. 또한 에코 사용자는 노동력을 제공하기도 하는데, 알렉사가 하는 답변의 정확성, 유용성, 전체적 품질에 관한 피드백 메커니즘을 구축하는 중요한 역할을 수행한다. 이를 통해 아마존의 인프라 스택 내 신경망 모델을 훈련하는 데 실질적인 도움을 준다.

VII

장치 자체의 제한된 물리적, 디지털 인터페이스를 벗어나는 모든 것은 사용자의 통제 범위 밖에 있다. 아마존 에코는 내부를 열 수도, 수리할 수도, 기능을 바꿀 수도 없는 그저 매끈한 표면만 보일 뿐이다. 에코는 플라스틱을 압출 성형해 만든 대단히 단순한 디자인의 제품으로, 다양한 센서를 내장하고 있다. 에코의 진정한 능력과 복잡성은 보이지 않는 곳에 숨어 있다. 에코는 집 안의 ‘귀’ 역할을 할 뿐이다. 이 비체화된 음성 인식 장치는 원격 장치와의 긴밀한 연계성을 결코 드러내지 않는다. 1673년, 독일의 예수회 학자 아타나시우스 키르허는 ‘말하는 동상(statua citofonica)’을 발명했다. 키르허는 다방면의 학문 분야를 아우르는 뛰어난 학자이자 발명가였다. 평생동안 의학, 지리, 비교 종교학, 음악 분야에 걸쳐 약 40편의 책과 논문을 발표했다. 최초의 자기 시계는 물론 수많은 초기 로봇, 확성기를 발명했다. 키르허가 발명한 말하는 동상은 대단히 초기 형태의 도청 장치로, 기본적으로 나선관으로 만든 확성기다. 이 관을 통해 광장에서 사람들이 하는 대화가 관을 타고 위로 올라갔다가 어느 귀족의 개인 공간에 설치된 동상의 입을 통해 다시 흘러나온다. 키르허는 이 동상에 대해 이렇게 기록했다.

“이 동상은 특정 장소에 설치해야 한다. 그래야 나선형 관의 끝 부분이 관 입구와 정확하게 들어맞는다. 이렇게 하면 어떤 종류의 소리든 완벽하고도 분명하게 발산할 수 있다. 실제로, 동상은 인간의 음성이든 동물의 음성이든 끝없이 소리를 낼 것이다. 호탕한 웃음도 비웃음 소리도, 울음 소리도, 신음 소리도. 가끔은 소스라치게 놀라 큰소리를 낼 수도 있다. 나선형 관의 입구는 광장이 마주 보이는 곳에 설치되어 관으로 들어가는 모든 인간의 단어를 동상 입구를 통해 다시 들려줄 것이다.” ¹¹

이 도청 장치는 광장에서 주고받는 매일의 대화를 엿듣고, 이 대화를 17세기 이탈리아 과두제 집권층에 전달했다. 키르허의 말하는 동상은 지배 계층을 위한 초기 정보 추출 방식으로, 광장에서 대화를 주고받은 사람들은 자신들의 대화가 새나가 집권층의 권력, 즐거움, 부를 위한 지식으로 이용된다는 사실을 전혀 눈치채지 못했다. 귀족의 집 안에 있는 사람들 역시 그 마술 동상이 어떻게 말하고 모든 정보를 전달하는지 전혀 몰랐다. 이 도청 장치의 목적은 장치가 어떻게 작동하는지 눈치채지 못하게 만드는 것이었고, 사람들의 눈에는 그저 우아한 동상으로만 보였다. 심지어 초기 형태였음에도 도청 장치는 권력과 계급, 비밀이 깊게 얽혀 있었다. 하지만 키르허의 도청 장치를 만드는 데 필요한 자원이 혀를 내두를 정도로 비쌌던 탓에 이용할 수 있는 사람은 극소수였다. 그렇다면 이런 장치를 만드는 데 필요한 자원은 어떤 의미를 지니고 있을까? 바로 그 아래 놓인 인프라의 중요성을 깨닫게 한다는 점이다.

VIII

핀란드 미디어학자 유시 파리카는 본인의 저서 <미디어의 지질학(A Geology of Media)>에서 미디어를 인간 감각의 확장¹²이라는 마셜 매클루언의 관점이 아니라 지구의 확장¹³으로 보라고 제안한다. 미디어 기술은 탄생과 변형 과정부터 미디어가 구축되는 자연 요소의 변화까지 지질 작용의 맥락에서 이해해야 한다. 미디어와 기술을 지질 과정이라고 생각하면 현재의 기술 발전에 필요한 재생 불가능한 자원의 심한 고갈에 대해 생각할 수 있게 된다. 네트워크 라우터부터 배터리, 마이크까지 AI 시스템의 확장된 네트워크에 포함되는 각 제품은 수십억 년에 걸쳐 형성된 원소들로 만들어진다. 심원한 시간이라는 관점에서 보면 우리는 지구의 역사를 쥐어짜 찰나의 기술적 시간을 위해 사용하고, 이를 통해 불과 몇 년간 사용될 제품을 만들어낸다. 가령, 미국 소비자 기술 협회에 따르면 스마트폰의 평균 수명은 4.7년이다.¹⁴ 이런 진부화 주기는 더 많은 기기 구입을 유도하고, 이익을 높이고, 지속 불가능한 채굴 방식을 계속 사용하게 한다. 오랜 시간을 거쳐 천천히 생겨난 이들 원소와 물질은 굉장히 짧은 시간 안에 발굴, 제련, 혼합, 물류 운송이 이루어지며, 수천 킬로미터를 이동해 새로운 형태로 변환된다. 지질 작용은 광석 채굴부터 전자 기기 폐기물 처리장에 이 물질을 폐기하는 작업에 이르기까지 이러한 전 과정의 시작이자 끝이다. 그런 이유로 우리 맵은 지구 표면에서 시작하고 끝난다. 하지만 우리가 이야기하는 모든 변환과 이동은 가장 기본적인 해부학적 뼈대다. 이러한 연결망 아래로는 프랙털 공급망, 인적 자원과 천연 자원 개발, 기업 권력과 지정학적 권력의 집중, 끊임없는 에너지 소비까지 더 많은 과정이 숨어 있다.

IX

자원과 노동, 데이터 추출이 어떤 식으로 연결되었는지 알게 되면 필연적으로 전통적인 착취 구조를 돌아보게 된다. 하지만 이러한 시스템에서 어떤 식으로 가치가 창출될까? 크리스티안 푸흐스를 비롯한 여러 저자들이 디지털 노동에 대해 조사하고 규정한 저작에서 유용한 개념적 도구를 찾을 수 있다. 디지털 노동은 처음에는 다양한 형태의 비물질 노동과 관련된 개념이었으며, 인공 지능 같은 기기와 복잡한 시스템이 나오기 전에 등장한 개념이다. 디지털 노동, 즉 디지털 시스템을 구축하고 유지하는 작업은 허상도 가상도 아니며, 다양한 활동으로 구현된다.¹⁵ 디지털 노동의 범위는 광범위하다. 정보 기술(IT)의 물질적 토대가 되는 광물을 채굴하는 광산의 계약 노동부터 중국 공장의 엄격하게 통제되며 때로 위험한 하드웨어 제조 및 조립 노동, AI 학습 데이터 세트의 라벨링 작업을 하는 개발 도상국의 외주 인지 노동자, 그리고 유독 폐기물을 처리하는 비정규 육체 노동자까지 수많은 인원이 이 작업에 투입된다. 이 과정에서 새로운 부와 권력의 창출이 이루어지며, 그러한 부와 권력은 극소수의 사회 계층에 집중된다.

X

가치 추출과 생산을 나타낸 이 삼각형은 지질 과정에서 탄생해 소비자 AI 제품으로의 생애를 거쳐 결국 전자 기기 폐기장에서 죽음을 맞는 우리 해부 맵의 기본 요소 중 하나다. 푸흐스의 저작에서처럼 삼각형의 각 요소는 따로 떨어져 있는 대신 생산 과정에서 서로 연결된다. 이 세 요소가 순환적 흐름을 이루는데, 노동의 산물이 자원이 되고, 이어 제품이 되고, 다시 자원 등이 되는 식이다. 삼각형의 각 요소는 생산 과정의 각 단계를 나타낸다. 이는 맵 상에서 선형 변환 경로로 나타나지만, 다른 시각적 은유가 현재 채굴주의의 복잡성을 더 잘 표현한다. 바로 ‘시에르핀스키 삼각형’이라고 알려진 프랙털 도형이다. 선형적 모델로는 다음 각 단계의 생산과 착취가 이전 단계를 포함하고 있다는 사실을 보여줄 수 없다. 우리가 프랙털 구조를 통해 생산과 착취 체계를 보면 가장 작은 삼각형으로도 천연 자원과 노동 수단, 즉 광부를 노동력으로, 광물을 제품으로 표현할 수 있다. 다음으로 큰 삼각형은 금속 가공 과정을 망라하고, 다음으로 큰 삼각형은 부품 제조 공정 등을 나타낸다. 우리 해부 맵의 마지막 삼각형인 아마존 에코 기기의 그 생산 과정에는 이런 모든 착취 단계가 포함된다. 아마존이라는 회사의 가장 바닥부터 가장 위, 즉 아마존의 대표 이사 제프 베이조스가 맡고 있는 역할까지 들어간다. 고대 이집트 왕 파라오처럼 베이조스는 AI 가치 창출이라는 가장 큰 피라미드의 꼭대기에 있는 것이다.

XI

마르크스의 생산 삼각형의 변형된 형태라 할 수 있는 이 시각화 모형의 기본 요소로 돌아가면 각 삼각형은 이윤 창출을 위한 잉여 가치를 만들어낸다. 우리 맵 왼쪽에 보이는 것처럼 기기 하나를 생산하는 과정에서 각 활동의 평균 수익 규모를 살펴보면 벌어들이는 수익의 엄청난 차이를 알 수 있다. 국제 앰네스티의 연구 자료에 따르면 16개 다국적 브랜드의 리튬 배터리 제작에 사용되는 코발트 채굴 과정에서 노동자들은 생명과 건강을 위협받고 폭력과 착취, 협박에 노출되기 쉬운 환경에서 근무하면서 하루 미 1달러에 해당하는 임금을 받는다. ¹⁶ 앰네스티 자료에 따르면 7세 남짓한 어린이도 광산에서 일하고 있었다.  반면 블룸버그 억만장자 지수에 따르면 프랙털 피라미드의 꼭대기에 있는 아마존의 대표 이사 제프 베이조스는 2018년 초반 5개월 동안 하루 평균 2억 7500만 달러를 벌었다.¹⁷ 콩고의 광산에서 일하는 어린이가 70만 년 이상을 쉬지 않고 일해야 베이조스의 하루 수입에 해당하는 돈을 벌 수 있는 것이다. 이 맵의 많은 삼각형에는 노동 착취와 비인간적인 노동 환경에 대한 많은 이야기가 숨어 있다. 원소를 변환하는 데 드는 생태적 비용과 소득 격차는 심각한 시스템 불균형을 보여주는 한 가지 사례에 불과하다. 우리는 ‘알고리즘 과정’이라고 볼 수 있는 다양한 형태의 ‘블랙박스’를 조사 중이지만¹⁸, 이 맵은 또 다른 형태의 불투명성을 암시한다. 즉, 아마존 에코 같은 기기를 만들고 학습시키고 작동하는 과정 그 자체가 일종의 블랙박스다. 전 세계의 수많은 도급업자, 유통업자, 그 아래 수송업자를 생각하면 온전히 조사하기도 추적하기도 힘들다는 점에서 그렇다. 이에 대해 마크 그레이엄은 이렇게 밝힌다. “현대의 자본주의는 대다수 상품의 내력과 출처를 소비자에게 밝히지 않는다. 소비자들은 보통 현재 눈앞에 있는 상품만 볼 수 있을 뿐 생산 구조를 돌아볼 기회는 없기에 생산, 변환, 유통 현장에 대해서는 알 길이 없다.” ¹⁹ 현대의 생산 구조를 조사하고 추적하는 어려움을 보여주는 한 가지 사례로 인텔의 공급 라인을 조사해 콩고에서 채굴한 탄탈룸이 인텔의 마이크로프로세서 제품에 사용되었다는 사실을 파악하는 데 무려 4년이 넘게 소요됐다. 반도체 칩 제조업체인 인텔은 애플에 마이크로프로세서를 공급한다. 이를 위해 인텔은 100여 개국에 1만 9000곳이 넘는 공급업체로 이루어진 자체 공급망을 보유하고 있으며, 이들 업체는 공장, 물류, 포장 작업에 위한 생산 과정과 자재, 기계, 공장, 물류, 포장 작업에 필요한 직접 자재를 공급한다.²⁰ 대표적인 기술 기업의 공급망을 파악하는 데만 4년 이상 걸렸다는 말은 이 과정을 속속들이 조사하는 일이 얼마나 어려운지 단적으로 보여준다. 외부 연구자, 저널리스트, 학자들은 말할 것도 없다. 네덜란드의 기술 기업 필립스 역시 ‘분쟁 없는’ 공급망을 구축하기 위해 노력하고 있다고 주장해 왔다. 가령, 필립스는 수만 곳의 공급업체를 두고 있으며, 각 업체는 제품 제조 공정에 필요한 다양한 부품을 공급한다.²¹ 이들 업체 역시 자체적으로 수많은 부품 제조업체와 일하고, 이들 부품업체는 수백 곳의 정련소에서 자재를 구하고, 또 이 정련소는 여러 제련소에서 자재를 구입한다. 또 이들 제련소는 합법적 또는 불법적으로 운영되는 광업소와 직접 거래하는 여러 거래업자에게 물건을 공급받는다. 데이비드 S. 에이브러햄은 <미래 권력의 조건(The Elements of Power)>에서 세계 전자 기기 공급망에서 보이지 않는 희금속 거래자 네트워크를 이렇게 설명한다. “희금속이 광산에서 소비자의 노트북으로 들어가기까지 거래업체와 가공업체, 부품 제조업체라는 알 수 없는 공급망을 거친다. 거래업체는 희금속을 사고 파는 역할 이상을 하는 중간상이다. 그들은 정보를 통제하며 금속 공장과 소비자의 노트북에 들어가는 부품 사이 네트워크를 조사하는 데 필요한 숨은 고리다.”²² 컴퓨터 제조업체 델에 따르면, 금속 공급망의 복잡성은 심각한 문제를 낳는다.²³ 이러한 광물의 채굴 작업은 최종 제품이 조립되기 훨씬 전에 이루어져 광물의 출처를 파악하기가 극도로 힘들어진다. 게다가 수많은 광물이 재사용되는 금속과 혼합되어 제련되다 보니 이후부터는 광물의 출처를 파악하기는 거의 불가능해진다. 따라서 전체 공급망을 파악하는 일, 즉 21세기 세계 기술 제품 생산의 복잡성을 밝히는 일은 대단히 거대한 작업이라고 할 수 있다.

XII

공급망은 보통 거대한 네트워크 내에서 각 단계가 서로 얽혀 있다. 애플의 협력업체 프로그램을 보면 회사 제품에 수만 개의 부품이 들어가며, 그 부품은 또 수백 곳의 회사로부터 공급받는다. 이들 각 부품이 최종 조립 라인에 도착해 대만 폭스콘 공장에서 일하는 작업자들이 조립에 들어가기 위해서는 다양한 부품을 세계 30개국에 흩어져 있는 750곳이 넘는 협력업체의 생산 현장에서 수송해 와야 한다.²⁴ 이 과정에서 공급망 내 공급망이라는 복잡한 구조가 만들어지며, 제품이 조립에 들어가기 전에 이미 수만 곳의 공급업체, 수백만 킬로미터에 이르는 자재의 수송 거리, 수십 만 명의 작업자가 이 생산 과정에 투입되는 거대한 프랙털이 형성된다. 이 과정을 자재, 부품, 제품이 통과하는 하나의 네트워크로 시각화해 보면 글로벌 정보 네트워크와 유사한 점을 찾을 수 있다. 아마존 에코 제품 하나당 인터넷 패킷(IP) 하나가 필요한 것처럼 여기서는 하나의 화물 컨테이너를 떠올릴 수 있다.²⁵ 세계 물류와 생산이라는 어지러운 광경은 이 단순하고 규격화된 금속 제품의 발명 없이는 불가능할 것이다. 규격화된 화물 컨테이너가 생긴 덕에 현대 해운업이 폭발적인 성장을 이뤄 우리가 사는 이 행성을 하나의 거대한 공장으로 만들 수 있었다. 2017년에는 해상 무역에 쓰이는 컨테이너선의 수용 가능한 화물 용량이 거의 2억 5000만 중량 톤에 달했다. 해운업은 덴마크의 머스크, 스위스의 메디터레이니언 시핑 컴퍼니, 프랑스의 CMA CGM 그룹 등 거대 해운사가 장악하고 있으며, 각 회사는 수백 척의 컨테이너선을 보유하고 있다.²⁶ 이러한 상업 활동을 위한 화물선 운송은 비교적 저렴한 비용으로 세계 공장의 혈관계를 통과하는 동시에 훨씬 더 큰 외부 비용은 숨기는 방법이다. 최근 화물선은 세계 연간 이산화탄소 배출량의 3.2퍼센트를 배출하고 있는데, 독일 전체 배출량보다 많은 수준이다.²⁷ 내부 비용을 최소화하기 위해 컨테이너선 회사 대부분이 어마어마한 양의 최저급 연료를 사용하며, 이때 다른 유독물질보다 대기 중 유황의 수치가 높아진다. 컨테이너선 한 대가 내뿜는 오염 물질의 양은 자동차 5000만 대가 내뿜는 오염 물질의 총합에 이르는 것으로 추정되며, 매년 전 세계에서 6만 명이 화물선 업계의 오염 물질과 관련한 질병이 간접 원인이 되어 사망한다.²⁸ 세계 선사 협의회 같은 업계 친화적인 단체들조차 컨테이너선 수천 척이 해저에서 실종되거나 해상에 표류 중이라는 사실을 인정한다.²⁹ 일부 컨테이너선은 유독 물질을 운송하는데, 이 물질은 바다로 새나간다. 일반적으로 해운 노동자들은 9~10개월을 바다에서 보내며, 보통 외부와 통신이 단절된 채 장시간 근무한다. 필리핀 출신 노동자들이 세계 해운 근로자의 1/3 이상을 차지한다.³⁰ 세계 물류의 가장 심각한 손실은 대기, 대양 생태계와 생태계 안의 모든 것, 그리고 저임금 노동자들에 의해 발생한다.

XIII

우리 기술이 점차 복잡해지고 소형화되면서 초기 중세 연금술의 기대, 즉 금속을 정련해 금을 얻고자 했던 기대를 요상하게 되풀이하는 과정이 활용된다. 중세 연금술사들은 비금속을 ‘귀금속’으로 바꾸고자 했던 반면, 오늘날 연구자들은 희토류 금속을 이용해 다른 광물의 성능을 높인다. 17개 희토류 원소는 노트북과 스마트폰에 내장되는 까닭에 점차 크기가 작고 가벼워지고 있다. 이들 희토류 원소는 컬러 디스플레이, 카메라 렌즈, GPS 시스템, 충전지, 하드 드라이브를 비롯한 기타 많은 부품의 중요한 원료로 쓰인다. 또한 광섬유 케이블, 이동 통신 탑의 신호 증폭기, 인공 위성, GPS 기술까지 통신 시스템의 핵심 자재다. 하지만 이들 광물의 정확한 조합과 사용은 알기 힘들다. 중세의 연금술사들이 본인들의 연구 결과를 암호와 비밀스러운 상징 뒤에 숨긴 것처럼 현대의 기기 속 광물 사용 과정도 기밀 유지 협약과 기업 비밀의 보호 아래 비밀에 부쳐진다. 희토류 원소 특유의 전자적, 광학적, 자기적 특성은 지금껏 발견된 다른 금속 및 합성 대체물과는 비교도 되지 않을 정도로 독보적인 수준이다. 이 원소는 ‘희토류 금속’이라고 불리며 일부 금속은 지구 표면에 비교적 풍부하게 매장되어 있지만, 채굴 작업은 대단히 비용이 많이 들고 심한 환경 오염을 일으킨다. 데이비드 에이브러햄은 중국 장시성에서 생산되는 다양한 첨단 기기에 들어가는 디스프로슘과 테르븀 채굴에 대해 이렇게 설명한다. “파낸 점토의 0.2퍼센트에만 귀한 희토류 원소가 들어 있다. 다시 말해 희토류 채굴 작업 시 파낸 흙의 99.8퍼센트는 ‘선광’이라는 폐기물로 분류되어 언덕과 개울로 다시 버려져 암모늄 같은 새로운 오염 물질을 만들어낸다.³¹ 중국 희토류 협회에서 추정한 바에 따르면 희토류 원소 1톤을 정련하는 과정에서 7만 5000리터의 산성수와 1톤의 방사선 잔류물이 나온다.”³² 또한 채굴과 정련 작업을 위해서는 어마어마한 양의 물이 사용되고 많은 양의 이산화탄소가 배출된다. 2009년, 중국은 세계 희토류 원소 공급량의 95퍼센트를 생산했으며, 바이윈어보(Bayan Obo)라는 희토류 광산에만 세계 매장량의 70퍼센트가 매장되어 있는 것으로 추정된다.³³

XVI

19세기 말, 구타페르카나무라 불리는 동남아시아 원산의 나무가 기술 성장의 핵심 원료가 됐다. 주로 말레이시아에 서식하는 이 나무에서 구타페르카라는 하얀 천연 유액이 분비된다. 영국의 과학자 마이클 패러데이가 1848년 <철학 매거진>에 이 원료를 전선 절연체로 사용할 수 있다는 연구 논문을 게재한 이후, 구타페르카는 빠른 속도로 공학업계의 관심을 사로잡았다. 구타페르카는 전신 절연용 케이블의 문제점을 해결해 해저 케이블에도 사용할 수 있을 것처럼 보였기 때문이다. 세계 해저 산업이 성장하면서 구타페르카나무 줄기에 대한 수요도 늘어났다. 역사학자 존 털리는 말레이 반도와 중국, 인도네시아 다약족 일꾼들이 얼마나 적은 돈을 받고 구타페르카나무를 베어 넘어뜨려 유액을 채취하는 위험한 일을 하는지 설명한다.³⁸ 나무 유액은 가공되어 싱가포르의 무역 시장, 그리고 이어 영국의 시장으로 차례로 팔려 나가 결국 가공을 거쳐 해저 케이블 외피가 된다. 다 자란 구타페르카나무 한 그루에서 300그램 정도 되는 유액을 채취할 수 있었다. 하지만 1857년, 최초의 대서양 해저 케이블은 길이 3000킬로미터, 무게 2000톤에 달했으며, 이를 만드는 데 구타페르카 250톤이 들어갔다. 구타페르카 1톤을 얻으려면 나무 줄기 약 90만 개가 필요했다. 말레이시아와 싱가포르 밀림의 나무들이 베어져 나갔고, 1880년대 초반에 구타페르카나무는 한 그루도 남지 않았다. 공급망을 지키기 위한 필사의 노력으로 1883년 영국 정부는 구타페르카 채취를 금지하는 법안을 통과시켰지만, 나무는 이미 멸종했다.³⁹ 영국 빅토리아 시대, 국제 정보 사회의 초기 원료로 사용되면서 구타페르카가 멸종된 환경 재앙은 기술과 기술의 물질성, 환경, 그리고 다양한 착취간 관계가 어떤 식으로 이어지는지 잘 보여준다. 빅토리아 시대 사람들이 초기 케이블 생산을 위해 생태 재앙을 일으킨 것처럼 희토류 채굴과 글로벌 공급망은 원래도 깨지기 쉬운 생태계 균형을 더욱 위태롭게 한다. 현대 네트워크 사회를 가능케 하는 기술을 구축하는 데 사용되는 재료부터 거대한 인프라를 거쳐 데이터를 전송, 분석, 저장하는 데 필요한 에너지, 인프라의 유형성까지 이들 요소의 깊은 관련성과 비용은 AI의 가상 세계에서 흔히 그려지는 것보다 더 중요한 의미를 지니며 그 역사도 훨씬 더 길다.⁴⁰

XVII

대규모 AI 시스템은 엄청난 양의 에너지를 소비한다. 하지만 이러한 비용의 자세한 내용은 사회적 상상력 측면에서는 여전히 불확실하다. 클라우드 컴퓨팅 서비스에 들어가는 에너지의 양은 여전히 정확히 알기 힘들다. 그린피스가 내놓은 보고서에는 이렇게 적혀 있다. “부문 투명성의 가장 큰 걸림돌 중 하나는 아마존 웹 서비스(AWS)다. 세계 최대의 클라우드 컴퓨터 회사인 아마존은 엄청난 규모의 사업에서 발생하는 에너지 발자국에서 대해서는 지금도 전혀 투명하지 않다. 세계 클라우드 서비스 공급자 중 AWS만이 여전히 클라우드 서비스 사업과 관련한 에너지 성능과 환경 영향에 대한 기본적 내용을 공개하지 않고 있다.”⁴¹ 휴먼 에이전트인 우리는 기술 플랫폼과의 거의 모든 상호 작용에서 잘 드러난다. 또 언제나 추적되고, 정량화되고, 분석되고, 또한 상품화된다. 하지만 사용자 가시성과는 대조적으로 네트워크 장치의 탄생, 생애, 죽음의 단계는 잘 드러나지 않는다. 중앙 집중식 AI 인프라를 기반으로 하는 에코 같은 최신 기기의 이러한 단계가 밝혀지지 않다 보니 자세한 내용은 더 알기 힘들다. 소비자들은 거실의 소형 하드웨어 장치, 휴대전화 애플리케이션, 반자동 주행 차량에 익숙해지고 있지만, 실제 작업은 보통 사용자와 멀리 떨어져 있고 사용자의 눈에는 전혀 보이지 않는 기계 학습 시스템 안에서 이루어진다. 많은 경우, 투명성은 큰 도움은 되지 않을 것이다. 구체적인 행동과 기업의 책임 없이 투명성만으로는 현재의 권력 불균형을 바꿀 수 없다.⁴²  기계 학습 시스템의 출력 값은 대개 설명하기도 통제하기도 힘들며, 입력 값은 수수께끼 같다. 일반인이 보기에는 AI나 기계 학습 기반 시스템을 구축하는 일이 지금처럼 쉬운 적은 없었던 것처럼 보인다. 이를 위해 오픈소스 도구와 함께 아마존(AWS), 마이크로소프트(애저), 구글(구글 클라우드) 같은 클라우드 대표 제품을 통해 대여 가능한 컴퓨팅 서비스를 활용할 수 있게 되면서 AI의 ‘민주화’라는 그릇된 개념이 나오고 있다. 텐서플로(TensorFlow)처럼 ‘시중에서 판매하는’ 기계 학습 도구는 자기 시스템을 직접 만든다는 관점에서 더 이용하기 쉬워진 반면, 그런 시스템의 기본 논리와 이런 시스템의 학습용 데이터 세트는 극소수 계층만 이용이 가능하고 또 이들의 손에서 좌지우지된다. 페이스북 같은 플랫폼을 통해 데이터 세트 모음의 역학에서 사용자들은 신경망에 행동 데이터, 음성, 태그가 붙은 사진과 영상, 의료 데이터를 제공하고 학습시킨다. 채굴주의 시대에 이런 데이터의 실질적 가치는 피라미드 꼭대기의 극소수 계층에 의해 결정되고 이용된다.

XVIII

방대한 데이터 세트를 이용해 AI 시스템을 학습시킬 때 사용되는 개별 이미지와 영상에는 보통 태그와 라벨이 들어간다.⁴³ 이 라벨 지정 과정이 의미를 어떻게 애매하고 또 분명하게 만드는지, 또 더 나아가 1센트도 안 되는 보수를 받으면서 이 디지털 도급 작업을 하는 클릭 작업자에 의해 작동되는지에 대해 할 말이 많다. 1770년, 헝가리의 발명가 볼프강 폰 켐펠렌은 머케니컬 터크(Mechanical Turk)라는 체스를 두는 자동 인형을 만들었다. 이 기계를 만든 이유 중 하나는 오스트리아의 마리아 테레지아 여왕을 기쁘게 하기 위해서였다. 이 기계는 인간을 상대로 체스를 둘 수 있었고, 거의 90년간 유럽과 미국에서 시연을 하는 동안 참여한 대부분의 체스 게임에서 엄청난 승률을 기록했다. 하지만 머케니컬 터크는 사실 인간 체스 실력자가 기계 안에 숨어 조작하는 속임수였다. 약 160년 후, 아마존닷컴은 소액 결제 기반의 크라우드소싱 플랫폼에 머케니컬 터크라는 이름을 붙였다. 아이한 에이티스에 따르면 아마존이 처음 머케니컬 터크를 만들고자 하는 결심은 아마존 제품 웹사이트에서 같은 인공 지능 프로그램으로 같은 제품 페이지를 찾는 작업을 시도했다가 실패한 뒤 하게 됐다.⁴⁴ 많은 돈을 들여 수차례 시도하고 실패를 거듭한 끝에 프로젝트 엔지니어는 인간으로 하여금 간소화된 웹 기반 시스템 속 컴퓨터 뒤에서 일하도록 했다.⁴⁵ 아마존 머케니컬 터크 디지털 워크숍은 인간의 지적 능력으로 기계 학습 과정을 확인하고, 평가하고, 수정함으로써 인공 지능 시스템을 모방한다. 아마존 머케니컬 터크가 사용자에게는 고급 인공 지능을 이용해 작업을 수행하는 응용 프로그램처럼 보일 수도 있다. 하지만 실제로는 여기저기 흩어진 클릭 작업 인력들이 말도 안 되는 보수를 받고 원격으로 작업해 고객이 사업 목표를 달성하도록 돕는 ‘인공 지능’의 형태에 더 가깝다. 이에 대해 에이티스는 이렇게 말했다.  “[1770년 원조 머케니컬 터크와 현대판 아마존의 머케니컬 터크 서비스] 두 경우 모두 해당 기술에 생명력을 불어넣는 작업자들의 능력은 기계의 성능에 가려 보이지 않는다.”⁴⁶ 이처럼 보이지 않는 숨은 아웃소싱 또는 크라우드소싱 노동자가 인터페이스 뒤에 숨어 있거나 알고리즘 과정으로 위장하는 방식은 요즘 아주 일반적이다. 특히 신경망에 정보를 입력하기 위해 수천 시간 동안 디지털 아카이브에 태그와 라벨을 붙이고 지정하는 과정에서 아주 흔한 경우다. 때로 이런 작업은 무보수로 진행되기도 한한다. 구글 리캡차가 그런 경우다. 구글을 사용하면서 많은 이는 인공 지능 에이전트가 아님을 증명하기 위해 구글의 이미지 인식 AI 시스템을 무보수로 학습시키는 상황에 처한다. 이때 거리 번호, 자동차, 집 등이 포함된 여러 박스를 선택해야 한다. 전체 시스템에서 거듭 확인할 수 있지만, 현대의 인공 지능 형태는 결국 보이는 것처럼 인공적이지는 않다. 광산 노동자의 고된 육체 노동, 조립 라인의 반복적인 공장 노동, 물류 센터의 자동 제어 노동, 전 세계에서 온 프로그래머로 가득한 인지 노동 착취 현장, 머케니컬 터크 근로자들의 저임금 크라우드소싱 노동, 그리고 사용자의 무보수 무형 노동이 모두 그 예다. 모든 단계에서 현대의 기술은 인간의 신체에 기반을 두고 있으며, 인간의 신체를 이용해 작동한다.

현재 기계 학습 방식의 특징은 세계의 지도를 만들고자 하는 열망, 그리고 실제의 시각, 청각, 인지 체계의 정량화라고 볼 수 있다. 우주 모형부터 얼굴에 나타나는 미세한 근육 움직임을 통해 해석한 인간의 감정 세계까지 모든 것이 정량화의 대상이 된다. 프랑스 철학자 장프랑수아 리오타르는 ‘유사성에서 무한성으로’라는 말로 현대 미술과 기술과학, 자본주의가 경계를 확장해 무한한 지평선을 향해 나아가려는 같은 열망이 있다고 설명한다.⁴⁸ 19세기 하반기에 사회 기반 시설 건립과 산업 사회로 불규칙하게 전환되면서 천연 자원과 생산 과정을 독점적으로 개발한 소수의 산업 거물이 엄청난 부를 축적했다. 새로운 무한한 지평성은 인간과 기계의 정보 처리 작업을 결합한 인공 지능을 통한 데이터 추출, 기계 학습, 정보의 재구성이다. 이 영역은 전 세계 소수의 거대 기업이 장악하고 있는데, 이들 기업은 새로운 인프라와 메커니즘을 구축해 자본을 축적하고 인간과 행성 자원을 이용한다. 새로운 자원과 인지 기술 개발 분야에 대한 그처럼 강렬한 열망 덕에 어느 때보다 심층적인 데이터를 찾아 의식과 무의식 상태, 공적이고 사적인 상태, 개인 특유와 보편적인 정신 체계를 정량화하는 데 이용할 수 있게 됐다. 이런 식으로 관심 경제,⁴⁹ 감시 경제, 평판 경제,⁵⁰ 감정 경제뿐 아니라 암호 화폐를 통한 신뢰와 증거의 정량화와 상품화에서 다양한 인지 경제가 등장했다. 점차 정량화 과정은 인간의 정서 세계, 인지 세계, 육체 세계로까지 확장됐다. 감정 포착, 가족간 유사성, 개인의 장기간 추적 관찰, 그리고 자리에 앉고, 손을 흔들고, 잔을 들고, 눈물을 흘리는 등 인간 행동에 대한 학습 데이터 세트가 존재한다. 법의학 데이터, 생체 데이터, 사회성 측정 데이터, 심리 측정 데이터를 포함해 모든 생체 정보가 AI 학습을 위한 데이터베이스 안에 기록된다. 이러한 정량화는 대단히 제한된 토대 위에 이루어진다. ‘아이들과 노는’ 행동 카테고리에 있는 여성, ‘사람을 차는’ 카테고리에 있는 남성을 주로 보여주는 AVA 같은 데이터 세트가 그 예다. AI 시스템을 위한 학습 데이터 세트는 세밀한 분류가 가능한 일상을 담고 있지만, 이러한 데이터 세트는 가장 정형화되고 제한된 사회적 패턴을 되풀이하며 인간 과거의 표준적 비전을 다시 새기며 이 비전을 인간의 미래에 투사한다.

XX

“생물 다양성과 지식의 ‘사유화’는 식민주주의 부상과 함께 시작된 다양한 사유화의 마지막 단계다. 땅과 숲은 ‘사유화해’ 공유지에서 상품으로 바꾼 최초의 자원이었다. 후에 수자원은 댐, 지하수 채굴, 민영화 정책을 통해 ‘사유화한다.’ 이제 지적 재산권(IPRS)을 통해 생물 다양성과 지식을 ‘사유화할’ 차례다.” 인도의 환경 운동가 반다나 시바는 이렇게 설명한다.⁵¹ 시바는 또 이렇게 말한다. “공유지 파괴는 산업 혁명을 위해, 즉 산업의 원자재가 되는 천연 자원을 확보하기 위해 꼭 필요한 과정이었다. 생명 유지 시스템은 공유되어야 하는 것이지 사유 재산으로 소유하거나 개인의 영리를 위해 이용할 수는 없다. 따라서 공유지를 민영화하고 사유지 내 사람들의 생명 유지에 필요한 토대는 불법적으로 도용해 산업 발전과 자본 축적의 동력원으로 삼아야 했다.”⁵² 시바는 지적 재산권을 통한 자연의 사유화에 대해 이야기하고 있지만, 현재 기계 학습 분야에서는 정량화된 인간 특징의 강화라는 같은 일이 일어나고 있다. 인공 지능 분야에서 새로운 골드러시는 다양한 인간 지식, 감정, 행동 분야를 사유화해 이들 분야를 장악하고 민영화하는 것이다. 2015년 11월, 영국의 인공 지능 프로그램 개발회사 딥마인드 테크놀러지는 로열 프리 병원의 환자 160만 명의 건강 기록을 입수했을 때 어떤 형태의 민영화, 즉 지식 가치의 추출이 이루어졌다.⁵³ 데이터 세트는 여전히 공유될 수 있을지 모르지만 메타 값, 즉 메타 값으로 만든 모델은 민간의 소유다. 공중 보건을 개선해야 할 이유는 충분히 많지만, 이때 공공 보건 서비스의 은밀한 민영화를 대가로 하면 심각한 위험에 처할 수 있다. 이는 공중 의료 보건 시스템의 현지 전문 인력이 늘어나고 때로 민간 소유의 중앙 집중식 기업 AI 시스템이 이 자리를 대신하기도 하는 미래다. 이때 AI 시스템은 공용 데이터를 이용해 극소수를 위한 엄청난 부를 창출해 낸다.

XXI

21세기 현재 이 순간에도 새로운 형태의 채굴주의가 한창 진행 중이다. 이 채굴주의는 생물권의 더욱 깊숙한 곳, 인간의 더 깊숙한 인지 세계와 정서 세계로 파고들고 있다. 기계 학습으로 이루어진 인간의 생명에 대한 많은 가정이 제한적이고, 규범적이고, 오류로 가득하다. 하지만 그들은 이러한 가정을 새로운 세계에 새겨 넣고 구축하고 있으며, 기회가 부와 지식이 분배되는 과정에서 점점 더 많은 역할을 할 것이다. 아마존 에코와 상호 작용하는 데 필요한 스택, 즉 데이터 목록은 데이터 모델링, 하드웨어, 서버, 네트워크로 이루어진 다층적인 ‘기술 스택’을 훨씬 능가하는 수준이다. 전체 스택은 자본, 노동, 자연을 훨씬 더 폭넓게 활용하며, 각 요소를 어마어마하게 필요로 한다. 이들 시스템의 실제 사회적, 환경적, 경제적, 정치적 비용은 여전히 밝혀지지 않았으며, 한동안으로 계속 그럴지도 모른다. 우리는 이 해부 맵과 논문을 더 광범위한 시스템 추출에 대해 알아보는 한 가지 방편으로 제안한다. 인공 지능 시스템을 구축하는 데 필요한 계층 구조는 대단히 복잡하며, 지적 재산권법 뒤에 완전히 가려져 있고 복잡한 물류 시스템에 깊게 얽혀 있어 완전히 이해하기가 힘들다. 하지만 우리는 매순간 그 계층 구조에 의지하고 거실에 있는 작은 원통에 간단한 음성 명령을 내뱉는다. “알렉사, 지금 몇 시야?” 그렇게 원통은 계속 작동한다.

미주