케냐 수도 나이로비의 외주 업체에서 메타(Meta)의 콘텐츠 검수자로 일하는 머시는 하루에 10시간씩, 55초마다 하나의 '플래그'를 확인한다.
이번 영상은 심각한 자동차 사고 영상이다.
누군가 사고 현장을 촬영해 페이스북에 게시했고, 참혹한 장면에 누군가가 부적절한 게시물 표시인 플래그를 달았다.
플래그가 달린 게시물이 메타의 콘텐츠 정책을 어겼는지를 파악하는 것이 머시의 주된 업무. 여느 때와 같이 컴퓨터 화면을 들여다보면 머시는 순간 온몸이 얼어붙는다.
끔찍한 사고 현장 속 피해 인물이 다름 아닌 자신의 할아버지였던 것. 정신을 차리고 상사에게 해당 내용을 보고했을 때 돌아온 말은 충격적이었다.
"당일 목표를 채우려면 자리로 돌아가야 한다.
내일 휴가를 낼 수도 있지만 오늘은 이미 출근한 만큼 일을 마저 끝내는 편이 낫다.
"
미국 옥스퍼드대학교와 에식스대학교에서 디지털 노동을 연구하는 세 저자는 전 세계를 휩쓴 인공지능의 이면을 조명한다.
그들은 AI가 인간의 노동과 창의성, 감정을 빨아들이는 '추출 기계'라고 주장한다.
추출 기계란 인간의 감정과 창의성과 노동을 흡수해 데이터를 만들어내고, 이를 다시 알고리즘으로 가공해 이윤을 창출하는 구조적 장치를 뜻한다.
추출 기계란 표현은 일상에서 누리는 인공지능(AI)의 편리함 이면에 데이터 주석자와 콘텐츠 검수자, 물류 노동자 등의 비인간적 노동이 존재함을 강조한다.
저자들은 10년간 30여개국을 돌며 현장에서 직접 목격한 내용을 고발한다.
AI가 어떻게 불평등을 심화하고 민주주의를 위협하는지를 집중 조명한다.
이 책의 핵심은 "기계는 인간을 먹고 자란다.
그것은 우리의 노동, 우리의 창작, 우리의 시간을 삼킨다.
그리고 그것을 데이터와 통계로 바꾸어 다시 우리에게 돌려준다"로 요약된다.
검수 센터 노동자들이 하루에 처리하는 플래그는 약 1000개. 이들은 거의 매일 자살, 고문, 강간 콘텐츠를 목격했다.
"가장 힘든 건 폭력적인 영상이 아니에요." "성적으로 노골적이고 충격적인 콘텐츠가 더 힘들죠." "이 일을 하려면 평범하지 않은 것을 평범하게 받아들여야 해요." 대다수는 일을 마친 후에도 이전의 평온한 감정으로 돌아가기 어렵다고 증언했다.
"우리는 대부분 심리적으로 상처를 입었어요. 우리 중 어떤 사람은 자살을 시도했고, 배우자가 떠난 동료도 있었어요."
그보다 더 힘든 건 '회사 정책'이라고 토로한다.
충격적 영상을 보고 자리를 이탈한 직원은 회사 정책을 위반했다는 이유로 질책을 들어야 했고, 화장실 이용 시 컴퓨터에 입력해야 할 코드를 생략하고 자리를 이탈한 경우 생산성 점수가 감점됐다.
이런 근무지는 대체로 아프리카 빈민가 등지에 마련돼 100명씩 한 줄로 늘어선 컴퓨터 앞에서 감정을 말살당하며 AI 알고리즘을 지탱한다.
하지만 메타는 이런 상황을 애써 외면한다고 저자들은 지적한다.
외주업체가 벌인 일일 뿐 자신들은 책임이 없다는 태도를 비판한다.
글로벌 AI 기업들이 줄곧 AI가 불러온 편리함과 가능성을 강조하지만 그런 화려함 뒤에는 열악한 환경에서 노동 착취를 강요받는 인간의 희생이 있다고 꼬집는다.
"콘텐츠 검수자들이 끊임없이 게시물을 감시하지 않는다면, 소셜미디어는 순식간에 폭력적이거나 노골적인 콘텐츠로 뒤덮일 수 있다.
데이터 주석 작업자들이 AI에게 신호등과 도로 표지판을 구분하는 법을 가르치지 않는다면 자율주행차는 도로를 달릴 수 없다.
머신러닝 알고리즘을 조정하는 노동자들이 없다면, 챗GPT와 같은 AI 도구 역시 존재할 수 없다.
"
AI는 인간을 먹고 자란다 | 마크 그레이엄 외 2명 | 김두완 옮김 | 348쪽 | 2만4000원
서믿음 기자 faith@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
