[ChatGPT 너머 보기 2] ChatGPT 뒤에 가려진 디지털 노동수탈

 

책, 대화, 웹 기사의 형태로 수천억 단어를 공급받으며, 통계적인 확률에 기초한 단어와 문장의 모델을 구축하는 대규모 언어모델(large language model, LLM)로 알려진 AI 챗봇 ChatGPT는 최근 학생들의 표절 혹은 부정행위의 문제로 주목받고 있다. 때론 질문에 매우 훌륭한 대답을 내놓기도 하지만 때론 거짓과 진실에 관심이 없는 ChatGPT는 맥락과 맞지 않는 헛소리를 자신 있게 들이밀기도 한다. ChatGPT는 현재로서는 표절 혹은 부정행위, 저작권 그리고 멀리 창의적이고 지식기반 일자리 위협의 문제를 제기하고 있다. 그러나 이러한 문제에 주목하다 보면 ChatGPT의 이면을 보기 힘들다. ChatGPT에 대한 무조건적인 칭송과 비난을 넘어 그 이면을 들여다보기 위해 2개의 기사를 소개한다. 하나는 학생들이 ChatGPT를 사용하도록 '강요'하는 대학교육의 상품화이며, 다른 하나는 ChatGPT와 같은 디지털 AI의 이면에 숨겨진 노동력 착취이다. 첫째 학생들이 ChatGPT를 사용하는 이유는 글쓰기 혹은 창작행위가 이전만큼의 가치가 없기 때문이다. 불확실성의 시대에 조금 안정적인 미래와 일자리를 추구하는 것에 모든 교육이 맞추어져 있을 때 오랜 시간을 투여해야 하는 글쓰기는 확실히 학생들에게 메리트가 떨어진다. 글쓰기는 개인적인 작업이지만 그 과정은 창의적 사고, 문헌 검색과 독서, 창작과정 등 복합적이며 집합적인 과정이다. 상품화된 대학교육은 이러한 창의적 글쓰기를 학생들에게 소모적인 과정으로 보이게 만들며, 따라서 그들이 지름길인 ChatGPT로 고개를 돌리는 것은 어쪄면 필연적이다. 둘째 ChatGPT와 같은 LLM을 만들기 위해서는 그 뒤에 콘텐츠의 수집에서부터 부적절한 콘텐츠를 걸러내는 콘텐츠 조정이 필요하며 이는 엄청한 노동력을 필요로 한다. 소위 선진국의 이러한 디지털 산업은 그 엄청난 노동을 소위 후진국에 값싼 노동으로 아웃소싱한다. 하지만 수많은 비속어와 혐오 콘텐츠를 걸러내는 콘텐츠 조정작업은 그 작업자에게 엄청난 스트레스를 야기하며, 이들이 외상 후 스트레스 장애(post-traumatic stress disorder, PTSD)를 겪는 것은 쉽게 예상가능하다. 여기서는 ChatGPT와 같은 디지털 산업 뒤에 숨겨진 노동력 착취에 대해 소개한다. 이 글은 디지털 민주주의와 아나로그 정치’(Digital Democracy, Analogue Politics)의 저자인 Nanjala Nyabola의 Al Jazeera 1월 23일 자 사설 ChatGPT and the sweatshops powering the digital age의 번역으로 ChatGPT로 보여지는 디지털 혁신이 어떻게 소위 후진국의 노동력 착취와 끈끈하게 엮여 있는가에 대해 분석하고 있다. ChatGPT가 드러낸 대학교육 문제점의 본질에 대해서는 이전 글 [ChatGPT 너머 보기 1]을 참조하기 바란다.

디지털 시대를 이끄는 ChatGPT와 노동력착취 공장

최근의 ChatGPT 폭로는 디지털 혁신에서 만연한 노동 착취를 다시 한번 상기시킨다.

Nanjala Nyabola

ChatGPT 프롬프트. 사진:AP/Peter Morgan

1월 18일, 타임지는 인공지능 분야에서 일하는 많은 사람들을 반드시 놀라게 하지는 않더라도 경종을 울리는 폭로를 실었다. 이 뉴스는 고급 AI 챗봇인 ChatGPT에 관한 것이다. 이것은 한편으로 현재까지 구축된 가장 지능적인 AI 시스템 중 하나로 환영받고 있으며 다른 한편으로 잠재적인 표절과 글쓰기 기예 침식의 새로운 영역으로 우려되는 있다.

많은 사람들은 대화생성형 사전 훈련 변형기(Chat Generative Pre-trained Transformer)의 약자인 ChatGPT가 혐오 발언으로 빠르게 전락하곤 했던 이 기술의 초기 버전보다 어떻게 향상되었는지 궁금해했다. 답은 타임지 기사에서 나왔다. 수십 명의 케냐 근로자들은 주로 서구 사용자들에게 판매되는 시스템을 더 안전하게 만들기 위해 끝없는 양의 폭력적이고 혐오스러운 콘텐츠를 처리하는 데 시간당 2달러 미만의 급여를 받았다.

우리의 현재 디지털화 패러다임에 주목하는 사람이라면 누구나 이것이 노동 문제를 가지고 있다는 것을 알아야 한다. 우리는 공유된 이익의 공동체를 중심으로 구축된 개방형 인터넷의 이상에서 특정 지역에 위치한 소수의 기업의 상업적 특권이 지배하는 인터넷으로 전환하고 있다.

이 모델에서, 대기업들은 그들의 노동자뿐만 아니라 사용자들의 비용으로 그들의 소유주를 위한 수탈과 축적을 극대화한다. 사용자들은 그들이 공동체에 참여하고 있다는 거짓말에 속아 넘어가지만, 이러한 기업이 지배적일수록 소유자와 사용자 간의 불평등한 힘은 더욱 심각해진다.

"공동체"는 점점 더 일반인들이 이 회사들의 억제되지 않은 성장으로 인한 도덕적, 사회적 비용을 흡수하는 반면, 그들의 소유자들은 이익과 찬사를 흡수한다는 것을 의미한다. 그리고 더 나은 인터넷이라는 환상을 유지하기 위해 법적으로 가능한 가장 빈약한 조건 하에서 상당한 양의 저임금 노동이 계약된다.

ChatGPT는 이것을 구현하기 위한 최신 혁신일 뿐이다.

페이스북, 유튜브, ChatGPT 아웃소싱의 청사진을 실제로 제공한 콘텐츠 조정(content moderation) 모델에 대해 많은 것이 쓰여졌다. 콘텐츠 조정자는 사람들이 이러한 플랫폼에 배치하는 최악의 것들을 지속적으로 소비하고 이를 끌어내리거나 추가 조치를 취하도록 표시한다. 종종 이것들은 성적인 것과 다른 종류의 폭력에 대한 게시물들이다.

그 회사들이 위치한 나라의 국민들은 그 일이 그들에게 끼친 심리적인 피해에 대해 소송을 제기했다. 예를 들어 2020년 페이스북은 콘텐츠 진행자로 일한 후 겪은 외상 후 스트레스 장애(post-traumatic stress disorder, PTSD)로 인해 미국 직원들에게 5200만 달러를 지불해야 했다.

2차 트라우마와 폭력을 목격하는 것이 사람들에게 미치는 피해에 대한 일반적인 인식이 증가하고 있지만, 우리는 여전히 일주일 내내 이러한 종류의 콘텐츠에 노출되는 것이 인체에 어떤 영향을 미치는지 완전히 이해하지 못하고 있다.

예를 들어, 언론인과 구호 요원들은 PTSD의 심각한 증상을 가지고 분쟁 지역에서 돌아오는 경우가 많으며, 이러한 분쟁 지역에서 나타나는 보고서를 읽는 것조차 심리적인 영향을 미칠 수 있다는 것을 우리는 알고 있다. 콘텐츠 조정 작업이 사람들에게 미치는 영향에 대한 유사한 연구는 이러한 조정자들이 작업을 시작하기 전에 서명하도록 요청되는 비공개 계약 때문에 완수하기가 더 어렵다.

우리는 또한 페이스북 내부고발자 프란시스 하우겐(Frances Haugen)이 제공한 증언을 통해 적절한 콘텐츠 조정에 대한 과소투자 결정이 경제적인 결정이었다는 것을 알고 있다. 일론 머스크(Elon Musk)가 이끄는 트위터도 콘텐츠 조정자를 대거 해고해 비용을 절감하려는 움직임을 보이고 있다.

적절한 콘텐츠 조정 기능을 제공하지 못해 소셜 네트워킹 플랫폼의 독성이 증가하고 있다. 그것으로부터 발생하는 해악은 아날로그 세계에 큰 영향을 미쳤다.

미얀마에서는 페이스북이 대량학살을 조장하고, 에티오피아와 미국에서는 폭력을 조장하고 있다는 비난을 받아왔다.

실제로, 콘텐츠 조정 분야와 그것이 안고 있는 문제들은 현재의 디지털화 모델이 무엇이 잘못되었는지 잘 보여준다.

케냐 기업을 이용해 미국 챗봇에게 혐오감을 갖지 말라고 가르치기로 한 결정은 사용자에게 의미 있는 보호책을 희생시키면서 이익 축적을 가속화하기 위한 의도적인 결정이라는 맥락에서 이해되어야 한다.

이들 기업은 인공지능 시스템이 혼자 일할 수 있을 만큼 발전하기 전에 인간적 요소는 임시방편일 뿐이라고 약속한다. 그러나 이 주장은 오늘날 착취당하고 있는 직원들에게는 아무런 도움이 되지 않는다. 또한 사람들이 말하는 언어와 맥락이나 상황에 부여하는 의미가 매우 유연하고 역동적이어서 콘텐츠 조정이 사라지지 않을 것이라는 사실도 다루지 않는다.

그렇다면 오늘날 피해를 입고 있는 조정자들을 위해 무엇을 할 것이며, 내일 반드시 필요할 조정자들을 보호하기 위해 사업 관행은 근본적으로 어떻게 변화할 것인가?

이 모든 것이 노동력 착취 공장이 디지털 시대를 작동시키는 것처럼 들리기 시작했다면, 그것은 그렇게 들려야 할다. 왜냐하면 그것은 노동력 착취공장이기 때문이다. 실제로 시스템을 작동시키는 사람들 대신 시스템에서 가장 많은 이익을 얻는 사람들의 이익을 보호하려는 본능에 의해 주도되는 디지털화 모델은 수십억 명의 사람들을 무수한 형태의 사회적, 경제적 착취에 취약하게 만들고, 우리는 그 영향을 여전히 완전히 이해하지 못하고 있다.

단순히 이러한 기업의 소유주들이 티셔츠를 입고 악을 행하지 않겠다고 약속하기 때문에 기업의 이익에 의해 주도되는 디지털화가 어떻게든 중상주의와 탐욕의 과거의 모든 과잉을 피할 것이라는 신화를 잠재울 때이다.

역사는 축적에 대한 이해와 기회를 가진 자들이 그들 자신의 수단에 맡겨진다면 그렇게 할 것이고 우리 중에서 가장 취약한 사람들을 보호하기 위해 필요한 권리를 낭비할 것인지에 대한 예로 가득 차 있다.

우리는 지난 세기에 왜 노동권을 위해 싸우고 명확히 할 필요가 있었는지에 대한 기본으로 돌아가야 한다. 노동권은 인권이며, 이 최근의 스캔들은 우리가 최신의 빛나는 새로운 것에 정신이 팔려 그들에게 관심을 기울이지 않을 때 우리가 많은 것을 잃을 것임을 적시에 상기시킨다.