알고리즘이 당신의 보스라면: 불투명한 알고리즘의 블랙박스가 직원 평가, 고용, 해고, 급여를 결정하는 시대

* 역자 주: 인간 관리자마저도 알고리즘의 감시를 받는 시대이다. 아마존의 경우 인력 채용과 생산성 할당, 평가, 해고가 인간 관리자 대신 체계화된 알고리즘의 평가 시스템에 의해 결정된다. 하지만 아마존만 인력관리에서 인공지능(AI)을 사용하는 것은 아니며, 다른 유수한 국제적 기업들의 40%도 인력관리에서 AI를 사용한다. 연차나 반차를 쓴 것만으로도 급여 삭감이나 평가 벌점을 부여하는 알고리즘 속에서 노동자의 권리는 무시되지만, 인간은 그 결정이 내려지는 과정과 기준을 알 수 없다. 그만큼 알고리즘의 블랙박스는 인간의 감사와 평가로부터 독립되어 있기 때문이다. 일부 노조들은 최근 단체협약에 '윤리적 알고리즘' 항목을 넣어 알고리즘 자체의 투명성을 확보하기 위한 노력을 시도하고 있다. 이 글은 인도주의적 문제를 주로 쓰는 저널리스트 Jamie Medwell이 The Tribune에 2022년 1월 30일 자로 기고한 When the Algorithm Is Your Boss의 번역으로 알고리즘이 소위 '인력관리'에서 어떤 역할을 하며, 어떤 폐해가 있으며, 어떤 대안이 있는지를 분석하고 있다.

알고리즘이 당신의 보스일 때

아마존(Amazon)과 같은 직장에서 알고리즘은 최악의 보스가 되었다. 그것은 끊임없이 당신을 감시하고, 불가능한 요구를 한 다음, 설명 없이 당신을 해고하는 보스이다.

한 직원이 아마존 창고에서 배송을 위한 소포를 준비한다. 사진: Sean Galp / Getty Images

20세기 전반부에 존 메이너드 케인스(John Maynard Keynes)와 버트런드 러셀(Bertrand Russell)과 같은 사상가들은 기술의 발전이 이 시점까지 우리가 노동의 소모적인 요구로부터 해방되어 일주일에 15시간에서 20시간 정도의 일을 하게 될 것이라고 예측했다. 그런 미래는 오지 않았다고 누구나 말할 것이다. 업무 부담을 분담하는 대신, 현재 우리 직장에서 흔히 볼 수 있는 알고리즘은 전문 관리 계층이라는 다른 역할을 맡게 되었다.

애리조나주 피닉스 출신의 63세 퇴역 군인 스티븐 노먼딘(Stephen Normandin)은 아마존 배송 기사로 지난해 아마존의 알고리즘 인적 자원 관리(Human Resources Management, HRM) 시스템에 의해 해고됐다고 보도됐다. 노먼딘은 6월에 블룸버그(Bloomberg)에 "저는 생존을 위해 이 일에 의존하고 있습니다."라고 설명했다. "저는 항상 모든 것이 배달된다는 평점을 일관되게 받았습니다. 나는 한 블록도 놓친 적이 없습니다. 나는 항상 일찍 또는 정시에 나타납니다. 저는 한 번도 늦게 취소한 적이 없어요. 이건 도저히 말이 안 됩니다."

스티븐과 같은 이야기가 점점 더 보편화되고 있다. 알고리즘 기반의 안면 ID 프로세스가 해고된 택배 기사들에 의해 인종차별로 비난을 받고 있는 우버(Uber)와 마찬가지로 아마존은 생산성 할당량 관리에서 광범위한 감시, 고용, 해고 및 직원 교육에 이르기까지 주요 HR 결정에 대한 책임을 거의 전적으로 비인간 에이전트에게 아웃 소싱한다. 그리고 아마존이 가장 열렬한 개종자일지라도 유일한 개종자는 아니다. 최근 연구에 따르면 국제 기업의 HR 부서 중 40%가 인공지능(AI) 기반 도구를 사용하는 것으로 나타났다.

결과는 예상대로 참담했다. 전 세계 아마존 근로자를 대표하는 20개 이상의 노동조합을 포함하는 노동조합 연맹인 UNI Global(UNI 글로벌)의 보고서에 따르면 알고리즘 HRM 사용은 끝없이 효율적으로 "휴식시간을 제거"하고 "인간 근로자에게 엄청난 심리적 스트레스"를 가했다.

상점·유통·동맹 노동자 연합(Union of Shop, Distributive and Allied Workers, USDAW)이 대표하는 영국의 한 아마존 직원은 그들을 감시하는 기술이 정신 건강에 영향을 미쳤다고 말했다. 또 다른 사람은 아마존의 '시스템 제어' 덕분에 마치 내가 기계인 것처럼 모니터링되고 분석되는 느낌을 받았다고 말했다. UNI 보고서 작성 당시 회사는 창고 근로자를 위한 웨어러블 촉각 피드백 기기를 시험 운영하고 있었는데, 이 장치는 목표 진동(targeted vibration)을 이용해 팔의 움직임을 최대한 빠르게 안내하여 "효율성을 극대화"하고 있었다.

알고리즘은 작업자를 감시하는 데에만 사용되는 것이 아니라 작업자를 징계하는 데에도 사용된다. 노먼딘과 그의 동료 플렉스 운전사들(Flex drivers)이 환상적, 잘하는, 그럭저럭 또는 위험한(Fantastic, Great, Fair, or At Risk)과 같은 기계화된 등급 척도를 적용받았던 곳에서 아마존 창고 직원들은 알고리즘 관리에 의해 직접 관리되는 포인트 시스템을 설명했다. 각 포인트는 벌점이며, 교대 또는 반 교대 근무를 요청하는 것과 같은 간단한 것에 부과될 수 있다. 비정규직에게는 9점이, 정규직에게는 13점이 해고를 의미한다.

AI에 의해 설정된 기대는 충족되거나 호소하는 것이 불가능해진다: 그 자신이 시스템에 의해 관리되는 인간 관리자는 의사 결정에 개입하기 위해 공감이나 상식을 사용할 수 없으며 종종 제재 또는 해고에 대한 최종 결정을 일련의 코드에 맡긴다. 예를 들어, 노먼딘과 같은 미국의 배달 운전자들은 알고리즘의 결정에 결점을 발견하는 경우 또 다른 봇에게 항소할 수 있는 10일의 시간이 주어지며, 그 기간 동안 그들은 일을 하는 것이 금지된다. 패소할 경우 보통 하는 것처럼 분쟁을 중재에 회부하는 데 200달러(종종 감당할 수 없는 금액)가 든다.

아마존은 알고리즘 관리의 문제를 다루기보다 그 어리석음을 무기화한다. 미국 전역의 179개에 달하는 아마존 창고 노동자들이 지난 1년간 유급·무급휴가를 신청할 때마다 급여를 삭감하는 아마존 휴직 제도의 결함으로 잘못된 급여를 받았다. 안면인식 결함에 따른 자의적 계약 종료가 흔해 근로자들이 교체 가능성을 의식하게 한다. 그사이 AI라는 블랙박스 뒤에는 특히 소프트웨어 채용과 해고 등 인종이나 성별, 장애에 따른 차별 가능성이 가려진 채 방치돼 있다.

이 모든 것은 알고리즘적 HRM 시스템이 좌파에게 고유한 과제를 제시한다는 것을 의미한다. 드문 경우지만 전 세계의 법원이나 입법부가 아마존이 노동자들이 업무 후 아마존 건물에서 노동자들을 조직하는 것에 개입하는 것을 막는 12월의 아마존과 미국 노동 관계 위원회(National Labor Relations Board) 간의 획기적인 합의와 같이 아마존의 황당한 노조파괴자들을 위한 특별대우를 철회하는 결정을 내린다. 시스템이 너무 불투명하기 때문에 노조는 헛수고를 할 위험이 있다. 여러분은 로봇과 어떻게 흥정을 하는가?

'Fulfillment: Winning and Losing in One-Click America'의 저자인 알렉 맥길리스(Alec MacGillis)의 경우 회사는 한 단계 더 나아가 "인력을 계급으로 세분화하고 지도 전체에 분산"하여 불투명도를 달성했다. 더 나아가, 이는 인간 관리자, 엔지니어 및 소프트웨어 개발자가 불안정한 근로자 및 AI 지배자와 물리적으로 분리될 가능성이 더 높다는 것을 의미하므로 후자가 실제 영향력을 가진 실제 인간을 만날 기회가 확실히 제한된다.

레버리지의 문제도 있다. 아마존은 선택할 수 있는 노동력 풀이 거의 무제한이다. 한 번에 마을을 고용하는 회사에 있어서, 노동자 유지는 사후 생각일 뿐이다. 그렇다면 디지털 상사가 새 헤어스타일을 한 사람을 알아보지 못해 해고한다면 어떻게 해야 할까? 그 외에도 많은 문제들이 있다.

알고리즘의 효능에 대한 평가는 종종 긍정적이다. 2019년 휴먼 리소스 관리 저널(Human Resource Management Journal)에 발표된 플렉스(Flex, 아마존 플렉스를 의미 - 역자 주)에 고용된 배달 운전사를 포함하는 긱 이코노미에서의 알고리즘 관리 및 앱 작업에 관한 보고서는 알고리즘 HRM 시스템이 "대규모로 노동자들 통제하는 데" "빠르고 효율적인 시장 거래 달성에 핵심적인 역할"을 한다고 주장했다. 그럼에도 불구하고 알고리즘적 HRM에 대한 자유주의적 비판도 등장했다. 비즈니스 윤리학자들은 알고리즘 HRM 시스템이 근로자의 데이터를 숨겨 '자신의 능력을 관리하거나 마케팅'하는 능력을 억제할 수 있다고 주장하는데 이는 자유주의자에게 큰 죄에 해당한다.

그럼에도 불구하고 아마존의 노조 파괴자들에 대한 최근의 승리는 일말의 희망을 제공한다. UNI 글로벌은 알고리즘이 정확히 어떻게, 왜 의사결정을 내리는지를 근로자에게 보여주기 위해 데이터 투명성 제고에 초점을 맞추는 등 '윤리적 알고리즘 관리'의 핵심 요구사항을 담은 '알고리즘 사용 협약'을 작성하기 시작했다.  많은 사람들은 이것이 아마존의 블랙박스를 열어보고 다음 도전이 시작될 때 어떤 결정이, 언제, 왜 내려졌는지를 보여주는 적절한 기록이 있는지 확인하는 열쇠라고 생각한다.

그러나 거기에는 현대적이고 기술적인 지식을 갖춘 노동 운동이 더 나아가야 할 여지가 있다. 특히 유럽 노동조합 연맹(European Trade Union Confederation)이 지지하는 '인간 지휘(human in command)' 원칙은 알고리즘이 노동자의 운명을 결정하는 것을 방지하며 노동자들이 정직 또는 해고에 대한 두려움 없이 알고리즘을 무효화할 권한이 있는 인간에게 항소할 수 있는 권리를 부여한다. 강화된 규제는 편견과 차별에 대해 아마존의 HRM과 같은 알고리즘을 독립적으로 모니터링할 수 있으며 이러한 감사 결과는 노동자, 관리자 또는 노조 대표 여부와 관계없이 알고리즘 결정의 영향을 받는 모든 사람이 무료로 사용할 수 있을 것이다.

그러나 궁극적인 목표는 실제로 작업을 이해하고 수행하는 사람들의 의견으로 개발되고 적용되는 작업장 기술의 민주화여야 한다. 일부 사람들이 유토피아적이라고 생각할 수 있는 이 기본 원칙만이 아마존과 같은 회사가 여전히 짜고 있는 불의의 그물을 풀고 한때 상상했던 세상, 즉 기술이 모두의 이익을 위해 작동하는 세상으로 나아가는 데 도움이 될 수 있다.