사무실의 끔찍한 보스 알고리즘: 인간 관리자를 대체하는 알고리즘 관리자의 문제

■ 역자 주: 아마존과 우버가 생산성 할당량 관리에서 광범위한 감시, 고용, 해고 및 직원 교육에 이르기까지 주요 휴먼 리소스(HR)와 관련된 결정에 대한 책임을 거의 전적으로 비인간 에이전트에게 아웃 소싱하는 것은 익히 알려진 사실이다. 최근 연구에 따르면 국제 기업의 HR 부서 중 40%가 인공지능(AI) 기반 도구를 사용하는 것으로 나타났다. 이 알고리즘은 효율성의 극대화를 목표로 설계되었기에 인간의 필요한 "휴식 시간"을 이해하지 못한다. 아마존이 창고 노동자들에게 시험 운영 중인 웨어러블 촉각 피드백 기기는 목표 진동(targeted vibration)을 이용해 팔의 움직임을 최대한 빠르게 안내하여 "효율성을 극대화"를 노리고 있다. 알고리즘은 인간 작업의 평가와 이에 기반한 감시와 징계에도 이용된다. 알고리즘은 인간의 노동을 등급에 따라 나누고 철저히 그에 기반해 승진, 급여, 고용 조건에 대해 징계를 내린다. 징계에 항의하거나 심지어 휴가를 신청하는 것도 벌점에 들어가 나중에 급여 삭감이나 해고와 같은 징계 사유가 된다. 물론 이러한 알고리즘의 결정의 배경과 배후는 매우 불투명하기에 항의를 조직하는 것도 힘들다. 알고리즘은 또한 고용에도 사용되는데 종종 인종과 성별, 장애 여부에 따라 차별적 조치를 내린다. 문제는 고전적 알고리즘과 달리 머신러닝 알고리즘의 진화는 알고리즘의 설계자들조차도 통제할 수 없을 정도로 나아간다는 것이다. 그리고 기업들은 이러한 알고리즘의 문제를 익히 알고 있음에도 불구하고 이에 대처하기보다는 이를 무기로 사용하고 있다. 이 글은 바스 대학교 사회 및 정책 과학 박사 후보 Robert Donoghue와 유럽 대학 연구소의 정치 및 사회 과학 박사 후보 Tiago Vieira의 10월 11일 자 The Conversation 기고 Horrible bosses: how algorithm managers are taking over the office의 번역으로 알고리즘이 인간 관리자를 대체하면서 발생하는 문제점에 대해 분석하고 있다.

끔찍한 보스: 알고리즘 관리자가 사무실을 인수하는 방법

Robert Donoghue, Tiago Vieira

이미지: Monster Ztudio/Shutterstock

1999년 컬트 클래식 영화 '오피스 스페이스'(Office Space)는 칸막이로 둘러싸인 공간에 거주하는 소프트웨어 엔지니어로서 피터(Peter)의 황량한 삶을 묘사한다. 매주 금요일 피터는 상사와 "네가 먼저 오고 내일 출근하기를 바라."라는 두려운 말을 피하려고 한다.

이 장면은 피터가 느끼는 무력감, 더 큰 생산성에 대한 끝없는 요구인 이 지시를 내릴 때 그의 상사가 무심하게 읊조리는 가짜 동정 등 고용 관계의 문제적 측면을 포착하기 때문에 거의 25년이 지난 지금도 인터넷에서 인기가 있다.

끔찍한 보스(horrible bosses)들에 대한 대중문화 묘사는 부족함이 없다. 심지어 그 제목을 가진 영화도 있다. 하지만 상황이 더 나빠질 수도 있다. 모든 부문에 걸쳐 직장에 정착하는 새로운 보스인 알고리즘 관리자에 대해 어떻게 해야 할까?

알고리즘 관리의 부상

로봇이 노동자를 대체할 것이라는 전망은 언론에서 자주 다뤄진다. 그러나 노동만이 자동화되고 있는 것은 아니다. 매니저 형들도. 소프트웨어 알고리즘이 업무 지원서 심사, 업무 위임, 직원 성과 평가, 심지어 언제 직원을 해고해야 하는지 결정하는 것과 같은 관리 기능을 가정하는 것을 점점 더 많이 볼 수 있다.

감시 및 모니터링 장치가 점점 정교해짐에 따라 인간 관리자에서 기계로의 작업 부하가 증가할 수밖에 없다. 특히 문제가 되는 것은 직원들의 움직임을 추적할 수 있는 웨어러블 테크놀로지(Wearable technology)이다.

고용주의 관점에서 관리자의 의무를 알고리즘으로 이전함으로써 얻을 수 있는 것이 많다. 알고리즘은 사람이 완료하는 데 더 오래 걸리는 작업을 자동화하여 비즈니스 비용을 낮춘다. 22,800명의 직원을 보유한 우버(Uber)는 최근 연간 수치에 따라 350만 명의 운전자를 감독할 수 있다.

인공 지능 시스템은 또한 비즈니스 조직을 최적화하는 방법을 찾을 수 있다. 우버의 급격한 가격 책정 모델(바쁜 시간에 운전자를 유치하기 위한 일시적으로 가격 인상)은 알고리즘이 승객 수요의 실시간 변화를 처리할 수 있기 때문에 가능하다.

위험

알고리즘 관리와 관련된 일부 문제는 다른 문제보다 더 많은 관심을 받는다. 아마도 언론인, 연구원 및 정책 입안자들이 가장 많이 논의하는 위험은 알고리즘 편향일 것이다.

아마존(Amazon)의 없어진 이력 순위 시스템(CV ranking system)은 악명 높은 예이다. 지원자 이력서(CV)를 1에서 5까지의 척도로 평가하는 데 사용되었던 이 프로그램은 남성 특성을 가진 이력서를 더 여성스러운 것으로 간주되는 비교 가능한 이력서보다 지속적으로 높게 평가했기 때문에 중단되었다.

그러나 알고리즘 관리의 성장을 둘러싼 몇 가지 다른 문제가 있다.

매우 개인적인 결정을 컴퓨터 관리자의 손에 맡긴다는 생각은 불길하다. 사진: Monster Ztudio/Shutterstock

하나는 투명성의 문제이다. 고전적인 알고리즘은 단계별 지침에 따라 결정을 내리고 프로그래밍된 출력만 제공하도록 프로그래밍된다.

반면에 기계 학습 알고리듬은 많은 훈련 데이터에 노출된 후 스스로 결정하는 법을 배운다. 이것은 그들이 개발함에 따라 더 복잡해져서 프로그래머에게도 그들의 작업을 불투명하게 만든다는 것을 의미한다.

직원을 해고할지 여부와 같은 결정 뒤에 있는 논리가 투명하지 않으면 도덕적으로 의심스러운 조치가 진행된다. 직원을 해고하기로 한 알고리즘의 결정은 편향되었거나 부패했거나 자의적이었을까?

그렇다면, 그 결과물은 대부분의 경우 불법은 아니지만 도덕적으로 부당한 것으로 간주된다. 그러나 직원이 해고가 불법적인 동기의 결과라는 것을 어떻게 증명할 수 있을까?

알고리즘 관리는 부당한 것을 바로 잡는 것으로부터 권력 남용을 보호함으로써 고용주와 직원 사이의 권력 불균형을 악화시킨다. 그리고 알고리즘은 고용 관계에서 중요한 인간의 기능을 차단한다. 그것은 고 철학자 장 자크 루소(Jean-Jacques Rousseau)가 우리의 "자연스러운 동정심"과 "동료 인간이 고통받는 것을 보는 것에 대한 타고난 혐오감"이라고 부른 것이다.

모든 인간 관리자가 자비로운 것은 아니지만 알고리즘 관리자가 동정심을 가질 가능성은 0이다. 아마존 플렉스(Amazon Flex) 배달원에 대한 우리의 사례 연구에서, 우리는 플랫폼 노동자들이 알고리즘이 인간의 호소를 받아들이지 못하는 것에 대해 느끼는 분노를 관찰했다. 효율성을 극대화하기 위해 설계된 알고리즘은 육아 비상사태에 무관심하다. 그들은 여전히 ​​일을 배우고 있기 때문에 천천히 움직이는 노동자를 용납하지 않는다. 그들은 질병이나 장애로 고생하는 근로자를 돕는 해결책을 찾기 위해 협상하지 않는다.

우리는 무엇을 할 수 있을까?

알고리즘 관리 하에 있는 근로자가 직면한 위험은 이미 좋은 근무 조건을 장려하려는 연구자, 노동조합 및 소프트웨어 개발자의 중심 초점이다. 미국 정치인들은 근로자를 위한 디지털 권리의 확장에 대해 논의하고 있다. 다른 솔루션에는 알고리즘이 근로자에게 미치는 영향에 대한 정기적인 영향 평가와 직원에게 이러한 기술이 사용되는 방식에 대한 의견을 제공하는 것이 포함된다.

기업은 관리 알고리즘이 매우 수익성이 높다는 것을 발견할 수 있지만 이윤 창출의 필요성이 직원의 고통을 용인할 이유가 되지는 않는다.

피터는 마침내 상사를 관리하고 일을 즐겁게 만드는 방법을 배웠다. 그는 최고 경영진과의 매우 인간적인 만남에서 자신의 가치를 보여주면서 이것을 성취했다. 문제는, 만약 그의 보스가 알고리즘이었다면 그가 어떻게 했을까이다.