알고리즘의 위험: 인간 조직방식으로서 재분배, 호혜주의, 민주주의, 시장, 관료주의에 새롭게 추가된 알고리즘

정보화시대에서 가장 중요한 자원은 정보이다. 알고리즘은 이 정보를 분류하고 분배하며 인간의 사고에 영향을 미친다. 나아가 알고리즘은 인간의 직접적인 관리에도 관여한다. 최근 연구에 따르면 국제 기업의 HR 부서 중 40%가 인공지능(AI) 기반 도구를 사용하는 것으로 나타났다. 알고리즘은 아마존 노동자들의 작업방식과 휴식, 능률을 평가하고 보상과 징계를 결정하기도 한다. 알고리즘이 어떻게 어떠한 기준에 의해 설계되고 실행되는지 알지 못하는 사이에 이 알고리즘은 점점 더 넓고 더 깊게 인간의 삶을 구성하고 있다. 이 글은 캘리포니아 대학교 버클리의 경제학 교수이자 미국 국립 경제 연구국의 연구원인 J. Bradford DeLong의 Project Syndicate 3월 6일 자 기고 The Algorithm Society and Its Discontents의 번역으로 필자는 인간을 조직하는 전통적 방식으로서 재분배, 호혜주의, 민주주의 그리고 현대적 방식으로서 시장과 관료주의와 별도로 알고리즘을 새로운 조직방식으로 규정하며 그것이 가진 위험을 분석한다.

알고리즘 사회와 그 불만

현대 문명은 재분배(redistribution), 호혜주의(reciprocity) 및 민주주의와 같은 훨씬 더 오래된 인간 조직 방식에 시장과 관료제를 추가하여 구축되었다. 그러나 알고리즘에 의한 통치의 급속한 증가는 또 다른 획기적인 변화를 나타낼 수 있지만 그것은 더 나은 것은 아닐 것이다.

J. Bradford DeLong

일러스트: smartboy10/Getty Images

내가 보기에, 2010년대에 쓰인 정치 경제학의 가장 심오하고 통찰력 있는 작품은  전통적인 의미의 저널 기사도, 모노그래프도, 책도 아니었으며 그것은 오히려 온라인 심포지엄이었다. '붉은 풍요: 굽은 목재 책 행사'(Red Plenty: A Crooked Timber Book Event)*에서 정치학자 헨리 패럴(Henry Farrell)이 소집한 학자와 지식인들은 프랜시스 스퍼포드(Francis Spufford)의 매우 흥미로운 책 '붉은 풍요'(Red Plenty)에 반응하기 위해 인쇄 커뮤니케이션의 새로운 방식을 사용했다.

* 역자 주: Crooked Timber는 좌파 학자들이 만든 블로그로 가디언과 뉴욕타임스와 같은 유수 매체로부터 당대의 가장 영향력 있는 블로그들 가운데 하나로 평가되고 있다. 이 블로그의 Crooked Timber라는 이름은 칸트의 '세계시민적 관점으로 본 보편사 이념'(Idee zu einer allgemeinen Geschichte in weltbürgerlicher Absicht)에서 나온 "인간을 구성하는 굽은 목재로는 어떤 것도 곧게 만들 수 없다."(Aus so krummem Holze, als woraus der Mensch gemacht ist, kann nichts ganz Gerades gezimmert werden)의 굽은 목재(krummem Holze, 영어로는 crooked timber)에서 빌린 것이다.

스퍼포드는 시장을 이용하여 달성할 수 있는 것보다 더 나은 사회를 건설하기 위해 관료주의와 수학을 사용하려는 소련의 놀랍게도 실패한 시도를 분석했다. 하지만 내가 '붉은 풍요: 비뚤어진 목재 책 행사'로 돌아갈 때마다 현대 시장 경제 자체에서 생성된 극복할 수 없는 딜레마에 대한 기고자들의 통찰력에 놀랐다. 나는 또한 신기술을 사용하여 우리가 소통하고 함께 세상을 이해하는 방식에 대한 질적인 변화를 주도하는 "책 행사"가 얼마나 성공적이었는지에 여전히 충격을 받는다.

나는 파렐이 최근 '첨단 모더니즘의 도덕적 경제'(The Moral Economy of High-Tech Modernism)라는 새로운 논문을 발표했기 때문에 이런 문제들에 대해 생각해 왔다. 그와 사회학자 마리온 포케이드(Marion Fourcade)는 인터넷과 그 자손들(그들이 "첨단 모더니즘"이라고 부르는 것)이 시장 경제의 부상과 현대 사회의 관료화만큼이나 심오한 방식으로 세상을 변화시키고 있다고 주장한다.

이 주장은 인간 사회의 근본에 관한 것이다. 개인으로서 우리 인간은 각각 약하고 무력하다. 오직 우리가 문화 안의 삶으로부터 얻는 지식이 있어야만 우리는 생존할 수 있다. 그러나 문화를 갖거나 어떤 것을 생산하기 위해서는 집단 지성과 분산된 실체에서 우리 자신을 조직하고 조정할 필요가 있다. 수천 년 동안, 우리는 일반적으로 그러한 조직을 유지하는 세 가지 다른 방식을 가지고 있었다.

첫 번째는 재분배(redistribution)이다. 정보, 자원 및 유용한 제품이 중앙 집중식 풀로 유입된 다음 할당된 작업, 도구, 보상 또는 사회적 지원의 형태로 다시 흘러나간다. 두 번째 모드는 호혜주의(reciprocity)였다. 각 가구는 대략적인 균형을 지향하는 장기적인 선물 교환 관계에서 다른 몇 가구와 연결되어 있다. 그리고 대부분의 인간 사회에는 단지 6단계의 분리가 있기 때문에 한 단위의 필요가 다른 많은 사람들의 행동에 영향을 미칠 것이다. 마지막으로, 민주주의가 있다. 사람들은 대략적인 합의에 도달하고 합의된 계획에 대한 광범위한 지지를 얻기 위해 토론과 토론을 사용한다.

물론 각 조직 방식에는 누가 좋은 것을 더 많이 얻어야 하는지(누가 다른 사람보다 "더 평등"해야 하는지)에 대한 질문에 답하기 위해 분배 및 권한 부여 방식이 수반된다. 재분배에서 권력은 체제의 중심에 있는 사람들에게, 상호주의에서는 가장 많은 자원과 친구들을 가진 사람들에게, 그리고 민주주의에서는 말솜씨가 좋은 사람들에게 생긴다.

현대화의 도래와 함께, 우리는 비즈니스 계층에 의해 설계된 시장 경제와 현대 국가에 의해 설계된 관료주의라는 두 가지 모드를 더 추가했다. 시장은 문제에 대한 클라우드 소싱 솔루션을 위한 도구로서 타의 추종을 불허한다. 그러나 실제로, 그것의 범위는 우연히 시장 가격을 가진 물건들의 효율적인 사용을 보장함으로써 부자들의 요구를 충족시키는 것으로 제한된다.

마찬가지로, 관료주의는 독특하게 강력하고 사물을 분류하고 표준화하는 능력이 있으며, 이는 호혜주의나 재분배 시스템이 할 수 없는 방식으로 더 큰 그림을 볼 수 있게 한다. 하지만, 물론, 그것은 또한 많은 비효율성을 야기할 수 있다.

우리의 강력하지만 깊이 결함이 있고 불평등한 문명은 우리의 세 가지 원래 조직 방식에 시장과 관료주의를 추가함으로써 구축되었다. 그러나 이제, 파렐과 포케이드는 우리가 여섯 번째 모드인 알고리즘을 추가하고 있다고 경고한다.

기술 낙관론자들에 따르면, 알고리즘 사회는 우리가 시장과 관료주의로 만들기를 바랄 수 있는 어떤 것보다 훨씬 나을 것이다. 시장과 달리 알고리즘은 부자의 금전적 요구와 재산권을 주장한 사람들이 부과하는 금전적 비용만 보는 것으로 제한되지 않는다. 그리고 관료제와는 달리, 알고리즘 사회는 부적임자를 강요하지 않을 것이다.

더 이상 "전문가"가 당신이 어떤 범주에 속해야 할지 결정하지 않을 것이다. 대신에, 사람들의 말과 행동으로 표현되는 드러난 선호도에서 자발적으로 친화 집단이 생겨날 것이다. 규모의 경제라는 고유한 힘을 활용하여 각 개인에게 서비스를 제공하기 위해 자원이 동원될 것이다.

이것이 우리 모두가 공유해야 하는 희망인가? 확실히, 관료제가 새로운 형태의 조직으로 도래했을 때, 그것은 암묵적인 형태의 지식을 지우고, 사람들의 삶의 혼란을 단절하고, 권력의 수단을 쥐고 있는 사람들에게 가장 유용한 범주로 사람들을 강제했다. 마찬가지로, 시장은 부자들의 요구를 우선시함으로써 거대하고 비용이 많이 드는 새로운 외부성(externalities)을 도입했다. 하지만 알고리즘 사회가 이러한 결함을 고치거나, 새로운 거대한 문제를 자체적으로 도입하지 않을 것이라고 생각할 만한 타당한 이유가 있을까?

노벨 경제학상 수상자인 다니엘 카너먼(Daniel Kahneman)의 "빠르다"와 "느리다"는 사고의 개념은 우리가 여기서 무엇이 위태로운지 알 수 있도록 도와줄 수 있다. 알고리즘 사회는 두려움과 분노를 의미하는 "참여"를 끊임없이 추구하면서 "빠르게 생각하는" 측면에만 봉사할 것이다. 시장이 부자들에게 영합하듯이, 알고리즘은 우리의 최악의 충동에 영합한다.

클릭베이트(clickbait) 사회는 유토피아에 대한 그 누구의 비전도 아니다. 하지만 그것이 현재의 추세가 우리를 이끌고 있는 곳이 바로 그곳이 아닐까 나는 두렵다.