Zigzag의 세계를 여는 창

틱톡, 유튜브, 인스타그램, 트위치 등 소셜미디어 플랫폼에서 콘텐츠 조절 필터를 우회하려는 사람들이 늘면서 '알고스피크'(Algospeak)는 인터넷을 통해 점점 보편화되고 있다. 알고스피크는 사용자가 콘텐츠 조정 시스템에 의해 게시물이 제거되거나 순위가 내려가는 것을 피할 수 있는 안전 어휘를 만들기 위해 사용한 코드 워드 또는 어구의 변화를 말한다. 예를 들어 많은 온라인 동영상에서 '죽었다'(dead)가 아닌 '살아있지 않다'(unalive), '성폭행'(exual assault) 대신 'SA', '바이브레이터'가 아닌 '매운 가지'(spicy eggplant)라는 표현이 널리 사용되고 있다. 팬데믹으로 인해 더 많은 사람들이 온라인으로 의사소통하고 의사를 표현하게 되면서 알고리즘 콘텐츠 조정 시스..

정보화시대에서 가장 중요한 자원은 정보이다. 알고리즘은 이 정보를 분류하고 분배하며 인간의 사고에 영향을 미친다. 나아가 알고리즘은 인간의 직접적인 관리에도 관여한다. 최근 연구에 따르면 국제 기업의 HR 부서 중 40%가 인공지능(AI) 기반 도구를 사용하는 것으로 나타났다. 알고리즘은 아마존 노동자들의 작업방식과 휴식, 능률을 평가하고 보상과 징계를 결정하기도 한다. 알고리즘이 어떻게 어떠한 기준에 의해 설계되고 실행되는지 알지 못하는 사이에 이 알고리즘은 점점 더 넓고 더 깊게 인간의 삶을 구성하고 있다. 이 글은 캘리포니아 대학교 버클리의 경제학 교수이자 미국 국립 경제 연구국의 연구원인 J. Bradford DeLong의 Project Syndicate 3월 6일 자 기고 The Algorith..

■ 역자 주: 아마존과 우버가 생산성 할당량 관리에서 광범위한 감시, 고용, 해고 및 직원 교육에 이르기까지 주요 휴먼 리소스(HR)와 관련된 결정에 대한 책임을 거의 전적으로 비인간 에이전트에게 아웃 소싱하는 것은 익히 알려진 사실이다. 최근 연구에 따르면 국제 기업의 HR 부서 중 40%가 인공지능(AI) 기반 도구를 사용하는 것으로 나타났다. 이 알고리즘은 효율성의 극대화를 목표로 설계되었기에 인간의 필요한 "휴식 시간"을 이해하지 못한다. 아마존이 창고 노동자들에게 시험 운영 중인 웨어러블 촉각 피드백 기기는 목표 진동(targeted vibration)을 이용해 팔의 움직임을 최대한 빠르게 안내하여 "효율성을 극대화"를 노리고 있다. 알고리즘은 인간 작업의 평가와 이에 기반한 감시와 징계에도 이..

* 역자 주: 인간 관리자마저도 알고리즘의 감시를 받는 시대이다. 아마존의 경우 인력 채용과 생산성 할당, 평가, 해고가 인간 관리자 대신 체계화된 알고리즘의 평가 시스템에 의해 결정된다. 하지만 아마존만 인력관리에서 인공지능(AI)을 사용하는 것은 아니며, 다른 유수한 국제적 기업들의 40%도 인력관리에서 AI를 사용한다. 연차나 반차를 쓴 것만으로도 급여 삭감이나 평가 벌점을 부여하는 알고리즘 속에서 노동자의 권리는 무시되지만, 인간은 그 결정이 내려지는 과정과 기준을 알 수 없다. 그만큼 알고리즘의 블랙박스는 인간의 감사와 평가로부터 독립되어 있기 때문이다. 일부 노조들은 최근 단체협약에 '윤리적 알고리즘' 항목을 넣어 알고리즘 자체의 투명성을 확보하기 위한 노력을 시도하고 있다. 이 글은 인도주의..

* 옥스포드대 로이터 저널리즘 연구소가 매년 발간하는 '디지털뉴스리포트'에 따르면 미국의 가짜 뉴스를 퍼뜨리는 가장 심각한 소셜 미디어 플랫폼은 페이스북이다. 지난 1월 6일 의사당 내란은 페이스북에 커다란 충격을 안겨주었다. 페이스북은 "표 도둑질 중단하라"라는 트럼프의 허위 정보와 "의사당을 습격하라"라는 폭력적인 선동의 진원지였다. 얼마 전 미국 시사보도프로그램 60 Minutes에서 페이북의 내부 고발자 프랜시스 하우겐은 페이스북이 정치인이나 셀리브리티 등 고위급 인사와 일반 사용자들의 게시물에 차별을 두고, 차별과 혐오 게시물이 광고 클릭을 높이기 때문에 이를 방치했으며, 인스타그램에서 10대 소녀들의 거식증을 조장했다고 폭로했다. 최근 하우겐을 포함한 페이스북 전 직원들은 언론을 통하여 페이스..

* 페이스북 내부 고발자 프랜시스 하우겐은 페이스북이 명사들의 포스팅을 일반인들의 포스팅에 더 특혜를 제공하고, 광고 클릭을 위해 혐오와 차별 포스팅을 더 부각하며, 인스타그램에서는 10대 소녀들을 거식증을 더 부추긴다는 수만 건의 내부 문서와 연구를 폭로했다. 페이스북은 하우겐의 폭로를 공식적으로 인정하지 않았다. 이에 비해 트위터는 자신들의 알고리즘이 우파 정치인과 매체들의 포스팅을 타임라인에 더 노출시킨다는 내부 연구를 자발적으로 공개했다. 이러한 연구는 7개국 선출직 공무원, 즉 정치인들과 미국 언론 매체에 대한 27쪽의 연구문서를 통해서 밝혀졌는데, 흥미롭게도 독일에서는 그렇지 않았다. 이 글은 Guardian의 10월 22일 자 기사 Twitter admits bias in algorithm ..

필자 주: 가짜 뉴스 혹은 포스트 진리 시대의 진정한 위기는 지식과 정보의 위기, 즉 인식론적 위기(epistemic security)다. 정보 역병이란 인포데믹(infodemic)의 일상 속에서 인간의 미디어 해독력은 급격히 해체되고 있다. 이 글은 잘못된 정보와 한국의 낮은 미디어 해독력을 분석한다. 첫 번째 글에서는 잘못된 정보의 문제와 종류, 그리고 그 기원을 다루며, 두 번째 글에서는 한국의 미디어 해독력 수준과 대응을 다룬다. 필자 주: 가짜 뉴스 혹은 포스트 진리 시대의 진정한 위기는 지식과 정보의 위기, 즉 인식론적 위기(epistemic security)다. 정보 역병이란 인포데믹(infodemic)의 일상 속에서 인간의 미디어 해독력은 급격히 해체되고 있다. 이 글은 잘못된 정보와 한국..

필자 주: 가짜 뉴스 혹은 포스트 진리 시대의 진정한 위기는 지식과 정보의 위기, 즉 인식론적 위기(epistemic security)다. 정보 역병이란 인포데믹(infodemic)의 일상 속에서 인간의 미디어 해독력은 급격히 해체되고 있다. 이 글은 잘못된 정보와 한국의 낮은 미디어 해독력을 분석한다. 첫 번째 글에서는 잘못된 정보의 문제와 종류, 그리고 그 기원을 다루며, 두 번째 글에서는 한국의 미디어 해독력 수준과 대응을 다룬다. 가짜뉴스 시대의 '인식론적 안보'(epistemic security) 위기 객관적 팩트와 고의적 허위 정보(disinformation)/잘못된 정보(misinformation) 사이의 경계가 허물어진 소위 포스트 진리 시대의 진정한 위기는 '국가 안보'나 '사이버 안보'..