[ChatGPT 너머 보기 1] ChatGPT 자체가 아니라 교육의 상품화가 학생들을 표절로 몰아 간다.

책, 대화, 웹 기사의 형태로 수천억 단어를 공급받으며, 통계적인 확률에 기초한 단어와 문장의 모델을 구축하는 대규모 언어모델(large language model, LLM)로 알려진 AI 챗봇 ChatGPT는 최근 학생들의 표절 혹은 부정행위의 문제로 주목받고 있다. 때론 질문에 매우 훌륭한 대답을 내놓기도 하지만 때론 거짓과 진실에 관심이 없는 ChatGPT는 맥락과 맞지 않는 헛소리를 자신 있게 들이밀기도 한다. ChatGPT는 현재로서는 표절 혹은 부정행위, 저작권 그리고 멀리 창의적이고 지식기반 일자리 위협의 문제를 제기하고 있다. 그러나 이러한 문제에 주목하다 보면 ChatGPT의 이면을 보기 힘들다. ChatGPT에 대한 무조건적인 칭송과 비난을 넘어 그 이면을 들여다보기 위해 2개의 기사를 소개한다. 하나는 학생들이 ChatGPT를 사용하도록 '강요'하는 대학교육의 상품화이며, 다른 하나는 ChatGPT와 같은 디지털 AI의 이면에 숨겨진 노동력 착취이다. 첫째 학생들이 ChatGPT를 사용하는 이유는 글쓰기 혹은 창작행위가 이전만큼의 가치가 없기 때문이다. 불확실성의 시대에 조금 안정적인 미래와 일자리를 추구하는 것에 모든 교육이 맞추어져 있을 때 오랜 시간을 투여해야 하는 글쓰기는 확실히 학생들에게 메리트가 떨어진다. 글쓰기는 개인적인 작업이지만 그 과정은 창의적 사고, 문헌 검색과 독서, 창작과정 등 복합적이며 집합적인 과정이다. 상품화된 대학교육은 이러한 창의적 글쓰기를 학생들에게 소모적인 과정으로 보이게 만들며, 따라서 그들이 지름길인 ChatGPT로 고개를 돌리는 것은 어쩌면 필연적이다. 둘째 ChatGPT와 같은 LLM을 만들기 위해서는 그 뒤에 콘텐츠의 수집에서부터 부적절한 콘텐츠를 걸러내는 콘텐츠 조정이 필요하며 이는 엄청한 노동력을 필요로 한다. 소위 선진국의 이러한 디지털 산업은 그 엄청난 노동을 소위 후진국에 값싼 노동으로 아웃소싱한다. 하지만 수많은 비속어와 혐오 콘텐츠를 걸러내는 콘텐츠 조정작업은 그 작업자에게 엄청난 스트레스를 야기하며, 이들이 외상 후 스트레스 장애(post-traumatic stress disorder, PTSD)를 겪는 것은 쉽게 예상가능하다. 여기서는 우선 대학교육의 상품화가 어떻게 학생들이 ChatGPT로 고개를 돌리게 만들었는가에 대해 소개한다. 이 글은 작가  Jordan S. Carroll의 The Nation 1월 20일 자 기고 Don’t Blame Students for Using ChatGPT to Cheat의 번역으로 ChatGPT가 드러낸 대학교육 문제점의 본질에 대해 분석하고 있다. ChatGPT와 같은 디지털 혁신이 어떻게 소위 후진국의 노동력 착취와 연결되어 있는 가에 대해서는 다음 글 [ChatGPT 너머 보기 2]를 읽어 보길 바란다.

부정행위를 하기 위해 ChatGPT를 사용하는 학생들을 비난하지 마라

대학 교육이 거래화될 때, 문제를 해결하기 위해 기술적인 도구를 사용하도록 훈련된 세대는 단지 시키는 대로 하는 것이다.

Jordan S. Carroll

핵융합 질문에 대한 ChatGPT의 대답. 사진: Shutterstock

최근의 고등교육 담론은 사용자 프롬프트에 대해 항상 정확한 것은 아니지만 유창한 응답을 제공하는 OpenAI가 개발한 무료 챗봇인 ChatGPT에 대한 우려로 가득 차 있다. 때때로 매우 그럴듯하고 세련된 답변을 제공한다는 일화적인 보고서가 있지만 ChatGPT는 여전히 명백한 한계를 보여주고 일반적으로 학문적 연구 및 인용 기준을 충족하는 완벽하게 일관되거나 정확한 산문을 제공하지 못한다. 그러나 기술은 개선되고 있으며 약간의 사실 확인과 수정을 통해 현세대 AI가 생성한 텍스트를 원래 학생 제출물과 유사하게 만들 수 있다. 겨울방학 동안, 많은 교수들은 기존의 표절 검사기를 사용하여 잡을 수 없는 기계로 만든 글의 물결을 예상하면서 그들의 강의계획서를 빠르게 수정했다. 비록 많은 사람들이 인공지능을 방지하는 과제에 대해 썼지만, 몇몇 사람들은 심지어 대학 에세이의 죽음을 선언하기도 했다. 교수진들은 왜 학생들이 이 새로운 표절 기술을 채택하기를 열망할 것이라고 생각하는지에 대해 거의 언급하지 않았다. ChatGPT는 표절 문제를 야기하지 않았다. ChatGPT는 이미 돈을 받고 논문을 쏟아내고 있는 에세이 수필 공장 산업을 자동화하거나 단순화했을 뿐이다. 컴퓨터에 의해 지원되는 표절은 오늘날 교육에서 훨씬 더 큰 문제의 증상일 뿐이다.

학생들은 다양한 이유로 부정행위를 한다. 어떤 표절자들은 필사적이고, 다른 사람들은 혹사당하고, 어떤 학생들은 단순히 규칙을 이해하지 못한다. 그러나 오늘날의 대학의 정치적 또는 경제적 맥락을 전혀 고려하지 않고 표절 문화에 대해 걱정하는 것은 순진한 일이다. 학생들의 계산은 신자유주의적이고 긴축에 의해 손상된 대학의 시대에 논리적이다. 교육은 더 이상 그 자체를 위해 추구할 가치가 있는 목표로 홍보되지 않는다. 만약 중등 교육 이후가 더 나은 직업 선택권을 여는 것이 유일한 목적인 거래 과정이라면, 왜 대충 하면 안 되나? 왜 기회를 최적화하지 않는가? 이제 학부생들이 다른 사람의 작업을 제출하는 것에 대해 덜 가책을 받는 이유는 비밀이 아니다.

대학의 기업화는 교육을 전문적인 훈련의 좁은 형태로 재구성했다. 학생들은 이제 대학이 계급 분류 메커니즘의 역할을 한다는 사실을 예리하게 인식하고 있다. 교육 기관들은 특권을 학문적 가치로 세탁하고, 가족들이 대학에 갈 준비를 하고 엘리트 학교에 보낼 수 있는 자원을 가진 학생들에게 보상한다.

그러나, 계속되는 불확실성 속에서, 그 대학은 더 이상 중산층으로 들어가는 믿을 수 있는 길이 아니다. 학생들은 그들의 학업 성취가 그들의 사회경제적 미래에 어떤 영향을 미칠지에 대해 당연히 걱정한다.

부모에서 정치인에 이르기까지 모든 사람들이 학생들이 예상되는 투자 수익을 기준으로 학습 과정을 선택해야 한다고 주장할 때, 많은 학부생들이 표절을 (종종 비용이 많이 들고 부채를 유발하는) 학교 교육의 그 모든 시간이 성과를 얻도록 보장하기 위한 전략으로 보는 것은 놀라운 일이 아니다.

한편, 등록금이 증가함에 따라, 더 많은 학생들이 그들의 교육비를 지불하기 위해 일자리들을 얻고, 그들은 숙제를 끝낼 시간이 거의 없다. 말콤 해리스(Malcolm Harris)가 제안한 것처럼 그들은 결코 오지 않을 고용 기회에 대비하기 위해 무급 노동을 수행하고 있다는 사실을 어느 정도 깨달아야 한다. ChatGPT는 의심할 여지없이 에세이 작성과 같은 무급 작업에 소요되는 시간을 줄여 임금 노동 및 돌봄 작업과 같은 기타 긴급한 책임에 집중할 수 있도록 하는 노동 절약 장치로 많은 사람들에게 보이는 것이 틀림없다.

여러 면에서 ChatGPT는 학생들이 졸업 후 될 것으로 기대되는 유연 노동 주체처럼 보인다. 자본가 계급은 노동자들이 경제적 격동의 시대에 부족한 일자리를 쫓으면서 브랜드를 바꾸고, 재교육하고, 재배치하도록 강요한다. 챗봇은 이러한 불안정성에 매우 적합하다. 챗봇에 요구되는 스타일, 목소리 또는 의견을 채택할 수 있는 훌륭한 연주자이다. 따라서 의무를 완수하는 데 방해가 될 수 있는 헌신에 의해 방해받지 않는다. 만약 필요하다면, 그것은 말 중간에서 모순을 자처할 것이다. ChatGPT는 이탈리아의 마르크스주의자 파올로 비르노(Paolo Virno)가 고용 상태를 유지하기 위해 스스로를 팔아넘길 수밖에 없었던 포스트포드주의 노동자들에게서 진단한 냉소주의와 기회주의를 구현한다. AI 표절은 자본주의가 그들을 부적절하다고 생각할 때마다 미래의 노동자들이 그들의 신념과 가치를 버릴 준비를 하는 객관적인 교훈이 된다.

이 중 어느 것도 표절을 변명하거나 대학이 편법을 쓰려는 시도를 무시해야 한다고 제안하지 않는다. AI가 가져올 미래를 고려할 때 생각하는 기계에 의존하는 졸업생 집단은 특히 무섭다. 에즈라 클라인(Ezra Klein)이 주장한 것처럼 영리한 챗봇은 곧 "헛소리 비용을 0으로 만들 것"이다. 여기서 클라인은 철학자 해리 G. 프랑크푸르트(Harry G. Frankfurt)에 의해 이론화된 방식으로 이 불경스러운 용어를 사용한다. 즉, 이해 당사자들은 챗봇을 사용하여 대중에게 영향을 미치고 혼란을 주기 위해 진실과 단절된 담론을 무제한으로 만들어 낼 것이다.

이것이 바로 에세이 장르가 학생들이 대면하도록 준비시키는 악몽의 시나리오이다. 글쓰기 수업에서, 우리는 어떤 주제에 대한 좋은 정보의 출처를 찾고, 평가하고, 이해하는 방법을 배운다. 마찬가지로 중요한 것은 학생들이 학문적 탐구를 세계에 대한 우리의 공유된 이해를 향상시키는 데 전념하는 집단 프로젝트로 보게 된다는 것이다. 챗봇은 이런 것들을 하지 않는다. 그것은 진실에 관심이 없고, 그것이 주장하는 주제에 대한 이해도 없다. 그것은 다른 사람들의 말을 듣거나 반응할 수 없다. 이제 적어도 인공지능은 가능성 있는 허풍의 독백만 뱉을 수 있다.

학생들이 글쓰기와 연구에 깊이 파고들지 않는다면, 그들은 인공지능의 그럴듯한 헛소리와 진정한 학문적 대화의 차이를 결코 완전히 이해하지 못할 것이다. 불행히도 일부 교수진은 이미 에세이를 구술 시험과 같은 대체 과제로 대체하여 속이기 어렵게 만들었지만 다른 작가와 지속적인 대화를 시작하는 경험을 복제하지는 못했다.

AI 표절에 대항하는 것은 대학의 법인화가 우선 대학을 AI에 취약하게 만들었기 때문에 어려울 것이다. 교직원들은 오랫동안 다른 대졸자들이 경험한 것과 같은 형태의 비정규화를 겪었다. 대학들은 종종 글쓰기 교육을 직업 안정성이 없는 저임금의 보조자들, 즉 챗봇 표절에 대항할 수 있는 최소한의 지원을 받는 과중한 교수진들에게 맡긴다. 한편, AI 탐지기와 같은 빠른 해결책은 학생과 교사의 관계를 더 적대적으로 만들 뿐이며, 애초에 학생들이 표절하는 것을 막는 데 도움이 되는 신뢰와 호의를 약화시킬 것이다.

AI 표절을 막으려면 학부생이 교육을 본질적인 선으로 여기는 학습 환경을 조성하면서 학생과 교직원 모두의 불안정성을 역전시켜야 한다. 그렇지 않으면 인공 지능이 곧 학문적 무결성과 학문적 탐구를 쓸모없게 만들 것이다.