[슬라보예 지젝] 인공 바보: 인간의 언어가 가진 뉘앙스, 아이러니, 빈정거림을 이해하지 못하는 챗봇, ChatGPT

ChatGPT에 대한 세계적 지성들의 관심이 뜨겁다. 얼마 전 변형생성문법의 창시자인 언어학의 대가 노암 촘스키는 ChatGPT가 인과적 추론과 도덕적 판단력을 결여하고 있으며 이 인공지능에 기초한 챗봇이 창의력을 발휘할 때 도덕성을 결여할 위험이 크기 때문에 창의성과 적정성 사이에서 균형을 잡을 수 없다고 비판했다. 그래서 인공지능 챗봇이 인간의 지능을 대체하고 뛰어넘는 시기는 생각보다 요원하다고 지적했다. 최근에는 저명한 철학자이자 정치(철)학자인 슬라보예 지젝이 인공지능 기반의 챗봇에 대해 비판을 가했다. 이 글은 슬라보예 지젝의 3월 23일 자 Project Sydicate 기고 Artificial Idiocy의 번역으로, 이 글에서 그는 챗봇이 인간의 언어가 가진 아이러니, 빈정거림, 성찰성과 같은 뉘앙스를 알아차릴 수 없으며, 챗봇과의 대화에 의존하게 되면 인간 자체가 챗봇처럼 모든 뉘앙스와 아이러니를 파악하지 못한 채 강박적으로 자신이 말하고 싶은 것만을 내뱉을 위험이 있다고 지적하고 있다.

인공 바보

새로운 챗봇의 문제는 종종 어리석고 순진하다는 데 있지 않다. 인간의 문화와 의사소통을 구성하는 뉘앙스, 아이러니, 드러나는 모순을 포착할 만큼 충분히 "바보"이거나 "순진"하지 않다는 것이다. 설상가상으로, 그것들에 의존함으로써 우리는 같은 둔감함에 굴복할 위험이 있다.

Slavoj Žižek

사진: Frank Rumpenhorst/picture alliance via Getty Images

자연어로 대화를 유지하고, 사용자의 기본 의도를 이해하며, 미리 설정된 규칙과 데이터를 기반으로 응답을 제공할 수 있는 "챗봇"에는 새로운 것이 없다. 그러나 이러한 챗봇의 흡수력은 최근 몇 달 동안 극적으로 증가하여 많은 사람들을 절망고 공포에 빠뜨렸다.

챗봇이 전통적인 학생 에세이의 종말을 예고하는 것에 대해 많은 이야기가 있었다. 그러나 보다 면밀한 주의가 필요한 문제는 인간 대화 상대가 공격적, 성차별적 또는 인종차별적 발언을 사용하여 봇이 그에 대한 응답으로 자신의 상스러운 환상을 제시하도록 유도할 때 챗봇이 어떻게 대응해야 하는가 하는 것이다. 인공지능은 제기되는 질문과 동일한 수준으로 대답하도록 프로그래밍되어야 할까?

만약 우리가 어떤 종류의 규제가 옳다고 결정한다면, 우리는 검열이 어디까지 진행되어야 하는지 결정해야 한다. 일부 집단이 "공격적"이라고 생각하는 정치적 입장은 금지될 것인가? 요르단강 서안 팔레스타인인들과의 연대 표현이나 이스라엘이 인종차별 국가라는 주장(지미 카터 전 미국 대통령이 책 제목에 넣은 적이 있음)은 어떤가? 이것들이 "반유대주의"로 차단될까?

문제는 거기서 끝나지 않는다. 예술가이자 작가인 제임스 브라이들(James Bridle)이 경고했듯이, 새로운 인공지능(AI)은 "기존 문화의 전유에 기반을 두고 있으며" 그들이 "실제로 지식이 있거나 의미가 있다"는 믿음은 매우 위험하다. 따라서, 우리는 또한 새로운 AI 이미지 생성기를 매우 경계해야 한다.

“인간 시각 문화 전체를 이해하고 복제하려는 시도에서 [그들은] 우리의 가장 어두운 두려움도 재현한 것 같습니다. 아마도 이것은 이러한 시스템이 존재 깊숙한 곳에 도사리고 있는 공포, 즉 타락, 죽음, 부패에 대한 두려움에 이르기까지 인간의 의식을 정말 잘 모방한다는 신호일 뿐입니다.”라고 브라이들은 관찰한다.

하지만 새로운 인공지능이 인간의 의식에 근접하는 데 얼마나 능숙할까? 최근에 "두 잔 가격으로 맥주 한 잔을 사면 두 번째 잔을 무료로 받을 수 있습니다!"라는 문구가 적힌 음료 스페셜을 광고한 술집을 생각해 보자. 누구에게나, 이것은 분명히 농담이다. 고전적인 "한 개 구매 시 하나 무료" 특별 행사는 스스로 상쇄되도록 재구성된다. 이것은 모두 판매를 촉진하기 위해 코믹한 정직함으로 인식될 냉소주의의 표현이다. 챗봇이 이 중 하나라도 인식할 수 있을까?

"엿"(Fuck)도 비슷한 문제를 제기한다. 비록 그것은 대부분의 사람들이 즐겨하는 것(성교)을 지칭하지만, 그것은 또한 종종 부정적인 가치("우리는 망했어!"[We’re fucked!], "가서 엿이나 드셔!"[Go fuck yourself!])를 획득한다  언어와 현실은 어지럽다. AI는 그러한 차이를 식별할 준비가 되어 있을까?

독일 시인 하인리히 폰 클라이스트( Heinrich von Kleist)는 그의 1805년 에세이 "말하는 과정에서 사고의 점진적 형성에 대해"(On the gradual formation of thoughts in the process of speech, 1878년 사후에 처음 출판됨)에서, 무엇을 말해야 할지에 대한 명확한 생각이 없다면 말하기 위해 입을 벌려서는 안 된다는 일반적인 지혜를 뒤집는다. “그러므로 어떤 사고가 모호한 방식으로 표현되더라도 이 사고가 혼란스러운 방식으로 생각되었다는 결과는 전혀 따르지 않는다. 반대로 가장 혼란스러운 방식으로 표현된 아이디어가 가장 명확하게 사고된 아이디어일 가능성이 크다.”

언어와 사고 사이의 관계는 매우 복잡하다. 1930년대 초 스탈린의 연설 중 한 구절에서, 그는 "단지 그들의 사고 속에서만 집단화에 반대하는 사람들조차 가차 없이 발견하고 싸우는, 그렇다 나는 우리가 사람들의 사고조차도 싸워야 한다는 것이다." 이 구절은 미리 준비하지 않은 것으로 짐작할 수 있다. 그 순간에 사로잡힌 스탈린은 그가 방금 한 말을 곧 알아차리게 되었다. 하지만 뒷걸음질을 치는 대신, 그는 과장법을 고수하기로 결심했다.

자크 라캉이 훗날 말했듯이 이것은 언표 행위를 통해 기습적으로 드러나는 진실의 사례였다. 루이 알튀세르(Louis Althuser)는 파악(prise)과 놀라움(surprise) 사이의 상호 작용에서 유사한 현상을 확인했다. 갑자기 어떤 생각을 이해한(prise) 사람은 그녀가 성취한 것에 놀랄 것이다. 다시 말하지만, 챗봇이라면 이것을 할 수 있을까?

문제는 챗봇이 멍청하다는 것이 아니라 충분히 "바보"스럽지 않다는 것이다. 그들이 순진하다는 것(아이러니와 성찰을 놓치는 것)이 아니라, 충분히 순진하지 않다는 것(순진함이 명민함을 가릴 때 놓치는 것)이다. 그렇다면, 진짜 위험은 사람들이 챗봇을 실제 사람으로 착각하는 것이 아니라, 챗봇과 소통하는 것이 실제 사람들이 챗봇처럼 말하도록 만드는 것이다. 즉, 모든 뉘앙스와 아이러니를 놓치고, 강박적으로 자신이 말하고 싶다고 생각하는 것만 말하는 것이다. 

내가 어렸을 때, 한 친구가 충격적인 경험을 한 후에 정신분석학자에게 치료를 받으러 갔다. 그러한 분석가들이 환자들에게 기대하는 바에 대한 이 친구의 생각은 진부한 것이었기 때문에 그는 자신이 아버지를 얼마나 미워하고 그가 죽기를 원했는지에 대한 가짜 "자유 연상"을 전달하는 데 첫 번째 세션을 보냈다. 분석가의 반응은 기발했다. 그는 순진한 "전 프로이트적"(pre-Freudian) 입장을 채택했고 아버지를 존중하지 않는 내 친구를 비난했다("어떻게 당신은 당신을 만든 사람에 대해 그렇게 말할 수 있지요?"). 이 가식적인 순진함은 명확한 메시지를 보냈다. 나는 너의 가짜 "연상"을 믿지 않는다. 챗봇은 이 하위 텍스트를 인식할 수 있을까?

아마도 그렇지 않을 것이다. 왜냐하면 그것은 도스토옙스키의 '백치'(The Idiot)에 나오는 미시킨 왕자(Prince Myshkin)에 대한 로완 윌리엄스(Rowan Williams)의 해석과 같기 때문이다. 표준적 독해에 따르면, "백치"인 미시킨은 현실 세계의 가혹한 잔인함과 열정에 의해 고립된 광기에 내몰리는 성인적이고 "긍정적으로 착하고 아름다운 남자"다. 그러나 윌리엄스의 급진적인 재독해에서 미시킨은 폭풍의 눈을 나타낸다. 비록 그가 선하고 성자일지라도, 그는 그를 둘러싼 복잡한 관계 네트워크에서 그의 역할 때문에 그가 목격하는 혼란과 죽음을 촉발하는 사람이다.

그것은 미시킨이 순진한 얼간이라는 것만은 아니다. 그것은 그의 특별한 종류의 둔감함은 그로 하여금 그가 다른 사람들에게 미치는 재앙적인 영향을 인식하지 못하게 만든다는 것이다. 그는 말 그대로 챗봇처럼 말하는 평평한 사람이다. 그의 "선함"은 챗봇처럼 도전에 아이러니 없이 반응하고, 어떤 반사성도 없는 진부한 말을 제공하고, 모든 것을 문자 그대로 받아들이고, 진정한 아이디어 형성보다는 정신적 자동 완성에 의존한다는 사실에 있다. 이러한 이유로, 새로운 챗봇은 오늘날 "우오크"(woke)* 군중에서부터 잠자기를 선호하는 "마가"(MAGA)** 민족주의자에 이르기까지 모든 계층의 이념과 매우 잘 어울릴 것이다.

* 역자 주: 우오크(woke)는 wake의 과거분사이지만 흑인 구어 영어(African American Vernacular English, AAVE)에서 유래한 인종적 편견과 차별에 대한 경고를 뜻하는 형용사이다. 원래 '깨어 있으라'(stay woke)라는 1930년대 AAVE의 구절로 등장했다고 알려져 있다. 2010년대 이후 성차별 등 사회적 불평등에 관한 폭넓은 개념이 포함되면서 백인 특권과 아프리카계 미국인에 대한 노예제 배상 등 미국 내 정체성 정치와 사회 정의를 포함한 좌파 이념의 표상처럼 사용되어 왔다. 특히 이 용어는 2014년 미주리 주 퍼거슨에서 경찰의 18세의 마이클 브라운(Michael Brown)에 대한 다발 총격 사살 사건으로 법집행 기관의 인종적 과잉 폭력이 부각되자 흑인 생명도 소중하다(Black lives matter, BLM) 활동가들에 의해 확산되었다. 이 용어는 "원래는 '잘 알고 있는', '최신의'의 의미이며 이제는 주로 인종적 또는 사회적 차별과 불의를 경고"하는 것을 의미하는 형용사로 2016년 옥스퍼드 영어사전에 추가되었다. 

** 역자 주: 마가(MAGA)는 "미국을 다시 위대하게"(Make America Great Again)라는 구호의 약자이다. 이 구호는 원래 로널드 레이건의 1980년 대선 구호지만, 트럼프가 대선에서 다시 차용한 구호이다. 마가는 트럼프 지지자, 음모론자, 우파포퓰리스트를 상징하는 용어이다.