케냐에서 영어를 배워 글을 쓰는 방식이 왜 AI 글쓰기처럼 오해받는지, 식민 유산과 교육 시스템, 그리고 AI 탐지기의 편향까지 엮어 풀어낸 에세이.
이 대화가 계속 반복된다. 그리고… 그래. 그래. 결국 나를 폭발시키게 만든 글이 바로 이것이다.
댓글들은 아주 중요한 지점을 짚었다. 이 논쟁을 더더욱 열받게 만드는 결정적 지점: 우리 중 일부는 실제로 영어를 배워야만 했다는 사실.
설명해 보겠다.
첫 번째 사건—어쩌면 앞으로 벌어질 일들의 징조로 받아들였어야 했을지도 모르는 사건—은 올해 초였다. 나는 며칠 동안 공들여 쓴 제안서에 대한 답장을 받았다.
“정말 탄탄한 베이스인데, 좀 더 인간적인 터치로 다시 써줄 수 있을까요? 약간 ChatGPT가 쓴 것처럼 들려요.”
인간적인 터치. 인간적인 터치. 인간적인 터치라… 이 자식아, 내가 인간적인 터치를 보여주지—
미안. 그때 잠깐 침투 사고가 튀어나왔다. 돌아왔다, 돌아왔다.
요점은 이거다. 이런 반응을 받는 작가들이 점점 늘고 있고, 그리고—내 관찰에 따르면—여기엔 꽤 어둡고 교활한 기울기가 있다. 잠깐만 따라와라. 곧 그 얘기로 돌아오겠다.
아이러니의 일부는 조상들이라면 킥킥 웃었을 법한 종류다. 왜냐하면 고발자는 그 나름대로 완전히 틀린 말은 아니었기 때문이다. 내 글은 대형 언어 모델의 출력과 어느 정도 DNA를 공유한다. 우리 둘 다 구조화되고 균형 잡힌 문장을 선호하는 경향이 있다. 논리적 흐름에 의심이 생기지 않도록 전환구를 좋아한다. 그리고 관련된 생각을 마침표 하나로 끊기보다 조금 더 우아하게 잇기 위해, 때로는(이제는 apparently 유죄 증거가 되어버린) 하이픈이나 세미콜론이나 대시를 동원하기도 한다.
좀 더 차분해지고 나서는, 나는 조금 더 너그러워졌다. 그들의 판단에서의 오류는 ‘무엇’이 아니라 ‘왜’에 있었다. 그들은 기원 서사를 착각했다.
나는 작가다. 그리고 우연히 케냐인이기도 한 작가다. 그래서 나는 이런 논제에 도달했다: 나는 ChatGPT처럼 쓰지 않는다. ChatGPT가, 그 기묘하고 비물질적이며 전 세계에서 긁어모은 방식으로, 나처럼 쓴다. 아니 더 정확히 말하면, 우리 중 아주 특정한 교육·사회적 파이프라인을 통과하도록 밀려 넣어진 수백만 명처럼 쓴다. 모호함을 사포로 문질러 깎아내고, 우리의 생각을 아주 특정하고 아주 격식적이며 아주 ‘인상적인’ 모양으로 단조해 내도록 의도적으로 설계된 파이프라인 말이다.
자칭 AI 탐정들의 커져가는 공동체(사이비 집단?)가 있다. 그들은 자신들이 ‘징후’라고 여기는 것을 설계하고 상세히 나열했으며, 추종자들에게 로봇스러운 징후 체크리스트를 쥐여주었다. 글에 ‘furthermore’, ‘moreover’, ‘consequently’, ‘otherwise’, ‘thusly’ 같은 단어가 있나? “X일 뿐만 아니라 Y이기도 하다(It is not only X, but also Y)” 같은 완벽한 병렬 구조로 논지를 세우나? 핵심을 깔끔하고 논리적인 세 개의 항목으로 정리해 수사적 효과를 극대화하나?
디지털 비진정성의 탐정들에게 나는 이렇게 말하고 싶다: 친구여, 케냐의 교실, 회의실, 혹은 사내 Teams 채팅에서 흔한 화요일에 온 걸 환영한다. 네가 기계의 지문이라고 지목한 바로 그 것들이 사실은 우리 교육의 화석 기록이다.
내 문체의 기반은 실리콘밸리에서 프로그래밍된 것이 아니다. 그것은 케냐 초등교육 수료시험(Kenya Certificate of Primary Education, KCPE)이라는 고압 도가니에서 단련되었다. 우리 세대, 그리고 그 뒤를 이은 세대에게 영어 작문(English Composition) 시험지—그리고 그에 대응하는 키스와힐리어 작문인 Insha—는 단순한 시험이 아니었다. 그것은 통과의례였다. 인생이 걸린, 성패가 갈리는 순간으로 부풀려진 의식이었다. 40분짜리, 고위험 스프린트. 풍부한 어휘와 세련된 문장 구조를 엄청나게 숨 막히는 압박 속에서 꺼내 쓸 수 있느냐에 따라, 좋은 국립 고등학교 진학이, 그리고 더 나아가 인생의 궤도가 꺾일 수도 있었다.
그리고 그 한 순간은 예외가 아니었다. 그 전 3년(더 오래라고 주장할 수도 있다) 동안의 모든 영어 수업과 모든 숙제는, 네 작문을 채점하는 선생님이 너에게 40점 만점에 최대한 가까운 점수를 주도록 만드는 데 맞춰 설계되어 있었다. 38/40을 받았다고? 사랑하는 자여, 채점자가 너를 Malkiat Singh와 같은 공기를 마셔도 될 자격이 있다고 판단한 것이다.
지우기 어려운 기억이 있다. 교사가 칠판에 둥글고 흠잡을 데 없는 필기체로 적어 놓은 주제: “절대 잊지 못할 휴가(A holiday I will never forget).” 혹은 글의 끝을 반드시 “…그리고 그때 나는 잠에서 깼고, 그 모든 것이 꿈이었다는 것을 깨달았다.”로 끝내야 하는 류의 주제였을 수도 있다. 주제는 거의 중요하지 않았다. 진짜 시험은 ‘실행’이었다.
말로 하지 않아도 전해지는 규칙들, 교사에서 학생으로, 해마다 전수되는 계명들이 있었다. 첫 번째 계명? 속담이나 강렬한 첫 문장으로 시작하라. 우리는 “서두르면 일을 그르친다(Haste makes waste)”라고 쓴 뒤, 시장에 급히 가다 돈을 두고 온 이야기로 돌입하곤 했다. 두 번째? 폭넓은 어휘력을 보여라. 너는 그냥 ‘걷지’ 않는다. 너는 ‘의도적으로 성큼성큼 걷고(strode purposefully)’, ‘지친 채 터벅터벅 걷거나(trudged wearily)’, ‘무심하게 어슬렁거린다(ambled nonchalantly)’. 너는 무언가를 그냥 ‘보지’ 않는다. 너는 ‘장대한 광경을 목도한다(beheld a magnificent spectacle)’. 우리 공책은 이런 “와우 단어(wow words)” 목록으로 가득했고, 그 동의어·반의어를 구구단처럼 외웠다.
세 번째, 어쩌면 가장 중요한 계명은 구조였다. 에세이는 완벽한 건축물이어야 했다. 서론은 기초, 본문은 벽, 결론은 지붕. 결론은 교훈을 깔끔히 요약하고, 똑똑하다면 서두의 속담으로 다시 돌아가 만족스럽고(예측 가능한) 고리를 만들어야 했다. 우리는 강한 주제문을 중심으로 문단을 짜는 법을 배웠다. 우리는 문장 파편의 죄악과, 복합-복문(compound-complex sentence)의 미덕을 배웠다. 페이지 위로 판단을 피처럼 흘리는 빨간 펜으로 무장한 선생님들은 우리의 ‘원조 알고리즘’이었다. 특정한 ‘좋은 글쓰기’ 모델로 우리를 훈련시켰다. 수업 시간에 큰 소리로 읽히던 모범 작문—과거 학생들의 완벽한 에세이—은 우리의 학습 데이터였다.
그리고 이런 문화는 고등학교로 이어진다. 지정 도서는 암기해야 하고, 어떤 주장에 찬성/반대하는 논증은 영어 문학 과목의 합격선을 넘기 위해 정교하게 펼쳐야 한다. 시험 직전 밤중에 깨워도 셰익스피어를 줄줄 외울 수 있을 정도다.
물론 이 문체에는 역사가 있다. 마이크로칩보다 훨씬 오래된 역사: 영국 제국의 직접적인 언어적 후손이다. 우리가 배운 영어는 현대 런던이나 캘리포니아의 유동적이고 진화하는 언어—슬랭과 편리한 약어로 가득한 언어—가 아니었다. 그것은 여왕의 영어(Queen's English)였다. 식민 행정관, 선교사, 교장 선생의 언어. 성경의 언어, 셰익스피어의 언어, 법의 언어. 그것은 권력의 도구였고, 우리는 그것을 정밀하게 휘두르도록 배웠다. 격식 있는 운율, 약간 고풍스러운 어휘, कठ(딱딱)한 문법 구조를 마스터하는 것은 단지 시험을 통과하기 위한 일이 아니었다. 그것은 신호였다. 네가 교육받았고, 문명화되었고, 질서 속에서 네 자리를 차지할 준비가 되었음을 증명하는 표시였다.
(저항하려 했는데 못 참겠다. 아마 이미 눈치챘을지도: ‘셋’의 리듬 말이다.)
독립 이후의 케냐에서 이 언어는 사라지지 않았다. 기능만 바뀌었다. 그것은 공식 언어, 기회의 언어, 계급과 세련됨을 가르는 새로운 표지가 되었다. 당시의 Charles Njonjo와 Tom Mboya 같은 인물들은 그것으로 사회적 지위를 각인했다. 이 격식 있고 “올바른” 영어를 말하고 쓸 수 있는 능력은 가진 자와 못 가진 자를 갈랐다. 그것은 대학으로, 기업 일자리로, 마을 너머의 삶으로 가는 문을 여는 열쇠였다. 그래서 교육 시스템은 그것을 가르치는 데 더더욱 힘을 쏟았고, 박물관 유물처럼 거의 완벽한 상태로 보존했다.
그리고 바로 거기에, 이 길고 역사적인 농담의 펀치라인이 있다. “AI”, 즉 대형 언어 모델은 압도적으로 격식적인 방대한 텍스트 말뭉치로 훈련된다. 지난 2세기 동안 출판된 책들에서 배우고, 학술 논문에서 배우고, 백과사전에서 배우고, 법률 문서에서 배우고, 구조화된 인간 지식의 전체 아카이브에서 배운다. 그리고 문법적 정밀성과 논리적 구조를 지능과 권위에 연결해 학습한다.
권위 있게 들리려는 기계는 결국 영어 작문에서 ‘A’를 받은 KCPE 졸업생처럼 들리게 되었다. 그것은 우연히 대영제국의 언어적 유령을 복제해 버린 것이다.
이제 세상은, 새롭고 심각하게 결함 있는 기술적 렌즈를 통해, 우리의 매우 인간적이고 매우 아날로그적인 훈련의 결과물을 보고 ‘인공적’이라 부른다. 그 모욕은 그걸 강제하는 도구들 때문에 더 날카로워진다. 소위 AI 탐지기는 진실의 중립적 심판자가 아니다. 그것들 자체가 특정 문화적·기술적 세계관의 산물이다.
내가 이해하기로, 이 탐지기들은 종종 두 가지 핵심을 측정한다: ‘perplexity(퍼플렉서티)’와 ‘burstiness(버스티니스)’. 퍼플렉서티는 텍스트가 얼마나 예측 가능한지를 잰다. 내가 “고양이가 … 위에 앉았다(The cat sat on the …)”라고 시작하면, 너의 뇌와 AI는 “바닥(floor)” 같은 단어를 예측할 것이다. 이런 예측 가능한 표현으로 가득한 텍스트는 퍼플렉서티가 낮고 “로봇 같다”고 판정된다. 버스티니스는 문장 길이와 구조의 변화를 잰다. 자연스러운 인간의 말과 글은 ‘버스티’하다고 여겨진다—짧고 날카로운 문장 다음에 길고 샛길로 새는 문장이 오고, 다시 짧은 문장이 오는 식이다. 적어도 초기 형태의 LLM은 문장 길이가 더 균일한, 단조로운 리듬으로 쓰는 경향이 있어 이런 인간적 버스티니스가 부족했다.
이제 우리의 ‘훈련’을 다시 생각해 보자. 우리는 명료하고 논리적이며, 어떤 의미에서 예측 가능하도록 배웠다. 문장 구조는 일관되고 균형 잡히도록 요구됐다. 우리는 탐지기들이 이제 ‘인간성의 증거’로 찾는 바로 그 “버스티니스”를 피하라고 명시적으로 배웠다. 좋은 작문은 매끄럽게 흐르고, 각 문장이 흠잡을 데 없는 논리로 앞 문장 위에 쌓여야 했다. 우리는 사실상 낮은 퍼플렉서티와 낮은 버스티니스를 내는 텍스트를 생산하도록 훈련되었다. 우리는 이 도구들이 비인간적이라고 표시하도록 설계된 바로 그 방식으로 쓰도록 훈련된 것이다. 편향은 버그가 아니다. 시스템 전체가 그렇다.
최근 학술 연구들은 이를 확인했다. 이 도구들이 신뢰할 수 없을 뿐 아니라, 비원어민 영어 화자의 글을 AI 생성으로 표시할 가능성이 유의미하게 더 높다는 것이다. (그리고, 그래, 이 얘기로 다시 돌아올 거다.) 아이러니는 미칠 노릇이다. 평생 한 언어를 마스터하려 애쓰고, 대부분의 원어민보다 더 부지런히 격식 규칙을 지켰는데, 그 대가로 바다 건너서 만들어진 기계가 너를 가짜라고 부른다.
그렇다면, 네가 내 글을 읽을 때—우리의 글을 볼 때—너는 정말 무엇을 보고 있는가? 로봇의 영혼 없는 산문인가? 아니면 초등 8학년 영어 선생님 Amollo 부인, 그 목소리가 우리 머릿속에서 울리는 모습을 보고 있는가—지나간 시대의 짧고 정확한 억양으로 말하던 목소리, 문단과 문단을 적절한 연결구로 이어 붙이라고 상기시키던 목소리? 알고리즘의 출력인가, 아니면 천 편의 손글씨 에세이가 근육 기억이 될 때까지 반복 훈련된 결과인가?
무엇이 글을 “인간적”으로 만드는가 하는 질문은 위험할 정도로 좁아졌다. 창작자의 암묵적 편향을 실은 알고리즘이 이를 단속한다. 만약 인간성이 이제, 대충 들어간 실수들, 미국 중심의 구어 표현, 그리고 어떤 비격식적이고 대화적인 리듬의 존재로 정의된다면, 그렇다면 우리 나머지는 어디에 서야 하나? 라고스의 작가, 뭄바이의 작가, 킹스턴의 작가, 여기 나이로비의 작가—정밀함이 언어와 독자에 대한 최고의 존중이라고 배운 작가는 어디로 가야 하나?
이것은 오래된 싸움의 새로운 전선이다. 보이고자 하는 싸움, 이해받고자 하는 싸움, 다른 이들에게는 너무 쉽게 부여되는 ‘인간성의 추정’을 똑같이 인정받고자 하는 싸움. 내 글은 기계의 산물이 아니다. 그것은 내 역사의 산물이다. 식민 유산의 메아리이며, 엄격한 교육의 결과이며, 내 나라의 공식 언어를 마스터하기 위해 필요한 노력의 증거다.
네가 손가락질하며 “AI!”라고 외치기 전에, 나는 네가 잠시 멈추길 바란다. 네가 보고 있는 것이 인간성의 결핍이 아니라, 네가 인식하도록 훈련받지 못한 한 형태의 인간성일 가능성을 생각해 보라. 너는 다른 교육, 다른 역사, 다른 기준의 결과물을 보고 있을지도 모른다.
어쩌면 너는 그저, 글을 쓰는 케냐인을 보고 있을 뿐이다. 그리고 우리는 아주 오래전부터 이렇게 해 왔다.
