GPT 같은 LLM을 정보 탐색에 쓰는 것이 효율적일 수 있어도 지성을 훈련시키는 경험을 갉아먹는다는 문제 제기.
2026년 1월 30일
GPT, 혹은 일반적으로 LLM을 무엇에든1 사용하는 것에 대한 내 문제의식은 이렇다. LLM이 그것을 ‘효과적으로’ 해낼 수 있더라도 말이다. 여기서는 예시로 정보를 찾는 일을 구체적으로 말해보겠다. 그리고 다음 시나리오를 가정하자. Google에서 “I’m feeling Lucky” 버튼을 써본 적 있는가? 이 버튼은 보통 검색 결과를 보여주지 않고 검색의 첫 번째 결과로 바로 보내준다. 자, 당신이 완벽한 세계에 살고 있어서, 당신이 지금까지 해온 모든 Google 검색에서 이 버튼을 눌렀고, 그 결과가 당신이 찾던 것에 대해 극도로, 극도로, 정밀하고 효율적으로 완벽한 정답을 찾아줬다고 가정하자. 즉, 당신이 인생에서 해온 모든 검색이 첫 번째 클릭으로 성공했던 것이다.
그런 세계에서, 당신이 실제로 제대로 조사하고, 괴짜들을 만나고, 문화와 논쟁과 농담들을 접하고, 흥미로운 글을 써서 당신이 따라가게 된 사람들을 만나고, 동의하지는 않지만 쉽게 일축할 수도 없었던 주장들을 마주하고, 어디로도 가는 것 같으면서 동시에 어디로든 이어지는 각주들을 따라가고, 반쯤 망가진 블로그들을 헤매고, 당신 자신의 견해를 날카롭게 만들도록 강요하는 엉성한 주장들을 보고, 서로 너무 강하게 모순되어 그 긴장을 견디려면 세계에 대한 모델을 세워야만 했던 자료들을 겪었을 때와 같은 정도로 지성이 성장했을까?
아마 아닐 것이다.
빠지는 것은 정보가 아니라 경험이기 때문이다. 그리고 경험이야말로 지성이 실제로 훈련되는 곳이다.
“I’m Feeling Lucky”식 지능은 ‘되어감’이 아니라 ‘도착’에 최적화되어 있다. 답은 얻지만 그 밖에는 아무것도 얻지 못한다(우리는 답이 좋은 답이라고 가정하고 있다는 점을 기억하라). 아이디어가 어떻게 싸우고, 변이하고, 죽는지를 배우지 못한다. 형식적으로 증명하기 전에도 뭔가가 이상하다는 것을 느끼는 인식론적 후각이나 감각을 발달시키지 못한다.
이제 현실로 돌아오면, LLM은 결코 그렇게 좋지 않다. 저 가상의 “I’m feeling lucky”에는 근처에도 못 간다. 그리고 이는 그것들이 근본적으로 설계된 방식과 관련이 있다. 나는 지금까지 GPT에 내가 전문으로 하는 것을 물었을 때, 그 분야에서 나만큼 전문가인 사람이 줄 법한 수준의 충분한 답을 받은 적이 없다. 사람들은 GPT(및 다른 LLM들)가 아주 잘하고 있다고 생각하는 경향이 있지만, 그건 대개 그들 자신이 그다지 잘 이해하지 못하는 것들에 대해서만 그렇다(Gell-Mann Amnesia2). 자신감 있게 들리더라도, 그것은 근사하거나 평균내거나 과장하거나(Peters 2025) 지나치게 확신에 차서(Sun 2025) 실수를 그대로 재생산하고 있을 수 있다. 그것이 내놓는 답이 최선의 답인지, 논쟁 중인 답인지, 심지어 정답인지에 대한 보장은 전혀 없다. 그저 그럴듯한 답일 뿐이다. 그리고 이 구분은 중요하다. 지성은 그럴듯함 위에 세워지는 것이 아니라, 무엇이 왜 틀릴 수 있는지, 누가 그것에 반대하는지, 어떤 가정이 은밀히 끼워 넣어졌는지, 그리고 그 가정이 실패할 때 무엇이 무너지는지를 이해하는 위에 세워지기 때문이다.
도구는 효율적일 수 있으면서도 동시에 지적으로 부식적일 수 있다. 그것이 항상 거짓말을 해서가 아니라, 충분히 그럴듯하게 거짓말을 하기 때문이다. 매끈함은 불확실성을 숨기며, 지성의 부패를 원하지 않는 한 그 불확실성은 중요하다. #Modus Vivendi #LLMs
아마 예외로 멍청한 작업들, 즉 반복적이고 쉽게 자동화 가능한 절차들을 덧붙여야 할지도 모르겠다. LLM 시대 이전이라면 그런 것들은 Emacs 매크로를 만들어 처리했을 일들이다.
“간단히 말하면, Gell-Mann Amnesia 효과는 다음과 같다. 당신이 잘 아는 주제에 관한 기사를 읽으려고 신문을 펼친다. Murray의 경우는 물리학. 내 경우는 쇼 비즈니스. 기사를 읽어보면 기자가 사실도 쟁점도 전혀 이해하지 못하고 있음을 알게 된다. 종종 기사는 너무 틀려서 이야기를 거꾸로 제시하기까지 한다—원인과 결과를 뒤집어버리는 것이다. 나는 이런 것들을 ‘젖은 거리들이 비를 만든다’ 이야기라고 부른다. 신문은 그런 것들로 가득하다. 어쨌든, 당신은 한 기사 안의 수많은 오류를 분노하거나 웃으면서 읽고는, 페이지를 넘겨 국내 혹은 국제 문제를 읽으며, 방금 읽은 허튼소리보다 신문의 나머지가 팔레스타인 문제에 대해 somehow 더 정확하다고 생각하며 읽는다. 페이지를 넘기고, 당신이 알고 있던 것을 잊어버린다.” - Michael Crichton.
다음에서 참조됨: Favorites; 다음으로 이어짐: Modus Vivendi
이것은 임의로 고른 이미지로, 내부적으로 해시되어 이 페이지에 매핑되어 있다. 내 웹사이트에 있는 동안에는 이 이미지를 보게 될 것이다. hash: b582cd88… → idx 24/132
다음에서 참조됨: Favorites; 다음으로 이어짐: Modus Vivendi
© 2026 lr0
분노도 편견도 없이
교육적 사용을 위해 콘텐츠를 자유롭게 이용 가능
