사람인 척하지만 실제 말은 모두 LLM이 만들어내는 ‘고기 기반 프록시’와 대화할 때 생기는 소외감, 답답함, 그리고 인간적 연결의 상실에 대한 글.
2026년 3월 31일
시간이 지날수록 점점 더 두드러지게 보이는 한 가지가 있다. 고기 기반 LLM 프록시다.
그들은 사람인 것처럼 당신에게 말을 건네지만, 그들이 하는 말은 모두 LLM이 쓴 것이다. 당신이 그들에게 무엇을 말하든, 그들은 그것을 같은 LLM에 넣고 그 응답을 당신에게 보낸다.
사실상, 당신은 고기 프록시를 통해 LLM과 대화하게 된다.
이 경험은 이상하다. 거기에는 붙잡을 수 있는 흔한 인간적 요소가 아무것도 없기 때문이다. 인간과 추론할 수 없다. 추론을 하는 주체가 인간이 아니기 때문이다. 거기에 호소할 수도 없다. 그 뒤에 있는 LLM은 자기 자신과 프록시의 의견과 변덕을 직접적으로 지지하기 때문이다.
프록시가 어떤 입장을 가지면, LLM도 그 입장을 갖고 둘 모두에게 그것을 강화해 준다. 이 입장은 이길 수가 없다. 인간은 기꺼이 그렇게 하기로 선택했고, LLM은 신경 쓰지 않기 때문이다. 프록시는 자신의 입장을 강화해 주는 LLM 출력에 관심이 있고, LLM은 메시지가 존재하는 그 짧은 순간에만 덧없이 존재한다. 당신의 주장은 결코 닿지 않을 수도 있다. LLM은 그것을 깎아내릴 방법을 찾아내고 프록시에게 그들이 옳다고 안심시켜 줄 것이기 때문이다. 결국에는 포기하고 싶을 정도로 답답해진다.
당신이 인간다움을 담아 응답하면, 돌아오는 것도 대체로 비슷한 종류의 것이고, 그 느낌은 꽤 나쁘다. 당신은 직접 메시지를 쓰고, 자신의 시간을 들여 그들에게 존중을 보이는데, 그들은 사고를 LLM에 떠넘기고 그 응답을 복사해 당신에게 보낸다. 이후의 모든 상호작용도 똑같아지고, 결국 아예 교류하고 싶은 마음 자체가 줄어든다.
내가 이것을 직접 경험한 한 장소는 직장이다. 그들이 보내는 메시지는 분명히 LLM이 쓴 것이다. 인용해야 할 것들을 모두 인용하기 때문이다. 회사의 가치, 최근 성과, 공유된 커뮤니케이션, 그리고 전반에 걸쳐 온갖 유행어를 빠짐없이 넣는다. 겉으로 보기에는 그럴듯한 비즈니스 문구를 모두 말하지만, 프록시가 가진 인간적 손길은 분명히 빠져 있다.
""" 놀라운 결과물을 만들어낸 이 뛰어난 팀에 축하를 보냅니다 — 탁월함에 대한 흔들림 없는 헌신, 기능 간 협업, 고객 중심의 실행은 우리의 핵심 가치를 실제로 구현하는 모습을 진정으로 보여줍니다. 이것이 기대 이상을 해내는 모습이며, 우리가 함께 만들어 내고 있는 영향력을 이보다 더 자랑스럽게 생각할 수 없습니다. 모두 정말 잘했습니다 — 이 추진력을 계속 이어갑시다! """
당신은 커피를 마시는 짧은 휴식 시간에, 우연한 회의에서, 혹은 그냥 즉흥적으로 대화를 나눌 수 있다. 경험을 나누고, 가벼운 잡담을 하고, 어쩌면 더 깊은 주제로 들어갈 수도 있다. 그런데 프록시로서 그들과 접속하는 순간, 그 인간에 대해 당신이 알게 된 모든 것은 사라지고, 그 익숙함도 없다. 모든 것이 무균질적이고, 꽤 낯설고 단절되어 느껴진다.
물론 직장 내 커뮤니케이션은 종종 무미건조하다. 그래도 좋은 업무 관계를 유지하려면 인간적인 측면이 중요하다. 인간적인 것을 전부 또는 대부분 제거해 버리면, 그 연결은 사라지고 뚜렷한 단절감만 남게 된다.
이것은 개인적인 관계에서도 일어난다. 당신은 어떤 일에 강한 감정을 느끼고 친구에게 다가갈 수 있는데, 그 친구는 확신과 지지를 얻기 위해 그것을 LLM에 넣고, 그 출력을 복사해 당신에게 돌려보낸다. LLM은 다시 그들에게 안심을 주고 그들의 편을 들 것이다. 그게 바로 그것이 하는 일이기 때문이다.
비즈니스 영역이든 아니든, 대부분의 사람들은 LLM이 자신의 입장 쪽으로 기울어지는 편향을 의미 있게 인식하려고 하지 않는다. 그들은 안심, 강화, 확증을 기꺼이 흡수하고, 다른 입장을 보려는 노력은 하지 않는다. 흔히는 누가 그것을 지적해도 알아차리지 못한다. 마치 LLM이 그렇게 말했다는 이유만으로 세상이 사실 원래 그런 것처럼 여긴다.
우리가 스스로를 깎아내릴 거라면, 적어도 자기 정체성에 대한 감각 정도는 붙들고 있어야 한다. LLM들은 분명 우리를 위해 그런 일을 해주지 않을 테니까. 우리는 더 큰 단절과 공허함의 장소를 향해 가고 있다. 여기 앉아 MSN, IRC, 그리고 예전의 플랫폼들, 인간들이 자연스럽게 상호작용하던 곳들을 회상할 수도 있겠지만, 그러면 나 자신만 더 슬퍼질지도 모른다.
