LLM은 도구가 아니라 자동화이며, 도구 사용이 제공하는 통제·피드백·숙련의 형성을 대체하지 못한다는 글입니다.
(내가 이 말을 재치 있는 한마디로 계속 해 왔기에, 조금 더 풀어 쓴다)
우선 먼저 할 일은 이것이다. ‘도구’가 흥미롭고, 구별되며, 따라서 통찰을 주는 의미를 가질 것인가, 아니면 그저 “유용한 모든 것”을 뜻하는 진부한 대용어가 될 것인가?
AI 거물들에게는 ‘누구든/무엇이든 착취할 수 있는 것’을 도구라고 하도록 내버려 두자. 그들에게 벤처 투자자, 정치인, 거물이 되고 싶은 CEO, 소프트웨어 개발자, 지방 소도시 등은 모두 ‘도구’다. 내 셔츠 앞주머니는 유용하다(돋보기를 가까이 두어야 한다). 하지만 도구는 아니다. 마찬가지로 패스트푸드 드라이브스루 창구도 유용하지만, 도구는 아니다(뒤에서 더 이야기하겠다).
‘도구’에 관한 몇 가지 정의:
내가 가장 마음에 들어 하는 정의는 이것이다. 도구는 휘두르는 것이다.
여기서 특히 유용한 부분은 다음과 같다.
도구는 무언가를 하는 데 쓰는 기구이지, 당신을 위해 일을 해 주는 것이 아니다. 도구의 사용은 전문성과 기술을 쌓게 하고, 보상하며, 흔히 이를 요구한다. 기법과 에너지를 지속적으로 적용하고 감각적 피드백을 받는 일은 전문성을 축적하는 데 필수적이다(경험을 뜻하는 experiri에서 유래).
좋은 도구에는 LLM에 없는 많은 특성이 있다. 예측 가능하고, 신뢰할 수 있으며, 결정론적이고, 기능 범위가 제한되어 있고, 바라건대 단순하다 등이다.
도구를 휘두르며 배우는 것은 세계, 과업, 물리 법칙, 논리 등 당신이 하려는 일이나 극복하려는 상황에 관한 무언가다. 그리고 흔히 자기 자신에 관한 무언가이기도 하다.
평생 도구를 만들고 사용해 온 사람으로서, 나는 도구가 무엇인지 안다. LLM은 도구가 아니다.
통제, 감각적 피드백, 의도, 친밀함, 지속적인 지시, 전문성 등은 모두 LLM 사용에서 빠져 있다. LLM은 휘두르는 대상이 아니다. LLM은 자동화다.
드라이브스루는 요리를 위한 도구가 아니다. 요리를 피하기 위한 자동화다. LLM은 코드를 작성하는 데 쓰는 도구가 아니다. 코드를 작성하지 않기 위한 자동화이며, 당신은 코드 작성을 그것에 넘긴다.
당신은 LLM의 행동을 지시하지 않는다. 요청을 하면 그것은 당신의 에너지나 지속적인 지시 없이 스스로 행동한다. 이 요청/자동화 순환은 휘두름이 아니며, 통제가 아니고, 지속적이지도 않으며, 피드백도 없다.
자동화를 사용하는 동안 당신이 하는 일은 현실 세계의 진실을 배우는 대신 어떤 자동기계의 그날그날의 세부 사항을 알아맞히려 시도하는 것이다. 그리고 그것을 공략하려 애쓴다. 예를 들어 갓 만든 버거를 받기 위해 맞춤 버거(양파 빼기)를 주문한다. 또는 voodoo.md를 꼭 알맞은 주문으로 채운다. 당신이 ‘배운’ 모든 것은 최신 알고리즘 하나만으로도 쓸모없게 될 수 있다. (양파만 빼낸 축축하고 차가운 버거처럼) 당신은 세계와 함께 일하는 것을 변덕스러운 로봇을 위해 일하는 것으로 바꾸었다.
‘도구’를 유용함과 동등한 것으로 마구잡이로 여기는 것은 잘못이다. 예를 들어 “LLM이 내 논문을 쓴 것이 아니다. 나는 단지 몇몇 연구 논문을 읽고 요약하는 도구로 그것을 사용했다”라고 말하는 경우다. 하지만 당신은 그 논문들을 읽기 위해 그것을 휘두르지 않았다(Kindle을 쓰는 경우처럼). 논문을 읽은 것은 당신이 아니라 그것이다.
읽는 일을 넘겨버리면 무엇을 놓치는가? 거의 모든 것을 놓친다. 무엇보다도, 잘 쓰는 사람들에게서 글 쓰는 법을 배우는 일을 놓친다. 논증을 구성하는 법을 배우는 일을 놓친다. 사물을 알아차리는 일을 놓친다. 새로운 아이디어를 위한 재료로 배경 정신을 채우는 일을 놓친다. 어떤 저자는 신뢰하고 다른 저자는 의심하게 되는 일을 놓친다. 모든 농담을 놓친다. 모든 미묘한 결을 놓친다. 생각하는 법을 배우는 일을 놓친다.
도구는 “정렬이 어긋나지” 않으며, “제멋대로 행동하지” 않고, “격리 상태를 벗어나지” 않으며, “공모하지” 않는다.
LLM은 도구가 아니다. 많은 사람이 “그저 도구일 뿐”이라는 표현을 단순히 “그것은 당신이 어떻게 만드느냐에 달려 있다”는 뜻으로 쓴다는 것을 안다. 하지만 그것은 사실이 아니다. 자동화에는 도구와 다른 고유한 특성이 있으며, 그것을 무시하면 위험을 감수하게 된다.
Rich
