생성이 거의 공짜가 된 시대에, 무엇을 만들고 무엇을 거부할지 판단하는 취향이 왜 가장 희소한 역량으로 남는지에 대한 글.
소프트웨어를 작성해 온 대부분의 시간 동안—일부 독자들과 비교하면 그리 긴 시간은 아니지만—나는 어려운 일은 무엇이든 _일단 존재하게 만드는 것_이라고 믿게 되었다. 이것이 꼭 내게 새로운 믿음은 아니다. 나는 웹 애플리케이션을 만들고 그것들이 처참하게 무너지는 것을 지켜보는 어렵고 지루한 경험을 통해 시작했다.
아이디어가 있었고, 그 아이디어와 작동하는 프로그램 사이에는 몇 시간—때로는 몇 주—동안 타이핑하고, 매뉴얼을 읽고, API를 오해하고, 잘못된 버전을 조금 덜 잘못된 버전으로 천천히 갈아내는 일이 놓여 있었다. 프로덕션은 벽이었다. 모두가 그 벽에 부딪혔다. 그것은 할 수 있는 사람과 그것에 관해 말만 할 수 있는 사람을 가르는 것이었다.
그 벽은 사라졌다. 아니, 더 정확히 말하면 임대되었다. 1 이제는 무언가를 설명하면, 첫 함수를 손으로 타이핑했을 때보다 훨씬 빠르게 그럴듯한 버전을 받을 수 있다. 이 기술 전체를 규정하던 아이디어에서 결과물까지의 거리는 거의 0으로 붕괴했다.
하지만 작은 한 가지에 대해서는 경고받지 못했다. 그 벽을 오르는 법을 배우며 쌓은 가치는 사라지지 않는다. 그저… 옮겨갈 뿐이다.
우리는 계속 기계가 얼마나 괜찮은지 묻는다. 바로 어제도 그것들이 신뢰할 만한지에 관해 꽤 짧은 논의를 했다. 그것들이 “신뢰할 수 없다는 점에서 신뢰할 만하다”는 결론에 이르렀지만, 나는 그것이 잘못된 질문이라고 생각한다. 결과물은 대체로 충분히 괜찮고, 바로 그것이 문제다—적어도 문제의 대부분은 그렇다. 충분히 괜찮다는 것은 _용매_다. 더 잘할 이유를 녹여 없앤다. 무언가를 만드는 데 비용이 들던 동안, 그 비용은 우리를 대신해 조용한 일을 해주었다. 산출물을 배분했다. 존재하는 모든 것은 최소한 만들어지는 비용을 견뎌 냈다는 뜻이었다. 무슨 말인지 알겠는가? 노력은 _필터_였고, 모든 필터처럼 그것은 제거되기 전까지 보이지 않았다. 평범한 기능 변형을 천 개씩 출시하는 사람은 없었다. 평범한 변형 천 개는 하나보다 천 배의 비용이 들었기 때문이다. 경제성이 하한선을 강제했다.
그 하한선은 이제 사라졌다. 그리고 하한선이 사라지면, 무엇을 보존할 가치가 있는지 결정하는 것은 더 이상 만드는 비용이 아니다. 바로 당신이다. 당신의 판단이다. 같은 함수의 그럴듯한 버전 세 개를 보고, 어떻게든 그중 두 개가 틀렸다는 것을 아는 순간에 내리는 판결이다. 그 판결에는 이름이 있다. 공학계에서는 그 말이 부드럽고, 반증 불가능하며, 어쩐지 귀족적으로 들리기에 쓰기를 조금 부끄러워하는 이름이다.
취향.
여기서는 조심하고 싶다. “취향”이라는 말이 많은 일을 하고 있고, 그것을 장식으로 듣기 쉽기 때문이다. 선호의 문제. 중괄호를 같은 줄에 두는 것을 좋아하느냐 같은 것 말이다.
내가 말하는 것은 그것이 아니다.
Robert Pirsig는 정의하면 그것을 죽이게 될 것이라고 스스로 확신했기에 정의하기를 거부한 단어를 중심으로 책 한 권 전체를 맴돌았다. 그는 그것을 _Quality_라고 불렀다. 대략 그의 주장은 이렇다. 설명하기도 전에 Quality를 알아본다는 것—인식이 먼저 오고, 이유는 나중에 오거나 아예 오지 않는다는 것이다. 훌륭한 정비사는 왜 그런지 알기 전에 엔진이 잘못되었다는 것을 안다. 훌륭한 편집자는 어느 절이 실패했는지 이름 붙이기 전에 문장이 처지는 것을 느낀다. 2
취향은 바로 그것이다. 정당화할 수 있는 속도보다 더 빠르게 내리는, 압축된 말 없는 판결이다. 그것은 부분적으로 3 완전한 확신과 꺼내 놓을 수 있는 논거 없이 자신에게 하는 “아니, 다시”다. 그리고 전혀 부드러운 것이 아니다. 그것은 작업에서 가장 어려운 부분이다. 처음부터 기계적이지 않았던 유일한 부분이기 때문이다.
판결 이후의 모든 것—타이핑, 문법, 한 라이브러리를 다른 라이브러리에 연결하는 일—은 원칙적으로 언제나 자동화할 수 있었다. 우리는 그저 아직 그렇게 하지 않았을 뿐이다. 판결 이야말로 기계가 당신을 위해 해줄 수 없는 일이었다.
지금도 할 수 없다. 그저 그것이 없는 상태를 무시하는 비용을 더 싸게 만들 뿐이다.
여기 불편한 메커니즘이 있다. 내가 생각하고 싶지 않은 부분이다.
당신의 취향은 어디에서 왔는가?
아니, 정말로. 어디서 왔는가, 유전적인가? 어느 날 외계인에게 납치되어 그들이 당신의 마음에 취향을 강제로 주입하고 기억을 지워 버렸는가?
이만큼은 말해줄 수 있다. 좋은 작업을 소비하는 데서 온 것은 아니다. 훌륭한 프로그램 백 개를 읽는다고 삼투로 판단력을 흡수할 수는 없다. 좋은 식당에서 식사한다고 요리사가 될 수 없는 것과 마찬가지다. 취향은 느리고, 어리석고, 굴욕적인 방식으로 만들어진다. 나쁜 것을 만들고, 그것과 함께 살아야 하며, 그것이 눈앞에서 실패하고, 당신의 어떤 부분이 그 실패를 저장한다. 그러고 나서 다시 한다. 미각은 오래도록 함께 앉아 있어 따끔거릴 만큼 자신의 실수가 쌓여 형성된다.
마찰은 취향을 기르는 데 방해물이 아니었다. 마찰은 _교육 과정_이었다. 내가 오르며 저주했던 모든 벽은, 내가 알아차리지 못하는 사이에 어떤 벽을 오를 가치가 있는지 가르치고 있었다. 내 산출물을 배분하던 비용은 내 판단 또한 교육했다. 비용을 반복해서 지불하는 것이 무엇에 비용을 지불할 가치가 있는지 배우는 방법이기 때문이다.
그러니 다음 사람을 위해 마찰을 제거하면 어떤 일이 일어나는지 보라.
그들은 첫날부터 유창하게 생성할 수 있다. 도구가 유능한 버전을 공짜로 제공하므로, 나쁜 버전을 출시하고 그 안에 머물러야 할 일은 결코 없을 것이다. 그들은 벽을 오르지 않을 것이고, 따라서 그 오름에서 아무것도 배우지 못할 것이다. 예전에는 유창함에 필요했던 전체 도제를 건너뛴 채 유창함에 도달할 것이다—그리고 누구든 굳이 측정하는 모든 지표에서, 그들은 내가 그 단계에 있었을 때보다 더 생산적일 것이다.
그들은 무엇이든 만들 수 있고, 만들어야 하는지 알 수 없거나 생각하기 위해 멈추지 못할 것이다. 반드시 그들 자신의 잘못 때문은 아니다. 우리는 그들을 가르쳤을 과정의 일부를 제거했고, 그것을 진보라고 불렀으며, 대부분의 정의에 따라 그것은 실제로 진보였다.
당신에게 취향이 있다고 가정하자. 당신이 전부를 치렀고, 문장의 처짐과 함수의 잘못됨을 느낄 수 있다고 가정하자.
축하한다! 이제 당신은 그것을 느끼지 못하는 사람과 정확히 같은 속도로 출시한다.
이것이 상황의 조용한 잔혹함이며, 나는 이를 위로가 되게 표현할 방법이 없다. 취향은 느리다. “아니, 다시”라고 말한다. 그럴듯한 것은 옳은 것과 같지 않기에 그럴듯한 것을 돌려보내고, 그러는 동안 그것이 없는 사람은 이미 출시하고, 티켓을 닫고, 다음으로 넘어갔다. 시장은 같은 초시계로 둘을 재었고 차이를 보지 못했다. 차이를 볼 수 없다. 취향은 diff에 나타나지 않는다.
그것은 측정할 수 없고, 공으로 인정받을 수 없으며, 대시보드에서는 보이지 않는다. 막아낸 재난은 흔적을 남기지 않기에, 막아낸 재난을 가리킬 수 없다. 당신은 비용을 짊어진다—추가 시간, 되돌아온 작업, 옳은 것이 아직 닿을 수 있는 곳에 있을 때 그저 괜찮은 것을 출시하지 않는 거부—그리고 반대 방향으로 향하는 유인 기울기에 맞서 그 비용을 홀로 짊어진다.
Harry Frankfurt는 한때 거짓말쟁이와 헛소리꾼 사이에 신중한 선을 그었다. 거짓말쟁이는 적어도 진실에 맞서기 위해 애쓸 만큼은 진실을 존중한다. 헛소리꾼은 어느 방향으로도 진실에 관심이 없다. 그는 그저 진실에 무관심하다. 4 조잡함은 공학의 헛소리다. 정확히 틀린 것은 아니다. 그것은 무관심하다. 작동하고, 통과하고, 괜찮다. 그리고 마찰 없이 만들어지고 판단 없이 출시되는 괜찮음은 이제 이 분야에서 가장 풍부한 물질이다.
Sturgeon은 수십 년 전, 비평가로부터 과학 소설을 옹호하며 이렇게 말했다. 모든 것의 90퍼센트는 쓰레기다. 5 그는 그것을 위안으로 말한 것이었다. 모든 분야의 90퍼센트는 나쁘므로, 그 부피로 분야를 판단하지 말라는 뜻이었다. 하지만 비율은 결코 위험이 아니었다. 수 세기 동안 안정적으로 유지되었다. 홍수를 막아 준 것은 쓰레기를 만들어내는 데 무언가의 비용이 들었다는 사실이었다. 나쁜 소설도 쓰는 데 1년이 걸렸다. 나쁜 소프트웨어도 만드는 데 한 달이 걸렸다. 그 90퍼센트는 그것을 만드는 일 자체의 엄청난 불편함으로 원천에서 조절되었다.
이제 우리는 조절 장치를 제거하고 비율은 그대로 두었다. 무한한 산출물의 90퍼센트는 여전히 무한하다. 신호가 더 나빠진 것은 아니다. 잡음이 공짜가 되었고, 공짜 잡음은 한계 없이 증가하며, 이제 당신이 만드는 모든 실제적인 것은 언뜻 보기에 정확히 그것처럼 보이는 그럴듯한 공허의 바다에 도착한다.
이는 희소한 행위가 더 이상 만드는 일이 아니라는 뜻이다. 그것은 _선택하는 일_이다. 끝없이 생성되는 그럴듯함 중 무엇이 존재하고 보존될 자격이 있는지 결정하는 일이다. 무언가를 만드는 데 비용이 들었을 때 큐레이션은 작은 미덕이었다. 그것들이 공짜가 되면 그것이 게임의 전부다.
충분히 멀리 되돌아가면, 여기에는 운이 맞는 구절이 있다.
공장이 등장했을 때, 공장은 갑자기 _모든 것_을—값싸게, 균일하게, 수천 개씩—만들 수 있었다. 6 그리고 Morris와 Ruskin을 포함한 소수의 사람들은 값싸고 동일한 상품의 홍수를 바라보며, 당시에는 감상적이고 실패할 운명처럼 들렸을 질문을 했다. 우리가 이것을 만들 _수 있는가_가 아니라, 이것은 만들어져야 하는가, 그리고 기계가 할 수 있다는 것 외에는 아무 이유도 없이 아무도 아닌 존재에 의해 이런 방식으로 만들어져야 하는가라는 질문이었다.
그들은 경제적 논쟁에서 졌다. 언제나 그럴 수밖에 없었다. 하지만 그들은 중요한 것에 관해서는 옳았다. 만드는 일이 공짜가 되면 _선택하는 일_이 기술이 된다는 점이다. 인간의 질문은 “내가 이것을 만들 수 있는가”에서 “이것은 존재할 자격이 있는가”로 바뀌며—그 질문은 언제나 더 진지한 질문이었다. 우리는 벽을 오르느라 바빴을 때 그것을 물을 여유가 없었을 뿐이다.
나는 계속 이 전환으로 돌아온다. 이것은 위안이 아니라 교정이다.
도구는 기술의 가치를 떨어뜨리지 않았다. 그것들은 기술이 아닌 모든 것을 벗겨 냈다. 그 모든 세월 동안 나는 작업이 생산—타이핑, 연결, 벽—이라고 생각했지만, 생산은 결국 통행료였음이 드러났다. 판단을 행사할 특권을 위해 내던 세금 말이다. 이제 세금은 거의 0에 가까워졌고, 남아 있는 것은 숨을 곳 없이 드러난 판단 그 자체다. 언제나 요점이었던 부분.
취향의 가치는 줄어들지 않았다. 그것은 이제까지 희소했던 유일한 것이 되었다. 우리는 그것에 도달하는 데 예전에는 너무 많은 노동이 필요했기에, 그 모든 노동 아래 묻힌 그것을 볼 수 없었을 뿐이다.
그러니 여기 변론이 있다. 변론이라 할 만한 것이 있다면.
이제 누구나 생성할 수 있다. 그 경쟁은 끝났고, 애초에 이길 가치도 없었다. 남아 있는 규율—기계가 당신에게 임대해 줄 수 없고 대시보드가 볼 수 없는 것—은 삭제에 있다. “아니, 다시”에 있다. 외부의 어떤 것도 신경 쓰는 데 보상해 주지 않을 때, 시장이 당신을 재고 어깨를 으쓱할 때, 그럴듯한 버전이 거기에서 작동하고 통과하며 들여보내 달라고만 할 때, _괜찮음_과 _옳음_의 차이를 신경 쓰는 데 있다.
그래도 거부하라. 마찰에 대한 향수 때문이 아니다—나는 그 벽이 그립지 않고, 그런 척하지도 않을 것이다. 판결은 이 모든 것 중 실제로 당신의 것인 마지막 부분이기에 거부하라. 그것은 측정할 수 없으며, 이는 누구도 그것을 측정해서 당신에게서 빼앗을 수 없다는 뜻이다. 자동화할 수 없으며, 이는 누구도 그것을 당신에게 되팔 수 없다는 뜻이다. 그것은 느리며, 무한한 속도에 최적화하는 분야에서 이는 점점 불리함이라기보다 인간이 여기 있었고 진심으로 신경 썼다는 유일하게 남은 증거처럼 보이기 시작한다.
누구나 무엇이든 만들 수 있다. 거의 아무도 무엇을 만들 가치가 있는지 말해 줄 수 없다.
그것은 언제나 더 어려운 기술이었다. 이제 남은 유일한 기술이다.
이 글은 AI 조잡물처럼 읽힌다. 당신이 그렇게 말했고, 나도 안다. 이런 느낌을 갖게 한 것을 게시한 데 대해 진심으로 미안하다. 내 말을 조금이라도 믿어 준다면, 이 글은 LLM이 작성한 것이 _아니었음_을 확실히 말하고 싶다. LLM이 스토리보드를 만들거나, 검토하거나, 확인하는 등의 일도 하지 않았다. 몇몇 독자들은 사람들이 이런 식으로 말하지 않는다고 지적했다. 맞다. 나는 이런 식으로 말하지도, 대체로 쓰지도 않으며, 이 글은 내가 가장 자랑스럽지 않은 글로 남을 것이다. 하지만 당신의 비판을—개인적으로 받아들이지는 않지만—진지하게 받아들이고, 개선하기 위해 노력한다.
나는 가끔 이렇게 쓰기도 한다. 짧은 문장, 반전, 한 단어짜리 줄—전부 그렇다. 그저 그런 방식이다. LLM도 같은 방식으로 쓴다. 그것은 내가 자라며 읽었던 같은 에세이들로 훈련되었으므로, 내가 그것을 서툴게 하는 모습과 기계가 하는 모습은 페이지 위에서 당신에게 거의 같아 보인다. 그것은 내 글에 대해 무언가를 말한다. 누가 썼는지에 대해서는 아무것도 말하지 않는다.
그러니 분명히 말하겠다. Claude는 여기 없었다. 어떤 LLM도 이 글을 쓰지 않았다—한 문장도 쓰지 않았고, 그것이 개요를 짜거나 초안을 만들거나 검토하거나 확인하는 등의 일도 하지 않았으며, 그 뒤에 프롬프트도 없다. 그저 나일 뿐이며, 평소보다 못하게 썼다. 다음 글은 더 평이하게 쓰겠다. 다음에는 나에게 써 달라. 이 화면 뒤에도 나라는 사람이 있다.
좋은 댓글과 나쁜 댓글 모두 읽었다는 것을 알아 달라. Hacker News에 도달했던 이전 글과 마찬가지로, 많은 통찰력 있는 의견을 받았다. 자신의 경험을 공유한 사람들이든, 내용 있는 비판을 할 품위를 갖춘 부정적인 댓글이든, 오늘 나는 새로운 것을 배웠고—그 점에 감사한다.
나는 당신의 취향에 관심 없다. 이 글이 당신을 불쾌하게 했다면, 그것은 나보다 당신에 대해 더 많은 것을 말해 준다. 말하듯이, “모욕을 땅에 던져 두면, 그 주인이 주워 갈 것이다”—이 부분에 대해서는 미안하지 않다.
이 방식에는 더 오래된 말이 있다. 당신은 더 이상 생산 수단을 소유하지 않는다. 모델을 훈련한 누구에게서든 토큰 단위로 그것을 임대한다. 나의 한 영어 교사—헌신적인 사회주의자였다—는 내가 문장을 끝내기도 전에 칠판에 이 모든 것을 도식으로 그렸을 것이다. 노동자는 먼저 자신의 도구로부터 분리되고, 다음에는 노동 자체로부터 분리되며, 그 뒤 노동에 대한 마찰 없는 대체품을 팔고 이것이 해방이라고 말해진다. 내 생각에 그는 또한 그 과정에서 당신에게 다시 임대될 수 없는 한 부분을 가장 먼저 지적했을 것이다. 그것은 결코 당신의 머릿속을 떠난 적이 없기 때문이다. 그 부분이 무엇인지에 관해서는 스스로 결론을 내려라. ↩
아직 읽지 않았다면 Zen and the Art of Motorcycle Maintenance. 오토바이보다 훨씬 많은 것을 다루고, Zen에 관해서는 거의 다루지 않는다. ↩
누군가는 (그리고 이미 그랬다!) 취향이 “아니, 다시”만은 아니라고 이의를 제기할 것이다—그것을 판결로 압축하면 기계가 노동하는 동안 의자에 기대앉아 무언가를 거부하는 것처럼 작업이 들린다는 것이다. 이의는 타당하며, 그래서 위 문장에는 _부분적으로_라고 적혀 있다. “아니, 다시”는 축약일 뿐, 그 전부가 아니다. 판결은 작업 안에 존재한다—실제로 확장되어야 하는 데이터 구조에, 실제로 의미해야 하는 프라이버시에, 세 번째 것은 그저 괜찮았기에 네 번째로 다시 쓰는 함수에 존재한다. 취향은 당신이 기대앉는 의자가 아니다. 그것은 당신이 그 나머지 모든 것 속으로 몸을 앞으로 기울이는 이유다. ↩
On Bullshit. Frankfurt, 2005, 다만 에세이 자체는 더 오래되었다. 그렇다, 그것이 실제 제목이다. ↩
지금은 Sturgeon’s Law 또는 Sturgeon’s Revelation이라 불린다. 그는 최악의 사례들로 장르 전체를 판단한 비평가들에게 반박하는 데 수년간 이 말을 사용한 뒤, 1958년 3월 _Venture Science Fiction_의 서평 칼럼에 그것을 실었다. ↩
내가 받은 타당한 반박 하나가 있다. 이 글은 공장이 하늘에서 떨어진 것처럼, 어느 날 완전히 형성된 마법 같은 “충분히 괜찮음”처럼 들리게 한다. 그렇지 않았다. 공장 자체가 취향과 노동의 기념물이다—누군가 모든 공차를 조정했고 지금도 그 안에서 조정하고 있으며, 토큰 단위로 임대하는 모델도 마찬가지다. 그러니 나는 상자가 마법이라고 말하는 것이 아니다. 상자가 취향을 한 단계 위로 옮겼다고 말하는 것이다. 만드는 일에서 벗어나, 무엇이 아예 만들어질 가치가 있는지를 결정하는 일로 말이다. 그것이 논지의 전부다. ↩
