현재 AI 열풍을 둘러싼 과장과 투기적 광기가 소프트웨어 산업에 미치는 왜곡을 비판하고, 버블 붕괴가 오히려 지속 가능한 AI 발전과 실용적 혁신을 촉진할 수 있다고 주장한다.
소프트웨어 엔지니어로서, 지금 이 순간의 기묘함을 외면하기는 불가능하다. 한편으로 새로운 세대의 언어 모델은 진정으로 유용한 도구다. 나도 직접 사용한다. 상용구 코드에 빠르게 착수하거나, 까다로운 논리 문제의 해법을 브레인스토밍하거나, 문서를 다시 표현하는 데 쓴다. 개발자 생산성에서 정당한, 비록 점진적인, 진전이다. 그러나 다른 한편으로는 이 기술을 둘러싸고 기괴하고 지속 불가능한 문화가 자라났다. 이제 이것은 공학의 한 분야라기보다, 실제로 이 도구들이 할 수 있는 일이 무엇인지와 완전히 동떨어진 준종교적 열광이 곁들여진 투기적 골드러시에 더 가깝다. 과장은 광란의 정점에 도달했고, 내가 보기에는 이 버블의 붕괴가 소프트웨어의 미래에 일어날 수 있는 최선의 일일 것이다.
문제의 핵심은 신화다. 최고경영자와 벤처 캐피털리스트들이 마치 대사제처럼 행동하며, 컨퍼런스 무대에서 이 정의조차 모호한 “Artificial General Intelligence”의 임박한 도래에 대한 설교를 늘어놓는다. 세계 반도체 산업을 확장하려면 7조 달러가 필요하다고 말하는데, 그 수치는 너무나 터무니없이 커서 의미 자체가 희미해진다. 이것은 더 이상 공학이 아니다. 구원이나 종말을 약속하는 새로운 종교이며, 시장이 모든 의심을 유보하도록 설득해 버렸다. 실제로 매일 모델을 다루는 우리에게 이 서사는 판타지처럼 느껴진다. 우리는 그 한계를 가까이에서 본다. 자신감 넘치는 헛소리를 만들어내는 성향, 추상적으로 추론하지 못하는 무능, 훈련 데이터 밖으로 밀어붙였을 때의 취약함. 그것들은 태동하는 마음이 아니라 믿을 수 없을 만큼 정교한 흉내쟁이다. 메시아적 마케팅과 확률적 텍스트 생성기의 평범한 현실 사이의 이 심연이야말로 버블을 부풀리는 빈 공간이다.
이 모든 것은 실로 기가 막힐 정도의 돈을 태우는 일을 정당화한다. 몇몇 테크 거인들이 올해 이 한 가지 목표에 3천억 달러가 넘는 돈을 쓸 것이라는 생각은, 포르투갈 전체 경제와 맞먹는 규모로, 외설적이다. 이는 엄청난 낭비이자 전 지구적 규모에서의 심각한 자원 오배분이다. Amazon 같은 거물이 이 구멍에 1달러를 붓고도 돌아오는 것은 많아야 20센트 정도라는 보고도 보인다. 한편 다음 최전선 모델을 훈련하는 비용은 10억 달러를 훌쩍 넘기며 부풀어 오른다. 사이버보안에서 의료 진단, 물류에 이르기까지, 재능과 자본이 해결할 수 있는 다른 실제적이고 가시적인 문제들이 얼마나 많은지 생각해 보라. 그런데도 가장 뛰어난 두뇌들은 챗봇이 소네트를 쓰는 능력에서의 미미한 개선을 쫓고 있다. 이것은 혁신이 아니다. 더 큰 모델을 만드는 것이 목표인, 더 나은 또는 더 효율적인 제품을 만들려는 것이 반드시 아닌, 투기에 의해 연료를 공급받는 군비 경쟁이다.
재정적 낭비를 넘어, 기술적 진보 자체도 벽에 부딪히고 있다는 징후를 보인다. 이 도구들을 진지하게 사용하는 사람이라면 누구나 더러운 비밀을 안다. 그것들은 예전처럼 숨 가쁜 속도로 좋아지고 있지 않다. 우리는 개선이 거의 느껴지지 않고 “vibes”에 더 가까운 수준인데도, 에너지와 데이터, 하드웨어에 기하급수적으로 더 많은 비용을 쓰고 있다. GPT-2에서 GPT-3로의 도약은 혁명이었지만, GPT-4에서 그 후속작으로의 도약은 사소한 개정처럼 느껴지는데도, 이를 달성하는 비용은 몇 자릿수나 더 커진다. 업계는 “scaling laws”라는 패러다임, 즉 모델을 더 크게 만들기만 하면 새로운 능력이 열릴 것이라는 믿음에 기대고 있지만, 연구자들 사이에서 이 경로에는 한계가 있다는 공감대가 커지고 있다. 우리는 같은 불안정한 토대 위에 점점 더 높은 탑을 쌓으면서, 아마도 필요한 것은 전혀 새로운 건축 청사진이라는 사실을 외면하고 있다. 그러나 시장은 매 분기 혁명적 돌파구가 보장된 것처럼 이 기업들을 가격에 반영하고 있어, 평가 구조는 닷컴 시대 최악의 과잉을 닮을 만큼 과도하게 비대하고 위태롭다.
그래서 AI 버블의 붕괴, 전 세계에 울려 퍼질 크고 고통스러운 펑 소리는, 실제 AI 개발에 일어날 수 있는 최선의 일일 것이다. 우리는 닷컴 붕괴로 이 영화를 이미 본 적이 있다. 2000년에 투기 자금이 사라졌을 때 인터넷은 죽지 않았다. 비즈니스 모델이 없는 “zombiecorns”가 죽었다. 남은 것은 광섬유 회선부터 데이터 센터에 이르기까지 값진 인프라의 보고였고, 그 모든 것이 갑자기 헐값에 나왔다. 그렇게 새로이 저렴해진 토대가 진짜로 지속 가능한 인터넷 거인들이 등장할 수 있게 해 주었다. 터진 AI 버블도 같은 일을 할 것이다. 하이퍼스케일러들이 구축한 거대한 서버 팜은 사라지지 않는다. 오픈소스 모델과 소프트웨어 프레임워크, 연구 논문도 모두 그대로 남아 있을 것이다. 붐의 잔해는 더 냉정하고 지속 가능한 미래를 위한 건축 자재가 될 것이다.
버블 이후의 세계는 다른 종류의 엔지니어와 다른 종류의 회사를 보상할 것이다. 목표는 상자 속의 신을 만드는 일에서, 특정 고객을 위한 특정 문제를 푸는 일로 이동할 것이다. 인프라 헐값 매각으로 진입 비용이 낮아지면, 더 작고 더 민첩한 팀이 경쟁할 수 있다. 우리는 이미 그 징후를 보고 있다. 중국 기업들이 미국 거인들이 쓰는 비용의 극히 일부로도 매우 유능한 모델을 개발하고 있다는 보고가 나온다. 폭락은 이 추세를 가속화해, 무식한 재정적 힘보다 효율과 영리함에 집중하도록 강제할 것이다. 혁신은 분산될 것이다. AGI라는 하나의 거대한 탐구 대신, 현실의 필요에 맞춰 실제 비즈니스 모델을 갖춘, 응용 AI의 천 가지 서로 다른 활용이 번성하는 모습을 보게 될 것이다. 산업은 벤처 캐피털이라는 점적 공급에 의존하는 법을 끊고, 공상과학적 미래를 약속해서가 아니라 ملم: 사람들이 실제로 돈을 지불할 만큼 구체적 가치를 제공하기 때문에 사는 제품을 만들어내는 법을 배워야 한다.
결국 붕괴는 끝이 아니라 정화다. 그것은 지금 이 분야를 규정하는 과장과 종교, 지속 불가능한 경제성을 벗겨낼 것이다. 투기꾼들에게는 고통스러운 청산이겠지만, 만드는 사람들에게는 해방이 될 것이다. 현재 좁고 투기적인 터널로 쏟아져 들어가는 막대한 지적 자원과 자본은 풀려나, 무수히 많은 다른 생산적 물줄기로 흘러갈 수 있다. 진정으로 제한적으로 유용한 이 기술은, 불가능한 수익을 불가능하게 되돌려줘야 한다는 불가능한 부담에서 마침내 해방될 것이다. 그저 도구가 될 수 있고, 우리는 그것을 사용해 더 나은 것들을 만드는, 화려하지는 않지만 궁극적으로 더 보람 있는 진짜 작업으로 돌아갈 수 있다.
