온화한 특이점

이제 우리는 사건의 지평선을 넘어섰고, 이륙이 시작되었습니다. 인류는 디지털 초지능을 구축하는 단계에 거의 도달했으며, 지금까지의 경험으로 보건대 이는 예상보다 훨씬 덜 이상하게 전개되고 있습니다.

아직 로봇이 거리에서 걷고 다니지는 않으며, 대부분의 사람들이 하루 종일 AI와 대화를 나누는 것도 아닙니다. 여전히 질병으로 사람들이 죽고, 손쉽게 우주로 갈 수도 없으며, 우주에 대해 우리가 이해하지 못하는 점도 많습니다.

그럼에도 불구하고 최근 우리는 여러 면에서 인간보다 더 똑똑한 시스템을 구축했고, 이를 사용하는 사람들의 생산성을 크게 증폭시킬 수 있게 되었습니다. 가장 일어나기 힘들 것 같던 일들은 이미 지나갔고, GPT-4나 o3와 같은 시스템에 도달하게 한 과학적 통찰은 값진 성과였으며 우리를 훨씬 더 멀리 데려다 줄 것입니다.

AI는 다양한 방식으로 세상에 기여할 것입니다. 그중에서도 AI로 인해 과학적 진보와 생산성이 빨라지면서 삶의 질이 크게 향상될 것입니다. 미래는 현재보다 훨씬 나아질 수 있습니다. 과학적 진보는 전반적인 진보의 가장 큰 원동력으로, 우리가 지금보다 얼마나 더 많은 것을 얻을 수 있을지 생각하면 무한한 기대가 됩니다.

어떤 큰 의미에서 보면, ChatGPT는 이미 역사상 그 어떤 인간보다 강력합니다. 수억 명이 매일 중요성이 커지는 업무에 이를 의지하고 있습니다. 작은 새로운 기능 하나가 엄청난 긍정적 파급 효과를 내고, 사소한 불일치가 수억 명에게 곱해지면 엄청난 부정적 영향도 끼칠 수 있습니다.

2025년에는 실제 인지적 업무를 할 수 있는 에이전트가 등장했습니다. 이제 컴퓨터 코딩의 세계는 이전과 같지 않을 것입니다. 2026년에는 새로운 통찰을 스스로 찾아내는 시스템이 나타날 가능성이 높고, 2027년에는 현실 세계에서 실제 임무를 수행할 수 있는 로봇이 등장할지도 모릅니다.

더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 될 것입니다. 그러나 세상은 여전히 더 많은 소프트웨어와 예술을 원하고, 전문가들은 새로운 도구를 받아들이는 한 여전히 초보자보다 훨씬 우수할 것입니다. 일반적으로 2030년에 한 사람이 할 수 있는 일의 양이 2020년에 비해 훨씬 크게 늘어날 것이며, 많은 이들이 그 혜택을 누릴 방법을 찾게 될 것입니다.

가장 중요한 측면에서는 2030년대가 크게 다르지 않을 수도 있습니다. 사람들은 여전히 가족을 사랑하고, 창의력을 발휘하며, 게임을 즐기고, 호수에서 수영을 할 것입니다.

그러나 여전히 매우 중요한 측면에서는, 2030년대가 이전과 완전히 다를 공산이 큽니다. 우리는 인간 수준의 지능을 얼마나 넘어서게 될지 알지 못하지만, 곧 그 답을 알게 될 것입니다.

2030년대에는 지성과 에너지—즉, 아이디어와 아이디어를 실현하는 능력—가 엄청나게 풍부해질 것입니다. 이 둘은 오랫동안 인류 발전의 근본적인 제약이었으나, 풍부한 지성과 에너지(그리고 훌륭한 거버넌스)만 있다면 이론상 어떤 것도 이룰 수 있습니다.

우리는 이미 놀라운 디지털 지능과 함께 살고 있고, 첫 충격을 지나 대부분이 꽤 익숙해져 있습니다. AI가 아름다운 문장을 만들어내는 것에 감탄하다가 곧 소설 전체를 언제 만들어줄지 기대하게 되듯, 생명을 구하는 의학적 진단이 가능해졌다는 점에 놀라다가 언제 치료약을 개발할 수 있을지 궁금해하고, 작은 컴퓨터 프로그램을 만들어주는 데서 전혀 새로운 회사를 만들어주는 날을 상상하게 됩니다. 이것이 바로 특이점의 방식입니다. 기적이 일상이 되고, 그 일상이 기본이 되는 것이죠.

이미 많은 과학자들이 AI 덕분에 생산성이 2~3배 높아졌다고 말합니다. 고급 AI는 여러 이유로 흥미롭지만, 그 중에서도 AI를 더 빠르게 연구할 수 있게 해준다는 점이 가장 큽니다. 우리는 새로운 컴퓨팅 기판, 더 나은 알고리즘, 그리고 그 밖에 상상할 수 없는 것들을 발견할 수 있을지도 모릅니다. 10년 동안 걸릴 연구를 1년, 혹은 한 달에 할 수 있다면 발전 속도는 분명히 완전히 달라질 것입니다.

앞으로는 이미 우리가 구축한 도구가 더 나은 과학적 통찰을 제공하고, 더 나은 AI 시스템을 만드는 데 도움을 줄 것입니다. 물론 이것이 완전히 자율적으로 스스로 코드를 수정하는 AI와 같지는 않지만, 여전히 자기 증진(자기개선)을 위한 유충 단계라 볼 수 있습니다.

이와 맞물린 다른 자기 강화 고리가 있습니다. 경제적 가치 창출이 강력한 AI 시스템을 구동할 복합적인 인프라 구축을 가속화하고 있습니다. 그리고 로봇이 다른 로봇을 만들 수 있고(어느 정도는 데이터센터가 다른 데이터센터를 만드는 것도), 그 미래는 그리 멀지 않았습니다.

처음 백만 대의 휴머노이드 로봇을 전통적인 방식대로 만들어야 한다고 해도, 일단 이들이 모두 공급망(광물 채굴 및 정제, 트럭 운전, 공장 운영 등)을 가동해 추가 로봇, 칩 생산 시설, 데이터센터를 계속 만들어낸다면 발전 속도는 분명히 완전히 달라질 것입니다.

데이터센터 생산이 자동화되면, 지능의 비용은 결국 거의 전기 요금에 수렴하게 될 것입니다. (ChatGPT가 한 번의 쿼리에 얼마나 많은 에너지를 쓰는지 궁금한 분들이 많은데, 평균 쿼리 한 번은 약 0.34와트시를 쓰며, 이는 오븐이 1초 조금 넘게 쓰는 에너지나, 고효율 전구가 몇 분간 사용하는 양과 비슷합니다. 또 물은 약 0.000085갤런, 대략 티스푼 15분의 1 정도가 사용됩니다.)

기술 발전 속도는 계속 가속화될 것입니다. 사람들은 거의 어떤 환경에도 적응할 수 있습니다. 직업군 자체가 사라지는 등 어려운 부분도 있겠지만, 그만큼 세상은 더 빠르게 엄청난 부를 쌓게 되어, 전에는 상상도 못했던 새로운 정책 아이디어도 진지하게 검토할 수 있을 것입니다. 사회계약이 한순간에 바뀌지는 않겠지만, 수십 년이 지나 돌아보면 차곡차곡 쌓인 변화가 결국 커다란 변혁을 이룰 것입니다.

역사가 증명하듯, 우리는 새로운 일거리와 욕망을 찾고, 새로운 도구에 빠르게 적응할 것입니다(산업혁명 이후 직업 변화가 좋은 최근의 예시입니다). 기대치는 올라가도, 역량도 그만큼 빠르게 올라가서, 모두가 더 나은 삶을 누리게 됩니다. 우리는 서로를 위해 점점 더 멋진 것들을 만들어갈 것입니다. 인간은 AI에 비해 중요한 본능적 우위를 갖고 있는데, 그것은 타인과 타인이 하는 일에 관심을 가지고, 기계 자체에는 별로 신경을 쓰지 않는다는 점입니다.

천 년 전의 자급자족 농부가 오늘날 우리의 일상을 본다면, 우리가 진짜 일은 안 하고 이미 음식도 넉넉하고 호사도 누리니 그저 놀이나 하며 사는 것으로 생각할지 모릅니다. 저 역시 앞으로 천 년 뒤의 직업들을 보며 "이건 정말 가짜 직업 같네"라고 생각하겠지만, 그 일을 하는 사람들에게는 엄청나게 중요하고 만족스러운 직업일 것임을 확신합니다.

새로운 경이로움의 창출 속도는 어마어마해질 것입니다. 2035년까지 우리가 무엇을 발견할지 상상조차 어렵습니다. 올해는 고에너지 물리학을 해결하고, 내년에는 우주 식민지화를 시작할 수도 있고, 올해 첨단 소재에서 돌파를 이루고, 내년에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 개발할 수도 있을 것입니다. 많은 이들은 기존과 다름없는 삶을 택하겠지만, 적어도 일부는 "완전히 접속"하는 길을 택할 수도 있습니다.

앞을 내다보면 정신이 아득해집니다. 그러나 실제로 이 변화의 한가운데를 살아간다면, 인상적이면서도 충분히 관리할 수 있는 변화로 느껴질 가능성이 높습니다. 상대론적 관점으로 보면, 특이점은 조금씩 일어나며, 융합 역시 서서히 진행됩니다. 우리는 지수적 기술 발전의 긴 곡선을 오르고 있습니다. 앞으로 내다보면 늘 수직처럼 보이지만, 뒤돌아보면 평평해 보이고, 실제로는 하나의 매끄러운 곡선입니다.(2020년으로 돌아가서 2025년쯤 AGI가 나올 거라는 말을 들었다면 듣기조차 힘들었겠지만, 지난 5년간 실제로 벌어진 일과 비교해보면 많이 다릅니다.)

이 모든 긍정적인 변화와 더불어 반드시 해결해야 할 도전도 있습니다. 우리는 안전 문제를 기술적, 사회적으로 모두 해결해야 하며, 그 다음으로 경제적 영향력을 고려해 초지능의 접근성을 폭넓게 분산시키는 것이 매우 중요합니다. 가장 옳은 길은 대략 다음과 비슷할 수 있습니다:

1. 정렬 문제(alignment problem)를 해결해야 합니다. 즉, 우리가 궁극적으로 집단적으로 정말로 원하는 것을 AI 시스템이 학습하고 그 방향으로 행동할 수 있도록 안정적으로 보장해야 합니다(예: SNS 알고리즘은 잘못 정렬된 AI 사례입니다. 사용자의 단기 선호를 아주 잘 파악하여 계속 스크롤하게 만들지만, 뇌의 약점을 이용해 장기 선호를 무시하게 만듭니다).

2. 그런 다음, 초지능을 저렴하게, 널리, 그리고 특정 개인·기업·국가에 지나치게 집중되지 않게 만드는 데 집중해야 합니다. 사회는 탄탄하고, 창의적이며, 빠르게 적응합니다. 우리가 집단의 의지와 지혜를 harness(활용)할 수 있다면, 실수도 하고 곤란한 일도 많겠지만, 빠르게 배우고 적응해 최소의 위험으로 최대의 성과를 거둘 수 있을 것입니다. 사용자에게 사회가 결정한 넓은 범위 내에서 폭넓은 자유를 주는 것이 매우 중요해 보입니다. 이 범위가 무엇이고 집단적 정렬을 어떻게 정의할지 세계가 빠르게 논의하기 시작할수록 좋습니다.

우리는(오픈AI뿐 아니라 전체 업계가) 세상을 위한 두뇌를 만들고 있습니다. 이는 극도로 개인화되고 누구나 손쉽게 사용할 수 있게 될 것이며, 그 한계는 좋은 아이디어에 의해 제한될 것입니다. 오랫동안 스타트업 업계 기술인들은 "아이디어맨"을 비웃었는데, 그들은 아이디어만 있고 팀을 찾아 다니는 사람들이었습니다. 이제 곧 아이디어맨의 시대가 옵니다.

OpenAI는 지금 여러 역할을 하고 있지만, 그 무엇보다 초지능 연구 회사입니다. 앞으로 해야 할 일이 많지만 대부분의 길은 이미 환하게 밝혀져 있습니다. 우리는 이 일을 할 수 있다는 것에 커다란 감사와 기쁨을 느낍니다.

측정할 필요 없을 정도로 값싼 지능이 손에 닿을 만큼 가까워졌습니다. 미친 소리처럼 들릴지 몰라도, 2020년에 우리가 지금의 위치에 있을 거라고 했다면, 지금 2030년을 바라보며 하는 우리의 예측보다 더 이상하게 여겨졌을 것입니다.

우리가 아무 탈 없이, 부드럽고 지속적이며, 지수적으로 초지능의 세계로 확장해 나아가길 바랍니다.