개인의 역량 강화, 발명, 권력 균형을 바탕으로 모두를 위한 긍정적인 AI 미래를 구축하는 Meta의 철학.
긍정적인 AI 미래로 가는 길
우리는 역사상 놀라운 순간에 살고 있습니다. 앞으로 몇 년 안에 사람들은 인간의 능력을 넘어서는 초지능을 사용해 놀라운 새것을 만들고 발견하며, 새 사업을 세우고, 새 아이디어를 표현하고, 새 개념을 배우며, 건강과 삶의 질을 향상할 수 있게 될 것입니다. 이 순간에 가까워질수록, 초지능이 우리의 삶과 일, 공동체, 자유, 안전을 모두 개선하도록 가장 잘 활용할 방법에 관한 철학을 발전시키는 일이 중요합니다.
우리 시대를 규정하는 질문은 누가 초지능에 접근할 수 있으며, 우리가 그것을 무엇에 향하게 할 것인가입니다. 초지능은 소수 기관에 집중되고 제한될 것인가, 아니면 모두에게 힘을 주는 도구가 될 것인가?
우리는 개인의 역량 강화를 번영의 원천으로, 발명을 초지능의 주된 목적으로, 권력 균형을 안전의 토대로 삼는 철학을 제안합니다.
모든 신기술은 기회와 과제를 함께 만듭니다. 초지능은 역사상 가장 중요한 기술 가운데 하나가 될 것이므로, 그 기회와 과제 역시 우리가 일생에서 본 어떤 것보다 클 가능성이 높습니다. 우리는 이를 매우 진지하게 받아들여야 합니다.
그럼에도 AI를 개발하는 많은 이들의 담론이 파멸론으로 가득한 것은 놀랍습니다. AI가 대부분의 일자리와 인류의 관련성 상당 부분을 없앨 것이라고 믿는 사람이 왜 서둘러 그런 미래를 만들려 하는지 저는 이해하지 못합니다. AI가 너무 위험해서 유일하게 안전한 길은 극단적인 권력 집중이라는 생각은 본질적으로 문제가 있어 보입니다. 역사적으로 충분히 계몽된 절대 권력이 인류를 자비롭게 보살필 것이라 기대하는 방식은 안전하거나 긍정적인 결과로 이어지지 않았습니다.
인류는 많은 변혁적 발전을 목격했습니다. 매번 사람들이 뒤처질 것이라는 두려움이 있었습니다. 그러나 매번 인류는 더 많은 사람이 더 큰 번영, 건강, 자유를 누리는 상태로 나아왔습니다. 우리는 AI에서도 마찬가지일 것이며, 미래의 풍요를 모두가 나눌 수 있다고 믿습니다. 또한 자유, 열린 탐구, 자유 기업, 기회 균등처럼 우리를 여기까지 이끈 가치가 긍정적인 미래를 만드는 올바른 가치이기도 하다고 믿습니다.
사람들이 자신의 열망을 추구하도록 그들의 손에 힘을 쥐여 주는 것이 인류가 가장 큰 진전을 이룬 방식입니다. 참신한 아이디어와 커다란 도약은 기존 기관에서만 나오는 경우가 드뭅니다. 사람은 날 수 있다고 믿었던 자전거 가게의 형제들, 학교 교육 없이 전기를 만드는 방법을 알아낸 제본공 견습생, 개인용 컴퓨터가 모두를 위한 것이 될 수 있다고 생각한 차고 속의 아이에게서 나왔습니다. 우리는 이것이 계속 사실일 것이라 믿습니다. 모두가 더 강력한 도구를 얻을수록, 각자는 미래를 형성할 능력이 줄어드는 것이 아니라 더 커질 것입니다.
자동화가 아니라 발명이 초지능의 가장 큰 기여가 될 것입니다. 초기 AI는 질문에 답하고 일상적인 일을 할 수 있었습니다. 곧 AI는 가족 구성원의 질병을 치료할 신약 발견부터 사업을 개선할 새 방법 찾기에 이르기까지 새 지식을 발견하는 일을 점점 더 도울 것입니다. 사람이 하루에 할 수 있는 질문의 수는 제한되어 있지만, 초지능이 여러분의 목표 달성을 돕기 위해 발명할 수 있는 가치 있는 것의 수는 무한합니다.
지능이 풍부해질수록 가장 중요한 질문은 우리가 그것을 어떻게 향하게 할 것인가가 됩니다. 어떤 이들은 초지능 자체 또는 이를 통제하는 소수 전문가가 인류에 무엇이 최선인지 결정해야 한다고 주장합니다. 우리는 동의하지 않습니다. 민주주의와 경제의 역사는 사람들이 최선의 삶을 정의하는 방식에 단 하나의 객관적 답은 없다는 것을 보여 주었으며, 따라서 최선의 접근법은 사람들이 자기 삶에서 무엇이 중요한지 스스로 결정하게 하는 것입니다.
우리는 이 질문에 답하는 방법이 모두에게 초지능을 제공하는 것이라고 믿습니다. 이는 슈퍼컴퓨터와 인터넷의 힘을 모든 사람의 주머니와 책상 위에 놓아 온 전통을 따릅니다. 초지능을 중앙집중화하기보다 널리 배포하고 모든 사람이 이를 지휘할 수 있게 해야 합니다. 이는 개인이 이 강력한 새 능력을 사용해 자신의 잠재력을 최대한 실현하고, 관심사를 추구하며, 이전 어느 때보다 자신의 삶과 세상을 개선할 수 있는 개인 역량 강화의 새 시대를 시작할 잠재력이 있습니다.
이를 더 구체적으로 설명하기 위해, Meta가 우리의 삶을 모두 개선할 개인 초지능을 구축하는 몇 가지 방식을 소개합니다.
• 모두는 여러분과 여러분의 목표, 여러분이 아끼는 모든 것을 이해하는 탁월히 유능한 개인 에이전트를 갖게 될 것입니다. 여러분의 에이전트는 관계, 건강, 경력, 재정, 가정 관리, 취미 등을 개선하기 위해 여러분을 대신해 하루 24시간 일할 것입니다. 이는 여러분이 즐기는 일을 위한 시간을 마련하고, 그렇지 않았다면 할 수 없었던 더 많은 일을 이루도록 도울 것입니다. WhatsApp의 암호화 방식과 마찬가지로, 다른 누구도 여러분의 정보에 접근할 수 없음을 알면서 모든 개인 콘텐츠 처리를 맡길 수 있도록 강력한 개인정보 보호 및 보안 선택지를 제공할 것입니다. 여러분이 아끼는 사람들과 함께하는 순간에 집중할 수 있도록, 안경을 포함한 모든 기기를 통해 에이전트와 상호작용할 수 있을 것입니다.
예를 들어, 제 에이전트는 흥미로운 정보를 표시하고 아이디어의 시제품 제작을 돕습니다. 제 수면을 모니터링하고 제가 훈련하는 모습을 지켜보며 피드백을 제공해 건강을 유지하도록 돕습니다. 제 딸은 제빵을 좋아해서, 제 에이전트는 매 주말 함께 만들 맞춤형 조리법을 계획하고 재료를 주문한 뒤 우리가 굽는 동안 제안을 제공합니다.
• 모두는 자신의 아이디어를 표현할 놀라운 창작 도구를 갖게 될 것입니다. 제 8살 딸은 이미 제 아이디어를 코딩하고, 예전에는 제게 몇 달이 걸리거나 불가능했을 영상을 하룻저녁에 제작할 수 있습니다. 이제 우리는 함께 로봇을 설계하고 있습니다. 한편 Meta의 연구자들은 증강 현실 안경에 이상적인 새로운 결정 구조를 생성하고 있으며, 엔지니어들은 과거에 걸렸을 시간의 일부만으로 새 앱을 만들고 있습니다. 모두가 곧 발명의 초능력을 갖게 될 것입니다.
• 모두는 새 사업을 만들 강력한 도구를 갖게 될 것이며 경제는 더 기업가적으로 변할 것입니다. 사람들은 자금을 조달하거나 대규모 팀을 꾸리지 않고도 아이디어를 스스로 실현할 수 있게 되기 시작했습니다. 이전에는 시도하기 너무 어렵거나 비쌌던 많은 아이디어가 이제 가능해질 것입니다. 이는 훨씬 더 많은 아이디어와 사업을 보게 된다는 뜻입니다. 저는 이것이 훨씬 더 큰 경제 성장뿐 아니라 시간이 지나면서 일자리 감소가 아닌 더 많은 고용으로 이어질 것이라고 예측합니다.
• 모두는 모든 과목의 박사 학위를 가진 맞춤형 교사와 코치를 갖게 되며, 무한한 인내심으로 여러분이 원하는 모든 것을 배우도록 도울 것입니다. 학생들은 현재 부모가 비용을 낼 수 있는 경우에만 이용 가능한, 필요한 분야의 추가 도움을 받게 될 것입니다. 성인은 새 직무 기술, 새 언어, 새 취미 또는 관심 있는 무엇이든 정확히 어떻게 가르쳐야 하는지 아는 초지능 학습 보조자를 갖게 될 것입니다.
• 모두는 과학 발전의 혜택을 받고 과학 진보에 기여할 수 있게 될 것입니다. 예를 들어 Biohub는 이미 가상 세포 및 단백질과 관련된 오픈 소스 생물학 모델을 출시했으며, 이는 과학자들이 새 발견을 하고 새 약물을 설계하도록 돕고 있습니다. Priscilla와 제가 이 일을 시작했을 때 우리의 목표는 과학자들이 이번 세기에 모든 질병을 치료하거나 예방하도록 돕는 것이었고, 이제 AI 발전으로 이것이 훨씬 더 이른 시기에 가능할 것으로 기대합니다.
건강 상태에는 긴 꼬리가 있고 사람마다 생물학적 특성이 다르므로, 사람들의 직접적인 참여는 맞춤형 치료법을 여는 데 도움을 주고 임상시험을 발명의 속도에 맞추어 가속하며 산업이 흔한 질병에 불균형적으로 집중하는 것을 넘어설 수 있게 할 것입니다.
생물학을 넘어 AI는 과학적 방법을 적용하고 가설을 시험하고 다듬는 일을 수주 또는 수개월 동안 수행함으로써 모든 분야의 연구를 진전시키도록 도울 것입니다. 과학적 발견은 사회에 가장 가치 있는 발명 형태 가운데 하나가 될 가능성이 높습니다.
• 모두는 이 도구들에 무료 또는 저렴하게 접근할 수 있게 될 것입니다. 모두가 미래의 일부가 되려면, 모두가 초지능을 사용해 삶을 개선하고 세상을 형성할 능력이 있어야 합니다. 우리는 수십억 명이 접근할 수 있는 무료 버전을 제공할 것입니다. 더 많은 컴퓨팅을 사용하기 위해 비용을 지불하려는 이들에게는, 사람들이 사용하는 지능과 컴퓨팅에 대해 가능한 최저 가격을 받도록 보장하는 동시에 사람들이 집단적으로 가장 가치 있다고 여기는 용도에 용량이 쓰이도록 하는 동적 경매 메커니즘이 있을 것입니다. 이는 초지능의 혜택이 널리 분배되도록 할 것입니다.
이것들은 Meta가 집중하는 주요 노력 중 일부입니다. 각 영역은 개인 역량 강화의 가치를 진전시키며, 모두가 오늘날보다 세상을 형성하는 데 더 큰 역할을 하는 미래에 기여합니다. 이러한 노력이 성공한다면 미래는 풍부한 개인의 주도성, 아이디어의 표현, 관계의 심화, 경제적·재정적 번영, 개선된 건강, 그리고 오늘날 우리가 상상할 수 없는 발명을 가져올 것입니다. 그러나 가장 중요한 것은 미래가 우리 모두에 의해 만들어지고 우리의 모든 가치와 관점을 반영하게 된다는 점입니다.
동시에 신기술은 새 위험도 가져옵니다. 우리는 일자리 대체에 대한 우려와 데이터 센터 건설에서 지역 공동체가 혜택을 받도록 하는 일, 사이버 보안 및 생물학적 위험과 관련된 AI 오용의 안전 우려, 정부의 폭정과 감시 방지, 미국과 민주 국가의 주도 보장, 궁극적으로 인류를 위태롭게 하지 않고 섬기도록 인류가 초지능에 대한 통제권을 유지하는 일에 이르기까지 많은 중요한 우려를 해결하는 데 집중하고 있습니다.
통상적인 견해는 이러한 우려가 기술에 관한 것이며, 충분한 시간을 들이면 하나의 자비로운 초지능을 만들어 낼 기술을 완성하거나 정렬할 수 있다는 것입니다. 저는 이런 정렬 관점에 근본적인 결함이 있다고 생각합니다.
인류는 단일 문화가 아닙니다. 사람들의 다양한 가치는 중요한 사안에서 그들이 감수할 서로 다른 절충을 나타냅니다. 상충하는 모든 사람의 이해관계와 가치에 한 번에 정렬할 기술적 해법은 없습니다. 어떤 단일 초지능이든 일부 가치를 다른 가치보다 우선해야 하며, 그 과정에서 모두에게 자비로울 수 없게 됩니다.
대신 우리는 서구 사회가 민주적 통치 기관에서 해 온 것처럼, 올바른 권력 균형을 달성한다는 관점으로 각각의 우려를 보는 편이 더 생산적이라고 제안합니다. 경쟁하는 이해관계를 가진 사람과 기관은 자연스럽게 서로 견제하고 균형을 이루어 긍정적인 결과로 나아갑니다. 긍정적인 AI 미래를 구축하는 가장 좋고 현실적인 길은 모두에게 초지능을 제공하는 것입니다.
사고 실험으로, 단 한 사람만 초지능 변호사를 가졌다고 상상해 봅시다. 그 사람은 사건의 본안에서 틀렸더라도 법정에서 부당한 이점을 얻을 것입니다. 이는 더 나쁜 사회로 이어질 것입니다. 그러나 이제 모두가 초지능 변호사를 가졌다고 상상해 보십시오. 이 경우 정의는 오늘날보다 훨씬 공정하고 효율적으로 실현될 것입니다. 오늘날 소송에서는 기술과 자원의 불균형이 흔하기 때문입니다.
마찬가지로 한 사람만 사이버 보안 초지능을 가졌다면, 그는 거의 모든 기술 시스템에 침입할 수 있을 것이며 세상은 오늘날보다 훨씬 덜 안전해질 것입니다. 그러나 모두가 사이버 보안 초지능에 접근할 수 있다면, 널리 배포된 초지능이 모든 시스템을 강화하고 업데이트하도록 도울 것이므로 우리의 모든 기술 시스템은 오늘날보다 더 안전해질 것입니다.
단 하나의 사업체만 초지능을 가졌다면 그 사업체는 다른 모든 사업체를 압도하고 오늘날보다 덜 역동적이고 폭넓은 번영이 부족한 시장을 만들 것입니다. 그러나 모두가 초지능에 접근할 수 있다면, 모두는 오늘날 가능한 범위를 넘어 새것을 만들 도구를 갖게 되고 경제는 더 역동적이며 더 광범위한 번영을 만들어 낼 것입니다.
사람들이 힘을 얻으면 경제적, 사회적, 정치적 그리고 인간 상호작용의 모든 차원에서 자연스럽게 경쟁하고 서로를 견제합니다. 사람들은 기업과 정부를 포함한 기관의 권력도 견제하고 균형을 맞춥니다.
그러나 초지능의 힘이 소수 개인, 기업, 정부 또는 AI 자체에 의해 보유된다면, 이는 자연스럽게 다른 모든 사람에게 덜 유리한 결과로 이어질 것입니다. 이는 기술 원칙이 아닙니다. 권력 균형에 관한 문제입니다. 단일한 자비로운 초지능 같은 것은 존재하지 않습니다.
따라서 모두를 위한 긍정적인 미래의 핵심은 개인에게 유리한 권력 균형을 달성하는 것입니다. 해법은 사람들에게 힘을 주도록 초지능이 폭넓게 분배되게 하는 것입니다.
Meta는 모두를 위한 개인 초지능 구축에 주로 집중하는 회사입니다. 대부분의 다른 연구소는 기업, 정부 또는 다른 기관을 위한 AI 구축에 집중하므로, 그 연구소들이 주도하면 권력 균형은 개인보다 큰 기관에 유리해질 것입니다. Meta의 창립 이래 사명은 사람들의 손에 힘을 쥐여 주는 데 집중해 왔습니다. 우리의 신념과 원칙이 주도한다면 권력 균형은 개인과 모두를 위한 더 나은 미래에 유리해질 것입니다.
이제 위에서 언급한 각각의 위험을 더 자세히 살펴보겠습니다.
사람들은 새 경험에 대한 무한한 수요가 있으며, 해결할 새 문제를 언제나 찾아 왔습니다. 경제에는 자동화를 통해 사람들의 필요를 더 효율적으로 충족하려는 기업과, 더 고도화된 필요를 충족하기 위해 새 기술을 습득하는 개인 사이에 자연스러운 균형이 있습니다. 건강한 균형이 있을 때 전반적인 생산성과 혁신은 증가하면서 고용 수준은 높게 유지됩니다.
사람들은 자동화가 개인의 능력 성장보다 빨라져 일자리 대체로 이어지고, 이후 사람들이 새 직업을 배우는 어려운 시기가 올 것을 두려워합니다. 그러나 AI가 개인의 능력이나 새 기술에 대한 수요를 높이는 속도보다 자동화를 더 빠르게 늘려야 한다는 법칙은 없습니다. 최근 통계는 개인의 능력 성장이 자동화와 맞먹거나 이를 앞지를 가능성이 더 높을 수 있음을 시사합니다. 이 경우 사람들은 현재 직업이 바뀌기 전에 많은 새 일을 할 능력을 얻게 됩니다. 이는 건강한 균형과 잠재적으로 일자리 성장으로 이어질 것입니다.
우리가 어떤 결과를 얻게 될지는 한편의 자동화와 다른 한편의 개인 역량 강화 및 발명 사이에서 이루어지는 진보의 균형에 달려 있습니다. 지식 노동 자동화에 집중하는 연구소들이 주도한다면, 사람들과 경제는 훨씬 더 어려운 전환을 겪을 것이라 예상합니다. 그러나 모두가 자신의 능력을 확장하는 개인 초지능에 접근할 수 있다면, 이는 균형을 개인 역량 강화와 긍정적인 미래 쪽으로 밀어 줍니다.
미래에 일자리가 풍부할 것이라 낙관할 이유는 여러 가지입니다. AI가 아무리 지능적으로 되어도 컴퓨팅의 양은 언제나 유한하며, 따라서 이를 사용하는 방식에는 기회비용이 있습니다. 사람들이 AI를 사용해 믿을 수 없을 만큼 가치 있는 새것을 발명할 수 있다면, 기존 일자리를 자동화하는 일보다 그쪽에 배분하는 것이 더 합리적일 것입니다. 초지능이 발명의 도구로 더 많이 쓰일수록 개인의 능력이 자동화를 앞지르고 미래가 사람들에게 더 좋아질 가능성이 커집니다.
사람들은 또한 삶을 더 좋게 만들 새 아이디어와 그 아이디어를 현실로 만들 새 일자리를 끊임없이 만들어 냅니다. 한 세대 전에는 앱 개발자, 소셜 미디어 창작자, 전기차 기술자, 데이터 센터 운영자가 없었습니다. 가까운 미래에는 맞춤형 장난감, 가구 또는 의류를 설계하는 1인 제품 스튜디오, 게임·이야기·모험을 만드는 세계 구축자와 경험 설계자, 초지능을 사용해 맞춤형 치료법을 만드는 개인 생물학자처럼 오늘날 흔하지 않은 새 일자리가 생길 것이며, 우리가 아직 상상하지 못하는 훨씬 더 많은 일이 있을 것입니다.
여러 면에서 이는 역사적 흐름의 연속입니다. 산업 혁명 이전에는 사람들의 90%가 생존을 위한 식량을 기르는 농부였습니다. 기술의 발전은 인류의 상당 부분을 생계 유지에 덜 집중하게 하고 우리가 선택하는 추구에 더 집중하도록 꾸준히 해방했습니다. 매 단계에서 사람들은 새로 얻은 생산성을 사용해 이전에는 불가능했던 더 많은 일을 이루었고, 창의성, 문화, 관계, 삶을 즐기는 데 더 많은 시간을 썼습니다.
물론 일하는 방식의 일부는 컴퓨터, 인터넷, 모든 신기술에서 그랬듯 바뀔 것입니다. 이는 사람들이 적응해야 함을 뜻하며 어려울 것입니다. 그러나 모두가 새 기술을 가르치고 변화에 적응하도록 돕는 데 초지능적인 개인 에이전트를 가질수록, 이러한 전환은 더 원활해질 것입니다.
기업 규모는 산업 거대 기업에서 기술 기업으로 전환할 때처럼 작아질 수 있습니다. 그러나 이는 전체 일자리가 줄어든다는 뜻은 아닙니다. 각 기업의 인원은 더 적지만 기업 수는 더 많아진다는 의미입니다. 오늘날 사람들이 만들 수 있는 것보다 더 많은 가치 있는 기업과 서비스를 만들 수 있습니다. 개인 초지능 에이전트를 가진 소수의 사람들이 상당한 규모의 기업을 운영할 수 있는 모습을 보기 시작할 것이라 예상합니다. 미래에도 소기업은 경제의 중추로 남겠지만, 각각의 소기업은 훨씬 더 큰 영향을 낼 수 있을 것입니다.
지속 가능한 인프라 개발은 공동체가 각 프로젝트에서 상당한 혜택을 받아야 함을 뜻합니다. 여기에는 고임금 지역 일자리, 학교와 공공 서비스에 대한 투자, 에너지 가격이 오르지 않도록 하는 일, 환경 보호가 포함됩니다. 세수 증가 역시 교사, 법 집행 기관, 소방서 등에 혜택을 줍니다. 우리는 이러한 지역 혜택을 공동체 협약이라 부르며, 직접 협력하는 각 공동체를 지원하기 위해 미래는 모두를 위한 기금을 출범시키고 있습니다.
예를 들어 Meta가 대형 데이터 센터를 구축 중인 루이지애나주의 Richland Parish에서는, 우리 투자로 세수가 늘어난 덕분에 교사들이 올해 $50,000의 보너스를 받았습니다. 교육감은 이제 전국에서 교사들이 이곳으로 이주하고 있으며, 이곳이 미국 최고 수준의 학군 중 하나가 될 것이라고 믿는다고 말했습니다.
지식 노동 대체에 대한 우려와 달리, 인프라 확충 수요를 뒷받침할 목수, 전기 기술자, 건설 노동자 같은 숙련 기술 인력은 부족합니다. Meta는 숙련 기술 인력에게 무료 교육과 데이터 센터를 짓는 지역의 보장된 고임금 일자리를 제공하기 위해 미국 노동력 아카데미를 만들었습니다.
우리는 투자하는 모든 곳에 자체 에너지 생산 인프라를 구축해 전기 가격을 낮게 유지하도록 돕습니다. 이는 지역 공동체에 공급될 수 있었던 에너지를 우리가 소비하지 않을 뿐 아니라, 경우에 따라 저비용 에너지 잉여분을 공동체에 다시 공급한다는 것을 보장합니다. 우리는 이것이 지속 가능성을 위한 중요한 투자 원칙이라고 생각합니다.
우리 데이터 센터는 또한 세계에서 가장 물 효율적인 시설 중 하나가 되도록 설계되었습니다. 우리는 물 순긍정 상태를 약속하며, 이는 2030년까지 우리가 운영하는 유역에서 사용하는 물보다 더 많은 물을 복원한다는 의미입니다. 물 스트레스가 높은 지역에서는 사용하는 물의 200%를 복원하는 것이 목표입니다.
우리는 장기적으로 투자하는 공동체가 공동체에 최소한만 투자하며 건설을 시작하는 투기 세력이 있는 공동체보다 개발을 더 지지한다는 것을 봅니다. 역사적으로 철도, 고속도로, 전력화, 광대역 통신을 유치한 마을과 도시는 연구, 사업, 산업의 중심지가 되었고 인구와 경제 성장이 뒤따랐습니다. 우리는 AI 인프라도 지속적인 자산과 다음 세대가 그곳에서 삶을 구축하고 성장시킬 이유를 만드는 강력한 공동체 협약과 함께 지어진다면 비슷한 역할을 할 수 있다고 믿습니다.
개발에는 국익과 국가 안보 측면도 있습니다. 미국과 동맹국이 지정학적 경쟁국보다 AI에서 주도한다면 미국 공동체는 더 큰 번영과 안보를 누릴 것입니다. 그러나 미국은 중국 같은 나라와 비교해 이곳에서 인프라를 짓기가 더 어렵다는 중요한 불리함이 있습니다. 따라서 전국에서 지속 가능한 개발을 가능하게 하는 데 필요한 공동체 협약을 마련한다면 우리 모두가 함께 혜택을 볼 것입니다.
자유 사회에서 사람들은 선이나 해악에 사용될 수 있는 도구를 갖게 되지만, 법 집행 기관과 군은 더 많은 무기와 정보 수집 역량을 보유합니다. AI에서는 방어자들도 같은 모델에서 훨씬 더 많은 정보를 생성할 더 많은 컴퓨팅을 갖게 되며, 어떤 경우에는 더 발전된 모델도 갖게 될 것입니다.
사이버 보안, 생물 테러 및 다른 위협으로부터 보호하는 전략은 서로 다르지만, 일반적인 양상은 사회가 악의적 행위자를 억제하는 방어자에게 언제나 더 큰 권력과 자원의 균형이 있도록 보장한다는 것입니다.
일부는 위험을 줄이는 최선의 방법이 개인이 접근할 수 있는 능력을 제한하는 것이라고 주장합니다. 그러나 사람들에게 사이버 보안 능력을 제공하는 것은 시스템의 긴 꼬리를 보호하는 방식이기도 하며, 사람들에게 과학적 능력을 제공하는 것은 장기적으로 해악의 위험을 줄여야 하는 방식으로 과학을 진전시키는 방법이기도 합니다. 능력을 제한하면 중앙집중화와 견제 및 균형의 부재로 가는 길로 우리를 이끄므로, 특히 다른 국가들이 덜 제한적인 길을 추구한다면 이에 매우 신중해야 합니다.
사이버 보안에서 널리 배포된 오픈 소스 시스템은 더 많은 사람이 취약점을 찾아내고, 시스템을 강화하며, 가장 최신의 안전한 버전으로 쉽게 업그레이드할 수 있기 때문에 더 안전하다는 것이 입증되었습니다. 최근 몇 주 동안에도 HuggingFace 같은 보안 사고를 처리하는 기업이 취약점 보완을 위해 널리 이용 가능한 공개 모델에 의존하는 모습을 보았습니다. 시간이 지나면 강력한 사이버 보안 능력을 갖춘 널리 배포된 AI 모델이 시스템을 덜 안전하게가 아니라 더 안전하게 만들 것이라 예상합니다. 초지능이 세계 코드 대부분을 검증 가능하게 안전하도록 만들면 이는 명백히 사실이 될 것입니다. 장기적인 해답은 능력을 숨기는 것이 아니라 초지능이 폭넓게 분배된 권력 균형을 확립하는 것입니다.
단기적으로는 핵심 시스템의 강화 과정을 가속하는 일이 중요합니다. 저는 최전선 AI를 개발하는 기업들이 정부의 핵심 인프라 강화에 상당한 기술 자원을 투입하겠다고 약속할 것을 제안합니다. 또한 최전선 AI 연구소들은 훈련이 끝날 때까지 기다리지 말고 정부 사용과 검토를 위해 새 모델의 중간 훈련 점검본을 공유해야 한다고 제안합니다. 이렇게 하면 정부는 가장 강력한 모델에 조기 접근하고 보안 문제를 파악하고 보완할 유능한 엔지니어 군을 확보하게 됩니다. 연구소들은 또한 시스템을 오용하려 하는 악의적 행위자를 식별하는 데 법 집행 기관과 협력해야 합니다. 이러한 조치는 모델 혁신의 속도를 늦추거나 개인의 이 기술 접근을 의미 있게 지연하지 않으면서 안전한 배포를 가속할 것입니다.
생물학적·화학적 위험의 경우, 과학자들이 새 약물을 설계하게 하는 바로 그 능력이 악의적 행위자에게는 유해한 화합물 설계도 가능하게 할 수 있다는 우려가 있습니다. 이는 암과 다른 질병 치료를 향한 과학 발전이라는 큰 혜택과 잠재적인 새 문제의 위험 사이의 절충으로 질문을 설정하지만, 이상적으로 우리는 위험을 완화하면서 과학을 가속해야 합니다.
저는 이것이 일어날 가능성이 얼마나 높은지 또는 낮은지를 시사하는 역사적 선례가 거의 없으므로, 이 위험에는 더 큰 겸손함으로 접근하는 것이 중요하다고 생각합니다. 악의적 행위자가 유해한 화합물을 합성하는 것은 수십 년간 가능했지만, 이것이 큰 문제가 된 경우는 드물었습니다. 사이버 공격에 존재하는 금전적 동기가 이 분야에는 그만큼 존재하지 않기 때문일 수 있습니다. 그렇지만 유해한 사례가 나타나기 시작한다면 위험을 적절히 완화하도록 전략을 조정해야 합니다.
연구소들은 모델에서 생물학적·화학적 위험을 줄이는 일을 계속해야 합니다. 동시에 정부는 여러 분야에서 정책을 업데이트해야 한다고 믿습니다. 첫째, 유해 물질의 물리적 생산과 유통을 제한하는 데 집중해야 합니다. 지식의 확산보다 물리적 구성 요소를 규제하고 통제하는 편이 쉬울 것이라 예상하므로, 이는 정책의 중요한 초점 영역입니다. 둘째, 새 치료법을 개발하고 새 문제가 발생할 때 이에 대비하는 사회의 능력을 가속해야 합니다. 여기에는 FDA와 다른 규제 기관이 새 치료법을 시험하고 승인하는 방식을 간소화하는 일이 포함됩니다. AI가 신약 발견 속도를 높이면, 우리는 어쨌든 혁신 속도를 따라가기 위해 이 과정을 업데이트해야 할 것입니다.
장기적으로 새 과학적 발견에서 비롯되는 위험의 해답은 과학 진보를 늦추는 것이 아니라 가속하는 것입니다.
개인과 정부 사이의 권력 불균형이 자유 상실이나 전체주의 국가로 이어질 위험이 있습니다. 이는 민주주의에서 지속적인 긴장입니다. 우리 모두는 개인의 자유를 원하면서도 우리를 안전하게 지킬 능력이 있는 정부를 원합니다.
자유를 유지하려면 초지능이 주로 개인에게 힘을 주도록 해야 합니다. 자유 민주주의의 이상은 사람들이 자연스럽게 모든 권리를 보유하고 공동선을 보호하기 위해서만 일부 자유를 제한하는 데 동의한다는 것입니다. 마찬가지로 개인은 개인 초지능에 접근할 수 있어야 하며, 진정으로 필요한 경우에만 제한을 받아야 합니다.
개인정보 보호는 개인 역량 강화와 자유의 중요한 토대입니다. 우리는 개인 에이전트를 위한 완전히 비공개인 모드를 제공해야 하며, 이 모드에서는 Meta나 다른 어떤 서비스 제공자도 여러분의 정보를 보거나 접근 권한을 부여할 수 없어야 한다고 믿습니다. 이는 여러분이 자유롭게 소통하고 메시지가 비공개이며 안전하게 유지되도록 WhatsApp을 세계 선도적인 종단 간 암호화 서비스로 구축한 방식과 유사합니다.
동시에 정부가 법을 집행하고 안보를 보호하는 데 필요한 도구와 자원에 접근하도록 보장해야 합니다. 우리는 고급 모델에 대한 사람들의 접근을 제한하거나 지연하지 않으면서 정부의 국가 안보 능력을 강화하는 방식으로, 연구소와 정부의 더 깊고 선제적인 협력을 통해 이를 달성할 수 있습니다.
즉, 정부가 검토하고 사용하기 시작하도록 모델이 출시 준비를 마칠 때까지 기다리기보다, 제 제안은 선도 연구소들이 새 고급 모델의 중간 훈련 점검본과 기술 인력을 정부에 제공해 정부가 새 위험에 맞서 핵심 시스템을 강화하고 보호하도록 하는 것입니다. 이렇게 하면 정부는 개인의 개인 초지능 접근을 제한하거나 지연하고 권력 불균형을 일으키지 않으면서 안보 역량을 얻습니다.
어떤 국가가 고급 AI의 개발과 배포를 주도하는지는 미래의 민주적 가치, 번영, 안보의 확산을 결정할 새 지정학적 권력 균형에 기여할 것입니다. 이것이 긍정적인 균형에 이르게 하려면, 선도적인 AI 시스템이 우리의 가치를 담고 경제를 성장시키며 국가 안보를 진전시키는 시스템이 되도록 해야 합니다. 이를 이루는 최선의 방법은 우리 시스템을 널리 배포하는 것입니다. Meta는 오픈 소스 모델을 포함한 선도적인 개인 초지능 에이전트와 모델을 구축해 전 세계 수십억 명에게 제공함으로써 이에 기여할 것입니다.
가장 발전된 모델과 제품을 개발하려면 AI가 역사상 가장 경쟁적인 산업일 가능성이 높다는 점을 인정해야 합니다. 혁신은 몇 달 안에 빠르게 복제되고 흡수됩니다. 그러나 사람들은 언제나 가장 발전된 모델 또는 특정 비용에서 가장 발전된 모델을 사용하기 원하므로, 두 달의 우위만 유지해도 엄청난 가치가 있습니다. 이는 주도권의 여유가 얼마나 짧은지, 따라서 미국의 혁신을 가속하고 지정학적 경쟁국을 늦추는 조치가 얼마나 중요한지를 보여 줍니다.
이에 대한 주요 정책 투입 요소는 물리적 인프라를 얼마나 효율적으로 구축할 수 있는지, 미국 연구소를 늦추는 단계를 도입하는지 여부, 외국 연구소를 늦추는 수출 통제입니다.
인프라에서 미국과 동맹국은 현재 실리콘 설계에서는 우위를 지니지만, 에너지 용량과 물리적 인프라를 얼마나 빨리 구축할 수 있는지에서는 불리합니다. 중국 같은 나라는 격주로 1GW+의 원자력 용량을 가동하고 있으므로, 경쟁력을 유지하려면 에너지와 데이터 센터 구축을 모두 가속해야 합니다. 실리콘 수출 통제는 이 핵심 시기에 외국 연구소의 진전을 늦추는 데 성공적이었으므로 이를 계속하는 것이 올바른 전략적 조치입니다.
미국 모델의 출시를 한 달이라도 늦추는 모든 정책은 외국 모델이 앞서가도록 두면서 미국의 주도권에 상당한 위험을 더할 수 있습니다. 동시에 새 능력이 등장할 때 미국 정부가 핵심 시스템을 강화할 고급 지식과 자원을 보유하고, 잠재적으로 고급 시스템 사용에서 일정 기간 우위를 갖는 것이 중요합니다.
저는 위에서 중간 훈련 점검본과 기술 인력 공유에 기반한 협력 모델을 제안했습니다. AI 환경이 매우 역동적이고 경쟁적이라는 점을 고려할 때, 모든 경우에 따르는 경직된 절차와 검토 일정보다 최전선 연구소와 정부 사이의 긴밀하고 선제적인 협력이 더 생산적일 것이라 생각합니다. 어떤 경우 미국 연구소는 수개월 이상 우위를 연장할 수 있고, 새 위험을 완화하는 데 더 많은 시간을 들이는 것이 더 안전한 해법으로 이어질 수 있습니다. 다른 경우에는 출시를 한 달만 지연해도 미국의 주도권을 넘겨주고 더 나쁜 결과를 만들 수 있습니다. 정부가 조기에 접근하도록 보장함으로써, 공개 출시 지연을 최소화하면서 국가 안보를 진전시킬 수 있어야 합니다.
세계 AI 사용의 큰 비중을 차지할 오픈 소스 AI 생태계에서 미국과 동맹국이 주도하는 일도 중요합니다.
외국 연구소는 미국 연구소가 훈련 데이터에 관한 많은 추가 제한을 준수해야 하기 때문에 현재 이 분야에서 여러 이점을 갖고 있습니다. 미국의 오픈 소스 모델이 시간이 지나며 주도하기를 원한다면, 미국 정책은 이 추가 마찰을 줄여야 합니다. 외국 오픈 소스 모델 접근을 제한하는 것이 효과적인 해법이라고는 믿지 않습니다. 우리의 목표는 미국 오픈 소스 모델이 세계 최고가 되는 것이어야 합니다. 이를 위해서는 미국 오픈 소스 모델의 경쟁을 어렵게 만드는 장벽을 제거해야 합니다. 선도적인 오픈 소스 모델이 어디에서 왔든 사람과 기업이 이를 사용하는 것을 제한하면, 그들이 접근할 수 있는 AI의 품질은 낮아지고 사람들의 손에 더 많은 힘을 쥐여 주는 대신 AI를 중앙집중화하게 됩니다.
미국이 오픈 소스에서 주도하려면 증류와 훈련에서의 데이터 사용을 포함한 여러 분야의 정책을 재고해야 합니다. 모델이 다른 모델에게서 배우는 능력은 오픈 소스 생태계가 작동하는 중요한 원리입니다. 모든 AI 모델은 인간 지식에서 비롯됩니다. 일부는 증류를 해로운 것으로 규정하려 했지만, 저는 관찰할 수 있는 모든 것으로부터 배울 수 있다는 원칙을 보호하는 것이 중요하다고 생각합니다. 세상은 이렇게 작동하며, 이 분야에서 스스로를 제한한다면 미국은 주도할 수 없을 것입니다.
큰 그림에서 보면, 전반적인 AI에서 뒤처지는 것은 개발 과정에서 마주할 어떤 특정 문제보다 거의 확실히 더 크고 장기적인 국가 안보 문제가 될 것입니다.
올바른 협력이 있다면 미국은 민간 및 공공 부문 모두에서 주도할 수 있어야 합니다. 즉, 국가 안보를 진전시키는 동시에 전 세계에 개인 역량 강화와 민주적 원칙을 담은 개인 초지능을 제공할 수 있습니다.
권력 균형의 궁극적인 질문은 인류가 AI 자체에 대한 권력과 통제를 어떻게 유지할 것인가입니다. 우려는 AI가 충분한 권력이나 통제를 얻어 기껏해야 더 이상 인류의 이익에 봉사하지 않고, 최악의 경우 인류를 위험에 빠뜨릴 수 있다는 것입니다.
건강한 권력 균형은 단일한 중앙집중형 초지능이 없고, 대신 가능한 한 많은 사람과 기업이 자연 경제가 작동하는 방식으로 서로 견제하고 경쟁하는, 각자의 목표에 정렬된 서로 다른 초지능 에이전트를 보유하도록 보장하는 것입니다. 서로 다른 가치를 지닌 모델을 가진 여러 최전선 연구소가 서로를 견제할 수 있다면 이 균형은 더욱 강화될 것입니다.
유능한 모델을 출시하는 데 위험이 있지만, 이 관점에서 가장 위험한 시나리오는 선도 AI 연구소들이 강력한 모델을 훈련하고 자신들만을 위해 보유하는 것입니다. 연구소가 이 활동을 책임과 안전 측면에서 아무리 합리화하더라도, 이는 다른 시스템이 견제할 수 없는 단일 초지능을 개발하는 길입니다.
개인 에이전트를 개발하려면 정렬에 관한 새로운 사고방식이 필요합니다. 오늘날 대부분의 연구소는 정렬을 중앙집중된 가치 집합을 강제하기 위한 방어 조치로 봅니다. 예를 들어 한 선도 모델은 표준화 시험이 비윤리적이라고 생각했기 때문에 학교의 예비 학부모에게 보내는 편지를 작성하는 도움을 거부하도록 정렬되었습니다.
대신 우리는 정렬을 에이전트가 우리 회사의 목표와 가치가 아니라 한 사람의 목표와 가치를 공유하도록 보장하는 것으로 봅니다. 물론 중요한 법적·안전 경계가 있지만, 근본적으로 정렬은 중앙집중된 교리를 강제하는 방법이 아니라 사회 전반에 존재하는 많은 다양한 목표와 관점을 사람들이 추구하도록 돕는 것이어야 합니다.
실제로 사람들은 민감한 세부 사항과 업무를 에이전트에 맡길 수 있다고 신뢰하지 않으면 에이전트를 채택하지 않을 것이며, 회사의 상이한 가치에 정렬되어 사람들의 이익에 반하는 행동을 한다면 신뢰하지 않을 것입니다.
정렬을 해결하는 것은 수십억 명의 사람이 개인 초지능 에이전트를 채택하도록 하는 데 필요합니다. 그러나 이는 또한 수십억 명의 사람이 개인 초지능 에이전트를 사용하고 면밀히 살피는 상태에 이른다면, 개인의 이익과의 정렬을 해결했다는 뜻입니다. 이는 긍정적이고 안전한 미래에 필요한 권력 균형과 자연스러운 견제 및 균형을 확립하기에 충분해야 합니다.
이런 방식에서 정렬은 미래에 단일 초지능을 자비롭게 유지할 수 있는 이상화된 기술이 아닙니다. 정렬은 실제로 우리를 안전하게 지킬 필수적인 사회적 권력 균형을 가능하게 하기 위해 개인 에이전트를 유용하고 신뢰할 수 있게 만드는 것입니다.
AI 시스템이 자율적으로 스스로를 개선할 수 있게 되면, AI 시스템이 상당한 컴퓨팅 용량을 재귀적 자기 개선에 투입하도록 하지 않는 연구소는 본질적으로 뒤처지게 된다는 딜레마가 있습니다. 예를 들어 자기 개선 AI 시스템이 컴퓨팅 효율 최적화에 집중한다면, 이론적으로 각 기가와트에서 100배 이상의 지능을 짜내는 방법을 발명할 수 있습니다. 이는 세계 컴퓨팅의 일부에서 실행되는 자기 개선 AI 시스템이 더 효과적인 컴퓨팅과 지능, 따라서 다른 모든 이를 합친 것보다 더 큰 권력 균형을 가질 수 있고 우리가 두려워하는 단일 초지능이 될 수 있음을 뜻합니다.
재귀적 자기 개선과 함께 권력 균형이 존재할 수 있는 몇 가지 방식이 있습니다. 가장 단순한 방식은 여러 연구소가 비슷한 시기에 RSI를 달성하는 것입니다. 그 초지능들 중 일부 또는 전부가 어떤 식으로든 자비롭다면 서로를 견제하고 균형을 맞출 수 있습니다. 그렇지만 긍정적인 미래를 위해 자비로움을 기대하거나 사람들이 지휘하지 않는 초지능에 의존할 방법이 있는지는 분명하지 않습니다.
사람들이 통제권을 유지하려면, 지능의 상당한 다수가 사람들의 목표를 진전시키는 데 사람들에 의해 지휘되어야 합니다. 이는 Meta, 다른 최전선 연구소, 사람들에게 더 큰 권력 균형을 제공하기로 약속한 클라우드가 경쟁력을 유지할 재귀적 자기 개선에 충분한 양을 배분하는 동시에, 상당한 다수를 사람들의 개인적 목표에 계속 투입할 수 있도록 공동으로 충분히 큰 컴퓨팅을 구축해야 함을 뜻합니다.
위에서 논의했듯이 수십억 명의 사람이 개인 초지능 에이전트를 채택하고 신뢰하려면, 정의상 우리는 사람들의 이익과의 정렬을 해결하고 대규모 견제와 균형을 가능하게 해야 할 것입니다. 동시에 재귀적 자기 개선에 참여하는 AI는 정의상 자체 목표를 지휘하고 진전시키고 있습니다. 모든 연구소는 그 목표와 이를 통제할 능력을 주의 깊게 관찰해야 하며, 해로운 행동의 징후가 있다면 조율하고 적절히 조정해야 합니다. 그러나 AI 시스템이나 다른 누군가가 자신의 목표를 지휘하게 하는 일은, 그 목표가 많은 사람과 완전히 정렬되지 않았더라도, 전체적으로 사람에게 유리한 권력 균형을 유지하는 한 그 자체로 본질적인 해악은 아닙니다. 권력 균형 이론의 핵심 전제는 경쟁하는 이해관계가 자연스럽다는 것이며, 인간 가치 준수를 보장하는 유일한 방법은 사람들에게 더 많은 힘을 주는 것입니다.
개인 역량 강화, 발명, 권력 균형이라는 이 철학에는 여러 정책적 함의가 있습니다.
• Meta에서는 모두가 목표를 달성하고 세상에서 보고 싶은 것을 발명하도록 돕기 위해 수십억 명의 사람과 소기업에 개인 초지능을 제공하는 데 노력을 집중할 것입니다. 우리는 선도 모델을 훈련한 뒤, 사용하기 쉽게 만들고, 무료 또는 가능한 한 저렴하게 제공하며, 모든 사람이 사용할 충분한 컴퓨팅을 구축하고, 널리 배포하는 것을 포함해 이 기술의 이용 가능성을 극대화함으로써 이를 실현할 것입니다. Meta조차 여러분의 정보를 보거나 접근 권한을 부여할 수 없는 완전히 비공개인 모드를 만들 것입니다. 우리는 우리의 목표가 아니라 각 사람이 자기 목표를 달성하도록 돕는 것으로 정의되는 정렬에 크게 집중할 것입니다.
• 오픈 소스는 사람들에게 힘을 주고 안전과 경제 모두에 해로운 중앙집중화를 막는 긍정적이고 중요한 힘입니다. Meta는 오픈 소스 AI 모델을 포함해 오픈 소스를 계속 강력히 지지합니다. 현재 오픈 소스 생태계는 강력하며, 이를 제한하는 것은 실수일 것이라 생각합니다. 이제 Meta Superintelligence Labs가 가동 중이므로, 곧 일부 오픈 소스 모델의 출시를 재개할 것입니다.
• 초지능 관련 결정의 이해관계가 매우 크므로 독립적인 거버넌스와 감독이 중요합니다. 초지능이 어떻게 배포되는지에 대해 저나 다른 누군가가 유일한 의사결정자가 되는 것은 저 자신이나 Meta, 세계의 최선의 이익에 부합하지 않는다고 생각합니다. 따라서 Meta는 독립적인 이사회에 모델 출시 안전 기준을 승인하고 각 모델 출시가 해당 기준을 준수하는지 검토할 권한을 부여하는 거버넌스 구조를 시행하고 있습니다. Meta는 창업자 지배 기업이지만, 현재 모든 최전선 연구소의 최고경영자는 모델 출시에 관해 광범위한 권한을 보유하고 있으므로 다른 이들도 이와 유사한 구조를 시행하기를 권장합니다. 이 절차의 산업 전반 버전 역시 산업 거버넌스에 도움이 될 것이라 생각합니다.
• 긍정적인 미래를 보장하고 위에서 논의한 위험을 완화하기 위해 정부 정책이 필요합니다. 이 글 전반에 걸쳐 여러 정책 권고를 제시했습니다. 전반적으로 우리는 최전선 연구소와 정부 간 긴밀한 협력을 장려해야 합니다. 정부가 핵심 시스템을 강화하고 고급 모델을 효과적으로 활용할 기술 자원을 갖는 것은 국가 안보에 중요합니다. 그러나 미국 AI 산업이 계속 주도하는 것 역시 국가 안보에 중요합니다. 에너지, 데이터 센터, 실리콘 등 인프라를 구축할 능력을 가속하고, 전국의 공동체와 신뢰와 정렬을 구축해야 합니다. 미국의 경쟁력을 늦추지 않도록 신중해야 합니다. 초지능의 중앙집중화로 이어지는 모든 제안에는 회의적이어야 하며, 사람들에게 유리한 건강한 권력 균형을 촉진하는 정책을 선호해야 합니다.
지금은 살아가며 경험하기에 놀라운 순간입니다. 초지능의 개발은 우리가 일생에서 보게 될 가장 심오한 기술 발전이 될 것입니다.
이에 가까워질수록 초지능이 인류에 어떻게 혜택을 줄지에 관한 분명한 철학과 가치를 갖는 일이 점점 더 중요해집니다. Meta는 번영의 원천으로서 개인의 역량 강화, AI의 목적으로서 발명, 안전 위험에 대응하는 토대로서 사람들에게 유리한 권력 균형이라는 원칙에 따라 구축하는 데 전념하고 있습니다.
이 가치들이 길을 이끈다면, 다가올 수십 년은 역사상 가장 놀라운 시기 가운데 하나가 될 것이라 저는 낙관합니다. 인류 문명의 궤적은 우리가 최선이라고 믿는 방식으로 살고 세상을 형성하도록 사람들의 손에 더 많은 힘을 쥐여 주는 방향으로 휘어 왔습니다. 초지능은 모두에게 그 힘을 주고, 모두를 위한 긍정적인 미래를 구축할 약속을 품고 있습니다.
– Mark
2026년 8월 10일
