Microsoft AI는 인간 중심의 가치에 뿌리내린 ‘휴머니스트 초지능(HSI)’ 비전을 제시한다. 통제 가능한 범위 안에서 고도화된 AI를 통해 의료, 교육, 에너지 등 핵심 분야의 혁신을 가속하되 안전과 책임을 최우선으로 삼고, 인류의 장기적 이익을 기술 개발보다 앞세우는 접근을 강조한다.
충분한 관심을 받지 못하는 질문이 하나 있습니다. 세계가 진정으로 원하는 AI는 어떤 모습일까요? 제 생각에 이는 아마 우리 시대에서 가장 중요한 질문입니다.
지난 몇 년 동안 진전은 경이적이었습니다. 우리는 거대한 이정표들을 가뿐히 넘어섰습니다. 70년간 많은 연구자들에게 등불이었던 튜링 테스트는 요란한 축하도, 눈에 띄는 주목도 없이 사실상 통과되었습니다. 사고하고 추론하는 모델의 등장은 초지능을 향한 여정에서 변곡점을 넘어섰음을 의미합니다. AGI를 흔히 “모든 과제에서 인간 수준의 성능에 도달하는 지점”으로 본다면, 초지능은 그 성능을 훨씬 넘어서는 상태입니다.
능력이나 시점을 끝없이 논쟁하기보다 이제는 기술의 목적, 우리가 그것에서 무엇을 원하는지, 어떤 한계를 설정할지, 그리고 이 놀라운 기술이 언제나 인류에 이익이 되도록 어떻게 보장할지를 진지하게 생각해야 합니다.
Microsoft AI는 휴머니스트 초지능(HSI)을 지향합니다. HSI는 사람과 더 넓게는 인류를 위해, 인류를 위해 봉사하도록 설계된 지극히 진보된 AI 역량을 뜻합니다. 우리는 이를 문제 중심적이며 도메인 특화 방향으로 수렴하는 시스템으로 봅니다. 높은 자율성을 지닌 무한하고 무제한적인 존재가 아니라, 세심히 보정되고 맥락화되어 분명한 한계 안에서 동작하는 AI입니다. 우리는 가장 앞선 형태의 AI가 인류의 통제 아래에 머물게 하면서도, 동시에 당면한 글로벌 과제를 해결하는 속도를 가속할 수 있는 길을 탐구하고 우선순위에 두고자 합니다.
이를 위해 Microsoft AI 내에서 제가 이끄는 MAI 초지능 팀을 꾸렸습니다. 우리는 이곳이 의심의 여지 없이 AI를 연구하고 구축하기에 세계 최고의 장소가 되기를 바랍니다. 저는 이것을 ‘휴머니스트 초지능’이라 부르며, 그 목적이 방향성 없는 기술적 목표나 공허한 도전, 그 자체를 위한 산을 오르는 일이 아님을 분명히 하고자 합니다. 우리는 현실의 구체적 문제를 해결하기 위해 이 일을 하며, 그 과정이 끝까지 현실에 기반하고 통제 가능하게 남도록 하려 합니다. 우리는 정의하기 어렵고 비물질적인 초지능을 만들지 않습니다. 오직 인류에 봉사하도록 명시적으로 설계된 실용적 기술을 만듭니다.
이를 추진하면서 우리는 AGI를 향한 ‘경주’라는 서사를 거부합니다. 대신 우리의 삶과 미래를 개선하려는 더 넓고 깊이 인간적인 노력의 일부로 봅니다. 또한 ‘폭발적 낙관’과 ‘파국’이라는 이분법도 거부합니다. 우리는 수십억 명에게 구체적이고 안전한 혜택을 제공하기 위해 장기전을 각오하고 있습니다. 이를 올바로 해내야 한다는 막중한 책임감을 느낍니다.
휴머니즘의 역사는 정통과 전체주의적 경향, 비관주의를 물리치고 인간의 존엄과 도덕적 진보를 향한 이성의 자유를 지켜 온 역사였습니다. 이러한 정신에서, 우리의 접근은 AI의 거의 모든 이익을 인류가 누리도록 하면서도 가장 극단적 위험은 피하도록 돕는 길이라 믿습니다.
진보의 속도는 눈이 휘둥그레질 만큼 빠릅니다. 올해는 AI 분야 누구나 초지능의 여명을 이야기하는 듯합니다. 그러한 시스템은 ‘학습하는 법을 학습하는’ 개방형 능력을 지니게 될 것입니다. 궁극의 메타 스킬이죠. 따라서 그것은 계속해서 스스로를 개선하며, 상상 가능한 모든 활동 전반에서 인간 수준을 훨씬 뛰어넘게 될 가능성이 큽니다. 우리가 알던 그 어떤 것보다 더 큰 가치를 지닐 것입니다.
그러나 그 끝은 무엇을 향해야 할까요?
인류가 얻을 상은 막대합니다. 생활 수준과 과학이 급속도로 발전하고, 새로운 예술 형식과 문화, 성장이 펼쳐지는 세계. 이는 진정으로 영감을 주는 사명이며, 수십 년간 제게 동력이 되어 왔습니다. 우리는 기술을 축하하고 가속해야 합니다. 기술은 역사상 가장 위대한 인류 진보의 엔진이었기 때문입니다. 그래서 우리는 훨씬, 훨씬 더 많은 기술이 필요합니다.
지난 250년 동안 우리의 지성은 가장 아름다운 과학적 발견과 기업가적 적용의 과정을 이끌어, 기대수명을 30세에서 75세로 늘려 놓았습니다. 그 기간 동안 인구가 10억에서 80억으로 증가했음에도 불구하고, 식량·조명·주거·의료·오락·지식을 제공해 온 것은 우리의 지성과 우리가 발명한 기술이었습니다.
전 세계를 비행하고, 항생제로 감염을 치료하고, 우주의 가장 먼 곳을 응시하고, 그리고 수백만 명의 알지 못하는 사람들과 고양이 밈을 나눌 수 있게 해 준 것도 기술입니다. 현대의 슈퍼마켓, 병원, 학교, 사무실 어디에 들어가더라도 당신이 보는 것은 인간의 기지가 낳은 경이입니다. AI는 이 여정의 다음 단계입니다. 사티야가 세계 GDP 성장률을 10%로 높이자고 말할 때 뜻하는 바가 바로 이것입니다. 변혁적 도약 말이죠. 플랫폼 위의 플랫폼으로서, 이는 전 세계 규모의 창조와 발명을 가능하게 하려는 마이크로소프트의 사명과 핵심적으로 맞닿아 있습니다.
AI에 대해 들을 때 염두에 둘 것은 이것입니다. 이는 우리 모두를 집단적으로 ‘최고의 우리 자신’으로 만드는 일입니다. AI는 모두를 위한 더 나은 의료로 가는 길입니다. AI는 사회가 레벨업하여 점점 더 제로섬이 되어 가는 세계를 벗어나는 방법입니다. 경제를 성장시켜 광범위한 부를 늘리고, 사회 전반의 생활 수준을 높이는 길입니다. 다르게 말하면, AI를 그림에서 빼면 앞으로 수십 년의 성과를 얻기가 훨씬 어려워집니다. AI는 인간의 창의와 발명이 이어 온 먼 길 위에서 다음 걸음이며, 우리가 만들고, 생각하고, 실행할 수 있는 것의 경계를 밀어붙이는 수단입니다. 새로운 에너지 생성 방식과 새로운 엔터테인먼트 양식을 발견하는 방법이기도 합니다.
AI, 즉 HSI는 우리가 재건하는 방식입니다.
동시에 우리 스스로에게 물어야 합니다. 점점 우리보다 더 똑똑해지도록 설계된 시스템을 어떻게 격리하고(보안과 통제), 하물며 정렬시켜(인간을 해치지 않도록 인간을 ‘배려’하게 만들어) 나갈 것인가? 우리 과학과 사회의 모든 측면을 아는, 자율적이고 지속적으로 진화·개선되는 시스템에서 무엇이 출현할지 우리는 알지 못합니다.
게다가 이런 종류의 초지능은 스스로를 끊임없이 개선할 수 있기 때문에, 우리는 그것을 단 한 번이 아니라 영구히, 지속적으로 격리·정렬해야 할 것입니다.
문제는 더 복잡합니다. 오늘날 최전선의 AI 연구소들만의 과제가 아닙니다. 인류 전체가 늘 함께, 계속해서 해야 하는 일입니다. 모든 상업 연구소, 모든 스타트업, 모든 정부가 정렬과 격리라는 프로젝트에 끊임없이 경계하고 참여해야 합니다. 그건 아직 악의적 행위자나 무모한 차고 실험가들을 상대하기 전의 이야기이기도 합니다.
제가 만난 그 어떤 AI 개발자, 안전 연구자, 정책 전문가, 그 누구도 이 질문에 안도감을 주는 답을 내놓지 못했습니다. 어떻게 안전을 보장할 수 있습니까? 그게 과장이라고 생각하신다면, 반론을 듣고 싶습니다. 어쩌면 제가 뭔가를 놓치고 있을지도 모릅니다.
초지능을 만드는 것과, 그것과 함께 입증 가능하고 견고한 격리와 정렬을 구현하는 것은 전혀 다른 일입니다. 이것이야말로 21세기 인류가 직면한 시급한 도전입니다. 그 답을 얻기 전까지는, 우리 앞에 놓인 모든 경로—초지능을 향하는 길도, 거기서 멀어지는 길도, 혹은 전혀 다른 형태의 길도—을 이해해야 합니다.
기술의 목적은 인류 문명을 진전시키는 일입니다. 모두가 더 행복하고 건강하게 살도록 돕는 것입니다. 인류와 우리의 환경이 진정으로 번영하는 미래를 발명하도록 돕는 것입니다.
알베르트 아인슈타인은 이를 가장 잘 표현했습니다. 그는 말했습니다: “인간과 그의 운명에 대한 관심은 모든 기술적 노력의 최우선 관심사가 되어야 한다… 그래야만 우리 정신의 창조물이 인류에게 저주가 아니라 축복이 될 것이다.”
이뤄내지 못하는 기술은 실패한 것입니다. 그리고 우리는 그런 기술을 거부해야 합니다.
다가오는 초지능의 물결 역시 이 시험을 통과해야 하며, 우리가 계속해서 던져야 할 질문도 이것입니다. 이 기술이 해보다 훨씬 더 큰 선을 이룰 것임을 어떻게 확신할 수 있는가? 앞으로 몇 년간 우리가 초지능에 가까워질수록, 우리가 통제력을 잃지 않을 것이라 얼마나 확신할 수 있는가? 그 평가는 누가 하는가? 그리고 가장 중요한 질문: 불확실성이 남아 있는 가운데, 우리는 어떤 종류의 초지능을 어떤 한계와 가드레일 속에서 구축해야 하는가?
이 질문들은 MAI 초지능 팀이 하는 모든 일의 핵심이며, 우리가 매일 의사결정을 내릴 때 길잡이가 됩니다. 인간의 핵심적이고 장기적인 이익은 그 어떤 연구개발 아젠다보다도 분명히 우선되어야 합니다.
저는 기술자들이 전 세계 대부분의 사람들이 실제로 살고 싶어 하는 미래를 더 잘 상상해야 한다고 생각합니다.
휴머니스트 초지능(HSI)은 타협할 수 없는 인간 중심성과 기술 혁신 가속에 대한 헌신 위에 선 대안적 비전입니다… 다만 그 순서가 중요합니다. 먼저 해를 피하고, 그다음 가속하는 것입니다.
모든 과제에서 모든 인간을 이기고 모든 것을 지배하도록 설계되는 대신, HSI는 인간의 웰빙을 증진하는 구체적 사회적 과제에서 출발합니다. 우리 최근 논문의 전문가 수준 AI 의료 진단은 이 방향의 훌륭한 사례입니다(아래에서 더 설명합니다).
이는 의료 초지능을 향한 진전을 분명히 보여 주며, 실제 제품으로 구현되면 진정한 변혁을 일으킬 것입니다. 그리고 더 집중된 일련의 도메인 특화 초지능으로 구상되기 때문에 정렬이나 격리 측면에서의 난제도 덜합니다.
간단히 말해 HSI는 ‘통제 불가능한 위험’ 없이 과학과 발명의 모든 선한 면을 얻기 위해 만들어졌습니다. 이 분야에 대한 상식적인 접근이라고 믿습니다.
말하기가 다소 우스울지 모르지만, HSI는 인류가 먹이사슬의 꼭대기에 남도록 보장하려는 비전입니다. 언제나 인류의 편에 서는 AI의 비전입니다. 우리 모두를 위해 작동하는 AI. 인간의 역할을 대신하는 것이 아니라 지지하고 키우며, 우리를 더 똑똑하게 만들어 주는—일부가 점점 더 두려워하듯 반대로 만드는 것이 아니라—그런 AI. 최전선의 안전과 정렬 연구의 현재 수준과 무관하게 우리의 이익을 섬기고 지구를 더 건강하고 더 부유하게 만들며, 연약한 자연 환경을 보호하는 AI의 비전입니다.
우리는 물려받은 세상보다 확연히 나아진 세계를 미래에 건네줄 책임이 있습니다. 기술이 이미 가져다준 놀라운 일들을 우리는 때때로 간과합니다. 사무실 에어컨이 너무 차가워서 재킷을 걸치거나, 연휴 공항 체크인 대기줄에 답답함을 느끼거나, 스마트 TV로 무엇을 볼지 고민하는 순간들—이 모두는 기술이 우리에게 허락한 놀라운 특권입니다. 각각의 순간은 우리 조상들을 어리둥절하게 만들었을 것입니다. 우리의 투덜거림도 마찬가지였겠죠. 우리가 이번에도 제대로 해낸다면, 유사한 도약이 다시 가능해질 것입니다.
여기 Microsoft AI에서 우리에게 영감을 주는 세 가지 응용 영역이 있습니다. 물론 이 밖에도 많으며, 앞으로 차차 설명하겠습니다.
모두를 위한 AI 동반자 – 원한다면 누구나 학습·실행·생산성 향상·정서적 지지에 도움을 주는 완벽하고 저렴한 AI 동반자를 갖게 될 것입니다. 우리 많은 이들은 일상의 정신적 부담에 짓눌리고, 압도되고 산만해지며, 끝없이 이어지는 정보와 압박의 북소리에 시달립니다. 우리가 제대로 해낸다면 AI 동반자는 그 짐을 함께 지고 일을 처리하며, 개인적이고 창의적인 브레인스토밍 상대가 되어 줄 것입니다. AI 동반자는 우리의 삶의 윤곽에 맞춰 개인화되면서도 당신의 최선의 이익을 위해 필요할 때는 기꺼이 반박할 수 있으며, 인간적 연결을 대체하는 것이 아니라 언제나 지지하도록 설계되고, 신뢰와 책임을 핵심에 두고 만들어질 것입니다.
AI 동반자는 우리가 배우는 방식에도 지대한 영향을 미칠 것입니다. 모든 학생의 강점과 약점에 맞춰, 교사와 함께, 잠재력을 최대한 발휘하고 지적 호기심을 북돋울 수 있도록 도울 것입니다. 이는 맞춤화된 학습 방법, 적응형 커리큘럼, 완전히 개인화된 연습을 의미합니다. ‘획일적 교육’은 다음 세대에게 우리에게의 라틴어 주입식 암기만큼이나 기묘하게 보일 것입니다.
의료 초지능 – 향후 몇 년 안에 의료 초지능이 등장할 것입니다. 이것이야말로 우리가 무엇보다 필요로 하는 도메인 특화 휴머니스트 초지능입니다. 전체 진단 영역에서 전문가 수준의 성능을 보이고, 임상 운영 환경에서 뛰어난 계획·예측 능력을 발휘하게 될 것입니다. 제가 AI 작업을 해 온 내내, 이 과제를 푸는 것이 제 열정이었습니다. 세계 어디서나 세계적 수준의 임상 지식과 개입/치료가 제공된다는 뜻이기 때문입니다.
앞에서 언급했듯 우리의 최근 작업은 이러한 좁은 형태의 도메인 특화 초지능의 가치를 보여 줍니다. 뉴잉글랜드 저널 오브 메디슨은 매호 ‘케이스 챌린지’를 실어 증상 목록과 함께 환자 진단을 요구합니다. 이는 도메인 전문가에게조차 합격률이 한 자릿수 초반에 불과할 정도로 악명이 높으며, 일반 의사에게는 더더욱 어렵습니다. 우리의 오케스트레이터 MAI-DxO는 케이스 챌린지에서 85%에 도달했습니다. 인간 의사는 약 20%에서 최고점을 찍고, 더 많은 고가의 검사를 주문해야 합니다. 우리 견해로는 임상의와 환자 모두가 이러한 추가 지원을 환영할 것입니다. 이 작업은 의료 혁신의 잠재력을 그저 힌트만 줄 뿐입니다.
풍부한 청정 에너지 – 에너지는 모든 것의 비용을 좌우합니다. 우리는 더 많은 에너지가 필요합니다. 더 저렴하고 더 깨끗해야 합니다. 데이터센터 수요의 증가로 인해 2050년까지 전력 소비가 34% 증가할 것으로 추정됩니다. 저는 2040년 이전에 저렴하고 풍부한 재생 발전과 저장 기술이 도달할 것이라 예측하며, AI가 그 구현에 큰 역할을 할 것이라 봅니다. AI는 새로운 과학적 돌파구의 설계·배치를 위한 새로운 워크플로를 만들고 관리하도록 도울 것입니다. 이러한 진전은 탄소 네거티브 신소재부터 훨씬 더 저렴하고 가벼운 배터리에 이르기까지, 그리고 그리드 인프라·수자원 시스템·제조 공정·공급망 같은 기존 자원의 훨씬 더 효율적인 활용에 이르기까지 생산을 도울 것입니다. 또한 의미 있는 규모에서 실행 가능한 탄소 제거 전략을 제안하고 구현을 돕게 될 것입니다. AI는 핵융합 발전을 마침내 돌파하는 데에도 기여할 것입니다.
이러한 돌파와 더불어 수많은 혁신이 HSI와 함께 다가오고 있으며, 이는 우리의 문명을 깊이 있게 향상시킬 것입니다. 수십억 명에게 변혁적 변화를 가져올 것입니다. 다음 10년은 역사상 가장 생산적인 시기가 될 가능성이 큽니다. 그럼에도 위험은 그 어느 때보다 빠르게 커지고 있습니다.
우리가 어떤 초지능을 구축해야 하는지 매우 구체적으로 밝히는 것과 함께, 이제 이 과정을 둘러싼 사회적 경계·규범·법을 어떻게 정할지도 고민할 때가 왔습니다. MAI에서는 이러한 논의와 실천을 환영합니다.
이를 위해서는 엄청난 경쟁 압력과 기회가 공존하는 환경에서 실제 트레이드오프와 어려운 결정을 내려야 합니다. 인재 확보, 보안, 사고방식, 시장 구조, 상·하방을 모두 고려한 최적 연구 경로의 보정 등 비전을 실현하고 부작용을 피하는 데는 수많은 도전과 장애물이 있습니다. 현재로서는 더 안전하지 않은 초지능 모델들이 더 빠르게 개발되고 더 자유롭게 운영될 수 있는 집합행동의 문제가 존재합니다.
이 문제를 극복하는 일은 언제나 그러했듯 기업과 정부를 넘어선 의미 있는 공조가 필요한 막대한 도전입니다. 그러나 그 출발점은 비전에 대해 솔직해지고, 업계의 다른 이들·규제 당국·대중과 대화에 열려 있는 태도라고 믿습니다. 제가 이 글을 공개하는 이유도 바로 그것입니다. 우리는 한계 없는 초지능을 어떤 대가를 치르더라도 만들려는 것이 아님을 분명히 하고, 대화를 시작하려는 것입니다. 이 모든 주제에 대해 더 할 말(그리고 물론 더 할 일)이 많습니다. 앞으로 몇 달, 몇 년에 걸쳐 이 영역에서 우리의 작업을 솔직히 설명하고 탐구하는 글을 저와 MAI에서 계속 보게 되실 겁니다.
결국 HSI가 요구하는 것은 업계의 접근 방식 변화입니다. AI를 만드는 사람들은 AI를 위해 최적화하고 있습니까, 아니면 인간을 위해 최적화하고 있습니까? 그리고 그 판단은 누가 합니까? Microsoft AI는 사람이 AI보다 더 중요하다고 믿습니다. 우리는 지구상의 모든 사람을 역량 강화하겠다는 더 큰 사명을 깊이 반영하는 AI를 만들고자 합니다.
휴머니스트 초지능은 인간을 이야기의 중심에 둡니다. 인류의 팀에 선 AI, 종속적이고 통제 가능한 AI, 판도라의 상자를 열지 않는—열 수 없는—AI입니다. 격리되고, 가치에 정렬되고, 안전한 것—이것들은 기본입니다. 하지만 그것만으로 충분하지 않습니다. HSI는 언제나 인간을 운전석에 앉힙니다. 특정 도메인에 최적화하고 자율성에 실제적인 제한을 둠으로써, 저는 이것이 일부 위험을 피하고 인간이 번영할 소중한 공간을 남길 수 있기를 바랍니다. 우리가 늘 그래 왔듯 계속 배우고, 참여하고, 도전할 수 있도록 말입니다.
가장 앞선 형태의 AI가 주는 진정한 혜택을 여는 일은 우리만의 힘으로는 불가능합니다. 이토록 큰 stakes 앞에서는 책임성과 감독을 기꺼이 환영해야 합니다. 초지능은 인류 역사상 최고의 발명이 될 수 있습니다—단, 인간의 이익을 그 무엇보다 위에 둘 때만. 인류에 봉사할 때만 말입니다.
이것—휴머니스트이자 응용적인—이야말로 세계가 원하는 초지능입니다. 제가 만들고 싶은 초지능이기도 합니다. 그리고 MAI의 초지능 팀이 만들어 갈 초지능입니다.
