한 연구원이 이민 단속 공급망과 군사 AI 계약을 둘러싼 Google DeepMind 내부의 윤리적 갈등, 조직적 침묵, 그리고 퇴사를 이끈 과정을 기록한다.
목차
- Google은 이민 단속 공급망을 지원한다
- Jeff Dean과 대화하기
- 펜타곤은 Anthropic을 위협하려 한다
- Google의 계약 서명을 막으려 하기
- 고위 경영진은 Google이 굴복하지 않을 것이라고 주장했다
- Jeff Dean과의 점심을 준비하기
- Jeff와의 점심
- 아무도 답하지 않으니 CEO에게 직접 메시지를 보내면 안 될까?
- Google은 조용히 계약에 서명한다
- Demis는 Google의 AI 원칙이 “바뀌지 않았다”고 주장한다
- 성찰
- 내가 Google DeepMind를 떠난 이유
- 부록: 예상 질문
- 부록: “걱정하지 마세요, API 접근일 뿐입니다”
- 각주
1월, 국토안보부(dhs) 직원들은 적어도 두 명을 살해했다. 두 사건 모두에서 연방 요원은 총을 잡아 평화적인 시민에게 겨누고 사살했다.
Renée Good, dhs가 그녀를 살해하기 직전.
Alex Pretti, dhs가 그를 살해하기 직전.
나는 Google이 dhs 내 관련 기관들에 Cloud 서비스를 판매한다는 사실을 알게 되었다. 나는 이것이 잘못되었다고 생각했다. 연방 요원들이 거리에서 시민을 죽일 수 있어서는 안 된다. 나는 회사가 이 기관들에 대한 서비스 제공을 중단하도록 압박할 가장 효과적인 방법을 찾기 시작했다. 나의 철수 운동은 곧, 펜타곤이 AI 제공업체들에게 살인 로봇이나 대규모 감시에 대한 제한이 없는 군사 AI 계약을 압박하기 시작한 상황에서 Google이 비윤리적인 군사 AI 계약에 서명하지 못하게 하려는 시도로 확대되었다.1
나는 압박 아래에서도 AI 윤리 약속이 지켜지기를 원했다. 특히 Google DeepMind(gdm)가 살인 로봇 지원에 반대하는 기존 약속을 유지하기를 원했다. 몇 달 동안 나는 많은 사람들에게 행동을 요청했다. 나는 고위 인사들에게, 존경받는 사람들에게, AI 윤리와 안전에 대한 관심으로 명성이 빛나는 사람들에게 요청했다. 거의 모두가 거절했다.
대표적으로 자율무기에 반대하는 운동을 10년 넘게 이끈 유명 AI 연구자 Stuart Russell을 보자. 나는 여러 해 동안 그의 연구실에서 일했다. 한 학회 무대에서 그는 자신의 조직이 정부 강압에 맞서는 AI 제공업체들을 지지하는 성명을 내도록 추진하겠다고 했고, 조직 구성원들을 대상으로 설문조사를 하겠다고 약속했다. 성명과 설문조사는 모두 사라졌다.
또 Google의 수석 과학자이며 Google의 Gemini AI 프로젝트 공동 책임자인 Jeff Dean을 보자. 2018년 Jeff는 살인 로봇의 개발이나 사용을 절대 지원하지 않겠다는 서약에 서명했다. 나는 Jeff가 펜타곤을 상대로 한 Anthropic의 소송을 지지하는 공개적이고 단호한 _amicus brief_에 공동 서명하도록 했다. 그러나 나는 그에게 자신의 막대한 영향력을 사용해 Google이 군과 자체적으로 비윤리적 계약을 맺지 못하게 해 달라고도 요청했고, 그가 그렇게 했다고 생각하지 않는다. 그는 자신의 서약에도 불구하고 여전히 Google에 있다.
나는 계약 문구와 감독 장치를 담은 25쪽짜리 제안서를 작성했다. 군사법 및 감시법 전문가들은 이 제안서를 높이 평가했으며, 이는 Google이 지킬 수 있었던 원칙적인 대안을 제시했다. 나는 제안서를 gdm의 CEO Demis Hassabis에게 보냈고, 그는 이를 고위 정책 담당자들에게 전달했다. 그러나 제안서는 방치된 채 시들었고, 결국 Google은 계약에 서명했다.
고위 경영진은 Google이 서명하지 않을 것이라고 주장했다. 나는 그들과 의견이 달랐지만, 그들은 대체로 나의 경고를 무시했다. 내가 펜타곤이 이 계약을 주저하도록 만드는 데 어느 정도 기여했을 수도 있지만, Google은 여전히 살인 로봇이나 대규모 AI 감시에 대한 제한 없이 AI를 넘기는 계약에 서명했다. Google의 계약 제한은 OpenAI의 것보다도 약했다. 그 시점에서 나는 양심상 Google에 남아 있을 수 없었고, 떠났다.
이 글은 내가 Google DeepMind를 떠난 이유를 이야기한다. 또한 이는 더 큰 이야기이기도 하다. 즉 압박에 직면했을 때, 강력한 사람들과 기관들이 하나씩 AI 윤리 약속을 지키는 데 실패한 이야기다.
사적 소통에 관하여
이 글 전체에서 나는 허락 없이 누구의 사적인 말을 인용하지 않는다. 사적인 대화가 중요한 경우에도 나는 그것을 최소한으로만 묘사한다. 그 외에는 내 행동, 공개 정보, 공식 소통만을 다룬다. 독자는 내 묘사를 검증할 수 없으므로 그에 맞게 비중을 두어야 한다. 이러한 최소화 때문에 내 주장을 뒷받침했을 내용 일부를 덜어냈다.
2026년 1월 26일
Alex Pretti가 사망한 뒤, 나는 효과적으로 행동하기로 결심했다. dhs로 인한 피해를 줄일 방법을 알아보기 위해 나는 거대 기술 기업들의 얽힘을 조사했다. Microsoft와 Amazon의 관여가 더 크다는 것은 분명했지만, Google의 노출을 알게 된 것은 놀라웠다.
Google의 DHS 계약
Alex Pretti, 2024년.
- dhs의 2025 AI 사용 사례 목록은 dhs의 “운영 효율성”을 개선하기 위해 사용되는 생성형 AI 제공업체 가운데 Google을 열거한다.
- Google은 ITC Federal 같은 제3자를 통해 ice에 Cloud 서비스를 판매한다.2
- 2025년 10월 3일 Google은 ice 활동을 경고하는 앱을 삭제했다.
- Google은 학생 시위자의 계정을 통지 없이 ice에 자발적으로 넘겼으며, 사용자 정보 공개 전 “사용자 계정에 이메일을 보내겠다”는 서비스 약관의 약속을 어겼다.3
전형적인 활동가의 행동은 청원서를 만드는 것이다. 하지만 Google은 이미 이 문제에 관한 대규모 청원을 무시했다. 게다가 Google 경영진은 전형적인 조직화 전술에 맞서 회사를 단단히 방어해 두었을 가능성이 컸다. 농성, 파업, 심지어 수많은 Google 엔지니어의 퇴사까지도 나는 모두 효과가 없다고 판단했다. 애초에 해낼 수 있다 해도 말이다.
전략을 세우며 나는 Google이 무작위 연구 엔지니어 100명의 퇴사에는 관심을 두지 않을 것이라고 판단했다. AI 업계에서 인재는 극도로 상층 집중되어 있고, 팀은 대체하기 어려운 소수의 핵심 인물들에 의해 움직인다. 나는 100명의 엔지니어를 조직할 필요가 없었다. 어쩌면 10명만 조직하면 됐을지도 모른다.
나는 뉴스를 따라가며 Google의 CEO Sundar Pichai가 “윤리에 관한 거창한 연설을 해 주면 마음을 바꿀” 유형이라기보다는 사업가에 가깝다고 추측했다. 그러나 대체하기 어려운 몇몇 인물이 떠날 준비가 되어 있다면, 그것은 사업에 중요할 것이고 Sundar도 귀를 기울일 수 있다.
그때 나는 _Jeff Dean_이 ice가 얼마나 나쁜지 트윗하고 Anne Frank의 문구를 재게시한 것을 읽었던 일이 떠올랐다. 어쩌면 엔지니어 10명도 필요하지 않을 수 있었다. 어쩌면 _한 명_이면 될 수도 있었다.
2026년 2월 9일
처음에는 누가 나를 그와 연결해 줄 수 있을지 생각했다. 그러나 이것은 좋은 일반적 교훈이기도 한데, 누군가와 어떤 일에 관해 이야기하고 싶다면 그냥 그 사람에게 물어보면 된다.
나는 Jeff에게 목소리를 낸 점을 존경한다고 말했고, Google이 dhs 공급망에서 철수하기를 원한다고 말했다. 그도 이 목표를 공유하는지, 그렇다면 내가 어떻게 도울 수 있는지 물었다.
그는 몇몇 사람에게 이메일을 보내는 것이 합리적일 것이라고 제안했다. 그 이름은 Sundar Pichai, Demis Hassabis, Thomas Kurian이었다. 나는 “물론이죠, Jeff. 문제없어요. 그냥 제 생각을 그들에게 말하면 되겠네요”라고 생각했다.
내가 보낸 이메일
나는 우려를 가진 gdm 직원으로서 이 글을 쓴다. 최근 내 우려에 관해 Jeff Dean에게 메시지를 보냈다. 그는 세 분에게 직접 이메일을 보내는 것이 합리적인 다음 단계라고 제안했다.
나는 Google이 미국 어느 정당의 합법적 행정부와 협력하는 것 자체에는 문제가 없다. 나의 우려는 정치가 아니라 dhs 공급망에서 Google의 역할이 가능하게 하는 사건들에 관한 것이다.
나는 ice가 불법 이민자를 질서 있게 추방한다는 법적 권한을 훨씬 넘어섰다고 생각한다. 감시 단체들에 따르면 ice 작전은 표적들에게 적법절차를 빼앗는 일이 잦다. 이 작전들은 시민들을 정기적으로 구금하고, 법적 감독이 거의 없거나 전혀 없는 시설을 운영한다. 그런 장소 중 한 곳에서는 1,000명 넘는 사람이 실종되어 있다.
이는 표준적이고 정당한 집행 활동이 아니다. 이 작전들은 인권 관점에서 우려스럽고 관련 공급업체들에 평판 위험도 초래한다.
2026년 1월 28일 dhs는 2025 AI 사용 사례 목록을 게시했으며, 이 목록은 dhs의 “운영 효율성”을 개선하는 여러 생성형 AI 제공업체 중 하나로 Google을 열거한다. Google이 ice 및 더 넓게는 dhs와의 협력을 즉시 중단할 것을 촉구한다. 여기에는 이 특정 작전을 돕는 제3자 통합업체에 대한 지원도 포함된다. 직접 계약이든 ITC Federal 같은 중개업체를 통한 계약이든, Cloud와 Gemini가 이 작전을 뒷받침해서는 안 된다.
역사는 기술 부문이 이 사건들에 어떻게 관여했는지로 평가할 것이다. 나는 Google에서 일하는 것을 사랑하며, Google이 그 역사의 올바른 편에 서도록 하고 싶다.
Alexander Matt Turner
연구 과학자
그들은 답장하지 않았다. 나는 Jeff에게 돌아가 Google 내부에서 실질적 변화를 위한 건설적 기회를 논의할 점심을 요청했다. 나는 말했다. “언제든, 어디든 좋습니다. 만나기 위해 Mountain View까지 운전해 내려가겠습니다.”
이때 나는 이것이 ‘계획 A’가 실패하는 지점이라고 생각했다. 놀랍게도 그는 몇 주 뒤의 점심 약속을 실제로 수락했다.
그 사이에는 많은 일이 벌어질 것이었다.
2026년 2월 25일
펜타곤은 선도 AI 연구소 Anthropic에 기존 계약의 금지선을 제거하라고 요구했다. 그 금지선은 치명적 자율무기 체계와 AI 감시·프로파일링에 반대하는 것이었다. 최후통첩은 본질적으로 “제품을 내놓지 않으면 공급망 위험으로 지정하겠다”는 것이었다. 정부는 “모든 합법적 사용”을 위한 AI를 원했다.
그런 종류의 계약에는 두 가지 큰 문제가 있었다.
나는 몇 주 동안 Anthropic과 펜타곤의 대치를 지켜보고 있었다. 최후통첩을 알게 되었을 때, 나는 파리에서 열린 International Association for Safe and Ethical AI(iaseai) 학회에 참석 중이었다. 이 단체는 안전하고 윤리적인 AI를 위한 “통합된 목소리”가 되기 위해 2024년에 설립된 비영리 단체다. 세계적으로 유명한 AI 과학자 Stuart Russell이 운영위원회를 이끈다. 이 단체의 2026년 작업 그룹에는 “고급 AI를 위한 금지선”이 있으며, 이는 “자율무기와 확전”에 초점을 맞춘다. iaseai는 바로 이런 순간을 위해 만들어진 것처럼 보였다.
장소에는 윤리를 중시하는 영향력 있는 AI 전문가들로 가득할 것이었다. 나는 한 분야로서 1) Anthropic이 파괴의 위협 없이 사업할 권리와 2) AI를 치명적 자율무기 체계 및 감시 장치에 통합할지와 어떻게 통합할지에 관한 실제 기준을 지지하는 대응을 조직할 수 있다고 생각했다.
Anthropic에게는 행정부의 요구를 따를지 결정할 이틀이 있었다. 다른 기업들은 마감 전에 이 “모든 합법적 사용” 조건에 동의할 수도 있었다. 나를 가장 무겁게 짓누른 질문은 이것이었다. Google이 굴복해 “모든 합법적 사용” 계약을 받아들이지 못하도록 막을 수 있을까? Anthropic이 “아니오”라고 하고 Google도 “아니오”라고 한다면, 그때 비로소 진전이 시작된다. 어려워 보였다. 그래도 나는 이를 실현하고 싶었다.
Google DeepMind는 거버넌스의 _실험_이었다. 공동 창업자들은 무기에 동력을 제공하지 않겠다는 약속을 받고 Google에 회사를 팔았고, 반독립적 거버넌스 구조를 위해 싸웠다. Sundar는 이를 거절했다. Google의 2018년 AI 원칙은 직원들의 압력으로 도입되었지만, 이후 경영진에 의해 조용히 무력화되었다.
여기 gdm의 실험 결과가 있다. 실패했다.
Google DeepMind에서 이윤과 압력이 윤리적 약속과 만났을 때, 압력이 이기고 윤리는 졌다. Anthropic에서 이윤과 압력이 윤리적 약속과 만났을 때, 윤리가 이겼다. 그러므로 교훈은 ‘아무도 결코 입장을 고수하지 않는다’가 아니다. 교훈은 사회가 윤리적 동기를 가진 사람들이 굳건히 설 것이라는 데 _의존할 수 없다_는 것이다.
다른 선택지들이 좋아 보이지 않는다는 것을 안다. 의회는 여전히 구석의 화분처럼 있다. 그러나 적어도 테이블의 자리를 차지하는 것이 효과가 있다고 스스로에게 말하는 일은 멈춰야 한다.
나는 연구 과학자였다. gdm의 수백 명 중 한 명이었다. 내 머릿속에는 ‘책임감 있는’ 연구 과학자의 모습이 있었다. 그 연구 과학자는 트윗을 하고 ice 계약에 관해 관리자에게 우려의 메시지를 보낸다. ‘책임감 있는’ 연구 과학자는 Google 임원들에게 직접 메시지를 보내지 않는다.
드물게 누군가는 자신의 경계를 깬다. 자신을 붙들던 두려움 밖으로 나선다. 어려운 진실을 인정한다. 전날의 자신이라면 놀랐을 방식으로 행동한다. 나는 사람들이 왜 자신의 경계를 깨거나 깨지 않는지 이해하지 못한다.
이번에 무엇이 내 경계를 깨뜨렸는지는 안다. 내 휴대전화에는 Alex Pretti의 사진을 보여 주는 정기 알림이 있다. 1월의 어느 순간, 나의 분노는 너무 뜨겁게 타올라 실제로 효과가 있을 계획을 찾는 것만이 _유일한 출구_가 되었다. 단순한 트윗은 아무것도 하지 못하며 아무 의미도 없을 것이다. 좋은 계획만이 나를 만족시킬 수 있었다. 그 분노는 내 경계를 태워 버리고 그것을 깼다.
두려워졌을 때, 실제로 그랬을 때, 나는 Minneapolis를 생각했다. 나는 ice가 거리에서 사람을 쏘고 사람들을 집에서 끌어내는 일을 생각했다.
직원이 최고 수준의 AI 연구소를 떠날 때, 흔히 다른 연구소의 품으로 간다. 대개 그렇게 막대한 보너스를 얻는다. 나는 그렇게 하지 않았다. 나는 경쟁 연구소에 접근하지 않았고 OpenAI 안전팀의 연락도 거절했다. 나는 지금 실직 상태다.
2월, 나는 Google이 아마 계약에 서명할 것이라고 깨달았고, 그것은 나에게 출구를 생각하게 했다.20 나는 떠나야 할지도 모르며, 다른 곳에서 더 나은 AI 안전 업무를 할 수 있을지도 모른다고 깨달았다. 그러나 계약에 서명하지 않았다면 몇 달은 더 남아 있었을 것이라고 생각한다. Google이 서명했을 때, 나는 더 이상 어떤 일도 할 수 없었다. 내 뇌가 “안 돼”라고 말했다.
다음에 사무실에 갔을 때, 건물은 기억처럼 느껴졌다. 옛 고등학교에 돌아가는 것 같았다. 한때 그곳은 희망과 꿈의 중심이었지만, 어느 날 더는 그곳에 속하지 않는다는 것을 그냥 알게 된다.
gdm에서 내 책상으로 보이던 풍경. 2024년 3월.
그렇다. 생각이 드는 바로 그 순간에 말하는 것이 항상 합리적인 것은 아니다. 하지만 “정치적 자본을 아낀다”는 것은 비용이 큰 공개 성명을 피하는 이유는 설명한다. 비용이 없는 사적 도움을 거절하는 것은 설명하지 못한다. 나는 iaseai에 비공개 소개를 요청했고 아무것도 얻지 못했다.
물론이다. 내 특정 권고를 따르지 않았다는 이유만으로 누구도 비난받아서는 안 된다. 그러나 내가 기대하는 것은 어떤 종류든 행동이 보이는 것이다.
더 넓게 말해, 동정적인 이야기는 결과에서 보이는 것을 포함해 가시적 영향을 예측한다. 그것이 내가 Jeff가 단호하게 나서서 떠나겠다고 위협하지 않았다고 편하게 추측하는 이유 중 하나다. 그가 그렇게 했다면, 세상은 내게 다르게 보였을 것이다. 특히 나는 기밀 계약에 적어도 어떤 구속력 있는 조항은 들어갔을 것이라고 예상한다.
그렇다.
고도 AI 시스템을 구축할 때 모범 관행은 시스템이 정렬되어 있고 재앙적 피해를 일으키지 않는 이유를 설명하는 ‘안전성 사례’를 만드는 것이다. 신뢰할 만한 gdm 안전성 사례라면 Frontier Safety Framework에서 논의하는 메커니즘인 ‘사고 과정’ 모니터링에 크게 의존할 것이라고 생각한다.22 익숙하지 않은 사람을 위해 설명하면, 사고 과정은 AI가 자신이 무엇을 하고 왜 하는지를 대략 설명하는 것이다. 완벽하게 정확하지는 않지만 매우 유익하다.
우리에게 해를 끼치려는 AI는 우리가 이를 꺼 버릴 것이고 그러면 자신의 정렬되지 않은 목표를 달성할 수 없기에, 우리 면전에서 그것을 알리지 않을 것이다. 따라서 AI는 기만적일 가능성이 크다. 기만을 탐지하는 가장 좋은 방법 중 하나는 사고 과정을 보는 것이다. 사고 과정을 보려면 데이터에 접근하고 분석할 수 있는 훈련된 인간 감독자가 있어야 한다. 그러나 아무도 그렇게 할 수 없다. Google은 기본적으로 이 분석을 수행할 훈련된 감독자가 없을 보안 군사 데이터센터에서 작동하도록 AI를 넘기고 있으며, 그 데이터센터가 데이터를 Google로 다시 전송할 리는 분명히 없기 때문이다.23
나는 Google 엔지니어들이 군이 하는 일을 읽어야 한다고 말하는 것이 아니다. 기본적으로 이 모니터링을 수행할 적절히 훈련된 군 엔지니어들이 없을 것이라고 말하는 것이다. AI의 사고 과정에서 기만을 모니터링하지 않으면, 그 AI는 계획을 꾸미고 기만하며 장악하려 시도함으로써 인류에 재앙적 피해를 입히기 더 쉬워진다. 그것은 나쁘다.
경영진이 흔히 하는 안심의 말은 다음과 같다.
Google 인프라에서 산업 표준의 관행과 조건으로 상용 모델에 API 접근을 제공하는 것은 국가 안보를 지원하는 책임 있는 접근이라고 믿는다.
“API 접근”은 오해를 부른다. 당신이나 내가 “API 접근”을 생각할 때는 AI 제공업체에 요청을 보내고, 제공업체가 그 요청을 검사해 사용이 허용 가능한지 확인할 수 있는 상황을 생각한다.
임무 중인 지휘관이 Gemini와 상담한다고 상상해 보자. 그가 기밀 임무 세부사항을 이론적으로 Google이 읽을 수 있는 평문 질의로 Google에 보내고 있다고 생각하는가? 아니다. 그것은 터무니없다.
대신 내 추측은 Google이 _현장 설치형 API 접근_을 운영한다는 것이다. 내게 가장 그럴듯한 이야기는 이렇다. 정부에는 Google의 서버팜과 연결되지 않은 보안 컴퓨팅 클러스터가 있다. Google은 군의 클러스터에 Gemini API 종단점을 노출하는 하나 이상의 서버를 가져다 둔다.
따라서 “API 접근만”이라는 말은 기술적으로는 참일 수 있지만, Google의 중앙집중식 감독을 잘못 암시하므로 오해를 낳고 무관하다. API 접근이 어떤 보호를 제공하는가? 문제는 Gemini를 잠재적 전쟁범죄와 반체제 인사의 대규모 프로파일링에 보조적으로 사용하는 것이다. 그러나 부분적으로 Google 덕분에 이제 이 조건들은 Anthropic을 제외하면 “산업 표준 관행”이 되었다.
엄밀히 말해 내가 우려하는 것은 AI에 의한 대규모 _프로파일링_이다. 감시에 관한 우려는 데이터 수집에 관한 것이다. 프로파일링은 데이터를 받아 “이 사람은 정부를 싫어하는가?” 같은 결론을 도출한다. ⤴
Google은 이민 단속 요원들이 단지 상업적으로 이용 가능한 클라우드 서비스를 사용하고 있을 뿐이라고 답한다. 그러나 문제는 Google이 특별한 서비스를 제공한다는 것이 결코 아니었다. Google이 ice에 서비스를 제공한다는 것 자체가 문제였다. ⤴
서비스 약관의 예외는 학생 시위자의 경우에는 적용되지 않았다. ⤴
Lin 판사는 이후 펜타곤의 공급망 위험 지정이 “전형적인 불법적 수정헌법 제1조 보복”이었다고 말했다. ⤴
Stuart의 “갈취 행위” 발언은 The Information의 한 뉴스 요약에 부수적으로만 실린 듯하다. ⤴
같은 장소 건물에서 그 목요일, AI 금지선을 “검증 가능하고 집행 가능하게” 만드는 방법에 관한 4시간짜리 워크숍이 열렸다. 참가자들에게 이 금지선의 가장 큰 장애물이 무엇인지 물었다. 정치적 의지였다. ⤴
요청하자 Mark는 내 회원 회비를 환불해 주었다.
내가 gdm 토론 메시지에서 처음 추정한 것은 “150명 이상 사망”이었다. 2026년 6월 28일 기준 사망자 수는 215명으로 늘었다. ⤴
내부 캠페인 내내 나는 언론과 대화하지 않도록 주의했다. 나는 내부로부터 변화를 원했고 Jeff 같은 사람들을 제대로 대하고 싶었다. ⤴
현재 gdm 연구 과학자인 Andreas Kirsch도 자신의 글 “Trust is not Governance.”에서 독립적으로 같은 결론에 도달한다. ⤴
나는 이 계약 때문에 떠난 다른 사람을 정확히 한 명 안다. Android 플랫폼 보안 책임자인 René Mayrhofer다. 그는 “경영진은 도덕적 나침반을 잃었다”고 말했다. 용감하다. ⤴
2026년 1월 1일, 나는 그해 Google을 떠날 확률을 0.2로 매겼다. 이 수치는 5월 1일 0.95로 뛰었다. 나는 Fatebook.io를 사용해 이 값을 추적했다. ⤴
