1874년 논문에서 게오르크 칸토어는 무한에도 서로 다른 크기가 있음을 증명해 수학을 영원히 바꿨다. 새로 발굴된 편지 더미는 그것이 표절 행위이기도 했음을 보여준다.
URL: https://www.quantamagazine.org/the-man-who-stole-infinity-20260225/
1874년 논문에서 게오르크 칸토어는 무한에도 서로 다른 크기가 있음을 증명해 수학을 영원히 바꿨다. 새로 발굴된 편지 더미는 그것이 표절 행위이기도 했음을 보여준다.
지난해 3월 12일, 데미안 구스가 카린 리히터를 따라 그녀의 사무실로 들어섰을 때 가장 먼저 눈에 들어온 것은 흉상이었다. 방 한쪽 구석의 높은 받침대 위에 놓인 그것은 대머리의 노년 신사를 무표정한 얼굴로 묘사하고 있었다. 구스는 1년 넘게 자신을 사로잡아 온 불안하고 외로운 남자의 흔적을 그곳에서 전혀 찾을 수 없었다.
대신 그가 본 것은 역사 속의 게오르크 칸토어였다. 지적 거인. 동료들의 요란한 반대에도 굴하지 않고 수학적 혁명을 일으키려 했던, 굳건하고 완고하며 결연한 인물.
바로 여기, 독일 할레 대학교에서 칸토어는 150년 전 혁명을 시작했다. 1874년, 그는 수학 4,000년 역사에서 가장 중요한 논문 가운데 하나를 발표했다. 그 논문은 오랫동안 수학적 악성종양처럼 취급되어 어떤 대가를 치르더라도 피해야 할 것으로 여겨졌던 개념, 즉 ‘무한’을 또렷한 형태로 결정화했다. 그 결과 수학자들은 가장 오래 붙들어 온 전제들 가운데 일부를 의심할 수밖에 없었고, 수학은 기초부터 흔들렸다. 또한 결국 수학 전체를 다시 쓰게 만들 새로운 연구 분야가 탄생했다.
이제 35세의 수학자이자 저널리스트인 구스는 칸토어 유산에 포함된 편지들을 보기 위해 할레에 왔다. 마인츠에 있는 집에서 기차로 5시간 거리였다. 그는 그중 한 통의 스캔을 이미 보았고, 다른 편지들이 무엇을 말할지 대략 확신하고 있었다. 하지만 직접 보고 싶었다.
칸토어처럼 평생을 이곳에서 보낸 리히터는(처음엔 연구 수학자였고, 은퇴 후에는 수학사 강사로) 구스에게 앉으라고 손짓했다. 그녀는 책과 서류가 어지럽게 쌓인 책상 위에서 얇은 파란 바인더를 들어 올렸다. 안에는 플라스틱 파일 커버 수십 장이 들어 있었고, 각 커버마다 오래된 손글씨 편지 한 통씩이 들어 있었다.
구스는 마치 오래 잃어버린 무덤에 들어서는 고고학자처럼 음미하며 페이지를 넘기기 시작했다. 그러다 특정 페이지에서 그는 얼어붙었다. 숨이 가빠졌다.
필체 때문이 아니었다. 칸토어 연구를 하면서 그는 독일에서 1900년 무렵까지 쓰이던, 거의 해독이 불가능할 정도로 기묘한 고딕체 필기인 *쿠렌트슈리프트(kurrentschrift)*에 이미 익숙해져 있었다.
서명 때문도 아니었다. 독일 수학자 리하르트 데데킨트가 칸토어가 무한을 이해하고 수학의 기초를 다지는 과정에서 핵심 인물이었고, 두 사람이 많은 편지를 주고받았다는 사실도 알고 있었다.
그를 사로잡은 것은 날짜였다. 1873년 11월 30일.
그는 이 편지를 본 적이 없었다. 누구도 없었다. 제2차 세계대전의 혼란 속에서, 혹은 칸토어 자신에 의해 파기되어 사라진 것으로 여겨졌던 편지였다.
이 편지는 칸토어의 유산을 다시 쓰게 만들 힘을 지니고 있었다. 수학 전체를 재편할 그 유명한 1874년 논문이 표절이었음을 결정적으로 입증하는 편지였다.
칸토어는 1845년 러시아 상트페테르부르크에서 태어났다. 11살 때 아버지가 병을 앓기 시작하자, 가족은 혹독한 러시아 겨울을 피하기 위해 독일로 이주했다. 칸토어는 평생을 독일에서 살게 되었고, 결국 억양의 흔적도 사라졌다. 그러나 그는 새로 정착한 고향에서 끝내 완전히 편안함을 느끼지 못했다.
아버지의 병세가 악화되자, 그는 여섯 남매 가운데 장남에게 모든 희망을 걸었다. 칸토어의 견진성사(독일 개신교의 성년식 격)를 앞두고 아버지는 15세 아들에게 편지를 썼다. 편지에는, 유망한 재능이란 대개 자신의 생각에 저항하는 자들에게 패배하며, 흔들림 없는 종교적 확신이 없다면 그는 또 다른 “소위 망가진 천재”가 될 것이라는 경고가 담겨 있었다. “과학의 지평선 위에 빛나는 별”로서 잠재력을 펼치려면, 비난하는 이들 앞에서도 인내해야 한다는 것이었다.
칸토어는 그 편지를 평생 지니고 다녔다. 그는 지적 저항을 영웅적으로 보는 관점을 내면화했고, 곧 자신의 재능을 쏟아부을 곳을 찾았다. 수학이었다. 그의 표현대로 수학은 “알 수 없는 비밀스런 목소리가 자신을 부르는” 분야였다. 18세 때 아버지가 세상을 떠나자, 그는 유산으로 수학의 거점 중 하나였던 베를린 대학교에 입학했다.
그곳에서는 갈등이 싹트기 시작하고 있었다.
게오르크 칸토어는 끊임없이 수학에서 자신의 흔적을 남기려 했다. 그러나 1890년대에 이르러 그의 야망은 심각한 우울증으로 그를 몰아넣었다.
ETH-도서관 취리히/Science Photo Library
문제는 무한이었다. 수학자들은 수천 년 전부터 추상화로서의 무한을 발명해 왔다. 어떤 수를 말하든 더 큰 수를 언제나 말할 수 있기 때문이다. 하지만 무한은 자체적인 문제를 동반했다. 고대 그리스 철학자 제논은 무한을 이용해 온갖 역설을 만들어 냈다. 무한이 등장하면 크기나 덧셈 같은 직관적인 개념이 무너지는 듯 보였다.
무한은 종교적 도전이기도 했다. 기독교 신학에 따르면 신은 어떤 피조물보다도 커야 한다. 유일한 참된 무한, 어떤 수보다 큰 존재. 일상의 수학자들이 이 헤아릴 수 없는 양을 마음대로 다룰 수 있다면, 그것은 신에 대한 모욕이며 교회의 권위에 대한 도전이 될 수 있었다.
수천 년 동안 수학자들은 무한은 단지 유용한 요령일 뿐, 정당한 수학적 실체가 아니라는 데 동의함으로써 이러한 위험을 피했다. 위대한 수학자 카를 프리드리히 가우스는 1831년 편지에서 무한은 그저 “façon de parler”(말의 방식), 즉 비유적 표현에 불과하다고 썼다.
하지만 수십 년이 지나면서 무한을 더는 외면하기 어려워졌다.
수학자들은 가장 기초적인 개념들을 더 엄밀하게 만들고자 재검토하기 시작했다. 심지어 ‘수’가 무엇인지에 대한 이해조차도, 그들은 점차, 불안정한 토대 위에 놓여 있음을 깨달았다.
그전까지 그들은 수를 대수 방정식을 풀어 얻는 해로만 생각했다. 자연수, 분수, 제곱근 같은 것들이다. 이제 일부는 서로 다른 ‘종’의 수들이 어떻게 서로 연관되는지, 그리고 아직 발견되지 않은 다른 ‘종’이 존재하는지 탐구하고자 했다.
이 탐험가들 가운데 조용한 독일 수학자 리하르트 데데킨트가 있었다. 그는 1858년 실수, 즉 수직선 위에 나타나는 모든 수를 엄밀하게 정의하는 방법을 찾았다. 그러나 그 발견을 공유하지 않았다. 느리고 체계적인 사고를 하는 그는, 자신이 옳다고 확신할 때까지 다른 이들과 결과를 논의하는 것을 선호했다.
한편 1870년, 데데킨트의 작업을 알지 못했던 칸토어는 대학원 과정을 마치고 특정 방정식이 어떻게 행동하는지에 대한 실용적인 질문들을 검토하기 시작했다. 그는 아직 수의 본성에 관한 철학적 질문에는 관심이 없었지만, 그의 연구는 그 역시 실수에 대한 나름의 정의를 내놓게 했다.
1872년 초, 데데킨트와 칸토어는 독립적으로 결과를 출판했다.
둘은 모두 급진적인 일을 해냈다. 수직선을 다시 정의한 것이다.
그들의 논문 이전에는, 수직선이 연속적인 대상처럼 보이더라도, 충분히 확대하면 결국 틈이 나타날 것이라고 수학자들은 가정했다.
예를 들어 0과 1 사이 구간을 보자. 그 안에는 무한히 많은 분수가 있다. 어떤 두 분수 사이에도 또 다른 분수를 찾기 위해 계속 확대할 수 있다. 하지만 아무리 확대해도 √2 같은 수에는 결코 닿지 못한다. 틈이 있는 것이다. 무한이 끊어져 있다.
그러나 1872년의 논문들에서 칸토어와 데데킨트는 완전한 수직선을 구성하는 방법을 찾아냈다. 어떤 구간을 얼마나 확대하든, 그곳은 끊어지지 않은, 무한히 많은 실수의 연속적인 확장으로 남았다.
갑자기, 수학자들이 오랫동안 두려워하던 무한의 괴물은 더 이상 수직선 어디엔가 도달 불가능한 곳으로 밀어낼 수 없게 되었다. 무한은 수직선의 모든 틈새에 숨어 있었다.
그해 여름, 칸토어와 데데킨트는 둘 다 스위스의 경치 좋은 호숫가 마을 게르자우에서 휴가를 보냈고, 우연히 마주친 뒤 처음으로 함께 긴 산책을 하며 서로의 아이디어를 논의했다.
칸토어와 데데킨트가 우연히 만나 빠르게 친구가 된 스위스 마을 게르자우를 담은 1890년대의 인쇄물.
Photochrom Print Collection
호숫가를 따라 걷는 두 사람은 제3자의 눈에는 어울리지 않는 조합으로 보였을 것이다. 27세의 칸토어는 키가 크고 어깨가 넓었으며 호들갑스러울 정도로 활기찼다. 그는 동료들의 주목을 즐겼지만, 속으로는 자신이 어떻게 보일지 늘 불안해했다. 그 불안은 그로 하여금 빠르게 일하고, 빨리 자주 출판하려고 만들었다. 반면 데데킨트는 칸토어보다 13살 연상이었지만 훨씬 키가 작고 내성적이었다. 그리고 그는 칸토어의 ‘출판에 대한 조급함’을 전혀 공유하지 않았다. 실제로 그는 평생 비교적 적은 글만을 출판할 것이다.
하지만 둘은 즉시 가까워졌다. 이후 편지들에서 두 사람은 그날 호숫가에서 수학을 논하며 보낸 아름다운 시간을 거듭 회상했다. 서로에게서 동반자이자 친구를 발견한 것이다.
그러나 그 관계는 오래가지 못했다.
데미안 구스는 기억이 닿는 한 언제나 규칙을 몹시 중요하게 여겼다. 2008년, 17세였던 그는 성장기를 보낸 독일에서 어머니의 고향인 아르헨티나로 가족과 함께 이주했다. 그곳에서 그는 심판을 시작하기로 했다. “친구들과 축구하는 건 즐거웠어요.” 그는 말했다. 하지만 경기에서 뛰는 것보다 “스포츠에서의 부정의를 볼 때 항상 짜증이 났죠. 경기를 보다가 판정이 잘못되면, 그걸 바로잡는 데 기여하고 싶었어요.”
그것은 자신의 신념을 행동으로 옮길 기회였다. 이후 15년 동안—로사리오 국립대에서 학부, 대학원, 그리고 수학 박사후 연구원 및 강사로 지내는 동안—그는 주요 지역 프로 축구 대회의 경기들을 심판으로 맡았다. 한 번은 관중석의 한 팬이 마체테를 번쩍 들어 그를 위협했다고 그는 회상했다. 하지만 그 팬이 응원하던 팀이 다음 플레이에서 파울을 저지르자, 구스는 움찔하지 않았다. 그는 그저 깊게 숨을 들이마시고 레드카드를 꺼냈다.
“심판 경험은 정말 형성적이었어요.” 그는 말했다. “사람들이 겁주려고 해도 저는 물러서지 않아요.”
독일-아르헨티나인 수학자이자 저널리스트 데미안 구스는 늘 아르헨티나에서 가장 ‘집 같다’고 느꼈다. 여기서 그는 남미의 전통 허브차인 마테를 마신다.
Zack Savitsky for Quanta Magazine
그는 수학 연구도 즐겼지만, 정리 뒤에 숨은 이야기들에 더 끌렸다. 그는 여가에 수학적 아이디어의 역사를 읽고, 대학 카페에서 동료들에게 배운 이야기를 극적으로 들려주곤 했다. 동료들은 그곳을 그의 “사무실”이라고 불렀다. 박사후 연구원 시절에는 최적화 알고리즘이나 카오스 시스템 같은 개념을 설명하기 위해 학생들을 밖으로 데리고 나가 즉흥적인 해석무용으로 보여주기도 했다. 학생들 중 많은 이들이 좋아했지만, 일부 교수들은 그런 비정통적 방법을 쓰지 말라고 경고했다. “아마 저를 겁줄 수 있다고 생각했겠죠.” 구스는 말했다. “그들은 마체테 이야기를 못 들었으니까요.”
2020년, 여전히 박사후 연구원으로 있던 그는 병이 나서 치료를 위해 독일을 자주 오가야 했다. 몇 년 뒤 그는 완전히 독일로 돌아왔다. 박사후 과정을 마치고 건강이 호전되자, 그는 이제 학계를 떠나 스토리텔링에 대한 사랑을 좇을 때가 왔다고 결심했다. 그래서 2023년 초, 베를린 자유대학교에서 과학 저널리즘 펠로십을 시작했고, 팟캐스트 개발에 집중했다. 그는 수학사에서 가장 손에 땀을 쥐게 하는 이야기들을 들려주고 싶었다.
그리고 어디서 시작할지 감을 잡고 있었다.
“제가 원래 감정적인 사람이어서, 가장 감정적인 이야기로 갔죠.” 그는 말했다. 무한이 ‘실재’가 되어 집합론의 탄생으로 이어진 이야기—현대 수학 전체에 새로운 토대를 제공한 이야기였다. “이건 수학에 대한 이해를 한계까지 밀어붙입니다.” 구스는 말했다. “수학적 직관과는 작별하고, 그 안에서 마주치게 될 온갖 난장판을 열린 마음으로 받아들여야 해요.”
구스는 수학과 과학의 역사를 다루는 팟캐스트를 만든다. 이 팟캐스트 작업이 그를 칸토어와 데데킨트 사이에서 실제로 무슨 일이 있었는지에 관한 새로운 증거를 발견하게 이끌었다.
Zack Savitsky for Quanta Magazine
그는 학교에서 칸토어가 집합론의 유일한 창시자이며, 모든 것이 1874년에 발표된 한 증명에서 시작되었다고 배웠다. 그 증명에서 칸토어는 무한에도 서로 다른 크기가 있음을 보여주어, 무한이 단지 수학적 요술에 불과하다는 생각을 끝장냈다는 것이었다.
구스는 칸토어의 발견을 다룰 팟캐스트를 위해 자료 조사를 시작했다. 그러나 곧 자신이 배운 이야기가 훨씬 더 복잡하다는 사실을 알게 되었다.
“처음에는 다들 하는 이야기를 하려 했어요. 아름다운 이야기죠.” 그가 말했다. “하지만 틀린 이야기예요. 실제로는 그런 일이 일어나지 않았거든요.”
진짜 이야기는, 칸토어가 고독한 천재가 아니었다는 점이다. 그는 적어도 한동안은 동반자가 있었다.
칸토어는 뜻이 맞는 수학자를 만나면 열성적으로 구애하는 것으로 유명했다. 그는 새벽에 협력자의 집에 나타나 새 아이디어를 논하려고 했고, 상대가 깰 때까지 몇 시간이고 기다리기도 했다. 데데킨트에게도 그랬다. 1872년 게르자우에서 만난 뒤, 칸토어는 더 나이 많은 수학자에게 조언을 구할 기회가 있을 때마다 놓치지 않았다.
1873년 11월, 칸토어는 인류 지식의 진로를 영원히 바꿀 서신 교환을 시작했다. “질문 하나를 드리게 해주십시오.” 그는 급히 쓴 편지에서 데데킨트에게 적었다. “저에게는 일정한 이론적 흥미가 있으나, 저는 스스로 답할 수 없습니다. 아마 당신께서는 가능하실지요.”
칸토어는 아버지가 주입한 열정적 추진력을 수직선의 무한한 본성에 쏟아붓기 시작했다. “그에게는 매우 강한 사명감이 있었습니다.” 스페인 세비야 대학교의 수학사·수학철학자 호세 페레이로스는 말했다. “그는 실제 무한의 도입이 수학뿐 아니라 과학 전반을 바꿀 것이라고 확신했죠.” 칸토어에게 이런 종류의 무한은 신의 우월성을 훼손하지 않았다. 오히려 신은 멀고 알 수 없는 존재가 아니라, 모든 것 사이에 거하며 어디에나 존재한다는 뜻이었다.
그는 실수를 하나의 무한한 ‘묶음’으로 연구하기 시작했고, 누구도 묻지 않았던 질문을 던졌다. 1, 2, 3, …에서 점 세 개가 가리키는 무한과, 수직선의 신비한 연속체에 내장된 무한은 같은 것인가? 다시 말해, 자연수보다 실수가 더 많은가?
표면적으로 이 질문은 말이 안 되는 듯했다. 무한 집합들이 서로 다른 ‘크기’를 갖는다는 것이 대체 무슨 뜻인가?
칸토어는 알아내고 싶었다.
그는 데데킨트에게 두 수 집합이 “일대일 대응”으로 연결될 수 있는지 물었다. 즉 모든 실수에 서로 다른 자연수를 하나씩 짝지어, 남는 수가 없게 만들 수 있는지 말이다. 그는 다른 집합에 대해서는 이미 이를 해냈다고 썼다. 유리수(분수로 쓸 수 있는 수) 각각에 고유한 자연수를 배정해 하나도 남기지 않는 방법을 증명했다는 것이다. 즉 유리수가 자연수보다 훨씬 많아 보이지만, 두 집합은 사실 같은 크기였다. 둘 다 훗날 수학자들이 “가산(countable)”이라고 부를 유형이었다.
하지만 그는 같은 방식으로 자연수와 실수를 비교하는 법을 찾지 못했다. 데데킨트는 곧 답장을 보내 자신도 그럴 수 없다고 하면서도, 대수적 수(대수 문제의 해로 얻어지는 수)는 셀 수 있다는 증명을 자신이 마련했다고 전했다. “제가 이런 내용을 모두 쓴 것은,” 데데킨트는 편지를 마치며 적었다. “어떤 언급이든 하나쯤은 당신에게 유용할 수 있다고 생각했기 때문입니다.”
그 뒤로 수학적 ‘핑퐁’이 이어졌다. 데데킨트의 진전에 고무된 칸토어는 다음 날들 동안 남은 질문—실수—에 매달렸다. 마침내 그는 대수적 수와 달리 실수가 자연수보다 더 큰 무한임을 보일 수 있을까?
1873년 12월 7일, 그는 마침내 성공한 것 같다고 데데킨트에게 썼다. “그러나 제가 스스로를 속이고 있다면, 당신보다 관대한 심판을 저는 결코 찾지 못할 것입니다.” 그는 자신의 증명을 전개했다. 하지만 그 증명은 다루기 힘들고, 복잡하고, 꼬여 있었다. 데데킨트는 칸토어의 증명을 단순화하는 방법을 답장으로 보내, 엄밀함과 정확성을 잃지 않으면서 더 명료한 논증을 구성해 주었다. 한편 칸토어도 데데킨트의 편지를 받기 전, 비슷한 ‘정리’ 아이디어를 그에게 보냈지만, 데데킨트처럼 세부를 끝까지 다듬지는 못했다.
칸토어는 자신이 손에 쥔 것을 생각했다. 둘 다 무한한 두 집합, 그런데 하나가 어떤 의미에서는 더 큰 집합. 함의는 혁명적이었다. 그는 하나의 무한이 아니라, 무한들의 위계 전체를 꿈꾸기 시작했다. 그리고 무한들이 그렇게 구체적으로 비교될 수 있다면, 무한은 비유가 아니라 실재여야 했다.
그는 자신의 증명이 수학계를 근본부터 뒤흔들 잠재력이 있음을 깨달았다. 다만 그 과정에서 가장 저명한 인물들 일부를 격노하게 만들 것이 분명했다.
그 인물들 중 하나가 레오폴트 크로네커였다. 그는 무한을 혐오한 수학적 이데올로그로, 무한은 수학에 들어올 자리가 없다고 믿었다. 그는 수직선이 빈틈없이 촘촘하다는 생각을 받아들이지 않았다. π가 대수적 수가 아님을—즉 π를 해로 갖는 ‘보통의’ 대수 문제는 결코 만들 수 없음을—증명한 수학자 페르디난트 폰 린데만에 따르면, 크로네커는 한 번 린데만에게 그런 “초월적” 수는 존재하지 않으니 그의 연구는 가치가 없다고 말했다.
레오폴트 크로네커에게 무한은 수학에서 설 자리가 없었다. 칸토어가 그 믿음에 도전하자, 크로네커는 그의 명성을 파괴하고 출판을 막기 위해 나섰다.
Public Domain
크로네커는 수학계에서 중요한 관문 역할도 했다. 그는 세계 최고 권위의 수학 학술지 중 하나인 크렐레 저널(Crelle’s Journal) 편집위원이었다. 그는 반동적 의제를 밀어붙이기 위해 막강한 영향력을 쓰는 데 주저하지 않았다. 종종 그는 어떤 결과가 다른 수학자들에게 빨리—혹은 아예—전달될지 결정할 수 있었다.
칸토어는 스승 카를 바이어슈트라스와 상의한 뒤, 자신의 발견을 크렐레에 발표하고 싶어 했다. 그렇게 하면 무한을 주류 수학으로 끌어들일 수 있으리라 생각했다. 신의 마음을 세상 전체에 드러내고, 수학의 지평선 위에 빛나는 별이 되는 것.
칸토어 안의 사명감, 그 “비밀스런 목소리”는 부풀어 올랐다.
칸토어는 크로네커와 관계가 좋았다. 하지만 몇 해 전 데데킨트가 크로네커보다 먼저 중요한 결과를 내는 바람에, 크로네커가 데데킨트를 싫어한다는 사실은 널리 알려져 있었다. 칸토어가 크로네커의 ‘원수’와 공동 저자로 논문을 제출한다면—그것도 서로 다른 크기의 무한이 존재한다고 공공연히 선언하는 논문이라면—출판되지 못할 수도 있었다.
그래서 그는 두 가지 결정을 내렸다.
첫째, 수학적 트로이 목마를 만들기로 했다.
바이어슈트라스는 대수적 수가 가산임을 보이는 증명에 가장 흥미를 보였다(그는 나중에 그 결과를 이용해 자신의 정리를 증명한다). 그래서 칸토어는 대수적 수만 언급하는, 오해를 부르는 제목을 선택했다.
그러나 칸토어에게 그 증명—데데킨트의 증명—은 미끼이자, 무한이라는 금지된 문을 비집고 들어갈 쐐기였다. 그는 논문에서 대수적 수에 대한 증명을 먼저 배치했다. 그 아래에는 실수가 가산이 될 수 없다는 자신의 증명을 덧붙였다—정확히는 데데킨트가 단순화해 준 버전이었다. 칸토어는 이 두 번째 부분의 진짜 의미를 축소해 보이도록 썼다. “그는 크로네커와 무한을 혐오한 사람들에게 의심스럽지 않게 들릴 표현을 의도적으로 골랐습니다.” 구스는 말했다.
둘째, 전적인 저자 자격을 자신에게만 귀속시키기로 했다. 그는 공동 연구자의 기여를 보여줄 모든 흔적을 조심스럽게 지웠다. 심지어 아는 사람이라면 데데킨트의 표현임을 알아차릴 만한 용어의 흔적까지도.
전형적인 칸토어답게, 그는 하루 만에 논문을 급히 완성해 크렐레에 제출했다. 다음 날 아침, 1873년 크리스마스, 그는 데데킨트에게 편지를 부쳐 바이어슈트라스가 출판을 권했다고 알렸다. “보시면 아시겠지만,” 그는 썼다. “제가 매우 높이 평가하는 당신의 언급들과 몇몇 점을 서술하는 방식은 제게 큰 도움이 되었습니다.”
칸토어의 속임수에 대한 첫 단서는 20세기 초, 또 다른 위대한 독일 수학자에 의해 밝혀졌다. 에미 뇌터는 데데킨트의 열렬한 추종자였다. 그는 데데킨트의 수학적 선견지명을 자주 시적으로 찬양하곤 했다. 뇌터는 학생들에게 “모든 것은 이미 데데킨트 안에 있다”라고 말하길 좋아했다. 1930년, 그녀가 데데킨트의 수학적 업적을 4권짜리 전집으로 모으고 있을 때, 우연히 칸토어와의 서신들 일부를 발견했다. 그녀는 프랑스 철학자 장 카바이예스와 협력해 그 편지들 또한 수집해 출판하기로 했다.
저명한 수학자 에미 뇌터는 칸토어의 부정행위를 보여주는 첫 증거를 수집하는 데 도움을 주었다.
Ian Dagnall Computing/Alamy
데데킨트와 칸토어가 죽은 지 10년도 넘은 뒤였다. 뇌터와 카바이예스는 데데킨트의 유산에서 편지를 찾아 추적하는 데 몇 년을 썼다. 1933년 히틀러가 집권하자 유대인이었던 뇌터는 독일을 떠나 미국으로 피신했고, 그곳에서 2년 뒤 암으로 사망했다. 하지만 카바이예스는 1937년 그들의 프로젝트를 완성했다.
그 책에 실린 서신들은 이상했다. 1872년 두 사람이 만난 직후부터 시작되는 편지들이 폭포처럼 이어지다가, 갑자기 1874년 1월에 끝나고 몇 년간 침묵이 뒤따랐다. 데데킨트의 유산에서 나온 편지들은 그가 받은 것들만 포함했고, 칸토어에게 보낸 편지는 없었다. 그런데 1877년에 교환이 재개되자, 이번에는 데데킨트가 칸토어에게 보낸 편지들도 함께 나타났다. 데데킨트는 어느 순간부터 자신이 보내는 모든 편지의 사본을 보관하기로 한 듯했다.
또 하나는, 데데킨트가 칸토어의 1874년 크렐레 게재물을 보고 나서 자신에게 써둔 것처럼 보이는 메모였다. 그 메모에서 그는 자신이 논문에 들어간 첫 번째 증명을 칸토어에게 보내 주었고, 두 번째 증명의 수정본도 보내 주었는데, 불과 몇 달 뒤 그 두 내용이 칸토어 이름으로 “거의 한 단어도 다르지 않게” 인쇄되어 나타났다고 적었다.
데데킨트는 이 주장을 공개적으로 밝힌 적이 없었고, 뇌터와 카바이예스도 그 점을 논평하지 않았다. “그들은 의식적으로 아무 말도 하지 않고 편지들 자체가 말하게 하려는 결정을 했던 것 같아요.” 세비야의 역사학자 페레이로스는 말했다. “그게 당시의 명예 규범이었죠.”
다른 누구도 이를—적어도 인쇄물로는—강조하지 않았다. 칸토어의 초기 전기들은, 그의 수학적 제자들이 쓴 것인데, 그저 그의 천재성을 찬미했을 뿐이다.
칸토어와 데데킨트의 교환 서신이 처음으로 출판된 기록을 들고 있는 구스.
Zack Savitsky for Quanta Magazine
수십 년 뒤, 아이버 그래턴기니스 같은 역사가들이 칸토어-데데킨트 교환을 다시 들여다보았다. 그래턴기니스는 1873년에 데데킨트가 칸토어에게 보낸 편지들—칸토어의 부정행위를 입증할 수 있는 편지들—을 필사적으로 찾으려 했다. 그것들은 칸토어 사후 할레 대학교 사무실에 남아 있었다고 전해졌지만, 이제는 어디에도 없었다. 그래턴기니스는 아마도 2차 대전 중 혹은 1945년 미군과 소련군이 할레를 점령한 뒤 이어진 파괴 속에서 사라졌을 것이라고 결론 내렸다.
편지가 없자, 그래턴기니스와 동시대 연구자들은 칸토어를 윤리적 부정행위로 비난하지 않기로 했다. 어떤 이는 데데킨트의 허락을 받았을 것이라 보았고, 어떤 이는 중요한 두 번째 증명의 최초 버전은 칸토어가 생각해 냈고 서신 교환도 그가 시작했으니 그의 선택을 변호했다.
그러나 구스가 2024년 팟캐스트 작업 중 이 역사를 알게 되었을 때, 그는 분노했다. 칸토어의 잘못을 명시적으로 다룬 글은 단 하나밖에 찾지 못했다. 1993년 논문에서 페레이로스는 칸토어가 데데킨트의 일을 훔쳐 출처 없이 출판했다고 비난했다. 그러나 다른 칸토어 전기 작가들은 곧바로 반박했고, 그것은 지나치게 극단적인 해석이라고 주장했다. 무엇보다 데데킨트의 ‘사라진 편지’가 없으니, 그 범죄의 진짜 증거는 없고 사후에 쓰인 데데킨트의 메모만 있을 뿐이었다. 어떻게 그 주장들이 사실이라고 확신할 수 있단 말인가?
세비야 대학교의 수학사·수학철학자 호세 페레이로스는 인쇄물에서 최초로 칸토어를 표절로 고발한 인물이다.
Universidad de Sevilla
이 논쟁은 수학사 연구자들 사이의 잘 알려지지 않은 논쟁으로 남았고, 칸토어의 ‘고독한 천재’ 신화는 지속되었다.
구스는 팟캐스트에서 진짜 이야기를 하고 싶었다—그리고 근거를 제시하고 싶었다. 그에게는 방법이 하나 떠올랐다. 하지만 가능성은 낮았다.
“그들은 늘 전쟁 후에 편지들이 사라졌다고 말했어요.” 그는 말했다. 그게 마음에 걸렸다. “물론 많이 사라졌겠죠. 하지만 그렇다고 해서 다른 것들이 하나도 살아남지 않았다는 뜻은 아니잖아요.”
많은 위대한 역사가들이 편지를 찾아봤지만 성과가 없었다. 구스는 이제 막 연구를 시작했다. 그렇다면 전문가들이 뭔가를 놓쳤을 가능성이 있을까?
칸토어의 크렐레 논문은 수학자들이 그가 행간에 숨긴 것을 대체로 알아채지 못해 큰 반향을 일으키지는 못했다. 그러나 그는 수학적 현상 유지에 대한 평생의 공격이 될 첫 타격을 가했다. 수학 최고의 저널에서, 무한이 서로 다른 크기를 가진다는 증명을 출판한 것이다. 그것은 결국 수학자들에게 분야의 기초를 재고하게 만들 것이다. 가장 근본 규칙과 그 결과를 결정하도록.
한편 데데킨트는 칸토어에게 답장을 끊었다. 거의 3년 동안 그들은 전혀 편지를 주고받지 않았다. 그 뒤 이유가 완전히 분명하진 않지만, 데데킨트는 조심스럽게 다시 교류를 시작했다. 다만 이번에는 자신이 보내는 모든 편지의 초안을 보관했다. 안전을 위한 기록이었다.
두 사람은 다시 무한을 논의하기 시작했다. 칸토어는 무한의 다양한 크기에 관한 후속 연구를 계획하고 있었고, 조언이 필요했다. 칸토어의 편지들은 더 간청하는 듯했고, 데데킨트의 편지는 더 경계심이 묻어났다. 하지만 교환은 생산적이었고, 칸토어는 곧 새로운, 더 대담한 논문을 크렐레에 제출했다—이번에는 위장 없이.
크로네커는 반발했다. 그는 베를린 학계에서 자신의 영향력을 총동원해 심사 과정을 최대한 지연시켰다. 그러나 몇 달 뒤 바이어슈트라스 등이 칸토어를 위해 개입했고, 논문은 결국 게재되었다.
또다시 데데킨트가 칸토어에게 보낸 편지 속 아이디어들이 출처 표시 없이 논문에 등장했다. 또다시 데데킨트는 서신 교환을 끊었다.
칸토어는 어쩌면 자신에게 거의 유일한 지적 동맹이었던 데데킨트와의 단절을 후회했을지도 모른다. 그는 자신의 작업에서 자라난 분야, 집합론의 중심지로 할레라는 수학적 변방을 바꾸려 애쓰고 있었다. 그 최선의 방법은 데데킨트를 채용하는 것이었다. 1882년 그는 아무 일도 없었던 것처럼 데데킨트를 영입하려 했다. 데데킨트는 정중히 거절했다.
칸토어가 무한에 관한 결과를 계속 발표하는 동안, 크로네커는 수학 공동체를 그에게서 떼어놓기 위해 움직였다. 그는 칸토어를 “젊은이들의 타락자”, “배신자”라고 불렀다. 1883년 칸토어가 할레를 떠나 더 명망 높은 베를린 대학교 자리에 지원했을 때, 그곳 교수였던 크로네커는 임용을 가로막았다. 칸토어의 친구들 일부를 포함해 다른 수학자들도 그에게 출판을 자제하라고 만류하기 시작했다.
칸토어는 이런 저항을 개인적인 문제로 받아들였다. “그는 인정받고 싶어 했어요.” 구스는 말했다. “하지만 남들과 다르게 하는 게 본질인 이상, 사람들이 좋아하지 않는 건 당연하죠.” 1884년 칸토어는 심각한 우울 삽화로 입원했다. 시간이 지날수록 그는 더 고립되었다. “패턴이 있었죠.” 페레이로스는 말했다. “동료들과의 관계가 나쁘게 끝나는 일이 많았습니다.”
칸토어는 말년 사진들에서 자신감 있고 강인해 보이곤 한다. 그러나 그 자신감 뒤에는 고독과 불안이 있었다.
UAHW, Rep. 40/VI, Nr. 1, Bild 75
결국 칸토어는 아버지가 경고했던 반대자들의 공격에 무너졌다. 자신이 마땅히 받아야 한다고 여긴 학계의 자리와 영예를 반복해서 거부당하자, 사명감은 원망으로 바뀌었다. 우울증이 돌아왔고, 이후 20년 동안 여러 차례 입원했다. 1917년 그는 마침내 요양원에 수용되었고, 아내에게 집에 돌아가게 해달라고 애원하는 편지를 자주 썼다. 그는 이듬해 사망했다.
칸토어는 주변부로 밀려났다. 그러나 점차 새로운 세대의 수학자들 사이에서 그의 아이디어가 힘을 얻기 시작했다. 그들은 칸토어의 작업에서 수학 전체를 바닥부터 다시 쓸 가능성을 보았다.
구스 또한 다시 쓰기를 원했다. 그는 2024년 팟캐스트에서 칸토어와 데데킨트의 갈등을 다뤘다. 그러나 새 증거를 찾지 못한 채로는 논쟁의 흐름을 바꾸기 어려웠고, 그는 다른 프로젝트로 옮겨 갔다.
그럼에도 그는 그 이야기를 놓을 수 없었다.
그는 자유 시간에 계속 단서를 파고들며 ‘잃어버린 편지들’에 대해 더 알아내려 했다. “제가 안 가진 책이 하나라도 남아 있을까 싶을 정도예요.” 그는 말했다. 그는 원자료를 추적했고, 가능한 한 대학 기록보관소를 뒤졌다. “단 하나의 글에서 단 한 줄로 언급된 1차 사료를 말하는 겁니다.” 그는 말했다.
그렇게 해서 그는 2024년 여름, 데데킨트가 칸토어에게 보낸 것으로 보이는 편지의 부분 스캔을 우연히 발견했다. ‘게오르크-칸토어-페어아이니궁(Georg-Cantor-Vereinigung)’이라는 웹페이지에 올라와 있었다. “칸토어의 기억을 지키려는 사람들 모임이죠.” 구스는 말했다. 그 편지는 1877년 것이어서, 데데킨트가 보관한 초안은 이미 역사 기록에 있었다. 하지만 칸토어에게 실제로 보내진 사본에 대한 기록은 없었다. 구스는 단체의 여러 구성원에게 연락했지만 답을 받지 못했다.
몇 달 뒤 그는 그 웹페이지를 다시 찾았다. 이번에는 스캔 아래에 2009년 어떤 상속인으로부터 편지들이 기증되었다는 언급이 있는 것을 알아차렸다. 그는 그 상속인이 누굴지 추적했고, 여러 가계도와 문서를 뒤진 끝에 마침내 칸토어의 증손녀로 보이는 안겔리카 팔렌 박사를 찾아냈다. 그녀는 할레에 사는 듯했다.
그가 전화를 걸자, 그녀는 수학은 잘 모른다고 말했다(실제로는 고고학자였다). 다만 자신이 가진 편지들이 있다면 역사학자들이 연구할 수 있도록 공개하고 싶었고, 그래서 할레 대학교(정식 명칭은 마르틴 루터 대학교 할레-비텐베르크)에 기증했다는 것이다. 편지들은 결국 칸토어 협회의 회장이자 수학 교수인 카린 리히터에게 넘어갔다.
구스는 리히터를 찾아냈다. 2025년 3월, 그녀의 사무실에 도착해 그녀가 건넨 얇은 파란 바인더를 열었다.
그는 협회 웹사이트에 올라온 1877년의 후대 편지를 보게 되리라 예상했다. 다른 원자료 추적처럼, 이미 알려진 것을 확인하고 어쩌면 새로운 통찰을 얻는 정도.
하지만 그의 앞에는 1년 넘게 찾아 헤매던 그 편지가 있었다. 그는 확신했다. 데데킨트의 정갈하고 화려한 필체는 칸토어의 들쭉날쭉한 글씨보다도 더 해독하기 어려웠지만, 페이지 곳곳에 algebraischen Zahlen(‘대수적 수’)라는 표현이 박혀 있는 것이 보였다. 그리고 아래에는 분명한 끝인사: “가장 따뜻한 안부를 전하며, 당신의 가장 헌신적인 R. 데데킨트 — 브라운슈바이크, 1873년 11월 30일.”
리히터는 자신이 무엇을 갖고 있는지 알고나 있을까? 구스는 스캔을 요청했다. 리히터는 생각해 보겠다고 했다.
100년 넘게 행방불명되었던, 1873년 11월 30일자 데데킨트의 칸토어에게 보낸 편지. 이 편지에서 데데킨트는 대수적 수의 집합이 자연수 집합과 같은 크기임을 보이는 증명을 제공한다. 칸토어는 이후 이 결과를 표절했다.
University of Halle
집으로 돌아오는 기차 안에서—그날 두 번째 5시간 여정—구스는 자신이 발견한 것의 의미를 곱씹었다. 상황이 미묘하다는 것을 그는 알고 있었다. 그는 칸토어가 데데킨트를 배신했다는 말을 꺼냈을 때 독일 수학자들이 보였던 무시를 경험한 적이 있었다. “자부심은 독일인들이 보통 편안해하지 않는 감정이죠.” 구스는 말했다. “하지만 우리는 칸토어를 자랑스러워합니다.” 리히터만큼 큰 칸토어 팬을 찾기 어려울 텐데, 그녀는 스캔 공유에 적극적이지 않아 보였다.
이틀 뒤 리히터에게 전화를 걸었을 때, 그의 희망은 꺾였다. 번호가 더는 사용되지 않았다. “어떻게 이런 말을 하죠? 그분과 얘기했는데 편지 공유에 별로 기뻐 보이지 않았어요. 그런데 전화를 하니 번호가 없대요.” 그는 말했다. “그만해, 데미안, 그만!” 그는 리히터의 사무실에서 폰을 꺼내 사진을 찍지 않은 자신을 자책했다.
그는 다음 한 달 동안 할레에서 아는 사람들에게 모두 연락해 리히터에게 닿을 방법을 찾아달라고 애원했다. “제가 미쳐 가는 것 같아요.” 그는 말했다. “그 사람이 진짜 존재하긴 하나요?” 마침내 리히터의 동료 중 한 명이 다음 강연 일정과 장소를 알려 주었다. 그는 4월에 다시 왕복 10시간을 달려갔고, 리히터는 통신사를 바꾼 것뿐이라고 설명했다. 그리고 스캔과 전사본 한 장을 건넸다. 딱 한 통이었지만, 가장 중요한 그 편지였다.
한 달 뒤, 그는 또다시 찾아가 리히터로부터 1873년 여름의 데데킨트 편지 한 통을 더 받았다. 그러나 그는 이런 여행을 더 할 여유가 있을지 몰랐다. “저 부자 아니에요.” 그는 말했다. 이제 세상에 자신이 무엇을 찾았는지 알릴 때라고, 그는 결심했다.
사라졌던 편지의 스캔을 읽는 구스.
Zack Savitsky for Quanta Magazine
오늘날 칸토어의 명성은 데데킨트를 훨씬 능가한다.
두 사람 모두 수학 기초에 큰 기여를 했다. 하지만 칸토어는 무한을 길들여 집합론을 발명한 인물로 종종 여겨진다. 집합론은 이제 현대 수학이 쓰이는 언어가 되었다. 역사상 가장 위대한 수학자 가운데 하나라는 그의 평판은 전기와 대중서들에 의해 강화되었고, 그는 수학계 밖의 사람들에게도 알려진 몇 안 되는 수학자 중 한 명이다.
반면 데데킨트의 영어 전기는 없다. 위키피디아 페이지 길이도 한때 친구였던 칸토어의 4분의 1에 불과하다. 수학자들 사이에서는—대체로 뇌터의 노력 덕분에—그가 덜 알려진 선지자라는 평판을 유지하고 있다. 노트르담 대학교의 집합론자이자 철학자인 조엘 데이비드 햄킨스는 말했다. “데데킨트에 대해 더 알수록 더 감탄하게 됩니다. 칸토어가 위대한 정리들을 많이 증명하긴 했지만, 데데킨트가 아마 더 위대한 수학자였을 겁니다.”
칸토어의 1874년 논문 뒤에 있는 진짜 이야기는 90년 동안 공개된 채로 있었다. 하지만 사람들은 그런 이야기를 좋아하지 않는다. “과학의 모든 분야는 영웅이 필요합니다.” 페레이로스는 말했다. “화학에는 라부아지에가 있고, 역학에는 뉴턴이 있고, 상대성이론에는 아인슈타인이 있죠. 항상 하나, 오직 하나. 하지만 그건 늘 거짓말입니다.”
그 거짓말에 도전한 이후, 구스는 저항을 마주했다. 잃어버린 편지를 발견했다는 이야기를 전하면, 특히 독일에서, 수학자들은 그 중요성을 의심한다. 왜 그것이 중요한지 이해시키기 어렵다. 그 반응은 30년 전 페레이로스의 논문에 대한 역사가들의 반응을 되풀이한다.
하지만 그것은 중요하다. 수학은 현실 세계의 결함과 불완전함으로부터 가장 안전한 거리를 두고 사는 과학으로 종종 여겨진다. 수학의 진리는 절대적이다. 아름다움과 우아함을 무엇보다 중시한다. 중요한 것은 연구 내용, 탐구하는 세계다. 저자성과 공로 같은 나머지는 부차적이다.
그러나 이는 과학적 진리를 추구하는 방식의 현실을 가린다. “수학은 집단적 사업입니다.” 페레이로스는 말했다. “집합론의 경우조차도, 한 사람이 전부를 발명했다는 멋진 사례가 있는 게 아니죠.”
또한 수학이 ‘사람이 하는 일’이라는 사실도 가린다. 자아, 의견, 개인적 결함을 연구 자체에서 분리하는 것은 불가능하다. “좋습니다.” 구스는 칸토어의 부정행위를 대수롭지 않게 여기는 수학자들에게 이렇게 되받아치곤 한다. “그럼 다음에 쓰는 논문은 익명으로 내세요. 그럼 과학만의 문제인지 보죠.” 자기 일에 대해서는 수학자들도 공로에 매우 민감하다. 많은 수학자들은 누가 어떤 정리를 만들었는지, 누가 어떤 상을 받았는지 거의 백과사전 수준으로 알고 있다.
칸토어의 결과에 대한 폭로는 그의 유산을 무너뜨리지 않는다. 그는 여전히 실수가 자연수보다 많다는 사실을 처음으로 증명한 사람이며, 그것이 결국 무한을 연구 대상으로 열어젖혔다. “제 관점에서 정말 중요한 건 두 번째 정리입니다.” 햄킨스는 말했다. 그리고 그 정리의 원래 증명은 데데킨트의 것이 아니었다.
그럼에도 수학사 최대 발견 중 하나에서 데데킨트의 역할과, 그에게 공을 돌리지 않기로 한 칸토어의 결정을 인정하는 일은 중요하다. 결국 칸토어의 선택은 그를 영웅에서 인간으로 낮출 뿐이다—더 정직한 초상이다. “칸토어는 다른 사람들과 쉽게 연결되지 못하는 사람이었습니다.” 리히터는 말했다. “칸토어에게는 아주, 아주 힘든 일이었죠.”
“그는 아주 젊고, 열정적이고, उत्स정적이었습니다.” 페레이로스는 말했다. “그리고 큰 실수를 했습니다.”
결국 이것이 더 나은 이야기다—진실이기 때문이다.
가장 중요한 소식의 하이라이트를 이메일 받은편지함으로 받아보세요
무한은 어떻게 여러 크기를 가질 수 있을까?
