왜 미래는 우리를 필요로 하지 않는가.

ko생성일: 2025. 11. 5.

로봇공학, 유전공학, 나노기술 같은 강력한 21세기 혁신이 인류의 자유와 존속 자체를 위협할 수 있다는 빌 조이의 성찰과 경고.

왜 미래는 우리를 필요로 하지 않는가.

우리의 가장 강력한 21세기 기술 - 로봇공학, 유전공학, 나노기술 - 은 인간을 멸종 위기 종으로 만들 위협이 되고 있다.

빌 조이(Bill Joy)

나는 새로운 기술 창조에 관여하던 그 순간부터 그 윤리적 차원이 늘 마음을 사로잡았지만, 21세기에 우리가 맞닥뜨릴 위험이 얼마나 큰지 불안하게 자각하게 된 것은 1998년 가을이었다. 그 불편함이 시작된 시점을 나는 레이 커즈와일(Ray Kurzweil)을 만난 날로 정확히 기억한다. 그는 시각장애인을 위한 최초의 독서기계를 비롯해 수많은 놀라운 발명으로 정당하게 명성을 얻은 인물이다.

레이와 나는 조지 길더(George Gilder)의 텔레코즘(Telecosm) 컨퍼런스에서 연사로 함께했고, 각자의 세션이 끝난 뒤 우연히 호텔 바에서 그를 마주쳤다. 나는 의식(consciousness)을 연구하는 버클리의 철학자 존 설(John Searle)과 함께 앉아 있었다. 우리가 이야기 나누고 있을 때 레이가 다가와 대화가 시작됐고, 그 주제는 지금도 나를 괴롭힌다.

나는 레이의 발표와 그가 존과 함께한 이후 패널 토론을 놓쳤는데, 그 둘은 마치 방금 논의를 이어가듯 대화를 시작했다. 레이는 기술 개선의 속도가 가속될 것이며, 우리가 로봇이 되거나 로봇과 융합하는 식이 될 거라고 말했고, 존은 로봇이 의식을 가질 수 없으니 그런 일은 일어나지 않을 것이라고 반박했다.

이런 이야기를 이전에도 들은 적이 있었지만, 나는 늘 지각 능력을 가진 로봇은 공상과학의 영역이라고 생각해 왔다. 그러나 이제 내가 존중하던 사람에게서 그것이 가까운 미래의 가능성이라는 강한 주장을 듣게 된 것이다. 미래를 상상하고 실제로 만들어내는 데 검증된 능력을 가진 레이의 말이었다는 점에서 나는 더욱 놀랐다. 나는 이미 유전공학과 나노기술 같은 새로운 기술이 우리에게 세계를 재구성할 힘을 준다는 것을 알고 있었지만, 지능형 로봇에 대한 현실적이고 임박한 시나리오는 내게 충격이었다.

이런 돌파구들에 무뎌지기는 쉽다. 우리는 거의 매일 뉴스에서 어떤 종류의 기술적·과학적 진보 소식을 듣는다. 하지만 이것은 흔한 예측이 아니었다. 호텔 바에서 레이는 곧 출간될 자신의 책 The Age of Spiritual Machines 의 일부 인쇄본을 내게 건넸다. 그 책에는 인간이 로봇 기술과 하나 되어 거의 불멸에 이르는 낙원이 그려져 있었다. 그것을 읽으면서 나의 불안은 더 커졌다. 레이가 위험을 과소평가하고 있으며, 이 길에서 나쁜 결과가 나올 확률을 낮춰 잡고 있다는 확신이 들었다.

나를 가장 괴롭힌 것은 디스토피아적 시나리오를 자세히 서술한 다음의 대목이었다.

새로운 러다이트의 도전

먼저 컴퓨터 과학자들이 인간보다 모든 일을 더 잘할 수 있는 지능형 기계를 개발하는 데 성공했다고 가정해 보자. 그런 경우 아마도 모든 일은 거대하고 고도로 조직된 기계 시스템들이 처리할 것이며 인간의 노력이 필요 없게 될 것이다. 그 다음에는 두 가지 경우가 벌어질 수 있다. 기계들이 인간의 감독 없이 스스로 모든 결정을 내리도록 허용되거나, 아니면 기계에 대한 인간의 통제가 유지되는 경우다.

만약 기계들이 스스로 모든 결정을 내리도록 허용된다면, 그 결과에 대해 어떤 추측도 할 수 없다. 그런 기계들이 어떻게 행동할지 짐작할 수 없기 때문이다. 우리가 지적할 수 있는 것은 인류의 운명이 기계의 자비에 달리게 된다는 점뿐이다. 인류가 그토록 어리석어 모든 권한을 기계에게 넘길 리 없다고 주장할 수도 있다. 그러나 우리가 말하려는 것은 인류가 자발적으로 권력을 기계에 넘긴다거나, 기계가 의도적으로 권력을 장악한다는 것이 아니다. 우리가 제안하는 바는, 인류가 기계에 대한 의존을 그토록 쉽게 허용할 수 있어서, 실질적으로 기계의 모든 결정을 받아들이는 것 말고는 선택지가 없게 되는 위치로 미끄러져 들어갈 수 있다는 것이다. 사회와 그에 직면한 문제들이 점점 더 복잡해지고, 기계가 점점 더 지능적이 될수록, 사람들은 기계가 결정을 더 많이 대신 내리게 할 것이다. 왜냐하면 기계가 내린 결정이 인간이 내린 결정보다 더 나은 결과를 가져올 것이기 때문이다. 마침내 시스템을 유지하기 위해 필요한 결정들이 너무 복잡해져서 인간이 그것들을 지능적으로 내릴 수 없게 되는 단계에 이를지도 모른다. 그 단계에서는 기계가 사실상 통제권을 쥐게 된다. 사람들은 기계를 그냥 꺼버릴 수 없을 것이다. 기계에 너무 의존하게 되어 기계를 끄는 행위가 곧 자살 행위가 되기 때문이다.

한편, 기계에 대한 인간의 통제가 유지되는 경우도 가능하다. 그런 경우 보통 사람은 자신의 자동차나 개인용 컴퓨터처럼 일부 사적인 기계에 대한 통제를 가질 수 있겠지만, 거대한 기계 시스템에 대한 통제는 아주 소수의 엘리트의 손에 놓일 것이다. 오늘날과 마찬가지지만 두 가지 차이가 있다. 향상된 기법 덕분에 엘리트는 대중을 더 강력하게 통제할 수 있을 것이고, 인간의 노동이 더 이상 필요 없게 되면 대중은 잉여가 되어 시스템에 불필요한 부담이 될 것이다. 엘리트가 무자비하다면 인류 대중을 단순히 절멸시키기로 결정할지도 모른다. 그들이 인도적이라면, 선전이나 다른 심리적·생물학적 기법을 사용해 출생률을 낮춰 인류 대중이 멸종하도록 만들고, 세상을 엘리트에게 남겨둘지도 모른다. 혹은 엘리트가 마음 약한 자유주의자들로 구성되어 있다면, 그들은 인류 나머지에 대한 좋은 목자의 역할을 하기로 결정할지도 모른다. 그들은 모든 이의 물질적 필요가 충족되도록 하고, 모든 아이가 심리적으로 위생적인 환경에서 자라도록 하며, 모두가 자신을 바쁘게 할 건전한 취미를 갖도록 보장하고, 불만을 품을 가능성이 있는 사람은 누구나 그 ‘문제’를 치유하기 위한 ‘치료’를 받도록 할 것이다. 물론 삶은 그토록 무목적해질 것이므로, 사람들은 권력 과정(power process)에 대한 필요를 제거하거나 권력에 대한 충동을 무해한 취미로 ‘승화’시키도록 생물학적 또는 심리적으로 설계되어야 할 것이다. 이렇게 설계된 인간은 그런 사회에서 행복할 수도 있지만, 결코 자유롭지는 못할 것이다. 그들은 가정 동물의 지위로 격하될 것이다.1

1 커즈와일이 인용한 이 대목은 카진스키의 ‘유나바머 선언문(Manifesto)’에서 가져온 것으로, 그의 폭력 캠페인을 끝내기 위한 시도로 뉴욕 타임스(The New York Times)와 워싱턴 포스트(The Washington Post)가 강요에 의해 공동으로 게재했다. 나는 데이비드 겔런터(David Gelernter)가 그 결정에 대해 말한 것에 동의한다.

“그것은 신문사들에겐 어려운 결정이었다. 예스라고 하면 테러에 굴복하는 셈이고, 그가 거짓말을 하고 있을 수도 있었다. 반면 예스라고 하면 살인을 멈추게 할 수도 있었다. 누군가 그 글을 읽고 저자에 대한 감을 잡을 가능성도 있었다. 그리고 바로 그 일이 일어났다. 용의자의 형제가 그것을 읽고 무언가 떠올렸다.

‘나 같으면 게재하지 말라고 했을 것이다. 그들이 나에게 묻지 않은 것이 다행이다. 아마도.’

(Drawing Life: Surviving the Unabomber. Free Press, 1997: 120.)

_빌 조이(Bill Joy)는 썬 마이크로시스템즈(Sun Microsystems)의 공동 창업자이자 최고과학책임자(CSO)였으며, 대통령 직속 IT 연구 미래위원회의 공동 의장을 맡았고, The Java Language Specification_의 공저자이다. 그의 지니(Jini) 보편 컴퓨팅 기술에 관한 작업은 Wired 6.08에 소개되었다.

페이지 2 >>