인공지능에 관한 글인데 엄청나게 긴 장문입니다. 유나바머 선언문으로 유명한 카진스키의 예측과 구글의 레이 커즈와일의 예측중 누가 더 정확할까요?

읽전에 일단 인공지능이 인간의 지적 능력을 넘지 못할 것이라 생각하시는 분은 그냥 뒤로가기 버튼을 누르세요. 읽을 필요가 없습니다.

------------------------------------------

사진1: 시어도어 카진스키

사진2: 빌 조이

사진3: 레이 커즈와일

------------------------------------------

《녹색평론》제55호 2000년 11-12월호

 

편집자의 말

  이 글은 미국에서 발행되는 잡지 Wired 2000년 4월호에 발표된 "Why the future doesn't need us"를 우리말로 옮긴 것이다. 이 글의 필자 빌 조이(Bill Joy)는 세계적으로 널리 알려진 컴퓨터 과학기술자로서, 미국의 대표적인 컴퓨터 기업의 하나인 '선 마이크로시스템스(Sun Microsystems)사'의 대표 과학자이자 그 회사의 공동 창립자이다. 그는 3년 전 클린턴 대통령에 의해 '정보기술에 관한 대통령 자문위원회(Presidential Information Technology Advisory Committee)'의 공동의장으로 임명되었다. 그러니까 그는 정보기술 유토피아라는, 지금 미국을 위시해서 온 세계를 휩쓸고 있는 대규모 사회적 실험에 실질적으로 책임이 있는 과학기술자 그룹의 핵심적 멤버라고 할 수 있다.

  그러한 그가 최근에 과학기술의 발전에 대하여 크게 우려하는 태도를 공개적으로 표명하기 시작하였다. 그리하여, 친(親)기술주의 잡지로 유명한 Wired에 발표된 이 긴 글에서 그는 거의 묵시록(默示錄)적인 목소리로 컴퓨터 기술의 급속한 발전으로 거의 필연적으로 닥쳐올 재앙에 대해 경고하고 있다. 과학기술에 대한 아마추어적 지식에 토대를 둔 것도 아니고, 이른바 러다이트(기계혐오자)의 입장도 아닌, 오늘날의 첨단 기술세계의 핵심 멤버로부터 나온 것이기 때문에 이 경고는 이 글이 발표된 이후 미국뿐만 아니라 세계 각처에서 큰 파문을 일으켰고, 그 파문은 지금도 계속되고 있다. 예를 들어, 독일의 주요 일간신문〈프랑크푸르터 알게마이네 차이퉁〉지는 이 글의 전문을 일간지의 지면에 번역하여 실음으로써 이 글의 메시지의 중요성을 인정했고, 영국에서 발행되는 세계적 환경잡지《에콜로지스트》2000년 10월호는 빌 조이와의 대담 기사를 중심으로 이 문제를 특집으로 다루고 있다. 뿐만 아니라 이 글이 발표된 직후 미국 스탠포드 대학에서 열린 '기술의 장래와 인간의 운명'에 관한 포럼에서는 빌 조이가 참석한 자리에서 그의 견해를 둘러싸고 1,000여명의 청중이 운집한 가운데 치열한 논쟁이 벌어졌다.

  생명공학을 비롯한 첨단기술들이 인류사회에 던져주고 있는 엄청난 도전을 고려할 때, 이러한 반응은 당연한 것으로 보인다. 오늘날 인류의 운명이 급속도로 걷잡을 수 없이 벼랑으로 내몰리고 있는 상황에서 수많은 사람들은 과학기술의 발전이 우리의 구세주가 될 것이라는 막연한 기대를 가지고 살고 있다. 그러나, 우리가 믿는 과학기술이 구세주가 아니라 인간으로서의 우리 자신의 존재를 뿌리로부터 파괴하는 '악마의 기술'이라면 어떻게 될 것인가? 빌 조이는 그렇게 될 가능성이 매우 높다고 경고하고 있는 것이다.

  인류의 절멸은 아닐지라도 인간다운 세계를 근원적으로 파괴할지도 모르는 이 끔찍한 재앙을 앞에 두고 이런 차원의 문제에 대해서는 철저히 무책임하고 소극적인 태도로 일관하고 있는 한국의 언론, 문화 풍토에서 그래도 기술사회의 심화, 확대에 고뇌를 느끼고 있는 사람들이 다소나마 갈증을 푸는 데 도움이 되고자 우리는 이 글의 전문을 옮겨 실으면서, 동시에 이에 대한 몇몇 분들의 논평을 얻어 싣는다.  

 

---

 

 

  내가 새로운 기술의 창조에 관여하기 시작했을 순간부터 윤리적인 문제는 줄곧 내 관심사였지만, 1998년 가을에 비로소 나는 21세기에 우리가 직면할 위험이 얼마나 엄청난 것인가에 대하여 크게 우려하게 되었다. 나는 내가 그러한 불안을 느끼게 된 날을 기억할 수 있는데, 그것은 내가 맹인용 읽기 기계와 그밖의 많은 놀랄 만한 기술을 만들어낸 저명한 발명가 레이 커즈웨일을 만난 날이었다.

  레이와 나는 '죠지 길더즈 텔레코즘' 회의에 둘다 연사로 참석했었는데, 회의가 끝난 뒤 나는 우연히 호텔 바에서 그와 마주쳤다. 나는 인간의 의식에 관해 집중적인 연구를 수행하고 있는 버클리 대학의 철학자 죤 서얼과 함께 앉아 있었다. 우리가 얘기를 나누고 있는 동안 레이가 다가왔고, 그래서 정담(鼎談)이 시작되었는데, 그때 우리가 나눈 화제는 지금까지 내 뇌리를 떠나지 않고 있다.

  레이는 테크놀로지의 발전속도가 가속화될 것이며, 우리는 로봇이 되거나 로봇과 뒤섞이거나 아니면 그 비슷한 것이 될 것이라고 했고, 죤은 로봇이 의식이 있는 존재가 아니기 때문에 그런 일은 일어나지 않을 것이라고 반박했다.

  전에는 그런 얘기를 들을 때 나는 늘 지각능력이 있는 로봇이란 공상과학 소설에서나 등장하는 것이라고 느꼈었다. 그러나 지금, 나는 내가 존경하는 어떤 사람으로부터 그러한 로봇이 가까운 미래에 실제로 가능하다는 강력한 주장을 듣고 있었다. 미래를 상상하고 창조하는 레이의 능력은 이미 증명되었다는 사실을 생각할 때, 그 주장이 근거 없는 것이라고는 할 수 없었고, 따라서 그것은 내게 큰 충격이었다. 나는 이미 유전자공학과 나노테크놀로지와 같은 새로운 기술이 우리에게 세계를 개조할 수 있는 힘을 제공하고 있다는 것은 알고 있었다. 그러나 똑똑한 로봇이 실제로 출현할 날이 임박했다는 시나리오는 놀라운 뉴스였다.

  새로운 기술적 혁신의 소식에 우리는 무감각해지기 쉽다. 우리는 거의 매일 모종의 기술적 또는 과학적 진보에 관한 뉴스를 듣고 있기 때문이다. 그렇지만, 그날 내가 들은 것은 보통 들을 수 있는 예언이 아니었다. 그 호텔 바에서 레이는 곧 출간될 자신의 책《정신적 기계의 시대》의 사전 인쇄본의 일부를 내게 주었는데, 거기에는 그가 예견하는 하나의 유토피아 ― 인간이 로봇기술과 하나가 됨으로써 거의 영생불사를 누리게 되는 ― 의 윤곽이 그려져 있었다. 그걸 읽으면서 나는 더욱 불안해질 뿐이었다. 나는 그가 닥쳐올 위험에 대하여, 이 길을 따라갈 때 현실화될 수 있는 나쁜 결과에 대하여 좀더 깊이있는 이해력을 가져야 한다고 생각했다.

  나는 역(逆)유토피아의 세계를 그려보이고 있는 한 구절 때문에 심란스러워졌다.

 

  새로운 러다이트(기계혐오자)의 도전

  컴퓨터 과학자들이 인간보다도 모든 일을 더 유능하게 해낼 수 있는 지능적인 기계들을 개발하는 데 성공했다고 생각해보자. 그럴 경우 모든 일은 기계들의 방대하고 고도로 조직된 시스템에 의해 수행될 것이며, 어떠한 인간의 노력도 불필요하게 될 것이다. 그러면 기계들이 인간의 감독을 받지 않고 스스로 판단하여 결정하는 것이 허용되거나 기계에 대한 인간의 통제가 유지되거나, 둘 중 하나의 상황이 될 것이다.

  기계들이 자기결정을 하도록 허용된다면, 우리는 그 결과를 짐작도 할 수 없다. 왜냐하면 그러한 기계들이 어떻게 행동할 것인지 추측하는 것이 불가능하기 때문이다. 우리는 다만 인류의 운명이 기계에 좌우될 것이라는 사실을 지적할 수 있을 뿐이다. 인류가 모든 힘을 기계들에 넘겨줄 만큼 어리석지 않다고 주장하는 사람이 있을지 모른다. 그러나 우리는 인류가 자발적으로 자기의 힘을 기계들에 넘겨주는 일도, 기계들이 의도적으로 권력을 장악하려고 기도하는 일도 없을 것임을 말하고자 한다. 우리가 말하고자 하는 것은 인류가 기계들에 의존하는 입장으로 쉽사리 자기를 내맡겨둠으로써 결국 기계가 내리는 모든 결정을 받아들이는 것밖에 아무런 선택의 여지가 없는 상황으로 가게 될 것이라는 것이다. 사회와 사회가 직면한 문제들이 점점더 복잡해지고 기계들이 점점더 총명해짐에 따라 사람들은 기계로 하여금 모든 결정을 내리도록 허용할 것이다. 왜냐하면 기계가 내리는 결정들은 사람이 내리는 결정보다 더 나은 결과를 가져올 것이기 때문이다. 그리하여 마침내 체제를 움직이는 데 필요한 결정들이 너무나 복잡한 것이 되어 사람의 능력으로는 더이상 총명한 결정을 내릴 수 없는 단계가 올지도 모른다. 그러한 단계에서는 기계들이 통제력을 장악하게 될 것이다. 그렇게 되면, 사람들에게는 기계의 스위치를 꺼버릴 능력도 없을 것이다. 왜냐하면 그들은 너무나 기계에 의존적이어서 기계의 스위치를 끈다는 것은 자살행위가 될 것이기 때문이다.

  다른 한편으로, 기계에 대한 인간의 통제가 유지되는 게 가능할지도 모른다. 그런 경우 인간은 자동차나 개인 컴퓨터 같은 자기 소유의 사적 기계들에 대한 통제력을 가지고 있을지는 모르지만, 대규모의 기계시스템에 대한 통제는 극소수의 엘리트의 손아귀에 장악되어 있을 것이다. 그런 상황은 오늘날과 동일하지만, 두가지 차이점이 있을 것이다. 기술의 진보 덕분에 엘리트는 대중에 대하여 훨씬 더 큰 통제력을 행사할 것이며, 인간의 노동이 더이상 필요하지 않게 될 것이기 때문에 대중은 잉여의 존재, 체제에 대하여 쓸모없는 부담이 될 것이라는 것이다. 엘리트가 무자비하다면 그들은 간단히 대다수 인류를 제거해버릴지도 모른다. 엘리트가 인도적이라면 그들은 선전술이나 심리학적 또는 생물학적 기술을 이용하여 출산율을 감소시켜 대다수 인류의 절멸이 이루어지게 하고, 그 결과 세상이 엘리트의 독차지가 되게 할지도 모른다. 아니면, 엘리트가 부드러운 마음을 가진 자유주의자들이라면, 그들은 대다수 인류를 지켜주는 선량한 목자의 역할을 하려고 할지 모른다. 그래서 그들은 모든 사람이 육체적 욕구를 만족시키고, 모든 아이들이 심리적으로 위생적인 조건에서 길러지고, 누구든 건강한 취미를 갖고 분주한 생활을 누리며, 그리고 누군가 불만을 느끼는 사람이 있다면 당장 그의 '문제'가 치유되도록 마음을 쓸 것이다.

  물론, 그런 상황에서 삶은 목적 없는 것이 되고, 사람들은 권력에 대한 욕망을 제거하거나 또는 그러한 욕망을 무해한 취미활동으로 '승화'시키도록 생물학적 내지 심리학적 조작을 당할 것이다. 이렇게 조작된 인간이 그러한 사회에서 행복할지는 모르지만, 그러나 그들은 분명히 자유로운 존재는 아닐 것이다. 그들은 가축이나 다름없는 지위로 떨어져 있을 것이다.

 

  사람들은 책을 읽다가, 페이지를 넘기기 전까지는 이 구절의 필자가 시오도어 카진스키, 즉 유나바머(Unabomber)라는 것을 모를 것이다. 나는 카진스키를 변호하고 싶지 않다. 17년에 걸친 그의 폭탄 테러행위 때문에 세 사람이 죽었고, 많은 사람들이 부상을 당했다. 카진스키의 폭탄 하나는 내 친구이자 우리 시대의 가장 총명하고 비젼있는 컴퓨터 과학자인 데이비드 겔렌터에게 심각한 상해를 입혔다. 많은 내 동료들처럼, 나 자신도 유나바머의 다음번 목표일 가능성이 크다고 느꼈다.

  카진스키의 행위는 살인적인 것이었고, 내가 보기에는 범죄적일 만큼 미친 짓이었다. 그가 러다이트라는 것은 명백하다. 그러나 이렇게 말한다고 해서 그의 논리가 무시할 수 있는 것이 되는 것은 아니다. 나로서는 고통스럽지만, 이 구절에 담긴 논리가 갖는 어느 정도의 타당성을 인정하지 않을 수 없었다.

  카진스키는 과학기술의 뜻하지 아니한 결과, 즉 "잘못될 가능성이 있는 것은 잘못된다"라는 머피의 법칙에 명백히 관계되어 있는 문제를 묘사하고 있다. 항생제의 과잉 사용은 그러한 문제 중 지금까지 가장 큰 문제를 일으켰다. 즉, 항생제에 저항하는 보다 위험한 박테리아가 나타난 것이다. 그와 비슷한 사례는 DDT를 사용하여 말라리아 모기를 박멸하려는 기도에서도 발생하였다. 말라리아 기생충들이 마찬가지로 그 약품에 저항하는 유전자를 획득하게 된 것이다.

  이러한 뜻밖의 일들이 일어나는 원인은 자명한 것으로 생각된다. 관계된 일들은 시스템을 구성하고 있는 부분들 사이에 상호작용이 끊임없이 일어나는 복합적인 시스템들이기 때문이다. 하나의 시스템에 어떤 변화가 생길 때 그 변화는 예측하기 어려운 방식으로 전체 시스템에 큰 영향을 끼치는 것이다. 이것은 인간행동이 관계되어 있을 때 특히 그렇다고 할 수 있다.   

  나는《정신적 기계》에 인용되어 있는 카진스키의 글을 친구들에게 보여주기 시작했다. 나는 그들에게 커즈웨일의 책을 주고, 그 인용문을 읽게 한 다음, 그 구절의 필자가 누구인지를 알았을 때 그들이 어떤 반응을 보이는지를 관찰했다. 같은 시기에, 나는 한스 모라벡의 책《로봇 ― 단순한 기계로부터 초월적인 정신으로》를 발견했다. 모라벡은 로봇공학 분야에서 선구자의 한 사람이며, 카네기 멜런 대학에 있는 세계 최대규모의 로봇기술 연구프로그램의 창설자였다. 그의 책《로봇》은 내 친구들을 테스트하는 데 추가적인 재료, 즉 카진스키의 논리를 뒷받침하는 재료가 되었다. 예를 들면,

 

  단기적 결과(초기 2000년대)

  생물학적 종(種)이 보다 우월한 경쟁자들과 조우하여 살아남는 경우란 거의 없다. 천만년 전, 남북 아메리카는 가라앉은 파나마 지협(地峽)으로 분리되었다. 남아메리카는 오늘의 오스트레일리아처럼 포유류 유대(有袋)동물들의 땅이었다. 남북 아메리카를 이어주는 지협이 융기했을 때, 좀더 효율적인 신진대사와 생식 및 신경체계를 갖춘 북쪽의 태생동물들이 남쪽의 모든 유대동물들을 제거하고 그 자리를 차지하는 데에는 불과 수천년밖에 걸리지 않았다.

  완전히 자유로운 시장에서라면, 북아메리카의 태생동물들이 남아메리카의 유대동물들에게 영향을 끼친 것처럼(또, 인간이 수많은 생물종들에게 영향을 끼친 것처럼) 우월한 로봇들은 틀림없이 인간들에게 영향을 끼칠 것이다. 로봇 산업들은 자기들끼리 재료, 에너지, 공간을 차지하기 위해 치열한 경쟁을 할 것이며, 마침내는 그러한 것들의 비용이 인간이 미칠 수 있는 한계를 넘어서버릴 것이다. 삶의 필수품을 더이상 조달할 수 없는 결과로 생물학적 인간은 결국 엄청난 압박을 받아 생존 자체가 불가능하게 될 것이다.

  그러나, 얼마간의 숨쉴 만한 공간은 있을지 모르는데, 그것은 우리가 완전한 자유시장 속에 살고 있지 않기 때문이다. 정부는 특히 조세제도로써 사람들에게 비시장적 행동을 강요한다. 정부에 의한 이러한 강압적 시책이 현명하게 행사된다면, 인간이 아마도 로봇을 이용하여 오랫동안 높은 수준의 삶을 영위하는 것이 가능할지 모른다.

  모라벡은 계속하여 21세기에 우리가 해야 할 주된 과업이 적절한 법률을 통해서 "로봇 산업들로부터 지속적인 협력을 확보하는" 것이라고 말하고, "일단 제어할 수 없는 초지능적인 로봇으로 탈바꿈해버린 다음에는" 한 인간이 얼마나 위험한 존재가 될 수 있는가를 묘사하고 있다. 모라벡의 견해에 의하면, 로봇은 결국 우리를 계승하게 될 것이다. 즉, 인간은 절멸에 직면할 것이 틀림없다.

  나는 이제 내 친구 대니 힐리스에게 얘기를 해야 할 때라고 결정했다. 대니는 매우 강력한 슈퍼컴퓨터를 만든 '씽킹머신사(Thinking Machines Corporation)'의 공동설립자로서 유명하게 되었다. '선 마이크로시스템스'의 대표 과학자라는 현재의 직명에도 불구하고, 나는 과학자라기보다는 컴퓨터 건축가라 할 수 있다. 그리고 나는 정보 및 물리과학에 있어서는 내가 알고 있는 어느 누구보다도 대니의 지식을 존경한다. 대니는 또한 장기적으로 생각하는 미래론자로서 높이 평가받고 있다. 4년 전, 그는 오늘날 우리사회가 너무나 단기적인 시각에 갇혀 있다는 것에 주의를 환기하기 위한 시도로서 1만년간 지속되도록 설계된 시계를 만드는 일을 시작하였다.

  그래서, 나는 대니와 그의 아내 패티와 함께 식사를 하려는 목적으로 로스엔젤레스로 날아갔다. 나는 이제는 내게 익숙해진 과정을 되밟아, 나를 혼란스럽게 만들었던 아이디어들과 구절들을 대니에게 전해주었다. 대니의 대답은 ― 특히, 인간이 로봇과 뒤섞여버릴 것이라는 커즈웨일의 시나리오에 대해서 ― 신속했고, 나를 퍽 놀라게 했다. 그의 말은 간단했다. 변화는 점진적으로 올 것이고, 우리는 그 변화에 익숙해질 것이라는 것이었다.

  그러나, 내가 전적으로 놀란 것은 아닌지 모른다. 나는 커즈웨일의 책에 대니의 말이 인용되어 있는 것을 보았던 것이다. 이미 어디선가 대니는 "나는 누구보다도 내 몸을 사랑한다. 그러나 내가 실리콘으로 된 몸으로 200세까지 살 수 있다면, 그걸 받아들일 것이다"라고 했던 것이다. 나와는 달리, 그는 이러한 과정과 그에 따르는 위험에 대하여 별로 불안이 없는 듯하였다.

  커즈웨일과 카진스키와 모라벡에 관하여 말하고 생각하는 동안 나는 갑자기 거의 20년 전에 읽었던 소설 ― 프랭크 허버트의《하얀 페스트》― 이 기억났다. 그 소설에는 한 분자생물학자가 자신의 가족이 살해된 것에 대하여 보복하려는 과정에서 미친 인간이 되어가는 모습이 그려져 있다. 그는 복수를 위하여 넓은 범위에 걸치면서 동시에 선택적으로 사람을 죽이는 몹시 전염성이 강한 새로운 질병을 만들어 퍼뜨린다. 나는 또한《스타 트랙》의 인물, 즉 강한 파괴적 혈통을 가진, 부분적으로 로봇생물인 보르그를 떠올렸다. 보르그와 같은 유형의 재앙은 이미 공상과학 소설에서는 단골소재이다. 그런데도 왜 나는 좀더 일찍 로봇으로 인한 그러한 디스토피아의 문제에 대하여 관심을 가지지 않았던가? 왜 다른 사람들은 이러한 악몽의 시나리오에 대하여 좀더 관심을 가지지 않았던가?

  그에 대한 부분적인 대답은 새로운 것에 대한 우리의 태도에 있다. 즉, 새로운 것에 대하여 쉽게 친숙해지고, 질문없이 받아들이는 우리의 편견 말이다. 새로운 과학적 발견이 거의 일상화된 상황에서의 삶에 익숙해진 나머지, 우리는 21세기의 압도적인 과학기술들 ― 로봇공학, 유전자공학, 나노테크놀로지 ― 은 지금까지의 과학기술과는 근본적으로 다른 위협을 제기하고 있다는 사실을 깨닫지 못하고 있다. 그중에서, 로봇과 인공 유기체와 극미로봇(nanobots)은 특히 위험한 요소를 가지고 있는데, 그것은 그것들이 자기복제를 할 수 있다는 점이다. 폭탄 한개는 오직 한번만 터질 수 있다. 그러나, 하나의 로봇은 여러개의 로봇이 될 수 있고, 빠른 속도로 통제 불가능하게 된다.

  지난 25년 동안 내 작업의 대부분은 컴퓨터 네트워킹에 관한 것이었는데, 컴퓨터 네트워크에서는 메시지들을 보내고 받는 일이 통제받지 않는 복제의 기회를 만들어낸다. 그러나, 컴퓨터 내에서나 컴퓨터 네트워크에서의 복제는 성가신 일일 수는 있지만, 최악의 경우라 해도 그것은 기계를 작동불능이 되게 하거나 네트워크 또는 네트워크 서비스를 중단시킬 뿐이다. 하지만, 이들 보다 새로운 테크놀로지에 있어서의 통제되지 않은 자기복제는 좀더 큰 위험, 즉 물리적 세계에 심각한 손상을 입히는 위험이 되는 것이다.

  이러한 새로운 기술들은 또한 각기 미증유의 장밋빛 미래를 약속한다. 커즈웨일은 자신의 로봇에서 거의 영생불사의 비젼을 보고 있고, 유전자공학은 당장의 치유는 아니라 해도 대부분의 질병에 대한 처치를 곧 제공할지 모르며, 나노테크놀로지에 기초한 의학은 보다 많은 질병에 대응할 수 있을 것이다. 그 기술들은 결합된 힘으로 우리의 평균수명을 연장하고, 우리의 삶의 질을 개선시킬 수 있을 것이다. 그러나, 이러한 기술 모두에서, 소소한, 개별적으로는 뜻있는 발전의 연속적인 과정은 엄청난 힘의 집적으로 이어지고, 거기에 수반하여 엄청난 위험을 초래할 수 있는 것이다.

  20세기 기술은 무엇이 달랐던가? 말할것도 없이, 대량살상 무기들 ― 핵, 생물 및 화학무기 ― 의 근간에 있는 기술들은 강력한 것이었고, 그 무기들은 엄청난 위협이 되었다. 그러나 핵무기를 개발하기 위해서는 적어도 잠정적으로는 희귀한 ― 효율성이 부족한 ― 원료물질과 고도로 보호된 정보를 확보하는 것이 필요하였다. 생물 및 화학무기 프로그램은 또한 대규모의 활동을 요하는 경향이 있었다.

  21세기의 테크놀로지 ― 유전공학, 나노테크놀로지, 로봇공학 ― 는 너무도 강력한 힘을 가진 것이기 때문에 그것들은 전체적으로 새로운 종류의 사고(事故)와 오용을 낳을 수 있다. 가장 위험스러운 것은, 역사상 최초로, 이러한 끔찍한 결과를 초래할 수 있는 기술들이 개인과 소그룹들의 손아귀에 쉽게 들어간다는 점이다. 이들 기술은 대규모 시설이나 희귀한 원료를 필요로 하지 않을 것이다. 그것들을 사용하는 데 필요한 것은 오직 지식뿐일 것이다.

  따라서 우리에게 가능한 현실은 단순히 대량파괴의 무기가 아니라 지식에 기반한 대량파괴이며, 이것은 자기복제의 힘으로 엄청나게 증폭된 파괴력을 가질 것이다.

  나는 우리가 극단적인 악이 저질러질 수 있는 지점으로 나아가고 있다고 하는 것이 조금도 과장이 아니라고 생각한다. 종래의 대량파괴 무기들이 국민국가의 통제하에 있었던 수준을 넘어 이제 새로운 기술들이 극단적인 개인들의 예측할 수 없는 끔찍한 행동을 뒷받침하는 힘이 될 수 있는 것이다.

  그동안 내가 컴퓨터에 관계하여 일해온 방식을 통하여 나는 내가 이러한 종류의 문제에 직면할 것이라는 것을 생각해보지 못했다.

  나의 삶은 질문을 하고 대답을 찾는 깊은 욕구로 움직여왔다. 세살 때 이미 나는 글을 읽었고, 그래서 아버지는 나를 초등학교에 넣었다. 나는 교장선생님의 무릎에 앉아 이야기를 하나 읽어드렸다. 나는 학교를 일찍 시작했고, 월반을 하고, 책속으로 빠져들어갔다. 나는 믿을 수 없을 만큼 배우고 싶은 의욕에 넘쳐 있었다. 나는 무수한 질문을 했고, 흔히 어른들을 난처하게 만들었다.

  10대 소년으로서 나는 과학과 기술에 굉장히 흥미를 느꼈다. 나는 햄 라디오 오퍼레이터가 되고 싶었으나 장비를 구입하는 데 필요한 돈이 없었다. 햄 라디오는 그 당시의 인터넷이었다. 즉, 쉽게 중독이 되고, 혼자 외톨이로 하는 작업이었다. 돈 문제를 떠나서, 어머니가 개입하였다. 나는 햄이 되어서는 안되었다. 나는 이미 충분히 비사회적이었다.

  나는 가까운 친구들은 많지 않았는지 모르지만, 아이디어는 넘쳐났다. 고등학교에 들어가기 전에 이미 나는 공상과학 소설의 대가들을 발견했다. 특히 헤인레인과 아시모프의 소설들이 지금 기억난다. 나는 우주여행에 대한 묘사에 매료당했고, 별들을 보기 위해 망원경을 갖고 싶었다. 망원경을 살 돈이 없었기 때문에 나는 도서관에서 망원경 제작법에 관한 책들이 있는지를 점검하여 그것들을 읽었다. 상상 속에서 나는 하늘 높이 날아올랐다.

  목요일 저녁마다 부모님은 보올링을 하러 나가시고, 우리 아이들끼리만 집에 남게 되었다. 목요일 밤은 진 로든베리가 쓴《스타 트랙》의 원작이 방영되는 시간이었다. 그 프로그램은 내게 매우 인상적이었다. 나는 서구 스타일의 굉장한 영웅들과 모험으로 찬 우주공간에 인간의 미래가 있다는 그 프로그램의 메시지를 받아들였다. 닥쳐올 세기에 대한 로든베리의 비젼은 강한 도덕적 가치를 품고 있었다. 즉, 기술적으로 덜 진보된 문명들의 발전에 간섭을 하지 않는다는 규범에 그러한 가치가 구현되어 있었다. 이것은 내게 엄청난 매력을 주었다. 로봇이 아니라 윤리적 인간이 미래를 지배하는 로든베리의 비젼은 내 꿈의 일부가 되었다.

  나는 고등학교에서 수학에 뛰어났다. 미시간 대학 공학부 학생으로 입학했을 때 나는 수학 전공자들이 듣는 고급과정을 신청했다. 수학문제를 푸는 것은 흥미진진한 일이었다. 그러나 내가 컴퓨터를 발견했을 때 나는 그것이 훨씬 더 흥미로운 것이라고 생각했다. 한 문제를 풀기 위한 프로그램을 컴퓨터에 넣으면 컴퓨터는 재빨리 해답을 체크해주었다. 컴퓨터는 정오(正誤)와 진위(眞僞)에 대한 명백한 개념을 갖고 있었다. 내가 가진 생각이 올바른가? 컴퓨터가 내게 대답해줄 수 있었다. 이것은 너무도 매혹적이었다.

  나는 운좋게도 초기 슈퍼컴퓨터의 프로그래밍 일을 할 수 있게 되었고, 복잡한 설계의 시뮬레이션에 있어서 큰 컴퓨터들이 보여주는 놀라운 능력을 발견하였다. 1970년대 중반에 캘리포니아 대학 버클리 분교의 대학원에 진학했을 때, 나는 밤늦게까지, 흔히 밤을 새워, 그 기계 속에서 새로운 세계를 만들어내는 일에 열중하기 시작했다.

  미켈란젤로에 관한 전기소설《번민과 희열》에서 어빙 스톤은 미켈란젤로가 어떻게 돌에서 조상(彫像)을 풀어내놓을 수 있었는지를 생생하게 묘사하였다. 미켈란젤로는 그의 마음속에 있는 이미지를 돌에 새김으로써 "대리석을 감싸고 있는 주술(呪術)"을 깨트렸다. 그와 같은 방식으로, 내가 가장 희열을 느낀 순간에 컴퓨터 속에 내재된 소프트웨어가 저절로 나타났다. 내 마음속에서 일단 상상하기만 하면, 나는 그것이 풀려져나오기를 기다리면서 이미 거기 컴퓨터 속에 있었던 것처럼 느꼈다. 그것을 풀어주기 위하여, 즉 내 아이디어에 구체적인 형태를 부여하기 위하여 밤을 새우는 것은 내가 치러야 할 작은 희생이었다.

  버클리에서의 몇년 뒤, 나는 내가 쓴 몇몇 소프트웨어를 ― 교육용 파스칼 시스템, 유닉스 유틸리티, vi라고 불린 본문 편집기(놀랍게도, 20년이 지난 지금도 널리 사용되고 있는) ― 비슷하게 작은 PDP-11과 VAX 미니컴퓨터를 가진 사람들에게 내보내기 시작했다. 나의 이런 모험은 마침내 버클리판 유닉스 운영체계로 발전하였고, 이것은 개인적으로 내게 '성공의 재앙'이 되었다. 너무나 많은 사람들이 그것을 원했기 때문에 나는 박사학위를 끝내지 못했다. 그 대신 나는 다르파(Darpa)에서 일자리를 얻어 버클리 유닉스를 인터넷에 올리고, 그것을 신뢰할 수 있는 것이 되게 하고, 대규모 연구용으로도 쓸 수 있도록 개선하는 일을 했다. 이것은 매우 재미있고, 충분한 보상을 받는 일이었다. 솔직히 말해서, 나는 그때 내가 하는 일에서 로봇에 관한 문제는 전혀 인식하지 못했다.

  여전히, 1980년대 초에 이르기까지, 나는 내 일에 깊이 빠져들고 있었다. 유닉스는 매우 성공적이었고, 내 작은 프로젝트 하나 덕분에 나는 돈과 몇몇 스태프를 갖게 되었다. 그러나 버클리에서의 문제는 늘 돈보다도 사무실 공간이었다. 그래서 '선 마이크로시스템스'의 공동 창설자들이 나타났을 때, 나는 곧장 그들과 합류하였다. '선'사에서 일터와 내 개인 컴퓨터 앞에서의 작업은 밤늦은 시간까지 계속되기 일쑤였고, 나는 고급 마이크로프로세서 기술과 자바(Java)와 지니(Jini)와 같은 인터넷 기술을 창조해내는 일에 참여하는 것을 즐겼다.

  이 모든 것으로부터, 내가 러다이트가 아니라는 것은 분명해졌다고 나는 믿는다. 나는 언제나 진리에 대한 과학적 추구의 가치를 굳게 믿고, 물질적 진보를 가져오는 데 있어서의 위대한 공학의 힘을 강력하게 믿어왔다. 산업혁명은 지난 200년간 모든 사람들의 생활을 측량할 수 없이 개선시켜주었다. 나는 늘 전문가로서의 내 생애가 진정한 삶의 문제를 가치있게 해결하는 데 기여하게 되기를 바랐다.

  나는 실망해본 적이 없다. 내 일은 내가 희망했던 것보다 더 영향을 미쳤고, 내가 이성적으로 기대할 수 있는 것보다 더 널리 사용되어왔다. 나는 지난 20년간 어떻게 하면 내가 바라는 만큼 컴퓨터를 신뢰할 수 있고 사용하기 간편한 것으로 만들 수 있는가를 궁리하면서 보내왔다. 몇몇 성공에도 불구하고, 아직 남은 문제들은 더욱 큰 도전을 요구하는 것으로 보인다.

  그러나, 무기연구와 같은 분야에서 기술의 결과를 둘러싼 도덕적 딜레마가 있다는 것을 의식하고 있으면서도, 나는 내가 그러한 문제를 내 자신이 하는 일에서, 적어도 당분간, 마주칠 것이라고는 생각하지 않았다.

  아마도 변화의 와중에 있는 동안에는 보다 큰 국면을 본다는 것은 어려운지 모른다. 발견과 혁신의 희열에 잠겨 있는 동안에 자신들이 만들어낸 것들의 결과를 이해하지 못한다는 것은 과학자들과 기술자들의 공통한 결함인 것으로 보인다. 우리는 오랫동안 무엇보다 ― 과학적 추구의 본성인 ― 알고자 하는 욕망에 지배되어, 보다 새롭고 보다 강력한 기술들이 그것 자체의 내재적 논리에 따라 통제불능으로 발전할 수 있다는 사실을 생각해보지 않았다.

  나는 오래 전부터 정보기술에서의 진보가 컴퓨터 과학자나 컴퓨터 건축가 또는 전기공학자들이 아니라 물리과학자들의 작업으로부터 나온다는 것을 인식하고 있었다. 1980년대 초에 물리학자 스티븐 울프램과 브로슬 해슬래처의 소개로 나는 카오스 이론과 비선형 체계를 알게 되었다. 1990년대에 나는 복잡계에 대한 지식을 대니 힐스, 생물학자 스튜어트 카우프먼, 노벨상 수상 물리학자 머레이 겔-먼, 그밖의 사람들과의 대화를 통해서 얻었다. 가장 최근에는, 해슬래처와 전기공학자이자 고안 물리학자인 마크 리드가 분자전자공학의 엄청난 가능성에 대해 내가 들여다볼 수 있게 해주었다.

  세개의 마이크로프로세서 구조 ― SPARC, picoJAVA, 그리고 MAJC ― 의 공동 설계자로서, 또 그것들에 대한 몇몇 실행기술의 설계자로서, 나는 무어(Moore)의 법칙에 대해 깊이있는 직접적 이해를 갖게 되었다. 몇십년 동안 무어의 법칙은 반도체 기술이 지수함수적 속도로 발전할 것을 정확히 예측해왔다. 작년까지 나는 무어의 법칙이 예측하는 발전의 속도는 대충 2010년까지만 계속될지 모른다고 믿었다. 그때쯤이면 부분적으로 물리적 한계에 도달하기 시작할 것이기 때문이다. 새로운 기술이 때늦지 않게 나타나서 지금까지와 같은 성장을 계속 가능하게 해줄 것인지 내게는 불투명했던 것이다.

  그러나, 최근의 급속하고 근본적인 분자전자공학상의 진보 ― 기존의 트랜지스터를 개별 원자와 분자가 대체하는 ― 로 말미암아, 또 그에 관련된 나노테크놀로지들로 말미암아, 우리는 앞으로 30년 이상 무어의 법칙이 예견하는 속도 이상을 기대할 수 있게 되었다. 2030년이 되면, 우리는 오늘날의 개인용 컴퓨터보다도 백만배 이상의 강력한 성능을 가진 기계를 가질 가능성이 크다. 그렇게 되면, 커즈웨일과 모라벡의 꿈은 실제로 충분히 실현가능하게 되는 것이다.

  이러한 엄청난 힘을 가진 컴퓨터가 진보된 물리과학과 더욱 새롭고 깊어진 유전학과 결합될 때, 세계를 엄청나게 변화시킬 힘이 마구 풀려져 나올 것이다. 이와 같은 결합은 좋든 나쁘든 세계를 완전히 바꾸어놓을 수 있는 기회를 열어줄 것이다. 자연세계 속에 국한되어 있던 복제와 진화의 과정이 인간의 손으로 좌지우지할 수 있는 영역이 되려고 하는 것이다.

  소프트웨어와 마이크로프로세서를 설계하는 과정에서, 나는 내가 지능을 가진 기계를 설계하고 있다는 느낌을 가져본 적이 없다. 소프트웨어와 하드웨어는 너무도 허약하고, 기계가 '생각'을 할 수 있는 능력은 명백히 없기 때문에 하나의 가능성으로서도 이것은 늘 매우 먼 장래의 일로 여겨졌다.

  그러나 지금, 30년 내에 인간 수준의 능력을 가진 컴퓨터가 전망되는 것과 함께, 새로운 생각이 어쩔 수 없이 든다. 지금 내가 하는 일은 우리의 종(種)을 대체할지도 모르는 테크놀로지를 가능하게 하는 도구를 만드는 일이 아닐까? 이걸 어떻게 받아들여야 하는가? 내 마음은 몹시 편치 않다. 믿을 만한 소프트웨어 시스템을 만드는 데 전문가로서의 삶을 온통 바쳐온 내게, 그동안 사람들이 상상해온 것처럼 우리의 미래가 그렇게 밝은 것이 되지 않을 가능성이 매우 높게 보이는 것이다.

  이 새로운 기술들의 엄청난 힘을 고려할 때, 우리는 그것들과 어떻게 하면 가장 잘 공존할 수 있을지를 물어야 하지 않을까? 그리고, 그러한 기술의 발전의 결과로 우리 자신의 절멸이 가능하다면, 우리는 마땅히 큰 조심성을 가지고 나아가야 하지 않을까?

  로봇의 꿈은 첫째, 지능을 가진 기계가 우리를 위해 대신 일을 해주고, 그리하여 우리는 여가의 삶을 누리며 에덴으로 되돌아갈 수 있으리라는 것이다. 그러나《기계들 사이의 다윈》에서 죠지 다이슨은 경고하고 있다. "생명과 진화의 놀이에서 유희하는 연기자는 셋이다. 그것들은 인간과 자연과 기계이다. 나는 확고히 자연의 편에 서있지만, 자연은 내 생각에 기계의 편에 서있는 것 같다." 모라벡도 동의하겠지만, 우리가 보아온 것처럼, 우리는 뛰어난 능력을 지닌 로봇 종(種)과의 조우에서 살아남지 못할지도 모른다.

  그러한 지능을 가진 로봇이 얼마나 빨리 만들어질 수 있을까? 컴퓨터 기술의 발전속도로 볼 때 그것은 2030년까지는 가능할 것으로 보인다. 그리고, 지능을 가진 로봇이 일단 존재하게 되면, 로봇 종(種) ― 스스로 복제를 통해 진화를 하는 ― 이 출현하는 데는 작은 한걸음만 더 필요할 것이다.

  로봇공학이 품어온 두번째 꿈은 우리가 점차로 로봇기술로써 우리 자신을 대체하여, 우리의 의식을 다운로드시킴으로써 거의 영생불사를 성취할 것이라는 것이다. 우리가 점차로 익숙하게 될 것이라고 대니 힐스가 말한 것이 바로 이 과정이며, 레이 커즈웨일이《정신적 기계》속에서 우아하게 묘사하고 있는 것이 바로 이러한 과정이다. (2월 8일자《와이어드》에 예시되어 있듯이, 컴퓨터 장치를 인간의 몸속에 심어놓는 행위 속에서 이미 이러한 과정의 전조를 우리는 보기 시작하고 있다.)

  그러나, 우리가 우리의 테크놀로지 안으로 다운로드될 때, 그때부터 우리가 우리 자신이나 또는 심지어 인간으로 존재할 수 있는 가능성이 있을까? 로봇으로 존재한다는 것은 우리가 지금 이해하고 있는 것과 같은 의미의 인간적 존재는 아닐 것이고, 로봇이 어떠한 의미에서도 우리의 자식들이 될 수는 없을 것이며, 또 이 길을 따라갈 때 우리의 인간성이 상실되어버릴 것이라는 것은 내게 매우 가능성이 큰 것으로 보인다.

  유전자공학은 살충제 사용을 줄이면서 수확량을 증대시킴으로써 농업을 혁명적으로 변화시킬 것이라고 약속한다. 그것은 수천종의 새로운 박테리아, 식물, 바이러스, 동물을 만들어내고, 복제를 통해서 자연적인 생식과정을 제거하거나 보완하며, 많은 질병에 대한 치료방법을 개발하여 우리의 수명과 삶의 질을 개선해줄 것이라고 약속하고, 또 그밖의 많은 것을 약속하고 있다. 우리는 이제 이러한 생물과학에 있어서의 심원한 변화들이 임박한 현실이 되었으며, 생명이란 무엇인가에 대한 우리의 모든 관념에 도전을 가할 것이라는 것을 확신을 가지고 알고 있다.

  특히 인간복제와 같은 기술은 우리가 직면한 심각한 윤리적, 도덕적 문제에 대한 우리의 인식을 높여왔다. 예를 들어, 우리가 유전자공학의 힘을 이용하여 우리 자신을 다시 설계하여 몇개인가의 다른, 불평등한 종(種)들로 변환시켜놓는다면, 우리는 우리의 민주주의의 근본 초석이라고 할 수 있는 평등의 개념을 위협하게 될 것이다.

  유전자공학이 믿을 수 없을 만큼의 강력한 힘을 가지고 있다는 것을 생각할 때, 그 기술을 사용하는 데 중대한 안전문제가 있다는 것은 조금도 놀라운 일이 아니다. 내 친구 애머리 로빈스는 최근에 헌터 로빈스와 함께 이러한 위험에 대해서 생태학적 견지에서 경고하는 논설을 공동으로 썼다. 그들이 갖고 있는 우려 가운데 한가지는 "새로운 생물종의 개발이 진화의 법칙이 아니라 경제적 이해관계에 따라 이루어진다"는 것이었다. 애머리는 오랫동안 사람이 만든 시스템에 대하여 시스템 전체를 총체적으로 보는 관점을 취함으로써 에너지와 자원의 효율성이라는 문제에 관심을 집중해왔다. 그러한 총체적인 관점은 일견 해결하기 어려운 듯이 보이는 문제들에 대하여 흔히 단순하고 깔끔한 해결책을 발견하게 해준다.

  로빈스들이 쓴 논설을 읽은 후 나는〈뉴욕타임스〉에서 그레그 이스터브룩이 "미래의 식량 ― 러다이트들이 승리하지 않는다면 우리는 비타민A가 포함된 쌀을 곧 갖게 될 것이다"라는 제목으로 유전자조작 농산물에 관하여 쓴 글을 보았다.

  애머리와 헌터는 러다이트들인가? 분명히 아니다. 우리는, 만일 비타민A가 포함되도록 유전자조작된 쌀이 종의 경계를 가로질러 유전자가 이동하는 데 따르는 위험을 적절히 고려하여 개발된다면 아마도 좋은 것이 될 수 있다고 모두 동의할 것이다.

  유전자공학에 내재한 위험에 대한 인식은 로빈스의 논설에 반영되어 있듯이 지금 증가하고 있다. 일반대중은 유전자조작 식품에 대하여 눈을 뜨고, 불안해 하며, 그러한 식품이 표시 없이 판매가 허용되어야 한다는 견해를 거부하고 있는 것으로 보인다.

  그러나 유전자공학 기술은 이미 너무나 멀리 나아가버렸다. 로빈스가 지적하고 있듯이, 미국 농무부는 이미 50여가지의 유전자조작 농산물의 무제한적인 방출을 승인하였다. 세계의 콩의 절반 이상과 옥수수의 3분의 1 이상이 지금 다른 생명형태들로부터 떼어낸 유전자 조각들을 포함하고 있다.

  여기에는 많은 중대한 문제가 있지만, 내가 주로 우려하는 것은 좀더 좁은 범위에 국한된 문제이다. 즉, 유전자조작 기술이 ― 군사적으로든 우발적으로든, 또는 고의적인 테러행위로든 ― 가공할 재앙을 만들어낼 수 있는 힘을 부여한다는 사실이다.

  나노테크놀로지의 놀라운 기술은 노벨상을 받은 물리학자 리처드 페인먼이 1959년에 연설을 통해 말하고, 나중에 "기본적으로 개선의 여지가 많다"는 제목으로 발표한 글에서 처음 구상되었다. 1980년대 중반에 내게 큰 인상을 주었던 책은 에릭 드렉슬러의《창조의 엔진》이었는데, 그 책에서 그는 원자 수준에서 물질을 조작함으로써 유토피아적인 풍요의 미래가 어떻게 창조될 수 있을지를 아름답게 묘사하였다. 거기에서는 거의 모든 것이 값싸게 만들어지고, 상상할 수 있는 거의 모든 질병이나 육체적인 문제가 나노테크놀로지와 인공지능을 통해서 해결될 수 있을 것이라는 것이었다.

  드렉슬러의 다음 책《무한한 미래 ― 나노테크놀로지 혁명》은 우리가 분자 수준의 '어셈블러'를 가지게 되는 세계에서 일어날 수 있는 몇몇 변화를 상상하고 있다. 어셈블러들은 믿을 수 없을 만큼의 값싼 비용의 태양 에너지를 가능하게 하고, 인간의 면역체계의 강화를 통해서 암에서 감기에 이르는 거의 모든 질병을 치유하고, 환경을 완전하게 정화하며, 믿을 수 없을 만큼 값싼 포켓용 슈퍼컴퓨터를 만들어낼 수 있을 것이다. 실제로, 어떤 것이라도 어셈블러들이 값싼 비용으로 만들어내지 못할 것이 없게 될 것인데, 우주비행이 오늘날의 대양 횡단보다 더 용이해지고, 멸종된 생물들의 복원도 가능하게 될 것이다.

  나는《창조의 엔진》을 읽고 내 기분이 편해졌던 것을 기억한다. 한사람의 기술공학자로서 나는 평정(平靜)을 느꼈다. 즉, 나노테크놀로지는 우리들에게 믿을 수 없을 정도의 진보가 가능하며, 그 진보는 아마도 필연적인 것이라는 것을 가르쳐주었다. 만일 나노테크놀로지가 우리의 미래라면, 나는 현재 시점에서 수많은 문제를 해결해야 한다는 압박감을 더이상 느끼지 않아도 되었다. 때가 되면 나는 드렉슬러의 유토피아적 미래에 도달하게 될 것이었다. 나는 지금 여기에서 삶을 즐기면 되는 것이었다. 그와 같은 유토피아적 비젼이 주어져 있는 상황에서, 밤을 새워 일한다는 것은 무의미한 일이었다.

  드렉슬러의 비젼은 또한 재미있는 장난거리를 제공하기도 했다. 나는 가끔 이런 문제에 관해 들어본 적이 없는 다른 사람들에게 나노테크놀로지의 경이로움을 묘사해 들려주곤 했다. 드렉슬러가 묘사하고 있는 온갖 것들을 가지고 사람들을 놀라게 만든 다음에는 나는 내 자신이 만든 숙제를 내주곤 했다. "나노테크놀로지를 가지고 흡혈귀를 하나 창조해보십시오. 그리고 그 흡혈귀를 막아내는 또다른 어떤 것을 만들어내면 점수를 더 드리겠습니다."

  나노테크놀로지의 경이로움에는 명백히 위험이 수반되어 있었고, 나는 그것을 예민하게 의식하고 있었다. 1989년 나노테크놀로지에 관한 한 모임에서 내가 말했듯이, "우리가 윤리적 문제에 무관심하면서 과학을 한다는 것은 불가능하다." 그러나, 이어서 여러 물리학자들과 얘기를 나누어본 결과 나는 나노테크놀로지가 그렇게 뜻대로 잘 되지는 않을 것이라는 것, 적어도 그렇게 빨리는 되지 않을 것이라는 것을 확신하게 되었다. 그 직후 나는 콜로라도로 옮겼고, 내 일의 초점은 인터넷용 소프트웨어, 특히 나중에 '자바'와 '지니'가 된 아이디어로 이동하였다.

  그러다가, 작년 여름에 나는 브로스 해슬래처로부터 나노스케일의 분자전자공학이 이제 실제적인 것이 되었다는 얘기를 들었다. 이것은 적어도 내게 큰 뉴스였다. (아마도 많은 다른 사람들에게도 그럴 것이라고 나는 생각한다.) 그것은 나노테크놀로지에 관한 내 견해를 근본적으로 바꾸어놓았다. 나는 다시금《창조의 엔진》으로 돌아갔다. 10년도 더 지난 다음에 다시 드렉슬러의 책을 읽으면서, 나는 내가 나노테크놀로지가 어떻게 '파괴의 엔진'이 될 수도 있는가를 논하고 있는 그 책의 긴 부분에 대해서 거의 기억하지 못하고 있었다는 것을 알고, 당혹스러워했다. 실제로, 미래에 대한 경고를 담고 있는 이 책을 다시 읽으면서 나는 드렉슬러가 제시하고 있는 몇몇 안전책이 매우 나이브하다는 것, 그리고 위험은 드렉슬러가 책을 썼을 때보다도 훨씬 더 큰 것이라는 것을 느꼈다.

  어셈블러 기술은 앞으로 20년 내에 출현할 가능성이 높은 것으로 보인다. 분자전자공학 ― 새로운 나노테크놀로지의 하위분야로서, 거기에서 개별 분자들은 회로 요소들이 될 것이다 ― 은 조속히 성숙하고, 앞으로 10년 내에 엄청난 돈벌이가 될 것이며, 따라서 나노테크놀로지에 대한 투자는 크게 증가할 것이다.

  불행하게도, 핵기술과 마찬가지로, 나노테크놀로지는 건설적인 용도보다는 파괴적인 용도를 위해 이용되기가 훨씬 더 쉽다. 나노테크놀로지가 군사적으로, 또 테러행위를 위해 사용될 수 있다는 것은 명백하다. 자신은 피해를 입지 않으면서 나노테크놀로지 장치를 방출해놓는 것이 가능한 것이다. 예를 들어, 어떤 특정 지역 또는 어떤 유전적 특성을 지닌 인간집단에게만 선택적으로 상해를 가하는 나노테크놀로지를 이용한 파괴적 장비가 만들어질 수 있는 것이다.    

  나노테크놀로지라는 엄청난 힘을 얻기 위해서 맺은 파우스트적인 거래로 인한 직접적인 결과는, 우리가 모든 생명이 의존하고 있는 생명권을 파괴할지도 모르는 위험에 직면할 수 있다는 사실이다.

  드렉슬러는 다음과 같이 말했다.

  

  오늘날의 태양전지보다 더 효율성이 없는 '잎사귀들'을 가진 '식물들'도 진짜 식물들과의 경쟁에서 이길 수 있고, 그 결과 생명권이 먹을 수 없는 잎사귀들로 가득찰 것이다. 닥치는 대로 먹어치우는 '박테리아들'이 진짜 박테리아들과의 경쟁에서 이길 수 있다. 그리하여 그것들은 날아다니는 꽃가루처럼 퍼져, 급속히 복제됨으로써 단 며칠 만에 생명권을 먼지의 세계로 환원시켜놓을 수 있다. 적어도 우리가 준비를 하지 않는다면, 위험한 복제물들은 쉽사리 단단하고, 작고, 급속히 확산되는 것이 되어 정지시킬 수가 없을 것이다. 우리는 지금 바이러스와 과실파리들을 통제하는 데도 어려움을 겪고 있다.

  

  이것은 분명히 지구상에서의 우리의 모든 인간적 모험을 끝장내는 음울한 종말이 될 것이다. 그것은 물이나 불로 인한 세상의 종말보다 더 끔찍한 것이 될 것이다. 그리고 이러한 종말은 한 실험실에서의 단순한 사고의 결과일 수 있는 것이다.

  무엇보다 우리의 경각심을 일깨우는 것은 GNR(유전학과 나노테크놀로지와 로봇공학) 기술에서의 파괴적인 자기복제의 힘이다. 자기복제는 유전공학의 작동방식이다. 그것은 세포가 스스로의 설계를 복제하도록 하는 기술로서, 나노테크놀로지의 근간에 있는 주된 위험이다. '보르그'처럼 제멋대로 일탈한 로봇에 관한 이야기들 ― 기계를 만든 사람들이 부과한 윤리적 절제를 벗어나기 위해 자기복제를 하거나 돌연변이하는 ― 은 우리의 공상과학 소설이나 영화 속에 이미 잘 그려져 있다. 자기복제는 우리가 생각했던 것보다 훨씬 더 근본적인 문제일지 모르며, 이제부터는 통제하기가 더 힘들거나 심지어 불가능할지도 모른다. 최근《네이처》에 발표된 스튜어트 카우프먼의〈자기복제 ― 펩타이드도 한다〉라는 논문은 32개의 아미노산으로 구성된 펩타이드가 "자가촉매작용을 일으켜 스스로 합성물을 만들어낸다"는 발견에 대해 토의하고 있다. 우리는 이러한 능력이 얼마나 광범위한 현상인지 모른다. 그러나 카우프먼은 이것이 "왓슨-크릭의 염기쌍보다도 더 넓은 토대 위에서의 자기재생산적인 분자 시스템에의 가능성을 암시해줄지 모른다"는 점을 주목하고 있다.

  사실을 말한다면, 우리는 이미 여러해 전부터 GNR(유전공학, 나노테크놀로지, 로봇공학) 기술들에 내재된 위험, 즉 지식의 힘만으로 대량파괴가 가능하다는 위험에 대한 명백한 경고를 받아온 셈이다. 그러나 이러한 경고는 널리 알려지지 않고 있다. 공적 토의는 명백히 부적절하게 이루어져왔다. 이 위험을 대중적으로 널리 알린다는 것은 이익이 생기는 일이 아니기 때문이다.

  20세기의 대량파괴 무기로 사용된 NBC(핵, 생물, 화학) 기술들은 대부분 정부기관의 실험실에서 개발된 군사용이었다. 이와 큰 대조를 이루는 21세기의 GNR 기술들은 명백히 상업적인 용도를 가지고 있으며, 거의 예외없이 기업들에 의해 개발되고 있다. 상업주의가 기승을 부리는 이 시대에 테크놀로지는 일찍이 볼 수 없었던 엄청난 돈벌이가 되는 거의 마술적인 발명품들을 끊임없이 내놓고 있다. 우리는 현재 아무런 도전을 받지 않고 있는 전지구적 자본주의 체제와 그 체제 속의 다양한 경제적 인센티브와 경쟁압력 내에서 이들 새로운 테크놀로지들이 제시하는 약속들을 공격적으로 추구하고 있다.

 

  스스로의 자발적인 행동에 의해서 한 생물종이 자기자신과 수많은 다른 종들에게 위험한 존재가 된 것은 우리의 행성의 역사에서 최초의 일이다.

  이것은 많은 세계에서 일어나고 있는 낯익은 진행과정을 나타내는 것인지도 모른다. 즉, 새로이 형성된 한 행성이 한 항성의 둘레를 돌고 있다. 생명이 서서히 형성된다. 만화경 같은 생물체들의 행진이 진화의 과정을 따라 이어진다. 지능이 생기고, 이것은 어느 지점까지 살아남는 데 엄청난 역할을 한다. 그리고는 기술이 발명된다. 자연법칙과 같은 것이 있고, 이 법칙은 실험에 의해서 드러날 수 있으며, 이러한 법칙에 대한 지식은 미증유의 규모로 생명을 구할 수도 있고, 빼앗을 수도 있는 것이라는 생각이 그들에게 떠오른다. 과학은 엄청난 힘을 허용한다는 사실을 그들은 알게 된다. 한순간에 그들은 세계를 변화시킬 수 있는 장치들을 만들어낸다. 몇몇 문명들은 자신들의 갈길을 찾아내고, 해도 되는 것과 해서는 안될 것의 한계를 정하여, 위기를 안전하게 통과한다. 그밖의 다른 문명들은 그다지 운이 좋지 않거나 신중하지 못한 결과로 파멸하고 만다.

 

  위의 묘사는 카알 세이건이 1994년에 쓴《창백한 푸른 점》에 나오는 구절이다. 이 책은 우주에 있어서의 인간의 미래에 대한 세이건의 비젼을 담고 있다. 나는 지금 그의 통찰이 얼마나 깊은 것이었던가, 그리하여 그의 목소리가 지금이나 나중에 얼마나 아쉬운 것이 될 것인가를 깨닫고 있다. 세이건의 목소리는 그 웅변적인 어조에도 불구하고 결국 단순한 상식에서 나온 것이다. 이러한 상식이야말로 지금, 겸손과 마찬가지로, 21세기 기술의 주창자들이 결여하고 있는 자질인 것이다.

  나는 어렸을 적부터 우리 할머니가 항생제 남용에 대해 극력 반대하시던 것을 기억하고 있다. 할머니는 1차 세계대전 전부터 간호사로 일하셨는데, 항생제 복용은 절대적으로 필요한 경우를 제외하고는 나쁘다는 상식적인 태도를 갖고 계셨다.

  할머니가 진보의 적(敵)이었던 것은 아니다. 할머니는 거의 70년에 걸친 간호사 생활에서 많은 진보를 보아오셨다. 당뇨병 환자였던 우리 할아버지는 자신의 생애 동안 이루어졌던 개선된 치료법으로 크게 혜택을 받으셨다. 그러나 지금 살아계셨더라면, 할머니는 다른 많은 상식적인 사람들과 마찬가지로 현재 우리가 비교적 간단한 문제들을 해결하고, 우리 자신을 스스로 관리하는 데 있어서도 ― 또는 심지어 이해하는 데 있어서도 ― 너무나 많은 어려움을 갖고 있음이 명백한 이때에 우리 자신을 대신할 로봇 종(種)을 우리가 설계하고 있다는 것은 엄청나게 교만한 행동이라고 생각하실 것이다.

  나는 지금 우리 할머니가 생명의 질서의 본질에 대한 인식을 갖고 계셨고, 그 질서와 함께 살고, 그 질서를 존경해야 할 필요성을 잘 이해하고 계셨다고 생각한다. 이러한 존경과 더불어 오늘날 우리가 결여하고 있는 겸손한 태도가 나오는 것이다. 이러한 존경심에 뿌리를 둔 상식적인 견해는 흔히 과학적으로 증명되기 이전에 올바른 것이다. 우리는 우리가 만들어온 시스템들의 본질적인 취약성과 비효율성에 주목해야 한다. 그것을 주목한다면 우리는 겸손해질 수밖에 없는 것이다.

  우리는 최초의 원자탄 제조와 그에 따른 군비경쟁으로부터 교훈을 얻었어야 했다. 우리는 잘 배우지 못했고, 그 결과 현재 혼란스러운 상황에 직면하였다.

  최초의 원자탄을 제조하기 위한 노력은 뛰어난 물리학자 J. 로베르트 오펜하이머에 의해 주도되었다. 오펜하이머는 생래적으로 정치에 관심이 있었던 사람은 아니지만, 자신이 본 것을 히틀러의 제3제국이 서구문명에 가하는 위협으로 간주하였다. 그 위협은 히틀러가 핵무기를 손에 넣을지도 모른다는 가능성 때문에 명백히 심각한 것이었다. 이러한 우려로 말미암아 그는 자신의 강한 지적 능력과 물리학에 대한 열정, 그리고 카리스마적인 리더십을 발휘하여, 믿을 수 없을 만큼 신속하게 뛰어난 정신들을 규합하여 원자탄을 만들어내는 일을 이끌었다.

  놀라운 것은 이러한 노력이, 최초의 강력한 동기가 제거된 이후에도 자연스럽게 계속되었다는 사실이다. 1945년 5월 연합군의 승리로 유럽에서의 전쟁이 종식된 직후 이제 원자탄 제조를 위한 노력은 멈추어져야 한다고 느낀 몇몇 물리학자들과의 모임에서 오펜하이머는 이 일을 계속할 것을 주장하였다. 그의 논리는 조금 기묘했다. 즉, 원자탄 제조작업이 계속되어야 하는 것은 일본 본토에 대한 침공으로부터 빚어질 대규모의 인명손상에 대한 두려움 때문이 아니라 곧 발족될 유엔이 원자무기에 대하여 사전지식을 갖고 있을 필요가 있기 때문이라는 것이었다. 그러나 좀더 그럴듯한 이유는 이미 그때까지 진행된 프로젝트의 관성 때문이었을 것이다. 최초의 원자탄 실험이 임박해 있었던 것이다.

  우리는 이 최초의 원자탄 실험을 준비함에 있어서 물리학자들이 수많은 가능한 위험에도 불구하고 일을 진행시켰다는 것을 알고 있다. 그들은 처음에 원자탄 폭발이 대기권의 발화(發火)로 이어질지도 모른다는 에드워드 텔러의 계산에 근거하여 꽤 걱정을 하였다. 다시 이루어진 계산에서 대기권 발화로 인한 세계의 파멸 위험성은 100만분의 3의 가능성으로 감소되었다. 그러나, 오펜하이머는 뉴멕시코의 남서부 지역을 소개(疏開)시키는 정도로만 원자탄 실험의 결과에 대한 우려를 표시하였다. 그리고, 이 문제와 별도로, 원자탄 개발이 현실화된다면 핵무기 경쟁이 시작되는 위험이 있다는 것은 명백한 사실이었다.

  최초의 성공적인 실험 이후 한달 내에 두개의 원자탄이 히로시마와 나카사키를 파괴했다. 몇몇 과학자들은 그 폭탄을 실제로 일본의 도시에 떨어뜨리지 말고, 단순히 시위용으로만 사용할 것을 ― 그렇게 하면 전후의 군비통제 가능성을 크게 높일 수 있을 것이라면서 ― 제안하였으나 소용이 없었다. 미국인들의 마음에 아직 진주만의 비극이 생생하게 남아있는 상황에서, 트루먼 대통령이 원자탄을 실제 사용하지 않고 시위만을 할 것을 명령한다는 것은 어려웠을 것이다. 전쟁을 조속히 끝내고, 어떤 형태의 것이든 일본에 대한 침공으로 빚어질 인명상실을 막고자 하는 욕망은 매우 강력하였다. 그러나, 전체적인 진실은 아마도 굉장히 단순한 것이었을 것이다. 물리학자 프리먼 다이슨이 나중에 말한 바와 같이, "폭탄이 투하된 것은 그 누구도 '아니오'라고 말할 수 있는 용기나 선견지명을 갖고 있지 않았기 때문이다."

  중요한 것은, 1945년 8월 6일 히로시마 폭탄 투하 후에 물리학자들이 엄청난 충격을 받았다는 사실이다. 그들은 자신들이 느낀 감정의 파도를 단계별로 묘사하였다. 처음에 폭탄이 제대로 기능을 했다는 데서 오는 성취감이 있었다. 그 다음에 피폭으로 무수히 많은 사람들이 죽었다는 데서 오는 끔찍한 공포감, 그리고는 이제 어떤 경우에도 또다른 원자탄이 투하되어서는 안된다는 설득력있는 감정이 그들을 지배했다. 그럼에도 불구하고, 사흘 뒤 또다른 폭탄이 나카사키에 투하되었다.

  1945년 11월, 원자탄 투하 3개월 후 오펜하이머는 확고한 과학적 태도를 견지하고 이렇게 말했다. "세계에 대한 지식과 그 지식이 부여하는 힘이 인류에게 내재적 가치를 갖고 있으며, 우리가 그것을 이용하여 지식의 전파에 기여하고, 그 결과를 기꺼이 받아들인다는 믿음이 없다면 과학자가 된다는 것은 불가능하다."

  오펜하이머는 그후 다른 사람들과 함께 에치슨-릴리엔탈 보고서 작업에 들어갔다. 그 보고서는 리처드 로디즈가 최근에 쓴 책《테크놀로지의 비젼》에서 말하고 있듯이, "무장한 세계정부에 호소하지 않고 비밀스러운 핵무기 경쟁을 막기 위한 방법"을 찾고자 하였다. 그들이 제안한 것은 국민국가들이 핵무기에 관한 일을 하나의 국제기관에 위임함으로써 사실상 핵무기 개발을 포기하게 한다는 것이었다. 이 제안은 '바러치 계획'이라는 이름으로 1946년 6월에 유엔에 제출되었으나 채택되지 않았다. 군비경쟁을 막기 위해서 핵의 힘을 국제화하려는 분별있는 노력들은 미국의 정치 또는 내적 불신에 부딪히거나 소련의 불신에 부딪혔다. 군비경쟁을 회피할 수 있는 기회는 급속히 사라졌다.

  2년 후인 1948년에 오펜하이머의 생각은 또다른 단계에 접어들었던 것으로 보인다. 그는 말했다. "어떤 무례함도, 어떤 농담도, 어떤 과장된 말로도 완전히 제거할 수 없는 어떤 종류의 조잡한 의미에 있어서, 물리학자들은 죄를 지어왔다는 것을 알고 있다. 이것은 잊어버려서는 안될 지식이다."

  1949년에 소비에트 사람들이 원자탄 하나를 폭발시켰다. 1955년이 되면, 미국과 소련은 이미 비행기로 운반하는 데 적합한 수소폭탄 실험을 끝내놓고 있었다. 핵무기 경쟁은 시작된 것이다.

  거의 20년 전《트리니티 다음날》이라는 기록에서 프리먼 다이슨은 인류사회를 핵 벼랑으로 치닫게 한 과학적 태도를 요약하였다.

 

  나 자신 핵무기의 광휘(光輝)를 느꼈다. 과학자로서 접근하는 한 이것은 어쩔 수가 없었다. 별들을 움직일 수 있는 에너지가 있고, 내 마음대로 엄청난 에너지를 방출할 수 있는 것이 내 손에 들어있다는 것을 느껴보라. 이것은 기적을 행하고, 백만톤의 바위를 하늘로 들어올릴 수 있는 에너지이다. 그것은 사람들에게 무한한 힘에 대한 환상을 주는 것이고, 어떤 면에서 우리의 온갖 문제의 원인이 되는 것이다. 우리는 그것을 기술적 교만성이라고 부를 수 있지만, 이 교만성은 사람들을 쉽사리 지배한다.

 

  그때처럼 지금 우리는 새로운 기술과 그 기술이 만들어내는 상상된 미래의 별들의 창조주들이다. 우리는 지금 우리가 창조하고 상상해내고 있는 것의 현실적 결과로서 직면할 세계에서 우리가 어떤 삶을 살게 될지 거의 따져보지 않고, 명백한 위험에도 불구하고, 엄청난 경제적 보상과 전지구 규모에 걸친 경쟁 속에서 내몰리고 있다.

  1947년에《원자과학자협회지》는 그 잡지의 표지에 '종말의 날 시계'를 표시하기 시작하였다. 50년 이상 그 표지는 그때그때의 변화하는 국제상황을 반영하면서, 우리가 직면해온 핵위험에 대한 상대적인 평가를 표시해왔다. 시계바늘은 15번이나 움직여왔는데, 오늘날은 자정 9분 전을 가리키고 있다. 이것은 핵무기로부터 오는 계속적이고 현실적인 위험을 반영하고 있다. 최근 인도와 파키스탄이 핵국가 리스트에 추가되면서 핵의 비확산이라는 목표에 위협이 증대되었고, 그 위험으로 1998년에 시계바늘은 자정으로 더 바싹 이동하였다.

  이제 우리는 핵무기뿐만 아니라 이 모든 기술들로 인해 얼마나 많은 위험에 직면해 있는가? 절멸의 위험은 얼마나 높은가?

  철학자 존 레슬리는 이 문제를 탐구하여, 인류 절멸의 위험은 적어도 30퍼센트라고 결론 내렸다. 그 반면에 레이 커즈웨일은 그가 "늘 낙관주의자라는 비난을 받아왔다"는 전제 하에서 우리가 "사태를 극복해나갈 찬스가 반 이상 된다"고 믿는다. 이런 평가들은 썩 고무적인 것이 되지 못할 뿐더러, 거기에는 절멸까지 가지는 않더라도 우리가 수많은 끔찍한 상황에 처할 개연성이 고려되어 있지 않다.

  그러한 전망에 직면하여 일부 진지한 사람들은 우리가 가능한 한 빨리 지구를 벗어나 다른 별로 옮겨갈 것을 벌써 제안하고 있다. 우리는 폰 노이만의 우주선을 이용하여 별에서 별로 옮겨다니며 은하계를 우리의 식민지로 삼을 수 있을 것이라는 것이다. 이런 단계는 지금부터 50억년 후면(또는 우리의 태양계가 앞으로 30억년 내에 안드로메다 은하계와의 충돌로 파멸적인 충격을 받는다면 그보다 더 일찍) 거의 틀림없이 필요하게 될 것이다. 그러나, 우리가 커즈웨일이나 모라벡의 말을 믿는다면 그것은 이번 세기의 중반에 필요한 일이 될지도 모른다.

  여기서, 이런 문제들에 내포된 도덕적 의미는 무엇일까? 만일 우리가 종(種)의 생존을 위하여 급히 지구를 떠나야 한다면, 뒤에 남아있게 될(결국 우리들 중 대부분의) 사람들의 운명에 대한 책임은 누가 지는가? 그리고, 설령 우리가 다른 별들로 흩어져 살게 된다 하더라도 우리는 결국 우리의 문제를 가지고 가게 되거나 아니면, 나중에, 그런 문제들이 우리를 따라왔다는 것을 발견하게 될 가능성이 높을 게 아닌가? 지구상에서의 우리의 운명과 은하계에서의 우리의 운명은 떼어놓을 수 없이 연결되어 있는 것으로 보인다.

  또다른 제안은 위험한 테크놀로지 하나하나에 대하여 우리 자신을 방어할 방패를 만들자는 것이다. 레이건 행정부에 의해 제안된 '전략방어계획(Strategic Defense Initiative)'은 소련으로부터의 핵공격 위협에 대한 방패로서 설계된 것이다. 그러나 그 계획에 관한 토의에 관여하였던 아서 C. 클라크가 말했듯이, "탄도탄들 중 극소수만을 통과하게 할 지역방어체제를 엄청난 비용을 들여 건설하는 것이 가능할지 모른다 해도 전면적 국가 방어체제라는 ― 많은 사람들이 지지해온 ― 개념은 넌센스였다. 아마도 이번 세기의 가장 위대한 실험물리학자인 루이스 앨버레즈가 내게 한 말에 따르면, 그러한 계획의 주창자들은 '머리는 뛰어나되 상식은 없는 친구들'이었다."

  클라크는 계속해서 말하였다. "때때로 나는 전면적 방어가 한 세기 정도 내에 가능할지도 모른다고 생각합니다. 그러나 그것을 이루어내기 위해 동원된 테크놀로지는 하나의 부산물로서 너무도 끔찍한 무기들을 생산하게 될 것이며, 그 결과 누구도 탄도탄 같은 '원시적' 무기에 관심을 갖지 않게 될 것입니다."

 《창조의 엔진》속에서 에릭 드렉슬러는, 실험실로부터 빠져나가거나 또는 악의적으로 만들어진 모든 종류의 위험한 복제물을 차단하기 위하여 ― 생명권을 위한 일종의 면역체계로서 ― 하나의 적극적인 나노테크놀로지 방패를 건설할 것을 제안하였다. 그러나 그가 제안한 방패는 그 자체 매우 위험한 것이 될 것이다. 그것이 자가면역 문제를 일으켜, 생명권 자체를 공격하는 것을 그 어떤 것도 막아낼 수 없을 것이기 때문이다.

  그와 비슷한 어려움은 로봇과 유전공학에 대한 방패를 건설하는 데도 해당된다. 이러한 기술들은 너무도 강력한 것이어서 적절한 시간 내에 그것들을 막아낸다는 것은 불가능하다. 설령 방패를 설치하는 것이 가능하다 하더라도 그 방패 개발의 부작용은 적어도 그것이 막아내고자 하는 기술들만큼 위험한 것이 될 것이다.

  따라서 이러한 가능성들은 모두 바람직하지 않거나 성취 불가능한 것들이다. 내가 보는 한, 유일한 현실적인 대안은 포기하는 것이다. 즉, 어떤 종류의 지식의 추구에는 제약을 가함으로써 너무나 위험스러운 기술의 개발에 제동을 거는 것이다.

  물론 나는, 지식이란, 새로운 진실의 추구가 그렇듯이, 좋은 것이라는 걸 알고 있다. 우리는 먼 옛날부터 지식을 추구해왔다. 아리스토텔레스는 그의《형이상학》을 다음과 같은 단순한 진술로 시작하고 있다. "모든 인간은 알고자 하는 욕망을 갖고 있다." 우리는 정보에 대한 자유로운 접근을 우리 사회의 기본 가치 중의 하나로 받아들이는 데 오래 전부터 합의해왔고, 지식에 대한 접근과 지식의 발전을 제약하는 데서 발생하는 문제점들을 인식하고 있다. 최근에, 우리는 과학적 지식을 존경하는 데까지 이르렀다.

  그러나 강한 역사적 선례에도 불구하고, 만일 지금부터 지식에 대한 자유로운 접근과 지식의 무제한적인 발전이 우리 모두를 명백한 절멸의 위험에 빠트린다면, 우리가 오랫동안 받들어온 이러한 기본적인 믿음을 재검토해야 한다는 것은 상식의 명령이다.

  19세기 말에 니체는 신(神)은 죽었다고 했지만, 또한 "과학에의 믿음이 생겨난 기원은 유용성에 대한 고려에 있지 않다"고 경고했다. 그는 '진실에의 의지', 즉 '어떠한 대가를 치르고도 진실을 얻어낸다'라고 하는 태도의 비유용성과 위험이 거듭 증명되었음에도 '불구하고' 과학에 대한 신앙이 생겨났음이 틀림없다고 말했다. 우리가 지금 직면한 것은 바로 이러한 위험, 즉 우리의 진실추구의 결과이다. 과학이 추구하는 진실은 만일 그것이 우리의 절멸을 초래하는 것이라면 명백히 신(神)에 대한 위험한 대체물로 간주될 수 있다.

  만일 우리가 하나의 종(種)으로서 무엇을 우리가 원하고, 어디로 우리가 가고 있으며, 어째서 그러한가에 대해 동의한다면, 그때 우리는 우리의 미래를 훨씬 더 위험이 적은 것으로 만들 수 있을 것이다. 우리는 무엇을 우리가 할 수 있고, 포기해야 할 것인가를 이해하게 될 것이다. 그렇게 되지 않는다면, NBC(핵, 생물, 화학) 기술들이 20세기에 그러했듯이, GNR 기술들 위에서 무기경쟁이 전개될 것이라는 것을 우리는 쉽게 상상할 수 있다. 아마도 이것은 가장 큰 위험일 것이다. 왜냐하면 한번 경쟁이 시작되면, 그것을 멈춘다는 것은 매우 어렵기 때문이다. 그렇게 되면, 이번에는 ― 맨해튼 계획 기간과는 달리 ― 우리의 문명에 위협을 가하는 하나의 무자비한 적과 맞선 그러한 전시상황 때문이 아니라, 우리의 습관, 우리의 욕망, 우리의 경제체제, 그리고 알고자 하는 우리의 경쟁적 욕구 때문에 쫓기게 될 것이다.

  나는 우리 모두가 우리의 집단적 가치, 윤리, 도덕에 의해 우리의 나아갈 길이 결정될 수 있기를 바란다고 믿는다. 만일 우리가 지난 수천년 동안 좀더 많은 집단적 지혜를 얻어왔더라면 이런 목적을 위한 대화가 좀더 실제적인 것이 되고, 우리가 바야흐로 방출하려고 하는 엄청난 힘이 이처럼 고민거리가 되지는 않았을 것이다.

  아마도 어떤 사람들은 우리의 자기보존 본능 때문에 그러한 대화가 결국 가능할 것이라고 생각할지 모른다. 물론 개인들 각자는 이런 본능을 갖고 있는 게 사실이다. 그러나, 하나의 종(種)으로서 우리의 행동은 반드시 우리 편인 것 같지는 않다. 핵 위협에 관련하여 우리는 흔히 우리 자신에게, 또 서로서로에게 부정직하게 말해왔고, 그렇게 함으로써 위험을 크게 증대시켜왔다. 이러한 행동의 동기가 정치적 고려 때문인지, 우리가 앞을 내다보지 않기로 선택했기 때문인지, 아니면 심각한 위협에 직면하여 우리가 두려움 속에서 비합리적으로 행동했기 때문인지 나는 모르지만, 그러나 이것은 좋은 징조가 아니다.

  유전자공학, 나노테크놀로지, 로봇공학이라는 새로운 판도라의 상자가 거의 열렸는데도 불구하고, 우리는 이것을 주목하고 있지 않은 것 같다. 아이디어는 상자 속으로 되돌려넣을 수 없다. 우라늄이나 플루토늄과는 달리 그러한 지식은 채굴할 필요도, 정련(精鍊)할 필요도 없다. 그것들은 자유로이 복사될 수 있다. 일단 밖으로 나왔으면 나온 것이다. 처칠은 어느 유명한 의례적 찬사에서, 미국 사람들과 그 지도자들은 "모든 대안을 다 검토한 후에 언제나 올바른 것을 행한다"고 말했다. 그러나 이 경우에, 우리는 보다 큰 선견지명을 가지고 행동하지 않으면 안된다. 마지막에 가서야 올바르게 행동해서는 올바른 것을 행할 기회를 죄다 잃어버리게 될지 모르기 때문이다.

  소로우가 말했듯이, "우리가 기차를 타는 게 아니라 기차가 우리 위에 타고 있다." 문제는 과연 누가 주인인가 하는 것이다. 우리가 살아남을 것인가, 기술이 살아남을 것인가?

  우리는 아무런 계획, 아무런 제어장치, 아무런 브레이크가 없이 이 새로운 세기로 밀어닥쳤다. 너무나 멀리 떠나왔기 때문에 길을 바꾸는 건 이미 불가능하지 않을까? 나는 그렇다고 믿지 않는다. 우리는 시도도 하지 않고 있다. 제동을 걸 마지막 기회가 빠른 속도로 다가오고 있다. 우리는 상업화된 유전자공학 기술뿐만 아니라 최초의 애완 로봇을 가지고 있고, 우리의 나노테크놀로지는 급속히 진보하고 있다. 이러한 기술들의 발전은 수많은 단계를 거쳐 진전되기 때문에, 하나의 테크놀로지의 완성을 위한 마지막 단계는 ― 맨해튼 계획의 경우처럼 ― 크고 힘든 것일 필요가 없다. 로봇, 유전공학, 나노테크놀로지에 있어서의 걷잡을 수 없는 자기복제의 실현은 어느날 갑자기 닥칠 수 있다. 포유류 동물의 복제 소식을 처음 들었을 때 우리가 느꼈던 놀라움을 생각해보라.

  그럼에도 불구하고, 나는 우리가 희망을 위한 강력하고 견고한 기반을 가지고 있다고 믿는다. 지난 세기에 대량파괴 무기를 다루어온 우리의 노력은 우리가 고려해야 할 '포기'에 대하여 하나의 좋은 범례를 제공하고 있다. 즉, 미국은 생물무기의 개발을 아무런 전제조건 없이 일방적으로 포기하였던 것이다. 이러한 포기의 결정은 이 끔찍한 무기를 만들어내는 데는 엄청난 노력이 드는 반면에 한번 만들어진 다음에는 쉽사리 복제될 수 있고, 깡패국가나 테러 집단의 손으로 넘어갈 수 있다는 깨달음에서 나왔다.

  그리하여, 이러한 무기개발을 추구한다면 우리 자신에 대한 추가적인 위협이 생겨날 것이며, 따라서 우리가 그 무기들을 추구하지 않는 것이 더 안전할 것이라는 분명한 결론이 나왔던 것이다. 우리는 생물 및 화학무기의 포기를 1972년의 '생물무기협약'과 1993년의 '화학무기협약'에서 구체화시켰다.   

  지금 우리가 50년 이상 그 밑에서 살고 있는 핵무기로부터의 계속되는 위협에 관해 말한다면, 최근 미국 상원이 '포괄적 핵실험 금지조약'을 거부한 것은 핵무기의 포기가 정치적으로 쉽지 않다는 것을 명백히 해준다. 그러나 우리는 냉전 종식과 더불어, 다극(多極) 군비경쟁을 막을 수 있는 드문 기회를 갖게 되었다. 생물 및 화학무기의 포기를 기반으로 하여, 핵무기의 포기가 성공한다면 그것은 위험한 기술들을 포기하는 습관이 형성되는 데 기여할 수 있을 것이다.

  '포기'를 확인한다는 것은 어려운 문제일 것이지만, 해결 불가능한 것은 아니다. 우리는 이미 생물무기와 그밖의 조약에 관련하여 많은 유용한 작업을 이루어내는 데 성공했다. 우리의 주된 과업은 이러한 노력을, 본래 군사적이기보다 훨씬 더 상업적인 기술들에게 어떻게 적용하는가 하는 것이 될 것이다. 여기서 실질적으로 필요한 것은 투명성이다.

  나는 솔직히 1945년의 상황이 지금 우리가 닥친 상황보다 더 단순했다고 생각한다. 핵기술은 상업적 용도와 군사적 용도로 분리될 수 있었고, 감시 및 확인은 핵실험의 성격과 방사능 측정의 용이함 때문에 한결 쉬운 일이었다. 군사 목적의 핵연구는 로스 알라모스와 같은 국가기관 실험실에서 이루어질 수 있었고, 그 결과는 가능한 한 오래 비밀로 유지되었다.

  GNR(유전공학, 나노테크놀로지, 로봇공학) 기술들은 상업용과 군사용으로 명확히 구분되지 않는다. 시장에서의 잠재적 가치를 고려할 때, 그 기술들을 국가기관의 실험실에서만 추구한다는 것은 상상하기 어렵다. GNR 기술들의 포기를 실현하기 위해서는 생물무기에 대한 감시확인 체계와 비슷한 체계가, 그것도 미증유의 규모로, 필요할 것이다. 이것은 필연적으로 우리의 개인적 프라이버시 및 정보에의 욕구와 우리 모두를 보호하기 위한 감시 확인의 필요성 사이에 긴장을 일으킬 것이다. 우리는 의심할 바 없이 프라이버시와 행동의 자유의 상실에 대한 강력한 저항에 부딪힐 것이다.

  특정 GNR 기술들의 포기를 확인하는 작업은 물리적인 시설뿐만 아니라 사이버공간 속에서도 행해지지 않으면 안될 것이다. 핵심적인 문제는 새로운 형태의 지적소유권 보호를 보장함으로써 재산가치를 가진 정보의 세계에서 투명성이 실현되도록 만드는 일일 것이다.

  투명성의 확인은 과학자와 기술자들이 히포크라테스 선서를 닮은 강력한 윤리적 행동규범을 받아들일 것을 요구하기도 할 것이다. 그리고, 필요하다면, 그들은 무거운 개인적 희생을 무릅쓰고 내부고발을 할 수 있는 용기를 가져야 할 것이다. 노벨상 수상자 한스 베티는 맨해튼 계획에 참여했던 과학자들 중 지금 생존해 있는 가장 원로 물리학자인데, 히로시마 원폭 투하 50년이 경과한 후 모든 과학자들이 "핵무기와 그밖의 잠재적으로 대량파괴력을 가진 무기들의 창조, 개발, 개선, 제조 작업을 중단하고 거기서 물러나야 할 것"을 호소하였다. 21세기에 NBC 기술들이나 GNR 기술들을 막론하고 이러한 분야에서 일하는 사람들이 대량파괴 무기를 회피하기 위해서는 각성된 의식과 개인적 책임감이 필요할 것이다.

  소로우는 "우리가 건드리지 않고 내버려두는 것이 많으면 많을수록 우리의 삶이 부유해진다"고 말하였다. 우리들 각자는 행복을 추구한다. 이제 우리가 보다 많은 지식과 보다 많은 물건을 획득하기 위하여 전면적 파괴의 위험을 감수해야 할 필요가 있는지 물어보아야 한다. 우리의 상식에 따르면, 우리의 물질적 욕구에는 한계가 있고, 어떤 지식은 지나치게 위험스럽기 때문에 삼가는 것이 최선이다.

  우리는 장생불사에의 꿈도 버려야 한다. 그러한 꿈의 추구에는 너무나 값비싼 대가, 절멸의 위험이 따르기 때문이다. 나는 최근에 뛰어난 작가이자 학자인 자크 아탈리를 만날 행운을 얻었다. 그의 책《지평선》은 다가오는 만인(萬人)의 컴퓨터 시대에 '자바'와 '지니'가 어떻게 접근해야 할 것인가에 대해 내게 영감을 불어넣어주었다. 그의 새로운 책《형제애》속에서 아탈리는 유토피아에 대한 우리의 꿈이 시간을 따라 어떻게 변해왔는가를 묘사하고 있다.

 

  사회의 여명기에, 인간은 지상에서의 삶을 그저 단순한 고통의 미로로만 보았다. 그 미로가 끝나는 곳에 죽음을 거쳐 신들과 '영원'의 세계로 이어지는 문이 있었다. 히브류인들과 그리스인들에 이르러, 일부 인간은 신학적 명령으로부터 해방되어 '자유'가 꽃필 수 있는 이상적인 '도시'를 감히 꿈꿀 수 있게 되었다. 다른 사람들은, 시장사회의 진화를 보면서, 일부 인간의 자유는 다른 인간의 소외를 초래한다는 것을 이해하였고, 그래서 그들은 '평등'을 추구하였다.

 

  자크의 도움으로 나는 이들 세개의 다른 유토피아의 목표들이 오늘날 우리 사회에서 긴장관계 속에 어떻게 공존하고 있는지를 이해하게 되었다. 그는 계속하여 네번째의 유토피아 즉, 이타주의에 기반을 둔 '형제애'에 대해 묘사하고 있다. '형제애'만이 개인의 행복과 타인들의 행복을 조화시킬 수 있다.

  이것이 커즈웨일의 꿈에 대해 내가 갖고 있는 의혹의 정체를 분명히 해주었다. '영원'에 대한 기술주의적 접근 ― 로봇을 통한 장생불사의 꿈 ― 은 가장 바람직한 유토피아일 수 없고, 그것을 추구한다면 위험이 따른다는 것은 명백하다. 우리는 우리가 어떠한 유토피아를 선택할지를 다시 생각하지 않으면 안된다.

  우리는 어디에서 새로운 윤리적 토대를 찾을 수 있는가? 나는 달라이 라마의《새로운 천년을 위한 윤리》에 담겨있는 생각이 큰 도움이 된다는 것을 발견했다. 아마도 잘 알려져 있으나 거의 주목되고 있지는 않은 달라이 라마의 논리는 타자에 대한 사랑과 자비심으로 삶을 살아가는 것이 가장 중요하다는 것이다. 우리 사회는 보편적 책임과 우리 존재의 상호의존성에 대한 보다 강력한 개념을 발전시킬 필요가 있다. 달라이 라마가 제안하는 것은 아탈리의 '형제애'의 유토피아와 공명하는 것으로서 개인과 사회를 위한 적극적인 윤리적 행동의 표준이다.    

  달라이 라마는 계속하여 사람을 행복하게 하는 것이 무엇인지 우리가 이해해야 한다고 말한다. 물질적인 진보도 지식의 힘을 추구하는 것도 결코 행복에 이르는 관건이 될 수 없다는 것, 즉 과학과 과학적 추구만으로는 한계가 있음을 보여주는 강력한 증거를 볼 수 있어야 한다는 것이다.

  우리들 서구인의 행복관은 그리스인들로부터 온 것이다. 그리스인들은 행복을 "삶의 폭을 넓혀주는 수월성(秀越性)의 노선을 따른 생명력의 행사"로 정의하였다.

  확실히, 우리가 어떻든 행복해지려면 우리의 삶에서 의미있는 도전과 폭넓음을 발견할 필요가 있다. 그러나 나는 우리가 끊임없는 경제성장의 문화를 넘어서 우리의 창조력을 발휘할 수 있는 대안적 출구를 찾아야 한다고 믿는다. 경제성장은 지난 수백년 동안 우리에게 축복이었지만, 그러나 그것이 우리에게 행복을 가져다준 것은 아니다. 우리는 이제 과학과 기술을 통한 무제한적이고 무분별한 성장을 추구하여 그에 따른 명백한 위험을 받아들일 것인지 선택하지 않으면 안된다.

  내가 레이 커즈웨일과 죤 서얼과 처음 만난지 이제 일년이 넘었다. 나는 내 주변에서 희망의 징조를 보고 있다. 경고와 포기에 관해 말하는 목소리들이 들려오고, 현재의 곤경에 대해 내가 우려하고 있는 만큼 깊이 우려하고 있는 사람들을 나는 발견하였다. 나는 또한 내가 이미 해온 일이 아니라 앞으로 하게 될지도 모를 일에 대해 좀더 심화된 개인적 책임을 느낀다.

  그러나, 위험에 대해 알고 있으면서도 많은 사람들이 아직 이상스러운 침묵을 지키고 있는 것 같다. 대답을 하라는 압력을 받으면, 그들은 "이건 아무것도 새로운 것이 아니다"라는 답변을 내뱉는다. 마치 어떤 일이 일어날 것인가를 인식하고 있는 것으로 충분하다는 것처럼 말이다. 대학에는 이 문제를 온종일 연구하고 있는 생명윤리학자들이 있다. 그들은 말한다. 이 모든 것은 이미 오래 전부터 전문가들에 의해 이야기되어왔던 것들이다. 당신의 논리와 당신이 우려하는 것은 이미 케케묵은 이야기다 ― 라고 그들은 투덜거린다.

  나는 그들이 과연 어디에 그들의 두려움을 감추어두고 있는지 모른다. 복잡한 시스템 설계일을 하는 사람으로서 나는 이 분야에 비전문가로서 들어왔다. 그러나 이런 사실 때문에 내가 느끼는 우려가 줄어들 수 있는가? 나는 많은 권위있는 사람들에 의해 이 문제가 거론되어왔다는 것을 알고 있다. 그러나, 그것이 우리에게 닥쳐온 위험을 무시해도 좋다는 뜻이 되는가?

  안다는 것은 행동하지 않아도 된다는 것을 의미하지 않는다. 지식은 우리가 우리 자신에 대해 휘두르는 무기가 되어버렸다는 것을 의심할 수 있는가?

  원자과학자들의 경험은 개인적 책임을 느껴야 할 필요를 명백히 보여준다. 사태는 너무도 급속히 진전되고, 한 단계에서 다음 단계로의 발전은 그 자체의 내적 논리에 따라 전개되어왔던 것이다. 우리는, 원자과학자들의 경우처럼, 거의 눈 깜짝할 사이에 극복할 수 없는 문제를 만들어낼 수 있는 것이다. 우리 자신의 손으로 만든 결과물에 의해 우리가 놀람과 충격에 휩싸이지 않으려면 우리는 좀더 사려깊어야 한다.

  전문가로서의 나의 계속적인 일은 소프트웨어의 신뢰성을 개선해 나가는 데 있다. 소프트웨어는 하나의 도구이며, 하나의 도구 설계자로서 나는 내가 만든 도구의 용도에 대해 마음을 쓰지 않으면 안된다. 나는 언제나 소프트웨어를 좀더 믿을 만한 것으로 만드는 일은, 그것이 갖는 많은 용도를 고려할 때, 세계를 좀더 안전하고 살기 좋은 장소로 만들 것이라고 믿어왔다. 만일 내가 그 반대라고 믿는 날이 온다면, 그때 나는 도덕적 인간으로서 이 일을 중지해야 할 것이다. 나는 지금 그런 날이 올지도 모른다고 상상할 수 있다.

  이 모든 것을 생각하면 나는 화가 난다기보다 우울해진다. 이제부터 내게 진보라는 것은 씁쓸한 어떤 것일 것이다.

  영화〈맨해튼〉의 거의 마지막에서, 우디 알렌이 침상에 누운 채 녹음기에다 대고 말을 하고 있는 아름다운 장면을 기억하는가? 그는 스스로 불필요한, 신경증상을 만들어냄으로써 우주에 관한 해결 불가능한 끔찍한 문제들로부터 회피하고자 하는 사람들에 관하여 짧은 스토리를 쓰고 있다.

  우디 알렌은 "삶은 어째서 살 만한가?"라고 묻는 데까지 이르게 된다. 그리하여 그는 그에게 가치있는 것이 무엇인지를 생각해본다. 그루코 맑스, 윌리 메이즈, 쥬피터 교향곡 제2악장, 루이 암스트롱의〈포테이토 헤드 블루스〉, 스웨덴 영화, 플로베르의《감정교육》, 말론 브란도, 프랭크 시내트라, 세잔느의 사과와 배들, 샘 우의 게들, 그리고 마지막으로, 명배우이자 그의 연인인 트레이시의 얼굴 ….

  우리들 각자는 자기나름의 소중한 것들을 갖고 있다. 그것들에 대해 마음을 쓰면서 우리는 우리의 인간성의 본질을 확인한다. 궁극적으로, 소중한 것들을 보살피고 아낄 수 있는 우리의 커다란 능력 때문에 나는 우리가 우리 앞에 닥친 위험한 문제들에 맞설 수 있으리라고 낙관한다.

  내가 지금 당장 희망하는 것은 여기서 제기된 문제들에 관하여 테크놀로지 그 자체에 대한 두려움이나 애착에 기울어지지 않은 분위기에서 다양한 배경을 가진 사람들과 좀더 큰 토론을 마련하여, 거기에 참여하는 것이다.

  우리가 배워야 할 것은 많다. 우리가 성공할지 실패할지, 테크놀로지들의 희생자가 될지 어떨지는 아직 결정되지 않았다. 나는 다시금 밤늦게까지 앉아있다. 지금 거의 새벽 6시가 되었다. 나는 좀더 나은 해답을 찾아보려고 노력하고 있다.