`사피엔스`라는 책의 저자인 유발 하라리 교수의 인터뷰 내용입니다. 오늘도 즐거운 노오력들 하시기 바랍니다.

 

질문 : 알고리즘과 인공지능(AI)의 발전이 3대째 독재자가 지배하고 있는 북한의 정치적 시스템에 어떤 영향을 미칠 것이라고 생각하십니까?

 

하라리 : 알고리즘과 인공지능의 발전은 다양하게 심지어는 모순된 방식으로 북한에게 영향을 끼칠 수 있습니다.한 가지 시나리오는 북한 체제가 새로운 현실에 적응하지 못하는 것입니다. 북한은 현재 발달된 정보기술 산업이 없기 때문에 경제 및 군사 분야에서 인공지능이 점점 더 중요해지면서 그 어느때보다 경제적 군사적으로 더 취약해질 수 있습니다.국민을 먹여 살리지 못하고 이웃 나라들을 협박하지 못하게 된다면 김정은 정권은 붕괴할 것입니다.

 

또 다른 시나리오는 북한이 한발짝 도약하는 것입니다.예를 들어 북한이 세계에서 최초로 모든 차량이 자율주행을 하는 나라가 되는 것입니다.저개발 중앙집권적 독재국가도 장점이 있습니다.남한에서 사람들의 운전을 금지하고 완전한 자율주행 시스템으로 변경을 시도할 경우 무슨 일이 일어날 지 한 번 상상해 보십시오.남한 국민은 수백만대의 자동차를 개인적으로 소유하고 있습니다.그리고  많은 사람이 자신의 자유와 재산을 잃는 것에 반대할 지도 모릅니다. 택시,버시,트럭 기사 심지어는 교통경찰들도 반대를 할 수 있지요.모두가 직업을 잃게 되는 사람들이죠.파업과 시위가 생길 것입니다.법률적이고 심지어 철학적인 어려운 문제가 이 계획을 막을 수도 있습니다.자율주행 차량이 사고를 내면 누구를 고소해야 할까요? 또는 기능 이상으로 자율주행 차량의 브레이크가 고장난 상황을 생각해 보십시오.이 자동차는 계속 앞으로 전진하면서 5명의 무고한 보행자를 죽이는 일과 옆으로 방향을 틀어서 차량 승객들을 위험하게 하는 일 중 무엇을 선택해야 할까요?

 

남한과 같은 자유시장적 민주주의 체제는 이 모든 도전에 직면하는 일이 쉽지 않을 것입니다.그럼 이제 북한을 생각해 보십시오.북한은 자동차가 몇 대 없습니다.택시 기사는 시위를 할 수 없고 트럭 기사도 파업을 할 수가 없으며 법률적이고도 철학적인 모든 문제가 하룻밤 사이에 단 한 번의 서명으로 해결될 수 있습니다.오직 한 명만 설득하면 됩니다.하룻밤 사이에 나라 전체가 완전한 자율주행 시스템으로 바뀔 수도 있는 것입니다.

 

세번째 시나리오는 북한이 AI를 이용하여 완전한 조지 오웰식 디스토피아가 되는 상황입니다.모든 시민은 생체측정 기구를 착용해야 하며 이 기구는 당신의 모든 행동과 언어 그리고 당신의 혈압과 뇌활동도 감시할 수 있습니다.소비에트 시절에 KGB는 당신의 모든 것을 알 수 없었으며 당신이 무슨 생각을 하는 지도 알지 못했습니다.필요한 데이터와 컴퓨터 능력이 없었기 때문입니다.그러나 인간의 뇌에 대한 우리의 증가한 지식과 머신 러닝(machine learning)의 엄청난 능력을 활용하면 북한 정권은 역사상 처음으로 모든 시민이 매 순간 무슨 생각을 하는지 알 수 있게 됩니다.만약 당신이 벽에 걸린 김정은의 사진을 볼 때 생체측정 센서가 당신의 숨길 수 없는 분노 신호(높은 혈압과 소뇌 편도체의 활동 증가)를 포착할 경우 당신은 내일 아침 강제 수용소에 있게 될 것입니다.

 

질문 :  AI의 빠른 부상이 남북한 관계에 어떤 영향을 끼칠 것으로 생각하십니까?

 

하라리 : 가까운 장래에 닥칠 가장 큰 영향은 사이버 전쟁입니다.남한은 북한의 계속되는 위협과 사이버 공격에 직면할 것이며 북한의 그러한 공격을 예방하거나 보복하는 일에 어려움을 겪을 것입니다.북한은 그 후진성이 오히려 방어 기능을 할 것입니다.북한이 남한의 온라인은행 거래를 방해할 경우 남한은 무슨 일을 할 수 있을까요? 남한은 북한의 온라인은행 거래를 방해할 수 없습니다.북한에는 온라인은행 거래가 없기 때문입니다.보복으로 평양에 폭탄을 쏟아 부을까요?

 

AI의 부상은 또한 문화적/경제적으로 미래의 남북한 통일을 더 어렵게 할 수도 있습니다.AI는 남한 사람의 문화 심지어 심리까지도 변형시킬 가능성이 높습니다.북한 사람도 유사한 혁명을 겪지 않는다면 양국민들 사이의 간극은 그 어느때보다도 더 벌어질 것입니다.지금 벌써 그런 일이 생기기 시작했습니다.남북한 청소년 사이의 문화적 간극을 한 번 생각해 보세요.스마트폰, 유튜브, 인스타그램 그리고 트위터에 빠져 사는 남한 청소년과 거리를 걸으면서 계속 손바닥안에 있는 작은 화면을 바라보는 사람들을 보면서 할 말을 잃은 북한 청소년 말입니다.

 

경제적 간극과 관련해서는 과거에 남한은 경제적 예상 비용 때문에 통일을 걱정스러워 했습니다.그럼에도 불구하고 북한은 통일된 한국에 기여할 수 있는 한 가지 중요한 자산이 있었기 때문에 잠재적인 경제적 이익도 있었습니다.훈련된 저렴한 노동력이죠.그러나 AI는 저렴한 노동력을 의미 없게 만들 가능성이 큽니다.알고리즘과 로봇은 트럭 기사와 공장 노동자 그리고 심지어 의사까지 대체할 수 있기 때문에 저렴한 노동력은 그 가치를 상실할 것입니다.이것 때문에 미래의 통일은 훨씬 더 힘들 수도 있습니다.남한은 자국의 대량 실업자들을 처리해야 하는 위험에 직면할 수도 있습니다.이런 상황에서 남한이 과연 수백만명의 북한 사람까지 돌보고 싶어할까요.

 

물론 긍정적 영향도 있을 수 있습니다.앞에서 살펴보았듯이 AI 부상에 따른 심대한 변화는 북한 정권을 불안정하게 만들고 정권 붕괴를 가져올 수도 있습니다.반면에 남한의 하이테크 산업은 대단히 크게 번성해서 북한을 통합하는 일이 더 쉬워질 수도 있지요.아무도 모르는 일입니다.

 

질문 : 새로운 책  ``호모 데우스(Homo Deus)``에서 ``논리 폭탄``(logic bombs)에 대해 말씀하셨습니다.북한이 남한에 많은 논리 폭탄을 설치했다고 가정하는 편이 안전할까요?

 

하라리 : 그럴 가능성이 대단히 높습니다.

 

질문 : 미국 트럼프 대통령의 반 무역 정책(NAFTA와 한미 FTA 재협상 그리고 TPP 철회)에 대해서는 어떻게 평가하십니까? 이슬람 국가 이민자와 난민에 대한 여행 금지를 포함해 트럼프의 정책을 어떻게 보고 계십니까?

 

하라리 : 도날드 트럼프는 전 세계 많은 지역을 휩쓸고 있는 민족주의라는 커다란 물결의 한 부분입니다.이것은 대단히 위험한 진행입니다.과거에는 민족주의가 전쟁을 일으켰기 때문에 위험했습니다.21세기 민족주의는 훨씬 더 위험합니다.민족주의가 전쟁을 조장할 뿐만 아니라 우리가 직면한 실존적 문제들을 해결하는데 방해가 되기 때문입니다.

 

오늘날 우리의 모든 중요한 문제들은 본질적으로 글로벌한 성격을 가집니다.글로벌 온난화와 글로벌 불평등 그리고 AI와 생명공학과 같은 파괴적 혁신(Disruptive Technology)의 부상 등이죠.이러한 도전에 성공적으로 대응하기 위해 우리는 글로벌한 협력이 필요합니다.예를 들어 어떤 나라도 단독으로 생명공학을 규제할 수 없습니다.중국과 북한은 인간 아기의 유전적 조작을 허용하는데 미국만 반대한다면 규제는 별 도움이 되지 않습니다.마찬가지로 어떤 나라도 혼자서 글로벌 온난화를 막을 수 없습니다.도날드 트럼프가 상승하는 바다 수면에 장벽을 칠 수 있을까요? 민족주의는 글로벌 온난화에 대한 해답이 없기 때문에 그 문제를 단순히 부인하는 경향이 있는 것입니다.하지만 글로벌 온난화 문제는 진짜입니다.저는 현재의 민족주의 물결이 일종의 현실도피라고 생각합니다.눈과 마음을 닫고 전통적인 지역적 정체성 속에서 은신처를 찾음으로써 유례없는 21세기의 문제들에 정면으로 맞서기를 거부하는 것이지요.저는 적절한 시기에 사람들이 깨어나기를 희망해 봅니다.이를 위해서는 아마도 인류를 통합할 수 있는 새로운 글로벌 이념이 필요할 지도 모르겠습니다.

 

이 세계에는 내 조국의 고유성을 찬양하고 그 고유성에 대한 나의 특별한 의무를 강조하는 애국심을 위한 공간이 여전히 많이 있습니다.하지만 우리 인류가 생존과 번성을 원한다면 그러한 지역적 충성심과 글로벌 공동체에 대한 상당한 의무감을 함께 가져야 합니다.조국의 이익만이 다른 종류의 모든 충성심과 고려 사항들을 능가한다고 주장하는 사람들이 있다면 저는 그들에게 글로벌 온난화 문제를 해결할 어떤 계획이 있는지 그리고 핵전쟁,인공지능,생명공학의 위험성을 어떻게 다룰 것인지 묻고 싶습니다.

 

질문 : 구글과 바이두가 개인 데이터를 수집하고 그것을 활용함으로써 옳은 일을 하지 않고 있다고 생각하시는지요?

 

하라리 : 수십억명의 개인 정보를 수집하고 분석하는 일은 이 일을 하는 기업 뿐만 아니라 일반 대중에게도 분명히 장점이 있습니다.예를 들어 사람들에게 훨씬 더 좋은 의료 서비스를 제공할 수 있습니다.구글과 바이두가 저의 생체 데이터를 모니터링하고 이것을 다른 수백만명의 데이터와 비교하면 암의 조기 발견이 가능해집니다.그리고 그 암의 싹을 잘라버리는 일도 가능하겠지요.유행성 독감의 조기 발견도 가능할 것입니다.독감 확산을 방지하는 일이 상대적으로 더 쉬워지겠지요.제 몸의 영양 상태가 최적화되지 않았다는 것을 미리 경고하고 제 몸에 맞는 맞춤 식단을 제공할 수도 있지요.저는 21세기에 프라이버시와 건강 사이에 거대한 전투가 한 판 있을 것이라고 믿습니다.그리고 대부분 사람들이 더 좋은 의료 서비스를 받기 위해 프라이버시의 희생을 선택할 것이라고 믿습니다.

 

동시에 우리에 대해 엄청나게 많이 알고 있으며 우리의 개인 데이터를 독점하는 기업과 정부를 허용하는 일에는 분명한 위험성들이 도사리고 있습니다.충분한 데이터와 컴퓨터 능력을 감안할 때 외부 알고리즘이 우리 자신보다 우리를 더 잘 아는 상황이 올 수 있습니다.이렇게 되면 구글이나 정부가 우리의 결정을 예측하고 우리의 감정을 조작하며 우리 삶에 대한 절대적 통제권을 가질 수도 있습니다.북한뿐만 아니라 남한에서도 빅데이터가 빅브라더를 창조할 지 모릅니다.이 빅브라더가 모든 것을 알고 모든 것을 통제하겠지요.

 

옛날에는 땅이 가장 귀중한 자원이었습니다.따라서 대부분의 정치는 땅을 누가 소유했는가의 문제를 중심으로 돌아갔습니다.산업혁명 이후 문제는 생산 수단을 누가 소유했는가였습니다.21세기의 문제는 데이터를 누가 소유하는가의 문제입니다.지금 사람들은 무료 이메일과 재미있는 동영상을 보는 대가로 자신의 가장 중요한 자산인 개인 정보를 포기하고 있습니다. ``당신이 무엇인가를 공짜로 얻는다면 당신은 아마도 상품일 가능성이 높다.``는 유명한 격언을 음미해 봐야 합니다.

 

질문 : 언젠가 죽음이 없는 시대(amortals)가 도래하면 종교가 존재 이유를 상실하고 사라질 것이라고 생각하십니까? 아니면 계속 존재할까요?

 

하라리 : 우선 우리는 종교가 무엇인지를 이해해야 합니다.종교는 신에 대한 믿음이 아닙니다.종교는 초인적인 법칙에 대한 믿음에 근거하여 세워진 인간 규범과 가치의 어떤 체계입니다.종교는 우리가 인간이 발명하지 않은 어떤 법칙들을 따라야만 한다고 말합니다.그리고 인간은 마음대로 그 법칙들을 바꿀 수 없습니다.이슬람과 기독교 그리고 힌두교 같은 종교는 신이 이 초인적 법칙들을 창조했다고 믿습니다.불교와 자본주의 그리고 나치즘 같은 다른 종교는 이 법칙들이 자연적인 법칙이라고 믿습니다.따라서 불교신자는 업보(karma)의 자연 법칙을 믿고 나치주의자는 자신의 이념이 자연선택의 법칙을 반영한다고 주장합니다.자본주의자는 자신이 경제학이라는 자연적 법칙을 따른다고 믿습니다.

 

신성한 법칙을 믿든 자연적 법칙을 믿든 모든 종교는 정확히 동일한 기능을 합니다.인간 규범과 가치에 정당성을 부여하고 국가와 기업 같은 인간 조직에 안정성을 제공하는 것이지요.어떤 종류의 종교이든 종교가 없으면 사회적 질서를 유지하는 것이 불가능해집니다.현대 시대에서는 신성한 법칙을 믿는 종교들이 쇠퇴했습니다.그러나 자연적 법칙을 믿는 종교들은 그 어느때보다도 더 강력해졌습니다.앞으로는 더 강력해질 것입니다.오늘날 실리콘 밸리는 테크노 종교(techno-religions)의 온상입니다.테크노 종교들은 행복,평화,번영 그리고 영생과 같이 과거의 모든 종교들이 약속했던 보상을 약속합니다.하지만 이번에는 천상의 존재의 도움으로 생기는 내세에서의 보상이 아니라 기술의 도움으로 생겨나는 여기 이승에서의 보상을 약속합니다.

 

질문 : 한국 독자들에게 추가로 하고 싶은 말씀이 있나요?

 

하라리 : 저는 기술이 결정론적이 아니라는 점을 강조드리고 싶습니다.우리는 똑같은 기술을 이용하지만 매우 다른 종류의 사회와 상황들을 만들어낼 수 있습니다.예를 들어 20세기 사람들은 기차,전기,라디오,전화기 같은 산업혁명의 똑같은 기술을 사용해서 공산주의 독재나 파시스트 체제를 만들기도 했고 자유민주주의 사회를 만들기도 했습니다.남한과 북한을 생각해 보시면 됩니다.그들은 정확히 똑같은 기술을 접했지만 매우 다른 방식으로 그것을 사용하기로 선택했습니다.

 

21세기 AI와 생명공학의 부상은 분명히 세상을 변모시킬 것입니다.하지만 단 한개의 결정론적 결과만이 있지는 않습니다.우리는 이것을 이용해서 매우 다른 종류의 사회들을 만들어낼 수 있습니다.이것을 현명하게 이용하는 방법이야말로 오늘날 인류가 직면한 가장 중요한 질문입니다.이것은 글로벌 경제위기와 중동 전쟁 그리고 유럽의 난민 위기보다도 훨씬 더 중요합니다.인류의 미래 뿐만 아니라 어쩌면 생명 그 자체의 미래가 AI와 생명공학을 사용키로 하는 우리의 선택 방식에 달려 있습니다.

 

[ 원 문 ]

 

Three scenarios on how AI will affect North Korea

 

The following is the full the interview with Yuval Noah Harari, author of the international bestsellers "Sapiens" and "Homo Deus." ― ED.

Q. How do you think that the development of algorithms, artificial intelligence (AI), will affect North Korea's political system that is dominated by third-generation dictator Kim Jong-un?

 

A. It could affect it in various and even contradictory ways. One scenario is that the North Korean regime will not be able to adapt to the new realities. Since North Korea at present has no advanced Infotech industry, as AI becomes more and more critical both for the economy and for the military, North Korea might become economically poorer and militarily weaker than ever before. Unable to provide for its own citizens or to blackmail its neighbors, the Kim regime will collapse.

 

Another scenario is that North Korea will leap-frog ahead, becoming for example the first country in the world where all vehicles are self-driving. There are advantages to being an underdeveloped centralized dictatorship. Consider what might happen if South Korea tries to ban human drivers and switch to a completely self-driving transport system. South Korean citizens privately own millions of vehicles, and many might object to losing their freedom and their property. There will also be objections from taxi drivers, bus drivers, truck drivers and even traffic cops, who will all lose their jobs. There will be strikes and demonstrations. The initiative could also be forestalled by legal and even philosophical conundrums if a self-driving car causes an accident, whom do you sue? Or suppose a self-driving car lost its breaks due to some malfunction, and has to choose between driving forward and killing five innocent pedestrians, or swerving to the side and endangering its own passengers. What should the car do?

 

In a free market democracy like South Korea, it will not be easy to confront all these challenges. Now consider North Korea. There are very few vehicles there, taxi drivers cannot demonstrate, truck drivers cannot strike, and all legal and philosophical difficulties can be solved in a single afternoon with the stroke of a single pen. You really need to convince just one person, and the country could switch overnight to a fully automatic transport system.

 

A third scenario is that North Korea uses AI to become a full-fledged Orwellian dystopia. Each citizen will be required to wear a biometric device that not only monitors everything you do and say, but could even monitor your blood pressure and brain activity. In Soviet days the KGB could never really know everything about you, and could not be sure what you were thinking, because the KGB did not have the data and the computing power necessary. But using our growing understanding of the human brain, and using the immense powers of machine learning, the North Korean regime might be able for the first time in history to know what each and every citizen is thinking each and every moment. If you look at a picture of Kim Jong-un on the wall, and the biometric sensors pick up the telltale signs of anger (higher blood pressure, increased activity in the amygdala), you'll be in the gulag tomorrow morning.

 

Q. How do you think that the fast rise of AI will affect the South-North relationship?

 

A. In the immediate future, the greatest impact might come from cyberwarfare. The South will face a constant danger of cyber-attacks from the North, and will find it difficult to deter the North from such attacks or retaliate to them. The North's very backwardness will protect it. If the North disrupts online bank services in the South, what will the South do? It cannot disrupt online bank services in the North, because there aren't any. Will it bombard Pyongyang in retaliation?

 

The rise of AI might also make any future integration of North and South more difficult, for both cultural and economic reasons. AI is likely to transform the culture and even psychology of South Koreans, and if North Koreans do not undergo a similar revolution, the gap between the populations would become bigger than ever before. It is beginning to happen even today. Just think of the cultural gap between a South Korean teenager glued to her smartphone, Youtube, Instagram and Twitter and a North Korean teenager who might well be dumbfounded to see people walking down the street and constantly looking at small screens in their palms.

 

As for the economic gap, in the past the South was apprehensive of unification because of the expected economic cost. Nevertheless, there were also potential economic benefits, because the North had one important economic asset to contribute to a united Korea: a disciplined and cheap work force. However, AI is likely to make cheap labor irrelevant. As algorithms and robots replace truck drivers, factory workers and even doctors, cheap labor would lose its value. That might make future integration even harder. South Korea might face a crisis taking care of its own unemployed masses; it will not want to take care of millions of northerners too.

 

Of course there might be positive influences as well. As noted earlier, the profound changes caused by the rise of AI might destabilize the North Korean regime and lead to its collapse, while the South Korean hi-tech industry may generate so much prosperity in the South that it will actually find it easier to integrate the North. Nobody really knows for sure.

Q. In your new book the "Homo Deus," you talked about "logic bombs." Is it safe to assume that North Korea has also installed many logic bombs in South Korea?

 

A. It is extremely likely.

 

Q. How would you evaluate U.S. President Donald Trump's policies such as anti-trade measures (the renegotiation of NAFTA and the KORUS FTA, and the withdrawal from TPP)? How would you evaluate Trump's policies including travel bans on immigrants from Muslim countries and refugees?

 

A. Donald Trump is part of a larger nationalist wave that is sweeping over much of the world. This is a very dangerous development. In the past, nationalism was dangerous because it bred war. In the 21st century, nationalism is even more dangerous, because in addition to fostering wars it is likely to prevent humankind from solving the existential problems we face.

 

Today all our major problems are global in nature: global warming, global inequality, and the rise of disruptive technologies such as AI and bioengineering. In order to face these challenges successfully, we need global cooperation. For example, no nation can regulate bioengineering single-handedly. It won't help much if the US forbids genetically engineering human babies, as long as China or North Korea allows it. Similarly, no nation can stop global warming by itself. Can Donald Trump build a wall against rising oceans? Because nationalism has no answer to global warming, it tends to simply deny the problem. But the problem is real. Hence I think the current wave of nationalism is a kind of escapism: people refusing to confront the unprecedented problems of the twenty-first century by closing their eyes and minds and by seeking a refuge in the fold of traditional local identities. I hope that people will wake up in time. For that, we probably need a new global ideology that can unite humankind.

 

There is still plenty of room in the world for the kind of patriotism that celebrates the uniqueness of my nation and stresses my special obligations towards it. Yet if we want to survive and flourish, humankind has little choice but to complement such local loyalties with substantial obligations towards a global community. If people nevertheless insist that the interests of their nation override all other loyalties and considerations, I would be curious to know how they plan to solve global warming and how they plan to handle the risks of nuclear war, artificial intelligence and biotechnology.

 

Q. Do you think that Google and Baidu are not doing the right thing by collecting personal data and taking advantage of them?

 

A. Collecting and analyzing personal data on billions of people certainly has its advantages, not just to the corporations doing it, but also to the public. It could be used, for example, to provide people with much better healthcare. If Google or Baidu monitors my biometric data and compares it with the biometric data of millions of other people, they could detect the early signs of cancer, when it is possible to nip it in the bud. They could detect the early signs of a flu epidemic, when it is relatively easy to prevent it from spreading. They could alert me that my nutrition is sub-optimal, and tailor a diet for my unique body. I believe that in the 21st century there will be a huge battle between privacy and health, and that most people will choose to sacrifice their privacy for the sake of better healthcare.

 

At the same time, there are obvious dangers inherent in allowing corporations and governments to know so much about us and to monopolize our personal data. Given enough data and enough computing power, external algorithms could know us better than we know ourselves. And then Google, or the government, could predict our decisions, manipulate our emotions, and gain absolute control over our lives. Not just in North Korea, but also in South Korea, Big Data might create a Big Brother that knows everything and controls everything.

 

In ancient times land was the most valuable resource, hence much of politics revolved around the question who owns the land. In the wake of the Industrial Revolution the question became who owns the means of production. In the 21st century the question will be who owns the data. At present, people are giving up their most valuable asset, their personal data, in exchange for free email services and funny cat videos. People should be reminded of the famous maxim that "if you get something for free, you are probably the product".

 

Q. In the era of a-mortals, whenever it would be, do you think that religions would lose its raison d'être and disappear? Or it will continue to exist?

 

A. First, we should understand what religion is. Religion is not belief in gods. Rather, religion is any system of human norms and values that is founded on a belief in super-human laws. Religion tells us that we must obey certain laws that were not invented by humans, and that humans cannot change at will. Some religions, such as Islam, Christianity and Hinduism, believe that these super-human laws were created by the gods. Other religions, such as Buddhism, Capitalism and Nazism, believe that these super-human laws are natural laws. Thus Buddhists believe in the natural laws of karma, Nazis argued that their ideology reflected the laws of natural selection, and Capitalists believe that they follow the natural laws of economics.

 

No matter whether they believe in divine laws or in natural laws, all religions have exactly the same function: to give legitimacy to human norms and values, and to give stability to human institutions such as states and corporations. Without some kind of religion, it is simply impossible to maintain social order. During the modern era religions that believe in divine laws went into eclipse. But religions that believe in natural laws became ever more powerful. In the future, they are likely to become more powerful yet. Silicon Valley is today a hot-house of new techno-religions. They promise all the old religious prizes – happiness, peace, prosperity, and eternal life – but here on earth with the help of technology, rather than after death with the help of celestial beings.

 

Q. Is there anything else you want to comment on to Korean readers?

 

A. I would like to emphasize that technology is never deterministic. We can use the same technological breakthroughs to create very different kinds of societies and situations. For example, in the 20th century people could use the technology of the Industrial Revolution – trains, electricity, radio, telephone – in order to create communist dictatorships, fascist regimes or liberal democracies. Just think about South Korea and North Korea: They have had access to exactly the same technology, but they have chosen to employ it in very different ways.

 

In the 21st century the rise of AI and biotechnology will certainly transform the world, but it does not mandate a single deterministic outcome. We can use them to create very different kinds of societies. How to use them wisely is the most important question facing humankind today. It is far more important than the global economic crisis, the wars in the Middle East, or the refugee crisis in Europe. The future not only of humanity, but probably of life itself, depends on how we choose to use AI and biotechnology.