유발 하라리 인터뷰 내용입니다. 오늘도 즐거운 노오력들 하시기 바랍니다.
Q.당신의 책은 인간이 너무도 최적화된 세상에 살게 되어 인간이 쓸모 없어지고 삶이 모든 의미를 잃어버리는 미래를 상상하고 있습니다.머리 위에 그런 구름을 드리운 채 어떻게 커피 한 잔의 여유를 즐기시나요?
모든 세대에 걸쳐 인간은 이 구름 또는 저 구름 아래에서 살았습니다.구름 하나가 지나가면 다른 구름이 그 자리에 오지요. 예,인공지능은 반드시 근본적인 방식으로 사회를 변화시킬 것입니다.그리고 위험 가능성들도 있습니다.하지만 이것은 예언이 아닙니다.우리가 할 수 있는 일이 아무것도 없는데 왜 사람들을 그냥 화나게 만들겠습니까?
Q.당신은 엄선된 사람들이 슈퍼휴먼(superhuman), 즉 호모 데우스(Homo deus)가 될 가능성을 제시합니다.초인은 하루 종일 무슨 일을 할까요?
우리는 알 수가 없습니다.슈퍼휴먼의 개념은 인간의 능력을 업그레이드 시키기 위해 생명공학과 인공지능을 사용하는 것입니다.그들이 자신을 바꾸기 위해서 그리고 자신의 마음과 욕망을 바꾸기 위해서 그 힘을 사용한다면 우리는 그들이 무엇을 원할 지 모르게 됩니다.또는 예를 들어 두 개의 뇌를 연결할 수 있는 뇌-컴퓨터 인터페이스를 활용하여 제가 당신의 기억에 접근하고 당신의 어린 시절을 회상할 수 있게 된다면 무슨 일이 일어날까요? 그것은 인간 정체성에 어떤 일을 하게 될까요? 성적 정체성은 어떨까요? 오늘날 저는 이차원 컴퓨터 게임을 여자가 되어서 할 수 있습니다.우리의 시각과 청각 뿐만 아니라 전체 몸을 아우르는 3차원 가상 현실로 게임을 할 수 있다면 어떻게 될까요? 고정된 이야기인 정체성이라는 바로 그 개념이 한물간 것이 될 수 있습니다.
Q.테크놀로지가 호모 사피엔스보다 일을 더 잘 할 수 있다면 호모 사피엔스는 어떻게 자아 존중감을 찾을 수 있을까요?
전문가들이 내놓는 한 가지 답은 컴퓨터 게임이 빈 자리를 채울 것이라는 답입니다.이 전문가들은 무섭고 디스토피아적으로 보입니다.하지만 이것은 수천년 동안 인간이 사실상 가상 현실 게임을 해왔다는 사실을 깨달을 때까지 입니다.지금까지 우리는 그것을 종교라고 불렀습니다.유대교와 기독교 등등에서 당신은 당신의 상상속을 제외하고는 어디에도 존재하지 않는 규칙들을 발명합니다.당신은 점수를 얻고 그 점수를 깎는 모든 종류의 것들을 피하는데 인생을 보냅니다.그리고 당신이 죽을 즈음에 충분한 점수를 모았다면 당신은 다음 레벨로 넘어갑니다.천국에서 말입니다.수십억명의 사람이 이 게임에 참여함으로써 인생에 대한 의미를 발견했습니다.
Q.당신은 책에서 인류가 전염병과 전쟁 그리고 굶주림을 제거한 후 행복과 불멸 그리고 신성함을 추구하기 위해 테크놀로지를 사용할 것이라고 썼습니다.이 리스트에 어떤 목적을 추가하고 싶으십니까?
저라면 진리를 추가하고 싶습니다.특히 우리 자신과 우리 마음을 이해하는 진리 말입니다.수천년 동안 우리는 우리의 외부 세계를 지배하는 힘을 얻어 왔습니다.하지만 우리의 내부 세계를 지배하는 힘은 얻지 못했습니다.당신은 흐르는 강을 멈추게 할 수 있었지만 몸이 늙은 것은 멈출 수가 없었습니다.모기를 죽일 수 있었지만 머릿속에서 윙윙거리는 귀찮은 생각은 죽일 수가 없었습니다.21세기에 우리는 우리의 내부 세계를 지배할 수 있는 힘을 가지게 될 것입니다.모기뿐만 아니라 생각도 죽일 수 있을 것입니다.위험한 일은 우리가 이 힘을 잘못 사용하여 결국 내부적인 생태 재앙으로 귀결되는 것입니다.완전히 고장난 정신 말입니다.
Q.그랗다면 무식함이 행복 아닐까요?
무식함은 그리 위험한 일이 아닙니다.당신이 무식함을 힘과 결합시킬 때 유독성 혼합물이 되는 것이죠.
Q.테크놀로지를 사용하지 않으면 빠르게 뒤쳐질 위험성이 있습니다.테크놀로지를 사용하면 인류를 없앨 위험성이 있습니다.당신은 어떤 길을 택했습니까?
저는 중도를 택하려고 노력합니다.개인적 수준에서 저는 여전히 접속을 끊을 수 있기 위해 노력합니다.저는 하루 일과를 한 시간 동안의 명상으로 시작하고 끝마칩니다.매년 저는 30일 내지 60일의 장기 명상 수행을 갑니다.도날드 트럼프 당선에 관한 소식도 사실 12월 20일에야 들었습니다.45일간의 침묵 명상 수행을 하고 있었기 때문입니다.
Q.이번 명상은 어떠셨습니까?
한 달 동안 그 일을 생각하는 일에서 저를 구했습니다.
Q.왜 데이터가 기후변화와 싸우는 것보다 더 인기 있는 종교가 되었다고 생각하십니까?
왜냐하면 데이터는 훨씬 더 큰 힘을 약속하기 때문입니다.충분한 데이터와 충분한 컴퓨터 능력을 가지게 되면 당신은 인간이 스스로를 이해하는 것보다 인간을 더 잘 이해하는 알고리즘을 창조할 수 있게 됩니다.수천년 동안 이것은 정부와 군대 그리고 기업들에게 일종의 성배 같은 것이었습니다.인간이 스스로를 이해하는 것보다 인간을 더 잘 이해하는 일.그들을 예측할 수 있게 되는 일.그들을 조작할 수 있게 되는 일 말입니다.기후변화에는 그 어떤 힘도 없습니다.주로 투자가 있을 뿐이죠.현재의 기술로 지구 온난화를 막는 유일한 실제적 방법은 경제 성장을 멈추는 일입니다.그리고 어떤 정부도 이 일을 좋아하지 않습니다.
Q.언젠가는 알고리즘이 오늘날 기업들처럼 고소도 당할 수 있다고 당신은 믿고 있습니다.그것은 어떤 모습일까요?
알고리즘이 불법적 방식으로 사람을 차별할 수 있는 경우들이 떠오릅니다.지금은 인간의 차별을 고치는 일보다 알고리즘을 고치는 일이 훨씬 더 쉽습니다.인간에게는 자신이 의식하지 못한 채 자신의 결정에 영향을 미치는 잠재의식이 있기 때문입니다.반면에 알고리즘이 인종이나 성별 또는 성적 성향처럼 인간에게 말이 안되는 어떤 패턴을 인지하게 될 수도 있습니다.알고리즘이 사람들을 차별하고 우리는 그 이유를 모르게 되는 것이죠.
Q.남자 동성애자로서 당신은 어떤 차별을 선호하십니까?
제 말은 인간보다 더 나쁜 일을 할 어떤 사악한 알고리즘이 정말로 있을 것이라는 말입니다.
Q.쉽게 대체될 수 없는 직업을 찾으려는 사람들을 위한 조언이 있을까요?
제 생각에 최선의 방법은 당신의 감성지능과 항상 변화할 수 있는 능력인 탄력성을 개발하는 것입니다.옛날에는 심지어 20세기에도 인생을 크게 두 가지 파트로 나눌 수 있었습니다.첫번째 파트에서 당신은 주로 배우고 지식과 기술을 습득하며 스스로 개인적이고 직업적인 정체성을 구축했습니다.두번째 파트에서는 주로 그 기술과 정체성을 활용했습니다.21세기의 변화 속도는 너무나 빨라서 당신이 청소년 시기에 배운 것 대부분이 마흔살에는 완전히 상관 없는 것이 되어 버립니다.제가 교육이나 학교 쪽을 담당하고 있다면 이것을 타개하기 위해 노력하고 싶습니다.사람들에게 코딩이나 수학 등등을 가르치는 것이 아니라 대단히 탄력적인 사람이 되고 인생 내내 변화를 포용하는 방법을 가르치는 일 말입니다.
Q.자신에 관한 데이터를 넘기는 일에 회의적이신가요?
당신이 만약 어떤 것을 공짜로 얻는다면 당신은 상품이라는 점을 알아야 한다는 말이 있습니다.이 말은 페이스북과 지메일 그리고 유튜브의 경우에서 정말로 사실입니다.당신은 무료 소셜미디어 서비스와 재미난 무료 동영상을 받습니다.그 대가로 당신은 당신의 가장 소중한 자산인 당신의 개인 데이터를 포기합니다.
Q.어떻게 하면 당신이 아마존 에코를 구입하도록 설득할 수 있을까요?
저에게는 어떤 선택도 남아 있지 않습니다.에코가 없으면 저는 음식을 살 수도 의료 서비스를 받을 수도 없게 될 것입니다.제가 초점을 맞추려는 것은 기술적 진보의 행진을 멈추는 일이 아닙니다.오히려 저는 더 빨리 달리고 싶습니다.아마존이 당신 자신보다 당신을 더 잘 안다면 게임은 끝난 겁니다.
[ 원 문 ]
How Humankind Could Become Totally Useless
TIME spoke with the Israeli historian and internationally best-selling author of Sapiens about his new book, Homo Deus, a vision of humankind’s future.
Your book imagines a future in which humans live in such an optimized world, they become useless and their lives lose all meaning. How do you enjoy a cup of coffee with such a cloud hanging over your head?
In every generation, humans have lived under one cloud or the other. One cloud goes away, and another takes its place. Yes, artificial intelligence is definitely going to change society in a fundamental way, and there are possible dangers. But this is not a prophecy. If I thought that there is nothing we can do, why just make people upset?
You present the possibility that select people will become superhuman, Homo deus. What would a superhuman do all day?
We don’t have any idea. The notion of superhumans is using bioengineering and artificial intelligence to upgrade human abilities. If they use the power to change themselves, to change their own minds, their own desires, then we have no idea what they will want to do. Or, what happens if using, let’s say, brain-computer interfaces we can connect two brains together so that I can access your memories and remember your childhood, what will that do to human identity? Or gender identity — today I can play a two-dimensional computer game as a woman ... What if we could do that in a three-dimensional virtual reality that encompasses not just our vision and audio but our entire body? The very notion of an identity, a fixed story, may become obsolete.
How might Homo sapiens find a sense of self-worth if technology can do their work better than they?
One answer from experts is that computer games will fill the void. And they sound scary and dystopian until you realize that actually for thousands of years humans have been playing virtual reality games. Up until now, we simply called them religions. In Judaism or Christianity and so forth, you invent rules that don't exist anywhere except in your imagination. You spend your life trying to gain points and to avoid all kinds of things that detract from your points. And if by the time you die you gather enough points, then you pass on to the next level, in heaven. Billions of people have found meaning to their lives by playing these games.
You write that humanity, after eradicating plague, war and famine, will use technology to seek bliss, immortality and divinity. What goal would you add to that list?
I would add truth, and in particular understanding ourselves, our minds. For thousands of years, we have gained the power to control the world outside us but not to control the world inside. You could stop a river from flowing, but you could not stop your body from becoming old. You could kill mosquitoes, but you could not kill annoying thoughts buzzing inside your head. In the 21st century, we are going to gain the power to control the world inside us, to kill the thoughts and not just the mosquitoes. The danger is that we will misuse this power and end up with an internal ecological disaster — a complete mental breakdown.
So ignorance isn't bliss?
Ignorance is not too dangerous. If you combine it with power, then this is a toxic mix.
If you avoid technology, you risk being left behind quickly; if you use it, you risk wiping out humanity. Which path have you chosen?
I try to find a middle path. On a personal level, I try to still be able to disconnect. I start and finish my workday with one hour of meditation. Every year, I go for a long meditation retreat of between 30 and 60 days. I actually heard about the election of Donald Trump only on the 20th of December because I was on a 45-day silent-meditation retreat.
How was that?
It saved me a month of worrying about it.
Why do you think data has become a more popular religion than combating climate change?
Because it promises far greater power. If you have enough data, and enough computer power, then you can create an algorithm that understands humans better than they understand themselves. This has been kind of the holy grail of governments and armies and corporations for thousands of years: to understand humans better than they understand themselves, to be able to predict them, to be able to manipulate them. There is no power in climate change. There is mainly just investment. With present day technology, the only real way to stop global warming is to stop economic growth, and this is something no government is willing to do.
You believe that, one day, algorithms could be sued like corporations are today. What would that look like?
Cases come to mind in which algorithms could discriminate against people in unlawful ways. Now, it is much easier to fix an algorithm than to fix a human being’s discrimination, because humans have a subconscious, which influences their decisions without them being aware of it. But the other side of the coin is that algorithms may come to recognize some pattern that makes no sense to human beings like race or gender or sexual orientation do — the algorithm discriminates against people, and we don't know why.
As a gay man, which discrimination do you prefer?
I mean, there would really have to be some evil algorithm to do worse than human beings.
Do you have advice for people for finding an occupation that cannot be easily replaced?
I think our best bet is to develop your emotional intelligence and your resilience, the ability to keep changing all the time. Previously in history, even in the 20th century, life was divided into two main parts: In the first part, you mostly learned, acquired knowledge and skills, and you built yourself a personal and a professional identity. In the second part, you mostly made use of those skills and those identities. The pace of change in the 21st century will be such that most of what you learn as a teenager will be completely irrelevant by the time you're 40. If I were like in charge of education or a school or, I would try to crack that: How to educate people to be very resilient and to embrace change throughout their lives instead of to teach them coding or mathematics or whatever.
Is it safe to assume you are skeptical of handing over data about yourself?
There is a saying that if you get something for free, you should know that you’re the product. It was never more true than in the case of Facebook and Gmail and YouTube. You get free social-media services, and you get free funny cat videos. In exchange, you give up the most valuable asset you have, which is your personal data.
What would persuade you to buy an Amazon Echo?
I won’t be left with any choice. I won’t be able to buy food, to get health care, if I don’t have an Echo. What I try to focus on is not to try to stop the march of technological progress. Instead, I try to run faster. If Amazon knows you better than you know yourself, then the game is up.
