ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com
TEDGlobal 2005

Nick Bostrom: A philosophical quest for our biggest problems

Ник Бостром рассказывает о наших самых больших проблемах

Filmed:
967,767 views

Философ из Оксфорда и трансгуманист Ник Бостром рассматривает будущее человечества и задаётся вопросом, можем ли мы изменить принципиальную природу человека, чтобы решить наши самые насущные проблемы.
- Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio

Double-click the English transcript below to play the video.

00:24
I want to talk todayCегодня about --
0
0
3000
Сегодня я хочу поговорить о ...
00:27
I've been askedспросил to take the long viewПосмотреть, and I'm going to tell you what
1
3000
6000
Меня попросили посмотреть далеко в будущее, и вот что я думаю.
00:33
I think are the threeтри biggestсамый большой problemsпроблемы for humanityчеловечество
2
9000
4000
Я полагаю, с этой точки зрения,
00:37
from this long pointточка of viewПосмотреть.
3
13000
3000
у человечества
есть три главные проблемы.
00:40
Some of these have alreadyуже been touchedприкоснулся uponна by other speakersдинамики,
4
16000
3000
Некоторые из них уже поднимались другими ораторами,
00:43
whichкоторый is encouragingобнадеживающий.
5
19000
2000
что ободряет.
00:45
It seemsкажется that there's not just one personчеловек
6
21000
2000
Видимо, существует много людей,
00:47
who thinksдумает that these problemsпроблемы are importantважный.
7
23000
2000
которые считают эти проблемы важными.
00:49
The first is -- deathсмерть is a bigбольшой problemпроблема.
8
25000
4000
Первая.
Смерть — это огромная проблема.
00:53
If you look at the statisticsстатистика,
9
29000
3000
Если взглянуть на статистику,
00:56
the oddsшансы are not very favorableблагоприятный to us.
10
32000
2000
наши шансы
не очень благоприятны.
00:58
So farдалеко, mostбольшинство people who have livedжил have alsoтакже diedумер.
11
34000
4000
Сейчас большинство когда-либо живших людей уже мертвы.
01:02
Roughlyгрубо 90 percentпроцент of everybodyвсе who has been aliveв живых has diedумер by now.
12
38000
4000
Примерно 90% всех, кто был жив, сейчас мёртв.
01:06
So the annualгодовой deathсмерть rateставка addsдобавляет up to 150,000 --
13
42000
6000
Ежегодная, простите,
ежедневная смертность
01:12
sorry, the dailyежедневно deathсмерть rateставка -- 150,000 people perв day,
14
48000
3000
составляет
150 тысяч человек в день,
01:15
whichкоторый is a hugeогромный numberномер by any standardстандарт.
15
51000
3000
что является огромным числом, независимо от стандартов.
01:18
The annualгодовой deathсмерть rateставка, then, becomesстановится 56 millionмиллиона.
16
54000
5000
Ежегодная смертность
составляет 56 миллионов.
01:23
If we just look at the singleОдин, biggestсамый большой causeпричина of deathсмерть -- agingстарение --
17
59000
5000
Возьмём только основную
причину смерти — старение —
01:29
it accountsСчета for roughlyгрубо two-thirdsдве трети of all humanчеловек people who dieумереть.
18
65000
5000
на чью долю приходится примерно две трети всех смертей.
01:34
That addsдобавляет up to an annualгодовой deathсмерть tollПотери
19
70000
3000
Ежегодно смерть
уносит больше людей,
01:37
of greaterбольшая than the populationНаселение of CanadaКанада.
20
73000
2000
чем живёт в Канаде.
01:39
SometimesИногда, we don't see a problemпроблема
21
75000
2000
Временами
мы не видим саму проблему:
01:41
because eitherили it's too familiarзнакомые or it's too bigбольшой.
22
77000
4000
она либо слишком привычна,
либо слишком колоссальна.
01:45
Can't see it because it's too bigбольшой.
23
81000
2000
Не видим, потому что
она слишком огромна.
01:47
I think deathсмерть mightмог бы be bothи то и другое too familiarзнакомые and too bigбольшой
24
83000
3000
Я считаю, смерть может быть и слишком знакомой и слишком большой
01:50
for mostбольшинство people to see it as a problemпроблема.
25
86000
3000
для большинства людей,
чтобы видеть в этом проблему.
01:53
Onceоднажды you think about it, you see this is not statisticalстатистический pointsточки;
26
89000
2000
Если вы задумаетесь, вы увидите, что это не просто цифры.
01:55
these are -- let's see, how farдалеко have I talkedговорили?
27
91000
2000
Это… давайте взглянем на то,
как долго я вещаю?
01:57
I've talkedговорили for threeтри minutesминут.
28
93000
3000
Я говорю уже около трёх минут.
02:00
So that would be, roughlyгрубо, 324 people have diedумер sinceпоскольку I've begunначатый speakingГоворящий.
29
96000
7000
Это будет, примерно, 324 смерти с того момента,
как я начал говорить.
02:07
People like -- it's roughlyгрубо the populationНаселение in this roomкомната has just diedумер.
30
103000
4000
Людей как... это, как будто все люди в этом зале
только что умерли.
02:12
Now, the humanчеловек costСтоимость of that is obviousочевидный,
31
108000
2000
Человеческие потери очевидны.
02:14
onceодин раз you startНачало to think about it -- the sufferingстрадающий, the lossпотеря --
32
110000
3000
Когда вы задумываетесь об этом — о страданиях, потерях —
02:17
it's alsoтакже, economicallyэкономически, enormouslyчрезвычайно wastefulрасточительный.
33
113000
3000
это к тому же очень затратно экономически.
02:20
I just look at the informationИнформация, and knowledgeзнание, and experienceопыт
34
116000
3000
Я рассматриваю только информацию, знания и опыт,
02:23
that is lostпотерял dueв связи to naturalнатуральный causesпричины of deathсмерть in generalГенеральная,
35
119000
3000
которые потеряны из-за смерти по естественным причинам в целом,
02:26
and agingстарение, in particularконкретный.
36
122000
2000
и старения, в частности.
02:28
Supposeпредполагать we approximatedаппроксимируется one personчеловек with one bookкнига?
37
124000
3000
Предположим, мы приравняли одного человека к одной книге.
02:31
Now, of courseкурс, this is an underestimationнедооценка.
38
127000
2000
Это, конечно, недооценка.
02:33
A person'sИндивидуальность человека lifetimeпродолжительность жизни of learningобучение and experienceопыт
39
129000
6000
Жизненный опыт и обучение человека
02:39
is a lot more than you could put into a singleОдин bookкнига.
40
135000
2000
гораздо больше того, что можно записать в одну книгу.
02:41
But let's supposeпредполагать we did this.
41
137000
2000
Но, предположим, мы сделали это.
02:44
52 millionмиллиона people dieумереть of naturalнатуральный causesпричины eachкаждый yearгод
42
140000
5000
52 миллиона человек умирает естественной смертью каждый год.
02:49
correspondsсоответствует, then, to 52 millionмиллиона volumesтома destroyedразрушенный.
43
145000
4000
Это соответствует уничтожению 52 миллионов книжных томов.
02:53
LibraryБиблиотека of Congressконгресс holdsдержит 18 millionмиллиона volumesтома.
44
149000
3000
Библиотека Конгресса США содержит 18 миллионов томов.
02:57
We are upsetрассториться about the burningсжигание of the LibraryБиблиотека of AlexandriaАлександрия.
45
153000
3000
Мы огорчены утратой Александрийской библиотеки.
03:00
It's one of the great culturalкультурный tragediesтрагедии
46
156000
2000
Это одна из величайших культурных трагедий,
03:02
that we rememberзапомнить, even todayCегодня.
47
158000
3000
которую мы помним даже сейчас.
03:06
But this is the equivalentэквивалент of threeтри LibrariesБиблиотеки of Congressконгресс --
48
162000
2000
Она эквивалентна трём Библиотекам Конгресса США...
03:08
burntсожжен down, foreverнавсегда lostпотерял -- eachкаждый yearгод.
49
164000
3000
сожжена, потеряна навсегда... и так каждый год.
03:11
So that's the first bigбольшой problemпроблема.
50
167000
2000
Итак, это первая огромная проблема.
03:13
And I wishжелание Godspeedсчастливого пути to AubreyОбри deде GreyСерый,
51
169000
3000
Я хочу пожелать удачи Обри де Грею,
03:16
and other people like him,
52
172000
2000
и другим людям,
03:18
to try to do something about this as soonскоро as possibleвозможное.
53
174000
3000
в их попытках решить эту проблему как можно скорее.
03:22
Existentialэкзистенциальный riskриск -- the secondвторой bigбольшой problemпроблема.
54
178000
3000
Экзистенциальный риск — вторая большая проблема.
03:25
Existentialэкзистенциальный riskриск is a threatугроза to humanчеловек survivalвыживание, or to the long-termдолгосрочный potentialпотенциал of our speciesвид.
55
181000
7000
Экзистенциальный риск является угрозой для человеческого выживания или для наших долговременных возможностей.
03:32
Now, why do I say that this is a bigбольшой problemпроблема?
56
188000
2000
Теперь, почему же я сказал, что это является проблемой?
03:34
Well, let's first look at the probabilityвероятность --
57
190000
4000
Хорошо, давайте взглянем на вероятность…
03:38
and this is very, very difficultсложно to estimateоценить --
58
194000
3000
её очень сложно оценить...
03:41
but there have been only four4 studiesисследования on this in recentнедавний yearsлет,
59
197000
3000
за последние годы по этому вопросу
03:44
whichкоторый is surprisingудивительный.
60
200000
2000
было всего четыре исследования, что удивляет.
03:46
You would think that it would be of some interestинтерес
61
202000
3000
Можно подумать, что есть некий интерес к попыткам
03:49
to try to find out more about this givenданный that the stakesставки are so bigбольшой,
62
205000
4000
найти что-то об этой теме, учитывая, что ставки высоки,
03:53
but it's a very neglectedпренебрегли areaплощадь.
63
209000
2000
но это весьма запущенная область.
03:55
But there have been four4 studiesисследования --
64
211000
2000
Но были четыре исследования...
03:57
one by JohnДжон LesleyЛесли, wroteписал a bookкнига on this.
65
213000
2000
одно из них Джона Лесли, написавшего книгу об этой проблеме.
03:59
He estimatedпо оценкам a probabilityвероятность that we will failпотерпеть неудачу
66
215000
2000
Он оценил вероятность того,
04:01
to surviveуцелеть the currentтекущий centuryвека: 50 percentпроцент.
67
217000
3000
что мы не в состоянии пережить этот век, как 50 %.
04:04
Similarlyпо аналогии, the AstronomerАстроном Royalцарственный, whomкого we heardуслышанным speakговорить yesterdayвчера,
68
220000
5000
Так же, Королевский астроном (Мартин Рис), которого мы слушали вчера,
04:09
alsoтакже has a 50 percentпроцент probabilityвероятность estimateоценить.
69
225000
3000
говорил о 50% вероятности.
04:12
AnotherДругая authorавтор doesn't give any numericalчисленный estimateоценить,
70
228000
3000
Другой автор не даёт конкретных числовых оценок,
04:15
but saysговорит the probabilityвероятность is significantзначительное that it will failпотерпеть неудачу.
71
231000
3000
но говорит о значительной вероятности.
04:18
I wroteписал a long paperбумага on this.
72
234000
3000
Я написал длинную работу об этом.
04:21
I said assigningназначение a lessМеньше than 20 percentпроцент probabilityвероятность would be a mistakeошибка
73
237000
4000
Я говорил, что давать вероятность меньше 20% было бы ошибкой,
04:25
in lightлегкий of the currentтекущий evidenceдоказательства we have.
74
241000
3000
в свете тех доказательств, что мы имеем.
04:28
Now, the exactточный figuresцифры here,
75
244000
2000
Теперь есть точные цифры,
04:30
we should take with a bigбольшой grainзерно of saltповаренная соль,
76
246000
2000
которые мы можем принять с большой осторожностью,
04:32
but there seemsкажется to be a consensusконсенсус that the riskриск is substantialсущественный.
77
248000
3000
но мы должны прийти к согласию, что риски существенны.
04:35
Everybodyвсе who has lookedсмотрел at this and studiedизучал it agreesсоглашается с тем,.
78
251000
3000
Все те, кто смотрел и изучал эти работы, согласны с этим.
04:38
Now, if we think about what just reducingсокращение
79
254000
2000
Если мы подумаем о сокращении
04:40
the probabilityвероятность of humanчеловек extinctionвымирание by just one percentageпроцент pointточка --
80
256000
5000
вероятности человеческого вымирания на 1%...
04:45
not very much -- so that's equivalentэквивалент to 60 millionмиллиона livesжизни savedсохранены,
81
261000
5000
это не так много... это 60 миллионов спасённых жизней,
04:50
if we just countподсчитывать the currentlyВ данный момент livingживой people, the currentтекущий generationпоколение.
82
266000
4000
если просто посчитать всех живущих, то это нынешнее поколение.
04:54
Now one percentпроцент of sixшесть billionмиллиард people is equivalentэквивалент to 60 millionмиллиона.
83
270000
4000
Один процент от 6 миллиардов, это 60 миллионов.
04:58
So that's a largeбольшой numberномер.
84
274000
2000
Это огромное число.
05:00
If we were to take into accountСчет futureбудущее generationsпоколения
85
276000
3000
Если принять во внимание будущие поколения,
05:03
that will never come into existenceсуществование if we blowдуть ourselvesсами up,
86
279000
5000
которые могут не появиться, если мы уничтожим себя,
05:08
then the figureфигура becomesстановится astronomicalастрономический.
87
284000
3000
тогда цифры станут просто астрономическими.
05:11
If we could eventuallyв итоге colonizeколонизировать a chunkломоть of the universeвселенная --
88
287000
3000
Если мы, в конце концов, могли бы колонизировать часть вселенной...
05:14
the VirgoДева superclusterсверхскопление --
89
290000
2000
скопление галактик в Деве...
05:16
maybe it will take us 100 millionмиллиона yearsлет to get there,
90
292000
2000
возможно, это заняло бы 100 миллионов лет,
05:18
but if we go extinctпотухший we never will.
91
294000
3000
но если мы вымрем, мы никогда этого не сделаем.
05:21
Then, even a one percentageпроцент pointточка reductionсокращение
92
297000
3000
Тогда, даже сокращение риска исчезновения на 1%
05:24
in the extinctionвымирание riskриск could be equivalentэквивалент
93
300000
4000
будет эквивалентно
05:28
to this astronomicalастрономический numberномер -- 10 to the powerмощность of 32.
94
304000
3000
этой астрономической цифре: 10 в 32 степени.
05:31
So if you take into accountСчет futureбудущее generationsпоколения as much as our ownсвоя,
95
307000
4000
Итак, если принять все будущие поколения, как свои собственные,
05:35
everyкаждый other moralморальный imperativeимператив of philanthropicчеловеколюбивый costСтоимость just becomesстановится irrelevantне имеет значения.
96
311000
5000
все остальные моральные двигатели филантропических затрат перестают быть значимыми.
05:40
The only thing you should focusфокус on
97
316000
2000
Нужно сфокусироваться на одной вещи —
05:42
would be to reduceуменьшить existentialэкзистенциальный riskриск
98
318000
2000
снижение экзистенциального риска,
05:44
because even the tiniestмельчайшей decreaseснижение in existentialэкзистенциальный riskриск
99
320000
4000
потому что даже крохотное снижение глобальных рисков
05:48
would just overwhelmсокрушать any other benefitвыгода you could hopeнадежда to achieveдостигать.
100
324000
4000
позволит овладеть любыми выгодами, которых надеялись достичь.
05:52
And even if you just look at the currentтекущий people,
101
328000
2000
И если взглянуть на нынешних людей и проигнорировать весь потенциал,
05:54
and ignoreигнорировать the potentialпотенциал that would be lostпотерял if we wentотправился extinctпотухший,
102
330000
5000
который может быть потерян, если мы все погибнем,
05:59
it should still have a highвысокая priorityприоритет.
103
335000
2000
это по-прежнему будет иметь высокий приоритет.
06:01
Now, let me spendпроводить the restотдых of my time on the thirdв третьих bigбольшой problemпроблема,
104
337000
5000
Теперь, позвольте мне потратить оставшееся время на третью большую проблему,
06:06
because it's more subtleтонкий and perhapsвозможно difficultсложно to graspсхватывание.
105
342000
5000
потому что она достаточно тонкая и, возможно, трудна для осознания.
06:12
Think about some time in your life --
106
348000
4000
Подумайте о каком-то этапе вашей жизни...
06:16
some people mightмог бы never have experiencedопытный it -- but some people,
107
352000
3000
некоторые люди никогда это не испытывали...
06:19
there are just those momentsмоменты that you have experiencedопытный
108
355000
3000
но у других были моменты осознания того,
06:22
where life was fantasticфантастика.
109
358000
2000
что жизнь потрясающая.
06:24
It mightмог бы have been at the momentмомент of some great, creativeтворческий inspirationвдохновение
110
360000
7000
Это могло быть в моменты огромного, творческого вдохновения
06:31
you mightмог бы have had when you just enteredвошел this flowтечь stageсцена.
111
367000
2000
которые, вероятно, у вас были, когда вы попали в «поток».
06:33
Or when you understoodпонимать something you had never doneсделанный before.
112
369000
2000
Или когда вы поняли, как делается что-то, с первого раза.
06:35
Or perhapsвозможно in the ecstasyэкстаз of romanticромантик love.
113
371000
4000
Или в порыве экстаза от романтической любви.
06:39
Or an aestheticэстетический experienceопыт -- a sunsetзакат солнца or a great pieceкусок of artИзобразительное искусство.
114
375000
5000
Или эстетическое переживание... закат солнца или великолепное произведение искусства.
06:44
Everyкаждый onceодин раз in a while we have these momentsмоменты,
115
380000
2000
Каждый раз в такие моменты
06:46
and we realizeпонимать just how good life can be when it's at its bestЛучший.
116
382000
4000
мы понимаем, насколько хороша может быть жизнь в своих лучших проявлениях.
06:50
And you wonderзадаваться вопросом, why can't it be like that all the time?
117
386000
5000
Вы удивляетесь, почему эти моменты не могут быть постоянны?
06:55
You just want to clingцепляться ontoна this.
118
391000
2000
Вы цепляетесь за эти вещи.
06:57
And then, of courseкурс, it driftsнаносы back into ordinaryобычный life and the memoryПамять fadesблекнет.
119
393000
4000
И затем, конечно же, вас переносит в повседневность и воспоминания блекнут.
07:01
And it's really difficultсложно to recallотзыв, in a normalнормальный frameРамка of mindразум,
120
397000
4000
И в обычном состоянии духа эти вещи действительно трудно вспомнить,
07:05
just how good life can be at its bestЛучший.
121
401000
3000
насколько хороша может быть жизнь в своих лучших проявлениях.
07:08
Or how badПлохо it can be at its worstнаихудший.
122
404000
3000
Или насколько ужасна она может быть в плохих проявлениях.
07:11
The thirdв третьих bigбольшой problemпроблема is that life isn't usuallyкак правило
123
407000
3000
Третья большая проблема это то, что жизнь
07:14
as wonderfulзамечательно as it could be.
124
410000
2000
обычно не так восхитительна, какой может быть.
07:16
I think that's a bigбольшой, bigбольшой problemпроблема.
125
412000
4000
Я считаю, это огромная, колоссальная проблема.
07:20
It's easyлегко to say what we don't want.
126
416000
2000
Легко перечислить то, чего мы не желаем.
07:23
Here are a numberномер of things that we don't want --
127
419000
3000
Вот, например, чего мы не хотим:
07:26
illnessболезнь, involuntaryнепроизвольный deathсмерть, unnecessaryненужный sufferingстрадающий, crueltyжестокость,
128
422000
3000
болезни, невольная смерть, ненужные страдания, жестокость,
07:29
stuntedчахлый growthрост, memoryПамять lossпотеря, ignoranceневежество, absenceотсутствие of creativityкреативность.
129
425000
5000
задержка роста, потеря памяти, невежество, отсутствие творчества.
07:35
Supposeпредполагать we fixedисправлено these things -- we did something about all of these.
130
431000
3000
Предположим, мы решили эти вещи… мы сделали что-то с каждой из них.
07:38
We were very successfulуспешный.
131
434000
2000
Нам очень повезло.
07:40
We got ridизбавиться of all of these things.
132
436000
2000
Мы избавились от этих вещей.
07:42
We mightмог бы endконец up with something like this,
133
438000
3000
Мы могли бы сделать что-то вроде этого.
07:45
whichкоторый is -- I mean, it's a heckщеколда of a lot better than that.
134
441000
4000
Что... Я имею в виду, это чертовски здорово,
07:49
But is this really the bestЛучший we can dreamмечта of?
135
445000
5000
но действительно ли это лучше того, о чем мы можем мечтать?
07:54
Is this the bestЛучший we can do?
136
450000
2000
Это самое лучшее, что мы можем сделать?
07:56
Or is it possibleвозможное to find something a little bitнемного more inspiringвдохновляющий to work towardsв направлении?
137
452000
6000
Или возможно есть что-то более воодушевляющее для работы над этим?
08:02
And if we think about this,
138
458000
2000
Если мы задумаемся,
08:04
I think it's very clearЧисто that there are waysпути
139
460000
4000
думаю, ясно, что есть способы, при помощи которых мы могли бы
08:08
in whichкоторый we could changeизменение things, not just by eliminatingуничтожение negativesнегативы,
140
464000
3000
изменить положение вещей, не только за счёт устранения негатива,
08:11
but addingдобавление positivesпозитивы.
141
467000
2000
но и добавляя позитив.
08:13
On my wishжелание listсписок, at leastнаименее, would be:
142
469000
2000
Мой минимальный список желаний включает:
08:15
much longerдольше, healthierздоровее livesжизни, greaterбольшая subjectiveсубъективный well-beingблагополучие,
143
471000
5000
намного более продолжительную и здоровую жизнь, больше благополучия,
08:20
enhancedповышенная cognitiveпознавательный capacitiesмощности, more knowledgeзнание and understandingпонимание,
144
476000
5000
расширение познавательных способностей, больше знаний и понимания,
08:25
unlimitedнеограниченный opportunityвозможность for personalличный growthрост
145
481000
2000
бесконечные возможности для персонального роста
08:27
beyondза our currentтекущий biologicalбиологический limitsпределы, better relationshipsотношения,
146
483000
4000
за пределами наших биологических возможностей, лучшее взаимопонимание,
08:31
an unboundedнеограниченный potentialпотенциал for spiritualдуховный, moralморальный
147
487000
2000
неограниченный потенциал для духовного,
08:33
and intellectualинтеллектуальной developmentразвитие.
148
489000
2000
нравственного и интеллектуального развития.
08:35
If we want to achieveдостигать this, what, in the worldМир, would have to changeизменение?
149
491000
8000
Что необходимо поменять в нашем мире, чтобы достичь этого?
08:43
And this is the answerответ -- we would have to changeизменение.
150
499000
5000
И вот ответ на вопрос — мы должны изменить.
08:48
Not just the worldМир around us, but we, ourselvesсами.
151
504000
3000
Не просто мир вокруг нас, но и себя самих.
08:51
Not just the way we think about the worldМир, but the way we are -- our very biologyбиология.
152
507000
4000
Не только наше восприятие мира, но и нас самих, нашей истинной биологии.
08:55
HumanЧеловек natureприрода would have to changeизменение.
153
511000
2000
Природа человека должна измениться.
08:57
Now, when we think about changingизменения humanчеловек natureприрода,
154
513000
2000
Теперь, когда мы подумаем об изменении человеческой природы,
08:59
the first thing that comesвыходит to mindразум
155
515000
2000
первое, что приходит в голову —
09:01
are these humanчеловек modificationмодификация technologiesтехнологии --
156
517000
4000
это технологии модификации человека:
09:05
growthрост hormoneгормон therapyтерапия, cosmeticкосметический surgeryхирургия,
157
521000
2000
применение гормона роста, пластическая хирургия,
09:07
stimulantsстимуляторы like RitalinРиталин, Adderallаддералл, anti-depressantsантидепрессанты,
158
523000
3000
стимуляторы (риталин, аддералл), антидепрессанты,
09:10
anabolicанаболический steroidsстероиды, artificialискусственный heartsсердца.
159
526000
2000
анаболические стероиды, искусственные сердца.
09:12
It's a prettyСимпатичная patheticжалкий listсписок.
160
528000
3000
Это довольно жалкий список.
09:15
They do great things for a fewмало people
161
531000
2000
Они здорово помогают определённой группе людей,
09:17
who sufferстрадать from some specificконкретный conditionсостояние,
162
533000
2000
которые страдают от некоторых специфичных состояний.
09:19
but for mostбольшинство people, they don't really transformпреобразование
163
535000
5000
Но для большинства людей они
09:24
what it is to be humanчеловек.
164
540000
2000
не меняют сути того, что значит быть человеком.
09:26
And they alsoтакже all seemказаться a little bitнемного --
165
542000
2000
Кроме того, отношение к ним...
09:28
mostбольшинство people have this instinctинстинкт that, well, sure,
166
544000
3000
многие уверены, что, хорошо, конечно,
09:31
there needsпотребности to be anti-depressantsантидепрессанты for the really depressedподавленный people.
167
547000
2000
антидепрессанты действительно необходимы подавленным людям.
09:33
But there's a kindсвоего рода of queasinessтошнота
168
549000
2000
Но есть некоторое беспокойство,
09:35
that these are unnaturalнеестественный in some way.
169
551000
3000
что это несколько неестественно.
09:38
It's worthстоимость recallingссылаясь that there are a lot of other
170
554000
2000
Стоит напомнить, что есть много других
09:40
modificationмодификация technologiesтехнологии and enhancementусиление technologiesтехнологии that we use.
171
556000
3000
изменяющих и усовершенствующих технологий, которые мы используем.
09:43
We have skinкожа enhancementsулучшения, clothingодежда.
172
559000
4000
У нас есть технологии улучшения кожи — одежда.
09:47
As farдалеко as I can see, all of you are usersпользователи of this
173
563000
4000
Насколько я могу видеть, каждый из вас в этой комнате
09:51
enhancementусиление technologyтехнологии in this roomкомната, so that's a great thing.
174
567000
5000
использует эту технологию, так что, это большое дело.
09:56
MoodНастроение modifiersмодификаторы have been used from time immemorialнезапамятные --
175
572000
3000
Модификаторы настроения использовались с незапамятных времён...
09:59
caffeineкофеин, alcoholалкоголь, nicotineникотин, immuneиммунный systemсистема enhancementусиление,
176
575000
5000
кофеин, алкоголь, никотин, повышение иммунной системы,
10:04
visionвидение enhancementусиление, anestheticsанестетики --
177
580000
2000
улучшение зрения, обезболивающие.
10:06
we take that very much for grantedпредоставляется,
178
582000
2000
Мы принимаем это нечто как само собой разумеющееся,
10:08
but just think about how great progressпрогресс that is --
179
584000
4000
но подумайте насколько это большой прогресс,
10:12
like, havingимеющий an operationоперация before anestheticsанестетики was not funвесело.
180
588000
4000
например, операция без обезболивания была невесела.
10:16
ContraceptivesКонтрацептивы, cosmeticsкосметика and brainголовной мозг reprogrammingперепрограммирование techniquesметоды --
181
592000
6000
Контрацептивы, косметика и техники перепрограммирования мозга...
10:22
that soundsзвуки ominousугрожающий,
182
598000
2000
это звучит угрожающе.
10:24
but the distinctionразличие betweenмежду what is a technologyтехнологии --
183
600000
4000
Но разница между тем, что является технологией —
10:28
a gadgetприспособление would be the archetypeобразец --
184
604000
2000
новое устройство будет образцом —
10:30
and other waysпути of changingизменения and rewritingпереписывание humanчеловек natureприрода is quiteдовольно subtleтонкий.
185
606000
4000
и иными способами изменения и перезаписи человеческого естества довольно тонка.
10:34
So if you think about what it meansозначает to learnучить arithmeticарифметика or to learnучить to readчитать,
186
610000
4000
Если вы задумаетесь: что значит выучить арифметику или научиться читать?
10:38
you're actuallyна самом деле, literallyбуквально rewritingпереписывание your ownсвоя brainголовной мозг.
187
614000
3000
Вы на самом деле, буквально переписываете свой мозг.
10:41
You're changingизменения the microstructureмикроструктура of your brainголовной мозг as you go alongвдоль.
188
617000
3000
При этом вы изменяете микроструктуры вашего мозга.
10:45
So in a broadширокий senseсмысл, we don't need to think about technologyтехнологии
189
621000
3000
В широком смысле, нам не нужно думать о технологии
10:48
as only little gadgetsгаджеты, like these things here,
190
624000
2000
только как о новых устройствах, таких, как эти,
10:50
but even institutionsучреждения and techniquesметоды,
191
626000
4000
а как об институтах и техниках,
10:54
psychologicalпсихологический methodsметоды and so forthвперед.
192
630000
2000
психологических методах и так далее.
10:56
Formsформы of organizationорганизация can have a profoundглубокий impactвлияние on humanчеловек natureприрода.
193
632000
5000
Организации могут оказать глубокое воздействие на человеческую природу.
11:01
Looking aheadвпереди, there is a rangeассортимент of technologiesтехнологии
194
637000
2000
Смотря в будущее, существует ряд технологий,
11:03
that are almostпочти certainопределенный to be developedразвитая soonerрано or laterпозже.
195
639000
3000
которые определённо будут разработаны рано или поздно.
11:06
We are very ignorantневежественный about what the time scaleмасштаб for these things are,
196
642000
4000
Нам не известно, сколько времени понадобится для разработки этих технологий,
11:10
but they all are consistentпоследовательный with everything we know
197
646000
2000
но все они соответствуют всему тому,
11:12
about physicalфизическое lawsзаконы, lawsзаконы of chemistryхимия, etcи т.д.
198
648000
4000
что мы знаем о законах физики, химических законах и других.
11:16
It's possibleвозможное to assumeпредполагать,
199
652000
2000
Можно считать,
11:18
settingустановка asideв стороне a possibilityвозможность of catastropheкатастрофа,
200
654000
3000
что снижение вероятности возможных катастроф,
11:21
that soonerрано or laterпозже we will developразвивать all of these.
201
657000
3000
рано или поздно приведёт нас к развитию этих технологий.
11:24
And even just a coupleпара of these would be enoughдостаточно
202
660000
3000
И даже парочки из них будет достаточно,
11:27
to transformпреобразование the humanчеловек conditionсостояние.
203
663000
2000
чтобы изменить человека.
11:29
So let's look at some of the dimensionsГабаритные размеры of humanчеловек natureприрода
204
665000
5000
Итак, давайте взглянем не некоторые аспекты человеческой природы,
11:34
that seemказаться to leaveоставлять roomкомната for improvementулучшение.
205
670000
3000
которые могут быть улучшены.
11:37
HealthЗдоровье spanпролет is a bigбольшой and urgentсрочный thing,
206
673000
2000
Протяжённость здоровой жизни это важное и срочное дело,
11:39
because if you're not aliveв живых,
207
675000
2000
потому что, если вы не живы,
11:41
then all the other things will be to little availпольза.
208
677000
3000
тогда все остальные вещи станут слабо полезны.
11:44
Intellectualинтеллектуальной capacityвместимость -- let's take that boxкоробка,
209
680000
2000
Интеллектуальный потенциал — давайте возьмём его.
11:46
whichкоторый fallsпадения into a lot of differentдругой sub-categoriesподкатегорий:
210
682000
5000
Его можно разложить на много разных категорий:
11:51
memoryПамять, concentrationконцентрация, mentalумственный energyэнергия, intelligenceинтеллект, empathyсопереживание.
211
687000
3000
память, концентрация, умственные силы, интеллект, переживания.
11:54
These are really great things.
212
690000
2000
Все это очень важно.
11:56
PartЧасть of the reasonпричина why we valueстоимость these traitsчерты
213
692000
2000
Одна из причин, почему мы ценим эти качества —
11:58
is that they make us better at competingконкурирующий with other people --
214
694000
4000
они делают нас конкурентноспособными...
12:02
they're positionalпозиционный goodsтовар.
215
698000
2000
они являются позиционными товарами.
12:04
But partчасть of the reasonпричина --
216
700000
2000
С другой стороны, причина нравственных оснований
12:06
and that's the reasonпричина why we have ethicalэтический groundземля for pursuingпреследуя these --
217
702000
4000
стремления к этим качествам в том,
12:10
is that they're alsoтакже intrinsicallyв действительности valuableценный.
218
706000
3000
что они ценны по своей сути.
12:13
It's just better to be ableв состоянии to understandПонимаю more of the worldМир around you
219
709000
4000
Так здорово иметь возможность понимать
12:17
and the people that you are communicatingсвязь with,
220
713000
2000
мир вокруг нас и людей, с которыми мы общаемся,
12:19
and to rememberзапомнить what you have learnedнаучился.
221
715000
4000
и помнить то, чему мы научились.
12:23
ModalitiesУсловия and specialособый facultiesспособности.
222
719000
2000
Условия и специальные возможности.
12:25
Now, the humanчеловек mindразум is not a singleОдин unitaryунитарный informationИнформация processorпроцессор,
223
721000
5000
Человеческий разум — это не только один цельный информационный процессор,
12:30
but it has a lot of differentдругой, specialособый, evolvedэволюционировали modulesмодули
224
726000
4000
но и много разных, специально задействованных модулей,
12:34
that do specificконкретный things for us.
225
730000
2000
которые делают конкретные вещи для нас.
12:36
If you think about what we normallyкак обычно take as givingдающий life a lot of its meaningимея в виду --
226
732000
4000
Давайте подумаем о том, что придаёт жизни смысл:
12:40
musicМузыка, humorюмор, eroticismэротизм, spiritualityдуховность, aestheticsэстетика,
227
736000
4000
музыка, юмор, эротика, духовность, эстетика,
12:44
nurturingвоспитание and caringзаботливая, gossipслухи, chattingв чате with people --
228
740000
5000
воспитание и забота, слухи, общение с людьми.
12:49
all of these, very likelyвероятно, are enabledвключен by a specialособый circuitryсхема
229
745000
4000
Все они, скорей всего, задействованы специальной схемой,
12:53
that we humansлюди have,
230
749000
2000
которая есть у людей, но могла быть и другая форма разумной жизни,
12:55
but that you could have anotherдругой intelligentумный life formформа that lacksне хватает these.
231
751000
3000
в которой был бы недостаток таких вещей.
12:58
We're just luckyвезучий that we have the requisiteреквизит neuralнервный machineryмашины
232
754000
3000
Нам просто повезло, что у нас есть необходимые нейронные механизмы
13:01
to processобработать musicМузыка and to appreciateценить it and enjoyнаслаждаться it.
233
757000
4000
для обработки музыки, понимания и восхищения ею.
13:05
All of these would enableвключить, in principleпринцип -- be amenableподдающийся to enhancementусиление.
234
761000
3000
Всё это, в принципе, поддаётся улучшению.
13:08
Some people have a better musicalмузыкальный abilityспособность
235
764000
2000
Некоторые люди имеют лучший музыкальный слух
13:10
and abilityспособность to appreciateценить musicМузыка than othersдругие have.
236
766000
2000
и возможность оценивать музыку, чем другие.
13:12
It's alsoтакже interestingинтересно to think about what other things are --
237
768000
3000
Интересно, что же представляют из себя другие возможности.
13:15
so if these all enabledвключен great valuesзначения,
238
771000
3000
Итак, если все они имеют большое значение,
13:19
why should we think that evolutionэволюция has happenedполучилось to provideпредоставлять us
239
775000
3000
почему мы должны считать, что эволюция предоставила нам
13:22
with all the modalitiesмодальности we would need to engageзаниматься
240
778000
3000
все условия для взаимодействия
13:25
with other valuesзначения that there mightмог бы be?
241
781000
2000
с другими возможностями, которые могут существовать?
13:27
ImagineПредставить a speciesвид
242
783000
2000
Представьте виды, которые просто не имеют
13:29
that just didn't have this neuralнервный machineryмашины for processingобработка musicМузыка.
243
785000
4000
нейронных механизмов для обработки музыки.
13:33
And they would just stareглазеть at us with bafflementозадаченность
244
789000
3000
И они будут глазеть на нас с недоумением,
13:36
when we spendпроводить time listeningпрослушивание to a beautifulкрасивая performanceпредставление,
245
792000
4000
когда мы слушаем великолепное представление —
13:40
like the one we just heardуслышанным -- because of people makingизготовление stupidглупый movementsдвижения,
246
796000
2000
как только что прослушанное — из-за людей, делающих глупые движения.
13:42
and they would be really irritatedраздраженный and wouldn'tне будет see what we were up to.
247
798000
3000
Их бы это всё раздражало, и они не поняли бы, чем это мы занимались.
13:45
But maybe they have anotherдругой facultyфакультет, something elseеще
248
801000
3000
Но, быть может, у них есть другая способность, что-то ещё,
13:48
that would seemказаться equallyв равной степени irrationalиррациональный to us,
249
804000
3000
что, возможно, так же будет злить нас,
13:51
but they actuallyна самом деле tapнажмите into some great possibleвозможное valueстоимость there.
250
807000
3000
но оно действительно ценно для них.
13:54
But we are just literallyбуквально deafглухой to that kindсвоего рода of valueстоимость.
251
810000
4000
Но мы не сможем понять, в чём его ценность.
13:58
So we could think of addingдобавление on differentдругой,
252
814000
2000
Таким образом, мы можем размышлять о добавлении других,
14:00
newновый sensoryсенсорный capacitiesмощности and mentalумственный facultiesспособности.
253
816000
4000
новых сенсорных и умственных способностей,
14:04
Bodilyтелесный functionalityфункциональность and morphologyморфология and affectiveэмоциональный self-controlсамоконтроль.
254
820000
5000
физической функциональности и морфологии и контроле эмоций,
14:09
Greaterбольшая subjectiveсубъективный well-beingблагополучие.
255
825000
2000
большем субъективном благополучии,
14:11
Be ableв состоянии to switchпереключатель betweenмежду relaxationотдых and activityМероприятия --
256
827000
3000
о возможности переключаться между релаксацией и активной деятельностью,
14:14
beingявляющийся ableв состоянии to go slowмедленный when you need to do that, and to speedскорость up.
257
830000
4000
возможность замедлиться и ускориться, когда это необходимо.
14:18
Ableв состоянии to switchпереключатель back and forthвперед more easilyбез труда
258
834000
2000
Способность легко переключаться
14:20
would be a neatаккуратный thing to be ableв состоянии to do --
259
836000
2000
будет отличным условием для возможности
14:22
easierПолегче to achieveдостигать the flowтечь stateгосударство,
260
838000
2000
более лёгкого достижения состояния «потока»,
14:24
when you're totallyполностью immersedпогруженный in something you are doing.
261
840000
4000
когда вы полностью погружены в созидание.
14:28
ConscientiousnessДобросовестность and sympathyсимпатия.
262
844000
2000
Добросовестность и сочувствие.
14:30
The abilityспособность to -- it's anotherдругой interestingинтересно applicationзаявление
263
846000
3000
Cпособности... Это другое интересное применение,
14:33
that would have largeбольшой socialСоциальное ramificationветвление, perhapsвозможно.
264
849000
3000
которое может иметь широкие общественные последствия.
14:36
If you could actuallyна самом деле chooseвыберите to preserveсохранять your romanticромантик attachmentsвложения to one personчеловек,
265
852000
6000
Если бы вы захотели сохранить романтические отношения с другим человеком,
14:42
undiminishedнеизменной throughчерез time,
266
858000
2000
неуменьшающиеся со временем, так что никогда не придётся...
14:44
so that wouldn'tне будет have to -- love would never have to fadeувядать if you didn't want it to.
267
860000
3000
любовь никогда не угаснет, если вы этого не захотите.
14:49
That's probablyвероятно not all that difficultсложно.
268
865000
3000
Вероятно, это не так уж и трудно.
14:52
It mightмог бы just be a simpleпросто hormoneгормон or something that could do this.
269
868000
3000
Может быть, обычный гормон или что-то подобное, способное сделать это.
14:57
It's been doneсделанный in volesполевки.
270
873000
2000
Это было сделано с полёвками.
15:01
You can engineerинженер a prairieпрерия voleполевка to becomeстали monogamousмоногамный
271
877000
3000
Можно модифицировать степную полёвку, чтобы она стала моногамной,
15:04
when it's naturallyестественно polygamousполигамный.
272
880000
2000
хотя изначально она полигамна.
15:06
It's just a singleОдин geneген.
273
882000
2000
Это просто один ген.
15:08
MightМог бы be more complicatedсложно in humansлюди, but perhapsвозможно not that much.
274
884000
2000
Может для людей это будет несколько сложнее, но не слишком.
15:10
This is the last pictureкартина that I want to --
275
886000
2000
Это последняя картинка, которую я хочу...
15:13
now we'veмы в got to use the laserлазер pointerуказатель.
276
889000
2000
я воспользуюсь лазерной указкой.
15:16
A possibleвозможное modeРежим of beingявляющийся here would be a way of life --
277
892000
3000
Вероятным способом бытия будет жизненный путь...
15:19
a way of beingявляющийся, experiencingиспытывают, thinkingмышление, seeingвидя,
278
895000
4000
образ жизни, опыт, размышления, созерцание,
15:23
interactingвзаимодействующий with the worldМир.
279
899000
2000
взаимодействие с миром.
15:25
Down here in this little cornerугол, here, we have the little sub-spaceсуб-пространство
280
901000
5000
Здесь, снизу, в этом уголочке есть небольшое подпространство,
15:30
of this largerбольше spaceпространство that is accessibleдоступной to humanчеловек beingsсущества --
281
906000
4000
часть большего пространства, доступного человечеству...
15:34
beingsсущества with our biologicalбиологический capacitiesмощности.
282
910000
3000
существам с нашими биологическими возможностями.
15:37
It's a partчасть of the spaceпространство that's accessibleдоступной to animalsживотные;
283
913000
3000
Это часть пространства доступная для животных...
15:40
sinceпоскольку we are animalsживотные, we are a subsetподмножество of that.
284
916000
3000
поскольку мы тоже являемся животными, мы здесь подсистема.
15:43
And then you can imagineпредставить some enhancementsулучшения of humanчеловек capacitiesмощности.
285
919000
4000
Вы можете представить себе некоторые улучшения человеческого потенциала.
15:47
There would be differentдругой modesрежимы of beingявляющийся you could experienceопыт
286
923000
3000
Можно представить множество способов существования,
15:50
if you were ableв состоянии to stayоставаться aliveв живых for, say, 200 yearsлет.
287
926000
3000
если вы сможете оставаться в живых в течение хотя бы 200 лет.
15:53
Then you could liveжить sortsвиды of livesжизни and accumulateскапливаться wisdomsмудростей
288
929000
4000
Тогда вы смогли бы прожить разные жизни и накопить знания,
15:57
that are just not possibleвозможное for humansлюди as we currentlyВ данный момент are.
289
933000
3000
которые просто недоступны для нынешних нас.
16:00
So then, you moveпереехать off to this largerбольше sphereсфера of "humanчеловек +,"
290
936000
4000
И затем вы смогли бы достичь этой большой сферы, «Человек +»
16:04
and you could continueПродолжать that processобработать and eventuallyв итоге
291
940000
3000
и продолжить этот процесс и, в конечном итоге,
16:07
exploreисследовать a lot of this largerбольше spaceпространство of possibleвозможное modesрежимы of beingявляющийся.
292
943000
4000
исследовать большую часть этого огромного пространства возможных способов бытия.
16:11
Now, why is that a good thing to do?
293
947000
2000
Теперь, почему же это хорошая идея?
16:13
Well, we know alreadyуже that in this little humanчеловек circleкруг there,
294
949000
4000
Хорошо, мы уже знаем, что в этом небольшом круге для людей,
16:17
there are these enormouslyчрезвычайно wonderfulзамечательно and worthwhileстоит modesрежимы of beingявляющийся --
295
953000
4000
есть крайне замечательные и сто́ящие способы существования...
16:21
humanчеловек life at its bestЛучший is wonderfulзамечательно.
296
957000
3000
человеческая жизнь прекрасна в своих лучших проявлениях.
16:24
We have no reasonпричина to believe that withinв this much, much largerбольше spaceпространство
297
960000
5000
У нас нет оснований полагать, что в этом намного большем пространстве
16:29
there would not alsoтакже be extremelyочень worthwhileстоит modesрежимы of beingявляющийся,
298
965000
4000
не будет также крайне полезных способов существования,
16:33
perhapsвозможно onesте, that would be way beyondза our wildestсамый дикий abilityспособность
299
969000
6000
возможно тех, о которых мы не рискуем представить
16:39
even to imagineпредставить or dreamмечта about.
300
975000
2000
даже в самых смелых мечтах.
16:41
And so, to fixфиксировать this thirdв третьих problemпроблема,
301
977000
2000
Итак, чтобы решить третью проблему,
16:43
I think we need -- slowlyмедленно, carefullyвнимательно, with ethicalэтический wisdomмудрость and constraintограничение --
302
979000
6000
Я считаю, мы должны... медленно, осторожно, мудро и сдержанно
16:49
developразвивать the meansозначает that enableвключить us to go out in this largerбольше spaceпространство and exploreисследовать it
303
985000
5000
разработать средства, которые позволят нам войти в это огромное пространство и изучить его.
16:54
and find the great valuesзначения that mightмог бы hideскрывать there.
304
990000
2000
И найти потрясающие блага, которые там могут быть спрятаны.
16:56
Thanksблагодаря.
305
992000
2000
Спасибо.
Translated by Nikolay Spiridonov
Reviewed by Olga Golubeva

▲Back to top

ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com