ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com
TEDGlobal 2005

Nick Bostrom: A philosophical quest for our biggest problems

Nick Bostrom: Filozofické zkoumání našich největších problémů

Filmed:
967,767 views

Oxfordský filozof a transhumanista Nick Bostrom prozkoumává budoucnost lidstva a ptá se, zda můžeme změnit lidskou přirozenost, abychom vyřešili naše nejniternější problémy.
- Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio

Double-click the English transcript below to play the video.

00:24
I want to talk todaydnes about --
0
0
3000
Dnes chci hovořit o --
00:27
I've been askedzeptal se to take the long viewPohled, and I'm going to tell you what
1
3000
6000
byl jsem požádán, abych se pokusil
o dlouhodobý výhled, takže vám povím,
00:33
I think are the threetři biggestnejvětší problemsproblémy for humanitylidstvo
2
9000
4000
co jsou dle mého tři
největší problémy lidstva
00:37
from this long pointbod of viewPohled.
3
13000
3000
z dlouhodobého hlediska.
00:40
Some of these have alreadyjiž been toucheddotkl uponna by other speakersreproduktory,
4
16000
3000
Některých z nich se již dotkli
někteří z předešlých řečníků,
00:43
whichkterý is encouragingpovzbudivý.
5
19000
2000
což je povzbuzující,
00:45
It seemszdá se that there's not just one personosoba
6
21000
2000
protože se zdá,
že nejsem jediný člověk,
00:47
who thinksmyslí si that these problemsproblémy are importantdůležité.
7
23000
2000
který dané problémy považuje za důležité.
00:49
The first is -- deathsmrt is a bigvelký problemproblém.
8
25000
4000
Tím prvním je -- smrt je velký problém.
00:53
If you look at the statisticsstatistika,
9
29000
3000
Pokud se podíváte na statistiky,
00:56
the oddskurzy are not very favorablepříznivý to us.
10
32000
2000
naše vyhlídky nejsou právě růžové.
00:58
So fardaleko, mostvětšina people who have livedžil have alsotaké diedzemřel.
11
34000
4000
Prozatím většina lidí,
která žila, také zemřela.
01:02
RoughlyZhruba 90 percentprocent of everybodyvšichni who has been alivenaživu has diedzemřel by now.
12
38000
4000
Zhruba 90 procent všech,
kdo kdy žili, je nyní mrtvých.
01:06
So the annualroční deathsmrt ratehodnotit addsdodává up to 150,000 --
13
42000
6000
Takže roční úmrnost činí 150 000 --
01:12
sorry, the dailydenně deathsmrt ratehodnotit -- 150,000 people perza day,
14
48000
3000
promiňte, denní úmrtnost --
150 000 lidí denně,
01:15
whichkterý is a hugeobrovský numberčíslo by any standardStandard.
15
51000
3000
což je ohromné číslo v každém ohledu.
01:18
The annualroční deathsmrt ratehodnotit, then, becomesstává se 56 millionmilión.
16
54000
5000
Roční úmrtnost je potom 56 milionů.
01:23
If we just look at the singlesingl, biggestnejvětší causezpůsobit of deathsmrt -- agingstárnutí --
17
59000
5000
Pokud se podíváme
na hlavní příčinu úmrtí -- stárnutí --
01:29
it accountsúčty for roughlyzhruba two-thirdsdvě třetiny of all humančlověk people who diezemřít.
18
65000
5000
způsobila smrt zhruba dvou třetin
z celkového počtu úmrtí.
01:34
That addsdodává up to an annualroční deathsmrt tollmýtné
19
70000
3000
To znamená, že ročně zemře
01:37
of greatervětší than the populationpopulace of CanadaKanada.
20
73000
2000
více lidí než kolik má Kanada obyvatel.
01:39
SometimesNěkdy, we don't see a problemproblém
21
75000
2000
Obyčejně to nepovažujeme za problém,
01:41
because eitherbuď it's too familiarznát or it's too bigvelký.
22
77000
4000
protože jde o něco příliš velkého
a pro nás důvěrně známého.
01:45
Can't see it because it's too bigvelký.
23
81000
2000
Smrt nevidíme, protože je příliš velká.
01:47
I think deathsmrt mightmohl be bothoba too familiarznát and too bigvelký
24
83000
3000
Myslím si, že smrt může
být pro většinu lidí příliš
01:50
for mostvětšina people to see it as a problemproblém.
25
86000
3000
velká a příliš známá na to,
aby v ní viděli problém.
01:53
OnceJednou you think about it, you see this is not statisticalstatistický pointsbodů;
26
89000
2000
Ale přemýšlejte o ní.
01:55
these are -- let's see, how fardaleko have I talkedmluvil?
27
91000
2000
Podívejme se, jak dlouho jsem mluvil.
01:57
I've talkedmluvil for threetři minutesminut.
28
93000
3000
Zhruba 3 minuty.
02:00
So that would be, roughlyzhruba, 324 people have diedzemřel sinceod té doby I've begunzačal speakingmluvení.
29
96000
7000
To znamená, že od začátku přednášky
zemřelo kolem 324 lidí.
02:07
People like -- it's roughlyzhruba the populationpopulace in this roompokoj, místnost has just diedzemřel.
30
103000
4000
To lze zhruba přirovnat
ke kapacitě této místnosti.
02:12
Now, the humančlověk costnáklady of that is obviouszřejmé,
31
108000
2000
Cena za takovou ztrátu je zřejmá,
02:14
oncejednou you startStart to think about it -- the sufferingutrpení, the lossztráta --
32
110000
3000
jakmile o ní začnete přemýšlet
-- utrpení, bolest --
02:17
it's alsotaké, economicallyekonomicky, enormouslyobrovsky wastefulplýtvání.
33
113000
3000
rovněž ekonomicky jde o ohromné plýtvání.
02:20
I just look at the informationinformace, and knowledgeznalost, and experienceZkusenosti
34
116000
3000
Stačí se podívat na množství informací,
znalostí a zkušeností,
02:23
that is lostztracený duez důvodu to naturalpřírodní causespříčin of deathsmrt in generalVšeobecné,
35
119000
3000
o které přicházíme v důsledku
přirozené smrti
02:26
and agingstárnutí, in particularkonkrétní.
36
122000
2000
a stárnutí.
02:28
SupposePředpokládejme, že we approximatedpřiblíženo one personosoba with one bookrezervovat?
37
124000
3000
Předpokládejme, že jedna osoba
představuje jednu knihu.
02:31
Now, of coursechod, this is an underestimationpodcenění.
38
127000
2000
A to je ještě hodně podhodnoceno.
02:33
A person'sosobě lifetimeživot of learningučení se and experienceZkusenosti
39
129000
6000
Životní zkušenosti a poznatky
znamenají mnohem více
02:39
is a lot more than you could put into a singlesingl bookrezervovat.
40
135000
2000
než dokážeme vměstnat
do jediné knihy.
02:41
But let's supposepředpokládat we did this.
41
137000
2000
Ale předpokládejme, že tomu tak je.
02:44
52 millionmilión people diezemřít of naturalpřírodní causespříčin eachkaždý yearrok
42
140000
5000
52 milionů lidí zemře ročně
přirozenou smrtí,
02:49
correspondsodpovídá, then, to 52 millionmilión volumesobjemy destroyedzničeno.
43
145000
4000
což odpovídá zničení
52 milionů svazků knih.
02:53
LibraryKnihovna of CongressKongres holdsdrží 18 millionmilión volumesobjemy.
44
149000
3000
Knihovna Kongresu
obsahuje 18 milionů svazků.
02:57
We are upsetsmutný about the burninghořící of the LibraryKnihovna of AlexandriaAlexandrie.
45
153000
3000
Těžce neseme vypálení
alexandrijské knihovny.
03:00
It's one of the great culturalkulturní tragediestragédie
46
156000
2000
Jde o jednu z velkých kulturních tragédií,
03:02
that we rememberpamatovat, even todaydnes.
47
158000
3000
kterou si dodnes připomínáme.
03:06
But this is the equivalentekvivalent of threetři LibrariesKnihovny of CongressKongres --
48
162000
2000
Přesto ekvivalent tří knihoven Kongresu --
03:08
burntSpálený down, forevernavždy lostztracený -- eachkaždý yearrok.
49
164000
3000
je spálen, ztracen na vždy, každý rok.
03:11
So that's the first bigvelký problemproblém.
50
167000
2000
Takže to je první velký problém.
03:13
And I wishpřání GodspeedBůh s tebou to AubreyAubrey dede GreyŠedá,
51
169000
3000
Přeji proto hodně zdaru Aubrey de Greyovi
03:16
and other people like him,
52
172000
2000
a dalším lidem jako je on,
03:18
to try to do something about this as soonjiž brzy as possiblemožný.
53
174000
3000
kteří se s tím snaží něco udělat.
03:22
ExistentialExistenciální riskriziko -- the seconddruhý bigvelký problemproblém.
54
178000
3000
Existenciální riziko
-- druhý velký problém.
03:25
ExistentialExistenciální riskriziko is a threatohrožení to humančlověk survivalpřežití, or to the long-termdlouhodobý potentialpotenciál of our speciesdruh.
55
181000
7000
Existenciální riziko je hrozba,
která ohrožuje dlouhodobé přežití lidstva.
03:32
Now, why do I say that this is a bigvelký problemproblém?
56
188000
2000
Proč tvrdím, že jde o velký problém?
03:34
Well, let's first look at the probabilitypravděpodobnost --
57
190000
4000
Podívejme se nejprve na pravděpodobnost --
03:38
and this is very, very difficultobtížný to estimateodhad --
58
194000
3000
jde ale o hodně složitý odhad --
03:41
but there have been only fourčtyři studiesstudie on this in recentnedávno yearsroky,
59
197000
3000
doposud vznikly jen
čtyři studie na toto téma,
03:44
whichkterý is surprisingpřekvapující.
60
200000
2000
což je překvapivé.
03:46
You would think that it would be of some interestzájem
61
202000
3000
Mysleli byste si,
že se téma setká s větším zájmem,
03:49
to try to find out more about this givendané that the stakessázky are so bigvelký,
62
205000
4000
protože v sázce je opravdu hodně.
03:53
but it's a very neglectedzanedbané areaplocha.
63
209000
2000
Každopádně jde o dost přehlíženou oblast.
03:55
But there have been fourčtyři studiesstudie --
64
211000
2000
Tyto čtyři studie --
03:57
one by JohnJan LesleyLesley, wrotenapsal a bookrezervovat on this.
65
213000
2000
jednu rozvedl v knize John Lesley.
03:59
He estimatedodhadnuto a probabilitypravděpodobnost that we will failselhat
66
215000
2000
Odhadl pravděpodobnost, s jakou
04:01
to survivepřežít the currentaktuální centurystoletí: 50 percentprocent.
67
217000
3000
nepřežijeme současné století:
50 procent.
04:04
SimilarlyPodobně, the AstronomerAstronom RoyalRoyal, whomkoho we heardslyšel speakmluvit yesterdayvčera,
68
220000
5000
Podobně královský astronom,
kterého jsme slyšeli hovořit včera,
04:09
alsotaké has a 50 percentprocent probabilitypravděpodobnost estimateodhad.
69
225000
3000
odhadl 50procentní pravděpodobnost.
04:12
AnotherDalší authorautor doesn't give any numericalnumerické estimateodhad,
70
228000
3000
Další autor nedal žádný číselný odhad,
04:15
but saysříká the probabilitypravděpodobnost is significantvýznamný that it will failselhat.
71
231000
3000
ale prohlásil, že pravděpodobnost
vyhynutí je významná.
04:18
I wrotenapsal a long paperpapír on this.
72
234000
3000
Já na toto téma napsal dlouhý článek.
04:21
I said assigningpřiřazení a lessméně than 20 percentprocent probabilitypravděpodobnost would be a mistakechyba
73
237000
4000
Řekl jsem v něm, že hovořit o méně než
20procentní pravděpobonosti by byla chyba,
04:25
in lightsvětlo of the currentaktuální evidencedůkaz we have.
74
241000
3000
s ohledem na současné důkazy, které máme.
04:28
Now, the exactpřesný figuresčísel here,
75
244000
2000
Přesná čísla, která máme tady,
bychom měli
04:30
we should take with a bigvelký grainobilí of saltsůl,
76
246000
2000
brát v potaz s největší obezřetností,
04:32
but there seemszdá se to be a consensuskonsenzu that the riskriziko is substantialpodstatné.
77
248000
3000
každopádně vládne shoda,
že riziko je zásadní.
04:35
EverybodyVšichni who has lookedpodíval se at this and studiedstudoval it agreessouhlasí.
78
251000
3000
Každý, kdo tohle viděl a studoval,
souhlasí.
04:38
Now, if we think about what just reducingsnížení
79
254000
2000
Pokud se zamyslíme, co znamená snížení
04:40
the probabilitypravděpodobnost of humančlověk extinctionzánik by just one percentageprocento pointbod --
80
256000
5000
pravděpodobnosti vyhynutí lidstva
o jediný procentní bod --
04:45
not very much -- so that's equivalentekvivalent to 60 millionmilión livesživoty saveduložené,
81
261000
5000
což není mnoho -- zjistíme, že jde
o 60 milionů zachráněných životů
04:50
if we just countspočítat the currentlyv současné době livingživobytí people, the currentaktuální generationgenerace.
82
266000
4000
z hlediska aktuálního počtu lidí.
04:54
Now one percentprocent of sixšest billionmiliarda people is equivalentekvivalent to 60 millionmilión.
83
270000
4000
Jedno procento z šesti miliard lidí
odpovídá 60 milionům.
04:58
So that's a largevelký numberčíslo.
84
274000
2000
To je obrovské číslo.
05:00
If we were to take into accountúčet futurebudoucnost generationsgenerací
85
276000
3000
Pokud bychom zohlednili
i budoucí generace,
05:03
that will never come into existenceexistence if we blowfoukat ourselvessebe up,
86
279000
5000
které by kvůli našemu vymření nevznikly,
05:08
then the figurepostava becomesstává se astronomicalastronomický.
87
284000
3000
číslo by bylo astronomické.
05:11
If we could eventuallynakonec colonizekolonizovat a chunkkus of the universevesmír --
88
287000
3000
Možná v budoucnu obydlíme
zlomek vesmíru --
05:14
the VirgoVirgo superclustersupercluster --
89
290000
2000
Místní nadkupu galaxií --
05:16
maybe it will take us 100 millionmilión yearsroky to get there,
90
292000
2000
což může vzít klidně 100 milionů let,
05:18
but if we go extinctvyhynulý we never will.
91
294000
3000
ale pokud vymřeme, nedojde k tomu.
05:21
Then, even a one percentageprocento pointbod reductionredukce
92
297000
3000
Takže i snížení o jediný procentní bod
05:24
in the extinctionzánik riskriziko could be equivalentekvivalent
93
300000
4000
by v tomto případě odpovídalo přežití
05:28
to this astronomicalastronomický numberčíslo -- 10 to the powerNapájení of 32.
94
304000
3000
astronomického počtu lidí -- 10 na 32.
05:31
So if you take into accountúčet futurebudoucnost generationsgenerací as much as our ownvlastní,
95
307000
4000
Takže pokud budeme o budoucích
generacích uvažovat jako o té naší,
05:35
everykaždý other moralmorální imperativerozkazovací způsob of philanthropicdobročinný costnáklady just becomesstává se irrelevantirelevantní.
96
311000
5000
všechny ostatní morální imperativy
spojené s náklady se stanou irelevantními.
05:40
The only thing you should focussoustředit se on
97
316000
2000
Jediná věc, které byste
měli věnovat pozornost,
05:42
would be to reducesnížit existentialexistenciální riskriziko
98
318000
2000
je snížení existenciálního rizika,
05:44
because even the tiniestnejmenší decreasepokles in existentialexistenciální riskriziko
99
320000
4000
protože i to nejmenší snížení
05:48
would just overwhelmpřemoci any other benefitvýhoda you could hopenaděje to achievedosáhnout.
100
324000
4000
by převážilo jakoukoli jinou výhodu,
o které můžeme uvažovat.
05:52
And even if you just look at the currentaktuální people,
101
328000
2000
A i když uvážíme jen žijící lidi,
05:54
and ignoreignorovat the potentialpotenciál that would be lostztracený if we wentšel extinctvyhynulý,
102
330000
5000
a budeme ignorovat budoucí,
kteří by nevznikli, kdybychom vyhynuli,
05:59
it should still have a highvysoký prioritypřednost.
103
335000
2000
stále má úkol vysokou prioritu.
06:01
Now, let me spendstrávit the restodpočinek of my time on the thirdTřetí bigvelký problemproblém,
104
337000
5000
Dovolte mi věnovat zbývající čas
třetímu velkému problému,
06:06
because it's more subtlejemné and perhapsmožná difficultobtížný to graspuchopit.
105
342000
5000
protože je mnohem rafinovanější
a náročnější k uchopení.
06:12
Think about some time in your life --
106
348000
4000
Zamyslete se nad určitým typem času --
06:16
some people mightmohl never have experiencedzkušený it -- but some people,
107
352000
3000
někteří lidé jej možná vůbec nezažili --
ale vy ostatní
06:19
there are just those momentsokamžiky that you have experiencedzkušený
108
355000
3000
si vybavte prožité momenty,
06:22
where life was fantasticfantastický.
109
358000
2000
kdy byl život úžasný.
06:24
It mightmohl have been at the momentmoment of some great, creativetvořivý inspirationinspirace
110
360000
7000
Mohlo to být ve chvíli nějaké
velkolepé tvůrčí inspirace,
06:31
you mightmohl have had when you just enteredzadáno this flowtok stagefáze.
111
367000
2000
když jste byli unášeni
plynulým tokem práce.
06:33
Or when you understoodrozuměli something you had never doneHotovo before.
112
369000
2000
Nebo když jste pochopili něco nového.
06:35
Or perhapsmožná in the ecstasyextáze of romanticromantický love.
113
371000
4000
Nebo mohlo jít o pocity
pramenící z romantické lásky.
06:39
Or an aestheticestetický experienceZkusenosti -- a sunsetzápad slunce or a great piecekus of artumění.
114
375000
5000
O estetický zážitek -- západ slunce
nebo krásné umělecké dílo.
06:44
EveryKaždý oncejednou in a while we have these momentsokamžiky,
115
380000
2000
Každý jednou za čas zažívá tyto pocity,
06:46
and we realizerealizovat just how good life can be when it's at its bestnejlepší.
116
382000
4000
a díky nim si uvědomujeme,
jak skvělý život může být.
06:50
And you wonderdivit se, why can't it be like that all the time?
117
386000
5000
A divíme se, proč není
život takový neustále.
06:55
You just want to clinglpět ontona this.
118
391000
2000
Chcete, aby takový byl.
06:57
And then, of coursechod, it driftsdrifts back into ordinaryobyčejný life and the memoryPaměť fadesmizí.
119
393000
4000
A pak se samozřejmě vše vrátí do normálu
a vzpomínky vyblednou.
07:01
And it's really difficultobtížný to recallodvolání, in a normalnormální framerám of mindmysl,
120
397000
4000
Je skutečně náročné si
v běžném rozpoložení vybavit,
07:05
just how good life can be at its bestnejlepší.
121
401000
3000
jak úžasný život může být.
07:08
Or how badšpatný it can be at its worstnejhorší.
122
404000
3000
Nebo jak šíleně zlý může být.
07:11
The thirdTřetí bigvelký problemproblém is that life isn't usuallyobvykle
123
407000
3000
Třetí velký problém je,
že život není obvykle
07:14
as wonderfulBáječné as it could be.
124
410000
2000
tak úžasný, jak by mohl být.
07:16
I think that's a bigvelký, bigvelký problemproblém.
125
412000
4000
Domnívám se, že jde o velký problém.
07:20
It's easysnadný to say what we don't want.
126
416000
2000
Je jednoduché říci, co nechceme.
07:23
Here are a numberčíslo of things that we don't want --
127
419000
3000
Tady je příklad několika věcí,
které nechceme --
07:26
illnessnemoc, involuntarynedobrovolné deathsmrt, unnecessaryzbytečné sufferingutrpení, crueltykrutost,
128
422000
3000
nemoc, nedobrovolná smrt,
zbytečné trápení, krutost,
07:29
stuntedzakrnělý growthrůst, memoryPaměť lossztráta, ignoranceneznalost, absenceabsence of creativitytvořivost.
129
425000
5000
nedostatečný růst, ztráta paměti,
nevzdělanost, nedostatek kreativity.
07:35
SupposePředpokládejme, že we fixedpevný these things -- we did something about all of these.
130
431000
3000
Předpokládejme, že jsme tyto věci
napravili, něco jsme s nimi udělali.
07:38
We were very successfulúspěšný.
131
434000
2000
Byli jsme skutečně úspěšní.
07:40
We got ridzbavit of all of these things.
132
436000
2000
Všeho tohoto jsme se zbavili.
07:42
We mightmohl endkonec up with something like this,
133
438000
3000
Mohli bychom potom dopadnout nějak takto,
07:45
whichkterý is -- I mean, it's a heckheck of a lot better than that.
134
441000
4000
což je -- abych tak řekl, zatraceně
lepší než to předchozí.
07:49
But is this really the bestnejlepší we can dreamsen of?
135
445000
5000
Ale jde opravdu o to nejlepší,
o čem můžeme snít?
07:54
Is this the bestnejlepší we can do?
136
450000
2000
Jde o to nejlepší, čeho můžeme dosáhnout?
07:56
Or is it possiblemožný to find something a little bitbit more inspiringinspirativní to work towardsvůči?
137
452000
6000
Nebo je možné nalézt něco trochu
inspirativnějšího, co nás požene vpřed?
08:02
And if we think about this,
138
458000
2000
Když o tomhle všem budeme přemýšlet,
08:04
I think it's very clearPrůhledná that there are wayszpůsoby
139
460000
4000
zcela jistě si uvědomíme,
že existují možnosti,
08:08
in whichkterý we could changezměna things, not just by eliminatingodstranění negativesnegativy,
140
464000
3000
kdy změníme věci nikoli pouhým
odstraněním toho škodlivého,
08:11
but addingpřidání positivespozitivní.
141
467000
2000
ale přidáním pozitivního.
08:13
On my wishpřání listseznam, at leastnejméně, would be:
142
469000
2000
Na mém seznamu přání by mohlo být:
08:15
much longerdelší, healthierzdravější livesživoty, greatervětší subjectivesubjektivní well-beingpohody,
143
471000
5000
delší a zdravější život, větší blahobyt,
08:20
enhancedrozšířené cognitivepoznávací capacitieskapacit, more knowledgeznalost and understandingporozumění,
144
476000
5000
vylepšené kognitivní schopnosti,
více znalostí a porozumění,
08:25
unlimitedneomezený opportunitypříležitost for personalosobní growthrůst
145
481000
2000
neomezené možnosti pro osobní rozvoj
08:27
beyondmimo our currentaktuální biologicalbiologický limitslimity, better relationshipsvztahy,
146
483000
4000
přesahující naše biologická omezení,
lepší vztahy
08:31
an unboundedbez omezení potentialpotenciál for spiritualduchovní, moralmorální
147
487000
2000
a nespoutaný potenciál pro duchovní,
08:33
and intellectualintelektuální developmentrozvoj.
148
489000
2000
morální a intelektuální vývoj.
08:35
If we want to achievedosáhnout this, what, in the worldsvět, would have to changezměna?
149
491000
8000
Pokud bychom chtěli tohoto dosáhnout,
co by se muselo ve světě změnit?
08:43
And this is the answerOdpovědět -- we would have to changezměna.
150
499000
5000
A tohle je odpověď --
my bychom se museli změnit.
08:48
Not just the worldsvět around us, but we, ourselvessebe.
151
504000
3000
Nikoli jen svět kolem nás, ale my samotní.
08:51
Not just the way we think about the worldsvět, but the way we are -- our very biologybiologie.
152
507000
4000
Nikoli způsob, jakým o světě přemýšlíme,
ale způsob, jakým existujeme -- naše biologie.
08:55
HumanLidské naturePříroda would have to changezměna.
153
511000
2000
Lidská přirozenost by se musela změnit.
08:57
Now, when we think about changingměnící se humančlověk naturePříroda,
154
513000
2000
Když uvažujeme
o změně lidské přirozenosti,
08:59
the first thing that comespřijde to mindmysl
155
515000
2000
první věcí, která nás napadne,
09:01
are these humančlověk modificationmodifikace technologiestechnologií --
156
517000
4000
jsou tyto technologie umožňující
modifikaci lidí --
09:05
growthrůst hormonehormon therapyterapie, cosmetickosmetický surgerychirurgická operace,
157
521000
2000
terapie růstovými hormony,
kosmetická chirurgie,
09:07
stimulantsstimulanty like RitalinRitalin, AdderallAdderall, anti-depressantsantidepresiva,
158
523000
3000
stimulanty jako Ritalin a Adderall,
antidepresiva,
09:10
anabolicanabolické steroidssteroidy, artificialumělý heartssrdce.
159
526000
2000
anabolické steroidy, umělá srdce.
09:12
It's a prettydosti patheticpatetický listseznam.
160
528000
3000
Je to pěkně dojemný seznam.
09:15
They do great things for a fewpár people
161
531000
2000
Dovedou skvělé věci u pár lidí,
09:17
who suffertrpět from some specificcharakteristický conditionstav,
162
533000
2000
kteří trpí nějakými specifickými problémy,
09:19
but for mostvětšina people, they don't really transformpřeměnit
163
535000
5000
ale u většiny lidí nezmění to,
09:24
what it is to be humančlověk.
164
540000
2000
co znamená být člověkem.
09:26
And they alsotaké all seemzdát se a little bitbit --
165
542000
2000
A všechny také trochu působí --
09:28
mostvětšina people have this instinctinstinkt that, well, sure,
166
544000
3000
hodně lidem napovídá instinkt,
09:31
there needspotřeby to be anti-depressantsantidepresiva for the really depresseddeprimovaný people.
167
547000
2000
že antidepresiva tu jsou
pro lidi s depresemi.
09:33
But there's a kinddruh of queasinesschoulostivost
168
549000
2000
Panuje i jisté znepokojení,
09:35
that these are unnaturalnepřirozený in some way.
169
551000
3000
že jde o něco nepřirozeného.
09:38
It's worthhodnota recallingpřipomíná that there are a lot of other
170
554000
2000
Hodí se připomenout,
že používáme mnoho
09:40
modificationmodifikace technologiestechnologií and enhancementzvýšení technologiestechnologií that we use.
171
556000
3000
jiných technologií
k nápravám i vylepšování.
09:43
We have skinkůže enhancementsvylepšení, clothingoblečení.
172
559000
4000
Používáme vylepšení kůže -- oblečení.
09:47
As fardaleko as I can see, all of you are usersuživatelů of this
173
563000
4000
Kam až dohlédnu, vidím,
že každý z vás je uživatelem
09:51
enhancementzvýšení technologytechnika in this roompokoj, místnost, so that's a great thing.
174
567000
5000
této vylepšovací technologie,
což je skvělé.
09:56
MoodNálada modifiersmodifikátory have been used from time immemorialprastarý --
175
572000
3000
Látky měnící náladu
se používají od nepaměti --
09:59
caffeinekofein, alcoholalkohol, nicotinenikotin, immuneimunní systemSystém enhancementzvýšení,
176
575000
5000
kofein, alkohol, nikotin, vitaminy,
10:04
visionvidění enhancementzvýšení, anestheticsanestetika --
177
580000
2000
brýle, anestetika --
10:06
we take that very much for granteduděleno,
178
582000
2000
považujeme je za samozřejmé,
10:08
but just think about how great progresspokrok that is --
179
584000
4000
ale zamyslete se, jak velký pokrok to je,
10:12
like, havingmít an operationúkon before anestheticsanestetika was not funzábava.
180
588000
4000
prodělat operaci před příchodem anestetik
nebyla žádná legrace.
10:16
ContraceptivesAntikoncepce, cosmeticskosmetika and brainmozek reprogrammingpřeprogramování techniquestechniky --
181
592000
6000
Antikoncepce, kosmetika
a techniky přeprogramování mozku --
10:22
that soundszvuky ominouszlověstný,
182
598000
2000
to vše zní děsivě,
10:24
but the distinctionrozdíl betweenmezi what is a technologytechnika --
183
600000
4000
ale rozdíl mezi tím, co je technologie --
10:28
a gadgetpřístroj would be the archetypearchetyp --
184
604000
2000
typickým příkladem je přístroj --
10:30
and other wayszpůsoby of changingměnící se and rewritingpřepisování humančlověk naturePříroda is quitedocela subtlejemné.
185
606000
4000
a dalšími způsoby, jak měnit a předělávat
lidskou přirozenost, je složitější.
10:34
So if you think about what it meansprostředek to learnUčit se arithmeticaritmetický or to learnUčit se to readčíst,
186
610000
4000
Když se zamyslíte, co to znamená
naučit se počítat nebo číst,
10:38
you're actuallyvlastně, literallydoslovně rewritingpřepisování your ownvlastní brainmozek.
187
614000
3000
zjistíte, že jde doslova
o předělávání mozku.
10:41
You're changingměnící se the microstructuremikrostruktura of your brainmozek as you go alongpodél.
188
617000
3000
Jak se učíte,
měníte mikrostrukturu svého mozku.
10:45
So in a broadširoký sensesmysl, we don't need to think about technologytechnika
189
621000
3000
Obecně řečeno,
nemusíme přemýšlet o technologiích
10:48
as only little gadgetsgadgets, like these things here,
190
624000
2000
pouze jako přístrojích jako jsou tyto,
10:50
but even institutionsinstitucí and techniquestechniky,
191
626000
4000
ale i o institucích a technikách,
10:54
psychologicalpsychologický methodsmetody and so forthdále.
192
630000
2000
psychologických metodách a tak dále.
10:56
FormsFormuláře of organizationorganizace can have a profoundhluboký impactdopad on humančlověk naturePříroda.
193
632000
5000
Způsoby organizace mohou mít
zásadní dopad na lidskou přirozenost.
11:01
Looking aheadvpřed, there is a rangerozsah of technologiestechnologií
194
637000
2000
V budoucnu zcela jistě dříve nebo později
11:03
that are almosttéměř certainurčitý to be developedrozvinutý soonerdříve or laterpozději.
195
639000
3000
vyvineme množství takových technologií.
11:06
We are very ignorantneznalý about what the time scaleměřítko for these things are,
196
642000
4000
Víme jen velice málo, pokud vůbec něco,
kdy se tyto věci objeví,
11:10
but they all are consistentkonzistentní with everything we know
197
646000
2000
ale jsou plně v souladu se vším, co víme
11:12
about physicalfyzický lawszákony, lawszákony of chemistrychemie, etcatd.
198
648000
4000
o fyzikálních zákonech, zákonech chemie
a tak dál.
11:16
It's possiblemožný to assumepřevzít,
199
652000
2000
Můžeme předpokládat,
11:18
settingnastavení asidestranou a possibilitymožnost of catastrophekatastrofa,
200
654000
3000
ponechejme stranou možnost katastrofy,
11:21
that soonerdříve or laterpozději we will developrozvíjet all of these.
201
657000
3000
že dříve nebo později
všechno toto vyvineme.
11:24
And even just a couplepár of these would be enoughdost
202
660000
3000
A dokonce jen zlomek z nich
by postačoval k tomu,
11:27
to transformpřeměnit the humančlověk conditionstav.
203
663000
2000
abychom změnili lidský stav.
11:29
So let's look at some of the dimensionsrozměry of humančlověk naturePříroda
204
665000
5000
Podívejme se proto na ty podoby
lidské přirozenosti,
11:34
that seemzdát se to leavezanechat, opustit roompokoj, místnost for improvementzlepšení.
205
670000
3000
které se jeví, že nabízejí
prostor k vylepšení.
11:37
HealthZdraví spanrozpětí is a bigvelký and urgentnaléhavé thing,
206
673000
2000
Délka života je důležitým
a palčivým faktorem,
11:39
because if you're not alivenaživu,
207
675000
2000
protože když nejste naživu,
11:41
then all the other things will be to little availvyužít.
208
677000
3000
žádná věc vám moc užitečná nebude.
11:44
IntellectualIntelektuální capacitykapacita -- let's take that boxbox,
209
680000
2000
Intelektuální schopnosti -- zahrnují
11:46
whichkterý fallspadá into a lot of differentodlišný sub-categoriespodkategorií:
210
682000
5000
velké množství dalších podkategorií:
11:51
memoryPaměť, concentrationkoncentrace, mentalduševní energyenergie, intelligenceinteligence, empathyempatie.
211
687000
3000
paměť, soustředěnost, mentální energie,
inteligence, empatie.
11:54
These are really great things.
212
690000
2000
Jsou to všechno skvělé věci.
11:56
PartČást of the reasondůvod why we valuehodnota these traitsznaků
213
692000
2000
Zčásti si jich ceníme proto,
11:58
is that they make us better at competingkonkurenční with other people --
214
694000
4000
že nás dělají lepšími v soupeření s
ostatními lidmi --
12:02
they're positionalpoziční goodszboží.
215
698000
2000
jsou zprostředkujícími dobry.
12:04
But partčást of the reasondůvod --
216
700000
2000
Zčásti proto --
12:06
and that's the reasondůvod why we have ethicaletický groundpřízemní for pursuingsledování these --
217
702000
4000
a to je také důvod, proč je
morálně správné o ně usilovat --
12:10
is that they're alsotaké intrinsicallyvlastně valuablecenný.
218
706000
3000
že jsou samy o sobě hodnotné.
12:13
It's just better to be ableschopný to understandrozumět more of the worldsvět around you
219
709000
4000
Je prostě lepší vědět
o světě kolem nás více,
12:17
and the people that you are communicatingkomunikace with,
220
713000
2000
o lidech, se kterými se setkáváme,
12:19
and to rememberpamatovat what you have learnednaučil se.
221
715000
4000
a taktéž si pamatovat,
co jsme se dozvěděli.
12:23
ModalitiesModality and specialspeciální facultiesfakult.
222
719000
2000
Modality a zvláštní schopnosti.
12:25
Now, the humančlověk mindmysl is not a singlesingl unitaryjednotné informationinformace processorprocesor,
223
721000
5000
Lidská mysl není jediným jednolitým
informačním procesorem,
12:30
but it has a lot of differentodlišný, specialspeciální, evolvedvyvíjeno modulesmodulů
224
726000
4000
ale má mnoho různých,
speciálně vyvinutých modulů,
12:34
that do specificcharakteristický things for us.
225
730000
2000
které umožňují specifické věci.
12:36
If you think about what we normallynormálně take as givingposkytující life a lot of its meaningvýznam --
226
732000
4000
Když uvážíme to, co běžně považujeme
za věci dávající životu smysl --
12:40
musichudba, humorhumor, eroticismerotismus, spiritualityduchovno, aestheticsestetika,
227
736000
4000
hudbu, humor, erotično,
duchovno, estetiku,
12:44
nurturingpéče and caringpéče, gossipdrby, chattingchatování with people --
228
740000
5000
výchovu a péči, klevety,
povídání s lidmi --
12:49
all of these, very likelypravděpodobně, are enabledpovoleno by a specialspeciální circuitryobvodů
229
745000
4000
tak všechny z nich jsou téměř jistě
umožněny některým ze specifických okruhů,
12:53
that we humanslidem have,
230
749000
2000
které my lidé máme,
ale představte si jinou inteligentní
formu života, která je postrádá.
12:55
but that you could have anotherdalší intelligentinteligentní life formformulář that lackschybí these.
231
751000
3000
12:58
We're just luckyšťastný that we have the requisitepotřebné neuralneurální machinerystroje
232
754000
3000
Měli jsme jen štěstí, že se u nás
vyvinuly neurální obvody,
13:01
to processproces musichudba and to appreciatecenit si it and enjoyužívat si it.
233
757000
4000
které zpracovávají a vychutnávají hudbu.
13:05
All of these would enableumožnit, in principlezásada -- be amenablepřizpůsobitelné to enhancementzvýšení.
234
761000
3000
Všechny by v principu
mělo být možné vylepšit.
13:08
Some people have a better musicalhudební abilityschopnost
235
764000
2000
Někteří lidé mají lepší hudební sluch
13:10
and abilityschopnost to appreciatecenit si musichudba than othersostatní have.
236
766000
2000
a schopnost ocenit hudbu než jiní lidé.
13:12
It's alsotaké interestingzajímavý to think about what other things are --
237
768000
3000
Je rovněž zajímavé přemýšlet
o dalších věcech --
13:15
so if these all enabledpovoleno great valueshodnoty,
238
771000
3000
když poskytují hodnotné věci,
13:19
why should we think that evolutionvývoj has happenedStalo to provideposkytnout us
239
775000
3000
proč bychom měli přijmout,
že evoluce nás vybavila
13:22
with all the modalitieszpůsoby we would need to engagezapojit se
240
778000
3000
všemi způsoby,
které by nám mohly
13:25
with other valueshodnoty that there mightmohl be?
241
781000
2000
potenciálně přinést potěšení?
13:27
ImaginePředstavte si a speciesdruh
242
783000
2000
Představte si tvora,
13:29
that just didn't have this neuralneurální machinerystroje for processingzpracovává se musichudba.
243
785000
4000
který postrádá tento neurální
obvod pro zpracování hudby.
13:33
And they would just stareupřený pohled at us with bafflementpřekvapení
244
789000
3000
Jenom by na nás ohromeně zíral,
13:36
when we spendstrávit time listeningNaslouchání to a beautifulKrásná performancepředstavení,
245
792000
4000
kdykoli bychom trávili čas
poslechem hudebního vystoupení,
13:40
like the one we just heardslyšel -- because of people makingtvorba stupidhloupý movementspohyby,
246
796000
2000
protože lidé by dělali podivné pohyby
13:42
and they would be really irritatedpodrážděná and wouldn'tby ne see what we were up to.
247
798000
3000
a on by nedokázal určit, co se to děje.
13:45
But maybe they have anotherdalší facultyfakulta, something elsejiný
248
801000
3000
Ale možná má jinou schopnost,
13:48
that would seemzdát se equallystejně irrationaliracionální to us,
249
804000
3000
která by byla stejně matoucí pro nás,
13:51
but they actuallyvlastně tapklepněte na tlačítko into some great possiblemožný valuehodnota there.
250
807000
3000
ale pro něj by měla obdobnou hodnotu
jako hudba pro nás.
13:54
But we are just literallydoslovně deafHluchý to that kinddruh of valuehodnota.
251
810000
4000
Ale my jsme doslova hluší
k tomuto druhu hodnoty.
13:58
So we could think of addingpřidání on differentodlišný,
252
814000
2000
Takže můžeme uvažovat o přidání nových
14:00
newNový sensorysmyslové capacitieskapacit and mentalduševní facultiesfakult.
253
816000
4000
smyslových a mentálních schopností.
14:04
BodilyTělesných functionalityfunkčnost and morphologymorfologie and affectiveemotivní self-controlsamo-ovládání.
254
820000
5000
Nové tělesné funkce, tělesné tvary,
nové sebeovládání.
14:09
GreaterVětší subjectivesubjektivní well-beingpohody.
255
825000
2000
Větší pocit spokojenosti.
14:11
Be ableschopný to switchpřepínač betweenmezi relaxationrelaxace and activityaktivita --
256
827000
3000
Schopnost přepínat
mezi odpočinkem a prací --
14:14
beingbytost ableschopný to go slowpomalý when you need to do that, and to speedRychlost up.
257
830000
4000
schopnost zpomalit,
když to potřebujeme, i zrychlit.
14:18
AbleSchopen to switchpřepínač back and forthdále more easilysnadno
258
834000
2000
Schopnost snadno přepínat pozornost
14:20
would be a neatelegantní thing to be ableschopný to do --
259
836000
2000
by byla krásná vlastnost --
14:22
easiersnadnější to achievedosáhnout the flowtok stateStát,
260
838000
2000
snadněji bychom dosáhli stavu plynulosti,
14:24
when you're totallynaprosto immersedponořený in something you are doing.
261
840000
4000
jaký zažíváme,
když jsme do něčeho ponořeni.
14:28
ConscientiousnessSvědomitost and sympathysympatie.
262
844000
2000
Vědomí a porozumění.
14:30
The abilityschopnost to -- it's anotherdalší interestingzajímavý applicationaplikace
263
846000
3000
To je další zajímavá aplikace,
14:33
that would have largevelký socialsociální ramificationrozvětvení, perhapsmožná.
264
849000
3000
která by měla nejspíš
velký společenský dopad.
14:36
If you could actuallyvlastně chooseVybrat to preservezachovat your romanticromantický attachmentspříloh to one personosoba,
265
852000
6000
Pokud byste si mohli zvolit,
aby byly vaše romantické závazky
14:42
undiminishednedotčené throughpřes time,
266
858000
2000
k druhé osobě s časem neměnné,
14:44
so that wouldn'tby ne have to -- love would never have to fadeslábnout if you didn't want it to.
267
860000
3000
takže by neskončily,
láska by nemusela nikdy pominout.
14:49
That's probablypravděpodobně not all that difficultobtížný.
268
865000
3000
Pravděpodobně nejde o tak složitou věc.
14:52
It mightmohl just be a simplejednoduchý hormonehormon or something that could do this.
269
868000
3000
Mohl by to být jediný hormon
nebo tak něco.
14:57
It's been doneHotovo in volesvolles.
270
873000
2000
Povedlo se to už u hrabošů.
15:01
You can engineerinženýr a prairieprérie volevole to becomestát monogamousmonogamní
271
877000
3000
Můžete naprogramovat hraboše,
aby se stali monogamními,
15:04
when it's naturallypřirozeně polygamouspolygamní.
272
880000
2000
i když jsou od přírody polygamní.
15:06
It's just a singlesingl genegen.
273
882000
2000
Jde o jediný gen.
15:08
MightMůže be more complicatedsložitý in humanslidem, but perhapsmožná not that much.
274
884000
2000
U lidí by to mohlo být složitější,
ale asi ne o moc.
15:10
This is the last pictureobrázek that I want to --
275
886000
2000
Tohle je poslední obrázek,
který chci --
15:13
now we'vejsme got to use the laserlaser pointerukazatel.
276
889000
2000
začali jsme používat laserová ukazovátka.
15:16
A possiblemožný moderežimu of beingbytost here would be a way of life --
277
892000
3000
Možný způsob bytí my mohl
být způsobem života --
15:19
a way of beingbytost, experiencingzažívá, thinkingmyslící, seeingvidění,
278
895000
4000
způsob života, zakoušení, přemýšlení,
vidění,
15:23
interactinginterakce with the worldsvět.
279
899000
2000
interagování se světem.
15:25
Down here in this little cornerroh, here, we have the little sub-spacesubspace
280
901000
5000
Tady dole v rohu máme malý podprostor,
15:30
of this largervětší spaceprostor that is accessiblepřístupné to humančlověk beingsbytosti --
281
906000
4000
část většího prostoru,
který je přístupný lidem --
15:34
beingsbytosti with our biologicalbiologický capacitieskapacit.
282
910000
3000
tvorům s našimi biologickými schopnostmi.
15:37
It's a partčást of the spaceprostor that's accessiblepřístupné to animalszvířata;
283
913000
3000
Je to část prostoru,
který je přístupný zvířatům,
15:40
sinceod té doby we are animalszvířata, we are a subsetpodmnožina of that.
284
916000
3000
neboť my jsme zvířaty,
jsme jejich podmnožina.
15:43
And then you can imaginepředstav si some enhancementsvylepšení of humančlověk capacitieskapacit.
285
919000
4000
Takže si můžeme představit
vylepšení lidských schopností.
15:47
There would be differentodlišný modesrežimy of beingbytost you could experienceZkusenosti
286
923000
3000
Mohly by být nové způsoby bytí,
které byste mohli zažívat,
15:50
if you were ableschopný to staypobyt alivenaživu for, say, 200 yearsroky.
287
926000
3000
pokud byste mohli žít,
dejme tomu, 200 let.
15:53
Then you could livežít sortstřídění of livesživoty and accumulateakumulovat wisdomsmoudrosti
288
929000
4000
Mohli byste pak žít několik druhů životů,
sbírat moudrosti,
15:57
that are just not possiblemožný for humanslidem as we currentlyv současné době are.
289
933000
3000
jak to není u dnešních lidí možné.
16:00
So then, you movehýbat se off to this largervětší spherekoule of "humančlověk +,"
290
936000
4000
Takže byste se přesunuli
do větší sféry „člověk+"
16:04
and you could continuepokračovat that processproces and eventuallynakonec
291
940000
3000
a mohli byste v tomto procesu pokračovat,
16:07
exploreprozkoumat a lot of this largervětší spaceprostor of possiblemožný modesrežimy of beingbytost.
292
943000
4000
až byste objevili tento obří prostor
možných způsobů bytí.
16:11
Now, why is that a good thing to do?
293
947000
2000
Proč by tohle měla být žádoucí věc?
16:13
Well, we know alreadyjiž that in this little humančlověk circlekruh there,
294
949000
4000
Inu, už víme, že uvnitř tohoto malého
lidského kruhu
16:17
there are these enormouslyobrovsky wonderfulBáječné and worthwhileužitečné modesrežimy of beingbytost --
295
953000
4000
jsou všechny ty úžasné
a hodnotné možnosti bytí --
16:21
humančlověk life at its bestnejlepší is wonderfulBáječné.
296
957000
3000
plně prožívaný lidský život je úžasný.
16:24
We have no reasondůvod to believe that withinv rámci this much, much largervětší spaceprostor
297
960000
5000
Nemáme žádný důvod si myslet,
že uvnitř tohoto mnohem většího prostoru
16:29
there would not alsotaké be extremelyvelmi worthwhileužitečné modesrežimy of beingbytost,
298
965000
4000
není nic, co by bylo podobně
hodnotné pro naše bytí.
16:33
perhapsmožná onesty that would be way beyondmimo our wildestnejdivočejší abilityschopnost
299
969000
6000
Možná je tam něco, co je za hranicemi
našich nejdivočejších představ,
16:39
even to imaginepředstav si or dreamsen about.
300
975000
2000
za hranicemi našich snů.
16:41
And so, to fixopravit this thirdTřetí problemproblém,
301
977000
2000
Takže abychom vyřešili
tento třetí problém,
16:43
I think we need -- slowlypomalu, carefullyopatrně, with ethicaletický wisdommoudrost and constraintomezení --
302
979000
6000
potřebujeme pomalu, opatrně
a pod morálním dohledem
16:49
developrozvíjet the meansprostředek that enableumožnit us to go out in this largervětší spaceprostor and exploreprozkoumat it
303
985000
5000
vyvinout prostředky, které nám umožní vydat se
do tohoto většího prostoru a prozkoumat jej
16:54
and find the great valueshodnoty that mightmohl hideskrýt there.
304
990000
2000
a najít hodnoty,
které se tam mohou ukrývat.
16:56
ThanksDík.
305
992000
2000
Děkuji.
Translated by Marek Vanžura
Reviewed by Katerina Jaburkova

▲Back to top

ABOUT THE SPEAKER
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?

Why you should listen

Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.

Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.

Nick was honored as one of Foreign Policy's 2015 Global Thinkers .

His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”

More profile about the speaker
Nick Bostrom | Speaker | TED.com