ABOUT THE SPEAKER
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.

Why you should listen

When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.

A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.

Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.

More profile about the speaker
Grady Booch | Speaker | TED.com
TED@IBM

Grady Booch: Don't fear superintelligent AI

Grady Booch: Nebojte se superinteligentní AI

Filmed:
2,866,438 views

Nová technologie plodí nové obavy, říká vědec a filozof Grady Blooch, ale my se nemusíme obávat všemocné, bezcitné AI. Brooch spojuje naše nejhorší (sci-fi vyvolané) obavy o superinteligentních počítačích vysvětlení, jak je učíme sdílet naše hodnoty, nikoli programujeme. Spíše než se obávat neexistující hrozby nás ponouká ke zvážení možností, jakými umělá inteligence vylepší lidský život.
- Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio

Double-click the English transcript below to play the video.

00:12
When I was a kiddítě,
I was the quintessentialTypický nerdnerd.
0
760
3840
V dětství jsem byl typickým nerdem,
00:17
I think some of you were, too.
1
5320
2176
myslím, že pár z vás taky.
00:19
(LaughterSmích)
2
7520
1216
(smích)
00:20
And you, sirVážený pane, who laughedzasmál se the loudestnejhlasitější,
you probablypravděpodobně still are.
3
8760
3216
A vy, pane, který se smějete nejhlasitěji,
jím ještě možná jste.
00:24
(LaughterSmích)
4
12000
2256
(smích)
00:26
I grewrostl up in a smallmalý townměsto
in the dustyzaprášené plainspláně of northseverní TexasTexas,
5
14280
3496
Vyrůstal jsem v malém městě
na prašných pláních severního Texasu,
00:29
the sonsyn of a sheriffšerif
who was the sonsyn of a pastorPastor.
6
17800
3336
syn šerifa, který byl synem kněze.
00:33
GettingZískávání into troubleproblémy was not an optionvolba.
7
21160
1920
Moc rošťáren jsem provádět nemohl.
00:36
And so I startedzačal readingčtení
calculuskalkulus booksknihy for funzábava.
8
24040
3256
A tak jsem si z nudy
začal číst o integrálech.
00:39
(LaughterSmích)
9
27320
1536
(smích)
00:40
You did, too.
10
28880
1696
Vy také, že?
00:42
That led me to buildingbudova a laserlaser
and a computerpočítač and modelmodel rocketsrakety,
11
30600
3736
To mě dovedlo k postavení modelu
laseru a počítače a rakety
00:46
and that led me to makingtvorba
rocketraketa fuelpalivo in my bedroomložnice.
12
34360
3000
a to zase k vytvoření raketového paliva
v mé ložnici.
00:49
Now, in scientificvědecký termspodmínky,
13
37960
3656
Ve vědeckých termínech tomu říkáme
00:53
we call this a very badšpatný ideaidea.
14
41640
3256
velmi špatný nápad.
00:56
(LaughterSmích)
15
44920
1216
(smích)
00:58
Around that samestejný time,
16
46160
2176
Ve stejném čase se do kin dostala
01:00
StanleyStanley Kubrick'sKubricka "2001: A SpaceProstor OdysseyOdysea"
camepřišel to the theatersdivadel,
17
48360
3216
"2001: Vesmírná odysea" Stanleyho Kubricka
01:03
and my life was forevernavždy changedzměněna.
18
51600
2200
a můj život se navždy změnil.
01:06
I lovedmiloval everything about that moviefilm,
19
54280
2056
Miloval jsem vše o tom filmu,
01:08
especiallyzvláště the HALHAL 9000.
20
56360
2536
zejména Hala 9000.
01:10
Now, HALHAL was a sentientcítící computerpočítač
21
58920
2056
HAL byl cítícím počítačem,
01:13
designednavrženo to guideprůvodce the DiscoveryObjev spacecraftkosmická loď
22
61000
2456
navrženým k navádění
vesmírné lodě Discovery
01:15
from the EarthZemě to JupiterJupiter.
23
63480
2536
ze Země na Jupiter.
01:18
HALHAL was alsotaké a flawedchybné charactercharakter,
24
66040
2056
HAL měl také charakterovou vadu,
01:20
for in the endkonec he chosevybral
to valuehodnota the missionmise over humančlověk life.
25
68120
4280
protože na konci si cenil více mise
než lidského života.
01:24
Now, HALHAL was a fictionalfiktivní charactercharakter,
26
72840
2096
HAL byl fiktivní postavou,
01:26
but nonethelessnicméně he speaksmluví to our fearsobavy,
27
74960
2656
nicméně hovoří k našemu strachu,
01:29
our fearsobavy of beingbytost subjugatedpodrobil
28
77640
2096
strachu z podřízení se
01:31
by some unfeelingbezcitný, artificialumělý intelligenceinteligence
29
79760
3016
nějaké necítící, umělé inteligenci,
01:34
who is indifferentlhostejný to our humanitylidstvo.
30
82800
1960
která je lhostejná k našemu lidství.
01:37
I believe that suchtakový fearsobavy are unfoundedneopodstatněná.
31
85880
2576
Věřím, že tento strach je neopodstatněný.
01:40
IndeedSkutečně, we standvydržet at a remarkablepozoruhodný time
32
88480
2696
Nalézáme se vskutku
01:43
in humančlověk historydějiny,
33
91200
1536
v pozoruhodném období,
01:44
where, drivenřízený by refusalodmítnutí to acceptakceptovat
the limitslimity of our bodiestěla and our mindsmysli,
34
92760
4976
odmítnutí omezení našich těl a mysli
01:49
we are buildingbudova machinesstrojů
35
97760
1696
nás vede ke stavbě výjimečných
01:51
of exquisitevynikající, beautifulKrásná
complexitysložitost and graceGrace
36
99480
3616
nádherně komplexních a půvabných strojů,
01:55
that will extendrozšířit the humančlověk experienceZkusenosti
37
103120
2056
které rozšíří lidskou zkušenost
01:57
in wayszpůsoby beyondmimo our imaginingpředstavovat si.
38
105200
1680
způsoby přesahujícími naši představivost.
01:59
After a careerkariéra that led me
from the AirVzduchu ForceSíla AcademyAkademie
39
107720
2576
Po kariéře, která mne zavedla
z letecké akademie
02:02
to SpaceProstor CommandPříkaz to now,
40
110320
1936
přes Vesmírné velení až do dnešního dne,
02:04
I becamestal se a systemssystémy engineerinženýr,
41
112280
1696
jsem se stal systémovým inženýrem
02:06
and recentlynedávno I was drawnnakreslený
into an engineeringinženýrství problemproblém
42
114000
2736
a nedávno se nechal vtáhnout
do inženýrského problému,
02:08
associatedspojené with NASA'sNASA missionmise to MarsMars.
43
116760
2576
souvisejícího s misí NASA na Mars.
02:11
Now, in spaceprostor flightslety to the MoonMěsíc,
44
119360
2496
Ve vesmírných letech na Měsíc,
02:13
we can relyspolehnout se uponna
missionmise controlřízení in HoustonHouston
45
121880
3136
můžeme spoléhat
na řídicí středisko v Houstonu,
02:17
to watch over all aspectsaspekty of a flightlet.
46
125040
1976
které dohlíží na všechny aspekty letu.
02:19
HoweverNicméně, MarsMars is 200 timesčasy furtherdále away,
47
127040
3536
Nicméně Mars je 200krát dále
02:22
and as a resultvýsledek it takes
on averageprůměrný 13 minutesminut
48
130600
3216
a signálu průměrně trvá 13 minut
02:25
for a signalsignál to travelcestovat
from the EarthZemě to MarsMars.
49
133840
3136
cestovat ze Země na Mars.
02:29
If there's troubleproblémy,
there's not enoughdost time.
50
137000
3400
Pokud se objeví problém,
není zde dost času.
02:32
And so a reasonablerozumné engineeringinženýrství solutionřešení
51
140840
2496
A rozumné inženýrské řešení
02:35
callsvolání for us to put missionmise controlřízení
52
143360
2576
nám navrhuje umístit kontrolu mise
02:37
insideuvnitř the wallsstěny of the OrionOrion spacecraftkosmická loď.
53
145960
3016
mezi stěny vesmírné lodi Orion.
02:41
AnotherDalší fascinatingfascinující ideaidea
in the missionmise profileProfil
54
149000
2896
Další fascinující myšlenka v profilu mise
02:43
placesmísta humanoidhumanoid robotsroboty
on the surfacepovrch of MarsMars
55
151920
2896
umisťuje humanoidní roboty na povrch Marsu
02:46
before the humanslidem themselvesoni sami arrivepřijet,
56
154840
1856
před příletem samotných lidí,
02:48
first to buildstavět facilitieszařízení
57
156720
1656
aby nejprve postavili zařízení
02:50
and laterpozději to servesloužit as collaborativespolupráce
membersčlenů of the scienceVěda teamtým.
58
158400
3360
a později sloužili jako členové
vědeckého týmu.
02:55
Now, as I lookedpodíval se at this
from an engineeringinženýrství perspectiveperspektivní,
59
163400
2736
Když se na to dívám pohledem inženýra,
02:58
it becamestal se very clearPrůhledná to me
that what I neededpotřeboval to architectarchitekt
60
166160
3176
zdálo se mi jasné, že potřebuji navrhnout
03:01
was a smartchytrý, collaborativespolupráce,
61
169360
2176
malou, spolupracující,
03:03
sociallysociálně intelligentinteligentní
artificialumělý intelligenceinteligence.
62
171560
2376
sociálně inteligentní umělou inteligenci.
03:05
In other wordsslova, I neededpotřeboval to buildstavět
something very much like a HALHAL
63
173960
4296
Jinými slovy jsem potřeboval postavit
něco velmi podobného HALovi,
03:10
but withoutbez the homicidalvraždící tendenciestendencí.
64
178280
2416
ale bez vražedných tendencí.
03:12
(LaughterSmích)
65
180720
1360
(smích)
03:14
Let's pausepauza for a momentmoment.
66
182920
1816
Zastavme se na chvilku.
03:16
Is it really possiblemožný to buildstavět
an artificialumělý intelligenceinteligence like that?
67
184760
3896
Je možné postavit
takovou umělou inteligenci?
03:20
ActuallyVe skutečnosti, it is.
68
188680
1456
Vlastně ano.
03:22
In manymnoho wayszpůsoby,
69
190160
1256
Z mnoha pohledů
03:23
this is a hardtvrdý engineeringinženýrství problemproblém
70
191440
1976
je to složitý inženýrský problém
03:25
with elementsPrvky of AIAI,
71
193440
1456
s prvky AI,
03:26
not some wetmokrý hairvlasy ballmíč of an AIAI problemproblém
that needspotřeby to be engineeredvytvořeno.
72
194920
4696
není to žádný otravný AI problém,
který potřebuje být vyřešen.
03:31
To paraphraseparafráze AlanAlan TuringTuring,
73
199640
2656
Abych parafrázoval Alana Turinga,
03:34
I'm not interestedzájem
in buildingbudova a sentientcítící machinestroj.
74
202320
2376
nezajímá mne postavení
cítícího stroje.
03:36
I'm not buildingbudova a HALHAL.
75
204720
1576
Nestavím HALa.
03:38
All I'm after is a simplejednoduchý brainmozek,
76
206320
2416
Chci jen jednoduchý mozek,
03:40
something that offersnabídky
the illusioniluze of intelligenceinteligence.
77
208760
3120
který poskytuje iluzi inteligence.
03:45
The artumění and the scienceVěda of computingvýpočetní
have come a long way
78
213000
3136
Umění a věda o počítačích
podstoupila dlouhou cestu
od doby, kdy se HAL objevil
na obrazovce
03:48
sinceod té doby HALHAL was onscreenna obrazovce,
79
216160
1496
03:49
and I'd imaginepředstav si if his inventorvynálezce
DrDr. ChandraChandra were here todaydnes,
80
217680
3216
a kdyby zde byl jeho tvůrce, Dr. Chandra,
03:52
he'don to byl have a wholeCelý lot of questionsotázky for us.
81
220920
2336
měl by pro nás mnoho otázek.
03:55
Is it really possiblemožný for us
82
223280
2096
Je pro nás opravdu možné
03:57
to take a systemSystém of millionsmiliony
uponna millionsmiliony of deviceszařízení,
83
225400
4016
číst datové toky v systému
04:01
to readčíst in theirjejich datadata streamsproudy,
84
229440
1456
s miliony zařízení,
04:02
to predictpředpovědět theirjejich failuresselhání
and actakt in advancezáloha?
85
230920
2256
předvídat jejich selhání
a jednat v předstihu?
04:05
Yes.
86
233200
1216
Ano.
Můžeme postavit systém, který
komunikuje s lidmi přirozeným jazykem?
04:06
Can we buildstavět systemssystémy that converseConverse
with humanslidem in naturalpřírodní languageJazyk?
87
234440
3176
04:09
Yes.
88
237640
1216
Ano.
Můžeme postavit systém, který
rozlišuje objekty, identifikuje emoce,
04:10
Can we buildstavět systemssystémy
that recognizeuznat objectsobjekty, identifyidentifikovat emotionsemoce,
89
238880
2976
04:13
emoteEmote themselvesoni sami,
playhrát si gameshry and even readčíst lipsrty?
90
241880
3376
emoce samotné, hraje hry
a dokonce odečítá ze rtů?
04:17
Yes.
91
245280
1216
Ano.
Můžeme postavit systém,
který stanovuje cíle,
04:18
Can we buildstavět a systemSystém that setssady goalscíle,
92
246520
2136
04:20
that carriesnese out plansplány againstproti those goalscíle
and learnsučí se alongpodél the way?
93
248680
3616
provádí plány ve vztahu k těm cílům
a průběžně se učí?
04:24
Yes.
94
252320
1216
Ano.
04:25
Can we buildstavět systemssystémy
that have a theoryteorie of mindmysl?
95
253560
3336
Můžeme postavit systémy,
které mají teorii mysli?
04:28
This we are learningučení se to do.
96
256920
1496
Toto se učíme udělat.
04:30
Can we buildstavět systemssystémy that have
an ethicaletický and moralmorální foundationnadace?
97
258440
3480
Můžeme postavit systémy, které
mají etické a morální základy?
04:34
This we mustmusí learnUčit se how to do.
98
262480
2040
To se musíme naučit.
04:37
So let's acceptakceptovat for a momentmoment
99
265360
1376
Přijměme na okamžik to,
04:38
that it's possiblemožný to buildstavět
suchtakový an artificialumělý intelligenceinteligence
100
266760
2896
že je možné postavit takovou
umělou inteligenci
04:41
for this kinddruh of missionmise and othersostatní.
101
269680
2136
pro tento typ mise a další.
04:43
The nextdalší questionotázka
you mustmusí askdotázat se yourselfvy sám is,
102
271840
2536
Další otázka, kterou si musíme položit,
04:46
should we fearstrach it?
103
274400
1456
zní, měli bychom se jí bát?
04:47
Now, everykaždý newNový technologytechnika
104
275880
1976
Každá technologie sebou přináší
04:49
bringspřináší with it
some measureopatření of trepidationúzkost.
105
277880
2896
určitou míru očekávání.
04:52
When we first saw carsauta,
106
280800
1696
Když jsme poprvé spatřili auta,
04:54
people lamentedbědoval that we would see
the destructionzničení of the familyrodina.
107
282520
4016
lidé lamentovali, že uvidíme
rozpad rodiny.
04:58
When we first saw telephonestelefony come in,
108
286560
2696
Když se objevily telefony,
05:01
people were worriedustaraný it would destroyzničit
all civilcivilní conversationkonverzace.
109
289280
2896
lidé se obávali, že to zničí
obyčejnou konverzaci.
05:04
At a pointbod in time we saw
the writtenpsaný wordslovo becomestát pervasivevšudypřítomné,
110
292200
3936
V určitém období jsme viděli
všudypřítomné psané slovo,
05:08
people thought we would loseprohrát
our abilityschopnost to memorizememorovat.
111
296160
2496
lidé se obávali ztráty
schopnosti pamatovat si.
05:10
These things are all trueskutečný to a degreestupeň,
112
298680
2056
Vše v sobě má zrnko pravdy,
05:12
but it's alsotaké the casepouzdro
that these technologiestechnologií
113
300760
2416
ale je také pravdou, že tyto technologie
05:15
broughtpřinesl to us things
that extendedrozšířeno the humančlověk experienceZkusenosti
114
303200
3376
nám přinesly věci významným způsobem
05:18
in some profoundhluboký wayszpůsoby.
115
306600
1880
rozšiřující lidskou zkušenost.
05:21
So let's take this a little furtherdále.
116
309840
2280
Pokročme trochu dále.
05:25
I do not fearstrach the creationstvoření
of an AIAI like this,
117
313120
4736
Nebojím se vytvoření takové AI,
05:29
because it will eventuallynakonec
embodyztělesňují some of our valueshodnoty.
118
317880
3816
protože bude ztělesňovat naše hodnoty.
05:33
ConsiderZvažte this: buildingbudova a cognitivepoznávací systemSystém
is fundamentallyzásadně differentodlišný
119
321720
3496
Zvažte: vytvoření kognitivního systému
je zcela odlišné
05:37
than buildingbudova a traditionaltradiční
software-intensivesoftware intenzivní systemSystém of the pastminulost.
120
325240
3296
od vytvoření tradičního softwarového
systému minulosti.
05:40
We don't programprogram them. We teachučit them.
121
328560
2456
Neprogramujeme je.
Učíme je.
05:43
In orderobjednat to teachučit a systemSystém
how to recognizeuznat flowerskvětiny,
122
331040
2656
Aby se systém naučil rozpoznávat květiny,
ukážeme mu tisíce květin, které máme rádi.
05:45
I showshow it thousandstisíce of flowerskvětiny
of the kindsdruhy I like.
123
333720
3016
Abychom naučili systém hrát hru --
05:48
In orderobjednat to teachučit a systemSystém
how to playhrát si a gamehra --
124
336760
2256
05:51
Well, I would. You would, too.
125
339040
1960
Já bych to udělal. Vy taky.
05:54
I like flowerskvětiny. Come on.
126
342600
2040
Mám rád květiny. No tak.
05:57
To teachučit a systemSystém
how to playhrát si a gamehra like Go,
127
345440
2856
Abychom naučili hrát systém hru jako Go,
06:00
I'd have it playhrát si thousandstisíce of gameshry of Go,
128
348320
2056
musel bych hrát tisíce her Go,
06:02
but in the processproces I alsotaké teachučit it
129
350400
1656
ale v průběhu je také učím,
06:04
how to discernrozeznat
a good gamehra from a badšpatný gamehra.
130
352080
2416
jak rozpoznat dobrou hru od špatné.
06:06
If I want to createvytvořit an artificiallyuměle
intelligentinteligentní legalprávní assistantasistent,
131
354520
3696
Pokud chci stvořit uměle inteligentního
právního asistenta,
06:10
I will teachučit it some corpuskorpus of lawzákon
132
358240
1776
naučím jej část práva,
06:12
but at the samestejný time I am fusingfixace with it
133
360040
2856
ale současně mu dávám
06:14
the sensesmysl of mercymilosrdenství and justicespravedlnost
that is partčást of that lawzákon.
134
362920
2880
smysl pro soucit a spravedlnost,
které jsou součástí práva.
06:18
In scientificvědecký termspodmínky,
this is what we call groundpřízemní truthpravda,
135
366560
2976
Terminologií vědy to nazýváme
základní pravda
06:21
and here'stady je the importantdůležité pointbod:
136
369560
2016
a zde je to důležité:
06:23
in producingprodukovat these machinesstrojů,
137
371600
1456
při vytváření těchto strojů
06:25
we are thereforeproto teachingvýuka them
a sensesmysl of our valueshodnoty.
138
373080
3416
jim učením dáváme smysl pro hodnoty.
06:28
To that endkonec, I trustdůvěra
an artificialumělý intelligenceinteligence
139
376520
3136
Věřím umělé inteligenci stejně,
06:31
the samestejný, if not more,
as a humančlověk who is well-traineddobře vyškolených.
140
379680
3640
ne-li více, jako dobře vyškolené osobě.
06:36
But, you maysmět askdotázat se,
141
384080
1216
Můžete se ale zeptat,
06:37
what about rogueRogue agentsagentů,
142
385320
2616
a co nezávislí agenti,
06:39
some well-fundedmovitějších
nongovernmentnelíčený organizationorganizace?
143
387960
3336
třeba dobře financované
nevládní organizace?
06:43
I do not fearstrach an artificialumělý intelligenceinteligence
in the handruka of a loneosamělý wolfvlk.
144
391320
3816
Nebojím se umělé inteligence
v rukou osamělého vlka.
06:47
ClearlyJasně, we cannotnemůže protectchránit ourselvessebe
againstproti all randomnáhodný actsakty of violencenásilí,
145
395160
4536
Je zřejmé, že se nemůžeme chránit
proti všem náhodným násilným činům,
06:51
but the realityrealita is suchtakový a systemSystém
146
399720
2136
ale realita je systém, vyžadující
06:53
requiresvyžaduje substantialpodstatné trainingvýcvik
and subtlejemné trainingvýcvik
147
401880
3096
hodně a přesný trénink,
06:57
fardaleko beyondmimo the resourceszdroje of an individualindividuální.
148
405000
2296
který je mimo možnosti jednotlivců.
06:59
And furthermorenavíc,
149
407320
1216
A navíc,
07:00
it's fardaleko more than just injectingnástřikem
an internetInternet virusvirus to the worldsvět,
150
408560
3256
je to mnohem více než jen vypustit
do světa internetový virus,
07:03
where you pushTAM a buttontlačítko,
all of a suddennáhlý it's in a millionmilión placesmísta
151
411840
3096
který se stisknutím tlačítka ihned
objeví na milionech míst
07:06
and laptopsnotebooky startStart blowingfoukání up
all over the placemísto.
152
414960
2456
a laptopy začnou všude vybuchovat.
07:09
Now, these kindsdruhy of substanceslátky
are much largervětší,
153
417440
2816
Tento typ prostředků je mnohem větší
07:12
and we'lldobře certainlyrozhodně see them comingpříchod.
154
420280
1715
a určitě je uvidíme přicházet.
07:14
Do I fearstrach that suchtakový
an artificialumělý intelligenceinteligence
155
422520
3056
Bojím se, že by takováto umělá inteligence
07:17
mightmohl threatenohrožují all of humanitylidstvo?
156
425600
1960
mohla ohrozit celé lidstvo?
07:20
If you look at moviesfilmy
suchtakový as "The MatrixMatice," "MetropolisMetropolis,"
157
428280
4376
Když shlédnete filmy
jako "Matrix", "Metropolis"
07:24
"The TerminatorTerminátor,"
showsukazuje suchtakový as "WestworldWestworld,"
158
432680
3176
"Terminátor", seriály jako "Westworld,"
07:27
they all speakmluvit of this kinddruh of fearstrach.
159
435880
2136
všechny hovoří o tomto typu strachu.
07:30
IndeedSkutečně, in the bookrezervovat "SuperintelligenceSuperinteligence"
by the philosopherfilozof NickNick BostromBostrom,
160
438040
4296
V knize "Superinteligence"
filozofa Nicka Bostroma
07:34
he picksvyskladnění up on this themetéma
161
442360
1536
vyzvedává toto téma
07:35
and observesdodržuje that a superintelligencesuperinteligence
mightmohl not only be dangerousnebezpečný,
162
443920
4016
a poznamenává, že superinteligence
může být nejenom nebezpečná,
07:39
it could representzastupovat an existentialexistenciální threatohrožení
to all of humanitylidstvo.
163
447960
3856
ale může znamenat existenční hrozbu
celému lidstvu.
07:43
DrDr. Bostrom'sBostrom si basiczákladní argumentargument
164
451840
2216
Základním argumentem Dr. Bostroma je,
07:46
is that suchtakový systemssystémy will eventuallynakonec
165
454080
2736
že takový systém bude nakonec mít
07:48
have suchtakový an insatiablenenasytná
thirstžízeň for informationinformace
166
456840
3256
neukojitelný hlad po informacích,
07:52
that they will perhapsmožná learnUčit se how to learnUčit se
167
460120
2896
že se nakonec naučí jak se učit
07:55
and eventuallynakonec discoverobjevit
that they maysmět have goalscíle
168
463040
2616
a zjistí, že mohou mít cíle,
07:57
that are contrarysol nemovitÝ PE sol A4 Bayonite об Betite об 00 обяваos ,м обява обм об postранилия мек обр обм to humančlověk needspotřeby.
169
465680
2296
které jsou v protikladu
s potřebami člověka.
08:00
DrDr. BostromBostrom has a numberčíslo of followersSledující.
170
468000
1856
Dr. Bostrom má mnoho následovníků.
08:01
He is supportedpodporovány by people
suchtakový as ElonElon MuskMusk and StephenStephen HawkingSokolnictví.
171
469880
4320
Podporují jej lidé jako
Elon Musk a Stephen Hawking.
08:06
With all duez důvodu respectrespekt
172
474880
2400
Se vší úctou
08:10
to these brilliantbrilantní mindsmysli,
173
478160
2016
k těmto brilantním mozkům věřím,
08:12
I believe that they
are fundamentallyzásadně wrongšpatně.
174
480200
2256
že se zásadně mýlí.
08:14
Now, there are a lot of pieceskousky
of DrDr. Bostrom'sBostrom si argumentargument to unpackRozbalit,
175
482480
3176
Je zde mnoho částí argumentů
dr. Bostroma k diskusi
08:17
and I don't have time to unpackRozbalit them all,
176
485680
2136
a já nemám čas se jim všem věnovat,
08:19
but very brieflyKrátce, considerzvážit this:
177
487840
2696
ale jen stručně zvažte toto:
08:22
supersuper knowingvědět is very differentodlišný
than supersuper doing.
178
490560
3736
super vědění je velmi odlišné
od super konání.
08:26
HALHAL was a threatohrožení to the DiscoveryObjev crewposádka
179
494320
1896
HAL byl hrozbou posádce Discovery
08:28
only insofarPokud as HALHAL commandedvelel
all aspectsaspekty of the DiscoveryObjev.
180
496240
4416
jen dokud ovládal všechny části Discovery.
08:32
So it would have to be
with a superintelligencesuperinteligence.
181
500680
2496
Tak by to mohlo být i se superinteligencí.
08:35
It would have to have dominionDominion
over all of our worldsvět.
182
503200
2496
Musel by to být vládce
celého našeho světa.
08:37
This is the stuffvěci of SkynetSkynet
from the moviefilm "The TerminatorTerminátor"
183
505720
2816
To je Skynet z filmu "Terminátor",
08:40
in whichkterý we had a superintelligencesuperinteligence
184
508560
1856
ve kterém byla superinteligence,
08:42
that commandedvelel humančlověk will,
185
510440
1376
která velela lidské vůli,
08:43
that directedřízené everykaždý devicepřístroj
that was in everykaždý cornerroh of the worldsvět.
186
511840
3856
která řídila každé zařízení,
v každém koutku světa.
08:47
PracticallyPrakticky speakingmluvení,
187
515720
1456
Prakticky,
08:49
it ain'tnení gonna happenpřihodit se.
188
517200
2096
to se prostě nestane.
08:51
We are not buildingbudova AIsAIs
that controlřízení the weatherpočasí,
189
519320
3056
Nestavíme AI, které ovládají počasí,
08:54
that directPřímo the tidespřílivu a odlivu,
190
522400
1336
řídí vlny,
08:55
that commandpříkaz us
capriciousrozmarná, chaoticchaotický humanslidem.
191
523760
3376
které řídí nás, rozmarné, chaotické lidi.
08:59
And furthermorenavíc, if suchtakový
an artificialumělý intelligenceinteligence existedexistovala,
192
527160
3896
Navíc pokud by taková
umělá inteligence existovala,
09:03
it would have to competesoutěžit
with humančlověk economieshospodářství,
193
531080
2936
bude muset soupeřit
s lidskými ekonomikami
09:06
and therebytím competesoutěžit for resourceszdroje with us.
194
534040
2520
a soupeřit s námi o zdroje.
09:09
And in the endkonec --
195
537200
1216
Nakonec --
09:10
don't tell SiriSiri this --
196
538440
1240
neříkejte to Siri --
vždycky je můžeme
odpojit ze zásuvky.
09:12
we can always unplugodpojit them.
197
540440
1376
09:13
(LaughterSmích)
198
541840
2120
(smích)
09:17
We are on an incredibleneuvěřitelný journeycesta
199
545360
2456
Jsme na neuvěřitelné cestě
09:19
of coevolutioncoevolution with our machinesstrojů.
200
547840
2496
koevoluce s našimi stroji.
09:22
The humanslidem we are todaydnes
201
550360
2496
Lidé dneška
09:24
are not the humanslidem we will be then.
202
552880
2536
nejsou lidé, kteří budou v budoucnu.
09:27
To worrytrápit se now about the risevzestup
of a superintelligencesuperinteligence
203
555440
3136
Obávat se nyní vzestupu superinteligence
09:30
is in manymnoho wayszpůsoby a dangerousnebezpečný distractionrozptýlení
204
558600
3056
je v mnoha ohledech nebezpečné rozptýlení,
09:33
because the risevzestup of computingvýpočetní itselfsám
205
561680
2336
protože sám vzestup počítačů
09:36
bringspřináší to us a numberčíslo
of humančlověk and societalspolečenské issuesproblémy
206
564040
3016
sebou přináší mnohé
lidské a společenské otázky,
09:39
to whichkterý we mustmusí now attendnavštěvovat.
207
567080
1640
kterým se nyní musíme věnovat.
09:41
How shallmusí I bestnejlepší organizeorganizovat societyspolečnost
208
569360
2816
Jak nejlépe zorganizovat společnost,
09:44
when the need for humančlověk laborpráce diminisheszmenšuje?
209
572200
2336
když se zmenší potřeba lidské práce?
09:46
How can I bringpřinést understandingporozumění
and educationvzdělání throughoutpo celou dobu the globezeměkoule
210
574560
3816
Jak mohu přinést porozumění
a vzdělávání napříč zeměkoulí
09:50
and still respectrespekt our differencesrozdíly?
211
578400
1776
a stále respektovat naše odlišnosti?
09:52
How mightmohl I extendrozšířit and enhancezlepšit humančlověk life
throughpřes cognitivepoznávací healthcarezdravotní péče?
212
580200
4256
Jak mohu rozšířit a podpořit lidský život
pomocí kognitivní zdravotní péče?
09:56
How mightmohl I use computingvýpočetní
213
584480
2856
Jak mohu použít počítače,
09:59
to help take us to the starshvězdy?
214
587360
1760
aby nám pomohly dostat se ke hvězdám?
10:01
And that's the excitingvzrušující thing.
215
589760
2040
A to je vzrušující.
10:04
The opportunitiespříležitostí to use computingvýpočetní
216
592400
2336
Příležitosti využít počítače
10:06
to advancezáloha the humančlověk experienceZkusenosti
217
594760
1536
k lidskému pokroku
10:08
are withinv rámci our reachdosáhnout,
218
596320
1416
jsou v našem dosahu,
10:09
here and now,
219
597760
1856
zde a nyní,
10:11
and we are just beginningzačátek.
220
599640
1680
a to jsme teprve na začátku.
10:14
Thank you very much.
221
602280
1216
Děkuji.
10:15
(ApplausePotlesk)
222
603520
4286
(potlesk)
Translated by Katerina Jaburkova
Reviewed by Richard Cvach

▲Back to top

ABOUT THE SPEAKER
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.

Why you should listen

When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.

A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.

Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.

More profile about the speaker
Grady Booch | Speaker | TED.com