TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Não temam a Inteligência Artificial superinteligente
Filmed:
Readability: 4.7
2,866,438 views
A tecnologia nova gera ansiedades novas, diz o cientista e filósofo Grady Booch, mas não precisamos de temer a Inteligência Artificial todo-poderosa e insensível. Booch tranquiliza os nossos piores temores (induzidos pela ficção científica) sobre computadores superinteligentes, explicando como vamos ensiná-los, não a programá-los, a partilhar os nossos valores. Em vez de se preocupar com uma improvável ameaça existencial, ele exorta-nos a considerar como é que a inteligência artificial vai melhorar a vida humana.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Quando eu era miúdo,
era um grandessíssimo "nerd".
era um grandessíssimo "nerd".
00:17
I think some of you were, too.
1
5320
2176
Acho que alguns de vocês também eram.
00:19
(Laughter)
2
7520
1216
(Risos)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
E o senhor, que riu mais alto,
provavelmente ainda é.
provavelmente ainda é.
00:24
(Laughter)
4
12000
2256
(Risos)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Cresci numa cidade pequena
nas planícies empoeiradas
do norte do Texas,
do norte do Texas,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
filho de um xerife
que era filho de um pastor.
que era filho de um pastor.
00:33
Getting into trouble was not an option.
7
21160
1920
Meter-me em sarilhos estava fora de causa.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Por isso, comecei a ler
livros de cálculo por diversão.
livros de cálculo por diversão.
00:39
(Laughter)
9
27320
1536
(Risos)
00:40
You did, too.
10
28880
1696
Vocês também fizeram isso.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Isso levou-me a construir um laser,
um computador e modelos de foguetões
um computador e modelos de foguetões
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
e levou-me a fazer combustível
para foguetões, no meu quarto.
para foguetões, no meu quarto.
00:49
Now, in scientific terms,
13
37960
3656
Em termos científicos,
00:53
we call this a very bad idea.
14
41640
3256
chamamos a isso uma ideia muito má.
00:56
(Laughter)
15
44920
1216
(Risos)
00:58
Around that same time,
16
46160
2176
Por volta dessa época,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
"2001: A Odisseia no Espaço", de
Stanley Kubrick, chegou ao cinema
Stanley Kubrick, chegou ao cinema
01:03
and my life was forever changed.
18
51600
2200
e a minha vida mudou para sempre.
01:06
I loved everything about that movie,
19
54280
2056
Adorei tudo naquele filme,
01:08
especially the HAL 9000.
20
56360
2536
especialmente o HAL 9000,
01:10
Now, HAL was a sentient computer
21
58920
2056
O HAL era um computador sensível
01:13
designed to guide the Discovery spacecraft
22
61000
2456
concebido para guiar a astronave Discovery
01:15
from the Earth to Jupiter.
23
63480
2536
da Terra para Júpiter.
01:18
HAL was also a flawed character,
24
66040
2056
O HAL também era
um personagem com defeitos,
um personagem com defeitos,
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
porque, no final, preferiu valorizar
a missão em vez da vida humana.
a missão em vez da vida humana.
01:24
Now, HAL was a fictional character,
26
72840
2096
O HAL era uma personagem fictícia,
01:26
but nonetheless he speaks to our fears,
27
74960
2656
mas, mesmo assim,
fala dos nossos medos,
fala dos nossos medos,
01:29
our fears of being subjugated
28
77640
2096
dos nossos medos de sermos subjugados
01:31
by some unfeeling, artificial intelligence
29
79760
3016
por alguma inteligência
insensível, artificial
insensível, artificial
01:34
who is indifferent to our humanity.
30
82800
1960
que é indiferente à nossa humanidade.
01:37
I believe that such fears are unfounded.
31
85880
2576
Acredito que tais medos são infundados.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
Na verdade, estamos numa época notável
01:43
in human history,
33
91200
1536
da história humana,
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
em que, impelidos pela recusa de aceitar
os limites do nosso corpo e da nossa mente,
os limites do nosso corpo e da nossa mente,
01:49
we are building machines
35
97760
1696
estamos a construir máquinas
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
de complexidade e graça
requintada e bonita
requintada e bonita
01:55
that will extend the human experience
37
103120
2056
que alargará a experiência humana
01:57
in ways beyond our imagining.
38
105200
1680
de formas para além da nossa imaginação.
Depois duma carreira que me levou
da Academia da Força Aérea
da Academia da Força Aérea
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
02:02
to Space Command to now,
40
110320
1936
até ao Comando Espacial, agora,
02:04
I became a systems engineer,
41
112280
1696
tornei-me engenheiro de sistemas,
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
e recentemente, envolvi-me
num problema de engenharia
num problema de engenharia
02:08
associated with NASA's mission to Mars.
43
116760
2576
associado à missão da NASA em Marte.
02:11
Now, in space flights to the Moon,
44
119360
2496
Em voos espaciais para a Lua,
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
podemos confiar no controlo
da missão em Houston
da missão em Houston
02:17
to watch over all aspects of a flight.
46
125040
1976
para observar todos os aspetos dum voo.
02:19
However, Mars is 200 times further away,
47
127040
3536
No entanto, Marte está
200 vezes mais longe
200 vezes mais longe
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
e, em resultado, são precisos
13 minutos, em média,
13 minutos, em média,
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
para um sinal viajar
da Terra até Marte.
da Terra até Marte.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Se houver problemas,
não há tempo suficiente.
não há tempo suficiente.
02:32
And so a reasonable engineering solution
51
140840
2496
Assim, uma solução razoável de engenharia
02:35
calls for us to put mission control
52
143360
2576
pede-nos para pôr o controlo da missão
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
dentro das paredes
da astronave Orion.
da astronave Orion.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Uma outra ideia fascinante,
no perfil da missão,
no perfil da missão,
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
coloca robôs humanoides
na superfície de Marte
na superfície de Marte
02:46
before the humans themselves arrive,
56
154840
1856
antes de os seres humanos chegarem,
02:48
first to build facilities
57
156720
1656
primeiro para construir instalações
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
e depois, para servir como membros
colaborativos da equipa de ciência
colaborativos da equipa de ciência
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Como olhei para isto
numa perspetiva de engenharia
numa perspetiva de engenharia
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
percebi rapidamente que aquilo
de que precisava para arquitetar
de que precisava para arquitetar
03:01
was a smart, collaborative,
61
169360
2176
era de uma inteligência artificial,
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
esperta, colaborativa
e socialmente inteligente.
e socialmente inteligente.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
Por outras palavras, tinha de construir
algo muito parecido com um HAL
algo muito parecido com um HAL
03:10
but without the homicidal tendencies.
64
178280
2416
mas sem tendências homicidas.
03:12
(Laughter)
65
180720
1360
(Risos)
03:14
Let's pause for a moment.
66
182920
1816
Vamos fazer uma pausa por um momento
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Será realmente possível construir
uma inteligência artificial assim?
uma inteligência artificial assim?
03:20
Actually, it is.
68
188680
1456
Na verdade, é.
03:22
In many ways,
69
190160
1256
De muitas formas,
03:23
this is a hard engineering problem
70
191440
1976
isso é um árduo problema de engenharia
03:25
with elements of AI,
71
193440
1456
com elementos de inteligência artificial,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
não um problema complicado de IA
que precisa de ser projetado.
que precisa de ser projetado.
03:31
To paraphrase Alan Turing,
73
199640
2656
Parafraseando Alan Turing,
não estou interessado
em construir uma máquina sensível.
em construir uma máquina sensível.
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
03:36
I'm not building a HAL.
75
204720
1576
Não estou a construir um HAL.
03:38
All I'm after is a simple brain,
76
206320
2416
Só estou a procurar um cérebro simples,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
algo que ofereça a ilusão de inteligência.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
A arte e a ciência da informática
têm percorrido um longo caminho
têm percorrido um longo caminho
03:48
since HAL was onscreen,
79
216160
1496
desde que o HAL esteve no ecrã
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
e imagino que, se o seu inventor
Dr. Chandra estivesse aqui hoje,
Dr. Chandra estivesse aqui hoje,
03:52
he'd have a whole lot of questions for us.
81
220920
2336
teria um monte de questões para nós.
03:55
Is it really possible for us
82
223280
2096
Será realmente possível
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
termos um sistema de milhões
e milhões de dispositivos,
e milhões de dispositivos,
04:01
to read in their data streams,
84
229440
1456
para ler nos fluxos de dados,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
prever as suas falhas
e agir com antecedência?
e agir com antecedência?
04:05
Yes.
86
233200
1216
É, sim.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
Podemos construir sistemas que conversam
com humanos em língua natural?
com humanos em língua natural?
04:09
Yes.
88
237640
1216
Podemos, sim.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
Podemos construir sistemas que
reconheçam objetos, identifiquem emoções,
reconheçam objetos, identifiquem emoções,
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
se emocionem,
joguem jogos e até leiam lábios?
joguem jogos e até leiam lábios?
04:17
Yes.
91
245280
1216
Podemos, sim.
04:18
Can we build a system that sets goals,
92
246520
2136
Podemos construir um sistema
que estabeleça metas,
que estabeleça metas,
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
que execute planos para essas metas
e aprenda ao longo do caminho?
e aprenda ao longo do caminho?
04:24
Yes.
94
252320
1216
Podemos, sim.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
Podemos construir sistemas
que tenham uma teoria de pensamento?
que tenham uma teoria de pensamento?
04:28
This we are learning to do.
96
256920
1496
Estamos a aprender a fazer isso.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Podemos construir sistemas que têm
um fundamento ético e moral?
um fundamento ético e moral?
04:34
This we must learn how to do.
98
262480
2040
Temos de aprender a fazer isso.
04:37
So let's accept for a moment
99
265360
1376
Vamos aceitar, por instantes,
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
que é possível construir
essa inteligência artificial
essa inteligência artificial
04:41
for this kind of mission and others.
101
269680
2136
para este tipo de missão e outros.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
A pergunta seguinte
que devemos fazer é:
que devemos fazer é:
04:46
should we fear it?
103
274400
1456
Devemos ter medo dela?
04:47
Now, every new technology
104
275880
1976
Cada nova tecnologia
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
traz consigo uma certa trepidação.
04:52
When we first saw cars,
106
280800
1696
Quando viram carros pela primeira vez,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
as pessoas queixaram-se
de que veríamos a destruição da família.
de que veríamos a destruição da família.
04:58
When we first saw telephones come in,
108
286560
2696
Quando viram os telefones,
pela primeira vez,
pela primeira vez,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
as pessoas recearam que fossem
destruir toda a conversação civil.
destruir toda a conversação civil.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
A certa altura, vimos a palavra escrita
tornar-se universal.
tornar-se universal.
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
As pessoas pensaram perder
a capacidade de memorizar.
a capacidade de memorizar.
05:10
These things are all true to a degree,
112
298680
2056
Tudo isto é verdade, até certo ponto,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
mas acontece também que essas tecnologias
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
trouxeram-nos coisas
que ampliaram a experiência humana
que ampliaram a experiência humana
05:18
in some profound ways.
115
306600
1880
de formas profundas.
05:21
So let's take this a little further.
116
309840
2280
Então, vamos levar isso
um pouco mais longe.
um pouco mais longe.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Eu não temo a criação
duma IA como esta,
duma IA como esta,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
porque ela acabará por incorporar
alguns dos nossos valores.
alguns dos nossos valores.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Considerem isto: construir um sistema
cognitivo é totalmente diferente
cognitivo é totalmente diferente
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
de construir um sistema tradicional
de software intensivo do passado.
de software intensivo do passado.
05:40
We don't program them. We teach them.
121
328560
2456
Não os programamos. Ensinamo-los.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Para ensinar um sistema
a reconhecer flores,
a reconhecer flores,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
mostro-lhe milhares de flores
dos tipos que gosto.
dos tipos que gosto.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Para ensinar um sistema
a jogar um jogo...
a jogar um jogo...
05:51
Well, I would. You would, too.
125
339040
1960
— bem, eu ensinaria,
vocês também ensinariam.
vocês também ensinariam.
05:54
I like flowers. Come on.
126
342600
2040
Adoro flores. Vamos lá.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Para ensinar um sistema
a jogar um jogo como o Go,
a jogar um jogo como o Go,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
deixá-lo-ia jogar
milhares de jogos do Go,
milhares de jogos do Go,
06:02
but in the process I also teach it
129
350400
1656
mas no processo também lhe ensino
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
como discernir um jogo bom
de um jogo mau.
de um jogo mau.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Se eu quiser criar um assistente legal
artificialmente inteligente,
artificialmente inteligente,
06:10
I will teach it some corpus of law
132
358240
1776
vou ensinar-lhe algumas noções de leis
06:12
but at the same time I am fusing with it
133
360040
2856
mas, ao mesmo tempo,
estou a introduzir-lhe
estou a introduzir-lhe
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
o sentido de piedade e de justiça
que faz parte dessas leis.
que faz parte dessas leis.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
Em termos científicos, é aquilo
a que chamamos verdade fundamental,
a que chamamos verdade fundamental,
06:21
and here's the important point:
136
369560
2016
e este é o ponto importante:
06:23
in producing these machines,
137
371600
1456
ao produzir estas máquinas,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
estamos a ensinar-lhes
um sentido dos nossos valores.
um sentido dos nossos valores.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Para esse fim, confio tanto
numa inteligência artificial,
numa inteligência artificial,
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
— ou mesmo mais — do que
num ser humano que é bem formado.
num ser humano que é bem formado.
06:36
But, you may ask,
141
384080
1216
Mas podem perguntar:
06:37
what about rogue agents,
142
385320
2616
"E quanto a agentes desonestos,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
"a alguma organização
não governamental bem financiada?"
não governamental bem financiada?"
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
Eu não temo uma inteligência artificial
na mão de um lobo solitário.
na mão de um lobo solitário.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Claramente, não conseguimos proteger-nos
contra todos os atos
fortuitos de violência,
fortuitos de violência,
06:51
but the reality is such a system
146
399720
2136
mas a realidade é que um sistema destes
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
requer formação substancial
e formação subtil
e formação subtil
06:57
far beyond the resources of an individual.
148
405000
2296
muito para além
dos recursos de um indivíduo.
dos recursos de um indivíduo.
06:59
And furthermore,
149
407320
1216
E além disso,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
é muito mais do que injetar
um vírus de Internet no mundo
um vírus de Internet no mundo
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
em que apertamos um botão,
e ele aparece num milhão de lugares
e ele aparece num milhão de lugares
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
e os portáteis começam a explodir
por toda a parte.
por toda a parte.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Estes tipos de substância
são muito maiores,
são muito maiores,
07:12
and we'll certainly see them coming.
154
420280
1715
e certamente vamos vê-los chegar.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Será que receio
que essa inteligência artificial
que essa inteligência artificial
07:17
might threaten all of humanity?
156
425600
1960
possa ameaçar toda a humanidade?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Se olharmos para filmes
como "The Matrix", "Metropolis",
como "The Matrix", "Metropolis",
"O Exterminador Implacável",
séries como "Westworld",
séries como "Westworld",
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
07:27
they all speak of this kind of fear.
159
435880
2136
todos falam desse tipo de medo.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
De facto, no livro "Superintelligence"
do filósofo Nick Bostrom,
do filósofo Nick Bostrom,
07:34
he picks up on this theme
161
442360
1536
ele pega neste tema
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
e nota que uma superinteligência
pode não só ser perigosa,
pode não só ser perigosa,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
pode representar uma ameaça existencial
para toda a humanidade.
para toda a humanidade.
07:43
Dr. Bostrom's basic argument
164
451840
2216
O argumento básico do Dr. Bostrom
07:46
is that such systems will eventually
165
454080
2736
é que tais sistemas vão acabar por ter
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
uma tal ânsia insaciável de informação
07:52
that they will perhaps learn how to learn
167
460120
2896
que talvez aprendam como aprender
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
e acabem por descobrir
que podem ter metas
que podem ter metas
07:57
that are contrary to human needs.
169
465680
2296
que são contrárias
às necessidades humanas.
às necessidades humanas.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
O Dr. Bostrom tem muitos seguidores.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
É apoiado por pessoas como
Elon Musk e Stephen Hawking.
Elon Musk e Stephen Hawking.
08:06
With all due respect
172
474880
2400
Com o devido respeito
08:10
to these brilliant minds,
173
478160
2016
a essas mentes brilhantes,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
acho que estão fundamentalmente errados.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Há muitas peças do argumento
do Dr. Bostrom para desmontar,
do Dr. Bostrom para desmontar,
08:17
and I don't have time to unpack them all,
176
485680
2136
mas não tenho tempo
para desmontá-las a todas,
para desmontá-las a todas,
08:19
but very briefly, consider this:
177
487840
2696
mas muito rapidamente,
considerem isto:
considerem isto:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
o super conhecimento
é muito diferente da super ação.
é muito diferente da super ação.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
O HAL só foi uma ameaça
para a tripulação do Discovery
para a tripulação do Discovery
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
na medida em que o HAL comandava
todos os aspetos do Discovery.
todos os aspetos do Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Então teria de ser com
superinteligência.
superinteligência.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Teria que ter o domínio
sobre todo o nosso mundo.
sobre todo o nosso mundo.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Isto é o material do Skynet
de “O Exterminador Implacável”
de “O Exterminador Implacável”
08:40
in which we had a superintelligence
184
508560
1856
em que tínhamos uma superinteligência
08:42
that commanded human will,
185
510440
1376
que comandava a vontade humana,
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
que dirigia todos os dispositivos
que estavam pelo mundo inteiro.
que estavam pelo mundo inteiro.
08:47
Practically speaking,
187
515720
1456
Em termos práticos,
08:49
it ain't gonna happen.
188
517200
2096
isso não vai acontecer.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Não estamos a construir IA
que controlam o tempo,
que controlam o tempo,
08:54
that direct the tides,
190
522400
1336
que dirigem as marés,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
que comandam os seres humanos
caprichosos e caóticos.
caprichosos e caóticos.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
E além disso, se existisse
tal inteligência artificial,
tal inteligência artificial,
teria de competir com economias humanas,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
09:06
and thereby compete for resources with us.
194
534040
2520
e, portanto, competir connosco
pelos recursos.
pelos recursos.
09:09
And in the end --
195
537200
1216
E, no final,
09:10
don't tell Siri this --
196
538440
1240
— não digam isto ao Siri —
09:12
we can always unplug them.
197
540440
1376
podemos sempre desligá-los.
09:13
(Laughter)
198
541840
2120
(Risos)
09:17
We are on an incredible journey
199
545360
2456
Estamos numa viagem incrível
09:19
of coevolution with our machines.
200
547840
2496
de coevolução com as nossas máquinas.
09:22
The humans we are today
201
550360
2496
Os seres humanos que somos hoje
09:24
are not the humans we will be then.
202
552880
2536
não são os seres humanos
que seremos depois.
que seremos depois.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Preocuparmo-nos agora com o aparecimento
duma superinteligência
duma superinteligência
09:30
is in many ways a dangerous distraction
204
558600
3056
é, em muitos aspetos,
uma diversão perigosa.
uma diversão perigosa.
09:33
because the rise of computing itself
205
561680
2336
porque o aparecimento
da própria informática
da própria informática
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
traz-nos uma série
de questões humanas e sociais
de questões humanas e sociais
09:39
to which we must now attend.
207
567080
1640
às quais devemos agora dar atenção.
09:41
How shall I best organize society
208
569360
2816
Como é que organizo melhor a sociedade
09:44
when the need for human labor diminishes?
209
572200
2336
quando a necessidade
de trabalho humano diminui?
de trabalho humano diminui?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Como posso trazer compreensão
e educação a todo o mundo
e educação a todo o mundo
09:50
and still respect our differences?
211
578400
1776
sem desrespeitar as nossas diferenças?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Como posso ampliar e melhorar a vida humana
através da assistência médica cognitiva?
através da assistência médica cognitiva?
09:56
How might I use computing
213
584480
2856
Como posso usar a informática
09:59
to help take us to the stars?
214
587360
1760
para nos levar às estrelas?
10:01
And that's the exciting thing.
215
589760
2040
E esta é a coisa excitante.
10:04
The opportunities to use computing
216
592400
2336
As oportunidades de usar a informática
10:06
to advance the human experience
217
594760
1536
para fazer avançar a experiência humana
10:08
are within our reach,
218
596320
1416
estão ao nosso alcance,
aqui e agora,
aqui e agora,
10:09
here and now,
219
597760
1856
10:11
and we are just beginning.
220
599640
1680
e estamos apenas a começar.
10:14
Thank you very much.
221
602280
1216
Muito obrigado.
10:15
(Applause)
222
603520
4286
(Aplausos)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com