TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: Podemos construir IA sem perder o controlo?
Filmed:
Readability: 4.1
5,024,015 views
Assustado com a IA superinteligente? Devia estar, diz o neurocientista e filosofo Sam Harris — e não apenas teoricamente. Vamos construir máquinas super-humanas, diz Harris, mas ainda não lidámos com os problemas associados com a criação de uma coisa que nos poderá tratar do mesmo modo como tratamos as formigas.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
Eu vou falar de uma falha de intuição
00:15
that many of us suffer from.
1
3240
1600
de que muitos de nós sofremos.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
É uma falha em detetar
um certo tipo de perigo.
um certo tipo de perigo.
00:21
I'm going to describe a scenario
3
9360
1736
Vou descrever um cenário
00:23
that I think is both terrifying
4
11120
3256
que considero tão aterrador
00:26
and likely to occur,
5
14400
1760
como provável de acontecer.
00:28
and that's not a good combination,
6
16840
1656
Acontece que isto
não é uma boa combinação.
não é uma boa combinação.
00:30
as it turns out.
7
18520
1536
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
No entanto, em vez de assustados,
a maioria de vocês acha
que aquilo de que estou a falar é fixe.
que aquilo de que estou a falar é fixe.
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
Eu vou descrever
como as vantagens obtidas
como as vantagens obtidas
00:40
in artificial intelligence
11
28200
1776
com a inteligência artificial
00:42
could ultimately destroy us.
12
30000
1776
podem acabar por nos destruir.
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
Penso que é muito difícil
ver como não nos vão destruir
ver como não nos vão destruir
ou inspirar a destruirmo-nos a nós mesmos.
00:47
or inspire us to destroy ourselves.
14
35280
1680
00:49
And yet if you're anything like me,
15
37400
1856
Mas se vocês forem
minimamente como eu,
minimamente como eu,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
vão descobrir que é divertido
pensar nestas coisas.
pensar nestas coisas.
00:53
And that response is part of the problem.
17
41960
3376
Essa resposta faz parte do problema.
00:57
OK? That response should worry you.
18
45360
1720
Essa resposta devia preocupar-vos.
00:59
And if I were to convince you in this talk
19
47920
2656
Se eu vos convencesse nesta palestra
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
que vamos, provavelmente,
sofrer uma fome mundial,
sofrer uma fome mundial,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
devido à mudança climática
ou devido a alguma outra catástrofe,
ou devido a alguma outra catástrofe,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
e que os vossos netos,
ou os netos deles,
ou os netos deles,
01:12
are very likely to live like this,
23
60560
1800
têm a probabilidade de viver assim,
01:15
you wouldn't think,
24
63200
1200
não pensariam:
01:17
"Interesting.
25
65440
1336
"Que interessante.
01:18
I like this TED Talk."
26
66800
1200
"Gosto desta palestra TED."
01:21
Famine isn't fun.
27
69200
1520
A fome não tem graça.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
Mas a morte pela ficção científica
é divertida.
é divertida.
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
Uma das coisas que mais me preocupa
no desenvolvimento da IA, neste ponto,
no desenvolvimento da IA, neste ponto,
é que parecemos incapazes de mobilizar
uma resposta emocional apropriada
uma resposta emocional apropriada
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
01:35
to the dangers that lie ahead.
31
83320
1816
para os perigos que nos esperam.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Sou incapaz de conseguir esta resposta,
e estou a fazer esta palestra.
e estou a fazer esta palestra.
01:42
It's as though we stand before two doors.
33
90120
2696
É como se estivéssemos diante
de duas portas.
de duas portas.
01:44
Behind door number one,
34
92840
1256
Atrás da porta número um,
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
deixamos de fazer progressos
na construção de máquinas inteligentes.
na construção de máquinas inteligentes.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
O hardware e o software dos computadores
deixam de melhorar, por alguma razão.
deixam de melhorar, por alguma razão.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Agora, pensem um momento
na razão de isto poder acontecer.
na razão de isto poder acontecer.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Ou seja, sendo a inteligência
e a automação tão valiosas,
e a automação tão valiosas,
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
vamos continuar a melhorar
a tecnologia, se formos capazes disso.
a tecnologia, se formos capazes disso.
02:05
What could stop us from doing this?
40
113200
1667
O que é que nos pode impedir de o fazer?
02:07
A full-scale nuclear war?
41
115800
1800
Uma guerra nuclear a larga escala?
02:11
A global pandemic?
42
119000
1560
Uma pandemia mundial?
02:14
An asteroid impact?
43
122320
1320
O impacto de um asteroide?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Justin Bieber tornar-se
presidente dos EUA?
presidente dos EUA?
02:20
(Laughter)
45
128240
2280
(Risos)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
A questão é, algo teria de destruir
a civilização, tal como a conhecemos
a civilização, tal como a conhecemos
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Temos que imaginar
quão mau teria que ser
quão mau teria que ser
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
para nos impedir de fazer
melhoramentos na tecnologia
melhoramentos na tecnologia
02:37
permanently,
49
145040
1216
de forma permanente,
02:38
generation after generation.
50
146280
2016
geração após geração.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Quase por definição,
isto é a pior coisa
isto é a pior coisa
02:42
that's ever happened in human history.
52
150480
2016
que já aconteceu na história
da Humanidade.
da Humanidade.
02:44
So the only alternative,
53
152520
1296
Por isso, a única alternativa,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
— e é o que está detrás da porta dois —
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
é que continuemos a melhorar
as nossas máquinas inteligentes
as nossas máquinas inteligentes
02:51
year after year after year.
56
159360
1600
ano após ano após ano.
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
A certa altura, iremos construir
máquinas mais inteligentes que nós,
máquinas mais inteligentes que nós,
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
e assim que tivermos máquinas
mais inteligentes que nós,
mais inteligentes que nós,
03:00
they will begin to improve themselves.
59
168720
1976
elas vão começar
a melhorar-se a si mesmas.
a melhorar-se a si mesmas.
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
Então arriscamo-nos ao que
o matemático I.J. Good chamou
o matemático I.J. Good chamou
03:05
an "intelligence explosion,"
61
173480
1776
uma "explosão de inteligência,"
03:07
that the process could get away from us.
62
175280
2000
que o processo poderá
sair das nossas mãos.
sair das nossas mãos.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Isto é normalmente caricaturado,
como vemos aqui,
como vemos aqui,
03:12
as a fear that armies of malicious robots
64
180960
3216
como o medo de que tropas
de robôs malignos nos vão atacar.
de robôs malignos nos vão atacar.
03:16
will attack us.
65
184200
1256
03:17
But that isn't the most likely scenario.
66
185480
2696
Mas este não é o cenário
mais provável.
mais provável.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
As nossas máquinas não se tornarão
espontaneamente maléficas.
espontaneamente maléficas.
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
O problema é se
construímos máquinas
construímos máquinas
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
que são muito mais
competentes que nós
competentes que nós
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
que à mínima divergência
entre os seus objetivos e os nossos
entre os seus objetivos e os nossos
03:33
could destroy us.
71
201600
1200
podem destruir-nos.
03:35
Just think about how we relate to ants.
72
203960
2080
Basta pensar na nossa
ligação às formigas.
ligação às formigas.
03:38
We don't hate them.
73
206600
1656
Não as odiamos.
03:40
We don't go out of our way to harm them.
74
208280
2056
Não saímos do nosso caminho
para as magoar.
para as magoar.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
Até fazemos o necessário
para não as magoar.
para não as magoar.
03:44
We step over them on the sidewalk.
76
212760
2016
Passamos por cima delas
no passeio.
no passeio.
03:46
But whenever their presence
77
214800
2136
Mas quando a sua presença
03:48
seriously conflicts with one of our goals,
78
216960
2496
representa um conflito
com um dos nossos objetivos,
com um dos nossos objetivos,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
digamos, quando construindo
um edifício como este,
um edifício como este,
03:53
we annihilate them without a qualm.
80
221981
1960
eliminamo-las sem hesitação.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
O problema é que iremos
um dia construir máquinas
um dia construir máquinas
03:59
that, whether they're conscious or not,
82
227440
2736
que, conscientes ou não,
04:02
could treat us with similar disregard.
83
230200
2000
podem tratar-nos com
o mesmo desprezo.
o mesmo desprezo.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Suspeito que isto pareça
exagerado para a maioria.
exagerado para a maioria.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Aposto que são os mesmos que duvidam
da possibilidade duma IA superinteligente,
da possibilidade duma IA superinteligente,
04:15
much less inevitable.
86
243720
1656
e, mais ainda, inevitável.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Então, devem encontrar algo de errado
nas seguintes premissas.
nas seguintes premissas.
04:21
And there are only three of them.
88
249044
1572
Só existem três.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
A inteligência é uma questão
de processamento de informação
de processamento de informação
em sistemas físicos.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
Na verdade, isto é mais
que uma premissa.
que uma premissa.
Já construímos inteligência
limitada nas nossas máquinas,
limitada nas nossas máquinas,
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
04:35
and many of these machines perform
92
263440
2016
e muitas dessas máquinas já funcionam
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
a um nível de inteligência super-humana.
04:40
And we know that mere matter
94
268840
2576
Sabemos que mera matéria
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
pode dar origem ao que chamamos
"inteligência geral,"
"inteligência geral,"
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
a capacidade de pensar flexivelmente
em múltiplos domínios,
em múltiplos domínios,
04:49
because our brains have managed it. Right?
97
277760
3136
porque o nosso cérebros conseguiu isso.
04:52
I mean, there's just atoms in here,
98
280920
3936
Quero dizer, aqui só há átomos.
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
Enquanto continuamos a construir
sistemas de átomos
sistemas de átomos
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
que demonstram cada vez mais
um comportamento inteligente,
um comportamento inteligente,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
acabaremos — a não ser
que sejamos interrompidos —
que sejamos interrompidos —
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
acabaremos por construir
inteligência geral
inteligência geral
05:10
into our machines.
103
298080
1296
nas nossas máquinas.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
É crucial entender que a velocidade
do progresso não importa,
do progresso não importa,
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
pois qualquer progresso
é suficiente para nos levar ao final.
é suficiente para nos levar ao final.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Não precisamos da Lei de Moore
nem de progresso exponencial
nem de progresso exponencial
para continuar.
05:22
We just need to keep going.
107
310080
1600
Só precisamos de continuar.
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
A segunda premissa
é que iremos continuar.
é que iremos continuar.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Continuaremos a melhorar
as nossas máquinas inteligentes.
as nossas máquinas inteligentes.
05:33
And given the value of intelligence --
110
321000
4376
E devido ao valor da inteligência
— quer dizer, inteligência ou é
a fonte de tudo que valorizamos
a fonte de tudo que valorizamos
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
ou precisamos dela para
salvaguardar tudo o que valorizamos.
salvaguardar tudo o que valorizamos.
05:43
It is our most valuable resource.
113
331760
2256
É o nosso recurso mais valioso.
05:46
So we want to do this.
114
334040
1536
Por isso, queremos fazer isto.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
Temos problemas que queremos
desesperadamente resolver.
desesperadamente resolver.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Queremos curar doenças
como Alzheimer ou cancro.
como Alzheimer ou cancro.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Queremos entender sistemas económicos
e melhorar a nossa ciência climatérica.
e melhorar a nossa ciência climatérica.
05:58
So we will do this, if we can.
118
346920
2256
Por isso iremos fazê-lo,
se conseguirmos,
se conseguirmos,
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
O comboio já saiu da estação,
e não há travão para acionar.
e não há travão para acionar.
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
Finalmente, não estamos
num pico da inteligência,
num pico da inteligência,
06:11
or anywhere near it, likely.
121
359360
1800
provavelmente, nem perto dela.
06:13
And this really is the crucial insight.
122
361640
1896
E isto é a visão crucial.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
Isto é o que torna
a nossa situação tão precária.
a nossa situação tão precária.
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
Isto é o que torna tão incertas
as nossas intuições de risco.
as nossas intuições de risco.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Agora, pensem na pessoa
mais inteligente de sempre.
mais inteligente de sempre.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
Na lista de quase toda a gente
está John von Neumann.
está John von Neumann.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
A impressão que von Neumann
deixou nas pessoas ao seu redor,
deixou nas pessoas ao seu redor,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
incluindo os melhores
matemáticos e físicos do seu tempo,
matemáticos e físicos do seu tempo,
06:37
is fairly well-documented.
129
385520
1936
está bem documentada.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Se metade das histórias sobre ele
são meio verdadeiras,
são meio verdadeiras,
06:43
there's no question
131
391280
1216
não há dúvida
que ele foi uma das pessoas
mais inteligentes que existiu.
mais inteligentes que existiu.
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
06:47
So consider the spectrum of intelligence.
133
395000
2520
Considerem o espetro da inteligência.
06:50
Here we have John von Neumann.
134
398320
1429
Aqui temos John von Neumann.
06:53
And then we have you and me.
135
401560
1334
E aqui estamos nós.
06:56
And then we have a chicken.
136
404120
1296
E aqui temos uma galinha.
06:57
(Laughter)
137
405440
1936
(Risos)
06:59
Sorry, a chicken.
138
407400
1216
Desculpem, uma galinha.
07:00
(Laughter)
139
408640
1256
(Risos)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
Não preciso de tornar esta palestra
ainda mais deprimente.
ainda mais deprimente.
(Risos)
07:05
(Laughter)
141
413680
1600
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Mas parece muito provável
que o espetro da inteligência
que o espetro da inteligência
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
se alargue muito mais além
do que imaginamos.
do que imaginamos.
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
Se construirmos máquinas
mais inteligentes que nós,
mais inteligentes que nós,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
iremos muito provavelmente
explorar este espetro
explorar este espetro
07:21
in ways that we can't imagine,
146
429440
1856
de formas inimagináveis,
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
e superar-nos em formas,
que não imaginávamos.
que não imaginávamos.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
É importante reconhecer que isto é verdade
só por virtude da velocidade.
só por virtude da velocidade.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
Imaginem que construímos
uma IA superinteligente
uma IA superinteligente
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
que não é mais inteligente que
uma equipa normal de investigadores
uma equipa normal de investigadores
07:39
at Stanford or MIT.
151
447920
2296
de Stanford ou do MIT.
Os circuitos eletrónicos funcionam
um milhão de vezes mais depressa
um milhão de vezes mais depressa
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
07:45
than biochemical ones,
153
453240
1256
do que os circuitos bioquímicos,
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
por isso essa máquina iria
pensar um milhão de vezes mais rápido
pensar um milhão de vezes mais rápido
07:49
than the minds that built it.
155
457680
1816
do que as mentes que a construíram.
07:51
So you set it running for a week,
156
459520
1656
Pomo-la a funcionar
durante uma semana,
durante uma semana,
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
e ela irá realizar 20 000 anos
de trabalho intelectual humano,
de trabalho intelectual humano,
07:58
week after week after week.
158
466400
1960
semana após semana.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Como podemos entender,
e muito menos restringir,
e muito menos restringir,
08:04
a mind making this sort of progress?
160
472760
2280
uma mente que faz tal progresso?
08:08
The other thing that's worrying, frankly,
161
476840
2136
A outra coisa preocupante, honestamente...
08:11
is that, imagine the best case scenario.
162
479000
4976
Imaginem o melhor cenário possível.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Imaginem que chegamos ao "design"
de uma IA superinteligente
de uma IA superinteligente
08:20
that has no safety concerns.
164
488200
1376
sem problemas de segurança.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Temos o "design" perfeito
na primeira tentativa.
na primeira tentativa.
08:24
It's as though we've been handed an oracle
166
492880
2216
Seria como se nos tivessem dado um oráculo
08:27
that behaves exactly as intended.
167
495120
2016
cujo comportamento seria o esperado.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Esta máquina poderia ser
a máquina perfeita para poupar trabalho.
a máquina perfeita para poupar trabalho.
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
Poderia conceber a máquina
para construir a máquina
para construir a máquina
08:36
that can do any physical work,
170
504133
1763
que pode fazer qualquer
trabalho físico,
trabalho físico,
08:37
powered by sunlight,
171
505920
1456
usando energia solar,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
mais ou menos ao custo
das matérias-primas.
das matérias-primas.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
Estamos a falar do fim
do trabalho duro humano
do trabalho duro humano
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
Estamos também a falar do fim
de maior parte do trabalho intelectual.
de maior parte do trabalho intelectual.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
O que fariam macacos como nós
nestas circunstâncias?
nestas circunstâncias?
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Teríamos tempo para jogar ao disco,
e dar massagens uns aos outros.
e dar massagens uns aos outros.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Adicionem LSD e algumas
escolhas duvidosas de roupa,
escolhas duvidosas de roupa,
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
e seria como o festival Burning Man
por todo o mundo.
por todo o mundo.
09:02
(Laughter)
179
530920
1640
(Risos)
09:06
Now, that might sound pretty good,
180
534320
2000
Isto até pode soar bem,
09:09
but ask yourself what would happen
181
537280
2376
mas questionem-se o que poderia aconteceu
09:11
under our current economic
and political order?
and political order?
182
539680
2736
na nossa ordem atual
económica e política?
económica e política?
09:14
It seems likely that we would witness
183
542440
2416
Parece que poderíamos testemunhar
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
um nível de desigualdade de riqueza
e desemprego como nunca vimos antes.
09:21
that we have never seen before.
185
549040
1496
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
Se não existir a vontade
de colocar essa riqueza
de colocar essa riqueza
imediatamente ao serviço
de toda a humanidade,
de toda a humanidade,
09:25
to the service of all humanity,
187
553200
1480
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
alguns multimilionários poderiam figurar
nas capas das nossas revistas de negócios
nas capas das nossas revistas de negócios
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
enquanto o resto do mundo
estaria à fome.
estaria à fome.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
E o que fariam os russos
ou os chineses
ou os chineses
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
se soubessem que alguma companhia
em Silicon Valley
em Silicon Valley
09:39
was about to deploy a superintelligent AI?
192
567280
2736
estaria prestes a implementar
uma IA superinteligente?
uma IA superinteligente?
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Essa máquina seria capaz
de fazer a guerra,
de fazer a guerra,
terrestre ou cibernética,
09:44
whether terrestrial or cyber,
194
572920
2216
09:47
with unprecedented power.
195
575160
1680
com um poder inédito.
09:50
This is a winner-take-all scenario.
196
578120
1856
Isto é um cenário de
"o vencedor leva tudo".
"o vencedor leva tudo".
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Estar seis meses adiantado
nesta competição
nesta competição
09:55
is to be 500,000 years ahead,
198
583160
2776
é como estar 500 000 anos adiantado,
09:57
at a minimum.
199
585960
1496
no mínimo.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Parece que os meros rumores
deste tipo de inovação
deste tipo de inovação
10:04
could cause our species to go berserk.
201
592240
2376
poderiam descontrolar a nossa espécie.
10:06
Now, one of the most frightening things,
202
594640
2896
Uma das coisas mais assustadoras,
10:09
in my view, at this moment,
203
597560
2776
na minha perspetiva, neste momento,
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
são o tipo de coisas
que os investigadores da IA dizem
que os investigadores da IA dizem
10:16
when they want to be reassuring.
205
604680
1560
quando querem tranquilizar-nos.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
O motivo mais comum que invocam
para não nos preocuparmos é o tempo.
para não nos preocuparmos é o tempo.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
"Não sabem que isto ainda vem longe?
10:24
This is probably 50 or 100 years away.
208
612560
2440
"Só daqui a 50 ou 100 anos".
10:27
One researcher has said,
209
615720
1256
Um investigador disse:
10:29
"Worrying about AI safety
210
617000
1576
"Preocupar-se com a segurança da IA
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
"é como preocupar-se com
o excesso de população em Marte."
o excesso de população em Marte."
10:34
This is the Silicon Valley version
212
622116
1620
Esta é a versão de Silicon Valley
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
de "não preocupem a vossa
cabeça com isto."
cabeça com isto."
10:38
(Laughter)
214
626160
1336
(Risos)
10:39
No one seems to notice
215
627520
1896
Ninguém parece notar
10:41
that referencing the time horizon
216
629440
2616
que mencionar o horizonte do tempo
10:44
is a total non sequitur.
217
632080
2576
é um total "não se segue".
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
Se a inteligência é apenas uma questão
de processamento de informação,
de processamento de informação,
10:49
and we continue to improve our machines,
219
637960
2656
e continuarmos a melhorar
as nossas máquinas,
as nossas máquinas,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
iremos produzir
alguma forma de superinteligência.
alguma forma de superinteligência.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
Não fazemos ideia
quanto tempo iremos demorar
quanto tempo iremos demorar
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
a criar as condições
para o fazer em segurança.
para o fazer em segurança.
11:04
Let me say that again.
223
652200
1296
Vou repetir.
11:05
We have no idea how long it will take us
224
653520
3816
Não sabemos quanto tempo vamos demorar
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
para criar as condições
para fazê-lo em segurança.
para fazê-lo em segurança.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Se ainda não repararam,
50 anos não é o que era dantes.
50 anos não é o que era dantes.
11:16
This is 50 years in months.
227
664400
2456
Isto são 50 anos em meses.
11:18
This is how long we've had the iPhone.
228
666880
1840
Isto é o tempo desde que temos o iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Isto é o tempo em que "Os Simpsons"
têm estado na TV.
têm estado na TV.
11:24
Fifty years is not that much time
230
672680
2376
50 anos não é assim tanto tempo
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
para ir de encontro aos maiores desafios
que a nossa espécie irá enfrentar.
que a nossa espécie irá enfrentar.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Mais uma vez, parecemos estar a falhar
em ter uma resposta emocional apropriada
em ter uma resposta emocional apropriada
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
para o que acreditamos
que está para vir.
que está para vir.
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
O cientista informático Stuart Russell
tem uma boa analogia para isto.
tem uma boa analogia para isto.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
Disse: "Imaginem que recebemos
uma mensagem de uma civilização alienígena,
uma mensagem de uma civilização alienígena,
11:47
which read:
236
695320
1696
"que diz:
11:49
"People of Earth,
237
697040
1536
" 'Habitantes da Terra,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
" vamos chegar ao vosso planeta
dentro de 50 anos.
dentro de 50 anos.
11:53
Get ready."
239
701800
1576
" 'Preparem-se'."
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
Vamos contar os meses
até a nave-mãe aterrar?
até a nave-mãe aterrar?
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Sentiríamos mais urgência
do que o habitual.
do que o habitual.
Outro motivo que nos dão
para não nos preocuparmos
para não nos preocuparmos
12:04
Another reason we're told not to worry
242
712680
1856
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
é que estas máquinas
vão partilhar os nossos valores
vão partilhar os nossos valores
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
pois serão literalmente
extensões de nós próprios.
extensões de nós próprios.
12:12
They'll be grafted onto our brains,
245
720240
1816
Serão implantadas no nosso cérebro,
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
e seremos os seus sistemas límbicos.
12:17
Now take a moment to consider
247
725120
1416
Parem um momento para considerar
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
que o caminho mais prudente e seguro,
12:21
recommended,
249
729760
1336
o caminho recomendado,
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
é implantar esta tecnologia
diretamente no nosso cérebro.
diretamente no nosso cérebro.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
Isso poderá de facto ser
o caminho mais prudente e seguro,
o caminho mais prudente e seguro,
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
mas normalmente as questões
de segurança de uma tecnologia
de segurança de uma tecnologia
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
devem estar bem trabalhadas
antes de serem enfiadas na nossa cabeça.
antes de serem enfiadas na nossa cabeça.
12:36
(Laughter)
254
744760
2016
(Risos)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
O maior problema é que
construir IA superinteligente, por si só,
construir IA superinteligente, por si só,
12:44
seems likely to be easier
256
752160
1736
parece ser mais fácil
12:45
than building superintelligent AI
257
753920
1856
do que construir IA superinteligente
12:47
and having the completed neuroscience
258
755800
1776
e ter a neurociência completa
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
que nos permita integrar facilmente
as nossas mentes com isso.
as nossas mentes com isso.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
Sabendo que as companhias
e os governos que fazem este trabalho
e os governos que fazem este trabalho
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
provavelmente se consideram
numa corrida contra todos os outros,
numa corrida contra todos os outros,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
sendo que ganhar esta corrida,
é ganhar o mundo,
é ganhar o mundo,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
desde que não o destruam
logo a seguir,
logo a seguir,
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
então é evidente que
o que for mais fácil
o que for mais fácil
13:08
will get done first.
265
776080
1200
será o primeiro a ser feito.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Infelizmente, não tenho
a solução para este problema,
a solução para este problema,
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
apenas posso recomendar
que pensemos mais nisto.
que pensemos mais nisto.
Acho que precisamos de algo
como o Projeto Manhattan
como o Projeto Manhattan
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
13:18
on the topic of artificial intelligence.
269
786480
2016
no tópico da inteligência artificial.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
Não para a construir —acho
que o faremos inevitavelmente —
que o faremos inevitavelmente —
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
mas para compreender
como evitar uma corrida ao armamento
como evitar uma corrida ao armamento
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
e para a construir de forma
a estar alinhada com os nossos interesses.
a estar alinhada com os nossos interesses.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Quando falamos na IA superinteligente
13:32
that can make changes to itself,
274
800320
2256
que pode alterar-se a si mesma,
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
parece que só temos uma hipótese
para conseguir
as condições iniciais corretas,
as condições iniciais corretas,
13:39
and even then we will need to absorb
276
807240
2056
e mesmo assim precisaremos de absorver
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
as consequências económicas e politicas
para conseguir tal.
para conseguir tal.
13:45
But the moment we admit
278
813760
2056
Mas a partir do momento em que admitirmos
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
que o processamento de informação
é a fonte de inteligência,
é a fonte de inteligência,
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
que algum sistema informático apropriado
é a base de inteligência,
é a base de inteligência,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
e admitirmos que iremos melhorar
estes sistemas de forma contínua,
estes sistemas de forma contínua,
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
e admitirmos que o horizonte da cognição
provavelmente ultrapassa
o que conhecemos agora,
o que conhecemos agora,
14:07
what we currently know,
283
835760
1200
14:10
then we have to admit
284
838120
1216
então temos de admitir
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
que estamos no processo
de construir uma espécie de deus.
de construir uma espécie de deus.
14:15
Now would be a good time
286
843400
1576
Agora seria uma boa altura
de certificarmo-nos
de certificarmo-nos
14:17
to make sure it's a god we can live with.
287
845000
1953
que seja um deus
com quem queremos viver.
com quem queremos viver.
14:20
Thank you very much.
288
848120
1536
Muito obrigado.
14:21
(Applause)
289
849680
5093
(Aplausos)
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com