TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: ¿Es posible crear inteligencia artificial sin perder control sobre ella?
Filmed:
Readability: 4.1
5,024,015 views
¿Te asusta la super inteligente inteligencia artificial? Debería estarlo, dice el neurocientífico y filósofo Sam Harris y no solo de una manera teórica. Vamos a construir super máquinas, dice Harris, pero aún no entendemos los problemas que conlleva crear algo que podría tratarnos de la misma manera en que nosotros tratamos a las hormigas.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
Voy a hablar de un fallo intuitivo
que muchos sufrimos.
00:15
that many of us suffer from.
1
3240
1600
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
En realidad es la capacidad
de detectar cierto tipo de peligro.
de detectar cierto tipo de peligro.
00:21
I'm going to describe a scenario
3
9360
1736
Describiré una situación que creo
que es tan aterradora como posible
que es tan aterradora como posible
00:23
that I think is both terrifying
4
11120
3256
00:26
and likely to occur,
5
14400
1760
00:28
and that's not a good combination,
6
16840
1656
y veremos que eso no es
una buena combinación.
una buena combinación.
00:30
as it turns out.
7
18520
1536
Y sin embargo, en lugar de sentir miedo,
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
la mayoría pensará que es
algo bastante interesante.
algo bastante interesante.
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
Describiré cómo los avances
en el campo de la inteligencia artificial,
en el campo de la inteligencia artificial,
00:40
in artificial intelligence
11
28200
1776
en última instancia, podrían destruirnos.
00:42
could ultimately destroy us.
12
30000
1776
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
Y, de hecho, me resulta muy difícil ver
que no nos destruirían
o nos ayudaran a destruirnos.
o nos ayudaran a destruirnos.
00:47
or inspire us to destroy ourselves.
14
35280
1680
00:49
And yet if you're anything like me,
15
37400
1856
Y sin embargo, si son como yo,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
encontrarán que es divertido
pensar en estas cosas.
pensar en estas cosas.
Y esta manera de ver las cosas
es parte del problema.
es parte del problema.
00:53
And that response is part of the problem.
17
41960
3376
Esa reacción debería preocuparles.
00:57
OK? That response should worry you.
18
45360
1720
Si tuviera que convencerles
con esta charla
con esta charla
00:59
And if I were to convince you in this talk
19
47920
2656
de que estamos al borde de sufrir
una hambruna a nivel mundial,
una hambruna a nivel mundial,
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
debido al calentamiento global
o cualquier otra catástrofe,
o cualquier otra catástrofe,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
y que sus nietos o sus bisnietos,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
vivirán muy probablemente así,
01:12
are very likely to live like this,
23
60560
1800
01:15
you wouldn't think,
24
63200
1200
no pensarían:
01:17
"Interesting.
25
65440
1336
"Interesante.
Me gusta esta charla TED".
01:18
I like this TED Talk."
26
66800
1200
01:21
Famine isn't fun.
27
69200
1520
El hambre no es divertida
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
La muerte en la ciencia ficción,
por el contrario, es algo divertido,
por el contrario, es algo divertido,
y lo más preocupante
en el desarrollo de la IA hoy en día
en el desarrollo de la IA hoy en día
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
es que parecemos incapaces de ofrecer
una respuesta emocional adecuada
una respuesta emocional adecuada
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
frente a los peligros que se avecinan.
01:35
to the dangers that lie ahead.
31
83320
1816
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Yo mismo soy incapaz de ello
y estoy dando esta charla.
y estoy dando esta charla.
01:42
It's as though we stand before two doors.
33
90120
2696
Es como si nos encontráramos
ante dos puertas.
ante dos puertas.
Detrás de la puerta número uno
01:44
Behind door number one,
34
92840
1256
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
detenemos el progreso
de máquinas inteligentes.
de máquinas inteligentes.
Nuestro hardware y software
se estancan simplemente, por alguna razón.
se estancan simplemente, por alguna razón.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
Traten de reflexionar por un momento
por qué podría suceder esto.
por qué podría suceder esto.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Dada la valía de la inteligencia
y la automatización,
y la automatización,
seguiremos mejorando
nuestra tecnología si es posible.
nuestra tecnología si es posible.
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
02:05
What could stop us from doing this?
40
113200
1667
¿Qué podría impedirnos hacer eso?
02:07
A full-scale nuclear war?
41
115800
1800
¿Una guerra nuclear a gran escala?
02:11
A global pandemic?
42
119000
1560
¿Una pandemia mundial?
02:14
An asteroid impact?
43
122320
1320
¿El impacto de un asteroide?
¿El hecho que Justin Bieber
podría ser el presidente de los EE.UU.?
podría ser el presidente de los EE.UU.?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
02:20
(Laughter)
45
128240
2280
(Risas)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
El caso es que algo tendría que destruir
la civilización tal como la conocemos.
la civilización tal como la conocemos.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Realmente deberíamos
imaginar algo terrible
imaginar algo terrible
para dejar de
desarrollar nuestra tecnología
desarrollar nuestra tecnología
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
para siempre,
02:37
permanently,
49
145040
1216
generación tras generación.
02:38
generation after generation.
50
146280
2016
Casi por definición, sería lo peor
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
en la historia humana.
02:42
that's ever happened in human history.
52
150480
2016
La única alternativa,
02:44
So the only alternative,
53
152520
1296
y esto es lo que hay detrás
de la puerta número dos,
de la puerta número dos,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
es seguir mejorando
nuestras máquinas inteligentes
nuestras máquinas inteligentes
año tras año tras año.
02:51
year after year after year.
56
159360
1600
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
En algún momento construiremos
máquinas más inteligentes que nosotros,
máquinas más inteligentes que nosotros,
y una vez que las tengamos
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
03:00
they will begin to improve themselves.
59
168720
1976
empezarán a mejorarse a sí mismas.
Y entonces corremos el riesgo
teorizado por el matemático IJ Good
teorizado por el matemático IJ Good
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
03:05
an "intelligence explosion,"
61
173480
1776
llamado "explosión de inteligencia"
03:07
that the process could get away from us.
62
175280
2000
donde el proceso podría
salirse de control.
salirse de control.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Esto es a menudo caricaturizado,
como lo he hecho aquí,
como lo he hecho aquí,
como el miedo a que nos ataquen
ejércitos de robots maliciosos.
ejércitos de robots maliciosos.
03:12
as a fear that armies of malicious robots
64
180960
3216
03:16
will attack us.
65
184200
1256
Pero ese no es
el escenario más probable.
el escenario más probable.
03:17
But that isn't the most likely scenario.
66
185480
2696
No es que nuestras máquinas
se volverán malignas espontáneamente.
se volverán malignas espontáneamente.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
La preocupación verdadera
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
al construir máquinas mucho
más competentes que nosotros
más competentes que nosotros
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
es que la menor diferencia
entre sus objetivos y los nuestros
entre sus objetivos y los nuestros
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
nos podría destruir.
03:33
could destroy us.
71
201600
1200
03:35
Just think about how we relate to ants.
72
203960
2080
Basta con pensar en nuestra
relación con las hormigas.
relación con las hormigas.
03:38
We don't hate them.
73
206600
1656
No las odiamos.
No vamos por la vida lastimándolas.
03:40
We don't go out of our way to harm them.
74
208280
2056
De hecho, a veces nos tomamos
la molestia de no hacerles daño.
la molestia de no hacerles daño.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
03:44
We step over them on the sidewalk.
76
212760
2016
Evitamos pisarlas en la acera.
Pero cada vez que su presencia
entra seriamente en conflicto
entra seriamente en conflicto
03:46
But whenever their presence
77
214800
2136
03:48
seriously conflicts with one of our goals,
78
216960
2496
con alguno de nuestros objetivos,
digamos, en la construcción
de un edificio como este,
de un edificio como este,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
03:53
we annihilate them without a qualm.
80
221981
1960
las aniquilamos sin escrúpulos.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
La preocupación es que algún día
construyamos máquinas
construyamos máquinas
que, ya sea conscientemente o no,
03:59
that, whether they're conscious or not,
82
227440
2736
nos puedan tratar con
una indiferencia similar.
una indiferencia similar.
04:02
could treat us with similar disregard.
83
230200
2000
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Sospecho que esto pueda
parece inverosímil para muchos.
parece inverosímil para muchos.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Apuesto a que hay quienes dudan
de que la superinteligente IA sea posible
de que la superinteligente IA sea posible
y mucho menos inevitable.
04:15
much less inevitable.
86
243720
1656
Pero en este caso hay que refutar
uno de los siguientes supuestos.
uno de los siguientes supuestos.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Y hay solo tres.
04:21
And there are only three of them.
88
249044
1572
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
La inteligencia es el procesamiento
de información en un sistema físico.
de información en un sistema físico.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
En realidad, esto es poco
más que una suposición.
más que una suposición.
Ya hemos incorporado inteligencia
limitada en nuestras máquinas,
limitada en nuestras máquinas,
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
y aún así, muchas de estas máquinas actúan
a un nivel de inteligencia sobrehumana.
a un nivel de inteligencia sobrehumana.
04:35
and many of these machines perform
92
263440
2016
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
04:40
And we know that mere matter
94
268840
2576
Y sabemos que la mera materia da lugar
a lo que se llama "inteligencia general",
a lo que se llama "inteligencia general",
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
la capacidad de pensar con
flexibilidad en múltiples campos
flexibilidad en múltiples campos
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
porque nuestros cerebro
humano ya lo ha conseguido.
humano ya lo ha conseguido.
04:49
because our brains have managed it. Right?
97
277760
3136
Es decir, solo hay átomos aquí,
04:52
I mean, there's just atoms in here,
98
280920
3936
y mientras continuemos
construyendo sistemas de átomos
construyendo sistemas de átomos
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
que exhiban un comportamiento
más y más inteligente,
más y más inteligente,
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
terminaremos implementando, a menos
que lo interrumpamos, inteligencia general
que lo interrumpamos, inteligencia general
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
en nuestras máquinas.
05:10
into our machines.
103
298080
1296
Es crucial comprender que
la velocidad no es el problema
la velocidad no es el problema
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
porque cualquier velocidad
es suficiente para llegar al fin.
es suficiente para llegar al fin.
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
No necesitamos la ley de Moore para
continuar ni un aumento exponencial.
continuar ni un aumento exponencial.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Solo tenemos que seguir adelante.
05:22
We just need to keep going.
107
310080
1600
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
El segundo supuesto es
que vamos a seguir adelante.
que vamos a seguir adelante.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Vamos a seguir mejorando
nuestras máquinas inteligentes.
nuestras máquinas inteligentes.
05:33
And given the value of intelligence --
110
321000
4376
Y teniendo en cuenta
el valor de la inteligencia,
el valor de la inteligencia,
es decir, la inteligencia es o bien
la fuente de todo lo que valoramos
la fuente de todo lo que valoramos
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
o la necesidad por preservar
todo lo que valoramos.
todo lo que valoramos.
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
Es nuestro recurso más valioso.
05:43
It is our most valuable resource.
113
331760
2256
Por eso lo queremos hacer.
05:46
So we want to do this.
114
334040
1536
Tenemos problemas que necesitamos
desesperadamente resolver.
desesperadamente resolver.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
Queremos curar enfermedades
como el Alzheimer y el cáncer.
como el Alzheimer y el cáncer.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Queremos entender
los sistemas económicos.
los sistemas económicos.
Queremos mejorar el clima.
05:58
So we will do this, if we can.
118
346920
2256
Vamos a hacer esto, si podemos.
El tren ya salió de la estación
y no hay frenos.
y no hay frenos.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
Por último, no estamos en
la cima de la inteligencia,
la cima de la inteligencia,
ni siquiera cerca, probablemente.
06:11
or anywhere near it, likely.
121
359360
1800
06:13
And this really is the crucial insight.
122
361640
1896
Y esto realmente es crucial.
Esto es lo que hace nuestra
situación tan precaria,
situación tan precaria,
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
y esto es lo que hace
que nuestras intuiciones
que nuestras intuiciones
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
sobre los riesgos sean poco fiables.
Piensen en la persona más inteligente
que jamás haya vivido.
que jamás haya vivido.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
En la lista de casi todos
está John Von Neumann.
está John Von Neumann.
La impresión que hacía Von Neumann
en las personas a su alrededor,
en las personas a su alrededor,
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
incluyendo los más grandes
matemáticos y físicos de su época,
matemáticos y físicos de su época,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
está bastante bien documentada.
06:37
is fairly well-documented.
129
385520
1936
Si solo la mitad de las historias
sobre él fueran una verdad a medias,
sobre él fueran una verdad a medias,
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
no hay duda
06:43
there's no question
131
391280
1216
de que es una de las personas
más inteligentes que ha vivido.
más inteligentes que ha vivido.
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
06:47
So consider the spectrum of intelligence.
133
395000
2520
Así que consideren
el espectro de la inteligencia.
el espectro de la inteligencia.
06:50
Here we have John von Neumann.
134
398320
1429
Aquí tenemos a John Von Neumann.
06:53
And then we have you and me.
135
401560
1334
Y aquí estamos tú y yo.
06:56
And then we have a chicken.
136
404120
1296
Y luego tenemos un pollo.
06:57
(Laughter)
137
405440
1936
06:59
Sorry, a chicken.
138
407400
1216
Lo sentimos, una gallina.
07:00
(Laughter)
139
408640
1256
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
No hay por qué hacer esta charla
más deprimente de lo que ya es.
más deprimente de lo que ya es.
(Risas)
07:05
(Laughter)
141
413680
1600
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Sin embargo, parece muy probable
que el espectro de la inteligencia
que el espectro de la inteligencia
se extienda mucho más allá
de lo que actualmente concebimos,
de lo que actualmente concebimos,
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
y si construimos máquinas
más inteligentes que nosotros,
más inteligentes que nosotros,
muy probablemente
explorarán este espectro
explorarán este espectro
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
de maneras que no podemos imaginar,
07:21
in ways that we can't imagine,
146
429440
1856
y nos superarán de maneras inimaginables.
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
Y es importante saber que esto
es cierto solo debido a la velocidad.
es cierto solo debido a la velocidad.
Así que imaginen que acabamos
de construir una IA superinteligente
de construir una IA superinteligente
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
que no fuera más inteligente
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
que el promedio del equipo de
investigadores en Stanford o el MIT.
investigadores en Stanford o el MIT.
07:39
at Stanford or MIT.
151
447920
2296
Los circuitos electrónicos funcionan
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
aproximadamente un millón de veces
más rápido que los bioquímicos,
más rápido que los bioquímicos,
07:45
than biochemical ones,
153
453240
1256
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
así que esta máquina debe pensar
un millón de veces más rápido
un millón de veces más rápido
07:49
than the minds that built it.
155
457680
1816
que las mentes que la construyeron.
07:51
So you set it running for a week,
156
459520
1656
Con una semana funcionando
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
llevará a cabo 20 000 años
de trabajo intelectual a nivel humano,
de trabajo intelectual a nivel humano,
07:58
week after week after week.
158
466400
1960
semana tras semana tras semana.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
¿Cómo podríamos siquiera comprender,
mucho menos restringir,
mucho menos restringir,
una mente que progresa de esta manera?
08:04
a mind making this sort of progress?
160
472760
2280
08:08
The other thing that's worrying, frankly,
161
476840
2136
Algo más que es francamente preocupante
es imaginar el mejor de los casos.
08:11
is that, imagine the best case scenario.
162
479000
4976
Imaginemos que diseñamos
una IA superinteligente
una IA superinteligente
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
que no tiene problemas de seguridad.
08:20
that has no safety concerns.
164
488200
1376
Tenemos el diseño perfecto a la primera.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Es como si nos dieran un oráculo
08:24
It's as though we've been handed an oracle
166
492880
2216
que se comporta exactamente
como se espera.
como se espera.
08:27
that behaves exactly as intended.
167
495120
2016
Esta máquina sería el dispositivo
de ahorro de mano de obra perfecta.
de ahorro de mano de obra perfecta.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Puede diseñar la máquina
que puede construir la máquina
que puede construir la máquina
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
que pueda hacer cualquier trabajo físico,
08:36
that can do any physical work,
170
504133
1763
08:37
powered by sunlight,
171
505920
1456
impulsada por la luz solar,
más o menos por el costo
de las materias primas.
de las materias primas.
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
Estamos hablando del fin
del trabajo pesado humano.
del trabajo pesado humano.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
También estamos hablando del fin
de la mayoría del trabajo intelectual.
de la mayoría del trabajo intelectual.
Entonces, ¿qué harían simios como
nosotros en estas circunstancias?
nosotros en estas circunstancias?
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Pues, podríamos jugar
al Frisbee y darnos masajes.
al Frisbee y darnos masajes.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Tomar un poco de LSD
e inventar modas ridículas
e inventar modas ridículas
y todo el mundo podríamos
parecernos a un festival de rock.
parecernos a un festival de rock.
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
09:02
(Laughter)
179
530920
1640
(Risas)
09:06
Now, that might sound pretty good,
180
534320
2000
Puede parecer muy bueno,
pero hay que preguntarse
pero hay que preguntarse
09:09
but ask yourself what would happen
181
537280
2376
qué pasaría con nuestro orden
económico y político actual.
económico y político actual.
09:11
under our current economic
and political order?
and political order?
182
539680
2736
Podríamos presenciar
09:14
It seems likely that we would witness
183
542440
2416
un nivel de desigualdad
de la riqueza y el desempleo
de la riqueza y el desempleo
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
nunca antes visto
09:21
that we have never seen before.
185
549040
1496
sin la voluntad de poner esta
nueva riqueza inmediatamente
nueva riqueza inmediatamente
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
09:25
to the service of all humanity,
187
553200
1480
al servicio de toda la humanidad,
y unos poco trillonarios estarían en
las portadas de las revistas de negocios
las portadas de las revistas de negocios
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
mientras que el resto del mundo
tendría la libertad de morirse de hambre.
tendría la libertad de morirse de hambre.
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
Y ¿qué pasaría si los rusos
o los chinos se enteraran
o los chinos se enteraran
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
de que alguna empresa en Silicon Valley
está a punto de crear
una IA superinteligente?
una IA superinteligente?
09:39
was about to deploy a superintelligent AI?
192
567280
2736
Esta máquina podría ser
capaz de hacer la guerra,
capaz de hacer la guerra,
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
ya sea terrestre o cibernética,
09:44
whether terrestrial or cyber,
194
572920
2216
con un poder sin precedentes.
09:47
with unprecedented power.
195
575160
1680
En este escenario
el ganador se lleva todo.
el ganador se lleva todo.
09:50
This is a winner-take-all scenario.
196
578120
1856
Seis meses adelante en la competencia
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
sería una ventaja de 500 000 años,
09:55
is to be 500,000 years ahead,
198
583160
2776
como mínimo.
09:57
at a minimum.
199
585960
1496
Parecería que incluso meros
rumores de este tipo de avance
rumores de este tipo de avance
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
podría causar que nuestra
especie se vuelva loca.
especie se vuelva loca.
10:04
could cause our species to go berserk.
201
592240
2376
Una de las cosas más aterradoras,
10:06
Now, one of the most frightening things,
202
594640
2896
en mi opinión, en este momento,
10:09
in my view, at this moment,
203
597560
2776
son el tipo de cosas que dicen
los investigadores de IA
los investigadores de IA
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
cuando quieren tranquilizarnos.
10:16
when they want to be reassuring.
205
604680
1560
Y el motivo invocado más frecuentemente
de que no nos preocupemos es el tiempo.
de que no nos preocupemos es el tiempo.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
Falta mucho para eso, no se preocupen.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
Eso será probablemente
dentro de 50 o 100 años.
dentro de 50 o 100 años.
10:24
This is probably 50 or 100 years away.
208
612560
2440
10:27
One researcher has said,
209
615720
1256
Un investigador dijo,
"Preocuparse por la seguridad
y todo lo relacionado con la IA
y todo lo relacionado con la IA
10:29
"Worrying about AI safety
210
617000
1576
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
es como preocuparse por la
superpoblación en Marte".
superpoblación en Marte".
10:34
This is the Silicon Valley version
212
622116
1620
Esta es la manera de Silicon Valley
de mostrarse condescendiente.
de mostrarse condescendiente.
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
(Risas)
10:38
(Laughter)
214
626160
1336
10:39
No one seems to notice
215
627520
1896
Nadie parece darse cuenta
que tomar el tiempo con referencia
10:41
that referencing the time horizon
216
629440
2616
es una incongruencia total.
10:44
is a total non sequitur.
217
632080
2576
Si la inteligencia es solo una cuestión
de procesamiento de la información
de procesamiento de la información
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
10:49
and we continue to improve our machines,
219
637960
2656
y seguimos mejorando nuestras máquinas,
produciremos algún tipo
de superinteligencia.
de superinteligencia.
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
Y no tenemos idea de cuánto tiempo
nos llevará crear las condiciones
nos llevará crear las condiciones
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
para hacerlo de forma segura.
11:04
Let me say that again.
223
652200
1296
Voy a decirlo de nuevo.
Y no tenemos idea de cuánto tiempo
nos llevará crear las condiciones
nos llevará crear las condiciones
11:05
We have no idea how long it will take us
224
653520
3816
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
para hacerlo de forma segura.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Y si no lo han notado, 50 años
ya no son lo que solían ser.
ya no son lo que solían ser.
Estos son 50 años en meses.
11:16
This is 50 years in months.
227
664400
2456
Este es el tiempo que
hemos tenido el iPhone.
hemos tenido el iPhone.
11:18
This is how long we've had the iPhone.
228
666880
1840
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Este es el tiempo que "Los Simpson"
ha estado en la televisión.
ha estado en la televisión.
11:24
Fifty years is not that much time
230
672680
2376
Cincuenta años no es tanto tiempo
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
para lograr uno de los mayores desafíos
al que nuestra especie se ha enfrentado.
al que nuestra especie se ha enfrentado.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Una vez más, parece que no tenemos
una respuesta emocional adecuada
una respuesta emocional adecuada
para lo que, con toda
probabilidad, va a pasar.
probabilidad, va a pasar.
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
El científico de la computación
Stuart Russell ofrece una gran analogía:
Stuart Russell ofrece una gran analogía:
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
"Imaginen que recibimos un mensaje de
una civilización extraterrestre que diga:
una civilización extraterrestre que diga:
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
11:47
which read:
236
695320
1696
11:49
"People of Earth,
237
697040
1536
'Gente de la Tierra,
llegaremos en su planeta en 50 años.
11:50
we will arrive on your planet in 50 years.
238
698600
2360
11:53
Get ready."
239
701800
1576
Prepárense'".
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
¿Estaremos contando los meses
hasta que llegue la nave nodriza?
hasta que llegue la nave nodriza?
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
¿No estaríamos un poco más preocupados?
Otra razón que se nos da
para no preocuparnos
para no preocuparnos
12:04
Another reason we're told not to worry
242
712680
1856
es que estas máquinas no podrán
no compartir nuestros valores
no compartir nuestros valores
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
porque van a ser literalmente
extensiones de nosotros mismos.
extensiones de nosotros mismos.
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
12:12
They'll be grafted onto our brains,
245
720240
1816
Se injertarán en nuestro cerebro,
y prácticamente seremos
su sistema límbico.
su sistema límbico.
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
12:17
Now take a moment to consider
247
725120
1416
Consideren por un momento
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
que el camino más seguro
y prudente hacia adelante,
y prudente hacia adelante,
el recomendado,
12:21
recommended,
249
729760
1336
es la implantación de esta tecnología
directamente en nuestro cerebro.
directamente en nuestro cerebro.
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
Ahora bien, esto puede ser de hecho,
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
la manera más segura
y prudente de avanzar,
y prudente de avanzar,
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
pero por lo general, los problemas
de seguridad de una nueva tecnología
de seguridad de una nueva tecnología
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
hay que resolverlos antes
de implementarla en una cabeza.
de implementarla en una cabeza.
12:36
(Laughter)
254
744760
2016
(Risas)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
El mayor problema es
que construir una IA superinteligente
y autónoma parece más fácil
y autónoma parece más fácil
12:44
seems likely to be easier
256
752160
1736
que diseñar una IA superinteligente
12:45
than building superintelligent AI
257
753920
1856
mientras se controla la neurociencia
12:47
and having the completed neuroscience
258
755800
1776
para integrar la máquina
y la mente sin problemas.
y la mente sin problemas.
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
Y dado que las empresas y
los gobiernos que trabajan sobre ello
los gobiernos que trabajan sobre ello
probablemente se vean a sí mismos en
una carrera contra todos los demás,
una carrera contra todos los demás,
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
y tomando en cuenta que ganar
esta carrera es ganar el mundo,
esta carrera es ganar el mundo,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
siempre y cuando no lo destruyan
en el momento siguiente,
en el momento siguiente,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
entonces parece probable
que lo más fácil de hacer
que lo más fácil de hacer
se hará primero.
13:08
will get done first.
265
776080
1200
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Ahora, por desgracia, no tengo
una solución a este problema,
una solución a este problema,
además de recomendarles
que piensen más sobre ello.
que piensen más sobre ello.
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
Creo que necesitamos
un Proyecto Manhattan
un Proyecto Manhattan
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
sobre el tema de la
inteligencia artificial.
inteligencia artificial.
13:18
on the topic of artificial intelligence.
269
786480
2016
No para construirlo, porque
creo que eso es inevitable,
creo que eso es inevitable,
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
sino para entender cómo evitar
una carrera armamentística
una carrera armamentística
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
y construirla de manera que
concuerde con nuestros intereses.
concuerde con nuestros intereses.
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
Cuando hablamos de IA superinteligente
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
que puede modificarse a sí misma,
13:32
that can make changes to itself,
274
800320
2256
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
solo tenemos una oportunidad de fijar
las condiciones iniciales correctas,
las condiciones iniciales correctas,
e incluso entonces necesitaremos gestionar
13:39
and even then we will need to absorb
276
807240
2056
las consecuencias económicas
y políticas de dicho diseño.
y políticas de dicho diseño.
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
13:45
But the moment we admit
278
813760
2056
Pero en el momento en que admitamos
que el procesamiento de la información
es la fuente de la inteligencia,
es la fuente de la inteligencia,
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
que algún sistema computacional
adecuado es la base de la inteligencia,
adecuado es la base de la inteligencia,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
y admitamos que los vamos
a mejorar de forma continua,
a mejorar de forma continua,
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
y admitamos que el horizonte
del conocimiento supera por mucho
del conocimiento supera por mucho
lo que actualmente conocemos,
14:07
what we currently know,
283
835760
1200
14:10
then we have to admit
284
838120
1216
entonces tenemos que admitir
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
que estamos en el proceso de
construir una especie de dios.
construir una especie de dios.
14:15
Now would be a good time
286
843400
1576
Ahora sería un buen momento
para asegurarse de que sea
un dios con el que podamos vivir.
un dios con el que podamos vivir.
14:17
to make sure it's a god we can live with.
287
845000
1953
14:20
Thank you very much.
288
848120
1536
Muchas gracias.
(Aplausos)
14:21
(Applause)
289
849680
5093
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com