TED2018
Max Tegmark: How to get empowered, not overpowered, by AI
Max Tegmark: Cómo obtener el poder con IA sin ser dominados por ella
Filmed:
Readability: 5
1,409,007 views
Muchos investigadores de inteligencia artificial esperan que la IA, en unas décadas, supere a los humanos en todas las tareas y trabajos, lo que posibilita un futuro en el que solo estamos restringidos por las leyes de la física, no por los límites de nuestra inteligencia. El físico del MIT e investigador de IA Max Tegmark separa las oportunidades reales y las amenazas de los mitos, describiendo los pasos concretos que debemos dar hoy para asegurar que la IA termine siendo lo mejor, en lugar de lo peor, que le pueda suceder a la humanidad.
Max Tegmark - Scientist, author
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Double-click the English transcript below to play the video.
00:12
After 13.8 billion years
of cosmic history,
of cosmic history,
0
760
4416
Después de 13,8 mil millones de años
de historia cósmica,
de historia cósmica,
00:17
our universe has woken up
1
5200
2096
nuestro universo ha despertado
00:19
and become aware of itself.
2
7320
1520
y toma conciencia de sí mismo.
00:21
From a small blue planet,
3
9480
1936
Desde un pequeño planeta azul,
00:23
tiny, conscious parts of our universe
have begun gazing out into the cosmos
have begun gazing out into the cosmos
4
11440
4136
pequeñas partes conscientes
de nuestro universo
de nuestro universo
han comenzado a mirar
hacia el cosmos con telescopios,
hacia el cosmos con telescopios,
00:27
with telescopes,
5
15600
1376
00:29
discovering something humbling.
6
17000
1480
descubriendo un poco de humildad.
Descubrimos que nuestro universo
es mucho más grandioso
es mucho más grandioso
00:31
We've discovered that our universe
is vastly grander
is vastly grander
7
19320
2896
de lo que nuestros
antepasados imaginaron
antepasados imaginaron
00:34
than our ancestors imagined
8
22240
1336
00:35
and that life seems to be an almost
imperceptibly small perturbation
imperceptibly small perturbation
9
23600
4256
y esa vida parece ser una perturbación
casi imperceptiblemente pequeña
casi imperceptiblemente pequeña
00:39
on an otherwise dead universe.
10
27880
1720
en un universo por lo demás muerto.
00:42
But we've also discovered
something inspiring,
something inspiring,
11
30320
3016
Pero también descubrimos algo inspirador,
que es que la tecnología que estamos
desarrollando tiene el potencial
desarrollando tiene el potencial
00:45
which is that the technology
we're developing has the potential
we're developing has the potential
12
33360
2976
00:48
to help life flourish like never before,
13
36360
2856
de ayudar a que la vida florezca
como nunca antes,
como nunca antes,
00:51
not just for centuries
but for billions of years,
but for billions of years,
14
39240
3096
no solo por siglos, sino por
miles de millones de años,
miles de millones de años,
00:54
and not just on earth but throughout
much of this amazing cosmos.
much of this amazing cosmos.
15
42360
4120
y no solo en la Tierra sino a lo largo
de gran parte de este increíble cosmos.
de gran parte de este increíble cosmos.
00:59
I think of the earliest life as "Life 1.0"
16
47680
3336
Pienso en la vida más temprana
como "Vida 1.0"
como "Vida 1.0"
01:03
because it was really dumb,
17
51040
1376
porque era realmente tonta,
01:04
like bacteria, unable to learn
anything during its lifetime.
anything during its lifetime.
18
52440
4296
como las bacterias, incapaces de
aprender nada durante su vida.
aprender nada durante su vida.
01:08
I think of us humans as "Life 2.0"
because we can learn,
because we can learn,
19
56760
3376
Pienso en nosotros los humanos como
"Vida 2.0" porque podemos aprender,
"Vida 2.0" porque podemos aprender,
01:12
which we in nerdy, geek speak,
20
60160
1496
que en 'nerdy', hablando 'geek',
01:13
might think of as installing
new software into our brains,
new software into our brains,
21
61680
3216
podría pensarse como instalar
un nuevo software en nuestros cerebros,
un nuevo software en nuestros cerebros,
01:16
like languages and job skills.
22
64920
2120
como idiomas y habilidades laborales.
01:19
"Life 3.0," which can design not only
its software but also its hardware
its software but also its hardware
23
67680
4296
La "Vida 3.0", que puede diseñar no solo
su software sino también su hardware,
su software sino también su hardware,
01:24
of course doesn't exist yet.
24
72000
1656
por supuesto no existe todavía.
01:25
But perhaps our technology
has already made us "Life 2.1,"
has already made us "Life 2.1,"
25
73680
3776
Pero tal vez nuestra tecnología
ya nos haya hecho "Vida 2.1"
ya nos haya hecho "Vida 2.1"
01:29
with our artificial knees,
pacemakers and cochlear implants.
pacemakers and cochlear implants.
26
77480
4336
con nuestras rodillas artificiales,
marcapasos e implantes cocleares.
marcapasos e implantes cocleares.
01:33
So let's take a closer look
at our relationship with technology, OK?
at our relationship with technology, OK?
27
81840
3880
Echemos un vistazo más de cerca a
nuestra relación con la tecnología, ¿vale?
nuestra relación con la tecnología, ¿vale?
01:38
As an example,
28
86800
1216
Como ejemplo,
01:40
the Apollo 11 moon mission
was both successful and inspiring,
was both successful and inspiring,
29
88040
5296
la misión Apolo 11 a la Luna
fue exitosa e inspiradora,
fue exitosa e inspiradora,
01:45
showing that when we humans
use technology wisely,
use technology wisely,
30
93360
3016
mostrando que cuando los humanos
usamos la tecnología sabiamente,
usamos la tecnología sabiamente,
01:48
we can accomplish things
that our ancestors could only dream of.
that our ancestors could only dream of.
31
96400
3936
podemos lograr cosas que
nuestros antepasados solo podían soñar.
nuestros antepasados solo podían soñar.
01:52
But there's an even more inspiring journey
32
100360
2976
Pero hay un viaje aún más inspirador
01:55
propelled by something
more powerful than rocket engines,
more powerful than rocket engines,
33
103360
2680
propulsado por algo más poderoso
que un cohete,
que un cohete,
en el que los pasajeros
no son solo tres astronautas,
no son solo tres astronautas,
01:59
where the passengers
aren't just three astronauts
aren't just three astronauts
34
107200
2336
02:01
but all of humanity.
35
109560
1776
sino toda la humanidad.
02:03
Let's talk about our collective
journey into the future
journey into the future
36
111360
2936
Hablemos de nuestro viaje
colectivo hacia el futuro
colectivo hacia el futuro
02:06
with artificial intelligence.
37
114320
2000
con inteligencia artificial.
02:08
My friend Jaan Tallinn likes to point out
that just as with rocketry,
that just as with rocketry,
38
116960
4536
A mi amigo Jaan Tallinn le gusta señalar
que al igual que con los cohetes,
que al igual que con los cohetes,
02:13
it's not enough to make
our technology powerful.
our technology powerful.
39
121520
3160
no es suficiente con que nuestra
tecnología sea poderosa.
tecnología sea poderosa.
02:17
We also have to figure out,
if we're going to be really ambitious,
if we're going to be really ambitious,
40
125560
3175
También hay que descubrir, si seremos
lo suficientemente ambiciosos,
lo suficientemente ambiciosos,
02:20
how to steer it
41
128759
1416
como dirigirla
02:22
and where we want to go with it.
42
130199
1681
y a dónde queremos ir con eso.
02:24
So let's talk about all three
for artificial intelligence:
for artificial intelligence:
43
132880
2840
Así que hablemos de las tres
para la inteligencia artificial:
para la inteligencia artificial:
02:28
the power, the steering
and the destination.
and the destination.
44
136440
3056
el poder, la dirección y el destino.
02:31
Let's start with the power.
45
139520
1286
Comencemos con el poder.
02:33
I define intelligence very inclusively --
46
141600
3096
Yo defino la inteligencia
de forma muy inclusiva...
de forma muy inclusiva...
02:36
simply as our ability
to accomplish complex goals,
to accomplish complex goals,
47
144720
4336
simplemente como nuestra capacidad
para lograr objetivos complejos,
para lograr objetivos complejos,
02:41
because I want to include both
biological and artificial intelligence.
biological and artificial intelligence.
48
149080
3816
porque quiero incluir
inteligencia biológica y artificial.
inteligencia biológica y artificial.
02:44
And I want to avoid
the silly carbon-chauvinism idea
the silly carbon-chauvinism idea
49
152920
4016
Y quiero evitar la tonta idea
del chauvinismo de carbono:
del chauvinismo de carbono:
02:48
that you can only be smart
if you're made of meat.
if you're made of meat.
50
156960
2360
que solo se puede ser inteligente
si se está hecho de carne.
si se está hecho de carne.
02:52
It's really amazing how the power
of AI has grown recently.
of AI has grown recently.
51
160880
4176
Es realmente sorprendente cómo el poder
de la IA ha crecido recientemente.
de la IA ha crecido recientemente.
02:57
Just think about it.
52
165080
1256
Solo piensen en ello.
02:58
Not long ago, robots couldn't walk.
53
166360
3200
No hace mucho tiempo,
los robots no podían caminar.
los robots no podían caminar.
03:03
Now, they can do backflips.
54
171040
1720
Hoy pueden hacer volteretas hacia atrás.
03:06
Not long ago,
55
174080
1816
No hace mucho tiempo,
03:07
we didn't have self-driving cars.
56
175920
1760
no teníamos autos sin conductor.
03:10
Now, we have self-flying rockets.
57
178920
2480
Ahora, tenemos cohetes
que vuelan de forma autónoma.
que vuelan de forma autónoma.
03:15
Not long ago,
58
183960
1416
No hace mucho tiempo,
03:17
AI couldn't do face recognition.
59
185400
2616
la IA no podía hacer
reconocimiento facial.
reconocimiento facial.
03:20
Now, AI can generate fake faces
60
188040
2976
Ahora la IA puede generar caras falsas
03:23
and simulate your face
saying stuff that you never said.
saying stuff that you never said.
61
191040
4160
y simula tu cara diciendo
cosas que nunca dijiste.
cosas que nunca dijiste.
03:28
Not long ago,
62
196400
1576
No hace mucho tiempo,
03:30
AI couldn't beat us at the game of Go.
63
198000
1880
la IA no podía vencernos
en el juego de Go.
en el juego de Go.
03:32
Then, Google DeepMind's AlphaZero AI
took 3,000 years of human Go games
took 3,000 years of human Go games
64
200400
5096
AlphaZero AI de Google DeepMind
tomó 3000 años de juegos de Go humanos
tomó 3000 años de juegos de Go humanos
03:37
and Go wisdom,
65
205520
1256
y la sabiduría Go,
03:38
ignored it all and became the world's best
player by just playing against itself.
player by just playing against itself.
66
206800
4976
lo ignoró todo y se convirtió
en el mejor jugador del mundo
en el mejor jugador del mundo
simplemente jugando contra sí misma.
03:43
And the most impressive feat here
wasn't that it crushed human gamers,
wasn't that it crushed human gamers,
67
211800
3696
Y la hazaña más impresionante aquí no fue
que aplastara a los jugadores humanos,
que aplastara a los jugadores humanos,
03:47
but that it crushed human AI researchers
68
215520
2576
sino que aplastó a los
investigadores humanos de IA
investigadores humanos de IA
03:50
who had spent decades
handcrafting game-playing software.
handcrafting game-playing software.
69
218120
3680
que habían pasado décadas
elaborando software de juegos a mano.
elaborando software de juegos a mano.
03:54
And AlphaZero crushed human AI researchers
not just in Go but even at chess,
not just in Go but even at chess,
70
222200
4656
Y AlphaZero aplastó a los investigadores
de IA humana no solo en Go
de IA humana no solo en Go
sino incluso en ajedrez,
03:58
which we have been working on since 1950.
71
226880
2480
en el que hemos estado
trabajando desde 1950.
trabajando desde 1950.
04:02
So all this amazing recent progress in AI
really begs the question:
really begs the question:
72
230000
4240
Así que este increíble progreso reciente
en IA realmente plantea la pregunta:
en IA realmente plantea la pregunta:
04:07
How far will it go?
73
235280
1560
¿hasta dónde llegará?
04:09
I like to think about this question
74
237800
1696
Me gusta pensar en esta pregunta
04:11
in terms of this abstract
landscape of tasks,
landscape of tasks,
75
239520
2976
en términos de este
paisaje abstracto de tareas,
paisaje abstracto de tareas,
en el que la elevación representa lo
difícil que es para la IA hacer cada tarea
difícil que es para la IA hacer cada tarea
04:14
where the elevation represents
how hard it is for AI to do each task
how hard it is for AI to do each task
76
242520
3456
04:18
at human level,
77
246000
1216
a nivel humano,
04:19
and the sea level represents
what AI can do today.
what AI can do today.
78
247240
2760
y el nivel del mar representa
lo que la IA puede hacer hoy.
lo que la IA puede hacer hoy.
04:23
The sea level is rising
as AI improves,
as AI improves,
79
251120
2056
El nivel del mar aumenta
a medida que mejora la IA,
a medida que mejora la IA,
04:25
so there's a kind of global warming
going on here in the task landscape.
going on here in the task landscape.
80
253200
3440
así hay una especie de calentamiento
global en el paisaje de tareas.
global en el paisaje de tareas.
04:30
And the obvious takeaway
is to avoid careers at the waterfront --
is to avoid careers at the waterfront --
81
258040
3335
Y lo obvio es evitar
las carreras en el paseo marítimo...
las carreras en el paseo marítimo...
04:33
(Laughter)
82
261399
1257
(Risas)
04:34
which will soon be
automated and disrupted.
automated and disrupted.
83
262680
2856
que pronto será
automatizado e interrumpido.
automatizado e interrumpido.
04:37
But there's a much
bigger question as well.
bigger question as well.
84
265560
2976
Pero también hay una pregunta
mucho más relevante.
mucho más relevante.
04:40
How high will the water end up rising?
85
268560
1810
¿Qué tan alto llegará el agua?
04:43
Will it eventually rise
to flood everything,
to flood everything,
86
271440
3200
¿Finalmente se aumentará
hasta inundar todo,
hasta inundar todo,
04:47
matching human intelligence at all tasks.
87
275840
2496
coincidir la inteligencia humana
en todas las tareas?
en todas las tareas?
04:50
This is the definition
of artificial general intelligence --
of artificial general intelligence --
88
278360
3736
Esta es la definición de inteligencia
general artificial...
general artificial...
04:54
AGI,
89
282120
1296
IAG,
04:55
which has been the holy grail
of AI research since its inception.
of AI research since its inception.
90
283440
3080
que ha sido el santo grial de la
investigación de IA desde su inicio.
investigación de IA desde su inicio.
Según esta definición,
las personas que dicen,
las personas que dicen,
04:59
By this definition, people who say,
91
287000
1776
05:00
"Ah, there will always be jobs
that humans can do better than machines,"
that humans can do better than machines,"
92
288800
3416
"Siempre habrá trabajos que los humanos
puedan hacer mejor que las máquinas",
puedan hacer mejor que las máquinas",
05:04
are simply saying
that we'll never get AGI.
that we'll never get AGI.
93
292240
2920
simplemente están diciendo
que nunca tendremos IAG.
que nunca tendremos IAG.
05:07
Sure, we might still choose
to have some human jobs
to have some human jobs
94
295680
3576
Claro, aún podríamos elegir
tener algunos trabajos humanos
tener algunos trabajos humanos
o darles a los humanos un ingreso
y un propósito con nuestros trabajos,
y un propósito con nuestros trabajos,
05:11
or to give humans income
and purpose with our jobs,
and purpose with our jobs,
95
299280
3096
05:14
but AGI will in any case
transform life as we know it
transform life as we know it
96
302400
3736
pero la IAG en cualquier caso transformará
la vida tal como la conocemos
la vida tal como la conocemos
05:18
with humans no longer being
the most intelligent.
the most intelligent.
97
306160
2736
al no ser ya los humanos
los más inteligentes.
los más inteligentes.
05:20
Now, if the water level does reach AGI,
98
308920
3696
Ahora, si el nivel del agua llega a IAG,
entonces, el progreso de la IA
no será impulsado
no será impulsado
05:24
then further AI progress will be driven
mainly not by humans but by AI,
mainly not by humans but by AI,
99
312640
5296
principalmente por humanos,
sino por la IA,
sino por la IA,
05:29
which means that there's a possibility
100
317960
1856
lo que significa que hay la posibilidad
05:31
that further AI progress
could be way faster
could be way faster
101
319840
2336
de que ese progreso adicional de la IA
sea mucho más rápido
sea mucho más rápido
05:34
than the typical human research
and development timescale of years,
and development timescale of years,
102
322200
3376
que la escala de tiempo típica
de investigación y desarrollo
humano de años,
humano de años,
05:37
raising the controversial possibility
of an intelligence explosion
of an intelligence explosion
103
325600
4016
planteando la posibilidad controvertida
de una explosión de inteligencia
de una explosión de inteligencia
05:41
where recursively self-improving AI
104
329640
2296
donde la IA recursivamente automejorada
05:43
rapidly leaves human
intelligence far behind,
intelligence far behind,
105
331960
3416
rápidamente deja muy atrás
la inteligencia humana,
la inteligencia humana,
05:47
creating what's known
as superintelligence.
as superintelligence.
106
335400
2440
creando lo que se conoce
como superinteligencia.
como superinteligencia.
05:51
Alright, reality check:
107
339800
2280
Bien, verificación de la realidad:
05:55
Are we going to get AGI any time soon?
108
343120
2440
¿Vamos a lograr IAG en el corto plazo?
05:58
Some famous AI researchers,
like Rodney Brooks,
like Rodney Brooks,
109
346360
2696
Algunos investigadores famosos de IA,
como Rodney Brooks,
como Rodney Brooks,
06:01
think it won't happen
for hundreds of years.
for hundreds of years.
110
349080
2496
creen que no sucederá en cientos de años.
06:03
But others, like Google DeepMind
founder Demis Hassabis,
founder Demis Hassabis,
111
351600
3896
Pero otros, como el fundador
de Google DeepMind, Demis Hassabis,
de Google DeepMind, Demis Hassabis,
06:07
are more optimistic
112
355520
1256
son más optimistas
y están trabajando para tratar
de que suceda mucho antes.
de que suceda mucho antes.
06:08
and are working to try to make
it happen much sooner.
it happen much sooner.
113
356800
2576
06:11
And recent surveys have shown
that most AI researchers
that most AI researchers
114
359400
3296
Y encuestas recientes han mostrado
que la mayoría de los investigadores IA
que la mayoría de los investigadores IA
06:14
actually share Demis's optimism,
115
362720
2856
en realidad comparten
el optimismo de Demis,
el optimismo de Demis,
06:17
expecting that we will
get AGI within decades,
get AGI within decades,
116
365600
3080
esperando que obtengamos IAG en décadas,
06:21
so within the lifetime of many of us,
117
369640
2256
en la vida de muchos de nosotros,
06:23
which begs the question -- and then what?
118
371920
1960
lo cual plantea la pregunta, ¿y luego qué?
06:27
What do we want the role of humans to be
119
375040
2216
¿Cuál queremos que sea
el papel de los humanos
el papel de los humanos
06:29
if machines can do everything better
and cheaper than us?
and cheaper than us?
120
377280
2680
si las máquinas pueden hacer todo mejor
y más barato que nosotros?
y más barato que nosotros?
06:35
The way I see it, we face a choice.
121
383000
2000
De la forma en que lo veo,
enfrentamos una elección.
enfrentamos una elección.
06:38
One option is to be complacent.
122
386000
1576
Una opción es ser complacientes.
06:39
We can say, "Oh, let's just build machines
that can do everything we can do
that can do everything we can do
123
387600
3776
Decir: "Construyamos máquinas que
puedan hacer todo lo que podemos hacer
puedan hacer todo lo que podemos hacer
y no preocuparnos por las consecuencias.
06:43
and not worry about the consequences.
124
391400
1816
06:45
Come on, if we build technology
that makes all humans obsolete,
that makes all humans obsolete,
125
393240
3256
Es decir, si construimos tecnología
que hace a todos los humanos obsoletos,
que hace a todos los humanos obsoletos,
06:48
what could possibly go wrong?"
126
396520
2096
¿qué podrá salir mal?".
06:50
(Laughter)
127
398640
1656
(Risas)
06:52
But I think that would be
embarrassingly lame.
embarrassingly lame.
128
400320
2760
Pero creo que eso sería
vergonzosamente flojo.
vergonzosamente flojo.
06:56
I think we should be more ambitious --
in the spirit of TED.
in the spirit of TED.
129
404080
3496
Creo que deberíamos ser
más ambiciosos... en el espíritu de TED.
más ambiciosos... en el espíritu de TED.
06:59
Let's envision a truly inspiring
high-tech future
high-tech future
130
407600
3496
Imaginemos un futuro de alta
tecnología verdaderamente inspirador
tecnología verdaderamente inspirador
07:03
and try to steer towards it.
131
411120
1400
y tratemos de dirigirnos a él.
Esto nos lleva a la segunda parte de
nuestra metáfora del cohete: la dirección.
nuestra metáfora del cohete: la dirección.
07:05
This brings us to the second part
of our rocket metaphor: the steering.
of our rocket metaphor: the steering.
132
413720
3536
07:09
We're making AI more powerful,
133
417280
1896
Estamos haciendo que
la IA sea más poderosa,
la IA sea más poderosa,
07:11
but how can we steer towards a future
134
419200
3816
pero ¿cómo podemos
dirigirnos hacia un futuro
dirigirnos hacia un futuro
07:15
where AI helps humanity flourish
rather than flounder?
rather than flounder?
135
423040
3080
en el que la IA ayude a la humanidad
a florecer en lugar de al desconcierto?
a florecer en lugar de al desconcierto?
07:18
To help with this,
136
426760
1256
Para esto,
cofundé Future of Life Institute,
07:20
I cofounded the Future of Life Institute.
137
428040
1976
una organización sin fines de lucro
07:22
It's a small nonprofit promoting
beneficial technology use,
beneficial technology use,
138
430040
2776
que promueve el uso
de tecnología beneficiosa,
de tecnología beneficiosa,
07:24
and our goal is simply
for the future of life to exist
for the future of life to exist
139
432840
2736
y nuestro objetivo es que exista
el futuro de la vida
07:27
and to be as inspiring as possible.
140
435600
2056
y ser lo más inspiradores posible.
07:29
You know, I love technology.
141
437680
3176
Ya saben, me encanta la tecnología.
07:32
Technology is why today
is better than the Stone Age.
is better than the Stone Age.
142
440880
2920
La tecnología es el por qué hoy
es mejor que la Edad de Piedra.
es mejor que la Edad de Piedra.
07:36
And I'm optimistic that we can create
a really inspiring high-tech future ...
a really inspiring high-tech future ...
143
444600
4080
Y soy optimista de que
podemos crear un futuro
podemos crear un futuro
de alta tecnología realmente inspirador...
07:41
if -- and this is a big if --
144
449680
1456
si —y esto es un gran si—
07:43
if we win the wisdom race --
145
451160
2456
si ganamos la carrera de sabiduría,
07:45
the race between the growing
power of our technology
power of our technology
146
453640
2856
la carrera entre el poder creciente
de nuestra tecnología
de nuestra tecnología
07:48
and the growing wisdom
with which we manage it.
with which we manage it.
147
456520
2200
y la creciente sabiduría
con la que lo administramos.
con la que lo administramos.
07:51
But this is going to require
a change of strategy
a change of strategy
148
459240
2296
Pero esto requerirá
un cambio de estrategia
un cambio de estrategia
07:53
because our old strategy
has been learning from mistakes.
has been learning from mistakes.
149
461560
3040
porque nuestra vieja estrategia
ha sido aprender de los errores.
ha sido aprender de los errores.
07:57
We invented fire,
150
465280
1536
Inventamos el fuego,
07:58
screwed up a bunch of times --
151
466840
1536
nos afectó un montón de veces...
08:00
invented the fire extinguisher.
152
468400
1816
se inventó el extintor de incendios.
08:02
(Laughter)
153
470240
1336
(Risas)
08:03
We invented the car,
screwed up a bunch of times --
screwed up a bunch of times --
154
471600
2416
Inventamos el auto,
arruinado un montón de veces
arruinado un montón de veces
se inventó el semáforo,
el cinturón de seguridad y el airbag,
el cinturón de seguridad y el airbag,
08:06
invented the traffic light,
the seat belt and the airbag,
the seat belt and the airbag,
155
474040
2667
08:08
but with more powerful technology
like nuclear weapons and AGI,
like nuclear weapons and AGI,
156
476731
3845
pero con tecnología más poderosa
como armas nucleares e IAG,
como armas nucleares e IAG,
08:12
learning from mistakes
is a lousy strategy,
is a lousy strategy,
157
480600
3376
aprender de los errores
es una estrategia pésima,
es una estrategia pésima,
08:16
don't you think?
158
484000
1216
¿no creen?
(Risas)
08:17
(Laughter)
159
485240
1016
Es mucho mejor ser proactivo
en lugar de reactivo;
en lugar de reactivo;
08:18
It's much better to be proactive
rather than reactive;
rather than reactive;
160
486280
2576
planificar y hacer las cosas
bien la primera vez
bien la primera vez
08:20
plan ahead and get things
right the first time
right the first time
161
488880
2296
porque podría ser la única vez
que lo consiguiéramos.
que lo consiguiéramos.
08:23
because that might be
the only time we'll get.
the only time we'll get.
162
491200
2496
08:25
But it is funny because
sometimes people tell me,
sometimes people tell me,
163
493720
2336
Pero es extraño porque
a veces la gente me dice:
a veces la gente me dice:
08:28
"Max, shhh, don't talk like that.
164
496080
2736
"Max, shhh, no hables así.
08:30
That's Luddite scaremongering."
165
498840
1720
Ese es el alarmismo ludista".
08:34
But it's not scaremongering.
166
502040
1536
Pero no es alarmismo.
08:35
It's what we at MIT
call safety engineering.
call safety engineering.
167
503600
2880
Es lo que en MIT llamamos
ingeniería de seguridad.
ingeniería de seguridad.
08:39
Think about it:
168
507200
1216
Piénsenlo:
antes de que la NASA
lanzara la misión Apolo 11,
lanzara la misión Apolo 11,
08:40
before NASA launched
the Apollo 11 mission,
the Apollo 11 mission,
169
508440
2216
08:42
they systematically thought through
everything that could go wrong
everything that could go wrong
170
510680
3136
pensaron sistemáticamente
en todo lo que podría salir mal
en todo lo que podría salir mal
al poner gente sobre
tanques de combustible explosivos
tanques de combustible explosivos
08:45
when you put people
on top of explosive fuel tanks
on top of explosive fuel tanks
171
513840
2376
08:48
and launch them somewhere
where no one could help them.
where no one could help them.
172
516240
2616
y lanzarla a un lugar
donde nadie podía ayudarla.
donde nadie podía ayudarla.
08:50
And there was a lot that could go wrong.
173
518880
1936
Y había muchas cosas
que podrían salir mal.
que podrían salir mal.
08:52
Was that scaremongering?
174
520840
1480
¿Era eso alarmismo?
No.
08:55
No.
175
523159
1217
Fue precisamente
la ingeniería de seguridad
la ingeniería de seguridad
08:56
That's was precisely
the safety engineering
the safety engineering
176
524400
2016
08:58
that ensured the success of the mission,
177
526440
1936
la que aseguró el éxito de la misión,
09:00
and that is precisely the strategy
I think we should take with AGI.
I think we should take with AGI.
178
528400
4176
y esa es precisamente la estrategia
que creo que deberíamos tomar con IAG.
que creo que deberíamos tomar con IAG.
09:04
Think through what can go wrong
to make sure it goes right.
to make sure it goes right.
179
532600
4056
Pensar en lo que puede salir mal
para asegurarnos de que va a salir bien.
para asegurarnos de que va a salir bien.
09:08
So in this spirit,
we've organized conferences,
we've organized conferences,
180
536680
2536
En este espíritu,
organizamos conferencias,
organizamos conferencias,
con los principales investigadores
de la IA y otros pensadores
de la IA y otros pensadores
09:11
bringing together leading
AI researchers and other thinkers
AI researchers and other thinkers
181
539240
2816
para discutir cómo crecer esta sabiduría
para mantener la IA beneficiosa.
para mantener la IA beneficiosa.
09:14
to discuss how to grow this wisdom
we need to keep AI beneficial.
we need to keep AI beneficial.
182
542080
3736
09:17
Our last conference
was in Asilomar, California last year
was in Asilomar, California last year
183
545840
3296
Nuestra última conferencia fue
en Asilomar, California, el año pasado
en Asilomar, California, el año pasado
09:21
and produced this list of 23 principles
184
549160
3056
y produjo esta lista de 23 principios
que desde entonces han sido firmados
por más de 1000 investigadores de IA
por más de 1000 investigadores de IA
09:24
which have since been signed
by over 1,000 AI researchers
by over 1,000 AI researchers
185
552240
2896
09:27
and key industry leaders,
186
555160
1296
y líderes clave de la industria,
09:28
and I want to tell you
about three of these principles.
about three of these principles.
187
556480
3176
y quiero contarles acerca
de tres de estos principios.
de tres de estos principios.
09:31
One is that we should avoid an arms race
and lethal autonomous weapons.
and lethal autonomous weapons.
188
559680
4960
Uno es que debemos evitar una carrera
armamentista y armas letales autónomas.
armamentista y armas letales autónomas.
La idea aquí es que toda ciencia puede
usarse para nuevas formas de ayudar
usarse para nuevas formas de ayudar
09:37
The idea here is that any science
can be used for new ways of helping people
can be used for new ways of helping people
189
565480
3616
o nuevas formas de dañar personas.
09:41
or new ways of harming people.
190
569120
1536
09:42
For example, biology and chemistry
are much more likely to be used
are much more likely to be used
191
570680
3936
Por ejemplo, es mucho más probable
que se usen la biología y la química
que se usen la biología y la química
09:46
for new medicines or new cures
than for new ways of killing people,
than for new ways of killing people,
192
574640
4856
para nuevas medicinas o nuevas curas que
para nuevas formas de matar personas,
para nuevas formas de matar personas,
porque los biólogos y los químicos
presionaron mucho
presionaron mucho
09:51
because biologists
and chemists pushed hard --
and chemists pushed hard --
193
579520
2176
09:53
and successfully --
194
581720
1256
y exitosamente...
09:55
for bans on biological
and chemical weapons.
and chemical weapons.
195
583000
2176
para prohibir las armas
biológicas y químicas.
biológicas y químicas.
09:57
And in the same spirit,
196
585200
1256
Y en el mismo espíritu,
09:58
most AI researchers want to stigmatize
and ban lethal autonomous weapons.
and ban lethal autonomous weapons.
197
586480
4440
la mayoría de los investigadores de IA
quieren estigmatizar y prohibir
las armas letales autónomas.
las armas letales autónomas.
10:03
Another Asilomar AI principle
198
591600
1816
Otro principio de IA Asilomar
10:05
is that we should mitigate
AI-fueled income inequality.
AI-fueled income inequality.
199
593440
3696
es que debemos mitigar la desigualdad
de ingresos alimentada con IA.
de ingresos alimentada con IA.
10:09
I think that if we can grow
the economic pie dramatically with AI
the economic pie dramatically with AI
200
597160
4456
Creo que si podemos hacer crecer el pastel
económico radicalmente con la IA
económico radicalmente con la IA
y no podemos entender
cómo dividir este pastel
cómo dividir este pastel
10:13
and we still can't figure out
how to divide this pie
how to divide this pie
201
601640
2456
10:16
so that everyone is better off,
202
604120
1576
para que todos estén mejor,
10:17
then shame on us.
203
605720
1256
entonces avergoncémonos.
10:19
(Applause)
204
607000
4096
(Aplausos)
10:23
Alright, now raise your hand
if your computer has ever crashed.
if your computer has ever crashed.
205
611120
3600
Ahora levanten la mano si su computadora
se ha dañado alguna vez.
se ha dañado alguna vez.
10:27
(Laughter)
206
615480
1256
(Risas)
10:28
Wow, that's a lot of hands.
207
616760
1656
Uy, son muchas manos.
10:30
Well, then you'll appreciate
this principle
this principle
208
618440
2176
Bueno, entonces apreciarán este principio
que deberíamos invertir mucho más
en la investigación de seguridad de IA,
en la investigación de seguridad de IA,
10:32
that we should invest much more
in AI safety research,
in AI safety research,
209
620640
3136
10:35
because as we put AI in charge
of even more decisions and infrastructure,
of even more decisions and infrastructure,
210
623800
3656
porque al poner a la IA a cargo de
más decisiones e infraestructura,
más decisiones e infraestructura,
tenemos que encontrar cómo transformar
10:39
we need to figure out how to transform
today's buggy and hackable computers
today's buggy and hackable computers
211
627480
3616
las computadoras pirateables y con errores
10:43
into robust AI systems
that we can really trust,
that we can really trust,
212
631120
2416
en sistemas robustos de IA
en los que poder confiar,
en los que poder confiar,
10:45
because otherwise,
213
633560
1216
porque de otra manera,
toda esta nueva tecnología
puede funcionar mal y dañarnos,
puede funcionar mal y dañarnos,
10:46
all this awesome new technology
can malfunction and harm us,
can malfunction and harm us,
214
634800
2816
o ser pirateada y
volverse contra nosotros.
volverse contra nosotros.
10:49
or get hacked and be turned against us.
215
637640
1976
10:51
And this AI safety work
has to include work on AI value alignment,
has to include work on AI value alignment,
216
639640
5696
Y este trabajo de seguridad de IA
debe incluir trabajo sobre
la alineación de valores de IA,
la alineación de valores de IA,
10:57
because the real threat
from AGI isn't malice,
from AGI isn't malice,
217
645360
2816
porque la amenaza real
de la IAG no es la malicia,
de la IAG no es la malicia,
como en las tontas películas de Hollywood,
11:00
like in silly Hollywood movies,
218
648200
1656
11:01
but competence --
219
649880
1736
sino la competencia...
11:03
AGI accomplishing goals
that just aren't aligned with ours.
that just aren't aligned with ours.
220
651640
3416
La IAG logrando metas que simplemente
no están alineadas con las nuestras.
no están alineadas con las nuestras.
11:07
For example, when we humans drove
the West African black rhino extinct,
the West African black rhino extinct,
221
655080
4736
Por ejemplo, cuando los humanos llevamos
al rinoceronte negro africano occidental
a la extinción,
a la extinción,
11:11
we didn't do it because we were a bunch
of evil rhinoceros haters, did we?
of evil rhinoceros haters, did we?
222
659840
3896
no lo hicimos porque fuéramos malvados
enemigos del rinoceronte, ¿verdad?
enemigos del rinoceronte, ¿verdad?
Fue porque éramos
más inteligentes que ellos
más inteligentes que ellos
11:15
We did it because
we were smarter than them
we were smarter than them
223
663760
2056
y nuestros objetivos no estaban
alineados con los suyos.
alineados con los suyos.
11:17
and our goals weren't aligned with theirs.
224
665840
2576
11:20
But AGI is by definition smarter than us,
225
668440
2656
Pero la IAG es, por definición,
más inteligente que nosotros,
más inteligente que nosotros,
11:23
so to make sure that we don't put
ourselves in the position of those rhinos
ourselves in the position of those rhinos
226
671120
3576
así que para asegurarnos de no ponernos
en la posición de esos rinocerontes
en la posición de esos rinocerontes
11:26
if we create AGI,
227
674720
1976
si creamos la IAG,
11:28
we need to figure out how
to make machines understand our goals,
to make machines understand our goals,
228
676720
4176
necesitamos descubrir cómo hacer que las
máquinas comprendan nuestros objetivos,
máquinas comprendan nuestros objetivos,
11:32
adopt our goals and retain our goals.
229
680920
3160
adopten nuestros objetivos
y retengan nuestros objetivos.
y retengan nuestros objetivos.
11:37
And whose goals should these be, anyway?
230
685320
2856
¿Y de quién son los objetivos,
de todos modos?
de todos modos?
11:40
Which goals should they be?
231
688200
1896
¿Cuáles objetivos deberían ser?
11:42
This brings us to the third part
of our rocket metaphor: the destination.
of our rocket metaphor: the destination.
232
690120
3560
Esto nos lleva a la tercera parte de
nuestra metáfora del cohete: el destino.
nuestra metáfora del cohete: el destino.
Estamos haciendo que la IA
sea más poderosa,
sea más poderosa,
11:47
We're making AI more powerful,
233
695160
1856
11:49
trying to figure out how to steer it,
234
697040
1816
tratando de descubrir cómo dirigirla,
11:50
but where do we want to go with it?
235
698880
1680
pero ¿a dónde queremos llegar?
11:53
This is the elephant in the room
that almost nobody talks about --
that almost nobody talks about --
236
701760
3656
Este es el elefante en la habitación
del que casi nadie habla...
del que casi nadie habla...
11:57
not even here at TED --
237
705440
1856
ni siquiera aquí en TED,
11:59
because we're so fixated
on short-term AI challenges.
on short-term AI challenges.
238
707320
4080
porque estamos muy obsesionados
con los desafíos de la IA a corto plazo.
con los desafíos de la IA a corto plazo.
12:04
Look, our species is trying to build AGI,
239
712080
4656
Miren, nuestra especie
está tratando de construir la IAG,
está tratando de construir la IAG,
12:08
motivated by curiosity and economics,
240
716760
3496
motivada por la curiosidad y la economía,
12:12
but what sort of future society
are we hoping for if we succeed?
are we hoping for if we succeed?
241
720280
3680
pero ¿qué tipo de sociedad futura
estamos esperando si lo logramos?
estamos esperando si lo logramos?
Una encuesta de opinión
sobre esto recientemente,
sobre esto recientemente,
12:16
We did an opinion poll on this recently,
242
724680
1936
12:18
and I was struck to see
243
726640
1216
y me llamó la atención ver
12:19
that most people actually
want us to build superintelligence:
want us to build superintelligence:
244
727880
2896
que la mayoría de la gente quiere
que construyamos superinteligencia:
que construyamos superinteligencia:
12:22
AI that's vastly smarter
than us in all ways.
than us in all ways.
245
730800
3160
La IA es mucho más inteligente
que nosotros en todos los sentidos.
que nosotros en todos los sentidos.
12:27
What there was the greatest agreement on
was that we should be ambitious
was that we should be ambitious
246
735120
3416
El mayor acuerdo fue que
deberíamos ser ambiciosos
deberíamos ser ambiciosos
12:30
and help life spread into the cosmos,
247
738560
2016
y ayudar a la vida a extenderse al cosmos,
12:32
but there was much less agreement
about who or what should be in charge.
about who or what should be in charge.
248
740600
4496
pero había mucho menos acuerdo
sobre quién o qué debería estar a cargo.
sobre quién o qué debería estar a cargo.
12:37
And I was actually quite amused
249
745120
1736
Y en realidad era bastante entretenido
12:38
to see that there's some some people
who want it to be just machines.
who want it to be just machines.
250
746880
3456
ver que hay algunas personas
que quieren que sean solo máquinas.
que quieren que sean solo máquinas.
12:42
(Laughter)
251
750360
1696
(Risas)
12:44
And there was total disagreement
about what the role of humans should be,
about what the role of humans should be,
252
752080
3856
Y hubo desacuerdo total sobre cuál
debería ser el papel de los humanos,
debería ser el papel de los humanos,
12:47
even at the most basic level,
253
755960
1976
incluso en el nivel más básico,
12:49
so let's take a closer look
at possible futures
at possible futures
254
757960
2816
así que echemos un vistazo
más de cerca a los posibles futuros
más de cerca a los posibles futuros
12:52
that we might choose
to steer toward, alright?
to steer toward, alright?
255
760800
2736
a los que podríamos
elegir dirigirnos, ¿está bien?
elegir dirigirnos, ¿está bien?
12:55
So don't get be wrong here.
256
763560
1336
No se equivoquen aquí.
12:56
I'm not talking about space travel,
257
764920
2056
No estoy hablando de viajes espaciales
12:59
merely about humanity's
metaphorical journey into the future.
metaphorical journey into the future.
258
767000
3200
solo del viaje metafórico
de la humanidad hacia el futuro.
de la humanidad hacia el futuro.
13:02
So one option that some
of my AI colleagues like
of my AI colleagues like
259
770920
3496
Entonces, una opción que a algunos
de mis colegas de IA les gusta
de mis colegas de IA les gusta
13:06
is to build superintelligence
and keep it under human control,
and keep it under human control,
260
774440
3616
es construir superinteligencia
y mantenerla bajo control humano,
y mantenerla bajo control humano,
13:10
like an enslaved god,
261
778080
1736
como un dios esclavizado,
13:11
disconnected from the internet
262
779840
1576
desconectado de internet
13:13
and used to create unimaginable
technology and wealth
technology and wealth
263
781440
3256
y que se usa para crear tecnología
y riqueza inimaginables
y riqueza inimaginables
13:16
for whoever controls it.
264
784720
1240
para quien la controla.
13:18
But Lord Acton warned us
265
786800
1456
Pero Lord Acton nos advirtió que
13:20
that power corrupts,
and absolute power corrupts absolutely,
and absolute power corrupts absolutely,
266
788280
3616
ese poder corrompe, y el poder absoluto
corrompe absolutamente,
corrompe absolutamente,
13:23
so you might worry that maybe
we humans just aren't smart enough,
we humans just aren't smart enough,
267
791920
4056
podrían preocuparse de que, tal vez,
los humanos no somos lo inteligentes
los humanos no somos lo inteligentes
13:28
or wise enough rather,
268
796000
1536
o suficientemente sabios,
13:29
to handle this much power.
269
797560
1240
como para manejar tanto poder.
13:31
Also, aside from any
moral qualms you might have
moral qualms you might have
270
799640
2536
Además, aparte de cualquier
reparo moral que puedan tener
reparo moral que puedan tener
13:34
about enslaving superior minds,
271
802200
2296
sobre esclavizar mentes superiores,
13:36
you might worry that maybe
the superintelligence could outsmart us,
the superintelligence could outsmart us,
272
804520
3976
podrían preocuparse de que
tal vez la superinteligencia
tal vez la superinteligencia
pueda ser más astuta que nosotros,
13:40
break out and take over.
273
808520
2240
evadirse y tomar el control.
13:43
But I also have colleagues
who are fine with AI taking over
who are fine with AI taking over
274
811560
3416
Pero también tengo colegas que están
de acuerdo con que la IA se haga cargo
de acuerdo con que la IA se haga cargo
13:47
and even causing human extinction,
275
815000
2296
e incluso cause la extinción humana,
13:49
as long as we feel the the AIs
are our worthy descendants,
are our worthy descendants,
276
817320
3576
siempre y cuando sientan que las IAs
son nuestras dignas descendientes,
son nuestras dignas descendientes,
13:52
like our children.
277
820920
1736
como nuestros hijos
13:54
But how would we know that the AIs
have adopted our best values
have adopted our best values
278
822680
5616
Pero ¿cómo sabríamos que la IA ha
adoptado nuestros mejores valores?
adoptado nuestros mejores valores?
14:00
and aren't just unconscious zombies
tricking us into anthropomorphizing them?
tricking us into anthropomorphizing them?
279
828320
4376
y no son solo zombis inconscientes
engañándonos antropomorfizándose?
engañándonos antropomorfizándose?
14:04
Also, shouldn't those people
who don't want human extinction
who don't want human extinction
280
832720
2856
Además, ¿no deberían las personas
que no quieren la extinción humana
que no quieren la extinción humana
14:07
have a say in the matter, too?
281
835600
1440
poder algo decir al respecto también?
14:10
Now, if you didn't like either
of those two high-tech options,
of those two high-tech options,
282
838200
3376
Ahora, si no les gustó ninguna de esas
dos opciones de alta tecnología,
dos opciones de alta tecnología,
14:13
it's important to remember
that low-tech is suicide
that low-tech is suicide
283
841600
3176
es importante recordar que
la baja tecnología es un suicidio
la baja tecnología es un suicidio
desde una perspectiva cósmica,
14:16
from a cosmic perspective,
284
844800
1256
14:18
because if we don't go far
beyond today's technology,
beyond today's technology,
285
846080
2496
porque si no vamos más allá
de la tecnología actual,
de la tecnología actual,
14:20
the question isn't whether humanity
is going to go extinct,
is going to go extinct,
286
848600
2816
la pregunta no es si la humanidad
se va a extinguir,
se va a extinguir,
14:23
merely whether
we're going to get taken out
we're going to get taken out
287
851440
2016
simplemente si nos van a acabar
14:25
by the next killer asteroid, supervolcano
288
853480
2136
el próximo asteroide asesino,
un supervolcán
un supervolcán
14:27
or some other problem
that better technology could have solved.
that better technology could have solved.
289
855640
3096
u otro problema que una
mejor tecnología podría haber resuelto.
mejor tecnología podría haber resuelto.
14:30
So, how about having
our cake and eating it ...
our cake and eating it ...
290
858760
3576
Entonces, ¿qué tal tener
nuestro pastel y comérnoslo...
nuestro pastel y comérnoslo...
14:34
with AGI that's not enslaved
291
862360
1840
con la IAG que no esté esclavizada
sino que nos trata bien porque sus valores
están alineados con los nuestros?
están alineados con los nuestros?
14:37
but treats us well because its values
are aligned with ours?
are aligned with ours?
292
865120
3176
14:40
This is the gist of what Eliezer Yudkowsky
has called "friendly AI,"
has called "friendly AI,"
293
868320
4176
Es la esencia de lo que Eliezer Yudkowsky
llama "amigable inteligencia artificial".
llama "amigable inteligencia artificial".
14:44
and if we can do this,
it could be awesome.
it could be awesome.
294
872520
2680
y si podemos hacer esto,
podría ser increíble.
podría ser increíble.
14:47
It could not only eliminate negative
experiences like disease, poverty,
experiences like disease, poverty,
295
875840
4816
No solo podría eliminar las experiencias
negativas como la enfermedad, la pobreza,
negativas como la enfermedad, la pobreza,
14:52
crime and other suffering,
296
880680
1456
el crimen u otro sufrimiento,
14:54
but it could also give us
the freedom to choose
the freedom to choose
297
882160
2816
sino también podría darnos
la libertad de elegir
la libertad de elegir
14:57
from a fantastic new diversity
of positive experiences --
of positive experiences --
298
885000
4056
de una nueva y fantástica diversidad
de experiencias positivas
de experiencias positivas
15:01
basically making us
the masters of our own destiny.
the masters of our own destiny.
299
889080
3160
básicamente haciéndonos dueños
de nuestro propio destino.
de nuestro propio destino.
15:06
So in summary,
300
894280
1376
Entonces, en resumen,
15:07
our situation with technology
is complicated,
is complicated,
301
895680
3096
nuestra situación con la tecnología
es complicada,
es complicada,
15:10
but the big picture is rather simple.
302
898800
2416
pero el panorama general
es bastante simple.
es bastante simple.
15:13
Most AI researchers
expect AGI within decades,
expect AGI within decades,
303
901240
3456
La mayoría de los investigadores
de IA esperan la IAG en décadas,
de IA esperan la IAG en décadas,
15:16
and if we just bumble
into this unprepared,
into this unprepared,
304
904720
3136
y si nos equivocamos
en esto sin preparación,
en esto sin preparación,
15:19
it will probably be
the biggest mistake in human history --
the biggest mistake in human history --
305
907880
3336
probablemente sea el error más grande
en la historia de la humanidad...
en la historia de la humanidad...
15:23
let's face it.
306
911240
1416
afrontémoslo.
15:24
It could enable brutal,
global dictatorship
global dictatorship
307
912680
2576
Podría permitir
una dictadura brutal y global
una dictadura brutal y global
15:27
with unprecedented inequality,
surveillance and suffering,
surveillance and suffering,
308
915280
3536
con desigualdad, vigilancia
y sufrimiento sin precedentes,
y sufrimiento sin precedentes,
15:30
and maybe even human extinction.
309
918840
1976
y tal vez incluso la extinción humana.
15:32
But if we steer carefully,
310
920840
2320
Pero si nos dirigimos con cuidado,
15:36
we could end up in a fantastic future
where everybody's better off:
where everybody's better off:
311
924040
3896
podríamos terminar en un futuro fantástico
en el que todos estemos mejor:
en el que todos estemos mejor:
15:39
the poor are richer, the rich are richer,
312
927960
2376
los pobres son más ricos,
los ricos son más ricos,
los ricos son más ricos,
15:42
everybody is healthy
and free to live out their dreams.
and free to live out their dreams.
313
930360
3960
todos están sanos y son
libres de vivir sus sueños.
libres de vivir sus sueños.
15:47
Now, hang on.
314
935000
1536
Ahora, esperen.
15:48
Do you folks want the future
that's politically right or left?
that's politically right or left?
315
936560
4576
¿Uds. quieren el futuro políticamente
de derecha o de izquierda?
de derecha o de izquierda?
15:53
Do you want the pious society
with strict moral rules,
with strict moral rules,
316
941160
2856
¿Quieren la sociedad piadosa
con estrictas reglas morales,
con estrictas reglas morales,
15:56
or do you an hedonistic free-for-all,
317
944040
1816
o una libertad hedonista para todos,
15:57
more like Burning Man 24/7?
318
945880
2216
más como Burning Man 24/7?
16:00
Do you want beautiful beaches,
forests and lakes,
forests and lakes,
319
948120
2416
¿Quieren hermosas playas, bosques y lagos,
16:02
or would you prefer to rearrange
some of those atoms with the computers,
some of those atoms with the computers,
320
950560
3416
o prefieren reorganizar algunos
de esos átomos con las computadoras,
de esos átomos con las computadoras,
16:06
enabling virtual experiences?
321
954000
1715
permitiendo experiencias virtuales?
16:07
With friendly AI, we could simply
build all of these societies
build all of these societies
322
955739
3157
Con una IA amigable, podríamos
construir todas estas sociedades
construir todas estas sociedades
16:10
and give people the freedom
to choose which one they want to live in
to choose which one they want to live in
323
958920
3216
y dar a las personas la libertad
de elegir en cuál quieren vivir
de elegir en cuál quieren vivir
16:14
because we would no longer
be limited by our intelligence,
be limited by our intelligence,
324
962160
3096
porque ya no estaríamos limitados
por nuestra inteligencia,
por nuestra inteligencia,
solo por las leyes de la física.
16:17
merely by the laws of physics.
325
965280
1456
16:18
So the resources and space
for this would be astronomical --
for this would be astronomical --
326
966760
4616
Entonces, los recursos y el espacio
para esto serían astronómicos,
para esto serían astronómicos,
16:23
literally.
327
971400
1320
literalmente.
16:25
So here's our choice.
328
973320
1200
Así que aquí está nuestra elección.
16:27
We can either be complacent
about our future,
about our future,
329
975880
2320
Podemos ser complacientes
con nuestro futuro,
con nuestro futuro,
16:31
taking as an article of blind faith
330
979440
2656
tomando como un artículo de fe ciega
16:34
that any new technology
is guaranteed to be beneficial,
is guaranteed to be beneficial,
331
982120
4016
que cualquier nueva tecnología
garantiza ser beneficiosa,
garantiza ser beneficiosa,
16:38
and just repeat that to ourselves
as a mantra over and over and over again
as a mantra over and over and over again
332
986160
4136
y solo repetírnoslo a nosotros mismos
como un mantra una y otra y otra vez
como un mantra una y otra y otra vez
16:42
as we drift like a rudderless ship
towards our own obsolescence.
towards our own obsolescence.
333
990320
3680
mientras navegamos como un barco sin
timón hacia nuestra propia obsolescencia.
timón hacia nuestra propia obsolescencia.
16:46
Or we can be ambitious --
334
994920
1880
O podemos ser ambiciosos
pensando mucho acerca de
cómo dirigir nuestra tecnología
cómo dirigir nuestra tecnología
16:49
thinking hard about how
to steer our technology
to steer our technology
335
997840
2456
16:52
and where we want to go with it
336
1000320
1936
y a dónde queremos ir con eso
16:54
to create the age of amazement.
337
1002280
1760
para crear la era del asombro.
16:57
We're all here to celebrate
the age of amazement,
the age of amazement,
338
1005000
2856
Todos estamos aquí para celebrar
la era del asombro,
la era del asombro,
16:59
and I feel that its essence should lie
in becoming not overpowered
in becoming not overpowered
339
1007880
4440
y siento que su esencia debe estar
en no ser poderosos en exceso
en no ser poderosos en exceso
17:05
but empowered by our technology.
340
1013240
2616
sino empoderados por nuestra tecnología.
17:07
Thank you.
341
1015880
1376
Gracias.
17:09
(Applause)
342
1017280
3080
(Aplausos)
ABOUT THE SPEAKER
Max Tegmark - Scientist, authorMax Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder.
Why you should listen
Max Tegmark is an MIT professor who loves thinking about life's big questions. He's written two popular books, Our Mathematical Universe: My Quest for the Ultimate Nature of Reality and the recently published Life 3.0: Being Human in the Age of Artificial Intelligence, as well as more than 200 nerdy technical papers on topics from cosmology to AI.
He writes: "In my spare time, I'm president of the Future of Life Institute, which aims to ensure that we develop not only technology but also the wisdom required to use it beneficially."
Max Tegmark | Speaker | TED.com