TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: El peligro de la IA es más extraño de lo que piensas
Filmed:
Readability: 4.2
376,501 views
El peligro de la inteligencia artificial no es que se vaya a rebelar contra nosotros, sino que hará exactamente lo que le pidamos que haga, dice la investigadora de inteligencia artificial Janelle Shane. Compartiendo las extrañas, y ocasionalmente alarmantes travesuras de los algoritmos de IA mientras intentan resolver los problemas humanos —como crear nuevos sabores de helado, o reconocer coches en la carretera— Shane muestra por qué la IA no es aún comparable a los cerebros reales.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
La inteligencia artificial
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
es conocida por transformar
todo tipo de industrias.
todo tipo de industrias.
00:20
What about ice cream?
2
8961
2043
Pensemos en los helados.
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
¿Qué alucinantes sabores
nuevos podríamos generar
nuevos podríamos generar
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
con el poder de una
inteligencia artificial avanzada?
inteligencia artificial avanzada?
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
Me junté con un grupo de programadores
de la escuela secundaria Kealing
de la escuela secundaria Kealing
00:35
to find out the answer to this question.
6
23196
2241
para descubrir la
respuesta a esta pregunta.
respuesta a esta pregunta.
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
Reunieron más de 1600
sabores de helado existentes,
sabores de helado existentes,
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
y los introducimos en un algoritmo
para ver qué podría generar.
para ver qué podría generar.
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
Estos son algunos de
los sabores que la IA inventó.
los sabores que la IA inventó.
00:52
[Pumpkin Trash Break]
10
40444
1471
[Helado fétido de calabaza]
00:53
(Laughter)
11
41939
1402
(Risas)
00:55
[Peanut Butter Slime]
12
43365
2469
[Babas con mantequilla de cacahuete]
00:58
[Strawberry Cream Disease]
13
46822
1343
[Cremosa dolencia de fresa]
01:00
(Laughter)
14
48189
2126
(Risas)
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
Estos no son sabores deliciosos,
como quizá hubiésemos esperado.
como quizá hubiésemos esperado.
01:06
So the question is: What happened?
16
54960
1864
Luego la pregunta es: ¿Qué sucedió,
qué es lo que ha fallado?
qué es lo que ha fallado?
01:08
What went wrong?
17
56848
1394
01:10
Is the AI trying to kill us?
18
58266
1959
¿Intenta la IA acabar con nosotros?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
¿O intenta hacer lo que le
pedimos, y había un problema?
pedimos, y había un problema?
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
En las películas,
cuando algo falla con la IA,
cuando algo falla con la IA,
01:21
it's usually because the AI has decided
21
69055
2712
habitualmente se debe
a que la IA ha decidido
a que la IA ha decidido
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
que no quiere seguir
obedeciendo a los humanos,
obedeciendo a los humanos,
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
y tiene sus propios objetivos,
no iba ella a ser menos.
no iba ella a ser menos.
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
En realidad, la IA que tenemos
no es lo bastante inteligente para eso.
no es lo bastante inteligente para eso.
01:32
is not nearly smart enough for that.
25
80506
1863
01:34
It has the approximate computing power
26
82781
2982
Tiene la capacidad de cálculo aproximada
de una lombriz, o quizá de una sola abeja.
de una lombriz, o quizá de una sola abeja.
01:37
of an earthworm,
27
85787
1276
01:39
or maybe at most a single honeybee,
28
87087
3403
01:42
and actually, probably maybe less.
29
90514
2215
Y de hecho, probablemente incluso menos.
Aprendemos constantemente
cosas nuevas sobre el cerebro
cosas nuevas sobre el cerebro
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
que evidencian el grado en que la IA
no es comparable a cerebros reales.
no es comparable a cerebros reales.
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
La IA actual puede identificar
a un peatón en una imagen,
a un peatón en una imagen,
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
pero no tiene un concepto
de lo que un peatón es,
de lo que un peatón es,
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
más allá de un agregado de
líneas, texturas y otras cosas.
líneas, texturas y otras cosas.
02:05
It doesn't know what a human actually is.
35
113792
2521
No sabe lo que un humano realmente es.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
¿Hará entonces la IA actual
aquello que le pedimos?
aquello que le pedimos?
02:12
It will if it can,
37
120128
1594
Lo hará si puede, pero es posible
que no haga lo que queremos de ella.
que no haga lo que queremos de ella.
02:13
but it might not do what we actually want.
38
121746
2726
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
Digamos que Uds. intentaran que una IA
tomara esta colección de piezas de robot,
tomara esta colección de piezas de robot,
02:18
to take this collection of robot parts
40
126935
2619
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
y las ensamblara en un robot
para ir del punto A al punto B.
para ir del punto A al punto B.
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
Si intentamos solucionar este problema
con un programa tradicional de ordenador,
con un programa tradicional de ordenador,
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
daríamos al programa instrucciones
paso a paso de cómo tomar estas partes,
paso a paso de cómo tomar estas partes,
02:34
on how to take these parts,
45
142120
1329
cómo ensamblarlas en un robot con piernas,
y cómo caminar con ellas hasta el punto B.
y cómo caminar con ellas hasta el punto B.
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
Pero cuando utilizamos IA para solucionar
el problema, se procede de otra manera.
el problema, se procede de otra manera.
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
02:43
it goes differently.
49
151805
1174
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
No se le enseña cómo resolver el problema,
únicamente se le da el objetivo,
únicamente se le da el objetivo,
02:47
you just give it the goal,
51
155409
1479
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
y tiene que lograrlo por sí misma
a través de ensayo y error
a través de ensayo y error
02:52
how to reach that goal.
53
160198
1484
para alcanzar ese objetivo.
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
El modo en que la IA tiende a resolver
este particular problema es el siguiente:
este particular problema es el siguiente:
02:58
is by doing this:
55
166380
1484
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
Se ensambla en una torre,
y luego se deja caer
y luego se deja caer
03:03
and lands at Point B.
57
171279
1827
para ir a parar al punto B.
03:05
And technically, this solves the problem.
58
173130
2829
Y técnicamente, soluciona el problema.
Técnicamente, llegó al punto B.
Técnicamente, llegó al punto B.
03:07
Technically, it got to Point B.
59
175983
1639
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
El peligro de la IA no es que
vaya a rebelarse contra nosotros,
vaya a rebelarse contra nosotros,
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
sino que hará exactamente
lo que le pidamos que haga.
lo que le pidamos que haga.
Luego el quid de la cuestión
al trabajar con IA pasa a ser
al trabajar con IA pasa a ser
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
cómo estructuramos el problema
para que haga lo que queremos.
para que haga lo que queremos.
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
Este pequeño robot de aquí
está controlado por una IA.
está controlado por una IA.
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
La IA ideó un diseño
para las piernas del robot,
para las piernas del robot,
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
y luego averiguó cómo usarlas
para superar todos estos obstáculos.
para superar todos estos obstáculos.
03:36
But when David Ha set up this experiment,
67
204996
2741
Pero cuando David Ha
preparó este experimento,
preparó este experimento,
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
tuvo que diseñarlo con
límites muy estrictos
límites muy estrictos
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
en cuanto al tamaño de piernas
permitido, porque de lo contrario...
permitido, porque de lo contrario...
03:45
because otherwise ...
70
213957
1550
03:55
(Laughter)
71
223058
3931
(Risas)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
Y técnicamente, logró completar
el recorrido de obstáculos.
el recorrido de obstáculos.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Pueden ver lo difícil que es para la IA
hacer algo tan sencillo como caminar.
hacer algo tan sencillo como caminar.
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
Viendo esto, quizá
pensemos que no es justo,
pensemos que no es justo,
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
no puede hacer una
torre y dejarse caer,
torre y dejarse caer,
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
tiene que usar piernas para caminar.
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
Y resulta que eso
tampoco funciona siempre.
tampoco funciona siempre.
04:21
This AI's job was to move fast.
78
249988
2759
La tarea de esta IA era
moverse con rapidez.
moverse con rapidez.
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
No se le especificó que
tuviera que hacerlo de frente,
tuviera que hacerlo de frente,
04:28
or that it couldn't use its arms.
80
256732
2258
o que no pudiera usar sus brazos.
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
Esto es lo que se obtiene cuando
se entrena a la IA para moverse deprisa.
se entrena a la IA para moverse deprisa.
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
Obtienes volteretas y andares cómicos.
04:39
It's really common.
83
267687
1400
Es muy común.
04:41
So is twitching along the floor in a heap.
84
269667
3179
También lo es arrastrarse
por el suelo en un montón.
por el suelo en un montón.
04:44
(Laughter)
85
272870
1150
(Risas)
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
En mi opinión, lo que debería
haber sido mucho más extraño
haber sido mucho más extraño
son los robots de "Terminator".
04:50
is the "Terminator" robots.
87
278519
1396
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
Hackear "The Matrix" es otra cosa que
una IA hará si le das la oportunidad.
una IA hará si le das la oportunidad.
04:56
So if you train an AI in a simulation,
89
284035
2517
Si entrenas a la IA en una simulación,
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
aprenderá cómo hackear los errores
matemáticos de la simulación
matemáticos de la simulación
05:02
and harvest them for energy.
91
290713
2207
y utilizarlos para obtener energía.
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
O averiguará cómo moverse más rápido
explotando fallos encontrados en el suelo.
explotando fallos encontrados en el suelo.
05:10
When you're working with AI,
93
298443
1585
Cuando trabajas con IA no es como
si trabajaras con otro ser humano
si trabajaras con otro ser humano
05:12
it's less like working with another human
94
300052
2389
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
sino como hacerlo con
una fuerza extraña de la naturaleza.
una fuerza extraña de la naturaleza.
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
Es muy fácil dar accidentalmente a
la IA el problema erróneo que resolver,
la IA el problema erróneo que resolver,
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
y frecuentemente no nos percatamos
hasta que las consecuencias son evidentes.
hasta que las consecuencias son evidentes.
05:28
So here's an experiment I did,
98
316242
2080
He aquí un experimento que hice,
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
quería que la IA copiara colores
para inventar otros nuevos,
para inventar otros nuevos,
05:33
to invent new paint colors,
100
321552
1746
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
dada una lista como la de la izquierda.
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
Y esto es lo que la IA propuso:
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
[Caca de Sindis, Zurullo,
Sufrimiento, Gris púbico]
Sufrimiento, Gris púbico]
05:44
(Laughter)
104
332993
4230
(Risas)
05:51
So technically,
105
339177
1886
Técnicamente, hizo lo que le pedí.
05:53
it did what I asked it to.
106
341087
1864
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
Pensé que le estaba pidiendo
nombres apropiados para colores,
nombres apropiados para colores,
05:58
but what I was actually asking it to do
108
346307
2307
pero lo que verdaderamente le pedí
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
es que imitase las combinaciones de letras
que había visto en la lista original.
que había visto en la lista original.
06:03
that it had seen in the original.
110
351748
1905
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
No le dije lo que las palabras significan,
o que quizá haya ciertas palabras
o que quizá haya ciertas palabras
06:08
or that there are maybe some words
112
356799
2560
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
que debería evitar utilizar
en estos colores.
en estos colores.
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
Todo su mundo se reduce a
la información que le proporcioné.
la información que le proporcioné.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
Como con los sabores de helado,
no sabe de ninguna otra cosa.
no sabe de ninguna otra cosa.
06:24
So it is through the data
116
372491
1638
Es a través de la información
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
que con frecuencia decimos a la IA
accidentalmente que haga algo erróneo.
accidentalmente que haga algo erróneo.
06:30
This is a fish called a tench.
118
378694
3032
Este pez se llama tenca.
06:33
And there was a group of researchers
119
381750
1815
Había un grupo de investigadores
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
que entrenó a una IA para
identificar a esta tenca en imágenes.
identificar a esta tenca en imágenes.
06:39
But then when they asked it
121
387487
1296
Pero cuando le preguntaron qué parte de la
imagen utilizaba para identificar al pez,
imagen utilizaba para identificar al pez,
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
06:44
here's what it highlighted.
123
392257
1358
esto es lo que destacó.
06:47
Yes, those are human fingers.
124
395203
2189
Son dedos humanos.
06:49
Why would it be looking for human fingers
125
397416
2059
¿Por qué estaría buscando dedos humanos
si está intentando identificar un pez?
si está intentando identificar un pez?
06:51
if it's trying to identify a fish?
126
399499
1921
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Resulta que la tenca es un pez trofeo,
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
y en muchas imágenes que la IA había
visto del pez durante su entrenamiento,
visto del pez durante su entrenamiento,
07:01
during training,
129
409149
1151
07:02
the fish looked like this.
130
410324
1490
el pez aparecía así.
07:03
(Laughter)
131
411838
1635
(Risas)
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
No sabía que los dedos
no son parte del pez.
no son parte del pez.
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
Pueden ver por qué es tan
complicado diseñar una IA
complicado diseñar una IA
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
que verdaderamente entienda
aquello que está viendo.
aquello que está viendo.
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
Por eso diseñar en coches autónomos el
reconocimiento de imágenes es tan difícil,
reconocimiento de imágenes es tan difícil,
07:21
in self-driving cars is so hard,
136
429181
2067
07:23
and why so many self-driving car failures
137
431272
2205
y muchos fallos de coches autónomos
se deben a que la IA se confundió.
se deben a que la IA se confundió.
07:25
are because the AI got confused.
138
433501
2885
07:28
I want to talk about an example from 2016.
139
436410
4008
Quiero hablar de un ejemplo de 2016.
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
Hubo un funesto accidente cuando alguien
usaba la IA de piloto automático de Tesla,
usaba la IA de piloto automático de Tesla,
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
pero en lugar de hacerlo en la autopista
para la que estaba diseñada,
para la que estaba diseñada,
07:40
they used it on city streets.
142
448359
2205
la usó en las vías urbanas.
07:43
And what happened was,
143
451239
1175
Lo que sucedió fue que un camión condujo
frente al coche, y el coche no frenó.
frente al coche, y el coche no frenó.
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
La IA estaba entrenada para
reconocer camiones en las imágenes.
reconocer camiones en las imágenes.
07:53
But what it looks like happened is
146
461293
2145
Pero al parecer la IA había sido entrenada
para reconocer camiones en la autopista,
para reconocer camiones en la autopista,
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
donde esperarías verlos
desde la parte trasera.
desde la parte trasera.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
Que los camiones se te crucen no es
algo que suceda en la autopista,
algo que suceda en la autopista,
08:04
and so when the AI saw this truck,
150
472784
3455
y cuando la IA vio a este camión,
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
parece que lo reconoció
como una señal de carretera,
como una señal de carretera,
08:13
and therefore, safe to drive underneath.
152
481114
2273
y por tanto que la conducción
por debajo era segura.
por debajo era segura.
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
Aquí tenemos una equivocación
de una IA en otra área.
de una IA en otra área.
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
Amazon tuvo que abandonar un
algoritmo de clasificación de currículums
algoritmo de clasificación de currículums
08:22
that they were working on
155
490202
1220
en el que trabajaban
cuando descubrieron que el algoritmo había
aprendido a discriminar a las mujeres.
aprendido a discriminar a las mujeres.
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
Lo que pasó fue que la habían
entrenado con currículums
entrenado con currículums
08:30
of people who they had hired in the past.
158
498118
2242
de gente que habían
contratado en el pasado.
contratado en el pasado.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
De estos ejemplos, la IA aprendió
a evitar currículums de personas
a evitar currículums de personas
que hubieran ido a
universidades de mujeres,
universidades de mujeres,
08:36
who had gone to women's colleges
160
504431
2026
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
o que contuvieran la palabra
"mujer" en su currículum,
"mujer" en su currículum,
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
como "equipo de fútbol de mujeres",
o "Sociedad de Mujeres Ingenieras".
o "Sociedad de Mujeres Ingenieras".
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
La IA no sabía que no debía
copiar este modo de proceder
copiar este modo de proceder
08:49
that it had seen the humans do.
164
517909
1978
que había visto emplear a los humanos.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Y técnicamente, hizo lo
que se requería de ella.
que se requería de ella.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
Simplemente, de forma accidental
le solicitaron algo incorrecto.
le solicitaron algo incorrecto.
08:58
And this happens all the time with AI.
167
526653
2895
Esto sucede constantemente con la IA.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
La IA puede ser muy destructiva
sin tener conciencia de ello.
sin tener conciencia de ello.
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Las IAs que recomiendan nuevo
contenido en Facebook, o en Youtube,
contenido en Facebook, o en Youtube,
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
están optimizadas para incrementar
el número de clics y visualizaciones.
el número de clics y visualizaciones.
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
Y desafortunadamente, una forma
que han encontrado de lograrlo
que han encontrado de lograrlo
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
es recomendar contenido concerniente
a teorías conspiratorias o fanatismo.
a teorías conspiratorias o fanatismo.
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
Las IAs no tienen concepto alguno
de qué es realmente este contenido,
de qué es realmente este contenido,
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
ni tienen un entendimiento
de las posibles consecuencias
de las posibles consecuencias
09:31
of recommending this content.
175
559647
2109
de recomendar este contenido.
09:34
So, when we're working with AI,
176
562296
2011
Al trabajar con IA, depende de nosotros
evitar los problemas.
evitar los problemas.
09:36
it's up to us to avoid problems.
177
564331
4182
09:40
And avoiding things going wrong,
178
568537
2323
Eludir estos errores puede depender
del viejo problema de la comunicación,
del viejo problema de la comunicación,
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
y que nosotros los humanos tengamos
que aprender a comunicarnos con la IA.
que aprender a comunicarnos con la IA.
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
Tenemos que aprender lo que
la IA es capaz de hacer y lo que no,
la IA es capaz de hacer y lo que no,
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
y entender que,
con su pequeño cerebro de lombriz,
con su pequeño cerebro de lombriz,
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
la IA no entiende verdaderamente
lo que le estamos pidiendo que haga.
lo que le estamos pidiendo que haga.
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
En otras palabras, hemos de estar
preparados para trabajar con una IA
preparados para trabajar con una IA
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
que no es la súper competente
sabelotodo de la ciencia ficción.
sabelotodo de la ciencia ficción.
10:11
We have to prepared to work with an AI
186
599775
2862
Hemos de estar preparados
para trabajar con la IA
para trabajar con la IA
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
que tenemos disponible en la actualidad.
10:17
And present-day AI is plenty weird enough.
188
605623
4205
Y la IA actual es ya lo bastante extraña.
10:21
Thank you.
189
609852
1190
Gracias.
10:23
(Applause)
190
611066
5225
(Aplausos)
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com