TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: O perigo da IA é mais estranho do que pensamos
Filmed:
Readability: 4.2
376,501 views
O perigo da inteligência artificial não é que se vá virar contra nós, mas que irá fazer exatamente o que lhe pedirmos para fazer, diz Janelle Shane, investigadora da IA. Partilhando o estranho, por vezes práticas alarmantes dos algoritmos da IA, quando tentam resolver problemas humanos — como criar novos sabores de gelados ou identificar carros na estrada — Shane mostra como a IA ainda não se equipara aos cérebros reais.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
A Inteligência Artificial!
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
é conhecida por perturbar
todos os tipos de indústrias.
todos os tipos de indústrias.
00:20
What about ice cream?
2
8961
2043
Por exemplo, a dos gelados.
Que tipo de estonteantes sabores
podemos criar
podemos criar
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
com o poder
da inteligência artificial avançada?
da inteligência artificial avançada?
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
Associei-me a um grupo de programadores
da escola secundária de Kealing,
00:35
to find out the answer to this question.
6
23196
2241
para descobrir a resposta a esta pergunta.
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
Eles reuniram mais de 1600 sabores
de gelados já existentes,
de gelados já existentes,
e fornecemos-lhes um algoritmo
para verificar o que ele poderia gerar.
para verificar o que ele poderia gerar.
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
Estes são alguns dos sabores
que a IA criou
que a IA criou
[Quebra de Lixo de Abóbora]
00:52
[Pumpkin Trash Break]
10
40444
1471
(Risos)
00:53
(Laughter)
11
41939
1402
[Baba de Manteiga de Amendoim]
00:55
[Peanut Butter Slime]
12
43365
2469
[Doença de Creme de Morango]
00:58
[Strawberry Cream Disease]
13
46822
1343
01:00
(Laughter)
14
48189
2126
(Risos)
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
Estes sabores não são tão deliciosos
quanto esperávamos
quanto esperávamos
Logo, a pergunta é:
O que aconteceu?
O que aconteceu?
01:06
So the question is: What happened?
16
54960
1864
01:08
What went wrong?
17
56848
1394
O que correu mal?
01:10
Is the AI trying to kill us?
18
58266
1959
A IA está a tentar matar-nos?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
Ou está a tentar fazer o que pedimos
e ocorreu um problema?
e ocorreu um problema?
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
Nos filmes, quando algo
corre mal com a IA,
corre mal com a IA,
01:21
it's usually because the AI has decided
21
69055
2712
é geralmente porque a IA decidiu
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
que não quer continuar
a obedecer aos seres humanos
a obedecer aos seres humanos
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
e tem os seus próprios objetivos,
muito obrigado!
muito obrigado!
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
Porém, na vida real, a IA que temos
01:32
is not nearly smart enough for that.
25
80506
1863
não tem inteligência suficiente para isso.
01:34
It has the approximate computing power
26
82781
2982
Tem uma capacidade de processamento
aproximada à de uma minhoca,
01:37
of an earthworm,
27
85787
1276
01:39
or maybe at most a single honeybee,
28
87087
3403
ou talvez no máximo,
a de uma simples abelha
a de uma simples abelha
e de facto, talvez ainda menos.
01:42
and actually, probably maybe less.
29
90514
2215
Por exemplo, estamos sempre a aprender
coisas novas sobre o cérebro
coisas novas sobre o cérebro
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
o que deixa claro o quanto a nossa IA
não se compara com o nosso cérebro.
não se compara com o nosso cérebro.
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
A IA de hoje consegue identificar
um peão numa imagem,
um peão numa imagem,
mas não tem o conceito
do que é um peão,
do que é um peão,
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
para além de um conjunto de linhas,
de texturas e de elementos.
de texturas e de elementos.
02:05
It doesn't know what a human actually is.
35
113792
2521
Não sabe o que é um ser humano.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
Então, a IA de hoje
irá fazer o que pedimos?
irá fazer o que pedimos?
Sim, fará se puder,
02:12
It will if it can,
37
120128
1594
02:13
but it might not do what we actually want.
38
121746
2726
mas pode não fazer o que desejamos.
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
Digamos que estamos a tentar
que a IA pegue neste conjunto
de partes de um robô
de partes de um robô
02:18
to take this collection of robot parts
40
126935
2619
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
e as monte num tipo de robô
que vá do Ponto A ao Ponto B.
que vá do Ponto A ao Ponto B.
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
Se formos tentar resolver este problema
escrevendo um programa de computador
ao estilo tradicional,
ao estilo tradicional,
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
daríamos ao programa
instruções passo a passo
instruções passo a passo
02:34
on how to take these parts,
45
142120
1329
de como agarrar nessas partes
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
e como as montar num robô com pernas,
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
e depois como usar essas pernas
para andar até ao Ponto B.
para andar até ao Ponto B.
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
Mas quando usamos a IA
para resolver o problema,
para resolver o problema,
02:43
it goes differently.
49
151805
1174
as coisas funcionam de outro modo.
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
Não lhe dizemos como resolver o problema
02:47
you just give it the goal,
51
155409
1479
apenas lhe damos o objetivo,
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
e ela terá de descobrir por si mesma,
através de tentativas e erros,
através de tentativas e erros,
02:52
how to reach that goal.
53
160198
1484
como alcançar esse objetivo.
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
Acontece que a IA tem tendência
a resolver este problema específico
a resolver este problema específico
fazendo o seguinte:
02:58
is by doing this:
55
166380
1484
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
monta uma torre que depois cai,
03:03
and lands at Point B.
57
171279
1827
aterrando no Ponto B.
03:05
And technically, this solves the problem.
58
173130
2829
Tecnicamente, isso resolve o problema.
03:07
Technically, it got to Point B.
59
175983
1639
Tecnicamente, ela chega ao Ponto B.
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
O perigo da IA não é que
se vá revoltar contra nós,
se vá revoltar contra nós,
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
mas que vai fazer exatamente
o que lhe pedimos para fazer.
o que lhe pedimos para fazer.
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
Logo, o segredo de trabalhar
com IA passa a ser:
com IA passa a ser:
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
Como configuramos o problema para
a IA fazer exatamente o que queremos?
a IA fazer exatamente o que queremos?
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
Vejamos, este robô aqui,
está a ser controlado por uma IA.
está a ser controlado por uma IA.
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
A IA desenvolveu um modelo
paras as pernas do robô,
paras as pernas do robô,
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
e depois descobriu como usá-las
para ultrapassar todos os obstáculos.
para ultrapassar todos os obstáculos.
03:36
But when David Ha set up this experiment,
67
204996
2741
Mas quando o David Ha realizou
esta experiência,
esta experiência,
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
teve de configurá-la
com limites muito estritos
com limites muito estritos
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
em relação à dimensão que a IA
teria para fazer as pernas,
teria para fazer as pernas,
03:45
because otherwise ...
70
213957
1550
porque senão...
03:55
(Laughter)
71
223058
3931
(Risos)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
Tecnicamente, chegou ao fim
daquela corrida de obstáculos.
daquela corrida de obstáculos.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Vemos como é difícil conseguir que a IA
faça algo tão simples como andar.
faça algo tão simples como andar.
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
Ao vermos a IA fazer isto, podemos dizer:
"Ok, não é justo, não podes ser
uma torre alta e cair,
uma torre alta e cair,
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
"tens de usar as pernas para andar".
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
Acontece que isso também
nem sempre funciona.
nem sempre funciona.
A tarefa desta IA era avançar depressa.
04:21
This AI's job was to move fast.
78
249988
2759
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
Não lhe disseram que tinha de avançar
04:28
or that it couldn't use its arms.
80
256732
2258
ou que não podia usar os braços.
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
Logo, isto é o que acontece
quando treinamos a IA para andar depressa,
quando treinamos a IA para andar depressa,
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
obtemos movimentos como cambalhotas
e caminhadas ridículas.
e caminhadas ridículas.
04:39
It's really common.
83
267687
1400
É muito comum.
04:41
So is twitching along the floor in a heap.
84
269667
3179
Tal como contorcer-se no chão.
04:44
(Laughter)
85
272870
1150
(Risos)
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
Na minha opinião, sabem o que
seria ainda mais estranho?
seria ainda mais estranho?
É o robô "Exterminador".
04:50
is the "Terminator" robots.
87
278519
1396
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
Invadir o "Matrix" é outra coisa que a IA
fará, se lhe dermos essa oportunidade.
fará, se lhe dermos essa oportunidade.
04:56
So if you train an AI in a simulation,
89
284035
2517
Se treinarmos a IA num simulador,
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
ela irá aprender a copiar
os erros matemáticos do simulador
os erros matemáticos do simulador
05:02
and harvest them for energy.
91
290713
2207
e colhê-los para obter energia.
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
Ou irá descobrir como andar mais depressa,
falhando repetidamente
aquela anomalia no chão.
aquela anomalia no chão.
05:10
When you're working with AI,
93
298443
1585
Quando se trabalha com a IA,
05:12
it's less like working with another human
94
300052
2389
é menos como trabalhar
com outro ser humano
com outro ser humano
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
e mais como trabalhar
com uma estranha força da natureza.
com uma estranha força da natureza.
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
É muito fácil dar, acidentalmente,
à IA o problema errado para resolver,
à IA o problema errado para resolver,
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
e, geralmente, não damos por isso
senão quando qualquer coisa corre mal.
senão quando qualquer coisa corre mal.
05:28
So here's an experiment I did,
98
316242
2080
Esta é uma experiência que fiz
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
em que eu queria que a IA copiasse
as cores das tintas,
as cores das tintas,
05:33
to invent new paint colors,
100
321552
1746
para inventar novas cores de tintas,
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
de acordo com uma lista como
a que se encontra aqui à esquerda.
a que se encontra aqui à esquerda.
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
E aqui está o que a IA sugeriu.
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
[Cocó Sindis , Cocó,
Sofrimento, Púbico Cinza]
Sofrimento, Púbico Cinza]
05:44
(Laughter)
104
332993
4230
(Risos)
05:51
So technically,
105
339177
1886
Tecnicamente,
05:53
it did what I asked it to.
106
341087
1864
fez o que eu pedi que fizesse.
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
Eu pensei que estava a pedir
nomes simpáticos para tintas,
nomes simpáticos para tintas,
05:58
but what I was actually asking it to do
108
346307
2307
mas o que tinha pedido
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
era apenas para imitar o tipo
de combinações de letras
de combinações de letras
06:03
that it had seen in the original.
110
351748
1905
que ela tinha visto no original.
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
E eu nada disse em relação
ao significado das palavras,
ao significado das palavras,
06:08
or that there are maybe some words
112
356799
2560
ou que talvez houvesse algumas palavras
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
que devia evitar usar
nessas cores de tintas.
nessas cores de tintas.
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
Portanto, todo o mundo dela
eram os dados que lhe fornecera.
eram os dados que lhe fornecera.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
Tal como com os sabores dos gelados,
ela não sabe mais nada.
ela não sabe mais nada.
É geralmente através dos dados
06:24
So it is through the data
116
372491
1638
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
que acidentalmente dizemos à IA
que faça as coisas erradas.
que faça as coisas erradas.
06:30
This is a fish called a tench.
118
378694
3032
Este é um peixe chamado tenca.
06:33
And there was a group of researchers
119
381750
1815
Houve um grupo de investigadores
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
que treinaram uma IA para identificar
esta tenca em imagens.
esta tenca em imagens.
06:39
But then when they asked it
121
387487
1296
Mas quando lhe perguntaram
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
que parte da imagem utilizava
para identificar o peixe,
para identificar o peixe,
06:44
here's what it highlighted.
123
392257
1358
eis o que ela salientou.
06:47
Yes, those are human fingers.
124
395203
2189
Sim, são dedos humanos.
06:49
Why would it be looking for human fingers
125
397416
2059
Porque é que ela procurou dedos humanos
06:51
if it's trying to identify a fish?
126
399499
1921
se estava a tentar identificar um peixe?
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Bem, acontece que a tenca
é um peixe-troféu,
é um peixe-troféu,
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
por isso, em muitas das imagens
que a IA viu deste peixe,
que a IA viu deste peixe,
07:01
during training,
129
409149
1151
durante o treino,
07:02
the fish looked like this.
130
410324
1490
o peixe aparecia assim.
07:03
(Laughter)
131
411838
1635
(Risos)
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
A IA não sabia que os dedos
não faziam parte do peixe.
não faziam parte do peixe.
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
Assim, vemos porque é tão difícil
configurar uma IA
configurar uma IA
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
que consiga perceber o que procura.
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
Isto é o motivo por que criar
o reconhecimento de imagem
o reconhecimento de imagem
07:21
in self-driving cars is so hard,
136
429181
2067
num veículo autónomo é super difícil,
07:23
and why so many self-driving car failures
137
431272
2205
e o motivo do fracasso
de tantos veículos autónomos
de tantos veículos autónomos
07:25
are because the AI got confused.
138
433501
2885
foi porque a IA ficou confusa.
07:28
I want to talk about an example from 2016.
139
436410
4008
Vou falar sobre um exemplo
que aconteceu em 2016.
que aconteceu em 2016.
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
Houve um acidente fatal quando alguém
usou o piloto automático da Tesla IA.
usou o piloto automático da Tesla IA.
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
Em vez de usá-lo na autoestrada,
como tinha sido desenvolvido,
como tinha sido desenvolvido,
07:40
they used it on city streets.
142
448359
2205
usaram-no nas ruas da cidade.
07:43
And what happened was,
143
451239
1175
Aconteceu que um camião
atravessou-se em frente do carro
atravessou-se em frente do carro
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
e o carro não travou.
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
A IA fora treinada para reconhecer
o camião nas imagens.
o camião nas imagens.
07:53
But what it looks like happened is
146
461293
2145
Mas o que parece ter acontecido
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
foi que a IA foi treinada para reconhecer
os camiões na autoestrada
os camiões na autoestrada
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
onde esperamos ver os camiões por detrás.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
Na autoestrada, os camiões
não aparecem pelos lados.
não aparecem pelos lados.
08:04
and so when the AI saw this truck,
150
472784
3455
Portanto, quando a IA viu o camião
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
parece tê-lo reconhecido
como um sinal de trânsito
como um sinal de trânsito
08:13
and therefore, safe to drive underneath.
152
481114
2273
e portanto, seria seguro
passar por baixo dele.
passar por baixo dele.
Aqui podem ver um erro da IA
num setor diferente.
num setor diferente.
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
A Amazon teve de desistir
de um algoritmo de seleção de currículos
de um algoritmo de seleção de currículos
08:22
that they were working on
155
490202
1220
em que estava a trabalhar,
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
quando descobriram que o algoritmo
aprendera a discriminar as mulheres.
aprendera a discriminar as mulheres.
Aconteceu que testaram a IA
com base em exemplos de currículos
com base em exemplos de currículos
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
08:30
of people who they had hired in the past.
158
498118
2242
de pessoas que tinham sido
contratadas no passado.
contratadas no passado.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
Com base nesses exemplos, a IA
aprendeu a evitar currículos de pessoas
aprendeu a evitar currículos de pessoas
08:36
who had gone to women's colleges
160
504431
2026
que tinham frequentado colégios femininos
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
ou que tinham a palavra "feminina"
algures no currículo,
algures no currículo,
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
como "equipa de futebol feminina"
ou "Sociedade Feminina de Engenheiras".
ou "Sociedade Feminina de Engenheiras".
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
A IA não sabia que não devia copiar
estes aspetos específicos
estes aspetos específicos
08:49
that it had seen the humans do.
164
517909
1978
que via os seres humanos fazerem.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Tecnicamente, o programa fez
o que lhe pediram para fazer.
o que lhe pediram para fazer.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
Só que eles pediram, sem querer,
para fazer a coisa errada.
para fazer a coisa errada.
08:58
And this happens all the time with AI.
167
526653
2895
Isto está sempre a acontecer com a IA.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
A IA pode ser destrutiva sem saber.
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Por isso, as IA que recomendam novos
conteúdos no Facebook e no YouTube,
conteúdos no Facebook e no YouTube,
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
estão otimizadas para aumentar
o número de cliques e visualizações.
o número de cliques e visualizações.
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
Infelizmente, uma das formas
que encontraram para fazer isso
que encontraram para fazer isso
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
é recomendar os conteúdos
de teorias de conspiração ou o fanatismo.
de teorias de conspiração ou o fanatismo.
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
A IA, por si só, não tem qualquer conceito
do que este conteúdo representa,
do que este conteúdo representa,
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
nem tem nenhum conceito
das possíveis consequências
das possíveis consequências
09:31
of recommending this content.
175
559647
2109
de recomendar esses conteúdos.
09:34
So, when we're working with AI,
176
562296
2011
Logo, quando trabalhamos com a IA,
09:36
it's up to us to avoid problems.
177
564331
4182
cabe-nos a nós evitar os problemas.
09:40
And avoiding things going wrong,
178
568537
2323
Evitar que algo corra mal
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
pode resumir-se ao velho problema
da comunicação,
da comunicação,
em que nós, enquanto humanos, temos
de aprender a comunicar com a IA.
de aprender a comunicar com a IA.
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
Temos de aprender o que a IA
é capaz de fazer ou não
é capaz de fazer ou não
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
e perceber que, com o seu minúsculo
cérebro de minhoca,
cérebro de minhoca,
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
a IA não percebe o que estamos
a tentar pedir-lhe para fazer.
a tentar pedir-lhe para fazer.
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
Por outras palavras, temos de estar
preparados para trabalhar com uma IA
preparados para trabalhar com uma IA
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
que não seja a super competente
ou a omnisciente IA da ficção científica.
ou a omnisciente IA da ficção científica.
10:11
We have to prepared to work with an AI
186
599775
2862
Temos de nos preparar
para trabalhar com uma IA
para trabalhar com uma IA
que seja a que atualmente temos.
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
10:17
And present-day AI is plenty weird enough.
188
605623
4205
E a IA atual é suficientemente estranha.
10:21
Thank you.
189
609852
1190
Obrigada.
10:23
(Applause)
190
611066
5225
(Aplausos)
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com