TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: A Mesterséges Intelligencia veszélye furább, mint hinnénk
Filmed:
Readability: 4.2
376,501 views
A mesterséges intelligencia veszélye nem abban áll, hogy fellázad és ellenünk fordul, hanem hogy pontosan végrehajtja azt, amivel megbízzuk – állítja Janelle Shane MI-kutató. Shane bemutatja nekünk az MI algoritmusok fura, időnként riasztó bohóckodásait, miközben emberi problémákat próbálnak megoldani – például új fagylaltaromák keverésével, vagy autók felismerésével az utakon – , és kifejti, miért nem ér fel az MI az emberi agy töredékével sem.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
Nos, a mesterséges
intelligencia arról híres,
intelligencia arról híres,
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
hogy zavart kelt minden iparágban.
00:20
What about ice cream?
2
8961
2043
Na és hogy állunk a fagylalttal?
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
Milyen szédítő új ízeket teremthetnénk
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
egy jól képzett mesterséges
intelligencia hatalmával?
intelligencia hatalmával?
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
Összeálltam hát a kealingi gimnázium
egyik programozó csoportjával,
egyik programozó csoportjával,
00:35
to find out the answer to this question.
6
23196
2241
hogy választ találjunk erre a kérdésre.
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
Több mint 1600-féle létező
fagylaltízt gyűjtöttek össze,
fagylaltízt gyűjtöttek össze,
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
és ezeket betápláltuk egy algoritmusba,
hogy meglássuk, mit hoz ki belőlük.
hogy meglássuk, mit hoz ki belőlük.
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
Íme, néhány ízkombináció,
amit az MI generált.
amit az MI generált.
00:52
[Pumpkin Trash Break]
10
40444
1471
[Sütőtök Kuka Fék]
00:53
(Laughter)
11
41939
1402
(Nevetés)
00:55
[Peanut Butter Slime]
12
43365
2469
[Mogyoró Vaj Sár]
[Eper Krém Kórság]
00:58
[Strawberry Cream Disease]
13
46822
1343
01:00
(Laughter)
14
48189
2126
(Nevetés)
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
Ezek nem olyan ínyenc aromák,
mint amikre feltehetően vágyunk.
mint amikre feltehetően vágyunk.
01:06
So the question is: What happened?
16
54960
1864
A kérdés tehát: mi történt?
01:08
What went wrong?
17
56848
1394
Mi volt a hiba?
01:10
Is the AI trying to kill us?
18
58266
1959
Az MI ki akar nyírni minket?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
Vagy csak teljesíteni akarta a kérésünket,
és akadt némi probléma?
és akadt némi probléma?
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
A filmekben, ha valami
gond adódik az MI-vel,
gond adódik az MI-vel,
az általában azért történik,
mert az MI szándékosan fellázad,
mert az MI szándékosan fellázad,
01:21
it's usually because the AI has decided
21
69055
2712
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
többé nem engedelmeskedik az embernek,
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
hanem saját célt tűz ki magának,
köszönöm szépen.
köszönöm szépen.
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
A valóságban azonban a jelenlegi MI
01:32
is not nearly smart enough for that.
25
80506
1863
még nem elég okos ehhez.
01:34
It has the approximate computing power
26
82781
2982
Nagyjából akkora
a számítási teljesítménye,
a számítási teljesítménye,
01:37
of an earthworm,
27
85787
1276
mint egy földigilisztának,
01:39
or maybe at most a single honeybee,
28
87087
3403
vagy legjobb esetben egy háziméhnek,
01:42
and actually, probably maybe less.
29
90514
2215
de valószínűleg még ennyi sem.
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
Ahogy folyamatosan új dolgokat
tudunk meg az agyról,
tudunk meg az agyról,
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
úgy lesz egyre világosabb, hogy az MI
teljesítménye közelébe sem ér az agynak.
teljesítménye közelébe sem ér az agynak.
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
A mai MI képes például
felismerni egy gyalogost a képen,
felismerni egy gyalogost a képen,
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
de fogalma sincs arról,
mi az, hogy gyalogos,
mi az, hogy gyalogos,
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
azonkívül, hogy vonalak, textúrák
és dolgok gyűjteménye.
és dolgok gyűjteménye.
02:05
It doesn't know what a human actually is.
35
113792
2521
Fogalma sincs arról, mi az, hogy ember.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
Megteszi-e tehát a mai MI,
amit kérünk tőle?
amit kérünk tőle?
02:12
It will if it can,
37
120128
1594
Persze, ha tudja,
02:13
but it might not do what we actually want.
38
121746
2726
de lehet, hogy nem azt teszi,
amit kérünk tőle.
amit kérünk tőle.
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
Tegyük fel, megpróbáljuk rávenni,
02:18
to take this collection of robot parts
40
126935
2619
hogy fogja ezt a
robotalkatrész-gyűjteményt,
robotalkatrész-gyűjteményt,
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
és rakjon össze valamilyen robotot,
amit aztán eljuttat A pontból B-be.
amit aztán eljuttat A pontból B-be.
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
Na most, ha hagyományos
számítógépes programmal
számítógépes programmal
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
gyürkőznénk neki
a probléma megoldásának,
a probléma megoldásának,
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
akkor lépésről lépésre
írnánk bele a parancssorokat,
írnánk bele a parancssorokat,
hogy milyen sorrendben fogjon
az alkatrészekhez,
az alkatrészekhez,
02:34
on how to take these parts,
45
142120
1329
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
hogyan állítsa össze azokat,
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
aztán hogyan indítsa el a robot lábait,
hogy eljuthasson A-ból B-be.
hogy eljuthasson A-ból B-be.
Ha azonban MI-vel állunk neki
a problémamegoldásnak,
a problémamegoldásnak,
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
02:43
it goes differently.
49
151805
1174
egészen más a helyzet.
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
Nem mondhatjuk meg neki,
hogyan fogjon hozzá,
hogyan fogjon hozzá,
02:47
you just give it the goal,
51
155409
1479
csak kijelöljük a célt,
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
neki magának kell rájönnie,
kísérletek és hibák során át,
kísérletek és hibák során át,
02:52
how to reach that goal.
53
160198
1484
hogy hogyan érheti el a célt.
Előfordul, hogy az MI
hajlamos így megoldani
hajlamos így megoldani
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
02:58
is by doing this:
55
166380
1484
ezt a sajátos problémát:
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
tornyot rak össze az alkatrészekből,
ami aztán eldől,
ami aztán eldől,
03:03
and lands at Point B.
57
171279
1827
és kiköt a B pontban.
03:05
And technically, this solves the problem.
58
173130
2829
Technikai szempontból
megoldja a problémát.
megoldja a problémát.
03:07
Technically, it got to Point B.
59
175983
1639
Végül is eljut a B pontba.
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
Az MI nem azért veszélyes,
mert fellázadna ellenünk,
mert fellázadna ellenünk,
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
hanem azért, mert pontosan
azt fogja tenni, amire megkérjük.
azt fogja tenni, amire megkérjük.
Ha tehát MI-vel dolgozunk,
így kell feltennünk a kérdést:
így kell feltennünk a kérdést:
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
Hogyan fogalmazzuk meg a problémát,
hogy az MI azt tegye, amit szeretnénk?
hogy az MI azt tegye, amit szeretnénk?
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
Ezt a kis robotot egy MI irányítja.
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
Megtervezte a robot lábait,
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
aztán kidolgozta, hogyan kerülje ki
ezeket az akadályokat.
ezeket az akadályokat.
03:36
But when David Ha set up this experiment,
67
204996
2741
De amikor David Ha
előkészítette ezt a kísérletet,
előkészítette ezt a kísérletet,
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
nagyon, nagyon szigorú korlátokat
kellett beállítania arra vonatkozóan,
kellett beállítania arra vonatkozóan,
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
hogy mekkora lábakat gyárthasson az MI,
03:45
because otherwise ...
70
213957
1550
mert különben...
03:55
(Laughter)
71
223058
3931
(Nevetés)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
Technikailag végigment
az egész akadálypályán.
az egész akadálypályán.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Mint látják, még egy egyszerű
gyaloglás is túl nagy falat egy MI-nek.
gyaloglás is túl nagy falat egy MI-nek.
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
Ha így nézzük őket, azt mondhatják: na jó,
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
ne legyen magas torony, ne legyen borulás,
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
legyenek lábai, amin járni tud.
De előfordul, hogy ez sem működik.
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
04:21
This AI's job was to move fast.
78
249988
2759
Az volt az MI feladata,
hogy gyorsan mozogjon.
hogy gyorsan mozogjon.
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
Nem mondták neki,
hogy fusson szembe, előre,
hogy fusson szembe, előre,
04:28
or that it couldn't use its arms.
80
256732
2258
azt sem, hogy nem használhatja a karját.
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
Ez történik, ha túl gyors mozgásra
képezünk ki egy MI-t,
képezünk ki egy MI-t,
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
olyan lesz, mintha bukfencezne,
és mint a "hülye járások".
és mint a "hülye járások".
04:39
It's really common.
83
267687
1400
Általában mindig ez történik.
04:41
So is twitching along the floor in a heap.
84
269667
3179
Így vonaglik egy kupacban a talajon.
04:44
(Laughter)
85
272870
1150
(Nevetés)
Úgyhogy szerintem a Terminátor robotjainak
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
sokkal furcsábbnak kellett volna lenniük.
04:50
is the "Terminator" robots.
87
278519
1396
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
Az MI a "Mátrixot" is feltöri,
ha lehetőséget kap rá.
ha lehetőséget kap rá.
04:56
So if you train an AI in a simulation,
89
284035
2517
Ha tehát szimulációban
tanítunk be egy MI-t,
tanítunk be egy MI-t,
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
megtanulja majd feltörni
a szimuláció matematikai hibáit,
a szimuláció matematikai hibáit,
05:02
and harvest them for energy.
91
290713
2207
és ebből nyer energiát.
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
Vagy képes lesz rájönni, hogyan mozoghat
fürgébben a talajon csúszkálva.
fürgébben a talajon csúszkálva.
05:10
When you're working with AI,
93
298443
1585
MI-vel együtt dolgozni
05:12
it's less like working with another human
94
300052
2389
nem olyan, mint emberrel,
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
sokkal inkább olyan, mint valami
fura természeti erővel együttműködni.
fura természeti erővel együttműködni.
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
És tényleg könnyű véletlenül hibás
problémát adni neki megoldásra,
problémát adni neki megoldásra,
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
majd többnyire nem jövünk rá addig,
amíg valami balul nem sül el.
amíg valami balul nem sül el.
05:28
So here's an experiment I did,
98
316242
2080
Végeztem egy kísérletet,
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
melyben az MI azt a feladatot kapta,
hogy színek másolásával
hogy színek másolásával
05:33
to invent new paint colors,
100
321552
1746
keverjen ki új árnyalatokat,
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
a bal oldalon megadott lista szerint.
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
És tessék, ezzel állt elő.
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
[Sindi popója, Szaros,
Szenvedés, Szeméremszürke]
Szenvedés, Szeméremszürke]
05:44
(Laughter)
104
332993
4230
(Nevetés)
05:51
So technically,
105
339177
1886
Gyakorlatilag
05:53
it did what I asked it to.
106
341087
1864
pontosan azt tette, amit kértem tőle.
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
Azt hittem, illedelmes
festékneveket kérek tőle,
festékneveket kérek tőle,
05:58
but what I was actually asking it to do
108
346307
2307
de valójában az volt a feladata,
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
hogy betűkombinációkat utánozzon,
06:03
that it had seen in the original.
110
351748
1905
amiket az eredeti listán látott.
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
Semmit nem mondtam neki arról,
mit jelentenek a szavak,
mit jelentenek a szavak,
06:08
or that there are maybe some words
112
356799
2560
vagy hogy esetleg akad köztük olyan,
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
melyekből inkább
nem képzünk festékneveket.
nem képzünk festékneveket.
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
A teljes világa olyan adatokból áll,
melyeket én tápláltam bele.
melyeket én tápláltam bele.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
Akárcsak a fagylaltízeknél,
itt sincs fogalma semmi másról.
itt sincs fogalma semmi másról.
06:24
So it is through the data
116
372491
1638
Az adatoknak köszönhető,
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
hogy gyakran előfordul:
véletlenül rossz dolgokra tanítjuk meg őt.
véletlenül rossz dolgokra tanítjuk meg őt.
06:30
This is a fish called a tench.
118
378694
3032
Ez egy hal, a neve compó.
06:33
And there was a group of researchers
119
381750
1815
Egy kutatócsoport
betanított egy MI-t arra,
betanított egy MI-t arra,
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
hogy képeken azonosítsa a compót.
Aztán amikor megkérdezték tőle,
06:39
But then when they asked it
121
387487
1296
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
a kép melyik része alapján
azonosította a halat,
azonosította a halat,
06:44
here's what it highlighted.
123
392257
1358
tessék, ezeket emelte ki.
06:47
Yes, those are human fingers.
124
395203
2189
Bizony, azok ott emberi ujjak.
06:49
Why would it be looking for human fingers
125
397416
2059
Miért emberi ujjak alapján próbálna
06:51
if it's trying to identify a fish?
126
399499
1921
halat beazonosítani?
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Nos, a compó történetesen trópusi halfaj,
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
ezért sok képen, melyeket az MI megfigyelt
a betanítás során,
07:01
during training,
129
409149
1151
valahogy így nézett ki a hal.
[A képen ember tartja a halat.]
[A képen ember tartja a halat.]
07:02
the fish looked like this.
130
410324
1490
07:03
(Laughter)
131
411838
1635
(Nevetés)
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
Az MI nem tudta, hogy az ujjak
nem tartoznak a halhoz.
nem tartoznak a halhoz.
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
Így már világos, miért nehéz
olyan MI-t tervezni,
olyan MI-t tervezni,
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
amelyik érti is, amit lát.
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
És ezért olyan nehéz
képfelismerést tervezni
képfelismerést tervezni
07:21
in self-driving cars is so hard,
136
429181
2067
az önvezető autókban,
07:23
and why so many self-driving car failures
137
431272
2205
és azért van olyan sok balesetük,
07:25
are because the AI got confused.
138
433501
2885
mert az MI-jük összezavarodik.
07:28
I want to talk about an example from 2016.
139
436410
4008
Hadd meséljek egy 2016-os példát.
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
Halálos baleset történt, amikor valaki
MI-robotpilóta üzemmódban ment Teslával,
MI-robotpilóta üzemmódban ment Teslával,
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
de nem az autópályán, amire tervezték,
07:40
they used it on city streets.
142
448359
2205
hanem városi utakon.
07:43
And what happened was,
143
451239
1175
Az történt, hogy egy kamion
hajtott ki elé,
hajtott ki elé,
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
az autó pedig nem fékezett.
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
Tény, hogy az MI-nek megtanították,
hogy képeken felismerje a kamionokat.
hogy képeken felismerje a kamionokat.
07:53
But what it looks like happened is
146
461293
2145
De valószínűleg az történt,
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
hogy az MI csak autópályán történő
vezetés során ismerte fel a kamionokat,
vezetés során ismerte fel a kamionokat,
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
ahol számításunk szerint
hátulról bukkannak fel.
hátulról bukkannak fel.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
Az oldalról érkező kamion
nem valószínű az autópályán,
nem valószínű az autópályán,
08:04
and so when the AI saw this truck,
150
472784
3455
úgyhogy amikor az MI meglátta,
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
valószínűleg útjelző táblának nézte,
08:13
and therefore, safe to drive underneath.
152
481114
2273
ezért szép nyugodtan
alákormányozta az autót.
alákormányozta az autót.
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
Mutatok egy másik MI-botlást:
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
Az Amazon nemrég felhagyott
egy önéletrajz-válogató algoritmussal,
egy önéletrajz-válogató algoritmussal,
aminek fejlesztésén dolgoztak,
08:22
that they were working on
155
490202
1220
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
mert kiderült, hogy az algoritmus
diszkriminálja a nőket.
diszkriminálja a nőket.
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
Ugyanis olyan önéletrajzokat
tápláltak be az MI-nek,
tápláltak be az MI-nek,
08:30
of people who they had hired in the past.
158
498118
2242
melyeket korábbi alkalmazottaik írtak.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
És az MI ezekből a példákból
azt tanulta meg, hogy elvesse azokat,
azt tanulta meg, hogy elvesse azokat,
08:36
who had gone to women's colleges
160
504431
2026
akik női egyetemekre jártak,
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
vagy akiknél a "nő" szó olyan
szövegösszefüggésben fordult elő,
szövegösszefüggésben fordult elő,
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
mint "női kosárlabdacsapat",
vagy "Mérnöknők Társasága".
vagy "Mérnöknők Társasága".
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
Az MI nem tudta, hogy nem ajánlatos
ezt a konkrét dolgot lemásolni,
ezt a konkrét dolgot lemásolni,
08:49
that it had seen the humans do.
164
517909
1978
úgy, ahogy az emberektől látta.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Gyakorlatilag pontosan azt tette,
amivel megbízták.
amivel megbízták.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
Csak a fejlesztők véletlenül
rosszul fogalmazták meg a kérést.
rosszul fogalmazták meg a kérést.
08:58
And this happens all the time with AI.
167
526653
2895
És mindig ez történik az MI-vel.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
Tényleg lehet pusztító,
de még csak nem is tud róla.
de még csak nem is tud róla.
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Azokat az MI-ket, melyek új tartalmakat
ajánlanak a Facebookon, YouTube-on,
ajánlanak a Facebookon, YouTube-on,
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
arra optimalizálták, hogy növelje
a kattintások és megtekintések számát.
a kattintások és megtekintések számát.
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
Sajnos, szerintük ennek az egyik módja az,
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
hogy összeesküvés-elméletes
vagy fanatikus tartalmakat ajánljanak.
vagy fanatikus tartalmakat ajánljanak.
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
Az MI-knek fogalmuk sincs arról,
valójában miről szólnak ezek,
valójában miről szólnak ezek,
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
és arról sincs, hogy milyen
következményekkel járhat
következményekkel járhat
09:31
of recommending this content.
175
559647
2109
az efféle tartalmak ajánlása.
09:34
So, when we're working with AI,
176
562296
2011
Úgyhogy amikor MI-vel dolgozunk,
09:36
it's up to us to avoid problems.
177
564331
4182
tőlünk függ, hogyan
kerüljük el a problémákat.
kerüljük el a problémákat.
09:40
And avoiding things going wrong,
178
568537
2323
A problémák elkerülése
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
ősi kommunikációs kérdés lehet,
melynek során nekünk, embereknek
melynek során nekünk, embereknek
meg kell tanulnunk
helyesen kommunikálni az MI-vel.
helyesen kommunikálni az MI-vel.
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
Meg kell tanulnunk, hogy mit képes
megtenni és mit nem.
megtenni és mit nem.
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
Meg kell értenünk,
hogy csöppnyi gilisztaagyával
hogy csöppnyi gilisztaagyával
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
nem képes felfogni,
hogy mire kérjük egész pontosan.
hogy mire kérjük egész pontosan.
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
Vagyis felkészülten kell
együttműködnünk vele,
együttműködnünk vele,
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
mert nem olyan, mint a sci-fik
mindentudó MI szuperhősei.
mindentudó MI szuperhősei.
10:11
We have to prepared to work with an AI
186
599775
2862
Felkészülten kell együttműködnünk vele,
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
azzal a fajtával, amelyik ma létezik.
10:17
And present-day AI is plenty weird enough.
188
605623
4205
És a ma létező MI
bizony elég fura szerzet.
bizony elég fura szerzet.
10:21
Thank you.
189
609852
1190
Köszönöm.
10:23
(Applause)
190
611066
5225
(Taps)
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com