TED2019
Janelle Shane: The danger of AI is weirder than you think
Janelle Shane: Yapay zekâ tehlikesi düşündüğünüzden daha garip
Filmed:
Readability: 4.2
376,501 views
Yapay zekânın tehlikesi aslında bizlere karşı ayaklanacakları değil, tam olarak yapmalarını istediğimiz şeyleri yapacak olmalarıdır diyor, yapay zeka araştırmacısı Janelle Shane. İnsanların problemlerini çözmeyi deneyen -- yeni dondurma tatları yaratmak veya yoldaki arabaları tanımak gibi -- yapay zekâ algoritmalarının garipliğini ve bazen de korkutucu tuhaflıklarını paylaşan Shane, yapay zekânın neden henüz gerçek beyin ile aynı düzeyde olamayacağını gösteriyor.
Janelle Shane - AI researcher
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
While moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms. Full bio
Double-click the English transcript below to play the video.
00:13
So, artificial intelligence
0
1765
3000
Yapay zekânın,
00:16
is known for disrupting
all kinds of industries.
all kinds of industries.
1
4789
3529
her tür endüstriyi
bozduğu bilinmektedir.
bozduğu bilinmektedir.
00:20
What about ice cream?
2
8961
2043
Peki ya dondurma?
00:23
What kind of mind-blowing
new flavors could we generate
new flavors could we generate
3
11879
3639
Gelişmiş bir yapay zekânın gücüyle
00:27
with the power of an advanced
artificial intelligence?
artificial intelligence?
4
15542
2976
akıllara durgunluk verecek
ne tür tatlar oluşturabiliriz?
ne tür tatlar oluşturabiliriz?
00:31
So I teamed up with a group of coders
from Kealing Middle School
from Kealing Middle School
5
19011
4161
Bu sorunun cevabını bulmak için
Kealing orta okulundan
Kealing orta okulundan
bir grup kodlayıcı ile birlikte çalıştım.
00:35
to find out the answer to this question.
6
23196
2241
00:37
They collected over 1,600
existing ice cream flavors,
existing ice cream flavors,
7
25461
5081
Mevcut olan yaklaşık 1600
dondurma tadını topladılar
dondurma tadını topladılar
00:42
and together, we fed them to an algorithm
to see what it would generate.
to see what it would generate.
8
30566
5522
ve birlikte, ne oluşturacağını görmek için
onları bir algoritmaya çevirdik.
onları bir algoritmaya çevirdik.
00:48
And here are some of the flavors
that the AI came up with.
that the AI came up with.
9
36112
3753
İşte yapay zekânın
ürettiği tatlardan birkaçı.
ürettiği tatlardan birkaçı.
[Kabak Çöpü Parçası]
00:52
[Pumpkin Trash Break]
10
40444
1471
(Gülüşmeler)
00:53
(Laughter)
11
41939
1402
[Fıstık Ezmesi Balçığı]
00:55
[Peanut Butter Slime]
12
43365
2469
[Çilek Kreması Hastalığı]
00:58
[Strawberry Cream Disease]
13
46822
1343
(Gülüşmeler)
01:00
(Laughter)
14
48189
2126
Bu tatlar umduğumuz gibi
lezzetli değiller.
lezzetli değiller.
01:02
These flavors are not delicious,
as we might have hoped they would be.
as we might have hoped they would be.
15
50339
4597
01:06
So the question is: What happened?
16
54960
1864
Soru şu: Ne oldu?
01:08
What went wrong?
17
56848
1394
Yanlış giden neydi?
01:10
Is the AI trying to kill us?
18
58266
1959
Yapay zekâ bizi öldürmeye mi çalışıyor?
01:13
Or is it trying to do what we asked,
and there was a problem?
and there was a problem?
19
61027
4310
Yoksa istediğimiz şeyi yapmaya mı
çalışıyor ve bir problem mi oluyor?
çalışıyor ve bir problem mi oluyor?
01:18
In movies, when something
goes wrong with AI,
goes wrong with AI,
20
66567
2464
Filmlerde yapay zekâyla ilgili
bir hata olduğunda
bir hata olduğunda
01:21
it's usually because the AI has decided
21
69055
2712
bu genelde yapay zekânın,
artık insanlara itaat etmemeye
karar vermesi nedeniyle olur
karar vermesi nedeniyle olur
01:23
that it doesn't want to obey
the humans anymore,
the humans anymore,
22
71791
2272
01:26
and it's got its own goals,
thank you very much.
thank you very much.
23
74087
2623
ve artık kendi kuralları vardır,
çok teşekkürler.
çok teşekkürler.
01:29
In real life, though,
the AI that we actually have
the AI that we actually have
24
77266
3216
Ancak, gerçek hayatta
sahip olduğumuz yapay zekâ
sahip olduğumuz yapay zekâ
01:32
is not nearly smart enough for that.
25
80506
1863
bunu yapabilecek kadar zeki değil.
01:34
It has the approximate computing power
26
82781
2982
Yaklaşık bir solucanın
veya belki de
olsa olsa tek bir bal arısının
olsa olsa tek bir bal arısının
01:37
of an earthworm,
27
85787
1276
01:39
or maybe at most a single honeybee,
28
87087
3403
programlama gücüne sahiptir
01:42
and actually, probably maybe less.
29
90514
2215
ve aslında, belki de daha azına sahiptir.
Beyinlerle ilgili sürekli yeni şeyler
öğreniyoruz ve bu da yapay zekânın
öğreniyoruz ve bu da yapay zekânın
01:44
Like, we're constantly learning
new things about brains
new things about brains
30
92753
2594
01:47
that make it clear how much our AIs
don't measure up to real brains.
don't measure up to real brains.
31
95371
4360
neden gerçek beyinlerle
aynı düzeyde olmayacağını açıklıyor.
aynı düzeyde olmayacağını açıklıyor.
01:51
So today's AI can do a task
like identify a pedestrian in a picture,
like identify a pedestrian in a picture,
32
99755
5663
Günümüzdeki yapay zekâ,
bir resimde yayayı saptamak gibi
bir resimde yayayı saptamak gibi
bir görevi yapabilir, fakat bir yayanın
ne olduğunu kavrayamaz,
ne olduğunu kavrayamaz,
01:57
but it doesn't have a concept
of what the pedestrian is
of what the pedestrian is
33
105442
2983
02:00
beyond that it's a collection
of lines and textures and things.
of lines and textures and things.
34
108449
4824
yaya onun için bir çizgiler, dokular
ve bazı şeylerin toplamıdır.
ve bazı şeylerin toplamıdır.
02:05
It doesn't know what a human actually is.
35
113792
2521
Bir insanın aslında ne olduğunu bilmez.
02:08
So will today's AI
do what we ask it to do?
do what we ask it to do?
36
116822
3282
Peki günümüzün yapay zekâsı
biz ne istersek onu mu yapacak?
biz ne istersek onu mu yapacak?
02:12
It will if it can,
37
120128
1594
Eğer yapabilirse evet,
02:13
but it might not do what we actually want.
38
121746
2726
fakat gerçekten
istediğimizi yapamayabilir.
istediğimizi yapamayabilir.
02:16
So let's say that you
were trying to get an AI
were trying to get an AI
39
124496
2415
Diyelim ki bir yapay zekânın
bu robot parçalarını alıp
bu robot parçalarını alıp
02:18
to take this collection of robot parts
40
126935
2619
A noktasından B noktasına gidecek
02:21
and assemble them into some kind of robot
to get from Point A to Point B.
to get from Point A to Point B.
41
129578
4197
bir robota dönüştürmesini istiyorsunuz.
02:25
Now, if you were going to try
and solve this problem
and solve this problem
42
133799
2481
Bu problemi geleneksel türden
bir bilgisayar programı yazarak
bir bilgisayar programı yazarak
02:28
by writing a traditional-style
computer program,
computer program,
43
136304
2351
çözmeyi deneyecek olsaydınız,
02:30
you would give the program
step-by-step instructions
step-by-step instructions
44
138679
3417
programa bu parçaları nasıl alacağına,
bunları bacaklı bir robota
nasıl dönüştüreceğine
nasıl dönüştüreceğine
02:34
on how to take these parts,
45
142120
1329
ve o bacakları B noktasına gitmesi
için nasıl kullanacağına dair
için nasıl kullanacağına dair
02:35
how to assemble them
into a robot with legs
into a robot with legs
46
143473
2407
02:37
and then how to use those legs
to walk to Point B.
to walk to Point B.
47
145904
2942
adım adım talimatlar verirdiniz.
Fakat problemi çözmek için
yapay zekâ kullandığınızda
yapay zekâ kullandığınızda
02:41
But when you're using AI
to solve the problem,
to solve the problem,
48
149441
2340
02:43
it goes differently.
49
151805
1174
işler farklı ilerliyor.
02:45
You don't tell it
how to solve the problem,
how to solve the problem,
50
153003
2382
Ona problemi
nasıl çözeceğini söylemiyorsunuz,
nasıl çözeceğini söylemiyorsunuz,
02:47
you just give it the goal,
51
155409
1479
ona sadece amacı veriyorsunuz
02:48
and it has to figure out for itself
via trial and error
via trial and error
52
156912
3262
ve onun, amaca ulaşmak için
deneme yanılma aracılığıyla
deneme yanılma aracılığıyla
02:52
how to reach that goal.
53
160198
1484
kendisi çözmesi gerekiyor.
02:54
And it turns out that the way AI tends
to solve this particular problem
to solve this particular problem
54
162254
4102
Yapay zekânın bu problemi
çözmek için gittiği yol
çözmek için gittiği yol
02:58
is by doing this:
55
166380
1484
şu şekilde görünüyor:
02:59
it assembles itself into a tower
and then falls over
and then falls over
56
167888
3367
kendisini bir kuleye
monte ediyor, sonra düşüyor
monte ediyor, sonra düşüyor
03:03
and lands at Point B.
57
171279
1827
ve B noktasına iniş yapıyor.
03:05
And technically, this solves the problem.
58
173130
2829
Bu, teknik olarak problemi çözüyor.
03:07
Technically, it got to Point B.
59
175983
1639
Teknik olarak B noktasına gidiyor.
03:09
The danger of AI is not that
it's going to rebel against us,
it's going to rebel against us,
60
177646
4265
Yapay zekânın tehlikesi aslında
bizlere karşı ayaklanacağı değil,
bizlere karşı ayaklanacağı değil,
03:13
it's that it's going to do
exactly what we ask it to do.
exactly what we ask it to do.
61
181935
4274
tam olarak yapmalarını istediğimiz
şeyleri yapacak olmalarıdır.
şeyleri yapacak olmalarıdır.
03:18
So then the trick
of working with AI becomes:
of working with AI becomes:
62
186876
2498
O zaman da yapay zekâyla
çalışma hilesi şu hale geliyor:
çalışma hilesi şu hale geliyor:
03:21
How do we set up the problem
so that it actually does what we want?
so that it actually does what we want?
63
189398
3828
Problemi nasıl düzenleyelim ki
gerçekten istediğimizi yapsın?
gerçekten istediğimizi yapsın?
03:26
So this little robot here
is being controlled by an AI.
is being controlled by an AI.
64
194726
3306
Bu küçük robot bir yapay zekâ
tarafından kontrol ediliyor.
tarafından kontrol ediliyor.
03:30
The AI came up with a design
for the robot legs
for the robot legs
65
198056
2814
Yapay zekâ robot bacakları için
bir tasarım buldu
bir tasarım buldu
03:32
and then figured out how to use them
to get past all these obstacles.
to get past all these obstacles.
66
200894
4078
ve sonra onları, bu engelleri aşmak için
nasıl kullanacağını çözdü.
nasıl kullanacağını çözdü.
03:36
But when David Ha set up this experiment,
67
204996
2741
Fakat David Ha bu deneyi oluşturduğunda
03:39
he had to set it up
with very, very strict limits
with very, very strict limits
68
207761
2856
yapay zekânın bacakları ne kadar
büyük yapabileceğine dair
büyük yapabileceğine dair
03:42
on how big the AI
was allowed to make the legs,
was allowed to make the legs,
69
210641
3292
çok, çok katı
kısıtlamalarla oluşturmalıydı,
kısıtlamalarla oluşturmalıydı,
03:45
because otherwise ...
70
213957
1550
çünkü, aksi takdirde...
03:55
(Laughter)
71
223058
3931
(Gülüşmeler)
04:00
And technically, it got
to the end of that obstacle course.
to the end of that obstacle course.
72
228563
3745
Teknik olarak bu engel rotasının
sonuna varabildi.
sonuna varabildi.
04:04
So you see how hard it is to get AI
to do something as simple as just walk.
to do something as simple as just walk.
73
232332
4942
Bir yapay zekânın, yürümek gibi basit
bir eylemi yapmasını sağlamak çok zor.
bir eylemi yapmasını sağlamak çok zor.
04:09
So seeing the AI do this,
you may say, OK, no fair,
you may say, OK, no fair,
74
237298
3820
Yapay zekânın bunu yaptığını görünce,
bu haksızlık diyebilirsiniz,
bu haksızlık diyebilirsiniz,
04:13
you can't just be
a tall tower and fall over,
a tall tower and fall over,
75
241142
2580
yüksek bir kule olup düşemezsiniz,
04:15
you have to actually, like,
use legs to walk.
use legs to walk.
76
243746
3435
yürümek için bacak
kullanmanız gerek diyebilirsiniz.
kullanmanız gerek diyebilirsiniz.
04:19
And it turns out,
that doesn't always work, either.
that doesn't always work, either.
77
247205
2759
Görünen o ki, bu da
her zaman işe yaramıyor.
her zaman işe yaramıyor.
04:21
This AI's job was to move fast.
78
249988
2759
Yapay zekânın işi hızlı hareket etmek.
04:25
They didn't tell it that it had
to run facing forward
to run facing forward
79
253115
3593
Ona ileri doğru koşması gerektiğini
04:28
or that it couldn't use its arms.
80
256732
2258
veya kollarını
kullanamayacağını söylemediler.
kullanamayacağını söylemediler.
04:31
So this is what you get
when you train AI to move fast,
when you train AI to move fast,
81
259487
4618
Yapay zekâya hızlı hareket etmeyi
öğrettiğiniz zaman olan şey budur,
öğrettiğiniz zaman olan şey budur,
04:36
you get things like somersaulting
and silly walks.
and silly walks.
82
264129
3534
takla atmak veya şaşkınca yürüyüşler
gibi şeylerle karşılaşırsınız.
gibi şeylerle karşılaşırsınız.
04:39
It's really common.
83
267687
1400
Bu gerçekten yaygın.
04:41
So is twitching along the floor in a heap.
84
269667
3179
Yerde sürünmek de yaygın.
04:44
(Laughter)
85
272870
1150
(Gülüşmeler)
04:47
So in my opinion, you know what
should have been a whole lot weirder
should have been a whole lot weirder
86
275241
3254
Bana göre, bundan çok daha
garip olan şey,
garip olan şey,
04:50
is the "Terminator" robots.
87
278519
1396
"Terminatör" robotları.
04:52
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
that AI will do if you give it a chance.
88
280256
3755
Ona bir şans verirseniz, yapay zekanın
yapacağı diğer şey "Matrix"e girmektir.
yapacağı diğer şey "Matrix"e girmektir.
04:56
So if you train an AI in a simulation,
89
284035
2517
Bir simülasyonda
yapay zekâyı eğitirseniz,
yapay zekâyı eğitirseniz,
04:58
it will learn how to do things like
hack into the simulation's math errors
hack into the simulation's math errors
90
286576
4113
simülasyonun matematik hatalarına
girmek ve onları enerji için saklamak
girmek ve onları enerji için saklamak
05:02
and harvest them for energy.
91
290713
2207
gibi şeyleri yapmayı öğrenir.
05:04
Or it will figure out how to move faster
by glitching repeatedly into the floor.
by glitching repeatedly into the floor.
92
292944
5475
Sürekli yerde sürünerek
hızlı hareket etmeyi de çözebilir.
hızlı hareket etmeyi de çözebilir.
05:10
When you're working with AI,
93
298443
1585
Bir yapay zekâyla çalışırken
05:12
it's less like working with another human
94
300052
2389
bu diğer bir insanla çalışmaktan ziyade,
05:14
and a lot more like working
with some kind of weird force of nature.
with some kind of weird force of nature.
95
302465
3629
daha çok doğanın garip bir gücüyle
çalışmaya benziyor.
çalışmaya benziyor.
05:18
And it's really easy to accidentally
give AI the wrong problem to solve,
give AI the wrong problem to solve,
96
306562
4623
Yapay zekâya çözmesi için kazara
yanlış problemi vermek de çok kolay
yanlış problemi vermek de çok kolay
05:23
and often we don't realize that
until something has actually gone wrong.
until something has actually gone wrong.
97
311209
4538
ve bir şeyler yanlış gidene dek
bunu genelde fark etmeyiz.
bunu genelde fark etmeyiz.
05:28
So here's an experiment I did,
98
316242
2080
Yaptığım bir deneyde
05:30
where I wanted the AI
to copy paint colors,
to copy paint colors,
99
318346
3182
yapay zekâdan
boya renklerini kopyalamasını
boya renklerini kopyalamasını
05:33
to invent new paint colors,
100
321552
1746
ve yeni boya renkleri
yaratmasını istedim,
yaratmasını istedim,
05:35
given the list like the ones
here on the left.
here on the left.
101
323322
2987
bu soldaki listedekiler gibi
bir liste verdim.
bir liste verdim.
05:38
And here's what the AI
actually came up with.
actually came up with.
102
326798
3004
Yapay zekânın önerdikleri ise şunlar.
05:41
[Sindis Poop, Turdly, Suffer, Gray Pubic]
103
329826
3143
[Sindi Kakası, Gübremsi, Acı, Gri Kasık]
05:44
(Laughter)
104
332993
4230
(Gülüşmeler)
05:51
So technically,
105
339177
1886
Teknik olarak
05:53
it did what I asked it to.
106
341087
1864
istediğimi yaptı.
05:54
I thought I was asking it for,
like, nice paint color names,
like, nice paint color names,
107
342975
3308
Ben güzel boya renkleri isimleri
istediğimi düşünmüştüm,
istediğimi düşünmüştüm,
05:58
but what I was actually asking it to do
108
346307
2307
fakat aslında yapmasını istediğim şey
06:00
was just imitate the kinds
of letter combinations
of letter combinations
109
348638
3086
orijinalinde gördüğü
harf kombinasyonları türlerini
harf kombinasyonları türlerini
06:03
that it had seen in the original.
110
351748
1905
taklit etmesiydi.
06:05
And I didn't tell it anything
about what words mean,
about what words mean,
111
353677
3098
Kelimelerin ne anlama geldiğine dair
veya isimleri bulurken
kullanmaması gereken bazı kelimeler
kullanmaması gereken bazı kelimeler
06:08
or that there are maybe some words
112
356799
2560
06:11
that it should avoid using
in these paint colors.
in these paint colors.
113
359383
2889
olabileceğine dair hiçbir şey söylemedim.
06:15
So its entire world
is the data that I gave it.
is the data that I gave it.
114
363141
3494
Yani onun tüm dünyası,
benim ona sağladığım veri.
benim ona sağladığım veri.
06:18
Like with the ice cream flavors,
it doesn't know about anything else.
it doesn't know about anything else.
115
366659
4028
Dondurma tatları gibi,
başka hiçbir şey bilmiyor.
başka hiçbir şey bilmiyor.
06:24
So it is through the data
116
372491
1638
Yani genelde veri aracılığıyla
06:26
that we often accidentally tell AI
to do the wrong thing.
to do the wrong thing.
117
374153
4044
yapay zekâya kazara yanlış şeyi
yapmasını söylüyoruz.
yapmasını söylüyoruz.
06:30
This is a fish called a tench.
118
378694
3032
Bu, karabalık adlı bir balık.
06:33
And there was a group of researchers
119
381750
1815
Bir grup araştırmacı da yapay zekâyı
06:35
who trained an AI to identify
this tench in pictures.
this tench in pictures.
120
383589
3874
resimlerde karabalığı
saptaması için eğitmişti.
saptaması için eğitmişti.
fakat ona, balığı saptamak için
06:39
But then when they asked it
121
387487
1296
06:40
what part of the picture it was actually
using to identify the fish,
using to identify the fish,
122
388807
3426
resmin hangi kısmını
kullandığını sorduklarında,
kullandığını sorduklarında,
06:44
here's what it highlighted.
123
392257
1358
işte bunu vurguladı.
06:47
Yes, those are human fingers.
124
395203
2189
Evet, bunlar insan elinin parmakları.
06:49
Why would it be looking for human fingers
125
397416
2059
Bir balığı saptamayı deniyorsa,
06:51
if it's trying to identify a fish?
126
399499
1921
neden insan elinin parmaklarını arıyor?
06:54
Well, it turns out that the tench
is a trophy fish,
is a trophy fish,
127
402126
3164
Görünen o ki bu karabalık bir ödül balığı
06:57
and so in a lot of pictures
that the AI had seen of this fish
that the AI had seen of this fish
128
405314
3811
ve eğitimi sırasında
yapay zekânın gördüğü
yapay zekânın gördüğü
07:01
during training,
129
409149
1151
birçok resimde,
07:02
the fish looked like this.
130
410324
1490
balık böyle görünüyordu.
07:03
(Laughter)
131
411838
1635
(Gülüşmeler)
07:05
And it didn't know that the fingers
aren't part of the fish.
aren't part of the fish.
132
413497
3330
Parmakların, balığın bir parçası
olmadığını bilmiyordu.
olmadığını bilmiyordu.
07:10
So you see why it is so hard
to design an AI
to design an AI
133
418808
4120
Baktığı şeyi gerçekten anlayabilecek
bir yapay zekâ tasarlamanın
bir yapay zekâ tasarlamanın
07:14
that actually can understand
what it's looking at.
what it's looking at.
134
422952
3319
neden çok zor olduğunu
görüyorsunuz.
görüyorsunuz.
07:18
And this is why designing
the image recognition
the image recognition
135
426295
2862
Ayrıca sürücüsüz arabalarda
görüntü tanımayı tasarlamanın
zor olmasının nedeni de bu
zor olmasının nedeni de bu
07:21
in self-driving cars is so hard,
136
429181
2067
07:23
and why so many self-driving car failures
137
431272
2205
ve sürücüsüz arabalardaki
birçok başarısızlık da
birçok başarısızlık da
07:25
are because the AI got confused.
138
433501
2885
yapay zekânın şaşırması nedenlidir.
07:28
I want to talk about an example from 2016.
139
436410
4008
2016'dan bir örnek vermek istiyorum.
07:32
There was a fatal accident when somebody
was using Tesla's autopilot AI,
was using Tesla's autopilot AI,
140
440442
4455
Birisi Tesla'nın oto-pilot yapay zekasını
kullanırken ölümcül bir kaza oldu,
kullanırken ölümcül bir kaza oldu,
07:36
but instead of using it on the highway
like it was designed for,
like it was designed for,
141
444921
3414
fakat tasarlandığı üzere
otoyolda kullanmak yerine,
otoyolda kullanmak yerine,
07:40
they used it on city streets.
142
448359
2205
şehrin sokaklarında kullandılar.
07:43
And what happened was,
143
451239
1175
Olan şey de şuydu;
07:44
a truck drove out in front of the car
and the car failed to brake.
and the car failed to brake.
144
452438
3396
bir kamyon, arabanın önüne sürdü
ve araba fren yapamadı.
ve araba fren yapamadı.
07:48
Now, the AI definitely was trained
to recognize trucks in pictures.
to recognize trucks in pictures.
145
456507
4762
Yapay zekâ kesinlikle resimlerde
kamyonları saptamak üzere eğitilmişti.
kamyonları saptamak üzere eğitilmişti.
07:53
But what it looks like happened is
146
461293
2145
Fakat olan şey şu gibi görünüyor,
07:55
the AI was trained to recognize
trucks on highway driving,
trucks on highway driving,
147
463462
2931
yapay zekâ otoyolda giden
kamyonları saptamayı öğrenmişti,
kamyonları saptamayı öğrenmişti,
07:58
where you would expect
to see trucks from behind.
to see trucks from behind.
148
466417
2899
yani kamyonları arkadan
göreceğimiz bir şekilde öğrenmişti.
göreceğimiz bir şekilde öğrenmişti.
08:01
Trucks on the side is not supposed
to happen on a highway,
to happen on a highway,
149
469340
3420
Yanı görünen kamyonların
otoyolda olmaları beklenmez
otoyolda olmaları beklenmez
08:04
and so when the AI saw this truck,
150
472784
3455
ve yapay zekâ bu kamyonu gördüğünde,
08:08
it looks like the AI recognized it
as most likely to be a road sign
as most likely to be a road sign
151
476263
4827
büyük olasılıkla
bir yol işareti olarak algıladı
bir yol işareti olarak algıladı
ve altından geçmenin
güvenli olduğunu düşündü.
güvenli olduğunu düşündü.
08:13
and therefore, safe to drive underneath.
152
481114
2273
08:16
Here's an AI misstep
from a different field.
from a different field.
153
484114
2580
Yapay zekânın başka alanda
attığı yanlış bir adım daha.
attığı yanlış bir adım daha.
08:18
Amazon recently had to give up
on a résumé-sorting algorithm
on a résumé-sorting algorithm
154
486718
3460
Amazon, algoritmanın kadınlara karşı
ayrımcılık yapmayı öğrendiğini
ayrımcılık yapmayı öğrendiğini
08:22
that they were working on
155
490202
1220
keşfettiği zaman,
08:23
when they discovered that the algorithm
had learned to discriminate against women.
had learned to discriminate against women.
156
491446
3908
bir özgeçmiş-sıralama algoritmasından
vazgeçmek zorunda kaldı.
vazgeçmek zorunda kaldı.
08:27
What happened is they had trained it
on example résumés
on example résumés
157
495378
2716
Olan şey şuydu, yapay zekâyı
geçmişte işe aldıkları insanlara ait
geçmişte işe aldıkları insanlara ait
08:30
of people who they had hired in the past.
158
498118
2242
örnek özgeçmişlerle eğittiler.
08:32
And from these examples, the AI learned
to avoid the résumés of people
to avoid the résumés of people
159
500384
4023
Yapay zekâ da bu örneklerden,
kadın okullarına gitmiş olan
kadın okullarına gitmiş olan
08:36
who had gone to women's colleges
160
504431
2026
veya özgeçmişinin herhangi bir yerinde
08:38
or who had the word "women"
somewhere in their resume,
somewhere in their resume,
161
506481
2806
"kadın" kelimesi geçen,
-- "kadın futbol takımı"
-- "kadın futbol takımı"
08:41
as in, "women's soccer team"
or "Society of Women Engineers."
or "Society of Women Engineers."
162
509311
4576
veya "Kadın Mühendisler Derneği" gibi --
özgeçmişlerden kaçınmayı öğrendi.
özgeçmişlerden kaçınmayı öğrendi.
08:45
The AI didn't know that it wasn't supposed
to copy this particular thing
to copy this particular thing
163
513911
3974
Yapay zekâ, insanların
yaptığını gördüğü bu şeyi
yaptığını gördüğü bu şeyi
08:49
that it had seen the humans do.
164
517909
1978
kopyalaması gerekmediğini bilmiyordu.
08:51
And technically, it did
what they asked it to do.
what they asked it to do.
165
519911
3177
Teknik olarak da
yapmasını istedikleri şeyi yaptı.
yapmasını istedikleri şeyi yaptı.
08:55
They just accidentally asked it
to do the wrong thing.
to do the wrong thing.
166
523112
2797
Sadece, yanlış şeyi yapmasını istediler.
08:58
And this happens all the time with AI.
167
526653
2895
Yapay zekâyla bu her zaman olur.
09:02
AI can be really destructive
and not know it.
and not know it.
168
530120
3591
Yapay zeka çok zararlı olabilir
ve bunu bilmeyebilir.
ve bunu bilmeyebilir.
09:05
So the AIs that recommend
new content in Facebook, in YouTube,
new content in Facebook, in YouTube,
169
533735
5078
Facebook, YouTube'da yeni içerik
öneren yapay zekâlar,
öneren yapay zekâlar,
09:10
they're optimized to increase
the number of clicks and views.
the number of clicks and views.
170
538837
3539
tıklama ve görüntüleme sayısını
yükseltmek üzere optimize edilmiştir.
yükseltmek üzere optimize edilmiştir.
09:14
And unfortunately, one way
that they have found of doing this
that they have found of doing this
171
542400
3436
Ne yazık ki bunu yapmak için
buldukları bir yol da,
buldukları bir yol da,
09:17
is to recommend the content
of conspiracy theories or bigotry.
of conspiracy theories or bigotry.
172
545860
4503
komplo teorisi veya fanatiklik
içerikleri önermek.
içerikleri önermek.
09:22
The AIs themselves don't have any concept
of what this content actually is,
of what this content actually is,
173
550902
5302
Yapay zekâların, bu içeriklere dair
herhangi bir fikirleri yok
herhangi bir fikirleri yok
09:28
and they don't have any concept
of what the consequences might be
of what the consequences might be
174
556228
3395
ve bu içeriği önerdikleri zaman
sonucun ne olacağına dair de
sonucun ne olacağına dair de
09:31
of recommending this content.
175
559647
2109
herhangi bir fikirleri yok.
09:34
So, when we're working with AI,
176
562296
2011
Yani, yapay zekâyla çalışırken
09:36
it's up to us to avoid problems.
177
564331
4182
problemlerden kaçınmak bize bağlıdır.
09:40
And avoiding things going wrong,
178
568537
2323
Yanlış giden şeylerden kaçınmak da öyle,
09:42
that may come down to
the age-old problem of communication,
the age-old problem of communication,
179
570884
4526
bu çok eski iletişim
problemine kadar da inebilir,
problemine kadar da inebilir,
09:47
where we as humans have to learn
how to communicate with AI.
how to communicate with AI.
180
575434
3745
insanlar yapay zekâyla nasıl iletişim
kuracağını öğrenmelidir.
kuracağını öğrenmelidir.
09:51
We have to learn what AI
is capable of doing and what it's not,
is capable of doing and what it's not,
181
579203
4039
Yapay zekânın ne yapabildiğini
ve ne yapamadığını öğrenmeliyiz
ve ne yapamadığını öğrenmeliyiz
09:55
and to understand that,
with its tiny little worm brain,
with its tiny little worm brain,
182
583266
3086
ve yapay zekânın,
çok küçük solucan beyniyle,
çok küçük solucan beyniyle,
09:58
AI doesn't really understand
what we're trying to ask it to do.
what we're trying to ask it to do.
183
586376
4013
ondan yapmasını istediğimiz şeyi
aslında anlamadığını anlamalıyız.
aslında anlamadığını anlamalıyız.
10:03
So in other words, we have
to be prepared to work with AI
to be prepared to work with AI
184
591148
3321
Yani, süper-yetkili, her şeyi bilen
bilim kurgu yapay zekâlarına benzemeyen
bilim kurgu yapay zekâlarına benzemeyen
10:06
that's not the super-competent,
all-knowing AI of science fiction.
all-knowing AI of science fiction.
185
594493
5258
yapay zekâ ile çalışmaya
hazırlıklı olmalıyız.
hazırlıklı olmalıyız.
10:11
We have to prepared to work with an AI
186
599775
2862
Şimdiki zamanda sahip olduğumuz
10:14
that's the one that we actually have
in the present day.
in the present day.
187
602661
2938
tek yapay zekâyla
çalışmaya hazırlıklı olmalıyız.
çalışmaya hazırlıklı olmalıyız.
10:17
And present-day AI is plenty weird enough.
188
605623
4205
Günümüzün yapay zekâsı da yeterince garip.
10:21
Thank you.
189
609852
1190
Teşekkürler.
10:23
(Applause)
190
611066
5225
(Alkış)
ABOUT THE SPEAKER
Janelle Shane - AI researcherWhile moonlighting as a research scientist, Janelle Shane found fame documenting the often hilarious antics of AI algorithms.
Why you should listen
Janelle Shane's humor blog, AIweirdness.com, looks at, as she tells it, "the strange side of artificial intelligence." Her upcoming book, You Look Like a Thing and I Love You: How AI Works and Why It's Making the World a Weirder Place, uses cartoons and humorous pop-culture experiments to look inside the minds of the algorithms that run our world, making artificial intelligence and machine learning both accessible and entertaining.
According to Shane, she has only made a neural network-written recipe once -- and discovered that horseradish brownies are about as terrible as you might imagine.
Janelle Shane | Speaker | TED.com