TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Neden robotlara karşı duygusal bir bağımız var
Filmed:
Readability: 4.4
2,403,010 views
Ahlâk bilimci Kate Darling, duygu hisseden robotlar geliştirmekten çok uzak olduğumuzu fakat bizim onlara karşı hislerimiz olduğunu ve bu tür bir içgüdünün de sonuçları olabileceğini söylüyor. Niyetimizi ve hayatımızı makinelere yansıtmanın nasıl biyolojik olarak içimize işlendiğine ve onların da bizim kendimizi daha iyi anlamamıza nasıl yardım edebileceklerini daha fazla öğrenin.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Neredeyse on yıl önce, bir gün
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
bir arkadaşımdan yavru dinazor
robotu baş aşağı tutmasını istedim.
robotu baş aşağı tutmasını istedim.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Sipariş ettiğim adı Pleo
olan bu oyuncak hakkında
olan bu oyuncak hakkında
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
gerçekten heyecanlıydım çünkü
robotları her zaman sevmişimdir.
robotları her zaman sevmişimdir.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
Bununsa sahiden
havalı teknik özellikleri var.
havalı teknik özellikleri var.
00:32
It had motors and touch sensors
5
20087
2119
Motorları, dokunma sensörleri
00:34
and it had an infrared camera.
6
22230
2244
ve kızılötesi kamerası vardı.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Bir diğer özelliği ise eğilim sensörüydü,
00:39
so it knew what direction it was facing.
8
27285
2318
yani hangi yöne yöneldiğini biliyordu.
00:42
And when you held it upside down,
9
30095
2134
Baş aşağı tuttuğunda
00:44
it would start to cry.
10
32253
1572
ağlamaya başlardı.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Bunun çok havalı olduğunu düşündüm,
arkadaşıma da hava atmak istedim,
arkadaşıma da hava atmak istedim,
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
"Kuyruğundan tut
ve ne yaptığını gör" dedim.
ve ne yaptığını gör" dedim.
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Robotun hareketlerini, mücadelesini
00:58
struggle and cry out.
14
46917
2199
ve haykırışını izliyorduk.
01:02
And after a few seconds,
15
50767
2047
Bir süre sonra
01:04
it starts to bother me a little,
16
52838
1972
beni biraz rahatsız etmeye başladı
01:07
and I said, "OK, that's enough now.
17
55744
3424
ve ben de "Tamam, yeter.
01:11
Let's put him back down."
18
59930
2305
Yerine geri koyalım" dedim.
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
Sonra da ağlamasın diye
robotun başını okşadım.
robotun başını okşadım.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Benim için çok garip bir deneyimdi.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Başta, o zamanlarda
en anaç kişi ben değildim.
en anaç kişi ben değildim.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Gerçi o zamandan bu yana,
yaklaşık dokuz ay önce anne oldum
yaklaşık dokuz ay önce anne oldum
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
ve bebeklerin de baş aşağı
tutulduğunda kıvrandıklarını öğrendim.
tutulduğunda kıvrandıklarını öğrendim.
01:32
(Laughter)
24
80889
1563
(Kahkaha)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Ama bu robota karşı
tepkim de çok ilginçti
tepkim de çok ilginçti
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
çünkü bu makinenin nasıl çalıştığını
tam anlamıyla biliyordum
tam anlamıyla biliyordum
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
fakat yine de ona karşı nazik
olma zorunluluğu hissettim.
olma zorunluluğu hissettim.
01:46
And that observation sparked a curiosity
28
94450
2707
Bu gözlem geçen on yılda
peşinden koştuğum
peşinden koştuğum
01:49
that I've spent the past decade pursuing.
29
97181
2832
bir merakı tetikledi.
01:52
Why did I comfort this robot?
30
100911
1793
Neden bu robotu rahatlattım?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Keşfettiğim şeylerden biri de
bu makineye davranışım
bu makineye davranışım
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
odamdaki garip
bir andan daha fazlasıydı.
bir andan daha fazlasıydı.
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
Robotların hayatımıza giderek daha
fazla entegre olduğu bir dünyada
fazla entegre olduğu bir dünyada
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
o tür bir içgüdünün sonuçları olabilir
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
çünkü keşfettiğim ilk şey
yalnız olmadığımdı.
yalnız olmadığımdı.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
Washington Post 2007'de
Birleşik Devletler ordusunun
Birleşik Devletler ordusunun
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
kara mayınlarını etkisiz hâle getiren
robotu test ettiğini yazdı.
robotu test ettiğini yazdı.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Robotun çalışma şekli ise şöyle,
bir çubuk böcek şeklindeydi
bir çubuk böcek şeklindeydi
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
bir mayın tarlasında bacakları
üstünde yürüyor
üstünde yürüyor
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
ve her mayına bastığında
bacaklardan biri havaya uçuyor
bacaklardan biri havaya uçuyor
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
ve daha çok mayının imhası için
bacakları üzerinde ilerliyordu.
bacakları üzerinde ilerliyordu.
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
Tatbikatın başında olan albay ise
02:43
ends up calling it off,
43
151061
2118
tatbikatın iptalini isteyivermiş
02:45
because, he says, it's too inhumane
44
153203
2435
çünkü zarar görmüş robotun
mayın tarlasında
mayın tarlasında
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
kendini çekiştirmesini izlemenin çok
insanlık dışı olduğunu söylemiş.
insanlık dışı olduğunu söylemiş.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Katılaşmış bir askeri memurun
02:58
and someone like myself
47
166899
2043
ve benim gibi birisinin robotlara karşı
03:00
to have this response to robots?
48
168966
1857
böyle bir tepki vermesine
sebep olan şey nedir?
sebep olan şey nedir?
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Bilim kurgu ve pop kültürü
tarafından bu tür eşyaları
tarafından bu tür eşyaları
03:06
to really want to personify these things,
50
174871
2579
kişiselleştirmek istemek
için hazırlanıyoruz
için hazırlanıyoruz
03:09
but it goes a little bit deeper than that.
51
177474
2789
fakat olay bundan biraz daha derin.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Biyolojik olarak niyet ve hayatımızı
fiziksel alanımızda bize özerk olarak
fiziksel alanımızda bize özerk olarak
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
gelen herhangi bir harekete yansıtmanın
içimize işlendiği ortaya çıkıyor.
içimize işlendiği ortaya çıkıyor.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Yani insanlar her çeşit robota
sanki canlılarmış gibi davranacaklar.
sanki canlılarmış gibi davranacaklar.
03:26
These bomb-disposal units get names.
55
194703
2683
Bu bomba imha üniteleri isim alıyorlar.
03:29
They get medals of honor.
56
197410
1682
Onur madalyası alıyorlar.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Silah selâmıyla cenazeleri oluyor.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Araştırma bunu Roomba elektrikli
süpürgesi gibi en basit ev aletiyle dahi
süpürgesi gibi en basit ev aletiyle dahi
03:38
like the Roomba vacuum cleaner.
59
206237
2135
yaptığımızı gösteriyor.
03:40
(Laughter)
60
208396
1291
(Kahkaha)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Yeri temizlemek için
etrafta dolanan bir disk.
etrafta dolanan bir disk.
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
Kendi kendine etrafta
dolanmasından dolayı da
dolanmasından dolayı da
03:47
will cause people to name the Roomba
63
215154
2167
insanların ona Roomba
demesine yol açıyor,
demesine yol açıyor,
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
bu yüzden Roomba koltuğun altına
sıkıştığında kötü hissediyorlar.
sıkıştığında kötü hissediyorlar.
03:52
(Laughter)
65
220551
1865
(Kahkaha)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
İnsanların bilinç altında
ruh hâli ile otomatik olarak
ruh hâli ile otomatik olarak
03:57
using eyes and faces or movements
67
225804
3461
bağdaştırdığı gözleri, yüzleri
ve hareketleri kullanarak
ve hareketleri kullanarak
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
özellike bu tepkiyi uyandırmak için
04:04
with states of mind.
69
232572
2020
robotlar tasarlayabiliriz.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
İnsan-robot etkileşimi adında
bunun ne kadar iyi çalıştığını gösteren
bunun ne kadar iyi çalıştığını gösteren
04:09
that really shows how well this works.
71
237933
1826
birtakım araştırmalar var.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
Stanford Üniversitesi'ndeki
araştırmacılar insanlara robotların
araştırmacılar insanlara robotların
04:14
that it makes people really uncomfortable
73
242933
2001
mahrem yerlerine
dokunmalarını istendiğinde
dokunmalarını istendiğinde
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
insanların rahatsız
olduklarını keşfettiler.
olduklarını keşfettiler.
04:19
(Laughter)
75
247454
2120
(Kahkaha)
04:21
So from this, but from many other studies,
76
249598
2023
Bundan ve birçok çalışmadan,
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
gerçek olmadıklarını bildikleri hâlde
insanların canlıymış gibi olan
insanların canlıymış gibi olan
04:27
by these lifelike machines,
78
255892
2022
makinelerden gelen işaretlere
04:29
even if they know that they're not real.
79
257938
2017
tepki verdiklerini biliyoruz.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Artık robotların her yerde oldukları
bir dünyaya doğru gidiyoruz.
bir dünyaya doğru gidiyoruz.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Robot teknolojisi fabrika
duvarlarından dışarı çıkıyor.
duvarlarından dışarı çıkıyor.
04:40
It's entering workplaces, households.
82
268823
3013
İş yerlerine ve evlere giriyor.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Özerkçe hisseden, kararlar veren
ve ortak yaşam alanlarına
ve ortak yaşam alanlarına
04:50
enter into these shared spaces,
84
278093
2552
girmeyi öğrenen makineler ile
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
en iyi karşılaştırmayı bizim hayvanlarla
04:55
is our relationship with animals.
86
283189
1935
olan ilişkimizle yapabiliriz.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Binlerce yıl öncesinde,
hayvanları evcilleştirmeye başladık.
hayvanları evcilleştirmeye başladık.
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
Onları iş, mühimmat ve yoldaşlık
etmeleri için eğittik.
etmeleri için eğittik.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Tarih boyunca da, bazı hayvanlara
araç veya mal gibi davranırken
araç veya mal gibi davranırken
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
bazılarınaysa nazikçe davranıp
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
toplum içerisinde
arkadaşlarımız olarak yer verdik.
arkadaşlarımız olarak yer verdik.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Bence robotlarla da benzer şekillerde
entegre olmak gayet akla yatkın.
entegre olmak gayet akla yatkın.
05:21
And sure, animals are alive.
93
309484
3096
Tabii ki hayvanlar canlı.
05:24
Robots are not.
94
312604
1150
Robotlarsa değil.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
Robotlarla çalıştığımdan
ötürü herhangi bir şeyi
ötürü herhangi bir şeyi
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
hissedebileceklerini geliştirmekten
çok uzak olduğumuzu söyleyebilirim.
çok uzak olduğumuzu söyleyebilirim.
05:35
But we feel for them,
97
323072
1460
Ama onlar yerine hissediyoruz,
05:37
and that matters,
98
325835
1207
önemli olan bu.
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
Çünkü eğer robotları bu ortak alanlara
entegre etmeye çalışırsak
entegre etmeye çalışırsak
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
insanların onlara diğer cihazlardan daha
farklı davranacaklarını anlamamız gerek
farklı davranacaklarını anlamamız gerek
05:47
and that in some cases,
101
335369
1844
ve hatta bazı durumlarda
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
mesela, çalıştığı robotlara
duygusal olarak bağlı hisseden
duygusal olarak bağlı hisseden
05:52
to the robot that they work with,
103
340433
2047
bir askerin vakasında olduğu gibi.
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
Bu verimsizlikten tehlikeye
kadar her şey olabilir.
kadar her şey olabilir.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Ama diğer durumlarda robotlara olan
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
bu duygusal bağı teşvik etmek
yararlı olabilir.
yararlı olabilir.
06:04
We're already seeing some great use cases,
107
352184
2134
Zaten harika kullanılan
vakaları görüyoruz.
vakaları görüyoruz.
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
Mesela, robotların daha önce
görmediğimiz şekilde
görmediğimiz şekilde
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
otistik çocuklarla ilgilendiğini
veya öğretmenlerle çalışan robotların
veya öğretmenlerle çalışan robotların
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
çocuklarla uğraşırken
yeni sonuçlar aldığını görüyoruz.
yeni sonuçlar aldığını görüyoruz.
06:17
And it's not just for kids.
111
365433
1381
Sadece çocuklar da değil.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Önceki çalışmalar, robotların
sağlık alanında doktor ve hastalara
sağlık alanında doktor ve hastalara
06:22
in health care settings.
113
370997
1427
yardımlarını gösteriyor.
06:25
This is the PARO baby seal robot.
114
373535
1810
Bu PARO yavru fok robotu.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Bunama geçiren yaşlı hastaların
bakımında kullanılıyor.
bakımında kullanılıyor.
06:30
It's been around for a while.
116
378678
1570
Bir süredir kullanılıyor.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Hatırlarım, yıllar önce
bir partideyken birine
bir partideyken birine
06:35
and telling someone about this robot,
118
383621
2571
bu robot hakkında bir şeyler anlatırken
06:38
and her response was,
119
386216
2126
onun cevabı şu olmuştu:
06:40
"Oh my gosh.
120
388366
1262
"Aman Tanrım.
06:42
That's horrible.
121
390508
1188
Bu korkunç bir şey.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Hastalara, insan yerine robot
bakımı sağladığımıza inanamıyorum.
bakımı sağladığımıza inanamıyorum.
06:50
And this is a really common response,
123
398540
1875
Bu oldukça yaygın bir cevap
06:52
and I think it's absolutely correct,
124
400439
2499
bence tamamen doğru
06:54
because that would be terrible.
125
402962
2040
çünkü korkunç bir şey olurdu.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Ama olay robotun
neyin yerini aldığı değil.
neyin yerini aldığı değil.
07:00
What this robot replaces is animal therapy
127
408858
3120
Bu robotun yerini alan şey gerçek
hayvanları kullanamayacağımız
hayvanları kullanamayacağımız
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
onun yerine robotları kullanabileceğimiz
07:07
but we can use robots,
129
415224
1168
hayvan terapileridir.
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
Zira, insanlar sürekli onlara bir cihazdan
öte bir hayvan gibi muamele edecekler.
öte bir hayvan gibi muamele edecekler.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Robotlara olan bu duygusal
bağı kabul etmek
bağı kabul etmek
07:17
can also help us anticipate challenges
132
425906
1969
zorlukları tahmin
etmemize de yardım eder
etmemize de yardım eder
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
çünkü bu cihazlar insan hayatının
daha özel alanlarına da giriyorlar.
daha özel alanlarına da giriyorlar.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Örneğin, çocuğunuzun oyuncak ayısının
07:27
records private conversations?
135
435539
2237
özel konuşmaları kaydetmesine
ne derdiniz?
ne derdiniz?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Peki ya seks robotunuzun ilgi çekici
uygulama içi satın alma yapması?
uygulama içi satın alma yapması?
07:33
(Laughter)
137
441887
1396
(Kahkaha)
07:35
Because robots plus capitalism
138
443307
2501
Çünkü robotlar artı kapitalizm
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
tüketici koruması ve özeli
ile ilgili sorulara eşittir.
ile ilgili sorulara eşittir.
07:42
And those aren't the only reasons
140
450549
1612
Bunlar, makineler etraftayken
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
davranışlarımıza dikkat
etmemiz için tek sebep değil.
etmemiz için tek sebep değil.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Bu yavru dinazor robotla
edindiğim ilk deneyiminden
edindiğim ilk deneyiminden
07:52
with this baby dinosaur robot,
143
460041
2311
birkaç yıl sonra
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
arkadaşım Hannes Gassert ile
bir workshop yaptık.
bir workshop yaptık.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Bu beş bebek dinazoru aldık
07:59
and we gave them to five teams of people.
146
467822
2453
ve beş takıma ayrılan insanlara verdik.
08:02
And we had them name them
147
470299
1697
İsimlendirmelerini daha sonrasında
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
oynamalarını ve bir saat kadar
etkileşimde olmalarını istedik.
etkileşimde olmalarını istedik.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Üstelik, bir çekiç ve balta çıkardık
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
robotlara işkence edip
öldürmelerini istedik.
öldürmelerini istedik.
08:13
(Laughter)
151
481239
3007
(Kahkaha)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Beklediğimizden biraz daha
dramatik olduğunu gördük
dramatik olduğunu gördük
08:19
than we expected it to be,
153
487175
1278
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
çünkü katılımcılardan
hiçbiri yavru dinazorlara
hiçbiri yavru dinazorlara
08:23
these baby dinosaur robots,
155
491573
1307
biraz olsa bile saldırmadı
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
bu yüzden de biraz doğaçlama yapmak
zorunda kaldık ve şöyle dedik
zorunda kaldık ve şöyle dedik
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
"Başka takımın robotunu yok
ederek kendinizinkini kurtarabilirsiniz."
ederek kendinizinkini kurtarabilirsiniz."
08:34
(Laughter)
158
502539
1855
(Kahkaha)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Bu bile işe yaramadı.
Yapamadılar.
Yapamadılar.
08:39
So finally, we said,
160
507058
1151
Son olarak da
08:40
"We're going to destroy all of the robots
161
508233
2032
"Biri baltayı vurmazsa
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
tüm robotları yok edeceğiz." dedik.
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Biri ayağa kalktı, baltayı aldı.
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
Baltayı aşağı, robotun ensesine
indirince de
indirince de
08:51
on the robot's neck,
165
519919
1780
tüm oda ürktü.
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
Bu günahkâr robot için
odada yarı şaka yarı ciddi
odada yarı şaka yarı ciddi
09:00
for this fallen robot.
167
528085
1698
bir sessizlik oluştu.
09:01
(Laughter)
168
529807
1406
(Kahkaha)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Çok ilginç bir deneyimdi.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Tabii ki kontrollü bir çalışma değildi
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
fakat daha sonrasında MIT'de
Palash Nandy Cynthia Breazeal
ile yaptığım araştırmaya ön ayak oldu.
ile yaptığım araştırmaya ön ayak oldu.
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
Laboratuvara canlı böcekmiş gibi
hareket eden
hareket eden
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
bu robot böcekleri ezmek için
gelen insanlar vardı.
gelen insanlar vardı.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
İnsanların ilgisini çekecek
sevimli şeyler seçmek yerine
sevimli şeyler seçmek yerine
09:24
we chose something more basic,
176
552484
2093
daha basit bir şey seçtik.
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
Keşfettiğim şey ise
empati yapabilen insanların
empati yapabilen insanların
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
robot böceklere vurmaktan
çekindikleri oldu.
çekindikleri oldu.
09:33
Now this is just a little study,
179
561575
1564
Bu sadece ufak bir çalışma
09:35
but it's part of a larger body of research
180
563163
2389
fakat insanların empati
eğilimleri ve robotalara
eğilimleri ve robotalara
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
karşı davranışları arasında
09:40
between people's tendencies for empathy
182
568544
2373
bir bağın olduğunu gösteren
09:42
and their behavior around robots.
183
570941
1976
daha büyük bir araştırmanın bir parçası.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
İnsan-robot etkileşimi
çağının gelişiyle ilgili sorum
çağının gelişiyle ilgili sorum
09:49
is not: "Do we empathize with robots?"
185
577372
3055
"Robotlarla empati yapıyor muyuz?" değil
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
"Robotlar insanların empatisini
değiştirebilir mi?" idi.
değiştirebilir mi?" idi.
09:57
Is there reason to, for example,
187
585489
2287
Mesela, çocuğunuzun
bir robot köpeği tekmelemesini
bir robot köpeği tekmelemesini
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
köpeğin bir eşya olduğu için mi
10:03
not just out of respect for property,
189
591228
2914
yoksa çocuğun gerçek bir
köpeği de tekmeleme olasılığı
köpeği de tekmeleme olasılığı
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
olabileceğini engellemek
için mi durdursunuz?
için mi durdursunuz?
10:10
And again, it's not just kids.
191
598507
1883
Aslında, konu sadece çocuklar değil.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Bu şiddetli video oyunları meselesi
ama tamamen yeni bir seviyede
ama tamamen yeni bir seviyede
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
çünkü bu içgüdüsel hareketlere
bir ekrandaki görüntülere göre
çok daha fazla tepki veriyoruz.
çok daha fazla tepki veriyoruz.
10:22
than to images on a screen.
194
610428
1547
10:25
When we behave violently towards robots,
195
613674
2578
Özellikle hayatımızı taklit
etmek için tasarlanmış
etmek için tasarlanmış
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
robotlara karşı şiddetle davrandığımızda
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
şiddetli davranış açısından
sağlıklı bir dışavurum mu
sağlıklı bir dışavurum mu
10:35
or is that training our cruelty muscles?
198
623336
2544
yoksa sadece kabalık
kaslarımız için bir idman mı?
kaslarımız için bir idman mı?
10:39
We don't know ...
199
627511
1150
Bilmiyoruz.
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Ama bu soruya cevabın insan
davranışlarını, sosyal normları
davranışlarını, sosyal normları
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
etkileme potansiyeli var.
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
Hayvani gaddarlık kurallarına benzer
şekilde belli robotlarla ne yapıp
şekilde belli robotlarla ne yapıp
10:53
with certain robots,
203
641256
1151
yapamayacağımıza dair
10:54
similar to our animal cruelty laws.
204
642431
1848
kuralları etkileme potansiyeli var.
10:57
Because even if robots can't feel,
205
645228
2864
Çünkü robotlar hissedemeseler dahi
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
onlara karşı davranışlarımız
bizim için önemlidir.
bizim için önemlidir.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Kurallarımızı değiştirip
değiştirmememize bakmaksızın
değiştirmememize bakmaksızın
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
robotlar kendimiz hakkında yeni bir
anlayışa varmamıza yardım edebilirler.
anlayışa varmamıza yardım edebilirler.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
Geçen on yılda öğrendiklerimin çoğunun
11:16
has not been about technology at all.
210
664616
2238
teknoloji ile hiç alakası yoktu.
11:18
It's been about human psychology
211
666878
2503
Çoğu, insan psikolojisi,
empati ve diğerlerine
empati ve diğerlerine
11:21
and empathy and how we relate to others.
212
669405
2603
nasıl bağlıyız ile ilgiliydi.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Çünkü bir çocuk Roomba'ya
karşı nazik olduğunda,
karşı nazik olduğunda,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
bir asker harp meydanındaki bir
robotun hayatını kurtarmaya çalıştığında
robotun hayatını kurtarmaya çalıştığında
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
veya bir grup insan bir yavru robot
dinazora zarar vermeyi reddettiğinde
dinazora zarar vermeyi reddettiğinde
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
robotların yalnızca motor, eşya
veya algoritma olmadığını görürüz.
veya algoritma olmadığını görürüz.
11:42
They're reflections of our own humanity.
217
690501
1905
Onlar insanlığımızın yansımalarıdır.
11:45
Thank you.
218
693523
1151
Teşekkür ederim.
11:46
(Applause)
219
694698
3397
(Alkış)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com