TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Kate Darling: Miért vannak érzelmeink a robotok iránt?
Filmed:
Readability: 4.4
2,403,010 views
Messze vagyunk még attól, hogy olyan robotokat fejlesszünk ki, amelyek érzéseket élnek át, de nekünk már vannak érzelmeink irántuk, és ennek következményei lehetnek – mondja Kate Darling, a robotetika szakértője. Előadásából megtudhatjuk, hogy természetes tulajdonságunk, hogy szándékot és lelket tulajdonítunk egyes gépeknek – és azt is, hogyan segíthet ez minket abban, hogy jobban megértsük saját magunkat.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Valamikor 10 évvel ezelőtt
megkértem egy barátomat,
hogy tartson fejjel lefelé egy robotdinót.
hogy tartson fejjel lefelé egy robotdinót.
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
A Pleo nevű játékról van szó,
amit megrendeltem,
amit megrendeltem,
és nagyon izgatottan vártam,
mert mindig szerettem a robotokat,
mert mindig szerettem a robotokat,
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
és ez a játék elképesztő
technikai jellemzőket vonultat fel.
technikai jellemzőket vonultat fel.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
00:32
It had motors and touch sensors
5
20087
2119
Motorjai, érzékelői
00:34
and it had an infrared camera.
6
22230
2244
és infrakamerája volt.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Többek között dőlésérzékelője is volt,
00:39
so it knew what direction it was facing.
8
27285
2318
így tudta, merre néz.
00:42
And when you held it upside down,
9
30095
2134
Amikor fejjel lefelé tartották,
00:44
it would start to cry.
10
32253
1572
elkezdett sírni.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Odáig voltam tőle,
és megmutattam egyik barátomnak.
és megmutattam egyik barátomnak.
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
Mondtam neki: „Tartsd a farkánál fogva,
és nézd, mit csinál!”
és nézd, mit csinál!”
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Néztük a kis robot alakítását,
00:58
struggle and cry out.
14
46917
2199
kapálózott, jajgatott.
01:02
And after a few seconds,
15
50767
2047
Néhány másodperc után
01:04
it starts to bother me a little,
16
52838
1972
már zavart egy kicsit,
01:07
and I said, "OK, that's enough now.
17
55744
3424
és azt mondtam:
„Jól van, most már elég lesz.
„Jól van, most már elég lesz.
01:11
Let's put him back down."
18
59930
2305
Tegyük le.”
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
És megsimogattam, hogy ne sírjon.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Furcsa élmény volt ez számomra.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Egyrészt mert nem voltam
az az anyatípus akkoriban.
az az anyatípus akkoriban.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Bár azóta anya lettem
kilenc hónappal ezelőtt,
kilenc hónappal ezelőtt,
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
és tudom, hogy a babák is vergődnek,
ha fejjel lefelé tartjuk őket.
ha fejjel lefelé tartjuk őket.
(Nevetés)
01:32
(Laughter)
24
80889
1563
Másrészt azért volt érdekes ez a reakcióm,
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
mert pontosan tudtam,
hogyan működik a robot,
hogyan működik a robot,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
mégis késztetést éreztem,
hogy kedves legyek hozzá.
hogy kedves legyek hozzá.
01:46
And that observation sparked a curiosity
28
94450
2707
Ez a tapasztalat felkeltette
bennem a kíváncsiságot,
bennem a kíváncsiságot,
01:49
that I've spent the past decade pursuing.
29
97181
2832
és ez az érdeklődés motivált
az elmúlt évtizedben.
az elmúlt évtizedben.
01:52
Why did I comfort this robot?
30
100911
1793
Miért vigasztaltam meg ezt a robotot?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Az egyik, amit felfedeztem,
hogy többről van szó,
hogy többről van szó,
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
minthogy e gép iránti empátiám miatt
volt egy kínos pillanatom a nappaliban.
volt egy kínos pillanatom a nappaliban.
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
Egy olyan világban, ahol a robotok
egyre jobban beépülnek az életünkbe,
egyre jobban beépülnek az életünkbe,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
egy ilyen ösztönös reakciónak
következményei lehetnek,
következményei lehetnek,
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
ugyanis az első, amit felfedeztem,
hogy nem csak velem történt ilyen.
hogy nem csak velem történt ilyen.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
2007-ben a Washington Post írt arról,
hogy az Egyesült Államok hadserege
hogy az Egyesült Államok hadserege
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
olyan robotot tesztel,
amely aknamezőket hatástalanít.
amely aknamezőket hatástalanít.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
A módszer az volt, hogy a botsáskához
hasonlóan nézett ki,
hasonlóan nézett ki,
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
és lábait emelgetve járkált a mezőn.
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
Amikor csak aknára lépett,
az egyik lába felrobbant,
az egyik lába felrobbant,
majd folytatta útját a többi lábával,
hogy még több aknát robbantson fel.
hogy még több aknát robbantson fel.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
A tesztgyakorlatért felelős ezredes
02:43
ends up calling it off,
43
151061
2118
végül leállította az akciót,
02:45
because, he says, it's too inhumane
44
153203
2435
mondván, lelki szenvedés nézni,
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
ahogy a sérült robot
vonszolja magát az aknamezőn.
vonszolja magát az aknamezőn.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Mi késztet egy edzett katonatisztet,
02:58
and someone like myself
47
166899
2043
vagy engem és bárkit,
03:00
to have this response to robots?
48
168966
1857
hogy így reagáljon robotokra?
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Bizonyára a sci-fi
és a popkultúra hatása is,
és a popkultúra hatása is,
03:06
to really want to personify these things,
50
174871
2579
hogy megszemélyesítünk dolgokat,
03:09
but it goes a little bit deeper than that.
51
177474
2789
de az okok kicsit mélyebben gyökereznek.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Úgy tűnik, természetes tulajdonságunk,
hogy szándékot és lelket tulajdonítunk
hogy szándékot és lelket tulajdonítunk
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
mindennek, ami fizikai környezetünkben
autonómnak tűnő mozgást végez.
autonómnak tűnő mozgást végez.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Így minden robotot úgy kezelünk,
mintha élőlény lenne.
mintha élőlény lenne.
03:26
These bomb-disposal units get names.
55
194703
2683
A bombahatástalanító egységek
nevet kapnak.
nevet kapnak.
03:29
They get medals of honor.
56
197410
1682
Érdemérmeket kapnak.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Temetésük volt díszlövéssel.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Kutatások szerint ugyanígy vagyunk
egyszerű háztartási robotokkal is,
egyszerű háztartási robotokkal is,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
mint például a Roomba porszívóval.
03:40
(Laughter)
60
208396
1291
(Nevetés)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Csak egy korong, ami körbejár,
hogy feltakarítsa a padlót,
hogy feltakarítsa a padlót,
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
mégis a puszta tény, hogy magától mozog,
03:47
will cause people to name the Roomba
63
215154
2167
arra késztet embereket, hogy elnevezzék,
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
és sajnálják, amikor beszorul
a kanapé alá.
a kanapé alá.
03:52
(Laughter)
65
220551
1865
(Nevetés)
Tervezhetünk robotokat úgy,
hogy kiváltsák ezt a reakciót
hogy kiváltsák ezt a reakciót
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
03:57
using eyes and faces or movements
67
225804
3461
olyan szemek, arcok,
mozgások segítségével,
mozgások segítségével,
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
amelyeket tudat alatt
automatikusan összekapcsolunk
automatikusan összekapcsolunk
04:04
with states of mind.
69
232572
2020
valamilyen lelkiállapottal.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
Külön kutatási terület jött létre:
az ember-robot kapcsolat,
az ember-robot kapcsolat,
ami mutatja, hogy nem marad el a hatás.
04:09
that really shows how well this works.
71
237933
1826
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
A Stanford Egyetem kutatói
például azt tapasztalták,
például azt tapasztalták,
04:14
that it makes people really uncomfortable
73
242933
2001
hogy az emberek zavarba jönnek,
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
ha azt kérik tőlük, hogy érintsék meg
robot intim területeit.
robot intim területeit.
04:19
(Laughter)
75
247454
2120
(Nevetés)
04:21
So from this, but from many other studies,
76
249598
2023
Ebből és más kutatásokból is tudjuk,
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
hogy az emberek reagálnak
az ilyen életszerű robotok utasításaira,
04:27
by these lifelike machines,
78
255892
2022
04:29
even if they know that they're not real.
79
257938
2017
akkor is, ha tudják,
hogy nem valódi lények.
hogy nem valódi lények.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Olyan világ felé haladunk,
ahol a robotok mindenütt jelen lesznek.
ahol a robotok mindenütt jelen lesznek.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
A robottechnológia kilép
a gyárak falai mögül,
a gyárak falai mögül,
04:40
It's entering workplaces, households.
82
268823
3013
és belép a munkahelyekre, háztartásokba.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Ahogyan ezek a döntéseket megértő és
autonóm döntéseket hozó,
autonóm döntéseket hozó,
tanulásra képes gépek
belépnek élettereinkbe,
belépnek élettereinkbe,
04:50
enter into these shared spaces,
84
278093
2552
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
úgy gondolom,
ez a jelenség nagyon hasonlít
ez a jelenség nagyon hasonlít
az állatokkal való kapcsolatunkhoz.
04:55
is our relationship with animals.
86
283189
1935
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Több ezer évvel ezelőtt
elkezdtük háziasítani az állatokat,
elkezdtük háziasítani az állatokat,
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
és munkára, harcászatra,
társas kapcsolatra tanítottuk őket.
társas kapcsolatra tanítottuk őket.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Az idők folyamán egyes állatokkal
eszközként vagy termékként bántunk,
eszközként vagy termékként bántunk,
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
más állatokkal barátságosak voltunk.
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
Helyet adtunk nekik a társadalomban,
társaink lettek.
társaink lettek.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Lehetségesnek tartom, hogy a robotokat
hasonló módon elkezdjük integrálni.
hasonló módon elkezdjük integrálni.
05:21
And sure, animals are alive.
93
309484
3096
Persze tény: az állatok élnek,
05:24
Robots are not.
94
312604
1150
a robotok pedig nem.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
És mondhatom, miután dolgoztam
robotszakértőkkel,
robotszakértőkkel,
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
hogy messze vagyunk olyan robotok
fejlesztésétől, amelyek bármit is éreznek.
fejlesztésétől, amelyek bármit is éreznek.
05:35
But we feel for them,
97
323072
1460
De mi érzünk irántuk,
05:37
and that matters,
98
325835
1207
és ez lényeges,
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
mert ha integrálni akarjuk a robotokat
különböző élettereinkbe,
különböző élettereinkbe,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
meg kell értenünk, hogy az emberek nem úgy
fogják kezelni őket, mint más eszközöket,
fogják kezelni őket, mint más eszközöket,
05:47
and that in some cases,
101
335369
1844
és hogy bizonyos esetekben,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
például amikor egy katona
elkezd érzelmileg kötődni a robothoz,
elkezd érzelmileg kötődni a robothoz,
05:52
to the robot that they work with,
103
340433
2047
akivel dolgozik,
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
ez a kudarctól a veszélyig
sokféle bajt okozhat.
sokféle bajt okozhat.
Ugyanakkor más esetekben
éppenséggel hasznos lehet,
éppenséggel hasznos lehet,
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
ha kialakul ez az érzelmi
kapcsolat robotok iránt.
kapcsolat robotok iránt.
06:04
We're already seeing some great use cases,
107
352184
2134
Nagyszerű alkalmazási példákat láthatunk:
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
robotok részt vesznek
autista gyerekek terápiájában
autista gyerekek terápiájában
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
eddig nem látott módszerekkel,
vagy tanárok robotok segítségével jobban
be tudják vonni a gyerekeket a tanulásba.
be tudják vonni a gyerekeket a tanulásba.
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
06:17
And it's not just for kids.
111
365433
1381
De nemcsak gyerekekről van szó.
A kezdetei kutatások alapján a robotok
orvosoknak és betegeknek is segíthetnek
orvosoknak és betegeknek is segíthetnek
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
06:22
in health care settings.
113
370997
1427
az egészségügyi ellátásban.
06:25
This is the PARO baby seal robot.
114
373535
1810
Ez itt PARO, a bébifóka-robot.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Idősek otthonában segít demens betegeknek.
06:30
It's been around for a while.
116
378678
1570
Egy ideje már szolgálatban áll.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Emlékszem, évekkel ezelőtt egy partin
06:35
and telling someone about this robot,
118
383621
2571
említést tettem valakinek
erről a robotról,
erről a robotról,
06:38
and her response was,
119
386216
2126
és így reagált:
06:40
"Oh my gosh.
120
388366
1262
„Úristen!
06:42
That's horrible.
121
390508
1188
Ez borzalmas.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Nem hiszem el, hogy robotokat adunk
betegeknek emberi gondoskodás helyett.”
betegeknek emberi gondoskodás helyett.”
06:50
And this is a really common response,
123
398540
1875
Nagyon gyakori ez a reakció,
06:52
and I think it's absolutely correct,
124
400439
2499
és azt gondolom, teljesen helyénvaló,
06:54
because that would be terrible.
125
402962
2040
mert szörnyű lenne, ha ez lenne a helyzet.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
De ez esetben nem emberi gondoskodást
helyettesít a robot.
helyettesít a robot.
07:00
What this robot replaces is animal therapy
127
408858
3120
Állatterápiát helyettesít
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
olyan területeken, ahol nem tudunk
igazi állatokat alkalmazni,
igazi állatokat alkalmazni,
07:07
but we can use robots,
129
415224
1168
de robotokat igen,
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
mert a betegek szívesen tekintik őket
inkább állatnak, mint eszköznek.
inkább állatnak, mint eszköznek.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
A robotokkal való érzelmi
kapcsolat elfogadása
kapcsolat elfogadása
07:17
can also help us anticipate challenges
132
425906
1969
segíti a felkészülésünket arra,
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
hogy ezek az eszközök az emberek életének
egyre intimebb területeire lépnek be.
egyre intimebb területeire lépnek be.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Például rendben van-e,
ha a gyerek robotmacija
ha a gyerek robotmacija
07:27
records private conversations?
135
435539
2237
magánbeszélgetéseket vesz fel?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Rendben van-e, ha a szexrobot
alkalmazáson belüli vásárlásokra buzdít?
alkalmazáson belüli vásárlásokra buzdít?
07:33
(Laughter)
137
441887
1396
(Nevetés)
07:35
Because robots plus capitalism
138
443307
2501
Mert robotok plusz kapitalizmus
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
egyenlő a fogyasztóvédelmi
és adatvédelmi szempontokkal.
és adatvédelmi szempontokkal.
07:42
And those aren't the only reasons
140
450549
1612
De más okok is magyarázzák,
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
miért lehet jelentősége
a gépek iránti viselkedésünknek.
a gépek iránti viselkedésünknek.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Néhány évvel a kis robotdinóval
07:52
with this baby dinosaur robot,
143
460041
2311
való első tapasztalatom után
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
szerveztem egy kísérletet
Hannes Gassert barátommal.
Hannes Gassert barátommal.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Fogtunk öt ilyen robotdinót,
07:59
and we gave them to five teams of people.
146
467822
2453
és odaadtuk őket öt csoportnak.
A feladat az volt, hogy nevezzék el őket,
08:02
And we had them name them
147
470299
1697
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
játsszanak és kommunikáljanak
velük egy órán át.
velük egy órán át.
Aztán bemutattunk
egy kalapácsot és egy fejszét,
egy kalapácsot és egy fejszét,
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
és kértük, hogy kínozzák,
majd öljék meg a robotot.
majd öljék meg a robotot.
08:13
(Laughter)
151
481239
3007
(Nevetés)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Kicsit drámaibb lett a helyzet,
08:19
than we expected it to be,
153
487175
1278
mint gondoltuk,
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
mert senki nem akarta még csak megütni sem
08:23
these baby dinosaur robots,
155
491573
1307
ezeket a kis robotdinókat.
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
Úgyhogy improvizálnunk kellett egy kicsit,
és egy ponton azt mondtuk:
és egy ponton azt mondtuk:
„Oké, megmenthetitek a saját csoportotok
robotját, ha egy másikét tönkreteszitek.”
robotját, ha egy másikét tönkreteszitek.”
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
08:34
(Laughter)
158
502539
1855
(Nevetés)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Még ez sem működött.
Nem tudták megtenni.
Nem tudták megtenni.
08:39
So finally, we said,
160
507058
1151
Végül azt mondtuk:
08:40
"We're going to destroy all of the robots
161
508233
2032
„Tönkrevágjuk az összes robotot,
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
ha valaki nem fog fejszét valamelyikre.”
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Akkor egy srác felállt, fogta a fejszét,
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
és az egész terem feljajdult,
amikor a fejszével
amikor a fejszével
08:51
on the robot's neck,
165
519919
1780
lesújtott a robot nyakára.
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
Félig vicces, félig komoly
csendes megemlékezés következett
csendes megemlékezés következett
09:00
for this fallen robot.
167
528085
1698
az elesett robotért.
09:01
(Laughter)
168
529807
1406
(Nevetés)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Szóval rendkívül érdekes tapasztalat volt.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Természetesen, nem kontrollált
kísérlet volt,
kísérlet volt,
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
de elvezetett egy későbbi kutatáshoz,
amit az MIT-n végeztem
amit az MIT-n végeztem
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
Palash Nandyvel és Cynthia Breazeallel.
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
A tesztalanyoknak a laborban
össze kellett törniük a HEXBUG robotokat,
össze kellett törniük a HEXBUG robotokat,
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
amik élethűen utánozzák
a rovarok mozgását.
a rovarok mozgását.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Tehát nem valami cukiságot választottunk,
ami tetszik az embereknek,
ami tetszik az embereknek,
09:24
we chose something more basic,
176
552484
2093
hanem valami egyszerűbbet.
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
Azt tapasztaltuk,
hogy az empatikusabb emberek
hogy az empatikusabb emberek
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
jobban vonakodnak megütni a robotokat.
Ez csak egy kisebb kísérlet volt,
09:33
Now this is just a little study,
179
561575
1564
09:35
but it's part of a larger body of research
180
563163
2389
de egy kiterjedtebb kutatás része,
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
amely azt sejteti, hogy összefüggés lehet
09:40
between people's tendencies for empathy
182
568544
2373
az emberek empátiára való hajlama
09:42
and their behavior around robots.
183
570941
1976
és a robotokhoz való viszonya között.
De számomra az ember-robot kapcsolat
elkövetkező korszakának nem az a kérdése,
elkövetkező korszakának nem az a kérdése,
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
09:49
is not: "Do we empathize with robots?"
185
577372
3055
hogy empatikusak vagyunk-e
a robotok irányában,
a robotok irányában,
hanem hogy megváltoztathatják-e
a robotok az emberek empátiáját.
a robotok az emberek empátiáját.
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
09:57
Is there reason to, for example,
187
585489
2287
Van-e alapja például,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
hogy ne engedjük meg gyerekünknek,
hogy belerúgjon egy robotkutyába.
hogy belerúgjon egy robotkutyába.
10:03
not just out of respect for property,
189
591228
2914
Nemcsak azért, mert óvjuk értékeinket,
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
hanem mert lehet, hogy akkor
egy igazi kutyába is bele fog rúgni.
egy igazi kutyába is bele fog rúgni.
És itt ismét nem csak gyerekekről van szó.
10:10
And again, it's not just kids.
191
598507
1883
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Az erőszakos videojátékok problémájáról,
csak egy teljesen új szinten,
csak egy teljesen új szinten,
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
mert arra, ami fizikai valójában létezik,
erőteljesebben reagálunk,
erőteljesebben reagálunk,
10:22
than to images on a screen.
194
610428
1547
mint arra, ami képernyőn jelenik meg.
10:25
When we behave violently towards robots,
195
613674
2578
Ha erőszakosan viselkedünk robotokkal,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
különösen élethű robotokkal,
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
az vajon erőszakos indulatok
egészséges levezetése
egészséges levezetése
10:35
or is that training our cruelty muscles?
198
623336
2544
vagy pusztító izmaink fejlesztése?
10:39
We don't know ...
199
627511
1150
Nem tudjuk.
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
De e kérdésre adott válasz
hatással lehet az emberi magatartásra,
hatással lehet az emberi magatartásra,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
hatással lehet a társadalmi normákra,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
és hatással lehet annak szabályozására,
hogy mit tehetünk meg, és mit nem
hogy mit tehetünk meg, és mit nem
10:53
with certain robots,
203
641256
1151
egyes robotokkal,
10:54
similar to our animal cruelty laws.
204
642431
1848
az állatvédelmi törvényhez hasonlóan.
10:57
Because even if robots can't feel,
205
645228
2864
Mert annak ellenére,
hogy a robotok nem éreznek,
hogy a robotok nem éreznek,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
számunkra van jelentősége
a velük szembeni viselkedésünknek.
a velük szembeni viselkedésünknek.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
És függetlenül attól,
hogy végül változtatunk-e szabályainkon,
hogy végül változtatunk-e szabályainkon,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
a robotok segíthetnek,
hogy új képet kapjunk magunkról.
hogy új képet kapjunk magunkról.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
Amit az elmúlt tíz évben megtudtam,
11:16
has not been about technology at all.
210
664616
2238
nagyrészt nem a technológiáról szól.
11:18
It's been about human psychology
211
666878
2503
Az emberi lélekről és az empátiáról szól,
11:21
and empathy and how we relate to others.
212
669405
2603
valamint arról,
hogyan viszonyulunk másokhoz.
hogyan viszonyulunk másokhoz.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Mert amikor egy gyerek
kedves egy Roombához,
kedves egy Roombához,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
amikor egy katona meg akar menteni
egy robotot a harcmezőn,
egy robotot a harcmezőn,
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
amikor egy csoport nem hajlandó
kárt tenni egy robotdinóban,
kárt tenni egy robotdinóban,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
akkor ezek a robotok nemcsak motorok,
szerkezetek és algoritmusok.
szerkezetek és algoritmusok.
11:42
They're reflections of our own humanity.
217
690501
1905
Saját emberségünk fejeződik ki bennük.
11:45
Thank you.
218
693523
1151
Köszönöm.
(Taps)
11:46
(Applause)
219
694698
3397
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com