TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Κέιτ Ντάρλινγκ: Για ποιο λόγο νιώθουμε συναισθηματικό δέσιμο με τα ρομπότ
Filmed:
Readability: 4.4
2,403,010 views
Απέχουμε πολύ από το να δημιουργήσουμε ρομπότ με συναισθήματα, αλλά εμείς ήδη έχουμε αισθήματα προς αυτά και αυτή η ενστικτώδης αντίδραση έχει επιπτώσεις, λέει η Κέιτ Ντάρλινγκ, ειδική στην ηθική δεοντολογία στη ρομποτική. Γνωρίστε περισσότερα για τη γενετική μας προδιάθεση να αποδίδουμε προθέσεις και ύπαρξη σε μηχανές και πώς αυτό μπορεί να μας βοηθήσει να γνωρίσουμε καλύτερα ποιοι είμαστε.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
Μια μέρα πριν περίπου 10 χρόνια,
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
ζήτησα από μια φίλη να κρατήσει
ανάποδα ένα ρομπότ μωρό δεινόσαυρο.
ανάποδα ένα ρομπότ μωρό δεινόσαυρο.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Ήταν ένα παιχνίδι, ο Πλίο,
που είχα παραγγείλει
που είχα παραγγείλει
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
και ήμουν ενθουσιασμένη
γιατί λατρεύω τα ρομπότ.
γιατί λατρεύω τα ρομπότ.
Το συγκεκριμένο είχε
ωραία τεχνικά χαρακτηριστικά.
ωραία τεχνικά χαρακτηριστικά.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
00:32
It had motors and touch sensors
5
20087
2119
Είχε μοτέρ, αισθητήρες αφής
00:34
and it had an infrared camera.
6
22230
2244
και κάμερα υπερύθρων.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Είχε και αισθητήρα κλίσης,
00:39
so it knew what direction it was facing.
8
27285
2318
οπότε γνώριζε σε ποια κατεύθυνση κοιτούσε.
00:42
And when you held it upside down,
9
30095
2134
Όταν το κρατούσες με το κεφάλι κάτω,
00:44
it would start to cry.
10
32253
1572
έβαζε τα κλάματα.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Το έβρισκα εκπληκτικό
και ήθελα να το δει η φίλη μου.
και ήθελα να το δει η φίλη μου.
Της είπα «Κράτα το από την ουρά
να δεις τι κάνει».
να δεις τι κάνει».
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
Κοιτούσαμε τα καμώματά του.
00:58
struggle and cry out.
14
46917
2199
Να χτυπιέται και να φωνάζει.
01:02
And after a few seconds,
15
50767
2047
Έπειτα από λίγα λεπτά
01:04
it starts to bother me a little,
16
52838
1972
το θέαμα αρχίζει να με ενοχλεί κάπως
01:07
and I said, "OK, that's enough now.
17
55744
3424
και λέω, εντάξει «Φτάνει για τώρα
01:11
Let's put him back down."
18
59930
2305
Ας τον αφήσουμε κάτω».
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
Και τον χάιδεψα
για να σταματήσει το κλάμα.
για να σταματήσει το κλάμα.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
Μου ήταν μια αλλόκοτη εμπειρία.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Πρώτα απ' όλα, δεν είχα τότε
και το πιο έντονο μητρικό ένστικτο.
και το πιο έντονο μητρικό ένστικτο.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Αργότερα, όμως,
πριν εννιά μήνες, έγινα μητέρα
πριν εννιά μήνες, έγινα μητέρα
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
και έμαθα πως και τα μωρά κάνουν έτσι
όταν τα κρατάς ανάποδα.
όταν τα κρατάς ανάποδα.
01:32
(Laughter)
24
80889
1563
(Γέλια)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Επιπλέον, η αντίδρασή μου είχε ενδιαφέρον
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
επειδή γνώριζα ακριβώς
πώς λειτουργούσε αυτό το μηχάνημα,
πώς λειτουργούσε αυτό το μηχάνημα,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
και παρ' όλα αυτά ένιωσα την ανάγκη
να του δείξω καλοσύνη.
να του δείξω καλοσύνη.
01:46
And that observation sparked a curiosity
28
94450
2707
Αυτή η συνειδητοποίηση
πυροδότησε μια περιέργεια
πυροδότησε μια περιέργεια
01:49
that I've spent the past decade pursuing.
29
97181
2832
που κρατάει δέκα πια χρόνια
01:52
Why did I comfort this robot?
30
100911
1793
Γιατί παρηγόρησα το ρομπότ;
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
Ανακάλυψα ότι η στάση μου
απέναντι σε αυτό το μηχάνημα
απέναντι σε αυτό το μηχάνημα
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
ήταν κάτι σπουδαιότερο
από μια αμήχανη στιγμή στο σαλόνι μου.
από μια αμήχανη στιγμή στο σαλόνι μου.
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
Σε έναν κόσμο όπου βάζουμε συνεχώς
τα ρομπότ στη ζωή μας
τα ρομπότ στη ζωή μας
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
στιγμές σαν εκείνη
ίσως να έχουν επιπτώσεις,
ίσως να έχουν επιπτώσεις,
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
γιατί ανακάλυψα ότι
δεν συνέβαινε μόνο με εμένα.
δεν συνέβαινε μόνο με εμένα.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
Το 2007 η Ουάσιγκτον Ποστ
έγραψε ότι ο αμερικανικός στρατός
έγραψε ότι ο αμερικανικός στρατός
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
έκανε δοκιμές με ένα ρομπότ
που εξουδετέρωνε νάρκες εδάφους.
που εξουδετέρωνε νάρκες εδάφους.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Είχε σχήμα εντόμου με μακριά πόδια,
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
βάδιζε στο ναρκοπέδιο,
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
και όταν πατούσε νάρκη,
έχανε ένα από τα πόδια του
έχανε ένα από τα πόδια του
και συνέχιζε με τα υπόλοιπα
για να ανατινάξει κι άλλες.
για να ανατινάξει κι άλλες.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
Ο επικεφαλής συνταγματάρχης της άσκησης
02:43
ends up calling it off,
43
151061
2118
την ακύρωσε τελικά,
02:45
because, he says, it's too inhumane
44
153203
2435
γιατί, όπως είπε, ήταν απάνθρωπο
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
να βλέπεις το διαλυμένο ρομπότ
να σέρνεται στο ναρκοπέδιο.
να σέρνεται στο ναρκοπέδιο.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
Τι προκαλεί σε έναν σκληραγωγημένο
αξιωματικό του στρατού
αξιωματικό του στρατού
02:58
and someone like myself
47
166899
2043
και κάποια σαν κι εμένα
03:00
to have this response to robots?
48
168966
1857
τέτοια αντίδραση απέναντι σ' ένα ρομπότ;
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Η επιστημονική φαντασία
και η ποπ κουλτούρα μας προετοιμάζουν
και η ποπ κουλτούρα μας προετοιμάζουν
03:06
to really want to personify these things,
50
174871
2579
ώστε να προσωποποιούμε αυτά τα πράγματα.
03:09
but it goes a little bit deeper than that.
51
177474
2789
Αλλά η αιτία είναι βαθύτερη.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Είμαστε εκ γενετής προγραμματισμένοι
να αποδίδουμε προθέσεις και ζωή
να αποδίδουμε προθέσεις και ζωή
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
σε ό,τι κινείται στον χώρο μας
και μοιάζει αυτόνομο.
και μοιάζει αυτόνομο.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Γι' αυτό φερόμαστε στα ρομπότ
σαν να είναι ζωντανά.
σαν να είναι ζωντανά.
03:26
These bomb-disposal units get names.
55
194703
2683
Δίνουν ονόματα στα μηχανήματα
εξουδετέρωσης βομβών.
εξουδετέρωσης βομβών.
03:29
They get medals of honor.
56
197410
1682
Τους δίνουν τιμητικά παράσημα.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
Τους κάνουν κηδείες
με τιμητικές ρίψεις πυρών.
με τιμητικές ρίψεις πυρών.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Έρευνες δείχνουν ότι κάνουμε τέτοια
ακόμη και για απλά ρομπότ του σπιτιού,
ακόμη και για απλά ρομπότ του σπιτιού,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
όπως τη σκούπα ρομπότ Roomba.
03:40
(Laughter)
60
208396
1291
(Γέλια)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Είναι ένας δίσκος που περιφέρεται
και καθαρίζει το πάτωμα.
και καθαρίζει το πάτωμα.
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
Αλλά το γεγονός ότι έχει αυτόνομη κίνηση
03:47
will cause people to name the Roomba
63
215154
2167
κάνει τους ανθρώπους να της δίνουν ονόματα
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
και να τη λυπούνται
όταν σφηνώνει στον καναπέ.
όταν σφηνώνει στον καναπέ.
03:52
(Laughter)
65
220551
1865
(Γέλια)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
Μπορούμε να φτιάξουμε ρομπότ
με στόχο τέτοιες αντιδράσεις
με στόχο τέτοιες αντιδράσεις
03:57
using eyes and faces or movements
67
225804
3461
δίνοντάς τους μάτια, πρόσωπα, κινήσεις
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
που αυτόματα, υποσυνείδητα σχετίζουμε
με διανοητικές καταστάσεις.
με διανοητικές καταστάσεις.
04:04
with states of mind.
69
232572
2020
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
Υπάρχει τομέας ερευνών που καλείται
αλληλεπίδραση ατόμων με ρομπότ
αλληλεπίδραση ατόμων με ρομπότ
04:09
that really shows how well this works.
71
237933
1826
και δείχνει πόσο καλά λειτουργεί αυτό.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
Για παράδειγμα, ερευνητές
στο Στάνφορντ ανακάλυψαν
στο Στάνφορντ ανακάλυψαν
04:14
that it makes people really uncomfortable
73
242933
2001
ότι οι άνθρωποι νιώθουν άβολα
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
αν πρέπει να αγγίξουν
τα ρομπότ στα απόκρυφά τους.
τα ρομπότ στα απόκρυφά τους.
04:19
(Laughter)
75
247454
2120
(Γέλια)
04:21
So from this, but from many other studies,
76
249598
2023
Από αυτή και άλλες μελέτες
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
γνωρίζουμε ότι οι άνθρωποι
αντιδρούν στα σήματα
αντιδρούν στα σήματα
04:27
by these lifelike machines,
78
255892
2022
αυτών των «ζωντανών» μηχανών
04:29
even if they know that they're not real.
79
257938
2017
παρότι ξέρουν πως δεν είναι ζωντανές.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Στον κόσμο μας, μελλοντικά,
θα υπάρχουν ρομπότ παντού.
θα υπάρχουν ρομπότ παντού.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Η ρομποτική βγαίνει από τα εργοστάσια
04:40
It's entering workplaces, households.
82
268823
3013
και μπαίνει σε χώρους εργασίας, σε σπίτια.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
Καθώς αυτές οι μηχανές που νιώθουν,
αποφασίζουν αυτόνομα και μαθαίνουν
αποφασίζουν αυτόνομα και μαθαίνουν
04:50
enter into these shared spaces,
84
278093
2552
μπαίνουν στους ίδιους χώρους με εμάς
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
ίσως η καλύτερη αναλογία γι' αυτό
04:55
is our relationship with animals.
86
283189
1935
είναι η σχέση μας με τα ζώα.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Πριν χιλιάδες χρόνια αρχίσαμε
να εξημερώνουμε ζώα.
να εξημερώνουμε ζώα.
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
Τα μάθαμε να δουλεύουν, να πολεμούν
και να μας κρατούν συντροφιά.
και να μας κρατούν συντροφιά.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
Και στην πορεία είδαμε κάποια
ζώα ως εργαλεία ή προϊόντα
ζώα ως εργαλεία ή προϊόντα
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
και σε άλλα φερθήκαμε με καλοσύνη
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
και τους δώσαμε μια θέση
δίπλα μας ως συντρόφους.
δίπλα μας ως συντρόφους.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
Νομίζω πως μπορεί να γίνει
το ίδιο και με τα ρομπότ.
το ίδιο και με τα ρομπότ.
05:21
And sure, animals are alive.
93
309484
3096
Βέβαια, τα ζώα είναι ζωντανά,
05:24
Robots are not.
94
312604
1150
ενώ τα ρομπότ όχι.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
Και γνωρίζω, αφού εργάζομαι
στο χώρο της ρομποτικής,
στο χώρο της ρομποτικής,
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
ότι δεν θα δούμε σύντομα
ρομπότ με αισθήματα.
ρομπότ με αισθήματα.
05:35
But we feel for them,
97
323072
1460
Μα, εμείς νοιαζόμαστε γι' αυτά
05:37
and that matters,
98
325835
1207
κι αυτό μετράει.
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
Αν θέλουμε να βάλουμε τα ρομπότ
στους κοινούς μας χώρους,
στους κοινούς μας χώρους,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
πρέπει να γνωρίζουμε ότι θα έχουν
διαφορετική μεταχείριση
διαφορετική μεταχείριση
05:47
and that in some cases,
101
335369
1844
και ότι σε κάποιες περιπτώσεις,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
όπως κάποιου στρατιώτη
που δένεται συναισθηματικά
που δένεται συναισθηματικά
05:52
to the robot that they work with,
103
340433
2047
με το ρομπότ στη δουλειά του,
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
μπορεί αυτό να αποδειχθεί
ανεπαρκές έως επικίνδυνο.
ανεπαρκές έως επικίνδυνο.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Όμως, αλλού μπορεί να είναι ωφέλιμο
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
να ενισχυθεί ο συναισθηματικός
δεσμός με τα ρομπότ.
δεσμός με τα ρομπότ.
06:04
We're already seeing some great use cases,
107
352184
2134
Βλέπουμε ήδη τέτοιες περιπτώσεις
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
όπου ρομπότ δουλεύουν με αυτιστικά παιδιά
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
και τα κάνουν να συμμετέχουν
με πρωτόγνωρους τρόπους.
με πρωτόγνωρους τρόπους.
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
Ή ρομπότ να δουλεύουν με δασκάλους
για να εντάξουν παιδιά στο σχολείο.
για να εντάξουν παιδιά στο σχολείο.
06:17
And it's not just for kids.
111
365433
1381
Δεν είναι μόνο για τα παιδιά.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Μελέτες δείχνουν ότι μπορούν
να βοηθήσουν γιατρούς και ασθενείς
να βοηθήσουν γιατρούς και ασθενείς
06:22
in health care settings.
113
370997
1427
στην ιατρική φροντίδα.
06:25
This is the PARO baby seal robot.
114
373535
1810
Αυτό είναι το ρομπότ μωρό-φώκια PARO,
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Χρησιμοποιείται σε οίκους ευγηρίας
και σε ασθενείς με άνοια.
και σε ασθενείς με άνοια.
06:30
It's been around for a while.
116
378678
1570
Είναι καιρό στην αγορά.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Θυμάμαι πριν χρόνια σε ένα πάρτι
06:35
and telling someone about this robot,
118
383621
2571
είπα σε κάποια γι' αυτό το ρομπότ
06:38
and her response was,
119
386216
2126
και η αντίδρασή της ήταν
06:40
"Oh my gosh.
120
388366
1262
«Θεέ μου,
06:42
That's horrible.
121
390508
1188
Φρικτό.
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Είναι απίστευτο ότι τους δίνουμε
ρομπότ αντί για ανθρώπινη φροντίδα».
ρομπότ αντί για ανθρώπινη φροντίδα».
06:50
And this is a really common response,
123
398540
1875
Συνηθισμένη αντίδραση.
06:52
and I think it's absolutely correct,
124
400439
2499
Και εντελώς δικαιολογημένη,
06:54
because that would be terrible.
125
402962
2040
γιατί θα ήταν φρικτό.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Μα, δεν είναι αυτό
που το ρομπότ αντικαθιστά.
που το ρομπότ αντικαθιστά.
07:00
What this robot replaces is animal therapy
127
408858
3120
Αντικαθιστά τη θεραπεία με ζώα
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
σε περιπτώσεις που δεν μπορούμε
να έχουμε αληθινά ζώα,
να έχουμε αληθινά ζώα,
07:07
but we can use robots,
129
415224
1168
αλλά να έχουμε ρομπότ,
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
γιατί τα αντιμετωπίζουμε σταθερά
σαν ζώα παρά σαν συσκευές.
σαν ζώα παρά σαν συσκευές.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Παραδεχομένοι τον συναισθηματικό
μας δεσμό με αυτά
μας δεσμό με αυτά
θα μπορέσουμε να προβλέψουμε τις δυσκολίες
07:17
can also help us anticipate challenges
132
425906
1969
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
όπως αυτά θα εισέρχονται
σε πιο ιδιωτικούς χώρους της ζωής μας.
σε πιο ιδιωτικούς χώρους της ζωής μας.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Για παράδειγμα, θα το δεχτούμε
αν το αρκουδάκι του παιδιού μας
αν το αρκουδάκι του παιδιού μας
07:27
records private conversations?
135
435539
2237
καταγράφει προσωπικές συνομιλίες;
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Ή αν το ρομπότ για σεξ έχει
υποχρεωτικές ενσωματωμένες αγορές;
υποχρεωτικές ενσωματωμένες αγορές;
07:33
(Laughter)
137
441887
1396
(Γέλια)
07:35
Because robots plus capitalism
138
443307
2501
Επειδή ρομπότ συνδυασμένα με καπιταλισμό
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
εγείρουν αμφιβολίες για την προστασία
του καταναλωτή και την ιδιωτικότητα.
του καταναλωτή και την ιδιωτικότητα.
07:42
And those aren't the only reasons
140
450549
1612
Δεν είναι αυτοί μόνο οι λόγοι
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
που η στάση μας προς αυτές
τις μηχανές έχει σημασία.
τις μηχανές έχει σημασία.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Λίγα χρόνια μετά από εκείνη
την πρώτη εμπειρία
την πρώτη εμπειρία
07:52
with this baby dinosaur robot,
143
460041
2311
με το ρομπότ μωρό δεινοσαύρου
οργάνωσα ένα σεμινάριο
με τον φίλο μου Χάνες Γκάσερτ.
με τον φίλο μου Χάνες Γκάσερτ.
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Πήραμε πέντε τέτοια ρομπότ
μωρά δεινοσαύρων
μωρά δεινοσαύρων
07:59
and we gave them to five teams of people.
146
467822
2453
και τα δώσαμε σε πέντε ομάδες ανθρώπων.
08:02
And we had them name them
147
470299
1697
Τους είπαμε να τους δώσουν ονόματα
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
και να παίξουν μαζί τους
για περίπου μία ώρα.
για περίπου μία ώρα.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
Μετά τους δώσαμε ένα σφυρί
και ένα τσεκουράκι,
και ένα τσεκουράκι,
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
για να βασανίσουν
και να σκοτώσουν τα ρομπότ.
και να σκοτώσουν τα ρομπότ.
08:13
(Laughter)
151
481239
3007
(Γέλια)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
Αποδείχθηκε πιο δραματικό
απ' ό,τι περιμέναμε,
απ' ό,τι περιμέναμε,
08:19
than we expected it to be,
153
487175
1278
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
γιατί κανείς από τους συμμετέχοντες
ούτε καν χτύπησε
ούτε καν χτύπησε
08:23
these baby dinosaur robots,
155
491573
1307
τα ρομπότ μωρά δεινοσαύρων.
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
Έπρεπε να αυτοσχεδιάσουμε
και κάποια στιγμή είπαμε
και κάποια στιγμή είπαμε
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
«Μπορείτε να γλιτώσετε το ρομπότ σας
αν καταστρέψετε μιας άλλης ομάδας».
αν καταστρέψετε μιας άλλης ομάδας».
08:34
(Laughter)
158
502539
1855
(Γέλια)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
Ούτε αυτό βοήθησε.
Δεν ήθελαν να το κάνουν.
Δεν ήθελαν να το κάνουν.
08:39
So finally, we said,
160
507058
1151
Τελικά τους είπαμε
08:40
"We're going to destroy all of the robots
161
508233
2032
«Θα καταστρέψουμε όλα τα ρομπότ
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
αν κάποιος δεν σκοτώσει ένα από αυτά».
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
Σηκώθηκε ένας και πήρε το τσεκουράκι
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
και όλοι μόρφασαν με αποτροπιασμό
καθώς το κατέβασε στον λαιμό του ρομπότ
καθώς το κατέβασε στον λαιμό του ρομπότ
08:51
on the robot's neck,
165
519919
1780
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
και υπήρξε μια μισοαστεία
μισοσοβαρή στιγμή σιωπής στον χώρο
μισοσοβαρή στιγμή σιωπής στον χώρο
09:00
for this fallen robot.
167
528085
1698
προς τιμήν του θανόντος ρομπότ.
09:01
(Laughter)
168
529807
1406
(Γέλια)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Ήταν μια πραγματικά ενδιαφέρουσα εμπειρία.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Δεν ήταν, βέβαια,
μια αυστηρά ελεγχόμενη μελέτη,
μια αυστηρά ελεγχόμενη μελέτη,
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
αλλά οδήγησε σε μια κατοπινή
έρευνα που έκανα στο ΜΙΤ
έρευνα που έκανα στο ΜΙΤ
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
με τον Παλάς Νάντι και την Σίνθια Μπραζίλ
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
όπου καλέσαμε άτομα στο εργαστήριο
για να κομματιάσουν HEXBUG
για να κομματιάσουν HEXBUG
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
που κινούνται με ρεαλιστικό
τρόπο σαν έντομα.
τρόπο σαν έντομα.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Αντί, λοιπόν, για κάτι χαριτωμένο
που ελκύει τους ανθρώπους
που ελκύει τους ανθρώπους
09:24
we chose something more basic,
176
552484
2093
διαλέξαμε κάτι πιο βασικό
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
και διαπιστώσαμε ότι τα άτομα
με τη μεγαλύτερη συμπόνια
με τη μεγαλύτερη συμπόνια
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
δίσταζαν περισσότερο
να χτυπήσουν τα HEXBUG.
να χτυπήσουν τα HEXBUG.
09:33
Now this is just a little study,
179
561575
1564
Ήταν μια μικρή μελέτη,
09:35
but it's part of a larger body of research
180
563163
2389
αλλά μέρος ενός μεγαλύτερου τομέα έρευνας
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
που αρχίζει να δείχνει
ότι ίσως υπάρχει σχέση
ότι ίσως υπάρχει σχέση
09:40
between people's tendencies for empathy
182
568544
2373
μεταξύ της τάσης των ανθρώπων για συμπόνια
09:42
and their behavior around robots.
183
570941
1976
και της στάσης τους προς τα ρομπότ.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Η ερώτησή μου για την επερχόμενη εποχή
της αλληλεπίδρασης με τα ρομπότ δεν είναι
της αλληλεπίδρασης με τα ρομπότ δεν είναι
09:49
is not: "Do we empathize with robots?"
185
577372
3055
«Νιώθουμε συμπόνια για τα ρομπότ;»
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
Αλλά «Μπορούν τα ρομπότ
να επηρεάσουν την συμπόνια μας;»
να επηρεάσουν την συμπόνια μας;»
09:57
Is there reason to, for example,
187
585489
2287
Υπάρχει λόγος, για παράδειγμα,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
να μην κλωτσήσει το παιδί σας
ένα ρομπότ σκύλο,
ένα ρομπότ σκύλο,
10:03
not just out of respect for property,
189
591228
2914
όχι από σεβασμό στα αντικείμενα
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
αλλά γιατί έτσι θα είναι πιθανότερο
να κλωτσήσει έναν αληθινό;
να κλωτσήσει έναν αληθινό;
10:10
And again, it's not just kids.
191
598507
1883
Επαναλαμβάνω ότι δεν αφορά μόνο τα παιδιά.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Αφορά στο ερώτημα για τα βίαια
βιντεοπαιχνίδια από μια νέα σκοπιά
βιντεοπαιχνίδια από μια νέα σκοπιά
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
γιατί υπάρχει αυθόρμητη υλική επαφή
στην οποία αντιδρούμε πιο έντονα
στην οποία αντιδρούμε πιο έντονα
10:22
than to images on a screen.
194
610428
1547
απ' ότι σε εικόνες στην οθόνη.
10:25
When we behave violently towards robots,
195
613674
2578
Όταν φερόμαστε βίαια προς τα ρομπότ,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
ιδιαίτερα προς όσα έχουν σχεδιαστεί
ως αντίγραφα όντων
ως αντίγραφα όντων
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
είναι αυτό υγιής διέξοδος
βίαιης συμπεριφοράς
βίαιης συμπεριφοράς
10:35
or is that training our cruelty muscles?
198
623336
2544
ή εξάσκηση στη βία;
10:39
We don't know ...
199
627511
1150
Δεν γνωρίζουμε...
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Όμως η απάντηση μπορεί να επηρεάσει
την συμπεριφορά των ανθρώπων,
την συμπεριφορά των ανθρώπων,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
μπορεί να επηρεάσει
τις κοινωνικές συμβάσεις,
τις κοινωνικές συμβάσεις,
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
μπορεί να εμπνεύσει νέους κανόνες
για το τι μπορούμε ή όχι να κάνουμε
για το τι μπορούμε ή όχι να κάνουμε
10:53
with certain robots,
203
641256
1151
με συγκεκριμένα ρομπότ
10:54
similar to our animal cruelty laws.
204
642431
1848
σαν αυτούς περί κακομεταχείρισης ζώων.
10:57
Because even if robots can't feel,
205
645228
2864
Ακόμη κι αν τα ρομπότ δεν αισθάνονται,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
η συμπεριφορά μας προς αυτά
ίσως είναι σημαντική για εμάς.
ίσως είναι σημαντική για εμάς.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
Και άσχετα από το αν τελικά
θα αλλάξουμε τους κανόνες,
θα αλλάξουμε τους κανόνες,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
τα ρομπότ ίσως μας οδηγήσουν
σε μια νέα γνώση του ποιοι είμαστε.
σε μια νέα γνώση του ποιοι είμαστε.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
Τα πιο πολλά από όσα έμαθα
εδώ και δέκα χρόνια
εδώ και δέκα χρόνια
11:16
has not been about technology at all.
210
664616
2238
δεν έχουν καμία εντελώς
σχέση με τεχνολογία.
σχέση με τεχνολογία.
11:18
It's been about human psychology
211
666878
2503
Αλλά με την ανθρώπινη ψυχοσύνθεση,
11:21
and empathy and how we relate to others.
212
669405
2603
την συμπόνια και τη δημιουργία σχέσεων.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Όταν ένα παιδί συμπονά
μια ηλεκτρική σκούπα,
μια ηλεκτρική σκούπα,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
όταν ένας στρατιώτης σώζει
ένα ρομπότ στο πεδίο της μάχης
ένα ρομπότ στο πεδίο της μάχης
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
ή όταν κάποιοι αρνούνται να βλάψουν
ένα ρομπότ μωρό δεινοσαύρου,
ένα ρομπότ μωρό δεινοσαύρου,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
τότε αυτά τα ρομπότ δεν είναι απλώς
μηχανές, γρανάζια κι αλγόριθμοι.
μηχανές, γρανάζια κι αλγόριθμοι.
11:42
They're reflections of our own humanity.
217
690501
1905
Είναι αντανακλάσεις της ανθρωπιάς μας.
11:45
Thank you.
218
693523
1151
Σας ευχαριστώ.
11:46
(Applause)
219
694698
3397
(Χειροκρότημα)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com