TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
Кейт Дарлинг: Почему роботы вызывают у нас эмоции?
Filmed:
Readability: 4.4
2,403,010 views
«Мы далеки от того, чтобы создать роботов, испытывающих чувства, но у нас уже есть чувства к ним, и у этого инстинкта могут быть последствия», — говорит специалист по робоэтике Кейт Дарлинг. Узнайте больше о том, как в нас заложено природой приписывать роботам намерения и видеть в них живые черты и о том, как это может помочь нам лучше понять себя.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
00:13
There was a day, about 10 years ago,
0
1047
2508
В один прекрасный день
около десяти лет назад
около десяти лет назад
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
я попросила друга подержать
робота-детёныша динозавра вверх ногами.
робота-детёныша динозавра вверх ногами.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
Игрушка, которую мне доставили,
называлась Pleo,
называлась Pleo,
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
и я была несказанно рада,
ведь я всегда любила роботов.
ведь я всегда любила роботов.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
А у этого ещё было
множество классных фишек:
множество классных фишек:
00:32
It had motors and touch sensors
5
20087
2119
моторы, датчики прикосновений,
00:34
and it had an infrared camera.
6
22230
2244
даже инфракрасная камера.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
Ещё у него был датчик уровня наклона,
00:39
so it knew what direction it was facing.
8
27285
2318
так что он знал,
в какую сторону он направлен.
в какую сторону он направлен.
00:42
And when you held it upside down,
9
30095
2134
И когда его держали вверх ногами,
00:44
it would start to cry.
10
32253
1572
он начинал плакать.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
Я думала, что это очень круто,
так что решила похвастаться другу,
так что решила похвастаться другу,
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
и я сказала ему: «Подержи
за хвост, посмотри, что он делает».
за хвост, посмотри, что он делает».
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
И вот мы наблюдаем, как этот робот
00:58
struggle and cry out.
14
46917
2199
барахтается и кричит.
01:02
And after a few seconds,
15
50767
2047
Но через несколько секунд
01:04
it starts to bother me a little,
16
52838
1972
мне стало немного неуютно,
01:07
and I said, "OK, that's enough now.
17
55744
3424
и я сказала: «Так, хватит,
01:11
Let's put him back down."
18
59930
2305
давай перевернём его обратно».
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
И я начала гладить робота,
чтобы он перестал плакать.
чтобы он перестал плакать.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
И это было для меня очень странно.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
Во-первых, у меня тогда не был
особо развит материнский инстинкт.
особо развит материнский инстинкт.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
Хотя я стала матерью девять месяцев назад
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
и успела узнать, что дети тоже извиваются,
если держать их вверх ногами.
если держать их вверх ногами.
01:32
(Laughter)
24
80889
1563
(Смех)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
Но моя реакция на этого
робота также была интересна,
робота также была интересна,
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
поскольку я точно знала,
как эта машина работает,
как эта машина работает,
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
но при этом всё равно чувствовала,
что должна быть добра к ней.
что должна быть добра к ней.
01:46
And that observation sparked a curiosity
28
94450
2707
Это наблюдение разожгло моё любопытство,
01:49
that I've spent the past decade pursuing.
29
97181
2832
которое я удовлетворяла
последние десять лет.
последние десять лет.
01:52
Why did I comfort this robot?
30
100911
1793
Почему я утешала этого робота?
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
И одним из моих открытий стало то,
что моё обращение с этой машиной
что моё обращение с этой машиной
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
было чем-то большим чем просто
неловким моментом в моей гостиной,
неловким моментом в моей гостиной,
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
что в мире, где мы всё чаще
интегрируем роботов в нашу жизнь,
интегрируем роботов в нашу жизнь,
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
у такого инстинкта могут быть последствия.
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
Ведь, как оказалось, я не одна такая.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
В 2007 году газета The Washington Post
опубликовала статью о том, что армия США
опубликовала статью о том, что армия США
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
проводила испытания робота,
который обезвреживал наземные мины.
который обезвреживал наземные мины.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
Работало это так: робот,
похожий на насекомого-палочника,
похожий на насекомого-палочника,
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
ходил по минному полю.
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
Каждый раз, когда он наступал на мину,
одна из ног взрывалась
одна из ног взрывалась
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
и робот продолжал идти на оставшихся,
взрывая всё больше мин.
взрывая всё больше мин.
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
И в конце концов полковник,
ответственный за операцию,
ответственный за операцию,
02:43
ends up calling it off,
43
151061
2118
прекратил её,
02:45
because, he says, it's too inhumane
44
153203
2435
потому что, по его мнению,
бесчеловечно смотреть,
бесчеловечно смотреть,
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
как этот повреждённый робот
тащится по минному полю.
тащится по минному полю.
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
В чём же кроется причина того,
что и закалённый военный офицер,
что и закалённый военный офицер,
02:58
and someone like myself
47
166899
2043
и обычный человек, как я,
03:00
to have this response to robots?
48
168966
1857
так реагируют на роботов?
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
Безусловно, на нас влияют
научная фантастика и поп-культура,
научная фантастика и поп-культура,
03:06
to really want to personify these things,
50
174871
2579
вызывающие желание очеловечить роботов,
03:09
but it goes a little bit deeper than that.
51
177474
2789
но на самом деле есть
более глубинные причины.
более глубинные причины.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
Оказывается, в нас природой
заложено видеть смысл и жизнь
заложено видеть смысл и жизнь
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
в любом движении, происходящем в пределах
поля зрения и выглядящем самостоятельным.
поля зрения и выглядящем самостоятельным.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
Поэтому люди обращаются с самыми
разными роботами как с живыми.
разными роботами как с живыми.
Этим роботам, обезвреживающим
неразорвавшиеся бомбы, дают имена.
неразорвавшиеся бомбы, дают имена.
03:26
These bomb-disposal units get names.
55
194703
2683
03:29
They get medals of honor.
56
197410
1682
Они получают почётные медали.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
На их похоронах салютуют.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
Исследования показали, что мы обращаемся
так и с простыми бытовыми роботами,
так и с простыми бытовыми роботами,
03:38
like the Roomba vacuum cleaner.
59
206237
2135
такими, как роботы-пылесосы.
03:40
(Laughter)
60
208396
1291
(Смех)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
Это просто диск, катающийся
по полу, делая его чище,
по полу, делая его чище,
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
но простой факт того,
что он двигается самостоятельно,
что он двигается самостоятельно,
03:47
will cause people to name the Roomba
63
215154
2167
даёт повод людям дать ему имя
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
и жалеть беднягу, когда он
застревает под диваном.
застревает под диваном.
03:52
(Laughter)
65
220551
1865
(Смех)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
И мы умеем конструировать роботов,
созданных вызывать такую реакцию
созданных вызывать такую реакцию
03:57
using eyes and faces or movements
67
225804
3461
глазами, мимикой и движениями,
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
которые люди автоматически
подсознательно ассоциируют
подсознательно ассоциируют
04:04
with states of mind.
69
232572
2020
с выражением различных эмоций.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
И исследования по взаимодействиям
между человеком и роботом показывают,
между человеком и роботом показывают,
04:09
that really shows how well this works.
71
237933
1826
насколько успешно это работает.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
К примеру, учёные
Стэнфордского университета выяснили,
Стэнфордского университета выяснили,
04:14
that it makes people really uncomfortable
73
242933
2001
что люди испытывают дискомфорт,
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
когда их просят потрогать
интимные части тела робота.
интимные части тела робота.
04:19
(Laughter)
75
247454
2120
(Смех)
04:21
So from this, but from many other studies,
76
249598
2023
Из этих и из многих других исследований
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
мы знаем о том,
что люди реагируют на сигналы
что люди реагируют на сигналы
04:27
by these lifelike machines,
78
255892
2022
этих как будто живых машин,
04:29
even if they know that they're not real.
79
257938
2017
даже если они знают,
что они совсем не живые.
что они совсем не живые.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
Мы всё ближе к будущему,
где роботы будут на каждом шагу.
где роботы будут на каждом шагу.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
Робототехника перестаёт быть
лишь частью производства,
лишь частью производства,
04:40
It's entering workplaces, households.
82
268823
3013
постепенно проникая в наши дома и офисы.
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
И когда эти машины, которые могут
ощущать, принимать решения и учиться,
ощущать, принимать решения и учиться,
04:50
enter into these shared spaces,
84
278093
2552
попадают в эти наполненные людьми места,
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
лучшая аналогия,
которую можно придумать, —
которую можно придумать, —
04:55
is our relationship with animals.
86
283189
1935
наши отношения с животными.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
Тысячи лет назад
мы начали приручать животных,
мы начали приручать животных,
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
использовать их для работы,
сражений и просто в качестве друзей.
сражений и просто в качестве друзей.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
И в ходе истории мы обращались с одними
животными как с инструментами, товаром,
животными как с инструментами, товаром,
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
а с другими — с добротой,
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
выделили для них место
в обществе, как партнёрам.
в обществе, как партнёрам.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
И с высокой долей вероятности
мы так же будем интегрировать роботов.
мы так же будем интегрировать роботов.
05:21
And sure, animals are alive.
93
309484
3096
Конечно же, животные — живые существа.
05:24
Robots are not.
94
312604
1150
Роботы — нет.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
Я работаю с робототехниками
и могу сказать вам,
и могу сказать вам,
что эти учёные достаточно далеки от
разработки роботов, умеющих чувствовать.
разработки роботов, умеющих чувствовать.
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
05:35
But we feel for them,
97
323072
1460
Но мы испытываем к ним чувства,
05:37
and that matters,
98
325835
1207
и это важно,
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
ведь если мы хотим интегрировать их
в эти разделяемые нами пространства,
в эти разделяемые нами пространства,
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
нужно понять, что к ним будут относиться
не так, как к бытовой технике,
не так, как к бытовой технике,
05:47
and that in some cases,
101
335369
1844
что в некоторых случаях,
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
например, когда солдат
привязывается к роботу,
привязывается к роботу,
05:52
to the robot that they work with,
103
340433
2047
с которым он работает,
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
из этого может выйти что-то
неэффективное или даже опасное.
неэффективное или даже опасное.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
Но в некоторых случаях бывает полезно
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
поощрять такие эмоциональные
привязанности к роботам.
привязанности к роботам.
06:04
We're already seeing some great use cases,
107
352184
2134
Таких случаев мы видели
уже великое множество,
уже великое множество,
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
к примеру, роботы,
работающие с детьми с аутизмом,
работающие с детьми с аутизмом,
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
захватывают их внимание так,
как мы ещё не видели.
как мы ещё не видели.
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
И роботы помогают учителям привлечь детей
к учёбе, тем самым повышая успеваемость.
к учёбе, тем самым повышая успеваемость.
06:17
And it's not just for kids.
111
365433
1381
Это касается не только детей.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
Согласно ранним исследованиям,
роботы могут помогать врачам и пациентам
роботы могут помогать врачам и пациентам
06:22
in health care settings.
113
370997
1427
в медицинских учреждениях.
06:25
This is the PARO baby seal robot.
114
373535
1810
Это детёныш морского котика PARO.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
Он используется в домах престарелых
и в уходе за больными деменцией
и в уходе за больными деменцией
06:30
It's been around for a while.
116
378678
1570
достаточно давно.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
Я помню, как много лет назад
я была на вечеринке
я была на вечеринке
06:35
and telling someone about this robot,
118
383621
2571
и рассказала какой-то
девушке об этом роботе,
девушке об этом роботе,
06:38
and her response was,
119
386216
2126
и её реакция была такой:
06:40
"Oh my gosh.
120
388366
1262
«О Боже,
06:42
That's horrible.
121
390508
1188
это ужасно!
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
Не могу поверить, что вместо
живых людей за ними ухаживают роботы!»
живых людей за ними ухаживают роботы!»
06:50
And this is a really common response,
123
398540
1875
И так реагирует подавляющее большинство,
06:52
and I think it's absolutely correct,
124
400439
2499
что, на мой взгляд, абсолютно нормально,
06:54
because that would be terrible.
125
402962
2040
ведь это было бы ужасно.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
Но в этом случае
робот заменяет не человека.
робот заменяет не человека.
07:00
What this robot replaces is animal therapy
127
408858
3120
Он заменяет пет-терапию
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
в условиях, в которых мы не можем
использовать настоящих животных,
использовать настоящих животных,
07:07
but we can use robots,
129
415224
1168
а роботов можем,
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
потому что люди обращаются с ними
скорее как с животными, а не с машинами.
скорее как с животными, а не с машинами.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
Осознание этой
эмоциональной связи с роботами
эмоциональной связи с роботами
07:17
can also help us anticipate challenges
132
425906
1969
может помочь нам понять, какие проблемы
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
возникнут, когда эти роботы проникнут
в более личные части нашей жизни.
в более личные части нашей жизни.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
Например, нормально ли
для плюшевого мишки вашего ребёнка
для плюшевого мишки вашего ребёнка
07:27
records private conversations?
135
435539
2237
записывать личные разговоры?
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
Или если у вашего секс-робота
есть обязательные встроенные покупки?
есть обязательные встроенные покупки?
07:33
(Laughter)
137
441887
1396
(Смех)
07:35
Because robots plus capitalism
138
443307
2501
Ведь сложив роботов и капитализм,
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
мы получим вопросы о защите
прав потребителей и их личной жизни.
прав потребителей и их личной жизни.
07:42
And those aren't the only reasons
140
450549
1612
Наше поведение по отношению к роботам
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
может оказаться важным
и по другим причинам.
и по другим причинам.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
Несколько лет спустя,
после того первого опыта
после того первого опыта
07:52
with this baby dinosaur robot,
143
460041
2311
с роботом-детёнышем динозавра,
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
мы с моей подругой
Ханнес Гассерт проводили тренинг.
Ханнес Гассерт проводили тренинг.
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
Мы взяли пять таких малышей-динозавров
07:59
and we gave them to five teams of people.
146
467822
2453
и раздали их пяти командам.
08:02
And we had them name them
147
470299
1697
Мы дали задание дать роботам имена,
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
играть и общаться с ними в течение часа.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
А потом мы достали молоток и топор
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
и приказали им мучить и убить роботов.
08:13
(Laughter)
151
481239
3007
(Смех)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
И это оказалось гораздо драматичнее,
08:19
than we expected it to be,
153
487175
1278
чем мы ожидали,
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
потому что ни один из участников
не нанёс ни единого удара
не нанёс ни единого удара
08:23
these baby dinosaur robots,
155
491573
1307
по этим детёнышам,
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
так что нам пришлось импровизировать,
и в определённый момент мы сказали:
и в определённый момент мы сказали:
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
«Хорошо, вы можете спасти своего робота,
если сломаете робота другой команды».
если сломаете робота другой команды».
08:34
(Laughter)
158
502539
1855
(Смех)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
И даже это не помогло,
они не могли сделать это.
они не могли сделать это.
08:39
So finally, we said,
160
507058
1151
Наконец мы сказали:
08:40
"We're going to destroy all of the robots
161
508233
2032
«Мы уничтожим всех роботов,
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
если кто-нибудь не ударит топором одного.
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
И один парень встал, взял топор,
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
и каждый в комнате вздрогнул,
когда он опустил топор
когда он опустил топор
08:51
on the robot's neck,
165
519919
1780
на шею робота,
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
и после этого в комнате воцарилась
полушутливая, полусерьёзная тишина
полушутливая, полусерьёзная тишина
09:00
for this fallen robot.
167
528085
1698
из-за этого робота.
09:01
(Laughter)
168
529807
1406
(Смех)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
Так что это оказалось
очень интересным опытом.
очень интересным опытом.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
Конечно, это не было
контролируемое исследование,
контролируемое исследование,
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
но этот тренинг дал толчок для наших
последующих исследований в МТИ
последующих исследований в МТИ
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
совместно с Палаш Нанди и Синтией Брезил,
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
когда люди приходили в лабораторию
и крушили роботов HEXBUG,
и крушили роботов HEXBUG,
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
которые двигаются,
как самые настоящие насекомые.
как самые настоящие насекомые.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
Вместо того, чтобы выбрать что-то милое,
притягивающее к себе людей,
притягивающее к себе людей,
09:24
we chose something more basic,
176
552484
2093
мы выбрали что-то более простое,
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
и, как оказалось,
склонные к сочувствию люди,
склонные к сочувствию люди,
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
колебались сильнее,
прежде чем ударить этих роботов.
прежде чем ударить этих роботов.
09:33
Now this is just a little study,
179
561575
1564
Это был лишь небольшой опыт,
09:35
but it's part of a larger body of research
180
563163
2389
но он часть большого числа исследований,
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
первые результаты которых показывают,
что может существовать связь
что может существовать связь
09:40
between people's tendencies for empathy
182
568544
2373
между склонностью человека к сочувствию
09:42
and their behavior around robots.
183
570941
1976
и его поведением с роботами.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
Но мой вопрос для наступающей эры
взаимодействия людей и роботов —
взаимодействия людей и роботов —
09:49
is not: "Do we empathize with robots?"
185
577372
3055
это не «Нужно ли сочувствовать роботам?»,
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
а «Могут ли роботы
влиять на наши чувства?»
влиять на наши чувства?»
09:57
Is there reason to, for example,
187
585489
2287
Стóит ли, например,
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
не позволять ребёнку бить собаку-робота
10:03
not just out of respect for property,
189
591228
2914
не просто из уважения к имуществу,
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
но потому, что иначе в будущем
он может начать бить живую собаку?
он может начать бить живую собаку?
10:10
And again, it's not just kids.
191
598507
1883
И опять это применимо не только к детям.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
Напоминает вопрос об опасности жестоких
видеоигр, но на совсем другом уровне
видеоигр, но на совсем другом уровне
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
из-за того, что здесь всё настоящее,
на что мы реагируем гораздо сильнее,
на что мы реагируем гораздо сильнее,
10:22
than to images on a screen.
194
610428
1547
нежели на изображения на экране.
10:25
When we behave violently towards robots,
195
613674
2578
Когда мы проявляем жестокость
по отношению к роботам,
по отношению к роботам,
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
особенно к тем, которые
созданы имитировать жизнь,
созданы имитировать жизнь,
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
здоровый ли это выход
для нашего жестокого поведения
для нашего жестокого поведения
10:35
or is that training our cruelty muscles?
198
623336
2544
или же так мы лишь
усугубляем такие склонности?
усугубляем такие склонности?
10:39
We don't know ...
199
627511
1150
Мы не знаем.
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
Но ответ на этот вопрос в будущем
может повлиять на человеческое поведение,
может повлиять на человеческое поведение,
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
может повлиять на социальные нормы
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
и может повлиять на правила того,
что мы можем и не можем делать
что мы можем и не можем делать
10:53
with certain robots,
203
641256
1151
с определёнными роботами,
10:54
similar to our animal cruelty laws.
204
642431
1848
подобно законам о жестоком
обращении с животными.
обращении с животными.
10:57
Because even if robots can't feel,
205
645228
2864
Потому что даже если
роботы не могут чувствовать,
роботы не могут чувствовать,
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
наше поведение по отношению
к ним может оказаться важным.
к ним может оказаться важным.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
И вне зависимости от того,
станем ли мы менять наши законы,
станем ли мы менять наши законы,
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
роботы, возможно, смогут помочь
нам лучше понять себя.
нам лучше понять себя.
Бóльшая часть того, что я узнала
за последние десятилетие,
за последние десятилетие,
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
11:16
has not been about technology at all.
210
664616
2238
никак не относится к технологиям.
11:18
It's been about human psychology
211
666878
2503
Я изучала психологию человека,
11:21
and empathy and how we relate to others.
212
669405
2603
способность сопереживать и то,
как мы относимся друг к другу.
как мы относимся друг к другу.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
Потому что когда ребёнок
добр к роботу-пылесосу,
добр к роботу-пылесосу,
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
когда солдат пытается
спасти робота на поле боя,
спасти робота на поле боя,
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
когда группа людей отказывается
причинить вред роботу-детёнышу динозавра,
причинить вред роботу-детёнышу динозавра,
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
эти роботы перестают быть просто
механизмами и алгоритмами.
механизмами и алгоритмами.
11:42
They're reflections of our own humanity.
217
690501
1905
Они становятся отражением
нашей человечности.
нашей человечности.
11:45
Thank you.
218
693523
1151
Спасибо.
11:46
(Applause)
219
694698
3397
(Аплодисменты)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com