TED Salon Samsung
Kate Darling: Why we have an emotional connection to robots
كايت دارلينج: لماذا نكون رابط عاطفي مع الروبوتات؟ |Kate Darling
Filmed:
Readability: 4.4
2,403,010 views
نحن مازلنا بعيدين عن تطوير روبوتات لديها قدرة على الإحساس والعاطفة، ولكننا نملك عاطفة إتجاههم، كما تقول أخصائية أخلاقيات الروبوتات كايت دارلينج، ويمكن أن تكون لغريزة مثل هذه عواقب.
لنتعلم أكثر كيف أن بنيتنا البيولوجية تعمل على إعطاء هذه الآلات أهداف وحياة لهم. وكيف يمكن أن تساعدنا على فهم أنفسنا بطريقة أفضل.
Kate Darling - Robot ethicist
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Kate Darling investigates the relationship between humans and robots -- now, and in the future. Full bio
Double-click the English transcript below to play the video.
في أحد الأيام، قبل حوالي عشر سنوات،
00:13
There was a day, about 10 years ago,
0
1047
2508
00:15
when I asked a friend to hold
a baby dinosaur robot upside down.
a baby dinosaur robot upside down.
1
3579
3944
طلبت من صديق لي أن يمسك
روبوت على شكل طفل ديناصور رأسًا على عقب.
روبوت على شكل طفل ديناصور رأسًا على عقب.
00:21
It was this toy called a Pleo
that I had ordered,
that I had ordered,
2
9889
3446
كانت لعبة إسمها "بليو"
وقد اشتريتها سابقاً،
وقد اشتريتها سابقاً،
00:25
and I was really excited about it
because I've always loved robots.
because I've always loved robots.
3
13359
4401
وكنت متحمسة للحصول عليها
لأنني لطالما أحببت الروبوتات.
لأنني لطالما أحببت الروبوتات.
00:29
And this one has really cool
technical features.
technical features.
4
17784
2279
وكانت هذه اللعبة تحتوي
على ميزات تقنية رائعة.
على ميزات تقنية رائعة.
00:32
It had motors and touch sensors
5
20087
2119
كانت تحتوي على محركات وحساسات لمس
00:34
and it had an infrared camera.
6
22230
2244
وكذلك كاميرا بالأشعة تحت الحمراء.
00:36
And one of the things it had
was a tilt sensor,
was a tilt sensor,
7
24498
2763
وأحد الأشياء التي كانت بها
مستشعر للإمالة،
مستشعر للإمالة،
00:39
so it knew what direction it was facing.
8
27285
2318
لذا كانت تعرف الإتجاه الذي كانت توجه له.
00:42
And when you held it upside down,
9
30095
2134
وعندما كنت تمسكها رأسًا على عقب،
00:44
it would start to cry.
10
32253
1572
فإنها تبدأ بالبكاء.
00:46
And I thought this was super cool,
so I was showing it off to my friend,
so I was showing it off to my friend,
11
34527
3496
وخطر لي أن هذا أمر رائع،
وكنت أرغب في عرضها لصديقي،
وكنت أرغب في عرضها لصديقي،
00:50
and I said, "Oh, hold it up by the tail.
See what it does."
See what it does."
12
38047
2805
فقلت له: " أمسكها من الذيل،
وشاهد ماذا ستفعل".
وشاهد ماذا ستفعل".
00:55
So we're watching
the theatrics of this robot
the theatrics of this robot
13
43268
3625
بدأنا نشاهد التصرفات الدرامية
التي بدأ يصدرها هذا الروبوت
التي بدأ يصدرها هذا الروبوت
00:58
struggle and cry out.
14
46917
2199
المعاناة والبكاء.
01:02
And after a few seconds,
15
50767
2047
وبعد بضع ثوان،
01:04
it starts to bother me a little,
16
52838
1972
بدأ الأمر يسبب لي الضيق قليلًا،
01:07
and I said, "OK, that's enough now.
17
55744
3424
وقلت: "يكفي هذا حتى الآن.
01:11
Let's put him back down."
18
59930
2305
لنضعه على الأرض مرة أخرى".
01:14
And then I pet the robot
to make it stop crying.
to make it stop crying.
19
62259
2555
ثم قمت بالمسح على رأس الروبوت
لكي يتوقف عن البكاء.
لكي يتوقف عن البكاء.
01:18
And that was kind of
a weird experience for me.
a weird experience for me.
20
66973
2452
كانت هذه تجربة غريبة بالنسبة لي.
01:22
For one thing, I wasn't the most
maternal person at the time.
maternal person at the time.
21
70084
4569
لم تكن لدي مشاعر أمومة كبيرة في ذلك الوقت.
01:26
Although since then I've become
a mother, nine months ago,
a mother, nine months ago,
22
74677
2731
وقد أصبحت أمًا منذ ذلك الحين،
منذ تسعة أشهر مضت،
منذ تسعة أشهر مضت،
01:29
and I've learned that babies also squirm
when you hold them upside down.
when you hold them upside down.
23
77432
3433
كما تعملت أن الأطفال لايحبون
عندما تمسكهم رأسًا على عقب.
عندما تمسكهم رأسًا على عقب.
01:32
(Laughter)
24
80889
1563
(ضحك)
01:35
But my response to this robot
was also interesting
was also interesting
25
83023
2358
ولكن تفاعلي مع هذا الروبوت
كان مثيرًا للاهتمام
كان مثيرًا للاهتمام
01:37
because I knew exactly
how this machine worked,
how this machine worked,
26
85405
4101
لأنني كنت أعرف طريقة عمل
هذا الروبوت بالصبط،
هذا الروبوت بالصبط،
01:41
and yet I still felt
compelled to be kind to it.
compelled to be kind to it.
27
89530
3262
وبالرغم من ذلك، شعرت أنني
يجب أن أكون لطيفه معه.
يجب أن أكون لطيفه معه.
01:46
And that observation sparked a curiosity
28
94450
2707
وقد أثارت تلك الملاحظة فضولي
01:49
that I've spent the past decade pursuing.
29
97181
2832
حيث قضيت العقد الماضي أحقق بها.
01:52
Why did I comfort this robot?
30
100911
1793
لماذا عملت على مراضاة هذا الروبوت؟
01:56
And one of the things I discovered
was that my treatment of this machine
was that my treatment of this machine
31
104228
3579
أحد الأشياء التي اكتشفتها
أن طريقة تعاملي مع هذه الآلة
أن طريقة تعاملي مع هذه الآلة
01:59
was more than just an awkward moment
in my living room,
in my living room,
32
107831
3701
تتعدى تلك اللحظة الغريبة
التي حدثت في غرفة معيشتي،
التي حدثت في غرفة معيشتي،
02:03
that in a world where we're increasingly
integrating robots into our lives,
integrating robots into our lives,
33
111556
5420
حيث أننا نعيش في عالم يتزايد به
الدور الذي تلعبه الروبوتات في حياتنا،
الدور الذي تلعبه الروبوتات في حياتنا،
02:09
an instinct like that
might actually have consequences,
might actually have consequences,
34
117000
3126
لأن غريزة كهذه
يمكن أن يكون لها عواقب،
يمكن أن يكون لها عواقب،
02:13
because the first thing that I discovered
is that it's not just me.
is that it's not just me.
35
121452
3749
لأن أول شيء اكتشفته
أن هذا الأمر لاينحصر بي فقط.
أن هذا الأمر لاينحصر بي فقط.
02:19
In 2007, the Washington Post
reported that the United States military
reported that the United States military
36
127249
4802
كتبت الواشنطن بوست تقريرًا
عام 2007 أن جيش الولايات المتحدة
عام 2007 أن جيش الولايات المتحدة
02:24
was testing this robot
that defused land mines.
that defused land mines.
37
132075
3230
كان يختبر روبوت
لكي يقوم بتفكيك الألغام.
لكي يقوم بتفكيك الألغام.
02:27
And the way it worked
was it was shaped like a stick insect
was it was shaped like a stick insect
38
135329
2912
وهو مصمم على شكل حشرة العصى المتحركة
وتمشي مثلها أيضًا
وتمشي مثلها أيضًا
02:30
and it would walk
around a minefield on its legs,
around a minefield on its legs,
39
138265
2651
حيث أنها تمشي
في حقل الألغام على أرجلها،
في حقل الألغام على أرجلها،
02:32
and every time it stepped on a mine,
one of the legs would blow up,
one of the legs would blow up,
40
140940
3206
وتنفجر إحدى الأرجل
في كل مرة تطئ أحد الألغام،
في كل مرة تطئ أحد الألغام،
ثم تمشي على الأرجل الأخرى
لكي تفجر ألغام إضافية.
لكي تفجر ألغام إضافية.
02:36
and it would continue on the other legs
to blow up more mines.
to blow up more mines.
41
144170
3057
وقد قام العقيد المسؤول عن الإختبار
02:39
And the colonel who was in charge
of this testing exercise
of this testing exercise
42
147251
3786
بإيقافه وإلغاءه،
02:43
ends up calling it off,
43
151061
2118
حيث يقول أنه عمل غير إنساني
02:45
because, he says, it's too inhumane
44
153203
2435
أن نرى هذا الروبوت وهو يجر نفسه
عبر حقل الألغام.
عبر حقل الألغام.
02:47
to watch this damaged robot
drag itself along the minefield.
drag itself along the minefield.
45
155662
4516
02:54
Now, what would cause
a hardened military officer
a hardened military officer
46
162978
3897
ما الذي قد يدفع ضابط عسكري متمرس
02:58
and someone like myself
47
166899
2043
وشخص مثلي أنا
03:00
to have this response to robots?
48
168966
1857
ليكون لدينا ذات المشاعر للروبوتات؟
03:03
Well, of course, we're primed
by science fiction and pop culture
by science fiction and pop culture
49
171537
3310
نحن نتأثر بالثقافة المنتشرة والخيال العلمي
03:06
to really want to personify these things,
50
174871
2579
حيث نرغب في أن نمنحها شخصية كالإنسان،
03:09
but it goes a little bit deeper than that.
51
177474
2789
لكن الأمر أعمق من هذا.
03:12
It turns out that we're biologically
hardwired to project intent and life
hardwired to project intent and life
52
180287
5309
من الواضح أن بنيتنا البيولوجية تدفعنا
لإعطاء صفة الحياة وهدف لوجود
لإعطاء صفة الحياة وهدف لوجود
03:17
onto any movement in our physical space
that seems autonomous to us.
that seems autonomous to us.
53
185620
4766
لكل ما يتحرك في فضائنا المادي
ويكون غير معتمدًا علينا.
ويكون غير معتمدًا علينا.
03:23
So people will treat all sorts
of robots like they're alive.
of robots like they're alive.
54
191214
3465
لذا يتعامل الناس مع الروبوتات
وكأنها كائن حي.
وكأنها كائن حي.
03:26
These bomb-disposal units get names.
55
194703
2683
يتم إطلاق أسماء على الوحدات
التي تتخلص من القنابل.
التي تتخلص من القنابل.
03:29
They get medals of honor.
56
197410
1682
كما يحصلون على ميداليات الشرف.
03:31
They've had funerals for them
with gun salutes.
with gun salutes.
57
199116
2325
وحصل بعضهم على جنازات
مع تحية السلاح.
مع تحية السلاح.
03:34
And research shows that we do this
even with very simple household robots,
even with very simple household robots,
58
202380
3833
وتبين الأبحاث أننا نقوم بهذا
مع أبسط روبوتات الأعمال المنزلية،
مع أبسط روبوتات الأعمال المنزلية،
03:38
like the Roomba vacuum cleaner.
59
206237
2135
مثل مكنسة (رومبا) الآلية.
03:40
(Laughter)
60
208396
1291
(ضحك)
03:41
It's just a disc that roams
around your floor to clean it,
around your floor to clean it,
61
209711
3089
هي عبارة عن قرص
يتحرك في أرجاء الأرضية لتنظيفها،
يتحرك في أرجاء الأرضية لتنظيفها،
03:44
but just the fact it's moving
around on its own
around on its own
62
212824
2306
ولكن حقيقة أنها تتحرك لوحدها
03:47
will cause people to name the Roomba
63
215154
2167
سيدفع الناس أن يعطوا أسماء لها
03:49
and feel bad for the Roomba
when it gets stuck under the couch.
when it gets stuck under the couch.
64
217345
3182
ويشعرون بالضيق اتجاهها
عندما تنحشر تحت إحدى الآرائك.
عندما تنحشر تحت إحدى الآرائك.
03:52
(Laughter)
65
220551
1865
(ضحك)
03:54
And we can design robots
specifically to evoke this response,
specifically to evoke this response,
66
222440
3340
يمكننا تصميم روبوتات
لكي تقوم بإثارة ردة الفعل هذه تحديدًا،
لكي تقوم بإثارة ردة الفعل هذه تحديدًا،
03:57
using eyes and faces or movements
67
225804
3461
بإستخدام الأعين والأوجه أو الحركات
04:01
that people automatically,
subconsciously associate
subconsciously associate
68
229289
3259
بحيث يكون الناس رابطًا لا شعوريًا
بشكل تلقائي
بشكل تلقائي
04:04
with states of mind.
69
232572
2020
مع الحالة الذهنية أو النفسية.
04:06
And there's an entire body of research
called human-robot interaction
called human-robot interaction
70
234616
3293
هناك مجموعة كاملة من الأبحاث تسمى
التفاعل الإنساني مع الروبوتات
التفاعل الإنساني مع الروبوتات
04:09
that really shows how well this works.
71
237933
1826
الذي يهتم بإظهار مدى نجاح هذا الأمر.
04:11
So for example, researchers
at Stanford University found out
at Stanford University found out
72
239783
3126
فمثلا، وجد الباحثون في جامعة ستانفورد
04:14
that it makes people really uncomfortable
73
242933
2001
أن الناس يكونوا غير مرتاحين إطلاقًا
04:16
when you ask them to touch
a robot's private parts.
a robot's private parts.
74
244958
2472
عندما تطلب منهم لمس
أجزاء الروبوتات الخاصة.
أجزاء الروبوتات الخاصة.
04:19
(Laughter)
75
247454
2120
(ضحك)
04:21
So from this, but from many other studies,
76
249598
2023
من هذه الدراسة
ومن دراسات أخرى مشابهه،
ومن دراسات أخرى مشابهه،
04:23
we know, we know that people
respond to the cues given to them
respond to the cues given to them
77
251645
4223
نعرف أن الناس تتجاوب
مع الإشارات التي تظهر لهم
مع الإشارات التي تظهر لهم
04:27
by these lifelike machines,
78
255892
2022
من هذه الآلات
التي هي أقرب ما تكون للحياة،
التي هي أقرب ما تكون للحياة،
04:29
even if they know that they're not real.
79
257938
2017
حتى وإن كانوا يعلمون أنها ليست حية.
04:33
Now, we're headed towards a world
where robots are everywhere.
where robots are everywhere.
80
261654
4056
نحن نتجه الآن لعالم توجد به الروبوتات
في جميع نواحي الحياة.
في جميع نواحي الحياة.
لم تعد تكنولوجيا الروبوتات
محصورة في جدران المصانع.
محصورة في جدران المصانع.
04:37
Robotic technology is moving out
from behind factory walls.
from behind factory walls.
81
265734
3065
بل بدأنا نجدها في أماكن عملنا ومنازلنا.
04:40
It's entering workplaces, households.
82
268823
3013
04:43
And as these machines that can sense
and make autonomous decisions and learn
and make autonomous decisions and learn
83
271860
6209
بدأت هذه الآلات التي تقدر أن تشعر
وتتخذ قرارات مستقلة وتتعلم
وتتخذ قرارات مستقلة وتتعلم
04:50
enter into these shared spaces,
84
278093
2552
تتواجد في هذه الأماكن المشتركة،
04:52
I think that maybe the best
analogy we have for this
analogy we have for this
85
280669
2496
أعتقد أن أفضل مثال
يمكن أن نقدمه لهذه الحالة
يمكن أن نقدمه لهذه الحالة
04:55
is our relationship with animals.
86
283189
1935
هي علاقتنا مع الحيوانات.
04:57
Thousands of years ago,
we started to domesticate animals,
we started to domesticate animals,
87
285523
3888
حيث بدأنا نستأنس الحيوانات
منذ آلاف السنوات،
منذ آلاف السنوات،
05:01
and we trained them for work
and weaponry and companionship.
and weaponry and companionship.
88
289435
4045
دربناهم للقيام بأعمال
أو ليكونوا سلاح ما أو ليكونوا رفقاء لنا.
أو ليكونوا سلاح ما أو ليكونوا رفقاء لنا.
05:05
And throughout history, we've treated
some animals like tools or like products,
some animals like tools or like products,
89
293504
4985
وقد عاملنا بعض هذه الحيوانات
كأدوات أو بضائع على مر التاريخ،
كأدوات أو بضائع على مر التاريخ،
05:10
and other animals,
we've treated with kindness
we've treated with kindness
90
298513
2174
وعاملنا أنواع أخرى برقة وحنان
05:12
and we've given a place in society
as our companions.
as our companions.
91
300711
3078
وتم منحهم مكانة في المجتمع
على أنهم رفقاء لنا.
على أنهم رفقاء لنا.
05:15
I think it's plausible we might start
to integrate robots in similar ways.
to integrate robots in similar ways.
92
303813
3849
أعتقد أنه من الممكن أن نبدأ
دمج الروبوتات بطرق مشابهه.
دمج الروبوتات بطرق مشابهه.
05:21
And sure, animals are alive.
93
309484
3096
وبالطبع، الحيوانات كائنات حية.
05:24
Robots are not.
94
312604
1150
بعكس الروبوتات.
05:27
And I can tell you,
from working with roboticists,
from working with roboticists,
95
315626
2580
ويمكنني أن أخبركم،
من خلال عملي في مجال الروبوتات،
من خلال عملي في مجال الروبوتات،
05:30
that we're pretty far away from developing
robots that can feel anything.
robots that can feel anything.
96
318230
3522
أننا بعيدين للغاية من تطوير
روبوت قادر على الإحساس بأي شيء.
روبوت قادر على الإحساس بأي شيء.
05:35
But we feel for them,
97
323072
1460
ولكننا نمتلك أحاسيس نحوها،
05:37
and that matters,
98
325835
1207
وهذا شيء مهم،
05:39
because if we're trying to integrate
robots into these shared spaces,
robots into these shared spaces,
99
327066
3627
لأننا إن كنا نحاول دمج الروبوتات
في تلك الأماكن المشتركة،
في تلك الأماكن المشتركة،
05:42
we need to understand that people will
treat them differently than other devices,
treat them differently than other devices,
100
330717
4628
يتوجب علينا أن نعلم أن الناس ستتعامل معها
بطريقة تختلف عن الأجهزة الأخرى،
بطريقة تختلف عن الأجهزة الأخرى،
05:47
and that in some cases,
101
335369
1844
كما في بعض الحالات،
05:49
for example, the case of a soldier
who becomes emotionally attached
who becomes emotionally attached
102
337237
3172
مثل الجندي الذي يصبح لديه إرتباط عاطفي
05:52
to the robot that they work with,
103
340433
2047
مع الروبوت الذي يعمل معه،
05:54
that can be anything
from inefficient to dangerous.
from inefficient to dangerous.
104
342504
2504
والذي يمكن أن يكون أمرًا خطيرًا
أو يصبح غير فعال.
أو يصبح غير فعال.
05:58
But in other cases,
it can actually be useful
it can actually be useful
105
346551
2138
ولكنه قد يكون مفيدًا في حالات أخرى،
06:00
to foster this emotional
connection to robots.
connection to robots.
106
348713
2623
أن نعزز هذا الإتصال العاطفي
مع الروبوتات.
مع الروبوتات.
06:04
We're already seeing some great use cases,
107
352184
2134
بدأنا بالفعل نرى
بعض حالات الإستخدام الرائعة،
بعض حالات الإستخدام الرائعة،
06:06
for example, robots working
with autistic children
with autistic children
108
354342
2604
فمثلا، الروبوتات التي تعمل
مع الأطفال المصابين بالتوحد
مع الأطفال المصابين بالتوحد
06:08
to engage them in ways
that we haven't seen previously,
that we haven't seen previously,
109
356970
3634
وتشجيعهم على المشاركة
بأساليب لم نكن نراها سابقًا،
بأساليب لم نكن نراها سابقًا،
06:12
or robots working with teachers to engage
kids in learning with new results.
kids in learning with new results.
110
360628
4000
أو الروبوتات التي تعمل مع المدرسين
لتعزيز مشاركة الأطفال معطية نتائج جديدة.
لتعزيز مشاركة الأطفال معطية نتائج جديدة.
06:17
And it's not just for kids.
111
365433
1381
وليس الأطفال فقط.
06:19
Early studies show that robots
can help doctors and patients
can help doctors and patients
112
367750
3223
تبين دراسات أولية أن الروبوتات
يمكن أن تساعد الأطباء والمرضى
يمكن أن تساعد الأطباء والمرضى
06:22
in health care settings.
113
370997
1427
في أماكن الرعاية الصحية.
06:25
This is the PARO baby seal robot.
114
373535
1810
هذا روبوت (بارو) على شكل طفل الفقمة.
06:27
It's used in nursing homes
and with dementia patients.
and with dementia patients.
115
375369
3285
تستخدم في دور رعاية المسنين
ومع مرضى الخرف.
ومع مرضى الخرف.
06:30
It's been around for a while.
116
378678
1570
وهي موجودة منذ فترة.
06:32
And I remember, years ago,
being at a party
being at a party
117
380272
3325
وأذكر أنني كنت في حفلة من سنوات عدة،
06:35
and telling someone about this robot,
118
383621
2571
وأخبرت أحد صديقاتي عن هذا الروبوت،
06:38
and her response was,
119
386216
2126
وكان ردة فعلها،
06:40
"Oh my gosh.
120
388366
1262
"يا إلهي،
06:42
That's horrible.
121
390508
1188
هذا فظيع،
06:45
I can't believe we're giving people
robots instead of human care."
robots instead of human care."
122
393056
3397
لا أصدقك أننا نعطي المرضى روبوتات
بدلًا من الرعاية البشرية".
بدلًا من الرعاية البشرية".
06:50
And this is a really common response,
123
398540
1875
وكان هذا هو الرد المتكرر دومًا،
06:52
and I think it's absolutely correct,
124
400439
2499
وأعتقد أنهم مصيبين جدًا،
06:54
because that would be terrible.
125
402962
2040
لأن هذا الأمر سيكون مريعًا.
06:57
But in this case,
it's not what this robot replaces.
it's not what this robot replaces.
126
405795
2484
لكن الأمر لايقتصر
على ما الذي تحل الروبوتات مكانه.
على ما الذي تحل الروبوتات مكانه.
07:00
What this robot replaces is animal therapy
127
408858
3120
تستخدم هذه الروبوتات كبديل
للعلاج بالحيوانات
للعلاج بالحيوانات
07:04
in contexts where
we can't use real animals
we can't use real animals
128
412002
3198
وذلك في إطار أننا لا نستطيع
أن نستخدم حيوانات حقيقية
أن نستخدم حيوانات حقيقية
ولكن يمكننا إستخدام الروبوتات،
07:07
but we can use robots,
129
415224
1168
07:08
because people will consistently treat
them more like an animal than a device.
them more like an animal than a device.
130
416416
5230
لأن الناس سيتعاملون معها كحيوان
بدلًا من أن يعاملوها كآلة.
بدلًا من أن يعاملوها كآلة.
07:15
Acknowledging this emotional
connection to robots
connection to robots
131
423502
2380
ملاحظة هذا الترابط العاطفي مع الروبوتات
07:17
can also help us anticipate challenges
132
425906
1969
يساعدنا في التنبؤ بالتحديات
07:19
as these devices move into more intimate
areas of people's lives.
areas of people's lives.
133
427899
3451
لدخول هذه الآلات لمناطق
أكثر حميمية في حياة الناس.
أكثر حميمية في حياة الناس.
07:24
For example, is it OK
if your child's teddy bear robot
if your child's teddy bear robot
134
432111
3404
مثلًا، هل من المقبول
أن يقوم روبوت طفلك على شكل دب
أن يقوم روبوت طفلك على شكل دب
07:27
records private conversations?
135
435539
2237
أن يسجل المحادثات الخاصة؟
07:29
Is it OK if your sex robot
has compelling in-app purchases?
has compelling in-app purchases?
136
437800
4063
هل من المقبول أن يقوم روبوت حميمي
بإجراء مشتريات من خلال تطبيقات؟
بإجراء مشتريات من خلال تطبيقات؟
07:33
(Laughter)
137
441887
1396
(ضحك)
07:35
Because robots plus capitalism
138
443307
2501
لأن وجود الروبوتات في نظام رأس مالي
07:37
equals questions around
consumer protection and privacy.
consumer protection and privacy.
139
445832
3705
ينتج عنه تساؤلات حول
حماية المستهلك والخصوصية.
حماية المستهلك والخصوصية.
07:42
And those aren't the only reasons
140
450549
1612
وهذه ليست الأسباب الوحيدة
07:44
that our behavior around
these machines could matter.
these machines could matter.
141
452185
2570
أن يكون تعاملنا مع هذه الآلات
يحظى بأهمية ما.
يحظى بأهمية ما.
07:48
A few years after that first
initial experience I had
initial experience I had
142
456747
3270
بعد بضع سنوات من الموقف الذي اختبرته
07:52
with this baby dinosaur robot,
143
460041
2311
مع روبوت صغير الديناصور،
07:54
I did a workshop
with my friend Hannes Gassert.
with my friend Hannes Gassert.
144
462376
2501
قمت بإجراء ورشة عملية
مع صديقي "هانيز جاسيرت".
مع صديقي "هانيز جاسيرت".
07:56
And we took five
of these baby dinosaur robots
of these baby dinosaur robots
145
464901
2897
وأعطينا خمسة من هذه الروبوتات
صغار الديناصور
صغار الديناصور
07:59
and we gave them to five teams of people.
146
467822
2453
وأعطيناها لخمسة فرق.
08:02
And we had them name them
147
470299
1697
وطلبنا منهم إطلاق أسماء عليها
08:04
and play with them and interact with them
for about an hour.
for about an hour.
148
472020
3809
واللعب والتفاعل معها لمدة ساعة تقريبًا.
08:08
And then we unveiled
a hammer and a hatchet
a hammer and a hatchet
149
476707
2206
ثم قدمنا لهم مطرقة وفأس
08:10
and we told them to torture
and kill the robots.
and kill the robots.
150
478937
2278
وطلبنا منهم تعذيب الروبوتات وقتلها.
08:13
(Laughter)
151
481239
3007
(ضحك)
08:16
And this turned out to be
a little more dramatic
a little more dramatic
152
484857
2294
وبدا الأمر دراميًا
08:19
than we expected it to be,
153
487175
1278
أكثر مما توقعنا،
08:20
because none of the participants
would even so much as strike
would even so much as strike
154
488477
3072
لأنه لم يقدم أحد من المشاركين
على مجرد ضرب قليلًا
على مجرد ضرب قليلًا
08:23
these baby dinosaur robots,
155
491573
1307
روبوتات صغار الديناصور هذه،
08:24
so we had to improvise a little,
and at some point, we said,
and at some point, we said,
156
492904
5150
لذا توجب علينا الارتجال قليلًا
إلى أن قلنا في مرحلة ما،
إلى أن قلنا في مرحلة ما،
08:30
"OK, you can save your team's robot
if you destroy another team's robot."
if you destroy another team's robot."
157
498078
4437
"يمكنكم إنقاذ روبوت فريقكم
إن قمتم بتدمير روبوت الفريق الآخر".
إن قمتم بتدمير روبوت الفريق الآخر".
08:34
(Laughter)
158
502539
1855
(ضحك)
08:36
And even that didn't work.
They couldn't do it.
They couldn't do it.
159
504839
2195
لم يفلح هذا الأمر أيضًا.
لم يقدروا على فعل هذا.
لم يقدروا على فعل هذا.
08:39
So finally, we said,
160
507058
1151
ولذا قلنا أخيرًا،
08:40
"We're going to destroy all of the robots
161
508233
2032
"سوف نحطم جميع هذه الروبوتات
08:42
unless someone takes
a hatchet to one of them."
a hatchet to one of them."
162
510289
2285
إلا إذا قام أحدكم بضرب
أحد الروبوتات بالفأس"
أحد الروبوتات بالفأس"
08:45
And this guy stood up,
and he took the hatchet,
and he took the hatchet,
163
513586
3579
ثم وقف أحدهم، وأخذ الفأس،
08:49
and the whole room winced
as he brought the hatchet down
as he brought the hatchet down
164
517189
2706
وانتفضت الغرفة بكاملها
حين قام بضرب الفأس
حين قام بضرب الفأس
08:51
on the robot's neck,
165
519919
1780
على رقبة أحد الروبوتات،
08:53
and there was this half-joking,
half-serious moment of silence in the room
half-serious moment of silence in the room
166
521723
6338
سادت لحظة صمت في الغرفة
التي كانت خليطًا بين الجد والمزاح
التي كانت خليطًا بين الجد والمزاح
09:00
for this fallen robot.
167
528085
1698
لهذا الروبوت الذي فقدناه.
09:01
(Laughter)
168
529807
1406
(ضحك)
09:03
So that was a really
interesting experience.
interesting experience.
169
531237
3694
كانت تلك تجربة مثيرة بحق.
09:06
Now, it wasn't a controlled
study, obviously,
study, obviously,
170
534955
2459
بالطبع، لم تكن تلك دراسة
ذات قواعد كما هو واضح
ذات قواعد كما هو واضح
09:09
but it did lead to some
later research that I did at MIT
later research that I did at MIT
171
537438
2850
لكنها مهدت لأبحاث قمت بها
في معهد ماساتشوستس للتكنولوجيا
في معهد ماساتشوستس للتكنولوجيا
09:12
with Palash Nandy and Cynthia Breazeal,
172
540312
2228
مع "بلاش ناندي" و"سينثيا بريزيل"،
09:14
where we had people come into the lab
and smash these HEXBUGs
and smash these HEXBUGs
173
542564
3627
حيث أحضرنا أشخاص للمعمل
لكي يحطموا "آلات سداسية الأرجل"
لكي يحطموا "آلات سداسية الأرجل"
09:18
that move around in a really
lifelike way, like insects.
lifelike way, like insects.
174
546215
3087
وكانت تتحرك في كل مكان
كالحشرات الحقيقية.
كالحشرات الحقيقية.
09:21
So instead of choosing something cute
that people are drawn to,
that people are drawn to,
175
549326
3134
ولذا بدلًا من أحد الأشكال اللطيفة
التي قد يتعاطف الناس معها،
التي قد يتعاطف الناس معها،
09:24
we chose something more basic,
176
552484
2093
اخترنا شيئ أكثر بساطة،
09:26
and what we found
was that high-empathy people
was that high-empathy people
177
554601
3480
ووجدنا أن الأشخاص
الذين لديهم قدر أكبر من التعاطف
الذين لديهم قدر أكبر من التعاطف
09:30
would hesitate more to hit the HEXBUGS.
178
558105
2143
ترددوا أكثر في ضرب
تلك الألات السداسية الأرجل.
تلك الألات السداسية الأرجل.
09:33
Now this is just a little study,
179
561575
1564
هذه مجرد دراسة بسيطة،
09:35
but it's part of a larger body of research
180
563163
2389
ولكنها جزء ضمن بحث أكبر
09:37
that is starting to indicate
that there may be a connection
that there may be a connection
181
565576
2944
الذي بدأ يعطي مؤشرات
أنه لربما كانت هناك علاقة ما
أنه لربما كانت هناك علاقة ما
09:40
between people's tendencies for empathy
182
568544
2373
بين ميل الناس لإظهار تعاطفهم
09:42
and their behavior around robots.
183
570941
1976
وطريقة تصرفهم عند وجود الروبوتات.
09:45
But my question for the coming era
of human-robot interaction
of human-robot interaction
184
573721
3627
إلا أن سؤالي للمرحلة القادمة
من التعامل بين الإنسان والروبوت
من التعامل بين الإنسان والروبوت
09:49
is not: "Do we empathize with robots?"
185
577372
3055
هو ليس: "هل نتعاطف مع الروبوتات؟"
09:53
It's: "Can robots change
people's empathy?"
people's empathy?"
186
581211
2920
بل: "هل يمكن أن تغيرالروبوتات
الطريقة التي يتعاطف بها الناس؟"
الطريقة التي يتعاطف بها الناس؟"
09:57
Is there reason to, for example,
187
585489
2287
فمثلًا، هل هناك سبب ما
09:59
prevent your child
from kicking a robotic dog,
from kicking a robotic dog,
188
587800
2333
يمنع طفلك من ركل روبوت على شكل كلب،
10:03
not just out of respect for property,
189
591228
2914
ليس فقط لأنه يحترم ملكية الآخرين.
10:06
but because the child might be
more likely to kick a real dog?
more likely to kick a real dog?
190
594166
2953
ولكن لأن الطفل قد يكون
أكثر قابلية لركل كلب حقيقي؟
أكثر قابلية لركل كلب حقيقي؟
10:10
And again, it's not just kids.
191
598507
1883
مرة أخرى، الأمر لا يقتصر على الأطفال.
10:13
This is the violent video games question,
but it's on a completely new level
but it's on a completely new level
192
601564
4056
هو ذات السؤال الخاص بألعاب الفيديو العنيفة
ولكن على مستوى جديد تمامًا
ولكن على مستوى جديد تمامًا
10:17
because of this visceral physicality
that we respond more intensely to
that we respond more intensely to
193
605644
4760
هذا العنف الداخلي الذي نستخدمة
بشكل أكثر حدة
بشكل أكثر حدة
10:22
than to images on a screen.
194
610428
1547
مقارنة بصور على شاشة ما.
10:25
When we behave violently towards robots,
195
613674
2578
عندما نظهر العنف اتجاه الروبوتات،
10:28
specifically robots
that are designed to mimic life,
that are designed to mimic life,
196
616276
3120
خصوصًا الروبوتات
المصممة لمحاكاة مخلوقات حية،
المصممة لمحاكاة مخلوقات حية،
10:31
is that a healthy outlet
for violent behavior
for violent behavior
197
619420
3892
هل هذا منفذ صحي للسلوك العنيف
10:35
or is that training our cruelty muscles?
198
623336
2544
أم أن هذا مجرد تمرين للمشاعر العدوانية؟
10:39
We don't know ...
199
627511
1150
نحن لا نعلم
10:42
But the answer to this question has
the potential to impact human behavior,
the potential to impact human behavior,
200
630622
3945
إلا أن إجابة هذا السؤال قد
تكون قادرة على التأثير على السلوك البشري،
تكون قادرة على التأثير على السلوك البشري،
10:46
it has the potential
to impact social norms,
to impact social norms,
201
634591
2768
قد تكون قادرة على التأثير
على الأنماط الإجتماعية،
على الأنماط الإجتماعية،
10:49
it has the potential to inspire rules
around what we can and can't do
around what we can and can't do
202
637383
3849
قد يكون لديها تأثير لإستنباط
قواعد تحدد ما يمكننا وما لا يمكننا فعله
قواعد تحدد ما يمكننا وما لا يمكننا فعله
10:53
with certain robots,
203
641256
1151
مع روبوتات معينة،
10:54
similar to our animal cruelty laws.
204
642431
1848
مشابهة لقوانين تجريم العنف نحو الحيوان.
10:57
Because even if robots can't feel,
205
645228
2864
لأنه حتى وإن لم تقدر الروبوتات على الشعور،
11:00
our behavior towards them
might matter for us.
might matter for us.
206
648116
3080
ربما كانت طريقة تعاملنا معها
مهمة لنا نحن.
مهمة لنا نحن.
11:04
And regardless of whether
we end up changing our rules,
we end up changing our rules,
207
652889
2855
وبغض النظر إن قمنا بتغير قوانيننا أم لا،
11:08
robots might be able to help us
come to a new understanding of ourselves.
come to a new understanding of ourselves.
208
656926
3556
ربما تمكنت الروبوتات من أن تعطينا
فهم أفضل عن أنفسنا.
فهم أفضل عن أنفسنا.
11:14
Most of what I've learned
over the past 10 years
over the past 10 years
209
662276
2316
معظم ما تعلمته خلال العشر سنوات الماضية
11:16
has not been about technology at all.
210
664616
2238
لم يكن يتعلق بالتكنولوجيا إطلاقًا.
11:18
It's been about human psychology
211
666878
2503
بل كان يتعلق بعلم النفس البشري
11:21
and empathy and how we relate to others.
212
669405
2603
والتعاطف وكيفية التواصل مع الآخرين.
11:25
Because when a child is kind to a Roomba,
213
673524
2365
لأنه عندما يكون طفل لطيفًا
مع مكنسة (رومبا)،
مع مكنسة (رومبا)،
11:29
when a soldier tries to save
a robot on the battlefield,
a robot on the battlefield,
214
677262
4015
عندما يحاول جندي إنقاذ
روبوت في ساحة الحرب،
روبوت في ساحة الحرب،
11:33
or when a group of people refuses
to harm a robotic baby dinosaur,
to harm a robotic baby dinosaur,
215
681301
3638
أو عندما ترفض مجموعة من الأشخاص
أن يؤذوا روبوتات على شكل ديناصورات صغيرة،
أن يؤذوا روبوتات على شكل ديناصورات صغيرة،
11:38
those robots aren't just motors
and gears and algorithms.
and gears and algorithms.
216
686248
3191
فإن هذه الروبوتات ليست فقط
محركات وتروس وبرمجيات.
محركات وتروس وبرمجيات.
11:42
They're reflections of our own humanity.
217
690501
1905
ولكنها إنعكاس لأنسانيتنا كذلك.
11:45
Thank you.
218
693523
1151
شكرًا جزيلًا.
11:46
(Applause)
219
694698
3397
(تصفيق)
ABOUT THE SPEAKER
Kate Darling - Robot ethicistKate Darling investigates the relationship between humans and robots -- now, and in the future.
Why you should listen
Robots are taking increasingly bigger roles in life and business -- moving well beyond manufacturing and into transportation, education, medicine, care for the elderly, our offices and our homes. But ethics and law haven't caught up. Kate Darling, a pioneer in these fields, is helping quicken the pace.
A leading expert in robot ethics, Darling is a researcher at the Massachusetts Institute of Technology (MIT) Media Lab where she investigates social robotics and conducts experimental studies on human-robot interaction. Darling explores the emotional connection between people and life-like inventions, seeking to influence technology design and policy direction. Her writing and research anticipate difficult questions that lawmakers, engineers and the wider public must address as human-robot relationships evolve in the coming decades.
While her background is in intellectual property and law and economics, Darling's passion for technology and robots led her to interdisciplinary fields. She's a former Fellow and current Affiliate at the Harvard Berkman Klein Center for Internet & Society and a former fellow at the Yale Information Society Project, and she's an affiliate at the Institute for Ethics and Emerging Technologies.
Her work has been featured in Vogue, The New Yorker, The Guardian, BBC, NPR, PBS, The Boston Globe, Forbes, CBC, WIRED, Boston Magazine, The Atlantic, Slate, Die Zeit, The Japan Times and more. She is a contributing writer to Robohub and IEEE Spectrum and speaks and holds workshops covering some of the more interesting developments in the world of robotics, and where we might find ourselves in the future.
Darling graduated from law school with honors and holds a doctorate of sciences from the Swiss Federal Institute of Technology (ETH Zurich) and an honorary doctorate of sciences from Middlebury College. In 2017, the American Bar Association honored her legal work with the Mark T. Banner award in Intellectual Property. She is the caretaker for several domestic robots, including her Pleos Yochai, Peter, and Mr. Spaghetti. She tweets as @grok_ about eating cheerios for dinner.
Kate Darling | Speaker | TED.com