TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
کریتی شارما: چگونه هوش مصنوعی را بدور از تعصب‌های انسانی نگه داریم
Filmed:
Readability: 4
2,050,106 views
الگوریتم‌های هوش مصنوعی دائما تصمیمات مهمی در باره شما می‌گیرند -- مثلا چقدر برای بیمه ماشین باید پرداخت کنید یا آیا به آن مصاحبه شغلی دعوت می‌شوید یا نه. اما اگر این ماشین‌ها با تعصبات انسانی برنامه نویسی شوند چه پیش خواهد آمد؟ کریتی شارما که متخصص فناوری است به این موضوع پرداخته که عدم توجه به گوناگونی در فناوری به تدریج وارد هوش مصنوعی می‌گردد، و سه راه برای آنکه بتوانیم الگوریتم‌های اخلاقی‌تری بسازیم را پیشنهاد می‌دهد.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
امروز چند تصمیم درباره شما،
00:16
or this week or this year,
1
4667
2601
یا این هفته، یا امسال،
00:19
by artificial intelligence?
2
7292
1958
توسط هوش مصنوعی گرفته شده؟
00:22
I build AI for a living
3
10958
1685
کار من ساختن هوش مصنوعی است
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
رک بگویم از آن خوره‌ها هستم.
00:27
And because I'm kind of a nerd,
5
15708
2393
و چون خوره هستم،
00:30
wherever some new news story comes out
6
18125
2351
هرجایی که خبر تازه‌ای بشنوم
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
از اینکه هوش مصنوعی
همه کار‌هایمان را می‌دزدد،
همه کار‌هایمان را می‌دزدد،
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
یا رباتها واقعا شهروند کشور می‌شوند،
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
من کسی هستم که دوستان و هواداران
به او پیغام می‌دهند
به او پیغام می‌دهند
00:43
freaking out about the future.
10
31333
1542
و ترسشان از آینده را عنوان می‌کنند.
00:45
We see this everywhere.
11
33833
2101
این را همه جا می‌بینیم.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
این ترس رسانه‌ای که فرمان‌روایان
رباتیک ما دارند پیروز می‌شوند.
رباتیک ما دارند پیروز می‌شوند.
00:52
We could blame Hollywood for that.
13
40875
1917
می‌شود هالیوود را بخاطرش سرزنش کرد.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
اما در واقع، این مشکلی نیست
که باید رویش تمرکز کنیم.
که باید رویش تمرکز کنیم.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
یک خطر مهمتر وجود دارد،
خطری بزرگتر با هوش مصنوعی،
خطری بزرگتر با هوش مصنوعی،
01:04
that we need to fix first.
16
52917
1583
که باید اول تصحیحش کرد.
01:07
So we are back to this question:
17
55417
2309
پس به این سوال بر می‌گردیم:
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
امروز هوش مصنوعی
چند تصمیم درباره‌ات گرفته؟
چند تصمیم درباره‌ات گرفته؟
01:15
And how many of these
19
63792
1976
و چند‌تای آنها
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
بر مبنای جنسیت،
نژاد یا پیشینه‌ات بوده؟
نژاد یا پیشینه‌ات بوده؟
01:24
Algorithms are being used all the time
21
72500
2768
دائما از الگوریتم‌ها
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
در تصمیم‌گیری از اینکه که هستیم
و چه می‌خواهیم استفاده می‌شود.
و چه می‌خواهیم استفاده می‌شود.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
بعضی از خانم‌های حاضر
در اینجا می‌دانند از چه صحبت می‌کنم
در اینجا می‌دانند از چه صحبت می‌کنم
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
اگر شما هم مجبور بودید
آن تبلیغات آزمایش بارداری را
آن تبلیغات آزمایش بارداری را
01:39
like 1,000 times.
25
87667
2059
روزی هزار بار روی یوتیوب ببینید.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
یا اگر روزی تبلیغات
کلینیک‌های بارور‌سازی را
کلینیک‌های بارور‌سازی را
01:44
on your Facebook feed.
27
92625
2042
روی فیس‌بوک دیده بودید.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
یا در مورد من دفتر‌خانه‌های ازدواج هندی‌ها
01:50
(Laughter)
29
98042
1267
(خنده حضار)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
اما از هوش مصنوعی فقط برای تصمیم گیری
01:54
about what products we want to buy
31
102333
2601
در باره اینکه چه محصولی بخریم
01:56
or which show we want to binge watch next.
32
104958
2500
یا کدام برنامه تلویزیونی را
می‌ببینیم استفاده نمی‌شود.
می‌ببینیم استفاده نمی‌شود.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
دوست دارم احساس شما را در مورد
کسانی که به این چیزها فکر کرده‌اند بدانم:
کسانی که به این چیزها فکر کرده‌اند بدانم:
02:06
"A black or Latino person
34
114250
1934
«سیاه‌پوست‌ها یا لاتین تبار‌ها
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
کمتر احتمال دارد تا وامشان را
سر وقت تسویه کنند.»
سر وقت تسویه کنند.»
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
«کسی که نامش جان باشد
احتمالا برنامه نویس بهتری است
احتمالا برنامه نویس بهتری است
02:16
than a person called Mary."
37
124375
1667
از کسی که نامش مِری است.»
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
«یک مرد سیاه احتمال بیشتری دارد
که یک جرم را چند بار مرتکب شود.»
که یک جرم را چند بار مرتکب شود.»
02:26
You're probably thinking,
39
134958
1268
احتمالا فکر می‌کنید که،
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
«عجب، خیلی جنسیتی،
و تبعیض گرایانه است،» درسته؟
و تبعیض گرایانه است،» درسته؟
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
این‌ها واقعا تصمیم‌هایی است
که هوش مصنوعی همین اخیرا گرفته است،
که هوش مصنوعی همین اخیرا گرفته است،
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
بر مبنای تمایلاتی که از ما یاد گرفته،
02:40
from the humans.
43
148833
1250
از انسانها.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
هوش مصنوعی برای کمک به تصمیم‌گیری
برای انجام یک مصاحبه شغلی استفاده می‌شده؛
برای انجام یک مصاحبه شغلی استفاده می‌شده؛
02:48
how much you pay for your car insurance;
45
156583
2393
چقدر برای بیمه ماشین پرداخت می‌کنی؛
02:51
how good your credit score is;
46
159000
1893
رتبه اعتباری‌ات چقدر خوب است؛
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
و در بازبینی سالانه کارایی،
چه رتبه‌ای می‌گیری.
چه رتبه‌ای می‌گیری.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
اما همه این تصمیم‌ها
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
بر مبنای فرضیاتی در مورد هویت ما،
نژاد ما، جنسیت ما و سن ما گرفته می‌شود.
نژاد ما، جنسیت ما و سن ما گرفته می‌شود.
03:08
How is that happening?
50
176250
2268
چطور اتفاق می‌افتد؟
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
فرض کنید که هوش مصنوعی
می‌خواهد به مدیر استخدامی کمک کند
می‌خواهد به مدیر استخدامی کمک کند
03:14
find the next tech leader in the company.
52
182083
2851
تا یک راهبر فنی دیگر برای شرکت پیدا کند.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
تا حالا این مدیر بیشتر
مردان را استخدام می‌کرده.
مردان را استخدام می‌کرده.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
پس هوش مصنوعی یاد گرفته که احتمال اینکه
مردها برنامه نویس بشوند بیشتر است.
مردها برنامه نویس بشوند بیشتر است.
03:25
And it's a very short leap from there to:
55
193542
2892
و از اینجا تا مرحله بعد تنها یک قدم است:
03:28
men make better programmers than women.
56
196458
2042
مردها از زنها برنامه‌نویس‌‌های بهتری هستند.
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
ما هوش مصنوعی را
به تمایلات خودمان تجهیز کردیم.
به تمایلات خودمان تجهیز کردیم.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
و حالا، او خودش کاندیدا‌های
زن را حذف می‌کند.
زن را حذف می‌کند.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
ببین اگر یک مسئول استخدام
مرد این کار را می‌کرد،
مرد این کار را می‌کرد،
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
ناراحت می‌شدیم، اجازه نمی‌دادیم.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
این نوع از تبعیض‌های جنسیتی درست نیست.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
با این همه حالا، هوش مصنوعی
از قانون هم بالاتر رفته،
از قانون هم بالاتر رفته،
03:54
because a machine made the decision.
63
222375
2083
چون ماشین تصمیم میگیرد.
03:57
That's not it.
64
225833
1518
این تنها نیست.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
ما در رابطه با هوش مصنوعی
هم تمایلات خودمان را وارد می کنیم.
هم تمایلات خودمان را وارد می کنیم.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
معمولا چقدر از دستیار‌های صوتی مانند
سیری، اَلکسا یا کورتانا استفاده می‌کنید؟
سیری، اَلکسا یا کورتانا استفاده می‌کنید؟
04:10
They all have two things in common:
67
238917
2559
همه آنها دو چیز مشترک دارند:
04:13
one, they can never get my name right,
68
241500
3101
اول، هیچوقت اسمم را درست نمی‌گویند،
04:16
and second, they are all female.
69
244625
2667
و دوم، همه‌شان زن هستند.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
طراحی شده‌اند تا مطیع و خدمتگذارمان باشند،
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
چراغ‌هایتان را خاموش روشن کنند،
خریدتان را سفارش بدهند.
خریدتان را سفارش بدهند.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
هوش مصنوعی مذکر هم داریم،
اما قرار بوده تا قوی‌تر باشند،
اما قرار بوده تا قوی‌تر باشند،
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
مثل واتسون از آی بی ام،
که تصمیم‌های تجاری میگیرد،
که تصمیم‌های تجاری میگیرد،
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
انیشتین از سیلزفورس،
یا راس که وکیل ربات است.
یا راس که وکیل ربات است.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
بیچاره رباتها، حتی آنها هم دچار
تبعیض جنسی شغلی هستند.
تبعیض جنسی شغلی هستند.
04:42
(Laughter)
76
270292
1125
(خنده حضار)
04:44
Think about how these two things combine
77
272542
2851
حالا فکر کنید که چطور
این دو با هم ترکیب می‌شوند
این دو با هم ترکیب می‌شوند
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
و روی کودکی که در جهان اطراف
هوش مصنوعی بزرگ می‌شود اثر می‌گذارند.
هوش مصنوعی بزرگ می‌شود اثر می‌گذارند.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
تحقیقی روی یک پروژه در مدرسه انجام شده
04:55
and they Google images of CEO.
80
283708
3018
و آنها عکس مدیر عامل را
با گوگل جستجو کرده‌اند.
با گوگل جستجو کرده‌اند.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
و الگوریتم به آنها بیشتر
تصویر مردان را نشان داده است.
تصویر مردان را نشان داده است.
05:01
And now, they Google personal assistant.
82
289667
2559
بعد آنها دستیار شخصی را
با گوگل جستجو کردند.
با گوگل جستجو کردند.
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
و همانطور که حدس می‌زنید،
بیشتر تصویر زنها را نشان می‌دهد.
بیشتر تصویر زنها را نشان می‌دهد.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
بعد خواستند تا موسیقی
پخش کند و غذا سفارش بدهند،
پخش کند و غذا سفارش بدهند،
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
و حالا دارند سر دستیار
صوتی زن داد می‌زنند.
صوتی زن داد می‌زنند.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
این فناوری‌ها را بعضی از درخشان‌ترین
اندیشمندان ما خلق می‌کنند.
اندیشمندان ما خلق می‌کنند.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
فناوری که می‌توانستند
به هر شکلی که می‌خواهند خلق کنند.
به هر شکلی که می‌خواهند خلق کنند.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
اما خواستند تا آن را به شکل منشی‌های
سریال «مَد من» دهه ۱۹۵۰ بسازند.
سریال «مَد من» دهه ۱۹۵۰ بسازند.
05:34
Yay!
89
322792
1500
چه عالی!
05:36
But OK, don't worry,
90
324958
1310
اما نگران نباشید.
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
قرار نیست صحبتم با گفتن اینکه
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
ما به سوی ماشین‌های جنسیتی،
نژاد پرستانه می‌رویم تمام شود.
نژاد پرستانه می‌رویم تمام شود.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
خبر خوب درباره هوش مصنوعی
اینکه کاملا در اختیار خودمان است.
اینکه کاملا در اختیار خودمان است.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
ما باید ارزش‌های صحیح،
اخلاقیات درست را به آن آموزش دهیم.
اخلاقیات درست را به آن آموزش دهیم.
05:56
So there are three things we can do.
95
344167
2184
می‌توانیم سه کار انجام دهیم.
05:58
One, we can be aware of our own biases
96
346375
3351
اول، می‌شود از تمایلات خودمان
06:01
and the bias in machines around us.
97
349750
2726
و تمایلات ماشین‌های اطرافمان آگاه باشیم.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
دوم، مطمئن شویم که گروهی
با افکار متنوع این فناوری را می‌سازند.
با افکار متنوع این فناوری را می‌سازند.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
و سوم، باید تجربیاتی متنوع برایش
ایجاد کنیم تا از آن یاد بگیرد.
ایجاد کنیم تا از آن یاد بگیرد.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
می‌توانم در دو مورد اول
از تجربه خودم برایتان بگویم.
از تجربه خودم برایتان بگویم.
06:18
When you work in technology
101
366208
1435
اگر کارتان فناوری باشد
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
و شبیه مارک زاکربرگ
یا ایلان ماسک نباشید،
یا ایلان ماسک نباشید،
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
کمی زندگی برایتان سخت است،
توانایی‌هایتان زیر سوال است.
توانایی‌هایتان زیر سوال است.
06:27
Here's just one example.
104
375875
1393
مثالی می‌آورم،
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
مثل خیلی از برنامه نویس‌ها،
اغلب عضو انجمن‌های آنلاین فناوری می‌شوم
اغلب عضو انجمن‌های آنلاین فناوری می‌شوم
06:33
and share my knowledge to help others.
106
381042
3226
و اطلاعاتم را برای کمک
به دیگران به اشتراک می‌گذارم.
به دیگران به اشتراک می‌گذارم.
06:36
And I've found,
107
384292
1309
فهمیدم که،
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
اگر به عنوان خودم وارد شوم،
با عکس خودم، اسم خودم،
با عکس خودم، اسم خودم،
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
معمولا سوال‌ها یا نظراتی
مثل این را می‌گیرم:
مثل این را می‌گیرم:
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
«چرا فکر می‌کنی واجد شرایط
صحبت در مورد هوش مصنوعی هستی؟»
صحبت در مورد هوش مصنوعی هستی؟»
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
«چرا فکر می‌کنی که
یادگیری ماشینی را می‌دانی؟»
یادگیری ماشینی را می‌دانی؟»
06:53
So, as you do, I made a new profile,
112
401958
3435
پس من هم مثل شما، پروفایل جدیدی ساختم،
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
و این دفعه به جای عکس خودم،
عکس یک گربه با موتور جت را گذاشتم.
عکس یک گربه با موتور جت را گذاشتم.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
و اسمی را انتخاب کردم
که جنسیتم را نشان ندهد.
که جنسیتم را نشان ندهد.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
احتمالا فهمیده‌اید که به کجا می‌رسم، نه؟
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
خوب این بار، هیچکدام از آن پیام‌های
از موضع بالا در مورد تواناییم را نگرفتم
از موضع بالا در مورد تواناییم را نگرفتم
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
و واقعا توانستم کار‌هایی انجام دهم.
07:19
And it sucks, guys.
118
427500
1851
و دوستان این خیلی بد است.
07:21
I've been building robots since I was 15,
119
429375
2476
من از ۱۵ سالگی روبات می‌سازم،
07:23
I have a few degrees in computer science,
120
431875
2268
و چندین مدرک در علوم رایانه دارم،
07:26
and yet, I had to hide my gender
121
434167
2434
و هنوز باید جنسیتم را مخفی کنم
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
تا کارم جدی گرفته شود.
07:31
So, what's going on here?
123
439875
1893
اینجا چه خبر است؟
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
آیا مردان در فناوری از زنان بهترند؟
07:37
Another study found
125
445917
1559
تحقیق دیگری می‌گوید
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
که برنامه نویسان زنی که مثل
من جنسیتشان را مخفی می‌کنند،
من جنسیتشان را مخفی می‌کنند،
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
برنامه‌هایشان چهار درصد بیشتر
از مردان پذیرفته می‌شود.
از مردان پذیرفته می‌شود.
07:48
So this is not about the talent.
128
456542
2916
پس ربطی به استعداد ندارد.
07:51
This is about an elitism in AI
129
459958
2893
مربوط به نخبه‌گرایی در هوش مصنوعی است
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
که می‌گوید یک برنامه نویس
باید شکل خاصی باشد.
باید شکل خاصی باشد.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
کاری که واقعا باید انجام دهیم
تا هوش مصنوعی را بهتر کنیم
تا هوش مصنوعی را بهتر کنیم
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
این است که آدمهایی با سوابق
متفاوت را کنار هم قرار دهیم.
متفاوت را کنار هم قرار دهیم.
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
افرادی را می‌خواهیم که بتوانند
بنویسند و داستان بگویند
بنویسند و داستان بگویند
08:09
to help us create personalities of AI.
134
477125
2167
تا بتوانیم شخصیت‌های هوش مصنوعی را بسازیم.
08:12
We need people who can solve problems.
135
480208
2042
آدمهایی می‌خواهیم که مشکلات را حل کنند،
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
آدمهایی می‌خواهیم
که با چالش‌های مختلف مواجه باشند
که با چالش‌های مختلف مواجه باشند
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
و ما به افرادی نیاز داریم تا بگویند
که کدام مسائل واقعا باید حل شوند
که کدام مسائل واقعا باید حل شوند
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
و کمک کنند تا راه‌هایی برای
حل آنها توسط فناوری پیدا کنیم.
حل آنها توسط فناوری پیدا کنیم.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
چون، وقتی افرادی
با سوابق مختلف کنار هم قرار گیرند،
با سوابق مختلف کنار هم قرار گیرند،
08:33
when we build things in the right way,
140
501583
2143
وقتی چیزها را به شکل صحیحی بسازیم،
08:35
the possibilities are limitless.
141
503750
2042
دیگر محدودیتی نخواهیم داشت.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
و می‌خواهم با صحبت در این باره تمام کنم.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
ربات‌های نژاد‌پرست کم شوند، ماشین‌هایی
که کار‌هایمان را می‌گیرند باید کم شوند --
که کار‌هایمان را می‌گیرند باید کم شوند --
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
و آنهایی که فناوری واقعا
برایمان می‌آورد بیشتر شوند.
برایمان می‌آورد بیشتر شوند.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
درست است بخشی از انرژی
در دنیای هوش مصنوعی،
در دنیای هوش مصنوعی،
08:53
in the world of technology
146
521750
1393
در جهان فناوری
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
صرف تبلیغاتی می‌شود
که در این جریان می‌بینید.
که در این جریان می‌بینید.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
اما بیشتر آن برای بهتر شدن
جهان صرف می‌شود.
جهان صرف می‌شود.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
به زنی باردار در جمهوری
دموکراتیک کنگو توجه کنید،
دموکراتیک کنگو توجه کنید،
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
که باید ۱۷ ساعت تا نزدیکترین
کلینیک زنان پیاده راه برود
کلینیک زنان پیاده راه برود
09:13
to get a checkup.
151
541500
1851
برای معاینه.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
چه می‌شد اگر می‌توانست
توسط تلفنش معاینه شود؟
توسط تلفنش معاینه شود؟
یا فکر کنید هوش مصنوعی
می‌تواند چه کاری
می‌تواند چه کاری
09:19
Or think about what AI could do
153
547750
1809
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
برای یکی از هر سه زن در آفریقای جنوبی
09:24
who face domestic violence.
155
552333
2125
که دچار خشونت‌های
خانوادگی هستند انجام دهد.
خانوادگی هستند انجام دهد.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
اگر بلند صحبت کردن امن نباشد،
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
می‌توانند از هوش مصنوعی
برای فعال کردن اخطار استفاده کنند،
برای فعال کردن اخطار استفاده کنند،
09:32
get financial and legal advice.
158
560333
2459
و راهنمایی مالی و قانونی بگیرند.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
این‌ها مثال‌هایی واقعی از پروژه‌هایی است
که افرادی، مثل خودم،
که افرادی، مثل خودم،
09:41
are working on right now, using AI.
160
569000
2500
با استفاده از هوش مصنوعی،
همین حالا رویش کار می‌کنند.
همین حالا رویش کار می‌کنند.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
مطمئنم که ظرف چند روز آینده داستانی خبری
09:49
about the existential risk,
162
577167
2684
از تهدید وجودی اینکه،
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
رباتها می‌آیند و کارهایتان را
می‌گیرند خواهیم داشت.
می‌گیرند خواهیم داشت.
09:54
(Laughter)
164
582333
1018
(خنده حضار)
09:55
And when something like that happens,
165
583375
2309
و وقتی چیزی شبیه این اتفاق بیفتد،
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
می‌دانم که همین پیام
نگرانی از آینده را می‌گیرم.
نگرانی از آینده را می‌گیرم.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
اما بی‌نهایت در مورد این فناوری مثبت هستم.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
این فرصتی برای تبدیل دوباره جهان
به مکانی خیلی بیشتر برابر است.
به مکانی خیلی بیشتر برابر است.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
اما برای این کار باید
به شکلی صحیح آن را شروع کنیم.
به شکلی صحیح آن را شروع کنیم.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
ما به افرادی با جنسیت‌ها،
نژاد‌ها و سوابق مختلف نیاز داریم.
نژاد‌ها و سوابق مختلف نیاز داریم.
10:26
We need women to be the makers
171
614458
2476
نیاز داریم تا زنان سازنده باشند
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
نه ماشین‌هایی که خواسته‌های
سازندگان را انجام می‌دهند.
سازندگان را انجام می‌دهند.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
باید به دقت فکر کنیم
که چه چیزی به ماشین‌ها می‌آموزیم،
که چه چیزی به ماشین‌ها می‌آموزیم،
10:37
what data we give them,
174
625667
1642
چه اطلاعاتی به آنها می‌دهیم،
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
تا آنها فقط اشتباهات
گذشته ما را تکرار نکنند.
گذشته ما را تکرار نکنند.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
امیدوارم که بعد از رفتنم
شما به دو چیز فکر کنید.
شما به دو چیز فکر کنید.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
اول، امیدوارم که
به تمایلات امروز فکر نکنید.
به تمایلات امروز فکر نکنید.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
و بار بعدی که از روی تبلیغی عبور می‌کنید
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
که فکر می‌کند شما به
کلینیک‌های باروری علاقه‌‌مندید
کلینیک‌های باروری علاقه‌‌مندید
10:59
or online betting websites,
180
647167
2851
یا وب‌سایت‌های شرط بندی،
11:02
that you think and remember
181
650042
2017
فکر کنید و بیاد آورید
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
که همین تکنولوژی فرض می‌کند
که مرد سیاه‌پوست قانون‌شکن است.
که مرد سیاه‌پوست قانون‌شکن است.
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
یا اینکه زنها احتمال بیشتری دارد
که دستیار شوند تا مدیرعامل.
که دستیار شوند تا مدیرعامل.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
و امیدوارم که به یادتان بیاورد
باید کاری در موردش انجام دهیم.
باید کاری در موردش انجام دهیم.
11:20
And second,
185
668917
1851
و دوم،
11:22
I hope you think about the fact
186
670792
1892
امیدوارم در باره این واقعیت فکر کنید
11:24
that you don't need to look a certain way
187
672708
1976
که نیازی نیست تا ظاهری خاص
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
یا سابقه‌ای ویژه در
مهندسی یا فناوری داشته باشید
مهندسی یا فناوری داشته باشید
11:30
to create AI,
189
678583
1268
تا هوش مصنوعی خلق کنید.
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
که نیروی خالق العاده‌ای
برای آینده‌مان خواهد بود.
برای آینده‌مان خواهد بود.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
نیازی نیست شبیه مارک زاکربرگ باشید.
11:38
you can look like me.
192
686333
1250
می‌توانید شکل من باشید.
11:41
And it is up to all of us in this room
193
689250
2893
و این بر عهده همه ما در این سالن است
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
تا دولت‌ها و شرکت‌ها را قانع کنیم
11:46
to build AI technology for everyone,
195
694917
2892
تا فناوری هوش مصنوعی را برای همه بسازند،
11:49
including the edge cases.
196
697833
2393
حتی آنهایی که مرزی هستند.
11:52
And for us all to get education
197
700250
2059
و برای ما تا همه آموزش ببینند
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
در مورد این فناوری فوقالعاده آینده.
11:58
Because if we do that,
199
706167
2017
چون اگر این کار را انجام دهیم،
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
تازه تنها به لایه سطحی چیزی رسیده‌ایم
که با هوش‌مصنوعی می‌توانیم انجام دهیم.
که با هوش‌مصنوعی می‌توانیم انجام دهیم.
12:05
Thank you.
201
713125
1268
متشکرم.
12:06
(Applause)
202
714417
2708
(تشویق حضار)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com