TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
크리티 샤마(Kriti Sharma): 인공지능에서 인간적 편향을 피하는 법
Filmed:
Readability: 4
2,050,106 views
인공지능 알고리즘은 자동차 보험에 얼마를 지불해야 하는지, 또는 구직 면접을 받을지 여부와 같이 항상 중요한 결정을 내립니다. 그러나 시스템에 인간적 편향을 코딩하여 구축되면 어떻게 될까요? 과학 기술자인 크리티 샤마(Kriti Sharma)는 기술의 다양성 부족이 어떻게 인공 지능에 침투하는지 탐구하고, 더 윤리적인 알고리즘을 만들 수 있는 세 가지 방법을 제시합니다.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
여러분은 인공지능의 도움을 받아서
00:16
or this week or this year,
1
4667
2601
오늘이나 이번 주 혹은 올해
00:19
by artificial intelligence?
2
7292
1958
얼마나 많은 결정을 내리셨나요?
00:22
I build AI for a living
3
10958
1685
제 직업은 인공지능을
구축하는 것입니다.
구축하는 것입니다.
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
그러니까 밝히자면 좀 범생이에요.
00:27
And because I'm kind of a nerd,
5
15708
2393
제가 범생이라서
00:30
wherever some new news story comes out
6
18125
2351
새로운 뉴스에서 인공지능이
일자리를 뺏는다거나
일자리를 뺏는다거나
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
실제 국가의 시민권을 획득한다거나 하는
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
뉴스가 나오면 친구들과 주변인들이
00:43
freaking out about the future.
10
31333
1542
그렇게 될까 봐 기겁해서
저에게 메시지를 보내요.
저에게 메시지를 보내요.
00:45
We see this everywhere.
11
33833
2101
로봇 과다 현상이 세상을 점령한다는
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
미디어 공포 현상은
여기저기에 만연해 있어요.
여기저기에 만연해 있어요.
00:52
We could blame Hollywood for that.
13
40875
1917
할리우드로 비난의 화살을
돌리기도 합니다.
돌리기도 합니다.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
하지만 현실은 그걸
걱정할 때가 아닙니다.
걱정할 때가 아닙니다.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
인공지능에는 더 큰
위험이 도사리고 있는데
위험이 도사리고 있는데
01:04
that we need to fix first.
16
52917
1583
이것부터 고쳐야 합니다.
01:07
So we are back to this question:
17
55417
2309
이 질문으로 돌아가 볼게요.
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
여러분은 오늘 인공지능 도움으로
얼마나 많은 결정을 내렸나요?
얼마나 많은 결정을 내렸나요?
01:15
And how many of these
19
63792
1976
얼마나 많은 결정이
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
성별, 인종, 배경에 기반해서
이루어졌나요?
이루어졌나요?
01:24
Algorithms are being used all the time
21
72500
2768
알고리즘은 항상 우리가 누구이고
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
무엇을 원하는지 결정을
내리는데 이용됩니다.
내리는데 이용됩니다.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
여기 계신 몇몇 여성분들은
무슨 말인지 아실 거예요.
무슨 말인지 아실 거예요.
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
유튜브로 임신 테스트를
01:39
like 1,000 times.
25
87667
2059
한 1,000번 정도 했는지
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
또는 페이스북에서
가임 클리닉 광고를 보고
가임 클리닉 광고를 보고
01:44
on your Facebook feed.
27
92625
2042
스크롤을 내리며 지나쳤는지와
같은 것들 말입니다.
같은 것들 말입니다.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
아니면 제 경우에는
인도 결혼 상담소가 있어요.
인도 결혼 상담소가 있어요.
01:50
(Laughter)
29
98042
1267
(웃음)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
인공지능은 단지 무엇을 살지 또는
01:54
about what products we want to buy
31
102333
2601
무슨 티브이 프로그램을
돌려가며 볼지에 대해
돌려가며 볼지에 대해
결정을 내리는 데에만
활용되는 것이 아닙니다.
활용되는 것이 아닙니다.
01:56
or which show we want to binge watch next.
32
104958
2500
누가 이런 생각을 한다면
어떨지 한 번 생각해보세요.
어떨지 한 번 생각해보세요.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
"흑인이나 라틴계 사람이
02:06
"A black or Latino person
34
114250
1934
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
백인보다 대출금을
제때 잘 갚지 않는다."
제때 잘 갚지 않는다."
"존이라는 사람이 메리라는 사람보다
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
더 나은 프로그래머다."
02:16
than a person called Mary."
37
124375
1667
"흑인 남성은 백인 남성보다
더 자주 범죄를 되풀이한다."
더 자주 범죄를 되풀이한다."
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
그러면 여러분은 아마
이렇게 생각하실 겁니다.
이렇게 생각하실 겁니다.
02:26
You're probably thinking,
39
134958
1268
"와, 그건 성차별적이고
인종차별적인 발언이야."라고요.
인종차별적인 발언이야."라고요.
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
최근에 인공지능이 내린
결정 중에서는
결정 중에서는
우리 인간에게 배운 편향에
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
의한 것이었습니다.
02:40
from the humans.
43
148833
1250
인공지능은 구직 면접을 받을지 여부와
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
자동차 보험에 얼마를 지불할지,
02:48
how much you pay for your car insurance;
45
156583
2393
신용 점수는 얼마나 좋은지
02:51
how good your credit score is;
46
159000
1893
심지어 연례 실적 평가로 몇 점을
주어야 할 지도 결정합니다.
주어야 할 지도 결정합니다.
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
하지만 이러한 결정들이
우리의 정체성, 인종, 성별, 나이에
우리의 정체성, 인종, 성별, 나이에
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
근거한 추측을 거쳐서 만들어집니다.
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
어떻게 이런 일이 일어나는 걸까요?
03:08
How is that happening?
50
176250
2268
이제 한 채용 담당자가
회사의 차기 기술 선도자를
회사의 차기 기술 선도자를
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
03:14
find the next tech leader in the company.
52
182083
2851
뽑는데 인공지능이
관여한다고 상상해보세요.
관여한다고 상상해보세요.
지금까지 채용 담당자는
대부분 남자였습니다.
대부분 남자였습니다.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
그래서 인공지능은 프로그래머가
대부분 여자가 아닌 남자라고 배웁니다.
대부분 여자가 아닌 남자라고 배웁니다.
여기서 매우 짧은 도약으로 인공지능은
03:25
And it's a very short leap from there to:
55
193542
2892
03:28
men make better programmers than women.
56
196458
2042
남자가 여자보다 더 나은
프로그래머라는 결정을 내립니다.
프로그래머라는 결정을 내립니다.
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
우리의 편향을 인공지능에
보강하고 있었던 겁니다.
보강하고 있었던 겁니다.
이제, 여성 후보자들을 선별합니다.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
잠시만요, 만약
인간 채용 담당자가 그랬다면
인간 채용 담당자가 그랬다면
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
우리는 분노하며
허용하지 않을 것입니다.
허용하지 않을 것입니다.
이러한 성차별은 옳지 않습니다.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
히지만 어쩐 일인지 인공지능이
법 우위에 서게 되었습니다.
법 우위에 서게 되었습니다.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
왜냐하면 기계가 결정을 내리니까요.
03:54
because a machine made the decision.
63
222375
2083
이게 다가 아닙니다.
03:57
That's not it.
64
225833
1518
우리는 또한 인공지능과 상호 작용
하는데 편향을 강화하고 있습니다.
하는데 편향을 강화하고 있습니다.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
시리, 알렉사, 코타나와 같은
음성 비서를 얼마나 자주 사용하나요?
음성 비서를 얼마나 자주 사용하나요?
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
이러한 음성 보조 장치에는
전부 두 가지 공통점이 있습니다.
전부 두 가지 공통점이 있습니다.
04:10
They all have two things in common:
67
238917
2559
첫째, 내 이름을 전혀 올바르게
발음하지 못합니다.
발음하지 못합니다.
04:13
one, they can never get my name right,
68
241500
3101
둘째, 모두 여자입니다.
04:16
and second, they are all female.
69
244625
2667
우리에게 순종하는 하인이
되도록 설계되어
되도록 설계되어
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
명령에 따라 전등을 켜고 끄고,
장을 대신 보기도 합니다.
장을 대신 보기도 합니다.
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
남성 인공지능도 있지만
더 책임이 막중한 일을 맡습니다.
더 책임이 막중한 일을 맡습니다.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
IBM 왓슨처럼
사업 의사 결정을 내리거나
사업 의사 결정을 내리거나
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
판매 담당자 아인슈타인이나
로봇 변호사 로스가 됩니다.
로봇 변호사 로스가 됩니다.
불쌍한 로봇들, 직장에서도
성차별로 고통받는군요.
성차별로 고통받는군요.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
(웃음)
04:42
(Laughter)
76
270292
1125
이 두 가지가 결합해서
인공지능이 존재하는 오늘날
인공지능이 존재하는 오늘날
04:44
Think about how these two things combine
77
272542
2851
자라나는 어린이에게
어떤 영향을 미칠지 생각해보세요.
어떤 영향을 미칠지 생각해보세요.
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
아이들은 학교 프로젝트를 위해
조사를 합니다.
조사를 합니다.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
최고경영자 이미지를 구글링합니다.
04:55
and they Google images of CEO.
80
283708
3018
알고리즘은 대부분 남성을 보여줍니다.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
그리고 이제 아이들은
개인 비서를 구글링합니다.
개인 비서를 구글링합니다.
05:01
And now, they Google personal assistant.
82
289667
2559
예상하신 대로
대부분 여성을 보여줍니다.
대부분 여성을 보여줍니다.
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
그리고 아이들은 음악도 넣고
음식도 주문하고 싶을 거예요.
음식도 주문하고 싶을 거예요.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
순종적인 여성 음성 비서에게
아이들은 소리쳐 주문합니다.
아이들은 소리쳐 주문합니다.
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
몇몇의 뛰어난 지성인들이
오늘날 이 기술을 창조합니다.
오늘날 이 기술을 창조합니다.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
그들이 원하는 대로
기술을 창조할 수 있습니다.
기술을 창조할 수 있습니다.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
그런데도 굳이 1950년대 "매드 맨"
비서 스타일로 만들기로 선택했네요.
비서 스타일로 만들기로 선택했네요.
만세!
05:34
Yay!
89
322792
1500
하지만 괜찮아요, 걱정 마세요
05:36
But OK, don't worry,
90
324958
1310
제가 말씀드리려는 것은
이게 끝이 아닙니다.
이게 끝이 아닙니다.
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
성차별적이고 인종차별적인 기계가
세상을 움직인다고 말씀드렸지만
세상을 움직인다고 말씀드렸지만
인공지능에 대한 좋은 소식은 우리가
전적으로 통제할 수 있다는 것입니다.
전적으로 통제할 수 있다는 것입니다.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
인공지능에게 올바른 가치와 윤리관을
가르칠 수 있습니다.
가르칠 수 있습니다.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
05:56
So there are three things we can do.
95
344167
2184
여기에 우리가 할 수 있는
세 가지가 있습니다.
세 가지가 있습니다.
첫째, 우리 고유의 편향을 인지하고
05:58
One, we can be aware of our own biases
96
346375
3351
06:01
and the bias in machines around us.
97
349750
2726
우리 주변에 있는 기계가 가진
편향을 인지할 수 있습니다.
편향을 인지할 수 있습니다.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
둘째, 다양한 팀이 이러한 기술을
구축하도록 할 수 있습니다.
구축하도록 할 수 있습니다.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
셋째, 기계가 배울 수 있도록
다양한 경험을 제공해야 합니다.
다양한 경험을 제공해야 합니다.
제 개인적인 경험을 통해
첫 번째와 두 번째에 대해 말씀드릴게요.
첫 번째와 두 번째에 대해 말씀드릴게요.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
06:18
When you work in technology
101
366208
1435
기술 분야에서 일을 할 때
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
여러분은 마크 주커버그나
엘론 머스크처럼 생기지 않았다면
엘론 머스크처럼 생기지 않았다면
삶은 조금 더 어렵고
능력도 의심받습니다.
능력도 의심받습니다.
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
하나의 예를 들어볼게요.
06:27
Here's just one example.
104
375875
1393
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
대부분의 개발자처럼 저도
온라인 기술 포럼에 참여해서
온라인 기술 포럼에 참여해서
06:33
and share my knowledge to help others.
106
381042
3226
타인을 돕기 위해 지식을 공유합니다.
그리고 제가 발견한 것은
06:36
And I've found,
107
384292
1309
제 사진과 이름을 공개하고
로그인할 때
로그인할 때
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
다음과 같은 질문이나
말을 듣는다는 것입니다.
말을 듣는다는 것입니다.
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
"어떻게 당신이 인공지능에 대해
말할 자격이 있다고 생각하는 거죠?"
말할 자격이 있다고 생각하는 거죠?"
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
"어떻게 당신이 기계 학습에 대해
안다고 생각하는 거죠?"
안다고 생각하는 거죠?"
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
그래서 여러분처럼 저도
새로운 프로필을 만들었습니다.
새로운 프로필을 만들었습니다.
06:53
So, as you do, I made a new profile,
112
401958
3435
이번에는 제 사진 대신 제트 팩을
메고 있는 고양이 사진을 선택했어요.
메고 있는 고양이 사진을 선택했어요.
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
그리고 제 성별을 알 수 없는
이름을 선택했어요.
이름을 선택했어요.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
무슨 일이 벌어질지 예상되시죠?
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
이번에는 제 능력을 깔보는 말을
하는 사람이 없었어요.
하는 사람이 없었어요.
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
그리고 실제로 몇 가지 일도
완수할 수 있었고요.
완수할 수 있었고요.
이건 정말 짜증 나는 일이에요.
07:19
And it sucks, guys.
118
427500
1851
전 15살 때부터 로봇을 만들어 왔고
07:21
I've been building robots since I was 15,
119
429375
2476
컴퓨터 과학 분야에
학위도 몇 개 갖고 있어요.
학위도 몇 개 갖고 있어요.
07:23
I have a few degrees in computer science,
120
431875
2268
그럼에도 제 성별을 숨겨야만 했어요.
07:26
and yet, I had to hide my gender
121
434167
2434
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
그래야 제 일이 진지하게
받아들여지니까요.
받아들여지니까요.
여기에 무슨 일이
일어나고 있는 건가요?
일어나고 있는 건가요?
07:31
So, what's going on here?
123
439875
1893
기술 면에서 남자가 여자보다
더 뛰어나나요?
더 뛰어나나요?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
07:37
Another study found
125
445917
1559
다른 연구에서 발견한 사실은
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
플랫폼에서 여성 프로그래머들이
저처럼 자기 성별을 숨길 때
저처럼 자기 성별을 숨길 때
코딩이 남자보다 4%
더 많이 받아들여졌어요.
더 많이 받아들여졌어요.
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
그러니까 이건 재능에
관한 게 아니에요.
관한 게 아니에요.
07:48
So this is not about the talent.
128
456542
2916
이것은 인공지능에 있는
엘리트 의식에 관한 거예요.
엘리트 의식에 관한 거예요.
07:51
This is about an elitism in AI
129
459958
2893
그건 프로그래머가 특정한 사람처럼
보여야 한다는 것을 의미하죠.
보여야 한다는 것을 의미하죠.
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
더 나은 인공지능을 만들기 위해
우리가 해야 할 일은
우리가 해야 할 일은
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
각기 다른 배경에서 자란
모든 사람들을 데려오는 겁니다.
모든 사람들을 데려오는 겁니다.
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
인공지능의 개성을 만들도록 도와줄
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
글을 쓰고 이야기를 할 수 있는
사람을 필요로 합니다.
사람을 필요로 합니다.
08:09
to help us create personalities of AI.
134
477125
2167
문제를 해결할 수 있는
사람을 필요로 합니다.
사람을 필요로 합니다.
08:12
We need people who can solve problems.
135
480208
2042
다른 도전을 마주하고
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
고쳐야 하는 진짜 문제에 대해
말해줄 수 있고,
말해줄 수 있고,
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
그걸 고칠 수 있는 기술을 찾도록
도와줄 사람을 필요로 합니다.
도와줄 사람을 필요로 합니다.
왜냐하면 다양한 배경을 가진
사람들이 모일 때,
사람들이 모일 때,
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
우리가 올바른 것들을
만들 수 있을 때,
만들 수 있을 때,
08:33
when we build things in the right way,
140
501583
2143
가능성은 무궁무진하기 때문입니다.
08:35
the possibilities are limitless.
141
503750
2042
이것이 여러분에게 말씀드리며
끝맺고 싶은 이야기입니다.
끝맺고 싶은 이야기입니다.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
덜 인종차별적인 로봇,
우리 일자리를 덜 빼앗아 갈 기계
우리 일자리를 덜 빼앗아 갈 기계
그리고 우리가 실제로 성취할 수 있는
더 많은 기술에 대한 것입니다.
더 많은 기술에 대한 것입니다.
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
맞아요, 인공지능의 세계와
기술의 세계에서
기술의 세계에서
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
일부 에너지는
08:53
in the world of technology
146
521750
1393
여러분이 스트림에서 볼 수 있는
광고에 쓰일 것입니다.
광고에 쓰일 것입니다.
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
하지만 그중 많은 에너지는
더 나은 세상을 만드는데 쓰입니다.
더 나은 세상을 만드는데 쓰입니다.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
콩고 민주 공화국에 있는
임산부를 생각해보세요.
임산부를 생각해보세요.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
가장 가까운 시골 산전 클리닉에
가려면 17시간을 걸어야 합니다.
가려면 17시간을 걸어야 합니다.
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
검진받기 위해서요.
09:13
to get a checkup.
151
541500
1851
만약 임산부가 그 대신 전화로
진단받을 수 있다면 어떨까요?
진단받을 수 있다면 어떨까요?
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
아니면 인공지능이 할 수 있는
일을 생각해 보세요.
일을 생각해 보세요.
09:19
Or think about what AI could do
153
547750
1809
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
남아프리카 여성 3명 중 1명은
가정 폭력에 노출되어 있습니다.
09:24
who face domestic violence.
155
552333
2125
09:27
If it wasn't safe to talk out loud,
156
555083
2726
만약 크게 소리 내어 말하는 것이
안전하지 않다면
안전하지 않다면
인공지능 서비스를 이용해 경보를 울려
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
재정과 법률 상담을 받을 수 있습니다.
09:32
get financial and legal advice.
158
560333
2459
이것은 현재 저를 포함해
사람들이 인공지능을 이용해
사람들이 인공지능을 이용해
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
작업하고 있는
프로젝트의 실제 사례입니다.
프로젝트의 실제 사례입니다.
09:41
are working on right now, using AI.
160
569000
2500
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
며칠 뒤에 또 다른 보도 기사가
있을 거라 확신합니다.
있을 거라 확신합니다.
09:49
about the existential risk,
162
577167
2684
로봇이 여러분의 일자리를
점령하러 오는 것에 대한
점령하러 오는 것에 대한
실존적인 위험에 대해서요.
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
(웃음)
09:54
(Laughter)
164
582333
1018
그런 일이 일어날 때,
09:55
And when something like that happens,
165
583375
2309
미래에 대해 걱정하는 똑같은
메시지를 받게 될 것도 압니다.
메시지를 받게 될 것도 압니다.
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
하지만 저는 이 기술에 대해
매우 긍정적입니다.
매우 긍정적입니다.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
이것이야말로 세상을 더 평등한
곳으로 만들 기회입니다.
곳으로 만들 기회입니다.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
하지만 그러기 위해서는 처음부터
올바른 방법으로 만들어야 합니다.
올바른 방법으로 만들어야 합니다.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
다른 성별, 인종, 성적 취향, 배경
출신의 사람들을 필요로 합니다.
출신의 사람들을 필요로 합니다.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
여성이 제작자가 되어야 합니다.
10:26
We need women to be the makers
171
614458
2476
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
단지 제작자 입찰을 하는
기계뿐만이 아니라 말이죠.
기계뿐만이 아니라 말이죠.
우리는 기계에게 무엇을 가르치고
어떤 데이터를 제공할지에 대해
어떤 데이터를 제공할지에 대해
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
매우 신중하게 생각해야 합니다.
10:37
what data we give them,
174
625667
1642
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
과거와 같은 실수를
하지 않기 위해서 말이죠.
하지 않기 위해서 말이죠.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
여러분에게 생각할 거리
두 가지를 드릴게요.
두 가지를 드릴게요.
첫째, 오늘날 편향에 대해
생각해보시길 바랍니다.
생각해보시길 바랍니다.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
그리고 다음번에 여러분이
관심 있어 할 거라 가정하는
관심 있어 할 거라 가정하는
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
불임 클리닉 광고나
10:59
or online betting websites,
180
647167
2851
온라인 도박 웹사이트 광고를
스크롤 하며 지나칠 때
스크롤 하며 지나칠 때
11:02
that you think and remember
181
650042
2017
생각하고 기억해주세요.
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
같은 기술이 흑인은 다시 법을
위반할 것이라고 가정한다는 것을,
위반할 것이라고 가정한다는 것을,
또는 최고경영자의 개인 비서는 여성일
가능성이 많다고 가정한다는 것을요.
가능성이 많다고 가정한다는 것을요.
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
이것에 대해 우리는 무언가를
해야 한다는 것도 기억해주세요.
해야 한다는 것도 기억해주세요.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
두 번째로,
11:20
And second,
185
668917
1851
다음과 같은 사실을
기억해 주시길 바랍니다.
기억해 주시길 바랍니다.
11:22
I hope you think about the fact
186
670792
1892
여러분은 어떤 특정한
사람처럼 보여야 하거나
사람처럼 보여야 하거나
11:24
that you don't need to look a certain way
187
672708
1976
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
특정한 공학이나 기술 배경을 가져야만
미래를 위한 놀랄 만한
세력이 될 인공지능을
세력이 될 인공지능을
11:30
to create AI,
189
678583
1268
만들 수 있는 것이
아니라는 것을 말입니다.
아니라는 것을 말입니다.
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
마크 주커버그처럼 생기지 않아도 되고
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
그냥 저처럼 생겨도 됩니다.
11:38
you can look like me.
192
686333
1250
이 공간에 있는 모두에게 달렸습니다.
11:41
And it is up to all of us in this room
193
689250
2893
정부와 기업을 설득해서
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
11:46
to build AI technology for everyone,
195
694917
2892
모두를 위한 인공지능 기술을
구축하도록 하는 것 말입니다.
구축하도록 하는 것 말입니다.
11:49
including the edge cases.
196
697833
2393
엣지 케이스를 포함해서요.
11:52
And for us all to get education
197
700250
2059
그리고 우리는 이런 놀라운
미래 기술에 대해 교육받아야 합니다.
미래 기술에 대해 교육받아야 합니다.
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
왜냐하면 우리가
그렇게 할 경우, 그것은
그렇게 할 경우, 그것은
11:58
Because if we do that,
199
706167
2017
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
우리가 인공지능으로 성취할 수
있는 것에 대한 시작이기 때문입니다.
있는 것에 대한 시작이기 때문입니다.
감사합니다.
12:05
Thank you.
201
713125
1268
12:06
(Applause)
202
714417
2708
(박수)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com