TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
Kriti Sharma: Como evitar os preconceitos humanos na IA
Filmed:
Readability: 4
2,050,106 views
Os algoritmos da Inteligência Artificial (IA) tomam decisões importantes sobre nós a todo o momento — como quanto devemos pagar pelo seguro de um carro ou se vamos ou não àquela entrevista de emprego. Mas o que acontece quando estas máquinas são construídas com os preconceitos humanos codificados dentro dos sistemas? A tecnóloga Kriti Sharma explora como a falta de diversidade na tecnologia está a infiltrar-se na IA, e apresenta três maneiras pelas quais podemos começar a fazer algoritmos mais éticos.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
Quantas decisões
foram tomadas sobre vocês, hoje,
foram tomadas sobre vocês, hoje,
00:16
or this week or this year,
1
4667
2601
ou esta semana ou este ano,
00:19
by artificial intelligence?
2
7292
1958
pela inteligência artificial?
00:22
I build AI for a living
3
10958
1685
O meu trabalho é construir IA
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
por isso, reconheço, sou meia "nerd".
00:27
And because I'm kind of a nerd,
5
15708
2393
E como sou um bocado "nerd",
00:30
wherever some new news story comes out
6
18125
2351
quando saem notícias, seja onde for,
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
sobre a inteligência artificial
a roubar-nos todos os empregos,
a roubar-nos todos os empregos,
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
ou robôs a terem cidadania de um país,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
eu sou a pessoa a quem
os meus amigos enviam mensagens
os meus amigos enviam mensagens
00:43
freaking out about the future.
10
31333
1542
preocupados com o futuro.
00:45
We see this everywhere.
11
33833
2101
Vemos isto em todo o lado.
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
Este pânico mediático de que
os soberanos robôs estão a dominar.
os soberanos robôs estão a dominar.
00:52
We could blame Hollywood for that.
13
40875
1917
podíamos culpar Hollywood por isso.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
Mas na verdade, não é esse o problema
sobre o qual nos devemos focar.
sobre o qual nos devemos focar.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
Há um perigo mais eminente,
um maior risco com a IA,
um maior risco com a IA,
01:04
that we need to fix first.
16
52917
1583
que precisamos de resolver primeiro.
01:07
So we are back to this question:
17
55417
2309
Voltamos a esta questão:
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
Quantas decisões foram
tomadas hoje sobre vocês, pela IA?
tomadas hoje sobre vocês, pela IA?
01:15
And how many of these
19
63792
1976
Quantas delas
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
se basearam no vosso género,
raça ou origens?
raça ou origens?
01:24
Algorithms are being used all the time
21
72500
2768
Os algoritmos estão sempre a ser usados
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
para decidirem
quem somos e o que queremos.
quem somos e o que queremos.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
Algumas das mulheres nesta sala
saberão do que estou a falar
saberão do que estou a falar
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
se vos obrigaram a ver aqueles anúncios
de testes de gravidez, no YouTube,
de testes de gravidez, no YouTube,
01:39
like 1,000 times.
25
87667
2059
umas 1000 vezes.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
Ou se já passaram por anúncios
de clínicas de fertilidade
de clínicas de fertilidade
01:44
on your Facebook feed.
27
92625
2042
na vossa página do Facebook.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
Ou, no meu caso, agências
indianas de casamento.
indianas de casamento.
01:50
(Laughter)
29
98042
1267
(Risos)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
Mas a IA não está a ser usada
só para tomar decisões
só para tomar decisões
01:54
about what products we want to buy
31
102333
2601
sobre quais os produtos
que queremos comprar
que queremos comprar
01:56
or which show we want to binge watch next.
32
104958
2500
ou que programa queremos ver de seguida.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
Pergunto-me o que sentiriam sobre alguém
que pensasse coisas como estas:
que pensasse coisas como estas:
02:06
"A black or Latino person
34
114250
1934
"Uma pessoa negra ou latina
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
"tem menos probabilidade de pagar
atempadamente um empréstimo."
atempadamente um empréstimo."
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
"Uma pessoa chamada João
"é melhor programador
do que uma pessoa chamada Maria."
do que uma pessoa chamada Maria."
02:16
than a person called Mary."
37
124375
1667
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
"É mais provável que um negro
repita um crime, do que um branco."
repita um crime, do que um branco."
02:26
You're probably thinking,
39
134958
1268
Devem estar a pensar,
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
"Uau, isso parece uma pessoa
muito sexista, racista," certo?
muito sexista, racista," certo?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
Estas são algumas decisões reais
que a IA tem tomado, muito recentemente,
que a IA tem tomado, muito recentemente,
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
baseadas em preconceitos
que aprendeu connosco,
que aprendeu connosco,
02:40
from the humans.
43
148833
1250
com os seres humanos.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
A IA tem sido usada para ajudar a decidir
se vamos ou não à entrevista de emprego;
se vamos ou não à entrevista de emprego;
02:48
how much you pay for your car insurance;
45
156583
2393
quanto pagamos pelo seguro automóvel;
02:51
how good your credit score is;
46
159000
1893
quão boa é a nossa avaliação de crédito;
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
e até a classificação que recebemos
na análise do nosso desempenho anual.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
Mas estas decisões
estão todas a ser filtradas
estão todas a ser filtradas
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
com base nas suposições sobre a nossa
identidade, raça, género, idade.
identidade, raça, género, idade.
03:08
How is that happening?
50
176250
2268
Como é que isso está a acontecer?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
Imaginem que a IA está a ajudar
um gestor de recursos humanos
um gestor de recursos humanos
03:14
find the next tech leader in the company.
52
182083
2851
a encontrar, na empresa,
o próximo líder em tecnologia.
o próximo líder em tecnologia.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
Até agora, o gestor
tem contratado sobretudo homens.
tem contratado sobretudo homens.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
Assim, a IA aprende que é mais provável
os homens serem programadores,
em vez das mulheres.
em vez das mulheres.
03:25
And it's a very short leap from there to:
55
193542
2892
E, a partir daí, é um salto
muito pequeno para:
muito pequeno para:
03:28
men make better programmers than women.
56
196458
2042
"os homens são melhores
programadores do que as mulheres".
programadores do que as mulheres".
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
Reforçamos o nosso preconceito na IA.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
E agora está a excluir
candidatas femininas.
candidatas femininas.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
Se um recrutador humano fizesse isso,
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
ficávamos indignados
e não o permitíamos.
e não o permitíamos.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
Este tipo de discriminação
de género não é correto.
de género não é correto.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
Apesar disso, de certa forma
a IA está acima da lei,
a IA está acima da lei,
03:54
because a machine made the decision.
63
222375
2083
porque foi uma máquina
que tomou a decisão.
que tomou a decisão.
03:57
That's not it.
64
225833
1518
Não é só isso.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
Também estamos a reforçar
o nosso preconceito
o nosso preconceito
sobre o modo como interagimos com a IA.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
Quão frequentemente
usam um assistente de voz
usam um assistente de voz
como a Siri, a Alexa ou até a Cortana?
Todas têm duas coisas em comum:
04:10
They all have two things in common:
67
238917
2559
04:13
one, they can never get my name right,
68
241500
3101
uma, nunca conseguem
acertar no meu nome,
acertar no meu nome,
04:16
and second, they are all female.
69
244625
2667
e segunda, são todas femininas.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
São concebidas para serem
as nossas servas obedientes,
as nossas servas obedientes,
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
ligando e desligando as nossas luzes,
decidindo o que comprar.
decidindo o que comprar.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
Também há IA masculinos,
mas tendem a ser mais potentes,
mas tendem a ser mais potentes,
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
como o Watson IBM,
para tomar decisões de negócios.
para tomar decisões de negócios.
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
o Força de Vendas Einstein
ou ROSS, o advogado do robô.
ou ROSS, o advogado do robô.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
Coitados dos robôs,
até eles sofrem de sexismo no trabalho.
até eles sofrem de sexismo no trabalho.
04:42
(Laughter)
76
270292
1125
(Risos)
Pensem em como estas duas coisas
estão ligadas
estão ligadas
04:44
Think about how these two things combine
77
272542
2851
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
e afetam uma criança a crescer
num mundo rodeado de IA.
num mundo rodeado de IA.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
Assim, se ela está a fazer uma
pesquisa para um projeto escolar
pesquisa para um projeto escolar
04:55
and they Google images of CEO.
80
283708
3018
vai ao Google procurar
imagens de diretor executivo.
imagens de diretor executivo.
O algoritmo mostra resultados
sobretudo de homens.
sobretudo de homens.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
Depois, pesquisa "assistente pessoal".
05:01
And now, they Google personal assistant.
82
289667
2559
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
Como podem adivinhar,
mostra sobretudo mulheres.
mostra sobretudo mulheres.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
Depois, quer pôr uma música,
e talvez encomendar comida,
e talvez encomendar comida,
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
e agora está a vociferar ordens
a uma voz feminina assistente e obediente.
a uma voz feminina assistente e obediente.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
Algumas das mentes mais brilhantes
estão hoje a criar esta tecnologia.
estão hoje a criar esta tecnologia.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
Tecnologia que podiam ter criado
como quisessem.
como quisessem.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
E ainda assim, escolheram criá-la
ao estilo dos anos 50,
da secretária de "Mad Man".
da secretária de "Mad Man".
05:34
Yay!
89
322792
1500
Pois é!
05:36
But OK, don't worry,
90
324958
1310
Mas tudo bem, não se preocupem,
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
isto não vai terminar comigo a dizer-vos
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
que vamos na direção de máquinas
racistas e sexistas a controlarem o mundo.
racistas e sexistas a controlarem o mundo.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
As boas notícias sobre a IA é que
está inteiramente sob o nosso controlo.
está inteiramente sob o nosso controlo.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
Somos nós que temos de ensinar
os valores e a ética certa à IA.
os valores e a ética certa à IA.
05:56
So there are three things we can do.
95
344167
2184
Assim há três coisas que podemos fazer.
05:58
One, we can be aware of our own biases
96
346375
3351
Uma, podemos ter consciência
dos nossos próprios preconceitos
dos nossos próprios preconceitos
06:01
and the bias in machines around us.
97
349750
2726
e dos preconceitos
das máquinas à nossa volta.
das máquinas à nossa volta.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
Dois, podemos garantir
que são equipas diversas
que são equipas diversas
a construir esta tecnologia.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
E três, temos de lhe dar experiências
diversas com as quais aprender.
diversas com as quais aprender.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
Posso falar sobre as primeiras
duas por experiência pessoal.
duas por experiência pessoal.
06:18
When you work in technology
101
366208
1435
Quando trabalhamos em tecnologia,
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
e não nos parecemos
com o Mark Zuckerberg ou o Elon Musk
com o Mark Zuckerberg ou o Elon Musk
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
a nossa vida é um bocadinho difícil,
a nossa capacidade é questionada.
a nossa capacidade é questionada.
06:27
Here's just one example.
104
375875
1393
Aqui está apenas um exemplo.
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
Como a maioria dos programadores,
frequentemente junto-me a fóruns "online"
frequentemente junto-me a fóruns "online"
06:33
and share my knowledge to help others.
106
381042
3226
e partilho o meu conhecimento
para ajudar outros.
para ajudar outros.
06:36
And I've found,
107
384292
1309
E percebi que,
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
quando entro como eu própria,
a minha foto e o meu nome,
a minha foto e o meu nome,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
costumo receber perguntas
ou comentários como estes:
ou comentários como estes:
"O que te faz pensar que és qualificada
para falar sobre a IA?"
para falar sobre a IA?"
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
"O que te faz pensar que sabes
sobre aprendizagem de máquinas?"
sobre aprendizagem de máquinas?"
06:53
So, as you do, I made a new profile,
112
401958
3435
Então, como se faz, criei um perfil novo
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
e, desta vez, escolhi a foto
de um gato com uma mochila a jato.
de um gato com uma mochila a jato.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
E escolhi um nome que não revelasse
o meu género.
o meu género.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
Conseguem adivinhar onde
é que isto vai dar, certo?
é que isto vai dar, certo?
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
Mas, desta vez, não tive aqueles
comentários paternalistas
comentários paternalistas
sobre as minhas competências
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
e consegui fazer algum trabalho.
07:19
And it sucks, guys.
118
427500
1851
Mas é uma seca.
07:21
I've been building robots since I was 15,
119
429375
2476
Construo robôs desde os 15 anos,
07:23
I have a few degrees in computer science,
120
431875
2268
tenho algumas graduações
em ciências informáticas,
em ciências informáticas,
07:26
and yet, I had to hide my gender
121
434167
2434
e ainda assim,
tive de esconder o meu género
tive de esconder o meu género
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
para o meu trabalho ser levado a sério.
07:31
So, what's going on here?
123
439875
1893
Então, o que está a acontecer aqui?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
Os homens são melhores
do que as mulheres em tecnologia?
do que as mulheres em tecnologia?
07:37
Another study found
125
445917
1559
Um outro estudo descobriu que,
quando mulheres programadoras
quando mulheres programadoras
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
numa plataforma, escondem
o seu género, como eu,
o seu género, como eu,
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
o seu código é aceite 4% mais vezes
do que o dos homens.
do que o dos homens.
07:48
So this is not about the talent.
128
456542
2916
Então, não se trata de talento.
07:51
This is about an elitism in AI
129
459958
2893
Trata-se de elitismo na IA
que diz que um programador precisa
de se parecer com uma certa pessoa.
de se parecer com uma certa pessoa.
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
O que realmente precisamos
fazer para melhorar a IA
fazer para melhorar a IA
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
é trazer pessoas
de todos os tipos de origens.
de todos os tipos de origens.
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
Precisamos de pessoas
que possam escrever e contar histórias,
que possam escrever e contar histórias,
08:09
to help us create personalities of AI.
134
477125
2167
para nos ajudarem a criar
personalidades da IA.
personalidades da IA.
Precisamos de pessoas
que possam resolver problemas.
que possam resolver problemas.
08:12
We need people who can solve problems.
135
480208
2042
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
Precisamos de pessoas
que enfrentem diferentes desafios,
que enfrentem diferentes desafios,
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
e precisamos de pessoas
que nos possam dizer
que nos possam dizer
quais são os problemas reais
que precisam de ser resolvidos
que precisam de ser resolvidos
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
e nos ajudem a encontrar maneiras
de a tecnologia os resolver.
de a tecnologia os resolver.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
Porque, quando as pessoas
de diversas origens se reúnem,
de diversas origens se reúnem,
08:33
when we build things in the right way,
140
501583
2143
quando construímos as coisas
da maneira certa,
da maneira certa,
08:35
the possibilities are limitless.
141
503750
2042
as possibilidades são ilimitadas.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
É disso que quero falar convosco.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
Menos sobre robôs racistas,
menos sobre máquinas
que vão roubar os nossos empregos
que vão roubar os nossos empregos
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
e mais sobre o que a tecnologia
pode realmente conseguir.
pode realmente conseguir.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
Então, sim, parte da energia
no mundo da IA,
no mundo da IA,
08:53
in the world of technology
146
521750
1393
no mundo da tecnologia
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
vai ser sobre quais os anúncios
que podem ver na Internet.
que podem ver na Internet.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
Mas muita dessa energia vai ser
sobre como tornar o mundo muito melhor.
sobre como tornar o mundo muito melhor.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
Pensem numa mulher grávida
na República Democrática do Congo,
na República Democrática do Congo,
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
que tem de caminhar 17 horas
até à clínica pré-natal rural mais próxima
até à clínica pré-natal rural mais próxima
09:13
to get a checkup.
151
541500
1851
para fazer um exame de rotina.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
E se, em vez disso, ela pudesse obter
um diagnóstico pelo telefone?
um diagnóstico pelo telefone?
09:19
Or think about what AI could do
153
547750
1809
Ou pensem sobre o que a IA pode fazer
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
por uma em cada três mulheres
na África do Sul
na África do Sul
09:24
who face domestic violence.
155
552333
2125
que enfrenta a violência doméstica.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
Se não fosse seguro falar em voz alta,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
elas podiam obter um serviço de IA
para dar o alerta,
para dar o alerta,
09:32
get financial and legal advice.
158
560333
2459
obter aconselhamento
financeiro e jurídico.
financeiro e jurídico.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
Estes são todos exemplos de projetos
reais, em que pessoas, incluindo eu,
reais, em que pessoas, incluindo eu,
09:41
are working on right now, using AI.
160
569000
2500
estão agora a trabalhar, usando a IA.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
Tenho a certeza que, nos próximos dias,
haverá mais uma notícia
haverá mais uma notícia
09:49
about the existential risk,
162
577167
2684
sobre o risco existencial,
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
de os robôs assumirem
e roubarem os nossos empregos.
e roubarem os nossos empregos.
09:54
(Laughter)
164
582333
1018
(Risos)
09:55
And when something like that happens,
165
583375
2309
E quando acontece algo assim,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
já sei que vou receber as mesmas mensagens
de preocupação com o futuro.
de preocupação com o futuro.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
Mas sinto-me incrivelmente otimista
quanto a esta tecnologia.
quanto a esta tecnologia.
Esta é a nossa oportunidade
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
de refazer o mundo
num lugar muito mais igualitário
num lugar muito mais igualitário
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
Mas para isso, precisamos de construí-lo
da maneira certa, desde o início.
da maneira certa, desde o início.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
Precisamos de pessoas de diferentes sexos,
raças, sexualidades e origens.
raças, sexualidades e origens.
10:26
We need women to be the makers
171
614458
2476
Precisamos que as mulheres
sejam criadoras
sejam criadoras
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
e não apenas máquinas
que cumprem ordens.
que cumprem ordens.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
Precisamos de pensar com muito cuidado
no que ensinamos às máquinas
no que ensinamos às máquinas
10:37
what data we give them,
174
625667
1642
que dados lhes damos,
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
para que não repitam
os nossos erros do passado.
os nossos erros do passado.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
Assim, espero deixar-vos
a pensar sobre duas coisas.
a pensar sobre duas coisas.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
Primeiro, espero que saiam daqui
a pensar nos preconceitos.
a pensar nos preconceitos.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
E da próxima vez
que passem por um anúncio
que passem por um anúncio
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
que assume que estão interessadas
em clínicas de fertilidade
em clínicas de fertilidade
10:59
or online betting websites,
180
647167
2851
ou em páginas de apostas "online",
11:02
that you think and remember
181
650042
2017
pensem e lembrem-se
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
que é a mesma tecnologia que está
a assumir que um homem negro vai reincidir
a assumir que um homem negro vai reincidir
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
ou que é mais provável uma mulher ser
uma assistente do que diretora executiva.
uma assistente do que diretora executiva.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
Espero que isso vos relembre
que precisamos de fazer algo sobre isto.
que precisamos de fazer algo sobre isto.
11:20
And second,
185
668917
1851
E em segundo lugar,
11:22
I hope you think about the fact
186
670792
1892
espero que pensem no facto
11:24
that you don't need to look a certain way
187
672708
1976
de não precisarem de parecer
de uma certa maneira
de uma certa maneira
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
ou de ter experiência
em engenharia ou tecnologia
em engenharia ou tecnologia
para criar IA,
11:30
to create AI,
189
678583
1268
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
o que vai ser uma força
fenomenal para o nosso futuro.
fenomenal para o nosso futuro.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
Não precisam de ser
parecidas com o Mark Zuckerberg,
parecidas com o Mark Zuckerberg,
11:38
you can look like me.
192
686333
1250
podem parecer-se comigo.
11:41
And it is up to all of us in this room
193
689250
2893
E cabe a todos nós nesta sala
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
convencer os governos e as empresas
11:46
to build AI technology for everyone,
195
694917
2892
a construir a tecnologia da IA para todos,
11:49
including the edge cases.
196
697833
2393
incluindo para os casos menos comuns
11:52
And for us all to get education
197
700250
2059
e para que todos possamos ter educação
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
sobre esta tecnologia fenomenal do futuro.
11:58
Because if we do that,
199
706167
2017
Porque, se fizermos isso,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
estamos apenas a raspar a superfície
do que podemos conseguir com a IA.
do que podemos conseguir com a IA.
12:05
Thank you.
201
713125
1268
Obrigada.
12:06
(Applause)
202
714417
2708
(Aplausos)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com