TEDxWarwick
Kriti Sharma: How to keep human bias out of AI
Kriti Sharma: Cómo matener la inteligencia artifical al margen de prejuicios humanos
Filmed:
Readability: 4
2,050,106 views
Los algoritmos toman decisiones sobre ustedes todo el tiempo, como por ejemplo, cuánto deberían pagar por el seguro del auto o que no reciban esa entrevista de trabajo. Pero, ¿qué ocurre cuando esas máquinas están construídas con prejuicios humanos codificados en sus sistemas? La tecnóloga Kriti Sharma explora cómo la falta de diversidad en la tecnología se está filtrando en nuestra IA, y nos ofrece tres modos en los que podemos comenzar a hacer algorritmos más éticos.
Kriti Sharma - AI technologist
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Kriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality. Full bio
Double-click the English transcript below to play the video.
00:12
How many decisions
have been made about you today,
have been made about you today,
0
875
3768
¿Cuántas decisiones sobre Uds.
han sido tomadas hoy,
han sido tomadas hoy,
00:16
or this week or this year,
1
4667
2601
o esta semana, o este año,
00:19
by artificial intelligence?
2
7292
1958
por la inteligencia artificial?
00:22
I build AI for a living
3
10958
1685
Me gano la vida construyendo IA,
00:24
so, full disclosure, I'm kind of a nerd.
4
12667
3017
así que, revelación total,
soy una especie de nerda.
soy una especie de nerda.
00:27
And because I'm kind of a nerd,
5
15708
2393
Y como lo soy,
00:30
wherever some new news story comes out
6
18125
2351
cada vez que sale una noticia
00:32
about artificial intelligence
stealing all our jobs,
stealing all our jobs,
7
20500
3434
sobre la inteligencia artificial
que nos roba nuestros trabajos
que nos roba nuestros trabajos
00:35
or robots getting citizenship
of an actual country,
of an actual country,
8
23958
4185
o sobre robots que obtienen
la ciudadanía de un país real,
la ciudadanía de un país real,
00:40
I'm the person my friends
and followers message
and followers message
9
28167
3142
yo soy a quien mis amigos
y mis seguidores le mandan mensajes
y mis seguidores le mandan mensajes
00:43
freaking out about the future.
10
31333
1542
asustados por el futuro.
00:45
We see this everywhere.
11
33833
2101
Lo vemos en todas partes:
00:47
This media panic that
our robot overlords are taking over.
our robot overlords are taking over.
12
35958
4893
este pánico mediático en el que
nuestros amos robots toman el control.
nuestros amos robots toman el control.
00:52
We could blame Hollywood for that.
13
40875
1917
Podríamos culpar de eso a Hollywood.
00:56
But in reality, that's not the problem
we should be focusing on.
we should be focusing on.
14
44125
4125
Pero en realidad, ese no es el problema
en el que nos debemos concentrar.
en el que nos debemos concentrar.
01:01
There is a more pressing danger,
a bigger risk with AI,
a bigger risk with AI,
15
49250
3643
Con la IA existe un problema
más urgente, un riesgo mayor
más urgente, un riesgo mayor
01:04
that we need to fix first.
16
52917
1583
que debemos resolver primero.
01:07
So we are back to this question:
17
55417
2309
Así que volvamos a esta pregunta:
01:09
How many decisions
have been made about you today by AI?
have been made about you today by AI?
18
57750
4708
¿Cuántas decisiones sobre Uds.
fueron tomadas hoy mediante la IA?
fueron tomadas hoy mediante la IA?
01:15
And how many of these
19
63792
1976
Y cuántas de estas
01:17
were based on your gender,
your race or your background?
your race or your background?
20
65792
4500
se han basado en su sexo,
su raza o su origen?
su raza o su origen?
01:24
Algorithms are being used all the time
21
72500
2768
Los algoritmos se usan todo el tiempo
01:27
to make decisions about who we are
and what we want.
and what we want.
22
75292
3833
para tomar decisiones sobre
quiénes somos y qué queremos.
quiénes somos y qué queremos.
01:32
Some of the women in this room
will know what I'm talking about
will know what I'm talking about
23
80208
3643
Algunas de las mujeres en esta sala
saben de lo que hablo
saben de lo que hablo
01:35
if you've been made to sit through
those pregnancy test adverts on YouTube
those pregnancy test adverts on YouTube
24
83875
3768
si han sido expuestas a esos avisos
sobre pruebas de embarazo en YouTube
sobre pruebas de embarazo en YouTube
01:39
like 1,000 times.
25
87667
2059
como unas 1000 veces.
01:41
Or you've scrolled past adverts
of fertility clinics
of fertility clinics
26
89750
2851
O han visto avisos pasados
sobre clínicas de fertilidad
sobre clínicas de fertilidad
01:44
on your Facebook feed.
27
92625
2042
en su página de Facebook.
01:47
Or in my case, Indian marriage bureaus.
28
95625
2393
O, en mi caso, oficinas
indias de matrimonio.
indias de matrimonio.
01:50
(Laughter)
29
98042
1267
(Risas)
01:51
But AI isn't just being used
to make decisions
to make decisions
30
99333
2976
Pero la IA no solo se usa
para tomar decisiones
para tomar decisiones
01:54
about what products we want to buy
31
102333
2601
sobre los productos que queremos comprar
01:56
or which show we want to binge watch next.
32
104958
2500
o el próximo programa de televisión
que queremos ver.
que queremos ver.
02:01
I wonder how you'd feel about someone
who thought things like this:
who thought things like this:
33
109042
5184
Me pregunto qué sentirían ante alguien
que piensa cosas como esta:
que piensa cosas como esta:
02:06
"A black or Latino person
34
114250
1934
"Una persona negra o latina
02:08
is less likely than a white person
to pay off their loan on time."
to pay off their loan on time."
35
116208
4125
tiene menos probabilidad
de saldar a tiempo un préstamo
de saldar a tiempo un préstamo
que una persona blanca".
02:13
"A person called John
makes a better programmer
makes a better programmer
36
121542
2809
"Una persona llamada Juan
es un mejor programador
es un mejor programador
02:16
than a person called Mary."
37
124375
1667
que una persona llamada María".
02:19
"A black man is more likely to be
a repeat offender than a white man."
a repeat offender than a white man."
38
127250
5083
"Es más probable que una persona negra
sea reincidente que una persona blanca".
sea reincidente que una persona blanca".
02:26
You're probably thinking,
39
134958
1268
Probablemente piensen:
02:28
"Wow, that sounds like a pretty sexist,
racist person," right?
racist person," right?
40
136250
3750
"Oh, eso suena como una persona
bastante sexista y racista", ¿no?
bastante sexista y racista", ¿no?
02:33
These are some real decisions
that AI has made very recently,
that AI has made very recently,
41
141000
4851
Estas son algunas de las decisiones reales
que ha tomado la IA muy recientemente,
que ha tomado la IA muy recientemente,
02:37
based on the biases
it has learned from us,
it has learned from us,
42
145875
2934
basada en los prejuicios
que ha aprendido de nosotros,
que ha aprendido de nosotros,
02:40
from the humans.
43
148833
1250
de los humanos.
02:43
AI is being used to help decide
whether or not you get that job interview;
whether or not you get that job interview;
44
151750
4809
La IA se usa para ayudar a decidir
si reciben o no esa entrevista de trabajo,
si reciben o no esa entrevista de trabajo,
02:48
how much you pay for your car insurance;
45
156583
2393
cuánto pagan por el seguro del auto,
02:51
how good your credit score is;
46
159000
1893
cuán bueno es su historial de crédito,
02:52
and even what rating you get
in your annual performance review.
in your annual performance review.
47
160917
3125
e incluso qué calificación reciben
en su revisión anual de desempeño.
en su revisión anual de desempeño.
02:57
But these decisions
are all being filtered through
are all being filtered through
48
165083
3143
Pero estas decisiones se filtran a través
03:00
its assumptions about our identity,
our race, our gender, our age.
our race, our gender, our age.
49
168250
5875
de sus supuestos sobre nuestra identidad,
nuestra raza, nuestro sexo, nuestra edad.
nuestra raza, nuestro sexo, nuestra edad.
03:08
How is that happening?
50
176250
2268
¿Cómo ocurre eso?
03:10
Now, imagine an AI is helping
a hiring manager
a hiring manager
51
178542
3517
Ahora imaginen que la IA está ayudando
a un gerente de contrataciones
a un gerente de contrataciones
03:14
find the next tech leader in the company.
52
182083
2851
a encontrar el siguiente líder
de tecnología para la compañía.
de tecnología para la compañía.
03:16
So far, the manager
has been hiring mostly men.
has been hiring mostly men.
53
184958
3101
Hasta ahora el gerente ha estado
contratando mayormente hombres.
contratando mayormente hombres.
03:20
So the AI learns men are more likely
to be programmers than women.
to be programmers than women.
54
188083
4750
Entonces, la IA aprende
que es más probable
que es más probable
que los programadores sean
hombres, en vez de mujeres.
hombres, en vez de mujeres.
03:25
And it's a very short leap from there to:
55
193542
2892
Y de ahí hay un estrecho muy corto hasta:
03:28
men make better programmers than women.
56
196458
2042
"los hombres son mejores
programadores que las mujeres".
programadores que las mujeres".
03:31
We have reinforced
our own bias into the AI.
our own bias into the AI.
57
199417
3726
Hemos reforzado nuestros
propios prejuicios en la IA.
propios prejuicios en la IA.
03:35
And now, it's screening out
female candidates.
female candidates.
58
203167
3625
Y ahora elimina a
las candidatas femeninas.
las candidatas femeninas.
03:40
Hang on, if a human
hiring manager did that,
hiring manager did that,
59
208917
3017
Si un gerente de contratación
humano hiciera eso
humano hiciera eso
03:43
we'd be outraged, we wouldn't allow it.
60
211958
2351
estaríamos indignados,
no lo permitiríamos.
no lo permitiríamos.
03:46
This kind of gender
discrimination is not OK.
discrimination is not OK.
61
214333
3476
Este tipo de discriminación
por el sexo no está bien.
por el sexo no está bien.
03:49
And yet somehow,
AI has become above the law,
AI has become above the law,
62
217833
4518
Y, sin embargo, de algún modo,
la IA se ha situado sobre la ley,
la IA se ha situado sobre la ley,
03:54
because a machine made the decision.
63
222375
2083
ya que una máquina tomó la decisión.
03:57
That's not it.
64
225833
1518
No solo eso.
03:59
We are also reinforcing our bias
in how we interact with AI.
in how we interact with AI.
65
227375
4875
Estamos reforzando también nuestro
prejuicio en cómo interactuamos con la IA.
prejuicio en cómo interactuamos con la IA.
04:04
How often do you use a voice assistant
like Siri, Alexa or even Cortana?
like Siri, Alexa or even Cortana?
66
232917
5976
¿Cuán a menudo usan un asistente de
voz como Siri, Alexa o incluso Cortana?
voz como Siri, Alexa o incluso Cortana?
04:10
They all have two things in common:
67
238917
2559
Ellos tienen dos cosas en común:
04:13
one, they can never get my name right,
68
241500
3101
una, nunca pueden captar bien mi nombre,
04:16
and second, they are all female.
69
244625
2667
y segundo, todas son femeninas.
04:20
They are designed to be
our obedient servants,
our obedient servants,
70
248417
2767
Están designadas para ser
nuestros sirvientes obedientes,
nuestros sirvientes obedientes,
04:23
turning your lights on and off,
ordering your shopping.
ordering your shopping.
71
251208
3250
que encienden y apagan nuestras luces,
que encargan nuestra compra.
que encargan nuestra compra.
04:27
You get male AIs too,
but they tend to be more high-powered,
but they tend to be more high-powered,
72
255125
3309
También hay una IA masculina, pero
tiende a tener más poder,
tiende a tener más poder,
04:30
like IBM Watson,
making business decisions,
making business decisions,
73
258458
3059
como IBM Watson, que toma
decisiones de negocios,
decisiones de negocios,
04:33
Salesforce Einstein
or ROSS, the robot lawyer.
or ROSS, the robot lawyer.
74
261541
3792
Salesforce Einstein o ROSS,
el robot abogado.
el robot abogado.
04:38
So poor robots, even they suffer
from sexism in the workplace.
from sexism in the workplace.
75
266208
4060
Así que, pobres robots, incluso ellos
sufren el sexismo en el trabajo.
sufren el sexismo en el trabajo.
04:42
(Laughter)
76
270292
1125
(Risas)
04:44
Think about how these two things combine
77
272542
2851
Piensen en cómo se combinan
estas dos cosas
estas dos cosas
04:47
and affect a kid growing up
in today's world around AI.
in today's world around AI.
78
275417
5309
y en cómo afectan a un niño que crece
en el mundo de hoy, con la IA.
en el mundo de hoy, con la IA.
04:52
So they're doing some research
for a school project
for a school project
79
280750
2934
Por ejemplo, hacen una investigación
para un proyecto escolar
para un proyecto escolar
04:55
and they Google images of CEO.
80
283708
3018
y buscan en Google imágenes
de directores generales.
de directores generales.
04:58
The algorithm shows them
results of mostly men.
results of mostly men.
81
286750
2893
El algoritmo les muestra una mayoría
de hombres como resultado.
de hombres como resultado.
05:01
And now, they Google personal assistant.
82
289667
2559
Y ahora buscan en Google
"asistente personal".
"asistente personal".
05:04
As you can guess,
it shows them mostly females.
it shows them mostly females.
83
292250
3434
Como se imaginarán, les muestra
una mayoría de mujeres.
una mayoría de mujeres.
05:07
And then they want to put on some music,
and maybe order some food,
and maybe order some food,
84
295708
3601
Y luego ellos quieren poner algo de música
y quizás encargar algo de comida,
y quizás encargar algo de comida,
05:11
and now, they are barking orders
at an obedient female voice assistant.
at an obedient female voice assistant.
85
299333
6584
y dan órdenes, gritando, a una
asistente de voz femenina.
asistente de voz femenina.
05:19
Some of our brightest minds
are creating this technology today.
are creating this technology today.
86
307542
5309
Algunas de nuestras mentes más brillantes
están creando hoy en día esta tecnología.
están creando hoy en día esta tecnología.
05:24
Technology that they could have created
in any way they wanted.
in any way they wanted.
87
312875
4184
Una tecnología que podrían haber
creado del modo que quisieran.
creado del modo que quisieran.
05:29
And yet, they have chosen to create it
in the style of 1950s "Mad Man" secretary.
in the style of 1950s "Mad Man" secretary.
88
317083
5685
Y, sin embargo, eligieron
crearla al estilo
crearla al estilo
de la secretaria de
"Mad Men" de los años 50.
"Mad Men" de los años 50.
05:34
Yay!
89
322792
1500
¡Yey!
05:36
But OK, don't worry,
90
324958
1310
Pero no se preocupen,
05:38
this is not going to end
with me telling you
with me telling you
91
326292
2059
no voy a terminar diciéndoles
05:40
that we are all heading towards
sexist, racist machines running the world.
sexist, racist machines running the world.
92
328375
3477
que vamos rumbo hacia que las máquinas
sexistas y racistas dominen el mundo.
sexistas y racistas dominen el mundo.
05:44
The good news about AI
is that it is entirely within our control.
is that it is entirely within our control.
93
332792
5791
La buena noticia sobre la IA es que está
completamente bajo nuestro control.
completamente bajo nuestro control.
05:51
We get to teach the right values,
the right ethics to AI.
the right ethics to AI.
94
339333
4000
Tenemos que enseñarle a la IA
los valores correctos, la ética correcta.
los valores correctos, la ética correcta.
05:56
So there are three things we can do.
95
344167
2184
Y podemos hacer tres cosas.
05:58
One, we can be aware of our own biases
96
346375
3351
Una, podemos ser conscientes
de nuestros propios prejuicios
de nuestros propios prejuicios
06:01
and the bias in machines around us.
97
349750
2726
y de los prejuicios en las máquinas
a nuestro alrededor.
a nuestro alrededor.
06:04
Two, we can make sure that diverse teams
are building this technology.
are building this technology.
98
352500
4518
Dos, podemos asegurarnos de que equipos
heterogéneos construyan esta tecnología.
heterogéneos construyan esta tecnología.
06:09
And three, we have to give it
diverse experiences to learn from.
diverse experiences to learn from.
99
357042
4916
Y tres, debemos brindarle experiencias
diferentes para que aprenda.
diferentes para que aprenda.
06:14
I can talk about the first two
from personal experience.
from personal experience.
100
362875
3309
Desde mi experiencia personal
puedo hablar sobre las dos primeras.
puedo hablar sobre las dos primeras.
06:18
When you work in technology
101
366208
1435
Cuando trabajas en tecnología
06:19
and you don't look like
a Mark Zuckerberg or Elon Musk,
a Mark Zuckerberg or Elon Musk,
102
367667
3392
y no te pareces
a Mark Zuckerberg o Elon Musk,
a Mark Zuckerberg o Elon Musk,
06:23
your life is a little bit difficult,
your ability gets questioned.
your ability gets questioned.
103
371083
3750
tu vida es un poco difícil,
cuestionan tu capacidad.
cuestionan tu capacidad.
06:27
Here's just one example.
104
375875
1393
Este es un ejemplo.
06:29
Like most developers,
I often join online tech forums
I often join online tech forums
105
377292
3726
Como muchos desarrolladores, a menudo
entro en foros tecnológicos en línea
entro en foros tecnológicos en línea
06:33
and share my knowledge to help others.
106
381042
3226
y comparto mis conocimientos
para ayudar a otros.
para ayudar a otros.
06:36
And I've found,
107
384292
1309
Y he encontrado
06:37
when I log on as myself,
with my own photo, my own name,
with my own photo, my own name,
108
385625
3976
que cuando accedo como yo,
con mi foto y mi nombre,
con mi foto y mi nombre,
06:41
I tend to get questions
or comments like this:
or comments like this:
109
389625
4601
tiendo a recibir preguntas
o comentarios como este:
o comentarios como este:
06:46
"What makes you think
you're qualified to talk about AI?"
you're qualified to talk about AI?"
110
394250
3000
"¿Qué te hace pensar que estás
cualificada para hablar sobre IA?".
cualificada para hablar sobre IA?".
06:50
"What makes you think
you know about machine learning?"
you know about machine learning?"
111
398458
3476
"Qué te hace pensar que sabes
sobre el aprendizaje automático?".
sobre el aprendizaje automático?".
06:53
So, as you do, I made a new profile,
112
401958
3435
Así que, como Uds. lo harían,
hice un nuevo perfil de Internet,
hice un nuevo perfil de Internet,
06:57
and this time, instead of my own picture,
I chose a cat with a jet pack on it.
I chose a cat with a jet pack on it.
113
405417
4851
y esta vez, en lugar de mi foto, elegí
un gato con una mochila propulsora.
un gato con una mochila propulsora.
07:02
And I chose a name
that did not reveal my gender.
that did not reveal my gender.
114
410292
2458
Y elegí un nombre que no revelara mi sexo.
07:05
You can probably guess
where this is going, right?
where this is going, right?
115
413917
2726
Pueden imaginarse a qué conduce esto, ¿no?
07:08
So, this time, I didn't get any of those
patronizing comments about my ability
patronizing comments about my ability
116
416667
6392
Esta vez no recibí ninguno de estos
comentarios despectivos sobre mi capacidad
comentarios despectivos sobre mi capacidad
07:15
and I was able to actually
get some work done.
get some work done.
117
423083
3334
y pude lograr algunas cosas.
07:19
And it sucks, guys.
118
427500
1851
Y esto apesta, chicos.
07:21
I've been building robots since I was 15,
119
429375
2476
He estado construyendo
robots desde los 15 años,
robots desde los 15 años,
07:23
I have a few degrees in computer science,
120
431875
2268
tengo algunos títulos en informática
07:26
and yet, I had to hide my gender
121
434167
2434
y, sin embargo, tengo que esconder mi sexo
07:28
in order for my work
to be taken seriously.
to be taken seriously.
122
436625
2250
para que tomen en serio mi trabajo.
07:31
So, what's going on here?
123
439875
1893
Entonces, ¿qué es lo que ocurre aquí?
07:33
Are men just better
at technology than women?
at technology than women?
124
441792
3208
¿Los hombres son mejores que
las mujeres en cuanto a la tecnología?
las mujeres en cuanto a la tecnología?
07:37
Another study found
125
445917
1559
Otro estudio descubrió
07:39
that when women coders on one platform
hid their gender, like myself,
hid their gender, like myself,
126
447500
4934
que cuando las mujeres que hacen código en
una plataforma también ocultaron su sexo,
una plataforma también ocultaron su sexo,
07:44
their code was accepted
four percent more than men.
four percent more than men.
127
452458
3250
su código fue aceptado
un 4 % más que el de los hombres.
un 4 % más que el de los hombres.
07:48
So this is not about the talent.
128
456542
2916
Así que no es cuestión de talento.
07:51
This is about an elitism in AI
129
459958
2893
Se trata de un elitismo en la IA
07:54
that says a programmer
needs to look like a certain person.
needs to look like a certain person.
130
462875
2792
que dice que un programador
debe tener cierto aspecto.
debe tener cierto aspecto.
07:59
What we really need to do
to make AI better
to make AI better
131
467375
3101
Lo que debemos hacer
realmente para mejorar la IA
realmente para mejorar la IA
08:02
is bring people
from all kinds of backgrounds.
from all kinds of backgrounds.
132
470500
3042
es atraer a personas
con orígenes variados.
con orígenes variados.
08:06
We need people who can
write and tell stories
write and tell stories
133
474542
2559
Necesitamos gente que pueda
escribir y contar historias
escribir y contar historias
08:09
to help us create personalities of AI.
134
477125
2167
para ayudarnos a crear
las personalidades de la IA.
las personalidades de la IA.
08:12
We need people who can solve problems.
135
480208
2042
Necesitamos gente capaz
de resolver problemas.
de resolver problemas.
08:15
We need people
who face different challenges
who face different challenges
136
483125
3768
Necesitamos gente que enfrente
desafíos diferentes
desafíos diferentes
08:18
and we need people who can tell us
what are the real issues that need fixing
what are the real issues that need fixing
137
486917
5351
y que nos digan cuáles son los problemas
reales que necesitan resolverse
reales que necesitan resolverse
08:24
and help us find ways
that technology can actually fix it.
that technology can actually fix it.
138
492292
3041
y que nos ayuden a encontrar los modos
en que la tecnología puede resolverlos.
en que la tecnología puede resolverlos.
08:29
Because, when people
from diverse backgrounds come together,
from diverse backgrounds come together,
139
497833
3726
Porque cuando las personas
de distintos orígenes se unen,
de distintos orígenes se unen,
08:33
when we build things in the right way,
140
501583
2143
cuando construimos las cosas
del modo correcto,
del modo correcto,
08:35
the possibilities are limitless.
141
503750
2042
las posibilidades son ilimitadas.
08:38
And that's what I want to end
by talking to you about.
by talking to you about.
142
506750
3309
Y eso es de lo que finalmente
quiero hablarles.
quiero hablarles.
08:42
Less racist robots, less machines
that are going to take our jobs --
that are going to take our jobs --
143
510083
4225
Menos robots racistas, menos máquinas
que tomarán nuestros trabajos...
que tomarán nuestros trabajos...
08:46
and more about what technology
can actually achieve.
can actually achieve.
144
514332
3125
y más sobre lo que
la tecnología puede lograr.
la tecnología puede lograr.
08:50
So, yes, some of the energy
in the world of AI,
in the world of AI,
145
518292
3434
Así que, sí, algo de la energía
en el mundo de la IA,
en el mundo de la IA,
08:53
in the world of technology
146
521750
1393
en el mundo de la tecnología
08:55
is going to be about
what ads you see on your stream.
what ads you see on your stream.
147
523167
4267
estará dirigida hacia la publicidad
que ven cuando están en Internet.
que ven cuando están en Internet.
08:59
But a lot of it is going towards
making the world so much better.
making the world so much better.
148
527458
5209
Pero mucho de ella se dirigirá a hacer
que el mundo sea mucho mejor.
que el mundo sea mucho mejor.
09:05
Think about a pregnant woman
in the Democratic Republic of Congo,
in the Democratic Republic of Congo,
149
533500
3768
Piensen en una mujer embarazada
en la República Democrática del Congo,
en la República Democrática del Congo,
09:09
who has to walk 17 hours
to her nearest rural prenatal clinic
to her nearest rural prenatal clinic
150
537292
4184
que debe caminar 17 horas hasta la
clínica rural prenatal más cercana
clínica rural prenatal más cercana
09:13
to get a checkup.
151
541500
1851
para hacerse una revisión médica.
09:15
What if she could get diagnosis
on her phone, instead?
on her phone, instead?
152
543375
2917
¿Y si en lugar de eso ella pudiera
obtener un diagnóstico por teléfono?
obtener un diagnóstico por teléfono?
09:19
Or think about what AI could do
153
547750
1809
O piensen en lo que la IA podría hacer
09:21
for those one in three women
in South Africa
in South Africa
154
549583
2726
por esa mujer de cada tres en Sudáfrica
09:24
who face domestic violence.
155
552333
2125
que sufre la violencia doméstica.
09:27
If it wasn't safe to talk out loud,
156
555083
2726
Si fuera peligroso hablar en voz alta,
ella podría tener un servicio
de IA para lanzar la alarma,
de IA para lanzar la alarma,
09:29
they could get an AI service
to raise alarm,
to raise alarm,
157
557833
2476
09:32
get financial and legal advice.
158
560333
2459
para obtener ayuda financiera y legal.
09:35
These are all real examples of projects
that people, including myself,
that people, including myself,
159
563958
5018
Estos son ejemplos de proyectos reales
que la gente, incluyéndome a mí,
que la gente, incluyéndome a mí,
09:41
are working on right now, using AI.
160
569000
2500
está trabajando ahora, empleando la IA.
09:45
So, I'm sure in the next couple of days
there will be yet another news story
there will be yet another news story
161
573542
3601
Así que estoy segura de que en
los próximos días habrá otra noticia
los próximos días habrá otra noticia
09:49
about the existential risk,
162
577167
2684
sobre el riesgo existencial,
09:51
robots taking over
and coming for your jobs.
and coming for your jobs.
163
579875
2434
robots tomando el control
y tomando sus trabajos.
y tomando sus trabajos.
09:54
(Laughter)
164
582333
1018
(Risas)
09:55
And when something like that happens,
165
583375
2309
Y cuando pase algo como eso,
09:57
I know I'll get the same messages
worrying about the future.
worrying about the future.
166
585708
3601
se que recibiré los mismos mensajes
de preocupación con respecto al futuro.
de preocupación con respecto al futuro.
10:01
But I feel incredibly positive
about this technology.
about this technology.
167
589333
3667
Pero me siento muy positiva
con respecto a esta tecnología.
con respecto a esta tecnología.
10:07
This is our chance to remake the world
into a much more equal place.
into a much more equal place.
168
595458
5959
Esta es nuestra oportunidad de hacer
el mundo un lugar más igualitario.
el mundo un lugar más igualitario.
10:14
But to do that, we need to build it
the right way from the get go.
the right way from the get go.
169
602458
4000
Pero para hacerlo debemos construirlo
del modo correcto desde el principio.
del modo correcto desde el principio.
10:19
We need people of different genders,
races, sexualities and backgrounds.
races, sexualities and backgrounds.
170
607667
5083
Necesitamos personas de distintos
sexos, razas, sexualidades y orígenes.
sexos, razas, sexualidades y orígenes.
10:26
We need women to be the makers
171
614458
2476
Necesitamos que las mujeres
sean hacedoras,
sean hacedoras,
10:28
and not just the machines
who do the makers' bidding.
who do the makers' bidding.
172
616958
3000
y no solo las máquinas que sigan
las órdenes de los hombres.
las órdenes de los hombres.
10:33
We need to think very carefully
what we teach machines,
what we teach machines,
173
621875
3768
Debemos pensar muy cuidadosamente
lo que le enseñamos a las máquinas,
lo que le enseñamos a las máquinas,
10:37
what data we give them,
174
625667
1642
los datos que les damos,
10:39
so they don't just repeat
our own past mistakes.
our own past mistakes.
175
627333
3125
de modo que no repitan
nuestros errores pasados.
nuestros errores pasados.
10:44
So I hope I leave you
thinking about two things.
thinking about two things.
176
632125
3542
Espero dejarlos pensando en dos cosas.
10:48
First, I hope you leave
thinking about bias today.
thinking about bias today.
177
636542
4559
Primero, espero dejarlos
pensando en los prejuicios.
pensando en los prejuicios.
10:53
And that the next time
you scroll past an advert
you scroll past an advert
178
641125
3184
Y la próxima vez que vean
una publicidad en Internet
una publicidad en Internet
10:56
that assumes you are interested
in fertility clinics
in fertility clinics
179
644333
2810
que asume que están interesados
en clínicas de fertilidad
en clínicas de fertilidad
10:59
or online betting websites,
180
647167
2851
o en sitios web de apuestas en línea,
11:02
that you think and remember
181
650042
2017
que piensen y recuerden
11:04
that the same technology is assuming
that a black man will reoffend.
that a black man will reoffend.
182
652083
4625
que la misma tecnología asume que
un hombre negro será reincidente;
un hombre negro será reincidente;
11:09
Or that a woman is more likely
to be a personal assistant than a CEO.
to be a personal assistant than a CEO.
183
657833
4167
o que es más probable que una mujer sea
una asistente personal y no una directora.
una asistente personal y no una directora.
11:14
And I hope that reminds you
that we need to do something about it.
that we need to do something about it.
184
662958
3709
Y espero que les recuerde que
debemos hacer algo sobre eso.
debemos hacer algo sobre eso.
11:20
And second,
185
668917
1851
Y segundo,
11:22
I hope you think about the fact
186
670792
1892
espero que piensen sobre el hecho
11:24
that you don't need to look a certain way
187
672708
1976
de que no necesitan
tener un cierto aspecto
tener un cierto aspecto
11:26
or have a certain background
in engineering or technology
in engineering or technology
188
674708
3851
o tener una cierta formación
en ingeniería o tecnología
en ingeniería o tecnología
11:30
to create AI,
189
678583
1268
para crear IA,
11:31
which is going to be
a phenomenal force for our future.
a phenomenal force for our future.
190
679875
2875
lo que será una fuerza
fenomenal para nuestro futuro.
fenomenal para nuestro futuro.
11:36
You don't need to look
like a Mark Zuckerberg,
like a Mark Zuckerberg,
191
684166
2143
No necesitan ser parecidos
a Mark Zuckerberg,
a Mark Zuckerberg,
11:38
you can look like me.
192
686333
1250
pueden parecerse a mí.
11:41
And it is up to all of us in this room
193
689250
2893
Y depende de todos Uds. en esta sala
11:44
to convince the governments
and the corporations
and the corporations
194
692167
2726
poder convencer a los gobiernos
y las corporaciones
y las corporaciones
11:46
to build AI technology for everyone,
195
694917
2892
para que construyan una IA para todos,
11:49
including the edge cases.
196
697833
2393
incluso los casos marginales.
11:52
And for us all to get education
197
700250
2059
Y que todos nos eduquemos en el futuro
11:54
about this phenomenal
technology in the future.
technology in the future.
198
702333
2375
sobre esta tecnología fenomenal.
11:58
Because if we do that,
199
706167
2017
Porque si hacemos eso,
12:00
then we've only just scratched the surface
of what we can achieve with AI.
of what we can achieve with AI.
200
708208
4893
habremos arañado la superficie de
lo que podemos lograr con la IA.
lo que podemos lograr con la IA.
12:05
Thank you.
201
713125
1268
Gracias.
12:06
(Applause)
202
714417
2708
(Aplausos)
ABOUT THE SPEAKER
Kriti Sharma - AI technologistKriti Sharma creates AI technology to help address some of the toughest social challenges of our time -- from domestic violence to sexual health and inequality.
Why you should listen
Kriti Sharma is the Founder of AI for Good, an organization focused on building scalable technology solutions for social good. In 2018, she also launched rAInbow, a digital companion for women facing domestic violence in South Africa. This service reached nearly 200,000 conversations within the first 100 days, breaking down the stigma of gender-based violence. In 2019, she collaborated with the Population Foundation of India to launch Dr. Sneha, an AI-powered digital character to engage with young people about sexual health, an issue that is still considered a taboo in India.
Sharma was recently named in the Forbes "30 Under 30" list for advancements in AI. She was appointed a United Nations Young Leader in 2018 and is an advisor to both the United Nations Technology Innovation Labs and to the UK Government’s Centre for Data Ethics and Innovation.
Kriti Sharma | Speaker | TED.com