TED2018
Yasmin Green: How technology can fight extremism and online harassment
Yasmin Green: Como a tecnologia pode combater o extremismo e o assédio "online"
Filmed:
Readability: 4.6
2,460,759 views
Pode a tecnologia tornar as pessoas mais seguras em relação a ameaças como o extremismo violento, a censura e a perseguição? Nesta palestra esclarecedora, a tecnóloga Yasmin Green descreve programas pioneiros da Jigsaw (uma unidade da Alphabet Inc., o conjunto de empresas que também inclui a Google) para combater a radicalização e o assédio "online" — incluindo um projeto que fornece aos comentadores um "feedback" em tempo real sobre o possível efeito das suas palavras, e que já aumentou os espaços de diálogo. "Se alguma vez pensámos que era possível
construir uma Internet isolada do lado negro da humanidade, estávamos enganados" — diz Green — "temos de nos dedicar inteiramente
a perceber os problemas e a construir soluções que são tão humanas como os problemas que elas tentam solucionar".
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio
Double-click the English transcript below to play the video.
00:13
My relationship with the internet
reminds me of the setup
reminds me of the setup
0
1131
4411
A minha relação com a Internet
é semelhante ao enredo
de um filme de horror clichê.
de um filme de horror clichê.
00:17
to a clichéd horror movie.
1
5566
1833
00:19
You know, the blissfully happy family
moves in to their perfect new home,
moves in to their perfect new home,
2
7867
4386
Uma família encantada e feliz
que se muda para uma casa nova e perfeita,
que se muda para uma casa nova e perfeita,
00:24
excited about their perfect future,
3
12277
2281
entusiasmada com o seu futuro perfeito.
00:26
and it's sunny outside
and the birds are chirping ...
and the birds are chirping ...
4
14582
3521
Lá fora está sol, os pássaros chilreiam...
00:30
And then it gets dark.
5
18857
1839
E então escurece.
00:32
And there are noises from the attic.
6
20720
2348
Ouvem-se barulhos no sótão.
00:35
And we realize that that perfect
new house isn't so perfect.
new house isn't so perfect.
7
23092
4345
E percebemos que aquela casa nova
e perfeita, não é assim tão perfeita.
e perfeita, não é assim tão perfeita.
00:40
When I started working at Google in 2006,
8
28485
3131
Quando comecei a trabalhar
na Google, em 2006,
na Google, em 2006,
00:43
Facebook was just a two-year-old,
9
31640
1767
o Facebook ainda só tinha dois anos
00:45
and Twitter hadn't yet been born.
10
33431
2012
e o Twitter ainda nem tinha nascido.
00:47
And I was in absolute awe
of the internet and all of its promise
of the internet and all of its promise
11
35848
4410
Eu estava absolutamente
maravilhada com a Internet
maravilhada com a Internet
e a sua promessa
de nos tornar mais próximos,
de nos tornar mais próximos,
00:52
to make us closer
12
40282
1437
00:53
and smarter
13
41743
1296
mais inteligentes
00:55
and more free.
14
43063
1214
e mais livres.
Mas enquanto fazíamos
o trabalho inspirador
o trabalho inspirador
00:57
But as we were doing the inspiring work
of building search engines
of building search engines
15
45265
3714
de construir motores de pesquisa,
01:01
and video-sharing sites
and social networks,
and social networks,
16
49003
2886
"sites" de partilha de vídeos
e redes sociais,
e redes sociais,
01:04
criminals, dictators and terrorists
were figuring out
were figuring out
17
52907
4304
criminosos, ditadores e terroristas
estavam a tentar descobrir
estavam a tentar descobrir
01:09
how to use those same
platforms against us.
platforms against us.
18
57235
3202
como usar estas plataformas contra nós.
01:13
And we didn't have
the foresight to stop them.
the foresight to stop them.
19
61417
2455
E nós não nos antecipámos
de forma a impedi-los.
de forma a impedi-los.
01:16
Over the last few years, geopolitical
forces have come online to wreak havoc.
forces have come online to wreak havoc.
20
64746
5099
Nos últimos anos, apareceram "online"
forças geopolíticas para causar danos.
forças geopolíticas para causar danos.
01:21
And in response,
21
69869
1169
Como resposta, a Google apoiou-me
a mim e a um grupo de colegas,
a mim e a um grupo de colegas,
01:23
Google supported a few colleagues and me
to set up a new group called Jigsaw,
to set up a new group called Jigsaw,
22
71062
4778
na criação dum novo grupo chamado Jigsaw,
01:27
with a mandate to make people safer
from threats like violent extremism,
from threats like violent extremism,
23
75864
4596
cuja missão era proteger as pessoas
de ameaças como o extremismo violento,
de ameaças como o extremismo violento,
01:32
censorship, persecution --
24
80484
2078
a censura e a perseguição,
01:35
threats that feel very personal to me
because I was born in Iran,
because I was born in Iran,
25
83186
4117
ameaças que sinto como muito pessoais,
porque eu nasci no Irão
porque eu nasci no Irão
01:39
and I left in the aftermath
of a violent revolution.
of a violent revolution.
26
87327
2929
de onde parti, no rescaldo
de uma revolução violenta.
de uma revolução violenta.
01:43
But I've come to realize
that even if we had all of the resources
that even if we had all of the resources
27
91525
4346
Mas cheguei à conclusão de que,
mesmo com acesso a todos os recursos
mesmo com acesso a todos os recursos
01:47
of all of the technology
companies in the world,
companies in the world,
28
95895
2858
de todas as empresas tecnológicas
do mundo,
do mundo,
01:51
we'd still fail
29
99595
1230
continuaríamos a falhar
01:53
if we overlooked one critical ingredient:
30
101586
2948
enquanto ignorássemos um fator chave:
01:57
the human experiences of the victims
and perpetrators of those threats.
and perpetrators of those threats.
31
105653
5789
as experiências humanas das vítimas
e dos autores dessas ameaças.
e dos autores dessas ameaças.
Há vários problemas
de que vos poderia falar hoje.
de que vos poderia falar hoje.
02:04
There are many challenges
I could talk to you about today.
I could talk to you about today.
32
112935
2736
Vou-me focar apenas em dois:
02:07
I'm going to focus on just two.
33
115695
1504
02:09
The first is terrorism.
34
117623
2079
O primeiro é o terrorismo.
02:13
So in order to understand
the radicalization process,
the radicalization process,
35
121563
2557
Para compreendermos
o processo de radicalização,
o processo de radicalização,
02:16
we met with dozens of former members
of violent extremist groups.
of violent extremist groups.
36
124144
4287
conhecemos dezenas de antigos membros
de grupos extremistas violentos.
de grupos extremistas violentos.
02:21
One was a British schoolgirl,
37
129590
2483
Um deles era uma estudante britânica,
02:25
who had been taken off of a plane
at London Heathrow
at London Heathrow
38
133049
3699
que tinha sido retirada de um avião
no aeroporto de Heathrow, em Londres,
no aeroporto de Heathrow, em Londres,
02:28
as she was trying to make her way
to Syria to join ISIS.
to Syria to join ISIS.
39
136772
4692
quando tentava chegar à Síria,
para se juntar ao ISIS.
para se juntar ao ISIS.
02:34
And she was 13 years old.
40
142281
1931
Tinha 13 anos.
02:37
So I sat down with her and her father,
and I said, "Why?"
and I said, "Why?"
41
145792
4625
Eu sentei-me com ela e com o pai dela
e perguntei-lhe: "Porquê?"
e perguntei-lhe: "Porquê?"
02:42
And she said,
42
150441
1717
E ela respondeu:
02:44
"I was looking at pictures
of what life is like in Syria,
of what life is like in Syria,
43
152182
3639
"Eu estive a ver fotos da vida na Síria,
02:47
and I thought I was going to go
and live in the Islamic Disney World."
and live in the Islamic Disney World."
44
155845
3510
"e achei que iria viver na
Disneylândia islâmica."
Disneylândia islâmica."
02:52
That's what she saw in ISIS.
45
160527
2084
Foi isso que ela viu no ISIS.
02:54
She thought she'd meet and marry
a jihadi Brad Pitt
a jihadi Brad Pitt
46
162635
3492
Achou que ia conhecer e casar-se
com um Brad Pitt jihadista,
com um Brad Pitt jihadista,
passar o dia nas compras
no centro comercial
no centro comercial
02:58
and go shopping in the mall all day
and live happily ever after.
and live happily ever after.
47
166151
3058
e viver feliz para sempre.
03:02
ISIS understands what drives people,
48
170977
2824
O ISIS percebe aquilo que move as pessoas
03:05
and they carefully craft a message
for each audience.
for each audience.
49
173825
3544
e cria cuidadosamente uma mensagem
para cada público-alvo.
para cada público-alvo.
03:11
Just look at how many languages
50
179122
1511
Basta ver o número de línguas
03:12
they translate their
marketing material into.
marketing material into.
51
180657
2273
para as quais traduzem o seu
material de "marketing".
material de "marketing".
03:15
They make pamphlets,
radio shows and videos
radio shows and videos
52
183677
2661
Têm panfletos, programas de rádio e vídeos
03:18
in not just English and Arabic,
53
186362
1973
não só em árabe e inglês,
03:20
but German, Russian,
French, Turkish, Kurdish,
French, Turkish, Kurdish,
54
188359
4767
mas também em alemão, russo,
francês, turco, curdo,
francês, turco, curdo,
03:25
Hebrew,
55
193150
1672
hebreu,
03:26
Mandarin Chinese.
56
194846
1741
mandarim...
03:29
I've even seen an ISIS-produced
video in sign language.
video in sign language.
57
197309
4192
Vi até um vídeo produzido pelo ISIS
em linguagem gestual.
em linguagem gestual.
03:34
Just think about that for a second:
58
202605
1884
Pensem nisso por um momento:
03:36
ISIS took the time and made the effort
59
204513
2308
o ISIS dedicou tempo e esforço
03:38
to ensure their message is reaching
the deaf and hard of hearing.
the deaf and hard of hearing.
60
206845
3804
para garantir que a sua mensagem
chega a surdos e deficientes auditivos.
chega a surdos e deficientes auditivos.
03:45
It's actually not tech-savviness
61
213143
2144
Não é pelo conhecimento tecnológico.
03:47
that is the reason why
ISIS wins hearts and minds.
ISIS wins hearts and minds.
62
215311
2595
que o ISIS conquista corações e mentes.
Fazem-no através do conhecimento
dos preconceitos,
dos preconceitos,
03:49
It's their insight into the prejudices,
the vulnerabilities, the desires
the vulnerabilities, the desires
63
217930
4163
das vulnerabilidades e dos desejos
03:54
of the people they're trying to reach
64
222117
1774
das pessoas a que
estão a tentar chegar.
estão a tentar chegar.
03:55
that does that.
65
223915
1161
03:57
That's why it's not enough
66
225718
1429
Por isso, é insuficiente
03:59
for the online platforms
to focus on removing recruiting material.
to focus on removing recruiting material.
67
227171
4239
focarmo-nos na remoção de materiais
de recrutamento de plataformas "online".
de recrutamento de plataformas "online".
04:04
If we want to have a shot
at building meaningful technology
at building meaningful technology
68
232518
3581
Se queremos ter uma hipótese
na construção de tecnologias
na construção de tecnologias
04:08
that's going to counter radicalization,
69
236123
1874
que consigam combater a radicalização
04:10
we have to start with the human
journey at its core.
journey at its core.
70
238021
2979
temos de começar pelo cerne
deste percurso humano.
deste percurso humano.
04:13
So we went to Iraq
71
241884
2187
Então, fomos para o Iraque
04:16
to speak to young men
who'd bought into ISIS's promise
who'd bought into ISIS's promise
72
244095
2831
para falar com jovens adultos
que tinham caído na promessa
que tinham caído na promessa
04:18
of heroism and righteousness,
73
246950
3191
de heroísmo e justiça do ISIS,
que estavam dispostos
a pegar em armas por eles,
a pegar em armas por eles,
04:22
who'd taken up arms to fight for them
74
250165
1847
04:24
and then who'd defected
75
252036
1338
mas que desertaram
04:25
after they witnessed
the brutality of ISIS's rule.
the brutality of ISIS's rule.
76
253398
3021
quando testemunharam
a brutalidade do domínio do ISIS.
a brutalidade do domínio do ISIS.
04:28
And I'm sitting there in this makeshift
prison in the north of Iraq
prison in the north of Iraq
77
256880
3192
Eu estou sentada numa prisão
provisória no norte do Iraque
provisória no norte do Iraque
04:32
with this 23-year-old who had actually
trained as a suicide bomber
trained as a suicide bomber
78
260096
4550
com um jovem de 23 anos que treinou
para ser bombista suicida
para ser bombista suicida
04:36
before defecting.
79
264670
1552
antes de ter abandonado o ISIS.
04:39
And he says,
80
267080
1158
E ele diz-me:
04:41
"I arrived in Syria full of hope,
81
269119
3220
"Eu cheguei à Síria cheio de esperança,
04:44
and immediately, I had two
of my prized possessions confiscated:
of my prized possessions confiscated:
82
272363
4365
"e, imediatamente, eles confiscaram-me
dois dos meus bens mais preciosos:
dois dos meus bens mais preciosos:
04:48
my passport and my mobile phone."
83
276752
2933
"o meu passaporte e o meu telemóvel."
04:52
The symbols of his physical
and digital liberty
and digital liberty
84
280140
2406
Os símbolos da sua liberdade.
física e digital.
física e digital.
04:54
were taken away from him on arrival.
85
282570
1760
foram-lhe retirados assim que ele chegou.
04:57
And then this is the way he described
that moment of loss to me.
that moment of loss to me.
86
285248
3510
E ele descreveu-me este momento de perda
05:01
He said,
87
289356
1586
dizendo:
05:02
"You know in 'Tom and Jerry,'
88
290966
2329
"Sabes como no 'Tom e Jerry',
"quando o Jerry quer fugir
05:06
when Jerry wants to escape,
and then Tom locks the door
and then Tom locks the door
89
294192
3103
"mas o Tom tranca a porta
e engole a chave,
e engole a chave,
05:09
and swallows the key
90
297319
1156
05:10
and you see it bulging out
of his throat as it travels down?"
of his throat as it travels down?"
91
298499
3551
"e conseguimos vê-la saliente
enquanto desce ao longo da garganta?"
enquanto desce ao longo da garganta?"
05:14
And of course, I really could see
the image that he was describing,
the image that he was describing,
92
302446
3153
Claro, eu conseguia ver a imagem
que ele estava a descrever,
que ele estava a descrever,
05:17
and I really did connect with the feeling
that he was trying to convey,
that he was trying to convey,
93
305623
3661
e liguei-me ao sentimento
que ele estava a tentar transmitir,
que ele estava a tentar transmitir,
05:21
which was one of doom,
94
309308
2021
ao desespero e fatalidade,
05:23
when you know there's no way out.
95
311353
1789
quando sabemos que não há nenhuma saída.
05:26
And I was wondering:
96
314551
1289
E perguntei-me:
05:28
What, if anything,
could have changed his mind
could have changed his mind
97
316644
2682
O que é que o teria feito mudar de ideias
no dia em que saiu de casa?
no dia em que saiu de casa?
05:31
the day that he left home?
98
319350
1240
05:32
So I asked,
99
320614
1250
Então perguntei-lhe:
05:33
"If you knew everything that you know now
100
321888
3178
"Se soubesses tudo o que sabes agora
05:37
about the suffering
and the corruption, the brutality --
and the corruption, the brutality --
101
325090
3051
"sobre o sofrimento,
a corrupção, a brutalidade,
a corrupção, a brutalidade,
05:40
that day you left home,
102
328165
1415
"no dia em que saíste de casa,
05:41
would you still have gone?"
103
329604
1679
"ainda assim, terias partido?"
05:43
And he said, "Yes."
104
331786
1711
E ele respondeu: "Sim."
05:45
And I thought, "Holy crap, he said 'Yes.'"
105
333846
2282
E eu pensei:
"Raios, ele disse 'Sim.' "
"Raios, ele disse 'Sim.' "
05:48
And then he said,
106
336694
1219
Então, ele acrescentou:
05:49
"At that point, I was so brainwashed,
107
337937
3001
"Nessa altura,
a lavagem ao cérebro já era tal
a lavagem ao cérebro já era tal
05:52
I wasn't taking in
any contradictory information.
any contradictory information.
108
340962
3244
"que eu não aceitava nenhuma
informação contraditória.
informação contraditória.
05:56
I couldn't have been swayed."
109
344744
1555
"Não poderia ter sido persuadido."
05:59
"Well, what if you knew
everything that you know now
everything that you know now
110
347235
2527
"Bom, então e se soubesses tudo
o que sabes agora
o que sabes agora
06:01
six months before the day that you left?"
111
349786
2098
"seis meses antes do dia em que partiste?"
06:05
"At that point, I think it probably
would have changed my mind."
would have changed my mind."
112
353345
3131
"Nesse momento, acho que,
provavelmente, teria mudado de ideias."
provavelmente, teria mudado de ideias."
06:10
Radicalization isn't
this yes-or-no choice.
this yes-or-no choice.
113
358138
3397
A radicalização não é uma escolha
de sim ou não.
de sim ou não.
06:14
It's a process, during which
people have questions --
people have questions --
114
362007
2977
É um processo, durante o qual
as pessoas têm dúvidas
as pessoas têm dúvidas
06:17
about ideology, religion,
the living conditions.
the living conditions.
115
365008
3776
sobre ideologia, religião,
condições de vida.
condições de vida.
06:20
And they're coming online for answers,
116
368808
2766
E procuram respostas "online",
criando uma oportunidade
para chegarem até elas.
para chegarem até elas.
06:23
which is an opportunity to reach them.
117
371598
1917
06:25
And there are videos online
from people who have answers --
from people who have answers --
118
373905
3014
Há vídeos "online" feitos
por pessoas que têm respostas
por pessoas que têm respostas
06:28
defectors, for example,
telling the story of their journey
telling the story of their journey
119
376943
2876
— desertores, por exemplo, a contar
como se envolveram
e se libertaram da violência.
e se libertaram da violência.
06:31
into and out of violence;
120
379843
1583
06:33
stories like the one from that man
I met in the Iraqi prison.
I met in the Iraqi prison.
121
381450
3487
Histórias como a de um homem
que conheci na prisão no Iraque.
que conheci na prisão no Iraque.
Há habitantes que fizeram o "upload"
de filmagens de telemóvel
de filmagens de telemóvel
06:37
There are locals who've uploaded
cell phone footage
cell phone footage
122
385914
2590
06:40
of what life is really like
in the caliphate under ISIS's rule.
in the caliphate under ISIS's rule.
123
388528
3503
da realidade da vida no Califado,
sob o domínio do ISIS.
sob o domínio do ISIS.
06:44
There are clerics who are sharing
peaceful interpretations of Islam.
peaceful interpretations of Islam.
124
392055
3735
Há clérigos a partilharem
interpretações pacíficas do Islamismo.
interpretações pacíficas do Islamismo.
Mas sabem uma coisa?
06:48
But you know what?
125
396830
1150
06:50
These people don't generally have
the marketing prowess of ISIS.
the marketing prowess of ISIS.
126
398004
3020
Essas pessoas não têm normalmente
a capacidade de "marketing" do ISIS.
a capacidade de "marketing" do ISIS.
06:54
They risk their lives to speak up
and confront terrorist propaganda,
and confront terrorist propaganda,
127
402049
4532
Arriscam a vida para falar
e combater a propaganda terrorista,
e combater a propaganda terrorista,
e depois, tragicamente,
06:58
and then they tragically
don't reach the people
don't reach the people
128
406605
2211
não conseguem chegar a quem mais
precisava de ouvir a sua mensagem.
precisava de ouvir a sua mensagem.
07:00
who most need to hear from them.
129
408840
1682
Nós queríamos perceber
se a tecnologia podia mudar isso.
se a tecnologia podia mudar isso.
07:03
And we wanted to see
if technology could change that.
if technology could change that.
130
411173
2612
07:06
So in 2016, we partnered with Moonshot CVE
131
414205
4183
Então, em 2016, juntámo-nos à Moonshot CVE
07:10
to pilot a new approach
to countering radicalization
to countering radicalization
132
418412
3180
para conduzirmos uma nova abordagem
ao combate da radicalização:
ao combate da radicalização:
07:13
called the "Redirect Method."
133
421616
1780
"O Método de Redirecionamento".
07:16
It uses the power of online advertising
134
424453
3012
Este método usa o poder
da publicidade "online"
da publicidade "online"
07:19
to bridge the gap between
those susceptible to ISIS's messaging
those susceptible to ISIS's messaging
135
427489
4514
para ligar aqueles que são
mais suscetíveis à mensagem do ISIS
mais suscetíveis à mensagem do ISIS
07:24
and those credible voices
that are debunking that messaging.
that are debunking that messaging.
136
432027
3760
a vozes credíveis que estão
a desconstruir essa mensagem.
a desconstruir essa mensagem.
E funciona assim:
07:28
And it works like this:
137
436633
1150
07:29
someone looking for extremist material --
138
437807
1961
alguém que esteja à procura
de material extremista
de material extremista
07:31
say they search
for "How do I join ISIS?" --
for "How do I join ISIS?" --
139
439792
2990
— digamos que pesquisam
"Como é que me junto ao ISIS?" —
"Como é que me junto ao ISIS?" —
07:34
will see an ad appear
140
442806
2476
vê aparecer um anúncio
07:37
that invites them to watch a YouTube video
of a cleric, of a defector --
of a cleric, of a defector --
141
445306
4882
que os convida a assistir a um vídeo no
Youtube de um clérigo, de um desertor.
Youtube de um clérigo, de um desertor.
de alguém que tem uma resposta autêntica.
07:42
someone who has an authentic answer.
142
450212
2310
07:44
And that targeting is based
not on a profile of who they are,
not on a profile of who they are,
143
452546
3623
Este redirecionamento funciona,
não com base no perfil dessa pessoa,
não com base no perfil dessa pessoa,
07:48
but of determining something
that's directly relevant
that's directly relevant
144
456193
3053
mas determinando algo
que é diretamente relevante
que é diretamente relevante
07:51
to their query or question.
145
459270
1708
àquilo que ela pesquisou.
07:54
During our eight-week pilot
in English and Arabic,
in English and Arabic,
146
462122
2842
Durante as nossas 8 semanas de teste
em inglês e árabe,
em inglês e árabe,
07:56
we reached over 300,000 people
147
464988
3279
conseguimos chegar a mais
de 300 000 pessoas
de 300 000 pessoas
08:00
who had expressed an interest in
or sympathy towards a jihadi group.
or sympathy towards a jihadi group.
148
468291
5545
que tinham manifestado interesse
ou simpatia por um grupo Jihadista.
ou simpatia por um grupo Jihadista.
08:06
These people were now watching videos
149
474626
2264
Estas pessoas estavam agora a ver vídeos
08:08
that could prevent them
from making devastating choices.
from making devastating choices.
150
476914
3340
que podiam evitar que elas
fizessem escolhas devastadoras.
fizessem escolhas devastadoras.
08:13
And because violent extremism
isn't confined to any one language,
isn't confined to any one language,
151
481405
3727
E porque o extremismo violento
não se limita a uma única linguagem,
não se limita a uma única linguagem,
08:17
religion or ideology,
152
485156
1804
religião ou ideologia,
08:18
the Redirect Method is now
being deployed globally
being deployed globally
153
486984
3501
o Método de Redirecionamento
está a ser implementado globalmente
está a ser implementado globalmente
08:22
to protect people being courted online
by violent ideologues,
by violent ideologues,
154
490509
3804
para proteger as pessoas que estão a ser
cortejadas por ideólogos violentos
cortejadas por ideólogos violentos
08:26
whether they're Islamists,
white supremacists
white supremacists
155
494337
2596
— sejam eles islamistas,
suprematistas brancos,
suprematistas brancos,
08:28
or other violent extremists,
156
496957
2103
ou de outros grupos extremistas —
08:31
with the goal of giving them the chance
to hear from someone
to hear from someone
157
499084
2873
com o objetivo de dar-lhes
a oportunidade de ouvirem alguém
a oportunidade de ouvirem alguém
08:33
on the other side of that journey;
158
501981
2091
do outro lado desse percurso;
08:36
to give them the chance to choose
a different path.
a different path.
159
504096
2839
dar-lhes a oportunidade
de escolherem um caminho diferente.
de escolherem um caminho diferente.
08:40
It turns out that often the bad guys
are good at exploiting the internet,
are good at exploiting the internet,
160
508749
5980
Vemos que frequentemente os vilões
são bons a explorar a Internet,
são bons a explorar a Internet,
08:46
not because they're some kind
of technological geniuses,
of technological geniuses,
161
514753
3744
não porque sejam génios tecnológicos,
mas porque percebem aquilo
que motiva as pessoas.
que motiva as pessoas.
08:50
but because they understand
what makes people tick.
what makes people tick.
162
518521
2985
08:54
I want to give you a second example:
163
522855
2369
Eu dou-vos outro exemplo:
08:58
online harassment.
164
526019
1391
O assédio "online".
09:00
Online harassers also work
to figure out what will resonate
to figure out what will resonate
165
528629
3363
Os assediadores "online" também
trabalham para perceber
trabalham para perceber
o que éque vai afetar outro ser humano.
09:04
with another human being.
166
532016
1615
09:05
But not to recruit them like ISIS does,
167
533655
3110
Não para os recrutar, como o ISIS faz,
mas para lhes causar dor.
09:08
but to cause them pain.
168
536789
1275
09:11
Imagine this:
169
539259
1342
Imaginem o seguinte:
09:13
you're a woman,
170
541347
1659
Se fossem uma mulher,
09:15
you're married,
171
543030
1413
casada,
09:16
you have a kid.
172
544467
1154
com um filho.
09:18
You post something on social media,
173
546834
1784
Publicam algo numa rede social,
09:20
and in a reply,
you're told that you'll be raped,
you're told that you'll be raped,
174
548642
2886
e num comentário
dizem-vos que vão ser violadas,
dizem-vos que vão ser violadas,
09:24
that your son will be watching,
175
552577
1560
que o vosso filho estará a ver,
09:26
details of when and where.
176
554825
1856
com detalhes sobre quando e onde.
09:29
In fact, your home address
is put online for everyone to see.
is put online for everyone to see.
177
557148
3143
A vossa morada é publicada "online"
para que todos vejam.
para que todos vejam.
09:33
That feels like a pretty real threat.
178
561580
2007
Parece-me uma ameaça bastante real.
09:37
Do you think you'd go home?
179
565113
1656
Acham que iriam para casa?
09:39
Do you think you'd continue doing
the thing that you were doing?
the thing that you were doing?
180
567999
3048
Acham que continuariam a fazer
o que estavam a fazer antes?
o que estavam a fazer antes?
Continuariam a fazer aquilo
que está a irritar o vosso agressor?
que está a irritar o vosso agressor?
09:43
Would you continue doing that thing
that's irritating your attacker?
that's irritating your attacker?
181
571071
3220
09:48
Online abuse has been this perverse art
182
576016
3096
O abuso "online" tem sido
esta arte perversa
esta arte perversa
09:51
of figuring out what makes people angry,
183
579136
3468
de perceber o que é que
deixa as pessoas zangadas,
deixa as pessoas zangadas,
o que é que deixa as pessoas assustadas,
09:54
what makes people afraid,
184
582628
2132
o que é que deixa as pessoas inseguras,
09:56
what makes people insecure,
185
584784
1641
09:58
and then pushing those pressure points
until they're silenced.
until they're silenced.
186
586449
3067
e depois pressionar nesses pontos
até que elas se silenciem.
até que elas se silenciem.
10:02
When online harassment goes unchecked,
187
590333
2304
Quando o assédio "online"
passa despercebido
passa despercebido
10:04
free speech is stifled.
188
592661
1667
a liberdade de expressão é reprimida.
10:07
And even the people
hosting the conversation
hosting the conversation
189
595196
2127
E mesmo aqueles que conduzem a conversa
10:09
throw up their arms and call it quits,
190
597347
1834
lavam as mãos do assunto,
10:11
closing their comment sections
and their forums altogether.
and their forums altogether.
191
599205
2957
fechando a secção de comentários
e os fóruns de discussão.
e os fóruns de discussão.
10:14
That means we're actually
losing spaces online
losing spaces online
192
602186
2849
Isso quer dizer que estamos
a perder espaços "online"
a perder espaços "online"
10:17
to meet and exchange ideas.
193
605059
1987
para nos encontrarmos
e partilharmos ideias.
e partilharmos ideias.
10:19
And where online spaces remain,
194
607939
2163
E onde permanecem espaços "online",
10:22
we descend into echo chambers
with people who think just like us.
with people who think just like us.
195
610126
4470
estes degeneram, criando câmaras de eco,
com pessoas que pensam tal como nós.
com pessoas que pensam tal como nós.
10:27
But that enables
the spread of disinformation;
the spread of disinformation;
196
615688
2499
Mas isso permite a difusão
da desinformação;
da desinformação;
10:30
that facilitates polarization.
197
618211
2184
o que facilita a polarização.
10:34
What if technology instead
could enable empathy at scale?
could enable empathy at scale?
198
622508
5269
E se a tecnologia pudesse,
proporcionalmente, permitir a empatia?
proporcionalmente, permitir a empatia?
10:40
This was the question
that motivated our partnership
that motivated our partnership
199
628451
2486
Esta foi a pergunta
que nos levou à parceria
que nos levou à parceria
com a equipa de combate
ao abuso da Google, com a Wikipédia,
ao abuso da Google, com a Wikipédia,
10:42
with Google's Counter Abuse team,
200
630961
1819
10:44
Wikipedia
201
632804
1178
e com jornais como o New York Times.
10:46
and newspapers like the New York Times.
202
634006
1934
10:47
We wanted to see if we could build
machine-learning models
machine-learning models
203
635964
2876
Queríamos construir modelos
dotados de aprendizagem automática
dotados de aprendizagem automática
10:50
that could understand
the emotional impact of language.
the emotional impact of language.
204
638864
3606
que percebessem
o impacto emocional da linguagem.
o impacto emocional da linguagem.
10:55
Could we predict which comments
were likely to make someone else leave
were likely to make someone else leave
205
643062
3610
Poderíamos prever quais os comentários
que, mais provavelmente
que, mais provavelmente
levassem alguém a abandonar uma conversa?
10:58
the online conversation?
206
646696
1374
11:00
And that's no mean feat.
207
648515
3887
Isso não é simples de fazer.
Conseguir que a IA o faça
não é uma conquista trivial.
não é uma conquista trivial.
11:04
That's no trivial accomplishment
208
652426
1566
11:06
for AI to be able to do
something like that.
something like that.
209
654016
2563
11:08
I mean, just consider
these two examples of messages
these two examples of messages
210
656603
3729
Considerem estes dois
exemplos de mensagens
exemplos de mensagens
11:12
that could have been sent to me last week.
211
660356
2224
que me podiam ter enviado
a semana passada:
a semana passada:
11:15
"Break a leg at TED!"
212
663517
1879
"Parte uma perna, na TED!"
11:17
... and
213
665420
1164
ou...
11:18
"I'll break your legs at TED."
214
666608
2126
"Eu vou partir-te as pernas na TED."
11:20
(Laughter)
215
668758
1246
(Risos)
11:22
You are human,
216
670028
1513
Vocês são seres humanos,
11:23
that's why that's an obvious
difference to you,
difference to you,
217
671565
2210
por isso a diferença é óbvia para vocês,
11:25
even though the words
are pretty much the same.
are pretty much the same.
218
673799
2224
embora as palavras sejam
praticamente iguais.
praticamente iguais.
11:28
But for AI, it takes some training
to teach the models
to teach the models
219
676047
3079
Mas para a IA, é preciso treino
para ensinar os modelos
para ensinar os modelos
11:31
to recognize that difference.
220
679150
1571
a reconhecer a diferença.
11:32
The beauty of building AI
that can tell the difference
that can tell the difference
221
680745
3245
A beleza na construção da IA
que reconheça esta diferença
que reconheça esta diferença
11:36
is that AI can then scale to the size
of the online toxicity phenomenon,
of the online toxicity phenomenon,
222
684014
5050
é que a IA pode depois evoluir
para a dimensão do fenómeno
de toxicidade "online",
de toxicidade "online",
que foi o nosso objetivo ao criar
a nossa tecnologia "Perspective".
a nossa tecnologia "Perspective".
11:41
and that was our goal in building
our technology called Perspective.
our technology called Perspective.
223
689088
3287
11:45
With the help of Perspective,
224
693056
1427
Com a ajuda da Perspective,
11:46
the New York Times, for example,
225
694507
1583
o New York Times, por exemplo,
11:48
has increased spaces
online for conversation.
online for conversation.
226
696114
2487
aumentou o número de espaços
para conversas "online".
para conversas "online".
11:51
Before our collaboration,
227
699005
1310
Antes da nossa colaboração,
11:52
they only had comments enabled
on just 10 percent of their articles.
on just 10 percent of their articles.
228
700339
4305
só eram permitidos comentários
em 10% dos artigos.
em 10% dos artigos.
11:57
With the help of machine learning,
229
705495
1644
A aprendizagem automática
permitiu aumentar esse número para 30%.
11:59
they have that number up to 30 percent.
230
707163
1897
12:01
So they've tripled it,
231
709084
1156
Triplicou, e nós ainda
só estamos a começar.
só estamos a começar.
12:02
and we're still just getting started.
232
710264
1917
12:04
But this is about way more than just
making moderators more efficient.
making moderators more efficient.
233
712872
3461
Mas isto é mais importante do que tornar
os moderadores mais eficientes.
os moderadores mais eficientes.
12:10
Right now I can see you,
234
718076
1850
Neste momento eu estou a ver-vos,
12:11
and I can gauge how what I'm saying
is landing with you.
is landing with you.
235
719950
3294
e consigo avaliar o efeito
que as minhas palavras têm em vocês.
que as minhas palavras têm em vocês.
12:16
You don't have that opportunity online.
236
724370
1879
Não temos essa possibilidade "online".
12:18
Imagine if machine learning
could give commenters,
could give commenters,
237
726558
3635
Imaginem se a aprendizagem automática
pudesse dar a quem está a comentar,
pudesse dar a quem está a comentar,
12:22
as they're typing,
238
730217
1162
à medida que escrevem,
12:23
real-time feedback about how
their words might land,
their words might land,
239
731403
3347
um "feedback" em tempo real sobre
o efeito que essas palavras podem ter,
o efeito que essas palavras podem ter,
12:27
just like facial expressions do
in a face-to-face conversation.
in a face-to-face conversation.
240
735609
3024
tal como as expressões faciais
numa conversa cara-a-cara.
numa conversa cara-a-cara.
12:32
Machine learning isn't perfect,
241
740926
1842
A aprendizagem automática não é perfeita
e ainda comete inúmeros erros.
e ainda comete inúmeros erros.
12:34
and it still makes plenty of mistakes.
242
742792
2394
12:37
But if we can build technology
243
745210
1557
Mas se criarmos uma tecnologia
12:38
that understands the emotional
impact of language,
impact of language,
244
746791
3293
que compreenda
o impacto emocional da linguagem,
o impacto emocional da linguagem,
podemos criar empatia.
12:42
we can build empathy.
245
750108
1460
12:43
That means that we can have
dialogue between people
dialogue between people
246
751592
2425
Isso significa que pode haver
diálogo entre pessoas
diálogo entre pessoas
12:46
with different politics,
247
754041
1816
com diferentes opiniões políticas,
12:47
different worldviews,
248
755881
1216
diferentes visões do mundo
12:49
different values.
249
757121
1246
e diferentes valores.
12:51
And we can reinvigorate the spaces online
that most of us have given up on.
that most of us have given up on.
250
759359
4775
E podemos dar novamente vida
a espaços "online"
a espaços "online"
dos quais muitos de nós já desistiram.
12:57
When people use technology
to exploit and harm others,
to exploit and harm others,
251
765857
3785
Quando as pessoas usam tecnologia
para explorar e causar dano a outras,
para explorar e causar dano a outras,
13:01
they're preying on our human fears
and vulnerabilities.
and vulnerabilities.
252
769666
3642
estão a aproveitar-se dos nossos
medos e vulnerabilidades humanas.
medos e vulnerabilidades humanas.
13:06
If we ever thought
that we could build an internet
that we could build an internet
253
774461
3508
Se alguma vez pensámos que era possível
construir uma Internet isolada
do lado negro da humanidade,
do lado negro da humanidade,
13:09
insulated from the dark side of humanity,
254
777993
2578
estávamos enganados.
13:12
we were wrong.
255
780595
1184
13:14
If we want today to build technology
256
782361
2270
Se queremos construir uma tecnologia
13:16
that can overcome
the challenges that we face,
the challenges that we face,
257
784655
3127
que possa ultrapassar
os desafios que enfrentamos,
os desafios que enfrentamos,
13:19
we have to throw our entire selves
into understanding the issues
into understanding the issues
258
787806
4043
temos de nos dedicar inteiramente
a perceber os problemas
a perceber os problemas
13:23
and into building solutions
259
791873
1893
e a construir soluções
13:25
that are as human as the problems
they aim to solve.
they aim to solve.
260
793790
3782
que sejam tão humanas como
os problemas que elas tentam solucionar.
os problemas que elas tentam solucionar.
Vamos fazer com que isso aconteça.
13:30
Let's make that happen.
261
798071
1513
13:31
Thank you.
262
799924
1150
Obrigada.
13:33
(Applause)
263
801098
3277
(Aplausos)
ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologistYasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.
Why you should listen
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.
Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."
Yasmin Green | Speaker | TED.com