ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com
TED2018

Yasmin Green: How technology can fight extremism and online harassment

Yasmin Green: Hoe technologie extremisme en online pesten kan tegengaan

Filmed:
2,460,759 views

Kan technologie mensen beveiligen tegen bedreigingen als gewelddadig extremisme, censuur en vervolging? In deze verhelderende talk geeft technoloog Yasmin Green details over nieuwe programma's bij Jigsaw (een onderdeel binnen Alphabet Inc., de groep bedrijven waarin ook Google thuishoort) om radicalisering en online intimidatie tegen te gaan -- inclusief een project dat commentatoren realtime feedback kan geven over hoe hun woorden zouden kunnen overkomen, waardoor de online ruimtes voor dialoog al terug groter zijn geworden. "Als we ooit dachten dat we een internet konden bouwen dat geïsoleerd was van de duistere kant van de mensheid, hadden we het mis", zegt Green. "We moeten ons volledig inzetten voor het bouwen van oplossingen die net zo menselijk zijn als de problemen die ze willen oplossen."
- Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio

Double-click the English transcript below to play the video.

00:13
My relationshipverhouding with the internetinternet
remindsherinnert me of the setupSetup
0
1131
4411
Mijn relatie met het internet
doet me denken aan het scenario
00:17
to a clichKlikéd horrorverschrikking moviefilm.
1
5566
1833
van een clichématige horrorfilm.
00:19
You know, the blissfullyzalig happygelukkig familyfamilie
movesmoves in to theirhun perfectperfect newnieuwe home,
2
7867
4386
Je weet wel, dat zielsgelukkig gezin dat
naar hun perfecte nieuwe huis verhuist,
00:24
excitedopgewonden about theirhun perfectperfect futuretoekomst,
3
12277
2281
enthousiast over hun perfecte toekomst;
00:26
and it's sunnyzonnige outsidebuiten
and the birdsvogelstand are chirpingTjilpen ...
4
14582
3521
de zon schijnt en de vogeltjes fluiten ...
00:30
And then it getskrijgt darkdonker.
5
18857
1839
En dan wordt het donker.
00:32
And there are noisesgeluiden from the atticvliering.
6
20720
2348
Er komen geluiden van de zolder.
00:35
And we realizerealiseren that that perfectperfect
newnieuwe househuis isn't so perfectperfect.
7
23092
4345
En dan beseffen we dat dat perfecte
nieuwe huis niet zo perfect is.
00:40
When I startedbegonnen workingwerkend at GoogleGoogle in 2006,
8
28485
3131
Toen ik in 2006 begon
te werken bij Google,
00:43
FacebookFacebook was just a two-year-oldtwee-jaar-oude,
9
31640
1767
bestond Facebook nog maar twee jaar
00:45
and TwitterTwitter hadn'thad niet yetnog been borngeboren.
10
33431
2012
en Twitter was nog niet eens geboren.
00:47
And I was in absoluteabsoluut aweontzag
of the internetinternet and all of its promisebelofte
11
35848
4410
Ik was weg van internet
en al zijn beloftes
om ons dichter bij elkaar te brengen,
00:52
to make us closerdichterbij
12
40282
1437
00:53
and smarterslimmer
13
41743
1296
om ons slimmer en veel vrijer te maken.
00:55
and more freegratis.
14
43063
1214
Maar terwijl we bezig waren
00:57
But as we were doing the inspiringinspirerende work
of buildinggebouw searchzoeken enginesmotoren
15
45265
3714
met het inspirerende werk
van het bouwen van zoekmachines,
01:01
and video-sharingvideo-sharing sitesplaatsen
and socialsociaal networksnetwerken,
16
49003
2886
video-sharing sites en sociale netwerken,
01:04
criminalscriminelen, dictatorsdictators and terroriststerroristen
were figuringuitzoeken out
17
52907
4304
waren criminelen, dictators
en terroristen aan het uitzoeken
01:09
how to use those samedezelfde
platformsplatforms againsttegen us.
18
57235
3202
hoe ze diezelfde platforms
tegen ons konden gebruiken.
01:13
And we didn't have
the foresightToekomstverkenning to stop them.
19
61417
2455
We zagen het niet aankomen.
01:16
Over the last fewweinig yearsjaar, geopoliticalgeopolitiek
forceskrachten have come onlineonline to wreakravage havocHavoc.
20
64746
5099
In de afgelopen jaren
zijn geopolitieke krachten
online gekomen om
grote schade aan te richten.
01:21
And in responseantwoord,
21
69869
1169
Als antwoord ondersteunde
Google een paar collega's en mij
01:23
GoogleGoogle supportedondersteunde a fewweinig colleaguescollega's and me
to setreeks up a newnieuwe groupgroep calledriep JigsawJigsaw,
22
71062
4778
bij het opzetten van
een nieuwe groep, ‘Jigsaw’,
01:27
with a mandatemandaat to make people saferveiliger
from threatsbedreigingen like violentgewelddadig extremismextremisme,
23
75864
4596
met de opdracht om mensen te beveiligen
tegen bedreigingen
als gewelddadig extremisme,
01:32
censorshipcensuur, persecutionvervolging --
24
80484
2078
censuur, vervolging --
01:35
threatsbedreigingen that feel very personalpersoonlijk to me
because I was borngeboren in IranIran,
25
83186
4117
bedreigingen die me heel persoonlijk
aanspreken, want ik ben geboren in Iran,
01:39
and I left in the aftermathnasleep
of a violentgewelddadig revolutionrevolutie.
26
87327
2929
waar ik wegging in de nasleep
van een gewelddadige revolutie.
01:43
But I've come to realizerealiseren
that even if we had all of the resourcesmiddelen
27
91525
4346
Maar ik ben tot het besef gekomen
dat zelfs als we alle middelen hadden
01:47
of all of the technologytechnologie
companiesbedrijven in the worldwereld-,
28
95895
2858
van alle van technologische
bedrijven in de wereld,
01:51
we'dwij hadden still failmislukken
29
99595
1230
we nog steeds zouden falen
01:53
if we overlookedover het hoofd gezien one criticalkritisch ingredientingrediënt:
30
101586
2948
als we één kritische ingrediënt
over het hoofd zagen:
01:57
the humanmenselijk experienceservaringen of the victimsslachtoffers
and perpetratorsdaders of those threatsbedreigingen.
31
105653
5789
de ervaringen van de mensen
die deze bedreigingen uiten en ondergaan.
02:04
There are manyveel challengesuitdagingen
I could talk to you about todayvandaag.
32
112935
2736
Er zijn vele problemen waar
ik vandaag over zou kunnen praten.
02:07
I'm going to focusfocus on just two.
33
115695
1504
Ik beperk me tot twee.
02:09
The first is terrorismterrorisme.
34
117623
2079
De eerste is het terrorisme.
02:13
So in orderbestellen to understandbegrijpen
the radicalizationradicalisering processwerkwijze,
35
121563
2557
Om het radicaliseringsproces te begrijpen,
02:16
we metleerde kennen with dozenstientallen of formervoormalig membersleden
of violentgewelddadig extremistextremistische groupsgroepen.
36
124144
4287
zochten we tientallen voormalige leden van
gewelddadige extremistische groepen op.
02:21
One was a BritishBritse schoolgirlschoolmeisje,
37
129590
2483
Een daarvan was een Brits schoolmeisje
02:25
who had been takeningenomen off of a planevlak
at LondonLonden HeathrowHeathrow
38
133049
3699
dat op London Heathrow
van een vliegtuig was geplukt
02:28
as she was tryingproberen to make her way
to SyriaSyrië to jointoetreden ISISISIS.
39
136772
4692
toen ze in Syrië probeerde te geraken
om zich bij ISIS aan te sluiten.
02:34
And she was 13 yearsjaar oldoud.
40
142281
1931
Ze was 13 jaar.
02:37
So I satza down with her and her fathervader,
and I said, "Why?"
41
145792
4625
Ik sprak haar en haar vader,
en vroeg: "Waarom?"
02:42
And she said,
42
150441
1717
Ze zei:
02:44
"I was looking at picturesafbeeldingen
of what life is like in SyriaSyrië,
43
152182
3639
"Ik zocht naar foto’s
over hoe het leven was in Syrië
02:47
and I thought I was going to go
and liveleven in the IslamicIslamitische DisneyDisney WorldWereld."
44
155845
3510
en ik dacht dat ik terecht zou komen
in een islamitische Disney World."
02:52
That's what she saw in ISISISIS.
45
160527
2084
Zo zag ze ISIS.
02:54
She thought she'dschuur meetontmoeten and marrytrouwen
a jihadiJihadi BradBrad PittPitt
46
162635
3492
Ze dacht dat ze een jihadi Brad Pitt
zou ontmoeten, trouwen,
02:58
and go shoppinghet winkelen in the mallwinkelcentrum all day
and liveleven happilyGelukkig ever after.
47
166151
3058
de hele dag winkelen in winkelcentra
en lang en gelukkig leven.
03:02
ISISISIS understandsbegrijpt what drivesdrives people,
48
170977
2824
ISIS begrijpt wat mensen drijft
03:05
and they carefullyvoorzichtig craftambacht a messagebericht
for eachelk audiencepubliek.
49
173825
3544
en ze kiezen zorgvuldig aangepaste
teksten voor elke doelgroep.
03:11
Just look at how manyveel languagestalen
50
179122
1511
Kijk maar in hoeveel talen
03:12
they translatevertalen theirhun
marketingafzet materialmateriaal into.
51
180657
2273
ze hun marketingmateriaal vertalen.
03:15
They make pamphletspamfletten,
radioradio- showsshows and videosvideos
52
183677
2661
Ze maken pamfletten,
radioprogramma's en video's,
03:18
in not just EnglishEngels and ArabicArabisch,
53
186362
1973
niet alleen in het Engels en het Arabisch,
03:20
but GermanDuits, RussianRussisch,
FrenchFrans, TurkishTurks, KurdishKoerdische,
54
188359
4767
maar in het Duits, Russisch,
Frans, Turks, Koerdisch,
03:25
HebrewHebreeuws,
55
193150
1672
Hebreeuws,
03:26
MandarinMandarijn ChineseChinees.
56
194846
1741
Mandarijn.
03:29
I've even seengezien an ISIS-producedISIS-geproduceerde
videovideo- in signteken languagetaal.
57
197309
4192
Ik zag zelfs een door ISIS
geproduceerde video in gebarentaal.
03:34
Just think about that for a secondtweede:
58
202605
1884
Denk daar eens even aan:
03:36
ISISISIS tooknam the time and madegemaakt the effortinspanning
59
204513
2308
ISIS nam de tijd en deed de inspanning
03:38
to ensureervoor zorgen theirhun messagebericht is reachingbereiken
the deafdoof and hardhard of hearinggehoor.
60
206845
3804
om ervoor te zorgen dat hun boodschap
doven en slechthorenden bereikte.
03:45
It's actuallywerkelijk not tech-savvinessTech-savviness
61
213143
2144
Het is eigenlijk niet hun technisch kunnen
03:47
that is the reasonreden why
ISISISIS winswint heartsharten and mindsgeesten.
62
215311
2595
waarmee ISIS harten
en geesten voor zich wint,
03:49
It's theirhun insightin zicht into the prejudicesvooroordelen,
the vulnerabilitieskwetsbaarheden, the desiresverlangens
63
217930
4163
maar hun inzicht in de vooroordelen,
de kwetsbaarheden en de verlangens
van de mensen die ze proberen te bereiken.
03:54
of the people they're tryingproberen to reachberijk
64
222117
1774
03:55
that does that.
65
223915
1161
03:57
That's why it's not enoughgenoeg
66
225718
1429
Daarom is het niet voldoende
voor de online-platforms
03:59
for the onlineonline platformsplatforms
to focusfocus on removingVerwijderen recruitingrekruteren materialmateriaal.
67
227171
4239
om zich te concentreren op het
verwijderen van het wervingsmateriaal.
04:04
If we want to have a shotschot
at buildinggebouw meaningfulbelangrijk technologytechnologie
68
232518
3581
Als we een zinvolle
technologie willen bouwen
04:08
that's going to counterteller radicalizationradicalisering,
69
236123
1874
om radicalisering tegen te gaan,
04:10
we have to startbegin with the humanmenselijk
journeyreis at its corekern.
70
238021
2979
moeten we de menselijke reis
naar de kern ervan aanvatten.
04:13
So we wentgegaan to IraqIrak
71
241884
2187
Dus gingen we naar Irak
04:16
to speakspreken to youngjong menmannen
who'dwie had boughtkocht into ISIS'sDe ISIS promisebelofte
72
244095
2831
om te spreken met jonge mannen
die waren gevallen voor ISIS' belofte
04:18
of heroismheldenmoed and righteousnessgerechtigheid,
73
246950
3191
van heldendom en gerechtigheid,
die de wapens hadden opgenomen
om voor hen te vechten
04:22
who'dwie had takeningenomen up armsarmen to fightstrijd for them
74
250165
1847
04:24
and then who'dwie had defectedovergelopen
75
252036
1338
en die dan waren overgelopen
04:25
after they witnessedgetuige
the brutalitywreedheid of ISIS'sDe ISIS ruleregel.
76
253398
3021
toen ze getuige waren
van de wreedheden van ISIS.
Ik praatte in een geïmproviseerde
gevangenis in het noorden van Irak
04:28
And I'm sittingzittend there in this makeshiftgeïmproviseerde
prisongevangenis in the northnoorden of IraqIrak
77
256880
3192
04:32
with this 23-year-old-jaar oud who had actuallywerkelijk
trainedgetraind as a suicidezelfmoord bomberbommenwerper
78
260096
4550
met een 23-jarige die opgeleid
was tot zelfmoordterrorist
04:36
before defectingzwager.
79
264670
1552
voordat hij overliep.
04:39
And he sayszegt,
80
267080
1158
Hij zei:
04:41
"I arrivedaangekomen in SyriaSyrië fullvol of hopehoop,
81
269119
3220
"Vol hoop kwam ik naar Syrië,
04:44
and immediatelyper direct, I had two
of my prizedgewaardeerde possessionsbezittingen confiscatedin beslag genomen:
82
272363
4365
en meteen werden twee van mijn
kostbaarste bezittingen in beslag genomen:
04:48
my passportpaspoort and my mobilemobiel phonetelefoon."
83
276752
2933
mijn paspoort en mijn mobiele telefoon."
04:52
The symbolssymbolen of his physicalfysiek
and digitaldigitaal libertyvrijheid
84
280140
2406
De symbolen van zijn fysieke
en digitale vrijheid
04:54
were takeningenomen away from him on arrivalaankomst.
85
282570
1760
werden bij aankomst van hem afgepakt.
04:57
And then this is the way he describedbeschreven
that momentmoment of lossverlies to me.
86
285248
3510
Zo beschreef hij mij
dat moment van verlies.
05:01
He said,
87
289356
1586
Hij zei:
05:02
"You know in 'Tom' Tom and JerryJerry,'
88
290966
2329
"Ken je die scène bij 'Tom en Jerry'
05:06
when JerryJerry wants to escapeontsnappen,
and then TomTom lockssluizen the doordeur-
89
294192
3103
waar Jerry wil ontsnappen,
Tom de deur op slot doet
05:09
and swallowszwaluwen the keysleutel
90
297319
1156
en de sleutel inslikt,
05:10
and you see it bulgingbolling out
of his throatkeel as it travelsreizen down?"
91
298499
3551
en je zijn keel ziet uitpuilen
als die naar beneden zakt?"
05:14
And of courseCursus, I really could see
the imagebeeld that he was describingbeschrijven,
92
302446
3153
Natuurlijk kon ik echt
het beeld zien dat hij beschreef,
05:17
and I really did connectaansluiten with the feelinggevoel
that he was tryingproberen to conveyoverbrengen,
93
305623
3661
en begreep ik het gevoel
dat hij probeerde over te brengen:
05:21
whichwelke was one of doomnoodlot,
94
309308
2021
een van verdoemenis,
05:23
when you know there's no way out.
95
311353
1789
als je weet dat er geen uitweg meer is.
05:26
And I was wonderingafvragen:
96
314551
1289
Ik vroeg me af
of er iets was waardoor hij
van gedachten veranderd kon zijn
05:28
What, if anything,
could have changedveranderd his mindgeest
97
316644
2682
de dag dat hij thuis wegging?
05:31
the day that he left home?
98
319350
1240
05:32
So I askedgevraagd,
99
320614
1250
Dus vroeg ik:
05:33
"If you knewwist everything that you know now
100
321888
3178
"Als je alles wist wat je nu weet
05:37
about the sufferinglijden
and the corruptioncorruptie, the brutalitywreedheid --
101
325090
3051
over het lijden, de corruptie,
de wreedheid --
05:40
that day you left home,
102
328165
1415
die dag dat je thuis wegging,
05:41
would you still have goneweg?"
103
329604
1679
zou je dan nog zijn gegaan?"
05:43
And he said, "Yes."
104
331786
1711
En hij zei: "Ja."
05:45
And I thought, "HolyHeilige craponzin, he said 'Yes' Ja.'"
105
333846
2282
En ik dacht:
krijg nou wat, hij zei: "Ja."
05:48
And then he said,
106
336694
1219
Toen zei hij:
05:49
"At that pointpunt, I was so brainwashedgehersenspoeld,
107
337937
3001
"Op dat moment was ik zo gehersenspoeld
05:52
I wasn'twas niet takingnemen in
any contradictorytegenstrijdige informationinformatie.
108
340962
3244
dat ik geen enkele tegenspraak toeliet.
05:56
I couldn'tkon het niet have been swayedverleiden."
109
344744
1555
Ik kon toen niet worden omgepraat."
05:59
"Well, what if you knewwist
everything that you know now
110
347235
2527
"Wel, wat als je alles wist wat je nu weet
06:01
sixzes monthsmaanden before the day that you left?"
111
349786
2098
zes maanden voor de dag dat je wegging?"
06:05
"At that pointpunt, I think it probablywaarschijnlijk
would have changedveranderd my mindgeest."
112
353345
3131
"Dan denk ik dat het waarschijnlijk
mijn denken zou hebben veranderd."
06:10
RadicalizationRadicalisering isn't
this yes-or-noJa-of-no choicekeuze.
113
358138
3397
Radicalisering is geen ja-of-nee-keuze.
06:14
It's a processwerkwijze, duringgedurende whichwelke
people have questionsvragen --
114
362007
2977
Het is een proces waarbij
mensen vragen hebben --
06:17
about ideologyideologie, religiongodsdienst,
the livingleven conditionsvoorwaarden.
115
365008
3776
over ideologie, religie,
de leefomstandigheden.
06:20
And they're comingkomt eraan onlineonline for answersantwoorden,
116
368808
2766
Ze zoeken online naar antwoorden,
06:23
whichwelke is an opportunitykans to reachberijk them.
117
371598
1917
wat een kans biedt om ze te bereiken.
06:25
And there are videosvideos onlineonline
from people who have answersantwoorden --
118
373905
3014
Er zijn online video's
van mensen die antwoorden --
06:28
defectorsdefectors, for examplevoorbeeld,
tellingvertellen the storyverhaal of theirhun journeyreis
119
376943
2876
overlopers vertellen bijvoorbeeld
het verhaal van hun reis
06:31
into and out of violencegeweld;
120
379843
1583
naar en terug van het geweld.
06:33
storiesverhalen like the one from that man
I metleerde kennen in the IraqiIraakse prisongevangenis.
121
381450
3487
Verhalen zoals die van de man
die ik ontmoette in de Iraakse gevangenis.
Mensen van ginder hebben beelden
van hun mobiele telefoon geüpload
06:37
There are localslokale bevolking who'vedie hebben uploadedgeüpload
cellcel phonetelefoon footagebeeldmateriaal
122
385914
2590
van hoe het er echt aan toegaat
in het kalifaat onder het bewind van ISIS.
06:40
of what life is really like
in the caliphateKalifaat underonder ISIS'sDe ISIS ruleregel.
123
388528
3503
06:44
There are clericsgeestelijken who are sharingdelen
peacefulvredig interpretationsinterpretaties of IslamIslam.
124
392055
3735
Er zijn geestelijken die vreedzame
interpretaties van de islam delen.
06:48
But you know what?
125
396830
1150
Maar deze mensen beschikken meestal
niet over het marketinglef van ISIS.
06:50
These people don't generallyalgemeen have
the marketingafzet prowessdapperheid of ISISISIS.
126
398004
3020
06:54
They riskrisico theirhun liveslevens to speakspreken up
and confrontconfronteren terroristterrorist propagandapropaganda,
127
402049
4532
Zij riskeren hun leven als ze spreken
en de terroristische propaganda tegengaan.
06:58
and then they tragicallytragisch
don't reachberijk the people
128
406605
2211
Ze bereiken tragisch genoeg niet de mensen
07:00
who mostmeest need to hearhoren from them.
129
408840
1682
die het het meest nodig hebben.
Wij wilden zien of technologie
dat zou kunnen veranderen.
07:03
And we wanted to see
if technologytechnologie could changeverandering that.
130
411173
2612
07:06
So in 2016, we partneredeen partnership with MoonshotMoonshot CVECVE
131
414205
4183
In 2016 werkten we samen met Moonshot CVE
07:10
to pilotpiloot a newnieuwe approachnadering
to counteringbestrijding van radicalizationradicalisering
132
418412
3180
om een ​​nieuwe aanpak van het tegengaan
van radicalisering op te starten,
07:13
calledriep the "RedirectOmleiden MethodMethode."
133
421616
1780
de ‘Redirect Method’ genaamd.
07:16
It usestoepassingen the powermacht of onlineonline advertisingreclame
134
424453
3012
Ze maakt gebruik van de kracht
van online adverteren
07:19
to bridgebrug the gapkloof betweentussen
those susceptiblevatbaar to ISIS'sDe ISIS messagingmessaging
135
427489
4514
om de kloof te dichten tussen degenen
die gevoelig zijn voor berichten van ISIS
07:24
and those crediblegeloofwaardig voicesstemmen
that are debunkingDebunking that messagingmessaging.
136
432027
3760
en de geloofwaardige stemmen
die die berichten ontmaskeren.
07:28
And it workswerken like this:
137
436633
1150
Het werkt als volgt:
iemand zoekt extremistisch materiaal --
07:29
someoneiemand looking for extremistextremistische materialmateriaal --
138
437807
1961
07:31
say they searchzoeken
for "How do I jointoetreden ISISISIS?" --
139
439792
2990
bijvoorbeeld ‘Hoe word ik lid van ISIS?’
07:34
will see an adadvertentie appearverschijnen
140
442806
2476
-- en ziet een advertentie verschijnen.
07:37
that invitesverzoekt them to watch a YouTubeYouTube videovideo-
of a clericgeestelijke, of a defectoroverloper --
141
445306
4882
Ze nodigt uit om een ​​YouTube-video
van een geestelijke
of een overloper te bekijken --
07:42
someoneiemand who has an authenticauthentiek answerantwoord.
142
450212
2310
iemand met een authentiek antwoord.
07:44
And that targetinggericht op is basedgebaseerde
not on a profileProfiel of who they are,
143
452546
3623
Het doel is niet gebaseerd
op een profiel van wie ze zijn,
07:48
but of determininghet bepalen van something
that's directlydirect relevantrelevant
144
456193
3053
maar op het bepalen van iets
dat direct relevant is
07:51
to theirhun queryquery or questionvraag.
145
459270
1708
voor hun vraag of vragen.
07:54
DuringTijdens our eight-weekacht weken durende pilotpiloot
in EnglishEngels and ArabicArabisch,
146
462122
2842
Onze acht weken durende proef
in het Engels en het Arabisch
07:56
we reachedbereikte over 300,000 people
147
464988
3279
bereikte meer dan 300.000 mensen
08:00
who had expresseduitgedrukt an interestinteresseren in
or sympathysympathie towardsnaar a jihadiJihadi groupgroep.
148
468291
5545
die belangstelling of sympathie
voor een jihadi-groep hadden geuit.
08:06
These people were now watchingkijken videosvideos
149
474626
2264
Deze mensen keken nu naar video's
08:08
that could preventvoorkomen them
from makingmaking devastatingverwoestende choiceskeuzes.
150
476914
3340
die hen konden verhinderen
om verwoestende keuzes te maken.
08:13
And because violentgewelddadig extremismextremisme
isn't confinedbeperkt to any one languagetaal,
151
481405
3727
Omdat gewelddadig extremisme
zich niet beperkt tot één taal,
08:17
religiongodsdienst or ideologyideologie,
152
485156
1804
religie of ideologie,
08:18
the RedirectOmleiden MethodMethode is now
beingwezen deployedingezet globallywereldwijd
153
486984
3501
wordt de Redirect Method
nu wereldwijd ingezet
08:22
to protectbeschermen people beingwezen courtedHof onlineonline
by violentgewelddadig ideologuesideologen,
154
490509
3804
om mensen online te beschermen tegen
manipulatie door gewelddadige ideologen,
08:26
whetherof they're IslamistsIslamisten,
whitewit supremacistsracisten
155
494337
2596
of het nu islamisten, blanke racisten
08:28
or other violentgewelddadig extremistsextremisten,
156
496957
2103
of andere gewelddadige extremisten zijn,
08:31
with the goaldoel of givinggeven them the chancekans
to hearhoren from someoneiemand
157
499084
2873
met als doel hen de kans te geven
om iemand te horen
08:33
on the other sidekant of that journeyreis;
158
501981
2091
die het heeft meegemaakt;
08:36
to give them the chancekans to chooseKiezen
a differentverschillend pathpad.
159
504096
2839
hen de kans te geven
om een ​​ander pad te kiezen.
08:40
It turnsbochten out that oftenvaak the badslecht guys
are good at exploitingexploitatie van the internetinternet,
160
508749
5980
Het blijkt dat de slechteriken vaak goed
zijn in het benutten van het internet,
08:46
not because they're some kindsoort
of technologicaltechnologisch geniusesgenieën,
161
514753
3744
niet omdat ze technologische genieën zijn,
08:50
but because they understandbegrijpen
what makesmerken people tickKruis aan.
162
518521
2985
maar omdat ze begrijpen wat mensen drijft.
08:54
I want to give you a secondtweede examplevoorbeeld:
163
522855
2369
Ik geef jullie een tweede
voorbeeld: online pesten.
08:58
onlineonline harassmentintimidatie.
164
526019
1391
09:00
OnlineOnline harassersbeschuldigden alsoook work
to figurefiguur out what will resonateresoneren
165
528629
3363
Online-pesters zoeken ook uit
wat andere mensen aanspreekt.
09:04
with anothereen ander humanmenselijk beingwezen.
166
532016
1615
09:05
But not to recruitwerven them like ISISISIS does,
167
533655
3110
Niet om ze te rekruteren, zoals ISIS doet,
09:08
but to causeoorzaak them painpijn.
168
536789
1275
maar om ze leed te berokkenen.
09:11
ImagineStel je voor this:
169
539259
1342
Stel je voor:
09:13
you're a womanvrouw,
170
541347
1659
je bent vrouw,
09:15
you're marriedgetrouwd,
171
543030
1413
je bent getrouwd,
09:16
you have a kidkind.
172
544467
1154
je hebt een kind.
09:18
You postpost something on socialsociaal mediamedia,
173
546834
1784
Je plaatst iets op sociale media
09:20
and in a replyantwoord,
you're told that you'llje zult be rapedverkracht,
174
548642
2886
en als antwoord vertellen ze je
dat je zult verkracht worden
09:24
that your sonzoon will be watchingkijken,
175
552577
1560
terwijl je zoon toekijkt
09:26
detailsgegevens of when and where.
176
554825
1856
met details over wanneer en waar.
09:29
In factfeit, your home addressadres
is put onlineonline for everyoneiedereen to see.
177
557148
3143
Ze zetten je huisadres online
te kijk voor iedereen.
09:33
That feelsvoelt like a prettymooi realecht threatbedreiging.
178
561580
2007
Dat voelt serieus bedreigend aan.
09:37
Do you think you'dje zou go home?
179
565113
1656
Denk je dat je nog naar huis zou durven?
09:39
Do you think you'dje zou continuevoortzetten doing
the thing that you were doing?
180
567999
3048
Denk je dat je zou bezig blijven
met wat je aan het doen was?
09:43
Would you continuevoortzetten doing that thing
that's irritatingirriterend your attackeraanvaller?
181
571071
3220
Zou je bezig blijven
met wat je aanvaller irriteerde?
09:48
OnlineOnline abusemisbruik has been this perverseperverse artkunst
182
576016
3096
Online pesten is de perverse kunst
09:51
of figuringuitzoeken out what makesmerken people angryboos,
183
579136
3468
van het uitvissen wat mensen boos,
09:54
what makesmerken people afraidbang,
184
582628
2132
wat mensen bang,
09:56
what makesmerken people insecureonzeker,
185
584784
1641
wat mensen onzeker maakt,
09:58
and then pushingduwen those pressuredruk pointspoints
untiltot they're silencedhet zwijgen opgelegd.
186
586449
3067
en dan op die knoppen
blijven drukken tot ze zwijgen.
10:02
When onlineonline harassmentintimidatie goesgaat uncheckedniet-gecontroleerde,
187
590333
2304
Als er tegen online pesten
niets wordt ondernomen,
10:04
freegratis speechtoespraak is stifledgesmoord.
188
592661
1667
wordt de vrijheid
van meningsuiting verstikt.
10:07
And even the people
hostinghosting the conversationgesprek
189
595196
2127
Zelfs de mensen die de conversatie hosten,
steken hun armen in de lucht,
houden het voor bekeken
10:09
throwGooi up theirhun armsarmen and call it quitsafgesloten,
190
597347
1834
10:11
closingsluitend theirhun commentcommentaar sectionssecties
and theirhun forumsforums altogetherover het geheel genomen.
191
599205
2957
en sluiten hun commentaren en forums af.
10:14
That meansmiddelen we're actuallywerkelijk
losingverliezen spacesruimten onlineonline
192
602186
2849
Dat betekent dat we
online ruimten kwijtraken
waar we kunnen ontmoeten
en ideeën uitwisselen.
10:17
to meetontmoeten and exchangeuitwisseling ideasideeën.
193
605059
1987
10:19
And where onlineonline spacesruimten remainblijven,
194
607939
2163
En waar online ruimten overblijven,
10:22
we descenddalen into echoecho chamberskamers
with people who think just like us.
195
610126
4470
dalen we af naar echokamers
met mensen die net denken als wij.
10:27
But that enablesstelt
the spreadverspreiding of disinformationdesinformatie;
196
615688
2499
Maar dat leidt tot
verspreiding van desinformatie,
10:30
that facilitatesvergemakkelijkt polarizationpolarisatie.
197
618211
2184
vergemakkelijkt polarisatie.
10:34
What if technologytechnologie insteadin plaats daarvan
could enablein staat stellen empathyempathie at scaleschaal?
198
622508
5269
Wat als technologie echter empathie
op grote schaal mogelijk zou maken?
10:40
This was the questionvraag
that motivatedgemotiveerd our partnershipvennootschap
199
628451
2486
Die vraag motiveerde ons partnerschap
10:42
with Google'sGoogles CounterTeller AbuseMisbruik teamteam,
200
630961
1819
met Google’s Counter Abuse team,
10:44
WikipediaWikipedia
201
632804
1178
alsook met Wikipedia
10:46
and newspaperskranten like the NewNieuw YorkYork TimesTijden.
202
634006
1934
en kranten als de New York Times.
10:47
We wanted to see if we could buildbouwen
machine-learningmachine-leren modelsmodellen
203
635964
2876
We wilden zien of we modellen
voor machinaal leren konden bouwen
10:50
that could understandbegrijpen
the emotionalemotioneel impactbotsing of languagetaal.
204
638864
3606
die de emotionele impact
van taal konden begrijpen.
10:55
Could we predictvoorspellen whichwelke commentsopmerkingen
were likelywaarschijnlijk to make someoneiemand elseanders leavehet verlof
205
643062
3610
Konden we voorspellen welke commentaren
iemand konden doen weglopen
10:58
the onlineonline conversationgesprek?
206
646696
1374
van de online conversatie?
11:00
And that's no mean featFeat.
207
648515
3887
Dat is geen sinecure.
11:04
That's no trivialtriviaal accomplishmentprestatie
208
652426
1566
Het is geen peulschil voor KI
om zoiets aan te kunnen.
11:06
for AIAI to be ablein staat to do
something like that.
209
654016
2563
Ik bedoel, kijk gewoon eens
naar deze twee voorbeelden van berichten
11:08
I mean, just consideroverwegen
these two examplesvoorbeelden of messagesberichten
210
656603
3729
11:12
that could have been sentverzonden to me last weekweek.
211
660356
2224
die iemand me vorige week
had kunnen sturen.
11:15
"BreakPauze a legbeen at TEDTED!"
212
663517
1879
"Breek een been bij TED!"
11:17
... and
213
665420
1164
en ...
11:18
"I'll breakbreken your legsbenen at TEDTED."
214
666608
2126
"Ik zal je benen breken bij TED."
11:20
(LaughterGelach)
215
668758
1246
(Gelach)
11:22
You are humanmenselijk,
216
670028
1513
Je bent mens,
11:23
that's why that's an obviousduidelijk
differenceverschil to you,
217
671565
2210
daarom is dat voor jou
een duidelijk verschil,
11:25
even thoughhoewel the wordstekst
are prettymooi much the samedezelfde.
218
673799
2224
hoewel de woorden vrijwel dezelfde zijn.
11:28
But for AIAI, it takes some trainingopleiding
to teachonderwijzen the modelsmodellen
219
676047
3079
Maar voor KI neemt dat enige training
om de modellen te leren
11:31
to recognizeherken that differenceverschil.
220
679150
1571
dat verschil te herkennen.
11:32
The beautyschoonheid of buildinggebouw AIAI
that can tell the differenceverschil
221
680745
3245
Het knappe aan het bouwen van een KI
die dat onderscheid kan maken,
11:36
is that AIAI can then scaleschaal to the sizegrootte
of the onlineonline toxicitytoxiciteit phenomenonfenomeen,
222
684014
5050
is dat KI dan kan opschalen tot de omvang
van dat giftige online fenomeen.
11:41
and that was our goaldoel in buildinggebouw
our technologytechnologie calledriep PerspectivePerspectief.
223
689088
3287
Dat was ons doel bij het bouwen
van onze Perspective-technologie.
11:45
With the help of PerspectivePerspectief,
224
693056
1427
Met de hulp van Perspective
11:46
the NewNieuw YorkYork TimesTijden, for examplevoorbeeld,
225
694507
1583
heeft de New York Times bijvoorbeeld
11:48
has increasedtoegenomen spacesruimten
onlineonline for conversationgesprek.
226
696114
2487
de online ruimtes
voor conversatie doen toenemen.
11:51
Before our collaborationsamenwerking,
227
699005
1310
Vóór onze samenwerking
11:52
they only had commentsopmerkingen enabledingeschakeld
on just 10 percentprocent of theirhun articlesartikelen.
228
700339
4305
lieten ze slechts commentaren toe
op maar 10% van hun artikelen.
11:57
With the help of machinemachine learningaan het leren,
229
705495
1644
Met de hulp van machinaal leren
11:59
they have that numberaantal up to 30 percentprocent.
230
707163
1897
is dat aantal verhoogd tot 30%.
12:01
So they'veze hebben tripledverdrievoudigd it,
231
709084
1156
Ze hebben het dus verdrievoudigd
12:02
and we're still just gettingkrijgen startedbegonnen.
232
710264
1917
en we zijn nog maar net begonnen.
12:04
But this is about way more than just
makingmaking moderatorsmoderators more efficientdoeltreffend.
233
712872
3461
Maar dit gaat over veel meer dan
beheerders alleen maar efficiënter maken.
12:10
Right now I can see you,
234
718076
1850
Op dit moment kan ik jullie zien
12:11
and I can gaugemeten how what I'm sayinggezegde
is landinglanden with you.
235
719950
3294
en beoordelen hoe wat ik zeg
bij jullie overkomt.
12:16
You don't have that opportunitykans onlineonline.
236
724370
1879
Die mogelijkheid heb je niet online.
12:18
ImagineStel je voor if machinemachine learningaan het leren
could give commenterscommenters,
237
726558
3635
Stel je voor dat machinaal leren
aan commentators, terwijl ze typen,
12:22
as they're typingtypen,
238
730217
1162
12:23
real-timeechte tijd feedbackterugkoppeling about how
theirhun wordstekst mightmacht landland-,
239
731403
3347
real-time feedback kon geven
over hoe hun woorden overkomen.
12:27
just like facialFacial expressionsuitdrukkingen do
in a face-to-faceface-to-face conversationgesprek.
240
735609
3024
Net zoals gezichtsuitdrukkingen
bij een oog-in-oog gesprek.
12:32
MachineMachine learningaan het leren isn't perfectperfect,
241
740926
1842
Machinaal leren is niet perfect
12:34
and it still makesmerken plentyovervloed of mistakesfouten.
242
742792
2394
en het maakt nog steeds veel fouten.
12:37
But if we can buildbouwen technologytechnologie
243
745210
1557
Maar als we technologie kunnen bouwen
12:38
that understandsbegrijpt the emotionalemotioneel
impactbotsing of languagetaal,
244
746791
3293
die de emotionele impact
van de taal begrijpt,
12:42
we can buildbouwen empathyempathie.
245
750108
1460
kunnen we empathie opbouwen.
12:43
That meansmiddelen that we can have
dialoguedialoog betweentussen people
246
751592
2425
Dan krijgen we dialoog tussen mensen
12:46
with differentverschillend politicspolitiek,
247
754041
1816
met verschillende politieke meningen,
12:47
differentverschillend worldviewswereldbeelden,
248
755881
1216
verschillende wereldbeelden,
12:49
differentverschillend valueswaarden.
249
757121
1246
verschillende waarden.
12:51
And we can reinvigoratenieuw leven inblazen the spacesruimten onlineonline
that mostmeest of us have givengegeven up on.
250
759359
4775
Dan kunnen we online ruimtes
nieuwe impulsen geven
nu de meesten daar begonnen af te haken.
12:57
When people use technologytechnologie
to exploitexploiteren and harmkwaad othersanderen,
251
765857
3785
Wanneer mensen technologie gebruiken
om anderen uit te buiten
en schade toe te brengen,
13:01
they're preyingAzen on our humanmenselijk fearsangsten
and vulnerabilitieskwetsbaarheden.
252
769666
3642
azen ze op onze menselijke angsten
en kwetsbaarheden.
13:06
If we ever thought
that we could buildbouwen an internetinternet
253
774461
3508
Als we ooit dachten dat
we een internet konden bouwen
13:09
insulatedgeïsoleerd from the darkdonker sidekant of humanityde mensheid,
254
777993
2578
geïsoleerd van de donkere
kant van de mensheid,
dan hadden we het mis.
13:12
we were wrongfout.
255
780595
1184
13:14
If we want todayvandaag to buildbouwen technologytechnologie
256
782361
2270
Als we vandaag de dag
technologie willen
die de uitdagingen kan overwinnen
waarmee we worden geconfronteerd,
13:16
that can overcomeoverwinnen
the challengesuitdagingen that we facegezicht,
257
784655
3127
13:19
we have to throwGooi our entiregeheel selvesselves
into understandingbegrip the issueskwesties
258
787806
4043
moeten we ons helemaal toeleggen
op het begrijpen van de problemen
13:23
and into buildinggebouw solutionsoplossingen
259
791873
1893
en zoeken naar oplossingen
13:25
that are as humanmenselijk as the problemsproblemen
they aimdoel to solveoplossen.
260
793790
3782
die even menselijk zijn als
de problemen die ze beogen op te lossen.
13:30
Let's make that happengebeuren.
261
798071
1513
Laten we zorgen dat dat gebeurt.
13:31
Thank you.
262
799924
1150
Dank je.
13:33
(ApplauseApplaus)
263
801098
3277
(Applaus)
Translated by Rik Delaet
Reviewed by Peter Van de Ven

▲Back to top

ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com