ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com
TED2018

Yasmin Green: How technology can fight extremism and online harassment

Ясмин Грин: Как технологии могут помочь в борьбе с экстремизмом и агрессией в сети

Filmed:
2,460,759 views

Могут ли технологии уберечь людей от опасностей экстремизма, цензуры и запугивания? В этом поучительном выступлении специалист по технологиям Ясмин Грин раскрывает подробности программы, впервые опробованной Jigsaw (подразделением Alphabet Inc., группы компаний, в которую входит Google) для противодействия радикализации и угрозам в сети. Также она говорит о проекте, который даёт комментаторам фидбек в реальном времени о том, как могут быть восприняты их сообщения, что уже позволило расширить пространство для диалога. «Если мы раньше думали, что сможем создать интернет, защищённый от тёмной стороны человеческой природы, — мы ошибались. Нам нужно посвятить всех себя созданию решений, таких же человеческих по своей природе, как и проблемы, которые они должны решить», — говорит Грин.
- Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio

Double-click the English transcript below to play the video.

00:13
My relationshipотношения with the internetинтернет
remindsнапоминает me of the setupнастроить
0
1131
4411
Мои отношения с интернетом
напоминают мне засаду
00:17
to a clichклишеéd horrorужастик movieкино.
1
5566
1833
из полного клише фильма ужасов.
00:19
You know, the blissfullyблаженно happyсчастливый familyсемья
movesдвижется in to theirих perfectидеально newновый home,
2
7867
4386
Знаете, когда ничего не ведающая
счастливая семья
въезжает в прекрасный новый дом
00:24
excitedв восторге about theirих perfectидеально futureбудущее,
3
12277
2281
в предвкушении прекрасного будущего.
00:26
and it's sunnyсолнечно outsideза пределами
and the birdsптицы are chirpingстрекотание ...
4
14582
3521
За окном солнечно, щебечут птички...
00:30
And then it getsполучает darkтемно.
5
18857
1839
А затем наступает тьма.
00:32
And there are noisesшумы from the atticчердак.
6
20720
2348
С чердака доносятся звуки.
00:35
And we realizeпонимать that that perfectидеально
newновый houseдом isn't so perfectидеально.
7
23092
4345
И мы понимаем, что прекрасный
новый дом не так прекрасен.
00:40
When I startedначал workingза работой at GoogleGoogle in 2006,
8
28485
3131
Когда я начала работать в Google
в 2006 году,
00:43
Facebookfacebook was just a two-year-oldдва-летний,
9
31640
1767
Facebook было всего два года,
00:45
and Twitterщебет hadn'tне имел yetвсе же been bornРодился.
10
33431
2012
а Twitter ещё не появился.
00:47
And I was in absoluteабсолютный aweтрепет
of the internetинтернет and all of its promiseобещание
11
35848
4410
Я была абсолютно восхищена интернетом
и его перспективами
00:52
to make us closerближе
12
40282
1437
сделать нас ближе,
00:53
and smarterумнее
13
41743
1296
умнее
00:55
and more freeсвободно.
14
43063
1214
и свободнее.
00:57
But as we were doing the inspiringвдохновляющий work
of buildingздание searchпоиск enginesдвигатели
15
45265
3714
Но пока мы вдохновенно занимались
созданием поисковых систем,
01:01
and video-sharingвидеосервиса sitesместа
and socialСоциальное networksсети,
16
49003
2886
сайтов обмена видео и социальных сетей,
01:04
criminalsпреступники, dictatorsдиктаторы and terroristsтеррористы
were figuringвычисляя out
17
52907
4304
преступники, диктаторы
и террористы придумывали,
01:09
how to use those sameодна и та же
platformsплатформы againstпротив us.
18
57235
3202
как использовать
эти же платформы против нас.
01:13
And we didn't have
the foresightпредвидение to stop them.
19
61417
2455
И нам не хватило дальновидности
остановить их.
01:16
Over the last fewмало yearsлет, geopoliticalгеополитический
forcesсил have come onlineонлайн to wreakпосеять havocопустошение.
20
64746
5099
За последние несколько лет геополитические
силы пришли в сеть и принесли хаос.
01:21
And in responseответ,
21
69869
1169
В ответ
01:23
GoogleGoogle supportedподдержанный a fewмало colleaguesколлеги and me
to setзадавать up a newновый groupгруппа calledназывается JigsawГоловоломки,
22
71062
4778
Google помог нам с коллегами объединиться
в группу под названием Jigsaw,
01:27
with a mandateмандат to make people saferбезопаснее
from threatsугрозы like violentнасильственный extremismэкстремизм,
23
75864
4596
чтобы уберечь людей от угроз
вроде экстремизма,
01:32
censorshipцензура, persecutionпреследование --
24
80484
2078
цензуры, преследования —
01:35
threatsугрозы that feel very personalличный to me
because I was bornРодился in IranИран,
25
83186
4117
угроз, которые я воспринимаю очень лично,
потому что родилась в Иране,
01:39
and I left in the aftermathотава
of a violentнасильственный revolutionреволюция.
26
87327
2929
который покинула
вскоре после жестокой революции.
01:43
But I've come to realizeпонимать
that even if we had all of the resourcesРесурсы
27
91525
4346
Но я поняла, что даже если бы у нас были
все возможные ресурсы,
01:47
of all of the technologyтехнологии
companiesкомпании in the worldМир,
28
95895
2858
все технологии компаний мира,
01:51
we'dмы б still failпотерпеть неудачу
29
99595
1230
мы бы всё равно проиграли,
01:53
if we overlookedупускать из виду one criticalкритический ingredientингредиент:
30
101586
2948
если бы упустили ключевой ингредиент:
01:57
the humanчеловек experiencesопыт of the victimsжертвы
and perpetratorsисполнители of those threatsугрозы.
31
105653
5789
человеческий опыт жертв
и тех, кто им угрожал.
02:04
There are manyмногие challengesпроблемы
I could talk to you about todayCегодня.
32
112935
2736
Я могла бы сегодня
говорить о многих угрозах,
02:07
I'm going to focusфокус on just two.
33
115695
1504
но хочу сосредоточиться только на двух.
02:09
The first is terrorismтерроризм.
34
117623
2079
Первая — это терроризм.
02:13
So in orderзаказ to understandПонимаю
the radicalizationрадикализация processобработать,
35
121563
2557
Чтобы понять процесс радикализации,
02:16
we metвстретил with dozensмножество of formerбывший membersчлены
of violentнасильственный extremistэкстремист groupsгруппы.
36
124144
4287
мы встретились с десятками бывших членов
экстремистских группировок.
02:21
One was a BritishБританская schoolgirlученица,
37
129590
2483
Одной из них была британская школьница,
02:25
who had been takenвзятый off of a planeсамолет
at LondonЛондон Heathrowхитроу
38
133049
3699
которую сняли с самолёта
в лондонском аэропорту Хитроу,
02:28
as she was tryingпытаясь to make her way
to SyriaСирия to joinприсоединиться ISISISIS.
39
136772
4692
когда она попыталась добраться до Сирии,
чтобы вступить в ИГИЛ.
02:34
And she was 13 yearsлет oldстарый.
40
142281
1931
Ей было 13 лет.
02:37
So I satсидел down with her and her fatherотец,
and I said, "Why?"
41
145792
4625
Я встретилась с ней и её отцом
и спросила: «Почему?»
02:42
And she said,
42
150441
1717
И она ответила:
02:44
"I was looking at picturesкартинки
of what life is like in SyriaСирия,
43
152182
3639
«Я смотрела на фотографии сирийской жизни
02:47
and I thought I was going to go
and liveжить in the Islamicисламский DisneyДисней WorldМир."
44
155845
3510
и решила, что буду жить
в исламском Диснейленде».
02:52
That's what she saw in ISISISIS.
45
160527
2084
Вот каким она представляла себе ИГИЛ.
02:54
She thought she'dсарай meetвстретить and marryвыйти замуж
a jihadiджихадистскую Bradштифтик PittПитт
46
162635
3492
Она думала, что встретит и станет женой
джихадистского Брэда Питта,
02:58
and go shoppingпоход по магазинам in the mallторговый центр all day
and liveжить happilyсчастливо ever after.
47
166151
3058
целыми днями будет ходить по магазинам
и жить долго и счастливо.
03:02
ISISISIS understandsпонимает what drivesдиски people,
48
170977
2824
В ИГИЛ знают, что мотивирует людей,
03:05
and they carefullyвнимательно craftремесло a messageсообщение
for eachкаждый audienceаудитория.
49
173825
3544
и они тщательно работают над сообщениями
для каждой конкретной аудитории.
Только посмотрите, на сколько языков
03:11
Just look at how manyмногие languagesязыки
50
179122
1511
03:12
they translateпереведите theirих
marketingмаркетинг materialматериал into.
51
180657
2273
они переводят свои рекламные материалы.
03:15
They make pamphletsпамфлеты,
radioрадио showsшоу and videosвидео
52
183677
2661
Они делают листовки, радиопередачи и видео
03:18
in not just Englishанглийский and Arabicарабский,
53
186362
1973
не только на английском и арабском,
03:20
but GermanНемецкий, Russianрусский,
FrenchФранцузский, Turkishтурецкий, Kurdishкурдский,
54
188359
4767
но и на немецком, русском, французском,
турецком, курдском языках,
03:25
Hebrewиврит,
55
193150
1672
иврите
03:26
Mandarinмандарин ChineseКитайский.
56
194846
1741
и китайском.
03:29
I've even seenвидели an ISIS-producedISIS-производства
videoвидео in signзнак languageязык.
57
197309
4192
Я даже видела их видео на языке жестов.
03:34
Just think about that for a secondвторой:
58
202605
1884
Только задумайтесь:
03:36
ISISISIS tookвзял the time and madeсделал the effortусилие
59
204513
2308
В ИГИЛ потратили время и силы,
03:38
to ensureобеспечивать theirих messageсообщение is reachingдостижения
the deafглухой and hardжесткий of hearingслух.
60
206845
3804
чтобы их сообщение дошло
до глухих и слабослышащих.
03:45
It's actuallyна самом деле not tech-savvinessТехнология инструктором
61
213143
2144
Дело не во владении технологиями,
03:47
that is the reasonпричина why
ISISISIS winsпобеды heartsсердца and mindsумов.
62
215311
2595
не поэтому ИГИЛ завоёвывает
умы и сердца людей.
03:49
It's theirих insightв поле зрения into the prejudicesпредрассудки,
the vulnerabilitiesуязвимости, the desiresжелания
63
217930
4163
Дело в их понимании предрассудков,
слабостей и желаний
03:54
of the people they're tryingпытаясь to reachдостичь
64
222117
1774
людей, к которым они обращаются,
03:55
that does that.
65
223915
1161
вот в чём.
03:57
That's why it's not enoughдостаточно
66
225718
1429
Вот почему онлайн-платформам недостаточно
03:59
for the onlineонлайн platformsплатформы
to focusфокус on removingудаление recruitingнаем materialматериал.
67
227171
4239
сосредоточиться на удалении
вербовочных материалов.
04:04
If we want to have a shotвыстрел
at buildingздание meaningfulзначимым technologyтехнологии
68
232518
3581
Если мы хотим получить шанс
на создание значимых технологий,
04:08
that's going to counterсчетчик radicalizationрадикализация,
69
236123
1874
которые одолеют радикализацию,
04:10
we have to startНачало with the humanчеловек
journeyпоездка at its coreядро.
70
238021
2979
нам нужно начать с человеческого
путешествия к её истокам.
04:13
So we wentотправился to IraqИрак
71
241884
2187
Поэтому мы отправились в Ирак
04:16
to speakговорить to youngмолодой menлюди
who'dкто бы boughtкупил into ISIS'sISIS promiseобещание
72
244095
2831
поговорить с молодыми людьми,
которые купились на обещания ИГИЛ
04:18
of heroismгероизм and righteousnessправедность,
73
246950
3191
о героизме и правоте,
04:22
who'dкто бы takenвзятый up armsоружие to fightборьба for them
74
250165
1847
взяли в руки оружие,
04:24
and then who'dкто бы defectedбежал
75
252036
1338
но дезертировали,
04:25
after they witnessedсвидетелями
the brutalityзверство of ISIS'sISIS ruleправило.
76
253398
3021
когда увидели жестокость режима ИГИЛ.
04:28
And I'm sittingсидящий there in this makeshiftимпровизированный
prisonтюрьма in the northсевер of IraqИрак
77
256880
3192
И вот я сижу в этой временной тюрьме
на севере Ирака
04:32
with this 23-year-old-лет who had actuallyна самом деле
trainedобученный as a suicideсамоубийство bomberбомбардировщик
78
260096
4550
с 23-летним парнем,
которого обучали подорвать себя,
04:36
before defectingпобега.
79
264670
1552
пока он не сбежал.
04:39
And he saysговорит,
80
267080
1158
Он сказал:
04:41
"I arrivedприбывший in SyriaСирия fullполный of hopeнадежда,
81
269119
3220
«Я прибыл в Сирию полным надежд,
04:44
and immediatelyнемедленно, I had two
of my prizedценится possessionsпожитки confiscatedконфискованный:
82
272363
4365
но у меня тут же отобрали
две самые ценные вещи:
04:48
my passportзаграничный пасспорт and my mobileмобильный phoneТелефон."
83
276752
2933
паспорт и телефон».
04:52
The symbolsсимволы of his physicalфизическое
and digitalцифровой libertyсвобода
84
280140
2406
Символы физической и цифровой свободы
04:54
were takenвзятый away from him on arrivalприбытие.
85
282570
1760
отняли сразу по прибытии.
04:57
And then this is the way he describedописано
that momentмомент of lossпотеря to me.
86
285248
3510
И вот как он описал мне
этот момент потери.
05:01
He said,
87
289356
1586
Он сказал:
05:02
"You know in 'Tom' Тома and JerryДжерри,'
88
290966
2329
«Знаете, в "Том и Джерри",
05:06
when JerryДжерри wants to escapeпобег,
and then TomТом locksзамки the doorдверь
89
294192
3103
когда Джерри пытается убежать,
а Том закрывает дверь
05:09
and swallowsласточки the keyключ
90
297319
1156
и проглатывает ключ
05:10
and you see it bulgingвыпячивание out
of his throatгорло as it travelsпутешествия down?"
91
298499
3551
и видно, как ключ спускается по горлу?»
05:14
And of courseкурс, I really could see
the imageобраз that he was describingописывающее,
92
302446
3153
Конечно, я могла представить себе то,
что он описывал,
05:17
and I really did connectсоединять with the feelingчувство
that he was tryingпытаясь to conveyпередавать,
93
305623
3661
и я прочувствовала то,
что он пытался передать,
05:21
whichкоторый was one of doomгибель,
94
309308
2021
чувство обречённости,
05:23
when you know there's no way out.
95
311353
1789
когда знаешь, что выхода нет.
05:26
And I was wonderingинтересно:
96
314551
1289
И мне стало интересно,
05:28
What, if anything,
could have changedизменено his mindразум
97
316644
2682
что, если бы что-то
заставило его передумать
в день, когда он ушёл из дома?
05:31
the day that he left home?
98
319350
1240
05:32
So I askedспросил,
99
320614
1250
И я его спросила:
05:33
"If you knewзнал everything that you know now
100
321888
3178
«Если бы ты знал всё, что знаешь сегодня
05:37
about the sufferingстрадающий
and the corruptionкоррупция, the brutalityзверство --
101
325090
3051
о страданиях, коррупции, жестокости,
05:40
that day you left home,
102
328165
1415
в день, когда ушёл из дома,
05:41
would you still have goneпрошло?"
103
329604
1679
ты бы всё равно ушёл?»
05:43
And he said, "Yes."
104
331786
1711
И он ответил: «Да».
05:45
And I thought, "Holyсвятой crapдерьмо, he said 'Yes' Да.'"
105
333846
2282
Я подумала: «Чёрт, он сказал "да"».
05:48
And then he said,
106
336694
1219
А затем он добавил:
05:49
"At that pointточка, I was so brainwashedпромывания мозгов,
107
337937
3001
«В тот момент мне уже так промыли мозги,
05:52
I wasn'tне было takingпринятие in
any contradictoryпротиворечивый informationИнформация.
108
340962
3244
что я ничего другого не воспринимал.
05:56
I couldn'tне может have been swayedкачался."
109
344744
1555
Меня было не переубедить».
05:59
"Well, what if you knewзнал
everything that you know now
110
347235
2527
«Тогда что, если бы ты знал всё,
что знаешь сегодня,
06:01
sixшесть monthsмесяцы before the day that you left?"
111
349786
2098
за шесть месяцев до того,
как ушёл из дома?»
06:05
"At that pointточка, I think it probablyвероятно
would have changedизменено my mindразум."
112
353345
3131
«На тот момент, думаю,
это могло бы изменить моё мнение».
06:10
RadicalizationРадикализации isn't
this yes-or-noДа или нет choiceвыбор.
113
358138
3397
Радикализация это не выбор
из двух вариантов.
06:14
It's a processобработать, duringв течение whichкоторый
people have questionsвопросов --
114
362007
2977
Это процесс, во время которого
у людей возникают вопросы
06:17
about ideologyидеология, religionрелигия,
the livingживой conditionsусловия.
115
365008
3776
об идеологии, религии, условиях жизни.
06:20
And they're comingприход onlineонлайн for answersответы,
116
368808
2766
И они ищут ответы онлайн,
06:23
whichкоторый is an opportunityвозможность to reachдостичь them.
117
371598
1917
и это возможность достучаться до них.
06:25
And there are videosвидео onlineонлайн
from people who have answersответы --
118
373905
3014
В сети есть видео от тех,
у кого есть ответы,
06:28
defectorsперебежчики, for exampleпример,
tellingговоря the storyистория of theirих journeyпоездка
119
376943
2876
например, видео дезертиров,
рассказывающих свои истории
06:31
into and out of violenceнасилие;
120
379843
1583
о том, как они сбежали от насилия,
06:33
storiesистории like the one from that man
I metвстретил in the Iraqiиракский prisonтюрьма.
121
381450
3487
истории, как у мужчины, которого
я встретила в иракской тюрьме.
06:37
There are localsместные жители who'veкоторые уже uploadedзакачанный
cellклетка phoneТелефон footageметраж
122
385914
2590
В сеть выложены кадры,
на которых местные жители засняли,
06:40
of what life is really like
in the caliphateхалифат underпод ISIS'sISIS ruleправило.
123
388528
3503
какова жизнь в халифате
под управлением ИГИЛ.
06:44
There are clericsдуховенство who are sharingразделение
peacefulмирное interpretationsинтерпретации of Islamислам.
124
392055
3735
Есть церковники, которые делятся
мирным толкованием ислама.
06:48
But you know what?
125
396830
1150
Но знаете что?
06:50
These people don't generallyв общем have
the marketingмаркетинг prowessдоблесть of ISISISIS.
126
398004
3020
У этих людей, как правило,
нет рекламного мастерства ИГИЛ.
06:54
They riskриск theirих livesжизни to speakговорить up
and confrontпротивостоять terroristтеррорист propagandaпропаганда,
127
402049
4532
Они рискуют своей жизнью, чтобы не молчать
и противостоять
террористической пропаганде,
но трагедия в том, что они могут
не достучаться до людей,
06:58
and then they tragicallyтрагически
don't reachдостичь the people
128
406605
2211
07:00
who mostбольшинство need to hearзаслушивать from them.
129
408840
1682
которым нужнее всего это услышать.
07:03
And we wanted to see
if technologyтехнологии could changeизменение that.
130
411173
2612
Мы хотели проверить,
могут ли технологии это изменить.
07:06
So in 2016, we partneredпартнерство with Moonshotполет на Луну CVECVE
131
414205
4183
Поэтому в 2016 мы вместе с Moonshot CVE
07:10
to pilotпилот a newновый approachподход
to counteringпротиводействие radicalizationрадикализация
132
418412
3180
применили новаторский подход
к борьбе с радикализацией,
07:13
calledназывается the "RedirectПеренаправление Methodметод."
133
421616
1780
названный «Методом переадресации».
07:16
It usesиспользования the powerмощность of onlineонлайн advertisingреклама
134
424453
3012
Он использовал мощь онлайн-рекламы,
07:19
to bridgeмост the gapразрыв betweenмежду
those susceptibleвосприимчивый to ISIS'sISIS messagingобмен сообщениями
135
427489
4514
чтобы соединить подверженных призывам ИГИЛ
07:24
and those credibleзаслуживающий доверия voicesголоса
that are debunkingразвенчание that messagingобмен сообщениями.
136
432027
3760
с теми достойными доверия людьми,
которые изобличают ложь таких призывов.
07:28
And it worksработает like this:
137
436633
1150
Вот как это работает:
07:29
someoneкто то looking for extremistэкстремист materialматериал --
138
437807
1961
когда, кто-то ищет
экстремистский материал,
07:31
say they searchпоиск
for "How do I joinприсоединиться ISISISIS?" --
139
439792
2990
например, ищет «Как вступить в ИГИЛ?»,
07:34
will see an adобъявление appearпоявиться
140
442806
2476
увидит всплывающую рекламу
07:37
that invitesинвайты them to watch a YouTubeYouTube videoвидео
of a clericдуховное лицо, of a defectorперебежчик --
141
445306
4882
приглашающую посмотреть на YouTube
видео с духовным лицом или с дезертиром —
07:42
someoneкто то who has an authenticаутентичный answerответ.
142
450212
2310
с кем-то, у кого есть личный опыт.
07:44
And that targetingнацеливание is basedисходя из
not on a profileпрофиль of who they are,
143
452546
3623
Таргетированная реклама основана
не на профиле пользователя,
07:48
but of determiningопределения something
that's directlyнепосредственно relevantСоответствующий
144
456193
3053
а напрямую зависит от поискового запроса.
07:51
to theirих queryзапрос or questionвопрос.
145
459270
1708
07:54
DuringВ течение our eight-weekвосемь недель pilotпилот
in Englishанглийский and Arabicарабский,
146
462122
2842
За восемь недель пробного периода
на английском и арабском
07:56
we reachedдостиг over 300,000 people
147
464988
3279
мы смогли обратиться к 300 000 человек,
08:00
who had expressedвыраженный an interestинтерес in
or sympathyсимпатия towardsв направлении a jihadiджихадистскую groupгруппа.
148
468291
5545
которые проявили интерес или сочувствие
джихадистским группировкам.
08:06
These people were now watchingнаблюдение videosвидео
149
474626
2264
Эти люди теперь посмотрели видео,
08:08
that could preventне допустить them
from makingизготовление devastatingразрушительный choicesвыбор.
150
476914
3340
которые могли уберечь их от ужасных
последствий необдуманного выбора.
08:13
And because violentнасильственный extremismэкстремизм
isn't confinedограниченный to any one languageязык,
151
481405
3727
И поскольку крайний экстремизм
не ограничен каким-то одним языком,
08:17
religionрелигия or ideologyидеология,
152
485156
1804
религией или идеологией,
08:18
the RedirectПеренаправление Methodметод is now
beingявляющийся deployedразвернутый globallyглобально
153
486984
3501
«Метод переадресации» сейчас
применяется по всему миру,
08:22
to protectзащищать people beingявляющийся courtedухаживал onlineонлайн
by violentнасильственный ideologuesидеологи,
154
490509
3804
чтобы защитить людей от заигрывания
с экстремистскими идеологиями,
08:26
whetherбудь то they're Islamistsисламисты,
whiteбелый supremacistsрасисты
155
494337
2596
хоть исламисткими, хоть расистскими —
08:28
or other violentнасильственный extremistsэкстремисты,
156
496957
2103
любым экстремизмом,
08:31
with the goalЦель of givingдающий them the chanceшанс
to hearзаслушивать from someoneкто то
157
499084
2873
и цель — дать людям шанс услышать кого-то,
08:33
on the other sideбоковая сторона of that journeyпоездка;
158
501981
2091
кто прошёл этот путь
и получил другой опыт;
08:36
to give them the chanceшанс to chooseвыберите
a differentдругой pathдорожка.
159
504096
2839
дать им шанс выбрать другой путь.
08:40
It turnsвитки out that oftenдовольно часто the badПлохо guys
are good at exploitingэксплуатации the internetинтернет,
160
508749
5980
Часто оказывается, что плохие парни
хорошо умеют пользоваться интернетом,
08:46
not because they're some kindсвоего рода
of technologicalтехнологический geniusesгении,
161
514753
3744
не потому что они гении в технологиях,
08:50
but because they understandПонимаю
what makesмарки people tickпоставить галочку.
162
518521
2985
а потому что понимают,
что «цепляет» людей.
08:54
I want to give you a secondвторой exampleпример:
163
522855
2369
Хочу привести вам второй пример:
08:58
onlineонлайн harassmentдомогательство.
164
526019
1391
угрозы в сети.
09:00
OnlineВ сети harassersharassers alsoтакже work
to figureфигура out what will resonateрезонировать
165
528629
3363
Угрозы в сети тоже зависят от отклика,
09:04
with anotherдругой humanчеловек beingявляющийся.
166
532016
1615
который найдёт сообщение.
09:05
But not to recruitнанимать на работу them like ISISISIS does,
167
533655
3110
Но цель — не вербовать в ИГИЛ,
09:08
but to causeпричина them painболь.
168
536789
1275
а причинять другому боль.
09:11
ImagineПредставить this:
169
539259
1342
Представьте:
09:13
you're a womanженщина,
170
541347
1659
вы женщина,
09:15
you're marriedв браке,
171
543030
1413
замужем,
09:16
you have a kidдитя.
172
544467
1154
у вас ребёнок.
09:18
You postпосле something on socialСоциальное mediaСМИ,
173
546834
1784
Вы что-то выкладываете в соцсетях,
09:20
and in a replyОтветить,
you're told that you'llВы будете be rapedизнасилованная,
174
548642
2886
а в ответ вам пишут, что вас изнасилуют
09:24
that your sonсын will be watchingнаблюдение,
175
552577
1560
на глазах у сына,
09:26
detailsДетали of when and where.
176
554825
1856
подробно описывают где и когда.
09:29
In factфакт, your home addressадрес
is put onlineонлайн for everyoneвсе to see.
177
557148
3143
Ваш адрес выкладывают
на всеобщее обозрение.
09:33
That feelsчувствует like a prettyСимпатичная realреальный threatугроза.
178
561580
2007
Это похоже на реальную угрозу.
09:37
Do you think you'dвы бы go home?
179
565113
1656
Вы бы вернулись домой?
09:39
Do you think you'dвы бы continueПродолжать doing
the thing that you were doing?
180
567999
3048
Стали бы продолжать заниматься тем,
чем занимались до этого?
09:43
Would you continueПродолжать doing that thing
that's irritatingраздражающий your attackerатакующий?
181
571071
3220
Будете и дальше делать то,
что разозлило вашего обидчика?
09:48
OnlineВ сети abuseзлоупотребление has been this perverseизвращенный artИзобразительное искусство
182
576016
3096
Угрозы онлайн — это такой извращённый акт,
09:51
of figuringвычисляя out what makesмарки people angryсердитый,
183
579136
3468
когда выясняют, что злит других людей,
09:54
what makesмарки people afraidбоюсь,
184
582628
2132
что их пугает,
09:56
what makesмарки people insecureнебезопасный,
185
584784
1641
из-за чего они теряют покой,
09:58
and then pushingтолкая those pressureдавление pointsточки
untilдо they're silencedзамолчать.
186
586449
3067
а затем используют эти больные места,
чтобы заставить замолчать.
10:02
When onlineонлайн harassmentдомогательство goesидет uncheckedнепроверенный,
187
590333
2304
Когда запугивание в сети
остаётся безнаказанным,
10:04
freeсвободно speechречь is stifledподавила.
188
592661
1667
свободу слова душат.
10:07
And even the people
hostingхостинг the conversationразговор
189
595196
2127
И даже люди, на чьей площадке
всё происходит,
10:09
throwбросать up theirих armsоружие and call it quitsквиты,
190
597347
1834
поднимают руки и белый флаг:
10:11
closingзакрытие theirих commentкомментарий sectionsразделы
and theirих forumsфорумы altogetherв целом.
191
599205
2957
полностью закрывают
раздел комментариев и свои форумы.
10:14
That meansозначает we're actuallyна самом деле
losingпроигрыш spacesпространства onlineонлайн
192
602186
2849
Это означает, что мы теряем
свои площадки в сети,
10:17
to meetвстретить and exchangeобмен ideasидеи.
193
605059
1987
где могли обмениваться идеями.
10:19
And where onlineонлайн spacesпространства remainоставаться,
194
607939
2163
А там, где площадки сохраняются,
10:22
we descendсходить into echoэхо chambersкамеры
with people who think just like us.
195
610126
4470
мы оказываемся заперты с теми,
кто уже с нами согласен.
10:27
But that enablesпозволяет
the spreadраспространение of disinformationдезинформация;
196
615688
2499
Но это способствует
распространению дезинформации,
10:30
that facilitatesоблегчает polarizationполяризация.
197
618211
2184
обостряет противоречия.
10:34
What if technologyтехнологии insteadвместо
could enableвключить empathyсопереживание at scaleмасштаб?
198
622508
5269
Что, если бы технологии
способствовали эмпатии?
10:40
This was the questionвопрос
that motivatedмотивировано our partnershipпартнерство
199
628451
2486
Этот вопрос вдохновлял
нашу совместную работу
с командой Google
по борьбе с агрессией онлайн,
10:42
with Google'sGoogle-х CounterСчетчик AbuseЗлоупотребление teamкоманда,
200
630961
1819
10:44
WikipediaВикипедия
201
632804
1178
Википедией
10:46
and newspapersгазеты like the Newновый YorkЙорк Timesраз.
202
634006
1934
и такими газетами, как New York Times.
10:47
We wanted to see if we could buildстроить
machine-learningмашинное обучение modelsмодели
203
635964
2876
Мы хотели попробовать создать
модели самообучения машин,
10:50
that could understandПонимаю
the emotionalэмоциональный impactвлияние of languageязык.
204
638864
3606
которые будут понимать
эмоциональное воздействие слов.
10:55
Could we predictпрогнозировать whichкоторый commentsКомментарии
were likelyвероятно to make someoneкто то elseеще leaveоставлять
205
643062
3610
Сможем ли мы предугадывать,
какие комментарии заставят собеседника
10:58
the onlineонлайн conversationразговор?
206
646696
1374
выйти из онлайн-дискуссии.
11:00
And that's no mean featподвиг.
207
648515
3887
И это настоящий подвиг.
11:04
That's no trivialтривиальный accomplishmentдостижение
208
652426
1566
Для искусственного интеллекта подобное —
11:06
for AIискусственный интеллект to be ableв состоянии to do
something like that.
209
654016
2563
настоящее достижение.
11:08
I mean, just considerрассматривать
these two examplesПримеры of messagesСообщения
210
656603
3729
Только посмотрите на эти
два примера сообщений,
11:12
that could have been sentпослал to me last weekнеделю.
211
660356
2224
которые могли бы прийти мне
на прошлой неделе.
11:15
"BreakЛомать a legножка at TEDТЕД!"
212
663517
1879
«Зажги на TED!»
11:17
... and
213
665420
1164
и
11:18
"I'll breakломать your legsноги at TEDТЕД."
214
666608
2126
«Я тебя сожгу на TED».
11:20
(LaughterСмех)
215
668758
1246
(Смех)
11:22
You are humanчеловек,
216
670028
1513
Вы — люди,
11:23
that's why that's an obviousочевидный
differenceразница to you,
217
671565
2210
и вам разница очевидна,
11:25
even thoughхоть the wordsслова
are prettyСимпатичная much the sameодна и та же.
218
673799
2224
хотя слова очень похожи.
11:28
But for AIискусственный интеллект, it takes some trainingобучение
to teachучат the modelsмодели
219
676047
3079
Но ИИ нужно обучать моделям,
11:31
to recognizeпризнать that differenceразница.
220
679150
1571
чтобы он мог распознать разницу.
11:32
The beautyкрасота of buildingздание AIискусственный интеллект
that can tell the differenceразница
221
680745
3245
Прелесть ИИ, который видит разницу, в том,
11:36
is that AIискусственный интеллект can then scaleмасштаб to the sizeразмер
of the onlineонлайн toxicityтоксичность phenomenonявление,
222
684014
5050
что ИИ может вырасти до масштабов
токсичной агрессии онлайн.
11:41
and that was our goalЦель in buildingздание
our technologyтехнологии calledназывается Perspectiveперспективы.
223
689088
3287
Такой была наша цель при создании
технологии под названием «Перспектива».
11:45
With the help of Perspectiveперспективы,
224
693056
1427
С помощью «Перспективы»
11:46
the Newновый YorkЙорк Timesраз, for exampleпример,
225
694507
1583
портал New York Times, например,
11:48
has increasedвырос spacesпространства
onlineонлайн for conversationразговор.
226
696114
2487
расширил площадку для общения онлайн.
11:51
Before our collaborationсотрудничество,
227
699005
1310
До нашего сотрудничества
11:52
they only had commentsКомментарии enabledвключен
on just 10 percentпроцент of theirих articlesстатьи.
228
700339
4305
комментарии были возможны
только под 10% публикаций.
11:57
With the help of machineмашина learningобучение,
229
705495
1644
С помощью машинного обучения
11:59
they have that numberномер up to 30 percentпроцент.
230
707163
1897
эта цифра выросла до 30%.
12:01
So they'veони имеют tripledв три раза it,
231
709084
1156
Она утроилась,
12:02
and we're still just gettingполучение startedначал.
232
710264
1917
и это только самое начало.
12:04
But this is about way more than just
makingизготовление moderatorsМодераторы more efficientэффективное.
233
712872
3461
Но это намного больше,
чем помощь модераторам.
12:10
Right now I can see you,
234
718076
1850
Сейчас я вас вижу
12:11
and I can gaugeкалибр how what I'm sayingпоговорка
is landingпосадка with you.
235
719950
3294
и могу оценивать
вашу реакцию на мои слова.
12:16
You don't have that opportunityвозможность onlineонлайн.
236
724370
1879
Онлайн у вас нет такой возможности.
12:18
ImagineПредставить if machineмашина learningобучение
could give commentersкомментаторам,
237
726558
3635
Представьте, что машинное обучение
дало бы комментаторам,
по мере того как они печатают,
12:22
as they're typingтипирование,
238
730217
1162
12:23
real-timeреальное время feedbackОбратная связь about how
theirих wordsслова mightмог бы landземельные участки,
239
731403
3347
фидбек в реальном времени
о возможной оценке их слов,
12:27
just like facialлицевой expressionsвыражения do
in a face-to-faceлицом к лицу conversationразговор.
240
735609
3024
что при разговоре обычно
видно по выражению лица.
12:32
MachineМашина learningобучение isn't perfectидеально,
241
740926
1842
Машинное обучение не совершенно,
12:34
and it still makesмарки plentyмного of mistakesошибки.
242
742792
2394
ИИ всё ещё часто ошибается.
12:37
But if we can buildстроить technologyтехнологии
243
745210
1557
Но если нам удастся создать технологию,
12:38
that understandsпонимает the emotionalэмоциональный
impactвлияние of languageязык,
244
746791
3293
понимающую эмоциональное воздействие слов,
12:42
we can buildстроить empathyсопереживание.
245
750108
1460
мы сможем создать эмпатию.
12:43
That meansозначает that we can have
dialogueдиалог betweenмежду people
246
751592
2425
Значит, мы сможем налаживать
диалог между людьми
12:46
with differentдругой politicsполитика,
247
754041
1816
с разными политическими убеждениями,
12:47
differentдругой worldviewsмировоззрений,
248
755881
1216
разными мировоззрениями,
12:49
differentдругой valuesзначения.
249
757121
1246
разными ценностями.
12:51
And we can reinvigorateвдохнуть новую жизнь the spacesпространства onlineонлайн
that mostбольшинство of us have givenданный up on.
250
759359
4775
И мы сможем оживить онлайн-площадки,
которые считались утерянными.
12:57
When people use technologyтехнологии
to exploitэксплуатировать and harmвред othersдругие,
251
765857
3785
Когда люди используют технологии,
чтобы эксплуатировать и обижать других,
13:01
they're preyingпренебрегая on our humanчеловек fearsбоится
and vulnerabilitiesуязвимости.
252
769666
3642
они играют на человеческих
страхах и слабостях.
13:06
If we ever thought
that we could buildстроить an internetинтернет
253
774461
3508
Если мы раньше думали,
что сможем создать интернет,
13:09
insulatedизолированный from the darkтемно sideбоковая сторона of humanityчеловечество,
254
777993
2578
защищённый от тёмной стороны
человеческой природы, —
13:12
we were wrongнеправильно.
255
780595
1184
мы ошибались.
13:14
If we want todayCегодня to buildстроить technologyтехнологии
256
782361
2270
Если мы сегодня захотим
создать технологии,
13:16
that can overcomeпреодолеть
the challengesпроблемы that we faceлицо,
257
784655
3127
которые помогут справиться
с нашими проблемами,
13:19
we have to throwбросать our entireвсе selvesсамости
into understandingпонимание the issuesвопросы
258
787806
4043
нужно посвятить всех себя
пониманию стоящих перед нами вопросов
13:23
and into buildingздание solutionsрешения
259
791873
1893
и созданию решений,
13:25
that are as humanчеловек as the problemsпроблемы
they aimцель to solveрешать.
260
793790
3782
таких же человеческих по своей природе,
как и проблемы, которые они должны решить.
13:30
Let's make that happenслучаться.
261
798071
1513
Давайте сделаем, чтобы так и случилось.
13:31
Thank you.
262
799924
1150
Спасибо.
13:33
(ApplauseАплодисменты)
263
801098
3277
(Аплодисменты)
Translated by Natalia Ost
Reviewed by Yulia Kallistratova

▲Back to top

ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com