ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com
TED2018

Yasmin Green: How technology can fight extremism and online harassment

야스민 그린(Yasmine Green): 기술로 급진주의와 온라인 괴롭힘을 막는 법

Filmed:
2,460,759 views

기술이 과격한 극단주의, 검열 그리고 학대와 같은 위협으로부터 사람들을 안전하게 지킬 수 있을까요? 이 연설을 통해 기술자이자 연사 Yasmine Green은 직소 (구글을 포함한 여러 기업들의 모임인 Alphabet Inc. 내의 유닛) 에서 실험 운행했던 프로그램들에 대해 자세히 설명하고, 프로그램을 통해 어떻게 급진주의와 온라인 괴롭힘에 대응했는지 소개합니다. 그 중 한 프로젝트는 댓글을 올리는 사람들에게 실시간으로 그들의 댓글이 다른사람들에게 어떻게 들릴지를 알려주어, 온라인 상 대화 공간의 증진을 이뤄냈습니다. "만약 우리가 인간성의 어두운 면으로부터 보호된 인터넷을 만들 수 있다고 생각했다면, 잘못된 생각입니다" 라고 연사는 말합니다. "우리는 온 힘을 다해, 우리가 해결하고자 하는 문제만큼이나 인간적인 해결책을 구상해야 합니다."
- Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology. Full bio

Double-click the English transcript below to play the video.

00:13
My relationship관계 with the internet인터넷
reminds생각 나다 me of the setup설정
0
1131
4411
인터넷과 저의 관계는
뻔한 공포 영화의 설정 같습니다.
00:17
to a clich칙칙한éd horror공포 movie영화.
1
5566
1833
00:19
You know, the blissfully행복하게 happy행복 family가족
moves움직임 in to their그들의 perfect완전한 new새로운 home,
2
7867
4386
너무나도 행복한 가족이
모든 게 완벽한 새 집으로 이사를 가서
00:24
excited흥분한 about their그들의 perfect완전한 future미래,
3
12277
2281
다같이 완벽한 미래를 꿈꾸는 설정이요.
00:26
and it's sunny맑은 outside외부
and the birds조류 are chirping짹짹 울기 ...
4
14582
3521
화창한 날씨와 지저귀는 새들까지...
00:30
And then it gets도착 dark어두운.
5
18857
1839
그리고 어둠이 찾아오죠.
00:32
And there are noises소음 from the attic애틱.
6
20720
2348
다락방에서 소리가 들려옵니다.
00:35
And we realize깨닫다 that that perfect완전한
new새로운 house집 isn't so perfect완전한.
7
23092
4345
그제서야 완벽한 줄만 알았던 그 집이
완벽하지 않다는 걸 깨닫게 되죠.
00:40
When I started시작한 working일 at GoogleGoogle in 2006,
8
28485
3131
제가 2006년에 구글에서
일하기 시작했을 때
00:43
Facebook페이스 북 was just a two-year-old2 살짜리,
9
31640
1767
페이스북이 시작한지는
고작 2년 밖에 되지 않았고
00:45
and Twitter지저귀다 hadn't~하지 않았다 yet아직 been born타고난.
10
33431
2012
트위터는 존재하지도 않았습니다.
00:47
And I was in absolute순수한 awe두려움
of the internet인터넷 and all of its promise약속
11
35848
4410
저는 인터넷에 완전히 매료되어
인터넷을 통해 우리가 더 가까워지고
00:52
to make us closer더 가까운
12
40282
1437
00:53
and smarter똑똑한
13
41743
1296
더 똑똑해지며
00:55
and more free비어 있는.
14
43063
1214
그리고 더 자유로워질
미래를 꿈꿨습니다.
00:57
But as we were doing the inspiring영감을주는 work
of building건물 search수색 engines엔진
15
45265
3714
하지만 우리가 검색엔진을 만들고
01:01
and video-sharing비디오 공유 sites사이트
and social사회적인 networks네트워크,
16
49003
2886
영상 공유 사이트나
소셜 네트워크를 만드는 동안
01:04
criminals범죄자, dictators독재자 and terrorists테러리스트
were figuring생각하다 out
17
52907
4304
범죄자, 독재자와 테러범들은
같은 플랫폼을 악용할
방법을 찾고 있었습니다.
01:09
how to use those same같은
platforms플랫폼 against반대 us.
18
57235
3202
01:13
And we didn't have
the foresight선견 to stop them.
19
61417
2455
하지만 우리에겐 그들을 막을
선견지명이 없었습니다.
01:16
Over the last few조금 years연령, geopolitical지정 학적
forces힘 have come online온라인 to wreak가하다 havoc큰 파란.
20
64746
5099
지난 몇 년 동안, 지정학적인 세력이
온라인에서 대혼란을 일으키려 했습니다.
01:21
And in response응답,
21
69869
1169
그리고 그에 맞서
01:23
GoogleGoogle supported지원되는 a few조금 colleagues동료들 and me
to set세트 up a new새로운 group그룹 called전화 한 Jigsaw퍼즐,
22
71062
4778
구글사에서는 저와 몇 직원들을 구성해
직소라는 그룹을 만들고
01:27
with a mandate위임 to make people safer더 안전한
from threats위협 like violent격렬한 extremism극단론,
23
75864
4596
폭력적인 극단주의자들의 공격으로부터
사람들을 보호하도록 했습니다.
01:32
censorship검열, persecution박해 --
24
80484
2078
검열, 처벌 등
01:35
threats위협 that feel very personal개인적인 to me
because I was born타고난 in Iran이란,
25
83186
4117
저에게 매우 익숙한 공격들인데
저는 이란에서 태어났고
01:39
and I left in the aftermath여파
of a violent격렬한 revolution혁명.
26
87327
2929
난폭한 혁명의 여파로
나라를 떠났거든요.
01:43
But I've come to realize깨닫다
that even if we had all of the resources자원
27
91525
4346
하지만 제가 깨달은 것이
우리에게 세상의 모든 자원과
01:47
of all of the technology과학 기술
companies회사들 in the world세계,
28
95895
2858
모든 기술 회사들이 있다고 해도
01:51
we'd우리는 still fail실패
29
99595
1230
우리가 가장 중요한 한 가지를 놓친다면
01:53
if we overlooked간과 한 one critical결정적인 ingredient성분:
30
101586
2948
결국 실패한다는 것입니다.
01:57
the human인간의 experiences경험담 of the victims피해자
and perpetrators가해자 of those threats위협.
31
105653
5789
앞서 말한 위협의 피해자나
가해자의 인간적 경험입니다.
02:04
There are many많은 challenges도전
I could talk to you about today오늘.
32
112935
2736
오늘은 많은 위협 중
두 가지에 집중하겠습니다.
02:07
I'm going to focus초점 on just two.
33
115695
1504
02:09
The first is terrorism테러.
34
117623
2079
첫 번째는 테러입니다.
02:13
So in order주문 to understand알다
the radicalization과격화 process방법,
35
121563
2557
우리는 급진화의 과정을 이해하기 위해서
02:16
we met만난 with dozens수십 of former전자 members회원
of violent격렬한 extremist극단론자 groups여러 떼.
36
124144
4287
폭력적 급진파의 전 멤버였던
수 많은 사람들을 만나보았습니다.
02:21
One was a British영국인 schoolgirl여학생,
37
129590
2483
그 중 한명은 영국인 여학생이었는데
02:25
who had been taken취한 off of a plane평면
at London런던 Heathrow히드로
38
133049
3699
시리아에 가서 반정부 무장단체
IS에 가입하려다가
02:28
as she was trying견딜 수 없는 to make her way
to Syria시리아 to join어울리다 ISISISIS.
39
136772
4692
런던 히드로 공항 비행기에서
잡혔습니다.
02:34
And she was 13 years연령 old늙은.
40
142281
1931
고작 13살이었는데 말입니다.
02:37
So I sat앉은 down with her and her father아버지,
and I said, "Why?"
41
145792
4625
학생의 아버지와 셋이 앉아서
제가 물었습니다. "이유가 뭐지?"
02:42
And she said,
42
150441
1717
그러자 그녀가 말했습니다.
02:44
"I was looking at pictures영화
of what life is like in Syria시리아,
43
152182
3639
"시리아에서는 어떻게 사는지
사진을 보고있다가
02:47
and I thought I was going to go
and live살고 있다 in the Islamic이슬람의 Disney디즈니 World세계."
44
155845
3510
이슬람 디즈니 월드에서
살 수 있을 것 같았어요."
02:52
That's what she saw in ISISISIS.
45
160527
2084
ISIS를 보고 그렇게 생각한 거예요.
02:54
She thought she'd흘리다 meet만나다 and marry얻다
a jihadi지하드 Brad브래드 Pitt피트
46
162635
3492
브래드 피트처럼 생긴
지하드 전사를 만나 결혼해서
02:58
and go shopping쇼핑 in the mall쇼핑 센터 all day
and live살고 있다 happily행복하게 ever after.
47
166151
3058
하루종일 쇼핑 다니고
평생 행복할 거라 생각했대요.
03:02
ISISISIS understands이해하다 what drives드라이브 people,
48
170977
2824
IS는 사람들이 뭘 좋아하는지 알고
03:05
and they carefully면밀히 craft선박 a message메시지
for each마다 audience청중.
49
173825
3544
각 대상에 맞춰
정교한 메세지를 만듭니다.
03:11
Just look at how many많은 languages언어
50
179122
1511
IS가 홍보자료를
03:12
they translate옮기다 their그들의
marketing마케팅 material자료 into.
51
180657
2273
몇 개 국어로 번역해내는지만 봐도
답이 보입니다.
03:15
They make pamphlets팜플렛,
radio라디오 shows쇼 and videos비디오
52
183677
2661
팜플렛, 라디오쇼, 비디오 모두
03:18
in not just English영어 and Arabic아라비아 말,
53
186362
1973
영어와 아랍어 뿐 아니라
03:20
but German독일 사람, Russian러시아인,
French프랑스 국민, Turkish터키어, Kurdish쿠르드어,
54
188359
4767
독일어, 러시아어, 프랑스어,
터키어, 쿠르드어
03:25
Hebrew헤브라이 사람,
55
193150
1672
히브리어
03:26
Mandarin만다린 오렌지 Chinese중국말.
56
194846
1741
표준 중국어로 까지 번역합니다.
03:29
I've even seen본 an ISIS-produced이시스 생산
video비디오 in sign기호 language언어.
57
197309
4192
심지어 수화로 된
IS 홍보영상도 있습니다.
03:34
Just think about that for a second둘째:
58
202605
1884
한번 생각해 보세요.
03:36
ISISISIS took~했다 the time and made만든 the effort노력
59
204513
2308
ISIS는 시간과 노력을 들여
그들의 메세지를
03:38
to ensure안전하게 하다 their그들의 message메시지 is reaching도달하다
the deaf귀가 먹은 and hard단단한 of hearing듣기.
60
206845
3804
난청과 청각 장애인들에게도
전파하려고 했습니다.
03:45
It's actually사실은 not tech-savviness기술 이해
61
213143
2144
ISIS가 사람들의 마음을 훔치는 방법은
03:47
that is the reason이유 why
ISISISIS wins이기다 hearts마음 and minds마음.
62
215311
2595
높은 기술력이 아닙니다.
03:49
It's their그들의 insight통찰력 into the prejudices편견,
the vulnerabilities취약점, the desires욕망
63
217930
4163
자신들이 손을 뻗고자 하는 대상에 대한
03:54
of the people they're trying견딜 수 없는 to reach범위
64
222117
1774
편견이나 나약함, 갈망 등을
03:55
that does that.
65
223915
1161
꿰뚫어봤기 때문입니다.
03:57
That's why it's not enough충분히
66
225718
1429
이러한 이유 때문에
03:59
for the online온라인 platforms플랫폼
to focus초점 on removing풀이 recruiting모병 material자료.
67
227171
4239
단순히 온라인 상의 모집 관련 글을 내리는 것으론
충분한 대응이 되지 않습니다.
04:04
If we want to have a shot샷
at building건물 meaningful의미있는 technology과학 기술
68
232518
3581
급진화를 대응할
의미있는 기술을 발달시킬
04:08
that's going to counter계수기 radicalization과격화,
69
236123
1874
노력이라도 해보기 위해서는
04:10
we have to start스타트 with the human인간의
journey여행 at its core핵심.
70
238021
2979
인간의 여정의 본질부터 알아야 합니다.
04:13
So we went갔다 to Iraq이라크
71
241884
2187
그래서 저희는 이라크에 가서
04:16
to speak말하다 to young어린 men남자
who'd누구? bought샀다 into ISIS's이시스의 promise약속
72
244095
2831
한 남자를 만나봤습니다.
04:18
of heroism영웅적 자질 and righteousness정당성,
73
246950
3191
그는 IS의 영웅주의와 정의에 이끌려
04:22
who'd누구? taken취한 up arms무기 to fight싸움 for them
74
250165
1847
그들과 한편이 되어 싸웠지만
04:24
and then who'd누구? defected망명
75
252036
1338
그들의 잔인함을 목격한 후
04:25
after they witnessed목격 한
the brutality야만성 of ISIS's이시스의 rule규칙.
76
253398
3021
IS를 떠나 돌아섰습니다.
04:28
And I'm sitting좌석 there in this makeshift임시 변통
prison감옥 in the north북쪽 of Iraq이라크
77
256880
3192
이라크 북쪽에 위치한
임시교도소에 앉아서
04:32
with this 23-year-old예전의 who had actually사실은
trained훈련 된 as a suicide자살 bomber마리화나 담배
78
260096
4550
자살폭탄 테러범
훈련을 받았지만 결국 돌아선
04:36
before defecting망명.
79
264670
1552
23살짜리 남자와 얘기를 나눴습니다.
04:39
And he says말한다,
80
267080
1158
그가 말했습니다.
04:41
"I arrived도착한 in Syria시리아 full완전한 of hope기대,
81
269119
3220
"희망을 가득 품고
시리아에 도착했는데,
04:44
and immediately바로, I had two
of my prized소중히하는 possessions재산 confiscated압수 된:
82
272363
4365
도착 즉시 저의 가장 중요한
소유품 두 개를 압수당했습니다.
04:48
my passport여권 and my mobile변하기 쉬운 phone전화."
83
276752
2933
제 여권과 핸드폰을요."
04:52
The symbols기호들 of his physical물리적 인
and digital디지털 liberty자유
84
280140
2406
신체적, 디지털 자유의 상징 두 가지가
04:54
were taken취한 away from him on arrival도착.
85
282570
1760
도착 즉시 압수되었습니다.
04:57
And then this is the way he described기술 된
that moment순간 of loss손실 to me.
86
285248
3510
그는 압수 당시의 상황을
이렇게 설명했습니다.
05:01
He said,
87
289356
1586
그가 말하길,
05:02
"You know in 'Tom' 톰 and Jerry실내 변기,'
88
290966
2329
"만화영화 '톰과 제리' 아시죠?
05:06
when Jerry실내 변기 wants to escape탈출,
and then Tom남자 이름 locks자물쇠 the door문
89
294192
3103
제리가 도망가려고 하면
톰이 문을 잠그고
05:09
and swallows제비 the key키
90
297319
1156
열쇠를 꿀꺽 하잖아요.
05:10
and you see it bulging부푼 out
of his throat목 as it travels여행기 down?"
91
298499
3551
열쇠가 뱃속으로 불룩하고
튀어나오며 내려가는 것도 보이고요."
05:14
And of course코스, I really could see
the image영상 that he was describing묘사하는,
92
302446
3153
물론, 그가 설명하는 상황이
머릿속에 그려졌고
05:17
and I really did connect잇다 with the feeling감각
that he was trying견딜 수 없는 to convey나르다,
93
305623
3661
그가 전하고자 하는 느낌
또한 이해가 됐습니다.
05:21
which어느 was one of doom운명,
94
309308
2021
빠져나갈 방법이 없는
05:23
when you know there's no way out.
95
311353
1789
최후의 날이나
막다른 길 같은 느낌이요.
05:26
And I was wondering궁금해하는:
96
314551
1289
그리고 궁금해졌습니다.
05:28
What, if anything,
could have changed변경된 his mind마음
97
316644
2682
그가 집을 떠나던 날
05:31
the day that he left home?
98
319350
1240
그의 마음을 돌릴 수
있는 건 뭐가 있었을까요?
05:32
So I asked물었다,
99
320614
1250
그래서 그에게 물었습니다.
05:33
"If you knew알고 있었다 everything that you know now
100
321888
3178
"만약 당신이 지금 아는 모든 것을,
05:37
about the suffering괴로움
and the corruption부패, the brutality야만성 --
101
325090
3051
고통, 부패, 잔인함 등 모든 것을
05:40
that day you left home,
102
328165
1415
집을 떠나기 전의 당신이 알았더라도
05:41
would you still have gone지나간?"
103
329604
1679
같은 선택을 했을까요?"
05:43
And he said, "Yes."
104
331786
1711
그러자 그가 대답했습니다, "네."
05:45
And I thought, "Holy거룩한 crap쓰레기, he said 'Yes' 네.'"
105
333846
2282
제가 "세상에, '네' 라고 대답하다니"
라고 생각하는 도중
05:48
And then he said,
106
336694
1219
그가 이어서 말했습니다.
05:49
"At that point포인트, I was so brainwashed세뇌 된,
107
337937
3001
"그때 저는 완전히
세뇌되어 있는 상태여서
05:52
I wasn't아니었다. taking취득 in
any contradictory모순 된 information정보.
108
340962
3244
반박될 만한 정보는
하나도 받아들이지 않았어요.
05:56
I couldn't할 수 없었다 have been swayed흔들린."
109
344744
1555
맘이 바뀌지 않았을 겁니다."
05:59
"Well, what if you knew알고 있었다
everything that you know now
110
347235
2527
"그럼 지금 당신이 아는 모든 것들을
06:01
six육 months개월 before the day that you left?"
111
349786
2098
떠나기 6개월 전에 알았다면요?"
06:05
"At that point포인트, I think it probably아마
would have changed변경된 my mind마음."
112
353345
3131
"그때는 아마 제 맘이
바뀌었을 수도 있을 것 같아요."
06:10
RadicalizationRadicalization isn't
this yes-or-no예 또는 아니요 choice선택.
113
358138
3397
급진화는 네 또는 아니오
선택의 문제가 아닙니다.
06:14
It's a process방법, during...동안 which어느
people have questions질문들 --
114
362007
2977
사람들에게 이념, 종교,
생활 환경 등에 대한
06:17
about ideology관념론, religion종교,
the living생활 conditions정황.
115
365008
3776
질문을 불러 일으키는 과정입니다.
06:20
And they're coming오는 online온라인 for answers답변,
116
368808
2766
그리고 사람들은 온라인에서
그 답을 찾으려고 하는데
06:23
which어느 is an opportunity기회 to reach범위 them.
117
371598
1917
ISIS는 이를 기회로 삼는 것입니다.
06:25
And there are videos비디오 online온라인
from people who have answers답변 --
118
373905
3014
온라인엔 이런 질문들에 대한 답을 담은
동영상들이 존재합니다.
06:28
defectors탈북자, for example예,
telling말함 the story이야기 of their그들의 journey여행
119
376943
2876
폭력의 길에 들어섰다가 돌아선 사람들의
06:31
into and out of violence폭력;
120
379843
1583
여정을 공유하는 동영상들 말입니다.
06:33
stories이야기 like the one from that man
I met만난 in the Iraqi사람 prison감옥.
121
381450
3487
제가 이라크 교도소에서 만났던
그 남자와 같은 사람들이 올린 영상들이죠.
06:37
There are locals지역 주민 who've누가 했어? uploaded업로드 된
cell세포 phone전화 footage피트 길이
122
385914
2590
혹은 현지인들이 핸드폰으로 찍어올린
06:40
of what life is really like
in the caliphate칼리프 under아래에 ISIS's이시스의 rule규칙.
123
388528
3503
ISIS의 지배를 받는
칼리프 삶의 실상도 볼 수 있습니다.
06:44
There are clerics성직자 who are sharing나누는
peaceful평화로운 interpretations해석들 of Islam이슬람교.
124
392055
3735
이슬람 교리의 평화로운
해석을 하는 성직자들도 있고요.
06:48
But you know what?
125
396830
1150
하지만 그거 아세요?
06:50
These people don't generally일반적으로 have
the marketing마케팅 prowess탁월한 of ISISISIS.
126
398004
3020
이런 사람들은 보통 ISIS 만큼의
홍보 역량이 없습니다.
06:54
They risk위험 their그들의 lives삶 to speak말하다 up
and confront대치하다 terrorist테러리스트 propaganda선전,
127
402049
4532
자신의 삶을 내걸고 테러범 조직
선전활동에 반대하지만
06:58
and then they tragically비극적으로
don't reach범위 the people
128
406605
2211
비극적이게도, 정작 그런 메세지를
들어야 되는 사람들에게는
07:00
who most가장 need to hear듣다 from them.
129
408840
1682
영향력을 미치지 못합니다.
07:03
And we wanted to see
if technology과학 기술 could change변화 that.
130
411173
2612
그래서 저희 그룹은 기술을 통해
이를 변화시키고자 했습니다.
07:06
So in 2016, we partnered파트너 with MoonshotMoonshot CVE(영문)
131
414205
4183
2016년에 Moonshot CVE 라는
그룹과 제휴를 맺고
07:10
to pilot조종사 a new새로운 approach접근
to countering대항 radicalization과격화
132
418412
3180
급진화를 대응하기 위한 새로운 시도인
07:13
called전화 한 the "Redirect리디렉션 Method방법."
133
421616
1780
"우회 방법" 이란 시험을
해보았습니다.
07:16
It uses용도 the power힘 of online온라인 advertising광고하는
134
424453
3012
온라인 홍보의 힘을 이용해
07:19
to bridge다리 the gap갭 between중에서
those susceptible느끼기 쉬운 to ISIS's이시스의 messaging메시지
135
427489
4514
ISIS의 메세지에 취약한 사람들과
그 메세지를 무력화할 수 있는
07:24
and those credible신뢰할 수 있는 voices목소리
that are debunking데비 킹 that messaging메시지.
136
432027
3760
설득력 있는 사람들의 영상을
연결시켜주는 방법이었습니다.
07:28
And it works공장 like this:
137
436633
1150
예를 들면 이런 방식입니다.
07:29
someone어떤 사람 looking for extremist극단론자 material자료 --
138
437807
1961
누군가 극단주의적인 자료를
검색한다고 해보죠.
07:31
say they search수색
for "How do I join어울리다 ISISISIS?" --
139
439792
2990
"ISIS에 가입하는 법" 을 검색하면
07:34
will see an ad광고 appear나타나다
140
442806
2476
광고가 같이 뜹니다.
07:37
that invites초대하다 them to watch a YouTubeYouTube video비디오
of a cleric성직자, of a defector탈 주자 --
141
445306
4882
성직자나, 변절자 등 제대로 된
답을 줄 수 있는 사람들의
07:42
someone어떤 사람 who has an authentic진정한 answer대답.
142
450212
2310
유튜브 영상을 보도록 유도하는 광고죠.
07:44
And that targeting타겟팅 is based기반
not on a profile윤곽 of who they are,
143
452546
3623
광고의 대상을 정할 때
사람들의 신상정보 보다는
07:48
but of determining결정 something
that's directly직접 relevant관련된
144
456193
3053
검색어나 질문에
직접적인 연관이 있는 행동을 할 만한
07:51
to their그들의 query질문 or question문제.
145
459270
1708
가능성에 초점을 두었습니다.
07:54
During동안 our eight-week8 주 pilot조종사
in English영어 and Arabic아라비아 말,
146
462122
2842
8주 동안 영어와 아랍어로
시범 운행을 해본 결과
07:56
we reached도달 한 over 300,000 people
147
464988
3279
지하드 그룹에 대해
관심이나 동정을 표한
08:00
who had expressed표현 된 an interest관심 in
or sympathy동정 towards...쪽으로 a jihadi지하드 group그룹.
148
468291
5545
30만 명이 넘는 사람들에게
손길을 뻗을 수 있었습니다.
08:06
These people were now watching보고있다 videos비디오
149
474626
2264
이 사람들은 절망적인 선택을 하기 전에
08:08
that could prevent막다 them
from making만들기 devastating지독한 choices선택.
150
476914
3340
그들을 막아 줄 수 있는
영상을 보게 된 것입니다.
08:13
And because violent격렬한 extremism극단론
isn't confined갇힌 to any one language언어,
151
481405
3727
그리고 폭력적인 극단주의는
한 언어나, 종교나, 이념에
08:17
religion종교 or ideology관념론,
152
485156
1804
국한되어 있는 것이 아니기 때문에
08:18
the Redirect리디렉션 Method방법 is now
being존재 deployed배치 된 globally전 세계적으로
153
486984
3501
'우회 방법'은 전세계적으로 퍼져
08:22
to protect보호 people being존재 courted꼬 시 고 online온라인
by violent격렬한 ideologues이데올로기,
154
490509
3804
많은 사람들을 폭력적인 이념주의자들의
유혹에서 구하고 있습니다.
08:26
whether인지 어떤지 they're Islamists이슬람 교도,
white화이트 supremacists최우수 주의자
155
494337
2596
이슬람 교도이던, 백인 우월주의자이든
08:28
or other violent격렬한 extremists극단 주의자,
156
496957
2103
혹은 다른 폭력적 극단주의자이든 간에
08:31
with the goal골 of giving주는 them the chance기회
to hear듣다 from someone어떤 사람
157
499084
2873
그 여정의 반대쪽에 있는
누군가의 말을 전하고자 하는
08:33
on the other side측면 of that journey여행;
158
501981
2091
극단주의자들의 손에서 벗어나
08:36
to give them the chance기회 to choose고르다
a different다른 path통로.
159
504096
2839
다른 여정을 걸을 수 있는
기회를 주는 겁니다.
08:40
It turns회전 out that often자주 the bad나쁜 guys
are good at exploiting착취 the internet인터넷,
160
508749
5980
알고보니 보통 악당들이
인터넷을 잘 이용하더라고요.
08:46
not because they're some kind종류
of technological기술적 인 geniuses요정,
161
514753
3744
그건 그들이 기술을 엄청나게
잘 다뤄서 그런 게 아니라
08:50
but because they understand알다
what makes~을 만든다 people tick진드기.
162
518521
2985
사람들을 움직이는
법을 알기 때문입니다.
08:54
I want to give you a second둘째 example예:
163
522855
2369
다른 예시를 들어볼게요.
08:58
online온라인 harassment괴롭힘.
164
526019
1391
온라인 괴롭힘.
09:00
Online온라인 harassersharassers also또한 work
to figure그림 out what will resonate공명하다
165
528629
3363
온라인 괴롭힘 또한
다른 사람들이 공명할 수 있는
09:04
with another다른 human인간의 being존재.
166
532016
1615
요인을 파악하려고 노력합니다.
09:05
But not to recruit모집하다 them like ISISISIS does,
167
533655
3110
하지만 ISIS처럼 사람들을
모집하려는 게 아니라
09:08
but to cause원인 them pain고통.
168
536789
1275
고통을 주기 위해서요.
09:11
Imagine상상해 보라. this:
169
539259
1342
한번 상상해보세요.
09:13
you're a woman여자,
170
541347
1659
여러분이 여성이고
09:15
you're married기혼,
171
543030
1413
기혼이며
09:16
you have a kid아이.
172
544467
1154
아이가 있다고 가정해보세요.
09:18
You post게시하다 something on social사회적인 media미디어,
173
546834
1784
소셜 미디어에 뭔가를 올렸는데
09:20
and in a reply댓글,
you're told that you'll너 be raped강간당한,
174
548642
2886
답장이 옵니다.
누군가 여러분을 강간하러 올거고
09:24
that your son아들 will be watching보고있다,
175
552577
1560
아들이 그걸 보게 만들 거라고 하며
09:26
details세부 of when and where.
176
554825
1856
자세하게 장소와
시간까지 적은 답장이요.
09:29
In fact것, your home address주소
is put online온라인 for everyone각자 모두 to see.
177
557148
3143
사실, 여러분 집주소는 온라인에 올려져있어서
모든 사람들이 볼 수 있습니다.
09:33
That feels느낀다. like a pretty예쁜 real레알 threat위협.
178
561580
2007
아까 그 답장이 정말
협박처럼 느껴지죠.
09:37
Do you think you'd당신은 go home?
179
565113
1656
여러분이라면 집에 가시겠습니까?
09:39
Do you think you'd당신은 continue잇다 doing
the thing that you were doing?
180
567999
3048
하던 일을 계속 하시겠어요?
09:43
Would you continue잇다 doing that thing
that's irritating화나게 하는 your attacker공격자?
181
571071
3220
당신에게 그 메세지를 보낸 사람을 거슬리게 하는
행동을 계속 할 수 있으시겠어요?
09:48
Online온라인 abuse남용 has been this perverse비뚤어진 art미술
182
576016
3096
온라인상의 학대는 이처럼
09:51
of figuring생각하다 out what makes~을 만든다 people angry성난,
183
579136
3468
사람들을 화나게 하거나
09:54
what makes~을 만든다 people afraid두려워하는,
184
582628
2132
두려워하게 하거나
09:56
what makes~을 만든다 people insecure불안정한,
185
584784
1641
불안하게 만드는 방법을 알아내서
09:58
and then pushing미는 those pressure압력 points전철기
until...까지 they're silenced침묵하는.
186
586449
3067
결국 사람들이 입을 다물 때까지
아픈 곳을 찌르는 사악한 방법입니다.
10:02
When online온라인 harassment괴롭힘 goes간다 unchecked체크되지 않은,
187
590333
2304
온라인 상의 학대는 검열받지 않지만
10:04
free비어 있는 speech연설 is stifled억 눌린.
188
592661
1667
언론의 자유는 억압당합니다.
10:07
And even the people
hosting호스팅 the conversation대화
189
595196
2127
토론을 이끌던 사람들마저
10:09
throw던지다 up their그들의 arms무기 and call it quits피장 ​​장이 된,
190
597347
1834
두손두발 들고 포기해 버립니다.
10:11
closing폐쇄 their그들의 comment논평 sections섹션들
and their그들의 forums포럼 altogether전부.
191
599205
2957
코멘트란을 닫아버리거나
토론 포럼 자체를 닫아버립니다.
10:14
That means방법 we're actually사실은
losing지는 spaces공백 online온라인
192
602186
2849
이건 온라인 상에서
우리가 만나고 생각을 나눌
10:17
to meet만나다 and exchange교환 ideas아이디어.
193
605059
1987
공간이 사라진다는 뜻입니다.
10:19
And where online온라인 spaces공백 remain남아있는,
194
607939
2163
그리고 남아있는 온라인 공간은
10:22
we descend하강하다 into echo에코 chambers변호사 사무실
with people who think just like us.
195
610126
4470
우리와 똑같은 생각을 하는 사람들의
같은 말만 울려퍼지는 공간으로 변질되고
10:27
But that enables가능하게하다
the spread전파 of disinformation그릇 된 정보;
196
615688
2499
허위 정보를 퍼트려 양극화를 조장하는데
10:30
that facilitates촉진하다 polarization양극화.
197
618211
2184
이용되도록 추락할 것입니다.
10:34
What if technology과학 기술 instead대신에
could enable가능하게하다 empathy감정 이입 at scale규모?
198
622508
5269
하지만 기술을 사용해서 필요한 만큼의
공감을 끌어낼 수 있다면 어떨까요?
10:40
This was the question문제
that motivated동기 부여 된 our partnership공동
199
628451
2486
이 질문을 시작으로 저희는
10:42
with Google'sGoogle의 Counter카운터 Abuse남용 team팀,
200
630961
1819
구글사의 학대 대응 팀,
10:44
Wikipedia위키피디아
201
632804
1178
위키피디아,
10:46
and newspapers신문 like the New새로운 York요크 Times타임스.
202
634006
1934
뉴욕타임즈와 같은 신문사들과
협력관계를 맺었습니다.
10:47
We wanted to see if we could build짓다
machine-learning기계 학습 models모델
203
635964
2876
기계가 스스로 학습하는
머신 러닝 모델을 구축해서
10:50
that could understand알다
the emotional정서적 인 impact충격 of language언어.
204
638864
3606
언어의 감정적인 여파를 이해할 수 있는지
실험해 보고자 했습니다.
10:55
Could we predict예측하다 which어느 comments의견
were likely아마도 to make someone어떤 사람 else그밖에 leave휴가
205
643062
3610
어떤 댓글들이 온라인 상의
대화나 토론을
10:58
the online온라인 conversation대화?
206
646696
1374
끝내는데 일조하는지
예상할 수 있을까요?
11:00
And that's no mean feat위업.
207
648515
3887
이건 정말 대단한 일이죠.
11:04
That's no trivial하찮은 accomplishment성취
208
652426
1566
인공지능이 이런 역할을
11:06
for AIAI to be able할 수 있는 to do
something like that.
209
654016
2563
수행할 수 있게 된다는 건
사소한 성과가 아닙니다.
11:08
I mean, just consider중히 여기다
these two examples예제들 of messages메시지
210
656603
3729
제가 앞서 말씀드린
두 개의 메세지처럼
11:12
that could have been sent보낸 to me last week주.
211
660356
2224
지난 주에 제가 받을 수도 있던
메세지를 생각해보세요.
11:15
"Break단절 a leg다리 at TED테드!"
212
663517
1879
"TED에서 잘하고 와!"
11:17
... and
213
665420
1164
...아니면
11:18
"I'll break단절 your legs다리 at TED테드."
214
666608
2126
"TED에서 다리 부러뜨려!"
(무대에서 잘 하라는 관용적 표현)
11:20
(Laughter웃음)
215
668758
1246
(웃음)
11:22
You are human인간의,
216
670028
1513
여러분은 사람이기 때문에
11:23
that's why that's an obvious분명한
difference차 to you,
217
671565
2210
단어의 뜻이 사실상 거의 같아도
11:25
even though그래도 the words말
are pretty예쁜 much the same같은.
218
673799
2224
의미의 차이를 명백히
느낄 수 있습니다.
11:28
But for AIAI, it takes some training훈련
to teach가르치다 the models모델
219
676047
3079
하지만 인공지능에게
이러한 차이를 인지하도록 하려면
11:31
to recognize인정하다 that difference차.
220
679150
1571
훈련하는 시간이 조금 걸립니다.
11:32
The beauty아름다움 of building건물 AIAI
that can tell the difference차
221
680745
3245
차이점을 인지 할 수 있는
인공지능을 개발한다는 건
11:36
is that AIAI can then scale규모 to the size크기
of the online온라인 toxicity독성 phenomenon현상,
222
684014
5050
결국 이 지능이 온라인 독성 현상을
해결할 만큼 발달할 수 있다는 겁니다.
11:41
and that was our goal골 in building건물
our technology과학 기술 called전화 한 Perspective원근법.
223
689088
3287
이것이 바로 저희가 '퍼스펙티브' 라고 불리는
기술을 개발할 때 염두해 둔 목표입니다.
11:45
With the help of Perspective원근법,
224
693056
1427
'퍼스펙티브'의 도움으로
11:46
the New새로운 York요크 Times타임스, for example예,
225
694507
1583
예를 들어, 뉴욕 타임즈 지는
11:48
has increased증가한 spaces공백
online온라인 for conversation대화.
226
696114
2487
온라인 상에서의
대화 가능 공간을 늘렸습니다.
11:51
Before our collaboration협동,
227
699005
1310
협력 전에는
11:52
they only had comments의견 enabled사용 가능
on just 10 percent퍼센트 of their그들의 articles조항.
228
700339
4305
전체 기사 중 10%에만
댓글을 달 수 있었습니다.
11:57
With the help of machine기계 learning배우기,
229
705495
1644
머신 러닝을 통해
11:59
they have that number번호 up to 30 percent퍼센트.
230
707163
1897
이제는 그 수가 30%에 육박합니다.
12:01
So they've그들은 tripled3 배로 증가한 it,
231
709084
1156
3배나 늘린 것이죠.
12:02
and we're still just getting점점 started시작한.
232
710264
1917
이건 겨우 시작에 불과한데도요.
12:04
But this is about way more than just
making만들기 moderators운영자 more efficient실력 있는.
233
712872
3461
하지만 이건 더 효과적으로 중재 역할을
시행해 내는 것에 그치는 일이 아닙니다.
12:10
Right now I can see you,
234
718076
1850
지금 저는 여러분을 볼 수 있고
12:11
and I can gauge계량기 how what I'm saying속담
is landing착륙 with you.
235
719950
3294
제가 하는 말이 여러분에게
어떻게 들리는지 판단할 수 있죠.
12:16
You don't have that opportunity기회 online온라인.
236
724370
1879
온라인에서는 그런 기회가 없습니다.
12:18
Imagine상상해 보라. if machine기계 learning배우기
could give commenters댓글 작성자,
237
726558
3635
만약 머신 러닝이
댓글을 다는 사람들에게
12:22
as they're typing타자,
238
730217
1162
실시간으로
12:23
real-time실시간 feedback피드백 about how
their그들의 words말 might힘 land땅,
239
731403
3347
그들이 다는 댓글이 어떻게 들릴지
알려준다면 어떨까요?
12:27
just like facial얼굴 마사지 expressions표현 do
in a face-to-face대면하는 conversation대화.
240
735609
3024
얼굴을 보고 대화 하면
표정을 볼 수 있듯이요.
12:32
Machine기계 learning배우기 isn't perfect완전한,
241
740926
1842
머신 러닝은 완벽하지 않습니다.
12:34
and it still makes~을 만든다 plenty많은 of mistakes실수.
242
742792
2394
아직도 실수를 잔뜩 저지릅니다.
12:37
But if we can build짓다 technology과학 기술
243
745210
1557
하지만 우리가 만드는 기술이
12:38
that understands이해하다 the emotional정서적 인
impact충격 of language언어,
244
746791
3293
언어가 미치는 감정적인
영향력을 이해할 수 있다면
12:42
we can build짓다 empathy감정 이입.
245
750108
1460
우린 공감을 자아낼 수 있습니다.
12:43
That means방법 that we can have
dialogue대화 between중에서 people
246
751592
2425
그렇게 된다면, 우리는
12:46
with different다른 politics정치,
247
754041
1816
다른 정치적 견해,
12:47
different다른 worldviews세계관,
248
755881
1216
세상을 바라보는 눈,
12:49
different다른 values값.
249
757121
1246
다른 가치에 대해
대화할 수 있게 됩니다.
12:51
And we can reinvigorate활기를 되찾다 the spaces공백 online온라인
that most가장 of us have given주어진 up on.
250
759359
4775
그럼 우리 대부분이 포기했던 온라인 상의 공간들을
되살릴 수도 있겠죠.
12:57
When people use technology과학 기술
to exploit공적 and harm해 others다른 사람,
251
765857
3785
사람들이 기술을 악용해
다른 사람들에게 해를 입힐때
13:01
they're preying먹이 on our human인간의 fears두려움
and vulnerabilities취약점.
252
769666
3642
인간의 두려움과
취약함을 먹이로 삼습니다.
13:06
If we ever thought
that we could build짓다 an internet인터넷
253
774461
3508
우리가 만약 인간성의
어두운 면을 완벽 차단하는
13:09
insulated절연 된 from the dark어두운 side측면 of humanity인류,
254
777993
2578
인터넷을 개발 할 수 있다고
생각한 적이 있다면
13:12
we were wrong잘못된.
255
780595
1184
잘못 생각한 겁니다.
13:14
If we want today오늘 to build짓다 technology과학 기술
256
782361
2270
오늘날 우리가 직면하는
문제들을 극복할 수 있는
13:16
that can overcome이기다
the challenges도전 that we face얼굴,
257
784655
3127
기술을 개발해내고 싶다면
13:19
we have to throw던지다 our entire완전한 selves자아
into understanding이해 the issues문제
258
787806
4043
문제를 정확히 이해하는 것과
해결책을 만드는 것에
13:23
and into building건물 solutions솔루션
259
791873
1893
온 힘을 다해야 합니다.
13:25
that are as human인간의 as the problems문제들
they aim목표 to solve풀다.
260
793790
3782
해결하고자 하는 문제만큼이나
인간적인 해결책을요.
13:30
Let's make that happen우연히 있다.
261
798071
1513
한번 이뤄내봅시다.
13:31
Thank you.
262
799924
1150
감사합니다.
13:33
(Applause박수 갈채)
263
801098
3277
(박수)
Translated by Hyowon Ahn
Reviewed by Jihyeon J. Kim

▲Back to top

ABOUT THE SPEAKER
Yasmin Green - Geopolitical technologist
Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. focused on solving global security challenges through technology.

Why you should listen

Yasmin Green is the director of research and development for Jigsaw, a unit within Alphabet Inc. (formerly Google Ideas), focused on using tech tools to make the world safer, both on and offline. She has experience leading projects in some of the world’s toughest environments, including Iran, Syria, the UAE and Nigeria. In 2012, she led a multi-partner coalition to launch Against Violent Extremism, the world's first online network of former violent extremists and survivors of terrorism. Based on her own interviews with ISIS defectors and jailed recruits, last year Yasmin launched the Redirect Method, a new deployment of targeted advertising and video to confront online radicalization.

Green is a senior advisor on innovation to Oxford Analytica, a member of the Aspen Cyber Strategy Group, and until 2015 co-chaired the European Commission's Working Group on Online Radicalization. She was named one of Fortune's "40 Under 40" most influential young leaders in 2017, and in 2016 she was named one of Fast Company's "Most Creative People in Business."

More profile about the speaker
Yasmin Green | Speaker | TED.com
THE ORIGINAL VIDEO ON TED.COM