TEDSummit 2019
Danielle Citron: How deepfakes undermine truth and threaten democracy
Danielle Citron: Comment les deepfakes mettent en danger la vérité et la démocratie
Filmed:
Readability: 5
1,533,743 views
L'utilisation de la technologie « deepfake » pour manipuler la vidéo et l'audio à des fins malveillantes - que ce soit pour attiser la violence ou pour diffamer les politiciens et les journalistes - devient une menace réelle. À mesure que ces outils deviendront plus accessibles et que les résultats deviendront plus réalistes, comment vont-ils façonner ce que nous croyons ? Danielle Citron, professeure de droit, révèle dans un discours épouvantable comment les deepfakes augmentent notre méfiance - et suggère des approches pour préserver la vérité.
Danielle Citron - Law professor, deepfake scholar
Danielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice. Full bio
Danielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice. Full bio
Double-click the English transcript below to play the video.
00:12
[This talk contains mature content]
0
535
2767
[Cette intervention comporte
du contenu réservé aux adultes]
du contenu réservé aux adultes]
00:17
Rana Ayyub is a journalist in India
1
5762
2992
Rana Ayyub est journaliste en Inde.
00:20
whose work has exposed
government corruption
government corruption
2
8778
2602
Elle a exposé
la corruption du gouvernement
la corruption du gouvernement
00:24
and human rights violations.
3
12411
2157
et des violations des droits de l'homme.
00:26
And over the years,
4
14990
1167
Et au fil des années,
00:28
she's gotten used to vitriol
and controversy around her work.
and controversy around her work.
5
16181
3303
elle s'est habituée à la critique
et à la controverse sur son travail.
et à la controverse sur son travail.
00:32
But none of it could have prepared her
for what she faced in April 2018.
for what she faced in April 2018.
6
20149
5109
Mais rien n'aurait pu la préparer
à ce qu'il s'est passé en avril 2018.
à ce qu'il s'est passé en avril 2018.
00:38
She was sitting in a café with a friend
when she first saw it:
when she first saw it:
7
26125
3651
Elle était dans un café avec un ami
quand elle a vu la vidéo :
quand elle a vu la vidéo :
00:41
a two-minute, 20-second video
of her engaged in a sex act.
of her engaged in a sex act.
8
29800
4943
une vidéo de deux minutes vingt
la montrant en plein ébat sexuel.
la montrant en plein ébat sexuel.
00:47
And she couldn't believe her eyes.
9
35188
2349
Elle n'en croyait pas ses yeux.
00:49
She had never made a sex video.
10
37561
2273
Elle n'avait jamais tourné
une telle vidéo.
une telle vidéo.
00:52
But unfortunately, thousands
upon thousands of people
upon thousands of people
11
40506
3465
Mais malheureusement, des milliers de gens
00:55
would believe it was her.
12
43995
1666
ont cru que c'était elle.
00:58
I interviewed Ms. Ayyub
about three months ago,
about three months ago,
13
46673
2944
J'ai interviewé Mme Ayyub
il y a trois mois,
il y a trois mois,
dans le cadre de mon livre
sur la protection de l'intimité sexuelle.
sur la protection de l'intimité sexuelle.
01:01
in connection with my book
on sexual privacy.
on sexual privacy.
14
49641
2504
01:04
I'm a law professor, lawyer
and civil rights advocate.
and civil rights advocate.
15
52681
3198
Je suis professeur de droit,
juriste et avocate en droit civil.
juriste et avocate en droit civil.
01:08
So it's incredibly frustrating
knowing that right now,
knowing that right now,
16
56204
4611
Il est incroyablement frustrant,
sachant tout cela,
sachant tout cela,
01:12
law could do very little to help her.
17
60839
2238
que la loi ne puisse pas beaucoup l'aider.
01:15
And as we talked,
18
63458
1547
Lors de notre conversation,
01:17
she explained that she should have seen
the fake sex video coming.
the fake sex video coming.
19
65029
4512
elle m'a expliqué qu'elle aurait dû
voir venir cette fausse vidéo porno.
voir venir cette fausse vidéo porno.
01:22
She said, "After all, sex is so often used
to demean and to shame women,
to demean and to shame women,
20
70038
5596
Elle m'a dit : « Après tout,
le sexe est si souvent utilisé
le sexe est si souvent utilisé
pour rabaisser les femmes
ou leur faire honte,
ou leur faire honte,
01:27
especially minority women,
21
75658
2428
surtout les femmes issues des minorités,
01:30
and especially minority women
who dare to challenge powerful men,"
who dare to challenge powerful men,"
22
78110
4312
et surtout les femmes des minorités
qui osent défier des hommes puissants » -
qui osent défier des hommes puissants » -
01:34
as she had in her work.
23
82446
1533
ce qu'elle avait fait par son travail.
01:37
The fake sex video went viral in 48 hours.
24
85191
3976
En 48 heures, la vidéo truquée
est devenue virale.
est devenue virale.
01:42
All of her online accounts were flooded
with screenshots of the video,
with screenshots of the video,
25
90064
5307
Tous ses comptes ont été bombardés
d'images de cette vidéo,
d'images de cette vidéo,
01:47
with graphic rape and death threats
26
95395
2627
accompagnées de menaces de viol,
de menaces de mort,
de menaces de mort,
01:50
and with slurs about her Muslim faith.
27
98046
2533
et d'insultes à sa foi de musulmane.
01:53
Online posts suggested that
she was "available" for sex.
she was "available" for sex.
28
101426
4564
Des posts en ligne suggéraient
qu'elle était « disponible » sexuellement.
qu'elle était « disponible » sexuellement.
01:58
And she was doxed,
29
106014
1610
Et elle a été « doxée » :
01:59
which means that her home address
and her cell phone number
and her cell phone number
30
107648
2778
son adresse personnelle
et son numéro de portable
et son numéro de portable
02:02
were spread across the internet.
31
110450
1746
ont été dévoilés sur Internet.
02:04
The video was shared
more than 40,000 times.
more than 40,000 times.
32
112879
4084
La vidéo a été partagée
plus de 40 000 fois.
plus de 40 000 fois.
02:09
Now, when someone is targeted
with this kind of cybermob attack,
with this kind of cybermob attack,
33
117760
3936
Quand quelqu'un est visé
par ce genre de cyber-harcèlement,
par ce genre de cyber-harcèlement,
02:13
the harm is profound.
34
121720
2063
les conséquences sont
immensément douloureuses.
immensément douloureuses.
02:16
Rana Ayyub's life was turned upside down.
35
124482
3039
La vie de Rana Ayyub a été chamboulée.
02:20
For weeks, she could hardly eat or speak.
36
128211
3334
Pendant des semaines, elle arrivait
à peine à manger ou à parler.
à peine à manger ou à parler.
02:23
She stopped writing and closed
all of her social media accounts,
all of her social media accounts,
37
131919
3689
Elle a arrêté d'écrire et a fermé
tous ses comptes sur les réseaux sociaux,
tous ses comptes sur les réseaux sociaux,
02:27
which is, you know, a tough thing to do
when you're a journalist.
when you're a journalist.
38
135632
3158
ce qui, vous savez, est un acte difficile
quand vous êtes journaliste.
quand vous êtes journaliste.
02:31
And she was afraid to go outside
her family's home.
her family's home.
39
139188
3484
Elle avait peur de sortir de chez elle.
Et si les harceleurs voulaient
mettre leurs menaces à exécution ?
mettre leurs menaces à exécution ?
02:34
What if the posters
made good on their threats?
made good on their threats?
40
142696
3022
02:38
The UN Council on Human Rights
confirmed that she wasn't being crazy.
confirmed that she wasn't being crazy.
41
146395
4365
Le Conseil de l'ONU pour les droits de
l'homme ont confirmé qu'elle avait raison.
l'homme ont confirmé qu'elle avait raison.
02:42
It issued a public statement saying
that they were worried about her safety.
that they were worried about her safety.
42
150784
4637
Il a publié une déclaration disant
qu'il s'inquiétait pour sa sécurité.
qu'il s'inquiétait pour sa sécurité.
02:48
What Rana Ayyub faced was a deepfake:
43
156776
4229
Rana Ayyub a été la cible
de ce qu'on appelle un deepfake :
de ce qu'on appelle un deepfake :
02:53
machine-learning technology
44
161029
2540
une technologie basée
sur l'apprentissage automatique
sur l'apprentissage automatique
02:55
that manipulates or fabricates
audio and video recordings
audio and video recordings
45
163593
4111
qui manipule ou fabrique
des enregistrements audio et vidéo
des enregistrements audio et vidéo
02:59
to show people doing and saying things
46
167728
2723
qui montrent des gens faisant
ou disant des choses
ou disant des choses
03:02
that they never did or said.
47
170475
1866
qu'ils n'ont jamais faites ou dites.
03:04
Deepfakes appear authentic
and realistic, but they're not;
and realistic, but they're not;
48
172807
3361
Les deepfakes semblent authentiques
et réalistes, mais ne le sont pas ;
et réalistes, mais ne le sont pas ;
03:08
they're total falsehoods.
49
176192
1772
ce sont des falsifications complètes.
03:11
Although the technology
is still developing in its sophistication,
is still developing in its sophistication,
50
179228
3794
Bien que la technologie soit encore
dans une phase d'amélioration,
dans une phase d'amélioration,
elle est déjà largement accessible.
03:15
it is widely available.
51
183046
1614
03:17
Now, the most recent attention
to deepfakes arose,
to deepfakes arose,
52
185371
3072
les deepfakes ont tout
récemment attiré l'attention,
récemment attiré l'attention,
03:20
as so many things do online,
53
188467
2161
comme tant de choses sur Internet,
03:22
with pornography.
54
190652
1255
grâce à la pornographie.
03:24
In early 2018,
55
192498
2111
Début 2018,
03:26
someone posted a tool on Reddit
56
194633
2468
quelqu'un a posté un outil sur Reddit
03:29
to allow users to insert faces
into porn videos.
into porn videos.
57
197125
4412
permettant à ses utilisateurs d'intégrer
des visages dans des vidéos pornos.
des visages dans des vidéos pornos.
03:33
And what followed was a cascade
of fake porn videos
of fake porn videos
58
201561
3440
S'en est suivi un déluge
de fausses vidéos pornos
de fausses vidéos pornos
03:37
featuring people's favorite
female celebrities.
female celebrities.
59
205025
2797
mettant en scène les célébrités
féminines préférées du public.
féminines préférées du public.
03:40
And today, you can go on YouTube
and pull up countless tutorials
and pull up countless tutorials
60
208712
3477
Aujourd'hui, vous pouvez faire défiler
sur Youtube les nombreux tutoriels
sur Youtube les nombreux tutoriels
03:44
with step-by-step instructions
61
212213
2286
montrant pas à pas
03:46
on how to make a deepfake
on your desktop application.
on your desktop application.
62
214523
3163
comment créer un deepfake
sur votre ordinateur personnel.
sur votre ordinateur personnel.
03:50
And soon we may be even able
to make them on our cell phones.
to make them on our cell phones.
63
218260
3706
On dit qu'on pourrait même bientôt
le faire sur nos téléphones.
le faire sur nos téléphones.
03:55
Now, it's the interaction
of some of our most basic human frailties
of some of our most basic human frailties
64
223072
5382
On est là au croisement de certaines
des plus basiques fragilités humaines
des plus basiques fragilités humaines
04:00
and network tools
65
228478
1682
et des outils technologiques
04:02
that can turn deepfakes into weapons.
66
230184
2666
qui peuvent transformer
les deepfakes en armes.
les deepfakes en armes.
04:04
So let me explain.
67
232874
1200
Laissez-moi préciser.
04:06
As human beings, we have
a visceral reaction to audio and video.
a visceral reaction to audio and video.
68
234875
4566
Les êtres humains ont une réaction
instinctive à l'audio et la vidéo.
instinctive à l'audio et la vidéo.
04:11
We believe they're true,
69
239860
1488
On croit que c'est vrai,
04:13
on the notion that
of course you can believe
of course you can believe
70
241372
2078
car, par principe, nous croyons évidemment
04:15
what your eyes and ears are telling you.
71
243474
2478
ce que nos yeux
et nos oreilles nous disent.
et nos oreilles nous disent.
04:18
And it's that mechanism
72
246476
1699
Et c'est ce mécanisme
04:20
that might undermine our shared
sense of reality.
sense of reality.
73
248199
3698
qui peut saper notre
sens partagé de la réalité.
sens partagé de la réalité.
Bien que nous pensions que les deepfakes
soient vrais, ils ne le sont pas.
soient vrais, ils ne le sont pas.
04:23
Although we believe deepfakes
to be true, they're not.
to be true, they're not.
74
251921
3147
04:27
And we're attracted
to the salacious, the provocative.
to the salacious, the provocative.
75
255604
4157
Et nous sommes attirés
par ce qui est salace, provoquant.
par ce qui est salace, provoquant.
04:32
We tend to believe
and to share information
and to share information
76
260365
3047
On a tendance à croire
et à diffuser des informations
et à diffuser des informations
04:35
that's negative and novel.
77
263436
2023
qui sont négatives et nouvelles.
04:37
And researchers have found that online
hoaxes spread 10 times faster
hoaxes spread 10 times faster
78
265809
5019
Des chercheurs ont trouvé que les canulars
en ligne se répandent dix fois plus vite
en ligne se répandent dix fois plus vite
04:42
than accurate stories.
79
270852
1627
que les histoires vraies.
04:46
Now, we're also drawn to information
80
274015
4380
De plus, nous sommes aussi attirés
par l'information
par l'information
04:50
that aligns with our viewpoints.
81
278419
1892
qui coïncide avec notre point de vue.
04:52
Psychologists call that tendency
"confirmation bias."
"confirmation bias."
82
280950
3561
Les psychologues appellent cela
un biais de confirmation.
un biais de confirmation.
04:57
And social media platforms
supercharge that tendency,
supercharge that tendency,
83
285300
4387
Les réseaux sociaux amplifient
cette tendance,
cette tendance,
05:01
by allowing us to instantly
and widely share information
and widely share information
84
289711
3881
en nous permettant de partager une
information instantanément et largement,
information instantanément et largement,
05:05
that accords with our viewpoints.
85
293616
1792
si elle correspond à notre point de vue.
05:08
Now, deepfakes have the potential to cause
grave individual and societal harm.
grave individual and societal harm.
86
296735
5568
Mais les deepfakes ont le potentiel
de causer de graves dommages
individuels et sociétaux.
individuels et sociétaux.
05:15
So, imagine a deepfake
87
303204
2024
Imaginez un deepfake
05:17
that shows American soldiers
in Afganistan burning a Koran.
in Afganistan burning a Koran.
88
305252
4182
qui montrerait des soldats américains
brûlant un Coran en Afghanistan.
brûlant un Coran en Afghanistan.
05:22
You can imagine that that deepfake
would provoke violence
would provoke violence
89
310807
3024
On imagine bien qu'une telle
vidéo déclencherait des violences
vidéo déclencherait des violences
05:25
against those soldiers.
90
313855
1533
contre ces soldats.
05:27
And what if the very next day
91
315847
2873
Et imaginons que le lendemain
05:30
there's another deepfake that drops,
92
318744
2254
tombe un nouveau deepfake
05:33
that shows a well-known imam
based in London
based in London
93
321022
3317
montrant un imam de Londres bien connu
05:36
praising the attack on those soldiers?
94
324363
2467
appelant à attaquer ces soldats.
05:39
We might see violence and civil unrest,
95
327617
3163
Ça pourrait déclencher
des violences et des troubles civils,
des violences et des troubles civils,
05:42
not only in Afganistan
and the United Kingdom,
and the United Kingdom,
96
330804
3249
pas seulement en Afghanistan
ou au Royaume-Uni,
ou au Royaume-Uni,
05:46
but across the globe.
97
334077
1515
mais partout dans le monde.
05:48
And you might say to me,
98
336251
1158
Vous pourriez me répondre :
« Allons, c'est tiré par les cheveux. »
« Allons, c'est tiré par les cheveux. »
05:49
"Come on, Danielle, that's far-fetched."
99
337433
2247
05:51
But it's not.
100
339704
1150
Mais ce n'est pas le cas.
05:53
We've seen falsehoods spread
101
341293
2191
On a vu des mensonges se répandre
05:55
on WhatsApp and other
online message services
online message services
102
343508
2722
sur WhatsApp et d'autres
services de messagerie en ligne
services de messagerie en ligne
05:58
lead to violence
against ethnic minorities.
against ethnic minorities.
103
346254
2761
et mener à des violences
envers des minorités ethniques.
envers des minorités ethniques.
06:01
And that was just text --
104
349039
1887
Et ce n'était que du texte -
06:02
imagine if it were video.
105
350950
2024
imaginez si ça avait été des vidéos.
06:06
Now, deepfakes have the potential
to corrode the trust that we have
to corrode the trust that we have
106
354593
5357
Les deepfakes ont le potentiel
d'entamer la confiance que nous avons
d'entamer la confiance que nous avons
06:11
in democratic institutions.
107
359974
1992
dans les institutions démocratiques.
06:15
So, imagine the night before an election.
108
363006
2667
Imaginez qu'à la veille d'une élection,
06:17
There's a deepfake showing
one of the major party candidates
one of the major party candidates
109
365996
3238
on voit un deepfake montrant
un des candidats du parti majoritaire
un des candidats du parti majoritaire
06:21
gravely sick.
110
369258
1150
gravement malade.
06:23
The deepfake could tip the election
111
371202
2333
Ce deepfake pourrait
faire basculer l'élection
faire basculer l'élection
06:25
and shake our sense
that elections are legitimate.
that elections are legitimate.
112
373559
3375
et mettre en doute la légitimité
qu'on attribue à l'élection.
qu'on attribue à l'élection.
06:30
Imagine if the night before
an initial public offering
an initial public offering
113
378515
3326
Imaginez qu'à la veille
de l'entrée en bourse
de l'entrée en bourse
06:33
of a major global bank,
114
381865
2333
d'une banque importante,
06:36
there was a deepfake
showing the bank's CEO
showing the bank's CEO
115
384222
3149
il y ait un deepfake
montrant le PDG de la banque
montrant le PDG de la banque
06:39
drunkenly spouting conspiracy theories.
116
387395
2697
complètement saoûl,
soutenant des théories complotistes.
soutenant des théories complotistes.
06:42
The deepfake could tank the IPO,
117
390887
3047
Ce deepfake pourrait couler
cette introduction en bourse,
cette introduction en bourse,
06:45
and worse, shake our sense
that financial markets are stable.
that financial markets are stable.
118
393958
4115
et pire encore, nous faire douter
de la stabilité des marchés financiers.
de la stabilité des marchés financiers.
06:51
So deepfakes can exploit and magnify
the deep distrust that we already have
the deep distrust that we already have
119
399385
6989
Les deepfakes savent
exploiter et amplifier
exploiter et amplifier
la méfiance profonde que nous avons déjà
06:58
in politicians, business leaders
and other influential leaders.
and other influential leaders.
120
406398
4214
dans les politiciens, les patrons
et les autres leaders influents.
et les autres leaders influents.
07:02
They find an audience
primed to believe them.
primed to believe them.
121
410945
3284
Ils rencontrent un public
tout prêt à les croire.
tout prêt à les croire.
07:07
And the pursuit of truth
is on the line as well.
is on the line as well.
122
415287
2765
La recherche de la vérité
est en danger également.
est en danger également.
07:11
Technologists expect
that with advances in AI,
that with advances in AI,
123
419077
3564
Les experts en technologie s'attendent
à ce qu'avec les avancées de l'IA,
à ce qu'avec les avancées de l'IA,
07:14
soon it may be difficult if not impossible
124
422665
3682
il soit bientôt difficile,
sinon impossible,
sinon impossible,
07:18
to tell the difference between
a real video and a fake one.
a real video and a fake one.
125
426371
3769
de faire la différence entre une vraie
et une fausse vidéo.
et une fausse vidéo.
07:23
So how can the truth emerge
in a deepfake-ridden marketplace of ideas?
in a deepfake-ridden marketplace of ideas?
126
431022
5341
Comment la vérité pourrait donc émerger
sur une scène des idées
contaminée par les deepfakes ?
contaminée par les deepfakes ?
07:28
Will we just proceed along
the path of least resistance
the path of least resistance
127
436752
3420
Suivrons-nous juste
la voie de moindre résistance
la voie de moindre résistance
07:32
and believe what we want to believe,
128
440196
2437
pour croire ce que nous voulons croire,
07:34
truth be damned?
129
442657
1150
et au diable la vérité ?
07:36
And not only might we believe the fakery,
130
444831
3175
Non seulement nous risquons
de croire les mensonges,
de croire les mensonges,
07:40
we might start disbelieving the truth.
131
448030
3326
mais aussi de douter de la vérité.
07:43
We've already seen people invoke
the phenomenon of deepfakes
the phenomenon of deepfakes
132
451887
4079
Nous avons déjà vu des gens utiliser
ce phénomène des deepfakes
ce phénomène des deepfakes
07:47
to cast doubt on real evidence
of their wrongdoing.
of their wrongdoing.
133
455990
3920
pour mettre en doute des preuves
tangibles de leurs agissements.
tangibles de leurs agissements.
07:51
We've heard politicians say of audio
of their disturbing comments,
of their disturbing comments,
134
459934
5969
Nous avons entendu des politiciens
dire de certains enregistrements :
dire de certains enregistrements :
07:57
"Come on, that's fake news.
135
465927
1746
« Allez, ce sont des fake news.
07:59
You can't believe what your eyes
and ears are telling you."
and ears are telling you."
136
467697
3920
Vous ne pouvez pas croire ce que
vos yeux et vos oreilles vous disent. »
vos yeux et vos oreilles vous disent. »
08:04
And it's that risk
137
472402
1731
Et c'est ce risque
08:06
that professor Robert Chesney and I
call the "liar's dividend":
call the "liar's dividend":
138
474157
5436
que le professeur Robert Chesney et moi
appelons le « dividende du menteur » :
appelons le « dividende du menteur » :
08:11
the risk that liars will invoke deepfakes
139
479617
3357
le risque qu'un menteur
invoque les deepfakes
invoque les deepfakes
08:14
to escape accountability
for their wrongdoing.
for their wrongdoing.
140
482998
2905
pour échapper aux conséquences
de ses malversations.
de ses malversations.
08:18
So we've got our work cut out for us,
there's no doubt about it.
there's no doubt about it.
141
486963
3071
Nous avons donc du pain
sur la planche, sans aucun doute.
sur la planche, sans aucun doute.
08:22
And we're going to need
a proactive solution
a proactive solution
142
490606
3325
Nous allons avoir besoin
d'une solution proactive
d'une solution proactive
08:25
from tech companies, from lawmakers,
143
493955
3511
de la part des sociétés de technologie,
des législateurs,
des législateurs,
08:29
law enforcers and the media.
144
497490
1984
des forces de l'ordre et des media.
08:32
And we're going to need
a healthy dose of societal resilience.
a healthy dose of societal resilience.
145
500093
4016
Et nous allons avoir besoin
d'une bonne dose de résilience sociale.
d'une bonne dose de résilience sociale.
08:37
So now, we're right now engaged
in a very public conversation
in a very public conversation
146
505506
3896
Nous sommes déjà engagés en ce moment
dans une large conversation publique
dans une large conversation publique
08:41
about the responsibility
of tech companies.
of tech companies.
147
509426
2913
sur la responsabilité
des sociétés de technologies.
des sociétés de technologies.
08:44
And my advice to social media platforms
148
512926
3032
J'ai déjà suggéré aux réseaux sociaux
08:47
has been to change their terms of service
and community guidelines
and community guidelines
149
515982
3873
de changer leurs conditions d'utilisation
et leurs règles d'usage
et leurs règles d'usage
08:51
to ban deepfakes that cause harm.
150
519879
2336
pour interdire ces deepfakes dangereux.
08:54
That determination,
that's going to require human judgment,
that's going to require human judgment,
151
522712
3960
Cette détermination va nécessiter
une évaluation par des humains
une évaluation par des humains
08:58
and it's expensive.
152
526696
1571
et va coûter cher.
09:00
But we need human beings
153
528673
2285
Mais il faut que des humains
09:02
to look at the content
and context of a deepfake
and context of a deepfake
154
530982
3873
étudient le contenu
et le contexte d'un deepfake
et le contexte d'un deepfake
09:06
to figure out if it is
a harmful impersonation
a harmful impersonation
155
534879
3682
pour déterminer s'il s'agit
une utilisation dangereuse
une utilisation dangereuse
09:10
or instead, if it's valuable
satire, art or education.
satire, art or education.
156
538585
4382
ou, au contraire, d'une satire, d'une
œuvre d'art ou d'un contenu éducatif.
œuvre d'art ou d'un contenu éducatif.
09:16
So now, what about the law?
157
544118
1495
Et au fait, que dit la loi ?
09:18
Law is our educator.
158
546666
2349
Nous devons apprendre de la loi.
09:21
It teaches us about
what's harmful and what's wrong.
what's harmful and what's wrong.
159
549515
4038
Elle nous dit
ce qui est dangereux et ce qui est mal.
ce qui est dangereux et ce qui est mal.
09:25
And it shapes behavior it deters
by punishing perpetrators
by punishing perpetrators
160
553577
4555
Et elle réprime les comportements
interdits en punissant les coupables
interdits en punissant les coupables
09:30
and securing remedies for victims.
161
558156
2267
et en prenant soin des victimes.
09:33
Right now, law is not up to
the challenge of deepfakes.
the challenge of deepfakes.
162
561148
4280
A ce jour, la loi n'est pas à la hauteur
du défi posé par les deepfakes.
du défi posé par les deepfakes.
09:38
Across the globe,
163
566116
1390
Dans le monde entier,
09:39
we lack well-tailored laws
164
567530
2444
on manque de lois adaptées
09:41
that would be designed to tackle
digital impersonations
digital impersonations
165
569998
3570
qui permettraient d'empêcher
ces mises en scène numériques
ces mises en scène numériques
09:45
that invade sexual privacy,
166
573592
2231
qui violent l'intimité,
09:47
that damage reputations
167
575847
1387
qui détruisent des réputations
09:49
and that cause emotional distress.
168
577258
1951
et qui causent des dommages émotionnels.
09:51
What happened to Rana Ayyub
is increasingly commonplace.
is increasingly commonplace.
169
579725
3873
Ce qui est arrivé à Rana Ayyub
devient de plus en plus courant.
devient de plus en plus courant.
09:56
Yet, when she went
to law enforcement in Delhi,
to law enforcement in Delhi,
170
584074
2214
Quand elle s'est rendue
à la police à Delhi,
à la police à Delhi,
09:58
she was told nothing could be done.
171
586312
2135
on lui a dit qu'on ne pouvait rien faire.
10:01
And the sad truth is
that the same would be true
that the same would be true
172
589101
3183
Et la triste vérité est
que c'est la même chose
que c'est la même chose
10:04
in the United States and in Europe.
173
592308
2266
aux États-Unis et en Europe.
10:07
So we have a legal vacuum
that needs to be filled.
that needs to be filled.
174
595300
4356
Il y a là un vide juridique
qu'il faut combler.
qu'il faut combler.
10:12
My colleague Dr. Mary Anne Franks and I
are working with US lawmakers
are working with US lawmakers
175
600292
4092
Ma collègue le Dr Mary Anne Franks et moi
travaillons avec le législateur étasunien
travaillons avec le législateur étasunien
10:16
to devise legislation that would ban
harmful digital impersonations
harmful digital impersonations
176
604408
4804
pour mettre sur pied des lois
qui interdiraient ces mises
en scène numériques blessantes
en scène numériques blessantes
10:21
that are tantamount to identity theft.
177
609236
2533
qui s'apparentent à du vol d'identité.
10:24
And we've seen similar moves
178
612252
2126
On constate des démarches similaires
10:26
in Iceland, the UK and Australia.
179
614402
3301
en Islande, au Royaume-Uni
et en Australie.
et en Australie.
10:30
But of course, that's just a small piece
of the regulatory puzzle.
of the regulatory puzzle.
180
618157
3259
Mais bien sûr, il ne s'agit que d'une
petite pièce dans le puzzle réglementaire.
petite pièce dans le puzzle réglementaire.
10:34
Now, I know law is not a cure-all. Right?
181
622911
3169
Je sais bien que la loi
n'est pas la panacée.
n'est pas la panacée.
10:38
It's a blunt instrument.
182
626104
1600
C'est un instrument brutal.
10:40
And we've got to use it wisely.
183
628346
1539
Nous devons nous en servir subtilement.
10:42
It also has some practical impediments.
184
630411
2812
Il y a également
quelques problèmes pratiques.
quelques problèmes pratiques.
10:45
You can't leverage law against people
you can't identify and find.
you can't identify and find.
185
633657
5044
On ne peut pas exercer
de sanctions contre quelqu'un
de sanctions contre quelqu'un
qu'on ne peut pas identifier ni trouver.
10:51
And if a perpetrator lives
outside the country
outside the country
186
639463
3286
Et si un coupable vit en dehors du pays
10:54
where a victim lives,
187
642773
1754
où vit la victime,
10:56
then you may not be able to insist
188
644551
1629
il pourrait être impossible
10:58
that the perpetrator
come into local courts
come into local courts
189
646204
2349
que le coupable comparaisse
devant la justice
devant la justice
11:00
to face justice.
190
648577
1150
dans le pays de la victime.
11:02
And so we're going to need
a coordinated international response.
a coordinated international response.
191
650236
4063
Nous allons donc avoir besoin
d'une réponse internationale coordonnée.
d'une réponse internationale coordonnée.
11:07
Education has to be part
of our response as well.
of our response as well.
192
655819
3333
Sans oublier l'éducation.
11:11
Law enforcers are not
going to enforce laws
going to enforce laws
193
659803
3731
Les forces de l'ordre n'interviendront pas
si elles ne connaissent pas ces lois
si elles ne connaissent pas ces lois
11:15
they don't know about
194
663558
1458
11:17
and proffer problems
they don't understand.
they don't understand.
195
665040
2596
et ne régleront pas des problèmes
qu'elles ne comprennent pas.
qu'elles ne comprennent pas.
11:20
In my research on cyberstalking,
196
668376
2191
Dans mes recherches
sur le cyberharcèlement,
sur le cyberharcèlement,
11:22
I found that law enforcement
lacked the training
lacked the training
197
670591
3499
j'ai constaté que les forces de l'ordre
n'avaient pas la formation
n'avaient pas la formation
11:26
to understand the laws available to them
198
674114
2582
pour comprendre les lois
dont elles disposent
dont elles disposent
11:28
and the problem of online abuse.
199
676720
2349
et les problèmes sur Internet.
11:31
And so often they told victims,
200
679093
2682
Et elles disent souvent aux victimes :
11:33
"Just turn your computer off.
Ignore it. It'll go away."
Ignore it. It'll go away."
201
681799
3971
« Éteignez votre ordinateur.
Ignorez ça. Ça va disparaître. »
Ignorez ça. Ça va disparaître. »
11:38
And we saw that in Rana Ayyub's case.
202
686261
2466
C'est qu'on a vu
dans le cas de Rana Ayyub.
dans le cas de Rana Ayyub.
11:41
She was told, "Come on,
you're making such a big deal about this.
you're making such a big deal about this.
203
689102
3468
On lui a dit : « Allez,
vous faites toute une histoire.
vous faites toute une histoire.
11:44
It's boys being boys."
204
692594
1743
C'est juste des garçons qui s'amusent. »
11:47
And so we need to pair new legislation
with efforts at training.
with efforts at training.
205
695268
5252
Il faut donc accompagner
les nouvelles lois avec de la formation.
les nouvelles lois avec de la formation.
11:54
And education has to be aimed
on the media as well.
on the media as well.
206
702053
3429
Cette formation doit aussi être
dispensée aux media.
dispensée aux media.
11:58
Journalists need educating
about the phenomenon of deepfakes
about the phenomenon of deepfakes
207
706180
4260
Les journalistes doivent être formés
au phénomène des deepfakes,
au phénomène des deepfakes,
12:02
so they don't amplify and spread them.
208
710464
3039
pour qu'ils ne relaient pas,
ni ne les amplifient.
ni ne les amplifient.
12:06
And this is the part
where we're all involved.
where we're all involved.
209
714583
2168
Et c'est là où nous sommes tous concernés.
12:08
Each and every one of us needs educating.
210
716775
3855
Chacun d'entre nous doit être formé.
12:13
We click, we share, we like,
and we don't even think about it.
and we don't even think about it.
211
721375
3675
On clique, on partage, on like
sans même y réfléchir.
sans même y réfléchir.
12:17
We need to do better.
212
725551
1547
Nous devons nous améliorer.
12:19
We need far better radar for fakery.
213
727726
2809
Nous avons besoin
de meilleurs radars contre les faux.
de meilleurs radars contre les faux.
12:25
So as we're working
through these solutions,
through these solutions,
214
733744
3841
Et pendant que nous
essayerons d'y voir clair,
essayerons d'y voir clair,
12:29
there's going to be
a lot of suffering to go around.
a lot of suffering to go around.
215
737609
2563
il y aura encore
beaucoup de souffrance générée.
beaucoup de souffrance générée.
12:33
Rana Ayyub is still wrestling
with the fallout.
with the fallout.
216
741093
2746
Rana Ayyub se bat toujours
contre les conséquences du deepfake.
contre les conséquences du deepfake.
12:36
She still doesn't feel free
to express herself on- and offline.
to express herself on- and offline.
217
744669
4189
Elle ne se sent toujours
pas libre de s'exprimer -
pas libre de s'exprimer -
en ligne et dans la vraie vie.
12:41
And as she told me,
218
749566
1365
Elle m'a dit
12:42
she still feels like there are thousands
of eyes on her naked body,
of eyes on her naked body,
219
750955
5074
qu'elle avait toujours l'impression
que des milliers d'yeux la voyaient nue,
que des milliers d'yeux la voyaient nue,
12:48
even though, intellectually,
she knows it wasn't her body.
she knows it wasn't her body.
220
756053
3661
même si, intellectuellement,
elle sait que ce n'était pas son corps.
elle sait que ce n'était pas son corps.
12:52
And she has frequent panic attacks,
221
760371
2349
Elle a souvent des crises de panique,
12:54
especially when someone she doesn't know
tries to take her picture.
tries to take her picture.
222
762744
4100
surtout quand quelqu'un qu'elle ne
connaît pas essaie de la prendre en photo.
connaît pas essaie de la prendre en photo.
12:58
"What if they're going to make
another deepfake?" she thinks to herself.
another deepfake?" she thinks to herself.
223
766868
3511
« Est-ce qu'ils vont en faire
un autre deepfake ? » se demande-t-elle.
un autre deepfake ? » se demande-t-elle.
13:03
And so for the sake of
individuals like Rana Ayyub
individuals like Rana Ayyub
224
771082
3921
Et donc, pour le bien
de personnes comme Rana Ayyub,
de personnes comme Rana Ayyub,
13:07
and the sake of our democracy,
225
775027
2306
et pour le bien de nos démocraties,
13:09
we need to do something right now.
226
777357
2182
nous devons agir maintenant.
13:11
Thank you.
227
779563
1151
Merci.
13:12
(Applause)
228
780738
2508
(Applaudissements)
ABOUT THE SPEAKER
Danielle Citron - Law professor, deepfake scholarDanielle Citron writes, speaks and teaches her academic loves: privacy, free speech and civil rights. Through her work with privacy organizations, she also puts these ideas into practice.
Why you should listen
As a law professor, Danielle Citron puts her commitment to civil rights into practice. She is vice president of the Cyber Civil Rights Initiative, a nonprofit combatting privacy-invading online abuse that undermines civil rights and civil liberties.
When Citron began addressing cyber harassment ten years ago, it was commonly believed that it was "no big deal," and that any legal response would "break the internet." Those attitudes -- and the heartbreaking stories of victims who were terrorized, silenced and economically damaged -- drove Citron to write her 2014 book, Hate Crimes in Cyberspace. Ever since, she has been working with lawmakers, law enforcers, and tech companies to make online spaces and tools available to all on equal terms. Her latest book project focuses on the importance of sexual privacy and how we should protect it.
Danielle Citron | Speaker | TED.com