TED2018
Supasorn Suwajanakorn: Fake videos of real people -- and how to spot them
Supasorn Suwajanakorn: Videoclipuri false cu oameni reali. Cum să le identifici?
Filmed:
Readability: 4.6
1,453,308 views
Crezi că ești priceput la a detecta videoclipuri false cu oameni celebri care spun lucruri pe care nu le-au spus cu adevărat? Vezi cum sunt acestea făcute în acest discurs surprinzător și în această demonstrație a tehnologiei. Cercetătorul Supasorn Suwajanakorn ne arată cum a creat videoclipuri false folosind modelarea 3D și inteligența artificială. Învață mai multe despre implicațiile etice și posibilitățile creative ale acestei tehnologii și despre pașii făcuți în direcția contracarării folosirii sale greșite.
Supasorn Suwajanakorn - Computer scientist
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Double-click the English transcript below to play the video.
Priviți aceste imagini.
00:12
Look at these images.
0
876
1151
00:14
Now, tell me which Obama here is real.
1
2051
2635
Spuneți-mi care e adevăratul Obama.
00:16
(Video) Barack Obama: To help families
refinance their homes,
refinance their homes,
2
4710
2861
(Video) Barack Oabama: Pentru a ajuta
familiile să își câștige traiul,
familiile să își câștige traiul,
00:19
to invest in things
like high-tech manufacturing,
like high-tech manufacturing,
3
7595
2647
pentru a investi în lucruri
precum producția de tehnologie,
precum producția de tehnologie,
00:22
clean energy
4
10266
1159
energie verde
00:23
and the infrastructure
that creates good new jobs.
that creates good new jobs.
5
11449
2779
și infrastructura ce creează
locuri de muncă bune.
locuri de muncă bune.
Supasorn Suwajankorn: Știe careva?
00:26
Supasorn Suwajanakorn: Anyone?
6
14647
1484
00:28
The answer is none of them.
7
16155
1874
Răspunsul e: niciunul.
00:30
(Laughter)
8
18053
1114
(Râsete)
00:31
None of these is actually real.
9
19191
1786
Niciunul nu e real.
00:33
So let me tell you how we got here.
10
21001
1840
Să vă spun cum s-a ajuns aici.
00:35
My inspiration for this work
11
23940
1578
Inspirația mea pentru această muncă
00:37
was a project meant to preserve our last
chance for learning about the Holocaust
chance for learning about the Holocaust
12
25542
5411
a fost un proiect menit să conserve ultima
noastră șansă de a învăța despre Holocaust
noastră șansă de a învăța despre Holocaust
00:42
from the survivors.
13
30977
1768
de la supraviețuitori,
00:44
It's called New Dimensions in Testimony,
14
32769
2627
E denumit „Noi dimensiuni ale mărturiei”
00:47
and it allows you to have
interactive conversations
interactive conversations
15
35420
3126
și îți permite să porți o conversație
00:50
with a hologram
of a real Holocaust survivor.
of a real Holocaust survivor.
16
38570
2556
cu holograma unui supraviețuitor
real al Holocaustului.
real al Holocaustului.
00:53
(Video) Man: How did you
survive the Holocaust?
survive the Holocaust?
17
41793
1966
(Video) Bărbat: Cum ai supraviețuit
Holocaustului?
Holocaustului?
00:55
(Video) Hologram: How did I survive?
18
43783
1668
(Video) Hologramă: Cum am supraviețuit?
00:57
I survived,
19
45912
1807
Am supraviețuit,
01:00
I believe,
20
48419
1527
cred,
01:01
because providence watched over me.
21
49970
3023
pentru că Dumnezeu m-a păzit.
01:05
SS: Turns out these answers
were prerecorded in a studio.
were prerecorded in a studio.
22
53573
3454
SS: Se pare că aceste răspunsuri
au fost înregistrate într-un studiu.
au fost înregistrate într-un studiu.
01:09
Yet the effect is astounding.
23
57051
2452
Totuși rezultatul e incredibil.
01:11
You feel so connected to his story
and to him as a person.
and to him as a person.
24
59527
3619
Te simți atât de conectat la poveste
și la el ca persoană.
și la el ca persoană.
01:16
I think there's something special
about human interaction
about human interaction
25
64011
3301
Cred că e ceva special
în interacțiunile umane
în interacțiunile umane
01:19
that makes it much more profound
26
67336
2757
ce le face mult mai profunde
01:22
and personal
27
70117
2198
și personale
01:24
than what books or lectures
or movies could ever teach us.
or movies could ever teach us.
28
72339
3485
decât ceea ce ne pot învăța
cărțile, lecțiile sau filmele.
cărțile, lecțiile sau filmele.
01:28
So I saw this and began to wonder,
29
76267
2425
Am văzut acest lucru
și am început să mă întreb:
și am început să mă întreb:
01:30
can we create a model
like this for anyone?
like this for anyone?
30
78716
2810
am putea crea un asemenea
model pentru oricine?
model pentru oricine?
01:33
A model that looks, talks
and acts just like them?
and acts just like them?
31
81550
2975
Un model ce arată, vorbește
și se comportă la fel ca persoana reală?
și se comportă la fel ca persoana reală?
01:37
So I set out to see if this could be done
32
85573
2007
Așa că am încercat să văd ce se poate face
01:39
and eventually came up with a new solution
33
87604
2310
și am venit în final cu o soluție nouă
01:41
that can build a model of a person
using nothing but these:
using nothing but these:
34
89938
3220
ce poate construi un model de persoană
folosind doar aceste lucruri:
folosind doar aceste lucruri:
01:45
existing photos and videos of a person.
35
93747
2214
fotografii și videoclipuri.
01:48
If you can leverage
this kind of passive information,
this kind of passive information,
36
96701
2617
Dacă poți folosi
acest tip de informații pasive,
acest tip de informații pasive,
01:51
just photos and video that are out there,
37
99342
2007
doar fotografiile
și videoclipurile existente,
și videoclipurile existente,
01:53
that's the key to scaling to anyone.
38
101373
2056
ai soluția pentru recrearea
oricărei persoane.
oricărei persoane.
01:56
By the way, here's Richard Feynman,
39
104119
1777
Aici e Richard Feynman,
01:57
who in addition to being
a Nobel Prize winner in physics
a Nobel Prize winner in physics
40
105920
3413
care, pe lângă faptul că e un laureat
al Premiului Nobel în fizică,
al Premiului Nobel în fizică,
02:01
was also known as a legendary teacher.
41
109357
2453
a fost cunoscut și ca profesor legendar.
02:05
Wouldn't it be great
if we could bring him back
if we could bring him back
42
113080
2198
Nu ar fi grozav să îl aducem înapoi
02:07
to give his lectures
and inspire millions of kids,
and inspire millions of kids,
43
115302
3265
pentru a preda și a inspira
milioane de copii,
milioane de copii,
02:10
perhaps not just in English
but in any language?
but in any language?
44
118591
2992
poate nu doar în limba engleză,
ci în orice limbă?
ci în orice limbă?
02:14
Or if you could ask our grandparents
for advice and hear those comforting words
for advice and hear those comforting words
45
122441
4602
Sau dacă am putea cere sfatul
bunicilor noștri
bunicilor noștri
02:19
even if they're no longer with us?
46
127067
1770
chiar dacă nu mai sunt printre noi?
02:21
Or maybe using this tool,
book authors, alive or not,
book authors, alive or not,
47
129683
3396
Sau poate că folosind acest instrument,
autorii în viață sau nu,
autorii în viață sau nu,
02:25
could read aloud all of their books
for anyone interested.
for anyone interested.
48
133103
2937
și-ar putea citi cu voce tare cărțile
pentru cei interesați.
pentru cei interesați.
02:29
The creative possibilities
here are endless,
here are endless,
49
137199
2437
Posibilitățile sunt nesfârșite
02:31
and to me, that's very exciting.
50
139660
1713
și pentru mine asta e foarte captivant.
02:34
And here's how it's working so far.
51
142595
2002
Și așa funcționează acum.
02:36
First, we introduce a new technique
52
144621
1667
Întâi introducem o nouă tehnică
02:38
that can reconstruct a high-detailed
3D face model from any image
3D face model from any image
53
146312
4572
ce reconstruiește modele 3D
de înaltă fidelitate din orice imagine
de înaltă fidelitate din orice imagine
02:42
without ever 3D-scanning the person.
54
150908
2119
fără o scanare 3D a persoanei.
02:45
And here's the same output model
from different views.
from different views.
55
153890
2642
Acesta e modelul creat
din diferite perspective.
din diferite perspective.
02:49
This also works on videos,
56
157969
1502
Acest lucru funcționează
și cu videoclipuri,
și cu videoclipuri,
02:51
by running the same algorithm
on each video frame
on each video frame
57
159495
2852
prin folosirea algoritmului
pentru fiecare cadru
pentru fiecare cadru
02:54
and generating a moving 3D model.
58
162371
2222
și prin generarea
unui model 3D în mișcare.
unui model 3D în mișcare.
02:57
And here's the same
output model from different angles.
output model from different angles.
59
165538
2772
Aici e același model
din diferite unghiuri.
din diferite unghiuri.
03:01
It turns out this problem
is very challenging,
is very challenging,
60
169933
2534
Se pare că această problemă e foarte grea,
03:04
but the key trick
is that we are going to analyze
is that we are going to analyze
61
172491
2525
dar cheia e să analizăm
03:07
a large photo collection
of the person beforehand.
of the person beforehand.
62
175040
2966
o colecție mare de poze înainte de asta.
03:10
For George W. Bush,
we can just search on Google,
we can just search on Google,
63
178650
2539
Pentru George W. Bush
putem căuta pe Google,
putem căuta pe Google,
03:14
and from that, we are able
to build an average model,
to build an average model,
64
182309
2499
și de aici putem crea un model standard,
03:16
an iterative, refined model
to recover the expression
to recover the expression
65
184832
3111
apoi e îmbunătățit
pentru a recrea expresia
pentru a recrea expresia
03:19
in fine details,
like creases and wrinkles.
like creases and wrinkles.
66
187967
2336
în detaliu, precum ridurile.
03:23
What's fascinating about this
67
191326
1403
Ceea ce e fascinant
03:24
is that the photo collection
can come from your typical photos.
can come from your typical photos.
68
192753
3423
e că acea colecție de fotografii
poate fi dintr-un album obișnuit.
poate fi dintr-un album obișnuit.
03:28
It doesn't really matter
what expression you're making
what expression you're making
69
196200
2603
Nu contează ce expresie facială ai în poze
03:30
or where you took those photos.
70
198827
1885
sau unde ai făcut acele fotografii.
03:32
What matters is
that there are a lot of them.
that there are a lot of them.
71
200736
2400
Contează doar să fie multe.
03:35
And we are still missing color here,
72
203160
1736
Dar mai avem nevoie de culoare,
03:36
so next, we develop
a new blending technique
a new blending technique
73
204920
2348
deci, mai întâi dezvoltăm o tehnică
03:39
that improves upon
a single averaging method
a single averaging method
74
207292
2836
ce se îmbunătățește printr-o metodă
de aproximare
de aproximare
03:42
and produces sharp
facial textures and colors.
facial textures and colors.
75
210152
2818
și produce textura și culoarea facială.
03:45
And this can be done for any expression.
76
213779
2771
Și acest lucru poate fi făcut
pentru orice expresie.
pentru orice expresie.
03:49
Now we have a control
of a model of a person,
of a model of a person,
77
217485
2499
Avem deci controlul unui model uman,
03:52
and the way it's controlled now
is by a sequence of static photos.
is by a sequence of static photos.
78
220008
3795
iar modul în care e controlat
acum e prin intermediul unor poze statice.
acum e prin intermediul unor poze statice.
03:55
Notice how the wrinkles come and go,
depending on the expression.
depending on the expression.
79
223827
3126
Observați cum apar și dispar
ridurile în funcție de expresie.
ridurile în funcție de expresie.
04:00
We can also use a video
to drive the model.
to drive the model.
80
228109
2746
Putem folosi și un videoclip.
04:02
(Video) Daniel Craig: Right, but somehow,
81
230879
2593
(Video) Daniel Craig: Da, dar cumva,
04:05
we've managed to attract
some more amazing people.
some more amazing people.
82
233496
3771
am reușit să atragem
niște oameni extraordinari.
niște oameni extraordinari.
04:10
SS: And here's another fun demo.
83
238021
1642
SS: Și aici e un alt exemplu hazliu.
04:11
So what you see here
are controllable models
are controllable models
84
239687
2246
Aici avem modele controlabile
ale unor persoane construite
folosind poze de pe internet.
folosind poze de pe internet.
04:13
of people I built
from their internet photos.
from their internet photos.
85
241957
2444
04:16
Now, if you transfer
the motion from the input video,
the motion from the input video,
86
244425
2904
Dacă transferăm mișcarea din videoclip,
04:19
we can actually drive the entire party.
87
247353
2152
putem pune în mișcare toate modelele.
04:21
George W. Bush:
It's a difficult bill to pass,
It's a difficult bill to pass,
88
249529
2172
George W. Bush:
E o lege dificil de trecut,
E o lege dificil de trecut,
04:23
because there's a lot of moving parts,
89
251725
2303
deoarece are multe părți complicate,
04:26
and the legislative processes can be ugly.
90
254052
5231
iar procesul legislativ poate fi dificil.
04:31
(Applause)
91
259307
1630
(Aplauze)
04:32
SS: So coming back a little bit,
92
260961
1837
SS: Ne întoarcem puțin,
04:34
our ultimate goal, rather,
is to capture their mannerisms
is to capture their mannerisms
93
262822
3191
scopul nostru final
e să le copiem manierismele
e să le copiem manierismele
04:38
or the unique way each
of these people talks and smiles.
of these people talks and smiles.
94
266037
3045
sau modul unic de a vorbi
și zâmbi al acestor persoane.
și zâmbi al acestor persoane.
04:41
So to do that, can we
actually teach the computer
actually teach the computer
95
269106
2313
Pentru a face asta,
putem oare învăța computerul
putem oare învăța computerul
04:43
to imitate the way someone talks
96
271443
2222
să imite modul în care cineva vorbește
04:45
by only showing it
video footage of the person?
video footage of the person?
97
273689
2420
doar arătându-i un videoclip
cu acea persoană?
cu acea persoană?
04:48
And what I did exactly was,
I let a computer watch
I let a computer watch
98
276898
2577
Ceea ce am făcut a fost
să las un computer să vizioneze
să las un computer să vizioneze
04:51
14 hours of pure Barack Obama
giving addresses.
giving addresses.
99
279499
3277
14 ore de discursuri ale lui Barack Obama.
04:55
And here's what we can produce
given only his audio.
given only his audio.
100
283443
3516
Și acesta a fost rezultatul,
folosind doar vocea sa.
folosind doar vocea sa.
04:58
(Video) BO: The results are clear.
101
286983
1777
(Video): BO: Rezultatele sunt clare.
05:00
America's businesses have created
14.5 million new jobs
14.5 million new jobs
102
288784
4349
Afacerile Americii au creat 14,5 milioane
de noi locuri de muncă
de noi locuri de muncă
05:05
over 75 straight months.
103
293157
2774
în 75 de luni de zile.
05:07
SS: So what's being synthesized here
is only the mouth region,
is only the mouth region,
104
295955
2905
SS: Aici a fost creată
doar regiunea bucală,
doar regiunea bucală,
05:10
and here's how we do it.
105
298884
1540
și așa am făcut-o.
05:12
Our pipeline uses a neural network
106
300764
1826
Algoritmul nostru folosește
o rețea neuronală
o rețea neuronală
05:14
to convert and input audio
into these mouth points.
into these mouth points.
107
302614
2936
pentru a transforma informația
audio în aceste puncte.
audio în aceste puncte.
05:18
(Video) BO: We get it through our job
or through Medicare or Medicaid.
or through Medicare or Medicaid.
108
306547
4225
(Video): BO: O obținem de la locul
de muncă sau prin Medicare sau Medicaid.
de muncă sau prin Medicare sau Medicaid.
05:22
SS: Then we synthesize the texture,
enhance details and teeth,
enhance details and teeth,
109
310796
3420
SS: Apoi creăm textura
și amplificăm detaliile și dinții,
și amplificăm detaliile și dinții,
05:26
and blend it into the head
and background from a source video.
and background from a source video.
110
314240
3074
și o integrăm în fundalul
videoclipului original.
videoclipului original.
05:29
(Video) BO: Women can get free checkups,
111
317338
1905
(Video) BO: Femeile pot obține
consultații gratuite,
consultații gratuite,
05:31
and you can't get charged more
just for being a woman.
just for being a woman.
112
319267
2968
și nu vei plăti mai mult
doar pentru că ești femeie.
doar pentru că ești femeie.
05:34
Young people can stay
on a parent's plan until they turn 26.
on a parent's plan until they turn 26.
113
322973
3306
Tinerii pot rămâne în planificarea
parentală până la 26 de ani.
parentală până la 26 de ani.
05:39
SS: I think these results
seem very realistic and intriguing,
seem very realistic and intriguing,
114
327267
2952
SS: Cred că aceste rezultate
par foarte realistice și intrigante,
par foarte realistice și intrigante,
05:42
but at the same time
frightening, even to me.
frightening, even to me.
115
330243
3173
dar în același timp și amenințătoare,
chiar și pentru mine.
chiar și pentru mine.
05:45
Our goal was to build an accurate model
of a person, not to misrepresent them.
of a person, not to misrepresent them.
116
333440
4015
Scopul nostru e să construim
un model fidel al unei persoane,
un model fidel al unei persoane,
nu să construim discursuri false.
05:49
But one thing that concerns me
is its potential for misuse.
is its potential for misuse.
117
337956
3111
Dar ceea ce mă îngrijorează
e potențialul de a fi utilizat greșit.
e potențialul de a fi utilizat greșit.
05:53
People have been thinking
about this problem for a long time,
about this problem for a long time,
118
341958
2971
Oamenii s-au gândit la această
problemă de mult timp,
problemă de mult timp,
din ziua în care Photoshop
a ieșit pe piață.
a ieșit pe piață.
05:56
since the days when Photoshop
first hit the market.
first hit the market.
119
344953
2381
05:59
As a researcher, I'm also working
on countermeasure technology,
on countermeasure technology,
120
347862
3801
Ca cercetător, lucrez de asemenea
la măsuri de contracarare
la măsuri de contracarare
06:03
and I'm part of an ongoing
effort at AI Foundation,
effort at AI Foundation,
121
351687
2942
și fac parte dintr-o misiune
a AI Fundation,
a AI Fundation,
06:06
which uses a combination
of machine learning and human moderators
of machine learning and human moderators
122
354653
3397
ce folosește o combinație
de machine learning și moderatori umani
de machine learning și moderatori umani
06:10
to detect fake images and videos,
123
358074
2144
pentru a detecta imaginile
și videoclipurile false,
și videoclipurile false,
06:12
fighting against my own work.
124
360242
1514
luptând împotriva muncii mele.
06:14
And one of the tools we plan to release
is called Reality Defender,
is called Reality Defender,
125
362675
3190
Iar unul dintre instrumentele
pe care plănuim
pe care plănuim
să le lansăm e Reality Defender,
06:17
which is a web-browser plug-in
that can flag potentially fake content
that can flag potentially fake content
126
365889
4039
ce e un plug-in al browser-ului
ce poate marca conținutul potențial fals,
ce poate marca conținutul potențial fals,
06:21
automatically, right in the browser.
127
369952
2533
automatic, direct din pagina de internet.
06:24
(Applause)
128
372509
4228
(Aplauze)
06:28
Despite all this, though,
129
376761
1453
În ciuda acestor lucruri,
06:30
fake videos could do a lot of damage,
130
378238
1840
videoclipurile false pot face multe rele,
06:32
even before anyone has a chance to verify,
131
380102
3294
chiar înainte ca cineva
să aibă șansa să le verifice,
să aibă șansa să le verifice,
06:35
so it's very important
that we make everyone aware
that we make everyone aware
132
383420
2722
deci e foarte important
ca fiecare să conștientizeze
ca fiecare să conștientizeze
06:38
of what's currently possible
133
386166
2007
ceea ce e posibil în prezent
06:40
so we can have the right assumption
and be critical about what we see.
and be critical about what we see.
134
388197
3369
pentru a presupune corect și a fi critici
în legătură cu ceea ce vedem.
în legătură cu ceea ce vedem.
06:44
There's still a long way to go before
we can fully model individual people
we can fully model individual people
135
392423
5007
Mai este mult de muncă până să putem
construi modele umane complete
construi modele umane complete
06:49
and before we can ensure
the safety of this technology.
the safety of this technology.
136
397454
2786
și până când această tehnologie
va fi sigură.
va fi sigură.
06:53
But I'm excited and hopeful,
137
401097
1587
Dar sunt entuziasmat și optimist,
06:54
because if we use it right and carefully,
138
402708
3539
deoarece dacă îl folosim
corect și cu grijă,
corect și cu grijă,
06:58
this tool can allow any individual's
positive impact on the world
positive impact on the world
139
406271
4309
acest instrument poate permite
oricărui individ, ca impactul său pozitiv
oricărui individ, ca impactul său pozitiv
07:02
to be massively scaled
140
410604
2190
asupra lumii să fie amplificat masiv
07:04
and really help shape our future
the way we want it to be.
the way we want it to be.
141
412818
2742
și ne poate ajuta să ne construim
viitorul așa cum ne dorim.
viitorul așa cum ne dorim.
07:07
Thank you.
142
415584
1151
Mulțumesc.
07:08
(Applause)
143
416759
5090
(Aplauze)
ABOUT THE SPEAKER
Supasorn Suwajanakorn - Computer scientistSupasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos.
Why you should listen
Can we create a digital avatar that looks, acts and talks just like our sweet grandma? This question has inspired Supasorn Suwajanakorn, a recent PhD graduate from the University of Washington, to spend years developing new tools to make it a reality. He has developed a set of algorithms that can build a moving 3D face model of anyone from just photos, which was awarded the Innovation of the Year in 2016. He then introduced the first system that can replicate a person's speech and produce a realistic CG-animation by only analyzing their existing video footage -- all without ever bringing in the person to a Hollywood capture studio.
Suwajanakorn is working in the field of machine learning and computer vision. His goal is to bring vision algorithms out of the lab and make them work in the wild.
Supasorn Suwajanakorn | Speaker | TED.com