TED2018
Supasorn Suwajanakorn: Fake videos of real people -- and how to spot them
Supasorn Suwajanakorn: Fałszywe nagrania prawdziwych osób - jak je wychwycić
Filmed:
Readability: 4.6
1,453,308 views
Wydaje ci się, że potrafisz wychwycić fałszywe nagrania, w których znani ludzie mówią rzeczy, jakich nigdy nie powiedzieli? W tej zadziwiającej prelekcji, a zarazem pokazie technicznym, możesz zobaczyć, jak one powstają. Informatyk Supasorn Suwajanakorn pokazuje, jak za pomocą sztucznej inteligencji oraz modelowania 3D stworzył fotorealistyczne sztuczne nagrania osób zsynchronizowane z dźwiękiem. Dowiedz się więcej o etycznych konsekwencjach i kreatywnych możliwościach tej technologii oraz jakie kroki są podejmowane w walce z jej nadużyciem.
Supasorn Suwajanakorn - Computer scientist
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Supasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos. Full bio
Double-click the English transcript below to play the video.
00:12
Look at these images.
0
876
1151
Spójrzcie na te obrazy.
00:14
Now, tell me which Obama here is real.
1
2051
2635
Zgadnijcie, który Obama jest prawdziwy.
00:16
(Video) Barack Obama: To help families
refinance their homes,
refinance their homes,
2
4710
2861
(Nagranie) Barack Obama: Żeby pomóc
rodzinom spłacić hipotekę,
rodzinom spłacić hipotekę,
00:19
to invest in things
like high-tech manufacturing,
like high-tech manufacturing,
3
7595
2647
zainwestować w produkcję
nowoczesnych urządzeń,
nowoczesnych urządzeń,
czystą energię
00:22
clean energy
4
10266
1159
oraz infrastrukturę,
która tworzy nowe miejsca pracy.
która tworzy nowe miejsca pracy.
00:23
and the infrastructure
that creates good new jobs.
that creates good new jobs.
5
11449
2779
Supasorn Suwajanakorn: Kto wie?
00:26
Supasorn Suwajanakorn: Anyone?
6
14647
1484
00:28
The answer is none of them.
7
16155
1874
Odpowiedź brzmi: Żaden z nich.
(Śmiech)
00:30
(Laughter)
8
18053
1114
00:31
None of these is actually real.
9
19191
1786
Żaden z nich nie jest prawdziwy.
Pozwólcie, że powiem, jak to powstało.
00:33
So let me tell you how we got here.
10
21001
1840
00:35
My inspiration for this work
11
23940
1578
Moją inspiracją był projekt,
który miał na celu
który miał na celu
00:37
was a project meant to preserve our last
chance for learning about the Holocaust
chance for learning about the Holocaust
12
25542
5411
zachować ostatnią szansę
na zdobycie informacji o Holokauście
na zdobycie informacji o Holokauście
od ocalałych osób.
00:42
from the survivors.
13
30977
1768
00:44
It's called New Dimensions in Testimony,
14
32769
2627
Projekt nazywa się
"Nowe Wymiary Świadectwa"
"Nowe Wymiary Świadectwa"
i pozwala na interaktywne rozmowy
00:47
and it allows you to have
interactive conversations
interactive conversations
15
35420
3126
00:50
with a hologram
of a real Holocaust survivor.
of a real Holocaust survivor.
16
38570
2556
z hologramem prawdziwych ocalałych osób.
00:53
(Video) Man: How did you
survive the Holocaust?
survive the Holocaust?
17
41793
1966
(Nagranie) Mężczyzna:
Jak przetrwałeś Holokaust?
Jak przetrwałeś Holokaust?
00:55
(Video) Hologram: How did I survive?
18
43783
1668
(Nagranie) Hologram: Jak przetrwałem?
00:57
I survived,
19
45912
1807
Wierzę, że przetrwałem
01:00
I believe,
20
48419
1527
01:01
because providence watched over me.
21
49970
3023
dzięki opatrzności.
01:05
SS: Turns out these answers
were prerecorded in a studio.
were prerecorded in a studio.
22
53573
3454
SS: Okazuje się, że te odpowiedzi
zostały wcześniej nagrane w studiu.
zostały wcześniej nagrane w studiu.
01:09
Yet the effect is astounding.
23
57051
2452
Jednak efekt jest zdumiewający.
01:11
You feel so connected to his story
and to him as a person.
and to him as a person.
24
59527
3619
Można poczuć więź
z tą osobą i jego historią.
z tą osobą i jego historią.
01:16
I think there's something special
about human interaction
about human interaction
25
64011
3301
Myślę, że jest coś wyjątkowego
w interakcji między ludźmi,
w interakcji między ludźmi,
co sprawia, że jest ona głębszym
i bardziej osobistym źródłem nauki
i bardziej osobistym źródłem nauki
01:19
that makes it much more profound
26
67336
2757
01:22
and personal
27
70117
2198
niż książki, wykłady czy filmy.
01:24
than what books or lectures
or movies could ever teach us.
or movies could ever teach us.
28
72339
3485
01:28
So I saw this and began to wonder,
29
76267
2425
Kiedy to obejrzałem,
zacząłem się zastanawiać,
zacząłem się zastanawiać,
01:30
can we create a model
like this for anyone?
like this for anyone?
30
78716
2810
czy można stworzyć
taki model dla każdej osoby.
taki model dla każdej osoby.
01:33
A model that looks, talks
and acts just like them?
and acts just like them?
31
81550
2975
Model, który wygląda,
mówi i zachowuje się jak ta osoba.
01:37
So I set out to see if this could be done
32
85573
2007
Zacząłem drążyć temat
i znalazłem nowe rozwiązanie,
01:39
and eventually came up with a new solution
33
87604
2310
które pozwala zbudować model osoby,
01:41
that can build a model of a person
using nothing but these:
using nothing but these:
34
89938
3220
używając tylko istniejących
zdjęć i nagrań wideo tej osoby.
zdjęć i nagrań wideo tej osoby.
01:45
existing photos and videos of a person.
35
93747
2214
01:48
If you can leverage
this kind of passive information,
this kind of passive information,
36
96701
2617
Jeśli można pozyskać
tego typu pasywne informacje,
tego typu pasywne informacje,
zdjęcia i nagrania, które są dostępne,
01:51
just photos and video that are out there,
37
99342
2007
to mamy klucz
do zeskalowania każdej osoby.
do zeskalowania każdej osoby.
01:53
that's the key to scaling to anyone.
38
101373
2056
01:56
By the way, here's Richard Feynman,
39
104119
1777
Oto Richard Feynman,
który nie tylko jest noblistą
w dziedzinie fizyki,
w dziedzinie fizyki,
01:57
who in addition to being
a Nobel Prize winner in physics
a Nobel Prize winner in physics
40
105920
3413
ale także legendarnym nauczycielem.
02:01
was also known as a legendary teacher.
41
109357
2453
02:05
Wouldn't it be great
if we could bring him back
if we could bring him back
42
113080
2198
Czy nie byłoby wspaniale przywrócić go,
02:07
to give his lectures
and inspire millions of kids,
and inspire millions of kids,
43
115302
3265
żeby mógł inspirować
swoimi wykładami miliony dzieci,
swoimi wykładami miliony dzieci,
02:10
perhaps not just in English
but in any language?
but in any language?
44
118591
2992
być może nie tylko po angielsku,
ale w jakimkolwiek języku?
ale w jakimkolwiek języku?
02:14
Or if you could ask our grandparents
for advice and hear those comforting words
for advice and hear those comforting words
45
122441
4602
Lub zapytać naszych dziadków o radę
i posłuchać ich pocieszających słów,
i posłuchać ich pocieszających słów,
nawet jeśli nie ma ich już z nami?
02:19
even if they're no longer with us?
46
127067
1770
02:21
Or maybe using this tool,
book authors, alive or not,
book authors, alive or not,
47
129683
3396
A może posłuchać,
jak autorzy książek, żyjący lub nie,
jak autorzy książek, żyjący lub nie,
czytają swoje dzieła
zainteresowanym osobom?
zainteresowanym osobom?
02:25
could read aloud all of their books
for anyone interested.
for anyone interested.
48
133103
2937
02:29
The creative possibilities
here are endless,
here are endless,
49
137199
2437
Możliwości są nieskończone
i według mnie to jest fascynujące.
02:31
and to me, that's very exciting.
50
139660
1713
02:34
And here's how it's working so far.
51
142595
2002
Oto jak to działa na tę chwilę.
Na początku stosujemy nową technikę,
02:36
First, we introduce a new technique
52
144621
1667
która potrafi zrekonstruować ze zdjęcia
szczegółowy model twarzy 3D,
szczegółowy model twarzy 3D,
02:38
that can reconstruct a high-detailed
3D face model from any image
3D face model from any image
53
146312
4572
02:42
without ever 3D-scanning the person.
54
150908
2119
nawet bez skanowania tej osoby w 3D.
02:45
And here's the same output model
from different views.
from different views.
55
153890
2642
Tak model wygląda z różnych stron.
Działa to także w nagraniach wideo
02:49
This also works on videos,
56
157969
1502
02:51
by running the same algorithm
on each video frame
on each video frame
57
159495
2852
poprzez używanie takiego samego
algorytmu w każdej klatce filmu,
algorytmu w każdej klatce filmu,
02:54
and generating a moving 3D model.
58
162371
2222
co generuje ruchomy model 3D.
02:57
And here's the same
output model from different angles.
output model from different angles.
59
165538
2772
Tak model wygląda pod różnymi kątami.
03:01
It turns out this problem
is very challenging,
is very challenging,
60
169933
2534
Okazuje się, że to zadanie
jest bardzo wymagające,
jest bardzo wymagające,
03:04
but the key trick
is that we are going to analyze
is that we are going to analyze
61
172491
2525
ale sztuczka polega na uprzedniej analizie
03:07
a large photo collection
of the person beforehand.
of the person beforehand.
62
175040
2966
dużej kolekcji zdjęć takiej osoby.
03:10
For George W. Bush,
we can just search on Google,
we can just search on Google,
63
178650
2539
Zdjęcia George'a W. Busha
możemy wyszukać w Google,
możemy wyszukać w Google,
03:14
and from that, we are able
to build an average model,
to build an average model,
64
182309
2499
następnie zbudować przeciętny model,
03:16
an iterative, refined model
to recover the expression
to recover the expression
65
184832
3111
interaktywny, udoskonalony,
żeby odbudować dokładny wyraz twarzy
żeby odbudować dokładny wyraz twarzy
03:19
in fine details,
like creases and wrinkles.
like creases and wrinkles.
66
187967
2336
z załamami skóry i zmarszczkami.
03:23
What's fascinating about this
67
191326
1403
Fascynujące jest to,
03:24
is that the photo collection
can come from your typical photos.
can come from your typical photos.
68
192753
3423
że taką kolekcję można
przygotować ze zwykłych zdjęć.
przygotować ze zwykłych zdjęć.
03:28
It doesn't really matter
what expression you're making
what expression you're making
69
196200
2603
Nie ma znaczenia, jaką robimy minę
i gdzie te zdjęcia były zrobione.
i gdzie te zdjęcia były zrobione.
03:30
or where you took those photos.
70
198827
1885
03:32
What matters is
that there are a lot of them.
that there are a lot of them.
71
200736
2400
Ważne tylko, żeby było ich dużo.
03:35
And we are still missing color here,
72
203160
1736
Nadal brakuje nam koloru,
03:36
so next, we develop
a new blending technique
a new blending technique
73
204920
2348
więc tworzymy nową technikę mieszania,
03:39
that improves upon
a single averaging method
a single averaging method
74
207292
2836
która jest lepsza od zwykłej
metody uśredniania
metody uśredniania
03:42
and produces sharp
facial textures and colors.
facial textures and colors.
75
210152
2818
i tworzy wyostrzoną
teksturę twarzy i kolory.
teksturę twarzy i kolory.
03:45
And this can be done for any expression.
76
213779
2771
Można tak zrobić z każdą mimiką.
03:49
Now we have a control
of a model of a person,
of a model of a person,
77
217485
2499
Mamy kontrolę nad modelem osoby
dzięki sekwencji statycznych obrazów.
03:52
and the way it's controlled now
is by a sequence of static photos.
is by a sequence of static photos.
78
220008
3795
03:55
Notice how the wrinkles come and go,
depending on the expression.
depending on the expression.
79
223827
3126
Zobaczcie, jak zmarszczki pojawiają się
i znikają, zależnie od miny.
i znikają, zależnie od miny.
04:00
We can also use a video
to drive the model.
to drive the model.
80
228109
2746
Możemy też użyć nagrania wideo
do stworzenia modelu.
do stworzenia modelu.
04:02
(Video) Daniel Craig: Right, but somehow,
81
230879
2593
(Nagranie) Daniel Craig:
Dobrze, ale jakoś udało nam się
Dobrze, ale jakoś udało nam się
04:05
we've managed to attract
some more amazing people.
some more amazing people.
82
233496
3771
przyciągnąć więcej wspaniałych osób.
04:10
SS: And here's another fun demo.
83
238021
1642
SS: To kolejne zabawne demo.
04:11
So what you see here
are controllable models
are controllable models
84
239687
2246
Widać tu kontrolowane modele osób,
04:13
of people I built
from their internet photos.
from their internet photos.
85
241957
2444
które stworzyłem ze zdjęć z Internetu.
04:16
Now, if you transfer
the motion from the input video,
the motion from the input video,
86
244425
2904
Jeśli przeniesiemy ruch
z wejściowego nagrania,
z wejściowego nagrania,
możemy pokierować całą grupą modeli.
04:19
we can actually drive the entire party.
87
247353
2152
George W. Bush: Ta ustawa
nie przejdzie łatwo,
nie przejdzie łatwo,
04:21
George W. Bush:
It's a difficult bill to pass,
It's a difficult bill to pass,
88
249529
2172
04:23
because there's a lot of moving parts,
89
251725
2303
bo wiele się zmienia w tej kwestii,
04:26
and the legislative processes can be ugly.
90
254052
5231
i proces legislacyjny może być okropny.
04:31
(Applause)
91
259307
1630
(Brawa)
04:32
SS: So coming back a little bit,
92
260961
1837
SS: Wracając do poprzedniej kwestii,
04:34
our ultimate goal, rather,
is to capture their mannerisms
is to capture their mannerisms
93
262822
3191
naszym najważniejszym celem
jest uchwycenie grymasu twarzy
jest uchwycenie grymasu twarzy
04:38
or the unique way each
of these people talks and smiles.
of these people talks and smiles.
94
266037
3045
lub typowego dla danej osoby
sposobu mówienia i uśmiechania się.
sposobu mówienia i uśmiechania się.
04:41
So to do that, can we
actually teach the computer
actually teach the computer
95
269106
2313
Czy możemy nauczyć komputer
04:43
to imitate the way someone talks
96
271443
2222
imitować sposób, w jaki ktoś mówi,
04:45
by only showing it
video footage of the person?
video footage of the person?
97
273689
2420
wykorzystując tylko zdjęcia
lub nagrania takiej osoby?
lub nagrania takiej osoby?
04:48
And what I did exactly was,
I let a computer watch
I let a computer watch
98
276898
2577
Pokazałem komputerowi 14 godzin
przemówień Baracka Obamy.
przemówień Baracka Obamy.
04:51
14 hours of pure Barack Obama
giving addresses.
giving addresses.
99
279499
3277
04:55
And here's what we can produce
given only his audio.
given only his audio.
100
283443
3516
Oto co uzyskałem,
tylko dzięki nagraniom audio.
tylko dzięki nagraniom audio.
04:58
(Video) BO: The results are clear.
101
286983
1777
(Nagranie) BO: Rezultaty są jasne.
05:00
America's businesses have created
14.5 million new jobs
14.5 million new jobs
102
288784
4349
Przedsiębiorstwa amerykańskie
stworzyły 14,5 miliona miejsc pracy
stworzyły 14,5 miliona miejsc pracy
05:05
over 75 straight months.
103
293157
2774
w ciągu 75 miesięcy.
05:07
SS: So what's being synthesized here
is only the mouth region,
is only the mouth region,
104
295955
2905
SS: Syntetyzowany jest sam ruch ust.
05:10
and here's how we do it.
105
298884
1540
Oto jak to robimy.
05:12
Our pipeline uses a neural network
106
300764
1826
Stosujemy sieć neuronową
05:14
to convert and input audio
into these mouth points.
into these mouth points.
107
302614
2936
do przetworzenia dźwięków
i dopasowania ich do punktów na ustach.
i dopasowania ich do punktów na ustach.
05:18
(Video) BO: We get it through our job
or through Medicare or Medicaid.
or through Medicare or Medicaid.
108
306547
4225
(Nagranie) BO: To jest możliwe dzięki
naszej pracy albo Medicare lub Medicaid.
naszej pracy albo Medicare lub Medicaid.
05:22
SS: Then we synthesize the texture,
enhance details and teeth,
enhance details and teeth,
109
310796
3420
SS: Następnie syntetyzujemy teksturę,
wyostrzamy detale i zęby
wyostrzamy detale i zęby
05:26
and blend it into the head
and background from a source video.
and background from a source video.
110
314240
3074
i dopasowujemy do głowy i tła w nagraniu.
(Nagranie) BO: Kobiety mogą mieć
darmowe badania kontrolne.
darmowe badania kontrolne.
05:29
(Video) BO: Women can get free checkups,
111
317338
1905
05:31
and you can't get charged more
just for being a woman.
just for being a woman.
112
319267
2968
Nie można płacić więcej,
tylko dlatego, że jest się kobietą.
tylko dlatego, że jest się kobietą.
05:34
Young people can stay
on a parent's plan until they turn 26.
on a parent's plan until they turn 26.
113
322973
3306
Młode osoby mogą być objęte
ubezpieczeniem rodziców do 26 roku życia.
ubezpieczeniem rodziców do 26 roku życia.
05:39
SS: I think these results
seem very realistic and intriguing,
seem very realistic and intriguing,
114
327267
2952
SS: Uważam, że efekt końcowy
jest bardzo realistyczny i ciekawy,
jest bardzo realistyczny i ciekawy,
05:42
but at the same time
frightening, even to me.
frightening, even to me.
115
330243
3173
ale także przerażający, nawet dla mnie.
05:45
Our goal was to build an accurate model
of a person, not to misrepresent them.
of a person, not to misrepresent them.
116
333440
4015
Naszym celem było stworzenie
dokładnego modelu osoby,
dokładnego modelu osoby,
a nie jej fałszywego obrazu.
05:49
But one thing that concerns me
is its potential for misuse.
is its potential for misuse.
117
337956
3111
Martwi mnie możliwość
nadużycia tej metody.
nadużycia tej metody.
05:53
People have been thinking
about this problem for a long time,
about this problem for a long time,
118
341958
2971
Ludzie myślą o tym problemie już od dawna,
od kiedy Photoshop wszedł na rynek.
05:56
since the days when Photoshop
first hit the market.
first hit the market.
119
344953
2381
05:59
As a researcher, I'm also working
on countermeasure technology,
on countermeasure technology,
120
347862
3801
Jako naukowiec pracuję też
nad środkami zaradczymi
nad środkami zaradczymi
06:03
and I'm part of an ongoing
effort at AI Foundation,
effort at AI Foundation,
121
351687
2942
i współpracuję z Fundacją
Sztucznej Inteligencji,
Sztucznej Inteligencji,
06:06
which uses a combination
of machine learning and human moderators
of machine learning and human moderators
122
354653
3397
która wykorzystuje uczenie maszynowe
oraz ludzkich moderatorów
oraz ludzkich moderatorów
06:10
to detect fake images and videos,
123
358074
2144
do wykrywania fałszywych zdjęć i filmów,
walcząc z tym, nad czym pracuję.
06:12
fighting against my own work.
124
360242
1514
Jedno z narzędzi, które chcemy
wypuścić na rynek to "Reality Defender",
wypuścić na rynek to "Reality Defender",
06:14
And one of the tools we plan to release
is called Reality Defender,
is called Reality Defender,
125
362675
3190
06:17
which is a web-browser plug-in
that can flag potentially fake content
that can flag potentially fake content
126
365889
4039
czyli wtyczka w przeglądarce internetowej,
która automatycznie może wyłapać
potencjalnie fałszywe treści.
potencjalnie fałszywe treści.
06:21
automatically, right in the browser.
127
369952
2533
06:24
(Applause)
128
372509
4228
(Brawa)
06:28
Despite all this, though,
129
376761
1453
Mimo to, fałszywe nagrania
06:30
fake videos could do a lot of damage,
130
378238
1840
mogą wyrządzić dużo szkody,
06:32
even before anyone has a chance to verify,
131
380102
3294
nawet zanim ktoś zdąży je zweryfikować.
06:35
so it's very important
that we make everyone aware
that we make everyone aware
132
383420
2722
Ważne, żebyśmy wszystkim uświadomili,
jakie obecnie są możliwości,
jakie obecnie są możliwości,
06:38
of what's currently possible
133
386166
2007
06:40
so we can have the right assumption
and be critical about what we see.
and be critical about what we see.
134
388197
3369
żebyśmy mogli krytycznie podejść
do tego, co widzimy.
do tego, co widzimy.
06:44
There's still a long way to go before
we can fully model individual people
we can fully model individual people
135
392423
5007
Jeszcze daleka droga do stworzenia
modelu całego człowieka
modelu całego człowieka
i do zapewnienia bezpieczeństwa
w stosowaniu tej metody.
w stosowaniu tej metody.
06:49
and before we can ensure
the safety of this technology.
the safety of this technology.
136
397454
2786
06:53
But I'm excited and hopeful,
137
401097
1587
Ale jestem podekscytowany i pełen nadziei,
06:54
because if we use it right and carefully,
138
402708
3539
bo jeśli będziemy odpowiednio
i ostrożnie używać tego narzędzia,
i ostrożnie używać tego narzędzia,
06:58
this tool can allow any individual's
positive impact on the world
positive impact on the world
139
406271
4309
może ono pozwolić człowiekowi
na ogromną skalę wpływać na świat
07:02
to be massively scaled
140
410604
2190
07:04
and really help shape our future
the way we want it to be.
the way we want it to be.
141
412818
2742
i może pomóc stworzyć przyszłość,
jaką chcielibyśmy mieć.
jaką chcielibyśmy mieć.
07:07
Thank you.
142
415584
1151
Dziękuję.
07:08
(Applause)
143
416759
5090
(Brawa)
ABOUT THE SPEAKER
Supasorn Suwajanakorn - Computer scientistSupasorn Suwajanakorn works on ways to reconstruct, preserve and reanimate anyone -- just from their existing photos and videos.
Why you should listen
Can we create a digital avatar that looks, acts and talks just like our sweet grandma? This question has inspired Supasorn Suwajanakorn, a recent PhD graduate from the University of Washington, to spend years developing new tools to make it a reality. He has developed a set of algorithms that can build a moving 3D face model of anyone from just photos, which was awarded the Innovation of the Year in 2016. He then introduced the first system that can replicate a person's speech and produce a realistic CG-animation by only analyzing their existing video footage -- all without ever bringing in the person to a Hollywood capture studio.
Suwajanakorn is working in the field of machine learning and computer vision. His goal is to bring vision algorithms out of the lab and make them work in the wild.
Supasorn Suwajanakorn | Speaker | TED.com