TED2018
Max Tegmark: How to get empowered, not overpowered, by AI
Max Tegmark: Comment exploiter, non être subjugué par l'intelligence artificielle ?
Filmed:
Readability: 5
1,409,007 views
De nombreux chercheurs spécialisés en intelligence artificielle anticipent qu'elle va, en quelques décennies, surpasser les hommes dans toutes leurs tâches et leurs emplois, et ouvrir les portes d'un futur limité par les seules lois de la physique. Max Tegmark, physicien du M.I.T. et spécialiste de l'intelligence artificielle, fait une distinction entre les vraies opportunités, les vraies menaces, et ce qui constitue les mythes, en nous décrivant les mesures concrètes que nous devrions prendre, dès aujourd'hui, pour faire en sorte que l’intelligence artificielle soit finalement la meilleure chose qui soit arrivée à l'Humanité et non la pire.
Max Tegmark - Scientist, author
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Double-click the English transcript below to play the video.
00:12
After 13.8 billion years
of cosmic history,
of cosmic history,
0
760
4416
Après 13,8 milliards d’années
d’histoire cosmique,
d’histoire cosmique,
00:17
our universe has woken up
1
5200
2096
notre univers s’est éveillé
et a pris conscience de lui-même.
et a pris conscience de lui-même.
00:19
and become aware of itself.
2
7320
1520
Sur une petite planète bleue,
00:21
From a small blue planet,
3
9480
1936
des petites parts conscientes
de notre univers
de notre univers
00:23
tiny, conscious parts of our universe
have begun gazing out into the cosmos
have begun gazing out into the cosmos
4
11440
4136
ont commencé à observer
le cosmos avec des télescopes,
le cosmos avec des télescopes,
00:27
with telescopes,
5
15600
1376
et ont découvert avec humilité
00:29
discovering something humbling.
6
17000
1480
que notre univers est beaucoup plus grand
que ne l'imaginaient nos ancêtres,
que ne l'imaginaient nos ancêtres,
00:31
We've discovered that our universe
is vastly grander
is vastly grander
7
19320
2896
00:34
than our ancestors imagined
8
22240
1336
et que la vie semble être une perturbation
mineure, presque imperceptible,
mineure, presque imperceptible,
00:35
and that life seems to be an almost
imperceptibly small perturbation
imperceptibly small perturbation
9
23600
4256
dans un univers complètement mort.
00:39
on an otherwise dead universe.
10
27880
1720
00:42
But we've also discovered
something inspiring,
something inspiring,
11
30320
3016
Mais nous avons aussi
découvert, avec inspiration,
découvert, avec inspiration,
00:45
which is that the technology
we're developing has the potential
we're developing has the potential
12
33360
2976
que les technologies
que nous développons
que nous développons
ont la capacité d'aider la vie
à s'épanouir comme jamais auparavant,
à s'épanouir comme jamais auparavant,
00:48
to help life flourish like never before,
13
36360
2856
00:51
not just for centuries
but for billions of years,
but for billions of years,
14
39240
3096
non seulement pendant des siècles,
mais des milliards d’années,
mais des milliards d’années,
00:54
and not just on earth but throughout
much of this amazing cosmos.
much of this amazing cosmos.
15
42360
4120
et non seulement sur Terre, mais dans
une bonne partie de ce formidable cosmos.
une bonne partie de ce formidable cosmos.
00:59
I think of the earliest life as "Life 1.0"
16
47680
3336
Les premières formes de vie
sont pour moi « La vie 1.0 »,
sont pour moi « La vie 1.0 »,
01:03
because it was really dumb,
17
51040
1376
parce qu'elles étaient
vraiment ignorantes,
vraiment ignorantes,
01:04
like bacteria, unable to learn
anything during its lifetime.
anything during its lifetime.
18
52440
4296
comme les bactéries incapables d’apprendre
quoi que ce soit dans leur vie.
quoi que ce soit dans leur vie.
01:08
I think of us humans as "Life 2.0"
because we can learn,
because we can learn,
19
56760
3376
Nous, humains, représentons « La vie 2.0 »
car nous pouvons apprendre,
car nous pouvons apprendre,
ce qui pour nous, en language de geek,
01:12
which we in nerdy, geek speak,
20
60160
1496
01:13
might think of as installing
new software into our brains,
new software into our brains,
21
61680
3216
est un peu comme télécharger
de nouveaux logiciels dans notre cerveau,
de nouveaux logiciels dans notre cerveau,
01:16
like languages and job skills.
22
64920
2120
comme des langues
ou des compétences professionnelles.
ou des compétences professionnelles.
01:19
"Life 3.0," which can design not only
its software but also its hardware
its software but also its hardware
23
67680
4296
« La vie 3.0. » qui peut concevoir
son programme mais aussi son équipement
son programme mais aussi son équipement
n'existe pas encore, bien sûr.
01:24
of course doesn't exist yet.
24
72000
1656
Mais peut-être que notre technologie
a déjà fait de nous « La vie 2.1 »,
a déjà fait de nous « La vie 2.1 »,
01:25
But perhaps our technology
has already made us "Life 2.1,"
has already made us "Life 2.1,"
25
73680
3776
01:29
with our artificial knees,
pacemakers and cochlear implants.
pacemakers and cochlear implants.
26
77480
4336
considérant nos genoux artificiels,
pacemakers et implants cochléaires.
pacemakers et implants cochléaires.
01:33
So let's take a closer look
at our relationship with technology, OK?
at our relationship with technology, OK?
27
81840
3880
Donc, observons de plus près notre
relation à la technologie, d'accord ?
relation à la technologie, d'accord ?
01:38
As an example,
28
86800
1216
Par exemple, la mission lunaire Apollo 11
01:40
the Apollo 11 moon mission
was both successful and inspiring,
was both successful and inspiring,
29
88040
5296
a été à la fois un succès
et une source d'inspiration.
et une source d'inspiration.
Elle a montré que quand nous
utilisons la technologie intelligemment,
utilisons la technologie intelligemment,
01:45
showing that when we humans
use technology wisely,
use technology wisely,
30
93360
3016
01:48
we can accomplish things
that our ancestors could only dream of.
that our ancestors could only dream of.
31
96400
3936
nous pouvons accomplir des choses
que nos ancêtres ne pouvaient que rêver.
que nos ancêtres ne pouvaient que rêver.
Mais il existe un voyage
encore plus inspirant,
encore plus inspirant,
01:52
But there's an even more inspiring journey
32
100360
2976
propulsé par une chose encore plus
puissante que les moteurs de fusée,
puissante que les moteurs de fusée,
01:55
propelled by something
more powerful than rocket engines,
more powerful than rocket engines,
33
103360
2680
et dont les voyageurs
ne sont pas juste trois astronautes,
ne sont pas juste trois astronautes,
01:59
where the passengers
aren't just three astronauts
aren't just three astronauts
34
107200
2336
02:01
but all of humanity.
35
109560
1776
mais l’humanité toute entière.
Parlons de notre voyage
collectif dans le futur
collectif dans le futur
02:03
Let's talk about our collective
journey into the future
journey into the future
36
111360
2936
avec l’intelligence artificielle.
02:06
with artificial intelligence.
37
114320
2000
02:08
My friend Jaan Tallinn likes to point out
that just as with rocketry,
that just as with rocketry,
38
116960
4536
Mon ami Jaan Tallinn aime signaler
que, comme pour les fusées,
que, comme pour les fusées,
02:13
it's not enough to make
our technology powerful.
our technology powerful.
39
121520
3160
il ne suffit pas de rendre
notre technologie efficace.
notre technologie efficace.
Nous devons aussi, si nous voulons
être vraiment ambitieux,
être vraiment ambitieux,
02:17
We also have to figure out,
if we're going to be really ambitious,
if we're going to be really ambitious,
40
125560
3175
02:20
how to steer it
41
128759
1416
trouver le moyen de la guider
et définir ce que nous voulons en faire.
et définir ce que nous voulons en faire.
02:22
and where we want to go with it.
42
130199
1681
Donc, parlons de l'intelligence
artificielle sous ces trois aspects :
artificielle sous ces trois aspects :
02:24
So let's talk about all three
for artificial intelligence:
for artificial intelligence:
43
132880
2840
02:28
the power, the steering
and the destination.
and the destination.
44
136440
3056
sa puissance, son guidage,
et sa destination.
et sa destination.
Commençons par sa puissance.
02:31
Let's start with the power.
45
139520
1286
02:33
I define intelligence very inclusively --
46
141600
3096
Je définis « l’intelligence »
de manière très inclusive
de manière très inclusive
02:36
simply as our ability
to accomplish complex goals,
to accomplish complex goals,
47
144720
4336
comme étant notre capacité
à atteindre des objectifs complexes,
à atteindre des objectifs complexes,
car je veux y inclure les deux
intelligences, biologique et artificielle.
intelligences, biologique et artificielle.
02:41
because I want to include both
biological and artificial intelligence.
biological and artificial intelligence.
48
149080
3816
02:44
And I want to avoid
the silly carbon-chauvinism idea
the silly carbon-chauvinism idea
49
152920
4016
Et je souhaite éviter l'idée absurde
du chauvinisme carbonique
du chauvinisme carbonique
qui dit, vous ne pouvez être intelligent
que si vous êtes fait de viande.
que si vous êtes fait de viande.
02:48
that you can only be smart
if you're made of meat.
if you're made of meat.
50
156960
2360
02:52
It's really amazing how the power
of AI has grown recently.
of AI has grown recently.
51
160880
4176
Récemment, le pouvoir de l’I.A.
s’est développé de façon incroyable.
s’est développé de façon incroyable.
02:57
Just think about it.
52
165080
1256
Réfléchissez un instant.
02:58
Not long ago, robots couldn't walk.
53
166360
3200
Il n'y a pas si longtemps, les robots
ne pouvaient pas marcher.
ne pouvaient pas marcher.
Aujourd’hui, ils font des saltos arrières.
03:03
Now, they can do backflips.
54
171040
1720
03:06
Not long ago,
55
174080
1816
Il n'y a pas si longtemps,
nous n’avions pas de voiture
totalement autonome.
totalement autonome.
03:07
we didn't have self-driving cars.
56
175920
1760
03:10
Now, we have self-flying rockets.
57
178920
2480
Aujourd’hui, nous avons
des fusées autonomes.
des fusées autonomes.
03:15
Not long ago,
58
183960
1416
Il n'y a pas si longtemps,
03:17
AI couldn't do face recognition.
59
185400
2616
l’I.A. était incapable
de reconnaître nos visages.
de reconnaître nos visages.
03:20
Now, AI can generate fake faces
60
188040
2976
Aujourd’hui, elle peut
générer de faux visages
générer de faux visages
et simuler le vôtre en train de dire
des trucs que vous n’avez jamais dits.
des trucs que vous n’avez jamais dits.
03:23
and simulate your face
saying stuff that you never said.
saying stuff that you never said.
61
191040
4160
03:28
Not long ago,
62
196400
1576
Il n'y a pas si longtemps, l’I.A.
ne pouvait pas nous battre au jeu de go.
ne pouvait pas nous battre au jeu de go.
03:30
AI couldn't beat us at the game of Go.
63
198000
1880
Puis l'I.A. de Google DeepMind, AlphaZero,
03:32
Then, Google DeepMind's AlphaZero AI
took 3,000 years of human Go games
took 3,000 years of human Go games
64
200400
5096
a pris 3 000 ans de parties et la sagacité
du jeu Go, pour ensuite tout ignorer,
du jeu Go, pour ensuite tout ignorer,
03:37
and Go wisdom,
65
205520
1256
03:38
ignored it all and became the world's best
player by just playing against itself.
player by just playing against itself.
66
206800
4976
et elle est devenue
la meilleure joueuse mondiale
la meilleure joueuse mondiale
et en jouant seulement contre elle-même.
03:43
And the most impressive feat here
wasn't that it crushed human gamers,
wasn't that it crushed human gamers,
67
211800
3696
Le plus impressionnant, ce n'est pas
sa victoire contre des joueurs humains
sa victoire contre des joueurs humains
03:47
but that it crushed human AI researchers
68
215520
2576
mais sa victoire
contre les chercheurs en I.A.
contre les chercheurs en I.A.
qui avaient passé des décennies
à concevoir leur logiciel de jeu.
à concevoir leur logiciel de jeu.
03:50
who had spent decades
handcrafting game-playing software.
handcrafting game-playing software.
69
218120
3680
03:54
And AlphaZero crushed human AI researchers
not just in Go but even at chess,
not just in Go but even at chess,
70
222200
4656
AlphaZero a battu les chercheurs en I.A.
au jeu de go, mais aussi au jeu d’échecs,
au jeu de go, mais aussi au jeu d’échecs,
un jeu sur lequel nous avons
travaillé depuis 1950.
travaillé depuis 1950.
03:58
which we have been working on since 1950.
71
226880
2480
04:02
So all this amazing recent progress in AI
really begs the question:
really begs the question:
72
230000
4240
Donc, tous ces progrès récents incroyables
de l’l.A. soulèvent vraiment la question :
de l’l.A. soulèvent vraiment la question :
04:07
How far will it go?
73
235280
1560
« Jusqu’où cela va-t-il aller ? »
04:09
I like to think about this question
74
237800
1696
J’aime imaginer cette question
sous la forme d'un paysage abstrait
constitué de tâches,
constitué de tâches,
04:11
in terms of this abstract
landscape of tasks,
landscape of tasks,
75
239520
2976
où l’altitude représente
le degré de difficulté qu'a l'I.A.
le degré de difficulté qu'a l'I.A.
04:14
where the elevation represents
how hard it is for AI to do each task
how hard it is for AI to do each task
76
242520
3456
à exécuter chaque tâche
comme un être humain,
comme un être humain,
04:18
at human level,
77
246000
1216
04:19
and the sea level represents
what AI can do today.
what AI can do today.
78
247240
2760
et le niveau de la mer,
les capacités de l'I.A. aujourd’hui.
les capacités de l'I.A. aujourd’hui.
04:23
The sea level is rising
as AI improves,
as AI improves,
79
251120
2056
Son niveau monte
en fonction des progrès de l’I.A.,
en fonction des progrès de l’I.A.,
04:25
so there's a kind of global warming
going on here in the task landscape.
going on here in the task landscape.
80
253200
3440
donc on peut voir une sorte
de réchauffement climatique ici.
de réchauffement climatique ici.
(Rires)
Evidemment, la première conclusion,
c'est éviter les métiers en bord de mer,
c'est éviter les métiers en bord de mer,
04:30
And the obvious takeaway
is to avoid careers at the waterfront --
is to avoid careers at the waterfront --
81
258040
3335
04:33
(Laughter)
82
261399
1257
(Rires)
04:34
which will soon be
automated and disrupted.
automated and disrupted.
83
262680
2856
parce qu'ils vont bientôt
être automatisés.
être automatisés.
Mais il y a une autre question
bien plus importante :
bien plus importante :
04:37
But there's a much
bigger question as well.
bigger question as well.
84
265560
2976
« Jusqu’où l’eau va-t-elle monter ? »
04:40
How high will the water end up rising?
85
268560
1810
04:43
Will it eventually rise
to flood everything,
to flood everything,
86
271440
3200
Est-ce qu'elle va tout inonder
et être comparable
à l'intelligence humaine partout ?
à l'intelligence humaine partout ?
04:47
matching human intelligence at all tasks.
87
275840
2496
04:50
This is the definition
of artificial general intelligence --
of artificial general intelligence --
88
278360
3736
Voici la définition de l'Intelligence
Artificielle Générale,
Artificielle Générale,
04:54
AGI,
89
282120
1296
I.A.G.
le Saint Graal de la recherche
en I.A. depuis son lancement.
en I.A. depuis son lancement.
04:55
which has been the holy grail
of AI research since its inception.
of AI research since its inception.
90
283440
3080
Selon cette définition, ceux qui disent
04:59
By this definition, people who say,
91
287000
1776
05:00
"Ah, there will always be jobs
that humans can do better than machines,"
that humans can do better than machines,"
92
288800
3416
« Il y aura toujours des métiers
où l’homme fait mieux que la machine »,
où l’homme fait mieux que la machine »,
05:04
are simply saying
that we'll never get AGI.
that we'll never get AGI.
93
292240
2920
disent simplement
que nous n’aurons jamais d'I.A.G.
que nous n’aurons jamais d'I.A.G.
Bien sûr, on pourrait choisir
de garder certains emplois humains,
de garder certains emplois humains,
05:07
Sure, we might still choose
to have some human jobs
to have some human jobs
94
295680
3576
ou offrir, par nos emplois,
un revenu et une vocation,
un revenu et une vocation,
05:11
or to give humans income
and purpose with our jobs,
and purpose with our jobs,
95
299280
3096
05:14
but AGI will in any case
transform life as we know it
transform life as we know it
96
302400
3736
mais l’I.A.G. va de toute façon modifier
la vie telle que nous la connaissons
la vie telle que nous la connaissons
05:18
with humans no longer being
the most intelligent.
the most intelligent.
97
306160
2736
quand les humains ne seront plus
les plus intelligents.
les plus intelligents.
Maintenant, si le niveau de la mer
atteint effectivement l’I.A.G.,
atteint effectivement l’I.A.G.,
05:20
Now, if the water level does reach AGI,
98
308920
3696
les progrès futurs de l’I.A.
seront alors gérés principalement
seront alors gérés principalement
05:24
then further AI progress will be driven
mainly not by humans but by AI,
mainly not by humans but by AI,
99
312640
5296
non plus par les hommes,
mais par l’I.A.,
mais par l’I.A.,
05:29
which means that there's a possibility
100
317960
1856
ce qui pourrait impliquer de nouveaux
progrès bien plus rapides
progrès bien plus rapides
05:31
that further AI progress
could be way faster
could be way faster
101
319840
2336
que les années de recherches
nécessaires à l'homme pour aboutir.
nécessaires à l'homme pour aboutir.
05:34
than the typical human research
and development timescale of years,
and development timescale of years,
102
322200
3376
05:37
raising the controversial possibility
of an intelligence explosion
of an intelligence explosion
103
325600
4016
Cela évoque la possibilité contestée
d’un essor gigantesque de l’I.A.,
d’un essor gigantesque de l’I.A.,
05:41
where recursively self-improving AI
104
329640
2296
où l'I.A. qui s'auto-améliore
récursivement
récursivement
devance très vite l’intelligence humaine,
05:43
rapidly leaves human
intelligence far behind,
intelligence far behind,
105
331960
3416
en créant ce qu’on appelle
une « superintelligence ».
une « superintelligence ».
05:47
creating what's known
as superintelligence.
as superintelligence.
106
335400
2440
05:51
Alright, reality check:
107
339800
2280
Bon, revenons à la réalité.
05:55
Are we going to get AGI any time soon?
108
343120
2440
Allons-nous obtenir l'I.A.G.
dans un futur proche ?
dans un futur proche ?
05:58
Some famous AI researchers,
like Rodney Brooks,
like Rodney Brooks,
109
346360
2696
Des chercheurs célèbres en I.A.,
comme Rodney Brooks,
comme Rodney Brooks,
pensent que cela ne va pas arriver
avant des centaines d’années.
avant des centaines d’années.
06:01
think it won't happen
for hundreds of years.
for hundreds of years.
110
349080
2496
06:03
But others, like Google DeepMind
founder Demis Hassabis,
founder Demis Hassabis,
111
351600
3896
Mais d’autres, comme Demis Hassabis,
le fondateur de Google DeepMind,
le fondateur de Google DeepMind,
06:07
are more optimistic
112
355520
1256
sont plus optimistes et travaillent à ce
qu'elle se produise beaucoup plus tôt.
qu'elle se produise beaucoup plus tôt.
06:08
and are working to try to make
it happen much sooner.
it happen much sooner.
113
356800
2576
Des enquêtes récentes ont montré
que la plupart des chercheurs en I.A.
que la plupart des chercheurs en I.A.
06:11
And recent surveys have shown
that most AI researchers
that most AI researchers
114
359400
3296
partagent l’optimisme de Demis, en fait,
06:14
actually share Demis's optimism,
115
362720
2856
06:17
expecting that we will
get AGI within decades,
get AGI within decades,
116
365600
3080
et s’attendent à voir l'I.A.G. émerger
d’ici quelques dizaines d'années,
d’ici quelques dizaines d'années,
donc du vivant de beaucoup d'entre nous ;
06:21
so within the lifetime of many of us,
117
369640
2256
ce qui nous amène à nous
demander « Et ensuite ? »
demander « Et ensuite ? »
06:23
which begs the question -- and then what?
118
371920
1960
06:27
What do we want the role of humans to be
119
375040
2216
Quel rôle voulons-nous donner aux hommes
quand les machines pourront tout faire
mieux que nous et moins cher ?
mieux que nous et moins cher ?
06:29
if machines can do everything better
and cheaper than us?
and cheaper than us?
120
377280
2680
06:35
The way I see it, we face a choice.
121
383000
2000
D'après moi, nous faisons face à un choix.
Première option, nous pouvons
dire avec complaisance,
dire avec complaisance,
06:38
One option is to be complacent.
122
386000
1576
06:39
We can say, "Oh, let's just build machines
that can do everything we can do
that can do everything we can do
123
387600
3776
« Oh ! Fabriquons des machines
qui font tout à notre place
qui font tout à notre place
06:43
and not worry about the consequences.
124
391400
1816
sans nous soucier des conséquences.
Quoi ! Si nous créons une technologie
qui rend l’humain obsolète,
qui rend l’humain obsolète,
06:45
Come on, if we build technology
that makes all humans obsolete,
that makes all humans obsolete,
125
393240
3256
que pourrait-il arriver ? »,
06:48
what could possibly go wrong?"
126
396520
2096
06:50
(Laughter)
127
398640
1656
(Rires)
mais, je pense que ce serait inadapté.
06:52
But I think that would be
embarrassingly lame.
embarrassingly lame.
128
400320
2760
06:56
I think we should be more ambitious --
in the spirit of TED.
in the spirit of TED.
129
404080
3496
Je pense que nous devrions être
plus ambitieux, dans l’esprit de TED.
plus ambitieux, dans l’esprit de TED.
Imaginons un avenir de haute technologie,
qui nous inspire vraiment,
qui nous inspire vraiment,
06:59
Let's envision a truly inspiring
high-tech future
high-tech future
130
407600
3496
et essayons d'y parvenir.
07:03
and try to steer towards it.
131
411120
1400
Ceci nous conduit à la deuxième partie
de notre métaphore de fusée : le guidage.
de notre métaphore de fusée : le guidage.
07:05
This brings us to the second part
of our rocket metaphor: the steering.
of our rocket metaphor: the steering.
132
413720
3536
07:09
We're making AI more powerful,
133
417280
1896
Nous rendons l’I.A. plus performante
07:11
but how can we steer towards a future
134
419200
3816
mais comment la guider vers un avenir
07:15
where AI helps humanity flourish
rather than flounder?
rather than flounder?
135
423040
3080
où elle contribue à la prospérité,
non à la ruine des hommes ?
non à la ruine des hommes ?
Pour aider dans ce sens, j’ai cofondé
l'Institut « Future of Life »,
l'Institut « Future of Life »,
07:18
To help with this,
136
426760
1256
07:20
I cofounded the Future of Life Institute.
137
428040
1976
une petite ONG encourageant
l'utilisation bénéfique de la technologie.
l'utilisation bénéfique de la technologie.
07:22
It's a small nonprofit promoting
beneficial technology use,
beneficial technology use,
138
430040
2776
07:24
and our goal is simply
for the future of life to exist
for the future of life to exist
139
432840
2736
Notre but, c'est l'existence
d'un avenir pour la vie
d'un avenir pour la vie
07:27
and to be as inspiring as possible.
140
435600
2056
qui soit aussi enrichissant que possible.
07:29
You know, I love technology.
141
437680
3176
Vous savez, j'aime la technologie.
C'est elle qui fait qu'aujourd'hui
est mieux que l’Âge de pierre.
est mieux que l’Âge de pierre.
07:32
Technology is why today
is better than the Stone Age.
is better than the Stone Age.
142
440880
2920
07:36
And I'm optimistic that we can create
a really inspiring high-tech future ...
a really inspiring high-tech future ...
143
444600
4080
Et je suis optimiste, nous pouvons créer
un futur de haute-technologie
vraiment exaltant,
vraiment exaltant,
07:41
if -- and this is a big if --
144
449680
1456
si, et seulement si, nous gagnons
la course à la sagesse,
la course à la sagesse,
07:43
if we win the wisdom race --
145
451160
2456
la course entre le pouvoir
grandissant de notre technologie
grandissant de notre technologie
07:45
the race between the growing
power of our technology
power of our technology
146
453640
2856
et la sagesse grandissante
avec laquelle nous la gérons.
avec laquelle nous la gérons.
07:48
and the growing wisdom
with which we manage it.
with which we manage it.
147
456520
2200
Mais pour cela, il va falloir
un changement de stratégie,
un changement de stratégie,
07:51
But this is going to require
a change of strategy
a change of strategy
148
459240
2296
07:53
because our old strategy
has been learning from mistakes.
has been learning from mistakes.
149
461560
3040
car notre stratégie a toujours été
de tirer des leçons de nos erreurs.
de tirer des leçons de nos erreurs.
07:57
We invented fire,
150
465280
1536
On a inventé le feu ;
on s'est planté pas mal de fois ;
on s'est planté pas mal de fois ;
07:58
screwed up a bunch of times --
151
466840
1536
alors on a inventé l’extincteur.
08:00
invented the fire extinguisher.
152
468400
1816
(Rires)
08:02
(Laughter)
153
470240
1336
08:03
We invented the car,
screwed up a bunch of times --
screwed up a bunch of times --
154
471600
2416
On a inventé la voiture ;
on s'est planté ;
on s'est planté ;
on a créé le feu rouge,
la ceinture de sécurité et l’airbag.
la ceinture de sécurité et l’airbag.
08:06
invented the traffic light,
the seat belt and the airbag,
the seat belt and the airbag,
155
474040
2667
Mais avec des technologies plus puissantes
comme l’arme nucléaire ou l'I.A.G.,
comme l’arme nucléaire ou l'I.A.G.,
08:08
but with more powerful technology
like nuclear weapons and AGI,
like nuclear weapons and AGI,
156
476731
3845
tirer parti des erreurs est une stratégie
plutôt mauvaise, qu'en pensez-vous ?
plutôt mauvaise, qu'en pensez-vous ?
08:12
learning from mistakes
is a lousy strategy,
is a lousy strategy,
157
480600
3376
08:16
don't you think?
158
484000
1216
(Rires)
08:17
(Laughter)
159
485240
1016
Mieux vaut être proactif
plutôt que réactif,
plutôt que réactif,
08:18
It's much better to be proactive
rather than reactive;
rather than reactive;
160
486280
2576
et planifier et réussir la première fois
08:20
plan ahead and get things
right the first time
right the first time
161
488880
2296
08:23
because that might be
the only time we'll get.
the only time we'll get.
162
491200
2496
car il se peut qu'il n'y ait
pas de seconde fois.
pas de seconde fois.
C’est drôle, parfois les gens me disent
08:25
But it is funny because
sometimes people tell me,
sometimes people tell me,
163
493720
2336
« Max, chuut !
Ne parle pas comme ça !
Ne parle pas comme ça !
08:28
"Max, shhh, don't talk like that.
164
496080
2736
08:30
That's Luddite scaremongering."
165
498840
1720
C'est de l'alarmisme luddiste. »
Mais ce n’est pas de l’alarmisme.
08:34
But it's not scaremongering.
166
502040
1536
08:35
It's what we at MIT
call safety engineering.
call safety engineering.
167
503600
2880
Au M.I.T., on appelle ça
« l’ingénierie de la sécurité ».
« l’ingénierie de la sécurité ».
08:39
Think about it:
168
507200
1216
Réfléchissez.
Avant de lancer sa mission Apollo 11,
08:40
before NASA launched
the Apollo 11 mission,
the Apollo 11 mission,
169
508440
2216
la NASA a réfléchi à tout
ce qui pourrait mal tourner
ce qui pourrait mal tourner
08:42
they systematically thought through
everything that could go wrong
everything that could go wrong
170
510680
3136
si on plaçait des gens
sur des réservoirs d'essence explosifs
sur des réservoirs d'essence explosifs
08:45
when you put people
on top of explosive fuel tanks
on top of explosive fuel tanks
171
513840
2376
08:48
and launch them somewhere
where no one could help them.
where no one could help them.
172
516240
2616
et on les envoyait là
où personne ne peut les aider.
où personne ne peut les aider.
08:50
And there was a lot that could go wrong.
173
518880
1936
Beaucoup de choses pouvaient mal tourner !
Était-ce de l’alarmisme ?
Était-ce de l’alarmisme ?
08:52
Was that scaremongering?
174
520840
1480
Non, et c'est précisément
cette ingénierie de la sécurité
cette ingénierie de la sécurité
08:55
No.
175
523159
1217
08:56
That's was precisely
the safety engineering
the safety engineering
176
524400
2016
qui a assuré le succès de la mission.
08:58
that ensured the success of the mission,
177
526440
1936
Et c’est précisément, à mon avis,
la stratégie à adopter avec l'I.A.G. :
la stratégie à adopter avec l'I.A.G. :
09:00
and that is precisely the strategy
I think we should take with AGI.
I think we should take with AGI.
178
528400
4176
réfléchir à tout ce qui peut mal tourner
pour s’assurer que tout se passe bien.
pour s’assurer que tout se passe bien.
09:04
Think through what can go wrong
to make sure it goes right.
to make sure it goes right.
179
532600
4056
Donc dans cet esprit, nous avons
organisé des conférences,
organisé des conférences,
09:08
So in this spirit,
we've organized conferences,
we've organized conferences,
180
536680
2536
09:11
bringing together leading
AI researchers and other thinkers
AI researchers and other thinkers
181
539240
2816
réuni d'éminents chercheurs et penseurs
pour réfléchir à des façons de développer
pour réfléchir à des façons de développer
09:14
to discuss how to grow this wisdom
we need to keep AI beneficial.
we need to keep AI beneficial.
182
542080
3736
cette sagesse nécessaire
au maintien d'une I.A. bénéfique.
au maintien d'une I.A. bénéfique.
09:17
Our last conference
was in Asilomar, California last year
was in Asilomar, California last year
183
545840
3296
Notre dernière conférence, c'était
l’an dernier, à Asilomar-Californie.
l’an dernier, à Asilomar-Californie.
09:21
and produced this list of 23 principles
184
549160
3056
Elle a débouché
sur une liste de 23 principes
sur une liste de 23 principes
qui ont reçu plus de mille signatures
de chercheurs et industriels de l’I.A.
de chercheurs et industriels de l’I.A.
09:24
which have since been signed
by over 1,000 AI researchers
by over 1,000 AI researchers
185
552240
2896
09:27
and key industry leaders,
186
555160
1296
Laissez-moi vous expliquer
trois de ces principes.
trois de ces principes.
09:28
and I want to tell you
about three of these principles.
about three of these principles.
187
556480
3176
Le premier,
09:31
One is that we should avoid an arms race
and lethal autonomous weapons.
and lethal autonomous weapons.
188
559680
4960
c'est éviter la course à l’armement
et aux armes létales autonomes.
et aux armes létales autonomes.
L'idée c'est que toute science
peut être utilisée
peut être utilisée
09:37
The idea here is that any science
can be used for new ways of helping people
can be used for new ways of helping people
189
565480
3616
soit pour aider les gens,
soit pour leur nuire.
soit pour leur nuire.
09:41
or new ways of harming people.
190
569120
1536
Par exemple, la biologie et la chimie
ont plus de chances de servir
ont plus de chances de servir
09:42
For example, biology and chemistry
are much more likely to be used
are much more likely to be used
191
570680
3936
à inventer de nouveaux
médicaments et traitements
médicaments et traitements
09:46
for new medicines or new cures
than for new ways of killing people,
than for new ways of killing people,
192
574640
4856
que de nouvelles façons de tuer,
car les biologistes et les chimistes
exercent une pression efficace
exercent une pression efficace
09:51
because biologists
and chemists pushed hard --
and chemists pushed hard --
193
579520
2176
09:53
and successfully --
194
581720
1256
pour l'interdiction des armes
biologiques et chimiques.
biologiques et chimiques.
09:55
for bans on biological
and chemical weapons.
and chemical weapons.
195
583000
2176
09:57
And in the same spirit,
196
585200
1256
De même, la plupart
des chercheurs en I.A.
des chercheurs en I.A.
09:58
most AI researchers want to stigmatize
and ban lethal autonomous weapons.
and ban lethal autonomous weapons.
197
586480
4440
veulent stigmatiser et proscrire
les armes létales autonomes.
les armes létales autonomes.
Le second principe issu d'Asilomar,
10:03
Another Asilomar AI principle
198
591600
1816
10:05
is that we should mitigate
AI-fueled income inequality.
AI-fueled income inequality.
199
593440
3696
c'est atténuer les inégalités
de revenus que l’I.A. entraîne.
de revenus que l’I.A. entraîne.
10:09
I think that if we can grow
the economic pie dramatically with AI
the economic pie dramatically with AI
200
597160
4456
Je pense que si nous pouvons générer
des revenus fabuleux avec l’I.A.,
des revenus fabuleux avec l’I.A.,
10:13
and we still can't figure out
how to divide this pie
how to divide this pie
201
601640
2456
sans trouver de solution
pour les répartir
pour les répartir
afin d'améliorer la vie de chacun,
10:16
so that everyone is better off,
202
604120
1576
alors vraiment,
c'est une honte pour nous !
c'est une honte pour nous !
10:17
then shame on us.
203
605720
1256
10:19
(Applause)
204
607000
4096
(Applaudissements)
10:23
Alright, now raise your hand
if your computer has ever crashed.
if your computer has ever crashed.
205
611120
3600
Bon, maintenant, levez la main ceux
dont l’ordinateur est déjà tombé en panne.
dont l’ordinateur est déjà tombé en panne.
(Rires)
10:27
(Laughter)
206
615480
1256
Houah ! C'est beaucoup de mains levées !
10:28
Wow, that's a lot of hands.
207
616760
1656
10:30
Well, then you'll appreciate
this principle
this principle
208
618440
2176
Alors, le troisième principe
va vous plaire.
va vous plaire.
10:32
that we should invest much more
in AI safety research,
in AI safety research,
209
620640
3136
C'est d'investir davantage
dans la recherche sur la sécurité,
dans la recherche sur la sécurité,
10:35
because as we put AI in charge
of even more decisions and infrastructure,
of even more decisions and infrastructure,
210
623800
3656
car si nous mettons l’I.A. à la tête
de plus de décisions et d'infrastructures,
de plus de décisions et d'infrastructures,
10:39
we need to figure out how to transform
today's buggy and hackable computers
today's buggy and hackable computers
211
627480
3616
nous devons transformer les ordinateurs
d'aujourd'hui, buggés et piratables,
d'aujourd'hui, buggés et piratables,
10:43
into robust AI systems
that we can really trust,
that we can really trust,
212
631120
2416
en systèmes d’I.A. robustes
et vraiment fiables.
et vraiment fiables.
10:45
because otherwise,
213
633560
1216
Sinon, toute cette superbe technologie
pourrait faillir et nous nuire,
pourrait faillir et nous nuire,
10:46
all this awesome new technology
can malfunction and harm us,
can malfunction and harm us,
214
634800
2816
ou être piratée et retournée contre nous.
10:49
or get hacked and be turned against us.
215
637640
1976
Ce travail de sécurisation de l’I.A.
10:51
And this AI safety work
has to include work on AI value alignment,
has to include work on AI value alignment,
216
639640
5696
passe nécessairement
par l’alignement de ses valeurs,
par l’alignement de ses valeurs,
car la véritable menace de l'I.A.G.
n’est pas la malveillance,
n’est pas la malveillance,
10:57
because the real threat
from AGI isn't malice,
from AGI isn't malice,
217
645360
2816
11:00
like in silly Hollywood movies,
218
648200
1656
décrite dans les films bébêtes
hollywoodien, mais la compétence.
hollywoodien, mais la compétence.
11:01
but competence --
219
649880
1736
C'est une I.A.G. qui réalise des objectifs
ne concordant pas avec les nôtres.
ne concordant pas avec les nôtres.
11:03
AGI accomplishing goals
that just aren't aligned with ours.
that just aren't aligned with ours.
220
651640
3416
11:07
For example, when we humans drove
the West African black rhino extinct,
the West African black rhino extinct,
221
655080
4736
Ainsi, quand nous avons provoqué
l’extinction du rhino noir ouest-africain,
l’extinction du rhino noir ouest-africain,
11:11
we didn't do it because we were a bunch
of evil rhinoceros haters, did we?
of evil rhinoceros haters, did we?
222
659840
3896
ce n'est pas parce que nous sommes
un groupe malfaisant anti-rhino, non ?
un groupe malfaisant anti-rhino, non ?
Mais parce nous sommes plus intelligents
et avons des buts différents des leurs.
et avons des buts différents des leurs.
11:15
We did it because
we were smarter than them
we were smarter than them
223
663760
2056
11:17
and our goals weren't aligned with theirs.
224
665840
2576
11:20
But AGI is by definition smarter than us,
225
668440
2656
Or l'I.A.G. est par définition
plus intelligente que nous.
plus intelligente que nous.
11:23
so to make sure that we don't put
ourselves in the position of those rhinos
ourselves in the position of those rhinos
226
671120
3576
Donc, si nous ne voulons pas connaître
le même sort que ces rhinos,
le même sort que ces rhinos,
en créant l'I.A.G.,
11:26
if we create AGI,
227
674720
1976
nous devons découvrir le moyen
d'obliger les machines à comprendre,
d'obliger les machines à comprendre,
11:28
we need to figure out how
to make machines understand our goals,
to make machines understand our goals,
228
676720
4176
adopter et préserver nos objectifs.
11:32
adopt our goals and retain our goals.
229
680920
3160
11:37
And whose goals should these be, anyway?
230
685320
2856
Et au fait, les objectifs de qui ?
11:40
Which goals should they be?
231
688200
1896
Et quels objectifs ?
11:42
This brings us to the third part
of our rocket metaphor: the destination.
of our rocket metaphor: the destination.
232
690120
3560
Cela nous conduit à la troisième
partie de notre métaphore :
partie de notre métaphore :
la destination.
11:47
We're making AI more powerful,
233
695160
1856
Nous rendons l’I.A. plus puissante,
en essayant de trouver
un moyen de la guider,
un moyen de la guider,
11:49
trying to figure out how to steer it,
234
697040
1816
11:50
but where do we want to go with it?
235
698880
1680
mais où voulons-nous qu'elle nous emmène ?
11:53
This is the elephant in the room
that almost nobody talks about --
that almost nobody talks about --
236
701760
3656
C’est l'épine dans le pied
dont presque personne ne parle,
dont presque personne ne parle,
11:57
not even here at TED --
237
705440
1856
pas même ici à TED,
parce que nous sommes obnubilés
par les défis à court terme de l’I.A.
par les défis à court terme de l’I.A.
11:59
because we're so fixated
on short-term AI challenges.
on short-term AI challenges.
238
707320
4080
Ecoutez, notre espèce
essaie de construire l’I.A.G.,
essaie de construire l’I.A.G.,
12:04
Look, our species is trying to build AGI,
239
712080
4656
motivée par la curiosité
et l'intérêt financier,
et l'intérêt financier,
12:08
motivated by curiosity and economics,
240
716760
3496
mais quelle sorte de société espérons-nous
avoir si nous y parvenons ?
avoir si nous y parvenons ?
12:12
but what sort of future society
are we hoping for if we succeed?
are we hoping for if we succeed?
241
720280
3680
Nous avons fait un sondage récemment,
et j'ai été surpris de voir
et j'ai été surpris de voir
12:16
We did an opinion poll on this recently,
242
724680
1936
12:18
and I was struck to see
243
726640
1216
que la plupart des gens veulent
la création d'une super intelligence,
la création d'une super intelligence,
12:19
that most people actually
want us to build superintelligence:
want us to build superintelligence:
244
727880
2896
12:22
AI that's vastly smarter
than us in all ways.
than us in all ways.
245
730800
3160
d'une I.A. largement supérieure
à nous sur tous les plans.
à nous sur tous les plans.
12:27
What there was the greatest agreement on
was that we should be ambitious
was that we should be ambitious
246
735120
3416
Et presque tous étaient d'accord
que nous devrions être ambitieux
que nous devrions être ambitieux
et essayer de répandre
la vie dans l'univers.
la vie dans l'univers.
12:30
and help life spread into the cosmos,
247
738560
2016
12:32
but there was much less agreement
about who or what should be in charge.
about who or what should be in charge.
248
740600
4496
Mais il y avait moins de consensus quant à
qui ou quoi devrait être en charge,
qui ou quoi devrait être en charge,
et j'ai été plutôt amusé de constater
12:37
And I was actually quite amused
249
745120
1736
12:38
to see that there's some some people
who want it to be just machines.
who want it to be just machines.
250
746880
3456
que quelques-uns voulaient
que ce soit seulement les machines.
que ce soit seulement les machines.
12:42
(Laughter)
251
750360
1696
(Rires)
12:44
And there was total disagreement
about what the role of humans should be,
about what the role of humans should be,
252
752080
3856
Il y avait aussi un désaccord total
quant au rôle des hommes,
quant au rôle des hommes,
même au niveau le plus élémentaire.
12:47
even at the most basic level,
253
755960
1976
12:49
so let's take a closer look
at possible futures
at possible futures
254
757960
2816
Donc voyons un peu les futurs possibles
que nous pourrions choisir
pour nous guider, d'accord ?
pour nous guider, d'accord ?
12:52
that we might choose
to steer toward, alright?
to steer toward, alright?
255
760800
2736
12:55
So don't get be wrong here.
256
763560
1336
Comprenez bien que je ne parle pas
de voyage dans l’espace,
de voyage dans l’espace,
12:56
I'm not talking about space travel,
257
764920
2056
12:59
merely about humanity's
metaphorical journey into the future.
metaphorical journey into the future.
258
767000
3200
mais simplement du voyage métaphorique
de l’humanité vers le futur.
de l’humanité vers le futur.
Donc l'option appréciée
de certains de mes collègues en I.A.,
de certains de mes collègues en I.A.,
13:02
So one option that some
of my AI colleagues like
of my AI colleagues like
259
770920
3496
c'est de créer une super intelligence
mais sous le contrôle des hommes,
mais sous le contrôle des hommes,
13:06
is to build superintelligence
and keep it under human control,
and keep it under human control,
260
774440
3616
13:10
like an enslaved god,
261
778080
1736
comme un dieu réduit en esclavage,
déconnectée de l’Internet,
déconnectée de l’Internet,
13:11
disconnected from the internet
262
779840
1576
et utilisée pour créer une technologie
et une richesse inimaginables
et une richesse inimaginables
13:13
and used to create unimaginable
technology and wealth
technology and wealth
263
781440
3256
au profit de quiconque la contrôle.
13:16
for whoever controls it.
264
784720
1240
13:18
But Lord Acton warned us
265
786800
1456
Mais Lord Acton nous a prévenus
que le pouvoir corrompt,
que le pouvoir corrompt,
13:20
that power corrupts,
and absolute power corrupts absolutely,
and absolute power corrupts absolutely,
266
788280
3616
et qu'un pouvoir absolu
corrompt absolument.
corrompt absolument.
Il est donc à craindre que les humains
ne soient pas assez intelligents,
ne soient pas assez intelligents,
13:23
so you might worry that maybe
we humans just aren't smart enough,
we humans just aren't smart enough,
267
791920
4056
ou plutôt doués de sagesse suffisante
pour gérer un tel pouvoir.
pour gérer un tel pouvoir.
13:28
or wise enough rather,
268
796000
1536
13:29
to handle this much power.
269
797560
1240
13:31
Also, aside from any
moral qualms you might have
moral qualms you might have
270
799640
2536
A côté des scrupules moraux
que nous pourrions avoir
que nous pourrions avoir
concernant l'asservissement
d'esprits supérieurs,
d'esprits supérieurs,
13:34
about enslaving superior minds,
271
802200
2296
il serait à craindre que cette
superintelligence soit plus maline,
superintelligence soit plus maline,
13:36
you might worry that maybe
the superintelligence could outsmart us,
the superintelligence could outsmart us,
272
804520
3976
se libère et prenne le pouvoir.
13:40
break out and take over.
273
808520
2240
J’ai aussi des collègues qui approuvent
une prise de pouvoir de l'I.A.
une prise de pouvoir de l'I.A.
13:43
But I also have colleagues
who are fine with AI taking over
who are fine with AI taking over
274
811560
3416
même si cela mènerait
à l’extinction des humains,
à l’extinction des humains,
13:47
and even causing human extinction,
275
815000
2296
13:49
as long as we feel the the AIs
are our worthy descendants,
are our worthy descendants,
276
817320
3576
tant que nous estimons que les I.A.
sont nos dignes descendants,
sont nos dignes descendants,
13:52
like our children.
277
820920
1736
à l'instar de nos enfants.
Mais comment allons-nous savoir
13:54
But how would we know that the AIs
have adopted our best values
have adopted our best values
278
822680
5616
que les I.A. ont adopté
nos meilleures valeurs,
nos meilleures valeurs,
qu'elles ne sont pas
des zombies sans conscience
des zombies sans conscience
14:00
and aren't just unconscious zombies
tricking us into anthropomorphizing them?
tricking us into anthropomorphizing them?
279
828320
4376
nous attirant dans le piège
de l'anthropomorphisme ?
de l'anthropomorphisme ?
14:04
Also, shouldn't those people
who don't want human extinction
who don't want human extinction
280
832720
2856
Et ceux qui ne veulent pas
l'extinction de l'homme,
l'extinction de l'homme,
14:07
have a say in the matter, too?
281
835600
1440
n’ont-ils pas aussi leur mot à dire ?
14:10
Now, if you didn't like either
of those two high-tech options,
of those two high-tech options,
282
838200
3376
Si vous n’avez aimé aucune de ces
deux options haute-technologie,
deux options haute-technologie,
rappelez-vous qu'opter pour
une technologie bas de gamme
une technologie bas de gamme
14:13
it's important to remember
that low-tech is suicide
that low-tech is suicide
283
841600
3176
est un suicide du point de vue cosmique,
14:16
from a cosmic perspective,
284
844800
1256
car si nous ne dépassons pas
la technologie d'aujourd'hui,
la technologie d'aujourd'hui,
14:18
because if we don't go far
beyond today's technology,
beyond today's technology,
285
846080
2496
14:20
the question isn't whether humanity
is going to go extinct,
is going to go extinct,
286
848600
2816
la question n'est plus
si l’humanité va être exterminée
si l’humanité va être exterminée
mais comment elle va l'être
par le prochain astéroïde meurtrier,
par le prochain astéroïde meurtrier,
14:23
merely whether
we're going to get taken out
we're going to get taken out
287
851440
2016
14:25
by the next killer asteroid, supervolcano
288
853480
2136
un super volcan,
14:27
or some other problem
that better technology could have solved.
that better technology could have solved.
289
855640
3096
ou tout autre problème qu’une technologie
meilleure aurait pu résoudre.
meilleure aurait pu résoudre.
14:30
So, how about having
our cake and eating it ...
our cake and eating it ...
290
858760
3576
Donc, pourquoi ne pas avoir
le beurre et l’argent du beurre,
le beurre et l’argent du beurre,
14:34
with AGI that's not enslaved
291
862360
1840
avec une I.A.G. non asservie
qui nous traite bien
qui nous traite bien
14:37
but treats us well because its values
are aligned with ours?
are aligned with ours?
292
865120
3176
car ses valeurs épousent les nôtres ?
C'est en substance ce qu’Eliezer Yudkowsky
a appelé « l’I.A. Amicale »,
a appelé « l’I.A. Amicale »,
14:40
This is the gist of what Eliezer Yudkowsky
has called "friendly AI,"
has called "friendly AI,"
293
868320
4176
14:44
and if we can do this,
it could be awesome.
it could be awesome.
294
872520
2680
et si nous pouvons fabriquer ça,
ça pourrait être formidable.
ça pourrait être formidable.
14:47
It could not only eliminate negative
experiences like disease, poverty,
experiences like disease, poverty,
295
875840
4816
Elle pourrait non seulement
éliminer les mauvaises expériences
éliminer les mauvaises expériences
comme la maladie, la pauvreté,
le crime et autres souffrances,
le crime et autres souffrances,
14:52
crime and other suffering,
296
880680
1456
14:54
but it could also give us
the freedom to choose
the freedom to choose
297
882160
2816
mais elle pourrait
nous donner la liberté de choisir
nous donner la liberté de choisir
parmi une variété nouvelle et fantastique
d’expériences positives,
d’expériences positives,
14:57
from a fantastic new diversity
of positive experiences --
of positive experiences --
298
885000
4056
15:01
basically making us
the masters of our own destiny.
the masters of our own destiny.
299
889080
3160
nous rendant, au fond,
maîtres de notre propre destin.
maîtres de notre propre destin.
15:06
So in summary,
300
894280
1376
Donc en résumé,
notre situation en matière
de technologie est compliquée,
de technologie est compliquée,
15:07
our situation with technology
is complicated,
is complicated,
301
895680
3096
mais la vue d’ensemble est assez simple.
15:10
but the big picture is rather simple.
302
898800
2416
La majorité des chercheurs
prévoit l'arrivée de l'I.A.G.
prévoit l'arrivée de l'I.A.G.
15:13
Most AI researchers
expect AGI within decades,
expect AGI within decades,
303
901240
3456
d'ici quelques décennies, et si nous
plongeons la-dedans sans préparation,
plongeons la-dedans sans préparation,
15:16
and if we just bumble
into this unprepared,
into this unprepared,
304
904720
3136
ça pourrait être la pire des erreurs
de toute l'Histoire de l’humanité.
de toute l'Histoire de l’humanité.
15:19
it will probably be
the biggest mistake in human history --
the biggest mistake in human history --
305
907880
3336
15:23
let's face it.
306
911240
1416
Regardons les choses en face.
15:24
It could enable brutal,
global dictatorship
global dictatorship
307
912680
2576
Elle rend possible une dictature
brutale à l'échelle mondiale,
brutale à l'échelle mondiale,
15:27
with unprecedented inequality,
surveillance and suffering,
surveillance and suffering,
308
915280
3536
des inégalités, une surveillance
et une souffrance sans précédents,
et une souffrance sans précédents,
voire même l’extinction
de l'espèce humaine.
de l'espèce humaine.
15:30
and maybe even human extinction.
309
918840
1976
15:32
But if we steer carefully,
310
920840
2320
Par contre, si nous
manoeuvrons prudemment,
manoeuvrons prudemment,
15:36
we could end up in a fantastic future
where everybody's better off:
where everybody's better off:
311
924040
3896
nous pourrions avoir un futur fantastique
où tout le monde est mieux loti -
où tout le monde est mieux loti -
les pauvres plus riches
et les riches plus riches -
et les riches plus riches -
15:39
the poor are richer, the rich are richer,
312
927960
2376
et où tout le monde est bonne santé
et libre de poursuivre ses rêves.
et libre de poursuivre ses rêves.
15:42
everybody is healthy
and free to live out their dreams.
and free to live out their dreams.
313
930360
3960
Mais, attendez !
15:47
Now, hang on.
314
935000
1536
15:48
Do you folks want the future
that's politically right or left?
that's politically right or left?
315
936560
4576
Voulez-vous l'avenir politiquement
de droite ou de gauche ?
de droite ou de gauche ?
Voulez-vous la société pieuse
avec des règles morales strictes,
avec des règles morales strictes,
15:53
Do you want the pious society
with strict moral rules,
with strict moral rules,
316
941160
2856
15:56
or do you an hedonistic free-for-all,
317
944040
1816
ou la société libertaire hédoniste
comme un festival continu de Burning Man ?
comme un festival continu de Burning Man ?
15:57
more like Burning Man 24/7?
318
945880
2216
Voulez-vous des belles plages,
des forêts et des lacs ?
des forêts et des lacs ?
16:00
Do you want beautiful beaches,
forests and lakes,
forests and lakes,
319
948120
2416
16:02
or would you prefer to rearrange
some of those atoms with the computers,
some of those atoms with the computers,
320
950560
3416
Ou préférez-vous réagencer
leurs atomes dans des ordinateurs
leurs atomes dans des ordinateurs
et générer des expériences virtuelles ?
16:06
enabling virtual experiences?
321
954000
1715
Avec l'I.A. Amicale, nous pourrions
créer toutes ces sociétés
créer toutes ces sociétés
16:07
With friendly AI, we could simply
build all of these societies
build all of these societies
322
955739
3157
et offrir aux gens la liberté
de choisir la leur,
de choisir la leur,
16:10
and give people the freedom
to choose which one they want to live in
to choose which one they want to live in
323
958920
3216
car nous ne serions plus
limités par notre intelligence
limités par notre intelligence
16:14
because we would no longer
be limited by our intelligence,
be limited by our intelligence,
324
962160
3096
mais par les seules lois de la physique,
16:17
merely by the laws of physics.
325
965280
1456
16:18
So the resources and space
for this would be astronomical --
for this would be astronomical --
326
966760
4616
et donc, la quantité de ressources
et d’espace serait astronomique.
et d’espace serait astronomique.
16:23
literally.
327
971400
1320
Littéralement !
16:25
So here's our choice.
328
973320
1200
Donc, nous avons le choix :
16:27
We can either be complacent
about our future,
about our future,
329
975880
2320
nous pouvons être complaisant
concernant notre futur
concernant notre futur
16:31
taking as an article of blind faith
330
979440
2656
en prenant aveuglément
pour article de foi
pour article de foi
16:34
that any new technology
is guaranteed to be beneficial,
is guaranteed to be beneficial,
331
982120
4016
que toute nouvelle technologie
est forcément bénéfique
est forcément bénéfique
16:38
and just repeat that to ourselves
as a mantra over and over and over again
as a mantra over and over and over again
332
986160
4136
et en nous répétant ça, encore
et encore, comme un mantra,
et encore, comme un mantra,
tandis que nous glissons,
comme un bateau à la dérive,
comme un bateau à la dérive,
16:42
as we drift like a rudderless ship
towards our own obsolescence.
towards our own obsolescence.
333
990320
3680
vers notre propre obsolescence ;
16:46
Or we can be ambitious --
334
994920
1880
ou bien nous choisissons
d'être ambitieux,
d'être ambitieux,
16:49
thinking hard about how
to steer our technology
to steer our technology
335
997840
2456
en réfléchissant à la façon
de guider notre technologie
de guider notre technologie
16:52
and where we want to go with it
336
1000320
1936
vers la destination désirée,
pour créer l'âge de l'émerveillement.
pour créer l'âge de l'émerveillement.
16:54
to create the age of amazement.
337
1002280
1760
Nous sommes tous ici pour célébrer
l’âge de l’émerveillement,
l’âge de l’émerveillement,
16:57
We're all here to celebrate
the age of amazement,
the age of amazement,
338
1005000
2856
et j’ai l'impression qu'au fond,
16:59
and I feel that its essence should lie
in becoming not overpowered
in becoming not overpowered
339
1007880
4440
il consisterait à ne pas permettre
à notre technologie de prendre le dessus
à notre technologie de prendre le dessus
17:05
but empowered by our technology.
340
1013240
2616
mais plutôt, à nous enrichir.
17:07
Thank you.
341
1015880
1376
Merci.
17:09
(Applause)
342
1017280
3080
(Applaudissements)
ABOUT THE SPEAKER
Max Tegmark - Scientist, authorMax Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder.
Why you should listen
Max Tegmark is an MIT professor who loves thinking about life's big questions. He's written two popular books, Our Mathematical Universe: My Quest for the Ultimate Nature of Reality and the recently published Life 3.0: Being Human in the Age of Artificial Intelligence, as well as more than 200 nerdy technical papers on topics from cosmology to AI.
He writes: "In my spare time, I'm president of the Future of Life Institute, which aims to ensure that we develop not only technology but also the wisdom required to use it beneficially."
Max Tegmark | Speaker | TED.com