TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: Pouvons-nous concevoir une IA sans en perdre le contrôle ?
Filmed:
Readability: 4.1
5,024,015 views
L'intelligence artificielle vous fait peur ? Vous avez raison, dit le neuroscientifique et philosophe Sam Harris -- et pas juste de manière théorique. Nous allons construire des machines surhumaines, explique-t-il, mais nous ne nous sommes pas encore attelés aux problèmes liés au fait de créer quelque chose qui pourrait nous traiter de la même façon que nous traitons les fourmis.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
Je vais vous parler
d'une erreur de jugement
d'une erreur de jugement
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
00:15
that many of us suffer from.
1
3240
1600
que beaucoup d'entre nous font.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
Il s'agit de l'incapacité à détecter
un certain type de danger.
un certain type de danger.
00:21
I'm going to describe a scenario
3
9360
1736
Je vais décrire un scénario
00:23
that I think is both terrifying
4
11120
3256
que je pense à la fois terrifiant
00:26
and likely to occur,
5
14400
1760
et pourtant susceptible d'arriver,
00:28
and that's not a good combination,
6
16840
1656
et ce genre de combinaison
00:30
as it turns out.
7
18520
1536
n'est pas une bonne chose.
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
Pourtant, au lieu d'avoir peur,
la plupart d'entre vous penseront
la plupart d'entre vous penseront
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
que c'est plutôt cool.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
Je vais décrire comment
les avancées que nous faisons
les avancées que nous faisons
00:40
in artificial intelligence
11
28200
1776
dans l'intelligence artificielle
00:42
could ultimately destroy us.
12
30000
1776
pourraient finir par nous détruire.
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
Il semble difficile de voir comment
cela pourrait ne pas nous détruire
cela pourrait ne pas nous détruire
00:47
or inspire us to destroy ourselves.
14
35280
1680
ou nous aider à nous détruire.
00:49
And yet if you're anything like me,
15
37400
1856
Pourtant, si vous me ressemblez un peu,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
vous allez trouver amusant
de réfléchir à ces choses-là.
de réfléchir à ces choses-là.
00:53
And that response is part of the problem.
17
41960
3376
Et cette façon de voir les choses
est une partie du problème.
est une partie du problème.
00:57
OK? That response should worry you.
18
45360
1720
Ce sentiment devrait vous inquiéter.
00:59
And if I were to convince you in this talk
19
47920
2656
Et si je devais vous convaincre,
avec cette présentation,
avec cette présentation,
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
que nous allons probablement
souffrir d'une famine généralisée,
souffrir d'une famine généralisée,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
soit à cause du climat
ou de toute autre catastrophe,
ou de toute autre catastrophe,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
et que vos petits-enfants,
ou leurs petits-enfants,
ou leurs petits-enfants,
01:12
are very likely to live like this,
23
60560
1800
ont de grandes chances de vivre ainsi,
01:15
you wouldn't think,
24
63200
1200
vous ne penseriez pas :
01:17
"Interesting.
25
65440
1336
« Intéressant.
01:18
I like this TED Talk."
26
66800
1200
Cool, ce TED. »
01:21
Famine isn't fun.
27
69200
1520
La famine, ce n'est pas amusant.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
La mort en science-fiction,
en revanche, est un concept amusant
en revanche, est un concept amusant
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
et ce qui m'inquiète le plus à propos
du développement de l'IA en ce moment
du développement de l'IA en ce moment
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
est le fait que nous semblons
incapables de nous faire une idée
incapables de nous faire une idée
01:35
to the dangers that lie ahead.
31
83320
1816
des dangers qui nous attendent.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Je n'ai pas de réponse,
alors que je suis ici, à vous en parler.
alors que je suis ici, à vous en parler.
01:42
It's as though we stand before two doors.
33
90120
2696
C'est comme si nous étions
face à deux portes.
face à deux portes.
01:44
Behind door number one,
34
92840
1256
Derrière la porte n°1,
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
nous arrêtons nos progrès
dans le développement de nos machines.
dans le développement de nos machines.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
Hardware et software stagnent,
pour une raison ou pour une autre.
pour une raison ou pour une autre.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Essayez d'imaginer
ce qui pourrait arrêter ce développement.
ce qui pourrait arrêter ce développement.
Étant donnée l'importance
de l'intelligence
de l'intelligence
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
et de l'automatisation
nous allons continuer à améliorer
notre technologie si nous le pouvons.
notre technologie si nous le pouvons.
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
02:05
What could stop us from doing this?
40
113200
1667
Qu'est-ce qui nous en empêcherait ?
02:07
A full-scale nuclear war?
41
115800
1800
Une guerre nucléaire mondiale ?
02:11
A global pandemic?
42
119000
1560
Une pandémie globale ?
02:14
An asteroid impact?
43
122320
1320
Un impact d'astéroïde ?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Justin Bieber président des États-Unis ?
02:20
(Laughter)
45
128240
2280
(Rires)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
Il faudrait que la civilisation
telle que nous la connaissons
telle que nous la connaissons
soit détruite.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Il faudrait vraiment imaginer
quelque chose de terrible
quelque chose de terrible
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
pour que nous arrêtions
de développer notre technologie
de développer notre technologie
02:37
permanently,
49
145040
1216
totalement,
02:38
generation after generation.
50
146280
2016
génération après génération.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Par définition,
ce serait la pire chose
ce serait la pire chose
02:42
that's ever happened in human history.
52
150480
2016
qui serait jamais arrivée à l'humanité.
02:44
So the only alternative,
53
152520
1296
Donc la seule alternative,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
et c'est ce qui se trouve
derrière la porte n°2,
derrière la porte n°2,
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
est que nous continuions
d'améliorer l'intelligence de nos machines
d'améliorer l'intelligence de nos machines
02:51
year after year after year.
56
159360
1600
année après année.
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
À un moment, nous allons construire
des machines plus intelligentes que nous,
des machines plus intelligentes que nous,
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
et ces machines
plus intelligentes que nous
plus intelligentes que nous
03:00
they will begin to improve themselves.
59
168720
1976
vont commencer
à s'améliorer elles-mêmes.
à s'améliorer elles-mêmes.
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
Il y a le risque, théorisé
par le mathématicien I.J. Good,
par le mathématicien I.J. Good,
03:05
an "intelligence explosion,"
61
173480
1776
d'une « explosion d'intelligence »,
03:07
that the process could get away from us.
62
175280
2000
un processus qui pourrait nous échapper.
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Ce phénomène
est souvent caricaturé, comme ici,
est souvent caricaturé, comme ici,
03:12
as a fear that armies of malicious robots
64
180960
3216
avec des armées de robots malveillants
03:16
will attack us.
65
184200
1256
qui nous attaqueraient.
03:17
But that isn't the most likely scenario.
66
185480
2696
Mais ce n'est pas
le scénario le plus probable.
le scénario le plus probable.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
Nos machines ne vont probablement pas
devenir spontanément malveillantes.
devenir spontanément malveillantes.
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
Le risque est
que nous construisions des machines
que nous construisions des machines
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
tellement plus compétentes que nous
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
que la moindre divergence
d'intérêt entre elles et nous
d'intérêt entre elles et nous
03:33
could destroy us.
71
201600
1200
pourrait nous détruire.
03:35
Just think about how we relate to ants.
72
203960
2080
Pensez aux fourmis.
03:38
We don't hate them.
73
206600
1656
Nous ne les haïssons pas.
03:40
We don't go out of our way to harm them.
74
208280
2056
Nous ne cherchons pas à les écraser.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
Nous faisons même parfois
l'effort de les éviter.
l'effort de les éviter.
03:44
We step over them on the sidewalk.
76
212760
2016
Nous les enjambons.
03:46
But whenever their presence
77
214800
2136
Mais dès que leur présence
03:48
seriously conflicts with one of our goals,
78
216960
2496
nous gêne vraiment,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
par exemple si nous voulons
construire un bâtiment,
construire un bâtiment,
03:53
we annihilate them without a qualm.
80
221981
1960
nous les exterminons sans scrupule.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
Le risque est que nous construisions
un jour des machines
un jour des machines
03:59
that, whether they're conscious or not,
82
227440
2736
qui, conscientes ou non,
04:02
could treat us with similar disregard.
83
230200
2000
nous traiteraient
avec la même indifférence.
avec la même indifférence.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Cela peut vous sembler capillotracté.
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
Je parie que certains d'entre vous
doutent qu'une super IA soit possible,
doutent qu'une super IA soit possible,
04:15
much less inevitable.
86
243720
1656
et encore moins inévitable.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Mais dans ce cas vous devez réfuter
une des hypothèses suivantes.
une des hypothèses suivantes.
04:21
And there are only three of them.
88
249044
1572
Et il n'y en a que trois.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
L'intelligence est le traitement
de l'information dans un système physique.
de l'information dans un système physique.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
En fait, c'est un peu plus
qu'une simple hypothèse.
qu'une simple hypothèse.
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
Nous avons déjà construit
des machines vaguement intelligentes,
des machines vaguement intelligentes,
04:35
and many of these machines perform
92
263440
2016
et nombre d'entre elles font déjà preuve
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
d'une intelligence surhumaine.
04:40
And we know that mere matter
94
268840
2576
Et nous savons que la matière
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
peut produire « l'intelligence générale »,
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
la capacité de réfléchir
de manière croisée,
de manière croisée,
04:49
because our brains have managed it. Right?
97
277760
3136
parce que nos cerveaux
y sont parvenus, n'est-ce pas ?
y sont parvenus, n'est-ce pas ?
04:52
I mean, there's just atoms in here,
98
280920
3936
Après tout, il n'y a que
des atomes là-dedans,
des atomes là-dedans,
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
et tant que nous continuerons
à construire des systèmes d'atomes
à construire des systèmes d'atomes
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
qui feront montre de plus
en plus d'intelligence,
en plus d'intelligence,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
nous parviendrons,
à moins d'être interrompus,
à moins d'être interrompus,
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
nous parviendrons à implanter
une « intelligence générale »
une « intelligence générale »
05:10
into our machines.
103
298080
1296
au cœur de nos machines.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
Il est crucial de comprendre
que la vitesse n'est pas le problème,
que la vitesse n'est pas le problème,
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
car n'importe quelle vitesse
est suffisante pour aller au bout.
est suffisante pour aller au bout.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Nous n'avons pas besoin
de la loi de Moore
de la loi de Moore
ni d'un progrès exponentiel.
05:22
We just need to keep going.
107
310080
1600
Il suffit de continuer à avancer.
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
La deuxième hypothèse
est que nous allons continuer.
est que nous allons continuer.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Nous continuerons d'améliorer
nos machines intelligentes.
nos machines intelligentes.
05:33
And given the value of intelligence --
110
321000
4376
Et, vue la valeur de l'intelligence --
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
l'intelligence est la source
de tout ce qui compte
de tout ce qui compte
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
ou alors elle doit protéger
tout ce qui compte.
tout ce qui compte.
05:43
It is our most valuable resource.
113
331760
2256
C'est notre plus importante ressource.
05:46
So we want to do this.
114
334040
1536
Donc nous allons continuer.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
Nous avons des problèmes
que nous devons absolument résoudre.
que nous devons absolument résoudre.
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Nous voulons vaincre les maladies
comme Alzheimer ou le cancer.
comme Alzheimer ou le cancer.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Nous voulons comprendre l'économie.
Nous voulons améliorer le climat.
05:58
So we will do this, if we can.
118
346920
2256
Donc nous allons continuer,
si nous le pouvons.
si nous le pouvons.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
Le train a déjà quitté la gare
et il n'y a pas de frein.
et il n'y a pas de frein.
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
Et enfin, l'humain ne se trouve pas
au sommet de l'intelligence,
au sommet de l'intelligence,
06:11
or anywhere near it, likely.
121
359360
1800
nous en sommes même très loin.
06:13
And this really is the crucial insight.
122
361640
1896
Et c'est vraiment le point crucial.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
C'est ce qui rend
notre situation si précaire
notre situation si précaire
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
et ce qui fait que notre compréhension
des risques n'est pas fiable.
des risques n'est pas fiable.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Prenons l'humain le plus intelligent
qui ait jamais vécu.
qui ait jamais vécu.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
Beaucoup de gens penseraient
à John von Neumann.
à John von Neumann.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
L'impression que von Neumann
laissait aux gens,
laissait aux gens,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
y compris les plus brillants
mathématiciens et physiciens de son temps,
mathématiciens et physiciens de son temps,
06:37
is fairly well-documented.
129
385520
1936
est plutôt bien documentée.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Si ne serait-ce que la moitié
de ce que l'on dit sur lui
de ce que l'on dit sur lui
est à moitié vraie,
il n'y a aucun doute qu'il soit
06:43
there's no question
131
391280
1216
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
l'un des plus brillants esprits
qui aient existé.
qui aient existé.
06:47
So consider the spectrum of intelligence.
133
395000
2520
Considérons le spectre de l'intelligence.
06:50
Here we have John von Neumann.
134
398320
1429
Voici John von Neumann.
06:53
And then we have you and me.
135
401560
1334
Et nous, nous sommes ici.
06:56
And then we have a chicken.
136
404120
1296
Et là nous avons un poulet.
06:57
(Laughter)
137
405440
1936
(Rires)
06:59
Sorry, a chicken.
138
407400
1216
Pardon, un poulet.
07:00
(Laughter)
139
408640
1256
(Rires)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
Pas besoin de rendre cette présentation
plus déprimante qu'elle ne l'est déjà.
plus déprimante qu'elle ne l'est déjà.
07:05
(Laughter)
141
413680
1600
(Rires)
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
Il semble néanmoins plus que probable
que le spectre de l'intelligence
que le spectre de l'intelligence
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
s'étende beaucoup plus loin
que nous ne pouvons le concevoir,
que nous ne pouvons le concevoir,
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
Si nous construisons
des machines plus intelligentes que nous,
des machines plus intelligentes que nous,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
elles vont très probablement
explorer ce spectre,
explorer ce spectre,
07:21
in ways that we can't imagine,
146
429440
1856
plus que nous ne pouvons l'imaginer,
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
et elles nous surpasseront,
plus que nous ne pouvons l'imaginer.
plus que nous ne pouvons l'imaginer.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
Il est important de noter que c'est vrai
par la seule vertu de la vitesse.
par la seule vertu de la vitesse.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
Imaginez que nous construisions
une IA super intelligente
une IA super intelligente
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
qui ne soit pas plus intelligente
qu'une équipe moyenne de chercheurs
qu'une équipe moyenne de chercheurs
07:39
at Stanford or MIT.
151
447920
2296
de Stanford ou du MIT.
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
L'électronique va environ
un million de fois plus vite
un million de fois plus vite
07:45
than biochemical ones,
153
453240
1256
que la biochimie,
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
de sorte que cette machine
penserait un million de fois plus vite
penserait un million de fois plus vite
07:49
than the minds that built it.
155
457680
1816
que les humains qui l'auraient créée.
07:51
So you set it running for a week,
156
459520
1656
En une semaine,
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
cette machine réaliserait le même travail
qu'une équipe d'humains en 20 000 ans,
qu'une équipe d'humains en 20 000 ans,
07:58
week after week after week.
158
466400
1960
semaine après semaine.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Comment pourrions-nous comprendre,
et encore moins limiter,
et encore moins limiter,
08:04
a mind making this sort of progress?
160
472760
2280
un esprit qui irait à une telle vitesse ?
08:08
The other thing that's worrying, frankly,
161
476840
2136
L'autre chose inquiétante, franchement,
08:11
is that, imagine the best case scenario.
162
479000
4976
est la suivante :
imaginez le meilleur des cas.
imaginez le meilleur des cas.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Imaginez que nous concevions
une IA super intelligente
une IA super intelligente
08:20
that has no safety concerns.
164
488200
1376
qui ne soit pas dangereuse.
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Nous trouvons la parfaite solution
du premier coup.
du premier coup.
08:24
It's as though we've been handed an oracle
166
492880
2216
Comme si nous avions
un oracle à disposition
un oracle à disposition
08:27
that behaves exactly as intended.
167
495120
2016
se comportant
exactement comme prévu.
exactement comme prévu.
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Cette machine nous éviterait
toute forme de travail.
toute forme de travail.
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
Elle concevrait la machine
qui ferait la machine
qui ferait la machine
08:36
that can do any physical work,
170
504133
1763
qui pourrait faire n'importe quoi,
08:37
powered by sunlight,
171
505920
1456
alimentée par le soleil,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
plus ou moins pour le seul coût
des matières premières.
des matières premières.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
On parle là de la fin
de la pénibilité humaine.
de la pénibilité humaine.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
Nous parlons aussi
de la fin du travail intellectuel.
de la fin du travail intellectuel.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
Que feraient des singes comme nous
dans une pareille situation ?
dans une pareille situation ?
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Nous serions libres de jouer au frisbee
et de nous faire des massages.
et de nous faire des massages.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Avec un peu de LSD
et quelques fringues douteuses,
et quelques fringues douteuses,
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
le monde entier serait
comme le Burning Man.
comme le Burning Man.
09:02
(Laughter)
179
530920
1640
(Rires)
09:06
Now, that might sound pretty good,
180
534320
2000
Bon, tout ça peut sembler plutôt sympa,
09:09
but ask yourself what would happen
181
537280
2376
mais demandez-vous ce qui arriverait
09:11
under our current economic
and political order?
and political order?
182
539680
2736
avec notre système politique
et économique actuel ?
et économique actuel ?
09:14
It seems likely that we would witness
183
542440
2416
Nous serions les témoins
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
d'une inégalité des richesses
et d'un taux de chômage
et d'un taux de chômage
09:21
that we have never seen before.
185
549040
1496
encore jamais vus.
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
Sans la volonté de mettre
ces nouvelles richesses
ces nouvelles richesses
09:25
to the service of all humanity,
187
553200
1480
au service de toute l'humanité,
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
quelques milliardaires feraient
les couvertures des revues commerciales
les couvertures des revues commerciales
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
alors que le reste du monde
mourrait de faim.
mourrait de faim.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
Et que feraient les Russes ou les Chinois
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
s'ils apprenaient
qu'une société de la Silicon Valley
qu'une société de la Silicon Valley
09:39
was about to deploy a superintelligent AI?
192
567280
2736
était sur le point de créer
une IA super intelligente ?
une IA super intelligente ?
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Cette machine serait capable
de faire la guerre,
de faire la guerre,
09:44
whether terrestrial or cyber,
194
572920
2216
qu'elle soit physique ou numérique,
09:47
with unprecedented power.
195
575160
1680
avec une puissance jamais vue.
09:50
This is a winner-take-all scenario.
196
578120
1856
Le vainqueur emporterait toute la mise.
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Avoir six mois d'avance
dans une telle compétition
dans une telle compétition
09:55
is to be 500,000 years ahead,
198
583160
2776
revient à avoir 500 000 ans d'avance,
09:57
at a minimum.
199
585960
1496
au minimum.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Il est donc possible
que la moindre rumeur de ce type de percée
que la moindre rumeur de ce type de percée
10:04
could cause our species to go berserk.
201
592240
2376
pourrait tous nous rendre
totalement dingues.
totalement dingues.
10:06
Now, one of the most frightening things,
202
594640
2896
L'une des choses les plus effrayantes,
10:09
in my view, at this moment,
203
597560
2776
de mon point de vue,
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
sont les choses
que les chercheurs en IA disent
que les chercheurs en IA disent
10:16
when they want to be reassuring.
205
604680
1560
quand ils veulent nous rassurer.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
On nous dit généralement
que nous avons encore le temps.
que nous avons encore le temps.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
C'est pour plus tard,
vous pensez bien.
vous pensez bien.
10:24
This is probably 50 or 100 years away.
208
612560
2440
C'est probablement
pour dans 50 ou 100 ans.
pour dans 50 ou 100 ans.
10:27
One researcher has said,
209
615720
1256
Un chercheur a dit :
10:29
"Worrying about AI safety
210
617000
1576
« S'inquiéter de l'IA,
c'est comme s'inquiéter
c'est comme s'inquiéter
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
de la surpopulation sur Mars. »
10:34
This is the Silicon Valley version
212
622116
1620
La Silicon Valley sait parfois
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
se montrer condescendante.
10:38
(Laughter)
214
626160
1336
(Rires)
10:39
No one seems to notice
215
627520
1896
Personne ne semble se rendre compte
10:41
that referencing the time horizon
216
629440
2616
que dire qu'on a le temps
10:44
is a total non sequitur.
217
632080
2576
est totalement fallacieux
dans ce contexte.
dans ce contexte.
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
Si l'intelligence n'est
que le traitement de l'information
que le traitement de l'information
10:49
and we continue to improve our machines,
219
637960
2656
et si l'on continue
d'améliorer nos machines,
d'améliorer nos machines,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
alors nous produirons
une forme de super intelligence.
une forme de super intelligence.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
Et nous n'avons pas la moindre idée
du temps qu'il nous faudra
du temps qu'il nous faudra
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
pour trouver comment
le faire sans risques.
le faire sans risques.
11:04
Let me say that again.
223
652200
1296
Je vais me répéter.
11:05
We have no idea how long it will take us
224
653520
3816
Nous n'avons pas la moindre idée
du temps qu'il nous faudra
du temps qu'il nous faudra
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
pour trouver comment
le faire sans risques.
le faire sans risques.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Au cas où vous n'auriez pas remarqué,
50 ans, ce n'est pas grand chose.
50 ans, ce n'est pas grand chose.
11:16
This is 50 years in months.
227
664400
2456
Voici 50 ans, en mois.
11:18
This is how long we've had the iPhone.
228
666880
1840
Voici l'existence de l'iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
Voici la durée couverte
par « Les Simpsons ».
par « Les Simpsons ».
11:24
Fifty years is not that much time
230
672680
2376
Cinquante ans,
cela ne laisse guère de temps
cela ne laisse guère de temps
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
pour se préparer à l'un
des plus grands défis de tous les temps.
des plus grands défis de tous les temps.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Une fois encore, nous semblons
incapables de nous préparer
incapables de nous préparer
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
à ce qui, selon toute probabilité,
va arriver.
va arriver.
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
L'informaticien Stuart Russel
propose une belle analogie à ce sujet.
propose une belle analogie à ce sujet.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
Il dit : « Imaginez que nous recevions
un message des aliens
un message des aliens
11:47
which read:
236
695320
1696
qui dirait :
11:49
"People of Earth,
237
697040
1536
' Habitants de la Terre,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
nous arriverons chez vous dans 50 ans.
11:53
Get ready."
239
701800
1576
Soyez prêts. '
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
Et on ne ferait que regarder
le compte à rebours ?
le compte à rebours ?
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Non, nous nous sentirions
un peu plus concernés que ça. »
un peu plus concernés que ça. »
12:04
Another reason we're told not to worry
242
712680
1856
Une autre raison de ne pas s'inquiéter
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
serait que ces machines
partageraient notre sens des valeurs
partageraient notre sens des valeurs
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
parce qu'elles seraient
des extensions de nous-mêmes.
des extensions de nous-mêmes.
12:12
They'll be grafted onto our brains,
245
720240
1816
Elles seraient greffées sur nos cerveaux,
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
nous serions leur système limbique.
12:17
Now take a moment to consider
247
725120
1416
Réfléchissez un peu
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
que le moyen le plus sûr,
12:21
recommended,
249
729760
1336
recommandé,
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
serait de brancher cette technologie
directement sur nos cerveaux.
directement sur nos cerveaux.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
Cela peut sembler
être la meilleure option,
être la meilleure option,
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
mais généralement, on essaie
d'être sûr de son coup
d'être sûr de son coup
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
avant de s'enfoncer
quelque chose dans le cerveau.
quelque chose dans le cerveau.
12:36
(Laughter)
254
744760
2016
(Rires)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
Le vrai problème est
que simplement concevoir
que simplement concevoir
une IA super intelligente
12:44
seems likely to be easier
256
752160
1736
semble plus facile
que de concevoir
une IA super intelligente
une IA super intelligente
12:45
than building superintelligent AI
257
753920
1856
12:47
and having the completed neuroscience
258
755800
1776
tout en maîtrisant les neurosciences
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
pour connecter cette IA à nos cerveaux.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
Si l'on tient compte du fait
que les entreprises et gouvernements
que les entreprises et gouvernements
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
se sentent probablement en concurrence,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
et, puisque remporter cette course
revient à conquérir le monde,
revient à conquérir le monde,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
pourvu que vous
ne le détruisiez pas juste après,
ne le détruisiez pas juste après,
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
il semble probable que l'on commence
13:08
will get done first.
265
776080
1200
par le plus facile.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Malheureusement,
je n'ai pas la solution de ce problème,
je n'ai pas la solution de ce problème,
à part recommander que
nous soyons plus nombreux à y réfléchir.
nous soyons plus nombreux à y réfléchir.
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
Il nous faudrait une sorte
de Projet Manhattan
de Projet Manhattan
13:18
on the topic of artificial intelligence.
269
786480
2016
à propos de l'intelligence artificielle.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
Pas pour la concevoir,
car nous y parviendrons,
car nous y parviendrons,
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
mais pour réfléchir à comment
éviter une course aux armements
éviter une course aux armements
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
et pour la concevoir d'une façon
en accord avec nos intérêts.
en accord avec nos intérêts.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Quand vous parlez
d'une IA super intelligente
d'une IA super intelligente
13:32
that can make changes to itself,
274
800320
2256
qui pourrait se modifier elle-même,
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
il semblerait que nous n'ayons qu'une
seule chance de faire les choses bien
seule chance de faire les choses bien
13:39
and even then we will need to absorb
276
807240
2056
et encore, il nous faudra gérer
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
les conséquences
politiques et économiques.
politiques et économiques.
13:45
But the moment we admit
278
813760
2056
Mais à partir du moment où nous admettons
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
que le traitement de l'information
est la source de l'intelligence,
est la source de l'intelligence,
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
qu'un système de calcul
est la base de l'intelligence,
est la base de l'intelligence,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
et que nous admettons que nous allons
continuer d'améliorer ce type de système
continuer d'améliorer ce type de système
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
et que nous admettons que l'horizon
de l'intelligence dépasse totalement
ce que nous savons aujourd'hui,
14:07
what we currently know,
283
835760
1200
14:10
then we have to admit
284
838120
1216
nous devons admettre
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
que nous sommes engagés
dans la conception d'un pseudo-dieu.
dans la conception d'un pseudo-dieu.
14:15
Now would be a good time
286
843400
1576
Il nous faut donc vérifier
14:17
to make sure it's a god we can live with.
287
845000
1953
que c'est un dieu compatible
avec notre survie.
avec notre survie.
14:20
Thank you very much.
288
848120
1536
Merci beaucoup.
14:21
(Applause)
289
849680
5093
(Applaudissements)
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com