TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Ne craignez pas une IA super-intelligente
Filmed:
Readability: 4.7
2,866,438 views
Les nouvelles technologies engendrent de nouvelles craintes, dit le scientifique et philosophe Grady Booch, mais nous n'avons pas à craindre une IA toute puissante et sans émotions. Il calme nos pires peurs (induites par la science-fiction) quant aux ordinateurs super-intelligents en expliquant comment nous leur apprendrons, et ne les programmerons pas, à partager nos valeurs. Plutôt que de s'inquiéter d'une menace existentielle peu probable, il nous incite à considérer comment l'intelligence artificielle améliorera la vie humaine.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Quand j'étais enfant,
j'étais l'exemple parfait de l'intello.
j'étais l'exemple parfait de l'intello.
00:17
I think some of you were, too.
1
5320
2176
Certains d'entre vous
devaient l'être aussi.
devaient l'être aussi.
00:19
(Laughter)
2
7520
1216
(Rires)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
Et vous, monsieur, qui avez ri
le plus fort, devez encore l'être.
le plus fort, devez encore l'être.
00:24
(Laughter)
4
12000
2256
(Rires)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
J'ai grandi dans une petite ville
des plaines poussiéreuses du Texas,
des plaines poussiéreuses du Texas,
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
fils d'un shérif
qui était fils de pasteur.
qui était fils de pasteur.
00:33
Getting into trouble was not an option.
7
21160
1920
Hors de question de m'attirer des ennuis.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
J'ai donc commencé à lire
des livres de calcul pour le plaisir.
des livres de calcul pour le plaisir.
00:39
(Laughter)
9
27320
1536
(Rires)
00:40
You did, too.
10
28880
1696
Vous aussi.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Cela m'a mené à créer un laser,
un ordinateur et des micro fusées
un ordinateur et des micro fusées
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
et à faire du carburant
pour les fusées dans ma chambre.
pour les fusées dans ma chambre.
00:49
Now, in scientific terms,
13
37960
3656
En termes scientifiques,
00:53
we call this a very bad idea.
14
41640
3256
cela s'appelle une très mauvaise idée.
00:56
(Laughter)
15
44920
1216
(Rires)
00:58
Around that same time,
16
46160
2176
A peu près au même moment,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
« 2001 : l'odyssée de l'espace »
de Stanley Kubrick est sorti
de Stanley Kubrick est sorti
01:03
and my life was forever changed.
18
51600
2200
et cela a changé ma vie.
01:06
I loved everything about that movie,
19
54280
2056
J'aimais tout dans ce film,
01:08
especially the HAL 9000.
20
56360
2536
en particulier HAL 9000.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL était un ordinateur sensible
01:13
designed to guide the Discovery spacecraft
22
61000
2456
conçu pour guider Discovery,
le vaisseau spatial,
le vaisseau spatial,
01:15
from the Earth to Jupiter.
23
63480
2536
de la Terre à Jupiter.
01:18
HAL was also a flawed character,
24
66040
2056
HAL était aussi un personnage imparfait
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
puisqu'à la fin, il choisissait
la valeur de la mission
plutôt que la vie humaine.
plutôt que la vie humaine.
01:24
Now, HAL was a fictional character,
26
72840
2096
HAL était un personnage de fiction
01:26
but nonetheless he speaks to our fears,
27
74960
2656
mais il s'adresse malgré tout à nos peurs,
01:29
our fears of being subjugated
28
77640
2096
nos peurs d'être assujettis
01:31
by some unfeeling, artificial intelligence
29
79760
3016
par une intelligence artificielle
sans émotions
sans émotions
01:34
who is indifferent to our humanity.
30
82800
1960
qui est indifférente à notre humanité.
01:37
I believe that such fears are unfounded.
31
85880
2576
Je crois que de telles peurs
sont infondées.
sont infondées.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
En fait, nous vivons un moment remarquable
01:43
in human history,
33
91200
1536
dans l'histoire de l'humanité
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
où, guidés par notre refus d'accepter
les limites de nos corps et esprit,
les limites de nos corps et esprit,
01:49
we are building machines
35
97760
1696
nous construisons des machines
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
d'une complexité et d'une grâce
exquises et magnifiques
exquises et magnifiques
01:55
that will extend the human experience
37
103120
2056
qui étendront l'expérience humaine
01:57
in ways beyond our imagining.
38
105200
1680
bien au-delà de notre imagination.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
Après une carrière qui m'a mené
de l'Air Force Academy
de l'Air Force Academy
02:02
to Space Command to now,
40
110320
1936
au Space Command aujourd'hui,
02:04
I became a systems engineer,
41
112280
1696
je suis devenu ingénieur de systèmes
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
et j'ai récemment participé
à un problème d'ingénierie
à un problème d'ingénierie
02:08
associated with NASA's mission to Mars.
43
116760
2576
associé à la mission sur Mars de la NASA.
02:11
Now, in space flights to the Moon,
44
119360
2496
Pour les vols dans l'espace
jusqu'à la Lune,
jusqu'à la Lune,
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
nous comptons sur le centre
de contrôle de mission de Houston
de contrôle de mission de Houston
02:17
to watch over all aspects of a flight.
46
125040
1976
pour surveiller tous les aspects du vol.
02:19
However, Mars is 200 times further away,
47
127040
3536
Cependant, Mars est à une distance
200 fois plus importante
200 fois plus importante
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
et le résultat est
qu'il faut en moyenne 13 minutes
qu'il faut en moyenne 13 minutes
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
pour qu'un signal voyage
de la Terre jusqu'à Mars.
de la Terre jusqu'à Mars.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
S'il y a un problème,
c'est beaucoup trop long.
c'est beaucoup trop long.
02:32
And so a reasonable engineering solution
51
140840
2496
Une solution d'ingénierie raisonnable
02:35
calls for us to put mission control
52
143360
2576
nous a poussés à placer
le centre de contrôle de mission
le centre de contrôle de mission
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
entre les murs de l'engin spatial Orion.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Une autre idée fascinante
dans le profil de la mission
dans le profil de la mission
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
place les robots humanoïdes
sur la surface de Mars
sur la surface de Mars
02:46
before the humans themselves arrive,
56
154840
1856
avant l'arrivée des humains,
02:48
first to build facilities
57
156720
1656
pour construire des infrastructures
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
puis servir de membres collaboratifs
à l'équipe scientifique.
à l'équipe scientifique.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
En observant cela
d'un point de vue d'ingénieur,
d'un point de vue d'ingénieur,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
il m'est clairement apparu
que je devais concevoir
que je devais concevoir
03:01
was a smart, collaborative,
61
169360
2176
une intelligence artificielle
intelligente, collaborative
intelligente, collaborative
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
et socialement intelligente.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
En d'autres mots, je devais créer
quelque chose ressemblant à HAL
quelque chose ressemblant à HAL
03:10
but without the homicidal tendencies.
64
178280
2416
mais sans tendances meurtrières.
03:12
(Laughter)
65
180720
1360
(Rires)
03:14
Let's pause for a moment.
66
182920
1816
Marquons un instant de pause.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Est-il réellement possible de créer
une telle intelligence artificielle ?
une telle intelligence artificielle ?
03:20
Actually, it is.
68
188680
1456
C'est possible.
03:22
In many ways,
69
190160
1256
De bien des façons,
03:23
this is a hard engineering problem
70
191440
1976
c'est un problème d'ingénierie complexe
03:25
with elements of AI,
71
193440
1456
avec un peu d'IA,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
non pas un problème inextricable d'AI
qui nécessite de l'ingénierie.
qui nécessite de l'ingénierie.
03:31
To paraphrase Alan Turing,
73
199640
2656
Pour paraphraser Alan Turing,
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
créer une machine sensible
ne m'intéresse pas.
ne m'intéresse pas.
03:36
I'm not building a HAL.
75
204720
1576
Je ne crée pas HAL.
03:38
All I'm after is a simple brain,
76
206320
2416
Tout ce que je veux
c'est un cerveau simple,
c'est un cerveau simple,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
quelque chose qui offre
l'illusion de l'intelligence.
l'illusion de l'intelligence.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
L'art et la science de l'informatique
ont beaucoup progressé
ont beaucoup progressé
03:48
since HAL was onscreen,
79
216160
1496
depuis que HAL était au cinéma.
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
J'imagine que si son inventeur,
Dr Chandra était présent aujourd'hui,
Dr Chandra était présent aujourd'hui,
03:52
he'd have a whole lot of questions for us.
81
220920
2336
il aurait beaucoup
de questions à nous poser.
de questions à nous poser.
03:55
Is it really possible for us
82
223280
2096
Est-il vraiment possible pour nous
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
de prendre un système de millions
et millions d'appareils,
et millions d'appareils,
04:01
to read in their data streams,
84
229440
1456
lire leurs flux de données,
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
prévoir leurs défaillances et agir avant ?
04:05
Yes.
86
233200
1216
Oui.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
Et créer des systèmes parlant
avec les humains dans leur langue ?
avec les humains dans leur langue ?
04:09
Yes.
88
237640
1216
Oui.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
Et créer des systèmes reconnaissant
les objets et les émotions,
les objets et les émotions,
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
étant eux-mêmes émotifs,
jouant à des jeux, lisant sur les lèvres ?
jouant à des jeux, lisant sur les lèvres ?
04:17
Yes.
91
245280
1216
Oui.
04:18
Can we build a system that sets goals,
92
246520
2136
Et créer des systèmes
établissant des objectifs,
établissant des objectifs,
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
mettant des plans en œuvre
et apprenant au passage ?
et apprenant au passage ?
04:24
Yes.
94
252320
1216
Oui.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
Et créer des systèmes
qui ont une théorie de l'esprit ?
qui ont une théorie de l'esprit ?
04:28
This we are learning to do.
96
256920
1496
Nous apprenons à le faire.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
Et créer des systèmes ayant
des principes éthiques et moraux ?
des principes éthiques et moraux ?
04:34
This we must learn how to do.
98
262480
2040
Nous devons apprendre à le faire.
04:37
So let's accept for a moment
99
265360
1376
Acceptons un instant
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
qu'il soit possible de créer
une telle intelligence artificielle
une telle intelligence artificielle
04:41
for this kind of mission and others.
101
269680
2136
pour ce genre de missions et d'autres.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
La question suivante
qu'il faut se poser est :
qu'il faut se poser est :
04:46
should we fear it?
103
274400
1456
devrions-nous la craindre ?
04:47
Now, every new technology
104
275880
1976
Toute nouvelle technologie
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
entraîne de l'inquiétude.
04:52
When we first saw cars,
106
280800
1696
Au début des voitures,
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
les gens se lamentaient que nous voyions
la destruction de la famille.
la destruction de la famille.
04:58
When we first saw telephones come in,
108
286560
2696
A l'arrivée des téléphones,
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
les gens craignaient
la fin de toute conversation civile.
la fin de toute conversation civile.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
À un moment donné, les mots écrits
sont devenus omniprésents,
sont devenus omniprésents,
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
les gens pensaient
que nous perdrions notre mémoire.
que nous perdrions notre mémoire.
05:10
These things are all true to a degree,
112
298680
2056
Toutes ces choses sont en partie vraies,
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
mais ces technologies
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
ont aussi apporté des choses
qui ont étendu l'expérience humaine
qui ont étendu l'expérience humaine
05:18
in some profound ways.
115
306600
1880
de façon profonde.
05:21
So let's take this a little further.
116
309840
2280
Allons un peu plus loin.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Je n'ai pas peur de la création
d'une telle IA
d'une telle IA
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
car elle finira par incarner
certaines de nos valeurs.
certaines de nos valeurs.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Considérez ceci :
créer un système cognitif
est fondamentalement différent
est fondamentalement différent
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
de créer un système traditionnel
plein de logiciels comme auparavant.
plein de logiciels comme auparavant.
05:40
We don't program them. We teach them.
121
328560
2456
Nous ne les programmons pas,
nous leur apprenons.
nous leur apprenons.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Afin d'apprendre à un système
à reconnaître des fleurs,
à reconnaître des fleurs,
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
je lui montre des milliers
de fleurs que j'aime.
de fleurs que j'aime.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Afin d'apprendre à un système
à jouer à un jeu --
à jouer à un jeu --
05:51
Well, I would. You would, too.
125
339040
1960
Je le ferais, vous aussi.
05:54
I like flowers. Come on.
126
342600
2040
J'aime les fleurs, allez.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Pour apprendre à un système
à jouer au jeu de Go,
à jouer au jeu de Go,
06:00
I'd have it play thousands of games of Go,
128
348320
2056
je devrais jouer des milliers
de parties de Go
de parties de Go
06:02
but in the process I also teach it
129
350400
1656
mais au passage, je lui apprends
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
à discerner un bon mouvement d'un mauvais.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Si je veux créer une intelligence
artificielle assistante juridique,
artificielle assistante juridique,
06:10
I will teach it some corpus of law
132
358240
1776
je lui apprendrais des corpus de loi
06:12
but at the same time I am fusing with it
133
360040
2856
mais en même temps, je lie cela
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
à la compassion et la justice
qui font partie de la loi.
qui font partie de la loi.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
En termes scientifiques,
cela s'appelle des vérités fondamentales
cela s'appelle des vérités fondamentales
06:21
and here's the important point:
136
369560
2016
et voici ce qui est important :
06:23
in producing these machines,
137
371600
1456
en produisant ces machines,
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
nous leur enseignons
une partie de nos valeurs.
une partie de nos valeurs.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Pour cela, j'ai autant confiance,
si ce n'est pas plus,
si ce n'est pas plus,
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
en une intelligence artificielle
qu'en un être humain bien entraîné.
qu'en un être humain bien entraîné.
06:36
But, you may ask,
141
384080
1216
Vous allez demander :
06:37
what about rogue agents,
142
385320
2616
qu'en est-il des hors-la-loi,
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
des quelques organisations
non gouvernementales bien financées ?
non gouvernementales bien financées ?
Je n'ai pas peur
d'une intelligence artificielle
d'une intelligence artificielle
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
dans les mains d'un seul individu.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Nous ne pouvons pas nous protéger
des actes de violence aveugles,
des actes de violence aveugles,
06:51
but the reality is such a system
146
399720
2136
mais un tel système
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
requiert un entraînement
substantiel et raffiné
substantiel et raffiné
06:57
far beyond the resources of an individual.
148
405000
2296
qui va bien au-delà
des ressources d'un individu.
des ressources d'un individu.
06:59
And furthermore,
149
407320
1216
En outre,
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
il s'agit de bien plus que d'injecter
un virus internet au monde
un virus internet au monde
où en appuyant sur une touche,
il se retrouve à des millions d'endroits
il se retrouve à des millions d'endroits
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
et des ordinateurs explosent
un peu partout.
un peu partout.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Ce genre de substances
sont bien plus grandes
sont bien plus grandes
07:12
and we'll certainly see them coming.
154
420280
1715
et nous les verrons sûrement venir.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Ai-je peur qu'une telle
intelligence artificielle
intelligence artificielle
07:17
might threaten all of humanity?
156
425600
1960
menace l'humanité ?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
Si vous regardez des films
tels que « Matrix », « Metropolis »,
tels que « Matrix », « Metropolis »,
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
« Terminator » ou des séries
telles que « Westworld »,
telles que « Westworld »,
07:27
they all speak of this kind of fear.
159
435880
2136
ils évoquent tous ce genre de peur.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Dans le livre « Superintelligence »
du philosophe Nick Bostrom,
du philosophe Nick Bostrom,
07:34
he picks up on this theme
161
442360
1536
il évoque ce thème
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
et note qu'une super-intelligence
pourrait être non seulement dangereuse,
pourrait être non seulement dangereuse,
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
mais représenter une menace existentielle
envers l'humanité tout entière.
envers l'humanité tout entière.
07:43
Dr. Bostrom's basic argument
164
451840
2216
L'argument fondamental
du docteur Bostrom
du docteur Bostrom
07:46
is that such systems will eventually
165
454080
2736
est que de tels systèmes finiront
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
par avoir une telle soif
insatiable d'informations
insatiable d'informations
07:52
that they will perhaps learn how to learn
167
460120
2896
qu'ils apprendront peut-être à apprendre
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
et finiront par découvrir
qu'ils ont des objectifs
qu'ils ont des objectifs
07:57
that are contrary to human needs.
169
465680
2296
qui sont contraires aux besoins humains.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
Le docteur Bostrom a des partisans.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Il est soutenu par des gens
tels qu'Elon Musk et Stephen Hawking.
tels qu'Elon Musk et Stephen Hawking.
08:06
With all due respect
172
474880
2400
Avec tout le respect dû
08:10
to these brilliant minds,
173
478160
2016
à ces brillants esprits,
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
je crois qu'ils ont fondamentalement tort.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
L'argument du Dr Bostrom
contient nombre d'éléments à décortiquer
contient nombre d'éléments à décortiquer
08:17
and I don't have time to unpack them all,
176
485680
2136
et je n'ai pas le temps pour tous,
08:19
but very briefly, consider this:
177
487840
2696
mais, brièvement, considérez ceci :
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
un super-savoir est très différent
d'une super-action.
d'une super-action.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
HAL était une menace pour l'équipage
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
uniquement s'il commandait
tous les aspects de Discovery.
tous les aspects de Discovery.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
C'en est de même
pour une super-intelligence.
pour une super-intelligence.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Il lui faudrait des réplications
dans le monde entier.
dans le monde entier.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
C'est le truc avec Skynet
dans le fim « Terminator »
dans le fim « Terminator »
08:40
in which we had a superintelligence
184
508560
1856
où nous avons une super-intelligence
08:42
that commanded human will,
185
510440
1376
commandant la volonté humaine,
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
contrôlant tous les appareils
à tous les coins du monde.
à tous les coins du monde.
08:47
Practically speaking,
187
515720
1456
D'un point de vue pratique,
08:49
it ain't gonna happen.
188
517200
2096
cela n'arrivera pas.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Nous ne créons pas d'AI
qui contrôle la météo,
qui contrôle la météo,
08:54
that direct the tides,
190
522400
1336
qui dirige les vagues,
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
qui nous commande,
nous humains capricieux et chaotiques.
nous humains capricieux et chaotiques.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
En outre, si une telle
intelligence artificielle existait,
intelligence artificielle existait,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
elle devrait rivaliser
avec les économies humaines
avec les économies humaines
09:06
and thereby compete for resources with us.
194
534040
2520
et se battre contre nous
pour des ressources.
pour des ressources.
09:09
And in the end --
195
537200
1216
Au final --
09:10
don't tell Siri this --
196
538440
1240
ne le dites pas à Siri --
09:12
we can always unplug them.
197
540440
1376
on peut toujours les débrancher.
09:13
(Laughter)
198
541840
2120
(Rires)
09:17
We are on an incredible journey
199
545360
2456
Nous participons à un voyage incroyable
09:19
of coevolution with our machines.
200
547840
2496
de coévolution avec nos machines.
09:22
The humans we are today
201
550360
2496
Les humains que nous sommes aujourd'hui
09:24
are not the humans we will be then.
202
552880
2536
ne sont pas les humains de demain.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
S'inquiéter maintenant
de l'essor d'une super-intelligence
de l'essor d'une super-intelligence
09:30
is in many ways a dangerous distraction
204
558600
3056
est, de bien des façons,
une distraction dangereuse
une distraction dangereuse
09:33
because the rise of computing itself
205
561680
2336
car l'essor de l'informatique lui-même
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
nous amène nombre de problèmes
humains et sociétaux
humains et sociétaux
09:39
to which we must now attend.
207
567080
1640
dont nous devons nous occuper.
09:41
How shall I best organize society
208
569360
2816
Comment organiser au mieux la société
09:44
when the need for human labor diminishes?
209
572200
2336
quand le besoin
de travail humain diminue ?
de travail humain diminue ?
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Comment apporter compréhension
et éducation à travers le monde
et éducation à travers le monde
09:50
and still respect our differences?
211
578400
1776
tout en respectant les différences ?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
Comment étendre
et améliorer la vie humaine
et améliorer la vie humaine
grâce à la médecine cognitive ?
09:56
How might I use computing
213
584480
2856
Comment utiliser l'informatique
09:59
to help take us to the stars?
214
587360
1760
pour nous envoyer dans les étoiles ?
10:01
And that's the exciting thing.
215
589760
2040
C'est cela qui est excitant.
10:04
The opportunities to use computing
216
592400
2336
Les opportunités d'utiliser l'informatique
pour faire progresser l'expérience humaine
pour faire progresser l'expérience humaine
10:06
to advance the human experience
217
594760
1536
10:08
are within our reach,
218
596320
1416
sont à notre portée,
10:09
here and now,
219
597760
1856
ici et maintenant,
10:11
and we are just beginning.
220
599640
1680
et nous ne faisons que commencer.
10:14
Thank you very much.
221
602280
1216
Merci beaucoup.
10:15
(Applause)
222
603520
4286
(Applaudissements)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com