TEDSummit
Sam Harris: Can we build AI without losing control over it?
Sam Harris: Putem crea Inteligență Artificială fără să o scăpăm de sub control?
Filmed:
Readability: 4.1
5,024,015 views
Vă e teamă de Inteligența Artificială? Ar trebui, spune cercetătorul în neuroștiințe și filosoful Sam Harris -- nu doar teoretic. Vom construi mașinării supraumane, spune Harris, dar încă nu am realizat problemele asociate cu crearea unui obiect care ne-ar trata așa cum tratăm noi furnicile.
Sam Harris - Neuroscientist, philosopher
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Sam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live. Full bio
Double-click the English transcript below to play the video.
00:13
I'm going to talk
about a failure of intuition
about a failure of intuition
0
1000
2216
Voi vorbi despre o greșeală de intuiție
00:15
that many of us suffer from.
1
3240
1600
de care mulți dintre noi suferim.
00:17
It's really a failure
to detect a certain kind of danger.
to detect a certain kind of danger.
2
5480
3040
E greșeala de a detecta
un anumit tip de pericol.
un anumit tip de pericol.
00:21
I'm going to describe a scenario
3
9360
1736
Voi descrie un scenariu
00:23
that I think is both terrifying
4
11120
3256
care cred că e înfricoșător
00:26
and likely to occur,
5
14400
1760
și probabil să se întâmple,
00:28
and that's not a good combination,
6
16840
1656
iar asta nu e o combinație bună
00:30
as it turns out.
7
18520
1536
după cum se pare.
00:32
And yet rather than be scared,
most of you will feel
most of you will feel
8
20080
2456
Totuși, în loc să fiți speriați,
majoritatea dintre voi
majoritatea dintre voi
00:34
that what I'm talking about
is kind of cool.
is kind of cool.
9
22560
2080
vor considera că e interesant.
00:37
I'm going to describe
how the gains we make
how the gains we make
10
25200
2976
Voi descrie cum progresele
pe care le facem
pe care le facem
00:40
in artificial intelligence
11
28200
1776
în inteligența artificială (IA)
ne-ar putea distruge în final.
00:42
could ultimately destroy us.
12
30000
1776
00:43
And in fact, I think it's very difficult
to see how they won't destroy us
to see how they won't destroy us
13
31800
3456
De fapt, cred că e foarte greu
să vedem cum nu ne vor distruge
să vedem cum nu ne vor distruge
00:47
or inspire us to destroy ourselves.
14
35280
1680
sau să ne inspire să ne distrugem.
00:49
And yet if you're anything like me,
15
37400
1856
Dar dacă sunteți ca mine,
00:51
you'll find that it's fun
to think about these things.
to think about these things.
16
39280
2656
veți crede că e amuzant
să te gândești la astfel de lucruri.
să te gândești la astfel de lucruri.
00:53
And that response is part of the problem.
17
41960
3376
Acest răspuns e parte din problemă.
00:57
OK? That response should worry you.
18
45360
1720
Această reacție
ar trebui să vă îngrijoreze.
ar trebui să vă îngrijoreze.
00:59
And if I were to convince you in this talk
19
47920
2656
Dacă v-aș convinge cu discursul meu
01:02
that we were likely
to suffer a global famine,
to suffer a global famine,
20
50600
3416
că ar fi probabil
să suferim o foamete globală,
să suferim o foamete globală,
01:06
either because of climate change
or some other catastrophe,
or some other catastrophe,
21
54040
3056
fie din cauza schimbării climatice
ori a altei catastrofe,
ori a altei catastrofe,
01:09
and that your grandchildren,
or their grandchildren,
or their grandchildren,
22
57120
3416
și că nepoții voștri sau nepoții lor
01:12
are very likely to live like this,
23
60560
1800
foarte probabil vor trăi așa,
01:15
you wouldn't think,
24
63200
1200
nu v-ați gândi:
01:17
"Interesting.
25
65440
1336
„Interesant.
01:18
I like this TED Talk."
26
66800
1200
Îmi place discursul ăsta.”
01:21
Famine isn't fun.
27
69200
1520
Foametea nu e amuzantă.
01:23
Death by science fiction,
on the other hand, is fun,
on the other hand, is fun,
28
71800
3376
Moartea cauzată de science-fiction,
pe de altă parte, e amuzantă,
pe de altă parte, e amuzantă,
01:27
and one of the things that worries me most
about the development of AI at this point
about the development of AI at this point
29
75200
3976
iar ce mă îngrijorează cel mai mult
despre dezvoltarea IA în prezent
despre dezvoltarea IA în prezent
01:31
is that we seem unable to marshal
an appropriate emotional response
an appropriate emotional response
30
79200
4096
e că părem incapabili să avem
o reacție emoțională adecvată
o reacție emoțională adecvată
01:35
to the dangers that lie ahead.
31
83320
1816
pentru pericolului din fața noastră.
01:37
I am unable to marshal this response,
and I'm giving this talk.
and I'm giving this talk.
32
85160
3200
Eu nu pot avea un răspuns adecvat,
și țin acest discurs.
și țin acest discurs.
01:42
It's as though we stand before two doors.
33
90120
2696
E ca și cum am avea două uși în față.
01:44
Behind door number one,
34
92840
1256
În spatele primei uși
01:46
we stop making progress
in building intelligent machines.
in building intelligent machines.
35
94120
3296
încetăm să progresăm
în construirea mașinăriilor inteligente.
în construirea mașinăriilor inteligente.
01:49
Our computer hardware and software
just stops getting better for some reason.
just stops getting better for some reason.
36
97440
4016
Software-ul și hardware-ul
nu se mai îmbunătățesc.
nu se mai îmbunătățesc.
01:53
Now take a moment
to consider why this might happen.
to consider why this might happen.
37
101480
3000
Acum gândiți-vă de ce s-ar întâmpla asta.
01:57
I mean, given how valuable
intelligence and automation are,
intelligence and automation are,
38
105080
3656
Știind cât de importante sunt
inteligența și automatizarea,
inteligența și automatizarea,
02:00
we will continue to improve our technology
if we are at all able to.
if we are at all able to.
39
108760
3520
vom continua să îmbunătățim
tehnologia cât putem.
tehnologia cât putem.
02:05
What could stop us from doing this?
40
113200
1667
Ce ne-ar opri să facem asta?
02:07
A full-scale nuclear war?
41
115800
1800
Un război nuclear la scară mare?
02:11
A global pandemic?
42
119000
1560
O pandemie globală?
02:14
An asteroid impact?
43
122320
1320
Un impact cu un asteroid?
02:17
Justin Bieber becoming
president of the United States?
president of the United States?
44
125640
2576
Justin Bieber devenind președintele SUA?
02:20
(Laughter)
45
128240
2280
(Râsete)
02:24
The point is, something would have to
destroy civilization as we know it.
destroy civilization as we know it.
46
132760
3920
Ideea e că ceva ar trebui să distrugă
civilizația pe care o știm noi.
civilizația pe care o știm noi.
02:29
You have to imagine
how bad it would have to be
how bad it would have to be
47
137360
4296
Imaginați-vă cât de rău ar trebui să fie
02:33
to prevent us from making
improvements in our technology
improvements in our technology
48
141680
3336
încât să ne împiedice să mai facem
îmbunătățiri în tehnologie
îmbunătățiri în tehnologie
02:37
permanently,
49
145040
1216
permanent,
02:38
generation after generation.
50
146280
2016
generație după generație.
02:40
Almost by definition,
this is the worst thing
this is the worst thing
51
148320
2136
Aproape prin definiție,
ăsta e cel mai rău lucru
ăsta e cel mai rău lucru
02:42
that's ever happened in human history.
52
150480
2016
care s-a întâmplat în istoria umană.
02:44
So the only alternative,
53
152520
1296
Deci singura alternativă,
02:45
and this is what lies
behind door number two,
behind door number two,
54
153840
2336
și asta e după a doua ușă,
e să îmbunătățim în continuare
mașinăriile inteligente
mașinăriile inteligente
02:48
is that we continue
to improve our intelligent machines
to improve our intelligent machines
55
156200
3136
an după an după an.
02:51
year after year after year.
56
159360
1600
02:53
At a certain point, we will build
machines that are smarter than we are,
machines that are smarter than we are,
57
161720
3640
La un moment dat, vom construi
mașinării mai inteligente decât noi
mașinării mai inteligente decât noi
02:58
and once we have machines
that are smarter than we are,
that are smarter than we are,
58
166080
2616
și odată ce avem mașinării
mai inteligente decât noi,
mai inteligente decât noi,
ele vor începe să se îmbunătățească.
03:00
they will begin to improve themselves.
59
168720
1976
03:02
And then we risk what
the mathematician IJ Good called
the mathematician IJ Good called
60
170720
2736
Apoi există riscul
numit de matematicianul IJ Good
numit de matematicianul IJ Good
03:05
an "intelligence explosion,"
61
173480
1776
o „explozie de inteligență”,
procesul ne-ar putea scăpa de sub control.
03:07
that the process could get away from us.
62
175280
2000
03:10
Now, this is often caricatured,
as I have here,
as I have here,
63
178120
2816
Scenariul ăsta e caricaturizat adesea
03:12
as a fear that armies of malicious robots
64
180960
3216
ca o frică față de o armată
de roboți răzbunători
de roboți răzbunători
03:16
will attack us.
65
184200
1256
care ne vor ataca.
03:17
But that isn't the most likely scenario.
66
185480
2696
Dar nu ăsta e scenariul cel mai probabil.
03:20
It's not that our machines
will become spontaneously malevolent.
will become spontaneously malevolent.
67
188200
4856
Mașinăriile noastre
nu vor deveni brusc răzbunătoare.
nu vor deveni brusc răzbunătoare.
Îngrijorarea e că vom construi mașinării
03:25
The concern is really
that we will build machines
that we will build machines
68
193080
2616
03:27
that are so much
more competent than we are
more competent than we are
69
195720
2056
care sunt mult mai competente decât noi
03:29
that the slightest divergence
between their goals and our own
between their goals and our own
70
197800
3776
astfel că cea mai mică divergență
între scopurile lor și ale noastre
între scopurile lor și ale noastre
03:33
could destroy us.
71
201600
1200
ne-ar putea distruge.
03:35
Just think about how we relate to ants.
72
203960
2080
Gândiți-vă cum ne purtăm cu furnicile.
03:38
We don't hate them.
73
206600
1656
Nu le urâm.
03:40
We don't go out of our way to harm them.
74
208280
2056
Nu ne străduim să le rănim.
03:42
In fact, sometimes
we take pains not to harm them.
we take pains not to harm them.
75
210360
2376
De fapt, uneori ne străduim
să nu le rănim.
să nu le rănim.
03:44
We step over them on the sidewalk.
76
212760
2016
Le ocolim pe trotuar.
03:46
But whenever their presence
77
214800
2136
Dar oricând prezența lor
03:48
seriously conflicts with one of our goals,
78
216960
2496
intră în conflict cu un scop de-al nostru,
03:51
let's say when constructing
a building like this one,
a building like this one,
79
219480
2477
să zicem să construim o clădire ca asta,
03:53
we annihilate them without a qualm.
80
221981
1960
le anihilăm fără remușcări.
03:56
The concern is that we will
one day build machines
one day build machines
81
224480
2936
Îngrijorarea e că într-o zi
vom construi mașinării
vom construi mașinării
03:59
that, whether they're conscious or not,
82
227440
2736
care, conștiente sau nu,
04:02
could treat us with similar disregard.
83
230200
2000
ne-ar putea trata
cu o nepăsare asemănătoare.
cu o nepăsare asemănătoare.
04:05
Now, I suspect this seems
far-fetched to many of you.
far-fetched to many of you.
84
233760
2760
Cred că asta vi se pare exagerat,
04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
that superintelligent AI is possible,
85
237360
6336
pariez că unii dintre voi se îndoiesc
că IA superinteligentă e posibilă,
că IA superinteligentă e posibilă,
04:15
much less inevitable.
86
243720
1656
cu atât mai puțin inevitabilă.
04:17
But then you must find something wrong
with one of the following assumptions.
with one of the following assumptions.
87
245400
3620
Dar atunci trebuie să găsiți ceva greșit
în una din următoarele presupuneri.
în una din următoarele presupuneri.
04:21
And there are only three of them.
88
249044
1572
Sunt doar trei.
04:23
Intelligence is a matter of information
processing in physical systems.
processing in physical systems.
89
251800
4719
Inteligența e o problemă de procesare
a informației în sisteme fizice.
a informației în sisteme fizice.
04:29
Actually, this is a little bit more
than an assumption.
than an assumption.
90
257320
2615
De fapt, asta e mai mult
decât o presupunere.
decât o presupunere.
04:31
We have already built
narrow intelligence into our machines,
narrow intelligence into our machines,
91
259959
3457
Deja am construit inteligență îngustă
în mașinăriile noastre
în mașinăriile noastre
04:35
and many of these machines perform
92
263440
2016
și multe dintre ele funcționează deja
04:37
at a level of superhuman
intelligence already.
intelligence already.
93
265480
2640
la un nivel de inteligență suprauman.
04:40
And we know that mere matter
94
268840
2576
Știm că simpla materie
04:43
can give rise to what is called
"general intelligence,"
"general intelligence,"
95
271440
2616
poate da naștere așa-numitei
„inteligență generală”,
„inteligență generală”,
04:46
an ability to think flexibly
across multiple domains,
across multiple domains,
96
274080
3656
o abilitate de a gândi flexibil
în diverse domenii
în diverse domenii
04:49
because our brains have managed it. Right?
97
277760
3136
deoarece creierele noastre
sunt capabile de asta. Corect?
sunt capabile de asta. Corect?
04:52
I mean, there's just atoms in here,
98
280920
3936
Sunt doar atomi aici
04:56
and as long as we continue
to build systems of atoms
to build systems of atoms
99
284880
4496
și atâta vreme cât continuăm
să construim sisteme de atomi
să construim sisteme de atomi
05:01
that display more and more
intelligent behavior,
intelligent behavior,
100
289400
2696
care prezintă comportament
din ce în ce mai inteligent,
din ce în ce mai inteligent,
05:04
we will eventually,
unless we are interrupted,
unless we are interrupted,
101
292120
2536
într-un final, dacă nu suntem întrerupți,
05:06
we will eventually
build general intelligence
build general intelligence
102
294680
3376
vom construi inteligență generală
05:10
into our machines.
103
298080
1296
în mașinăriile noastre.
05:11
It's crucial to realize
that the rate of progress doesn't matter,
that the rate of progress doesn't matter,
104
299400
3656
E crucial să realizăm
că rata progresului nu contează
că rata progresului nu contează
05:15
because any progress
is enough to get us into the end zone.
is enough to get us into the end zone.
105
303080
3176
deoarece orice progres e îndeajuns
să ne aducă la capăt de drum.
să ne aducă la capăt de drum.
05:18
We don't need Moore's law to continue.
We don't need exponential progress.
We don't need exponential progress.
106
306280
3776
Nu ne trebuie legea lui Moore
să continuăm, nici progres exponențial.
să continuăm, nici progres exponențial.
05:22
We just need to keep going.
107
310080
1600
Trebuie doar să continuăm.
05:25
The second assumption
is that we will keep going.
is that we will keep going.
108
313480
2920
A doua presupunere e că vom continua.
05:29
We will continue to improve
our intelligent machines.
our intelligent machines.
109
317000
2760
Vom continua să îmbunătățim
mașinăriile inteligente.
mașinăriile inteligente.
05:33
And given the value of intelligence --
110
321000
4376
Dată fiind valoarea inteligenței --
05:37
I mean, intelligence is either
the source of everything we value
the source of everything we value
111
325400
3536
inteligența fie e sursa
a tot ce valorăm,
a tot ce valorăm,
05:40
or we need it to safeguard
everything we value.
everything we value.
112
328960
2776
fie ne trebuie
ca să protejăm tot ce prețuim.
ca să protejăm tot ce prețuim.
05:43
It is our most valuable resource.
113
331760
2256
E resursa noastră cea mai prețioasă.
05:46
So we want to do this.
114
334040
1536
Deci asta vrem să facem.
Avem probleme pe care trebuie
să le rezolvăm urgent.
să le rezolvăm urgent.
05:47
We have problems
that we desperately need to solve.
that we desperately need to solve.
115
335600
3336
05:50
We want to cure diseases
like Alzheimer's and cancer.
like Alzheimer's and cancer.
116
338960
3200
Vrem să vindecăm boli
ca Alzheimer și cancer.
ca Alzheimer și cancer.
05:54
We want to understand economic systems.
We want to improve our climate science.
We want to improve our climate science.
117
342960
3936
Vrem să înțelegem sisteme economice.
Vrem să îmbunătățim știința climatică.
Vrem să îmbunătățim știința climatică.
05:58
So we will do this, if we can.
118
346920
2256
Vom face asta dacă putem.
Trenul a plecat deja din stație
și nu are frâne.
și nu are frâne.
06:01
The train is already out of the station,
and there's no brake to pull.
and there's no brake to pull.
119
349200
3286
06:05
Finally, we don't stand
on a peak of intelligence,
on a peak of intelligence,
120
353880
5456
În final, nu stăm în vârful inteligenței
06:11
or anywhere near it, likely.
121
359360
1800
sau oriunde lângă el.
06:13
And this really is the crucial insight.
122
361640
1896
Asta e o informație crucială.
06:15
This is what makes
our situation so precarious,
our situation so precarious,
123
363560
2416
Asta ne face situația atât de precară
06:18
and this is what makes our intuitions
about risk so unreliable.
about risk so unreliable.
124
366000
4040
și de aceea nu ne putem baza
pe intuițiile noastre despre risc.
pe intuițiile noastre despre risc.
06:23
Now, just consider the smartest person
who has ever lived.
who has ever lived.
125
371120
2720
Acum gândiți-vă la persoana
cea mai deșteaptă.
cea mai deșteaptă.
06:26
On almost everyone's shortlist here
is John von Neumann.
is John von Neumann.
126
374640
3416
În topul tuturor e John von Neumann.
06:30
I mean, the impression that von Neumann
made on the people around him,
made on the people around him,
127
378080
3336
Impresia pe care a lăsat-o
von Neumann celor din jurul său,
von Neumann celor din jurul său,
06:33
and this included the greatest
mathematicians and physicists of his time,
mathematicians and physicists of his time,
128
381440
4056
inclusiv celor mai mari
matematicieni și fizicieni,
matematicieni și fizicieni,
06:37
is fairly well-documented.
129
385520
1936
e bine documentată.
06:39
If only half the stories
about him are half true,
about him are half true,
130
387480
3776
Dacă doar jumătate din poveștile
despre el sunt pe jumătate adevărate,
despre el sunt pe jumătate adevărate,
06:43
there's no question
131
391280
1216
nu încape îndoială
06:44
he's one of the smartest people
who has ever lived.
who has ever lived.
132
392520
2456
că e unul din cei mai deștepți
oameni vreodată.
oameni vreodată.
06:47
So consider the spectrum of intelligence.
133
395000
2520
Gândiți-vă la spectrul inteligenței.
06:50
Here we have John von Neumann.
134
398320
1429
Îl avem pe John von Neumann,
06:53
And then we have you and me.
135
401560
1334
apoi suntem eu și voi,
06:56
And then we have a chicken.
136
404120
1296
apoi o găină.
06:57
(Laughter)
137
405440
1936
(Râsete)
06:59
Sorry, a chicken.
138
407400
1216
Scuze, o găină.
07:00
(Laughter)
139
408640
1256
(Râsete)
07:01
There's no reason for me to make this talk
more depressing than it needs to be.
more depressing than it needs to be.
140
409920
3736
Nu e nevoie să fac discursul
mai deprimant decât e deja.
mai deprimant decât e deja.
07:05
(Laughter)
141
413680
1600
(Râsete)
07:08
It seems overwhelmingly likely, however,
that the spectrum of intelligence
that the spectrum of intelligence
142
416339
3477
E copleșitor de probabil
că spectrul inteligenței
că spectrul inteligenței
07:11
extends much further
than we currently conceive,
than we currently conceive,
143
419840
3120
se extinde mult după cât putem noi percepe
07:15
and if we build machines
that are more intelligent than we are,
that are more intelligent than we are,
144
423880
3216
și dacă construim mașinării
mai inteligente decât noi,
mai inteligente decât noi,
07:19
they will very likely
explore this spectrum
explore this spectrum
145
427120
2296
probabil vor explora acest spectru
07:21
in ways that we can't imagine,
146
429440
1856
în moduri pe care nu le putem imagina
07:23
and exceed us in ways
that we can't imagine.
that we can't imagine.
147
431320
2520
și ne depășesc în moduri inimaginabile.
07:27
And it's important to recognize that
this is true by virtue of speed alone.
this is true by virtue of speed alone.
148
435000
4336
E important să recunoaștem
că e adevărat în virtutea vitezei.
că e adevărat în virtutea vitezei.
07:31
Right? So imagine if we just built
a superintelligent AI
a superintelligent AI
149
439360
5056
Imaginați-vă dacă am construi
o IA superinteligentă
o IA superinteligentă
07:36
that was no smarter
than your average team of researchers
than your average team of researchers
150
444440
3456
care n-ar fi mai inteligentă
decât echipa medie de cercetători
decât echipa medie de cercetători
07:39
at Stanford or MIT.
151
447920
2296
de la Stanford sau MIT.
Circuitele electronice funcționează
de un milion de ori mai rapid
de un milion de ori mai rapid
07:42
Well, electronic circuits
function about a million times faster
function about a million times faster
152
450240
2976
07:45
than biochemical ones,
153
453240
1256
decât cele biochimice,
07:46
so this machine should think
about a million times faster
about a million times faster
154
454520
3136
deci mașinăria ar trebui să gândească
de un milion de ori mai rapid
de un milion de ori mai rapid
07:49
than the minds that built it.
155
457680
1816
decât mințile care au construit-o.
07:51
So you set it running for a week,
156
459520
1656
Dacă o pornești pentru o săptămână
07:53
and it will perform 20,000 years
of human-level intellectual work,
of human-level intellectual work,
157
461200
4560
va face 20.000 de ani
de muncă intelectuală la nivel uman,
de muncă intelectuală la nivel uman,
07:58
week after week after week.
158
466400
1960
săptămână după săptămână.
08:01
How could we even understand,
much less constrain,
much less constrain,
159
469640
3096
Cum am putea să înțelegem,
darămite să constrângem
darămite să constrângem
08:04
a mind making this sort of progress?
160
472760
2280
o minte care face astfel de progrese?
08:08
The other thing that's worrying, frankly,
161
476840
2136
Celălalt lucru îngrijorător e următorul:
08:11
is that, imagine the best case scenario.
162
479000
4976
imaginați-vă cel mai bun scenariu posibil.
08:16
So imagine we hit upon a design
of superintelligent AI
of superintelligent AI
163
484000
4176
Imaginați-vă că dăm peste un design
de IA superinteligentă
de IA superinteligentă
care nu are probleme de siguranță.
08:20
that has no safety concerns.
164
488200
1376
08:21
We have the perfect design
the first time around.
the first time around.
165
489600
3256
Avem designul perfect din prima încercare.
08:24
It's as though we've been handed an oracle
166
492880
2216
E ca și cum ne-ar fi dat un oracol
care se comportă așa cum vrem.
08:27
that behaves exactly as intended.
167
495120
2016
08:29
Well, this machine would be
the perfect labor-saving device.
the perfect labor-saving device.
168
497160
3720
Această mașinărie ar fi aparatul perfect
de economisire a forței de muncă.
de economisire a forței de muncă.
08:33
It can design the machine
that can build the machine
that can build the machine
169
501680
2429
Poate crea mașinăria
care poate construi mașinăria
care poate construi mașinăria
08:36
that can do any physical work,
170
504133
1763
care poate face orice muncă fizică,
08:37
powered by sunlight,
171
505920
1456
folosind energie solară,
08:39
more or less for the cost
of raw materials.
of raw materials.
172
507400
2696
aproape la costul materiilor prime.
08:42
So we're talking about
the end of human drudgery.
the end of human drudgery.
173
510120
3256
Vorbim despre sfârșitul corvoadei umane.
08:45
We're also talking about the end
of most intellectual work.
of most intellectual work.
174
513400
2800
E și despre sfârșitul
majorității muncii intelectuale.
majorității muncii intelectuale.
08:49
So what would apes like ourselves
do in this circumstance?
do in this circumstance?
175
517200
3056
Ce ar face maimuțe ca noi
în aceste circumstanțe?
în aceste circumstanțe?
08:52
Well, we'd be free to play Frisbee
and give each other massages.
and give each other massages.
176
520280
4080
Am fi liberi să jucăm frisbee
și să ne facem masaje.
și să ne facem masaje.
08:57
Add some LSD and some
questionable wardrobe choices,
questionable wardrobe choices,
177
525840
2856
Adăugați niște LSD și niște haine ciudate
09:00
and the whole world
could be like Burning Man.
could be like Burning Man.
178
528720
2176
și toată lumea ar putea fi
ca la Burning Man.
ca la Burning Man.
09:02
(Laughter)
179
530920
1640
(Râsete)
09:06
Now, that might sound pretty good,
180
534320
2000
Asta sună destul de bine,
09:09
but ask yourself what would happen
181
537280
2376
dar întrebați-vă ce s-ar întâmpla
09:11
under our current economic
and political order?
and political order?
182
539680
2736
în ordinea economică și politică actuală?
09:14
It seems likely that we would witness
183
542440
2416
Pare probabil că vom fi martorii
09:16
a level of wealth inequality
and unemployment
and unemployment
184
544880
4136
unui nivel de inegalitate de avere
și șomaj nemaivăzut.
și șomaj nemaivăzut.
09:21
that we have never seen before.
185
549040
1496
09:22
Absent a willingness
to immediately put this new wealth
to immediately put this new wealth
186
550560
2616
Fără voința de a pune această nouă avere
09:25
to the service of all humanity,
187
553200
1480
în serviciul umanității,
09:27
a few trillionaires could grace
the covers of our business magazines
the covers of our business magazines
188
555640
3616
câțiva miliardari ar zâmbi
pe copertele revistelor de afaceri
pe copertele revistelor de afaceri
09:31
while the rest of the world
would be free to starve.
would be free to starve.
189
559280
2440
în timp ce restul lumii ar muri de foame.
09:34
And what would the Russians
or the Chinese do
or the Chinese do
190
562320
2296
Și ce ar face rușii sau chinezii
09:36
if they heard that some company
in Silicon Valley
in Silicon Valley
191
564640
2616
dacă ar auzi
că o companie din Silicon Valley
că o companie din Silicon Valley
09:39
was about to deploy a superintelligent AI?
192
567280
2736
ar fi pe cale să lanseze
o IA superinteligentă?
o IA superinteligentă?
09:42
This machine would be capable
of waging war,
of waging war,
193
570040
2856
Această mașinărie ar fi capabilă
să ducă un război,
să ducă un război,
09:44
whether terrestrial or cyber,
194
572920
2216
terestru sau cibernetic,
09:47
with unprecedented power.
195
575160
1680
cu o putere nemaivăzută.
E un scenariu
în care câștigătorul ia tot.
în care câștigătorul ia tot.
09:50
This is a winner-take-all scenario.
196
578120
1856
09:52
To be six months ahead
of the competition here
of the competition here
197
580000
3136
Să fii cu șase luni înaintea competiției
09:55
is to be 500,000 years ahead,
198
583160
2776
înseamnă să fii cu 500.000 de ani înainte,
09:57
at a minimum.
199
585960
1496
cel puțin.
09:59
So it seems that even mere rumors
of this kind of breakthrough
of this kind of breakthrough
200
587480
4736
Se pare că doar zvonurile
despre acest fel de descoperire
despre acest fel de descoperire
10:04
could cause our species to go berserk.
201
592240
2376
ar putea să înnebunească specia noastră.
10:06
Now, one of the most frightening things,
202
594640
2896
Unul din cele mai înfricoșătoare lucruri
10:09
in my view, at this moment,
203
597560
2776
în acest moment, după părerea mea,
10:12
are the kinds of things
that AI researchers say
that AI researchers say
204
600360
4296
sunt lucrurile
pe care le spun cercetătorii IA
pe care le spun cercetătorii IA
10:16
when they want to be reassuring.
205
604680
1560
când vor să ne liniștească.
10:19
And the most common reason
we're told not to worry is time.
we're told not to worry is time.
206
607000
3456
Cel mai comun motiv
să nu ne îngrijorăm e timpul.
să nu ne îngrijorăm e timpul.
10:22
This is all a long way off,
don't you know.
don't you know.
207
610480
2056
Se va întâmpla peste mult timp.
10:24
This is probably 50 or 100 years away.
208
612560
2440
Probabil peste 50 sau 100 de ani.
10:27
One researcher has said,
209
615720
1256
Un cercetător a spus:
10:29
"Worrying about AI safety
210
617000
1576
„Să vă îngrijorați din cauza IA
10:30
is like worrying
about overpopulation on Mars."
about overpopulation on Mars."
211
618600
2280
e ca și cum v-ați îngrijora
de suprapopulare pe Marte.”
de suprapopulare pe Marte.”
10:34
This is the Silicon Valley version
212
622116
1620
Asta e versiunea de Silicon Valley
10:35
of "don't worry your
pretty little head about it."
pretty little head about it."
213
623760
2376
de „nu-ți bate căpșorul cu asta”.
10:38
(Laughter)
214
626160
1336
(Râsete)
10:39
No one seems to notice
215
627520
1896
Nimeni nu pare să observe
10:41
that referencing the time horizon
216
629440
2616
că referința la acea perioadă de timp
10:44
is a total non sequitur.
217
632080
2576
nu e logică.
10:46
If intelligence is just a matter
of information processing,
of information processing,
218
634680
3256
Dacă inteligența e doar o problemă
de procesare a informației
de procesare a informației
10:49
and we continue to improve our machines,
219
637960
2656
și noi continuăm
să îmbunătățim mașinăriile,
să îmbunătățim mașinăriile,
10:52
we will produce
some form of superintelligence.
some form of superintelligence.
220
640640
2880
vom produce o formă de superinteligență.
10:56
And we have no idea
how long it will take us
how long it will take us
221
644320
3656
Nu avem idee cât ne va lua
11:00
to create the conditions
to do that safely.
to do that safely.
222
648000
2400
să creăm condițiile de siguranță
pentru asta.
pentru asta.
11:04
Let me say that again.
223
652200
1296
Lăsați-mă să repet.
11:05
We have no idea how long it will take us
224
653520
3816
Nu avem idee cât ne va lua
11:09
to create the conditions
to do that safely.
to do that safely.
225
657360
2240
să creăm condițiile de siguranță
pentru asta.
pentru asta.
11:12
And if you haven't noticed,
50 years is not what it used to be.
50 years is not what it used to be.
226
660920
3456
Dacă nu ați observat,
50 de ani nu mai sunt ce-au fost.
50 de ani nu mai sunt ce-au fost.
11:16
This is 50 years in months.
227
664400
2456
Iată 50 de ani în luni.
11:18
This is how long we've had the iPhone.
228
666880
1840
De atâta timp avem iPhone.
11:21
This is how long "The Simpsons"
has been on television.
has been on television.
229
669440
2600
De atâta timp The Simpsons
rulează la televizor.
rulează la televizor.
11:24
Fifty years is not that much time
230
672680
2376
50 de ani nu e un timp lung
11:27
to meet one of the greatest challenges
our species will ever face.
our species will ever face.
231
675080
3160
pentru a rezolva una din cele mai mari
provocări ale speciei noastre.
provocări ale speciei noastre.
11:31
Once again, we seem to be failing
to have an appropriate emotional response
to have an appropriate emotional response
232
679640
4016
Încă o dată, se pare că eșuăm
să avem o reacție emoțională adecvată
să avem o reacție emoțională adecvată
11:35
to what we have every reason
to believe is coming.
to believe is coming.
233
683680
2696
la ce va veni, foarte probabil.
11:38
The computer scientist Stuart Russell
has a nice analogy here.
has a nice analogy here.
234
686400
3976
Informaticianul Stuart Russell
are o analogie bună.
are o analogie bună.
11:42
He said, imagine that we received
a message from an alien civilization,
a message from an alien civilization,
235
690400
4896
A spus: să ne imaginăm că am primit
un mesaj de la o civilizație extraterestră
un mesaj de la o civilizație extraterestră
11:47
which read:
236
695320
1696
care zice:
11:49
"People of Earth,
237
697040
1536
„Oameni de pe Pământ,
11:50
we will arrive on your planet in 50 years.
238
698600
2360
vom veni pe planeta voastră în 50 de ani.
11:53
Get ready."
239
701800
1576
Pregătiți-vă.”
11:55
And now we're just counting down
the months until the mothership lands?
the months until the mothership lands?
240
703400
4256
Acum rămânem să numărăm lunile
până aterizează nava?
până aterizează nava?
11:59
We would feel a little
more urgency than we do.
more urgency than we do.
241
707680
3000
Am simți nevoia să facem ceva mai urgent.
Alt motiv pentru care
ni se spune să nu ne îngrijorăm
ni se spune să nu ne îngrijorăm
12:04
Another reason we're told not to worry
242
712680
1856
12:06
is that these machines
can't help but share our values
can't help but share our values
243
714560
3016
e că aceste mașinării pot să aibă
doar aceleași valori ca noi
doar aceleași valori ca noi
12:09
because they will be literally
extensions of ourselves.
extensions of ourselves.
244
717600
2616
deoarece vor fi practic
extensiile noastre.
extensiile noastre.
12:12
They'll be grafted onto our brains,
245
720240
1816
Vor fi în creierele noastre
12:14
and we'll essentially
become their limbic systems.
become their limbic systems.
246
722080
2360
și noi vom deveni practic
sistemele lor limbice.
sistemele lor limbice.
12:17
Now take a moment to consider
247
725120
1416
Să ne gândim un moment
12:18
that the safest
and only prudent path forward,
and only prudent path forward,
248
726560
3176
la calea de viitor
cea mai sigură și prudentă,
cea mai sigură și prudentă,
12:21
recommended,
249
729760
1336
recomandată,
12:23
is to implant this technology
directly into our brains.
directly into our brains.
250
731120
2800
e să implantăm tehnologia
direct în creierele noastre.
direct în creierele noastre.
12:26
Now, this may in fact be the safest
and only prudent path forward,
and only prudent path forward,
251
734600
3376
Asta ar fi calea de viitor
cea mai sigură și prudentă,
cea mai sigură și prudentă,
dar de obicei măsurile de siguranță
ale unei tehnologii
ale unei tehnologii
12:30
but usually one's safety concerns
about a technology
about a technology
252
738000
3056
12:33
have to be pretty much worked out
before you stick it inside your head.
before you stick it inside your head.
253
741080
3656
trebuie să fie clarificate
înainte de a ți-o pune în creier.
înainte de a ți-o pune în creier.
12:36
(Laughter)
254
744760
2016
(Râsete)
12:38
The deeper problem is that
building superintelligent AI on its own
building superintelligent AI on its own
255
746800
5336
Problema mai delicată e că
construcția unei IA superinteligente
construcția unei IA superinteligente
12:44
seems likely to be easier
256
752160
1736
pare mai ușoară
12:45
than building superintelligent AI
257
753920
1856
decât a unei IA superinteligente
12:47
and having the completed neuroscience
258
755800
1776
și neuroștiința completă
12:49
that allows us to seamlessly
integrate our minds with it.
integrate our minds with it.
259
757600
2680
care ne ajută să ne integrăm
mintea cu aceasta.
mintea cu aceasta.
12:52
And given that the companies
and governments doing this work
and governments doing this work
260
760800
3176
Dat fiind că guvernele și companiile
care lucrează la asta
care lucrează la asta
12:56
are likely to perceive themselves
as being in a race against all others,
as being in a race against all others,
261
764000
3656
probabil se cred într-o cursă
împotriva tuturor,
împotriva tuturor,
12:59
given that to win this race
is to win the world,
is to win the world,
262
767680
3256
și câștigarea cursei
înseamnă câștigarea lumii,
înseamnă câștigarea lumii,
13:02
provided you don't destroy it
in the next moment,
in the next moment,
263
770960
2456
dacă nu o distrugem în clipa următoare,
13:05
then it seems likely
that whatever is easier to do
that whatever is easier to do
264
773440
2616
pare probabil că ce e mai ușor de făcut
13:08
will get done first.
265
776080
1200
va fi făcut mai întâi.
13:10
Now, unfortunately,
I don't have a solution to this problem,
I don't have a solution to this problem,
266
778560
2856
Din păcate, nu am o soluție
la această problemă,
la această problemă,
13:13
apart from recommending
that more of us think about it.
that more of us think about it.
267
781440
2616
alta decât să vă recomand
să vă gândiți la asta.
să vă gândiți la asta.
13:16
I think we need something
like a Manhattan Project
like a Manhattan Project
268
784080
2376
Cred că ne trebuie
un fel de Manhattan Project
un fel de Manhattan Project
13:18
on the topic of artificial intelligence.
269
786480
2016
pe subiectul IA.
13:20
Not to build it, because I think
we'll inevitably do that,
we'll inevitably do that,
270
788520
2736
Nu s-o construim, deoarece
cred că inevitabil o vom face,
cred că inevitabil o vom face,
13:23
but to understand
how to avoid an arms race
how to avoid an arms race
271
791280
3336
ci să înțelegem
cum să evităm cursa înarmărilor
cum să evităm cursa înarmărilor
13:26
and to build it in a way
that is aligned with our interests.
that is aligned with our interests.
272
794640
3496
și să o construim într-un fel
corespunzător valorilor noastre.
corespunzător valorilor noastre.
13:30
When you're talking
about superintelligent AI
about superintelligent AI
273
798160
2136
Când vorbiți despre IA superinteligentă,
13:32
that can make changes to itself,
274
800320
2256
care se poate schimba pe sine,
13:34
it seems that we only have one chance
to get the initial conditions right,
to get the initial conditions right,
275
802600
4616
se pare că avem doar o șansă
să alegem condițiile inițiale corecte
să alegem condițiile inițiale corecte
13:39
and even then we will need to absorb
276
807240
2056
și chiar și atunci va trebui să absorbim
13:41
the economic and political
consequences of getting them right.
consequences of getting them right.
277
809320
3040
consecințele economice și politice
ale alegerii corecte.
ale alegerii corecte.
13:45
But the moment we admit
278
813760
2056
Dar momentul în care admitem
13:47
that information processing
is the source of intelligence,
is the source of intelligence,
279
815840
4000
că procesarea informației
e sursa inteligenței,
e sursa inteligenței,
13:52
that some appropriate computational system
is what the basis of intelligence is,
is what the basis of intelligence is,
280
820720
4800
că un sistem computațional adecvat
e baza inteligenței,
e baza inteligenței,
13:58
and we admit that we will improve
these systems continuously,
these systems continuously,
281
826360
3760
și admitem că vom îmbunătăți
continuu aceste sisteme
continuu aceste sisteme
14:03
and we admit that the horizon
of cognition very likely far exceeds
of cognition very likely far exceeds
282
831280
4456
și admitem că orizontul cogniției
foarte probabil depășește
foarte probabil depășește
14:07
what we currently know,
283
835760
1200
ce știm noi acum,
14:10
then we have to admit
284
838120
1216
atunci trebuie să admitem
14:11
that we are in the process
of building some sort of god.
of building some sort of god.
285
839360
2640
că suntem în procesul
de creare a unui fel de zeu.
de creare a unui fel de zeu.
14:15
Now would be a good time
286
843400
1576
Acum ar fi momentul potrivit
14:17
to make sure it's a god we can live with.
287
845000
1953
să ne asigurăm că e un zeu
cu care putem trăi.
cu care putem trăi.
14:20
Thank you very much.
288
848120
1536
Vă mulțumesc mult.
14:21
(Applause)
289
849680
5093
(Aplauze)
ABOUT THE SPEAKER
Sam Harris - Neuroscientist, philosopherSam Harris's work focuses on how our growing understanding of ourselves and the world is changing our sense of how we should live.
Why you should listen
Sam Harris is the author of five New York Times bestsellers. His books include The End of Faith, Letter to a Christian Nation, The Moral Landscape, Free Will, Lying, Waking Up and Islam and the Future of Tolerance (with Maajid Nawaz). The End of Faith won the 2005 PEN Award for Nonfiction. Harris's writing and public lectures cover a wide range of topics -- neuroscience, moral philosophy, religion, spirituality, violence, human reasoning -- but generally focus on how a growing understanding of ourselves and the world is changing our sense of how we should live.
Harris's work has been published in more than 20 languages and has been discussed in the New York Times, Time, Scientific American, Nature, Newsweek, Rolling Stone and many other journals. He has written for the New York Times, the Los Angeles Times, The Economist, The Times (London), the Boston Globe, The Atlantic, The Annals of Neurology and elsewhere. Harris also regularly hosts a popular podcast.
Harris received a degree in philosophy from Stanford University and a Ph.D. in neuroscience from UCLA.
Sam Harris | Speaker | TED.com