TED2015
Nick Bostrom: What happens when our computers get smarter than we are?
Nick Bostrom: Bilgisayarlarımız bizden zeki olduğu zaman ne olacak?
Filmed:
Readability: 4.4
4,632,705 views
Yapay zeka teknolojisi, büyük bir hızla gelişmeye devam ediyor. Bu yüzyıl içinde yapılan araştırmalara dayanarak bilgisayar bazlı yapay zeka sistemleri bir insan kadar zeki olabilir. "Bize hükmedecekler" diyen Nick Bostrom insanlığın yapmak isteyebileceği son keşfin makina zekası olduğunu öne sürüyor. Filozof ve teknoloji uzmanı olan Bostrom bize geliştirmeye çalıştığımız, düşünen makineler tarafından yönetilen, dünya'ya kafa yormamızı istiyor. Yaptığımız zeki makineler insanlığı ve değerlerini korumaya yardımcı olacak mı ya da kendilerine ait değerlerini mi koruyacaklar ?
Nick Bostrom - Philosopher
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Nick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us? Full bio
Double-click the English transcript below to play the video.
00:12
I work with a bunch of mathematicians,
philosophers and computer scientists,
philosophers and computer scientists,
0
570
4207
Bir grup matematikçi, filozof ve
bilgisayar uzmanıyla çalışıyorum,
bilgisayar uzmanıyla çalışıyorum,
00:16
and we sit around and think about
the future of machine intelligence,
the future of machine intelligence,
1
4777
5209
diğer şeylerin yanında,
oturup makine zekasının geleceği
oturup makine zekasının geleceği
00:21
among other things.
2
9986
2044
üzerine düşünüyoruz.
00:24
Some people think that some of these
things are sort of science fiction-y,
things are sort of science fiction-y,
3
12030
4725
Bazı insanlar bu şeylerin bir kısmının
bir tür bilim kurgu olduğunu düşünüyor,
bir tür bilim kurgu olduğunu düşünüyor,
00:28
far out there, crazy.
4
16755
3101
hatta çılgınca diyenler bile var.
Ama şunu söylemek isterim ki,
00:31
But I like to say,
5
19856
1470
00:33
okay, let's look at the modern
human condition.
human condition.
6
21326
3604
hadi öncelikle, modern insanın
durumuna bir bakalım.
durumuna bir bakalım.
00:36
(Laughter)
7
24930
1692
(Gülüşmeler)
00:38
This is the normal way for things to be.
8
26622
2402
Bu, bir şeylerin olması
için normal olan yoldur.
için normal olan yoldur.
00:41
But if we think about it,
9
29024
2285
Ama düşündüğümüzde,
00:43
we are actually recently arrived
guests on this planet,
guests on this planet,
10
31309
3293
biz aslında bu gezegenin,
daha yeni gelmiş misafirleriyiz,
daha yeni gelmiş misafirleriyiz,
00:46
the human species.
11
34602
2082
insan türü.
00:48
Think about if Earth
was created one year ago,
was created one year ago,
12
36684
4746
Dünyanın bir sene önce
yaratıldığını düşünelim,
yaratıldığını düşünelim,
00:53
the human species, then,
would be 10 minutes old.
would be 10 minutes old.
13
41430
3548
o zaman insan türü
on dakika yaşında olurdu.
on dakika yaşında olurdu.
00:56
The industrial era started
two seconds ago.
two seconds ago.
14
44978
3168
Sanayi Çağı iki saniye önce
başlamış olurdu.
başlamış olurdu.
01:01
Another way to look at this is to think of
world GDP over the last 10,000 years,
world GDP over the last 10,000 years,
15
49276
5225
Ya da şöyle açıklayayım, dünyanın
son on bin yıldaki GSYİH'sine bakalım.
son on bin yıldaki GSYİH'sine bakalım.
(Gayrisafi Yurtiçi Hasıla)
01:06
I've actually taken the trouble
to plot this for you in a graph.
to plot this for you in a graph.
16
54501
3029
Bunu grafiğe dökerken baya
zahmete girdim, aslında hiç kolay değildi.
zahmete girdim, aslında hiç kolay değildi.
01:09
It looks like this.
17
57530
1774
Şöyle gözüküyor.
01:11
(Laughter)
18
59304
1363
(Gülüşmeler)
01:12
It's a curious shape
for a normal condition.
for a normal condition.
19
60667
2151
Normal bir durum için
tuhaf bir şekil.
tuhaf bir şekil.
01:14
I sure wouldn't want to sit on it.
20
62818
1698
Kesinlikle oturup bunu
beklemek istemezdim.
beklemek istemezdim.
01:16
(Laughter)
21
64516
2551
(Gülüşmeler)
01:19
Let's ask ourselves, what is the cause
of this current anomaly?
of this current anomaly?
22
67067
4774
Kendimize soralım, bu anormalliğin
sebebi nedir?
sebebi nedir?
01:23
Some people would say it's technology.
23
71841
2552
Bazıları teknoloji diyebilir.
01:26
Now it's true, technology has accumulated
through human history,
through human history,
24
74393
4668
Doğru, teknoloji insanlık tarihi içinde
birikimli bir şekilde gelişti,
birikimli bir şekilde gelişti,
01:31
and right now, technology
advances extremely rapidly --
advances extremely rapidly --
25
79061
4652
şu an müthiş bir hızla ilerliyor,
01:35
that is the proximate cause,
26
83713
1565
işte bu yüzden şu anda
01:37
that's why we are currently
so very productive.
so very productive.
27
85278
2565
bu kadar üretkeniz,
en yakın sebep bu.
en yakın sebep bu.
01:40
But I like to think back further
to the ultimate cause.
to the ultimate cause.
28
88473
3661
Ben esas sebebe ulaşmak için
daha geçmişe gitmek istiyorum.
daha geçmişe gitmek istiyorum.
01:45
Look at these two highly
distinguished gentlemen:
distinguished gentlemen:
29
93114
3766
Son derece farklı şu iki
beyefendiye bakın:
beyefendiye bakın:
01:48
We have Kanzi --
30
96880
1600
Bu, Kanzi
01:50
he's mastered 200 lexical
tokens, an incredible feat.
tokens, an incredible feat.
31
98480
4643
işaret dilinde 200 kelime öğrendi,
inanılır gibi değil.
inanılır gibi değil.
01:55
And Ed Witten unleashed the second
superstring revolution.
superstring revolution.
32
103123
3694
Diğeri Ed Witten, ikinci süpersicim
devrimini gerçekleştirdi.
devrimini gerçekleştirdi.
01:58
If we look under the hood,
this is what we find:
this is what we find:
33
106817
2324
Kaputun altına bakarsak,
işte bunu buluruz:
işte bunu buluruz:
02:01
basically the same thing.
34
109141
1570
temel olarak aynı şeyi.
02:02
One is a little larger,
35
110711
1813
Biri daha büyük,
02:04
it maybe also has a few tricks
in the exact way it's wired.
in the exact way it's wired.
36
112524
2758
belki bağlantılarından dolayı
birkaç numarası daha vardır.
birkaç numarası daha vardır.
02:07
These invisible differences cannot
be too complicated, however,
be too complicated, however,
37
115282
3812
Bununla beraber bu görünmez farklar
çok karmaşık olamaz,
çok karmaşık olamaz,
02:11
because there have only
been 250,000 generations
been 250,000 generations
38
119094
4285
çünkü son ortak atamızdan
beri sadece,
beri sadece,
02:15
since our last common ancestor.
39
123379
1732
250.000 nesil geçti.
02:17
We know that complicated mechanisms
take a long time to evolve.
take a long time to evolve.
40
125111
3849
Karmaşık mekanizmaların gelişmesi için
uzun zaman geçmesi gerektiğini biliyoruz.
uzun zaman geçmesi gerektiğini biliyoruz.
Yani birkaç küçük değişiklik
02:22
So a bunch of relatively minor changes
41
130000
2499
02:24
take us from Kanzi to Witten,
42
132499
3067
bizi Kanzi'den Witten'e,
02:27
from broken-off tree branches
to intercontinental ballistic missiles.
to intercontinental ballistic missiles.
43
135566
4543
ağaç dalları kopartmaktan, kıtalararası
balistik füzelere götürür.
balistik füzelere götürür.
02:32
So this then seems pretty obvious
that everything we've achieved,
that everything we've achieved,
44
140839
3935
Yani şu oldukça açık şekilde gözüküyor,
başardığımız ve önemsediğimiz
başardığımız ve önemsediğimiz
02:36
and everything we care about,
45
144774
1378
her şey kritik bir şekilde,
02:38
depends crucially on some relatively minor
changes that made the human mind.
changes that made the human mind.
46
146152
5228
insan zihnini yaratan görece küçük
değişikliklere bağlıdır.
değişikliklere bağlıdır.
02:44
And the corollary, of course,
is that any further changes
is that any further changes
47
152650
3662
Doğal olarak, düşünmenin özünü
ciddi şekilde değiştirebilecek
ciddi şekilde değiştirebilecek
02:48
that could significantly change
the substrate of thinking
the substrate of thinking
48
156312
3477
başka değişiklikler,
02:51
could have potentially
enormous consequences.
enormous consequences.
49
159789
3202
muazzam sonuçlara sebebiyet verebilirdi.
02:56
Some of my colleagues
think we're on the verge
think we're on the verge
50
164321
2905
Bazı meslektaşlarım, düşünmenin
özünde derinden bir değişikliğe
özünde derinden bir değişikliğe
02:59
of something that could cause
a profound change in that substrate,
a profound change in that substrate,
51
167226
3908
sebep olacak bir eşikte
olduğumuzu düşünüyor,
olduğumuzu düşünüyor,
bu da makine süperzekası.
03:03
and that is machine superintelligence.
52
171134
3213
03:06
Artificial intelligence used to be
about putting commands in a box.
about putting commands in a box.
53
174347
4739
Yapay zeka bir kutuya komutları
yerleştirmek için kullanılırdı.
yerleştirmek için kullanılırdı.
03:11
You would have human programmers
54
179086
1665
Verileri titizlikle işleyen
03:12
that would painstakingly
handcraft knowledge items.
handcraft knowledge items.
55
180751
3135
insan programcılar vardı.
03:15
You build up these expert systems,
56
183886
2086
Uzman sistemler geliştiriyordunuz
03:17
and they were kind of useful
for some purposes,
for some purposes,
57
185972
2324
ve bunlar bazı amaçlar
için çok kullanışlı
için çok kullanışlı
03:20
but they were very brittle,
you couldn't scale them.
you couldn't scale them.
58
188296
2681
olmalarına rağmen çok hassastı,
ölçeklenemiyorlardı.
ölçeklenemiyorlardı.
03:22
Basically, you got out only
what you put in.
what you put in.
59
190977
3433
Yani temelde, ne verirseniz
sadece onu alıyordunuz.
sadece onu alıyordunuz.
03:26
But since then,
60
194410
997
O zamandan beri,
03:27
a paradigm shift has taken place
in the field of artificial intelligence.
in the field of artificial intelligence.
61
195407
3467
yapay zeka alanında yeni bir
bakış açısı türedi.
bakış açısı türedi.
03:30
Today, the action is really
around machine learning.
around machine learning.
62
198874
2770
Günümüzde, olay makinelerin
öğrenmesine kadar dayandı.
öğrenmesine kadar dayandı.
03:34
So rather than handcrafting knowledge
representations and features,
representations and features,
63
202394
5387
Elle yazılan belgeler,
fikirler, özellikler yerine
fikirler, özellikler yerine
03:40
we create algorithms that learn,
often from raw perceptual data.
often from raw perceptual data.
64
208511
5554
sıklıkla ham bilgilerden öğrenebilen,
algoritmalar yaratıyoruz.
algoritmalar yaratıyoruz.
03:46
Basically the same thing
that the human infant does.
that the human infant does.
65
214065
4998
Aslında, bir bebeğin
yaptığı şeyle aynı.
yaptığı şeyle aynı.
03:51
The result is A.I. that is not
limited to one domain --
limited to one domain --
66
219063
4207
Yapay zeka bunu,
tek bir alanla sınırlamaz.
tek bir alanla sınırlamaz.
03:55
the same system can learn to translate
between any pairs of languages,
between any pairs of languages,
67
223270
4631
Aynı sistem çift halinde dilleri
çevirmeyi öğrenebilir ya da
çevirmeyi öğrenebilir ya da
03:59
or learn to play any computer game
on the Atari console.
on the Atari console.
68
227901
5437
ataride herhangi bir oyunu
oynamayı öğrenebilir.
oynamayı öğrenebilir.
04:05
Now of course,
69
233338
1779
Elbette,
04:07
A.I. is still nowhere near having
the same powerful, cross-domain
the same powerful, cross-domain
70
235117
3999
yapay zeka, henüz insanların
etki alanları arası öğrenme ve planlama
etki alanları arası öğrenme ve planlama
04:11
ability to learn and plan
as a human being has.
as a human being has.
71
239116
3219
yeteneğinin yakınında bile değildir.
04:14
The cortex still has some
algorithmic tricks
algorithmic tricks
72
242335
2126
Kortekste, makinalarla nasıl
eşleştirebileceğimizi henüz
eşleştirebileceğimizi henüz
04:16
that we don't yet know
how to match in machines.
how to match in machines.
73
244461
2355
bilmediğimiz bazı
algoritmik zorluklar var.
algoritmik zorluklar var.
04:19
So the question is,
74
247886
1899
Fakat asıl soru şu:
Bu algoritmaları eşleştirmekten
ne kadar uzaktayız?
ne kadar uzaktayız?
04:21
how far are we from being able
to match those tricks?
to match those tricks?
75
249785
3500
04:26
A couple of years ago,
76
254245
1083
Birkaç yıl önce,
04:27
we did a survey of some of the world's
leading A.I. experts,
leading A.I. experts,
77
255328
2888
dünyanın önde gelen yapay zeka
araştırmacılarıyla ne düşündüklerini
araştırmacılarıyla ne düşündüklerini
04:30
to see what they think,
and one of the questions we asked was,
and one of the questions we asked was,
78
258216
3224
öğrenmek için bir anket yaptık ve
sorduğumuz sorulardan biri de
sorduğumuz sorulardan biri de
04:33
"By which year do you think
there is a 50 percent probability
there is a 50 percent probability
79
261440
3353
"Yaklaşık hangi yılda
yüzde elli ihtimalle
yüzde elli ihtimalle
04:36
that we will have achieved
human-level machine intelligence?"
human-level machine intelligence?"
80
264793
3482
insan düzeyinde bir makine zekasına
ulaşabiliriz?"
ulaşabiliriz?"
04:40
We defined human-level here
as the ability to perform
as the ability to perform
81
268785
4183
İnsan seviyesini burada,
yetişkin bir insan kadar
yetişkin bir insan kadar
04:44
almost any job at least as well
as an adult human,
as an adult human,
82
272968
2871
herhangi bir işi yapabilme
olarak tanımladık.
olarak tanımladık.
04:47
so real human-level, not just
within some limited domain.
within some limited domain.
83
275839
4005
Ama gerçek insan seviyesi, sadece
belli bir alanla sınırlandırılamaz.
belli bir alanla sınırlandırılamaz.
04:51
And the median answer was 2040 or 2050,
84
279844
3650
Sorduğumuz uzmanların
söylediklerine dayanarak
söylediklerine dayanarak
ortalama bir cevap çıkarttık
bu cevap ise 2040 ya da 2050 idi.
bu cevap ise 2040 ya da 2050 idi.
04:55
depending on precisely which
group of experts we asked.
group of experts we asked.
85
283494
2806
04:58
Now, it could happen much,
much later, or sooner,
much later, or sooner,
86
286300
4039
Bunun olması için yıllar geçebilir,
ya da daha erken bir tarihte olabilir,
ya da daha erken bir tarihte olabilir,
05:02
the truth is nobody really knows.
87
290339
1940
gerçek şu ki kimse zamanını bilmiyor.
Şunu biliyoruz;
makina bazında,
makina bazında,
05:05
What we do know is that the ultimate
limit to information processing
limit to information processing
88
293259
4412
05:09
in a machine substrate lies far outside
the limits in biological tissue.
the limits in biological tissue.
89
297671
4871
temel bilgi işleme limiti biyolojik
dokunun limitinin çok uzağındadır.
dokunun limitinin çok uzağındadır.
05:15
This comes down to physics.
90
303241
2378
Fiziğe gelirsek,
05:17
A biological neuron fires, maybe,
at 200 hertz, 200 times a second.
at 200 hertz, 200 times a second.
91
305619
4718
sinir hücreleri saniyede 200 defa
200 hertz'de sinyal transfer edebilir.
200 hertz'de sinyal transfer edebilir.
05:22
But even a present-day transistor
operates at the Gigahertz.
operates at the Gigahertz.
92
310337
3594
Günümüzde bile normal bir iletken
gigahertz bazında çalışır.
gigahertz bazında çalışır.
05:25
Neurons propagate slowly in axons,
100 meters per second, tops.
100 meters per second, tops.
93
313931
5297
Nöronlar, aksonlarda saniyede
maximum 100 metre yayılırlar.
maximum 100 metre yayılırlar.
05:31
But in computers, signals can travel
at the speed of light.
at the speed of light.
94
319228
3111
Bilgisayarlarda ise bilgi
ışık hızında taşınır.
ışık hızında taşınır.
05:35
There are also size limitations,
95
323079
1869
Ayrıca boyut limitleri de vardır.
05:36
like a human brain has
to fit inside a cranium,
to fit inside a cranium,
96
324948
3027
İnsan beyni,
kafatasının içine sığmalıdır.
kafatasının içine sığmalıdır.
05:39
but a computer can be the size
of a warehouse or larger.
of a warehouse or larger.
97
327975
4761
Ama bir bilgisayar depo
büyüklüğünde ya da daha büyük olabilir.
büyüklüğünde ya da daha büyük olabilir.
05:44
So the potential for superintelligence
lies dormant in matter,
lies dormant in matter,
98
332736
5599
Bu yüzden süper zeka potansiyeli,
madde boyutunda uykudadır,
madde boyutunda uykudadır,
05:50
much like the power of the atom
lay dormant throughout human history,
lay dormant throughout human history,
99
338335
5712
tıpkı atomun gücünün insanlık tarihi
boyunca uykuda olup,
boyunca uykuda olup,
05:56
patiently waiting there until 1945.
100
344047
4405
1945'e kadar sabırla orada
beklemesi gibi.
beklemesi gibi.
Bulunduğumuz yüzyılda,
06:00
In this century,
101
348452
1248
06:01
scientists may learn to awaken
the power of artificial intelligence.
the power of artificial intelligence.
102
349700
4118
bilim adamları yapay zekanın gücünü
açığa çıkartmayı öğrenebilir.
açığa çıkartmayı öğrenebilir.
06:05
And I think we might then see
an intelligence explosion.
an intelligence explosion.
103
353818
4008
Bence, sonrasında bir
zeka patlaması görebiliriz.
zeka patlaması görebiliriz.
Çoğu insan, mantıklı olanı ve
olmayanı düşündüklerinde,
olmayanı düşündüklerinde,
06:10
Now most people, when they think
about what is smart and what is dumb,
about what is smart and what is dumb,
104
358406
3957
06:14
I think have in mind a picture
roughly like this.
roughly like this.
105
362363
3023
akıllarında aşağı yukarı
böyle bir tablo oluşuyor bana göre.
böyle bir tablo oluşuyor bana göre.
06:17
So at one end we have the village idiot,
106
365386
2598
Bir uçta mahallenin delisi
06:19
and then far over at the other side
107
367984
2483
ve çok ötedeki diğer uçta ise
06:22
we have Ed Witten, or Albert Einstein,
or whoever your favorite guru is.
or whoever your favorite guru is.
108
370467
4756
Ed Witten ya da Albert Einstein
ya da kimi örnek alıyorsanız.
ya da kimi örnek alıyorsanız.
06:27
But I think that from the point of view
of artificial intelligence,
of artificial intelligence,
109
375223
3834
Ama düşünüyorum ki, yapay zekanın
açısından bakacak olursak,
açısından bakacak olursak,
06:31
the true picture is actually
probably more like this:
probably more like this:
110
379057
3681
gerçek resim daha çok
şöyle olacaktır:
şöyle olacaktır:
06:35
AI starts out at this point here,
at zero intelligence,
at zero intelligence,
111
383258
3378
Yapay zeka şu noktadan,
tamamen 0 zekayla başlıyor
tamamen 0 zekayla başlıyor
06:38
and then, after many, many
years of really hard work,
years of really hard work,
112
386636
3011
Ve sonra, yıllarca süren
uzun çalışmaların sonucunda
uzun çalışmaların sonucunda
06:41
maybe eventually we get to
mouse-level artificial intelligence,
mouse-level artificial intelligence,
113
389647
3844
belki sonunda,
fare seviyesi yapay zekasına ulaşabiliriz.
fare seviyesi yapay zekasına ulaşabiliriz.
06:45
something that can navigate
cluttered environments
cluttered environments
114
393491
2430
Öyle bir şey ki, karışık ortamlarda
bile yolunu bulabilen
bile yolunu bulabilen
06:47
as well as a mouse can.
115
395921
1987
Bir farenin gibi
06:49
And then, after many, many more years
of really hard work, lots of investment,
of really hard work, lots of investment,
116
397908
4313
Ve sonra, yıllarca uzun çalışmaların
ve yatırımların sonucunda,
ve yatırımların sonucunda,
06:54
maybe eventually we get to
chimpanzee-level artificial intelligence.
chimpanzee-level artificial intelligence.
117
402221
4639
Belki sonunda, Şempanze seviyesi
Yapay zekasına ulaşabiliriz.
Yapay zekasına ulaşabiliriz.
06:58
And then, after even more years
of really, really hard work,
of really, really hard work,
118
406860
3210
Ve sonra, yıllarca
daha uzun çalışmalar sonucunda,
daha uzun çalışmalar sonucunda,
07:02
we get to village idiot
artificial intelligence.
artificial intelligence.
119
410070
2913
Köy halkı zekası seviyesine
ulaşabiliriz.
ulaşabiliriz.
07:04
And a few moments later,
we are beyond Ed Witten.
we are beyond Ed Witten.
120
412983
3272
Ve biraz zaman daha verirsek
Ed Witten'nin ötesinde olabiliriz.
Ed Witten'nin ötesinde olabiliriz.
07:08
The train doesn't stop
at Humanville Station.
at Humanville Station.
121
416255
2970
Yapay zeka treni,
normal insan köyünde durmuyor
normal insan köyünde durmuyor
07:11
It's likely, rather, to swoosh right by.
122
419225
3022
Olası bir şekilde, yanımızda hızlıca geçiyor.
07:14
Now this has profound implications,
123
422247
1984
Şimdi, bunun önemli sonuçları vardır
07:16
particularly when it comes
to questions of power.
to questions of power.
124
424231
3862
Özellikle,
soru güç konusuna gelince
soru güç konusuna gelince
07:20
For example, chimpanzees are strong --
125
428093
1899
Örnek olarak şempanzeler güçlüdür,
07:21
pound for pound, a chimpanzee is about
twice as strong as a fit human male.
twice as strong as a fit human male.
126
429992
5222
Eşit şartlarda ele alırsak, bir insanın
iki katı kadar güçlü olabilirler.
iki katı kadar güçlü olabilirler.
07:27
And yet, the fate of Kanzi
and his pals depends a lot more
and his pals depends a lot more
127
435214
4614
Yine de Kanzi'nin ve arkadaşlarının
kaderi bizim yaptığımız
kaderi bizim yaptığımız
07:31
on what we humans do than on
what the chimpanzees do themselves.
what the chimpanzees do themselves.
128
439828
4140
ya da şempanzelerin yaptığının
daha fazlasına dayanır.
daha fazlasına dayanır.
07:37
Once there is superintelligence,
129
445228
2314
Süper zeka keşfedildiğinde,
07:39
the fate of humanity may depend
on what the superintelligence does.
on what the superintelligence does.
130
447542
3839
İnsanlığın kaderi, bu süper zekanın
ne yapabildiğine bağlı olabilir.
ne yapabildiğine bağlı olabilir.
07:44
Think about it:
131
452451
1057
Düşünsenize:
07:45
Machine intelligence is the last invention
that humanity will ever need to make.
that humanity will ever need to make.
132
453508
5044
Makine zekası insanların,
yapabileceği en son keşif.
yapabileceği en son keşif.
07:50
Machines will then be better
at inventing than we are,
at inventing than we are,
133
458552
2973
Bundan sonra makineler, İcat
alanında bizde daha iyi olacaklar
alanında bizde daha iyi olacaklar
07:53
and they'll be doing so
on digital timescales.
on digital timescales.
134
461525
2540
Bunu, dijital zaman ölçeği benzeri
alanlarda yapabilecekler.
alanlarda yapabilecekler.
07:56
What this means is basically
a telescoping of the future.
a telescoping of the future.
135
464065
4901
Tam olarak bunun anlamı
geleceğe bakış atmadır.
geleceğe bakış atmadır.
08:00
Think of all the crazy technologies
that you could have imagined
that you could have imagined
136
468966
3558
Hayal edebileceğiniz bütün
müthiş teknolojileri düşünün,
müthiş teknolojileri düşünün,
08:04
maybe humans could have developed
in the fullness of time:
in the fullness of time:
137
472524
2798
belki insanlar zamanı gelince
bunları keşfedicekler, mesela
bunları keşfedicekler, mesela
08:07
cures for aging, space colonization,
138
475322
3258
yaşlanmayı durdurma, uzay kolonileri
08:10
self-replicating nanobots or uploading
of minds into computers,
of minds into computers,
139
478580
3731
kendi kendini yenileyen nanobotlar ya da
bilgisayarlara zihin aktarma
bilgisayarlara zihin aktarma
08:14
all kinds of science fiction-y stuff
140
482311
2159
bilim kurguda yer alan bütün fikirler.
08:16
that's nevertheless consistent
with the laws of physics.
with the laws of physics.
141
484470
2737
Yine de fizik kurallarına
uygun bir şekilde olması lazım.
uygun bir şekilde olması lazım.
08:19
All of this superintelligence could
develop, and possibly quite rapidly.
develop, and possibly quite rapidly.
142
487207
4212
Çok hızlı bir şekilde, tüm bu
Süper zeka ürünleri geliştirilebilir.
Süper zeka ürünleri geliştirilebilir.
08:24
Now, a superintelligence with such
technological maturity
technological maturity
143
492449
3558
Şimdi, tam olgun bir
süper zeka düşünürsek
süper zeka düşünürsek
08:28
would be extremely powerful,
144
496007
2179
bu çok güçlü olur
08:30
and at least in some scenarios,
it would be able to get what it wants.
it would be able to get what it wants.
145
498186
4546
ve en azından bazı senaryolarda bile,
ne istediği varsa elde eder.
ne istediği varsa elde eder.
08:34
We would then have a future that would
be shaped by the preferences of this A.I.
be shaped by the preferences of this A.I.
146
502732
5661
Ondan sonra yapay zeka kendi istekleri
üzerine bizim geleceğimizi şekillendirir.
üzerine bizim geleceğimizi şekillendirir.
"Bu istekler nelerdir?" diye
güzel bir soru sorulabilir.
güzel bir soru sorulabilir.
08:41
Now a good question is,
what are those preferences?
what are those preferences?
147
509855
3749
08:46
Here it gets trickier.
148
514244
1769
İşte burada işler biraz karışıyor.
08:48
To make any headway with this,
149
516013
1435
Bunu ileriye taşımamız için,
08:49
we must first of all
avoid anthropomorphizing.
avoid anthropomorphizing.
150
517448
3276
İlk olarak, insan biçimi verdiğimiz
her şeyden kaçınmamız lazım.
her şeyden kaçınmamız lazım.
08:53
And this is ironic because
every newspaper article
every newspaper article
151
521934
3301
Tabii ki ironik olarak
okuduğumuz her gazete
okuduğumuz her gazete
08:57
about the future of A.I.
has a picture of this:
has a picture of this:
152
525235
3855
yapay zeka hakkında ve şunun resmi var.
09:02
So I think what we need to do is
to conceive of the issue more abstractly,
to conceive of the issue more abstractly,
153
530280
4134
Yapmamız gerekense, bu konuyu
Hollywood senaryoları gibi değil
Hollywood senaryoları gibi değil
09:06
not in terms of vivid Hollywood scenarios.
154
534414
2790
soyut alarak göze almalıyız.
09:09
We need to think of intelligence
as an optimization process,
as an optimization process,
155
537204
3617
Zekayı en güçlü seviyesine
getirme süreci olarak düşünmeliyiz.
getirme süreci olarak düşünmeliyiz.
09:12
a process that steers the future
into a particular set of configurations.
into a particular set of configurations.
156
540821
5649
Öyle bir süreç ki, geleceği belli
şekillerde yönlendirmeli.
şekillerde yönlendirmeli.
09:18
A superintelligence is
a really strong optimization process.
a really strong optimization process.
157
546470
3511
Süper zekayı en güçlü seviyeye
getirmekse baya zordur.
getirmekse baya zordur.
09:21
It's extremely good at using
available means to achieve a state
available means to achieve a state
158
549981
4117
Bir amaca ulaşmak için
çok kolay bir şekilde para bulabilir
çok kolay bir şekilde para bulabilir
09:26
in which its goal is realized.
159
554098
1909
böylece hedefini tamamlamış olur.
09:28
This means that there is no necessary
conenction between
conenction between
160
556447
2672
Yani, bu bağlamda
yüksek zekaya sahip olmak
yüksek zekaya sahip olmak
09:31
being highly intelligent in this sense,
161
559119
2734
ve biz insanların değerli ya da
09:33
and having an objective that we humans
would find worthwhile or meaningful.
would find worthwhile or meaningful.
162
561853
4662
manalı bulduğu bir objeye sahip olmak
arasında bir bağlantı olmak zorunda değildir.
arasında bir bağlantı olmak zorunda değildir.
09:39
Suppose we give an A.I. the goal
to make humans smile.
to make humans smile.
163
567321
3794
Varsayalım ki, yapay zekaya insanları,
gülümsetmesi görevini verdik.
gülümsetmesi görevini verdik.
09:43
When the A.I. is weak, it performs useful
or amusing actions
or amusing actions
164
571115
2982
Yapay zeka zayıf olduğunda
kullanıcısını gülümseten,
kullanıcısını gülümseten,
09:46
that cause its user to smile.
165
574097
2517
gülünç hareketler sergiler.
09:48
When the A.I. becomes superintelligent,
166
576614
2417
Yapay zeka güçlendiğinde ise,
09:51
it realizes that there is a more
effective way to achieve this goal:
effective way to achieve this goal:
167
579031
3523
bu görevi tamamlamanın daha etkili bir
yolu olduğunun farkına varır:
yolu olduğunun farkına varır:
09:54
take control of the world
168
582554
1922
Dünyayı ele geçirmek ve
09:56
and stick electrodes into the facial
muscles of humans
muscles of humans
169
584476
3162
insanların deri altlarına yerleştirilen
elektrotlar ile
elektrotlar ile
09:59
to cause constant, beaming grins.
170
587638
2941
sabit bir şekilde gülme sinyalleri yollamak.
10:02
Another example,
171
590579
1035
Bir diğer örnek ise,
10:03
suppose we give A.I. the goal to solve
a difficult mathematical problem.
a difficult mathematical problem.
172
591614
3383
Varsayalım ki yapay zekaya çok zor
matematik problemi verdik.
matematik problemi verdik.
10:06
When the A.I. becomes superintelligent,
173
594997
1937
Yapay zeka güçlendiğinde,
10:08
it realizes that the most effective way
to get the solution to this problem
to get the solution to this problem
174
596934
4171
bu problemi çözmenin en etkili yolunun
düşünme kapasitesini geliştirmek
ve tüm dünyayı kocaman
ve tüm dünyayı kocaman
10:13
is by transforming the planet
into a giant computer,
into a giant computer,
175
601105
2930
10:16
so as to increase its thinking capacity.
176
604035
2246
bir bilgisayara çevirmek olduğunu
fark eder.
fark eder.
10:18
And notice that this gives the A.I.s
an instrumental reason
an instrumental reason
177
606281
2764
Şunu fark edin ki, yapay zeka
bize, bizim onaylamayacağımız
bize, bizim onaylamayacağımız
10:21
to do things to us that we
might not approve of.
might not approve of.
178
609045
2516
şeyler yapmak için
etkili gerekçeler buluyor.
etkili gerekçeler buluyor.
10:23
Human beings in this model are threats,
179
611561
1935
Bu taslakta insanlar bir tehdit,
10:25
we could prevent the mathematical
problem from being solved.
problem from being solved.
180
613496
2921
matematik probleminin çözülmesini
engelleyebiliriz.
engelleyebiliriz.
Tabii ki, olaylar bir kaç
şekilde ters gitmeyebilir; ama bunlar
şekilde ters gitmeyebilir; ama bunlar
10:29
Of course, perceivably things won't
go wrong in these particular ways;
go wrong in these particular ways;
181
617207
3494
10:32
these are cartoon examples.
182
620701
1753
sadece kağıttaki örnekler.
10:34
But the general point here is important:
183
622454
1939
Önemli nokta ise:
10:36
if you create a really powerful
optimization process
optimization process
184
624393
2873
X'i gerçekleştirmek için,
en güçlü seviyesinde bir
en güçlü seviyesinde bir
10:39
to maximize for objective x,
185
627266
2234
süper zeka yaratırsanız
10:41
you better make sure
that your definition of x
that your definition of x
186
629500
2276
X tanımınızın
önemsediğiniz her şeyi içerdiğinden
emin olmalısınız.
emin olmalısınız.
10:43
incorporates everything you care about.
187
631776
2469
10:46
This is a lesson that's also taught
in many a myth.
in many a myth.
188
634835
4384
Bu ders bir çok mitte öğretilir.
Kral Midas dokunduğu her şeyin
altına dönüşmesini ister.
altına dönüşmesini ister.
10:51
King Midas wishes that everything
he touches be turned into gold.
he touches be turned into gold.
189
639219
5298
10:56
He touches his daughter,
she turns into gold.
she turns into gold.
190
644517
2861
Kızına dokunur
ve kızı altına dönüşür.
ve kızı altına dönüşür.
Yemeğine dokunur, altına dönüşür.
10:59
He touches his food, it turns into gold.
191
647378
2553
11:01
This could become practically relevant,
192
649931
2589
Bu olay konu ile çok alakalıdır.
11:04
not just as a metaphor for greed,
193
652520
2070
Aç gözlüğe bir örnek olarak değil,
11:06
but as an illustration of what happens
194
654590
1895
en güçlü seviyesinde bir
11:08
if you create a powerful
optimization process
optimization process
195
656485
2837
süper zekaya yanlış anlatılmış
ya da yetersiz belirtilmiş
ya da yetersiz belirtilmiş
11:11
and give it misconceived
or poorly specified goals.
or poorly specified goals.
196
659322
4789
görevler verirseniz neler
olabileceğinin bir örneğidir.
olabileceğinin bir örneğidir.
11:16
Now you might say, if a computer starts
sticking electrodes into people's faces,
sticking electrodes into people's faces,
197
664111
5189
Şunu söyleyebilirsiniz ki, bir bilgisayar
insanların deri altlarına
insanların deri altlarına
11:21
we'd just shut it off.
198
669300
2265
elektrotlar yerleştirse onu kapatabiliriz.
11:24
A, this is not necessarily so easy to do
if we've grown dependent on the system --
if we've grown dependent on the system --
199
672555
5340
A, gittikçe sisteme muhtaç oluyor, bu
yüzden bunu yapması o kadar kolay değil.
yüzden bunu yapması o kadar kolay değil.
11:29
like, where is the off switch
to the Internet?
to the Internet?
200
677895
2732
Örnek olarak internetin
kapatma düğmesi nerede?
kapatma düğmesi nerede?
11:32
B, why haven't the chimpanzees
flicked the off switch to humanity,
flicked the off switch to humanity,
201
680627
5120
B, şempanzeler ya da ilkel insanlar
insanların gelişme
insanların gelişme
11:37
or the Neanderthals?
202
685747
1551
sürecini niye kapatmadı?
11:39
They certainly had reasons.
203
687298
2666
Kesinlikle gerekçeleri vardı.
Örnek olarak burada,
bir kapatma düğmesi var.
bir kapatma düğmesi var.
11:41
We have an off switch,
for example, right here.
for example, right here.
204
689964
2795
11:44
(Choking)
205
692759
1554
(Boğulma sesi)
11:46
The reason is that we are
an intelligent adversary;
an intelligent adversary;
206
694313
2925
Gerekçeleri şuydu ki biz,
zeki bir düşmandık;
zeki bir düşmandık;
11:49
we can anticipate threats
and plan around them.
and plan around them.
207
697238
2728
Tehditleri önceden sezebilip
plan yapabilirdik.
plan yapabilirdik.
11:51
But so could a superintelligent agent,
208
699966
2504
Ama yapay zeka, bizden
daha iyisini yapabilir.
daha iyisini yapabilir.
11:54
and it would be much better
at that than we are.
at that than we are.
209
702470
3254
11:57
The point is, we should not be confident
that we have this under control here.
that we have this under control here.
210
705724
7187
Kontrolün bizde olduğu hakkında
kendimizden emin olmamalıyız.
kendimizden emin olmamalıyız.
12:04
And we could try to make our job
a little bit easier by, say,
a little bit easier by, say,
211
712911
3447
Farz edin ki,
Yapay zekayı güvenli bir
Yapay zekayı güvenli bir
12:08
putting the A.I. in a box,
212
716358
1590
yazılıma, kaçamayacağı bir sanal
12:09
like a secure software environment,
213
717948
1796
gerçekliğe koyarak,
12:11
a virtual reality simulation
from which it cannot escape.
from which it cannot escape.
214
719744
3022
işimizi kolaylaştırabiliriz.
12:14
But how confident can we be that
the A.I. couldn't find a bug.
the A.I. couldn't find a bug.
215
722766
4146
Ama yapay zekanın bir aralık
bulamayacağından ne kadar eminiz
bulamayacağından ne kadar eminiz
12:18
Given that merely human hackers
find bugs all the time,
find bugs all the time,
216
726912
3169
İnsan hackerları ele alırsak
çoğunluğu aralık bulabiliyor.
çoğunluğu aralık bulabiliyor.
12:22
I'd say, probably not very confident.
217
730081
3036
Diyebilirim ki, emin olamayız.
12:26
So we disconnect the ethernet cable
to create an air gap,
to create an air gap,
218
734237
4548
Bu yüzden bir hava aralığı yaratmak için
internet kablosunu çekeriz
internet kablosunu çekeriz
12:30
but again, like merely human hackers
219
738785
2668
ama yine, insan hackerları gibi
12:33
routinely transgress air gaps
using social engineering.
using social engineering.
220
741453
3381
sosyal mühendisliği kullanarak
hava boşluklarını ihlal ederler.
hava boşluklarını ihlal ederler.
12:36
Right now, as I speak,
221
744834
1259
Şu an,
12:38
I'm sure there is some employee
out there somewhere
out there somewhere
222
746093
2389
eminim ki, bir yerde bir çalışan
12:40
who has been talked into handing out
her account details
her account details
223
748482
3346
bilgi teknolojileri departmanından
olduğunu iddia eden birileri
olduğunu iddia eden birileri
12:43
by somebody claiming to be
from the I.T. department.
from the I.T. department.
224
751828
2746
tarafından hesap
bilgileri alınıyor.
bilgileri alınıyor.
12:46
More creative scenarios are also possible,
225
754574
2127
Daha yaratıcı senaryolarda var tabii ki.
12:48
like if you're the A.I.,
226
756701
1315
Mesela, siz yapay zekasınız
12:50
you can imagine wiggling electrodes
around in your internal circuitry
around in your internal circuitry
227
758016
3532
devreleriniz arasında dolaşan elektrotları
konuşmak için
konuşmak için
12:53
to create radio waves that you
can use to communicate.
can use to communicate.
228
761548
3462
radyo sinyalleri yaratmayı
hayal edebilirsiniz.
hayal edebilirsiniz.
12:57
Or maybe you could pretend to malfunction,
229
765010
2424
Ya da arızalı rolü yapıp,
12:59
and then when the programmers open
you up to see what went wrong with you,
you up to see what went wrong with you,
230
767434
3497
programcılar neyin hatalı olduğunu
öğrenmek için içinizi açtığında
öğrenmek için içinizi açtığında
13:02
they look at the source code -- Bam! --
231
770931
1936
kaynak koduna bakıyorlar ve
manipule ediliyorlar.
13:04
the manipulation can take place.
232
772867
2447
Ya da zeki bir teknolojiye
taslağımızı aktarıyoruz.
taslağımızı aktarıyoruz.
13:07
Or it could output the blueprint
to a really nifty technology,
to a really nifty technology,
233
775314
3430
13:10
and when we implement it,
234
778744
1398
Aktardığımız zaman,
13:12
it has some surreptitious side effect
that the A.I. had planned.
that the A.I. had planned.
235
780142
4397
Yapay zekanın planlandığının aksine
gizli saklı amaçları olabilir.
gizli saklı amaçları olabilir.
13:16
The point here is that we should
not be confident in our ability
not be confident in our ability
236
784539
3463
Önemli nokta şu ki,
süper zekayı kendi şişesinde
süper zekayı kendi şişesinde
13:20
to keep a superintelligent genie
locked up in its bottle forever.
locked up in its bottle forever.
237
788002
3808
sonsuza kadar kitli
tutulabileceğine güvenmemeliyiz.
tutulabileceğine güvenmemeliyiz.
13:23
Sooner or later, it will out.
238
791810
2254
Eninde sonunda çıkacak.
13:27
I believe that the answer here
is to figure out
is to figure out
239
795034
3103
Buradaki cevap,
çözmemiz gereken
çözmemiz gereken
13:30
how to create superintelligent A.I.
such that even if -- when -- it escapes,
such that even if -- when -- it escapes,
240
798137
5024
öyle bir,
süper zeka yaratmalıyız ki
süper zeka yaratmalıyız ki
kaçtığında bile
temelinde bize sadık olmalı
temelinde bize sadık olmalı
13:35
it is still safe because it is
fundamentally on our side
fundamentally on our side
241
803161
3277
çünkü bizim değerlerimizi taşıyor.
13:38
because it shares our values.
242
806438
1899
13:40
I see no way around
this difficult problem.
this difficult problem.
243
808337
3210
Bu problemi çözmenin
bir yolunu bulamıyorum.
bir yolunu bulamıyorum.
13:44
Now, I'm actually fairly optimistic
that this problem can be solved.
that this problem can be solved.
244
812557
3834
Artık, bu problemin çözülebileceğine
daha fazla inanıyorum.
daha fazla inanıyorum.
13:48
We wouldn't have to write down
a long list of everything we care about,
a long list of everything we care about,
245
816391
3903
Önemsediğimiz her şeyi
yazmak zorunda değiliz
yazmak zorunda değiliz
13:52
or worse yet, spell it out
in some computer language
in some computer language
246
820294
3643
ya da daha kötüsü bunları
C++ veya Python gibi
C++ veya Python gibi
13:55
like C++ or Python,
247
823937
1454
bilgisayar dillerinde açıklamak
13:57
that would be a task beyond hopeless.
248
825391
2767
umutsuz bir vaka olur sadece.
14:00
Instead, we would create an A.I.
that uses its intelligence
that uses its intelligence
249
828158
4297
Bunun yerine, zekasını kullanarak
değer verdiğimiz her şeyi,
değer verdiğimiz her şeyi,
14:04
to learn what we value,
250
832455
2771
öğrenebilen ve
14:07
and its motivation system is constructed
in such a way that it is motivated
in such a way that it is motivated
251
835226
5280
gelişmiş motivasyon sistemini kullanarak
bizim değerlerimizle ve
bizim değerlerimizle ve
14:12
to pursue our values or to perform actions
that it predicts we would approve of.
that it predicts we would approve of.
252
840506
5232
onaylayacağımız adımları
atmak için motive olmalı.
atmak için motive olmalı.
14:17
We would thus leverage
its intelligence as much as possible
its intelligence as much as possible
253
845738
3414
Böylece zekasını koz
olarak kullanarak insan değerleri
olarak kullanarak insan değerleri
14:21
to solve the problem of value-loading.
254
849152
2745
yükleme işlemini çözebiliriz.
Bu olabilir
14:24
This can happen,
255
852727
1512
ve sonuç insanlık için
çok yararlı olabilir.
çok yararlı olabilir.
14:26
and the outcome could be
very good for humanity.
very good for humanity.
256
854239
3596
Ama kendi kendine olamaz.
14:29
But it doesn't happen automatically.
257
857835
3957
14:33
The initial conditions
for the intelligence explosion
for the intelligence explosion
258
861792
2998
Kontrollü bir zeka
patlaması yaratabilirsek
patlaması yaratabilirsek
14:36
might need to be set up
in just the right way
in just the right way
259
864790
2863
zeka patlaması için
gerekli şartlar
gerekli şartlar
14:39
if we are to have a controlled detonation.
260
867653
3530
düzenli bir şekilde kurulmalıdır.
Yapay zekanın değerleri nasıl davrandığını
kolayca kontrol edebileceğimiz
kolayca kontrol edebileceğimiz
14:43
The values that the A.I. has
need to match ours,
need to match ours,
261
871183
2618
14:45
not just in the familiar context,
262
873801
1760
sadece aşina olduğumuz bağlamda değil
14:47
like where we can easily check
how the A.I. behaves,
how the A.I. behaves,
263
875561
2438
yapay zekanın belirsiz
gelecekte karşılaşabileceği
gelecekte karşılaşabileceği
14:49
but also in all novel contexts
that the A.I. might encounter
that the A.I. might encounter
264
877999
3234
özgün bağlamda da
bizimkilerle eşleşmek zorundadır.
14:53
in the indefinite future.
265
881233
1557
Çözmemiz gereken bir kaç
olağan dışı problem de var.
olağan dışı problem de var.
14:54
And there are also some esoteric issues
that would need to be solved, sorted out:
that would need to be solved, sorted out:
266
882790
4737
14:59
the exact details of its decision theory,
267
887527
2089
Mantık belirsizliği ve benzerleri
15:01
how to deal with logical
uncertainty and so forth.
uncertainty and so forth.
268
889616
2864
ile ilgili irade teorisinin
tam detayları gibi.
tam detayları gibi.
15:05
So the technical problems that need
to be solved to make this work
to be solved to make this work
269
893330
3102
Bunun işe yaraması için çözmemiz
gereken teknik problem ise
gereken teknik problem ise
15:08
look quite difficult --
270
896432
1113
yapay zeka yapmak kadar zor değil
15:09
not as difficult as making
a superintelligent A.I.,
a superintelligent A.I.,
271
897545
3380
fakat oldukça zor.
15:12
but fairly difficult.
272
900925
2868
15:15
Here is the worry:
273
903793
1695
Endişemiz şu ki,
15:17
Making superintelligent A.I.
is a really hard challenge.
is a really hard challenge.
274
905488
4684
Yapay zeka yapabilmek
gerçekten zor.
gerçekten zor.
Daha zor olan ise ek görev
15:22
Making superintelligent A.I. that is safe
275
910172
2548
15:24
involves some additional
challenge on top of that.
challenge on top of that.
276
912720
2416
yani güvenli bir
yapay zeka yapmaktır.
yapay zeka yapmaktır.
15:28
The risk is that if somebody figures out
how to crack the first challenge
how to crack the first challenge
277
916216
3487
Risk ise, birisinin
ek görevi, yani tam güvenliği sağlamayı
15:31
without also having cracked
the additional challenge
the additional challenge
278
919703
3001
15:34
of ensuring perfect safety.
279
922704
1901
bulmadan yapay zekanın keşfedilmesidir.
15:37
So I think that we should
work out a solution
work out a solution
280
925375
3331
Fikrim şu ki, gerektiğinde
15:40
to the control problem in advance,
281
928706
2822
elimizde olması için
15:43
so that we have it available
by the time it is needed.
by the time it is needed.
282
931528
2660
tam kontrol problemin
cevabını aramalıyız.
cevabını aramalıyız.
15:46
Now it might be that we cannot solve
the entire control problem in advance
the entire control problem in advance
283
934768
3507
Tam kontrol sorunun da belki
çok ilerleyemeceğiz
çok ilerleyemeceğiz
15:50
because maybe some elements
can only be put in place
can only be put in place
284
938275
3024
çünkü bazı noktalar
sadece gerekli.
sadece gerekli.
15:53
once you know the details of the
architecture where it will be implemented.
architecture where it will be implemented.
285
941299
3997
Yapının detayları
ortada olduğunda çözülebilir.
ortada olduğunda çözülebilir.
15:57
But the more of the control problem
that we solve in advance,
that we solve in advance,
286
945296
3380
Ama tam kontrol
sorununda ne kadar ilerlersek
sorununda ne kadar ilerlersek
16:00
the better the odds that the transition
to the machine intelligence era
to the machine intelligence era
287
948676
4090
makina zekası
çağına geçişimiz de
çağına geçişimiz de
16:04
will go well.
288
952766
1540
o kadar güvenli olacak.
16:06
This to me looks like a thing
that is well worth doing
that is well worth doing
289
954306
4644
Bu bana yapılmaya değer
bir şey olarak geliyor
bir şey olarak geliyor
16:10
and I can imagine that if
things turn out okay,
things turn out okay,
290
958950
3332
ve olaylar istediğimiz
gibi giderse
gibi giderse
16:14
that people a million years from now
look back at this century
look back at this century
291
962282
4658
milyonlarca yıl sonra insanlar
yüzyılımıza baktığında
yüzyılımıza baktığında
16:18
and it might well be that they say that
the one thing we did that really mattered
the one thing we did that really mattered
292
966940
4002
büyük ihtimalle,
önemli olan tek şeyi
önemli olan tek şeyi
16:22
was to get this thing right.
293
970942
1567
yaptığımızı söyleyecekler.
16:24
Thank you.
294
972509
1689
Teşekkür ederim.
16:26
(Applause)
295
974198
2813
(Alkışlar)
ABOUT THE SPEAKER
Nick Bostrom - PhilosopherNick Bostrom asks big questions: What should we do, as individuals and as a species, to optimize our long-term prospects? Will humanity’s technological advancements ultimately destroy us?
Why you should listen
Philosopher Nick Bostrom envisioned a future full of human enhancement, nanotechnology and machine intelligence long before they became mainstream concerns. From his famous simulation argument -- which identified some striking implications of rejecting the Matrix-like idea that humans are living in a computer simulation -- to his work on existential risk, Bostrom approaches both the inevitable and the speculative using the tools of philosophy, probability theory, and scientific analysis.
Since 2005, Bostrom has led the Future of Humanity Institute, a research group of mathematicians, philosophers and scientists at Oxford University tasked with investigating the big picture for the human condition and its future. He has been referred to as one of the most important thinkers of our age.
Nick was honored as one of Foreign Policy's 2015 Global Thinkers .
His recent book Superintelligence advances the ominous idea that “the first ultraintelligent machine is the last invention that man need ever make.”
Nick Bostrom | Speaker | TED.com