TED@IBM
Grady Booch: Don't fear superintelligent AI
Grady Booch: Süper zeki yapay zekadan korkmayın
Filmed:
Readability: 4.7
2,866,438 views
Bilim adamı ve filozof Grady Booch diyor ki: "Yeni teknolojiler yeni endişeler ortaya çıkarır, ama çok güçlü ve hisleri olmayan bir yapay zekadan korkmamıza gerek yok". Booch süper zeki bilgisayarlar hakkındaki (bilim kurgular yüzünden oluşmuş) en kötü korkularımızı onlara değerlerimizi nasıl öğreteceğimizi açıklayarak, sadece programlamayarak, yatıştırıyor. Olası olmayan varoluşsal bir tehdit hakkında endişelenmek yerine, yapay zekanın insan hayatını nasıl geliştireceğini düşünmemize teşvik ediyor.
Grady Booch - Scientist, philosopher
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
IBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn. Full bio
Double-click the English transcript below to play the video.
00:12
When I was a kid,
I was the quintessential nerd.
I was the quintessential nerd.
0
760
3840
Çocukken tam bir inektim.
00:17
I think some of you were, too.
1
5320
2176
Galiba bazılarınız da inektiniz.
00:19
(Laughter)
2
7520
1216
(Kahkaha)
00:20
And you, sir, who laughed the loudest,
you probably still are.
you probably still are.
3
8760
3216
Ve siz beyefendi, en sesli gülen,
siz muhtemelen hala ineksiniz.
siz muhtemelen hala ineksiniz.
00:24
(Laughter)
4
12000
2256
(Kahkaha)
00:26
I grew up in a small town
in the dusty plains of north Texas,
in the dusty plains of north Texas,
5
14280
3496
Kuzey Teksas'ın tozlu düz arazilerinde
küçük bir kasabada büyüdüm.
küçük bir kasabada büyüdüm.
00:29
the son of a sheriff
who was the son of a pastor.
who was the son of a pastor.
6
17800
3336
Babam şerif,
büyükbabam ise bir papazdı.
büyükbabam ise bir papazdı.
00:33
Getting into trouble was not an option.
7
21160
1920
Başımı belaya sokmak
hiç kaçınılmaz değildi.
hiç kaçınılmaz değildi.
00:36
And so I started reading
calculus books for fun.
calculus books for fun.
8
24040
3256
Bu yüzden öylesine matematik
kitapları okumaya başladım.
kitapları okumaya başladım.
00:39
(Laughter)
9
27320
1536
(Kahkaha)
00:40
You did, too.
10
28880
1696
Sen de okudun.
00:42
That led me to building a laser
and a computer and model rockets,
and a computer and model rockets,
11
30600
3736
Bu okumalar lazer, bilgisayar ve
maket roketler yapmamı sağladı.
maket roketler yapmamı sağladı.
00:46
and that led me to making
rocket fuel in my bedroom.
rocket fuel in my bedroom.
12
34360
3000
Bunlar ise roket yakıtı yapmamı sağladı.
00:49
Now, in scientific terms,
13
37960
3656
Şimdi, bilimsel olarak
00:53
we call this a very bad idea.
14
41640
3256
biz buna "çok kötü bir fikir" deriz.
00:56
(Laughter)
15
44920
1216
(Kahkaha)
00:58
Around that same time,
16
46160
2176
O zamanlarda,
01:00
Stanley Kubrick's "2001: A Space Odyssey"
came to the theaters,
came to the theaters,
17
48360
3216
Stanley Kubrick'in filmi
"2001: Uzay Macerası" sinemalara gelmişti,
"2001: Uzay Macerası" sinemalara gelmişti,
01:03
and my life was forever changed.
18
51600
2200
ve benim hayatım sonsuza kadar değişmişti.
01:06
I loved everything about that movie,
19
54280
2056
Bu filmi çok sevmiştim,
01:08
especially the HAL 9000.
20
56360
2536
özellikle HAL 9000'i.
01:10
Now, HAL was a sentient computer
21
58920
2056
HAL, uzay gemisi Keşif'i Dünya'dan
01:13
designed to guide the Discovery spacecraft
22
61000
2456
Jüpiter'e götürmek için tasarlanmış
01:15
from the Earth to Jupiter.
23
63480
2536
duyguları olan bir bilgisayar.
01:18
HAL was also a flawed character,
24
66040
2056
HAL ayrıca kusurlu bir karaktere sahip.
01:20
for in the end he chose
to value the mission over human life.
to value the mission over human life.
25
68120
4280
Çünkü sonunda, görevi
insan hayatına tercih etmişti.
insan hayatına tercih etmişti.
01:24
Now, HAL was a fictional character,
26
72840
2096
HAL uydurma bir karakter,
01:26
but nonetheless he speaks to our fears,
27
74960
2656
ama yine de o korkularımızı simgeliyor,
01:29
our fears of being subjugated
28
77640
2096
İnsanlığımızı umursamayan
01:31
by some unfeeling, artificial intelligence
29
79760
3016
duygusuz bir yapay zeka tarafından
01:34
who is indifferent to our humanity.
30
82800
1960
kontrol altına alınma korkumuz.
01:37
I believe that such fears are unfounded.
31
85880
2576
Bu tür korkuların yersiz
olduğuna inanıyorum.
olduğuna inanıyorum.
01:40
Indeed, we stand at a remarkable time
32
88480
2696
Gerçekten de insan tarihinde
01:43
in human history,
33
91200
1536
olağanüstü bir zamandayız.
01:44
where, driven by refusal to accept
the limits of our bodies and our minds,
the limits of our bodies and our minds,
34
92760
4976
Vücudumuzun ve aklımızın
limitleri olduğunu kabul etmeyişimizle
limitleri olduğunu kabul etmeyişimizle
01:49
we are building machines
35
97760
1696
Yaşam deneyimini
01:51
of exquisite, beautiful
complexity and grace
complexity and grace
36
99480
3616
hayallerin ötesinde geliştirecek
01:55
that will extend the human experience
37
103120
2056
üstün bir karmaşıklık ve zarafete sahip
01:57
in ways beyond our imagining.
38
105200
1680
makineler üretiyoruz.
01:59
After a career that led me
from the Air Force Academy
from the Air Force Academy
39
107720
2576
Beni hava harp okulundan
hava komutasına, oradan da
hava komutasına, oradan da
02:02
to Space Command to now,
40
110320
1936
şimdiye getiren kariyerden sonra
02:04
I became a systems engineer,
41
112280
1696
sistem mühendisi oldum.
02:06
and recently I was drawn
into an engineering problem
into an engineering problem
42
114000
2736
Geçenlerde NASA'nın Mars göreviyle ilgili
02:08
associated with NASA's mission to Mars.
43
116760
2576
bir mühendislik probleminde yer aldım.
02:11
Now, in space flights to the Moon,
44
119360
2496
Ay'a giden uzay uçuşlarında
02:13
we can rely upon
mission control in Houston
mission control in Houston
45
121880
3136
uçuşla ilgili her şeyde
02:17
to watch over all aspects of a flight.
46
125040
1976
Houston'daki görev merkezine bağlıyız.
02:19
However, Mars is 200 times further away,
47
127040
3536
Fakat, Mars 200 kat uzakta.
02:22
and as a result it takes
on average 13 minutes
on average 13 minutes
48
130600
3216
Sonuç olarak, bir sinyalin
Dünya'dan Mars'a ulaşması
Dünya'dan Mars'a ulaşması
02:25
for a signal to travel
from the Earth to Mars.
from the Earth to Mars.
49
133840
3136
ortalama 13 dakika sürüyor.
02:29
If there's trouble,
there's not enough time.
there's not enough time.
50
137000
3400
Bir sorun varsa,
yeteri kadar zaman yok.
yeteri kadar zaman yok.
02:32
And so a reasonable engineering solution
51
140840
2496
Makul bir mühendislik çözümü sunmak için
02:35
calls for us to put mission control
52
143360
2576
görev kontrolü uzay aracı Orion'ın
02:37
inside the walls of the Orion spacecraft.
53
145960
3016
içine koymamız gerekir.
02:41
Another fascinating idea
in the mission profile
in the mission profile
54
149000
2896
Görev profilindeki başka
bir enteresan fikir
bir enteresan fikir
02:43
places humanoid robots
on the surface of Mars
on the surface of Mars
55
151920
2896
insanlar Mars'a varmadan önce,
02:46
before the humans themselves arrive,
56
154840
1856
Mars'ın yüzeyine insansı robotlar
02:48
first to build facilities
57
156720
1656
gönderip tesisler kurdurmak,
02:50
and later to serve as collaborative
members of the science team.
members of the science team.
58
158400
3360
sonra onları araştırma ekibinin
ortak mensubu yapmak.
ortak mensubu yapmak.
02:55
Now, as I looked at this
from an engineering perspective,
from an engineering perspective,
59
163400
2736
Bu fikre bir mühendisin
bakış açısından baktığımda,
bakış açısından baktığımda,
02:58
it became very clear to me
that what I needed to architect
that what I needed to architect
60
166160
3176
tasarlamam gereken şeyin
akıllı, iş birliği yapabilen,
akıllı, iş birliği yapabilen,
03:01
was a smart, collaborative,
61
169360
2176
sosyal zekaya sahip
bir yapay zeka olduğu
bir yapay zeka olduğu
03:03
socially intelligent
artificial intelligence.
artificial intelligence.
62
171560
2376
çok açık ve netti.
03:05
In other words, I needed to build
something very much like a HAL
something very much like a HAL
63
173960
4296
Başka deyişle, HAL'e çok benzeyen
bir şey yapmam gerekti.
bir şey yapmam gerekti.
03:10
but without the homicidal tendencies.
64
178280
2416
ama adam öldürme meyili olmayan bir HAL.
03:12
(Laughter)
65
180720
1360
(Kahkaha)
03:14
Let's pause for a moment.
66
182920
1816
Biraz ara verelim.
03:16
Is it really possible to build
an artificial intelligence like that?
an artificial intelligence like that?
67
184760
3896
Böyle bir yapay zeka yapmak
gerçekten mümkün mü?
gerçekten mümkün mü?
03:20
Actually, it is.
68
188680
1456
Aslında mümkün.
03:22
In many ways,
69
190160
1256
Bir çok yönüyle,
03:23
this is a hard engineering problem
70
191440
1976
yapay zeka ilkeleriyle, bu zor
03:25
with elements of AI,
71
193440
1456
bir mühendislik problemidir,
03:26
not some wet hair ball of an AI problem
that needs to be engineered.
that needs to be engineered.
72
194920
4696
mühendisliği yapılacak
basit bir yapay zeka problemi değil.
basit bir yapay zeka problemi değil.
03:31
To paraphrase Alan Turing,
73
199640
2656
Alan Turing'in dediği gibi,
03:34
I'm not interested
in building a sentient machine.
in building a sentient machine.
74
202320
2376
Duyguları olan bir makine
yapmakla ilgilenmiyorum.
yapmakla ilgilenmiyorum.
03:36
I'm not building a HAL.
75
204720
1576
Bir HAL yapmıyorum.
03:38
All I'm after is a simple brain,
76
206320
2416
Tek yapmak istediğim,
03:40
something that offers
the illusion of intelligence.
the illusion of intelligence.
77
208760
3120
zeka yanılsaması gösteren basit bir beyin.
03:45
The art and the science of computing
have come a long way
have come a long way
78
213000
3136
HAL ilk gösterildiğinden beri,
programlama sanatı ve bilimi
programlama sanatı ve bilimi
03:48
since HAL was onscreen,
79
216160
1496
uzun yol kat etti.
03:49
and I'd imagine if his inventor
Dr. Chandra were here today,
Dr. Chandra were here today,
80
217680
3216
HAL'in yaratıcısı eğer burada olsaydı,
03:52
he'd have a whole lot of questions for us.
81
220920
2336
eminim bize soracağı çok soru olurdu.
03:55
Is it really possible for us
82
223280
2096
"Milyonlarca cihazdan oluşan bir sistemin
03:57
to take a system of millions
upon millions of devices,
upon millions of devices,
83
225400
4016
veri akışını okuyup
onların hata ve eylemlerini
onların hata ve eylemlerini
04:01
to read in their data streams,
84
229440
1456
önceden tahmin etmek
04:02
to predict their failures
and act in advance?
and act in advance?
85
230920
2256
gerçekten mümkün mü?"
04:05
Yes.
86
233200
1216
Evet.
04:06
Can we build systems that converse
with humans in natural language?
with humans in natural language?
87
234440
3176
"İnsanlarla doğal dilde sohbet edebilen
sistemler yapabilir miyiz?"
sistemler yapabilir miyiz?"
04:09
Yes.
88
237640
1216
Evet.
04:10
Can we build systems
that recognize objects, identify emotions,
that recognize objects, identify emotions,
89
238880
2976
"Objeleri ve duyguları
tanımlayabilen, duygusal davranan
tanımlayabilen, duygusal davranan
04:13
emote themselves,
play games and even read lips?
play games and even read lips?
90
241880
3376
oyun oynayabilen ve hatta dudak
okuyabilen sistemler yapabilir miyiz?
okuyabilen sistemler yapabilir miyiz?
04:17
Yes.
91
245280
1216
Evet.
04:18
Can we build a system that sets goals,
92
246520
2136
''Hedefler koyup
o hedefleri gerçekleştirmek
o hedefleri gerçekleştirmek
04:20
that carries out plans against those goals
and learns along the way?
and learns along the way?
93
248680
3616
için planlar yapan ve bu esnada
öğrenen bir sistem yapabilir miyiz?''
öğrenen bir sistem yapabilir miyiz?''
04:24
Yes.
94
252320
1216
Evet.
04:25
Can we build systems
that have a theory of mind?
that have a theory of mind?
95
253560
3336
"Akıl teorisi olan sistemler
yapabilir miyiz?"
yapabilir miyiz?"
04:28
This we are learning to do.
96
256920
1496
İşte bunu yapmayı öğreniyoruz.
04:30
Can we build systems that have
an ethical and moral foundation?
an ethical and moral foundation?
97
258440
3480
"Etik ve ahlaki temeli olan
sistemler yapabilir miyiz?"
sistemler yapabilir miyiz?"
04:34
This we must learn how to do.
98
262480
2040
İşte bunu öğrenmek zorundayız.
04:37
So let's accept for a moment
99
265360
1376
Farz edelim ki
04:38
that it's possible to build
such an artificial intelligence
such an artificial intelligence
100
266760
2896
bu ve benzeri amaçlar için bu tür
04:41
for this kind of mission and others.
101
269680
2136
bir yapay zeka geliştirmek mümkün olsun.
04:43
The next question
you must ask yourself is,
you must ask yourself is,
102
271840
2536
Kendinize sormanız gereken
ilk soru şu olmalı:
ilk soru şu olmalı:
04:46
should we fear it?
103
274400
1456
Bundan korkmalı mıyız?
04:47
Now, every new technology
104
275880
1976
Her yeni teknoloji
04:49
brings with it
some measure of trepidation.
some measure of trepidation.
105
277880
2896
korkuyu da kendiyle birlikte getirir.
04:52
When we first saw cars,
106
280800
1696
Arabaları ilk gördüğümüzde
04:54
people lamented that we would see
the destruction of the family.
the destruction of the family.
107
282520
4016
insanlar ailenin yok oluşunu
göreceğimizden yakındılar.
göreceğimizden yakındılar.
04:58
When we first saw telephones come in,
108
286560
2696
Telefonlar hayatımıza girdiğinde
05:01
people were worried it would destroy
all civil conversation.
all civil conversation.
109
289280
2896
herkes bunun medeni konuşmayı
tahrip edeceğinden endişeliydi.
tahrip edeceğinden endişeliydi.
05:04
At a point in time we saw
the written word become pervasive,
the written word become pervasive,
110
292200
3936
Yazılı kelimelerin kalıcı
olduğunu anladığımız zaman
olduğunu anladığımız zaman
05:08
people thought we would lose
our ability to memorize.
our ability to memorize.
111
296160
2496
insanlar ezber yeteneğimizin
kaybolacağını sandılar.
kaybolacağını sandılar.
05:10
These things are all true to a degree,
112
298680
2056
Bütün bunlar bir noktaya kadar doğru
05:12
but it's also the case
that these technologies
that these technologies
113
300760
2416
Fakat bu teknolojilerin
yaşam deneyimimizi
yaşam deneyimimizi
05:15
brought to us things
that extended the human experience
that extended the human experience
114
303200
3376
inanılmaz şekillerde geliştirecek şeyler
05:18
in some profound ways.
115
306600
1880
getirdiği de bir gerçek.
05:21
So let's take this a little further.
116
309840
2280
Hadi bunu bir adım daha öteye taşıyalım.
05:25
I do not fear the creation
of an AI like this,
of an AI like this,
117
313120
4736
Bu tür bir yapay zekanın
yaratılmasından korkmuyorum,
yaratılmasından korkmuyorum,
05:29
because it will eventually
embody some of our values.
embody some of our values.
118
317880
3816
çünkü zamanla yapay zeka
bazı değerlerimizi cisimleştirecek.
bazı değerlerimizi cisimleştirecek.
05:33
Consider this: building a cognitive system
is fundamentally different
is fundamentally different
119
321720
3496
Şunu düşünün: Bilişsel bir sistem yapmak
geleneksel yazılım yoğunluklu
geleneksel yazılım yoğunluklu
05:37
than building a traditional
software-intensive system of the past.
software-intensive system of the past.
120
325240
3296
bir sistem yapmaktan temel olarak farklı.
05:40
We don't program them. We teach them.
121
328560
2456
Onları programlamıyoruz.
Onlara öğretiyoruz.
Onlara öğretiyoruz.
05:43
In order to teach a system
how to recognize flowers,
how to recognize flowers,
122
331040
2656
Bir sisteme çiçekleri nasıl
tanıyacağını öğretmek için
tanıyacağını öğretmek için
05:45
I show it thousands of flowers
of the kinds I like.
of the kinds I like.
123
333720
3016
ona sevdiğim türde
binlerce çiçek gösteririm.
binlerce çiçek gösteririm.
05:48
In order to teach a system
how to play a game --
how to play a game --
124
336760
2256
Bir sisteme oyun oynamayı
öğretmek için
öğretmek için
05:51
Well, I would. You would, too.
125
339040
1960
Öğretirdim, sen de öğretirdin.
05:54
I like flowers. Come on.
126
342600
2040
Çiçekleri severim, hadi ama.
05:57
To teach a system
how to play a game like Go,
how to play a game like Go,
127
345440
2856
Bir sisteme Go gibi bir oyunu
oynamayı öğretmek için
oynamayı öğretmek için
06:00
I'd have it play thousands of games of Go,
128
348320
2056
Ona binlerce Go oynattırırdım.
06:02
but in the process I also teach it
129
350400
1656
Fakat bu süreçte ona ayrıca
06:04
how to discern
a good game from a bad game.
a good game from a bad game.
130
352080
2416
iyi oyunu kötü oyundan
ayırmayı da öğretirim.
ayırmayı da öğretirim.
06:06
If I want to create an artificially
intelligent legal assistant,
intelligent legal assistant,
131
354520
3696
Yapay zekası olan bir
avukat yardımcısı yaratmak istersem,
avukat yardımcısı yaratmak istersem,
06:10
I will teach it some corpus of law
132
358240
1776
ona biraz hukuk dağarcığı öğretirim,
06:12
but at the same time I am fusing with it
133
360040
2856
ama aynı zamanda
hukukun bir parçası olan
hukukun bir parçası olan
06:14
the sense of mercy and justice
that is part of that law.
that is part of that law.
134
362920
2880
merhamet ve adalet
duygusunu da aşılarım.
duygusunu da aşılarım.
06:18
In scientific terms,
this is what we call ground truth,
this is what we call ground truth,
135
366560
2976
Bilimsel olarak söyleyecek olursam,
buna "kesin referans" deriz
buna "kesin referans" deriz
06:21
and here's the important point:
136
369560
2016
İşte önemli nokta şu:
06:23
in producing these machines,
137
371600
1456
Bu makineleri üretirken
06:25
we are therefore teaching them
a sense of our values.
a sense of our values.
138
373080
3416
onlara kendi değerlerimizden
bir parça da öğretiriz.
bir parça da öğretiriz.
06:28
To that end, I trust
an artificial intelligence
an artificial intelligence
139
376520
3136
Bu noktaya kadar, daha çok olmasa da
yapay zekaya iyi yetişmiş
yapay zekaya iyi yetişmiş
06:31
the same, if not more,
as a human who is well-trained.
as a human who is well-trained.
140
379680
3640
bir insana güvendiğim kadar güvenirim.
06:36
But, you may ask,
141
384080
1216
Fakat şunu sorabilirsiniz:
06:37
what about rogue agents,
142
385320
2616
Ya kötüye kullanan 3. partiler?
06:39
some well-funded
nongovernment organization?
nongovernment organization?
143
387960
3336
bazı iyi finanse edilmiş
sivil toplum kuruluşları?
sivil toplum kuruluşları?
06:43
I do not fear an artificial intelligence
in the hand of a lone wolf.
in the hand of a lone wolf.
144
391320
3816
Yalnız bir kurdun elindeki
yapay zekadan korkmam.
yapay zekadan korkmam.
06:47
Clearly, we cannot protect ourselves
against all random acts of violence,
against all random acts of violence,
145
395160
4536
Açıkçası, kendimizi bütün rastgele
şiddet olaylarına karşı koruyamayız.
şiddet olaylarına karşı koruyamayız.
06:51
but the reality is such a system
146
399720
2136
Ancak gerçeklik öyle bir sistem ki
06:53
requires substantial training
and subtle training
and subtle training
147
401880
3096
insan kaynaklarının çok ötesinde
oldukça büyük
oldukça büyük
06:57
far beyond the resources of an individual.
148
405000
2296
ve kıvrak zekaya sahip
bir eğitime ihtiyaç duyar.
bir eğitime ihtiyaç duyar.
06:59
And furthermore,
149
407320
1216
Dahası...
07:00
it's far more than just injecting
an internet virus to the world,
an internet virus to the world,
150
408560
3256
Bir düğmeye basıp milyonlarca
yere yayılan ve
yere yayılan ve
07:03
where you push a button,
all of a sudden it's in a million places
all of a sudden it's in a million places
151
411840
3096
laptopların her yerde patlamasına
yol açan bir internet virüsü
yol açan bir internet virüsü
07:06
and laptops start blowing up
all over the place.
all over the place.
152
414960
2456
sızdırmaktan çok daha fazlası.
07:09
Now, these kinds of substances
are much larger,
are much larger,
153
417440
2816
Bu tür maddeler çok daha büyük,
07:12
and we'll certainly see them coming.
154
420280
1715
ve kesinlikle bunlara tanık olacağız.
07:14
Do I fear that such
an artificial intelligence
an artificial intelligence
155
422520
3056
Yapay zekanın bütün insanlığı
07:17
might threaten all of humanity?
156
425600
1960
tehdit edebileceğinden korkuyor muyum?
07:20
If you look at movies
such as "The Matrix," "Metropolis,"
such as "The Matrix," "Metropolis,"
157
428280
4376
"The Matrix", "Metropolis", "Terminator"
gibi filmlere ya da
gibi filmlere ya da
07:24
"The Terminator,"
shows such as "Westworld,"
shows such as "Westworld,"
158
432680
3176
"Westworld" gibi dizilere bakarsanız
07:27
they all speak of this kind of fear.
159
435880
2136
onlar hep bu tür bir korkudan bahsederler.
07:30
Indeed, in the book "Superintelligence"
by the philosopher Nick Bostrom,
by the philosopher Nick Bostrom,
160
438040
4296
Gerçekten de filozof Nick Bostrom
"Süper Zeka" kitabında
"Süper Zeka" kitabında
07:34
he picks up on this theme
161
442360
1536
bu konudan bahseder.
07:35
and observes that a superintelligence
might not only be dangerous,
might not only be dangerous,
162
443920
4016
Süper zekanın sadece tehlikeli
olabileceğini değil
olabileceğini değil
07:39
it could represent an existential threat
to all of humanity.
to all of humanity.
163
447960
3856
ayrıca varoluşsal bir tehdit
oluşturabileceğini gözlemliyor.
oluşturabileceğini gözlemliyor.
07:43
Dr. Bostrom's basic argument
164
451840
2216
Dr. Bostrom'un temel argümanı şöyle:
07:46
is that such systems will eventually
165
454080
2736
Bu sistemler zamanla o kadar çok
07:48
have such an insatiable
thirst for information
thirst for information
166
456840
3256
bilgiye doyumsuzca aç olacaklar ki
07:52
that they will perhaps learn how to learn
167
460120
2896
belki de öğrenmeyi öğrenecekler
07:55
and eventually discover
that they may have goals
that they may have goals
168
463040
2616
ve zamanla insanların
ihtiyaçlarıyla çelişen
ihtiyaçlarıyla çelişen
07:57
that are contrary to human needs.
169
465680
2296
amaçlara sahip olacaklar.
08:00
Dr. Bostrom has a number of followers.
170
468000
1856
Dr. Bostrom'un bir çok takipçisi var.
08:01
He is supported by people
such as Elon Musk and Stephen Hawking.
such as Elon Musk and Stephen Hawking.
171
469880
4320
Elon Musk ve Stephen Hawking gibi
insanlar tarafından destekleniyor.
insanlar tarafından destekleniyor.
08:06
With all due respect
172
474880
2400
Bu parlak beyinlere
08:10
to these brilliant minds,
173
478160
2016
saygısızlık etmek istemem ama
08:12
I believe that they
are fundamentally wrong.
are fundamentally wrong.
174
480200
2256
onların aslında hatalı
olduğuna inanıyorum.
olduğuna inanıyorum.
08:14
Now, there are a lot of pieces
of Dr. Bostrom's argument to unpack,
of Dr. Bostrom's argument to unpack,
175
482480
3176
Dr. Bostrom'un argümanlarının
ayrıntılarına inmek isterdim ama
ayrıntılarına inmek isterdim ama
08:17
and I don't have time to unpack them all,
176
485680
2136
o kadar zamanım yok.
08:19
but very briefly, consider this:
177
487840
2696
Şunu çok kısaca bir düşünün:
08:22
super knowing is very different
than super doing.
than super doing.
178
490560
3736
Süper bilmek süper yapmaktan çok farklı.
08:26
HAL was a threat to the Discovery crew
179
494320
1896
HAL Keşif'i bütün yönleriyle
08:28
only insofar as HAL commanded
all aspects of the Discovery.
all aspects of the Discovery.
180
496240
4416
komuta ettiği sürece,
o Keşif tayfasına karşı bir tehditti.
o Keşif tayfasına karşı bir tehditti.
08:32
So it would have to be
with a superintelligence.
with a superintelligence.
181
500680
2496
Bu yüzden onun süper
zekaya sahip olması gerekir.
zekaya sahip olması gerekir.
08:35
It would have to have dominion
over all of our world.
over all of our world.
182
503200
2496
Onun bütün dünya üzerinde
egemenliği olurdu.
egemenliği olurdu.
08:37
This is the stuff of Skynet
from the movie "The Terminator"
from the movie "The Terminator"
183
505720
2816
Bu The Terminator'deki Skynet şeyi işte,
08:40
in which we had a superintelligence
184
508560
1856
İnsan iradesi üzerinde kontrolü olan,
08:42
that commanded human will,
185
510440
1376
dünyanın her bir köşesindeki
08:43
that directed every device
that was in every corner of the world.
that was in every corner of the world.
186
511840
3856
her bir cihazı yöneten
bir süper zeka.
bir süper zeka.
08:47
Practically speaking,
187
515720
1456
Gerçekçi konuşursak,
08:49
it ain't gonna happen.
188
517200
2096
bu olmayacak.
08:51
We are not building AIs
that control the weather,
that control the weather,
189
519320
3056
Bizler havayı kontrol eden,
zamanı yönlendiren,
zamanı yönlendiren,
08:54
that direct the tides,
190
522400
1336
kaprisli, karmakarışık
08:55
that command us
capricious, chaotic humans.
capricious, chaotic humans.
191
523760
3376
insanları komuta eden
yapay zekalar yapmıyoruz.
yapay zekalar yapmıyoruz.
08:59
And furthermore, if such
an artificial intelligence existed,
an artificial intelligence existed,
192
527160
3896
Buna ek olarak,
böyle bir yapay zeka olsaydı,
böyle bir yapay zeka olsaydı,
09:03
it would have to compete
with human economies,
with human economies,
193
531080
2936
insan ekonomisiyle yarışmak zorunda
olurdu, dolayısıyla
olurdu, dolayısıyla
09:06
and thereby compete for resources with us.
194
534040
2520
kaynaklar için bizimle yarışırlardı.
09:09
And in the end --
195
537200
1216
Sonunda
09:10
don't tell Siri this --
196
538440
1240
Siri'ye şunu söylemeyin:
09:12
we can always unplug them.
197
540440
1376
"Hiç olmadı fişini çekeriz."
09:13
(Laughter)
198
541840
2120
(Kahkaha)
09:17
We are on an incredible journey
199
545360
2456
Makinelerimizle mükemmel bir
09:19
of coevolution with our machines.
200
547840
2496
evrim birlikteliği yolculuğundayız.
09:22
The humans we are today
201
550360
2496
Bugünkü olduğumuz insan
09:24
are not the humans we will be then.
202
552880
2536
o zamankiyle aynı olmayacak.
09:27
To worry now about the rise
of a superintelligence
of a superintelligence
203
555440
3136
Süper zekanın yükselişi hakkında
şimdi bu kadar endişelenmemiz
şimdi bu kadar endişelenmemiz
09:30
is in many ways a dangerous distraction
204
558600
3056
bir çok yönüyle tehlikeli bir
dikkat dağınıklığıdır,
dikkat dağınıklığıdır,
09:33
because the rise of computing itself
205
561680
2336
çünkü programlamanın yükselişi
09:36
brings to us a number
of human and societal issues
of human and societal issues
206
564040
3016
bize çözmemiz gereken bir çok
insancıl ve toplumsal
insancıl ve toplumsal
09:39
to which we must now attend.
207
567080
1640
sorunlar getirecek.
09:41
How shall I best organize society
208
569360
2816
İnsanların iş gücüne olan
ihtiyaç azaldığında
ihtiyaç azaldığında
09:44
when the need for human labor diminishes?
209
572200
2336
toplumda düzeni en iyi nasıl sağlarım:
09:46
How can I bring understanding
and education throughout the globe
and education throughout the globe
210
574560
3816
Dünya geneline nasıl anlayış ve
eğitim getiririm ve yine de
eğitim getiririm ve yine de
09:50
and still respect our differences?
211
578400
1776
farklılıklarımıza saygı gösteririm?
09:52
How might I extend and enhance human life
through cognitive healthcare?
through cognitive healthcare?
212
580200
4256
İnsan hayatını bilişsel sağlık hizmeti ile
nasıl genişletebilir ve geliştirebilirim?
nasıl genişletebilir ve geliştirebilirim?
09:56
How might I use computing
213
584480
2856
Bizi yıldızlara götürecek programlamayı
09:59
to help take us to the stars?
214
587360
1760
nasıl kullabilirim?
10:01
And that's the exciting thing.
215
589760
2040
İşte bu heyecan verici bir şey.
10:04
The opportunities to use computing
216
592400
2336
İnsan deneyimini ilerletmek için
10:06
to advance the human experience
217
594760
1536
programlama kullanma fırsatı
10:08
are within our reach,
218
596320
1416
elimizde
10:09
here and now,
219
597760
1856
Bu aralar
10:11
and we are just beginning.
220
599640
1680
daha yeni başlıyoruz.
10:14
Thank you very much.
221
602280
1216
Çok teşekkürler.
10:15
(Applause)
222
603520
4286
(Alkış)
ABOUT THE SPEAKER
Grady Booch - Scientist, philosopherIBM's Grady Booch is shaping the future of cognitive computing by building intelligent systems that can reason and learn.
Why you should listen
When he was 13, Grady Booch saw 2001: A Space Odyssey in the theaters for the first time. Ever since, he's been trying to build Hal (albeit one without the homicidal tendencies). A scientist, storyteller and philosopher, Booch is Chief Scientist for Software Engineering as well as Chief Scientist for Watson/M at IBM Research, where he leads IBM's research and development for embodied cognition. Having originated the term and the practice of object-oriented design, he is best known for his work in advancing the fields of software engineering and software architecture.
A co-author of the Unified Modeling Language (UML), a founding member of the Agile Allianc, and a founding member of the Hillside Group, Booch has published six books and several hundred technical articles, including an ongoing column for IEEE Software. He's also a trustee for the Computer History Museum, an IBM Fellow, an ACM Fellow and IEEE Fellow. He has been awarded the Lovelace Medal and has given the Turing Lecture for the BCS, and was recently named an IEEE Computer Pioneer.
Booch is currently deeply involved in the development of cognitive systems and is also developing a major trans-media documentary for public broadcast on the intersection of computing and the human experience.
Grady Booch | Speaker | TED.com