TED2018
Max Tegmark: How to get empowered, not overpowered, by AI
Max Tegmark: Wie wir durch KI gestärkt und nicht überwältigt werden
Filmed:
Readability: 5
1,409,007 views
Viele KI-Forscher erwarten, dass die KI in wenigen Jahrzehnten bei allen Tätigkeiten und Jobs besser sein wird als die Menschen und dadurch eine Zukunft ermöglicht, die nicht mehr durch die Grenzen unserer Intelligenz, sondern nur noch durch die Gesetze der Physik limitiert ist. Der Physiker und KI-Forscher Max Tegmark vom MIT trennt die realen Chancen und Bedrohungen von den Mythen und beschreibt die konkreten Schritte, mit denen wir sicherstellen müssen, dass KI am Ende das Beste sein wird, was der Menschheit je widerfahren ist -- und nicht das Schlimmste.
Max Tegmark - Scientist, author
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Max Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder. Full bio
Double-click the English transcript below to play the video.
00:12
After 13.8 billion years
of cosmic history,
of cosmic history,
0
760
4416
Nach 13,8 Milliarden Jahren
kosmischer Geschichte
kosmischer Geschichte
00:17
our universe has woken up
1
5200
2096
ist unser Universum aufgewacht
00:19
and become aware of itself.
2
7320
1520
und sich seiner selbst bewusst geworden.
00:21
From a small blue planet,
3
9480
1936
Von einem kleinen blauen Planeten aus
00:23
tiny, conscious parts of our universe
have begun gazing out into the cosmos
have begun gazing out into the cosmos
4
11440
4136
haben winzige, bewusste
Teile unseres Universums begonnen,
Teile unseres Universums begonnen,
mit Teleskopen in den Kosmos zu schauen
00:27
with telescopes,
5
15600
1376
und etwas Demütigendes entdeckt.
00:29
discovering something humbling.
6
17000
1480
Nämlich, dass das Universum sehr viel
größer ist, als unsere Vorfahren glaubten,
größer ist, als unsere Vorfahren glaubten,
00:31
We've discovered that our universe
is vastly grander
is vastly grander
7
19320
2896
00:34
than our ancestors imagined
8
22240
1336
und das Leben eine fast
unmerklich kleine Störung
unmerklich kleine Störung
00:35
and that life seems to be an almost
imperceptibly small perturbation
imperceptibly small perturbation
9
23600
4256
00:39
on an otherwise dead universe.
10
27880
1720
eines sonst toten Universums
zu sein scheint.
zu sein scheint.
Aber wir haben auch
etwas Inspirierendes entdeckt,
etwas Inspirierendes entdeckt,
00:42
But we've also discovered
something inspiring,
something inspiring,
11
30320
3016
00:45
which is that the technology
we're developing has the potential
we're developing has the potential
12
33360
2976
nämlich, dass unsere Technologie
das Potenzial hat,
das Potenzial hat,
das Leben wie nie zuvor
florieren zu lassen.
florieren zu lassen.
00:48
to help life flourish like never before,
13
36360
2856
00:51
not just for centuries
but for billions of years,
but for billions of years,
14
39240
3096
Nicht nur für Jahrhunderte,
sondern für Milliarden von Jahren.
sondern für Milliarden von Jahren.
00:54
and not just on earth but throughout
much of this amazing cosmos.
much of this amazing cosmos.
15
42360
4120
Nicht nur auf der Erde,
sondern in einem Großteil des Kosmos.
sondern in einem Großteil des Kosmos.
00:59
I think of the earliest life as "Life 1.0"
16
47680
3336
Ich denke an erstes Leben als "Life 1.0",
01:03
because it was really dumb,
17
51040
1376
weil es wirklich dumm war,
01:04
like bacteria, unable to learn
anything during its lifetime.
anything during its lifetime.
18
52440
4296
wie etwa Bakterien, unfähig,
irgendetwas in seinem Leben zu lernen.
irgendetwas in seinem Leben zu lernen.
01:08
I think of us humans as "Life 2.0"
because we can learn,
because we can learn,
19
56760
3376
Ich denke an uns Menschen als "Life 2.0",
weil wir lernen können.
weil wir lernen können.
01:12
which we in nerdy, geek speak,
20
60160
1496
Etwas langweilig gesagt,
01:13
might think of as installing
new software into our brains,
new software into our brains,
21
61680
3216
entspricht das der Installation
neuer Software in unser Gehirn
neuer Software in unser Gehirn
01:16
like languages and job skills.
22
64920
2120
wie etwa Sprachen
oder berufliche Fertigkeiten.
oder berufliche Fertigkeiten.
01:19
"Life 3.0," which can design not only
its software but also its hardware
its software but also its hardware
23
67680
4296
"Leben 3.0", das neben seiner Software
auch seine Hardware entwerfen kann,
auch seine Hardware entwerfen kann,
existiert natürlich noch nicht.
01:24
of course doesn't exist yet.
24
72000
1656
01:25
But perhaps our technology
has already made us "Life 2.1,"
has already made us "Life 2.1,"
25
73680
3776
Aber vielleicht sind wir mit unserer
Technologie auch schon bei "Life 2.1",
Technologie auch schon bei "Life 2.1",
01:29
with our artificial knees,
pacemakers and cochlear implants.
pacemakers and cochlear implants.
26
77480
4336
mit unseren künstlichen Knien,
Schrittmachern und Cochlea-Implantaten.
Schrittmachern und Cochlea-Implantaten.
01:33
So let's take a closer look
at our relationship with technology, OK?
at our relationship with technology, OK?
27
81840
3880
Sehen wir uns also unsere Beziehung
zur Technologie genauer an:
zur Technologie genauer an:
01:38
As an example,
28
86800
1216
Die Mondmission Apollo 11 etwa
01:40
the Apollo 11 moon mission
was both successful and inspiring,
was both successful and inspiring,
29
88040
5296
war sowohl erfolgreich
als auch inspirierend
als auch inspirierend
und zeigte, dass wir Menschen
bei weisem Umgang mit Technologie
bei weisem Umgang mit Technologie
01:45
showing that when we humans
use technology wisely,
use technology wisely,
30
93360
3016
01:48
we can accomplish things
that our ancestors could only dream of.
that our ancestors could only dream of.
31
96400
3936
Dinge erreichen können, von denen
unsere Vorfahren nur träumen konnten.
unsere Vorfahren nur träumen konnten.
01:52
But there's an even more inspiring journey
32
100360
2976
Aber es gibt eine
noch inspirierendere Reise,
noch inspirierendere Reise,
01:55
propelled by something
more powerful than rocket engines,
more powerful than rocket engines,
33
103360
2680
angetrieben von etwas,
das mächtiger ist als Raketentriebwerke,
das mächtiger ist als Raketentriebwerke,
wo die Passagiere nicht nur
drei Astronauten,
drei Astronauten,
01:59
where the passengers
aren't just three astronauts
aren't just three astronauts
34
107200
2336
sondern die ganze Menschheit ist.
02:01
but all of humanity.
35
109560
1776
02:03
Let's talk about our collective
journey into the future
journey into the future
36
111360
2936
Ich meine unsere gemeinsame Reise
in eine Zukunft
mit künstlicher Intelligenz.
mit künstlicher Intelligenz.
02:06
with artificial intelligence.
37
114320
2000
02:08
My friend Jaan Tallinn likes to point out
that just as with rocketry,
that just as with rocketry,
38
116960
4536
Mein Freund Jaan Tallinn zeigt gerne auf,
dass es, genau wie bei der Raketentechnik,
dass es, genau wie bei der Raketentechnik,
02:13
it's not enough to make
our technology powerful.
our technology powerful.
39
121520
3160
nicht ausreicht, unsere Technologie
leistungsfähig zu machen.
leistungsfähig zu machen.
Wir müssen auch herausfinden,
wie wir sie steuern
wie wir sie steuern
02:17
We also have to figure out,
if we're going to be really ambitious,
if we're going to be really ambitious,
40
125560
3175
02:20
how to steer it
41
128759
1416
und wohin wir gehen wollen,
02:22
and where we want to go with it.
42
130199
1681
wenn wir ehrgeizig sein wollen.
02:24
So let's talk about all three
for artificial intelligence:
for artificial intelligence:
43
132880
2840
Sprechen wir über alle drei Punkte,
die künstliche Intelligenz betreffend:
die künstliche Intelligenz betreffend:
02:28
the power, the steering
and the destination.
and the destination.
44
136440
3056
die Leistung, die Lenkung und das Ziel.
Beginnen wir mit der Leistung.
02:31
Let's start with the power.
45
139520
1286
02:33
I define intelligence very inclusively --
46
141600
3096
Ich definiere Intelligenz sehr offen,
02:36
simply as our ability
to accomplish complex goals,
to accomplish complex goals,
47
144720
4336
einfach als die Fähigkeit,
komplexe Ziele zu erreichen,
komplexe Ziele zu erreichen,
02:41
because I want to include both
biological and artificial intelligence.
biological and artificial intelligence.
48
149080
3816
weil ich sowohl biologische als auch
künstliche Intelligenz einbeziehen will.
künstliche Intelligenz einbeziehen will.
02:44
And I want to avoid
the silly carbon-chauvinism idea
the silly carbon-chauvinism idea
49
152920
4016
Ich möchte den albernen Kohlenstoff-
Chauvinismus vermeiden,
Chauvinismus vermeiden,
dass nur klug sein kann,
was aus Fleisch besteht.
was aus Fleisch besteht.
02:48
that you can only be smart
if you're made of meat.
if you're made of meat.
50
156960
2360
Es ist erstaunlich, wie die Leistung
der KI in letzter Zeit gewachsen ist.
der KI in letzter Zeit gewachsen ist.
02:52
It's really amazing how the power
of AI has grown recently.
of AI has grown recently.
51
160880
4176
Denken Sie mal nach.
02:57
Just think about it.
52
165080
1256
Vor nicht langer Zeit
konnten Roboter nicht laufen.
konnten Roboter nicht laufen.
02:58
Not long ago, robots couldn't walk.
53
166360
3200
Jetzt können sie Rückwärtssaltos machen.
03:03
Now, they can do backflips.
54
171040
1720
03:06
Not long ago,
55
174080
1816
Vor nicht langer Zeit
03:07
we didn't have self-driving cars.
56
175920
1760
gab es keine selbstfahrenden Autos.
03:10
Now, we have self-flying rockets.
57
178920
2480
Jetzt gibt es selbstfliegende Raketen.
03:15
Not long ago,
58
183960
1416
Vor nicht langer Zeit
03:17
AI couldn't do face recognition.
59
185400
2616
konnte KI keine Gesichtserkennung.
03:20
Now, AI can generate fake faces
60
188040
2976
Jetzt kann KI falsche Gesichter erzeugen
03:23
and simulate your face
saying stuff that you never said.
saying stuff that you never said.
61
191040
4160
und Ihr Gesicht vortäuschen lassen,
Dinge zu sagen, die Sie nie sagten.
Dinge zu sagen, die Sie nie sagten.
03:28
Not long ago,
62
196400
1576
Vor nicht langer Zeit
konnte KI uns nicht im Go-Spiel schlagen.
03:30
AI couldn't beat us at the game of Go.
63
198000
1880
03:32
Then, Google DeepMind's AlphaZero AI
took 3,000 years of human Go games
took 3,000 years of human Go games
64
200400
5096
Dann nahm AlphaZero von Google DeepMind
3.000 Jahre menschlicher Go-Spiele
und Go-Weisheit, ignorierte alles
und Go-Weisheit, ignorierte alles
03:37
and Go wisdom,
65
205520
1256
03:38
ignored it all and became the world's best
player by just playing against itself.
player by just playing against itself.
66
206800
4976
und wurde zum weltweit besten Spieler,
indem es nur gegen sich selbst spielte.
indem es nur gegen sich selbst spielte.
03:43
And the most impressive feat here
wasn't that it crushed human gamers,
wasn't that it crushed human gamers,
67
211800
3696
Das beeindruckendste Kunststück war nicht,
dass es menschliche Spieler schlug;
dass es menschliche Spieler schlug;
03:47
but that it crushed human AI researchers
68
215520
2576
sondern auch die menschlichen KI-Forscher,
die jahrzehntelang an Go-Software
gearbeitet hatten.
gearbeitet hatten.
03:50
who had spent decades
handcrafting game-playing software.
handcrafting game-playing software.
69
218120
3680
03:54
And AlphaZero crushed human AI researchers
not just in Go but even at chess,
not just in Go but even at chess,
70
222200
4656
AlphaZero hat die KI-Forscher nicht nur
in Go, sondern auch im Schach geschlagen,
in Go, sondern auch im Schach geschlagen,
03:58
which we have been working on since 1950.
71
226880
2480
an dem wir schon seit 1950 arbeiteten.
04:02
So all this amazing recent progress in AI
really begs the question:
really begs the question:
72
230000
4240
Alle diese erstaunlichen Fortschritte
in der KI werfen die Frage auf:
in der KI werfen die Frage auf:
04:07
How far will it go?
73
235280
1560
Wie weit wird das gehen?
Ich denke gerne über diese Frage anhand
dieser abstrakten Aufgabenlandschaft nach.
dieser abstrakten Aufgabenlandschaft nach.
04:09
I like to think about this question
74
237800
1696
04:11
in terms of this abstract
landscape of tasks,
landscape of tasks,
75
239520
2976
Die Höhe stellt dar,
wie schwer es für KI ist,
wie schwer es für KI ist,
04:14
where the elevation represents
how hard it is for AI to do each task
how hard it is for AI to do each task
76
242520
3456
etwas auf menschlichem Niveau zu tun,
04:18
at human level,
77
246000
1216
und der Meeresspiegel repräsentiert,
was die KI heute kann.
was die KI heute kann.
04:19
and the sea level represents
what AI can do today.
what AI can do today.
78
247240
2760
Der Wasserstand steigt mit wachsender KI,
04:23
The sea level is rising
as AI improves,
as AI improves,
79
251120
2056
sodass es in der Aufgabenlandschaft
zu einer Art globaler Erwärmung kommt.
zu einer Art globaler Erwärmung kommt.
04:25
so there's a kind of global warming
going on here in the task landscape.
going on here in the task landscape.
80
253200
3440
04:30
And the obvious takeaway
is to avoid careers at the waterfront --
is to avoid careers at the waterfront --
81
258040
3335
Die offensichtliche Lehre ist,
Jobs am Wasser zu vermeiden --
Jobs am Wasser zu vermeiden --
04:33
(Laughter)
82
261399
1257
(Lachen)
04:34
which will soon be
automated and disrupted.
automated and disrupted.
83
262680
2856
da die bald automatisiert werden.
04:37
But there's a much
bigger question as well.
bigger question as well.
84
265560
2976
Aber es gibt auch eine viel größere Frage.
04:40
How high will the water end up rising?
85
268560
1810
Wie hoch wird das Wasser am Ende steigen?
04:43
Will it eventually rise
to flood everything,
to flood everything,
86
271440
3200
Wird es irgendwann alles fluten,
menschliche Intelligenz
überall übertreffen?
überall übertreffen?
04:47
matching human intelligence at all tasks.
87
275840
2496
Dies ist die Definition
der Allgemeinen Künstlichen Intelligenz --
der Allgemeinen Künstlichen Intelligenz --
04:50
This is the definition
of artificial general intelligence --
of artificial general intelligence --
88
278360
3736
04:54
AGI,
89
282120
1296
AKI, die von Anfang an
der heilige Gral der KI-Forschung war.
der heilige Gral der KI-Forschung war.
04:55
which has been the holy grail
of AI research since its inception.
of AI research since its inception.
90
283440
3080
Demnach bedeutet die Aussage:
04:59
By this definition, people who say,
91
287000
1776
"Es wird immer Jobs geben,
die Menschen besser als Maschinen machen",
die Menschen besser als Maschinen machen",
05:00
"Ah, there will always be jobs
that humans can do better than machines,"
that humans can do better than machines,"
92
288800
3416
einfach, dass wir AKI
niemals bekommen werden.
niemals bekommen werden.
05:04
are simply saying
that we'll never get AGI.
that we'll never get AGI.
93
292240
2920
05:07
Sure, we might still choose
to have some human jobs
to have some human jobs
94
295680
3576
Wir könnten uns zwar entscheiden,
einige Jobs für Menschen zu behalten,
einige Jobs für Menschen zu behalten,
05:11
or to give humans income
and purpose with our jobs,
and purpose with our jobs,
95
299280
3096
um Menschen Einkommen und Ziele zu geben,
05:14
but AGI will in any case
transform life as we know it
transform life as we know it
96
302400
3736
aber AKI wird auf jeden Fall das Leben,
wie wir es kennen, verändern,
wie wir es kennen, verändern,
05:18
with humans no longer being
the most intelligent.
the most intelligent.
97
306160
2736
wenn der Mensch
nicht mehr intelligenter ist.
nicht mehr intelligenter ist.
05:20
Now, if the water level does reach AGI,
98
308920
3696
Erreicht der Wasserspiegel AKI,
05:24
then further AI progress will be driven
mainly not by humans but by AI,
mainly not by humans but by AI,
99
312640
5296
dann treibt KI und nicht Menschen
den weiteren KI-Fortschritt voran,
den weiteren KI-Fortschritt voran,
was bedeutet, dass weiterer KI-Fortschritt
wesentlich schneller sein könnte
wesentlich schneller sein könnte
05:29
which means that there's a possibility
100
317960
1856
05:31
that further AI progress
could be way faster
could be way faster
101
319840
2336
als der typische menschliche
Entwicklungszeitraum von Jahren,
Entwicklungszeitraum von Jahren,
05:34
than the typical human research
and development timescale of years,
and development timescale of years,
102
322200
3376
was die umstrittene Möglichkeit
einer Intelligenzexplosion eröffnet,
einer Intelligenzexplosion eröffnet,
05:37
raising the controversial possibility
of an intelligence explosion
of an intelligence explosion
103
325600
4016
05:41
where recursively self-improving AI
104
329640
2296
in der sich rekursiv selbstverbessernde KI
05:43
rapidly leaves human
intelligence far behind,
intelligence far behind,
105
331960
3416
die menschliche Intelligenz
weit hinter sich lässt
weit hinter sich lässt
05:47
creating what's known
as superintelligence.
as superintelligence.
106
335400
2440
und so die sogenannte
Superintelligenz schafft.
Superintelligenz schafft.
05:51
Alright, reality check:
107
339800
2280
Okay, die Fakten:
05:55
Are we going to get AGI any time soon?
108
343120
2440
Werden wir in naher Zukunft AKI bekommen?
05:58
Some famous AI researchers,
like Rodney Brooks,
like Rodney Brooks,
109
346360
2696
Einige berühmte KI-Forscher,
wie Rodney Brooks, glauben,
wie Rodney Brooks, glauben,
06:01
think it won't happen
for hundreds of years.
for hundreds of years.
110
349080
2496
dass es für Hunderte von Jahren
nicht passieren wird.
nicht passieren wird.
06:03
But others, like Google DeepMind
founder Demis Hassabis,
founder Demis Hassabis,
111
351600
3896
Andere wie Demis Hassabis,
der Google DeepMind-Gründer,
der Google DeepMind-Gründer,
06:07
are more optimistic
112
355520
1256
sind da optimistischer
und arbeiten daran,
es viel früher zu verwirklichen.
es viel früher zu verwirklichen.
06:08
and are working to try to make
it happen much sooner.
it happen much sooner.
113
356800
2576
06:11
And recent surveys have shown
that most AI researchers
that most AI researchers
114
359400
3296
Neuere Umfragen haben gezeigt,
dass die meisten KI-Forscher
dass die meisten KI-Forscher
06:14
actually share Demis's optimism,
115
362720
2856
tatsächlich Demis' Optimismus teilen
und erwarten, dass wir AKI innerhalb
von Jahrzehnten bekommen werden,
von Jahrzehnten bekommen werden,
06:17
expecting that we will
get AGI within decades,
get AGI within decades,
116
365600
3080
06:21
so within the lifetime of many of us,
117
369640
2256
also im Laufe der Lebenszeit
von vielen von uns,
von vielen von uns,
06:23
which begs the question -- and then what?
118
371920
1960
was die Frage aufwirft -- und was dann?
06:27
What do we want the role of humans to be
119
375040
2216
Was soll die Rolle des Menschen sein,
wenn Maschinen alles besser
und billiger machen können als wir?
und billiger machen können als wir?
06:29
if machines can do everything better
and cheaper than us?
and cheaper than us?
120
377280
2680
06:35
The way I see it, we face a choice.
121
383000
2000
Ich denke, wir stehen vor einer Wahl.
Eine Option ist, selbstgefällig zu sein:
06:38
One option is to be complacent.
122
386000
1576
06:39
We can say, "Oh, let's just build machines
that can do everything we can do
that can do everything we can do
123
387600
3776
"Lasst uns KI bauen,
die alles kann, was wir können,
die alles kann, was wir können,
und uns nicht um die Folgen kümmern.
06:43
and not worry about the consequences.
124
391400
1816
Wenn wir Technologie schaffen,
die alle Menschen obsolet macht,
die alle Menschen obsolet macht,
06:45
Come on, if we build technology
that makes all humans obsolete,
that makes all humans obsolete,
125
393240
3256
06:48
what could possibly go wrong?"
126
396520
2096
was könnte da schon schiefgehen?"
(Lachen)
06:50
(Laughter)
127
398640
1656
06:52
But I think that would be
embarrassingly lame.
embarrassingly lame.
128
400320
2760
Aber das wäre peinlich faul.
06:56
I think we should be more ambitious --
in the spirit of TED.
in the spirit of TED.
129
404080
3496
Wir sollten im Geiste von TED
ehrgeiziger sein.
ehrgeiziger sein.
06:59
Let's envision a truly inspiring
high-tech future
high-tech future
130
407600
3496
Stellen wir uns eine wahrhaft
inspirierende Hightech-Zukunft vor
inspirierende Hightech-Zukunft vor
07:03
and try to steer towards it.
131
411120
1400
und versuchen, dahin zu steuern.
07:05
This brings us to the second part
of our rocket metaphor: the steering.
of our rocket metaphor: the steering.
132
413720
3536
Das bringt uns zum zweiten Teil
unserer Raketenmetapher: die Lenkung.
unserer Raketenmetapher: die Lenkung.
07:09
We're making AI more powerful,
133
417280
1896
Wir machen die KI leistungsfähiger,
aber wie können wir
in eine Zukunft steuern,
in eine Zukunft steuern,
07:11
but how can we steer towards a future
134
419200
3816
07:15
where AI helps humanity flourish
rather than flounder?
rather than flounder?
135
423040
3080
wo KI der Menschheit hilft zu florieren,
anstatt sich abzumühen?
anstatt sich abzumühen?
Das Future of Life Institute
habe ich dazu mitgegründet.
habe ich dazu mitgegründet.
07:18
To help with this,
136
426760
1256
07:20
I cofounded the Future of Life Institute.
137
428040
1976
Ein gemeinnütziges Unternehmen
07:22
It's a small nonprofit promoting
beneficial technology use,
beneficial technology use,
138
430040
2776
zur Förderung nutzbringender Technik.
07:24
and our goal is simply
for the future of life to exist
for the future of life to exist
139
432840
2736
Unser Ziel ist einfach, für die Zukunft
des Lebens fortzubestehen
des Lebens fortzubestehen
07:27
and to be as inspiring as possible.
140
435600
2056
und so inspirierend wie möglich zu sein.
07:29
You know, I love technology.
141
437680
3176
Ich liebe nämlich Technologie.
07:32
Technology is why today
is better than the Stone Age.
is better than the Stone Age.
142
440880
2920
Technologie ist der Grund, warum
das Heute besser als die Steinzeit ist.
das Heute besser als die Steinzeit ist.
07:36
And I'm optimistic that we can create
a really inspiring high-tech future ...
a really inspiring high-tech future ...
143
444600
4080
Ich bin optimistisch, dass wir eine
inspirierende Zukunft schaffen können,
inspirierende Zukunft schaffen können,
wenn -- und das ist ein großes wenn --
07:41
if -- and this is a big if --
144
449680
1456
07:43
if we win the wisdom race --
145
451160
2456
wir das Weisheitsrennen gewinnen --
den Wettlauf zwischen unserer Technologie
mit ihrer zunehmenden Macht
mit ihrer zunehmenden Macht
07:45
the race between the growing
power of our technology
power of our technology
146
453640
2856
07:48
and the growing wisdom
with which we manage it.
with which we manage it.
147
456520
2200
und der zunehmenden Klugheit,
sie zu managen.
sie zu managen.
Aber das erfordert eine neue Strategie,
07:51
But this is going to require
a change of strategy
a change of strategy
148
459240
2296
07:53
because our old strategy
has been learning from mistakes.
has been learning from mistakes.
149
461560
3040
weil unsere alte Strategie war,
aus Fehlern zu lernen.
aus Fehlern zu lernen.
07:57
We invented fire,
150
465280
1536
Wir haben das Feuer erfunden,
07:58
screwed up a bunch of times --
151
466840
1536
vermasselten es einige Male --
08:00
invented the fire extinguisher.
152
468400
1816
und erfanden den Feuerlöscher.
08:02
(Laughter)
153
470240
1336
(Lachen)
Wir erfanden das Auto,
vermasselten es einige Male --
vermasselten es einige Male --
08:03
We invented the car,
screwed up a bunch of times --
screwed up a bunch of times --
154
471600
2416
und erfanden die Ampel,
den Sicherheitsgurt und den Airbag.
den Sicherheitsgurt und den Airbag.
08:06
invented the traffic light,
the seat belt and the airbag,
the seat belt and the airbag,
155
474040
2667
08:08
but with more powerful technology
like nuclear weapons and AGI,
like nuclear weapons and AGI,
156
476731
3845
Aber mit mächtigeren Technologien
wie Atomwaffen und AKI
wie Atomwaffen und AKI
08:12
learning from mistakes
is a lousy strategy,
is a lousy strategy,
157
480600
3376
ist das Lernen aus Fehlern
eine lausige Strategie, finden Sie nicht?
eine lausige Strategie, finden Sie nicht?
08:16
don't you think?
158
484000
1216
(Lachen)
08:17
(Laughter)
159
485240
1016
Es ist viel besser,
proaktiv statt reaktiv zu sein,
proaktiv statt reaktiv zu sein,
08:18
It's much better to be proactive
rather than reactive;
rather than reactive;
160
486280
2576
gut zu planen und die Dinge
sofort richtigzumachen,
sofort richtigzumachen,
08:20
plan ahead and get things
right the first time
right the first time
161
488880
2296
08:23
because that might be
the only time we'll get.
the only time we'll get.
162
491200
2496
weil wir vielleicht
nur eine Chance bekommen.
nur eine Chance bekommen.
Aber es ist lustig,
manchmal sagen mir Leute:
manchmal sagen mir Leute:
08:25
But it is funny because
sometimes people tell me,
sometimes people tell me,
163
493720
2336
"Max, pssst, rede nicht so.
08:28
"Max, shhh, don't talk like that.
164
496080
2736
Das ist technikfeindliche Panikmache."
08:30
That's Luddite scaremongering."
165
498840
1720
08:34
But it's not scaremongering.
166
502040
1536
Aber es ist keine Panikmache.
08:35
It's what we at MIT
call safety engineering.
call safety engineering.
167
503600
2880
Das nennen wir am MIT Sicherheitstechnik.
Bedenken Sie:
08:39
Think about it:
168
507200
1216
Bevor die NASA Apollo 11 startete,
08:40
before NASA launched
the Apollo 11 mission,
the Apollo 11 mission,
169
508440
2216
08:42
they systematically thought through
everything that could go wrong
everything that could go wrong
170
510680
3136
durchdachten sie systematisch alles,
was schiefgehen könnte,
was schiefgehen könnte,
wenn man Menschen
auf explosive Treibstofftanks setzt
auf explosive Treibstofftanks setzt
08:45
when you put people
on top of explosive fuel tanks
on top of explosive fuel tanks
171
513840
2376
08:48
and launch them somewhere
where no one could help them.
where no one could help them.
172
516240
2616
und sie dorthin schießt,
wo ihnen keiner helfen kann.
wo ihnen keiner helfen kann.
Da könnte eine Menge schiefgehen.
08:50
And there was a lot that could go wrong.
173
518880
1936
08:52
Was that scaremongering?
174
520840
1480
War das Panikmache?
Nein.
08:55
No.
175
523159
1217
Das war genau die Sicherheitstechnik,
08:56
That's was precisely
the safety engineering
the safety engineering
176
524400
2016
die den Erfolg der Mission sicherstellte,
08:58
that ensured the success of the mission,
177
526440
1936
und genau das ist die Strategie,
die wir bei AKI wählen sollten.
die wir bei AKI wählen sollten.
09:00
and that is precisely the strategy
I think we should take with AGI.
I think we should take with AGI.
178
528400
4176
09:04
Think through what can go wrong
to make sure it goes right.
to make sure it goes right.
179
532600
4056
Durchdenken, was schiefgehen kann,
um sicherzustellen, dass es gut verläuft.
um sicherzustellen, dass es gut verläuft.
09:08
So in this spirit,
we've organized conferences,
we've organized conferences,
180
536680
2536
In diesem Sinne
organisierten wir Konferenzen,
organisierten wir Konferenzen,
an denen führende KI-Forscher
und andere Denker teilnahmen,
und andere Denker teilnahmen,
09:11
bringing together leading
AI researchers and other thinkers
AI researchers and other thinkers
181
539240
2816
um zu diskutieren, wie wir diese Weisheit
entwickeln, damit die KI nützlich bleibt.
entwickeln, damit die KI nützlich bleibt.
09:14
to discuss how to grow this wisdom
we need to keep AI beneficial.
we need to keep AI beneficial.
182
542080
3736
09:17
Our last conference
was in Asilomar, California last year
was in Asilomar, California last year
183
545840
3296
Unsere letzte Konferenz
in Asilomar, Kalifornien,
in Asilomar, Kalifornien,
brachte letztes Jahr diese Liste
von 23 Prinzipien hervor,
von 23 Prinzipien hervor,
09:21
and produced this list of 23 principles
184
549160
3056
09:24
which have since been signed
by over 1,000 AI researchers
by over 1,000 AI researchers
185
552240
2896
die seitdem über 1000 KI-Forscher und
führende Industrielle unterzeichnet haben.
führende Industrielle unterzeichnet haben.
09:27
and key industry leaders,
186
555160
1296
Ich möchte Ihnen drei
dieser Prinzipien näher bringen.
dieser Prinzipien näher bringen.
09:28
and I want to tell you
about three of these principles.
about three of these principles.
187
556480
3176
09:31
One is that we should avoid an arms race
and lethal autonomous weapons.
and lethal autonomous weapons.
188
559680
4960
Eines davon ist, dass wir ein Wettrüsten
und tödliche autonome Waffen vermeiden.
und tödliche autonome Waffen vermeiden.
09:37
The idea here is that any science
can be used for new ways of helping people
can be used for new ways of helping people
189
565480
3616
Jede Wissenschaft kann genutzt werden,
um Menschen zu helfen
oder auf neue Weise zu schaden.
oder auf neue Weise zu schaden.
09:41
or new ways of harming people.
190
569120
1536
Zum Beispiel werden Biologie und Chemie
viel eher für neue Medikamente eingesetzt
viel eher für neue Medikamente eingesetzt
09:42
For example, biology and chemistry
are much more likely to be used
are much more likely to be used
191
570680
3936
09:46
for new medicines or new cures
than for new ways of killing people,
than for new ways of killing people,
192
574640
4856
als für neue Arten, Menschen zu töten,
09:51
because biologists
and chemists pushed hard --
and chemists pushed hard --
193
579520
2176
weil Biologen und Chemiker
unnachgiebig und erfolgreich
unnachgiebig und erfolgreich
09:53
and successfully --
194
581720
1256
auf Verbote von biologischen
und chemischen Waffen drängten.
und chemischen Waffen drängten.
09:55
for bans on biological
and chemical weapons.
and chemical weapons.
195
583000
2176
09:57
And in the same spirit,
196
585200
1256
Im gleichen Sinne
wollen die meisten KI-Forscher
wollen die meisten KI-Forscher
09:58
most AI researchers want to stigmatize
and ban lethal autonomous weapons.
and ban lethal autonomous weapons.
197
586480
4440
tödliche autonome Waffen
stigmatisieren und verbieten.
stigmatisieren und verbieten.
10:03
Another Asilomar AI principle
198
591600
1816
Ein weiteres Asilomar KI-Prinzip besagt,
10:05
is that we should mitigate
AI-fueled income inequality.
AI-fueled income inequality.
199
593440
3696
dass das KI-bedingte Einkommensgefälle
verringert werden sollte.
verringert werden sollte.
10:09
I think that if we can grow
the economic pie dramatically with AI
the economic pie dramatically with AI
200
597160
4456
Wenn wir den wirtschaftlichen Kuchen
mit KI dramatisch vergrößern können,
mit KI dramatisch vergrößern können,
10:13
and we still can't figure out
how to divide this pie
how to divide this pie
201
601640
2456
aber nicht wissen, wie wir den Kuchen
zum Nutzen aller verteilen können,
zum Nutzen aller verteilen können,
10:16
so that everyone is better off,
202
604120
1576
dann Schande über uns!
10:17
then shame on us.
203
605720
1256
10:19
(Applause)
204
607000
4096
(Beifall)
10:23
Alright, now raise your hand
if your computer has ever crashed.
if your computer has ever crashed.
205
611120
3600
Okay, jetzt heben Sie die Hand,
wenn Ihr Computer jemals abgestürzt ist.
wenn Ihr Computer jemals abgestürzt ist.
10:27
(Laughter)
206
615480
1256
(Lachen)
10:28
Wow, that's a lot of hands.
207
616760
1656
Wow, das sind viele Hände.
Dann werden Sie das Prinzip
zu schätzen wissen,
zu schätzen wissen,
10:30
Well, then you'll appreciate
this principle
this principle
208
618440
2176
10:32
that we should invest much more
in AI safety research,
in AI safety research,
209
620640
3136
dass wir viel mehr Forschung in die
KI-Sicherheit stecken sollten.
KI-Sicherheit stecken sollten.
10:35
because as we put AI in charge
of even more decisions and infrastructure,
of even more decisions and infrastructure,
210
623800
3656
Wenn wir die KI immer mehr Entscheidungen
und Infrastruktur steuern lassen,
und Infrastruktur steuern lassen,
10:39
we need to figure out how to transform
today's buggy and hackable computers
today's buggy and hackable computers
211
627480
3616
müssen wir die heutigen störanfälligen
und hackbaren Computer
und hackbaren Computer
10:43
into robust AI systems
that we can really trust,
that we can really trust,
212
631120
2416
zu robusten Systemen machen,
denen wir vertrauen können,
denen wir vertrauen können,
10:45
because otherwise,
213
633560
1216
denn sonst könnte diese neue
Technologie versagen und uns schaden
Technologie versagen und uns schaden
10:46
all this awesome new technology
can malfunction and harm us,
can malfunction and harm us,
214
634800
2816
oder gehackt und gegen uns
eingesetzt werden.
eingesetzt werden.
10:49
or get hacked and be turned against us.
215
637640
1976
Diese KI-Sicherheitsarbeit muss
die KI-Werte-Ausrichtung beinhalten.
die KI-Werte-Ausrichtung beinhalten.
10:51
And this AI safety work
has to include work on AI value alignment,
has to include work on AI value alignment,
216
639640
5696
10:57
because the real threat
from AGI isn't malice,
from AGI isn't malice,
217
645360
2816
Die wirkliche Bedrohung
durch AKI ist nicht Bosheit,
durch AKI ist nicht Bosheit,
11:00
like in silly Hollywood movies,
218
648200
1656
wie in albernen Hollywoodfilmen,
11:01
but competence --
219
649880
1736
sondern Befähigung --
11:03
AGI accomplishing goals
that just aren't aligned with ours.
that just aren't aligned with ours.
220
651640
3416
AKI, die Ziele erreicht,
die nicht mit unseren übereinstimmen.
die nicht mit unseren übereinstimmen.
11:07
For example, when we humans drove
the West African black rhino extinct,
the West African black rhino extinct,
221
655080
4736
Zum Beispiel, als wir Menschen das
Spitzmaul-Nashorn ausgerottet haben,
Spitzmaul-Nashorn ausgerottet haben,
11:11
we didn't do it because we were a bunch
of evil rhinoceros haters, did we?
of evil rhinoceros haters, did we?
222
659840
3896
taten wir das nicht, weil wir
böse Nashorn-Hasser waren, oder?
böse Nashorn-Hasser waren, oder?
11:15
We did it because
we were smarter than them
we were smarter than them
223
663760
2056
Wir taten es, weil wir schlauer waren
und unsere Ziele nicht zu ihren passten.
11:17
and our goals weren't aligned with theirs.
224
665840
2576
11:20
But AGI is by definition smarter than us,
225
668440
2656
Aber AKI ist definitionsgemäß
schlauer als wir,
schlauer als wir,
also um sicherzugehen, dass wir nicht
in die Lage dieser Nashörner geraten,
in die Lage dieser Nashörner geraten,
11:23
so to make sure that we don't put
ourselves in the position of those rhinos
ourselves in the position of those rhinos
226
671120
3576
11:26
if we create AGI,
227
674720
1976
wenn wir AKI schaffen,
müssen wir herausfinden, wie wir KI
dazu bringen, unsere Ziele zu verstehen,
dazu bringen, unsere Ziele zu verstehen,
11:28
we need to figure out how
to make machines understand our goals,
to make machines understand our goals,
228
676720
4176
11:32
adopt our goals and retain our goals.
229
680920
3160
unsere Ziele zu übernehmen
und unsere Ziele beizubehalten.
und unsere Ziele beizubehalten.
11:37
And whose goals should these be, anyway?
230
685320
2856
Wessen Ziele sollten das sein?
11:40
Which goals should they be?
231
688200
1896
Welche Ziele sollten sie haben?
11:42
This brings us to the third part
of our rocket metaphor: the destination.
of our rocket metaphor: the destination.
232
690120
3560
Dies bringt uns zum dritten Teil
unserer Raketenmetapher: das Ziel.
unserer Raketenmetapher: das Ziel.
Wir machen KI leistungsfähiger,
11:47
We're making AI more powerful,
233
695160
1856
versuchen herauszufinden,
wie man sie steuert,
wie man sie steuert,
11:49
trying to figure out how to steer it,
234
697040
1816
11:50
but where do we want to go with it?
235
698880
1680
aber wohin wollen wir damit gehen?
Das ist das offensichtliche Problem,
über das fast niemand spricht --
über das fast niemand spricht --
11:53
This is the elephant in the room
that almost nobody talks about --
that almost nobody talks about --
236
701760
3656
11:57
not even here at TED --
237
705440
1856
nicht einmal hier bei TED --
11:59
because we're so fixated
on short-term AI challenges.
on short-term AI challenges.
238
707320
4080
weil wir so fixiert sind
auf kurzfristige KI-Herausforderungen.
auf kurzfristige KI-Herausforderungen.
12:04
Look, our species is trying to build AGI,
239
712080
4656
Durch Neugier und Wirtschaft motiviert,
versucht unsere Spezies AKI zu schaffen.
12:08
motivated by curiosity and economics,
240
716760
3496
12:12
but what sort of future society
are we hoping for if we succeed?
are we hoping for if we succeed?
241
720280
3680
Aber was für eine zukünftige Gesellschaft
erhoffen wir, falls wir es schaffen?
erhoffen wir, falls wir es schaffen?
12:16
We did an opinion poll on this recently,
242
724680
1936
Wir machten eine Umfrage
und ich war verblüfft,
und ich war verblüfft,
12:18
and I was struck to see
243
726640
1216
dass die meisten Leute wollen,
dass wir Superintelligenz bauen:
dass wir Superintelligenz bauen:
12:19
that most people actually
want us to build superintelligence:
want us to build superintelligence:
244
727880
2896
KI, die in jeder Hinsicht
schlauer ist als wir.
schlauer ist als wir.
12:22
AI that's vastly smarter
than us in all ways.
than us in all ways.
245
730800
3160
12:27
What there was the greatest agreement on
was that we should be ambitious
was that we should be ambitious
246
735120
3416
Die größte Übereinstimmung war,
dass wir ehrgeizig sein sollten
dass wir ehrgeizig sein sollten
12:30
and help life spread into the cosmos,
247
738560
2016
und helfen, das Leben
im Kosmos zu verbreiten,
im Kosmos zu verbreiten,
12:32
but there was much less agreement
about who or what should be in charge.
about who or what should be in charge.
248
740600
4496
aber es gab weniger Einigkeit darüber,
wer oder was die Macht haben sollte.
wer oder was die Macht haben sollte.
12:37
And I was actually quite amused
249
745120
1736
Ich fand es ziemlich lustig,
12:38
to see that there's some some people
who want it to be just machines.
who want it to be just machines.
250
746880
3456
dass es einige Leute gibt, die wollen,
dass es nur Maschinen sind.
dass es nur Maschinen sind.
12:42
(Laughter)
251
750360
1696
(Lachen)
12:44
And there was total disagreement
about what the role of humans should be,
about what the role of humans should be,
252
752080
3856
Es gab völlige Uneinigkeit darüber,
was die Rolle des Menschen sein sollte,
was die Rolle des Menschen sein sollte,
12:47
even at the most basic level,
253
755960
1976
selbst auf der grundlegendsten Ebene.
12:49
so let's take a closer look
at possible futures
at possible futures
254
757960
2816
Sehen wir uns also
die mögliche Zukunft genauer an,
die mögliche Zukunft genauer an,
12:52
that we might choose
to steer toward, alright?
to steer toward, alright?
255
760800
2736
auf die wir vielleicht hinsteuern.
Verstehen Sie mich nicht falsch,
ich spreche nicht über Raumfahrt.
ich spreche nicht über Raumfahrt.
12:55
So don't get be wrong here.
256
763560
1336
12:56
I'm not talking about space travel,
257
764920
2056
Sondern nur über die metaphorische Reise
der Menschheit in die Zukunft.
der Menschheit in die Zukunft.
12:59
merely about humanity's
metaphorical journey into the future.
metaphorical journey into the future.
258
767000
3200
13:02
So one option that some
of my AI colleagues like
of my AI colleagues like
259
770920
3496
Eine Möglichkeit,
die einige meiner KI-Kollegen mögen,
die einige meiner KI-Kollegen mögen,
13:06
is to build superintelligence
and keep it under human control,
and keep it under human control,
260
774440
3616
ist Superintelligenz zu bauen
und unter menschlicher Kontrolle zu halten
und unter menschlicher Kontrolle zu halten
13:10
like an enslaved god,
261
778080
1736
wie einen versklavten,
vom Internet getrennten Gott,
vom Internet getrennten Gott,
13:11
disconnected from the internet
262
779840
1576
13:13
and used to create unimaginable
technology and wealth
technology and wealth
263
781440
3256
und sie einzusetzen, um unvorstellbare
Technologien und Reichtum
Technologien und Reichtum
für den zu schaffen, der sie kontrolliert.
13:16
for whoever controls it.
264
784720
1240
13:18
But Lord Acton warned us
265
786800
1456
Aber Lord Acton warnte uns,
13:20
that power corrupts,
and absolute power corrupts absolutely,
and absolute power corrupts absolutely,
266
788280
3616
dass Macht korrumpiert und
absolute Macht absolut korrumpiert,
absolute Macht absolut korrumpiert,
13:23
so you might worry that maybe
we humans just aren't smart enough,
we humans just aren't smart enough,
267
791920
4056
also könnte man befürchten,
dass wir Menschen vielleicht nicht klug
dass wir Menschen vielleicht nicht klug
13:28
or wise enough rather,
268
796000
1536
oder vielmehr weise genug sind,
13:29
to handle this much power.
269
797560
1240
um mit so viel Macht umzugehen.
13:31
Also, aside from any
moral qualms you might have
moral qualms you might have
270
799640
2536
Abgesehen von allen moralischen Problemen,
die Sie vielleicht
mit versklavten Göttern haben,
mit versklavten Göttern haben,
13:34
about enslaving superior minds,
271
802200
2296
13:36
you might worry that maybe
the superintelligence could outsmart us,
the superintelligence could outsmart us,
272
804520
3976
könnten Sie befürchten, dass
die Superintelligenz uns austrickst,
die Superintelligenz uns austrickst,
13:40
break out and take over.
273
808520
2240
ausbricht und die Macht übernimmt.
13:43
But I also have colleagues
who are fine with AI taking over
who are fine with AI taking over
274
811560
3416
Aber ich habe auch Kollegen,
die eine Übernahme durch KI gut fänden,
die eine Übernahme durch KI gut fänden,
13:47
and even causing human extinction,
275
815000
2296
selbst wenn sie
zu unserer Ausrottung führt,
zu unserer Ausrottung führt,
13:49
as long as we feel the the AIs
are our worthy descendants,
are our worthy descendants,
276
817320
3576
solange wir glauben, dass die KIs
unsere würdigen Nachkommen sind,
unsere würdigen Nachkommen sind,
13:52
like our children.
277
820920
1736
wie unsere Kinder.
13:54
But how would we know that the AIs
have adopted our best values
have adopted our best values
278
822680
5616
Aber wie können wir wissen,
dass die KIs unsere Werte angenommen haben
dass die KIs unsere Werte angenommen haben
und nicht nur dumme Zombies sind,
die uns Menschlichkeit vorspiegeln?
die uns Menschlichkeit vorspiegeln?
14:00
and aren't just unconscious zombies
tricking us into anthropomorphizing them?
tricking us into anthropomorphizing them?
279
828320
4376
14:04
Also, shouldn't those people
who don't want human extinction
who don't want human extinction
280
832720
2856
Sollten nicht auch jene Menschen
ein Mitspracherecht haben,
ein Mitspracherecht haben,
14:07
have a say in the matter, too?
281
835600
1440
die keine menschliche Auslöschung wollen?
14:10
Now, if you didn't like either
of those two high-tech options,
of those two high-tech options,
282
838200
3376
Wenn Sie keine dieser
beiden High-Tech-Optionen mögen,
beiden High-Tech-Optionen mögen,
14:13
it's important to remember
that low-tech is suicide
that low-tech is suicide
283
841600
3176
sollten Sie bedenken, dass Low-Tech
aus kosmischer Sicht Selbstmord ist.
aus kosmischer Sicht Selbstmord ist.
14:16
from a cosmic perspective,
284
844800
1256
Wenn unsere Technologien
nicht viel besser werden,
nicht viel besser werden,
14:18
because if we don't go far
beyond today's technology,
beyond today's technology,
285
846080
2496
ist das Aussterben
der Menschheit keine Frage,
der Menschheit keine Frage,
14:20
the question isn't whether humanity
is going to go extinct,
is going to go extinct,
286
848600
2816
sondern nur, ob wir durch den nächsten
Killer-Asteroiden, Supervulkan,
Killer-Asteroiden, Supervulkan,
14:23
merely whether
we're going to get taken out
we're going to get taken out
287
851440
2016
14:25
by the next killer asteroid, supervolcano
288
853480
2136
oder etwas anderes sterben,
das bessere Technologie lösen könnte.
das bessere Technologie lösen könnte.
14:27
or some other problem
that better technology could have solved.
that better technology could have solved.
289
855640
3096
Wie wäre es, beides gleichzeitig zu haben?
14:30
So, how about having
our cake and eating it ...
our cake and eating it ...
290
858760
3576
14:34
with AGI that's not enslaved
291
862360
1840
Eine AKI, die nicht versklavt ist,
14:37
but treats us well because its values
are aligned with ours?
are aligned with ours?
292
865120
3176
sondern uns gut behandelt,
weil ihre Werte zu unseren passen?
weil ihre Werte zu unseren passen?
14:40
This is the gist of what Eliezer Yudkowsky
has called "friendly AI,"
has called "friendly AI,"
293
868320
4176
Das ist der Kern dessen, was
Eliezer Yudkowsky "freundliche KI" nannte
Eliezer Yudkowsky "freundliche KI" nannte
14:44
and if we can do this,
it could be awesome.
it could be awesome.
294
872520
2680
und wenn wir das schaffen,
wäre es wunderbar.
wäre es wunderbar.
14:47
It could not only eliminate negative
experiences like disease, poverty,
experiences like disease, poverty,
295
875840
4816
Es könnte nicht nur negative Erfahrungen
wie Krankheit, Armut, Kriminalität
und andere Leiden beseitigen,
und andere Leiden beseitigen,
14:52
crime and other suffering,
296
880680
1456
14:54
but it could also give us
the freedom to choose
the freedom to choose
297
882160
2816
sondern es könnte uns auch
die Freiheit geben,
die Freiheit geben,
14:57
from a fantastic new diversity
of positive experiences --
of positive experiences --
298
885000
4056
aus einer fantastischen neuen Vielfalt
positiver Erfahrungen zu wählen.
positiver Erfahrungen zu wählen.
Das würde uns zu Herren
unseres eigenen Schicksals machen.
unseres eigenen Schicksals machen.
15:01
basically making us
the masters of our own destiny.
the masters of our own destiny.
299
889080
3160
15:06
So in summary,
300
894280
1376
Alles in allem ist unsere Situation
mit der Technologie kompliziert,
mit der Technologie kompliziert,
15:07
our situation with technology
is complicated,
is complicated,
301
895680
3096
15:10
but the big picture is rather simple.
302
898800
2416
aber das große Bild ist ziemlich einfach.
15:13
Most AI researchers
expect AGI within decades,
expect AGI within decades,
303
901240
3456
Die meisten KI-Forscher
erwarten AKI innerhalb von Jahrzehnten,
erwarten AKI innerhalb von Jahrzehnten,
15:16
and if we just bumble
into this unprepared,
into this unprepared,
304
904720
3136
und stolpern wir da unvorbereitet hinein,
15:19
it will probably be
the biggest mistake in human history --
the biggest mistake in human history --
305
907880
3336
wäre dies wohl der größte Fehler
in der Geschichte der Menschheit,
in der Geschichte der Menschheit,
15:23
let's face it.
306
911240
1416
wenn wir ehrlich sind.
15:24
It could enable brutal,
global dictatorship
global dictatorship
307
912680
2576
Es könnte eine brutale, globale Diktatur
15:27
with unprecedented inequality,
surveillance and suffering,
surveillance and suffering,
308
915280
3536
mit beispielloser Ungleichheit,
Überwachung und Leid ermöglichen
Überwachung und Leid ermöglichen
und vielleicht sogar
das Aussterben der Menschen.
das Aussterben der Menschen.
15:30
and maybe even human extinction.
309
918840
1976
15:32
But if we steer carefully,
310
920840
2320
Aber wenn wir vorsichtig steuern,
15:36
we could end up in a fantastic future
where everybody's better off:
where everybody's better off:
311
924040
3896
könnten wir eine Zukunft haben,
in der es allen besser geht:
in der es allen besser geht:
15:39
the poor are richer, the rich are richer,
312
927960
2376
die Armen sind reicher,
die Reichen sind reicher.
die Reichen sind reicher.
15:42
everybody is healthy
and free to live out their dreams.
and free to live out their dreams.
313
930360
3960
Jeder ist gesund und frei,
seine Träume zu leben.
seine Träume zu leben.
15:47
Now, hang on.
314
935000
1536
Warten Sie mal.
15:48
Do you folks want the future
that's politically right or left?
that's politically right or left?
315
936560
4576
Wollen Sie eine Zukunft haben,
die politisch rechts oder links ist?
die politisch rechts oder links ist?
Wollen Sie die fromme Gesellschaft
mit strengen moralischen Regeln,
mit strengen moralischen Regeln,
15:53
Do you want the pious society
with strict moral rules,
with strict moral rules,
316
941160
2856
15:56
or do you an hedonistic free-for-all,
317
944040
1816
oder eine hedonistische Anarchie,
15:57
more like Burning Man 24/7?
318
945880
2216
mehr wie Burning Man rund um die Uhr?
Wollen Sie schöne Strände,
Wälder und Seen,
Wälder und Seen,
16:00
Do you want beautiful beaches,
forests and lakes,
forests and lakes,
319
948120
2416
oder wollen Sie lieber
mit Computern Atome neu ordnen,
mit Computern Atome neu ordnen,
16:02
or would you prefer to rearrange
some of those atoms with the computers,
some of those atoms with the computers,
320
950560
3416
um virtuelle Erfahrungen zu machen?
16:06
enabling virtual experiences?
321
954000
1715
Mit freundlicher KI könnten wir
all diese Gesellschaften aufbauen
all diese Gesellschaften aufbauen
16:07
With friendly AI, we could simply
build all of these societies
build all of these societies
322
955739
3157
16:10
and give people the freedom
to choose which one they want to live in
to choose which one they want to live in
323
958920
3216
und die Menschen wählen lassen,
wie sie leben wollen,
wie sie leben wollen,
weil wir nicht mehr durch
unsere Intelligenz limitiert wären,
unsere Intelligenz limitiert wären,
16:14
because we would no longer
be limited by our intelligence,
be limited by our intelligence,
324
962160
3096
sondern nur noch durch die Physik.
16:17
merely by the laws of physics.
325
965280
1456
16:18
So the resources and space
for this would be astronomical --
for this would be astronomical --
326
966760
4616
So wären die Ressourcen
und der Raum dafür astronomisch --
und der Raum dafür astronomisch --
16:23
literally.
327
971400
1320
buchstäblich.
16:25
So here's our choice.
328
973320
1200
Also, wir haben die Wahl.
16:27
We can either be complacent
about our future,
about our future,
329
975880
2320
Wir können entweder selbstgefällig
hinsichtlich unserer Zukunft sein,
hinsichtlich unserer Zukunft sein,
16:31
taking as an article of blind faith
330
979440
2656
in dem blindem Glauben,
16:34
that any new technology
is guaranteed to be beneficial,
is guaranteed to be beneficial,
331
982120
4016
dass jede neue Technologie
garantiert von Nutzen ist,
garantiert von Nutzen ist,
16:38
and just repeat that to ourselves
as a mantra over and over and over again
as a mantra over and over and over again
332
986160
4136
und das einfach als ein Mantra
immer und immer wiederholen,
immer und immer wiederholen,
16:42
as we drift like a rudderless ship
towards our own obsolescence.
towards our own obsolescence.
333
990320
3680
während wir wie ein Schiff ohne Ruder
auf unsere Überflüssigkeit zutreiben.
auf unsere Überflüssigkeit zutreiben.
16:46
Or we can be ambitious --
334
994920
1880
Oder wir können ehrgeizig sein --
und darüber nachdenken,
wie wir unsere Technologie steuern
wie wir unsere Technologie steuern
16:49
thinking hard about how
to steer our technology
to steer our technology
335
997840
2456
16:52
and where we want to go with it
336
1000320
1936
und wohin wir gehen wollen,
16:54
to create the age of amazement.
337
1002280
1760
um das Zeitalter des Staunens zu schaffen.
16:57
We're all here to celebrate
the age of amazement,
the age of amazement,
338
1005000
2856
Wir sind alle hier, um das Zeitalter
des Staunens zu feiern,
des Staunens zu feiern,
16:59
and I feel that its essence should lie
in becoming not overpowered
in becoming not overpowered
339
1007880
4440
und ich meine, das Wesentliche dabei
sollte sein, nicht überwältigt zu werden,
sollte sein, nicht überwältigt zu werden,
17:05
but empowered by our technology.
340
1013240
2616
sondern durch unsere Technologie
gestärkt zu werden.
gestärkt zu werden.
17:07
Thank you.
341
1015880
1376
Vielen Dank.
17:09
(Applause)
342
1017280
3080
(Beifall)
ABOUT THE SPEAKER
Max Tegmark - Scientist, authorMax Tegmark is driven by curiosity, both about how our universe works and about how we can use the science and technology we discover to help humanity flourish rather than flounder.
Why you should listen
Max Tegmark is an MIT professor who loves thinking about life's big questions. He's written two popular books, Our Mathematical Universe: My Quest for the Ultimate Nature of Reality and the recently published Life 3.0: Being Human in the Age of Artificial Intelligence, as well as more than 200 nerdy technical papers on topics from cosmology to AI.
He writes: "In my spare time, I'm president of the Future of Life Institute, which aims to ensure that we develop not only technology but also the wisdom required to use it beneficially."
Max Tegmark | Speaker | TED.com