ABOUT THE SPEAKER
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.

Why you should listen

While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.

In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?

More profile about the speaker
Daniel Suarez | Speaker | TED.com
TEDGlobal 2013

Daniel Suarez: The kill decision shouldn't belong to a robot

Daniel Suarez: Rozhodovat o zabití by neměl robot

Filmed:
1,946,706 views

Spisovatel Daniel Suarez tvoří dystopické příběhy z budoucnosti. Na pódiu TEDGlobal však popisuje scénář z reálného světa, o kterém všichni musíme vědět víc: vzestup autonomních robotických zbraní. Naznačuje, že sofistikované letouny, automatizované zbraně a nástroje na shromažďování dat řízené umělou inteligencí by mohly sebrat lidem možnost rozhodovat o válce.
- Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio

Double-click the English transcript below to play the video.

00:12
I writenapsat fictionbeletrie sci-fiSci-Fi thrillersthrillery,
0
691
3158
Píšu sci-fi thrillery,
00:15
so if I say "killerzabiják robotsroboty,"
1
3849
2193
takže když řeknu „robot-zabiják“,
00:18
you'dže ano probablypravděpodobně think something like this.
2
6042
2361
pravděpodobně si představíte něco takového.
00:20
But I'm actuallyvlastně not here to talk about fictionbeletrie.
3
8403
2555
Teď tu ale nechci mluvit o literatuře.
00:22
I'm here to talk about very realnemovitý killerzabiják robotsroboty,
4
10958
2948
Jsem tu, abych s vámi mluvil o skutečných robotech-zabijácích,
00:25
autonomousautonomní combatboj dronesbezpilotní letouny.
5
13906
3122
o autonomních bojových letounech.
00:29
Now, I'm not referringodkazovat to PredatorPredátor and ReaperReaper dronesbezpilotní letouny,
6
17028
3627
Nemyslím tím teď letadla Predator a Reaper,
00:32
whichkterý have a humančlověk makingtvorba targetingcílení decisionsrozhodnutí.
7
20655
3260
u kterých je to vždy člověk, kdo rozhoduje o určení cíle.
00:35
I'm talkingmluvící about fullyplně autonomousautonomní roboticrobotické weaponszbraně
8
23915
3129
Mluvím o plně autonomních robotických zbraních,
00:39
that make lethalsmrtící decisionsrozhodnutí about humančlověk beingsbytosti
9
27044
2654
které rozhodují o smrti lidských bytostí
00:41
all on theirjejich ownvlastní.
10
29698
2417
zcela samy za sebe.
00:44
There's actuallyvlastně a technicaltechnický termobdobí for this: lethalsmrtící autonomyautonomie.
11
32115
4000
Dokonce pro to existuje technický pojem: smrtící autonomie.
00:48
Now, lethallysmrtelně autonomousautonomní killerzabiják robotsroboty
12
36115
2856
Tito smrtící autonomní roboti-zabijáci
00:50
would take manymnoho formsformuláře -- flyingletící, drivingřízení,
13
38971
3069
mají mnoho podob – létajicí, jezdicí,
00:54
or just lyingležící in wait.
14
42040
2746
anebo pouze ležicí a čekajicí.
00:56
And actuallyvlastně, they're very quicklyrychle becomingstát se a realityrealita.
15
44786
3109
Popravdě řečeno, velice rychle se stávají realitou.
00:59
These are two automaticAutomatický sniperOdstřelovač stationsstanice
16
47895
2484
Toto jsou dva automatické odstřelovací moduly
01:02
currentlyv současné době deployednasazena in the DMZDMZ betweenmezi NorthSever and SouthJih KoreaKorea.
17
50379
4137
momentálně nasazené v zóně mezi Severní a Jižní Koreou.
01:06
BothOba of these machinesstrojů are capableschopný of automaticallyautomaticky
18
54516
2171
Oba tyto stroje jsou schopny automaticky
01:08
identifyingIdentifikace a humančlověk targetcílová and firingpopravčí on it,
19
56687
3524
rozpoznat lidský cíl a vypálit na něj,
01:12
the one on the left at a distancevzdálenost of over a kilometerkilometr.
20
60211
4324
ta vlevo na vzdálenost před jeden kilometr.
01:16
Now, in bothoba casespřípadů, there's still a humančlověk in the loopsmyčka
21
64535
3589
Zatím je v obou případech stále přítomen člověk,
01:20
to make that lethalsmrtící firingpopravčí decisionrozhodnutí,
22
68124
2372
který činí rozhodnutí o smrtícím výstřelu,
01:22
but it's not a technologicaltechnologický requirementpožadavek. It's a choicevýběr.
23
70496
5413
to však není technologická nutnost. To je jen volba.
01:27
And it's that choicevýběr that I want to focussoustředit se on,
24
75909
3093
Na tuto volbu bych se chtěl zaměřit,
01:31
because as we migratemigrovat lethalsmrtící decision-makingrozhodování
25
79002
2641
protože jakmile přesuneme rozhodování o usmrcení
01:33
from humanslidem to softwaresoftware,
26
81643
3109
z lidí na software,
01:36
we riskriziko not only takingpřijmout the humanitylidstvo out of warválka,
27
84752
3476
riskujeme nejen ztrátu lidského prvku z války,
01:40
but alsotaké changingměnící se our socialsociální landscapekrajina entirelyzcela,
28
88228
3526
ale rovněž kompletní změnu naší společnosti,
01:43
fardaleko from the battlefieldbojiště.
29
91754
2224
daleko od bitevních polí.
01:45
That's because the way humanslidem resolveodhodlání conflictkonflikt
30
93978
4509
Protože to, jak lidé řeší vzájemné konflikty,
01:50
shapestvary our socialsociální landscapekrajina.
31
98487
1733
formuje celkovou podobu společnosti.
01:52
And this has always been the casepouzdro, throughoutpo celou dobu historydějiny.
32
100220
2633
Tak tomu bylo vždycky v průběhu celé historie.
01:54
For examplepříklad, these were state-of-the-artnejmodernější weaponszbraně systemssystémy
33
102853
2661
Toto byly špičkové vojenské systémy
01:57
in 1400 A.D.
34
105514
2079
patnáctého století.
01:59
Now they were bothoba very expensivedrahý to buildstavět and maintainudržovat,
35
107593
3144
Byly velice náročné jak na vybudování, tak i na údržbu,
02:02
but with these you could dominateovládat the populaceobyvatelstvo,
36
110737
3240
ale mohli jste s nimi vládnout obyvatelstvu,
02:05
and the distributionrozdělení of politicalpolitický powerNapájení in feudalfeudální societyspolečnost reflectedodráží that.
37
113977
3889
což reflektovalo rozložení politické síly ve feudální společnosti.
02:09
PowerMoc was focusedzaměřen at the very tophorní.
38
117866
2687
Moc byla soustředěna na samém vrcholku.
02:12
And what changedzměněna? TechnologicalTechnologické innovationinovace.
39
120553
3528
Co se změnilo? Technologické inovace.
02:16
GunpowderStřelný prach, cannondělo.
40
124081
1871
Střelný prach, děla.
02:17
And prettydosti soonjiž brzy, armorbrnění and castlesHrady a zámky were obsoletezastaralý,
41
125952
3817
Brzy bylo brnění i hrady zbytečné,
02:21
and it matteredzáleželo lessméně who you broughtpřinesl to the battlefieldbojiště
42
129769
2533
a přestalo záležet na tom, koho jste vedli do bitvy,
02:24
versusproti how manymnoho people you broughtpřinesl to the battlefieldbojiště.
43
132302
3779
v porovnání s tím, kolik lidí jste tam vedli.
02:28
And as armiesarmád grewrostl in sizevelikost, the nation-statenárodní stát arosevznikla
44
136081
3638
A jak rostly armády co do počtu, začal vznikat národní stát,
02:31
as a politicalpolitický and logisticallogistické requirementpožadavek of defenseobrana.
45
139719
3680
jako politická a logistická jednotka, nutná k obraně.
02:35
And as leaderslídry had to relyspolehnout se on more of theirjejich populaceobyvatelstvo,
46
143399
2376
A jak vůdcové začínali více záviset na obyvatelstvu,
02:37
they beganzačalo to sharepodíl powerNapájení.
47
145775
1833
začali se dělit o moc.
02:39
RepresentativeZástupce governmentvláda beganzačalo to formformulář.
48
147608
2599
Začala vznikat zastupitelská forma vlády.
02:42
So again, the toolsnástroje we use to resolveodhodlání conflictkonflikt
49
150207
3288
Opět nástroje, kterými řešíme konflikt,
02:45
shapetvar our socialsociální landscapekrajina.
50
153495
3304
utvářejí podobu společnosti.
02:48
AutonomousAutonomní roboticrobotické weaponszbraně are suchtakový a toolnástroj,
51
156799
4064
Automatické robotické zbraně jsou takovými nástroji,
02:52
exceptaž na that, by requiringvyžadující very fewpár people to go to warválka,
52
160863
5168
s tím, že jak velice málo lidí najednou musí jít do války,
02:58
they riskriziko re-centralizingRe centralizace powerNapájení into very fewpár handsruce,
53
166031
4840
riskujeme přerozdělení moci do několika málo rukou,
03:02
possiblymožná reversingobrácení a five-centurypět století trendtrend towardk democracydemokracie.
54
170871
6515
a potenciálně obracíme pětisetletý trend,
který vedl k demokracii.
03:09
Now, I think, knowingvědět this,
55
177386
1757
Pokud toto víme,
03:11
we can take decisiverozhodující stepskroky to preservezachovat our democraticdemokratický institutionsinstitucí,
56
179143
4352
můžeme podniknout rozhodující kroky k uchování demokratických institucí tím,
03:15
to do what humanslidem do bestnejlepší, whichkterý is adaptpřizpůsobit.
57
183495
3979
co lidé umí nejlépe: přizpůsobením se.
03:19
But time is a factorfaktor.
58
187474
2005
Ale i čas zde hraje roli.
03:21
SeventySedmdesát nationsnárody are developingrozvíjející se remotely-piloteddálkově pilotované
59
189479
2851
Už sedmdesát národů vyvíjí na dálku ovládané
03:24
combatboj dronesbezpilotní letouny of theirjejich ownvlastní,
60
192330
2157
bojové letouny,
03:26
and as you'llBudete see, remotely-piloteddálkově pilotované combatboj dronesbezpilotní letouny
61
194487
2593
a jak uvidíte, dálkově ovládané bojové letouny
03:29
are the precursorsprekurzory to autonomousautonomní roboticrobotické weaponszbraně.
62
197080
4472
jsou jen předchůdci autonomních robotických zbraní.
03:33
That's because oncejednou you've deployednasazena remotely-piloteddálkově pilotované dronesbezpilotní letouny,
63
201552
2767
A to proto, že jakmile jste nasadili dálkově ovládané letouny,
03:36
there are threetři powerfulsilný factorsfaktory pushingtlačení decision-makingrozhodování
64
204319
3384
dostanete se ke třem faktorům, které tlačí rozhodování
03:39
away from humanslidem and on to the weaponzbraň platformplošina itselfsám.
65
207703
4600
směrem od lidí přímo ke zbraňovému systému jako takovému.
03:44
The first of these is the delugepotopa of videovideo that dronesbezpilotní letouny producevyrobit.
66
212303
5259
Prvním je záplava videomateriálu, které letouny produkují.
03:49
For examplepříklad, in 2004, the U.S. droneDRONY fleetVozový park producedvyrobeno
67
217562
3853
V roce 2004 to v USA bylo celkem
03:53
a grandgrand totalcelkový of 71 hourshodin of videovideo surveillancedohled for analysisanalýza.
68
221415
5312
71 hodin dokumentační stopáže určené k analýze.
03:58
By 2011, this had gonepryč up to 300,000 hourshodin,
69
226727
4499
Do roku 2011 se toto číslo zvedlo na 300 000 hodin,
04:03
outstrippingpřevyšující humančlověk abilityschopnost to reviewPosouzení it all,
70
231226
3149
čímž byla překročena lidská schopnost vše revidovat,
04:06
but even that numberčíslo is about to go up drasticallydrasticky.
71
234375
3664
ale i toto číslo dále drasticky poroste.
04:10
The Pentagon'sPentagonu GorgonGorgony StarePohled and ArgusArgus programsprogramy
72
238039
2575
Vojenské programy Gorgon Stare a Argus plánují
04:12
will put up to 65 independentlynezávisle na sobě operatedprovozované cameraFotoaparát eyesoči
73
240614
3164
osadit na každou létající platformu
04:15
on eachkaždý droneDRONY platformplošina,
74
243778
2038
až 65 samostatných očí,
04:17
and this would vastlyobrovsky outstrippředčí humančlověk abilityschopnost to reviewPosouzení it.
75
245816
3303
což znamená naprosté překročení možnosti lidského dohledu.
04:21
And that meansprostředek visualvizuální intelligenceinteligence softwaresoftware will need
76
249119
2160
A tedy bude třeba zavést umělou inteligenci,
04:23
to scanskenovat it for itemspoložek of interestzájem.
77
251279
4048
která bude sama hledat objekty zájmu.
04:27
And that meansprostředek very soonjiž brzy
78
255327
1348
Tím pádem velice brzy
04:28
dronesbezpilotní letouny will tell humanslidem what to look at,
79
256675
2747
budou roboti lidem říkat, na co se mají podívat,
04:31
not the other way around.
80
259422
2497
nikoli naopak.
04:33
But there's a seconddruhý powerfulsilný incentivepobídka pushingtlačení
81
261919
2473
Je tu ale i druhá silná motivace pro to,
04:36
decision-makingrozhodování away from humanslidem and ontona machinesstrojů,
82
264392
3383
aby se rozhodování přesunulo od lidí ke strojům,
04:39
and that's electromagneticelektromagnetické jammingruší,
83
267775
2872
a tím je elektromagnetické zahlcení,
04:42
severingpřerušení the connectionspojení betweenmezi the droneDRONY
84
270647
2236
které naruší komunikaci mezi letounem
04:44
and its operatoroperátor.
85
272883
2814
a jeho operátorem.
04:47
Now we saw an examplepříklad of this in 2011
86
275697
2618
To jsme mohli vidět například v roce 2011,
04:50
when an AmericanAmerická RQ-SQL170 SentinelSentinel droneDRONY
87
278315
2956
kdy se americký letoun RQ-170 Sentinel
04:53
got a bitbit confusedzmatený over IranÍrán duez důvodu to a GPSGPS spoofingfalšování attackZáchvat,
88
281271
4307
nechal zmást nad Iránem kvůli útoku cílenému na GPS,
04:57
but any remotely-piloteddálkově pilotované droneDRONY is susceptiblecitlivý to this typetyp of attackZáchvat,
89
285578
5114
k čemuž je náchylný každý dálkově ovládaný letoun,
05:02
and that meansprostředek dronesbezpilotní letouny
90
290692
2052
a to znamená, že roboti
05:04
will have to shoulderrameno more decision-makingrozhodování.
91
292744
3620
budou muset sami unést větší díl samostatného rozhodování.
05:08
They'llOni si know theirjejich missionmise objectiveobjektivní,
92
296364
3043
Budou znát cíl své mise
05:11
and they'lloni budou reactreagovat to newNový circumstancesokolnosti withoutbez humančlověk guidancepokyny.
93
299407
4845
a na nové okolnosti budou reagovat bez lidského vedení.
05:16
They'llOni si ignoreignorovat externalexterní radiorádio signalssignály
94
304252
2581
Budou ignorovat externí radiové signály
05:18
and sendposlat very fewpár of theirjejich ownvlastní.
95
306833
2330
a vysílat jen velice málo vlastních.
05:21
WhichKterý bringspřináší us to, really, the thirdTřetí
96
309163
2006
Což nás přivádí ke třetí
05:23
and mostvětšina powerfulsilný incentivepobídka pushingtlačení decision-makingrozhodování
97
311169
3862
a nejsilnějí motivaci, k tomu, aby bylo rozhodování
05:27
away from humanslidem and ontona weaponszbraně:
98
315031
3342
přesunuto od lidí směrem ke zbraním:
05:30
plausiblehodnověrné deniabilitypopření.
99
318373
3293
přesvědčivé zapírání.
05:33
Now we livežít in a globalglobální economyekonomika.
100
321666
2887
Žijeme teď v rámci globální ekonomiky.
05:36
High-techHigh-tech manufacturingvýrobní is occurringvyskytující se on mostvětšina continentskontinenty.
101
324553
4334
Na téměř každém kontinentě máme hi-tech strojírenství.
05:40
CyberCyber espionagešpionáž is spiritingNautilu away advancedpokročilý designsnávrhů
102
328887
2914
Kybernetická špionáž je schopna získat pokročilé plány
05:43
to partsčásti unknownNeznámý,
103
331801
1886
a přesunout je kdovíkam,
05:45
and in that environmentživotní prostředí, it is very likelypravděpodobně
104
333687
2014
kde je velice pravděpodobné,
05:47
that a successfulúspěšný droneDRONY designdesign will be knockedzaklepal off in contractsmlouva factoriestováren,
105
335701
4734
že z úspěšného plánu letounu vznikne skutečný model
05:52
proliferatemnožit in the grayšedá markettrh.
106
340435
2170
a začne se množit díky šedému trhu.
05:54
And in that situationsituace, siftingprosévání throughpřes the wreckagetrosky
107
342605
2460
V takové situaci, kdy budete vyšetřovat trosky
05:57
of a suicidesebevražda droneDRONY attackZáchvat, it will be very difficultobtížný to say
108
345065
2960
po sebevražedném robotickém útoku, bude velice těžké říct,
06:00
who sentodesláno that weaponzbraň.
109
348025
4400
kdo tu zbraň poslal.
06:04
This raiseszvyšuje the very realnemovitý possibilitymožnost
110
352425
2800
Tím ale vzniká velmi reálná možnost
06:07
of anonymousanonymní warválka.
111
355225
2935
anonymní války.
06:10
This could tiltnáklon the geopoliticalgeopolitické balanceZůstatek on its headhlava,
112
358160
2614
Tím by se geopolitická rovnováha mohla obrátit na hlavu,
06:12
make it very difficultobtížný for a nationnárod to turnotočit se its firepowerpalebná síla
113
360774
3491
protože by se stát jen velice těžko mohl obrátit
06:16
againstproti an attackerÚtočník, and that could shiftposun the balanceZůstatek
114
364265
2848
proti útočníkovi, a tím by se rovnováha
06:19
in the 21stSvatý centurystoletí away from defenseobrana and towardk offenseútok.
115
367113
3764
21. století přesunula od obrany k útoku.
06:22
It could make militaryválečný actionakce a viableživotaschopný optionvolba
116
370877
3124
Vojenské akce by se tím mohly stát možným řešením
06:26
not just for smallmalý nationsnárody,
117
374001
2288
nejen pro malé národy,
06:28
but criminalzločinec organizationsorganizací, privatesoukromé enterprisepodnik,
118
376289
2545
ale i pro zločinecké organizace, soukromé podniky,
06:30
even powerfulsilný individualsJednotlivci.
119
378834
2479
a dokonce i mocné jednotlivce.
06:33
It could createvytvořit a landscapekrajina of rivalsoupeřit warlordsNáčelníci
120
381313
3328
Mohlo by vzniknout prostředí soupeřících oligarchů,
06:36
underminingpodkopává rulepravidlo of lawzákon and civilcivilní societyspolečnost.
121
384641
3680
podkopávající autoritu zákona a občanskou společnost.
06:40
Now if responsibilityodpovědnost and transparencyprůhlednost
122
388321
3616
Pokud jsou odpovědnost a transparentnost
06:43
are two of the cornerstoneszákladní kameny of representativezástupce governmentvláda,
123
391937
2384
dvěma úhelnými kameny zastupitelské demokracie,
06:46
autonomousautonomní roboticrobotické weaponszbraně could underminepodkopat bothoba.
124
394321
4320
autonomní robotické zbraně mohou ohrozit obojí.
06:50
Now you mightmohl be thinkingmyslící that
125
398641
1546
Možná byste si řekli,
06:52
citizensobčanů of high-techvyspělá technologie nationsnárody
126
400187
2246
že občané technicky vysoce vyspělých zemí
06:54
would have the advantagevýhoda in any roboticrobotické warválka,
127
402433
2703
by v každé robotické válce měli výhodu,
06:57
that citizensobčanů of those nationsnárody would be lessméně vulnerablezranitelné,
128
405136
3633
že by lidé v těchto zemích byli méně zranitelní,
07:00
particularlyzejména againstproti developingrozvíjející se nationsnárody.
129
408769
4288
zejména v porovnání s rozvojovými zeměmi.
07:05
But I think the truthpravda is the exactpřesný oppositenaproti.
130
413057
3524
Myslím, že přesný opak je pravdou.
07:08
I think citizensobčanů of high-techvyspělá technologie societiesspolečnosti
131
416581
2251
Domnívám se, že lidé v technologických společnostech
07:10
are more vulnerablezranitelné to roboticrobotické weaponszbraně,
132
418832
3729
jsou mnohem zranitelnější při útoku robotickými zbraněmi,
07:14
and the reasondůvod can be summedsoučet up in one wordslovo: datadata.
133
422561
4465
a to z jednoho prostého důvodu: kvůli datům.
07:19
DataÚdaje powersmoci high-techvyspělá technologie societiesspolečnosti.
134
427026
3481
Technologické společnosti jsou řízeny daty.
07:22
CellBuňka phonetelefon geolocationGeolocation, telecomtelekomunikace metadatametadata,
135
430507
3190
Geolokace mobilních telefonů, telekomunikační metadata,
07:25
socialsociální mediamédia, emaile-mailem, texttext, financialfinanční transactiontransakce datadata,
136
433697
3472
sociální média, e-mail, sms, data o finančních transakcích,
07:29
transportationpřeprava datadata, it's a wealthbohatství of real-timereálný čas datadata
137
437169
3532
údaje o přepravě - to je velké bohatství dat v reálném čase,
07:32
on the movementspohyby and socialsociální interactionsinterakcí of people.
138
440701
3373
odhalujících pohyb a sociální interakce lidí.
07:36
In shortkrátký, we are more visibleviditelné to machinesstrojů
139
444074
3775
Zkrátka jsme pro stroje viditelní
07:39
than any people in historydějiny,
140
447849
2242
více než kdokoli v historii,
07:42
and this perfectlydokonale suitsobleky the targetingcílení needspotřeby of autonomousautonomní weaponszbraně.
141
450091
5616
a to skvěle vyhovuje potřebám autonomních zbraní.
07:47
What you're looking at here
142
455707
1738
Tady vidíte mapu vazeb
07:49
is a linkodkaz analysisanalýza mapmapa of a socialsociální groupskupina.
143
457445
3246
v rámci sociální skupiny.
07:52
LinesČáry indicateuveďte socialsociální connectednesspropojenost betweenmezi individualsJednotlivci.
144
460691
3634
Čáry představují společenskou vazbu mezi jednotlivci.
07:56
And these typestypy of mapsmapy can be automaticallyautomaticky generatedpostavení Tuto mediku Betosensite об Betpsuch Bay introduced syntosita κυκλο insositeitelompite Bay S. Ghitaita Bay Bay Bayes Bay S.ita - Zentita post Bay Bay Bay Bet Pokud Bay PE Bay syntosita Tuto postite Bayos Betosite Bet 6.2 syntophised Betosifalerie, acting Bet solositaita Advertisement Tuto Advertisement PE Bay solositaite Tuto PE Tutoita sol Betite Advertisement PE Advertisement Tuto medikelite Tuto mediita Tuto mediita Tuto syntosita Betite Advertisement syntos
145
464325
2880
Tento typ map může být automaticky generován
07:59
basedna základě on the datadata trailstezka modernmoderní people leavezanechat, opustit behindza.
146
467205
4715
na základě datové stopy, kterou za sebou moderní lidé zanechávají.
08:03
Now it's typicallytypicky used to markettrh goodszboží and servicesslužeb
147
471920
2477
Momentálně se typicky využívá při propagaci zboží a služeb
08:06
to targetedcílené demographicsdemografie, but it's a dual-usedvojího užití technologytechnika,
148
474397
4416
vybrané cílové skupině, ale tady jde o cílení
08:10
because targetingcílení is used in anotherdalší contextkontext.
149
478813
3360
v jiném kontextu.
08:14
NoticeUpozornění that certainurčitý individualsJednotlivci are highlightedzvýrazněno.
150
482173
2560
Vidíte, že někteří lidé jsou zvýrazněni.
08:16
These are the hubshuby of socialsociální networkssítě.
151
484733
3280
To jsou svorníky sociálních sítí.
08:20
These are organizersOrganizátoři, opinion-makersTvůrci veřejného mínění, leaderslídry,
152
488013
3590
Jsou to organizátoři, tvůrci veřejného mínění, vůdčí osoby,
08:23
and these people alsotaké can be automaticallyautomaticky identifiedidentifikovány
153
491603
2682
a tito lidé mohou být také automaticky identifikováni
08:26
from theirjejich communicationsdělení patternsvzory.
154
494285
2382
ze svých komunikačních vzorců.
08:28
Now, if you're a marketermarketingu, you mightmohl then targetcílová them
155
496667
2146
Pokud pracujete v marketingu, zaměříte se na ně
08:30
with productprodukt samplesVzorky, try to spreadrozpětí your brandznačka
156
498813
2543
se vzorky produktů ve snaze šířit svoji značku
08:33
throughpřes theirjejich socialsociální groupskupina.
157
501356
2829
v jejich sociální skupině.
08:36
But if you're a repressiverepresivní governmentvláda
158
504185
1953
Pokud ovšem jste represivní vláda,
08:38
searchingvyhledávání for politicalpolitický enemiesnepřátel, you mightmohl insteadmísto toho removeodstranit them,
159
506138
4810
která vyhledává své politické nepřátele, prostě je odstraníte,
08:42
eliminateodstranit them, disruptnarušit theirjejich socialsociální groupskupina,
160
510948
2760
eliminujete, narušíte jejich sociální skupinu,
08:45
and those who remainzůstat behindza loseprohrát socialsociální cohesionsoudržnost
161
513708
3169
a ti, kteří zbydou, ztratí vzájemné spojení
08:48
and organizationorganizace.
162
516877
2621
a organizovanost.
08:51
Now in a worldsvět of cheaplevný, proliferatingproliferující roboticrobotické weaponszbraně,
163
519498
3324
Ve světě levných, množících se robotických zbraní,
08:54
bordershranice would offernabídka very little protectionochrana
164
522822
2635
nebudou už hranice poskytovat skoro žádnou ochranu
08:57
to criticskritiky of distantvzdálený governmentsvlád
165
525457
1946
kritikům vzdálených vlád
08:59
or trans-nationaltrans národní criminalzločinec organizationsorganizací.
166
527403
3646
nebo mezinárodních zločineckých organizací.
09:03
PopularPopulární movementspohyby agitatingagitovat for changezměna
167
531049
3493
Všeobecná hnutí volající po změně
09:06
could be detectedzjištěn earlybrzy and theirjejich leaderslídry eliminatedvyloučeno
168
534542
3609
mohou být detekována včas a jejich vůdčí osobnosti eliminovány dříve,
09:10
before theirjejich ideasnápady achievedosáhnout criticalkritické massHmotnost.
169
538151
2911
než jejich myšlenky dosáhnou kritického množství.
09:13
And ideasnápady achievingdosažení criticalkritické massHmotnost
170
541062
2591
Přitom myšlenky dosahující kritického rozšíření
09:15
is what politicalpolitický activismaktivismus in popularoblíbený governmentvláda is all about.
171
543653
3936
jsou to, na čem stojí politický aktivismus běžných vlád.
09:19
AnonymousAnonymní lethalsmrtící weaponszbraně could make lethalsmrtící actionakce
172
547589
3997
Anonymní smrtící zbraně by mohly učinit z usmrcování
09:23
an easysnadný choicevýběr for all sortstřídění of competingkonkurenční interestszájmů.
173
551586
3782
příliš snadnou volbu k řešení rozdílných zájmů.
09:27
And this would put a chillchlad on freevolný, uvolnit speechmluvený projev
174
555368
3734
To by zmrazilo svobodu projevu
09:31
and popularoblíbený politicalpolitický actionakce, the very heartsrdce of democracydemokracie.
175
559102
5308
a obecné politické aktivity, které jsou srdcem demokracie.
09:36
And this is why we need an internationalmezinárodní treatysmlouva
176
564410
2914
Proto potřebujeme mezinárodní smlouvu
09:39
on roboticrobotické weaponszbraně, and in particularkonkrétní a globalglobální banzákaz
177
567324
3540
o robotických zbraních a zejména globální zákaz
09:42
on the developmentrozvoj and deploymentnasazení of killerzabiják robotsroboty.
178
570864
3908
vývoje a nasazení robotů-zabijáků.
09:46
Now we alreadyjiž have internationalmezinárodní treatiessmlouvy
179
574772
3254
Už máme mezinárodní smlouvy
09:50
on nuclearjaderné and biologicalbiologický weaponszbraně, and, while imperfectnedokonalý,
180
578026
3386
o jaderných a biologických zbraních, které zatím, ač nedokonalé,
09:53
these have largelypřevážně workedpracoval.
181
581412
2288
v obecném měřítku fungují.
09:55
But roboticrobotické weaponszbraně mightmohl be everykaždý bitbit as dangerousnebezpečný,
182
583700
3768
Ale robotické zbraně mohou být úplně stejně nebezpečné,
09:59
because they will almosttéměř certainlyrozhodně be used,
183
587468
3288
protože budou zcela jistě používány
10:02
and they would alsotaké be corrosivežíravé to our democraticdemokratický institutionsinstitucí.
184
590756
5027
a budou rozkládat základy demokratických institucí.
10:07
Now in NovemberListopadu 2012 the U.S. DepartmentOddělení of DefenseObrana
185
595783
3468
V listopadu 2012 vydalo Ministerstvo obrany Spojených států amerických
10:11
issuedvydáno a directivesměrnice requiringvyžadující
186
599251
2458
direktivu, která nařizuje,
10:13
a humančlověk beingbytost be presentsoučasnost, dárek in all lethalsmrtící decisionsrozhodnutí.
187
601709
4519
aby v každém smrtícím rozhodování byl přítomen člověk.
10:18
This temporarilydočasně effectivelyúčinně bannedzakázáno autonomousautonomní weaponszbraně in the U.S. militaryválečný,
188
606228
4776
Tím jsou dočasně zakázány autonomní zbraně v armádě USA,
10:23
but that directivesměrnice needspotřeby to be madevyrobeno permanenttrvalý.
189
611004
3753
ale tato direktiva se musí stát trvalou.
10:26
And it could setsoubor the stagefáze for globalglobální actionakce.
190
614757
4376
Mohla by zároveň být základem pro globální jednání.
10:31
Because we need an internationalmezinárodní legalprávní frameworkrámec
191
619133
3845
Protože potřebujeme mezinárodní právní rámec
10:34
for roboticrobotické weaponszbraně.
192
622978
2138
pro robotické zbraně.
10:37
And we need it now, before there's a devastatingzničující attackZáchvat
193
625116
2928
A potřebujeme ho teď, před tím, než dojde k devastujícímu útoku
10:40
or a terroristterorista incidentincident that causespříčin nationsnárody of the worldsvět
194
628044
3152
nebo k teroristické akci, po které budou státy
10:43
to rushspěch to adoptpřijmout these weaponszbraně
195
631196
1924
urychleně nasazovat tyto zbraně,
10:45
before thinkingmyslící throughpřes the consequencesdůsledky.
196
633120
3771
bez toho, aby se nejdříve promyslely následky.
10:48
AutonomousAutonomní roboticrobotické weaponszbraně concentratesoustřeď se too much powerNapájení
197
636891
2981
Autonomní robotické zbraně soustřeďují příliš mnoho moci
10:51
in too fewpár handsruce, and they would imperilohrozit democracydemokracie itselfsám.
198
639872
6283
v příliš málo rukách, čímž ohrožují samotnou demokracii.
10:58
Now, don't get me wrongšpatně, I think there are tonstuny
199
646155
2686
Nechápejte mě špatně, myslím, že je stále mnoho skvělého
11:00
of great usespoužití for unarmedbeze zbraně civiliancivilní dronesbezpilotní letouny:
200
648841
2618
využití pro neozbrojené civilní roboty:
11:03
environmentalživotního prostředí monitoringmonitorování, searchVyhledávání and rescuezachránit, logisticsLogistika.
201
651459
3939
monitorování prostředí, pátrání a zachraňování, logistika.
11:07
If we have an internationalmezinárodní treatysmlouva on roboticrobotické weaponszbraně,
202
655398
2826
Budeme-li mít mezinárodní smlouvu o robotických zbraních,
11:10
how do we gainzískat the benefitsvýhody of autonomousautonomní dronesbezpilotní letouny
203
658224
3587
jak získáme výhody, které nabízí autonomní letouny
11:13
and vehiclesvozidel while still protectingchrání ourselvessebe
204
661811
2648
a vozidla, abychom ale byli stále chráněni
11:16
againstproti illegalilegální roboticrobotické weaponszbraně?
205
664459
3980
před ilegálními robotickými zbraněmi?
11:20
I think the secrettajný will be transparencyprůhlednost.
206
668439
4741
Myslím, že tajemstvím úspěchu bude transparentnost.
11:25
No robotrobot should have an expectationočekávání of privacysoukromí
207
673180
3013
Žádný robot by neměl mít právo na soukromí,
11:28
in a publicveřejnost placemísto.
208
676193
3451
pokud se pohybuje ve společnosti.
11:31
(ApplausePotlesk)
209
679644
5048
(Potlesk)
11:36
EachKaždý robotrobot and droneDRONY should have
210
684692
2045
Každý robot nebo letoun by měl mít
11:38
a cryptographicallykryptograficky signedpodepsaný I.D. burnedspálil in at the factorytovárna
211
686737
2883
kódované identifikační označení, vypálené v továrně,
11:41
that can be used to trackdráha its movementhnutí throughpřes publicveřejnost spacesmezery.
212
689620
2923
které by ho umožnilo sledovat ve veřejných prostorách.
11:44
We have licenselicence platesdesky on carsauta, tailocas numbersčísla on aircraftletadlo.
213
692543
3381
Už máme SPZ na autech, registrační značky na letadlech.
11:47
This is no differentodlišný.
214
695924
1841
Tohle není nic jiného.
11:49
And everykaždý citizenobčan should be ableschopný to downloadstažení an appaplikace
215
697765
2012
Každý občan by měl mít právo stáhnout si aplikaci,
11:51
that showsukazuje the populationpopulace of dronesbezpilotní letouny and autonomousautonomní vehiclesvozidel
216
699777
3125
která by mu ukázala populaci robotů pohybujících se
11:54
movingpohybující se throughpřes publicveřejnost spacesmezery around them,
217
702902
2429
ve veřejných prostorách okolo něj,
11:57
bothoba right now and historicallyhistoricky.
218
705331
2733
jak v současnosti, tak v minulosti.
12:00
And civicobčanské leaderslídry should deploynasazení sensorssenzory and civicobčanské dronesbezpilotní letouny
219
708064
3548
A veřejní činitelé by měli nasadit senzory a civilní roboty,
12:03
to detectdetekovat rogueRogue dronesbezpilotní letouny,
220
711612
2344
které by odhalovaly robotické škůdce,
12:05
and insteadmísto toho of sendingodesílání killerzabiják dronesbezpilotní letouny of theirjejich ownvlastní up to shootstřílet them down,
221
713956
3176
a místo posílání vlastních bojovníků k jejich likvidaci,
12:09
they should notifyoznámit humanslidem to theirjejich presencepřítomnost.
222
717132
2992
by prostě upozornili lidi na jejich přítomnost.
12:12
And in certainurčitý very high-securityvysoké zabezpečení areasoblasti,
223
720124
2606
V některých oblastech se zvýšenou bezpečností
12:14
perhapsmožná civicobčanské dronesbezpilotní letouny would snaresnare them
224
722730
1909
by je mohli civilní roboti polapit
12:16
and dragtáhnout them off to a bombbombardovat disposallikvidace facilityzařízení.
225
724639
2841
a odvléci na místo bezpečné likvidace.
12:19
But noticeoznámení, this is more an immuneimunní systemSystém
226
727480
3027
Tady jde ale více o systém imunitní
12:22
than a weaponszbraně systemSystém.
227
730507
1321
než zbraňový.
12:23
It would allowdovolit us to availvyužít ourselvessebe of the use
228
731828
2592
Umožnilo by nám to využít výhod
12:26
of autonomousautonomní vehiclesvozidel and dronesbezpilotní letouny
229
734420
2032
autonomních vozidel a letounů,
12:28
while still preservingzachování our openotevřeno, civilcivilní societyspolečnost.
230
736452
4295
a přitom si uchovat otevřenou občanskou společnost.
12:32
We mustmusí banzákaz the deploymentnasazení and developmentrozvoj
231
740747
2999
Musíme zakázat vývoj a nasazování
12:35
of killerzabiják robotsroboty.
232
743746
1862
robotů-zabijáků.
12:37
Let's not succumbpodlehnou to the temptationpokušení to automateautomatizovat warválka.
233
745608
4850
Nepodlehněme pokušení automatizovat války.
12:42
AutocraticAutokratický governmentsvlád and criminalzločinec organizationsorganizací
234
750458
2718
Autokratické vlády a zločinecké organizace
12:45
undoubtedlynepochybně will, but let's not joinpřipojit them.
235
753176
2956
se o to nepochybně pokusí, ale nenásledujme je.
12:48
AutonomousAutonomní roboticrobotické weaponszbraně
236
756132
1891
Autonomní robotické zbraně
12:50
would concentratesoustřeď se too much powerNapájení
237
758023
2051
by soustředily příliš velkou sílu
12:52
in too fewpár unseenneviditelné handsruce,
238
760074
2482
v několika málo skrytých rukách,
12:54
and that would be corrosivežíravé to representativezástupce governmentvláda.
239
762556
3255
což by podkopalo zastupitelskou demokracii.
12:57
Let's make sure, for democraciesdemokracie at leastnejméně,
240
765811
2961
Zajistěme, alespoň v demokratických režimech,
13:00
killerzabiják robotsroboty remainzůstat fictionbeletrie.
241
768772
2604
že roboti-zabijáci zůstanou fikcí.
13:03
Thank you.
242
771376
1110
Děkuji.
13:04
(ApplausePotlesk)
243
772486
4565
(Potlesk)
13:09
Thank you. (ApplausePotlesk)
244
777051
4616
Děkuji. (Potlesk)
Translated by Samuel Titera
Reviewed by Marek Vanžura

▲Back to top

ABOUT THE SPEAKER
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.

Why you should listen

While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.

In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?

More profile about the speaker
Daniel Suarez | Speaker | TED.com