TEDGlobal 2013
Daniel Suarez: The kill decision shouldn't belong to a robot
แดเนียล ซูอาเรส (Daniel Suarez): การตัดสินใจฆ่าไม่ควรอยู่ที่หุ่นยนต์
Filmed:
Readability: 5.9
1,946,706 views
นักเขียนนวนิยาย (Daniel Suarez) เล่าจินตนาการในทางร้ายของเขาเกี่ยวกับอนาคตของโลก บนเวที TEDGlobal stage เขาเล่าให้เราฟังถึงสิ่งที่อาจจะเกิดขึ้นจริง และสิ่งที่เราควรจะรู้ในกรณีที่หุ่นยนต์อัตโนมัติกลายเป็นอาวุธสงคราม หุ่นยนต์ที่มีเทคโนโลยีสูงเหล่านี้ จะกลายเป็นอาวุธ รวมทั้งอุปกรณ์สื่อสารที่มีเทคโนโลยีสูงทั้งหลายอาจทำให้การตัดสินใจเริ่มสงครามไม่ได้อยู่ในมือมนุษย์อีกต่อไป
Daniel Suarez - Sci-fi author
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Daniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios. Full bio
Double-click the English transcript below to play the video.
00:12
I write fiction sci-fi thrillers,
0
691
3158
ผมเป็นนักเขียนนวนิยายวิทยาศาสตร์เขย่าขวัญ
00:15
so if I say "killer robots,"
1
3849
2193
ดังนั้นเวลาที่ผมพูดถึง "หุ่นยนต์นักฆ่า"
00:18
you'd probably think something like this.
2
6042
2361
คุณคงคิดถึงหุ่นยนต์ประมาณนี้
00:20
But I'm actually not here to talk about fiction.
3
8403
2555
แต่ผมไม่ได้มาที่นี่เพื่อพูดถึงเรื่องในนิยาย
00:22
I'm here to talk about very real killer robots,
4
10958
2948
ผมมาเพื่อพูดถึงหุ่นยนต์นักฆ่าของจริง
00:25
autonomous combat drones.
5
13906
3122
หุ่นยนต์ทหารที่ตัดสินใจได้ด้วยตนเอง
00:29
Now, I'm not referring to Predator and Reaper drones,
6
17028
3627
ผมไม่ได้พูดถึงหุ่นแบบ พรีเดเตอร์ (Predator)
หรือ รีพเพอร์ (Reaper) นะครับ
หรือ รีพเพอร์ (Reaper) นะครับ
00:32
which have a human making targeting decisions.
7
20655
3260
หุ่นเหล่านั้นเป็นซึ่งมีมนุษย์คอยตัดสินเป้าหมาย
00:35
I'm talking about fully autonomous robotic weapons
8
23915
3129
ผมกำลังพูดถึงหุ่นยนต์ติดอาวุธ ที่ตัดสินใจด้วยตนเองจริงๆ
00:39
that make lethal decisions about human beings
9
27044
2654
หุ่นที่สามารถตัดสินใจปลิดชีวิตคนได้
00:41
all on their own.
10
29698
2417
ด้วยตัวมันเอง
00:44
There's actually a technical term for this: lethal autonomy.
11
32115
4000
ศัพท์เฉพาะของสิ่งนี้คือ
"ภาวะอิสระในการฆ่า" (lethal autonomy)
"ภาวะอิสระในการฆ่า" (lethal autonomy)
00:48
Now, lethally autonomous killer robots
12
36115
2856
หุ่นยนต์ที่ตัดสินใจฆ่าได้อย่างอิสระนั้น
00:50
would take many forms -- flying, driving,
13
38971
3069
มีได้หลายรูปแบบ ทั้งบินได้ ขับได้
00:54
or just lying in wait.
14
42040
2746
หรือตั้งอยู่นิ่งๆ อย่างนั้น
00:56
And actually, they're very quickly becoming a reality.
15
44786
3109
และมันกำลังใกล้ความเป็นจริงขึ้นทุกที
00:59
These are two automatic sniper stations
16
47895
2484
นี่คือฐานซุ่มยิงอัตโนมัติสองแห่ง
01:02
currently deployed in the DMZ between North and South Korea.
17
50379
4137
ซึ่งติดตั้งอยู่ในบริเวณเขตปลอดทหาร
ระหว่างเกาหลีเหนือและเกาหลีใต้
ระหว่างเกาหลีเหนือและเกาหลีใต้
01:06
Both of these machines are capable of automatically
18
54516
2171
เจ้าเครื่องทั้งสองนี้สามารถระบุ
01:08
identifying a human target and firing on it,
19
56687
3524
เป้าหมายที่เป็นมนุษย์ แล้วยิงได้ด้วยตัวมันเอง
01:12
the one on the left at a distance of over a kilometer.
20
60211
4324
ตัวซ้ายมือสามารถยิงได้เป็นระยะทางกว่า 1 กิโลเมตร
01:16
Now, in both cases, there's still a human in the loop
21
64535
3589
ทั้งสองกรณีนั้น ยังคงมีการควบคุมโดยมนุษย์อยู่
01:20
to make that lethal firing decision,
22
68124
2372
ก่อนที่จะมีการตัดสินใจยิง
01:22
but it's not a technological requirement. It's a choice.
23
70496
5413
แต่มันไม่ใช่ความจำเป็นทางเทคโนโลยี
เราเลือกที่จะมีมันต่างหาก
เราเลือกที่จะมีมันต่างหาก
01:27
And it's that choice that I want to focus on,
24
75909
3093
และนั่นคือตัวเลือกที่ผมอยากจะมุ่งประเด็นไป
01:31
because as we migrate lethal decision-making
25
79002
2641
เพราะเมื่อใดที่เราย้ายการตัดสินใจปลิดชีวิต
01:33
from humans to software,
26
81643
3109
จากมนุษย์สู่ซอฟท์แวร์แล้ว
01:36
we risk not only taking the humanity out of war,
27
84752
3476
เราไม่เพียงนำมวลมนุษยชาติออกจากสงคราม
01:40
but also changing our social landscape entirely,
28
88228
3526
แต่เราจะเปลี่ยนภูมิสังคมไปโดยสิ้นเชิง
01:43
far from the battlefield.
29
91754
2224
นอกจากในสนามรบ
01:45
That's because the way humans resolve conflict
30
93978
4509
นั่นเป็นเพราะด้วยลักษณะที่มนุษย์ใช้แก้ปัญหา
01:50
shapes our social landscape.
31
98487
1733
หล่อหลอมให้เกิดภูมิทัศน์ทางสังคมของเรา
01:52
And this has always been the case, throughout history.
32
100220
2633
และนี่เป็นสิ่งที่เกิดขึ้นมาตลอดในประวัติศาสตร์ของเรา
01:54
For example, these were state-of-the-art weapons systems
33
102853
2661
ยกตัวอย่างเช่น อาวุธใหม่ล่าสุดเหล่านี้
01:57
in 1400 A.D.
34
105514
2079
ในสมัยปีค.ศ. 1400
01:59
Now they were both very expensive to build and maintain,
35
107593
3144
พวกมันแพงมากที่จะสร้างและบำรุงรักษา
02:02
but with these you could dominate the populace,
36
110737
3240
แต่ด้วยอาวุธนี้ คุณสามารถปกครองประชากรได้
02:05
and the distribution of political power in feudal society reflected that.
37
113977
3889
และการกระจายอำนาจทางการเมือง
ในระบบศักดินาก็เป็นเช่นนั้น
ในระบบศักดินาก็เป็นเช่นนั้น
02:09
Power was focused at the very top.
38
117866
2687
อำนาจรวมอยู่ที่ผู้สูงสุด
02:12
And what changed? Technological innovation.
39
120553
3528
และอะไรที่เปลี่ยนไปล่ะ? นวัตกรรมทางเทคโนโลยี
02:16
Gunpowder, cannon.
40
124081
1871
ดินปืน ปืนใหญ่
02:17
And pretty soon, armor and castles were obsolete,
41
125952
3817
และไม่นานนัก ชุดเกราะและปราสาทก็หมดความสำคัญลง
02:21
and it mattered less who you brought to the battlefield
42
129769
2533
ประเด็นที่ว่าคุณเอา "ใคร" ลงในสนามรบ
02:24
versus how many people you brought to the battlefield.
43
132302
3779
จึงไม่สำคัญเท่า "จำนวนเท่าไหร่" อีกต่อไป
02:28
And as armies grew in size, the nation-state arose
44
136081
3638
ขณะที่ขนาดของกองทัพใหญ่ขึ้น
รัฐประเทศก็เติบโตขึ้น
รัฐประเทศก็เติบโตขึ้น
02:31
as a political and logistical requirement of defense.
45
139719
3680
ในขณะที่ภาวะด้านการเมืองและขนส่ง
เพื่อการป้องกันตนเอง
เพื่อการป้องกันตนเอง
02:35
And as leaders had to rely on more of their populace,
46
143399
2376
ทำให้ผู้นำต้องพึ่งพาประชากรมากยิ่งขึ้น
02:37
they began to share power.
47
145775
1833
พวกเขาก็เริ่มมีส่วนในอำนาจเหล่านั้น
02:39
Representative government began to form.
48
147608
2599
รัฐบาลที่มีผู้สมัครเป็นตัวแทนทางการเมืองก็เกิดขึ้น
02:42
So again, the tools we use to resolve conflict
49
150207
3288
และอีกครั้ง ที่เครื่องมือที่เราใช้แก้ไขความขัดแย้ง
02:45
shape our social landscape.
50
153495
3304
ทำให้ภูมิทัศน์ทางสังคมของเราเปลี่ยนไป
02:48
Autonomous robotic weapons are such a tool,
51
156799
4064
หุ่นยนต์ติดอาวุธที่ตัดสินใจอย่างอิสระ คือเครื่องมือนั้น
02:52
except that, by requiring very few people to go to war,
52
160863
5168
ยกเว้นว่า เนื่องจากมันใช้คนน้อยลงในการทำสงคราม
02:58
they risk re-centralizing power into very few hands,
53
166031
4840
มันทำให้เราเสี่ยงต่อการรวมอำนาจ ไปที่คนเพียงไม่กี่คน
03:02
possibly reversing a five-century trend toward democracy.
54
170871
6515
ซึ่งอาจทำให้เราถดถอยจากประชาธิปไตยที่
เราสร้างกันมากว่า 500 ปี
เราสร้างกันมากว่า 500 ปี
03:09
Now, I think, knowing this,
55
177386
1757
เมื่อรู้อย่างนี้แล้ว
03:11
we can take decisive steps to preserve our democratic institutions,
56
179143
4352
เราสามารถปกป้องรักษาสถาบัน
ทางประชาธิปไตยของเราไว้ได้
ทางประชาธิปไตยของเราไว้ได้
03:15
to do what humans do best, which is adapt.
57
183495
3979
โดยทำสิ่งที่มนุษย์ทำได้ดีที่สุด นั่นคือการปรับตัว
03:19
But time is a factor.
58
187474
2005
แต่เวลานั้นเป็นปัจจัยหนึ่ง
03:21
Seventy nations are developing remotely-piloted
59
189479
2851
มี 70 ประเทศที่กำลังพัฒนา
03:24
combat drones of their own,
60
192330
2157
หุ่นยนต์ต่อสู้บังคับระยะไกลของพวกเขาเอง
03:26
and as you'll see, remotely-piloted combat drones
61
194487
2593
และดังที่คุณจะเห็น หุ่นยนต์ควบคุมระยะไกลเหล่านี้
03:29
are the precursors to autonomous robotic weapons.
62
197080
4472
จะเป็นต้นฉบับของหุ่นยนต์ที่ตัดสินใจได้ด้วยตนเอง
03:33
That's because once you've deployed remotely-piloted drones,
63
201552
2767
นั่นก็เพราะ เมื่อคุณเริ่มพัฒนาหุ่นควบคุมระยะไกล
03:36
there are three powerful factors pushing decision-making
64
204319
3384
มันมีปัจจัยสามประการ ที่ผลักดันให้การตัดสินใจเองนั้น
03:39
away from humans and on to the weapon platform itself.
65
207703
4600
ออกห่างจากการควบคุมของมนุษย์
และอยู่บนตัวอาวุธเอง
และอยู่บนตัวอาวุธเอง
03:44
The first of these is the deluge of video that drones produce.
66
212303
5259
เหตุผลข้อแรกคือ ภาพจำนวนมหาศาลที่หุ่นเหล่านี้สร้างขึ้น
03:49
For example, in 2004, the U.S. drone fleet produced
67
217562
3853
ยกตัวอย่างเช่น ในปี 2004 กองทัพหุ่นยนต์ของ
อเมริกาได้สร้างผลงาน
อเมริกาได้สร้างผลงาน
03:53
a grand total of 71 hours of video surveillance for analysis.
68
221415
5312
ด้วยการออกลาดตระเวณเป็นเวลา 71 ชั่วโมง
และทำการบันทึกภาพเพื่อใช้ในการวิเคราะห์
และทำการบันทึกภาพเพื่อใช้ในการวิเคราะห์
03:58
By 2011, this had gone up to 300,000 hours,
69
226727
4499
ในปี 2011 จำนวนชั่วโมงการทำงานได้เพิ่มขึ้น
เป็นสามแสนชั่วโมง
เป็นสามแสนชั่วโมง
04:03
outstripping human ability to review it all,
70
231226
3149
ซึ่งมันเกินกว่าประสิทธิภาพของมนุษย์ ที่จะตรวจดูได้หมด
04:06
but even that number is about to go up drastically.
71
234375
3664
และตัวเลขนี้มีแต่จะเพิ่มขึ้นอย่างรวดเร็ว
04:10
The Pentagon's Gorgon Stare and Argus programs
72
238039
2575
โปรแกรมกอร์กอน สแตร์ แอนด์ อาร์กัส (Gorgon Stare and Argus programs) ของกระทรวงกลาโหมสหรัฐ
04:12
will put up to 65 independently operated camera eyes
73
240614
3164
จะติดตั้งกล้องที่สามารถเคลื่อนไหวได้อย่างอิสระ 65 ตัว
04:15
on each drone platform,
74
243778
2038
บนหุ่นยนต์แต่ละตัว
04:17
and this would vastly outstrip human ability to review it.
75
245816
3303
และนี่ก็จะยิ่งย้ำถึงความห่างไกล
ของศักยภาพของมนุษย์ที่จะตรวจสอบมันเข้าไปอีก
ของศักยภาพของมนุษย์ที่จะตรวจสอบมันเข้าไปอีก
04:21
And that means visual intelligence software will need
76
249119
2160
นั่นหมายความว่า ตัวโปรแกรมซอฟท์แวร์ ด้านการลาดตระเวน
04:23
to scan it for items of interest.
77
251279
4048
จะต้องสามารถตรวจหาสิ่งสนใจได้เอง
04:27
And that means very soon
78
255327
1348
และนั่นหมายความว่า อีกไม่นาน
04:28
drones will tell humans what to look at,
79
256675
2747
หุ่นยนต์จะเป็นตัวที่คอยบอกมนุษย์ ว่าเราควรสนใจมองอะไร
04:31
not the other way around.
80
259422
2497
แทนที่จะเป็นไปในทิศทางตรงกันข้าม
04:33
But there's a second powerful incentive pushing
81
261919
2473
แต่นอกจากนี้ก็ยังมีเหตุผลประการที่สอง
ที่กระตุ้นการเปลี่ยนแปลง
ที่กระตุ้นการเปลี่ยนแปลง
04:36
decision-making away from humans and onto machines,
82
264392
3383
เรื่องการตัดสินใจ
จากมือมนุษย์ สู่เครื่องจักร
จากมือมนุษย์ สู่เครื่องจักร
04:39
and that's electromagnetic jamming,
83
267775
2872
และนั่นก็คือกิจกรรมแม่เหล็กไฟฟ้า
04:42
severing the connection between the drone
84
270647
2236
ที่เป็นตัวเชื่อมต่อหุ่นยนต์เหล่านั้น
04:44
and its operator.
85
272883
2814
กับตัวควบคุม
04:47
Now we saw an example of this in 2011
86
275697
2618
เมื่อเราได้เห็นตัวอย่างของสิ่งเหล่านี้แล้วในปี 2011
04:50
when an American RQ-170 Sentinel drone
87
278315
2956
ในตอนที่หุ่น RQ- 170 ของอเมริกา
04:53
got a bit confused over Iran due to a GPS spoofing attack,
88
281271
4307
เกิดสับสนระหว่างที่ปฏิบัติหน้าที่ในอิหร่าน
เพราะสัญญาน GPS ที่ล้นเกิน
เพราะสัญญาน GPS ที่ล้นเกิน
04:57
but any remotely-piloted drone is susceptible to this type of attack,
89
285578
5114
แต่กรณีเช่นนี้ก็เกิดขึ้นได้กับหุ่นควบคุมระยะไกลทุกชนิด
05:02
and that means drones
90
290692
2052
และนั่นหมายความว่าหุ่นยนต์
05:04
will have to shoulder more decision-making.
91
292744
3620
จะต้องแบบรับภาระการตัดสินใจมากยิ่งกว่าเดิม
05:08
They'll know their mission objective,
92
296364
3043
พวกมันจะต้องรับทราบถึงเป้าหมายของปฏิบัติการ
05:11
and they'll react to new circumstances without human guidance.
93
299407
4845
และจะต้องตอบสนองกับสถานการณ์แวดล้อม
โดยไม่ได้รับคำแนะนำจากมนุษย์
โดยไม่ได้รับคำแนะนำจากมนุษย์
05:16
They'll ignore external radio signals
94
304252
2581
พวกมันจะไม่สนใจสัญญานวิทยุจากภายนอก
05:18
and send very few of their own.
95
306833
2330
และส่งสัญญานของตัวเองกลับมาเองน้อยมากด้วย
05:21
Which brings us to, really, the third
96
309163
2006
ซึ่งนั่นก็จะนำเราไปสู่ปัจจัยที่สาม
05:23
and most powerful incentive pushing decision-making
97
311169
3862
ซึ่งเป็นปัจจัยที่มีอิทธิพลมากที่สุด
ต่อการเปลี่ยนแปลงความรับผิดชอบเรื่องการตัดสินใจ
ต่อการเปลี่ยนแปลงความรับผิดชอบเรื่องการตัดสินใจ
05:27
away from humans and onto weapons:
98
315031
3342
ที่ย้ายจากมนุษย์สู่อาวุธทั้งหลาย
05:30
plausible deniability.
99
318373
3293
นั่นคือความสามารถในการเลือกไม่กระทำ
05:33
Now we live in a global economy.
100
321666
2887
ปัจจุบันเราอาศัยอยู่ในโลกยุคที่มีเศรษฐกิจเชื่อมโยงถึงกัน
05:36
High-tech manufacturing is occurring on most continents.
101
324553
4334
การผลิตข้าวของไฮเทค เกิดขึ้นในแทบทุกทวีป
05:40
Cyber espionage is spiriting away advanced designs
102
328887
2914
โลกไซเบอร์กำลังนำเราไปสู่การออกแบบที่ล้ำหน้า
05:43
to parts unknown,
103
331801
1886
นำไปสู่สิ่งที่เราอาจยังไม่รู้จัก
05:45
and in that environment, it is very likely
104
333687
2014
และในสภาพการณ์แบบนั้น มันมีความเป็นไปได้มาก
05:47
that a successful drone design will be knocked off in contract factories,
105
335701
4734
ที่หุ่นยนต์ที่ออกแบบได้อย่างดี จะกลายเป็นต้นแบบ
ของหุ่นยนต์ที่จะถูกผลิตในเชิงอุตสาหกรรม
ของหุ่นยนต์ที่จะถูกผลิตในเชิงอุตสาหกรรม
05:52
proliferate in the gray market.
106
340435
2170
ทำให้มันสามารถเพิ่มจำนวนได้อย่างรวดเร็วในตลาดมืด
05:54
And in that situation, sifting through the wreckage
107
342605
2460
และในสถานการณ์เช่นนี้ นำไปสู่การทำลายล้าง
05:57
of a suicide drone attack, it will be very difficult to say
108
345065
2960
โดยใช้หุ่นยนต์โจมตีแบบพลีชีพ
ซึ่งเป็นการยากที่จะหาที่มา
ซึ่งเป็นการยากที่จะหาที่มา
06:00
who sent that weapon.
109
348025
4400
ว่าใครเป็นคนส่งหุ่นเหล่านี้มา
06:04
This raises the very real possibility
110
352425
2800
นี่ทำให้เกิดความเป็นไปได้ที่จะทำให้เกิด
06:07
of anonymous war.
111
355225
2935
สงครามที่ไร้ผู้ก่อ
06:10
This could tilt the geopolitical balance on its head,
112
358160
2614
นี่อาจทำให้เกิดการเปลี่ยนแปลง
ในสภาวะสมดุลทางการเมืองในระดับโลก
ในสภาวะสมดุลทางการเมืองในระดับโลก
06:12
make it very difficult for a nation to turn its firepower
113
360774
3491
ทำให้เป็นการยากมากสำหรับประเทศหนึ่ง ที่จะหันปลายปืน
06:16
against an attacker, and that could shift the balance
114
364265
2848
ไปยังผู้ที่ทำการบุกรุก และนั่นอาจทำให้สมดุลนั้นเสียไป
06:19
in the 21st century away from defense and toward offense.
115
367113
3764
ในศตวรรษที่ 21 เราก้าวเดินห่างออกมาจากการป้องกัน
และก้าวไปสู่การเตรียมการรุกราน
และก้าวไปสู่การเตรียมการรุกราน
06:22
It could make military action a viable option
116
370877
3124
นั่นทำให้การใช้กำลังทางการทหาร
กลายเป็นทางเลือกหนึ่งที่อยู่ยงคงกระพัน
กลายเป็นทางเลือกหนึ่งที่อยู่ยงคงกระพัน
06:26
not just for small nations,
117
374001
2288
ไม่ใช่เฉพาะกับประเทศเล็กๆเท่านั้น
06:28
but criminal organizations, private enterprise,
118
376289
2545
แต่สำหรับองค์กรก่อการร้าย หรือ บริษัทเอกชนต่างๆ
06:30
even powerful individuals.
119
378834
2479
หรือแม้แต่บุคคลที่มีอำนาจ
06:33
It could create a landscape of rival warlords
120
381313
3328
มันอาจทำให้เกิดสภาพที่เหมาะ กับการเกิดการแข่งขัน
ระหว่างผู้มีอำนาจต่างๆ
ระหว่างผู้มีอำนาจต่างๆ
06:36
undermining rule of law and civil society.
121
384641
3680
โดยบ่อนทำลายนาจของกฏหมายและขนบต่างๆของสังคม
06:40
Now if responsibility and transparency
122
388321
3616
แล้วถ้าความรับผิดชอบ และความโปร่งใส
06:43
are two of the cornerstones of representative government,
123
391937
2384
เป็นสิ่งสำคัญพื้นฐานของรัฐบาลที่เป็นตัวแทนของเรา
06:46
autonomous robotic weapons could undermine both.
124
394321
4320
อาวุธหุ่นยนต์อัตโนมัติ
ก็สามารถทำลายความเชื่อทั้งสองประการนี้ได้
ก็สามารถทำลายความเชื่อทั้งสองประการนี้ได้
06:50
Now you might be thinking that
125
398641
1546
คุณอาจจะคิดว่า
06:52
citizens of high-tech nations
126
400187
2246
ประชาชนของประเทศที่มีเทคโนโลยีสูง
06:54
would have the advantage in any robotic war,
127
402433
2703
จะมีความได้เปรียบในสงครามหุ่นยนต์
06:57
that citizens of those nations would be less vulnerable,
128
405136
3633
แต่ความจริงแล้ว
ประชากรของประเทศเหล่านั้นกลับตกอยู่ในความเสี่ยง
ประชากรของประเทศเหล่านั้นกลับตกอยู่ในความเสี่ยง
07:00
particularly against developing nations.
129
408769
4288
โดยเฉพาะเมื่อพวกเขาต้องเผชิญหน้ากับชาติกำลังพัฒนา
07:05
But I think the truth is the exact opposite.
130
413057
3524
แต่ผมคิดว่าความจริงนั้นกลับตรงกันข้าม
07:08
I think citizens of high-tech societies
131
416581
2251
ผมคิดว่าประชาชนในสังคมที่มีเทคโนโลยีสูง
07:10
are more vulnerable to robotic weapons,
132
418832
3729
จะตกเป็นเหยื่อของอาวุธหุ่นยนต์ได้ง่ายกว่า
07:14
and the reason can be summed up in one word: data.
133
422561
4465
และสาเหตุก็สรุปได้ในคำๆเดียว คือ ข้อมูล
07:19
Data powers high-tech societies.
134
427026
3481
ข้อมูลเป็นส่วนสำคัญของสังคมที่ใช้เทคโนโลยี
07:22
Cell phone geolocation, telecom metadata,
135
430507
3190
การระบุตำแหน่งบนพื้นโลกด้วยโทรศัพท์มือถือ
หรือข้อมูลทางโทรคมนาคมทั้งหลาย
หรือข้อมูลทางโทรคมนาคมทั้งหลาย
07:25
social media, email, text, financial transaction data,
136
433697
3472
สื่อทางสังคมต่างๆ อีเมล ข้อความ ข้อมูลธุรกรรมการเงิน
07:29
transportation data, it's a wealth of real-time data
137
437169
3532
ข้อมูลเรื่องการขนส่งมวลชน
มันเป็นขุมคลังของข้อมูลที่มีการบันทึกตามจริงอยู่ตลอดเวลา
มันเป็นขุมคลังของข้อมูลที่มีการบันทึกตามจริงอยู่ตลอดเวลา
07:32
on the movements and social interactions of people.
138
440701
3373
ภายใต้ความเคลื่อนไหว และการติดต่อสื่อสารระหว่างผู้คนในสังคม
07:36
In short, we are more visible to machines
139
444074
3775
สรุปง่ายๆ คือ เรากำลังถูกจับตามองโดยเครื่องจักรเหล่านี้
07:39
than any people in history,
140
447849
2242
มากกว่าคนทุกรุ่นในประวัติศาสตร์
07:42
and this perfectly suits the targeting needs of autonomous weapons.
141
450091
5616
และสถานการณ์นี้ก็เหมาะสมอย่างยิ่ง
ต่อการตกเป็นเหยื่อของอาวุธอัตโนมัติ
ต่อการตกเป็นเหยื่อของอาวุธอัตโนมัติ
07:47
What you're looking at here
142
455707
1738
สิ่งที่เรากำลังเห็นอยู่ในขณะนี้
07:49
is a link analysis map of a social group.
143
457445
3246
คือ แผนที่แสดงความเชื่อมโยงระหว่างกลุ่มชนต่างๆ
07:52
Lines indicate social connectedness between individuals.
144
460691
3634
เส้นเหล่านี้แสดงความเชื่อมโยงทางสังคมระหว่างบุคคล
07:56
And these types of maps can be automatically generated
145
464325
2880
และแผนผังเหล่านี้สามารถประมวลผลออกมาได้อัตโนมัติ
07:59
based on the data trail modern people leave behind.
146
467205
4715
จากข้อมูลที่คนรุ่นใหม่ทั้งหลายใช้อยู่
08:03
Now it's typically used to market goods and services
147
471920
2477
ตอนนี้มันเป็นเรื่องปรกติที่ข้อมูลเหล่านี้
จะถูกนำไปใช้เพื่อการขายสินค้าและบริการต่างๆ
จะถูกนำไปใช้เพื่อการขายสินค้าและบริการต่างๆ
08:06
to targeted demographics, but it's a dual-use technology,
148
474397
4416
หรือใช้เพื่อการหาจำนวนประขากร
ซึ่งมันก็เป็นการใช้เทคโนโลยีทั้งสองทาง
ซึ่งมันก็เป็นการใช้เทคโนโลยีทั้งสองทาง
08:10
because targeting is used in another context.
149
478813
3360
เพราะการพุ่งเป้าไปที่กลุ่มเป้าหมายนั้น ในอีกนัยหนึ่ง
08:14
Notice that certain individuals are highlighted.
150
482173
2560
ก็คือการที่คนบางกลุ่ม
หรือ บุคคลใดบุคคลหนึ่งนั้นถูกทำให้เด่นชัดขึ้นมา
หรือ บุคคลใดบุคคลหนึ่งนั้นถูกทำให้เด่นชัดขึ้นมา
08:16
These are the hubs of social networks.
151
484733
3280
นี่คือจุดศูนย์รวมข้อมูลของโซเชียลเน็ทเวิรก์ทั้งหลาย
08:20
These are organizers, opinion-makers, leaders,
152
488013
3590
คนที่เป็นจุดศูนย์รวมเหล่านี้ได้แก่
ผู้จัดการ คนที่แสดงความเห็นทางสังคม ผู้นำทั้งหลาย
ผู้จัดการ คนที่แสดงความเห็นทางสังคม ผู้นำทั้งหลาย
08:23
and these people also can be automatically identified
153
491603
2682
และคนเหล่านี้ก็ยังจะถูกแยกแยะ
ลักษณะการเกี่ยวข้องทางสังคมโดยอัตโนมัติ
ลักษณะการเกี่ยวข้องทางสังคมโดยอัตโนมัติ
08:26
from their communication patterns.
154
494285
2382
จากพฤติกรรมการสื่อสารของเขา
08:28
Now, if you're a marketer, you might then target them
155
496667
2146
ทีนี้ ถ้าคุณเป็นนักการตลาด คุณอาจจะพุ่งเป้าไปที่คนเหล่านี้
08:30
with product samples, try to spread your brand
156
498813
2543
ด้วยการเสนอตัวอย่างสินค้าของคุณ
หรือพยายามที่จะขายแบรนด์ของคุณ
หรือพยายามที่จะขายแบรนด์ของคุณ
08:33
through their social group.
157
501356
2829
ผ่านกลุ่มเครือข่ายทางสังคมของพวกเขา
08:36
But if you're a repressive government
158
504185
1953
แต่ถ้าคุณเป็นตัวแทนของรัฐบาล
08:38
searching for political enemies, you might instead remove them,
159
506138
4810
และกำลังมองหาศัตรูทางการเมือง คุณก็ลบพวกเขา
08:42
eliminate them, disrupt their social group,
160
510948
2760
กำจัดคนเหล่านั้น
สร้างความวุ่นวายให้กับกลุ่มทางสังคมนั้น
สร้างความวุ่นวายให้กับกลุ่มทางสังคมนั้น
08:45
and those who remain behind lose social cohesion
161
513708
3169
และคนที่อยู่เบื้องหลังความเกี่ยวข้องทางสังคมเหล่านั้น
08:48
and organization.
162
516877
2621
และองค์กรเหล่านั้น
08:51
Now in a world of cheap, proliferating robotic weapons,
163
519498
3324
ในโลกของการเติบโตอย่างรวดเร็วของอาวุธหุ่นยนต์
ที่มีราคาย่อมเยา
ที่มีราคาย่อมเยา
08:54
borders would offer very little protection
164
522822
2635
เขตชายแดนระหว่างประเทศจะให้ความคุ้มครองพวกเราได้เพียงนิดเดียวเท่านั้น
08:57
to critics of distant governments
165
525457
1946
ในสายตาของรัฐบาลประเทศใดประเทศหนึ่งจากแดนไกล
08:59
or trans-national criminal organizations.
166
527403
3646
หรือองค์กรก่อการร้ายข้ามชาติ
09:03
Popular movements agitating for change
167
531049
3493
การเคลื่อนไหวที่เรียกร้องให้เกิดความเปลี่ยนแปลงนั้นกำลังได้รับความนิยม
09:06
could be detected early and their leaders eliminated
168
534542
3609
และมันอาจกลายเป็นสิ่งที่ทำให้ทราบข้อมูลเกี่ยวกับผู้นำและทำให้จัดการกับผู้นำได้อย่างรวดเร็ว
09:10
before their ideas achieve critical mass.
169
538151
2911
ก่อนที่ความคิดนี้จะสำเร็จผลในวงกว้าง
09:13
And ideas achieving critical mass
170
541062
2591
แล้วความคิดที่จะทำให้เกิดผลในวงกว้าง
09:15
is what political activism in popular government is all about.
171
543653
3936
ก็คือสิ่งที่นักเคลื่อนไหวทางการเมือง
ของรัฐบาลทั้งหลายที่กำลังพยายามทำอยู่
ของรัฐบาลทั้งหลายที่กำลังพยายามทำอยู่
09:19
Anonymous lethal weapons could make lethal action
172
547589
3997
การมีอาวุธทำลายล้างที่มีอานุภาพสูงอาจทำให้เกิดผลถึงแก่ชีวิตได้
09:23
an easy choice for all sorts of competing interests.
173
551586
3782
ซึ่งเป็นทางออกที่ง่ายดายเหลือเกิน
สำหรับความขัดแย้งทางผลประโยชน์ต่างๆ
สำหรับความขัดแย้งทางผลประโยชน์ต่างๆ
09:27
And this would put a chill on free speech
174
555368
3734
นี่จะทำให้การกล่าวสุนทรพจน์
เพื่อแสดงความคิดเห็นดูน่ากลัวขึ้นอีกมาก
เพื่อแสดงความคิดเห็นดูน่ากลัวขึ้นอีกมาก
09:31
and popular political action, the very heart of democracy.
175
559102
5308
และทำให้การแสดงออกทางการเมือง ซึ่งเป็นหัวใจของระบอบประชาธิปไตย กลายเป็นเรื่องน่าผวา
09:36
And this is why we need an international treaty
176
564410
2914
และนี่คือสาเหตุที่เราจำเป็นต้องมีสนธิสัญญาระหว่างประเทศ
09:39
on robotic weapons, and in particular a global ban
177
567324
3540
เกี่ยวกับการพัฒนาหุ่นยนต์เป็นอาวุธ ซึ่งควรเป็นสนธิสัญญานานาชาติเพื่อห้าม
09:42
on the development and deployment of killer robots.
178
570864
3908
การพัฒนา หรือการทดลองใช้หุ่นยนต์นักฆ่า
09:46
Now we already have international treaties
179
574772
3254
ในตอนนี้เราได้มีสนธิสัญญาเพื่อห้ามใช้
09:50
on nuclear and biological weapons, and, while imperfect,
180
578026
3386
อาวุธนิวเคลียร์ และอาวุธชีวภาพแล้ว
และถึงแม้ว่ามันจะไม่สมบูรณ์แบบ
และถึงแม้ว่ามันจะไม่สมบูรณ์แบบ
09:53
these have largely worked.
181
581412
2288
แต่มันก็ใช้ได้ผลดีในระดับหนึ่ง
09:55
But robotic weapons might be every bit as dangerous,
182
583700
3768
แต่อาวุธหุ่นยนต์นั้นก็น่าจะเป็นอันตราย
พอๆกับอาวุธร้ายแรงทั้งสองอย่างนั้น
พอๆกับอาวุธร้ายแรงทั้งสองอย่างนั้น
09:59
because they will almost certainly be used,
183
587468
3288
เพราะว่ามันค่อนข้างจะแน่นอนว่ามันจะถูกนำไปใช้
10:02
and they would also be corrosive to our democratic institutions.
184
590756
5027
และมันก็จะบ่อนทำลาย
ระบอบการปกครองแบบประชาธิปไตยของเรา
ระบอบการปกครองแบบประชาธิปไตยของเรา
10:07
Now in November 2012 the U.S. Department of Defense
185
595783
3468
ในเดือนพฤศจิกายน ปี 2012 กระทรวงกลาโหมสหรัฐ
10:11
issued a directive requiring
186
599251
2458
ได้ออกกฏซึ่งบังคับ
10:13
a human being be present in all lethal decisions.
187
601709
4519
ให้มีมนุษย์อยู่เป็นพยานในการตัดสินใจโจมตีทุกครั้ง
10:18
This temporarily effectively banned autonomous weapons in the U.S. military,
188
606228
4776
ซึ่งนี่เป็นกฏที่แสดงถึงการห้ามการใช้หุ่นยนต์
ในการปฏิบัติการโดยอัตโนมัติในกองทัพสหรัฐ
ในการปฏิบัติการโดยอัตโนมัติในกองทัพสหรัฐ
10:23
but that directive needs to be made permanent.
189
611004
3753
แต่คำสั่งนี้ควรได้รับการปรับปรุงให้มีการบังคับใช้อย่างถาวร
10:26
And it could set the stage for global action.
190
614757
4376
และมันควรจะเป็นสิ่งที่เกิดขึ้นในเวทีโลก
10:31
Because we need an international legal framework
191
619133
3845
เพราะว่าเราต้องการกรอบทางกฏหมายในระดับนานาชาติ
10:34
for robotic weapons.
192
622978
2138
เพื่อบังคับเรื่องการใช้อาวุธหุ่นยนต์
10:37
And we need it now, before there's a devastating attack
193
625116
2928
และเราต้องการมันในขณะนี้ ก่อนที่จะเกิดการโจมตีร้ายแรง
10:40
or a terrorist incident that causes nations of the world
194
628044
3152
หรือเหตุการณ์ก่อการร้ายที่ทำให้ทุกชาติในโลก
10:43
to rush to adopt these weapons
195
631196
1924
รีบนำอาวุธเหล่านั้นมาใช้
10:45
before thinking through the consequences.
196
633120
3771
โดยไม่ทันได้คำนึงถึงผลที่จะตามมา
10:48
Autonomous robotic weapons concentrate too much power
197
636891
2981
อาวุธที่เป็นหุ่นยนต์อัตโนมัติ เป็นการรวมอำนาจไว้
10:51
in too few hands, and they would imperil democracy itself.
198
639872
6283
ในกำมือคนเพียงไม่กี่คน และพวกเขาก็จะกลายเป็นภัยคุกคามต่อระบอบประชาธิปไตย
10:58
Now, don't get me wrong, I think there are tons
199
646155
2686
ทีนี้ อย่าเข้าใจผิดนะครับ ผมคิดว่ายังมีคนอีกเป็นจำนวนมาก
11:00
of great uses for unarmed civilian drones:
200
648841
2618
ที่ใช้งานหุ่นยนต์ที่ไม่ได้ติดอาวุธ
เพื่อวัตถุประสงค์ในการดำรงชีวิตทั่วไป
เพื่อวัตถุประสงค์ในการดำรงชีวิตทั่วไป
11:03
environmental monitoring, search and rescue, logistics.
201
651459
3939
ใช้ช่วยงานด้านสิ่งแวดล้อม
ใช้ค้นหาและช่วยเหลืองานด้านการขนส่งสินค้า
ใช้ค้นหาและช่วยเหลืองานด้านการขนส่งสินค้า
11:07
If we have an international treaty on robotic weapons,
202
655398
2826
ถ้าเรามีการเซ็นต์สนธิสัญญา
ว่าด้วยการห้ามพัฒนาหุ่นยนต์เป็นอาวุธ
ว่าด้วยการห้ามพัฒนาหุ่นยนต์เป็นอาวุธ
11:10
how do we gain the benefits of autonomous drones
203
658224
3587
แล้วเราจะใช้ประโยชน์จากหุ่นยนต์อัตโนมัติ
11:13
and vehicles while still protecting ourselves
204
661811
2648
และยานพาหนะต่างๆ พร้อมกับที่เราป้องกันตัวเราเอง
11:16
against illegal robotic weapons?
205
664459
3980
จากการใช้หุ่นยนต์เป็นอาวุธอย่างผิดกฏหมายได้อย่างไร ?
11:20
I think the secret will be transparency.
206
668439
4741
ผมคิดว่ามันเป็นเรื่องจำเป็น ที่ความลับเหล่านี้ต้องมีความโปร่งใส
11:25
No robot should have an expectation of privacy
207
673180
3013
และไม่ควรมีหุ่นยนต์ตัวไหนควรจะได้รับความเป็นส่วนตัว
11:28
in a public place.
208
676193
3451
ในสถานที่ชุมนุมชน
11:31
(Applause)
209
679644
5048
(เสียงปรบมือ)
11:36
Each robot and drone should have
210
684692
2045
หุ่นยนต์และหุ่นบังคับระยะไกลควรจะมี
11:38
a cryptographically signed I.D. burned in at the factory
211
686737
2883
การสลักเลขประจำตัวบนตัวถังตั้งแต่ที่โรงงาน
11:41
that can be used to track its movement through public spaces.
212
689620
2923
ซึ่งจะทำให้เราสามารถติดตามความเคลือนไหวของพวกมัน
ในสถานที่สาธารณะได้
ในสถานที่สาธารณะได้
11:44
We have license plates on cars, tail numbers on aircraft.
213
692543
3381
เรามีป้ายทะเบียนสำหรับรถยนต์ มีเลขที่เครื่องบิน
11:47
This is no different.
214
695924
1841
เพราะฉะนั้น นี่ก็ไม่ต่างกัน
11:49
And every citizen should be able to download an app
215
697765
2012
และประชาชนทุกคนก็ควรจะสามารถดาวน์โหลดแอพพลิเคชั่น
11:51
that shows the population of drones and autonomous vehicles
216
699777
3125
ที่จะใช้แสดงจำนวนประชากรของหุ่นควบคุม
และหุ่นยนต์โดยสารอัตโนมัติเหล่านี้ว่า
และหุ่นยนต์โดยสารอัตโนมัติเหล่านี้ว่า
11:54
moving through public spaces around them,
217
702902
2429
พวกหุ่นกำลังเคลื่อนที่ไปมาอย่างไรในพื้นที่รอบๆตัวพวกเขา
11:57
both right now and historically.
218
705331
2733
โดยเป็นข้อมูลทั้งในแบบที่เป็นจริง และในเชิงประวัติ
12:00
And civic leaders should deploy sensors and civic drones
219
708064
3548
และผู้นำชุมชนควรจะมีเซ็นเซอร์สำหรับหุ่นที่ใช้ในครัวเรือน
12:03
to detect rogue drones,
220
711612
2344
เพื่อตรวจสอบหุ่นเถื่อน
12:05
and instead of sending killer drones of their own up to shoot them down,
221
713956
3176
แทนที่เราจะส่งหุ่นชนิดเดียวกันออกไปทำลายหุ่น
12:09
they should notify humans to their presence.
222
717132
2992
พวกมันควรแจ่งให้มนุษย์ทราบเมื่อมันจะบุกรุก
12:12
And in certain very high-security areas,
223
720124
2606
และในบางกรณี ในพื้นที่ๆต้องการการรักษาความปลอดภัย
12:14
perhaps civic drones would snare them
224
722730
1909
เราอาจจะใช้หุ่นตามบ้านในการจัดการกับหุ่นเหล่านั้น
12:16
and drag them off to a bomb disposal facility.
225
724639
2841
เพื่อลากเอาหุ่นเหล่านั้นไปทำลาย
12:19
But notice, this is more an immune system
226
727480
3027
แต่สังเกตดูนะครับว่า
นี่น่าจะดูมีลักษณะคล้ายกับการเป็นระบบภูมิคุ้มกัน
นี่น่าจะดูมีลักษณะคล้ายกับการเป็นระบบภูมิคุ้มกัน
12:22
than a weapons system.
227
730507
1321
มากกว่าที่จะเป็นอาวุธ
12:23
It would allow us to avail ourselves of the use
228
731828
2592
มันจะทำให้เราสามารถมีข้ออ้างในการใช้
12:26
of autonomous vehicles and drones
229
734420
2032
หุ่นยนต์และพาหนะโดยสารที่ควบคุมโดยหุ่นยนต์
12:28
while still preserving our open, civil society.
230
736452
4295
โดยที่ยังรักษาสถานภาพของสังคมเปิด
และมีวัฒนธรรมของเราไว้ได้
และมีวัฒนธรรมของเราไว้ได้
12:32
We must ban the deployment and development
231
740747
2999
เราควรต่อต้านการพัฒนาและการใช้
12:35
of killer robots.
232
743746
1862
หุ่นยนต์นักฆ่า
12:37
Let's not succumb to the temptation to automate war.
233
745608
4850
อย่ายอมลงให้กับความเป็นไปได้ในการเกิดสงครามหุ่นยนต์
12:42
Autocratic governments and criminal organizations
234
750458
2718
องค์กรก่อการร้ายและรัฐบาลเผด็จการทั้งหลาย
12:45
undoubtedly will, but let's not join them.
235
753176
2956
น่าจะใช้ประโยชน์จากสิ่งนี้แน่ แต่พวกเราจะไม่ปล่อยให้เป็นอย่างนั้น
12:48
Autonomous robotic weapons
236
756132
1891
อาวุธอัตโนมัติที่เป็นหุ่นยนต์นั้น
12:50
would concentrate too much power
237
758023
2051
จะไม่รวบอำนาจที่มากมายเกินไป
12:52
in too few unseen hands,
238
760074
2482
เข้าไปอยู่ในมือของคนไม่กี่คน
12:54
and that would be corrosive to representative government.
239
762556
3255
มันเป็นเรืองที่ออกจะกัดกร่อนสถานะของรัฐ
12:57
Let's make sure, for democracies at least,
240
765811
2961
แต่เราควรทำให้แน่ใจว่า อย่างน้อยก็เพื่อประชาธิปไตย
13:00
killer robots remain fiction.
241
768772
2604
หุ่นยนต์นักฆ่า ก็จะยังคงเป็นเพียงจินตนาการต่อไป
13:03
Thank you.
242
771376
1110
ขอบคุณครับ
13:04
(Applause)
243
772486
4565
(เสียงปรบมือ)
13:09
Thank you. (Applause)
244
777051
4616
ขอบคุณครับ (เสียงปรบมือ)
ABOUT THE SPEAKER
Daniel Suarez - Sci-fi authorDaniel Suarez concocts thrilling reads from terrifying (and not-so-farfetched) near-future scenarios.
Why you should listen
While working as a software developer, Daniel Suarez self-published Daemon, a cyber-thriller depicting a future where society is radically reshaped by disruptive technologies. It struck a chord -- and so did the sequel, Freedom (TM) -- rocketing Suarez into the pantheon of sci-fi prophets.
In his 2012 novel Kill Decision, Suarez digs into the consequences of technology that’s here to stay: autonomous bots and drones programmed to be lethal. Suarez argues that as we cede more control to software, we gamble with the very essence of democracy itself. How can we establish sane guidelines for technology that could easily outstrip our control?
Daniel Suarez | Speaker | TED.com