TEDSummit
Zeynep Tufekci: Machine intelligence makes human morals more important
Zeynep Tufekci: A gépi intelligenciától fontosabbá válnak az emberi erkölcsök
Filmed:
Readability: 4.9
1,648,711 views
A gépi intelligencia megérkezett, és már használjuk is szubjektív döntések meghozatalára. De mivel a mesterséges intelligencia növekedése és javulása bonyolult, nehéz megérteni, és még nehezebb irányítani. Ebben az óvatosságra intő beszédben Zeynep Tufecki műszaki szociológus elmagyarázza, hogy az intelligens gépek olyan módon hibázhatnak, amelyek nem hasonlítanak az emberi hibamintákra; olymódon, amire nem számítunk, és amire nem vagyunk felkészülve. "Nem szervezhetjük ki a felelősségünket a gépekbe" – mutat rá. "Még szigorúbban kell ragaszkodnunk az emberi értékekhez és az emberi etikához."
Zeynep Tufekci - Techno-sociologist
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Techno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread. Full bio
Double-click the English transcript below to play the video.
00:12
So, I started my first job
as a computer programmer
as a computer programmer
0
739
4122
Az első munkám számítógép-programozás volt
00:16
in my very first year of college --
1
4885
1956
a főiskola legelső évében,
00:18
basically, as a teenager.
2
6865
1507
amit még tizenévesként kezdtem.
00:20
Soon after I started working,
3
8889
1732
Kezdésem után nem sokkal
00:22
writing software in a company,
4
10645
1610
szoftvereket írtam egy cégnek,
00:24
a manager who worked at the company
came down to where I was,
came down to where I was,
5
12799
3635
amikor a cég egyik főnök odajött hozzám,
00:28
and he whispered to me,
6
16458
1268
és suttogva megkérdezte:
00:30
"Can he tell if I'm lying?"
7
18229
2861
"Ő tudja-e, ha hazudok?"
00:33
There was nobody else in the room.
8
21806
2077
Senki más nem volt a szobában.
00:37
"Can who tell if you're lying?
And why are we whispering?"
And why are we whispering?"
9
25032
4389
"Kicsoda tudja-e, ha hazudsz?
És miért suttogunk?"
És miért suttogunk?"
00:42
The manager pointed
at the computer in the room.
at the computer in the room.
10
30266
3107
A főnök a szobában lévő
számítógépre mutatott.
számítógépre mutatott.
00:45
"Can he tell if I'm lying?"
11
33397
3096
"Ő tudja-e, ha hazudok?"
00:49
Well, that manager was having
an affair with the receptionist.
an affair with the receptionist.
12
37613
4362
Hát, ennek a főnöknek
viszonya volt a recepcióssal.
viszonya volt a recepcióssal.
00:53
(Laughter)
13
41999
1112
(Nevetés)
00:55
And I was still a teenager.
14
43135
1766
És én még csak tizenéves voltam.
00:57
So I whisper-shouted back to him,
15
45447
2019
Hangosan visszasuttogtam:
00:59
"Yes, the computer can tell
if you're lying."
if you're lying."
16
47490
3624
"Igen, a számítógép tudja, mikor hazudsz."
01:03
(Laughter)
17
51138
1806
(Nevetés)
01:04
Well, I laughed, but actually,
the laugh's on me.
the laugh's on me.
18
52968
2923
Kinevettem, de igazából
engem kellene kinevetni.
engem kellene kinevetni.
01:07
Nowadays, there are computational systems
19
55915
3268
Manapság olyan számítógépes
rendszerek vannak,
rendszerek vannak,
01:11
that can suss out
emotional states and even lying
emotional states and even lying
20
59207
3548
amelyek kiszimatolják az érzelmi
állapotot, sőt a hazugságot is
állapotot, sőt a hazugságot is
01:14
from processing human faces.
21
62779
2044
az emberi arc tanulmányozásából.
01:17
Advertisers and even governments
are very interested.
are very interested.
22
65248
4153
A reklámozók és a hatóságok is
erősen érdeklődnek irántuk.
erősen érdeklődnek irántuk.
01:22
I had become a computer programmer
23
70319
1862
Azért lettem számítógép-programozó,
01:24
because I was one of those kids
crazy about math and science.
crazy about math and science.
24
72205
3113
mert gyerekként megőrültem
a matekért és a tudományért.
a matekért és a tudományért.
01:27
But somewhere along the line
I'd learned about nuclear weapons,
I'd learned about nuclear weapons,
25
75942
3108
De valamikor később tudomást
szereztem a nukleáris fegyverekről,
szereztem a nukleáris fegyverekről,
01:31
and I'd gotten really concerned
with the ethics of science.
with the ethics of science.
26
79074
2952
és komolyan aggódni kezdtem
a tudomány etikájáért.
a tudomány etikájáért.
01:34
I was troubled.
27
82050
1204
Zavarban voltam.
01:35
However, because of family circumstances,
28
83278
2641
Ám családi körülményeim miatt
01:37
I also needed to start working
as soon as possible.
as soon as possible.
29
85943
3298
minél hamarabb munkába kellett állnom.
01:41
So I thought to myself, hey,
let me pick a technical field
let me pick a technical field
30
89265
3299
Úgyhogy azt gondoltam magamban:
választok egy műszaki területet,
választok egy műszaki területet,
01:44
where I can get a job easily
31
92588
1796
ahol könnyen találok munkát,
01:46
and where I don't have to deal
with any troublesome questions of ethics.
with any troublesome questions of ethics.
32
94408
4018
és ahol nem kell foglalkoznom
semmilyen zavaró etikai kérdéssel.
semmilyen zavaró etikai kérdéssel.
01:51
So I picked computers.
33
99022
1529
A számítógépeket választottam.
01:52
(Laughter)
34
100575
1104
(Nevetés)
01:53
Well, ha, ha, ha!
All the laughs are on me.
All the laughs are on me.
35
101703
3410
Hát, ha-ha-ha! Ki lehet engem nevetni.
01:57
Nowadays, computer scientists
are building platforms
are building platforms
36
105137
2754
Manapság az informatikusok
olyan felületeket építenek,
olyan felületeket építenek,
01:59
that control what a billion
people see every day.
people see every day.
37
107915
4209
amelyek azt irányítják,
amit egymilliárd ember naponta lát.
amit egymilliárd ember naponta lát.
02:05
They're developing cars
that could decide who to run over.
that could decide who to run over.
38
113052
3822
Autókat fejlesztenek,
amelyek eldönthetik, kit ütnek el.
amelyek eldönthetik, kit ütnek el.
02:09
They're even building machines, weapons,
39
117707
3213
Sőt, gépeket és fegyvereket gyártanak,
02:12
that might kill human beings in war.
40
120944
2285
amelyek háborúban
embereket ölhetnek meg.
embereket ölhetnek meg.
02:15
It's ethics all the way down.
41
123253
2771
Etika végestelen végig.
02:19
Machine intelligence is here.
42
127183
2058
A gépi intelligencia megérkezett.
02:21
We're now using computation
to make all sort of decisions,
to make all sort of decisions,
43
129823
3474
Ma a számítástechnikát
mindenféle döntésre használjuk,
mindenféle döntésre használjuk,
02:25
but also new kinds of decisions.
44
133321
1886
újfajta döntésekre is.
02:27
We're asking questions to computation
that have no single right answers,
that have no single right answers,
45
135231
5172
Olyan kérdéseket teszünk fel a gépeknek,
amelyekre nincs egyetlen helyes válasz,
amelyekre nincs egyetlen helyes válasz,
02:32
that are subjective
46
140427
1202
szubjektív,
02:33
and open-ended and value-laden.
47
141653
2325
nyitott és fontos kérdéseket.
02:36
We're asking questions like,
48
144002
1758
Ilyen kérdéseket teszünk fel:
02:37
"Who should the company hire?"
49
145784
1650
„Kit alkalmazzon a cég?”,
02:40
"Which update from which friend
should you be shown?"
should you be shown?"
50
148096
2759
„Melyik ismerős melyik frissítését
mutassuk meg neked?”,
mutassuk meg neked?”,
02:42
"Which convict is more
likely to reoffend?"
likely to reoffend?"
51
150879
2266
„Melyik elítéltről valószínűbb,
hogy újból bűnözik?”,
hogy újból bűnözik?”,
02:45
"Which news item or movie
should be recommended to people?"
should be recommended to people?"
52
153514
3054
„Melyik hírt vagy mozifilmet
ajánljuk az embereknek?”
ajánljuk az embereknek?”
02:48
Look, yes, we've been using
computers for a while,
computers for a while,
53
156592
3372
Már használjuk egy ideje a számítógépeket,
02:51
but this is different.
54
159988
1517
de ez most más.
02:53
This is a historical twist,
55
161529
2067
Ez történelmi fordulat,
mert a számítástechnikát nem tudjuk
úgy kötni e szubjektív döntésekhez,
úgy kötni e szubjektív döntésekhez,
02:55
because we cannot anchor computation
for such subjective decisions
for such subjective decisions
56
163620
5337
03:00
the way we can anchor computation
for flying airplanes, building bridges,
for flying airplanes, building bridges,
57
168981
5420
ahogy összekapcsoljuk a légi
közlekedéssel, a hídépítéssel,
közlekedéssel, a hídépítéssel,
03:06
going to the moon.
58
174425
1259
a holdra szállással.
03:08
Are airplanes safer?
Did the bridge sway and fall?
Did the bridge sway and fall?
59
176449
3259
Biztonságosabbak a repülőgépek?
Kilengett és összedőlt a híd?
Kilengett és összedőlt a híd?
03:11
There, we have agreed-upon,
fairly clear benchmarks,
fairly clear benchmarks,
60
179732
4498
Ott vannak egyeztetett,
elég világos viszonyítási alapjaink,
elég világos viszonyítási alapjaink,
03:16
and we have laws of nature to guide us.
61
184254
2239
és a természet törvényei irányítanak.
03:18
We have no such anchors and benchmarks
62
186517
3394
A zűrös emberi viszonyokra
vonatkozó döntésekhez
vonatkozó döntésekhez
03:21
for decisions in messy human affairs.
63
189935
3963
nincsenek ilyen kapcsolódási
és viszonyítási pontjaink.
és viszonyítási pontjaink.
03:25
To make things more complicated,
our software is getting more powerful,
our software is getting more powerful,
64
193922
4237
Hogy bonyolítsa a dolgokat,
szoftverünk egyre erősebb,
szoftverünk egyre erősebb,
03:30
but it's also getting less
transparent and more complex.
transparent and more complex.
65
198183
3773
ugyanakkor kevésbé átlátható
és egyre bonyolultabb lesz.
és egyre bonyolultabb lesz.
03:34
Recently, in the past decade,
66
202542
2040
Nemrég, az elmúlt évtizedben,
03:36
complex algorithms
have made great strides.
have made great strides.
67
204606
2729
a komplex algoritmusok
nagyot léptek előre.
nagyot léptek előre.
03:39
They can recognize human faces.
68
207359
1990
Emberi arcokat ismernek fel.
03:41
They can decipher handwriting.
69
209985
2055
Kézírást silabizálnak ki.
03:44
They can detect credit card fraud
70
212436
2066
Hitelkártyacsalásokat ismernek fel,
03:46
and block spam
71
214526
1189
spamet szűrnek ki,
03:47
and they can translate between languages.
72
215739
2037
és egyik nyelvről a másikra fordítanak.
03:49
They can detect tumors in medical imaging.
73
217800
2574
Az orvosi képalkotásban
daganatokat ismernek fel.
daganatokat ismernek fel.
03:52
They can beat humans in chess and Go.
74
220398
2205
Megverik az embert sakkban és góban.
03:55
Much of this progress comes
from a method called "machine learning."
from a method called "machine learning."
75
223264
4504
A haladás zöme az ún. „gépi tanulás”
módszerének köszönhető.
módszerének köszönhető.
04:00
Machine learning is different
than traditional programming,
than traditional programming,
76
228175
3187
A gépi tanulás különbözik
a hagyományos programozástól,
a hagyományos programozástól,
04:03
where you give the computer
detailed, exact, painstaking instructions.
detailed, exact, painstaking instructions.
77
231386
3585
ahol a számítógépnek részletes,
pontos, precíz utasításokat adunk.
pontos, precíz utasításokat adunk.
04:07
It's more like you take the system
and you feed it lots of data,
and you feed it lots of data,
78
235378
4182
Inkább olyan, hogy egy rendszerbe
beletöltünk egy csomó adatot,
beletöltünk egy csomó adatot,
04:11
including unstructured data,
79
239584
1656
strukturálatlan adatokat is,
04:13
like the kind we generate
in our digital lives.
in our digital lives.
80
241264
2278
amilyeneket digitális életünk hoz létre.
04:15
And the system learns
by churning through this data.
by churning through this data.
81
243566
2730
A rendszer az adatok átfésüléséből tanul.
04:18
And also, crucially,
82
246669
1526
Még egy alapvető dolog:
04:20
these systems don't operate
under a single-answer logic.
under a single-answer logic.
83
248219
4380
e rendszerek nem az egyetlen
válasz logikáját követik.
válasz logikáját követik.
04:24
They don't produce a simple answer;
it's more probabilistic:
it's more probabilistic:
84
252623
2959
Nem egy egyszerű választ
szűrnek le, inkább valószínűséget:
szűrnek le, inkább valószínűséget:
04:27
"This one is probably more like
what you're looking for."
what you're looking for."
85
255606
3483
„Ez inkább hasonlít arra, amit keresel.”
04:32
Now, the upside is:
this method is really powerful.
this method is really powerful.
86
260023
3070
A jó dolog ebben az,
hogy a módszer valóban hatásos.
hogy a módszer valóban hatásos.
04:35
The head of Google's AI systems called it,
87
263117
2076
A Google MI-rendszer vezetője így nevezte:
04:37
"the unreasonable effectiveness of data."
88
265217
2197
„az adatok észszerűtlen hatékonysága”.
04:39
The downside is,
89
267791
1353
A hátránya,
04:41
we don't really understand
what the system learned.
what the system learned.
90
269738
3071
hogy nemigen értjük,
mit tanult a rendszer.
mit tanult a rendszer.
04:44
In fact, that's its power.
91
272833
1587
Valójában ez az erőssége.
04:46
This is less like giving
instructions to a computer;
instructions to a computer;
92
274946
3798
Ez nem olyan, mint amikor utasításokat
adunk egy számítógépnek,
adunk egy számítógépnek,
04:51
it's more like training
a puppy-machine-creature
a puppy-machine-creature
93
279200
4064
inkább olyan, mintha kiképeznénk
egy gép-kutyus-szerű lényt,
egy gép-kutyus-szerű lényt,
04:55
we don't really understand or control.
94
283288
2371
akit nemigen értünk,
és nem tudunk irányítani.
és nem tudunk irányítani.
04:58
So this is our problem.
95
286362
1551
Ez a gondunk.
05:00
It's a problem when this artificial
intelligence system gets things wrong.
intelligence system gets things wrong.
96
288427
4262
Gond, ha ez az MI-rendszer valamit elszúr.
05:04
It's also a problem
when it gets things right,
when it gets things right,
97
292713
3540
Az is, ha nem szúrja el,
05:08
because we don't even know which is which
when it's a subjective problem.
when it's a subjective problem.
98
296277
3628
mert nem is tudjuk, mi micsoda.
ha szubjektív kérdésről van szó.
ha szubjektív kérdésről van szó.
05:11
We don't know what this thing is thinking.
99
299929
2339
Nem tudjuk, mit gondol ez a dolog.
05:15
So, consider a hiring algorithm --
100
303493
3683
Vegyünk egy felvételi algoritmust,
05:20
a system used to hire people,
using machine-learning systems.
using machine-learning systems.
101
308123
4311
azaz felvételre való rendszert,
amely gépi tanulási rendszert használ.
amely gépi tanulási rendszert használ.
05:25
Such a system would have been trained
on previous employees' data
on previous employees' data
102
313052
3579
A rendszert az eddigi alkalmazottak
adatain tanították be,
adatain tanították be,
05:28
and instructed to find and hire
103
316655
2591
és arra utasították, hogy a cég jelenlegi
05:31
people like the existing
high performers in the company.
high performers in the company.
104
319270
3038
jól teljesítő embereihez hasonlókat
találjon és alkalmazzon.
találjon és alkalmazzon.
05:34
Sounds good.
105
322814
1153
Jól hangzik.
05:35
I once attended a conference
106
323991
1999
Részt vettem egyszer egy konferencián,
05:38
that brought together
human resources managers and executives,
human resources managers and executives,
107
326014
3125
ahol humánerőforrás-ügyintézők
és -vezetők gyűltek össze,
és -vezetők gyűltek össze,
05:41
high-level people,
108
329163
1206
magas rangú emberek,
ők ilyeneket használtak felvételhez.
05:42
using such systems in hiring.
109
330393
1559
05:43
They were super excited.
110
331976
1646
Rendkívül izgatottak voltak.
05:45
They thought that this would make hiring
more objective, less biased,
more objective, less biased,
111
333646
4653
Azt gondolták, hogy ez objektívabbá,
pártatlanabbá teszi a felvételt,
pártatlanabbá teszi a felvételt,
05:50
and give women
and minorities a better shot
and minorities a better shot
112
338323
3000
és jobb esélyt ad nőknek
és a kisebbségeknek
és a kisebbségeknek
05:53
against biased human managers.
113
341347
2188
a részrehajló ügyintézőkkel szemben.
05:55
And look -- human hiring is biased.
114
343559
2843
De az emberek felvétele részrehajló.
05:59
I know.
115
347099
1185
Én tudom.
06:00
I mean, in one of my early jobs
as a programmer,
as a programmer,
116
348308
3005
Az egyik korai munkahelyemen
programozóként dolgoztam,
programozóként dolgoztam,
06:03
my immediate manager would sometimes
come down to where I was
come down to where I was
117
351337
3868
és a kisfőnököm néha odajött hozzám
06:07
really early in the morning
or really late in the afternoon,
or really late in the afternoon,
118
355229
3753
nagyon korán reggel
vagy nagyon késő délután,
vagy nagyon késő délután,
06:11
and she'd say, "Zeynep,
let's go to lunch!"
let's go to lunch!"
119
359006
3062
és azt mondta: „Zeynep, menjünk ebédelni!”
06:14
I'd be puzzled by the weird timing.
120
362724
2167
Meglepett a fura időzítés.
06:16
It's 4pm. Lunch?
121
364915
2129
Délután négykor ebédeljünk?
06:19
I was broke, so free lunch. I always went.
122
367068
3094
Le voltam égve, ingyenes az ebéd...
Mindig vele mentem.
Mindig vele mentem.
06:22
I later realized what was happening.
123
370618
2067
Később rájöttem, mi történt.
06:24
My immediate managers
had not confessed to their higher-ups
had not confessed to their higher-ups
124
372709
4546
Kisfőnökeim nem vallották
be feletteseiknek,
be feletteseiknek,
06:29
that the programmer they hired
for a serious job was a teen girl
for a serious job was a teen girl
125
377279
3113
hogy a komoly munkára
felvett programozó egy tinilány,
felvett programozó egy tinilány,
06:32
who wore jeans and sneakers to work.
126
380416
3930
aki farmerben és surranóban jár munkába.
06:37
I was doing a good job,
I just looked wrong
I just looked wrong
127
385174
2202
Jól dolgoztam, de nem néztem ki elég jól,
06:39
and was the wrong age and gender.
128
387400
1699
nem felelt meg a korom és a nemem.
06:41
So hiring in a gender- and race-blind way
129
389123
3346
Ezért egy nemtől és rassztól
független felvétel
független felvétel
06:44
certainly sounds good to me.
130
392493
1865
jól hangzik nekem.
06:47
But with these systems,
it is more complicated, and here's why:
it is more complicated, and here's why:
131
395031
3341
De elmondom, hogy e rendszerekkel
a helyzet ennél miért bonyolultabb,
a helyzet ennél miért bonyolultabb,
06:50
Currently, computational systems
can infer all sorts of things about you
can infer all sorts of things about you
132
398968
5791
Ma már a számítógép-rendszerek mindenfélét
ki tudnak következtetni rólunk
ki tudnak következtetni rólunk
06:56
from your digital crumbs,
133
404783
1872
a digitális morzsáinkból,
06:58
even if you have not
disclosed those things.
disclosed those things.
134
406679
2333
még akkor is, ha nem
hoztuk nyilvánosságra őket.
hoztuk nyilvánosságra őket.
07:01
They can infer your sexual orientation,
135
409506
2927
Ki tudják következtetni
nemi orientációnkat,
nemi orientációnkat,
07:04
your personality traits,
136
412994
1306
személyiségjegyeinket,
07:06
your political leanings.
137
414859
1373
politikai szimpátiáinkat.
07:08
They have predictive power
with high levels of accuracy.
with high levels of accuracy.
138
416830
3685
Előrejelző erejük nagy fokú
pontossággal párosul.
pontossággal párosul.
07:13
Remember -- for things
you haven't even disclosed.
you haven't even disclosed.
139
421362
2578
Figyelem: olyan dolgokról,
amelyeket nem is közöltünk.
amelyeket nem is közöltünk.
07:15
This is inference.
140
423964
1591
Ez a kikövetkeztetés.
07:17
I have a friend who developed
such computational systems
such computational systems
141
425579
3261
Egyik barátnőm olyan számítógépes
rendszereket fejlesztett,
rendszereket fejlesztett,
07:20
to predict the likelihood
of clinical or postpartum depression
of clinical or postpartum depression
142
428864
3641
amelyek előrejelzik a szülés utáni
vagy a súlyos depresszió valószínűségét
vagy a súlyos depresszió valószínűségét
07:24
from social media data.
143
432529
1416
a közösségi média adataiból.
07:26
The results are impressive.
144
434676
1427
Az eredmények lenyűgözőek.
07:28
Her system can predict
the likelihood of depression
the likelihood of depression
145
436492
3357
Rendszere előrejelzi
a depresszió valószínűségét
a depresszió valószínűségét
07:31
months before the onset of any symptoms --
146
439873
3903
hónapokkal a tünetek megjelenése előtt.
07:35
months before.
147
443800
1373
Hónapokkal előtte!
07:37
No symptoms, there's prediction.
148
445197
2246
Nincs még tünet, de előrejelzés már van.
07:39
She hopes it will be used
for early intervention. Great!
for early intervention. Great!
149
447467
4812
Barátnőm reméli, hogy felhasználják
majd a korai beavatkozáshoz. Nagyszerű!
majd a korai beavatkozáshoz. Nagyszerű!
07:44
But now put this in the context of hiring.
150
452911
2040
De nézzük ezt a felvételi szempontjából!
07:48
So at this human resources
managers conference,
managers conference,
151
456027
3046
Az említett humánerőforrás-konferencián
07:51
I approached a high-level manager
in a very large company,
in a very large company,
152
459097
4709
odamentem az egyik óriási cég
magas rangú vezetőjéhez,
magas rangú vezetőjéhez,
07:55
and I said to her, "Look,
what if, unbeknownst to you,
what if, unbeknownst to you,
153
463830
4578
és megkérdeztem tőle:
„M van, ha az ön tudta nélkül
„M van, ha az ön tudta nélkül
08:00
your system is weeding out people
with high future likelihood of depression?
with high future likelihood of depression?
154
468432
6549
rendszerük kiszűri azokat,
akiknél a depresszió jövőbeni
valószínűsége nagy?
valószínűsége nagy?
08:07
They're not depressed now,
just maybe in the future, more likely.
just maybe in the future, more likely.
155
475761
3376
Mi van, ha kiszűri azokat,
akik egy-két éven belül
akik egy-két éven belül
08:11
What if it's weeding out women
more likely to be pregnant
more likely to be pregnant
156
479923
3406
valószínűleg teherbe esnek,
de most nem terhesek?
de most nem terhesek?
08:15
in the next year or two
but aren't pregnant now?
but aren't pregnant now?
157
483353
2586
08:18
What if it's hiring aggressive people
because that's your workplace culture?"
because that's your workplace culture?"
158
486844
5636
Mi van, ha agresszív embereket vesz fel,
mert a munkahelyi kultúrába beleillenek?"
mert a munkahelyi kultúrába beleillenek?"
08:25
You can't tell this by looking
at gender breakdowns.
at gender breakdowns.
159
493173
2691
Ez nem derül ki a nemek
szerinti bontásból.
szerinti bontásból.
08:27
Those may be balanced.
160
495888
1502
Az lehet, hogy rendben van.
08:29
And since this is machine learning,
not traditional coding,
not traditional coding,
161
497414
3557
Mivel ez gépi tanulás,
nem hagyományos kódolás,
nem hagyományos kódolás,
08:32
there is no variable there
labeled "higher risk of depression,"
labeled "higher risk of depression,"
162
500995
4907
nincs „magas depressziókockázat”,
08:37
"higher risk of pregnancy,"
163
505926
1833
„magas terhességi kockázat”,
08:39
"aggressive guy scale."
164
507783
1734
„agresszív pasi skála” nevű változó.
08:41
Not only do you not know
what your system is selecting on,
what your system is selecting on,
165
509995
3679
Nemcsak azt nem tudjuk,
mi alapján választ a rendszer,
mi alapján választ a rendszer,
08:45
you don't even know
where to begin to look.
where to begin to look.
166
513698
2323
hanem azt sem, hol kezd el keresni.
08:48
It's a black box.
167
516045
1246
Ez egy fekete doboz.
08:49
It has predictive power,
but you don't understand it.
but you don't understand it.
168
517315
2807
Előrejelző ereje van, de nem értjük.
08:52
"What safeguards," I asked, "do you have
169
520486
2369
„Mi a biztosíték rá – kérdeztem,
08:54
to make sure that your black box
isn't doing something shady?"
isn't doing something shady?"
170
522879
3673
hogy a fekete doboz nem
csinál valami kétes dolgot?”
csinál valami kétes dolgot?”
09:00
She looked at me as if I had
just stepped on 10 puppy tails.
just stepped on 10 puppy tails.
171
528863
3878
Úgy nézett rám, mintha megöltem
volna a tanácselnököt.
volna a tanácselnököt.
09:04
(Laughter)
172
532765
1248
(Nevetés)
09:06
She stared at me and she said,
173
534037
2041
Bámult rám, majd azt mondta:
09:08
"I don't want to hear
another word about this."
another word about this."
174
536556
4333
„Nem akarok erről hallani
többet egy szót sem”.
többet egy szót sem”.
09:13
And she turned around and walked away.
175
541458
2034
Sarkon fordult, és elment.
09:16
Mind you -- she wasn't rude.
176
544064
1486
Megjegyezném: nem volt durva.
09:17
It was clearly: what I don't know
isn't my problem, go away, death stare.
isn't my problem, go away, death stare.
177
545574
6308
Világos volt: amiről nem tudok, az nem
az én problémám, lelépek, bután nézek.
az én problémám, lelépek, bután nézek.
09:23
(Laughter)
178
551906
1246
(Nevetés)
09:25
Look, such a system
may even be less biased
may even be less biased
179
553862
3839
Egy ilyen rendszer, lehet,
hogy kevésbé részrehajló,
hogy kevésbé részrehajló,
09:29
than human managers in some ways.
180
557725
2103
mint bizonyos esetekben az ügyintézők.
09:31
And it could make monetary sense.
181
559852
2146
Pénzügyileg megérheti.
09:34
But it could also lead
182
562573
1650
De ahhoz vezethet,
09:36
to a steady but stealthy
shutting out of the job market
shutting out of the job market
183
564247
4748
hogy folyamatosan és alattomosan
kizárja a munkaerőpiacról
kizárja a munkaerőpiacról
09:41
of people with higher risk of depression.
184
569019
2293
a magas depressziókockázatúakat.
09:43
Is this the kind of society
we want to build,
we want to build,
185
571753
2596
Ilyenfajta társadalmat akarunk építeni,
09:46
without even knowing we've done this,
186
574373
2285
még ha tudtunkon kívül is,
09:48
because we turned decision-making
to machines we don't totally understand?
to machines we don't totally understand?
187
576682
3964
csak mert olyan gépeknek adtuk át
a döntéshozatalt, amelyeket nem is értünk?
a döntéshozatalt, amelyeket nem is értünk?
09:53
Another problem is this:
188
581265
1458
Egy másik nehézség:
09:55
these systems are often trained
on data generated by our actions,
on data generated by our actions,
189
583314
4452
a rendszerek tanítása gyakran
tetteinkből létrehozott adatokkal,
tetteinkből létrehozott adatokkal,
09:59
human imprints.
190
587790
1816
emberi lenyomatokkal történik.
10:02
Well, they could just be
reflecting our biases,
reflecting our biases,
191
590188
3808
Lehet, hogy ezek
tükrözik részrehajlásunkat,
tükrözik részrehajlásunkat,
10:06
and these systems
could be picking up on our biases
could be picking up on our biases
192
594020
3593
és a rendszerek eltanulják őket,
10:09
and amplifying them
193
597637
1313
felerősítik,
10:10
and showing them back to us,
194
598974
1418
és visszatükrözik nekünk,
10:12
while we're telling ourselves,
195
600416
1462
miközben azt mondjuk magunknak
10:13
"We're just doing objective,
neutral computation."
neutral computation."
196
601902
3117
„Mi csak objektív, semleges
számítástechnikát gyakorlunk.”
számítástechnikát gyakorlunk.”
10:18
Researchers found that on Google,
197
606314
2677
Kutatók kimutatták, hogy a Google
nőknek kisebb valószínűséggel mutat
nőknek kisebb valószínűséggel mutat
10:22
women are less likely than men
to be shown job ads for high-paying jobs.
to be shown job ads for high-paying jobs.
198
610134
5313
jól fizetett állásokról szóló
hirdetéseket, mint férfiaknak.
hirdetéseket, mint férfiaknak.
10:28
And searching for African-American names
199
616463
2530
Ha afroamerikai nevekre keresünk,
10:31
is more likely to bring up ads
suggesting criminal history,
suggesting criminal history,
200
619017
4706
gyakrabban hoz fel büntetett
előéletet sejtető reklámokat,
előéletet sejtető reklámokat,
10:35
even when there is none.
201
623747
1567
akkor is, ha nincs ilyenről szó.
10:38
Such hidden biases
and black-box algorithms
and black-box algorithms
202
626693
3549
Az ilyen rejtett részrehajlásokat
és „fekete doboz” algoritmusokat
és „fekete doboz” algoritmusokat
10:42
that researchers uncover sometimes
but sometimes we don't know,
but sometimes we don't know,
203
630266
3973
olykor felfedik a kutatók,
de néha nem tudunk róluk,
de néha nem tudunk róluk,
10:46
can have life-altering consequences.
204
634263
2661
pedig következményeik
megváltoztathatják az életet.
megváltoztathatják az életet.
10:49
In Wisconsin, a defendant
was sentenced to six years in prison
was sentenced to six years in prison
205
637958
4159
Wisconsinban egy vádlottat
hat év börtönre ítéltek,
hat év börtönre ítéltek,
10:54
for evading the police.
206
642141
1355
mert kijátszotta a rendőröket.
10:56
You may not know this,
207
644824
1186
Tán nem tudják: szabadlábra helyezési
10:58
but algorithms are increasingly used
in parole and sentencing decisions.
in parole and sentencing decisions.
208
646034
3998
és büntetési döntésekhez egyre
gyakrabban használnak algoritmust.
gyakrabban használnak algoritmust.
11:02
He wanted to know:
How is this score calculated?
How is this score calculated?
209
650056
2955
Ez az ember meg akarta tudni,
hogyan számítják a pontszámot.
hogyan számítják a pontszámot.
11:05
It's a commercial black box.
210
653795
1665
Ez egy kereskedelmi fekete doboz.
11:07
The company refused to have its algorithm
be challenged in open court.
be challenged in open court.
211
655484
4205
A cég visszautasította, hogy nyilvános
bíróság elé vigyék az algoritmusát.
bíróság elé vigyék az algoritmusát.
11:12
But ProPublica, an investigative
nonprofit, audited that very algorithm
nonprofit, audited that very algorithm
212
660396
5532
De a ProPublica nonprofit
nyomozó szervezet auditálta az algoritmust
nyomozó szervezet auditálta az algoritmust
11:17
with what public data they could find,
213
665952
2016
a hozzáférhető nyilvános adatokkal,
11:19
and found that its outcomes were biased
214
667992
2316
és az eredményeket részrehajlónak találta,
11:22
and its predictive power
was dismal, barely better than chance,
was dismal, barely better than chance,
215
670332
3629
az előrejelző képességét pedig
pocséknak, alig jobbnak a véletlennél,
pocséknak, alig jobbnak a véletlennél,
11:25
and it was wrongly labeling
black defendants as future criminals
black defendants as future criminals
216
673985
4416
kétszer olyan gyakran jelölte hibásan
leendő bűnözőnek a fekete,
leendő bűnözőnek a fekete,
11:30
at twice the rate of white defendants.
217
678425
3895
mint a fehér elítélteket.
11:35
So, consider this case:
218
683891
1564
Vegyünk egy másik esetet:
11:38
This woman was late
picking up her godsister
picking up her godsister
219
686103
3852
egy nőnek el kellett hoznia keresztlányát
11:41
from a school in Broward County, Florida,
220
689979
2075
az iskolából a floridai Broward megyében.
11:44
running down the street
with a friend of hers.
with a friend of hers.
221
692757
2356
Késésben volt, rohant
az utcán a barátnőjével.
az utcán a barátnőjével.
11:47
They spotted an unlocked kid's bike
and a scooter on a porch
and a scooter on a porch
222
695137
4099
Egy tornácon lezáratlan
gyerekbiciklit és rollert láttak meg,
gyerekbiciklit és rollert láttak meg,
11:51
and foolishly jumped on it.
223
699260
1632
meggondolatlanul felugrottak rá.
11:52
As they were speeding off,
a woman came out and said,
a woman came out and said,
224
700916
2599
Ahogy elhajtottak,
kijött egy nő, s azt kiáltotta:
kijött egy nő, s azt kiáltotta:
11:55
"Hey! That's my kid's bike!"
225
703539
2205
„Hé! Az a gyerek biciklije!”
11:57
They dropped it, they walked away,
but they were arrested.
but they were arrested.
226
705768
3294
Eldobták, továbbmentek,
de letartóztatták őket.
de letartóztatták őket.
12:01
She was wrong, she was foolish,
but she was also just 18.
but she was also just 18.
227
709086
3637
Rosszat tett, őrültség volt,
de csak 18 éves volt.
de csak 18 éves volt.
12:04
She had a couple of juvenile misdemeanors.
228
712747
2544
Volt néhány fiatalkori kihágása.
12:07
Meanwhile, that man had been arrested
for shoplifting in Home Depot --
for shoplifting in Home Depot --
229
715808
5185
Ugyanakkor letartóztattak egy férfit
85 dollár értékű áruházi lopásért,
85 dollár értékű áruházi lopásért,
12:13
85 dollars' worth of stuff,
a similar petty crime.
a similar petty crime.
230
721017
2924
ez egy hasonló kisebb vétség.
12:16
But he had two prior
armed robbery convictions.
armed robbery convictions.
231
724766
4559
Volt viszont két korábbi
ítélete fegyveres rablásért.
ítélete fegyveres rablásért.
12:21
But the algorithm scored her
as high risk, and not him.
as high risk, and not him.
232
729955
3482
Az algoritmus mégis a nőt értékelte
magas kockázatúnak, nem a férfit.
magas kockázatúnak, nem a férfit.
12:26
Two years later, ProPublica found
that she had not reoffended.
that she had not reoffended.
233
734746
3874
Két évvel később a ProPublica azt találta,
hogy a nő nem követett el új vétséget.
hogy a nő nem követett el új vétséget.
12:30
It was just hard to get a job
for her with her record.
for her with her record.
234
738644
2550
Csak nehéz volt munkát találnia
a priusza miatt.
a priusza miatt.
12:33
He, on the other hand, did reoffend
235
741218
2076
A férfi viszont visszaeső volt,
12:35
and is now serving an eight-year
prison term for a later crime.
prison term for a later crime.
236
743318
3836
és most nyolcéves büntetését tölti
egy későbbi bűncselekmény miatt.
egy későbbi bűncselekmény miatt.
12:40
Clearly, we need to audit our black boxes
237
748088
3369
Világos, hogy auditálnunk kell
a fekete dobozainkat,
a fekete dobozainkat,
12:43
and not have them have
this kind of unchecked power.
this kind of unchecked power.
238
751481
2615
s nem engedhetjük, hogy ilyen
korlátlan hatalmuk legyen.
korlátlan hatalmuk legyen.
12:46
(Applause)
239
754120
2879
(Taps)
12:50
Audits are great and important,
but they don't solve all our problems.
but they don't solve all our problems.
240
758087
4242
Az auditok nagyszerűek és fontosak,
de nem oldják meg minden gondunkat.
de nem oldják meg minden gondunkat.
12:54
Take Facebook's powerful
news feed algorithm --
news feed algorithm --
241
762353
2748
Vegyük a Facebook hatásos
hírválogató algoritmusát,
hírválogató algoritmusát,
12:57
you know, the one that ranks everything
and decides what to show you
and decides what to show you
242
765125
4843
azt, amelyik mindent sorba rak,
és eldönti, mit mutasson meg nekünk
és eldönti, mit mutasson meg nekünk
13:01
from all the friends and pages you follow.
243
769992
2284
az összes követett ismerős és oldal közül.
13:04
Should you be shown another baby picture?
244
772898
2275
Mutasson még egy kisbabás képet?
13:07
(Laughter)
245
775197
1196
(Nevetés)
13:08
A sullen note from an acquaintance?
246
776417
2596
Egy ismerős morcos megjegyzését?
13:11
An important but difficult news item?
247
779449
1856
Egy fontos, de fajsúlyos hírt?
13:13
There's no right answer.
248
781329
1482
Nincs helyes válasz.
13:14
Facebook optimizes
for engagement on the site:
for engagement on the site:
249
782835
2659
A Facebook az oldalon zajló
tevékenységre optimalizál:
tevékenységre optimalizál:
13:17
likes, shares, comments.
250
785518
1415
lájk, megosztás, komment.
13:20
In August of 2014,
251
788168
2696
2014 augusztusában
13:22
protests broke out in Ferguson, Missouri,
252
790888
2662
tüntetések törtek ki a Missouribeli
Fergusonban,
Fergusonban,
13:25
after the killing of an African-American
teenager by a white police officer,
teenager by a white police officer,
253
793574
4417
miután egy fehér rendőr lelőtt
egy afroamerikai tinédzsert,
egy afroamerikai tinédzsert,
13:30
under murky circumstances.
254
798015
1570
gyanús körülmények között.
13:31
The news of the protests was all over
255
799974
2007
Tele volt a tüntetések híreivel
13:34
my algorithmically
unfiltered Twitter feed,
unfiltered Twitter feed,
256
802005
2685
az algoritmussal nem szűrt Twitter-fiókom,
13:36
but nowhere on my Facebook.
257
804714
1950
de a Facebookon nem volt semmi.
13:39
Was it my Facebook friends?
258
807182
1734
A Facebook-ismerőseim az oka?
13:40
I disabled Facebook's algorithm,
259
808940
2032
Kikapcsoltam a Facebook algoritmusát,
13:43
which is hard because Facebook
keeps wanting to make you
keeps wanting to make you
260
811472
2848
ami nehéz, mert a Facebook
azt akarja,
azt akarja,
13:46
come under the algorithm's control,
261
814344
2036
hogy az algoritmus irányítson minket.
13:48
and saw that my friends
were talking about it.
were talking about it.
262
816404
2238
Láttam, hogy az ismerőseim
beszélgetnek róla.
beszélgetnek róla.
13:50
It's just that the algorithm
wasn't showing it to me.
wasn't showing it to me.
263
818666
2509
Csakhogy az algoritmus azt
nem mutatta meg nekem.
nem mutatta meg nekem.
13:53
I researched this and found
this was a widespread problem.
this was a widespread problem.
264
821199
3042
Kutattam utána, és azt találtam,
hogy ez egy elterjedt probléma.
hogy ez egy elterjedt probléma.
13:56
The story of Ferguson
wasn't algorithm-friendly.
wasn't algorithm-friendly.
265
824265
3813
A fergusoni sztori nem volt
szimpatikus az algoritmusnak.
szimpatikus az algoritmusnak.
14:00
It's not "likable."
266
828102
1171
Nem lájkolható.
14:01
Who's going to click on "like?"
267
829297
1552
Ki fog a lájkra kattintani?
14:03
It's not even easy to comment on.
268
831500
2206
Még kommentelni sem könnyű.
14:05
Without likes and comments,
269
833730
1371
Lájkok és kommentek nélkül
14:07
the algorithm was likely showing it
to even fewer people,
to even fewer people,
270
835125
3292
az algoritmus egyre kisebb valószínűséggel
mutatta egyre kevesebbeknek,
mutatta egyre kevesebbeknek,
14:10
so we didn't get to see this.
271
838441
1542
így nem láthattuk meg.
14:12
Instead, that week,
272
840946
1228
Ehelyett azon a héten
14:14
Facebook's algorithm highlighted this,
273
842198
2298
a Facebook algoritmusa előtérbe helyezte
14:16
which is the ALS Ice Bucket Challenge.
274
844520
2226
az ALS jeges vödör kihívást.
14:18
Worthy cause; dump ice water,
donate to charity, fine.
donate to charity, fine.
275
846770
3742
Nemes cél: önts magadra jeges vizet,
és adakozz; rendben.
és adakozz; rendben.
14:22
But it was super algorithm-friendly.
276
850536
1904
Ez szimpatikus volt az algoritmusnak.
14:25
The machine made this decision for us.
277
853219
2613
A gép ezt helyettünk döntötte el.
14:27
A very important
but difficult conversation
but difficult conversation
278
855856
3497
Egy igen fontos, de nehéz beszélgetést
14:31
might have been smothered,
279
859377
1555
fojtott volna el,
14:32
had Facebook been the only channel.
280
860956
2696
ha a Facebook lett volna
az egyetlen csatorna.
az egyetlen csatorna.
14:36
Now, finally, these systems
can also be wrong
can also be wrong
281
864117
3797
S végül, e rendszerek úgy is hibázhatnak,
14:39
in ways that don't resemble human systems.
282
867938
2736
ami nem hasonlít az emberi rendszerekre.
14:42
Do you guys remember Watson,
IBM's machine-intelligence system
IBM's machine-intelligence system
283
870698
2922
Emlékeznek a Watsonra,
az IBM gépi intelligencia rendszerére,
az IBM gépi intelligencia rendszerére,
amelyik felmosta a padlót a "Mindent
vagy semmit" kvíz versenyzőivel?
vagy semmit" kvíz versenyzőivel?
14:45
that wiped the floor
with human contestants on Jeopardy?
with human contestants on Jeopardy?
284
873644
3128
14:49
It was a great player.
285
877131
1428
Nagyszerű játékos volt.
14:50
But then, for Final Jeopardy,
Watson was asked this question:
Watson was asked this question:
286
878583
3569
De az utolsó fordulóban a következő
kérdést tették fel a Watsonnak:
kérdést tették fel a Watsonnak:
14:54
"Its largest airport is named
for a World War II hero,
for a World War II hero,
287
882659
2932
„Legnagyobb repterét egy
II. világháborús hősről nevezték el,
II. világháborús hősről nevezték el,
14:57
its second-largest
for a World War II battle."
for a World War II battle."
288
885615
2252
a másodikat egy II.
világháborús csatáról.”
világháborús csatáról.”
14:59
(Hums Final Jeopardy music)
289
887891
1378
(Dúdolja a kvíz zenéjét)
15:01
Chicago.
290
889582
1182
Chicago.
15:02
The two humans got it right.
291
890788
1370
A két ember eltalálta.
15:04
Watson, on the other hand,
answered "Toronto" --
answered "Toronto" --
292
892697
4348
A Watson válasza viszont Toronto volt –
15:09
for a US city category!
293
897069
1818
az USA-város kategóriában!
15:11
The impressive system also made an error
294
899596
2901
A lenyűgöző rendszer olyan hibát ejtett,
15:14
that a human would never make,
a second-grader wouldn't make.
a second-grader wouldn't make.
295
902521
3651
amilyet ember sosem tenne,
egy másodikos gyerek sem.
egy másodikos gyerek sem.
15:18
Our machine intelligence can fail
296
906823
3109
A gépi intelligenciánk
15:21
in ways that don't fit
error patterns of humans,
error patterns of humans,
297
909956
3100
olyan módon hibázhat, ami nem
hasonlít az emberi hibamintákra,
hasonlít az emberi hibamintákra,
15:25
in ways we won't expect
and be prepared for.
and be prepared for.
298
913080
2950
olyan módon, amire nem számítunk,
nem vagyunk rá felkészülve.
nem vagyunk rá felkészülve.
15:28
It'd be lousy not to get a job
one is qualified for,
one is qualified for,
299
916054
3638
Ronda dolog lenne lemaradni egy munkáról,
amire megvan a képesítésünk,
amire megvan a képesítésünk,
15:31
but it would triple suck
if it was because of stack overflow
if it was because of stack overflow
300
919716
3727
de háromszoros szívás lenne,
ha ezt egy szubrutinban
túlcsordult verem okozná.
túlcsordult verem okozná.
15:35
in some subroutine.
301
923467
1432
15:36
(Laughter)
302
924923
1579
(Nevetés)
15:38
In May of 2010,
303
926526
2786
2010 májusában
15:41
a flash crash on Wall Street
fueled by a feedback loop
fueled by a feedback loop
304
929336
4044
a Wall Street villámkrachja,
amit a tőzsdei „eladási” algoritmus
amit a tőzsdei „eladási” algoritmus
15:45
in Wall Street's "sell" algorithm
305
933404
3028
visszacsatolási hurka okozott,
15:48
wiped a trillion dollars
of value in 36 minutes.
of value in 36 minutes.
306
936456
4184
egybillió dollárnyi értéket
tett semmivé 36 perc alatt.
tett semmivé 36 perc alatt.
15:53
I don't even want to think
what "error" means
what "error" means
307
941722
2187
Bele sem akarok gondolni,
mit jelent a „hiba”
mit jelent a „hiba”
15:55
in the context of lethal
autonomous weapons.
autonomous weapons.
308
943933
3589
az autonóm halálos fegyverekkel
összefüggésben.
összefüggésben.
16:01
So yes, humans have always made biases.
309
949894
3790
Igen, az emberek mindig
részrehajlók voltak.
részrehajlók voltak.
16:05
Decision makers and gatekeepers,
310
953708
2176
Döntéshozók és kapuőrök
16:07
in courts, in news, in war ...
311
955908
3493
a bíróságokon, hírekben, háborúban...
16:11
they make mistakes;
but that's exactly my point.
but that's exactly my point.
312
959425
3038
hibáznak; de éppen erről beszélek.
16:14
We cannot escape
these difficult questions.
these difficult questions.
313
962487
3521
Nem szabadulhatunk meg
e fogós kérdésektől.
e fogós kérdésektől.
16:18
We cannot outsource
our responsibilities to machines.
our responsibilities to machines.
314
966596
3516
Nem szervezhetjük ki
felelősségünket gépekbe.
felelősségünket gépekbe.
16:22
(Applause)
315
970676
4208
(Taps)
16:29
Artificial intelligence does not give us
a "Get out of ethics free" card.
a "Get out of ethics free" card.
316
977089
4447
A mesterséges intelligencia nem
ment föl az etikus gondolkodás alól.
ment föl az etikus gondolkodás alól.
16:34
Data scientist Fred Benenson
calls this math-washing.
calls this math-washing.
317
982742
3381
Fred Benenson adatkutató
„math-washing”-nak nevezi ezt.
„math-washing”-nak nevezi ezt.
16:38
We need the opposite.
318
986147
1389
Az ellenkezője szükséges.
16:39
We need to cultivate algorithm suspicion,
scrutiny and investigation.
scrutiny and investigation.
319
987560
5388
Gyanakodnunk kell az algoritmusokra,
és vizsgálnunk kell őket.
és vizsgálnunk kell őket.
16:45
We need to make sure we have
algorithmic accountability,
algorithmic accountability,
320
993380
3198
Gondoskodnunk kell róla,
hogy az algoritmusok számon kérhetők,
hogy az algoritmusok számon kérhetők,
16:48
auditing and meaningful transparency.
321
996602
2445
auditálhatók és észszerűen
átláthatók legyenek.
átláthatók legyenek.
16:51
We need to accept
that bringing math and computation
that bringing math and computation
322
999380
3234
El kell fogadnunk, hogy a matek
és az informatika bevonása
és az informatika bevonása
16:54
to messy, value-laden human affairs
323
1002638
2970
a zavaros, értékeket hordozó emberi
viszonyokba
viszonyokba
16:57
does not bring objectivity;
324
1005632
2384
nem eredményez objektivitást;
17:00
rather, the complexity of human affairs
invades the algorithms.
invades the algorithms.
325
1008040
3633
ehelyett az emberi viszonyok
komplexitása átitatja az algoritmust.
komplexitása átitatja az algoritmust.
17:04
Yes, we can and we should use computation
326
1012148
3487
Igen, lehet és kell használnunk
az informatikát,
az informatikát,
17:07
to help us make better decisions.
327
1015659
2014
hogy segítsen jobb döntéseket hozni.
17:09
But we have to own up
to our moral responsibility to judgment,
to our moral responsibility to judgment,
328
1017697
5332
De ítéleteinkért az erkölcsi felelősséget
nekünk kell viselnünk,
nekünk kell viselnünk,
17:15
and use algorithms within that framework,
329
1023053
2818
és az algoritmusokat azon
keretek között kell használnunk,
keretek között kell használnunk,
17:17
not as a means to abdicate
and outsource our responsibilities
and outsource our responsibilities
330
1025895
4935
nem pedig arra, hogy lemondjunk
az egymás iránti felelősségünkről,
az egymás iránti felelősségünkről,
17:22
to one another as human to human.
331
1030854
2454
és azt kiszervezzük.
17:25
Machine intelligence is here.
332
1033807
2609
A gépi intelligencia megérkezett.
17:28
That means we must hold on ever tighter
333
1036440
3421
Ez azt jelenti, hogy még szigorúbban
kell ragaszkodnunk
kell ragaszkodnunk
17:31
to human values and human ethics.
334
1039885
2147
az emberi értékekhez és etikához.
17:34
Thank you.
335
1042056
1154
Köszönöm.
17:35
(Applause)
336
1043234
5020
(Taps) (Üdvrivalgás)
ABOUT THE SPEAKER
Zeynep Tufekci - Techno-sociologistTechno-sociologist Zeynep Tufekci asks big questions about our societies and our lives, as both algorithms and digital connectivity spread.
Why you should listen
We've entered an era of digital connectivity and machine intelligence. Complex algorithms are increasingly used to make consequential decisions about us. Many of these decisions are subjective and have no right answer: who should be hired, fired or promoted; what news should be shown to whom; which of your friends do you see updates from; which convict should be paroled. With increasing use of machine learning in these systems, we often don't even understand how exactly they are making these decisions. Zeynep Tufekci studies what this historic transition means for culture, markets, politics and personal life.
Tufekci is a contributing opinion writer at the New York Times, an associate professor at the School of Information and Library Science at University of North Carolina, Chapel Hill, and a faculty associate at Harvard's Berkman Klein Center for Internet and Society.
Her book, Twitter and Tear Gas: The Power and Fragility of Networked Protest, was published in 2017 by Yale University Press. Her next book, from Penguin Random House, will be about algorithms that watch, judge and nudge us.
Zeynep Tufekci | Speaker | TED.com