English-Video.net comment policy

The comment field is common to all languages

Let's write in your language and use "Google Translate" together

Please refer to informative community guidelines on TED.com

TEDxOslo

Andreas Ekström: The moral bias behind your search results

アンドレアス・エクストローム: インターネット検索結果に隠れた道徳的価値観

Filmed
Views 1,426,060

検索エンジンは、今や最も信頼できる情報源、そして真実の拠り所となりました。でも、公正な検索結果は存在しうるのでしょうか? スウェーデンの文筆家でジャーナリストのアンドレアス・エクストロームは、そのようなものは哲学的にありえないと言います。この示唆に富んだトークで、彼は技術と人類との結びつきを強めるよう呼びかけます。そして、アルゴリズムには人間の価値観が反映されており、どんなプログラムをもってしても、それを消し去ることはできないことを心に留めておくべきだと訴えます。

- Author and journalist
Andreas Ekström describes the power structures of the digital revolution. Full bio

So wheneverいつでも I visit訪問 a school学校
and talk to students学生の,
学校で生徒たちに話す機会があると
00:13
I always ask尋ねる them the same同じ thing:
必ず聞くことがあります
00:15
Why do you GoogleGoogle?
「なぜGoogle検索するの?
00:18
Why is GoogleGoogle the searchサーチ engineエンジン
of choice選択 for you?
なぜ検索エンジンにGoogleしか選ばないの?」
00:20
Strangely妙に enough十分な, I always get
the same同じ three answers答え.
不思議と 返ってくる答えは
決まってこの3つです
00:24
One, "Because it works作品,"
1つ目は「うまく検索できるから」
00:27
whichどの is a great answer回答;
that's why I GoogleGoogle, too.
ご名答です
私も同じ理由でGoogleを使っています
00:29
Two, somebody誰か will say,
2つ目は―
00:32
"I really don't know of any alternatives代替案."
「ほかの検索エンジンを知らないから」
00:34
It's not an equally均等に great answer回答
and my reply応答 to that is usually通常,
ちょっと惜しい
たいてい 私はこう返します
00:37
"Try to GoogleGoogle the wordワード 'search'サーチ engineエンジン,'
「Googleで『検索エンジン』を
00:40
you mayかもしれない find a coupleカップル
of interesting面白い alternatives代替案."
検索してごらん
ほかにも面白いのがあるよ」
00:42
And last but not least少なくとも, thirdly三番目,
そして トリとなる3つ目です
00:45
inevitably必然的に, one student学生 will raise上げる
her or his handハンド and say,
必ず 手を挙げて
満を持して言う子がいるんです
00:47
"With GoogleGoogle, I'm certainある to always get
the bestベスト, unbiased不偏 searchサーチ result結果."
「Googleを使うと 絶対に
常に最高で公正な検索結果が得られるから」
00:50
Certain特定の to always get the bestベスト,
unbiased不偏 searchサーチ result結果.
絶対に 常に最高で公正な
検索結果が得られる―
00:57
Now, as a man of the humanities人文科学,
これを耳にするたび
デジタル世代とはいえ
01:05
albeitしかし a digitalデジタル humanities人文科学 man,
人類のひとりとして
01:07
that just makes作る my skin curlカール,
虫唾(むしず)が走ります
01:09
even if I, too, realize実現する that that trust信頼,
that ideaアイディア of the unbiased不偏 searchサーチ result結果
みんながGoogleを愛し
大事にしているからこそ
01:11
is a cornerstone礎石 in our collective集団 love
for and appreciation感謝 of GoogleGoogle.
「公正な検索結果」と信じ 考えるのだと
わかっていてもです
01:16
I will showショー you why that, philosophically哲学的に,
is almostほぼ an impossibility不可能.
公正な結果など 哲学的にほぼありえません
なぜかご説明しましょう
01:20
But let me first elaborate精巧な,
just a little bitビット, on a basic基本的な principle原理
でも まず検索の基本原理について
少しだけお話しさせてください
01:24
behind後ろに each searchサーチ queryクエリ
that we sometimes時々 seem思われる to forget忘れる.
みんな 忘れてしまいがちなことです
01:28
So wheneverいつでも you setセット out
to GoogleGoogle something,
Googleで何かを検索するとき
01:31
start開始 by asking尋ねる yourselfあなた自身 this:
"Am I looking for an isolated分離された fact事実?"
まず考えるべきは
「個別の事実を知りたいのか?」
01:33
What is the capital資本 of Franceフランス?
フランスの首都はどこか
01:38
What are the building建物 blocksブロック
of a water molecule分子?
水分子の構成元素は何か
といったものです
01:41
Great -- GoogleGoogle away.
この場合は
ぜひGoogle検索しましょう
01:43
There's not a groupグループ of scientists科学者
who are this close閉じる to proving証明する
科学者といえども
答えは「ロンドン」と「H30」だなんて
01:46
that it's actually実際に Londonロンドン and H30.
証明できやしませんから
01:49
You don't see a big大きい conspiracy陰謀
among those things.
ここに何の陰謀もありません
01:51
We agree同意する, on a globalグローバル scale規模,
こうした個別の事実については
01:53
what the answers答え are
to these isolated分離された facts事実.
世界全体で 答えが何か
一致しているのです
01:55
But if you complicate複雑にする your question質問
just a little bitビット and ask尋ねる something like,
でも 質問をほんの少し複雑にして
こんな風にしたらどうでしょう
01:58
"Why is there
an Israeli-Palestineイスラエル・パレスチナ conflict紛争?"
「なぜパレスチナ問題が起こっているのか?」
02:03
You're not exactly正確に looking
for a singular特異な fact事実 anymoreもう,
もはや 求めているのは
ただ一つの「事実」ではなく
02:06
you're looking for knowledge知識,
「知識」ということになります
02:09
whichどの is something way more
complicated複雑な and delicate繊細.
知識は はるかに複雑で繊細なものです
02:11
And to get to knowledge知識,
そうした知識を得るには
02:14
you have to bring持参する 10 or 20
or 100 facts事実 to the table
10 、20 または100の事実を集め
自分のものにし
02:16
and acknowledge認める them and say,
"Yes, these are all true真実."
「これらは すべて真実だ」と
言えないといけません
02:19
But because of who I am,
でも ひとは
02:22
young若い or old古い, black or white,
gay同性愛者 or straightまっすぐ,
年齢や人種、性的趣向に関わらず
02:23
I will value them differently異なって.
違う価値観を持っています
02:26
And I will say, "Yes, this is true真実,
ですから「確かに これは真実だけど
02:27
but this is more important重要
to me than that."
こっちのほうが重要だ」となります
02:29
And this is where it becomes〜になる interesting面白い,
ここからが面白いのです
02:31
because this is where we become〜になる human人間.
私たちが人間らしさを発揮するからです
02:33
This is when we start開始
to argue主張する, to form society社会.
私たちは互いに議論し
社会を形成し始めます
02:35
And to really get somewhereどこかで,
we need to filterフィルタ all our facts事実 here,
本当に答えを出すには
まず事実をすべて ふるいにかけます
02:38
throughを通して friends友達 and neighbors隣人
and parents and children子供
友だちやご近所さん
両親、子どもたち、同僚
02:42
and coworkers同僚 and newspapers新聞
and magazines雑誌,
そして新聞や雑誌を通じて
ふるいにかけ
02:44
to finally最後に be grounded接地された in realリアル knowledge知識,
真の知識にたどりつくのです
02:46
whichどの is something that a searchサーチ engineエンジン
is a poor貧しい help to achieve達成する.
ここで検索エンジンは
あまり役に立ちません
02:50
So, I promised約束された you an example
just to showショー you why it's so hardハード
さきほど 真に純粋で客観的な知識を
手にするのが なぜ難しいか
02:55
to get to the pointポイント of true真実, cleanクリーン,
objective目的 knowledge知識 --
例をお見せするとお話ししました
03:01
as foodフード for thought.
皆さんにお考えいただきましょう
03:05
I will conduct行動 a coupleカップル of simple単純
queriesクエリ, searchサーチ queriesクエリ.
まず いくつか簡単な検索をしてみます
03:06
We'll私たちは start開始 with "Michelleミシェル Obamaオバマ,"
まずは「ミシェル・オバマ」
03:10
the First Ladyレディ of the Unitedユナイテッド States.
アメリカのファーストレディです
03:14
And we'll私たちは clickクリック for picturesピクチャー.
「画像」をクリックします
03:16
It works作品 really well, as you can see.
ご覧のとおり うまく行っていますね
03:19
It's a perfect完璧な searchサーチ
result結果, more or lessもっと少なく.
まあ 完ぺきな検索結果です
03:21
It's just her in the picture画像,
not even the President大統領.
写真には ミシェル一人だけ
大統領さえいません
03:24
How does this work?
どうなっているんでしょう
03:27
Quiteかなり simple単純.
とてもシンプルです
03:29
GoogleGoogle uses用途 a lot of smartnessスマートさ
to achieve達成する this, but quiteかなり simply単に,
Googleは 色々頭を使っていますが
簡単に言うと
03:31
they look at two things
more than anything.
2つのことに着目しています
03:34
First, what does it say in the captionキャプション
under the picture画像 on each websiteウェブサイト?
1つは 各ウェブサイトの写真の下にある
キャプションの内容です
03:36
Does it say "Michelleミシェル Obamaオバマ"
under the picture画像?
写真の下に「ミシェル・オバマ」とあれば
03:41
Prettyかなり good indication表示
it's actually実際に her on there.
彼女の写真の可能性が高いですね
03:43
Second二番目, GoogleGoogle looks外見 at the picture画像 fileファイル,
つぎにGoogleが見るのは
写真ファイル
03:46
the name of the fileファイル as suchそのような
uploadedアップロードされた to the websiteウェブサイト.
ウェブサイトにアップロードされた
ファイルの名前です
03:48
Again, is it calledと呼ばれる "MichelleObamaミシェルオバマ.jpegjpeg"?
「MichellObama.jpeg」というファイルなら
03:51
Prettyかなり good indication表示 it's not
Clintクリント Eastwoodイーストウッド in the picture画像.
クリント・イーストウッドの写真
ということはないでしょう
03:54
So, you've got those two and you get
a searchサーチ result結果 like this -- almostほぼ.
この2つを手がかりにすると
こんな検索結果になるんです―普通は
03:57
Now, in 2009, Michelleミシェル Obamaオバマ
was the victim犠牲者 of a racist人種差別主義者 campaignキャンペーン,
さて2009年 ミシェル・オバマに
人種差別攻撃の矛先が向きました
04:02
where people setセット out to insult侮辱 her
throughを通して her searchサーチ results結果.
検索結果を通じて侮辱されたのです
04:08
There was a picture画像 distributed配布された
widely広く over the Internetインターネット
ある写真がばらまかれ
インターネットを席巻します
04:13
where her face was distorted
to look like a monkeyモンキー.
彼女の顔が サルのように
ゆがめられた写真です
04:16
And that picture画像 was published出版された all over.
写真は インターネット上の
あらゆるところに掲載されました
04:18
And people published出版された it
very, very purposefully意図的に,
しかも 検索結果の上位に表示されるよう
04:22
to get it up there in the searchサーチ results結果.
非常に意図的な形でネット掲載されました
04:25
They made sure to write書きます
"Michelleミシェル Obamaオバマ" in the captionキャプション
キャプションには必ず
「ミシェル・オバマ」と書かれ
04:27
and they made sure to uploadアップロード the picture画像
as "MichelleObamaミシェルオバマ.jpegjpeg," or the like.
ファイル名も
「MichelleObama.jpeg」などとされたのです
04:30
You get why -- to manipulate操作する
the searchサーチ result結果.
そう 検索結果を操作するためです
04:34
And it worked働いた, too.
確かに それは成功し
04:37
So when you picture-Googled絵 - グーグル
for "Michelleミシェル Obamaオバマ" in 2009,
Googleで「ミシェル・オバマ」を
画像検索すると
04:38
that distorted monkeyモンキー picture画像
showed示した up among the first results結果.
2009年当時 サル顔に変形された写真が
結果上位に表示されました
04:41
Now, the results結果 are self-cleansingセルフクレンジング,
さて 検索結果には自浄作用があります
04:44
and that's sortソート of the beauty美しさ of it,
そこが素晴らしいところでもあり
04:48
because GoogleGoogle measures措置 relevance関連性
everyすべて hour時間, everyすべて day.
Googleは 毎日 毎時間
関連度を測っているのです
04:50
Howeverしかしながら, GoogleGoogle didn't settle解決する
for that this time,
でも このときGoogleは
黙ってはいませんでした
04:53
they just thought, "That's racist人種差別主義者
and it's a bad悪い searchサーチ result結果
「これは人種差別的で
悪い検索結果だから
04:56
and we're going to go back
and cleanクリーン that up manually手動で.
自らの手で きれいにしないといけない
04:59
We are going to write書きます
some codeコード and fix修正する it,"
プログラムを書いて修正するんだ」と考え
05:02
whichどの they did.
実際にそうしました
05:05
And I don't think anyone誰でも in this roomルーム
thinks考える that was a bad悪い ideaアイディア.
皆さんのなかで これが悪いことと
思う方はいないでしょう
05:07
Me neitherどちらも.
私も そう思いません
05:11
But then, a coupleカップル of years go by,
それから2年ほどして
05:14
and the world's世界の most-Googledほとんどのグーグル Andersアンデルス,
世界で最もGoogle検索されたアンネシュ
05:17
Andersアンデルス Behringベーリング BreivikBreivik,
アンネシュ・ベーリン・ブレイヴィークは
05:20
did what he did.
こんなことをしました
05:23
This is July7月 22 in 2011,
2011年7月22日
05:24
and a terribleひどい day in Norwegianノルウェー語 history歴史.
ノルウェー史上 悲惨な日となったこの日
05:26
This man, a terroristテロリスト, blew吹っ飛んだ up
a coupleカップル of government政府 buildings建物
この男―テロリストは
政府庁舎を爆破しました
05:29
walking歩く distance距離 from where we are
right now in Osloオスロ, Norwayノルウェー
ここ ノルウェー・オスロの会場から
徒歩圏内の場所です
05:33
and then he traveled旅行した
to the island of UtUtøya
その後 彼はウトヤ島に渡り
05:36
and shotショット and killed殺された a groupグループ of kids子供たち.
子どもたちを銃撃し殺しました
05:38
Almostほぼ 80 people died死亡しました that day.
その日 80人近くの命が失われました
05:41
And a lot of people would describe説明する
this act行為 of terrorテロ as two stepsステップ,
多くの場合 このテロ行為には
2つの段階があったと語られます
05:44
that he did two things: he blew吹っ飛んだ up
the buildings建物 and he shotショット those kids子供たち.
つまり 建物爆破と 子どもの銃殺
という2つの段階です
05:48
It's not true真実.
実は違うのです
05:52
It was three stepsステップ.
3つの段階があったんです
05:54
He blew吹っ飛んだ up those buildings建物,
he shotショット those kids子供たち,
彼は建物を爆破し
子どもたちを銃殺し
05:56
and he sat座っている down and waited待った
for the world世界 to GoogleGoogle him.
そして世界が彼を
Google検索するのを待ったのです
05:58
And he prepared準備された
all three stepsステップ equally均等に well.
彼は この3つの段階すべてを
周到に準備していました
06:03
And if there was somebody誰か
who immediatelyすぐに understood理解された this,
彼の意図をすぐに見破ったのが
06:06
it was a Swedishスウェーデンの webウェブ developer開発者,
スウェーデンのウェブ開発者で
06:09
a searchサーチ engineエンジン optimization最適化 expert専門家
in Stockholmストックホルム, named名前 Nikkeニッケ LindqvistLindqvist.
検索エンジン適正化の専門家
ストックホルムのニック・リンドクヴィストです
06:10
He's alsoまた、 a very political政治的 guy
自らも非常に政治的なニックは
06:14
and he was right out there
in socialソーシャル mediaメディア, on his blogブログ and Facebookフェイスブック.
ブログやFacebookなど
ソーシャルメディアを通じて
06:16
And he told everybodyみんな,
みんなに訴えかけました
06:19
"If there's something that
this guy wants right now,
「こいつが今ほしいものがあるとしたら
06:20
it's to controlコントロール the image画像 of himself彼自身.
自分のイメージをコントロールすることだ
06:23
Let's see if we can distort歪ませる that.
みんなで それを崩そうじゃないか
06:26
Let's see if we, in the civilized文明化された world世界,
can protest抗議 againstに対して what he did
文明社会のみんなの力をあわせて
彼の行為に対して抗議するんだ
06:29
throughを通して insulting侮辱 him
in his searchサーチ results結果."
検索結果を通して彼を侮辱するんだ」
06:33
And how?
でも どうやって?
06:36
He told all of his readers読者 the following以下,
彼は以下のことをするよう呼びかけました
06:38
"Go out there on the Internetインターネット,
インターネットで
06:40
find picturesピクチャー of dog poop駄目 on sidewalks歩道 --
道端の犬のフンの写真を探し―
06:42
find picturesピクチャー of dog poop駄目 on sidewalks歩道 --
道端の犬のフンの写真を探し―
06:46
publish公開する them in your feedsフィード,
on your websitesウェブサイト, on your blogsブログ.
それをフィードやウェブサイト
ブログに掲載するのです
06:48
Make sure to write書きます the terrorist'sテロリスト
name in the captionキャプション,
そのとき必ず
キャプションにはテロリストの名前を書き
06:52
make sure to name
the picture画像 fileファイル "BreivikBreivik.jpegjpeg."
ファイル名を「Breivik.jpeg」とするのです
06:55
Let's teach教える GoogleGoogle that that's
the face of the terroristテロリスト."
Googleに これがテロリストの顔だと
教えるのです
06:59
And it worked働いた.
効果てき面でした
07:05
Two years after that campaignキャンペーン
againstに対して Michelleミシェル Obamaオバマ,
ミシェル・オバマ事件の2年後
07:07
this manipulation操作 campaignキャンペーン
againstに対して Andersアンデルス Behringベーリング BreivikBreivik worked働いた.
アンネシュ・ベーリン・ブレイヴィークの
検索結果が操作されました
07:10
If you picture-Googled絵 - グーグル for him weeks after
the July7月 22 eventsイベント from Swedenスウェーデン,
7月22日事件以降の数週間
スウェーデンから彼をGoogleで画像検索すると
07:14
you'dあなたは see that picture画像 of dog poop駄目
high高い up in the searchサーチ results結果,
検索結果の上位に犬のフンの写真が
表示されるに至りました
07:18
as a little protest抗議.
小さな抗議行動です
07:22
Strangely妙に enough十分な, GoogleGoogle
didn't intervene介入する this time.
奇妙なことに このとき
Googleは介入しませんでした
07:25
They did not stepステップ in and manually手動で
cleanクリーン those searchサーチ results結果 up.
人為的に検索結果をきれいにしようとは
しなかったのです
07:30
So the million-dollar百万ドル question質問,
さて ここで難しい質問です
07:35
is there anything different異なる
betweenの間に these two happenings出来事 here?
これら2つの現象は何が違うんでしょうか?
07:37
Is there anything different異なる betweenの間に
what happened起こった to Michelleミシェル Obamaオバマ
ミシェル・オバマに起こったことと
07:41
and what happened起こった
to Andersアンデルス Behringベーリング BreivikBreivik?
アンネシュに起こったことは違いますか?
07:44
Of courseコース not.
もちろん違いません
07:46
It's the exact正確 same同じ thing,
まったく同じ事象です
07:48
yetまだ GoogleGoogle intervened介入した in one case場合
and not in the other.
でも Googleは片方には介入し
他方にはしませんでした
07:50
Why?
なぜでしょう
07:53
Because Michelleミシェル Obamaオバマ
is an honorable名誉ある person, that's why,
それはミシェル・オバマが
尊敬に値する人物である一方
07:55
and Andersアンデルス Behringベーリング BreivikBreivik
is a despicable卑劣な person.
アンネシュ・ベーリン・ブレイヴィークが
卑劣な人間だからです
07:58
See what happens起こる there?
ご覧いただいたとおり
08:02
An evaluation評価 of a person takes place場所
ここには 人に対する評価が介在しています
08:03
and there's only one
power-playerパワープレーヤー in the world世界
世界には
重要人物を決める権力を持つ―
08:06
with the authority権限 to say who'sだれの who.
唯一の権力者がいるのです
08:10
"We like you, we dislike嫌い you.
「君は好き 君は嫌い
08:13
We believe in you,
we don't believe in you.
君は信じる 君は信じない
08:15
You're right, you're wrong違う.
You're true真実, you're false.
君は正しい 君は間違っている
君は真実 君は嘘
08:17
You're Obamaオバマ, and you're BreivikBreivik."
君はオバマで 君はブレイヴィーク」
08:20
That's powerパワー if I ever saw it.
これが力というものです
08:22
So I'm asking尋ねる you to remember思い出す
that behind後ろに everyすべて algorithmアルゴリズム
ですから覚えておいてください
どんなアルゴリズムでも
08:27
is always a person,
その後ろには 必ず人間がいるんです
08:30
a person with a setセット of personal個人的 beliefs信念
人間は それぞれ価値観を持っていて
プログラムで
08:32
that no codeコード can ever
completely完全に eradicate根絶する.
その影響を
完全に消し去ることはできません
08:35
And my messageメッセージ goes行く
out not only to GoogleGoogle,
私はこのメッセージを
Googleだけではなく
08:37
but to all believers信者 in the faith信仰
of codeコード around the world世界.
プログラムに信頼を寄せる
世界中のすべての人に伝えたい
08:40
You need to identify識別する
your own自分の personal個人的 biasバイアス.
自らの偏見をしっかり認識し
08:43
You need to understandわかる that you are human人間
人間であることを自覚し
08:46
and take responsibility責任 accordinglyそれに応じて.
責任を持たなければいけません
08:48
And I say this because I believe
we've私たちは reached到達した a pointポイント in time
このことを伝えたいのは
結束を今一度
08:51
when it's absolutely絶対に imperative命令的
強くしなければいけない
08:54
that we tieネクタイ those bonds債券
together一緒に again, tighterよりタイトな:
そんなときが来ていると
信じているからです
08:56
the humanities人文科学 and the technology技術.
人類と技術のつながり
08:59
Tighterよりタイトな than ever.
この結束を 今以上に強くするのです
09:02
And, if nothing elseelse, to remind思い出させる us
that that wonderfullyすばらしい seductive魅惑的な ideaアイディア
少なくとも
心地よい魅惑的に聞こえる―
09:04
of the unbiased不偏, cleanクリーン searchサーチ result結果
公正で きれいな検索結果というものは
09:07
is, and is likelyおそらく to remain残る, a myth神話.
神話に過ぎず これからもそうだと
心に留めるべきです
09:10
Thank you for your time.
ありがとうございました
09:13
(Applause拍手)
(拍手)
09:15
Translated by Yuko Yoshida
Reviewed by Masako Kigami

▲Back to top

About the speaker:

Andreas Ekström - Author and journalist
Andreas Ekström describes the power structures of the digital revolution.

Why you should listen

Andreas Ekström is staff writer at Sydsvenskan, a daily morning paper in Malmö, Sweden.

His passion is educating for digital equality, and he has a vision for a world in which we share the wealth -- not only financially, but also in terms of knowledge and power. Andreas is the author of six books, a columnist and a commentator, and he often lectures and leads seminars on the digital revolution.

More profile about the speaker
Andreas Ekström | Speaker | TED.com