以前、このブログで人工知能の偏り問題についての記事を書いたことがある。
そこではAIの偏りの原因を因果(回帰分析)とサンプリング(データセット)の二つに分けて論じた。最近、データセットの偏りによって生じるAIの問題を論じた記事があがっていた。
この前の人工知能ブームには、ブームに乗って適当なことを書くミーハーが沢山出てきたくせに、いざこういう問題が表面化するとマトモに語れる人が日本にはろくにいないのに気づかざるをえない。頭痛くなってくる！
トランプのアカウント停止問題を考える
実は似たことが、この前のトランプのtwitterアカウント停止問題の際にも起こっている。それは、トランプ問題とプラットフォーム問題が安易にごっちゃに語られていることである。
私はこのブログでも、プラットフォームにAI的なアルゴリズムが使われていることを示唆したことがある程度には知識がある。そして、前からネット上で謎のtwitterアカウントの停止問題は聞いていたので、二つの問題が一緒にされがちなのはマズいと思うようになった。
トランプのアカウント停止問題へのよくある勘違い
まず、トランプのアカウント停止問題についてよくある勘違いに触れておく。
表現の自由が問題なのか？
一つ目はこれは表現の自由の問題だという主張。表現の自由は政府による規制が本来の問題なので、今回の民間企業の決定とは分けて話すべきだ。
例えば、雑誌でどんな記事を載せるか？はその雑誌の編集の問題であって、特定の記事が載らないからと言ってある雑誌を非難するのはおかしい。なぜなら別の雑誌にその記事が掲載されればいいだけだからだ。
雑誌とプラットフォームは違うというかもしれないが、その違いを日本で明確に論じているのを私は見たことがない。そして、私がこれから論じたいのは、そのプラットフォームとは何か？の問題だ。
メルケルの発言はヨーロッパ的な発想
もう一つはトランプのアカウント停止問題へのメルケルの発言だ。これは表現の自由についてのアメリカとヨーロッパでの考え方の違いが分かっていないと誤解する。
ヨーロッパ方式とアメリカ方式の違いは、許される表現の基準が行政を介して決まるか？民間で決まるか？の違いにある。どちらが正しいとはそう簡単には言い難い。
アメリカ方式の問題は見えているので、ヨーロッパ方式だけを扱う。手短に批判すると、ヨーロッパ方式はナチス礼賛は駄目だけどイスラム批判は良い…といった恣意的な基準が設けられており、未だにたまにそこで揉める。ヨーロッパ方式は別に必ずしも褒められる方式ではない。
トランプ問題とプラットフォーム問題は分けよう
ここで主張したいことはただ一つ、アカウント停止のトランプ問題とプラットフォーム問題は分けて論ずるべきだ！ということだ。これら二つの問題はごっちゃにされがちだが、安易に一緒にすると問題の本質を見逃す。
私が愛読してるブログに、その辺りの問題を示唆してる、日本語で読める数少ない記事がある。
Twitter、Facebookが大統領を黙らせ、ユーザーを不安にさせる理由
ダートマス大学教授の ブレンダン・ナイアン氏も、トランプ氏への永久停止は正しい判断だとしても、プラットフォームが行使するパワーには不安を覚えるとし、ツイートでこう述べている。
「[https://kaztaira.wordpress.com/2021/01/12/twitter_facebook_locked_out_president/: title]」より
トランプ問題とプラットフォーム問題はどう違うのか？
まず大きな違いは、アカウント停止が意図的かつ人為的であるかどうか？だ。トランプのアカウント停止は意図的になされたもので、その責任の所在がはっきりしている。対して、プラットフォーム問題の場合は、そのアカウントの多くが(AI的な)アルゴリズム1で勝手に管理されるので、責任の所在がはっきりしない。
もう一つの違いは、トランプ問題はアカウントが停止された事情が人々の目に見えていることだ。トランプのアカウント停止の理由は問えば答えられるはずだし、そこに潜む問題も直接に議論することができる。しかし、プラットフォームで日常的に行われているアルゴリズム的なアカウント停止は、その理由はよく分からないし、プラットフォーマー側でさえ答えることも難しい。
たまに、政治的なつぶやきをしたからアカウント停止された？と疑われることもある。そのくせ、なんでヘイトを垂れ流すアカウントが停止されないのか？疑問だらけなこともよくある。背景が目に見えるトランプのアカウント停止なんて、こんな日々行われているアカウント停止に比べれば、全然かわいいものに思える。
プラットフォーム問題とは何か？
プラットフォームは民間企業なので、どんなアカウント停止をしようが自由だ！という意見もなくもない。しかし、これは必ずしも間違ってはいないが、プラットフォーム問題を甘く見てる感は拭えない。
メディア問題としてのプラットフォーム
これは既に表現の自由問題で触れた、雑誌の例と比較すると分かりやすい。ある雑誌に自分の書いた記事が採用されなかったとしても、別の雑誌に応募したり、何なら自分で雑誌を作ってもいい。プラットフォームにこれと同じことが言えるのか？
雑誌と違って、プラットフォームがそんなに簡単に作れて乱立する訳がない。その点ではむしろ、雑誌を発行する出版社の方が近いかもしれない。雑誌がコンテンツの集まりだとしたら、出版社はそのコンテンツをメディアに載せて配る役割を果たす。こっちの方がプラットフォームのイメージにむしろ近い。
つまり、コンテンツの層とメディアの層はきちんと分けるべきなのだ2。コンテンツを配るメディアを司る装置として、以前なら新聞やテレビのようなマスメディアが優勢だったが、今やプラットフォームが多大な影響力を持っている。
おわり
多大な影響力を持ったプラットフォームが、責任の所在も曖昧なままに、偏りをも含みうるアルゴリズムで、理由も分からないままにアカウントを管理する…という状況をもっと本気で考えてほしい。
上にリンクしたのは、ケンブリッジアナリティカを告発したワイリーの本の書評だ。ケンブリッジアナリティカは意図的に情報を操作した3が、プラットフォーマーは意図せずに似た操作を行ないうるのだ。
トランプのアカウント停止という目に付きやすい分かりやすい問題に目を眩ませてはいけない。本当の深い問題はその奥にある。
-
アルゴリズムがAI的かどうか？は二次的な問題で重要ではない。だいたい、あるアルゴリズムがAI的かどうか？の基準そのものが必ずしも明確な訳ではない。↩
-
ただし、マスメディア時代はメディア管理とコンテンツ制作が結びついていて、その違いは明瞭ではなかった。たまに、(今と違って)昔のニュース番組は中立的で良かった！という人を見るが、昔は少数のマスメディアが多大な影響を握っていただけであり、それが中立的だったとするのは単なる幻想でしかない(ジャーナリスト論を勉強してね)。ただ、プラットフォームの中には特定のコンテンツと結びついてるのもあるので、そこはややこしい。コンテンツ層とメディア層の間にエディット層も加えた方がいいのかもしれない↩
-
ただし、ケンブリッジアナリティカの選挙への影響力が過大評価されているという指摘もある。確かに、トランプの支持層を考えるとその指摘も分からなくもない。一部の過激化が目立ちやすいせいで、ネットの影響力が過大評価されてる気配がなくもない。でも逆に言えば、今でさえこれなのだから、この先どうなるのか？もう少し考えてほしい↩
