最近は人工知能ブームで様々な人工知能論が増えてきた。しかし、残念ながらその中には人工知能についての正しい知識の基づいていないろくでもない話も多い。あの有名なTED講演にさえそれがあったのを見つけたことがこの記事を書こうとした動機になった。
中身の空虚な一般化された人工知能脅威論
比較的最近の日本語訳の付いたTED講演をいくつか見ていた。その中に流行りの人工知能についての講演があったので期待して動画を再生してみた。感想としては、知識に則った興味深い講演がある一方で、知識の基づかない恐怖を煽るだけの一般化された人工知能脅威論もあることに驚いてしまった。私には元々人工知能の基礎知識がある上に最近の論文も読んで勉強したので、講演を聞いていればなんとなく...こいつ実はよく分かってないなぁ〜と感じられてしまう。
私が中身が空虚だと感じたTED講演はいくつかあるが、比較的それが分かりやすいのが「人間より優れた人工知能を作って制御を失わずにいるのは可能か」だ。講演タイトルからすると面白そうだし講演者が元々科学者だからまともな内容なのかと期待したくなる。実は私もそうだった。ところが実際にこれを聞いてみると、人の恐怖を煽るタイプの一般化された人工知能脅威論だった。SF的な人工知能論が批判されていてはいるが、そのじつ彼の語る人工知能の脅威はどうも抽象的で実際の人工知能がどんなものであるかを知っているように思えない。一見すると話が巧みなのでつい引き込まれてしまういそうだが、具体的にどうしたら人工知能が脅威になるのかは話しているようでいて実は大してしてない。こういう口がうまくてもっともらしい話を次々と繰り出すが、知識に基づいて真面目に検証すると実は中身がスカスカ...みたいな奴は日本ではよく見かけるが（もっと巧みな形で）欧米にもいるんだと感心した。
だからといって、人工知能脅威論すべてが嘘っぱちだと言う訳ではない。例えば、人工知能が人の職を奪う論はそれ自体では間違いではない。ただし、これまで様々な技術が散々人の職を奪ってきたのに、人工知能だけが特別に脅威の対象にされるべきかは私には疑問だが。
アーキテクチャに埋め込まれる人工知能
実はTED講演には興味深い人工知能（脅威？）論もある。より技術的な方面の講演でも面白いものはあるが、ここで紹介したいのは「ネット広告の仕組みが開くディストピアへの道」だ。講演タイトルからすると人工知能とは無関係そうだが、講演内容を聞くと案外そうでもない。この講演者の優れた点は人工知能が所詮はアルゴリズムでしかないという扱いだ。人工知能が人のように意識や意図を持つといったSF的な設定はもちろん現実的ではないが、人工知能が人の知性を超えると言う話もその人の安易な知識や感情が投影されているだけのことが多く、学問的には人工知能の知性を測るとされたチューリングテストが否定されて代わりが模索されている中で、どうすれば人の知性を超えたと言えるのかさえよく分からない。そもそも部分的に見れば人工知能は既に人の知性を超えている（分かりやすい例では囲碁）。可能かどうかさえよく分からないシンギュラリティなんかよりも、現に起こりつつあることの方がよっぽど恐ろしい。
詳しくは講演を見てほしいが、インターネットはその利用者が欲するものばかりを提示してくれるが、人工知能はそれをより加速させることになりうる。利用者に提示される欲するものはより極端な方へと振れていき、所謂フェイクニュースにまでたどり着く。そこまで行かなくとも、入ってくる記事なりつぶやきなりが自動的に利用者の好む方ばかりに偏るようになる。さらに恐ろしいのは、そうした選択が誰の特別な意図でもなく人工知能のようなアルゴリズムによって勝手になされてしまうことだ。そうしたネット空間にいることは快適ではあるが、そこでの情報の偏りは民主主義や科学を危機に陥らせてしまう（というより既に現にしつつある）。人工知能が差別を学習したとしても、それは単にデータから学習されたに過ぎない。そこには何のイデオロギー的な意図もなく、政治的に一方に偏った内容だけが提示されることになりうる。その結果として（科学的には地球の温暖化は事実だがその原因では意見が分かれているのだが)大国の大統領によって地球温暖化そのものさえ否定されてしまっているが、その程度はまだ序の口なのかもしれない。
アーキテクチャによるディストピアの恐ろしい所は、人々に恐怖をもたらす従来のディストピアとは異なり、自らの世界の中に閉じこもることによる快適さから成り立っていることだ。人工知能は人々の生活を便利にする側面もある一方で、そうしたディストピアを支える技術にもなりうるのだ。
