■

独り言

「新記号論」は大雑把に目を通したが、認知科学に詳しい側からすると物足りなさもあるが、今時の （特に日本の）人文学には欠けている野心に溢れた面白い著作だと思った。私はたまに日本の人文学の論文にも目を通すが、正直なところ問題意識の感じられない学問的な正しさしかないつまらない論文が多いと言わざるを得ない。 いわゆる現代思想が没落している中で、なんとか今の時代に現代思想を蘇らせようという野心的な試みには感心する。

とはいえ、発言的には認知科学に注目を集めているが、そのじつ参照される認知科学の成果は主にダマシオなどの極少数しかないのは残念だ。現象学の自然化にも言及されてはいたが、その内実には触れられていなくてなんのための言及か不思議に思った。またフロイトに触れられていることは前もって分かっていたので、一般的に日本の人文学者には精神分析が既に非科学的であることがあまり知られていないので心配していたが、まぁただアイデアを論じているだけな感じで懸念していたほどではなくてホッとした。それに、アマゾンのレビューでは絶賛の嵐だが、現代思想の勉強もしたことある私から見てもあまり新しいアイデアやめぼしい洞察はそれほど多くない気もする。現代の技術的状況を分析することよりも、現代思想を蘇らせることに注力されている感じも拭いきれない。

ただこういうのを読んで気の毒に思うのは、日本では認知科学や分析哲学の最新の成果や基礎知識がほとんど日本語ではろくに紹介されていないので、それを知ることもできなければ分析に取り入れることもできないことを残念だと感じる。そういう紹介は分業してなされればいいのが、日本ではなかなかそうはならない。認知科学の身体化(4E認知)もむしろ批判的な私がこのブログで紹介せざるを得ない状態だし、分析哲学で起こっている方法論的自然化の動きも日本ではあまり知られていない 1。私自身は流行を追うミーハーではない(むしろ基礎知識のなさを嘆く側の)つもりだが、いつの間にか新しい状況について行けてない人たち 2と、表面的には流行に乗っているようだけど本当は知識が足りない人たちばかり目につくようになってしまって困ってしまった。私だって興味の持てる議論をもっと日本語で読みたいのに…

個人的には「新記号論」の最も喜ばしいところは、強い人工知能の説明がサールに則った正しいものであったことだ。同じ頃に見た別の本では工学寄りの人が相変わらず強いAIと広いAIをごっちゃにしているのを見たばかりだった。だから、実現した広い人工知能(汎用人工知能)が本当に心を持つかどうかが強い人工知能の議論なんだってばぁ〜！

  1. 例えばgoogle:Naturalizing Metaphysics with the Help of Cognitive Science Alvin I. Goldmanを参照↩

  2. ただし本人がそれに気づいているとは限らない↩

人は自分にしたことの理由を知っている訳ではない

少し前にニューラルネットワークのブラックボックス性についての話をしたが、この前リンクした記事の座談会に関連した発言があった。

栗原：総務省の「ＡＩネットワーク社会推進会議」の分科会メンバーとして議論した時にも、「それは無理だ」といいました。無理なんだけど、人間のレベルでわかった気になることはできるわけです。今のディープラーニングの研究でいえば、ＡＩが判断したことを人間がわかりやすい形に翻訳する研究ってあるんです。それはＡＩがやっていることを完全に説明するわけではなくて、我々が理解できるレベルに落とす、ということしかないんですが。 1

つまり、人間には判断の理由を説明する能力があるが、ニューラルネットワークにはその能力がないという話だ。こうした人間の理由を提示できる能力は哲学では"セラーズの理由の論理空間"として指摘されてもいる。この方向からの接近も興味深いが、長くなるのでここでは省略する。ここでは別の方向からの指摘を行いたい。

それは一言で言うと、人は自分の行為の理由を本当に理解しているのか？ということだ。これは意識についての科学的解説書でもよく言及される科学的成果だが、ここではネットで見れる新しい成果についての紹介動画を紹介します。

詳しくは動画を見てもらうとして、一言で説明すると意識(発言)に上がる理由は事後的な合理化であることも多いということだ。こうした事実は認知科学(心理学)では古典的な論文であるNisbett&Wilson"Telling more then wa can know"(訳：私達は知りうること以上のことを話す)によって知られるようになったものだ。その点からすると、人の心も行動主義の言う意味とは別の意味でブラックボックスとしての側面を持っているということだ。人には理由を述べるという能力が確かにあるが、その理由が必ずしも客観的に正しいわけではない。

リンクした座談会では人もAIもバイアス(偏り)を持っている点では似たりよったりだとあるが、理由の説明という点でも本当にどこまで本質的な違いがあるのかも怪しい。大して正しくもない理由を平気で述べられる人間がAI(ニューラルネットワーク)より優れているかどうかはそれはそれで疑わしい。だったら、もっともらしい理由を生成できるメカニズムを作ってしまえば、人との違いは大してなくなってしまう。

  1. 「ＡＩリスク社会」を生き抜くリテラシーとは？―『悪のＡＩ論』座談会ログより引用↩

アーキテクチャに埋め込まれる人工知能についての二つの記事を紹介

以前にもした、アーキテクチャに埋め込まれる人工知能の問題について、関連した記事がほぼ同時に出たので紹介します。

まずは海外のもの。知識や用語はこちらのほうが正確。

次は日本のもの。AIと統計(のアルゴリズム)をごっちゃにしたりと、そりゃそれらの境界は曖昧だろうけど~と不満もあるけど、問題意識は一緒。

AIが意識を持つだの人間に逆襲するだのと言った今のところ非現実的なSF話と違って、これは現実的な問題。もちろんAIには有用なところも多いけど、他方でこれも深刻な問題。しかも単なる人工知能の問題を超えて、データのプライバシー問題だの情報接触の蛸壺化だの、現代のいろんな問題と結びついて、情報生態系についての大きな問題圏をなしている 1。もうちょっと興味を持たれてもいいと思う。

  1. 最近つくづくテレビの報道が偏っているのに改めて気づいてゲンナリしたが、情報生態系の問題というのは何もインターネットだけの問題ではない。↩