人は自分にしたことの理由を知っている訳ではない

少し前にニューラルネットワークブラックボックス性についての話をしたが、この前リンクした記事の座談会に関連した発言があった。

栗原:総務省の「AIネットワーク社会推進会議」の分科会メンバーとして議論した時にも、「それは無理だ」といいました。無理なんだけど、人間のレベルでわかった気になることはできるわけです。今のディープラーニングの研究でいえば、AIが判断したことを人間がわかりやすい形に翻訳する研究ってあるんです。それはAIがやっていることを完全に説明するわけではなくて、我々が理解できるレベルに落とす、ということしかないんですが。 1

つまり、人間には判断の理由を説明する能力があるが、ニューラルネットワークにはその能力がないという話だ。こうした人間の理由を提示できる能力は哲学では"セラーズの理由の論理空間"として指摘されてもいる。この方向からの接近も興味深いが、長くなるのでここでは省略する。ここでは別の方向からの指摘を行いたい。

それは一言で言うと、人は自分の行為の理由を本当に理解しているのか?ということだ。これは意識についての科学的解説書でもよく言及される科学的成果だが、ここではネットで見れる新しい成果についての紹介動画を紹介します。

詳しくは動画を見てもらうとして、一言で説明すると意識(発言)に上がる理由は事後的な合理化であることも多いということだ。こうした事実は認知科学(心理学)では古典的な論文であるNisbett&Wilson"Telling more then wa can know"(訳:私達は知りうること以上のことを話す)によって知られるようになったものだ。その点からすると、人の心も行動主義の言う意味とは別の意味でブラックボックスとしての側面を持っているということだ。人には理由を述べるという能力が確かにあるが、その理由が必ずしも客観的に正しいわけではない。

リンクした座談会では人もAIもバイアス(偏り)を持っている点では似たりよったりだとあるが、理由の説明という点でも本当にどこまで本質的な違いがあるのかも怪しい。大して正しくもない理由を平気で述べられる人間がAI(ニューラルネットワーク)より優れているかどうかはそれはそれで疑わしい。だったら、もっともらしい理由を生成できるメカニズムを作ってしまえば、人との違いは大してなくなってしまう。

アーキテクチャに埋め込まれる人工知能についての二つの記事を紹介

以前にもした、アーキテクチャに埋め込まれる人工知能の問題について、関連した記事がほぼ同時に出たので紹介します。

まずは海外のもの。知識や用語はこちらのほうが正確。

次は日本のもの。AIと統計(のアルゴリズム)をごっちゃにしたりと、そりゃそれらの境界は曖昧だろうけど~と不満もあるけど、問題意識は一緒。

AIが意識を持つだの人間に逆襲するだのと言った今のところ非現実的なSF話と違って、これは現実的な問題。もちろんAIには有用なところも多いけど、他方でこれも深刻な問題。しかも単なる人工知能の問題を超えて、データのプライバシー問題だの情報接触の蛸壺化だの、現代のいろんな問題と結びついて、情報生態系についての大きな問題圏をなしている 1。もうちょっと興味を持たれてもいいと思う。


  1. 最近つくづくテレビの報道が偏っているのに改めて気づいてゲンナリしたが、情報生態系の問題というのは何もインターネットだけの問題ではない。

最近は、認知科学における表象主義についても相変わらず考えながら、統計学の勉強も未だに続けている。ここに書くようなアイデアもないではないが、面倒なのと勿体ぶってるのとでやる気がしない。最近よく読んでいる論文類はキンドルに入れておいてあって、そのお薦めでも紹介でもしようかとも思ったが、下手に紹介すると読む気が失せるような気がするので勿体無いのでやらない。ただ今は海外の博士論文っぽいのがネットに上がっていてその中に素晴らしいものがたまにあるのには驚いている(冗談抜きでそれが愛読書と一時的になっている)。

最近統計学を勉強していて気づいたことがあって、それが認知科学にも似た状況があるような気がしたので、それについて書いてみようかなと思う。

統計の話

そういえば、最近勉強している統計学だと、頻度主義(frequentism)とベイズ主義との対立について云々はよく語られてはいるけれど、学者によってその用語や整理が微妙に違っていて困ってしまう。最もあからさまな間違いだと、フィッシャーを安易に頻度主義に分類することだけれど、これは日本の学者だけかと思ったら欧米の学者でもやっているのを見かけた。これは頻度主義統計を意味しているのだろうけど、頻度主義は元々は確率論の用語なのだが、この辺りで混乱がある。その立場の分かりにくくさを脇に置いても、フィッシャーは明らかに確率論としての頻度主義を批判している。よく批判されるフィッシャーの有意性検定そのものは確率論の頻度主義とは関係ない。これは確率論の用語を統計学に転用した結果に起こった混乱でしかない。私が見た最近の英語の文献だと、統計の話題では頻度主義という言葉を使うよりも、代わりに古典的(classical)統計とか正統派(orthodox)統計とかの言い方をよく見かける。もう日本でもネイマン-ピアソン流の統計学を頻度主義と呼ぶのはやめて、古典的統計とかに言い換えた方がいいと思う。

統計の呼び方の問題は単なる前置きで、それよりも勉強しているうちに思ったのは、今や統計学の研究状況が相当に変化したのに統計の全体を理解する枠組みが未だに二十世紀前半からの頻度主義とベイズ主義の対立を超えていないことだ。それは頻度主義を古典的統計と言い換えても(誤解を防ぐ以外は)それほど問題は変わらない。せいぜい二十世紀まではこの対立する立場の他にフィッシャー派を含むこともあったが、二十一世紀に入ってからだとたまに尤度主義が加わることもあるが、どちらもそこまで普及している立場とは言い難い。もともと統計における頻度主義とベイズ主義の対立には、確率における客観的確率と主観的確率の対立と重ね合わされている側面があったが、二十世紀後半になってベイズ統計の研究が発展して、ベイズの定理を用いているからと言って必ずしも常に主観的確率を採用しているとは言い切れなくなってしまった(例えば客観ベイズや経験ベイズ)。いい加減にこの辺りを整理してもらわないと統計の全体像を理解しづらいし、頻度主義とベイズ主義を単なる優越でしか見ない勘違いもいつまで経っても絶えない(ベイズ統計さえあれば古典的統計はいらない…なんてことはありえない)。

認知主義の話

統計学についてのこうした状況に気づいた頃に、たまたま認知科学における認知主義についての話を見かけて、認知科学にも旧態依然とした図式への固執はあるなぁ〜と気づいた。認知主義というのは二十世紀末における古典的人工知能や古典的認知科学への批判でよく用いられたもので、最近だと身体化論のラディカル派(4E認知)の学者にこの言葉を使うことをよく見かける。しかし、認知主義批判なるものは二十世紀まではまだしも二十一世紀世紀に入ってから研究状況が変化して、いわゆる認知主義者がどこにいるのかもはや怪しくなってしましい、単なる一方的な悪口とかしてしまった感じがする。認知主義に関わる問題は二つあって、まずこの言葉が二十世紀には当てはまっていた古臭い図式に由来すること、そして認知主義という言葉がだんだん意味が広くかつ曖昧になってしまったことだ。

私の理解では、もともとの認知主義には二つの側面があって、1つ目は心を思考や統語的な要素によって説明しようとする傾向であり、もう一つは心が頭の中にあるとする内在主義的な傾向である。前者に注目した場合は、コネクショニズムは認知主義的でないことになり、これが認知主義の狭い意味だろう。それに対して後者は、ギブソン生態学的アプローチやブルックスの古典的人工知能批判(サブサンプションアーキテクチャ)に由来する反表象主義の立場による批判に由来し、それが最近のラディカルなエナクティストにまで至っている。前者のような立場はもはや主流ではなく、(限定的な形ならともかく)少なくとも極端にその立場に立っている人が今やいるとはとうてい思えない。後者は極端な身体化論者が批判しがちな点ではなるが、そのじつその人たちが提示する考え方はもう一方の極端に至っていることが多い。

表象主義の話

この形の認知主義を理解するには表象と言う概念を理解する必要があるが、これまた意味が多義的で曖昧なので議論が混乱する源となっている。本当はこのテーマで記事にしようかとも思ったが、面倒なのでここであっさりと説明する。哲学の世界で知られている表象でローティ「哲学と自然の科学」における認識論的な意味がある。これは表象を世界の正確な写しと捉えることへの批判が含意されている。しかし、認知科学で用いられる表象はこれとはちょっと違う。表象を思考の言語のようなものとして捉えると、既に上げた認知主義の狭い意味に一致する。もう一方は表象を知覚的表象と捉えることで、これはギブソンの批判に由来する。表象には他にもイメージ的な表象や目的意味論的な表象もあるが、ここではこれ以上は突っ込まない。重要なのは、現在の反表象主義は思考的表象も知覚的表象もどちらも否定しているように見えることだ(ただし必ずしもはっきり表明しているわけではない)。反表象主義の中で最も極端な立場は心的計算をも否定する反計算主義だが、こうなるとただの反認知科学と違いがない。そこまで行かなくても、計算の持つ意味合いをできるだけ小さく抑えようとしている気配は大きい。

反表象主義を採用する理由に、世界の中で身体を持った心のダイナミズムを理解しようとする動機がある。ただ注意すべきは、ダイナミズムを理解することと表象を認めることは相反する事態ではないということだ。表向きは論争にならないが実は身体化論には二種類の立場があって、一方は反表象派だが、もう一つは(分かりやすく命名すると)イメージ派(またはシュミレーション派)と呼べる。イメージ派は少なくとも知覚的表象は認めているが、単なる思考的表象と違って世界へのダイナミックな対応は可能である。この話は説明し始めると大変なので端折るが、私は個人的に反表象主義のことをダイナミックな行動主義と呼んでいるが、別にそれだけが身体性やダイナミズムを扱える唯一の立場ではない。