人は自分にしたことの理由を知っている訳ではない

少し前にニューラルネットワークブラックボックス性についての話をしたが、この前リンクした記事の座談会に関連した発言があった。

栗原:総務省の「AIネットワーク社会推進会議」の分科会メンバーとして議論した時にも、「それは無理だ」といいました。無理なんだけど、人間のレベルでわかった気になることはできるわけです。今のディープラーニングの研究でいえば、AIが判断したことを人間がわかりやすい形に翻訳する研究ってあるんです。それはAIがやっていることを完全に説明するわけではなくて、我々が理解できるレベルに落とす、ということしかないんですが。 1

つまり、人間には判断の理由を説明する能力があるが、ニューラルネットワークにはその能力がないという話だ。こうした人間の理由を提示できる能力は哲学では"セラーズの理由の論理空間"として指摘されてもいる。この方向からの接近も興味深いが、長くなるのでここでは省略する。ここでは別の方向からの指摘を行いたい。

それは一言で言うと、人は自分の行為の理由を本当に理解しているのか?ということだ。これは意識についての科学的解説書でもよく言及される科学的成果だが、ここではネットで見れる新しい成果についての紹介動画を紹介します。

詳しくは動画を見てもらうとして、一言で説明すると意識(発言)に上がる理由は事後的な合理化であることも多いということだ。こうした事実は認知科学(心理学)では古典的な論文であるNisbett&Wilson"Telling more then wa can know"(訳:私達は知りうること以上のことを話す)によって知られるようになったものだ。その点からすると、人の心も行動主義の言う意味とは別の意味でブラックボックスとしての側面を持っているということだ。人には理由を述べるという能力が確かにあるが、その理由が必ずしも客観的に正しいわけではない。

リンクした座談会では人もAIもバイアス(偏り)を持っている点では似たりよったりだとあるが、理由の説明という点でも本当にどこまで本質的な違いがあるのかも怪しい。大して正しくもない理由を平気で述べられる人間がAI(ニューラルネットワーク)より優れているかどうかはそれはそれで疑わしい。だったら、もっともらしい理由を生成できるメカニズムを作ってしまえば、人との違いは大してなくなってしまう。