最近はツイッターでよくつぶやいているが、これはラジオ関連の特別な事態が原因でやってるだけで、別にツイッターが好きになった訳ではない。サービスで認知科学関連のつぶやきもしたこともあるが、反応もないしおそらく理解もされてないのでやるだけ無駄感が強い。やはり時事的要素の強いラジオの話題の方がツイッターには合っている。でもツイッターはその性質上で感情的な反応になりがちで議論には適してない。だいたい自分のような一つのつぶやきに内容を詰めこむタイプは内容のない大量のつぶやきをするタイプに埋もれてしまうので圧倒的に不利。かといって、真面目にブログを書いているのも徒労感が強いし、そもそもはてなブログというサービス自体が魅力が少なくて好きになれない。かといって、他のブログサービスも調べてみたけど条件に合う魅力的なサービスはなかなかない。要するにブログそのものが廃れているのだ。でも、感情的でなくきちんとした話をするのに適した他の手段がある訳でもない。本気で困っている!

認知科学に関してはネットで手に入る新しい英語の論文はよく確認しているので、新しい事情はそこそこは分かる。しかし、日本ではそもそも認知科学の基礎知識が欠けているのでやる気が起きない。最近はマスなメディアに出ている脳科学者がしている話が実質認知科学の話だったりもよくあるが、どうせ気づかれない。まあ、脳科学だけで語れることがそんなに多い訳がないので、結果として手広く手を伸ばすことになるのは当たり前だ。でも、茂木っちとかに中途半端に認知科学の名を出されるのはただの迷惑でしかない。認知科学は日本での認知度の低さにも関わらず国際的には十分にメジャーなものだ。これまでもここに書いてきたが、日本の認知科学事情には不満しか感じない。

今興味を持っている認知科学のテーマとしては心的表象があるのだが、それこそ一冊の本を書いても足りないほどのでかいテーマなので却って何も書く気がしない。行動主義と大して変わりのない馬鹿な身体化ラディカリストは今でもごちゃごちゃ言っているがもうどうでもいい。もう一つのでかいテーマとしては統計機械としての心というのがあるが、これまた現在進行形の研究で書くのが面倒。自由エネルギー原理に代表される最適化の問題はもちろんのこと、そもそもの統計そのものの面白さとその魅力も伝える必要がある(古典的統計とベイズ統計と機械学習を包括する基礎的統計教養とかを妄想している)し、流行りの機械学習を超えてヒューリスティック生態学的合理性から進化による最適化へと話を広げるとか、まぁ考えてることはいろいろとある。

それから、個人的な興味として流行の深層学習がどう考えても実際の脳に機能的に構造的にもそれほど似ていないことから、計算論についての枠組み(マー)を考え直す必要があるとも考えている。つまり、今までは計算論レベルが曖昧だと思っていたが、実際はアルゴリズムレベルの方が怪しいのではないか?アルゴリズムレベルは入出力によって定義されるのだが、長い間そこにふさわしいのはニューラルネットワークだと思いこんできたが、実装レベルとの関係から考えても脳との類似性がもはや怪しいニューラルネットワークを安易に想定してきたのは問題ではないのかと思っている。主にニューラルネットワークだけから脳を構成できるとするアイデアは脳の唯一の原理は最適化だけであるとするのとほぼ同じだが、それは(行動の観察を含む)心理学的な事実とはそこまで合致していないように思えて、生命についての安易な想定に基づいているのではないかと疑っている。かといって、逆に現象学者のように生命概念を特別視するのは科学的には不毛感が強い(生命の神秘性を守りたいだけ?)。身体化論者が真に批判すべきなのは最適化論な気もするが、今の学者は他領域の学問的議論に目を向けないのでそういう本質的な議論はなかなか起きない。

「新記号論」は大雑把に目を通したが、認知科学に詳しい側からすると物足りなさもあるが、今時の (特に日本の)人文学には欠けている野心に溢れた面白い著作だと思った。私はたまに日本の人文学の論文にも目を通すが、正直なところ問題意識の感じられない学問的な正しさしかないつまらない論文が多いと言わざるを得ない。 いわゆる現代思想が没落している中で、なんとか今の時代に現代思想を蘇らせようという野心的な試みには感心する。

とはいえ、発言的には認知科学に注目を集めているが、そのじつ参照される認知科学の成果は主にダマシオなどの極少数しかないのは残念だ。現象学の自然化にも言及されてはいたが、その内実には触れられていなくてなんのための言及か不思議に思った。またフロイトに触れられていることは前もって分かっていたので、一般的に日本の人文学者には精神分析が既に非科学的であることがあまり知られていないので心配していたが、まぁただアイデアを論じているだけな感じで懸念していたほどではなくてホッとした。それに、アマゾンのレビューでは絶賛の嵐だが、現代思想の勉強もしたことある私から見てもあまり新しいアイデアやめぼしい洞察はそれほど多くない気もする。現代の技術的状況を分析することよりも、現代思想を蘇らせることに注力されている感じも拭いきれない。

ただこういうのを読んで気の毒に思うのは、日本では認知科学分析哲学の最新の成果や基礎知識がほとんど日本語ではろくに紹介されていないので、それを知ることもできなければ分析に取り入れることもできないことを残念だと感じる。そういう紹介は分業してなされればいいのが、日本ではなかなかそうはならない。認知科学の身体化(4E認知)もむしろ批判的な私がこのブログで紹介せざるを得ない状態だし、分析哲学で起こっている方法論的自然化の動きも日本ではあまり知られていない 1。私自身は流行を追うミーハーではない(むしろ基礎知識のなさを嘆く側の)つもりだが、いつの間にか新しい状況について行けてない人たち 2と、表面的には流行に乗っているようだけど本当は知識が足りない人たちばかり目につくようになってしまって困ってしまった。私だって興味の持てる議論をもっと日本語で読みたいのに…

個人的には「新記号論」の最も喜ばしいところは、強い人工知能の説明がサールに則った正しいものであったことだ。同じ頃に見た別の本では工学寄りの人が相変わらず強いAIと広いAIをごっちゃにしているのを見たばかりだった。だから、実現した広い人工知能(汎用人工知能)が本当に心を持つかどうかが強い人工知能の議論なんだってばぁ〜!


  1. 例えばgoogle:Naturalizing Metaphysics with the Help of Cognitive Science Alvin I. Goldmanを参照

  2. ただし本人がそれに気づいているとは限らない

人は自分にしたことの理由を知っている訳ではない

少し前にニューラルネットワークブラックボックス性についての話をしたが、この前リンクした記事の座談会に関連した発言があった。

栗原:総務省の「AIネットワーク社会推進会議」の分科会メンバーとして議論した時にも、「それは無理だ」といいました。無理なんだけど、人間のレベルでわかった気になることはできるわけです。今のディープラーニングの研究でいえば、AIが判断したことを人間がわかりやすい形に翻訳する研究ってあるんです。それはAIがやっていることを完全に説明するわけではなくて、我々が理解できるレベルに落とす、ということしかないんですが。 1

つまり、人間には判断の理由を説明する能力があるが、ニューラルネットワークにはその能力がないという話だ。こうした人間の理由を提示できる能力は哲学では"セラーズの理由の論理空間"として指摘されてもいる。この方向からの接近も興味深いが、長くなるのでここでは省略する。ここでは別の方向からの指摘を行いたい。

それは一言で言うと、人は自分の行為の理由を本当に理解しているのか?ということだ。これは意識についての科学的解説書でもよく言及される科学的成果だが、ここではネットで見れる新しい成果についての紹介動画を紹介します。

詳しくは動画を見てもらうとして、一言で説明すると意識(発言)に上がる理由は事後的な合理化であることも多いということだ。こうした事実は認知科学(心理学)では古典的な論文であるNisbett&Wilson"Telling more then wa can know"(訳:私達は知りうること以上のことを話す)によって知られるようになったものだ。その点からすると、人の心も行動主義の言う意味とは別の意味でブラックボックスとしての側面を持っているということだ。人には理由を述べるという能力が確かにあるが、その理由が必ずしも客観的に正しいわけではない。

リンクした座談会では人もAIもバイアス(偏り)を持っている点では似たりよったりだとあるが、理由の説明という点でも本当にどこまで本質的な違いがあるのかも怪しい。大して正しくもない理由を平気で述べられる人間がAI(ニューラルネットワーク)より優れているかどうかはそれはそれで疑わしい。だったら、もっともらしい理由を生成できるメカニズムを作ってしまえば、人との違いは大してなくなってしまう。