そういえば、少し前にニューラルネットワークブラックボックスだという話を聞いた時に違和感を感じて軽く触れたのだが、その時はそれ以上は話が展開しなかったが、あらためてこの話を考えてみたい。

結論を言うと、最近のニューラルネットワーク(ディープラーニング)はブラックボックスだという話は半ば正しく半ば間違っている。どんな技術であれ知識のないユーザーにとってはその技術を用いた製品は中身が分からないという意味ではブラックボックスだが、もちろんニューラルネットワークの場合はこういう意味ではない。それどころか、プログラミングを組んだ本人さえもそのニューラルネットワークの作動の中身が理解できなくなっているという点でブラックボックスだと言われている。その理由はそんなに難しいものではなくて、普通のアルゴリズムでは作成した本人が設定した通りにしか作動しないのに対して、ニューラルネットワークの場合は与えられたデータから次々と学習することで中身の作動の仕方が複雑に変化してしまうので、それを作成した本人にもそれがどのように動いているのか結果としてよく分からなくなってしまうのだ。これがニューラルネットワークブラックボックスだと言われる所以であるが、これは事実の一方からの視点でしかない。

認知科学の世界でブラックボックスだと言われていた事の典型は行動主義であり、それこそ文字通りに外面から観察できる行動しか認めず、心的なものを行動に還元する考え方だ。この場合は心的メカニズムは見てないし、見ること自体が不可能とされてしまう。それに比べると、ニューラルネットワークブラックボックス性は中途半端だ。ニュラルネットワークは入力と出力の間を多数のユニットが複雑なネットワークで結び付けられているのだが、その中間層の状態は内部表現と呼ばれることがある。その巨大な中間層がそのニューラルネットワークのメカニズムに当たるのだが、もちろんこれは行動主義の想定するように文字通りに見えない訳ではない。正確には内部表現は見ようと思えば見ることができるが、見てもあまりにグチャグチャすぎてそれで何が表現されているのかが当の製作者にさえ分からない。基本的にはニューラルネットワークの中間層は特徴検出器(例えば色や傾き)になっていると想定されることが多く、多変量解析を用いてそれを調べた研究もある。とはいえ、実際のところ中身がどうなっているのかを理解することはとてつもなく難しくて、実質ブラックボックスと変わりがないとも言える。

とはいえ、それは実質上の話であって、行動主義のように文字通りのブラックボックスではないことに変わりはない。この先研究が進んで内部表現を理解できるようになる手段が開発される可能性はゼロではない。それに認知科学的には内部表現こそが興味深い対象であって、ディープラーニングの先駆者であるヒントンはそこ(事前学習で内部表現を前もって整えること)に注目した点で認知科学への素養を持った研究者だったのだ。当のニューラルネットワークは純粋な工学へとかなり変貌してしまったが、それとは別にヒントンの鋭い洞察には学ぶべき点もある。つまり、ヒントンの内部表現への注目は、ベイジアンにおける生成モデルの重要性とともに、認知科学に心があらかじめ持つ知識やモデルに目を向けさせる流れに結びついている。この流れは時間をかけて大きくなっているのではと予測しているが、ヒントンはその流れの一端を作り出したのかもしれない。

ブログに真面目な記事を書いてもほとんど読まれないと気づいたので、きちんとした記事など書く気も起きない。ましてや、最近の自分が面白く思っている話題があまりに新しい話すぎて、記事にするのが適切かもよく分からない。私は認知科学にちょっと飽きると一時的に別の話題に夢中になるのだが、最近までは確率や統計について調べていた。しかし、日本語で手に入るネットにある知識はテクニカルなものに偏っているし、書籍も同じ傾向が強い。それで自分向けに確率統計についての私的な整理を書いたので、それをあまり目立たないところに出しておいた→https://deepbluedragon.hatenadiary.com/entry/stat-memo。気が向いた人は見てみてください。

これで、とりあえずは確率統計については一区切り付いた感じがしたので、また認知科学に戻ってきた。予測処理(predictive processing)における表象(representation)論争とか総合による分析(analysis by synthesis)の系譜とか以前から個人的に調べているテーマはあるのだが、まぁ記事にする気はとても起きなくて完全に私的な趣味の領域に入りつつある。でも、そういうことばっかりしているとモヤモヤしてくるので、じゃあ昔ネットに出した認知科学年表を書き直してみようかと思い始めた。

あの認知科学年表も元々は私的な整理でしかないから、新版への改定もお手軽にやっていこうと思っている。ただ、その過程で驚いたのが、当時私が参考にした認知科学の重要文献をアンケートで調べたミレニアムプロジェクトがいつの間にかサイトが消えてしまっていたことだ。お気に入りだった個人によるホームページやブログが消えてしまうことにはさすがに慣れてしまったが、正式な組織による重要な資料が消えてしまったのはちょっとショックだ。一応、二十世紀の認知科学文献ベスト100だけは別の形で残っていたが、アンケートの総合結果が消えてしまったのがかなり痛い。古い認知科学年表はそのまま残すとして、新たな認知科学年表ではリンクをし直す必要が出てきた。

認知科学年表は1990年代以降を書き直す(書き足す)つもりだが、1990年代は参考にしたミレニアムプロジェクトにも含まれていたし、現在の視点から項目を入れ替えることに異存はないのだが、困ったのはやはり二十一世紀に入ってからだ。参考にできるめぼしいサイトもないし、完全に個人的な記憶と判断に頼るしかない。内容が偏ることに対しては、どうせ自分用のメモみたいなものだし構わないのだが、それでも困ったことは多い。採択する文献の選択の基準はなかなか難しい。

例えば、二十一世紀に入ってから認知神経科学進化心理学が流行ったが、この流行りを示す文献を挙げるのは難しい。この辺りははっきり言って重要な研究はたいてい1990年代に既にあったが、二十一世紀に入ってからは文献の多さの割には代表的な文献を挙げるのが難しい。それに関連した研究は言語進化や道徳心理学といった別の流行ったテーマにも含まれているので、無理に挙げる必要もないかもしれない。それにどうせ認知神経科学はそれほど詳しくないのでそれほど気にかける必要もないかもしれない。

逆の方向で困ったのが、代表的な文献は幾つも挙げられるが全部を挙げるとバランスが悪いので選択する必要がある場合だ。その代表は4E認知(身体化)だ。別の方向で困ったのが、同じ学者が重要な文献を幾つも書いていてどれを上げればいいのか迷うことだ。その代表はトマセロだろう。もう一つ困ったのが、重要な文献が出た年とそのテーマが流行った年にズレがあることが多いことだ。その典型はミラーニュロン研究だがこの場合は最初の重要文献は挙げて当然だが、これが道徳心理学や予測符号化(極端には小脳研究まで遡れる)になるともうちょっと迷う。

なんにせよ、個人的な趣味だと割り切って自分のペースでやることにしている。今回、関連の調べものをしていてネット上の日本語での認知科学の知識が相変わらず乏しいことは分かったが、一素人のできる事はたかが知れている。

前回は、まるで自分が認知科学のこと全部分かってます的な語り方をしたけれど、もちろんそんなことは全くなくて、何年も経ってから初めてこんなことが認知科学で話題になっていたんだぁ〜みたいに後から知ることもたまにあるし、逆にこの辺りが重要じゃないかと勝手に当たりをつけておきながら結局当たらなかったことだってある。私の言うことは適当に割り引いて聞いてほしいし、その程度のことでも書けるようにこのカテゴリーは書いている。

そういえば、あるブログで人工知能学者との会話で人工知能ブームの山は過ぎたと話した…みたいな記事を読んだが、私の印象でも人工知能ブームは落ち着きつつあるように思う。とはいえ、 ネットを中心にして知識に基づかない勝手な人工知能論は相変わらず目立つ。日本語で私の読んだ範囲でも、専門家の言うことはどれもなるほどなぁ〜と私でもたいてい納得がいくが、そうでない場合はこいつ何言ってるんだ?と疑問符が出ることがほとんどだ。西垣通は書籍でもネットでも人工知能論者として有名だが、彼の強い人工知能論が間違っていることは以前に指摘した。西垣通は本来の専門はメディア論のはずなので、お願いだから適当なことは言わんでくれ!と願った。学者でも本来の専門でないところでは平気で適当なことを言う率は高い。

ネット上でそこそこ検索順位が高いところに人工知能で使われるアルゴリズムに数学は関係がないと一所懸命に論じているブログを見かけたが、こいつはニューラルネットワークの本もまともに読んだか怪しいが、ましてやベイジアンネットワークやNP問題の本さえ知らないんだろうなぁ…と馬鹿にせざるを得なかった。その他、人工知能の開発は脅威だからやめるべき的とか、人工知能がどのように作動しているか分かっていないとしか思えないのは依然多い。

人工知能論としては他にも、身体がないから駄目だとか東洋思想が必要だとか、もっともらしい評論家的な意見もあるが、こういうのはそれっぽいだけで特に中身がない、第二次ブーム時なら身体がないと論にまだ意義があったが、ロボティクス研究が既に盛んな今は身体さえあればいいみたいなそういう単純な問題じゃない。

東洋思想云々も人工知能の第二次ブーム時は同時に現代思想ブームでもありさらにヒッピー文化の影響もあって東洋思想ものの書籍もよく出ていたので、東洋思想云々の話に今更目新しさはない。それどころか、西洋思想も東洋思想もいろいろあるのだから、そんなに簡単に真っ二つに分離できないし、場合によっては考え方の近いもの(例えば古代の形而上学倫理学)も普通にある。それに、私自身は高校時代に老荘思想韓非子にハマったことがあるし、その後もインド哲学・禅・朱子学陽明学と原典翻訳を手に入れてまで勉強した時期もあって、もちろん自分がよく理解できていると自負することはとてもじゃないが無理だが、その経験の範囲内でも東洋思想を持ってくれば問題解決という単純なことはとても言えない。ただもっともらしいことを言ってる断片的な言葉を引き出すだけなら任意の文献を使ってすることは案外できる。人工知能についての評論家的なもっともらしい言説には全般的に注意したほうがいいです。そういうのは表面的なもっともらしさの点で巷の自己啓発本と大して違いはない。

人工知能が人の知能を超える特異点(シンギュラリティ)が来る可能性を否定まではしないが、それがいつやってくるのかは予想がつかない。それが数年後なのか50年後なのか100年後なのか一万年後なのさっぱり分からないが、そんな予想のつかなさはすべての技術に当てはまることに過ぎない(スマホの実現可能性を予想できた人がどれだけいる?)。少なくとも現時点ではそんなに簡単には特異点は来そうにない!としか言えない。有名な特異点の到来予想も単純な量的計算による予測であって、特に根拠のあるものではない。

私の勝手な印象ではIT系の人は技術の量的な発展を過大評価する傾向があるように思う。それは(物理的限界を無視すれば)ITには当てはまるかもしれないが、それが人工知能に当てはまるかは別の問題だ。確かに、人工知能ブームというのは、過去において発見された当時のコンピュータ性能では実現できなかったアルゴリズム(計算理論)がその後の技術の発展で実現可能になった例がよくあるが、技術の量的発展とは別の要素が必要なことに変わりがない。特に今回の人工知能ブームはビッグデータとの関連が大きいが、これも単純な技術の量的発展だけによって可能になったわけではない(それこそスマホの普及の影響は大きい)。

自我を持った人工知能を恐れるよりも社会の中に埋め込まれる人工知能(的アルゴリズム)の方がよっぽど現実的な問題だという話は以前にもしたが、その話のついては、いい加減に文章が長くなったのでもう書けない。