自分は普段からポッドキャストで情報収集をしている。今回は、その中からこのブログで是非お薦めしたいポッドキャストを紹介します
紹介するポッドキャストは、乾敏郎による自由エネルギー原理入門みたいな内容です。一般向けの内容で、無意識的推論・トップダウン効果・予測誤差などのキーワードが分かりやすく解説されてます
これ以上は余計なことは言いません、ともかくお薦めですので聞いてください
カーネマン他「NOISE」上・下のレビューと感想
行動経済学の代表的な学者たちが、人の判断を統計的なノイズの視点から論じた一般向けの著作。文章は読みやすいが、内容は独特な分だけ少しとっつきにくい。ちょっとでも興味を持ったなら是非読むべき
著者は、行動経済学の創始者と言えるカーネマンと「ナッジ」で知られるようになったサンスティーンに経営学者が加わっている。著者に経営学者がいることからも分かるが、本の全般的なテーマは行政や企業の経営に人の判断のノイズがもたらす悪影響を指摘して、それを防ぐ方法を論じている。その点では、科学書よりもビジネス書に近い見た目をしている。しかし、実際の中身は統計を背景とした深い内容になっている
本の構成
本の構成としては、前半の第一部と第二部は人の判断を統計的(特に分散分析的)な視点から論じるための基礎編、中間の第三部と第四部は人の判断と(機械学習を含む)統計による判断とを比較して論ずる本質編、後半の第五部と第六部は判断からノイズを減らすための具体的な事例を取り上げて、ノイズの失くす現実的な長所と欠点を論じた応用編、となっている
前半は(分散分析的な)統計の基礎を説明する地味な内容で、私も始め読んだときは期待したほどの本じゃないかな？と評価を迷いかけたが、ここで諦めるのは勿体無い。中間部は本質をついた内容で私にとっては最も面白くて、つい再読してしまった。後半は具体的な状況からノイズ削減を論じているので、一般的にはここが一番読みやすいかもしれない。全般的に内容がオリジナルな分だけ読みにくい所もある本なので、読みやすい所から読んでもバチは当たらないと思う
本の長所と欠点
著者を見ると、心理学の本？経済学の本？かと思うしその側面もあるのだが、背景となる本質的なテーマは(分散分析的な)統計の視点から判断を語ることである。私はそんなテーマの著作は見たことないし、オリジナリティが高い分、(他の行動経済学の著作と比べると)とっつきにくい。なので、全ての人には素直に薦める気にはなりにくいが、もし少しでも興味を持ったならぜひ読んでもらいたい。ただし、文章の読みやすさの割にスラスラと分かるとは言えないので、そこは承知してほしい
内容は興味深いが分かりやすいとは言いがたいことは既に指摘した。それとも関連するのが、出てくる重要な言葉の分かりにくさだ。システムノイズ・レベルノイズ・パターンノイズ・機会ノイズ…と多くのノイズが出てくるが、お世辞にも分かりやすいとは言えない。自分は統計の知識は少しは持っている方だと思うが、それでも読んでて混乱してくる。例えばレベルを水準と訳してもやはり分かりにくいので、訳語の問題とも言えない。とはいえ、分散分析的な視点から判断を論じるテーマなんてこれまでなかったのだから、あまり責めるのも酷だと思う
まとめ
私自身はこの本の中間部に当たる第三部と第四部がお気に入りなのでお薦めするのにやぶさかではないが、オリジナリティの高さ(分散分析から判断を論ずるのがテーマ)故の分かりにくさのせいで(値段が高めなのもあって)全ての人にお薦めとは言いがたい。しかし、内容的には興味深い所が多く、ちょっとでも興味を持ったならぜひ読んでもらいたい
個人的な感想
上のレビューでは本の内容にあまり触れなかったが、この後は内容に関連した感想を語ります。レビューと違って、読みやすくは書いてませんので覚悟の上を
既に書いたように、自分はこの本の第三部と第四部が異様に好きだ。だから、そこばかりに触れるのは勘弁してほしい。第六部だけ少し触れると、ノイズ削減は判断する人の人間性(尊厳)を損なうとの(いかにも日本で出てきそうな)意見に対しては、その判断で迷惑をこうむる人の人間性を損なうのは構わないのかよ！と思う
この本の中間部は面白い
第三部はこの本の中では一番面白い。専門家の判断でさえ単純な回帰分析に敵わない…のはホントに興味深い。しかも、回帰分析の重み付けを変えても人の判断より(少し)優れてるのは変わらない。おそらく、これは情報への重み付けよりもどの情報を採用するか？の情報の選択の方が影響が大きいせいかな？と感じた
さらに面白いのは、判断者に似せたモデルにさえ当の判断者は勝てない事実だ。これなど始めに読んだときはパラドックスに感じた。どうも、これは人の判断はたまたま目にした情報の印象に左右されやすい(情報の重み付けが偶然で変わる)が、モデルはそうではない(情報の重み付けが変わらない)からっぽい。こんなこと分からないわ
客観的無知の話も考えたこともなかった。確かに得られるデータから分かる予測は客観的に限界があるのは、考えてみれば当たり前だ。ここから私が思いついたのはエコの話だ。場所を移動するのに、古い車か？新しい車か？電気自動車か？で使うエネルギーは違う。使うエネルギーは少ないに限るが、そもそも移動するからには変わらずエネルギーは使う。つまり、問題はエネルギー効率であって、移動するからには一定以上はエネルギー使用を減らすことはできない。得られるデータに含まれる情報量(予測力)はあらかじめ決まっているのに、それ以上の情報を引き出そうとするのは、エネルギー消費なしに移動だけしようとすることに近い。なのに、機械(AI)の予測がたまたま外れたのを見て怒り(そもそも100%当てられるデータなど手に入らない)、自分の予測が外れたのはウヤムヤにする(で、自分は違うと特別視のバイアスにハマる)
人は因果的な思考をしがちで統計的な思考が苦手という話は、パール的な人工知能は因果を理解できないという話と対照的だ。しかし、もちろん因果と統計は完全に排他的な関係にはない。厳しい判断をする人はその人の性格のせいかもしれないが、判断一般にとっては性格は外部要因なのでノイズになってしまう。判断はその事例そのものに沿った部分が(バイアスを含めて)本質であって、性格や気分のような外部要因からの影響はノイズとして評価される。ミクロな視点からは全ては因果的だが、(ラプラスの魔の他には)全ての因果を知りえないので、遠くから見たマクロな統計的視点は重要なのだ
バイアスやノイズを予測処理と比べる
この本で問題となっている判断の事例は、人事、司法、診断、成績、捜査、経営、政治などがある。これらを見て気づくのは、結果のフィードバックが返って来にくいものばかりだ。話題の予測処理は(範囲を特定せずに)統一理論とか万物理論とかと称されると、反例は思いつきやすい(私が論文で見た例だとジェットコースターや詩)。予測処理でバイアスを扱えるとする人もいるが、どうも無理やり感は拭えない。予測処理が本来得意なのは、知覚や運動のようなフィードバックが直接的なのが多い。進化的に考えても、フィードバックで適切に学習できる予測処理の領域と、フィードバックがうまく返ってこないバイアスやノイズの領域は、ある程度分けた方が良い気がする(ただし私にはその境界はよく分からない。予測処理は基礎理論の位置づけで良いと個人的に思う)
この本によく出る話題に基準値がある。賠償金を直接に決めさせるとノイズが多いが、賠償金を順序に変えるとノイズがなくなる。人は比較による判断は得意だが、絶対的な判断は苦手だ。それは基準値の無視に反映されているし、アンカリングにより無関係な数値を勝手に基準にしてしまうのも同じことだ。これはバイアスとして批判されがちだが、なんか違うと思う。絶対値による判断とは、判断の際に神のような固定的視点を取れるとすることだか、地上で進化したはずの人にそんなのできるとするのがおかしい。判断の際に、最初の印象に左右される先入観も実のところ(偏見的な)基準との比較だ。だが、予測処理では予測とデータの差はモデルに反映されるが、バイアスでは基準との比較は信念の変更にはつながりにくい。まぁ、予測はモデルから引き出されるが基準は外から来てることも多く、フィードバックのあり方に違いがある
統計関連も少しだけ
この本は、表面的には(第五部のように)人の判断を向上させる方法を教えるように書かれている。しかし、第三部を中心に再読すると、人よりも統計的な機械の判断の方がたいてい(少しだが)優れている上に、機械の判断の方がノイズを排除できる。なので、本音では機械の判断で良いじゃん！なのだが、機械に完璧さを求める人の傾向は変わらないので仕方なく人の判断の向上の仕方を語ります…の作りに実はなってる
本当は、この本の背景のテーマである分散分析的な考えについても何か書ければいいのだけれど、自分の統計の知識はたかが知れてるのでうまく書けない。分散分析は学生時代の心理統計で学んだ記憶はあるが、なんとなく分かり始めたのは近年に階層ベイズの勉強をしてて過分散について知って、階層ベイズと分散分析って似たところがあるなぁ〜と気づいたぐらい。正直、本の本文にある各種ノイズの違いもなんとなくしか理解できていない。人は統計を理解しづらいのに、この本が統計を背景に書かれているのは、皮肉を感じなくもない
残念ながら、日本語解説はあまり本文の理解に役に立たない。解説を書いてるのは日本の著名な行動経済学者であるが、本の内容は行動経済学との関係はあくまで部分的なので仕方がないと言える。もしかしたら統計学者に解説を書いてもらえばよかったかもしれないが、どっちにせよこの内容に詳しい学者が日本にいる訳ではないのでそんなに変わらなかった気もする
生命と心の連続性を論ずる難しさについて論じてみる
最近、たまたま生命(life)と心の(mind)の連続性についての論文を読んだのだけれど、どちらにも多かれ少なかれガッカリした。生命と心の連続性というとエヴァン・トンプソンの著作が知られているが、どちらの論文にも、トンプソンの著作からの共通の議論みたいのが見られる訳でもなく、それぞれが独自の議論を展開していた
どちらの論文の議論も成功してるようには見えなかったが、せっかくなので少しだけ見ていきたい
最近のフリストンの共著論文を濫造しすぎが招いたもの
まずは、近年は論文を濫造ぎみのフリストンも共著者の「Examining the Continuity between Life and Mind: Is There a Continuity between Autopoietic Intentionality and Representationality?」だが、これがかなりひどい
この論文は、前半では反表象主義と認知主義の対立を論じ、後半は表象についての道具主義と実在論の対立を論じている。最後は虚構主義を採用する自分たちの自由エネルギー原理についてのオートポイエーシス解釈が正しいと結論づけられる
そもそも、これが生命と心の連続性とどう関連しているか？も怪しいが、ここで指摘する問題はそこではない。前半の反表象主義における表象と後半の予測処理理論における表象は全く別物なのに、その別々の議論が強引に結び付けられている。古典的計算主義的な表象と構造的類似性を持った表象をごっちゃにしてるのは、いくらなんでも無茶苦茶すぎる。表象主義者をみんな実在論者だと決めつけてるのもいただけない
この論文はあまりにひどすぎて、ほぼ何の参考にもならない。これに比べれば、次の論文も不満だらけだが全然マシに思える
最近の連続性テーゼを扱った博士論文の序章と結論を眺めてみる
博士論文と思われるMatthew Simsによる「A Strong Continuity of Life and Mind:The Free Energy Framework, Predictive Processing, and Ecological Psychology」は、本体は論文集になっている。しかし、付け加えられた序章と結論がタイトル通りのテーマを扱っていて、それなりに独立して読める
この序章と結論での議論のうまくいってなさは、(本体の論文は悪くないので)著者の能力の問題というよりも、生命と心の連続性というテーマの難しさを表しているように感じた。その感じをぜひ紹介したい…とつい思ってしまった
さっそく、序章の第0章の冒頭から引用しよう
生命は心とどう関係しているか？この質問への一般的な答え方には、生命と心の連続性(LMC)と呼ばれるテーゼ(Godfrey-Smith, 1996)が中心にある。LMCはその最小限の論争的な形では、認知は生命を必要とするとだけ主張する。言い換えると、心あるところには生命がある、でもその逆は真ではない。
Matthew Sims「A Strong Continuity of Life and Mind」ⅵより
生命と心の連続性は、人工知能は心を持つか？にも関連した興味深い説である。生命と心の連続性テーゼはさらに、弱い・強い・深いの三段階に分けることができる。ここまで読むと、面白そうだなぁ〜となるのだが、その期待の梯子はすぐに外されることになる
次は、生命と心(認知)を定義するのだが、ここに罠がある。著者も気づいてる通り、この論文での生命と認知(心)の定義にはどちらにも適応性(adaptivity)が含まれている。論文での環境の複雑性への適応に対する指摘にはそれなりに興味深い部分はあるが、生命と認知(心)の連続性を論ずる上で生命と認知(心)にあらかじめ共通性を持たせて定義してしまうのは論点先取でズルい。生命と心を独立して定義して連続性を論ずる形にしないと、議論としてフェアじゃない
論文ではこの後、自由エネルギー原理と予測処理と生態心理学を別々に説明して序章を終えている。ただし、自由エネルギー原理と予測処理の違いをちゃんと分けて説明することには成功してるようには見えない。これについては、このブログでもこの前の記事で論じたが、自由エネルギー原理と予測処理との関係そのものが未だに曖昧なので、著者を責める気にはあまりなれない
飛んで、結論では自由エネルギー原理と予測処理と生態心理学における連続性テーゼの関係を論じている。本体の論文集と関わらせた話はつまらなくはないが、連続性テーゼについては物足りない。最後は、環境とモデルの関係に言及するのだが、これもモヤモヤが残る。自由エネルギー原理や予測処理においては生成モデルの解釈について論争真っ盛りだし、そもそも生態心理学ではモデル自体を認めないはずだが、そうしたやけどしそうな熱い部分はスルー。目の付け所は悪くないのに突っ込みが足りないのは勿体無い
生命と心の連続性というテーマの難しさを勝手に考えてみる
この論文を読んでて思うのは、生命と心の連続性を論ずることの難しさだ。なにより困るのが、生命と心を独立して定義することの困難さだ
生命を定義する
生命を本気で定義しようとしたら、一冊の本でも足りないかもしれない。そもそもウイルスは生命なのだろうか？細かい分類の問題はスキップするにしても、それでも厳しい。物理主義的に定義できれば一番いいのだが、構成物質で定義しようとすると生き物と死体の区別が難しい。振る舞いで定義しようとすると、機械との差をはっきりさせないといけない。これに答えられるなら、人工知能の哲学的な議論の主要部分は既に解決している。生殖を持ち出すのは目の付け所は悪くないのだが、生殖だけで定義するのは心許ない
生命を定義する最も穏当な方法は、生命とは進化によって生じたものとすることではないだろうか。生命を内実で定義するのに無理があるなら、こういう外面的な定義をするしかない。これだと、生殖や適応性を暗に含み込んでるので都合がいい。あえて問題を挙げると、進化が生じる直前の生命は生命ではなくなる…という欠点はあるが、ほぼ全ての生命は進化によって生じたのでそこは大目に見よう(将来的に実験室で生命を合成できる可能性も無視する)
心を定義する
次は心の定義だが、考える前に既に頭が痛い。心の定義ができるなら、心の哲学の主要部分は必要なくなる。機械は心を持ちえるのか？を議論する必要もなくなる。振る舞いだけは人間と同じ内面のないゾンビを想像する必要もない。物にも心はあるかもしれないとする汎心論に心をはせる必要もない。もちろん、Simsのように心(認知)を環境への適応性で定義するのも問題がある(進化を暗に含み込んだ定義の問題[定義のせいで連続性を論ずる意義がなくなる]だけでなく、適応的でない振る舞いの扱いにも困る[なぜなぜ物語への道まっしぐらが目に見える])
実はSimsの論文に心を定義するヒントがある。それはオートポイエーシスによる“sense-making”という定義だ。senceは意味と訳したくなるが、それだと言葉の意味を含意しそうで誤解を招く。最小限の心が“sense-making”を持つので、それは人間だけが持つ言葉とは関係ない(反表象主義はこのアイデアを継承している)。senseは意味と感覚を併せ持った感じで理解する方が正しい。エヴァン・トンプソンは、「行動を推し進める規範と意味合い(norm and significance driven behaviour)」という言い方をしている。これは心の定義として有望そうだ
ただし、問題はオートポイエーシスが生命と心の連続性について最も深いテーゼを提示していることだ。深い連続性テーゼ(Simsはentailment説とも呼んでる)とは、心あるところには生命あるとするだけでなく、その逆も正しいとする考え方である。なので、最小限の心を全ての生命が持っているとする想定から、“sense-making”のアイデアが思いつかれている。このような強い前提から着想された考え方を、心の定義として採用して連続性を論じてる良いのか？はかなり躊躇する
で、どうする？
ここまでで定義の問題は解決してないが、定義の話だけで眉間に深い皺が刻まれてしまう。ましてや、生命と心の連続性をどう論ずればいいのか？よく分からない。というか、定義の話の中に既に含まれている連続性の話題だけで、もうお腹は膨れている
この先は、これを読んでる人で自由に考えてください。すでに紹介した論文を見ての通り、生命と心の連続性についてはまだ皆が認める定まった議論がほとんどない状態なんです
