ChatGPTをめぐる議論を少し考えてみた

最近ChatGPTが大きな話題だが、私もその成果は驚きを持って見ている。ただその一方で、ツイッターを見ていると、ただのユーザーの感想でしかないことが大層な意見みたいに言われているのを見るのにはウンザリしている。私もChatGPTについてそこまで詳しく訳ではないので大したことは言えないが、自分に言える範囲のことは言っておいた方が良い気がしてきた。

ChatGPTを大雑把に説明する

まずChatGPTについて説明する。

このブログでは以前に、GPTのことを語同士の高度な連想ゲームだと形容した覚えがあるが、これは次の言葉を予測する学習機械だとする一般的な説明と同じだ。別の説明をすれば、GPTとは文法と意味を含みこんだ巨大な辞書であり、この辞書だけから文をいくらでも生成できる。

ただし、この辞書から生成される文章にはそのままでは(学習データを反映した)差別やバイアスが含まれている。なので、強化学習という手法を使って、出して良い文章の方向づけをする。強化学習は教師つき学習と比べると違いが分かりやすい。教師つきは答えを知っている教師が採点をする(教育)のに対して、強化学習は結果の良し悪しだけを伝えるが、これは子供や犬のしつけに近い。つまり、GPTという辞書を持った者をしつけたのがChatGPTなのだ。

ChatGPTは意味が分からないのか？

ChatGPTに対する見解として、意味を理解していないというのを見たことがある。残念ながら、これはそのままで正しいとは言いがたい、なぜなら、GPTとは語同士の関連性を表した辞書なのだが、これは意味のネットワーク説から見た意味なら持っていると言えるからだ。

意味のネットワーク説とは、例えばトマトという言葉が、赤いだの野菜だのサラダだのといった他の言葉と結びついているのであり、それこそが意味だとする考え方だ。だとしたら、GPTとは語同士の関連性を表す辞書(モデル)なのであり、意味のネットワークを含みこんでいると言える。

要するに、ChatGPTが意味を分かっていないと言えるためには、意味のネットワーク説そのものを問題にしないといけない。もちろん、言葉の意味には他の理論もありうるが、少なくともChatGPTが意味を分からないとするのは言い過ぎ(もっと議論が必要)だ。

ChatGPTの出現で生成文法はいらなくなった？

ChatGPTを見て、生成文法はいらないとする意見は何度か見た。これについても、そもそもChatGPTと生成文法は目的が違うから、比較そのものが不毛ではある。これも前に指摘したが GPTは大量の文章データを学習しているが、これは生成文法が前提とする刺激の貧困問題(プラトン問題)を満たしていない。生成文法は現実の人の言語活動を説明するのが目的なので、前提が異なるChatGPTと直接比較しても仕方ない。

そもそも、ニューラルネットワークによる生成文法への批判は、20世紀末に既に起こっていた(が途絶えた)論争であり、今回はその再燃としての側面もある(ただし今のところは専門外も含めた素人の話ばかりが目立ちがち)。生成文法が前提とするモジュール説とそれに反対するコネクショニズムの当時の論争については、以下の文献を参照してください。

中井悟「言語の生得性とモジュール性 」

ChatGPTには知性はあるのか？ないのか？

ChatGPTに対して知性がある！だのない！だのの論争はよく見る。そうした知性の論争を解消するために生み出されたのがチューリングテストである。しかし、近年はチューリングテストに対しては懐疑的な意見が多くなり、他に様々な知性を判断する方法が考え出されている。

ChatGPTは知性あるぜ？側の罠

今回のChatGPT騒ぎを見てても、チャットボットの源となったワイゼンバウムのエライザにおける教訓が生かされてない状態も未だにあって、体の力が抜けてくる。チューリングテストにおける機械側の出力に対しては、人間側の感情移入によって過剰判断が起こりやすいのは知られている。つまり、見た目だけでスゲー知性ある！と騒ぐのではなく、冷静な議論が必要である。

ChatGPTは知性ないぜ！側の罠

ChatGPTに安易に知性を見る意見もよく見たが、ChatGPTに知性はないとする意見も見た。これも残念ながら、簡単には同意できない。

所詮はプログラムでしかない人工知能に知能はない論は、サールの中国語の部屋の議論と同じである。中国語の部屋とは、部屋の中にいる人が中国語を理解できなくとも、与えられたルールに従って答えるだけでも会話が成立するという話だ。これは元々は古典的計算主義への批判として考え出されたが、部屋の中の人の人数を増やせばニューラルネットワークへの批判にもなりうる。

これについては、デネットによるパーソナルレベルとサブパーソナルレベルの区別による批判がある。つまり部屋全体が理解してるという話と部屋の中のユニットが理解してるという話は全く別であり、中の個々のユニットが理解してないことは、部屋(システム)全体が理解していないことを含意しない。結局は、知性ある派も知性ない派も感情移入の能力(感情移入できる？できない？)を逃れられていないことは多い。

話題のひろゆき論への違和感を綴ってみた

少し前から、著名な社会学者の書いた「ひろゆき論」が話題になっていたのは知っていて、気にはなっていた。それが最近になってネットで公開されたので読んでみた。面白く読みはしたのだが、私には重要なところで違和感を感じて気になったので、それをここにしたためておきたい。

著者の伊藤昌亮はネット右翼研究でよく知られた人で、自分もネットにあがった記事を読んだ事があった。信頼できる社会学者であると思って期待して、今回の「ひろゆき論」を読んだ。結果として、興味深い内容ではあったけれど、重大な点で大きな違和感を感じざるをえなかった。

ひろゆきはプログラミング思考の代表なのか？

言いかえればそれは、「プログラマーとして世界を見る」という態度を指南することだ。
そこでは世界を、いわばデータとアルゴリズムから成り立つものとして見ることが目指される。

「ひろゆき論」プログラミング思考で権威に切り込む…より

このブログの昔からの読者 (いる？)なら分かってもらえると思うが、私は論理と証拠に基づいて思考するタイプだ。そもそも学生時代に認知科学に魅力されたということから分かるように、計算とかアルゴリズムとかの考え方にも慣れている。その私から見ると、ひろゆきのどこが論理的思考力の持ち主なのか？さっぱり分からない。

私が昔からの2ちゃんねる嫌いなことは脇においても、ひろゆきの言ってることなんてただのつじつま合わせにしか聞こえないことも多い¹。中には納得できる話もあるにはあるが、私の中では、近年のマスメディアやテレビ局が関わるネット動画でよく重用されるおもしろキャラなコメンテーターの一人でしょ？という印象しかない²。

それなのに、この「ひろゆき論」では、ひろゆきの最大の特徴がプログラミング思考だとされていて、もう違和感しかない。彼のポイントはそこではない。

システムの弱点を突くハッキング思考

チートとハッキングはどう違う？

以前にラジオを聞いてたときに、ひろゆきはなぜ人気なのか？を説明するのにチートの言葉が出てきたことがあって、ここでも違和感を感じたことがあった。その時にもツイートしたのだが、(ゲームで見かける)チートは自分に都合良くデータを書き換える不正行為であり、犯罪的な行為を指すニュアンスが強い。³むしろ、ここでふさわしいのはハッキングという言葉の方だ。

ハッキングとは、システムに精通していてそれを活用できることだ。一般的にはハッカーというと、セキュリティをかいくぐる犯罪者のイメージが強いが、それは悪いハッカーだ。元々はハッキングそのものは中立的な言葉であり、システムの弱点を指摘して直すのもハッキングの一種である⁴ (とはいえ、ここではあまりいい意味では使う予定はない)。

つまり、ひろゆきの特徴は、単にプログラミング思考というよりも、システム(制度)の弱点を突いて利用するハッキング思考の方がしっくりくるのだ。彼が罰金は犯罪として罰せられない限りは払わない…とするのは(チートというよりも)制度へのハッキングそのものにしか見えない。

つまり、この「ひろゆき論」で「優しいネオリベ」と名付けられているものは、(システムの弱点をついて自分だけ得しようとする)ハッキング思考そのものでしかない。 ⁵

本物のシステム思考とは異なるハッキング思考

元来、プログラミング思考を追い求めていけば、いわゆるシステム思考に行き着くはずであり、そこではシステム論的な複雑さ、つまりさまざまな要素から成るシステム全体の複雑さをどう制御するかという点が眼目になってくるはずだ。[…中略…]しかし彼の思考はそうした発展性を持つものではなく、あくまでも未熟なレベルに留まっている。

「ひろゆき論」おわりに…より

ハッキングの説明でシステムという言葉を使った。しかし、ハッキング思考はシステム思考そのものではない。私は自称システム思考の持ち主…だと勝手に思っているが、システムを部分しか見ないハッキング思考には警戒感を持ってしまう。こんなのをシステム思考と混同してほしくない。

システムの弱点を見つけ出すのが目的のハッキング思考と、システムの全体を理解しようとするシステム思考は、似て非なるものだ。上にした引用部分があるにも関わらず、「ひろゆき論」を読んでいると、(プログラミング思考を称しながら)システム思考とハッキング思考が混じっていることは誤解を与えるだけで、むしろ危険性を感じる。⁶

私自身は、ハッキング思考を否定はしないが、基本的にハッキングはシステムへの寄生なので、多数がそれを享受することには無理がある。少数派でもいいので、システムとは何か？を理解している人がいないとどうしようもな⁷。(システムを利用して儲ける点で)利権を貪る政治家の思考法と大して変わらないハッキング思考ばかりになってしまっては⁸、そのシステム自体が壊れるまで待つしかなくなる(加速主義はそういう思想だが、資本主義はそうは壊れやしない)。 ⁹

結論があって書き始めた記事ではないので、きれいなまとめなどないのだが、ひろゆき的なものを叩くだけで事足れりとするのはやめてほしいということだ。その点では、今回の「ひろゆき論」は(物足りなさはあれど)一歩前進ではある。

---

1. 「ひろゆき論」に『かつて２ちゃんねるがスタートした当初、その利用者の資質についてひろゆきは、「噓は噓であると見抜ける人でないと難しい」と語っていた』とあるが、どう考えてもひろゆき自身がこの条件を満たしていない(全ての嘘を見抜けるなんて神だけでは？自分は神と思い込んでる狂人？)。むしろ、俺は嘘を見抜けるぜ！という驕りを持った人は騙されやすいし、(見抜けるという信念を否定することになるので)薄々気づいても嘘を訂正できない。嘘を訂正できないからつじつま合わせに走ることになるのは必然的。ただし、つじつま合わせはひろゆきだけの特徴ではなく、マスメディアによく出てる人に広く見られる特徴でもある(SNSで強情になった人にもよくある)。自分の嘘を認めたら負け！的な人とは付き合っても時間の無駄なので、距離をとる方がいい↩
2. それに対して、いわゆるリベラル(というより良識派)は、正しいだけのクソ真面目のつまらない奴が多くて、これじゃおもしろキャラにかなう訳ないじゃん…と思う。だいたい、日本ではちゃんとリベラル思想を理解してる人が多いとは思えず、そんな奴らをリベラルと呼ぶのは個人的には嫌だ(昭和からの流れで良識派と呼ぶのがふさわしい)。良識派もネトウヨも、特定の価値観を盲目的に信じて他人に押し付けるところはそっくりでしかない。はっきり言って、(どっちも社会を生きにくくしてる点で)自分はどちらも嫌いだ。↩
3. もしかしたら自分に都合がいいように法律を書き換える権力者の行為もチートかもしれない。こっちは、プラットフォームのような儲ける仕組みを自分で作っちゃえ的なビジネスものの流れに連なる(それできる奴どれだけいると？の突っ込みは脇に置く)。ちなみに、最近は勘違いされそうだが、金持ちの家に生まれるのは本来の意味のチートではない(異世界転生ものの読みすぎ)↩
4. 「ひろゆき論」の本文の中でも、「ライフハック」という形でハックへの言及されてはいるが、その内実はただのTips(お役立ちミニ情報)でしかなく、システムの弱点を突くという重要な特徴が分からなくなっている↩
5. この点で、ひろゆきに最も近いIT企業家はマーク・ザッカーバーグだ。ケンブリッジアナリティカとフェイスブックの関係を思い出すべき。2ちゃんねるとフェイスブックは悪名高さがそっくりだ。ちなみに、日本でハッキング思考が好まれるのは、それがコジェーブのいうスノビズムの新しい意匠(表面的な反発者ぶりっ子)でしかないせいかもしれない。↩
6. 「ひろゆき論」の本文では、プログラミング思考を人文知と対立的に扱っている。システム思考の場合は人文学とは排他的な関係にはない(例えば分析哲学)。ちなみに、私の印象では、日本で「人文知」で騒いでるのは、現代思想寄りの人が多い。言いたくないが、現代思想は人文学の中ではそもそも異端だし、それどころか伝統的な人文学とは敵対的でもある。そんな人たちが人文知を主張してるのは、なんか違う…と思う(お前らが人文学の基盤を壊したんじゃないの？)。日本では、味方のふりしてるけど実は敵では？とか、敵対して見えるけど実は…？、みたいなことが本当に多い。↩
7. 日本の学者や批評家を見ていても、システム思考をできる人がどれだけいるか？心もとない。私がシステム思考を学んだ一人である宮台真司は、昔ならシステム思考の持ち主だったのだが、最近は現代思想的なものに毒されてしまってシステム思考の側面はかなり弱まってしまった(でも一時期はもっと酷かったので、これでもマシにはなってる)。私としては、論理や統計・ゲーム理論や因果推論を学ぶのをお勧めするしかないが、こっちはこっちでテクニカルな話に淫する罠があり、それだけでは足りない。思考法の点では、分析哲学や認知科学には様々なヒントがあるのだが、(良い書籍がなさすぎて)日本語でそれを学ぶのは難しい。 日本はシステム思考を学ぶためのハードルが高すぎるのには困ったものだ↩
8. 日本のコスパやタイパの流行りもハッキング思考と無関係ではない。要するに、そこで求められているコスパはあくまで個人レベルの労力削減であって、組織レベルのコスパではない。組織レベルのコスパを上げられないが故に個人レベルのコスパを上げざるをえないと言う話でしかない。つまり、システムを変える気はなくてシステムのすきを突いて個人のコスパを上げてるだけであり、これはハッキングと考え方がそんなに変わらない。本当は組織のコスパを上げて個人に余裕をもたせる(結果として能力を発揮できる)のが正しいはずだが、それをしようとする気のある人は日本には出てきにくい。個人のコスパだけを上げても生産性が上がる訳ない。例えばインボイス制度も、より多くの消費税が取られることが重要ではなく(なら素直にそう制度を変えればいい)、税金を払うための労力を増やすことで間接的に生産性を下げることになってるだけなのが問題だ(スタートアップを増やす気ゼロだよね)。税制はできるだけ簡素にすべき！(税制に割いた労力分だけ生産力を上げるのに割く労力は減る)とろくに騒がない日本は、もう終わってると思う。経済政策以外の政策が経済に与える影響を考える人が日本にはいなさすぎ(なんで経済中心主義が嫌いな私[景気が良くなくなるだけで社会が良くなる訳ない]がこんなこと指摘せなあかんのや！)。日本にはシステム思考のできる人がいかに少ないか？の表れでしかないよ、ほんとに！↩
9. 資本主義は一定の条件があれば自動的に成立するのであり、人間が自由に設計できるものではない。その点では、資本主義は進化論に似ている。といっても弱肉強食な社会ダーウィニズムとは何の関係もなくて、遺伝子複製と突然変異と自然淘汰が揃えば自動的に進化が起きることでしかない。最低でも安定した貨幣と貨幣への欲求があれば資本主義は勝手に成立しそうだが、対して民主主義は公正な投票だけではうまくいかなそう(例えば票を当てにしたバラマキ政策を禁止できない)なので条件が厳しい。↩

書評 サイモン・バロン=コーエン「ザ・パターン・シーカー」

「ザ・パターン・シーカー：自閉症がいかに人類の発明を促したか」

著名な自閉症の研究者が、共感と対照をなすシステム化の視点から人の心について論じた著作。ただし、内容が著者の専門に近い章は良質だが、心の進化にまで手を広げて大風呂敷を広げた章は無理をしている感が拭えない。この著者ならではの独自の内容はあるので、興味のある人が批判的に読む分にはお勧め

著者のバロン=コーエンは自閉症についての世界的にも有名な研究者であり、特に自閉症は心の理論の障害である(他者の心が推し量れない)…という説で知られている。私自身は20年近く前に、男性に自閉症が多いことから心の男女差を論じた著作を読んで以来の、久しぶりに読んだ彼の著作だ。今回は、その以前の著作でも論じられていた、人の心の二大特徴であるシステム化と共感の対を活かして、より広い視点から人の心の進化にまで踏み込んだ野心的な作品だ。ただし、その野心がうまくいってるのか？は私の印象では微妙なところもある。

著者のバロン=コーエンは自閉症者は物事のパターンに気づきやすいという特徴をシステム化と呼び、自閉症者が苦手とする共感とセットにして、人の心が持つ主要な二つの次元だと考えている。これがこの著作の基盤となるアイデアとなっており、特にシステム化が人類にとって果たす役割が強調されている。そうしたこの著者の独自の考え方を知れる日本語の本としては、貴重で読む価値がある。

科学者によって書かれた一般書にありがちなのだが、この本にも著者の専門に近い内容の章は良く出来てるのに、そこからさらに手を広げた内容の章はいまいち…という評価が当てはまってしまう。特にシステム化と共感の対を元にした大規模質問紙調査やゲノム分析に基づいて脳の5つのタイプを導く第三章や、両親の職業と自閉症児との関連を調べた成果に基づく第八章は、著者自身の専門のテーマについての具体的な研究に言及されていて読み甲斐がある。

対して、人の進化や動物との比較を論じた第五〜七章は、必ずしも悪い内容ではないが(専門外にも手を伸ばしてみた)無理してる感は漂う。例えば、人のシステム化の特徴を強調するために、人以外の動物の心は所詮は連合学習だと言い張っているが、これについては専門家の間でも同意がある訳ではない。また、第七章で触れられているワーキングメモリについての記述には明らかに誤訳とは思えない勘違いがある(p.203の例として出てるリスの記述は長期記憶との混同にしか見えない)。大風呂敷を広げたこれらの章は全般的に議論が雑で、自分に都合よく解釈してるように私には見える。この著作の中でもよく触れられているハラリの「サピエンス全史」の影響でこれらの章は書かれたのかもしれないが、バロン=コーエンの性には合ってない気がする。

翻訳は読みやすく、学者が関わっているので訳は信頼できる(ただしp.200のメタ表現だけはメタ表象やメタ表示の方が一般的な訳語だと思う)。全般的に評価すると、著者の専門である自閉症に関わる研究に基づく章は独自の内容があってお勧めできるが、無理に大風呂敷を広げた章には注意が必要だ。その点で、こうしたテーマに興味のある人が批判的に読む分には薦められるが、誰にでも薦められるか？と言われると答えに困る。

とはいえ、自閉症を入り口にしてシステム化に人が発明を生み出す能力を見出して、自閉症を誰もが持つ人の一般的な特性の一つの現れとする神経多様性(ニューロダイバーシティ)へと至る日本語で読める手軽な本が他にあるとも思えないので、少しでも興味があるなら読んでそこまで損はしないと思います。

ザ・パターン・シーカー：自閉症がいかに人類の発明を促したか

---

自閉症の特徴は本当にシステム化なのか？

書評の本文ではあえて触れなかったが、この著作の基盤の部分には、個人的には大きな問題を感じなくもない。つまり、自閉症の特徴をシステム化とするのは、本当に正しいのだろうか？

バロン=コーエンのするシステム化の説明は基本的にif-and-then(もし…ならば〜)ルールの条件論理によるものだ。ただ、他方で自閉症についての本文の記述や巻末にあるシステム化を測る質問紙を見ると、知覚によってパターンを見出す能力による説明になっている。この物事のパターンを見つける能力の部分が、本のタイトルのパターン・シーカー(パターンを探る者)に込められている。つまり自閉症児が適当なスイッチをいじって何が起こるのか？試したがるようなことを指して、if-and-thenパターンを探求するシステム化の能力だとしている。

しかし、ここで人工知能(認知科学)の知識を持ってる側からすると違和感のあるところが出てくる。if-and-thenルールと知覚で起きるパターン検出とをシステム化として一つにまとめてしまって良いのだろうか？要するに、if-and-then規則の条件論理を扱うのは古典的な計算主義(または古典的認知科学)なのに対して、パターンを扱うのが得意なのは今をときめくニューラルネットワークによるコネクショニズムであるが、これらは未だに対立したものとして扱われることも多く、融合が夢見られてはいるが成功してるとは言いがたい。この2つの異なるように思える能力(条件論理とパターン認知)をシステム化として一つにまとめてしまってよいのか？は私には疑問に感じる。

正直、質問紙を用いるアンケート調査がそもそも何を測っているのか？について、私自身は懐疑心を持って見ることが多い。最近は再現性問題によって、心理学実験での検査(試行)が本当には何を測っているのか？さえ怪しまれて始めてるというのに、ましてや質問紙の文への反応が何を測っているのか？はさらによく分からない。つまり、第三章で紹介されている、システム化と共感を測る大規模質問紙調査はそれ自体は貴重な研究ではあるが、実際のところ能力としてのシステム化をどれだけ測れてるか？よく分からない(自認を測ってるとするのが穏当)。ゲノム検査までした研究があることはすごいことだとは思うが、質問紙調査を中心とした研究への参照が多い第三章は私には(興味深い内容ではあるが)評価が難しいと感じた。つまり、第三章の内容からシステム化というひとまとまりの能力を擁護できるのか？は私自身は疑問に感じる。

この著作では、システム化はルールベースとパターンベースが混じった形で定義されている。しかし、実際の自閉症の描写を読むとパターンベースの描写(例えば海面のパターンを見る)が明らかに多い。システム化は仮説検証を行なう科学者の能力のように定義されているが、実際に紹介される自閉症の例は現実に働きかけて確かめるタイプの工学者的な人が多い。発達心理学では子供を小さな科学者として理解する説があるが、自閉症児はむしろ小さな工学者のように私には思える。著作本人もうすうす気づいているが、自閉症とシステム化との関係は間接的な証拠しかない。システム化の概念は人類一般の理論(発明を促すシステム化が文明を生み出した)を組み立てるために作られた傾向が強く、自閉症との関係は少しばかり薄いと感じる。

神経多様性(ニューロダイバーシティ)を考える

神経多様性とは、異なる環境が呈する多様な課題を人間のマインドが乗り越えていくことを確実にするための自然の戦略であると考える人もいる。 […略…]「神経多様性は、生命の多様性が生命にとって非常に重要なように、どの点から見ても人類にとって、非常に重要かもしれない。どのような脳回路が、どのような瞬間に最適となるかは、誰にもわからないのだ」』(「ザ・パターン・シーカー」p.224)

とはいえ、神経多様性(ニューロダイバーシティ)を単なる道徳からではなく、科学的な視点から擁護してる点ではこの本は現時点で価値がある(少なくとも日本語で読めるそういう本はまだ少ない)。ただし、そのためには自閉症とシステム化との関係はもっと精緻化される必要がある。

その上、特に第八章はSTEM職への偏見を招く側面もあり、不注意な読者にはむしろ読まれたくないと思ってしまう(最近だと集団遺伝学から人種分離が導びかれる説を安易に信じてる人がいるが、どう考えても無理がある)。著者は有名な故人を自閉症かどうか診断することを批判している(p.132)が、私も(昔は流行った)そういうアームチェア精神病理学に意義があるとは思えない(むしろ偏見を促進する可能性が高い)。

著者は「神経多様性の考え方とは、発達において多様な道筋があるということである」(p.222)と言っている。この発達の多様性はロシアの心理学者ヴィゴツキーが「思考と言語」で言おうとしてることと同じだと私は思っている(ヴィゴツキーの場合はピアジェの単線発達説への対抗になっている)。誰かが精神病理であるかどうか？は環境との関係で決まるのであって、個人の特性だけで決まる訳ではない。

最近の日本では、企業内の働かないおじさんが話題になることがよくあるが、これを働かないおじさん個人だけの責任と考えるのは間違いであり、これはむしろ彼を生み出した組織の問題でもある(そのままならまた同じ事態は繰り返される)。問題のある他人に精神病理的なもっともな診断名をつけて満足してるのは、非倫理的でしかない。ヴィゴツキーの最近接領域理論は発達を良い方向に促すように(人や技術を含む)環境を整えることと理解できる。これもバロン=コーエンと同じ見解であると言える。