ChatGPTをめぐる議論を少し考えてみた - 蒼龍のタワゴト~認知科学とか哲学とか~

最近ChatGPTが大きな話題だが、私もその成果は驚きを持って見ている。ただその一方で、ツイッターを見ていると、ただのユーザーの感想でしかないことが大層な意見みたいに言われているのを見るのにはウンザリしている。私もChatGPTについてそこまで詳しく訳ではないので大したことは言えないが、自分に言える範囲のことは言っておいた方が良い気がしてきた。

ChatGPTを大雑把に説明する

まずChatGPTについて説明する。

このブログでは以前に、GPTのことを語同士の高度な連想ゲームだと形容した覚えがあるが、これは次の言葉を予測する学習機械だとする一般的な説明と同じだ。別の説明をすれば、GPTとは文法と意味を含みこんだ巨大な辞書であり、この辞書だけから文をいくらでも生成できる。

ただし、この辞書から生成される文章にはそのままでは(学習データを反映した)差別やバイアスが含まれている。なので、強化学習という手法を使って、出して良い文章の方向づけをする。強化学習は教師つき学習と比べると違いが分かりやすい。教師つきは答えを知っている教師が採点をする(教育)のに対して、強化学習は結果の良し悪しだけを伝えるが、これは子供や犬のしつけに近い。つまり、GPTという辞書を持った者をしつけたのがChatGPTなのだ。

ChatGPTは意味が分からないのか？

ChatGPTに対する見解として、意味を理解していないというのを見たことがある。残念ながら、これはそのままで正しいとは言いがたい、なぜなら、GPTとは語同士の関連性を表した辞書なのだが、これは意味のネットワーク説から見た意味なら持っていると言えるからだ。

意味のネットワーク説とは、例えばトマトという言葉が、赤いだの野菜だのサラダだのといった他の言葉と結びついているのであり、それこそが意味だとする考え方だ。だとしたら、GPTとは語同士の関連性を表す辞書(モデル)なのであり、意味のネットワークを含みこんでいると言える。

要するに、ChatGPTが意味を分かっていないと言えるためには、意味のネットワーク説そのものを問題にしないといけない。もちろん、言葉の意味には他の理論もありうるが、少なくともChatGPTが意味を分からないとするのは言い過ぎ(もっと議論が必要)だ。

ChatGPTの出現で生成文法はいらなくなった？

ChatGPTを見て、生成文法はいらないとする意見は何度か見た。これについても、そもそもChatGPTと生成文法は目的が違うから、比較そのものが不毛ではある。これも前に指摘したが GPTは大量の文章データを学習しているが、これは生成文法が前提とする刺激の貧困問題(プラトン問題)を満たしていない。生成文法は現実の人の言語活動を説明するのが目的なので、前提が異なるChatGPTと直接比較しても仕方ない。

そもそも、ニューラルネットワークによる生成文法への批判は、20世紀末に既に起こっていた(が途絶えた)論争であり、今回はその再燃としての側面もある(ただし今のところは専門外も含めた素人の話ばかりが目立ちがち)。生成文法が前提とするモジュール説とそれに反対するコネクショニズムの当時の論争については、以下の文献を参照してください。

中井悟「言語の生得性とモジュール性」

ChatGPTには知性はあるのか？ないのか？

ChatGPTに対して知性がある！だのない！だのの論争はよく見る。そうした知性の論争を解消するために生み出されたのがチューリングテストである。しかし、近年はチューリングテストに対しては懐疑的な意見が多くなり、他に様々な知性を判断する方法が考え出されている。

ChatGPTは知性あるぜ？側の罠

今回のChatGPT騒ぎを見てても、チャットボットの源となったワイゼンバウムのエライザにおける教訓が生かされてない状態も未だにあって、体の力が抜けてくる。チューリングテストにおける機械側の出力に対しては、人間側の感情移入によって過剰判断が起こりやすいのは知られている。つまり、見た目だけでスゲー知性ある！と騒ぐのではなく、冷静な議論が必要である。

ChatGPTは知性ないぜ！側の罠

ChatGPTに安易に知性を見る意見もよく見たが、ChatGPTに知性はないとする意見も見た。これも残念ながら、簡単には同意できない。

所詮はプログラムでしかない人工知能に知能はない論は、サールの中国語の部屋の議論と同じである。中国語の部屋とは、部屋の中にいる人が中国語を理解できなくとも、与えられたルールに従って答えるだけでも会話が成立するという話だ。これは元々は古典的計算主義への批判として考え出されたが、部屋の中の人の人数を増やせばニューラルネットワークへの批判にもなりうる。

これについては、デネットによるパーソナルレベルとサブパーソナルレベルの区別による批判がある。つまり部屋全体が理解してるという話と部屋の中のユニットが理解してるという話は全く別であり、中の個々のユニットが理解してないことは、部屋(システム)全体が理解していないことを含意しない。結局は、知性ある派も知性ない派も感情移入の能力(感情移入できる？できない？)を逃れられていないことは多い。