ここ最近、私はクオリアや強い人工知能についての未だによくある誤解を扱ったブログ記事を書く予定だった。しかし、次にリンクした哲学者チャーマーズが参加したトークセッションについての記事を読んで書く気を失ってしまった。
AIはいずれ“哲学的ゾンビ”ではなくなる──WIRED Futuresで語られた2024〜50年のAIと人間
なぜ書く気を失ったか？というと、チャーマーズが本来の哲学的な議論とは相容れない日和った発言をしていたことにガッカリしたからだ。記事の元になった動画は見てないので、もしかしたら勘違いがあるかもしれないが、記事を読んだ感じではそれほど大きな勘違いではないと思った。
チャーマーズは意識のハードプロブレムや哲学的ゾンビの提唱で有名になった哲学者だ。この記事でのこれらについての説明は私から見ても間違ってはいないと思う。該当箇所を記事から引用してみる(以下の引用は全てリンクした記事からした。
そもそも、意識については多くの深い謎があり、人間になぜ意識が存在し、それなしには存在できないのかを理解できてすらいない（意識のハードプロブレム）。見たり、感じたり、考えたり、理解したりする一人称の主観的経験が仮にAIにあったとして、それを判断する術を人間はもち合わせていない。
この意識のハードプロブレムは、次の引用にある哲学的ゾンビと結びついて提唱された。
“哲学的ゾンビ”とはチャーマーズが提唱した哲学用語で、外見は人間と全く変わらなくても、意識のクオリアをもたない存在についての思考実験でもある。これを彼の言葉でさらに言い換えるならば、「意識の核」に相当するようなシステムの中心領域がAIにないということだ。
実はこの引用部分に既に問題が含まれている。前半の哲学的ゾンビについての説明は正しいが、そこからAIに意識の核がないことを導くのは無理がある。
哲学的ゾンビの議論とは、見た目の振る舞いが全く同じ人であっても、それがクオリア(意識の核)を持っているか？は分からないという話である。見た目が人であってもクオリアがあるか？分からないのだから、AIであってもそれがクオリアを持ってるか？は見た目の振る舞いからは分からないはずだ(AIは実は既に意識を持っているのかもしれない)1。
この引用部分だけだと、この記事を書いた著者の勘違いの可能性が拭えないが、次のチャーマーズ本人の発言をみると、それは単なる勘違いではないようだ、
意識的なAIとしたのは、犬や鳥のように、人間に相当する意識はもたないが、意識そのものは存在するAIが少なくとも誕生するであろうという意図です。
人であれAIであれ犬であれ、哲学的ゾンビについての議論は当てはまるので、どうすればAIに意識があると判定できるのか？よく分からない。
ただし、この引用の「意識的」は前の節で触れられている「グローバルワークスペース」と結びついてるのかもしれない。だとしても、やはり問題がある。
哲学者ネット・ブロックはクオリアという誤解を与える言葉の代わりに、似た事態を指す現象的意識という言葉を使っている。現象的意識という言葉はアクセス意識という言葉とセットで用いられる。つまり、情報処理で扱える意識の領域をアクセス意識と呼び、そうでないところを現象的意識と呼んでいる。それは振る舞いを導くシステムで情報処理が起こってるので、その点ではクオリアと現象的意識は(意味合いに多少の違いはあっても)事態としては同じようなことを指している。
「グローバルワークスペース」理論は、典型的にアクセス意識を扱う理論である。つまり、グローバルワークスペースを持っていながら哲学的ゾンビではあり得るのであり、意識的なAIがそうでない保証はどこにもない。
哲学的ゾンビの論証と意識的AIへの期待の間には議論の飛躍がある。この中間領域についての議論が必要なのに、チャーマーズはそれをスキップして、観客が望む見解をいきなり開示してしまっている。これを日和ってると言わずして、なんと言おうか？2
本当は、この中間領域こそが重要だ！というブログ記事を書こうとしていたのだが、この記事を書くだけで面倒になってしまった。どうせこれからも、(主に科学者や工学者によって)クオリアや強い人工知能という言葉は本来の哲学的意味とは違う意味で使われ続けるのだろうが、私はその誤解の解消はもう諦めつつある。
- チャーマーズの元の議論では可能世界意味論を用いて議論している。可能世界とは現実世界とは異なるあり得る世界のことだ。どんな振る舞いをしている可能世界に行っても、それがクオリアを持ってるか？分からないという議論だ。可能世界意味論では、三角性と三辺性の区別がつかないという批判がある。つまり全ての可能世界を見ても、三角性と三辺性はどちらも全く同じ三角形の集まりなので、これらを区別できないという批判だ。クオリアの有無も同じで、(様々な振る舞いをする)全ての可能世界を参照してもクオリアの有無によって振る舞いの集まりは全く同じである(逆に言えば、クオリアはそう定義される)。↩
- この中間領域を埋めるためのよくやられる(意識的AIを否定するタイプの)論法は生物学や身体を持ち出すことである。それはチャーマーズ自身も記事の中で「意識をもつためには人間の生物学的な構造が必要だと考える主張もありますが、わたしは、この考え方は誤りだと思っています」と批判している。ただし、ここで言われている人間から機械への段階的置き換え論は(確かデネットも言っていた)今や古典的な論法だが、そもそも全てが置き換え可能かどうか？は科学的にはまだ分からないので、生物学主義者を説得するには弱いと感じる(かと言って、生物学主義が十分に説得的な訳でもない)。↩
