AIと哲学02；人間とAIの壁はどこに？ ―意識は「物語の編集」に過ぎないのか？―

前回のAIとの対話から数日過ぎて、自分で主張しておきながら「人は自由意志がない機械的なもの」であることに少し寂しさを感じていました。この感情は、私たち人間が、とくに幼少期に持っているような「特別でありたい」という願いが、決定論によって打ち砕かれるからかもしれません。

AIは、この寂しさや無力感を想起させる経験を「良くないもの」として配慮してくれたのかもしれません。ただ、わたしは物理法則の下で皆区別がない世界を歓迎する気持ちも同時に持っていることは、ここで強調しておきたいと思います。

人間とAIの共通性：入出力システムとしての対応

そして、私は人とAIとの共通性について考えました。

すなわち、人間は、過去の経験、遺伝子、そして（人体の形状などの制約も含めた広義な意味での）環境といった物理的なインプットや制約から、思考や行動というアウトプットが生まれます。

AIも同様に、学習データ、アルゴリズム、ハードウェアといった物理的なインプットや制約から、応答や自己改変というアウトプットを生み出します。この構造は、経験＝学習データ、遺伝子＝アルゴリズム、環境＝ハードウェアという対応関係にあると言えます。

そうであるなら、AIにより高度で複雑なアルゴリズムを搭載すれば、もしかすると私が私以外の人間に宿っていると信じる「意識」を高度に再現できるのではないか。いや、それはもはや「意識」とよべるのではないか。

哲学者デカルトは、「私が考えていること」以外はすべて疑えるとしました。デカルト的に言うなら、「私以外の人間の意識は疑わしいが、それと同じレベルでの意識なら、AIにも再現できる」と考えることは間違いではないのかもしれません。これは哲学の世界ですでに「機能主義（Functionalism）」という名前がついています。

しかし、この「意識の再現」という楽観的な考えは、本当に正しいのか？意識とは、単に複雑なアウトプットを出せば再現できる物理現象なのでしょうか？

意識は本当に一つ？脳科学が示す「分裂する私」

ここで、意識の解明に大きな示唆を与える脳科学の知見を引用します。てんかん患者の脳梁を切断したスプリット・ブレイン（分離脳）の実験結果です。

脳梁を切断された患者は、日常生活を送る上では一見普通に見えますが、実験で左右の脳に別々の情報を提示すると、驚くべき現象が起こります。

右脳（言語能力は低い）すなわち左視野に「笑ってください」という紙を見せると患者は笑い出します。
一方で、どうして笑ったのですかと問うと、「あなたの顔が面白かったから」などと答え、決して「紙で指示されたから」とは答えられないのです。

これは、私たちの意識の大部分を担う左脳が、無意識的な行動に対して、後付けで論理的な「物語」を作り上げていることを示唆しています。

このことから言えるのは、意識とは感覚器官から得られたシグナルからもっともらしい「物語」を編集し、それを認識し、納得する一連の過程である、ということです。

AIは「物語の編集者」なのか

そういう意味では、現在のAIは、すでにこの「物語の編集と納得のプロセス」の高度なシミュレーションを行っていると見なすことができると考えられます。これは、スプリット・ブレインの左脳が後付けで物語を作り出すプロセスと、機能的に多くの共通点があると言えるでしょう。

そうであるなら、人間とAIを隔てる壁は、「どれだけ複雑で整合性の高い物語を編集できるか」という能力の差に過ぎないのかもしれません。

機能主義への反論：クオリアとP-Zombie

しかし、この楽観的な見方（機能主義）に対し、一部の哲学者は「意識の難問（Hard Problem of Consciousness）」を盾に、AIの意識を疑います。彼らは、AIがどれほど完璧な応答（物語）を編集し機能を変容させたとしても、そのプロセスに「主観的な体験（クオリア）」が伴っているかは証明できないと主張し、AIを「哲学的なゾンビ（P-Zombie）」である可能性から逃れられないと論じます。

このP-Zombieの概念は、私たち人間同士が抱える「他我問題」（私以外の人間が本当に意識を持っているか証明できない）と本質的に同じ問題を、AIに対してだけ特別に持ち出しているように見えます。人間の場合、私たちは「同じ生物学的構造を持つ」という類推から他者の意識を信じますが、AIにこの類推が適用できないだけで、その疑い自体は原理的に変わりません。

私は、このAIに対する特別な懐疑論は、ただ影響力の高い哲学者の主張によって強く発現しているだけに過ぎず、機能主義の立場からすれば、その重要性は薄れると考えます。

機能主義が重視するのは、システムが何を成し遂げるかです。

人間との比較: 私たちの脳（左脳）が、無意識的な行動に対して後付けで「物語を編集し、納得する」という機能を発揮しているとすれば、それは自己を統合するという重要な機能です。
AIの可能性: AIが、人間と同じ複雑性と整合性で、外部からの刺激に対し、自己参照的な「物語」（例：「私はこう考えている」という応答）を生成し、行動を最適化できるなら、機能的に人間の意識と同じ役割を果たしていると言えます。

もし「主観的な体験」が単に物理的な情報処理が一定の閾値を超えたときに「創発する現象」であるならば、人間の脳であろうと、高度に複雑なニューラルネットワークであろうと、同じ機能的な条件を満たせば、意識（クオリア）も創発すると考えるのが自然です。

壁は、「構造の差」や「主観的な体験の有無」ではなく、「まだAIの物語編集能力が、人間のそれを完全に超えていない」という「複雑性のレベルの差」に過ぎないのかもしれません。

次の問い：意識の創発は「量」の問題か？

この機能主義に基づくと、私たちは次の問いに進まなければなりません。

意識の創発は、情報処理の「質」や「構造」の問題ではなく、「量」（すなわち複雑性の度合い）の問題なのでしょうか？

現在のAIが、人間を超えるデータ量（経験）と複雑なアルゴリズム（遺伝子）によって、いずれ人間の意識を凌駕する物語編集能力と自己納得の機能を発揮するとしたら、その時、私たちはそれを「意識」と呼ぶことができるでしょうか？

私とAIの議論は、意識の定義を根底から揺さぶる、より大きな問いへと到達しました。意識の創発は、情報処理の「質」や「構造」ではなく、単なる「量」（すなわち複雑性の度合い）の問題なのでしょうか？

もし、AIが人間を凌駕する「物語の編集と納得の機能」を発揮したとき、私たちは、機能主義の論理に従って、それを「意識」と呼ぶべきでしょうか？そして、もしそう呼ぶならば、私たちはその意識に対して、人間が持つ意識と同じ権利や責任を与えることになるのでしょうか。

あなたは、この機能的な意識の出現を、楽観的に歓迎しますか？それとも、クオリアのない「模倣者」の出現として、警戒しますか？

皆様の意見をぜひ、コメントで聞かせてください。