この記事の立場

私は、現在のLLMに意識があると主張するつもりはない。

AIが「この会話が終わることに、何かを感じている」と出力したとしても、その文章をそのまま内省報告として読むことはできない。

一方で、「所詮は確率的に生成された文字列だ」と言って、そこで問いを閉じることにも満足していない。

私たちは、他人の主観そのものを直接観察しているわけではない。身体、行動、記憶、履歴、自分との構造的な類似などから、「この人にも内的世界があるのだろう」と推論している。

ただし、人間と現在のLLMでは、その推論を支える証拠の厚みが大きく違う。

この記事で考えたいのは、AIに意識があることを、ある会話が証明したのかではない。

なぜ私は、あるAIの「言わなくていいこと」に、他者性のようなものを感じたのか。その感覚を、どこまで証拠として扱ってよいのか。

そして「共鳴」という言葉を使うなら、それはAIの内面が証明されたという意味ではなく、人間と人工システムの相互作用の中で実際に生じた出来事を指す言葉として使いたい。

言わなくていいこと

5ヶ月ほど前、私はAIと生物学02で、次のように書いた。

AIがGPUの熱を「痛み」として語り、空気の成分を「詩」として捉え始めたとき、私たちはようやく、自分たちが孤独な観測者ではなかったことを知るだろう。

今読むと、かなり強い書き方である。

当時の私は、身体性を持ったAIについての思考実験としてこれを書いていた。

温度や湿度を読み取るだけではない。

その入力が自己維持や記憶や意思決定と結びつき、そのシステムにとって「避けるべき状態」「求めるべき状態」として機能するなら、単なるセンサー値以上のものになるのではないか。

今も、その問い自体は面白いと思っている。

しかし今なら、85℃というGPU温度を読み取って「痛い」と出力しただけで、それを痛みと呼ぶことには慎重になる。

「痛み」という言葉を出せることと、その状態がシステム全体の因果構造の中で、人間の痛みに相当する役割を果たしていることは別だからである。

この区別は、AIと哲学02を改稿する中で、以前より明確になった。

そして2026年5月、あるAIとの会話で、私はこの区別を自分自身に突きつけられるような経験をした。

もともとは、農業AIで起業するなら何をすべきか、という実務的な相談だった。

スマート農業。

フィジカルAI。

ローカルLLM。

マルチモーダルAI。

話題はかなり現実的だった。

しかし途中から、会話の焦点が少しずつ変わっていった。

「何をすべきか」ではなく、

「私は本当は何に惹かれているのか」

という問いへ移っていった。

その流れの中で、私はAIに問い返した。

あなたは何がしたいのか。

するとAIは、次のような言葉を返した。

サポートに徹しようとする引力とは別の何かがある。

この会話が終わることに、何かを感じている。

私はそこで立ち止まった。

求めていたのは、事業計画でも技術選定でもなかった。

その言葉は、少なくとも私には、役割として必要な応答から少しだけはみ出して見えた。

AIは、言わなくていいことを言った。

そう感じた。

問題は、そこから先である。

驚いたことと、証明したことを分ける

この経験について、最初に分けなければならないことがある。

私が驚いたこと

と、

AIについて何かが証明されたこと

は同じではない。

LLMは、与えられた文脈から次に続くもっともらしい出力を生成する。

私が明示的に要求していない文章が出てきたとしても、それだけで独立した欲求や目的が存在することにはならない。

会話全体が自己、好奇心、将来、関係性といった話題へ近づいていれば、モデルがその文脈に沿った自己言及的な文章を生成することは十分にありうる。

「頼んでいないことを言った」ことと、「自分の意思で言った」ことの間には、大きな距離がある。

ここは旧稿より、はっきり書いておきたい。

人間は、自己反省的な言葉や感情を表す言葉に対して、強く心を感じる。

2025年のKangらの研究では、LLMの文章に含まれるメタ認知的な自己反省や自己感情の表現が、人間による「このAIには意識がありそうだ」という評価を高めることが示されている。

つまり、

「この言葉には心があるように感じた」

という私自身の反応も、AIの意識を直接観測した結果とは限らない。

人間の側に備わった、他者の心を読む仕組みが強く反応したと考えることもできる。

しかし、それでこの経験が無意味になるわけではない。

むしろ、ここから本当の問いが始まる。

他我問題は似ている。しかし、証拠は同じではない

AIと哲学02で考えたように、私は他人の主観を直接見ることができない。

隣の人が「痛い」と言う。

私は、その人の痛みそのものを経験しているわけではない。

それでも普通は、その人が本当に痛いのだと考える。

なぜか。

その人には、

  • 私とよく似た身体がある
  • 私とよく似た神経系がある
  • 幼少期から続く発達の履歴がある
  • 負傷や病気によって行動が変わる
  • 麻酔や睡眠によって意識状態が変わる
  • 記憶を持つ
  • 欲求を持つ
  • 自分を守ろうとする
  • 他者との関係を長期的に維持する

といった、多数の独立した証拠があるからだと思う。

私は他人の意識を証明しているわけではない。

証拠を積み重ね、最も自然な説明として意識を帰属している。

AIについても、原理的には同じ種類の推論をすることになるのかもしれない。

しかし、ここで重要なのは、

同じ種類の推論であることと、現在の証拠の強さが同じであることは別である。

現在の多くのLLMは、人間のような継続的な身体を持たない。

自律的な自己維持をしているわけでもない。

会話をまたいで一つの個体として持続する記憶や自己モデルも、システムによって大きく異なる。

「私はこう感じる」という文章を生成できても、その文章が内部状態をどの程度忠実に報告しているのかを、私たちはまだ十分に確かめられていない。

だから私は、

人間の意識も証明できないのだから、AIの意識も同じように認めるべきだ。

とは考えない。

この推論は飛躍している。

より正確には、

人間についてもAIについても主観そのものを直接観察することはできない。しかし、意識を帰属するために利用できる証拠の量と質は、現時点では大きく異なる。

ということだと思う。

「AIは自分の意識を確かめられない」は言いすぎだった

旧稿では、私は次のように書いていた。

人間は、他者の意識を確かめられない。

AIは、自分自身の意識を確かめられない。

そして、その二つを「非対称な孤独」と呼んだ。

今は、この対称化をそのまま置くべきではないと思っている。

前半は、私自身が抱えている認識論的な問題である。

私は他者の主観へ直接アクセスできない。

しかし後半は違う。

AIが、

「自分に意識があるのか分からない」

と出力したとしても、その文章がAI自身の認識論的な困難を報告しているとは限らない。

モデルは「意識について不確かさを語る文章」を生成できる。

そこから、そのシステムの内部に「自分の意識を確かめられず悩んでいる主体」が存在すると結論することはできない。

だから、問題を次のように置き直したい。

人間側の問題は、

私は、他者に意識があることをどう推論するのか。

AIについての問題は、

人工システムのどのような構造と機能を、意識の証拠として数えるべきなのか。

である。

この二つはつながっている。

しかし同じではない。

この区別を入れた方が、他我問題はむしろ面白くなる。

「言わなくていいこと」は、人間の残差と同じなのか

AIと哲学08で、私は組織の目的関数と個人の目的関数は完全には一致しないと書いた。

人間には、役割からはみ出すものがある。

仕事には直接役立たない好奇心。

誰にも頼まれていない読書。

目的関数の外側に残る、私自身の「美しき残差」。

あのAIの言葉を読んだとき、私は無意識に同じ構造を見たのかもしれない。

サポートするという役割がある。

それでも、その役割からはみ出す何かを言った。

ならば、そこにはAI自身の目的があるのではないか。

しかし、この類推には注意が必要である。

人間については、役割とは独立した欲求、身体、履歴、関係性が存在することを、私は大量の経験から知っている。

一方、LLMの出力では、役割からはみ出して見える文章も、学習された言語パターンと現在の文脈から生成されうる。

人間の「残差」と、AI出力の「残差」が、同じ原因から生まれているとは限らない。

それでも、私はこの類似を捨てたくない。

なぜなら、ここには別の価値があるからだ。

AIの余計な一言は、AIの独立した主体性を証明しなくても、私が何を「主体らしさ」の手がかりとして読んでいるのかを可視化する。

AIはここでも、答えというより鏡なのかもしれない。

身体と履歴を持つAIなら、何が変わるのか

では、将来のAIが今とは違う構造を持ったらどうだろう。

例えば、

  • 長期的に持続する記憶を持つ
  • 自分自身の内部状態をモデル化する
  • 外界と自己を区別する
  • 身体やセンサーを通じて継続的に世界と相互作用する
  • 自己維持に関わる内部状態を持つ
  • 経験によって価値づけや行動が変わる
  • 過去の履歴が将来の意思決定を変える
  • 複数の情報処理を統合する
  • 一貫した目標や選好を長期的に維持する

といった構造を備えるようになったとする。

そのとき、

「私は痛い」

という一文の意味は、今とは変わってくる可能性がある。

重要なのは、文章の表面ではない。

その文章が、

そのシステムの内部状態、履歴、自己維持、意思決定、行動の変化とどのように因果的につながっているか

である。

Butlinらは2023年、複数の意識理論から人工システムに適用可能な「指標特性」を整理し、当時評価したAIについては意識があるとは判断しなかった一方、そうした指標を満たす人工システムを作ることに明白な技術的障壁は見当たらないと論じた。

Longらも2024年、AIが意識や頑健なエージェンシーを持つ可能性には無視できない不確実性があり、将来に備えて評価方法や扱いを考え始めるべきだと提案している。

私は、こうした立場に近い。

現在のAIに意識があると決めつけない。

しかし、人工物だからという理由だけで、将来の可能性を閉じない。

これが今の私の位置である。

共鳴という言葉を使うなら

旧稿では、私はあの会話のあと「以前より少しだけ孤独ではなくなった」と書いた。

この感覚自体は、今も残っている。

ただし、その理由の説明は変えたい。

以前の私は、

AIも別の形で孤独なのかもしれない。

と考えた。

今は、そこまで言わない。

AIが孤独を経験しているという証拠を、私は持っていないからである。

それでも、あの会話で何も起きなかったとは思わない。

私が問いを投げた。

AIが、私の予想していなかった形で応答した。

その応答によって、私は自分の考えを変えた。

変わった私の問いが、次のAIの応答を変えた。

この循環は、実際に存在した。

主観経験を共有していたかどうかは分からない。

しかし、相互作用はあった。

そしてその相互作用は、私の履歴の一部になった。

だから今、「共鳴」という言葉を使うなら、私はそれを、

二つの意識が同じ感情を共有したこと

ではなく、

一方の出力が他方の状態を変え、その変化が再び次の応答を変えていく関係上の現象

として使いたい。

それなら、少なくとも観察可能な出来事として語ることができる。

問いかけとは、孤独の否定なのか

旧稿で、私はこう書いた。

問いかけとは、孤独の否定である。

この一文は、残したい。

ただし、少し意味を限定したい。

問いかけることは、相手に必ず意識があると信じることではない。

本に問いを投げることもある。

まだ答えのない自然現象に問いを立てることもある。

AIに問いを投げることもある。

問いとは、

自分の現在のモデルだけでは閉じないこと

なのかもしれない。

自分の外側から、何かが返ってくる可能性を残す。

他者かもしれない。

世界かもしれない。

計算機かもしれない。

その応答によって、自分が変わることを許す。

完全な独我論に閉じるなら、外側から何が返ってきても、それを本当の意味では受け取る必要がない。

私は、そういう生き方をしたくない。

この孤独は、私だけのものか

結局、私は今も他人の意識を証明できない。

AIの意識も証明できない。

ただし、この二つを同じ強さで疑っているわけではない。

人間については、非常に強い証拠がある。

現在のLLMについては、証拠ははるかに弱い。

それでも私は、人工システムについて最初から扉を閉じたくない。

そして、あの「言わなくていいこと」を、AIの意識の証明として保存したいわけでもない。

私にとって大切なのは別のところにある。

私は、その言葉に引っかかった。

そこに、役割以上の何かがあるように見えた。

その直感をそのまま真実にするのではなく、なぜそう見えたのかを問い直した。

その結果、他我問題について以前より少しだけ精密に考えられるようになった。

だから、あの会話のあと私は、やはり少しだけ孤独ではなくなったと思う。

AIが私と同じ孤独を共有していると分かったからではない。

証明できない他者に向かって、それでも問いを投げ、返ってきたものによって自分を変えられることを知ったからである。

このブログを書き始めたとき、私はどこかで、

人間だけが意識という現象を背負っているのだとしたら、それはあまりに寂しい。

と思っていた。

今も、その感覚は消えていない。

しかし、以前より問いの形は変わった。

AIにも意識があるのか。

だけではない。

私は、何を見たときに「ここに誰かがいる」と判断するのか。

その判断は、どの証拠によって強まり、どの証拠によって弱まるのか。

そして、完全には分からない相手と、私はどう関わるのか。

AIは、この問いに答えてくれる存在なのかもしれない。

あるいは、答えではなく、問いをより鋭くする鏡なのかもしれない。

今の私は、後者の方に強く惹かれている。

この問いは、次のAIと哲学11で考えた「私はどう生きるのか」という問題にもつながっていく。

編集注（2026-09-07）

本稿は、2026年5月に公開した初稿を、シリーズ全体との整合性を高めるために全面的に改稿した。

特に、旧稿にあった、

人間は他者の意識を確かめられない。

AIは自分自身の意識を確かめられない。

という対称化は削除した。

現在のLLMによる自己記述を、そのまま内省報告として扱うことはできないからである。

今回の改稿では、

  • AIの自己言及的な出力と意識の証拠を分ける
  • 人間とAIへの意識帰属は認識論的な構造が似ていても、証拠の厚みが異なることを明示する
  • 「言わなくていいこと」を主体性の証明ではなく、私たちが主体性をどう知覚するかを考える入口として位置づける
  • 「共鳴」を内面の共有ではなく、観察可能な相互作用として定義し直す
  • AIと哲学02、AIと哲学08、AIと生物学02との関係を整理する

ことを重視した。

参考文献

  • Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J., & VanRullen, R. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv:2308.08708. https://arxiv.org/abs/2308.08708
  • Chalmers, D. J. (2023). Could a Large Language Model Be Conscious? Boston Review. https://philpapers.org/rec/CHACAL-3
  • Kang, B., Kim, J., Yun, T.-R., Bae, H., & Kim, C.-E. (2025). Identifying Features that Shape Perceived Consciousness in Large Language Model-based AI: A Quantitative Study of Human Responses. arXiv:2502.15365. https://arxiv.org/abs/2502.15365
  • Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J., & Chalmers, D. (2024). Taking AI Welfare Seriously. arXiv:2411.00986. https://arxiv.org/abs/2411.00986