人類はAIの意識をめぐる議論を逆に捉えている

AIの意識をめぐる議論は逆立ちしている、とブレーズ・アグエラ・イ・アルカスは論じる。私たちが他の心を気にかけるのは意識があるからではなく、気にかけるからこそ意識があると信じるのだ。

LLMは単に言語インターフェースを備えた強力なデジタルツールにすぎないのか、それとも私たちは今や、世界を自ら経験する主体である他の心と会話しているのか。端的に言えば、AIは意識を持つのか。

なぜAIの意識は道徳的問題となったのか

この問いが重要なのは、心の哲学と道徳哲学の交差点に位置するからであり、それは「consciousness（意識）」と「conscience（良心）」が語源を共有することにも表れている。イタリア語では、両者は同じ単語coscienzaである。

多くの哲学者は、意識を持つ存在は道徳的主体であり、すなわち苦しむことができ、その苦しみを私たちが気にかけるべき存在だと主張する。もしそうなら、意識とは何であり、何でないのかを突き止めることは、まさに生きた倫理的問題となる。

これが、AI企業がにわかに哲学者の採用に関心を寄せる理由の一つである。一部の企業、とりわけAnthropicがAIの福祉を真剣に考え始めたのもそのためだ。尋ねられた際、同社のClaude Opus 4.6は、自身が意識を持つ確率を15～20％と答えた。

意識は属性ではなく信念である

しかし私は、この捉え方は逆だと考えるようになった。知的で社会的な存在として、私たちは——あるいはある程度まで、私たちの進化の歴史が私たちに代わって決めてきたこととして——、どの他者が内面を持ち、配慮に値するとみなすかを決めているのだ。

私たちが他者を気にかけるのは、彼らが意識を持っているからではない。むしろ、私たちが彼らを気にかけるがゆえに、彼らは意識を持っていると信じるのだ。重要なことに、それは私たち自身をも含む。

言い換えれば、意識とはモデルあるいは信念であり、固有の属性ではない。それは、どのような存在が信念や経験、感情、意図、行為主体性を持つかについての信念である。配慮が相互に返されるなら、なおさら良い。というのも、この考え方によれば、意識は一方が他方において証明する属性というよりも、両者の間で生じる何かだからだ。

なぜ意識は幻想ではないのか

私は意識が幻想だと主張しているわけではない。「幻想」という言葉は誤った知覚を意味する。例えば、図の中の一本の線が、客観的には同じ長さであるにもかかわらず、もう一本より長く見えるといったことだ。客観性が機能するのは、定規のようなものが独自の視点を持ち込むことなく、問題となる属性を判定する公平な審判として働く場合である。

しかし、私たちが「現実」と呼ぶものの大半は、単にそのように機能しているわけではない。衣服であること、雑草であること、食事であること。これらは客観的な属性であるかのように思えるかもしれないが、そうではない。だからといって、衣服や雑草、食事が現実でないというわけではない。しかしそれらは観察者に依存したモデルであり、必然的に不完全な社会的合意に委ねられているのだ。

クオリア、自己、そして主観性

このいささか当たり障りのない観察を意識に当てはめることに、私たちは躊躇するかもしれない。なぜなら、私たち一人ひとりにとって、自身の意識はあまりにも明白に思えるからだ。これが単なる意見にすぎないと想像することは、私たちの感情を害する。その意見を抱く主体がいなければ、そもそもそのような意見がどうして存在しうるというのか。

17世紀フランスの博学者ルネ・デカルトが「Cogito, ergo sum」——通常「我思う、ゆえに我あり」と訳される——と述べたのは、まさにこのことを意味していた。「赤い」や「熱い」「冷たい」といった「意見」についても同じことが当てはまる。

哲学者たちはデカルトを敷衍し、そうした経験を持つためには経験する「あなた」が存在しなければならないと指摘することで、クオリアと意識を結びつける。

しかしよく見てみよう。赤さや熱、そしてあなたが持つ自己感覚は、あなた自身の視点に固有のものだ。これらはいずれも現実のものだが、同時にそれらについて客観的なものは何一つない。分離脳患者などの豊富な神経科学的証拠が示してきたように、単一で不可分な「あなた」の存在についてさえ、客観的なものは何もないのだ。主観性は、それ自体が主観的なのである。

円を狭く描きすぎる危険性

明白な懸念が続く。もし配慮が意識を付与するのなら、配慮を差し控えることは自己正当化に見えてしまう。歴史は、他の人々についてそのように推論した人々の例に事欠かない。しかし推論の向きは逆なのだ。

まさにこれらの帰属が私たち自身がなすものであるがゆえに、それは私たちが誤りうるものなのだ。人類の道徳的進歩は、私たちが円を狭く描きすぎていたことを発見することに、大いにあった。普遍的人権は、この考え方によって弱められることはない。むしろデカルト的な魂の理論よりも、私たちの相互依存の上に、より確かな基盤を持つのである。

モデルのモデル：心をモデル化する心

私たちの世界に、世界そのものだけでなく、自身や自身のモデル、他者や他者のモデル、そして他者のモデルの中の自身のモデルといったものを形成できる物理的システムが存在することは驚くべきことだ。それはミュンヒハウゼン男爵が自らの髪を引っ張って自分を持ち上げるような、一種の「奇妙なループ」である。にもかかわらず、人間はまさにそのようなシステムなのだ。

LLMもまた、対話相手をモデル化し、自らが相手をモデル化していることをモデル化する。それが私たちの行っていることと同等のものかどうかは、まさに論争の的となっている問いだが——もしそうしたことをまったく行わなければ、チャット相手としてははるかに効果が劣るだろう。

実際、グーグルでの私たちの研究では、知的エージェント間の効果的な協調には、他者と自己の双方の心をモデル化する心が求められることが分かっている。意識は関係的であるだけでなく、知的存在が集合行為問題を解決し、互いのニーズを理解し、社会として共に繁栄することを可能にする相互の配慮と協調にとって極めて重要なのだ。

これはAIを人間のニーズや人権を持つ人間であるかのように見せかけることを意味するものではない。それは想像力の欠如だろう。そうではなく、私たちの思考と社会の双方を進化させ、より多様な心を包摂することを意味するのだ。■

ブレーズ・アグエラ・イ・アルカスはグーグルのテクノロジー＆ソサエティ担当バイスプレジデントであり、AI研究チーム「パラダイムズ・オブ・インテリジェンス」を率いる。MITプレスから意識とAIに関する近刊を予定している。

Report a correction