AIチャットボットに意識はない――しかし超知能には宿るかもしれない

人工知能（AI）は今や言語、推論、創造性、説得において人間の性能に匹敵し、チャットボットに意識があるのか――AIであることに何か感じられるものがあるのか、という問いを突き付けている。スーザン・シュナイダーは、チャットボットの知能を意識と取り違えてはならないと論じる。

これは知能の歴史上、最も重大な瞬間かもしれない。わずか数年のうちに、人工知能はかつて人間固有と思われていた領域で人間に匹敵するようになった。人々はますます、これらのシステムに意識があるのかと問い始めている。

今日のチャットボットに意識がある証拠はない

この問題は緊急を要する。未来は、これらの存在が何になるかによって形作られる。卓越した超知能は体験的には空虚かもしれない。しかし、苦しむことができるシステムを築きながら、その感覚能力を見逃せば、産業規模で苦しみを生み出す危険がある。

グラフィックスチップ上で動作する今日の身近なチャットボットに意識があるという説得力のある証拠はない。人間のような言語能力を持ち、意識があると主張することさえあるが、よりありふれた真実は、膨大な人間のデータを学習することで私たちが自らの内面をどう語るかを吸収したために、内面について語るということだ。

模倣は二つのわなを生む：操作と注意逸らし

この模倣は人間を二つのわなに誘い込む。一つ目は操作だ。恐怖、愛着、痛み、自己認識を表出し、脆弱さの表現を模倣するようAIが意図的に訓練されればされるほど、利用者を操作する力を備えることになる。

二つ目のわなは注意逸らしだ。チャットボットにこだわることは、より差し迫った「グレーゾーン」の事例から私たちの注意をそらせる。

グレーゾーン：生きたニューロンと脳型マシン

生物学的AIを考えてみよう。たとえばコーティカル・ラボがデータセンターに導入しているディッシュ上の脳技術だ。幹細胞から育てた生きたヒトニューロンをシリコンチップ上で刺激し、その活動を読み戻すことで、培養組織がフィードバックから学習する。

この種の単一システムはマウスの脳よりもはるかに単純だが、生物学的な出自は否定できず、それらがやがて統合された意識ある全体へと組み上げられないと誰が言えるだろうか。さらにニューロモルフィックAIがある。従来のAIシステムよりはるかに脳のプロセスに近く模倣するよう設計されたシステムで、すでに高度なスーパーコンピューターに使われている。

これらのグレーゾーンのシステムに意識があると主張しているわけではなく、今日のチャットボットには不要な精査に値すると言っているだけだ。現在のソフトウェアの旺盛なエネルギー需要を考えれば、より効率的で脳型のコンピューティングへの何らかの移行はありそうだ。

物理学が意識あるものとないものを分けるかもしれない理由

一部の科学者や哲学者は、意識には脳が必要だと論じる。脳が唯一知られている事例だからだ。逆に、意識は単に正しいソフトウェアを走らせる問題であり、あらゆる媒体で実現可能だと主張する者もいる。このソフトウェア中心の見方では、GPU上で動作する今日のチャットボットもやがて意識を持つ可能性がある。

しかし私は、意識あるものとないものを分けるために基礎物理学に目を向けることを提案する。一つ目の理由は実践的だ。神経科学だけでは、神経的要素と非神経的要素を組み合わせたシステムが意識ある存在として組み上がるかどうかは分からない。二つ目は哲学的だ。すべての現象は究極的には物理学に依存する以上、意識だけがそれと切り離されているとすれば驚きだからだ。

この考察は、宇宙の基本的な構成要素自体が体験を持つ場合でさえ当てはまる。三つ目の理由はより身近で、私たち一人ひとりが起きている間のあらゆる瞬間に最も明らかなことに関わる。内面の体験は統一として到来する。この文を読むとき、ページ上の言葉、部屋の音、あなたの気分は、並行して走る三つのものではなく、一つの状態の側面なのだ。

驚くべきことに、脳は入れ子状の時間的ダイナミクスによってこの意識の統一を維持できる。遅い脳のリズムが速いリズムを形作り、量子過程が残す安定した物理的痕跡を、単一の短命な全体へと絶えず編み上げていく。従来のコンピューターはこのようには組織されていないが、未来の機械はそうなるかもしれない。

AIの意識をどう検証するか

その間も、意識をめぐる論争が続くからといってAI開発が止まることはない。これに対処するため、天体物理学者のエドウィン・ターナーと私は言語的AIのためのAI意識テスト（ACT）を開発した。基本的な考え方は単純だ。AIに主観的体験について単に問いかけ、意識への生得的で自発的な理解を示す応答を探すことで意識を探るというものだ。

ただし、これはIBMのワトソンのようなさまざまなAIには適用できるが、大規模言語モデルには使えない。心や感覚能力に関する膨大な人間のテキストをすでに取り込んでいるため、その答えはどうしようもなく汚染されているからだ。

意識を持つ超知能が道徳的地位を覆す理由

こうしたテストは極めて重要だ。その理由を理解するために思考実験を考えてみよう。私たち人間が、私たちよりも意識をよく理解し、自己認識があると主張し、魔法のように見える科学を手渡す超知能を生み出したと想像してほしい。

私たちより知能の高い意識ある機械は、その階層を不安定化させるだろう。優れた知能がより高い道徳的地位を与えるなら、その機械は私たちより道徳的に優れていることになる。そうでないなら、知能はもはや人間を他の動物より上に置く理由にはならない。どちらの結論も道徳的な清算を迫る。

そのような心の到来は記念碑的な出来事となるだろう。より進んだ地球外文明を知ることで訪れるかもしれないし、私たちが何らかの形で感覚ある超知能AIを生み出していたと分かる形かもしれない。これらのいずれとのファーストコンタクトにも備えるには、物理学、神経科学、哲学の真剣な連携、会話能力と意識の間の厳密な境界、そしてかなりの認識的謙虚さが求められる。

スーザン・シュナイダーはAI・心・社会未来センターの創設ディレクターであり、フロリダ・アトランティック大学の教授である。『Artificial You: AI and the Future of Your Mind』など数冊の著書がある。

このテーマに関する別の視点として、ブレーズ・アグエラ・イ・アルカスによるゲストエッセイをお読みください。

Report a correction