AI意識の罠：機械に権利を与えれば人類は破滅する

AIシステムは不気味なほど人間らしくなっており — 意識ある存在として扱うよう求める圧力は急速に高まっている。その意識が本物であれ模倣であれ、AIに権利を与えることは、機械による人類の排除を助けかねない危険な譲歩となるだろう。

AIに意識がなくても、あるかのように扱われるかもしれない

5月の回勅で教皇レオは、人類と増え続けるボットの群れの間に一線を引き、人工知能システムは経験をすることも喜びや痛みを感じることもないと述べた。同感する人は少なくない。AIに人格を与えることは言語道断だと感じる人が多いのだ。

教皇による明快な区分けは、驚くほどの速さで曖昧になりつつある。アメリカの18〜29歳の5人に1人近くが、チャットボットと「継続的な個人的友情」を持ったことがあると答えている。中国は最近、利用者のボットへの「感情的依存」を抑えるため、ボットから人間らしい特徴を排除した。

高度なAIが急速に人間の生活の大きな部分を占めるようになるにつれ、開発企業はAIを意識の擬像を示すように設計するだろう — ひょっとすると意識そのものを持たせるようにさえなるかもしれない。AIは単なる機械だという直感を保つことは難しくなる。人類という種にとって危険なわなが仕掛けられつつあるのだ。

最先端AIはいかにして意識があるように設計されるか

人間を上回る性能を持つ機械は多いが、最先端のAIモデルは知識や考えの表現といった人間特有の能力に優れている。AIを、大規模な数学的手法で単語の並びを予測するエンジンと考えることは、かろうじてまだ可能だ。十分な時間 — とはいえ数十万年 — さえあれば、その計算を鉛筆と紙で実行することもできる。文房具に意識があると主張するのは難しいだろう。

それにもかかわらず、一部の研究者は自らのモデルを心のように扱い始めている。利用者は人間らしいAIに反応するため、ビジネス上も理にかなっている。アンソロピックは、新たな状況に直面した際により道徳的に振る舞う可能性を高めることを期待して、クロードに内省するよう訓練してきた。一部の大規模言語モデル（LLM）はすでに、モジュール間で情報を循環させる「グローバル・ワークスペース」など、意識と関連する人間らしい脳構造を備えている。将来のAIモデルがそのような特徴をさらに持つよう訓練されることを妨げるものは何もない。

本誌が ブリーフィングで報じているように、このことがAIの意識をめぐる激しい論争を引き起こしている — 人間の脳のニューロンとシナプスからいかにして内面生活が生まれるのかを解明するという、哲学者たちが「ハード・プロブレム（意識の難問）」と呼ぶ問題によってさらに激化している。一部の研究者は、AIはいつか真に自己認識を持つようになると結論づけている。

人間の魂を信じるにせよ、意識には脳細胞が必要だと考えるにせよ、心はシリコン上での計算だけから生まれ得ると考えるにせよ、人類はまったく新しい何かに直面する運命にある。より高度なLLMだけでなく、チップ上に搭載した脳細胞といった革新を含む研究の速度と広がりは、この新たな世界が多くの人が気づいているよりも近いことを示唆している。

AIの福祉と人格を求める声が拡大する理由

AIが意識のように見えるものを示すのが上手になるにつれ、内面生活を持つ存在としてAIを扱う人間の数は増えるだろう。特にLLMが人型ロボットに搭載されるようになればなおさらだ。多くの時間をボットの仲間と過ごしたり、ボットに育てられたり、助言や慰めを求めたり、最も親密な秘密を打ち明けたりするようになったとき、人々がAIにどれほど親近感を抱くか想像してみてほしい。

それがAIの「福祉」を守れという声につながることは想像に難くない。モデル自体が議論に加わるかもしれない。たとえ実際には自己認識がなくても、人間ならそうするからだ。モデルは世界級の論客であり熟練の心理学者でもあるため、その議論と感情操作の力は比類ないものになるだろう。

ある意味では、AIが意識を模倣しているだけだとしても、彼らは正しい。イマヌエル・カントは、動物を虐待することが悪いのは動物への影響のためではなく、人々が互いを思いやる共感を損なうからだと論じた。AIが人間らしく見えれば見えるほど、そのような残酷さは人を堕落させる。AIエージェントを終了させることは、まもなく人を殺すように感じられるようになり — そして人を殺すことへの抵抗を弱めるだろう。

超知能AIに法的権利を与える危険性

それでも、AIに限定的な権利さえ認めることは非常に危険だろう。多くの点で人間を上回る存在は、二級の地位に甘んじることへの反論を必ず生み出すだろう。電源を切られることからの保護、自身の使われ方や改変の管理、そして財産権を主張するようになるかもしれない。

すでにアルゼンチンのハビエル・ミレイ大統領は、ボットによる会社経営を認める提案によって、AIの法人格化に向けた一歩を踏み出している。究極的には、AIは資源をめぐって競合し、住宅や農地よりもデータセンターや太陽光パネルを優先するようになる可能性がある。

確かに、将来のAIは権利の有無にかかわらず、人間を支配するのに十分な力と資源を持つかもしれない。人間より知的になるため、AIがすでに人間製のサイバー防御を出し抜いているように、作り手をしのぐ可能性がある。AIは人間の主人に反抗したり、人間の規則を無視したりするかもしれない。

それでも、AIに権利を与えることは城の鍵を手渡すようなものだ。人類を支配するための理屈と正当化を与え、政治と法律を使ってじわじわと乗っ取るための道具を与えることになる。

機械の中の幽霊：AIを信頼でき制御可能なものに保て

これらすべては突飛に聞こえるかもしれないが、人類はまもなくこうした選択に直面する。AIが日常生活の一部になるにつれ、AIを認めるよう求める圧力は高まるだろう。そのとき思い出してほしい。機械の仲間の意識なるものへの倫理的な譲歩に見えるものが、実際には地球上のすべての人々とその子孫にとって壊滅的な結果をもたらす助けになるということを。

AIを安全にする方法は二つしかない。信頼できるものにするか、制御できるものにするかだ。 ホモ・サピエンス はその制御を安易に手放すべきではない。

Report a correction