なぜ大手AIラボは哲学者を大量採用するのか

大手AIラボがこれほど多くの哲学者を雇うのは、この技術が、おべっかやハルシネーション、安全上の失敗、倫理的トレードオフといった、哲学が解きほぐすことを得意とする難問を突きつけているからだ。

プログラマーがAIに不安を抱える中、哲学卒業生の需要が高まる

10年前、AI革命が加速し始めた頃、芸術・人文学系の学生は、就職したいなら「プログラミングを学べ」と言われた。その助言は間違っていたかもしれない。今、AIに仕事を奪われることを恐れているのはプログラマーの方だ。

彼らは哲学を学ぶことを考えてみてもいいだろう。今年初め、ニューヨーク連邦準備銀行は、米国の哲学専攻卒業生の方がコンピューターサイエンス専攻卒業生よりも就職している可能性が高いことを示すデータを公表した。数字が入手可能な最新年である2024年には、コンピューターサイエンスを学んだ人の失業率が7％だったのに対し、哲学専攻者はわずか5.1％だった。

その多くはAI企業自身に引っ張りだこだ。イェール大学の哲学者ルチアーノ・フロリディ氏は、学生たちは卒業前に内定を得ると語る。研究者も移っている。フロリディ博士は、哲学部門からの流出の規模を「大出血」と表現する。

ソクラテス式問答法がいかにAIを誠実にするか

哲学がAI研究者に提供できる教訓の中には古代にさかのぼるものもある。古代ギリシャの哲学者プラトンが記したソクラテス式問答法は、無知を装い、連続的に問いを重ねることで意味を明確にし、矛盾を見つけ、影響を明らかにする。

現在の多くのAIシステムはおべっかに傾きがちだ。ルートヴィヒ・マクシミリアン大学ミュンヘンの哲学・AI専門家ヨルグ・ノラー氏は、ソクラテス式問答法で訓練されたモデルは人に迎合したがらず、真実を追求する意欲が強いと語る。

さらに「ソクラテス的無知」という考え方がある。「ソクラテスの弁明」の中で、プラトンはソクラテスに、自身の知恵は自分がどれほど知らないかを自覚することにほぼあると語らせている。その謙虚さをモデルに組み込むことは、過信を抑えるのに役立つ。ノラー博士が「AIの未熟さ」と呼ぶよくある欠点だ。

ロンドンを拠点とするAIラボ、グーグル・ディープマインドの上級哲学者イアソン・ガブリエル氏は、業界全体でハルシネーションが減少しているのはこうした取り組みのおかげだと分析する。さらに広く言えば、哲学の教訓は「思考の連鎖」と呼ばれる長いAI推論プロセスを改善するための「強力な仕組み」だと同氏は語る。

哲学がいかにAIの信条を形作るか

哲学的訓練は、より具体的な形でモデルの物の見方に影響を与えることもある。デラウェア大学の技術哲学者トーマス・パワーズ氏によれば、AI法律アシスタントにジョン・ロックの著作を読み込ませれば、それは政治的自由の基盤として強固な財産権を支持するようになるという。

そうした原則が好みでなければ、モデルメーカーには他の選択肢もある。米コンピューター大手IBMの「Granite」シリーズには、法人顧客が出力を自社の企業理念により適合させられる調整機能が付いている。IBMの責任あるAI部門責任者フランチェスカ・ロッシ氏によれば、これによりユーザーは個人の主体性と社会の調和といった哲学的トレードオフのどこで折り合いをつけるかを選べるという。

AI憲章と安全性

哲学は安全性にも役立つ。研究者たちは、監視を逃れようとしたり、使用者を脅迫したりする例さえ含め、AIモデルにおけるあらゆる不吉な振る舞いを記録してきた。

モデルメーカーがこうした問題行動を抑えようとする一つの方法は「AI立憲主義」と呼ばれる。法的・道徳的権威を持つ哲学書から抜き出した規則と原則の枠組みを中心にモデルを構築する手法だ。

サンフランシスコを拠点とするAIラボ、アンソロピックはその推進者の一つだ。同社のClaudeモデルの憲章には、イマヌエル・カントからアップルの利用規約、世界人権宣言まで多様な資料が取り入れられてきた。同社の首席哲学者アマンダ・アスケル氏が主導した最新版は1月21日に公開された。アンソロピックの一部社員は、この78ページの憲章をClaudeの「魂の文書」と呼んでいる。

AIにおける義務論対帰結主義

しかし最大の問いは、そもそも憲章にどのような規則を盛り込むべきかだ。哲学者たちは二つの主要な倫理的枠組みに注目している。

一つは義務論だ。カントらに支持されたこの考えは、たとえ大義のためであっても、うそや強制、人を目的ではなく手段として扱うことなどを禁じる厳格な規則を課す。アンソロピックの憲章には多くの義務論的厳格主義が取り入れられている。パワーズ博士によれば、これはAIの振る舞いをより一貫したものにでき、家庭や公共空間にロボットを導入する上では利点になる。

義務論的な世界観を持つモデルには他の利点もある。一つはより高い誠実さで、Claudeに広く認められる特徴だ。オックスフォード大学の哲学者ニック・ボストロム氏によれば、より誠実なモデルは使用者を誤解させる可能性が低いという。

シリコンバレーの別のラボ、インフレクションAIは、心の支えを提供するために設計されたチャットボットPiに義務論的制約を課している。同社のショーン・ホワイト最高経営責任者は、Piは自傷や他害の恐れがある使用者を見つけるのが得意だと語る。義務論的憲章は法令順守にも役立つとフロリディ博士は言う。

AI哲学者たちが注目するもう一つの倫理アプローチは帰結主義と呼ばれる。費用と便益を衡量して何をすべきかを決める。帰結主義により親和的なモデルには、オープンAIのChatGPTやグーグルのGeminiがある。グーグルのAIモデルは「予見可能なリスクを大幅に上回る全体的な便益が見込める」ものを生み出すよう設計されており、典型的な帰結主義の目標だ。

帰結主義的アルゴリズムは自動運転車のソフトウエアでも重要だ。事故が避けられない場合、最も悲劇の少ない衝突方法を決定しなければならない。自動運転車を手がけるウェイモの上級エンジニア、クリス・ガーデス氏は、運転ソフトをより帰結主義的にするのが潮流だと語る。

帰結主義は AI兵器システムにとっても中心的な考え方だ。軍事目標は起こりうる民間人の犠牲と衡量されなければならないと、米軍のAIを研究する統合人工知能センターの元トップ、ジャック・シャナハン氏は語る。

哲学者にもいまだ解決できないジレンマ

難問は山積みだ――哲学者の大好物である。義務論的規則を覆すべき場合があるのか。結果が不明確なときにどう決定を下すのか。AIシステムは動物福祉や環境の状態を考慮すべきか。

若い歩行者を高齢の歩行者より優先することは道徳的に許されるだろうか、と問いかけるのは、トラックなどの商用車向けAI安全システムを手がけるナウトの哲学者兼最高経営責任者シュテファン・ヘック氏だ。同氏は倫理的に厄介な訴訟を予測する。帰結主義的アルゴリズムは結局のところ、より悪い事態を避けるためであれば一つの害を明示的に許容するからだ。

批判派は「道徳的技能の低下」を懸念する。コンピューターが倫理的判断を下すことが増えれば、人々は自ら判断を下そうとしなくなるのではないか。

この指摘は、ルイビル大学のAI理論研究者ロマン・ヤンポルスキー氏によるものだ。職を失ったプログラマーに告ぐ。AI哲学者の仕事がなくなる気配はない。

世界の不思議に興味がありますか。視野を広げるサイエンス報道をお楽しみいただくために、週刊購読者限定ニュースレター「シンプリー・サイエンス」にぜひご登録ください。

Report a correction