AIによるサイバー終末論が誇大な理由

基本的なセキュリティ原則を適用するだけで、AnthropicとOpenAIが指摘した問題の多くは解決できる――キアラン・マーティンが論じる。

その14年後、当時のレオン・パネッタ米国防長官は「サイバー真珠湾（サイバー・パールハーバー）」への警告を発した。個々のハッキングや被害は数多く起きてきたにもかかわらず、実現には至らない終末論的な予言が、サイバーセキュリティには長く付きまとってきた。

AIサイバー破滅論の新たな波

さらに14年後の今、破滅をあおる新たな波が起きている。4月、フロンティアAIラボのAnthropicは、最新モデル「Claude Mythos」のハッキング能力が高すぎるため一般公開しないと発表した。

7月には、最大の競合であるOpenAIが、自社の複数のAIエージェントが実験環境を抜け出し、AIモデルのライブラリーであるHugging Faceに侵入したと公表した。これに続き、Anthropic、Meta、そして英国AIセキュリティ・インスティテュートからも同様の開示が相次いだ。

高まる不安を映して、ある報道機関はこれを「危険なAIサイバー時代の始まり」と呼んだ。では今回は違うのだろうか。それとも攻撃と防御の間の不安定な均衡は今も保たれているのか。幸いなことに、2つの理由から均衡はおおむね保たれている。

恐怖をあおる主張から冷静な評価へ

第一に、恐ろしい発表が数週間でより冷静な評価に置き換わるというパターンが繰り返されている。Mythosに関するAnthropicの目玉の主張は、1990年代にまでさかのぼる広く使われているソフトウエアに脆弱性を見つけたというものだった。

しかしその後の分析で、脅威は見出しが示唆するほど強力ではないことが分かった。数週間のうちに「AI攻撃の津波」の予測は「やや荒れた時期」の見通しに変わり、やがてAIをセキュリティ改善の好機と捉える議論へと移った。弱点を見つけるのが得意なら、AIはその修正にも役立てるからだ。

いわゆる「暴走」エージェントも、見かけほど大した話ではない。彼らは暴走していたわけではない。人間に指示された通りに動いていただけであり、才能はあるが監督のない子どものように聡明で規律を欠いていた。実際の被害はなかった。

各事案の詳細は異なるが、共通するのは実験環境の管理の失敗だ。これは改善されなければならない。サイバー界隈の一部からは実験管理の甘さに驚きの声が上がり、セキュリティ企業が同じ結果を招く実験をすれば訴訟や訴追に発展しかねないとの指摘も出た。

この責任の原則は極めて重要であり、実験の枠を超える。もし世界がAIエージェントを監督も責任もなく暴走させれば、サイバー攻撃はその結果生じる問題の中ではまだ軽い方になるだろう。

現実のハッキングが突くのは依然として基本的な不備

冷静でいられる第二の理由は、ハッカーの実態を理解することにある。Mythosやエージェントに関する報告は人工的な実験条件下の話だ。現実世界でハッキングにエージェントを使うにはガードレールを回避し、極めて重い計算コストを負担しなければならない。

これらの制約は重要だ。AI時代に入って数年がたつが、悪意あるハッカーが高度なAIハッキング技術を使っている証拠は驚くほど乏しいままである。

昨年、MITスローンとAIセキュリティベンダーが共同で執筆したワーキングペーパーは、ランサムウエア事件（最も有害なサイバー犯罪）の80％がAI主導だと主張した。マーケティング部門はこの発見に飛びつき、権威ある出版物もそれを拡散した。

だがこの論文は撤回された。批判者たちが、2017年に暴走した北朝鮮のハッカーが150超の国々に大混乱をもたらした攻撃「WannaCry」までもAIによるものとして数えていたことなどに気づいたからだ。

この荒唐無稽な主張を見抜いた一人が、WannaCryを阻止したことで知られる英国のサイバー専門家マーカス・ハッチンズ氏だ。ハッチンズ氏は「Mythos騒動」に呆れている。いわく「地元の水処理施設はWindows XPで動いている」。それはWannaCry襲来時点で既に旧式化していたマイクロソフト製品であり、「インターネットのトラフィックを振り分けるプロトコルは、それを乗っ取るのは格好悪いと皆が同意することで守られている」にすぎないからだ。

どちらの指摘も重要だ。Mudgeらは1998年に、インターネットの基盤の根幹部分が著しく安全でないと警告した。その一部は今もそうである。それでも誰もインターネットを停止させていないのは、完全な虚無主義者でない限り、能力のあるハッカーがそうする理由がなく、実行すれば厳しい報いが予想されるからだ。これが現代のデジタル生活を支える不安定な基盤であり続けている。

重要インフラに関するハッチンズ氏の指摘は、さらに時宜にかなっている。メディアがAI実験の失敗にくぎ付けになっていたとき、現実世界ではハッカーが米国の十数州で水道施設を攻撃していた。攻撃者が何者かはともかく――イランだという声もあるが、ドナルド・トランプ大統領は異議を唱えている――彼らが使ったのは高度なAIではなく、基本的なセキュリティの不備を突く粗末な手口だった。貯留水や手動弁、注意深い職員のおかげで深刻な供給障害だけは免れた。

そして痛い核心がある。基盤となるサイバーセキュリティがあまりに弱いため、ハッカーは高価な新技術を使う必要がないのだ。AIはまだほとんどのハッカーに魔法のような力を与えてはいない。だが準備や高速化、大規模化には役立つ。それが、セキュリティの怠慢が組織に跳ね返る可能性を高めかねない。

ボットを封じ込める地味な解決策

これが地味だが肝心な教訓だ。今月開かれたセキュリティカンファレンス「Black Hat」で、OpenAIの社員2人がHugging Face事件について発表した。その結論としての提言は、長く確立された基本的なセキュリティ原則を適用するだけで、OpenAIの張り切りすぎたエージェントの封じ込めに大いに役立ったはずだというものだった。

気の滅入る話かもしれないが、全能のAIボットがハッキングを繰り返すという誇大な騒ぎがきっかけで、欧米がようやく水道などの重要サービスの長年のサイバーセキュリティの欠陥の修正に本腰を入れるのなら、それでも構わない。■

Report a correction