AIは戦争をどう変えているのか：ドローンからキルチェーンまで

AIは整備廠からミサイル攻撃まで、戦争を変えつつある。2021年後半、英海軍はマイクロソフトとアマゾン・ウェブ・サービス（AWS）に対し、カリブ海における仮想の特殊部隊とフリゲートのミサイルシステムを連携させるより良い方法はないかと問いかけた。

IT企業各社はBAEシステムズ、アンドゥリル、その他の防衛関連企業と協力した。防衛調達では考えられない速さであるわずか12週間で、その企業連合は英国サマセットに集まり、「ストームクラウド」と名付けられたシステムの実演を行った。

ストームクラウド：センサーと兵器をつなぐメッシュネットワーク

地上の海兵隊員、空中のドローン、その他多くのセンサーが、先進的な無線機による「メッシュ」ネットワークで接続され、それぞれが他の場所で起きていることをシームレスに把握できるようになった。この構成により、海兵隊は過去の演習で、はるかに大規模な部隊を翻弄することにすでに成功していた。

収集されたデータは、ネットワークの「エッジ」、すなわちバンジーコードでコマンドー車両に固定された小型の頑丈なコンピューター上と、衛星経由で送信された遠隔地のクラウドサーバー上の両方で処理された。指揮統制ソフトウェアが指定区域を監視し、どのドローンをどこに飛ばすかを決定し、地上の物体を識別し、どの目標をどの兵器で攻撃すべきかを提案した。

結果は印象的だった。ストームクラウドは「世界で最も先進的なキルチェーン」であることが明らかになったと、この実験に携わった士官は言う。キルチェーンとは、ドローンのようなセンサーとミサイルのような兵器をデジタルネットワークとソフトウェアで編み合わせ、行き交うデータを理解できるようにした網を指す。同士官によれば、2年前の時点でも、速度と信頼性の面で、従来型の司令部にいる人間の士官より「はるかに先を行っていた」という。

実戦におけるAI：ガザからウクライナまで

AIを活用したツールや兵器は、演習で使われているだけではない。ガザやウクライナなどの地域で拡大する規模で使用されている。各国軍は大きな可能性を見いだす一方、敵に後れを取ることを恐れている。支出は急速に増加している（図表1参照）。しかし法律家や倫理学者は、AIが戦争をより高速で不透明、非人道的なものにするのではないかと懸念している。

AIに単一の定義はない。1980年代のトマホークミサイルの地形照合航法や、2000年代初頭のブリムストーンミサイルの戦車識別能力など、かつてはAIと呼ばれたであろう技術は、今ではありふれたソフトウェアと見なされている。また、AIと称される最先端機能の多くは、ChatGPTのようなサービスを支える「ディープラーニング」や大規模言語モデルを用いたものではない。しかしさまざまな形で、AIは戦争のあらゆる側面に浸透しつつある。

地味なAI：整備、兵站、人事

それは地味な業務から始まる。軍の人員を確保し、食料や燃料を供給するために必要な整備、兵站、人事などの任務だ。ランド研究所による最近の研究では、A-10C攻撃機の整備時期を予測することで、故障や部品の過剰在庫を避け、米空軍が月額2500万ドルを節約できる可能性があることが分かった（ただし、めったに故障しない部品についてはAIの予測精度は劣った）。

兵站も有望な分野の一つだ。例えば米陸軍は、ウクライナの榴弾砲の砲身交換時期を予測するためにアルゴリズムを用いている。AIは人事にも浸透し始めている。陸軍は14万人分の人事ファイルを学習させたモデルを使い、兵士の昇進評価の採点に役立てている。

前線の自律型ドローン

対極にあるのは実戦の最前線だ。ロシアとウクライナの双方は、操縦士とドローンの間の通信が妨害されても、ドローンが自律的に航行して目標に接近できるようにするソフトウェアの開発を急いでいる。双方とも通常、この目的のために小型チップを使用しており、費用はわずか100ドル程度で済む場合もある。

ウクライナにおけるドローン攻撃の映像では、物体の周囲に「バウンディングボックス（検出枠）」が表示されるものが増えており、ドローンが目標を識別してロックオンしていることを示唆している。この技術はまだ未成熟で、標的認識アルゴリズムは、雑然とした環境や遮蔽物といった自動運転車と同様の課題に加え、煙や囮といった戦場特有の問題にも直面している。しかし急速に改善している。

後方のAIと弾薬に組み込まれたAIの間には、革新と実験、技術進歩の広大な領域が横たわる。退役米空軍大将のクリント・ヒノート氏と退役オーストラリア陸軍少将のミック・ライアン氏は、ドローン単体では戦争を変革するのではなく、かく乱しているにすぎないと論じる。しかし「デジタル化された指揮統制システム」（ストームクラウドのようなもの）と「民生・軍事センサーによる新時代のメッシュネットワーク」が組み合わさることで、かつては遠方の司令部に限られていたリアルタイム情報を前線の兵士が見て行動できるようになる「変革の三位一体」が生まれると両氏は言う。

すべてを見る：センサー、音声、コンピュータービジョン

これにはAIが不可欠だ。まずセンサーの網から考えてみよう。ドローン、衛星、ソーシャルメディアなどからのデータが軍のネットワーク内を大量に行き交う様子を想像してほしい。手作業で処理するには多すぎる。2021年までイスラエル軍情報部を率いたタミール・ハイマン将軍は、2つの大きな飛躍を挙げる。8〜9年前の「根本的な飛躍」は、傍受した音声をキーワード検索できるようにした音声テキスト化ソフトウェアだったという。もう一つはコンピュータービジョンだ。

英国防省の「プロジェクト・スポッター」は、衛星画像における「物体の自動検出・識別」にすでにニューラルネットワークを使用しており、各地を「活動の変化について24時間365日自動で監視」できるようにしている。2月時点で、民間企業がモデルの訓練用に2万5000個の物体にラベル付けを行っていた。

英陸軍のトム・コピンジャー・サイムズ中将は昨年、貴族院（上院）で、このようなシステムは「本格配備ではなく、依然として研究開発の最終段階にある」と述べた。ただし、2023年初頭に英国がスーダンから自国民を退避させる際に、例えば民間人の集団を特定するために商用ツールを使った事例を挙げた。

米国はさらに先に進んでいるように見える。2017年にアフガニスタンとイラクでドローンが撮影した大量の写真や動画に対処するため、プロジェクト・メイブンを開始した。メイブンは「戦闘員のニーズに応える大量のコンピュータービジョン検出結果をすでに生み出している」と、同プロジェクトを運営する国家地理空間情報局の局長は5月に指摘した。公表された目標は、メイブンが「人間の検出・分類・追尾性能に並ぶか、それを上回る」ことだ。まだその域には達しておらず、一部が隠れた武器などの難しい事例には対応に苦慮している。

しかし、 エコノミスト誌のウクライナにおける戦争関連火災のトラッカーは機械学習に基づく完全自動のもので、ジャーナリストでは到底及ばない規模で運用されている。すでに9万3000件に上る戦争関連とみられる火災を検出している。

ソナー、機雷、潜水艦探知

AIが処理できるのは通話や画像だけではない。3月、英海軍は、機雷掃討部隊がペルシャ湾で小型の自律型ボート「ハリアー」を用いた1年間の実験を終えたと発表した。えい航式ソナーシステムにより海底の機雷を捜索し、他の艦船や陸上部隊に警告できるという。

また、国防総省高官のマイケル・ホロウィッツ氏は最近、 Breaking Defense 米国、オーストラリア、英国がAUKUSの枠組みの一環として、各国の対潜哨戒機P-8が投下するソノブイが収集した音響データを処理できる「3か国共通アルゴリズム」を開発したと語った。これらの事例のほとんどで、AIはノイズの中から信号を、がらくたの中から物体を識別している。あれはトラックか戦車か。錨か機雷か。トロール船か潜水艦か、といった具合だ。に語った。これらの事例のほとんどで、AIはノイズの中から信号を識別している。

人物の特定と情報の融合

人間の戦闘員を識別することは、おそらくより複雑で、確かにより物議を醸す。4月には、 +972 Magazine イスラエル国防軍（IDF）が「ラベンダー」として知られるAIツールを使って数千人のパレスチナ人を標的として識別し、人間の操作員がシステムの出力をわずかに確認しただけで攻撃を命令していたと報じた。IDFは、ラベンダーは「情報源を相互参照することを目的とした単なるデータベース」だと反論した。

実際には、ラベンダーは専門家が意思決定支援システム（DSS）と呼ぶもの、すなわち電話記録や衛星画像などの異なるデータを融合するツールである可能性が高い。ベトナム戦争で米国がセンサーからの音響や臭気データを処理するためにコンピューターシステムを使ったのは、原始的なDSSとみなせるかもしれない。ロンドンのアラン・チューリング研究所のルパート・バレットテイラー氏が指摘するように、対テロ戦争で米国の情報機関や特殊部隊が使用し、電話記録などのデータを人と場所のつながりを可視化した巨大なクモの巣状の図表に変え、反乱分子やテロリストの特定を目指したソフトウェアも同様だ。

情報から指揮へ：ソフトウェアが攻撃を提案するとき

異なるのは、今日のソフトウェアがより大きな計算能力、より優れたアルゴリズム（ニューラルネットワークの飛躍は2012年に起きたばかりだ）、そしてセンサーの拡散によるより多くのデータの恩恵を受けていることだ。その結果は、単により多い、あるいはより優れた情報だけではない。情報・監視・偵察（ISR）と指揮統制（C2）、すなわちデータを理解することとそれに基づいて行動することの境界が曖昧になっているのだ。

ウクライナのGISアルタ・ソフトウェアを考えてみよう。これはロシア軍の標的に関するデータを収集するもので、通常は砲兵部隊向けだ。ヒノート、ライアン両将軍によれば、すでに「指揮官の優先順位に応じた」潜在的目標のリストを生成できるという。当局者によれば、ここ数か月でウクライナにおけるロシア軍の標的選定が改善した理由の一つは、ロシアのC2システムがドローンからの情報を処理して火砲に伝達する能力を向上させていることだ。赤十字国際委員会（ICRC）向け論文でアーサー・ホランド・ミシェル氏が書いているように、「試算によっては、以前は数時間かかっていた目標の捜索・認識・分析活動が…数分に短縮され得る」という。

米空軍は最近、ランド研究所に対し、衛星への迫りくる脅威に対処する「宇宙戦闘員」にAIツールが選択肢を提供できるかを評価するよう依頼した。結論は、AIは確かに「高品質な」対応策を推奨できるというものだった。同様に、国防総省の基礎研究機関であるDARPAは、冗談めかして「戦略的混沌エンジン（Strategic Chaos Engine for Planning, Tactics, Experimentation and Resiliency：SCEPTER）」と名付けられた計画に取り組んでおり、「機械速度での軍事交戦」における指揮官向けの推奨行動を生成する。本質的には、その場で斬新な作戦計画を生成できるものだ。

「SCEPTERや同様のDARPA計画で用いられている手法の多くは、2〜5年前には存在すらしなかった」と、同局のプログラムマネージャーであるエリック・デイビス氏は言う。同氏は「クープマン作用素理論」の例を挙げる。これは、戦争で遭遇するような複雑で非線形なシステムを、より単純な線形代数で分析するために用いることができる、古くて難解な数学的枠組みだ。その応用における最近の飛躍により、多くのAI問題が扱いやすくなったという。

AIは戦争法規を守れるか

これらすべての結果、戦争を遂行することを職務とする者と、それを抑制しようとする者との間に、知的な溝が広がりつつある。法律専門家や倫理学者は、戦争におけるAIの役割拡大は危険に満ちていると論じる。「現在のシステムは敵対的意図を認識できない」とエセックス大学のノーム・ルベル氏は主張する。「本物の銃を持った背の低い兵士とおもちゃの銃を持った子どもを区別できない…ライフルに突っ伏した負傷兵と射撃態勢の狙撃手を区別できない」。同氏は、そのようなアルゴリズムは「合法的には使用できない」と結論づける。

ニューラルネットワークはあまりにも簡単にだまされると、計算機科学者のスチュアート・ラッセル氏は言う。「街灯のようなまったく無害な物体に模様を印刷し、これが戦車だと兵器に信じ込ませることもできる」。

軍事AIの推進派は、懐疑派は戦争をあまりに楽観視していると反論する。特定の物体を捜す攻撃ドローンは、降伏の意思を認識できないばかりか、尊重することもできないかもしれないと、AI政策に携わる元英国士官は認める。しかし代替手段が激しい砲撃であるなら、「そのような状況ではそもそも降伏はあり得ない」。現在は富士通に勤務する元英空軍士官のキース・ディア氏は、誤り率が低い場合の権限委譲をさらに強く主張する。

「機械の能力と成果を人間のそれと比較する、さまざまな種類の試験を行った」とIDFのハイマン将軍は言う。「ほとんどの試験で、機械の方がはるかに、はるかに、はるかに正確だという結果が出ている…ほとんどの場合、比較にならない」。

一つの誤りは、2000年代の対テロ作戦からの外挿だ。「未来は、顔認識で男を特定し、1万フィート上空から撃つことではない」と主張するのは、 パーマー・ラッキーストームクラウドに参画した企業の一つ、アンドゥリルの創業者だ。「台湾海峡で水陸両用揚陸艇の艦隊を撃破しようとすることだ」。ミサイル発射機の視覚的、電子的、熱的特徴を持つ物体であれば、「間違えようがない…それほど信じられないほど特異だ」と同氏は論じる。戦前のモデリングにより不確実性はさらに低下する。「中国との紛争で目にするものの99％は、実際に起きるずっと前にシミュレーションで何度も実行されているだろう」とラッキー氏は言う。

「問題は、機械が間違いを犯すとき、その間違いは恐ろしいものになることだ」とハイマン将軍は言う。「受け入れれば、悲惨な事態を招くだろう」。同将軍はそのため、人間を「ループから外し」、攻撃を自動化することに反対する。「非常に魅力的だ」と同氏は認める。「手続きを前例のない形で加速できる。しかし国際法に違反しかねない」。ラッキー氏は、AIはガザ式の市街戦という「汚く、混乱した、ひどい」任務には最も関係が薄いだろうと認める。「ターミネーターのようなロボットが特定のムハンマドを探して撃つようになると想像する人がいるが…そうはならない」。

一方、ICRCは、AIシステムは予測不能で不透明、偏見の影響を受け得ると警告しつつ、「利用可能な情報のより迅速で広範な収集と分析を促進し…民間人へのリスクを最小化できる」ことを認めている。多くはツールの使い方次第だ。IDFが報道通りにラベンダーを運用していたとすれば、問題はソフトウェア自体の欠陥ではなく、過度に拡大された交戦規定と緩慢な操作員にあったことを示唆する。

自律型兵器：何をもって人間の管理とするか

長年にわたり、専門家や外交官は国連で自律型兵器システム（AWS）を規制・禁止すべきかをめぐって議論してきた。しかしそれを定義することさえ難しい。ICRCによれば、AWSとは一般的な特徴に基づいて目標を選択するもの、例えば特定の戦車ではなくあらゆる戦車を対象とするものだ。これにはウクライナで使われている多くのドローンが含まれることになる。ICRCは、人を標的とするAWSや予測不能に振る舞うAWSの禁止を支持している。

英国は、「完全」自律型兵器とは「状況に応じた人間の関与」なしに目標を識別・選定・攻撃するものだとして、はるかに高いハードルを主張する。国防総省も同様の見解で、「適切なレベルの人間の判断」を強調する。

それを定義することは、さらに極めて難しい。そして問題は殺傷行為自体だけでなく、それに先立つ過程にも関わる。高度に自律的な攻撃ドローンは人間の管理を欠くように見えるかもしれない。しかしその挙動が十分に理解され、正当な軍事目標が存在し民間人がいないことが分かっている地域で使用されるなら、問題は少ないかもしれない。逆に、単に目標を提案するだけのツールはより無害に見えるかもしれない。しかし提言団体「アーティクル36」が言うように、ツールが提案した個々の目標を「認知的明瞭さや認識なしに」手動で承認する指揮官は、言い換えれば考えなしに赤いボタンを押すことは、道徳的責任を機械に放棄したことになる。

このジレンマは2つの理由で悪化する可能性が高い。一つはAIがAIを生むことだ。一方の軍がAIを使って目標をより迅速に発見・攻撃すれば、他方も対抗するためにAIに頼らざるを得なくなる。コンピューター時代の幕開け以来、接近する脅威の追跡に先進ソフトウェアが不可欠だった防空では、すでにそうなっている。もう一つの理由は、人間の使用者が軍事システムの挙動や限界を把握するのが難しくなることだ。現代の機械学習はまだ「重要」な意思決定支援システムでは広く使われていないとホランド・ミシェル氏は指摘する。しかし今後は使われるようになる。そしてそれらのシステムは、敵の将来の意図や感情状態の予測といった「数学的に定義しにくい任務」を担うようになると同氏は指摘する。

AIと核の意思決定

核の意思決定にAIを使う構想さえある。1950年代から行われてきたように、各国がデータを融合して迫りくる脅威を追跡するだけでなく、政治指導部が先制攻撃で殺害された場合に自動的に報復できるようにするという考えだ。ソ連は冷戦中、「ペリメトル」システムの一環として、この種の「死の手」構想に取り組んだ。同システムは現在も運用中で、AI駆動型ソフトウェアに依存しているとうわさされると、元ソ連空軍士官で軍備管理専門家のレオニード・リャビヒン氏は指摘する。2023年には米上院議員の一団が「自律型人工知能による核発射阻止法」という新たな法案を提出したほどだ。当然ながらこれは秘密の多い分野で、各国がどこまで進めたいのかはほとんど知られていない。しかしこの問題は、昨年行われたジョー・バイデン氏と習近平氏による首脳会談で主要議題になるほど重要だった。

人間は依然として関与―今のところは

「今のところ、通常戦では『誰かがイエスかノーかを言う時間はほぼ常にある』」と英国士官は言う。「キルチェーン全体の自動化が必要とされたり、推進されたりしているわけではない」。ロシアや中国との高強度戦争でもそうなるかは定かではない。

2021年に偽名で出版された著書『ザ・ヒューマン・マシン・チーム』の中で、イスラエル軍の精鋭情報部隊の長であるヨッシ・サリエル准将は、AIを活用した「ヒューマン・マシン・チーム」が戦争において「毎日数千の新たな目標」を生成できると書いた。「新たな目標の発見と、目標承認の意思決定の双方に、人間がボトルネックとなっている」と同氏は論じた。

実際には、これらすべての議論は現実の出来事に取って代わられつつある。ロシアもウクライナも、ドローンが「自律型」兵器システムなのか、単なる「自動化」されたものなのかにはほとんど注意を払っていない。両国の優先事項は、妨害を回避し、敵の装甲をできるだけ多く破壊できる兵器を作ることだ。これまでに1000を超えるウクライナの医療施設を爆撃してきたロシア軍にとっても、存亡をかけて戦うウクライナ軍にとっても、誤検知は大きな懸念ではない。

誰が先行するか：米国、中国、ロシア

この議論には大国間の戦争の影もちらついている。NATO諸国は、この戦争が終われば、AI兵器の製造と戦場での試験に豊富な経験を持つロシア軍と対峙しなければならないかもしれないことを認識している。中国も米国と同じ技術の多くを追及している。中国企業は、民生用か産業用かを問わず、米国で販売されるドローンの大部分を製造している。

中国軍事力に関する国防総省の年次報告書は、2022年に人民解放軍（PLA）が「マルチドメイン精密戦」を議論し始めたと指摘する。これは「ビッグデータと人工知能を用いて」衛星やコンピューターネットワークなどの米軍システムの「主要な脆弱性を迅速に特定」し、攻撃するというものだ。

どちらが優位にあるかが問われている。米当局者はかつて、中国の緩いプライバシー規制と民間部門への統制により、PLAがより多く良質なデータにアクセスし、優れたアルゴリズムや兵器を生み出すのではないかと懸念していた。その懸念は和らいでいる。ジョージタウン大学安全保障・新興技術センター（CSET）による調達データの最近の研究では、米国と中国は「類似の一連のAI応用に同等の関心を注いでいる」ことが分かった（図表2参照）。

さらに米国は、一因である半導体規制のおかげで、最先端モデルで先行している。データ企業エポックAIによれば、2023年に米国は61の注目すべき機械学習モデルを生み出し、欧州は25、中国は15だった。これらは現在の軍事システムのモデルではないが、将来のものに影響を与えるだろう。「中国は…軍事AIにおいて大きな逆風に直面している」とCSETのサム・ブレズニック氏は論じる。PLAが世界級のシステムを生み出す技術人材を持つかは不明であり、中央集権的な意思決定がAIによる意思決定支援を妨げる可能性があると同氏は指摘する。

多くの中国専門家も「信頼できない」AIを懸念している。「PLAは十分な致死的軍事力を保有している」と別のシンクタンク、新米国安全保障センター（CNAS）のジェイコブ・ストークス氏は指摘する、「しかし現時点では、そのいずれもAIによって可能になった意味のあるレベルの自律性を備えていないようだ」。

なぜAIによる変革は依然遠いのか

中国の見かけ上の鈍さは、より広い傾向の一部だ。キングス・カレッジ・ロンドンのケネス・ペイン氏のように、AIは戦争の遂行方法だけでなく、その本質をも変えると考える者もいる。「この融合した機械と人間の知能は、戦争における意思決定の真に新たな時代の到来を告げるだろう」と同氏は予測する。「おそらく数千年前に文字が発見されて以来、最も革命的な変化だ」。しかしそのような主張がもっともらしくなる一方で、変革は多くの面で依然として頑として遠いままにある。

「皮肉なのは、防衛分野の至る所にAIがあるかのように語りながら、実際にはほとんどどこにもないことだ」と、退役英陸軍大将のクリス・デベレル卿は指摘する。「英国防省におけるAIの浸透はほぼゼロだ…イノベーションの見せかけが多い」。国防総省高官は、同省がデータインフラ（データが流れる管）と有人戦闘機と連携する無人航空機の改善で真剣な進展を遂げたと述べる。それでも国防総省のソフトウェアへの支出は予算の1％未満であり、これは防衛テック新興企業の経営者が頻繁に持ち出す統計だ。

「［国防総省］に特有なのは、我々の任務が武力行使を伴い、賭けるものが大きいことだ」と同高官は言う。「我々はAIを迅速かつ安全に採用しなければならない」。一方、英国のストームクラウドは「どんどん良くなっている」と開発に携わる士官は言うが、新技術の認証をめぐる内部政治や官僚的手続きのために計画はゆっくりとしか進んでいない。第2段階への資金はわずか1000万ポンドで、防衛の世界では小遣い程度だ。今年いくつかの演習で使用する計画だ。「もし我々がウクライナだったり、近いうちに戦争になることを本気で心配していたりしたら、1億ポンド以上を投じ、数週間か数か月で配備していただろう」と同士官は言う。

Report a correction