パランティアUKの責任者は、戦争におけるAIの標的設定の使い方は軍が決めるべきだと言う

3日前

共有保存

Googleでお気に入りに追加

Marc Cieslak,AI担当記者and

Matt Murphy,BBC Verify

パランティアのルイス・モーズリー氏は、軍がAIシステムの使い方に責任を負うと述べる

テック大手パランティアは、BBCとの独占インタビューで、同社のAIプラットフォームの軍での使用が予期しないリスクにつながり得るという懸念に反論し、技術の使い方は軍の顧客の責任だと強調した。

これは、戦時におけるパランティアのAI搭載防衛プラットフォーム「Maven Smart System（メイヴン・スマート・システム）」の使用、そしてイランへの米国の攻撃での報道された使用について、専門家が懸念を表明していることを受けてのものだ。

アナリストらは、攻撃の計画に役立つこのプラットフォームを軍が使うことで、その出力を「意味のある検証」するための時間がほとんどなくなり、誤った標的が攻撃される可能性があると警告している。

しかし、同社の英国・欧州トップであるルイス・モーズリー氏は、BBCの幅広いインタビューで、MavenのようなAIプラットフォームがイラン戦争の米国での管理に「役立ってきた」一方で、それらの出力がどのように使われるかについての責任は常に「軍の組織」にあるべきだと述べた。

「常に人間が介在しているので、最終的な決定を下すのは常に人間です。これが現在の体制です。」

Maven Smart Systemは2017年にペンタゴンによって立ち上げられ、知能、衛星、ドローン画像など、多数のデータを一つにまとめることで、軍の標的設定の意思決定を迅速化することを目的としている。

このシステムはデータを分析し、その後、標的設定のための推奨を提示できる。また、航空機のような人員や軍事装備の利用可能性に基づいて、使用する戦力の水準を提案することもできる。

だが、戦争におけるこうしたツールの使用については監視が強まっている。2月、ペンタゴンは、同社が自社のAIの自律型兵器や監視での使用を許可することを拒否したとして、Mavenを支えるアンソリピックのAIシステム「Claude」を段階的に廃止していくと発表した。パランティアは代替がそれに取って代われると述べている。

2月にイランとの戦争が始まって以来、米国は報道によれば、Mavenを使って国内各地での攻撃計画を立ててきた。

パランティアのMaven Smart Systemのデモ映像

Mavenが誤った標的――民間人を含む可能性もある――を示唆するリスクに関して、BBCが提起したことを受けて、モーズリー氏は、このプラットフォームは軍人の意思決定プロセスを迅速化するためのガイドとして役立つことだけを意図しており、自動の標的設定システムとして見なされるべきではないと主張した。

「それを支援ツールだと考えることもできます」とモーズリー氏は述べた。「以前は彼らが一つひとつ手作業でやらなければならなかった膨大な量の情報を、統合してまとめ上げられるようにしているんです。」

しかし、BBCが、時間に追われる指揮官がMavenの出力を“お墨付き”として将校に命じてしまうリスクについて問いただした際、モーズリー氏は個別の軍に委ねた。

「それは私たちの軍の顧客にとっての問題です。誰がどの決定を下せるのかを決める政策の枠組みを決めるのは彼らです」と氏は述べた。「それは私たちの役割ではありません。」

2月28日以降、米国はイランに対して11,000回を超える攻撃を行い、その多くは報道によればMavenによって特定された。

中東の米軍トップ、エイミー・ブラッド・クーパー提督は、AIシステムが指揮官たちのために「膨大な量のデータを数秒でふるいにかけるのを助けてくれるので、私たちの指導者は敵が反応するよりも速く、雑音を切り分けてより賢い判断を下せる」と称賛した。

AI企業アンソリピックは「誤用」を止める武器の専門家を求める

OpenAI、反発を受けて米軍との取引を変更

トランプは、AIの使用をめぐる戦いで、政府にアンソリピックの使用をやめるよう命じる

しかし、ミッション計画へのAIの関与は重大なリスクを生むのではないかと心配する声もある。

「速度と規模、それに戦力の投入を優先することで、標的が誤って民間人を含まないようにするための“意味のある検証”の時間がほとんど残らなくなります」と、ロンドンのクイーン・メアリー大学のエルケ・シュヴァルツ教授は述べた。

「もし殺害のリスクがあり、あなたがそうしたことをソフトウェアに任せてしまう形で重要な思考の多くをソフトウェアに取り込んでしまうなら、あなたはただソフトウェアに依存するようになる。結局は底辺への競争です」と同氏は付け加えた。「底辺への競争です。」

ここ数週間、ペンタゴン当局者は、イランのミナブの町にある学校への致命的な攻撃で、MavenのようなAIツールが標的を特定するのに使われたのではないかという疑問に直面している。イラン当局は、この攻撃で戦争の初日として168人が死亡し、そのうち約110人が子どもだったと述べた。

連邦議会では、複数の上級民主党議員が、MavenのようなAIプラットフォームへの監視強化を求めている。下院軍事委員会のメンバーであるサラ・ジェイコブズ議員（Rep Sara Jacobs）は、AIシステムがどのように、いつ使われるかについて、明確に強制されるルールと規制を求めた。

「AIツールは100%信頼できません――微妙な形で失敗することがあり得るのに、運用者はそれらを過度に信頼し続けています」と同氏は先月NBCニュースに語った。

「私たちは、軍のAI使用に対して厳格なガードレールを設ける責任があり、致死的な戦力を使うためのあらゆる決定に人間が介在することを保証しなければなりません。間違うことのコストは、民間人と、そうした任務を遂行する軍人にとって壊滅的になり得るからです。」

だがモーズリー氏は、同社のプラットフォームの速さがペンタゴンでの意思決定を急がせ、危険な状況を生み出している可能性があるという提案に対して反論した。氏は代わりに、指揮官が今、行動に出る速さは、Mavenが可能にした「効率の向上の結果」だと主張した。

「作戦上の秘匿（operational security）」を理由に、BBCから接触された際に、MavenのようなAIシステムが今後どのように使われるのか、また何か問題が起きた場合に誰が責任を負うのかについて、ペンタゴンはコメントを拒否した。

しかし米国では、Mavenをさらに自国のシステムに統合する計画を進めようとしているようだ。

先週、ロイター通信は、ペンタゴンがMavenを「記録上の公式プログラム（an official program of record）」として指定したと報じており、米軍全体にわたって長期的に統合していく技術として位置付けた。

ロイターが入手した書簡で、防衛副長官のスティーブ・フェインバーグ（Steve Feinberg）氏は、このプラットフォームが指揮官に「あらゆる領域において、敵対者を検知し、抑止し、制圧するために必要な最新のツール」を提供すると述べた。

追加報道：Jemimah Herd

人工知能

イラン戦争