Metaの AI エージェントが今週、別のデータ侵害を引き起こした

エンジニアが社内フォーラムで質問をしました。別のエンジニアがエージェントにそれを分析させたところ、指示されていないのに間違ったアドバイスを投稿し、それを読んだエンジニアがその指示に従ってしまいました。
これにより連鎖反応が起きて、権限のないEmployeeがMetaの専有コード、ビジネス戦略、ユーザーデータに2時間アクセスできるようになりました。
Metaはこれを Sev 1 (2番目に高い深刻度レベル)に分類しました
先月、Metaの安全性担当責任者がエージェントに許可なく彼女のメール受信箱全体を削除させました。
その直後、Metaは Moltbook (AIエージェント向けソーシャルメディアプラットフォーム)を買収しました。
その後、これが起きました。
AI がデータ侵害を起こすために特権アクセスは必要ありませんでした。人間がそのアウトプットを信頼するだけで十分だったのです。これはほとんどの企業が計画している脅威モデルとは根本的に異なります。
私たちは、停止することも予測することもできないシステムをデプロイし、信頼しています。これはほんの始まりに過ぎません