「AI ハッカー」来襲、Agentic AI はどのように新しい守護者になるのか？

作者：ポンプの極客

01 AIの台頭:テクノロジーの両刃の剣の下での安全保障戦

AI技術の急速な発展に伴い、ネットワークセキュリティが直面する脅威はますます複雑化しており、攻撃手段はより効率的で隠密になっているだけでなく、新しい「AIハッカー」の形態を生み出しているため、さまざまな新型ネットワークセキュリティ危機を引き起こしています。

まず、生成AIはネット詐欺の「精度」を再構築しています。

簡単に言えば、従来のフィッシング攻撃をスマート化することです。例えば、より正確なシナリオにおいて、攻撃者は公開されているソーシャルデータを利用してAIモデルを訓練し、特定のユーザーの文体や言語習慣を模倣した個別のフィッシングメールを一括生成し、「カスタマイズ」された詐欺を実施し、従来のスパムフィルターを回避し、攻撃の成功率を大幅に向上させます。

次に、一般に最も知られているディープフェイク（Deepfake）とアイデンティティの盗用についてです。AI技術が成熟する前、従来の「顔の変化詐欺攻撃」、すなわちBEC詐欺（Business Email Compromise）は、攻撃者がメールの送信者をあなたの上司、同僚、またはビジネスパートナーに偽装することで、ビジネス情報やお金、またはその他の重要な資料を騙し取ることを具体的に指します。

今、「変顔」が本当に起こった。AI生成の顔交換、声変換技術は公人や親友の身份を偽造し、詐欺、世論操作、さらには政治的干渉に使用される。ちょうど二ヶ月前、上海のある企業の財務ディレクターは「会長」からのビデオ会議の招待を受けた。相手はAIによる顔交換と声変換を使って、緊急に「海外協力保証金」を支払う必要があると主張した。そのディレクターは指示に従い、380万元を指定口座へ振り込んだが、後にこれは海外詐欺団が深層偽造技術を使用して行ったものであることを見抜いた。

第三のポイントは、自動化攻撃と脆弱性の悪用です。AI技術の進歩により、多くのシーンがインテリジェントで自動化された進化を遂げています。サイバー攻撃も例外ではありません。攻撃者はAIを使ってシステムの脆弱性を自動的にスキャンし、動的攻撃コードを生成し、ターゲットに対して無差別かつ迅速な攻撃を実行することができます。例えば、AI駆動の「ゼロデイ攻撃」は、脆弱性を発見するとすぐに悪意のあるプログラムを書き込み、実行します。従来の防御システムはリアルタイムで対応することが困難です。

今年の春節に、DeepSeekの公式サイトは3.2Tbpsの超大規模DDoS攻撃に遭遇しました。ハッカーはAPIを通じて同時に侵入し、対抗サンプルを注入し、モデルの重みを改ざんしてコアサービスを48時間麻痺させ、直接的な経済損失は数千万ドルを超えました。事後の追跡調査では、アメリカのNSAが長期間潜伏していた痕跡が発見されました。

データの汚染とモデルの脆弱性も新たな脅威の一つです。攻撃者はAIのトレーニングデータに虚偽の情報を埋め込む（すなわちデータポイズニング）ことで、またはモデル自身の欠陥を利用してAIに誤った結果を出力させることがあります——これにより、重要な分野で直接的な安全脅威を引き起こし、さらには自動運転システムが対抗サンプルの誤認識によって「通行禁止」を「制限速度標識」と誤って判断したり、医療AIが良性腫瘍を悪性と誤診したりするなど、連鎖的な破滅的結果を引き起こす可能性があります。

02 AIにもAIガバナンスが必要

AI駆動のサイバーセキュリティの新たな脅威に直面し、従来の防護モデルはもはや効果が薄れています。それでは、私たちはどのような対策を講じるべきでしょうか？

現在の業界の共通認識が「AI対抗AI」に向かっていることは難しくない——これは単なる技術手段のアップグレードだけでなく、安全のパラダイムの変化でもある。

既存の試みは大きく三つのカテゴリに分けられます。それは、AIモデルのセキュリティ保護技術、業界レベルの防御アプリケーション、そしてよりマクロな視点での政府と国際協力です。

AIモデルのセキュリティ保護技術の鍵は、モデルの内生的なセキュリティ強化にあります。

大型言語モデル（LLM）の「越獄」脆弱性を例に挙げると、そのセキュリティ防護機構は一般的な越獄提示戦略の失効によってしばしば無効になる——攻撃者はモデル内蔵の保護層を体系的に回避し、AIに暴力、差別、または違法な内容を生成させるよう誘導する。LLMの「越獄」を防ぐために、各社のモデル会社はさまざまな試みを行っており、例えばAnthropicは今年の2月に「憲法分類器」を発表した。

ここでの「憲法」とは、合成データ上で訓練された保証措置としての、違反できない自然言語ルールを指します。許可されるコンテンツと制限されるコンテンツを規定することによって、入力と出力のコンテンツをリアルタイムで監視します。基準条件のテストにおいて、そのClaude3.5モデルは分類器の保護の下で、高度な脱獄試行の成功防止率を14%から95%に引き上げ、AIの「脱獄」リスクを大幅に低下させました。

モデルベースのより一般的な防御方法に加えて、業界レベルの防御アプリケーションも注目に値し、垂直分野でのシナリオベースの保護は重要なブレークスルーポイントになりつつあります:金融業界はAIリスク管理モデルとマルチモーダルデータ分析を通じて不正防止の障壁を構築し、オープンソースエコシステムはインテリジェントな脆弱性ハンティングテクノロジーの助けを借りてゼロデイ脅威への迅速な対応を実現し、機密性の高い企業情報の保護はAI主導の動的管理および制御システムに依存しています。

例えば、シスコがシンガポール国際ネットワークウィークで展示したソリューションは、従業員がChatGPTに送信する敏感なデータの問い合わせ要求をリアルタイムで遮断し、自動的にコンプライアンス監査報告書を生成して管理のサイクルを最適化します。

マクロレベルでは、政府と国際的な地域を超えた協力が加速しています。シンガポールのサイバーセキュリティ局は「人工知能システムの安全ガイドライン」を発表し、生成AIの乱用を制約するために、ローカライズの展開とデータ暗号化メカニズムを強制しました。特にフィッシング攻撃におけるAIによる偽の身分の識別に対して防護基準を確立しています；米国、英国、カナダの三国は「AIネットワーク代理プログラム」を同時に開始し、信頼できるシステムの開発とAPT攻撃のリアルタイム評価に焦点を当て、共同のセキュリティ認証システムを通じて集団防御能力を強化しています。

では、どのような方法で AI を最大限に活用して AI 時代のサイバーセキュリティの課題に対処できるでしょうか？

「未来には AI セキュリティインテリジェントコアが必要であり、その周りに新しいシステムを構築する必要があります。」第2回武漢サイバーセキュリティ革新フォーラムで、青藤クラウドセキュリティの創設者である張福は、AI と対抗するための AI が未来のサイバーセキュリティ防御システムの核心であると強調しました。「3 年以内に、AI は既存のセキュリティ業界とすべての 2B 業界を覆すでしょう。製品は再構築され、今までにない効率と能力の向上が実現されます。未来の製品は AI のためのものであり、人のためのものではありません。」

多くのソリューションの中で、Security Copilot のモデルは「未来の製品は AI のためのものである」という良い例を示しています：1年前、マイクロソフトはセキュリティチームが迅速かつ正確にセキュリティインシデントを検出、調査、対応するのを助けるために、インテリジェントな Microsoft Security Copilot 副操縦士を発表しました；1か月前には、フィッシング攻撃、データセキュリティ、アイデンティティ管理などの重要な分野で自動的に支援する AI インテリジェントエージェントを再度発表しました。

マイクロソフトは、Security Copilotの機能を拡張するために6つの自社開発のAIインテリジェントエージェントを追加しました。そのうちの3つは、ネットワークセキュリティ担当者が警告をフィルタリングするのを支援します：フィッシング分類インテリジェントエージェントがフィッシング警告をレビューし、誤報をフィルタリングします。残りの2つはPurview通知を分析し、従業員がビジネスデータを無許可に使用している状況を検出します。

条件アクセス最適化エージェントは Microsoft Entra と連携し、安全でないユーザーアクセスルールを指摘し、管理者が実行できるワンクリック修正案を生成します。脆弱性修正エージェントとデバイス管理ツール Intune は統合され、攻撃を受けやすい端末を迅速に特定し、オペレーティングシステムのパッチを適用します。脅威インテリジェンスブリーフィングエージェントは、組織のシステムに対する可能性のある脅威を報告するサイバーセキュリティ脅威レポートを生成します。

03 無相：L4レベルの高次エージェントの保護

偶然にも国内では、真の意味での「自動運転」レベルの安全保護を実現するために、青藤云安全が全栈式安全智能体「無相」を発表しました。これは、世界初の「支援型AI」から「自律型智能体」（Autopilot）へと進化した安全AI製品であり、その核心的な突破口は、従来のツールの「受動的応答」モデルを覆し、自主的、かつ自動的で知的なものにしたことです。

機械学習、知識グラフ、自動化決定技術を融合させることで、「無相」は脅威検出、影響評価から応答処理までの全プロセスのクローズドループを独立して完了し、真の意味での自律的な決定と目標駆動を実現します。その「Agentic AIアーキテクチャ」は、人間のセキュリティチームの協力ロジックを模倣して設計されています：「脳」によってネットワークセキュリティ知識ベースを統合し計画能力を支え、「目」によってネットワーク環境の動態を細かく認識し、「手足」によって多様なセキュリティツールチェーンを柔軟に呼び出し、複数のエージェントの協力を通じて情報共有の効率的な判断ネットワークを形成し、分業協力、情報共有を行います。

技術実現において、「無相」は「ReAct モード」（Act-Observe-Think-Act 循環）と「Plan AI + Action AI 双エンジンアーキテクチャ」を採用し、複雑なタスクにおける動的な修正能力を確保しています。ツールの呼び出しに異常が発生した場合、システムはプロセスを中断するのではなく、自主的にバックアッププランに切り替えることができます。例えば、APT攻撃分析では、Plan AIが「オーガナイザー」としてタスクの目標を分解し、Action AIが「調査専門家」としてログ解析と脅威モデリングを実行し、両者はリアルタイムで共有されたナレッジグラフに基づいて並行して進行します。

機能モジュールの面で、「無相」は完全な自主決定エコシステムを構築しました： スマートエージェントは安全分析官の反省的な反復思考をシミュレートし、動的に意思決定パスを最適化します； ツール呼び出しはホストのセキュリティログのクエリ、ネットワーク脅威インテリジェンスの検索、およびLLM駆動の悪意のあるコード分析を統合します； 環境認識はホスト資産とネットワーク情報をリアルタイムでキャッチします； 知識グラフは動的にエンティティの関連を保存し、意思決定を支援します； 複数のエージェントの協力はタスクの分割と情報共有を通じて並行してタスクを実行します。

現在「無相」は、警報判断、追跡分析、そして安全報告の出力という三つの主要なアプリケーションシーンにおいて最も優れたパフォーマンスを発揮しています。

従来のセキュリティ運用では、大量のアラートの真偽を見極めるのに時間と労力がかかります。ローカル特権昇格のアラートを例に挙げると、無相のアラート判定インテリジェントエージェントは、脅威の特徴を自動的に解析し、プロセス権限分析、親プロセスの追跡、プログラム署名の検証などのツールチェーンを呼び出し、最終的に誤報と判定します——この過程には人間の介入は一切必要ありません。青藤の既存のアラートテストでは、このシステムは100%のアラートカバレッジと99.99%の判定精度を実現し、人工作業量を95%以上削減しました。

実際の脅威、例えばWebshell攻撃に直面した際、エージェントはコードの特徴抽出やファイル権限分析などの横断的な関連付けを通じて、攻撃の有効性を秒単位で確認します。従来は複数の部門の協力が必要で、数日を要する深い追跡（例えば、アップロードされた伝播経路の復元や横の影響評価）を行っていましたが、現在はシステムがホストログ、ネットワークトラフィック、行動ベースラインなどのデータストリームを自動的に連携させ、完全な攻撃チェーンレポートを生成し、応答サイクルを「日」から「分」に圧縮します。

「私たちのコアは、AIと人間の協力関係を逆転させ、AIを人間のように協力することができるようにし、L2からL4への飛躍、すなわち、運転支援から高度な自動運転への移行を実現します。」青藤聯創兼製品副社長の胡俊は共有しました。「AIが適応できるシーンが増え、意思決定の成功率が高まるにつれて、徐々により多くの責任を担うことができるようになり、その結果、人間とAIの間の責任分担が変化していくでしょう。」

トレーサビリティ分析のこのシーンでは、まずWebshellアラートが「無相AI」駆動のマルチエージェントセキュリティチームの協調トレーシングを引き起こします。「判定専門家」はアラートに基づいてone.jspファイルを特定し、ファイル内容分析、著者トレーシング、同ディレクトリの調査、プロセストラッキングなどの並行タスクを生成します。「セキュリティ調査員」エージェントはファイルログツールを呼び出し、java（12606）プロセスを迅速に書き込み元として特定し、そのプロセスと関連ホスト10.108.108.23（アクセスログを通じて高頻度の相互作用が発見される）を調査に含めます。

インテリジェントエージェントは、脅威マップを通じて動的に手がかりを拡張し、単一のファイルからプロセスやホストに階層的に掘り下げて、専門家がまとめたタスク結果を総合的にリスクを判断します。このプロセスにより、人工的には数時間から数日の調査が数十分に圧縮され、人間の高度なセキュリティ専門家を超える精度で攻撃の全体的な流れを再現し、死角なく横の移動経路を追跡します。レッドチームの評価でも、その徹底的な調査を回避するのは難しいことが示されています。

「大モデルが人間より優れているのは、それが隅々まで徹底的に調査できるからであり、経験に基づいて可能性の低い状況を排除するのではない。」胡俊は説明した。「これは、幅と深さの両方がより優れていることに相当する。」

複雑な攻撃シナリオの調査を完了した後、警告と調査の手がかりを整理し、レポートを生成するのはしばしば時間と労力がかかります。しかし、AIはワンクリックで要約を実現し、可視化されたタイムラインの形式で攻撃プロセスを明確に示すことができます。映画のように重要なポイントを連続して表示します——システムは自動的に重要な証拠を整理し、攻撃チェーンのキーフレームを生成し、環境のコンテキスト情報と組み合わせて、最終的に動的な攻撃チェーンマップを生成します。これにより、全体の攻撃軌跡が直感的かつ立体的な方法で表示されます。

04 まとめ

明らかに、AI技術の発展はネットワークセキュリティに二重の脅威をもたらしています。

一方で、攻撃者はAIを利用して攻撃の自動化、個別化、隠蔽化を実現している。もう一方で、防御側は技術革新を加速し、AIを通じて検出と対応能力を強化する必要がある。今後、攻防双方のAI技術競争がサイバーセキュリティの全体的な状況を決定し、安全インテリジェントエージェントの完成がリスクと発展のバランスを取る鍵となる。

そして、安全インテリジェントエージェント「無相」は、安全アーキテクチャと認知の両面で新しい変化をもたらしました。

「無相」は本質的にAIの使用方法を変えるものであり、その革新性は多次元データの認識、防護戦略の生成、意思決定の説明可能性を有機的な全体として融合させることにあります——従来のAIをツールとして使用するモデルから、AIに力を与え、自主的かつ自動的に機能させる方向へと移行しています。

異種データであるログ、テキスト、トラフィックなどを関連分析することで、システムは攻撃者が完全な攻撃チェーンを構築する前にAPT活動の手がかりを捉えることができます。さらに重要なのは、その意思決定プロセスの可視化推論説明により、従来のツールの「知っているがその理由を知らない」というブラックボックスアラートが過去のものとなることです——セキュリティチームは脅威を見えるだけでなく、脅威の進化ロジックを理解することができます。

この革新の本質は、安全思考が「亡羊補牢」から「未雨綢繆」へのパラダイムシフトであり、攻防のゲームルールの再定義です。

「無相」は、デジタル直感を持つハンターのような存在です：リアルタイムでメモリ操作などの微観的な行動特性をモデル化することで、膨大なノイズの中から潜在的なカスタムマルウェアを見つけ出します；ダイナミックアタックサーフェスマネジメントエンジンは資産リスクの重みを継続的に評価し、防護資源を重要なシステムに正確に配分します；そして、脅威インテリジェンスのスマートな消化メカニズムは、日平均万件の警告を行動可能な防御指令に変換し、さらには攻撃の変異の進化方向を予測します——従来のソリューションが発生した侵入に対処するのに苦慮している間に、「無相」は攻撃者の次の一手を予測して封じ込めています。

「AIインテリジェントコアシステム（高階セキュリティインテリジェントエージェント）の誕生は、ネットワークセキュリティの構図を根本的に再構築するでしょう。そして、私たちがするべき唯一のことは、この機会を完全に捉えることです。」張福は言った。