イントロダクション：なぜ“モデル攻撃”がXDRの課題になるのか
生成AIや機械学習（ML）を組み込んだ業務システムが普及する中で、モデル抽出（model extraction）やモデル毒性（data/model poisoning）、推論改竄などの攻撃は単なる研究上の懸念から実運用上の脅威へと変化しています。攻撃はAPIクエリの偏りや学習データの改竄、推論出力の逸脱という形で現れ、エンドポイントやネットワーク、クラウドログなど複数のテレメトリに痕跡を残します。
このため、従来のシグネチャ依存型検知だけでなく、SIEMでの相関・集約、EDRのプロセス／ファイル／メモリ挙動データ、そしてXDRによるクロスドメインの相関分析が求められます。最近の報告・研究は、APIベースの大規模抽出攻撃や実環境での毒性挿入の増加を示しており、検出には状態管理（stateful）や出力分布の継続監視が有効であることが示唆されています。
検出パイプラインの設計：SIEM／EDRテレメトリ×ML検知の役割分担
実務的なパイプラインは、次の三層で設計するのが有効です。
- 収集層（Telemetry ingestion）：EDR（プロセス実行、コマンドライン、DLLロード、メモリスナップショット）、クラウド・APIアクセスログ、アプリケーション（推論API）ログ、ネットワークフローを確実にSIEMへ送る。EDRはエンドポイントの振る舞い、SIEMは大規模な相関・長期保存を担います。
- 検知層（Detection & enrichment）：SIEM上での相関ルール（例：短期間に類似プロンプトを大量に送るアカウント、異常に低多様性の応答要求、特定ユーザの推論パターンの急変）と、EDRの振る舞いシグナル（不審なプロセス作成や疑わしいモデルファイルの配置）を結合し、MLベースのアノマリ検知（クエリ分布の統計的逸脱検出、モデル出力ドリフト検出）を適用します。状態管理（stateful）によるクエリ履歴追跡が抽出攻撃の検出に有効です。
- 優先化／応答層（XDR/SOAR）：SIEMが高信頼度シグナルを生成したら、XDR/SOARが自動封じ込め（APIキーのローテーション、疑わしいクライアントIPのブロック、影響モデルの隔離／ロールバック）や調査ジョブ（メモリダンプ、保存されたリクエストの抽出）を実行します。運用では誤検知を減らすため段階的自動化（ライトオートメーション）を採用します。
この設計では、EDRは『現場の行動証拠』、SIEMは『状況の大局把握と長期相関』、XDR/SOARは『迅速な意思決定と実行』を担います。データ収集の完全性とタイムライン整合（タイムスタンプの同期）は特に重要です。
具体的な検知シグナルとプレイブックの設計例
以下は現場で再現しやすい検知シグナルと、それに紐づけるSOARプレイブックの例です。
検知シグナル（例）
- 短時間で同一モデルに対する類似クエリが多数発生（高類似度＋高頻度）→ 抽出攻撃の可能性。
- 推論出力の統計的分布が急変（出力多様度の低下、特定トークンの異常頻出）→ データ毒性や出力改竄の兆候。
- エンドポイントで未承認モデルファイルの追加・書換え、またはプロセスが外部モデルのダウンロードをトリガー→ EDRアラートで即時封じ込め。
- アカウントごとのクエリ振る舞いが通常と異なる（クエリ長・タイミング・エンベディング分布の偏移）→ 状態管理ベースの検知でフラグ。
SOARプレイブック（段階例）
- 初動：SIEMが低〜中リスクの異常を検出 → チケット作成とアナリスト通知（自動化は未実行）。
- 確認フェーズ：該当アカウント／IPの直近72時間のクエリとEDRログを自動収集し、スコアリング（抽出指標×エンドポイントシグナル）。
- 自動封じ込め（条件付き）：スコアが閾値超過なら該当APIキーを一時無効化・疑わしいマシンをネットワーク分離・モデルサービスのread-onlyモードに切替。
- フォレンジック＆復旧：メモリ／ディスクダンプ取得、サンプル再現テスト、モデル整合性チェック（署名・ハッシュ）→ 必要ならモデル復元と署名キーのローテーション。
- 後処理：検出ルール・閾値の調整、対応手順の事後レビュー、CTIへ共有。
プレイブックは、単純な自動化と人間の判定を組み合わせるハイブリッド設計が現場負荷と誤検知のバランスで効果的です。ベンダーのプレイブック設計ガイドラインも参照して運用標準化を進めましょう。
運用上の注意点とまとめ（KPI・演習の勧め）
運用面では以下を優先してください：ログ保持期間の見直し（機械学習の異常検出には長期履歴が有効）、タイムスタンプ同期、検出ルールの定期的チューニング、そしてモデルセキュリティ（署名・アクセス管理）の強化です。また、赤チーム演習でモデル抽出や毒性注入をシミュレートし、検出から封じ込めまでのMTTD/MTTRを計測して改善ループを回すことが重要です。
最後に、本稿で示したパイプラインは“万能解”ではありませんが、SIEMとEDRのテレメトリを連携させて状態管理型の検知とSOARによる段階的自動化を組み合わせる設計は、短期的に現実的な防御効果を生みます。導入時は小さなサンドボックスでの検証→段階的ロールアウト→ポストインシデント学習のサイクルを回してください。