イントロダクション：なぜ今、ジェネレーティブAIでペンテストを変えるのか
大規模言語モデル（LLM）やジェネレーティブAIは、OSINTやシナリオ構築、ソーシャルエンジニアリング素材の生成、テストケースの拡張など、ペネトレーションテスト（赤チーム）における“生産性の爆発的向上”をもたらします。一方で、LLM自体がプロンプト注入やエージェント悪用といった新種の脆弱性を生み出しており、これらは根本的な構造上の課題として残る可能性が指摘されています。組織がLLMをテストに組み込む際は、攻撃能力の強化だけでなく、モデルの挙動リスクや防御の限界を理解する必要があります。
生成AIを使った攻撃シナリオと自動化ワークフロー
ここでは、実務で再現可能なワークフローと代表的なユースケースを示します。
基本ワークフロー（例）
- ターゲット定義：スコープ、許可、禁止事項を明確化（法務・同意は必須）。
- データ収集（OSINT自動化）：公開情報、職員プロファイル、技術スタック情報をLLMで要約・相関。LLMは大量のテキストから自然言語要約や候補メール文面を高速生成できます。
- シナリオ生成：攻撃シナリオ（フィッシング文面、踏み台経路、横展開シーケンス）をLLMで自動生成し、優先度付けを行う。
- 自動化実行：簡易的なスクリプトやエージェント（検証環境での合成環境）を用いてシナリオを実行。人手と自動化のハイブリッドが推奨されます。
- 結果検証とハードニング提案：生成結果の誤検知・誤用をレビューし、修正済みの検出ルールや対応策を提示。
実運用では、LLMが提案する手順をそのまま実行すると誤った攻撃や法的リスクを生むため、必ず専門家による人間レビューを挟むべきです。
実用ツールと研究動向：何を使い、何が起きているか
市場や研究コミュニティでは、LLM向けの自動化・赤チーミング（AI Red Teaming）プラットフォームが増えています。GiskardやDeepTeamのような専用ツールは、プロンプト注入、データ漏洩、会話型の多ターン攻撃などを動的にテストする機能を提供し、OWASPのLLM脆弱性マッピングに沿った自動化テストを実行できます。これらのツールは、現場での攻撃シーケンス生成と脆弱性のエスカレーションを支援します。
学術界でも自動赤チーミングやエージェント攻撃の研究が進み、AgentXploitのようなフレームワークはエージェント型システムに対する間接的なプロンプト注入を自動的に探索・悪用する手法を示しています。また、LLM駆動のペンテストを安定化させるために、MITRE ATT&CK などを用いた構造化されたタスクツリーで推論を導く研究も報告されています。これらは、自動化の精度向上と誤作動（hallucination）低減に役立ちます。
実践チェックリスト：安全で効果的な導入と運用上の注意点
以下は、組織の赤チームが生成AIを活用する際に必ず守るべき実務チェックリストです。
- 契約と合意（必須）：スコープ、時間、対象資産、法務承認、データ保持ポリシーを明文化。
- 検証環境で先に試行：実運用環境での自動実行は極力避け、まず合成／隔離環境で検証。
- 人間によるレビュー：LLM生成の攻撃手順は必ず専門家がレビューし、危険なオペレーションは手動で実行。
- ログと証跡の完全保存：再現性と法的要件のため、実行ログ・生成時のプロンプトを保管。
- 防御側へのフィードバックループ：発見した脆弱性は検出ルール（EDR/XDR/SIEM）やガバナンスに速やかに組み込む。
- 倫理・人権配慮：個人情報やセンシティブなデータを不必要に生成・保存しない。
教育リソースと継続学習
生成AIを使ったペンテストを学ぶためのコースや教材も増えています。実務者向けの短期コースやハンズオンが提供されているため、まずは検証可能なラボ環境でスキルを磨くことを推奨します。
結論
ジェネレーティブAIはペネトレーションテストの効率とスコープを大きく広げる一方、プロンプト注入やエージェント悪用のような新たなリスクをもたらします。ツールと研究は急速に進化しており（自動赤チーミングや構造化推論など）、実務導入は“自動化×人間監督×明確なガバナンス”の三点セットで行うのが現在の最良実践です。