誰も答えていない責任の問題
あなたのAI営業エージェントが見込み客に価格提案を送信しました。価格は標準料金より15%低いものでした。エージェントは、見込み客の購買履歴と競合シグナルが割引を正当化すると判断しました。CRMツールで過去データを取得し、メールツールで提案を送信し、価格APIで割引を計算しました。
誰が割引を承認しましたか？誰が価格ロジックを検証しましたか？割引が価格ポリシーに違反した場合、誰が責任を負いますか？
ガバナンスインフラなしで自律AIエージェントを運用している場合、答えは：誰にも分かりません。
3つの責任ギャップ
従来のコンプライアンスモデルは決定論的ソフトウェア — 毎回同じことを行うシステム向けに設計されました。AIエージェントは3つの方法でこのモデルを壊します：
ギャップ1：エージェントは自律的に推論する
LLMがタスクへのアプローチを決定する際、推論は創発的です。エージェントはコンテキストを考慮し、オプションを評価し、アプローチを選択します — すべて1回の推論呼び出し内で。決定木をトレースできるルールベースシステムとは異なり、LLMの推論は確率的で再現不可能です。
推論プロセス — 使用されたモデル、提供されたコンテキスト、生成されたトークン — をログに記録しなければ、決定は生成が終了した瞬間に消えます。思考の監査証跡がありません。
ギャップ2：エージェントは動的にツールを選択する
自律エージェントは推論するだけでなく、行動します。ランタイムに使用するツールを選択します：メールの送信、データベースのクエリ、APIの呼び出し、レコードの更新。ツール選択自体がガバナンスを必要とする決定です。
誰がエージェントのメールAPIへのアクセスを承認しましたか？誰が価格データベースクエリが適切であることを検証しましたか？ツール承認ゲートがなければ、すべてのツール呼び出しはビジネスへの影響の可能性がある監査されていないアクションです。
ギャップ3：エージェントは動作を適応する
最も高度なエージェントはコンテキストから学習し、タスクの途中でアプローチを調整します。カスタマーサポートを処理するエージェントは、センチメント分析に基づいてトーンを変え、アカウント価値に基づいてエスカレーションし、過去のインタラクションに基づいて異なるソリューションを提供するかもしれません。
この適応性は強力ですが、各インタラクションをユニークにします。まったく同じ方法で繰り返されない決定をどのように監査しますか？各決定の完全なコンテキストを捕捉する永続的なトレーシングなしでは、適応的な動作はコンプライアンスチームにとって見えません。
静的コンプライアンスが機能しない理由
従来のコンプライアンスは、システムの動作を事前に文書化し、定期的に検証できることを前提としています。決定論的ソフトウェアでは機能します。AIエージェントでは機能しません：
- デプロイ前の文書化はランタイムの決定を捕捉しない
- 定期的な監査はリアルタイムのエージェント動作を見逃す
- ルールベースのコントロールは創発的な推論をガバナンスできない
- 静的な権限は動的なツール選択を考慮しない
EU AI Actはこのギャップを認識しています。第12条はイベントの自動ログを要求します。第14条は人間の監視メカニズムを要求します。第50条はAI生成コンテンツの透明性を要求します。これらはオプションではありません — 高リスクAIシステムに法的に義務付けられています。
責任チェーン
解決策は、すべてのエージェント決定に対して完全で監査可能な責任チェーンを作成するガバナンスアーキテクチャです。5つのステージ、各段階が完全にトレースされます：
ステージ1：ユーザーの意図 — ユーザーはエージェントに何をするよう求めましたか？タイムスタンプ、ユーザーID、部門、完全なリクエストコンテキストとともにログ。
ステージ2：エージェントの推論 — エージェントは何をするかどのように決定しましたか？LLM呼び出しがモデル、プロバイダー、トークン使用量、推論出力とともにトレース。エージェントがマルチステップ推論（思考の連鎖）を使用する場合、各ステップが捕捉されます。
ステージ3：ツール承認 — どのツールがリクエストされ、誰が承認しましたか？ツール承認ゲートは、エージェントが機密ツールを使用する前に明示的な承認を要求します。承認決定、承認者のID、タイムスタンプが記録されます。
ステージ4：実行 — エージェントは実際に何をしましたか？すべてのツール呼び出し、APIリクエスト、データアクセスが入力、出力、所要時間、コストとともにログ。エラーハンドリングとリトライロジックがトレースされます。
ステージ5：監査証跡 — コンプライアンス用に構造化された完全な記録。標準化されたフォーマット（ガバナンス拡張属性付きOTel互換JSON）でのエビデンスエクスポート、コンプライアンスタイムラインの可視化、8カテゴリにわたる17 Trust Service Criteriaコントロール。
規制へのマッピング
| 規制 | 要件 | 責任チェーンステージ |
|---|---|---|
| EU AI Act第12条 | 記録保持 | ステージ1-5：完全なイベントログ |
| EU AI Act第14条 | 人間の監視 | ステージ3：ツール承認ゲート |
| EU AI Act第50条 | 透明性 | ステージ1：インタラクション開示 |
| NISTエージェント標準 | 監視とインシデント対応 | ステージ4-5：実行トレーシング + 監査エクスポート |
| SOC 2 TSC | セキュリティと可用性 | ステージ5：17コントロールにわたるエビデンスエクスポート |
実践的な影響
責任チェーンが整備されていれば：
- CISOが尋ねた場合「今四半期、エージェントは何をしましたか？」完全な回答があります
- 監査人が尋ねた場合「誰がこのツールアクセスを承認しましたか？」承認記録があります
- 規制当局が尋ねた場合「人間の監視を実証できますか？」エスカレーション履歴があります
- 顧客が尋ねた場合「これはAIが生成したものですか？」開示ログがあります
すべてのエージェント決定。すべてのツール呼び出し。すべてのエスカレーション。完全にトレース可能。
責任チェーンの実際の動作をご覧ください：
- 責任チェーンページ — 視覚的なトレーサビリティ図
- EU AI Actコンプライアンス — 条項ごとの能力マッピング
- エンタープライズトライアル開始 — 完全なトレーサビリティ付きガバナンスインフラをデプロイ