企業が AI エージェントを導入する際に最も陥りやすい落とし穴は、「人がやる」か「AI がやる」かを二者択一のスイッチとして扱うことです。つまり、一件ごとに人の承認を求めるか、さもなければ全体をそのまま自動で走らせてしまうかのどちらかになりがちです。Gartner は 2025 年 6 月、2027 年末までに agentic AI プロジェクトの 40% 超が中止されると予測しました。主な要因はコストの暴走、ビジネス価値の不明確さ、リスク管理の不足であり、多くのプロジェクトは誇大宣伝に駆られた PoC の段階にとどまり、本番に到達できないままです。その裏返しは明快です。全件審査は自動化の意味を失わせ、全面委任は検証前のシステムに制御不能なリスクを負わせます。どちらの極端もプロジェクトを行き詰まらせます。実装可能な方法は、権限委譲を段階的で、検証可能で、撤回可能な階段として設計することです。人による全件審査から始め、実績が基準を満たすごとに一段ずつ手綱を緩め、同時にいつでも一段下げられるブレーキを残しておきます。
レベル分けを論じる前に、まず用語を定めます。人と自動化の関係は、通常三つの姿勢に分けられます。IBM や航空宇宙分野の人と AI の協働研究も、この三層で監督の強度を表しています。
| 監督の姿勢 | 人の役割 | 適した場面 |
|---|---|---|
| ヒューマン・イン・ザ・ループ | AI が提案し、一件ごとに人の承認を得てから実行します | 意思決定の間隔が長く、一件の影響が大きい |
| ヒューマン・オン・ザ・ループ | AI が自律的に実行し、人は事後に監視していつでも介入できます | 意思決定が速すぎて一件ずつ審査できない |
| ヒューマン・アウト・オブ・ザ・ループ | AI が全過程を自律的に行い、人は監視とアラートだけを見ます | 低リスク、自動ロールバック可能、即時通信ができない |
注目すべきは、EU の AI 法第 14 条が高リスク AI に「効果的に監督できること」を求めている点です。ただしそれは、すべての判断を人が審査しなければならないという意味では明確にありません。求められているのは、人がシステムを監視し、理解し、介入し、いつでも停止できることであり、さらに「自動化バイアス」、すなわち AI の出力を過度に信頼する傾向に注意を払うことです。これこそが権限レベル分けが解決しようとする課題です。動作ごとに、人へ異なる強さの介入権を与えるのです。
自律性を段階に切り分けるのは新しい発明ではありません。すでに 1978 年、Sheridan と Verplank は海底遠隔操作機器に対し、「人がすべての判断を行う」から「機械が完全に自律し、人に通知すらしない」まで並ぶ十段階の自動化尺度を提唱しました。2000 年には Parasuraman、Sheridan、Wickens が、自動化の度合いを情報処理の四段階、すなわち取得・分析・判断・実行に対応づけ、同じシステムでも段階ごとに自律度が異なりうると指摘しました。この考え方は 2025 年以降の AI エージェントの枠組みに直接受け継がれています。広く引用される論文『Levels of Autonomy for AI Agents』は、利用者が担う役割によって五段階の自律性を定義しています。すなわち操作者、協働者、相談役、承認者、観察者であり、人が主導する状態から人が傍観するだけの状態へ移行していきます。企業が借用すべきは、まさにこの「同じエージェント、異なる動作、異なるレベル」という階層的な考え方です。
以上の理論を、企業がそのまま適用できる五つの段階へと収れんさせます。中核となる原則は、同じ AI エージェントでも動作ごとに異なるレベルに置けることです。読み取り専用の照会はすでに Level 4 でも、金額に関わる動作や不可逆な動作は Level 1 にとどまります。
| レベル | 判断と実行 | 人の介入方法 | 適用の基準 |
|---|---|---|---|
| Level 0 全件人手審査 | AI が提案し、人が一件ずつ承認してから実行 | 一件ごとに審査 | 稼働直後、リスク未知 |
| Level 1 抜き取り審査 | AI が実行し、人が事前に一定割合を抜き取り審査 | 20〜50% を抜き取り | 初歩的に検証済み、低リスク |
| Level 2 例外審査 | AI が実行し、確信度の低い案件や高リスク案件のみ審査へ | 例外のみ審査 | 精度が安定、リスク制御可能 |
| Level 3 事後審査 | AI が完全に自律実行し、人は事後に抜き取りと振り返り | 事後の抜き取り検査 | 長期に安定、影響が可逆 |
| Level 4 完全自律 | AI が完全に自律し、人は監視とアラートのみ確認 | 監視ダッシュボードのみ | 成熟、低リスク、自動ロールバック可 |
この階段は、「AI を信頼すべきか」という曖昧な問いを、検証可能で撤回可能な一連の小さな判断へと分解します。一段ずつ手綱を緩めるのは長期的な積み重ねの結果であり、一気に完全自律へ飛ぶわけではありません。
昇格は感覚に頼れず、計測可能な指標に結びつける必要があります。各レベルにあらかじめ三種類の基準を定義し、すべてを満たしたときにのみ一段上へ進めることを推奨します。
基準を原則の宣言ではなく明確な数値として書き下すことで、昇格は監査可能な意思決定になります。誰が、どのようなデータに基づいて、どの種類の動作をどのレベルからどのレベルへ引き上げたのかがすべて記録として残り、意思決定者は取締役会や監査部門に対して権限委譲の根拠を説明できます。
階段の本当の安心感は、下へ降りられることから生まれます。ここで二つのものを区別する必要があります。キルスイッチは手動であり、人が異常に気づいて停止させます。サーキットブレーカーはインフラ層で自動的に作動し、エージェントが M 分以内に N 回を超えてツールを呼び出したとき、同じ呼び出しが三回連続で失敗したとき、あるいは一度のセッションでコスト上限を超えたときに、自動で一時停止しアラートを出します。この違いがまさに現れる場面があります。エージェントが無人の間にリトライループへ陥り、一晩中大量の失敗する呼び出しを発し続けたとき、被害を食い止められるのは自動で作動するサーキットブレーカーだけです。キルスイッチは誰も起きていないため役に立ちません。自動降格の引き金を三つ設けることを推奨します。指標が基準を下回れば一段降格し審査比率を上げる、重大事故が一度起きれば即座に降格しその種の動作を凍結して人の確認を待つ、動作が金額や影響の上限に触れればその件を自動的に人手審査へ回す、というものです。こうして権限委譲は、上りも下りもできる双方向の階段となり、一度きりの賭けではなくなります。
実務で最も多い誤りは、AI エージェント全体を単一のレベルとして一括で委譲することです。正しい方法は「動作の種類」を単位に個別にレベル分けすることです。読み取り専用の照会、下書きの生成、外部への送信、システムへの書き込み、金額に関わる動作や不可逆な操作は、それぞれ独立したレベルと基準を保ち、一件ごとにその時点のレベル、確信度スコア、人の介入の有無を記録する監査証跡を残します。Salesforce の Agentforce はこれを Trust Layer で実現しています。データのマスキング、一件ごとの監査ログ、そしてリスクと機微性に応じた承認とエスカレーションの経路です。ガバナンスの成熟度は依然として広く見られる欠落です。Deloitte の 2026 年の調査では、自律エージェントに対して成熟したガバナンスを備える企業は約 21% にとどまる一方、74% が二年以内に agentic AI を導入する見込みだとされています。まず権限委譲の階段とサーキットブレーカーを整えてこそ、低リスクの動作では素早く完全自律まで進めつつ、高リスクの動作は人手審査にしっかり縛り、効率と安全を両立できます。
恩梯科技は、権限レベル分けの枠組みを既存の業務プロセスへ根づかせるお手伝いをします。動作の種類とリスク等級の棚卸し、各レベルの定量的な基準と観察期間の定義から、抜き取り審査の仕組み、監査証跡、自動降格のサーキットブレーカーの構築まで、そして稼働後はデータに基づき段階的に権限を緩めていく過程に伴走します。貴社の AI システムが「全面委任は怖い、しかし全件審査もしたくない」というジレンマに陥っているなら、ぜひ恩梯科技にご相談ください。上りも下りもできる自動化の階段を、ともに設計します。
これらの手法を自社に導入したいですか？
LINEで無料相談
技術共有
多くのブランドはチャネルごとに別々のAIボットを設置し、音声・チャット・CRMがかみ合わず、同じ顧客がつながりのない断片に分割されています。本記事では、CXMのチャネル横断統合を三層——統一顧客ビュー、システム統合、チャネル横断のオーケストレーション——として実データとともに読み解き、あらゆる接点が同一の顧客レコードの上に成り立つ仕組みを示します。
技術共有
会話が長くなるほど AI はなぜ高く、そして散漫になるのでしょうか。本稿は Chroma や Anthropic などの最新研究データをもとに、スライディングウィンドウ、要約圧縮（compaction）、分割による外部退避、重要情報のピン留めという四つの戦略と、その組み合わせ方を解き明かします。
技術共有
ユーザーの指示が曖昧なとき、AI システムが推測で実行すると誤った出力が大量に生じます。本記事では意図分類・スロットフィリング・確認ループ・確信度しきい値・プロンプトの型を通じて、不確かなときに推測せず能動的に確認させる工学的手法を解説します。
サポートが必要ですか？
ここをクリックしてお問い合わせください！
