AIエージェントにゴールを伝えると、途中の段取りを自分で考え、次々と作業を進めます。便利な一方で、「意図と違う方向に進んだら、どこで止められるのか」と不安になることもあります。

AIエージェントの基本、つまり自分で段取りして仕事を終わらせる仕組みはAIエージェントとはで整理しました。この記事で決めたいのは、任せるか任せないかの二択ではありません。どこまで任せ、どの操作だけを人が握るか、その線引きです。

ムチオ
ムチオ
ゴールだけ言えば勝手にやってくれるのは楽なんだけど、進みすぎて逆に不安になるんだよね。
ルミナ
ルミナ
その感覚が線引きの出発点です。何でも任せるのでも、こわくて何も任せないのでもなく、作業ごとに任せる・握るを分ける。そこを順番に見ていきましょう。

任せていい作業の3つの条件

AIエージェントは設計によっては、途中で人の判断を待たず、複数の作業を連続して進めます。だからこそ、どんな作業なら任せてよいかを先に決めておくと安心です。目安になるのが、次の3つの条件です。この3つがそろっている作業ほど、任せても被害が出にくくなります。

  • やり直せる：結果が違っても、簡単に元へ戻せる。文章の下書きや情報の整理などです。作り直せばいいので、任せても損失が小さい。
  • 影響範囲が小さい：結果が自分の手元で完結し、外の人やシステムに波及しない。失敗しても、迷惑がかかる範囲が狭い。
  • 判断基準が明確：正しいかどうかを客観的に確認でき、あいまいなさじ加減を必要としない。結果をチェックしやすい作業ほど、任せた後のずれにも気づきやすい。

この3つの反対、つまりやり直しにくい・影響が広がる・判断があいまいな作業は、任せる前に一度立ち止まる合図です。ただし、そうした作業も後述の「人の確認を挟む」設計で半自動にできます。

人が握るべき作業──お金・外部送信・取り返しのつかないもの

条件の裏返しとして、人が手元に握っておくべき作業もはっきりします。とくに次の3種類は、AIに丸ごと任せず、最後は人が判断したい領域です。

  • お金が動く作業：支払い、発注、契約など、金銭に直結する操作。金額や相手を一つ間違えるだけで実害が出ます。
  • 外部に送る作業：メールの送信や外部サービスへのデータ送付など。外部に送った情報は、こちらの操作だけでは確実に回収できません。
  • 消すと戻らない作業：ファイルやデータの削除・上書きなど、取り返しのつかない操作。やり直しがきかないぶん、慎重さが要ります。
ムチオ
ムチオ
たしかに、勝手にメール送られたり、データ消されたりしたら取り返しつかないもんね……。
ルミナ
ルミナ
そこなんです。消えたデータは履歴から戻せることもありますが、外に送った情報や動いたお金は、こちらの操作だけでは確実には取り消せません。この「自分の操作で戻せるか」が、握るか任せるかの一番わかりやすい境目になります。

「作成まではAI、実行は人」──確認を挟む半自動

任せると握るの間には、もう一段あります。途中まで任せて、大事なところだけ人が確認する、という半自動の設計です。

たとえば日程調整のメールを送るエージェントなら、宛先と本文まではAIに作らせて、送信ボタンだけは人が押す。準備はぜんぶ任せ、外に出る最後の一手だけ人が握る。この形なら、便利さを取りながら、取り返しのつかない失敗を防げます。

自動化率を上げることより、失敗しても止められることのほうが大切です。全部を自動でつなぐより、どこに人の確認を一つ挟むかを決める。それが実務ではいちばん効いてきます。

権限は最小から始める

任せる範囲を決めたら、それをAIに与える権限の形にも反映させます。ここで効くのが、最小権限という考え方です。

最小権限とは、その作業に必要な最低限の権限だけを渡し、念のため広めに、をしない発想です。下書きだけを任せたいなら、送信の権限までは渡さない。読み取りだけでいいなら、削除の権限は与えない。持たせる権限が狭いほど、たとえ想定外の動きをしても、被害の広がりを小さく抑えられます。

小さく任せて、少しずつ広げる

線引きは、最初から完璧に決めきる必要はありません。最初から広い権限を渡す必要もありません。まずは、やり直せて影響範囲の小さい作業を一つ任せます。問題なく動くことを確認してから、少しずつ範囲を広げる。意図とずれるなら、任せる範囲や権限を狭めるか、人の確認を増やします。この試しながら調整する進め方なら、こわくて何も任せられないことも、丸投げして事故ることも避けられます。

今日やれる、任せる・握るの仕分けリスト

任せようとしている作業を思い浮かべて、次の3つの質問で仕分けしてみてください。

  1. 結果が違っても、簡単にやり直せるか。(やり直せないなら握る側へ寄せる)
  2. その作業の影響は、自分の手元だけで閉じているか。(外に波及するなら握る側へ寄せる)
  3. 正しいかどうかの判断基準が、はっきりしているか。(あいまいなら握る側へ寄せる)

3つとも「はい」なら、比較的任せやすい作業です。一つでも「いいえ」があれば、そこが人の確認を挟むか、人が握るべきポイントになります。

まとめ

  • AIエージェントは設計によっては人を待たず連続して進む。便利さと怖さは、同じ性質から生まれる表裏の関係。
  • 任せていい作業の条件は、やり直せる・影響範囲が小さい・判断基準が明確、の3つ。
  • 人が握るべきは、お金が動く・外部に送る・消すと戻らない作業。自分の操作で戻せるかが境目。
  • 「作成まではAI、実行は人」。大事な一手に人の確認を挟む半自動が、実務では効く。
  • 権限は最小から始め、小さく任せて様子を見ながら少しずつ広げる。

AIを業務に組み込むときは、「何ができるか」だけでなく、どこで人が確認し、どの権限まで渡すかを決める必要があります。ZELKでは、業務の整理から自動化の実装、安全に運用するための権限設計まで、業務自動化の社内導入を一緒に支援しています。