AIに仕事を任せたのに、なぜ人間が「OKボタン押し」になってしまうのか？

1. 「任せたはずなのに、手が止まる」という体験

「AIに資料の整理やコードの修正を頼んだはずなのに、なぜか自分がずっとPCの前に縛られている」

そんな感覚を覚えたことはないでしょうか。

AIが1ステップ進むたびに、画面に表示される確認ポップアップ。

* 「このファイルを読み込んでいいですか？」→【OK】

* 「このテキストを書き換えていいですか？」→【OK】

* 「次のファイルへ進んでいいですか？」→【OK】

最初は丁寧に内容をチェックしていたはずが、10回、20回とポップアップが続くと、いつの間にか「内容を読む」のではなく「作業を止めたくないからOKを押す」状態になっていきます。

AIに仕事を頼んだはずなのに、気がつくと人間側が「作業を止めないためのOKボタン押し」になってしまう。この現象は、使う人の集中力や注意力だけの問題ではありません。AIに設定した「確認の置き場所」も、一因になり得ます。

2. 「すべて確認する」ことが、かえって確認を形骸化させる

「万が一のミスを防ぐために、AIの行動はすべて人間が事前に確認・承認すべきだ」と考えるのは自然なことです。しかし、AI運用に関する報告では、確認が繰り返されることで注意が薄れ、監督が形式的になる懸念が指摘されています。

たとえば、大手AI開発企業Anthropicが自社の開発ツール（Claude Code）の利用状況を分析したレポートでは、ユーザーが出力された権限プロンプト（確認画面）の約93％をそのまま承認していたことが報告されています。

同社は、承認が増えるほど一件ごとの注意が薄れる問題も指摘しています。ただし、この93％という数字だけで「承認の93％が無意味」とは言えません。[1]

また、125件のエージェント行為を、異なる役割を設定した3つのAI評価者が判定した研究では、判断の一致度はκ=0.52でした。人間の専門家を対象とした測定ではありません。同研究の疲労を仮定したシミュレーションでは、人間への確認を最大化しても安全性が最大になるとは限らない結果が示されています。実際の職場での効果を実証した結果とは区別が必要です。[2]

つまり、「念のため全部チェックしよう」という設計は、一見安全に見えて、人間側の注意力を希釈させ、本当に危険な1件を見落とす原因になり得るのです。

3. 人間の判断を集中させる「Approval Compression」

では、AIに安心して仕事を任せるためには、人間はどう関わればよいのでしょうか。

Human OSでは、この整理をApproval Compression（承認対象の圧縮）と呼んでいます。外部の標準用語ではありません。 これは「人間の確認作業を単に減らしてサボる」ということではありません。

「承認を減らすことではなく、人間の判断を“取り消せないこと・外へ影響すること”へ集める設計」

のことを指します。

既存ルール上、Read-only（読取り専用）や低影響と判断できる作業は、途中確認を減らして進める候補にします。重要な分岐点には「人間のチェック」を配置します。

4. 迷ったときに自分に問いかける「2つの質問」

どの作業をAIに任せ、どの作業に人間の承認を残すべきか。迷ったときは、次の2つの質問で作業を切り分けることができます。

【Question 1】 あとから「やり直せる（Ctrl+Zで戻せる）」作業か？

・YES → Question 2と既存ルールも確認（下書き・整理・要約など）

・NO → 【要・人間確認】（元に戻せない削除・上書きなど）

【Question 2】 会社・顧客・お金など「外の世界」へ影響するか？

・NO → Question 1がYESで、既存ルールにも合う場合はAI側で進める候補

・YES → 【要・人間確認】（メール送信・発注・契約・権限変更など）

* 「やり直せる・外に出ない」作業は、既存の権限・機密情報の扱い・業務ルールに合う範囲で、途中確認を減らす候補にします。

* 「やり直せない」、または「外に影響する」作業には人間の判断を残します。判断できない場合も、人へ戻します。2つの問いだけで、既存の禁止事項や確認ルールを解除するものではありません。

5. 人間に残すべき「5つの鍵」

具体的に、どのような作業に人間の承認を残すべきでしょうか。最初の整理例として、次の5項目から確認できます。

1. 外部送信（顧客や社外へのメール・チャット送信、公開処理）

2. 金銭が発生する行為（発注、購入、返金手続き）

3. 削除作業（データの消去、ファイルの不可逆な上書き）

4. 権限変更（アクセス権の付与、アカウント・認証情報の変更）

5. 契約・確定行為（顧客情報の最終確定、契約内容の承認）

これら以外の「下書きをつくる」「情報をまとめる」「案を出す」といった作業は、既存ルールと権限の範囲内で、低影響と判断できる場合には、途中で手を止めさせずにAIへ委任する方針をとることで、不要な途中確認を減らしやすくなります。

6. 今日からできる Small Start（目安時間：5分）

いきなりチーム全体のAI運用ルールを変える必要はありません。まずは、ご自身の普段の仕事から一歩目を踏み出してみましょう。

【今日試せること（目安5分）】

* 今日、AI（ChatGPTやClaudeなど）に頼んだ最後の指示やプロンプトを見返してみる。

* その作業の中に「外部送信」「金銭」「削除」「権限」「契約」が含まれていたか確認する。

* もし「ただの社内メモの下書き」や「情報の整理」だったなら、既存ルールと機密情報の扱いを確認したうえで、次回は「承認済みの範囲で下書きまで進めて。範囲外・判断できない点は確認事項として残して」と指示を与えてみる。

「どこまでをAIに任せ、どこで人間が止めるか」という境界線を一度意識してみるだけでも、確認の置き場所を見直すきっかけになります。

7. まとめ

AI導入における安全性とは、すべての行動にハンコを押すことではありません。 無差別な確認は、人間の注意を薄め、肝心なリスクを見落とす一因になり得ます。

「やり直せるか」「外に出るか」の2つの問いを通じて、人間の判断力を本当に重要なポイントへ集中させること。それが、人とAIが役割を分けやすくなるための最初の一歩です。

まずは手元の作業から、「この確認は本当に人間がやるべきか？」を1つだけ見直してみませんか。

出典

[1] Anthropic, How we contain Claude across products（2026年5月25日）

https://www.anthropic.com/engineering/how-we-contain-claude

[2] Emre Turan, Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human（arXiv:2606.08919v1）

https://arxiv.org/html/2606.08919v1

冒頭の場面は説明用の例です。図は設計の概念図であり、効果の実測結果ではありません。