AI エージェントの失敗例：本番の後に使われなくなる 5 つの理由

請求書の確認を AI エージェントに任せて 3 か月。実行の記録を見ると、毎朝きちんと動いています。ところが担当者に聞くと、結果はもう見ていない、自分で確かめ直したほうが早い、と言う。エラーも苦情もないまま、AI エージェントは使われなくなっていきます。

MIT の研究グループ NANDA の 2025 年の調査では、企業向けの生成 AI のシステムを検討した組織は 60% あったものの、試験導入まで進んだのは 20%、本番に届いたのは 5% でした。理由として挙げたのは、モデルの性能ではありません。少しの違いで止まる作り、使う場面から学ばないこと、日々の業務とのずれです。日本でも、IPA の「DX 動向 2026」で、AI を導入または試験利用している企業のうち、期待どおりかそれ以上の効果を得ているのは 31.8% でした。

この記事では、本番に出た AI エージェントが使われなくなる 5 つの失敗例と、それぞれの防ぎ方を解説します。よく原因とされる「外注」が本当に原因なのかも、調査をもとに確かめます。

結論：使われなくなるのは、作った後に変われないから

• 性能より、変われないこと：業務が変わっても AI エージェントが変わらなければ、担当者は手作業に戻る
• 5 つの失敗例：業務の変化に追いつかない、持ち主がいない、誰も測っていない、モデルの提供が終わる、任せきれない
• 外注そのものは原因ではない：MIT の調査では、外部と組んで作ったほうが本番に届きやすかった。分かれ目は、作った後に誰が直すか
• 本番の前に決める：持ち主、測る数字、直し方、承認、モデルの交代、やめる基準

調査で見る、本番の後の AI

調査	わかったこと
MIT NANDA（2025 年。52 組織への聞き取り、153 人の経営層への調査、公開された 300 件以上の事例）	企業向けの生成 AI のシステムで、本番に届いたのは 5%。数週間かかる仕事や顧客対応のような複雑な仕事は、90% が AI より若手の同僚に任せたいと答えた
IPA「DX 動向 2026」（1,799 社）	AI を導入・試験利用している企業のうち、期待どおりかそれ以上の効果は 31.8%。「一定の効果はあった」が 50.6% で、効果は出ているが期待したほどではない企業が半数
Gartner（2025 年 6 月）	2027 年末までに、エージェント型 AI のプロジェクトの 40% 以上が、コストの高騰、ビジネス価値の不明確さ、リスク管理の不足で中止されると予測
Sinch（2026 年 5 月。10 か国の 2,527 人）	顧客対応の AI エージェントを本番に出した後、ガバナンスの不備で元に戻すか止めた企業は 74%

調査ごとに対象も定義も違い、MIT の報告書は予備調査で、件数も多くはありません。それでも共通するのは、作ることより、使われ続けることのほうが難しい、という点です。

失敗例 1：業務の変化に追いつかない

取引先のサイトの画面が変わる。帳票に項目が増える。承認の基準が変わる。業務は少しずつ、絶えず変わります。AI エージェントがそれに合わせて変わらなければ、例外が増え、担当者が手で直す件数が増え、やがて手作業のほうが早くなります。

MIT の調査で、利用者が業務の中心に AI を組み込めない理由として挙げたのは、「例外的な場面で壊れ、適応しない」「自社の業務に合わせて調整できない」「毎回、多くの前提を手で伝える必要がある」「フィードバックから学ばない」でした。中規模の企業で働く弁護士は、ChatGPT について、下書きには優れているが、顧客の好みを覚えず、前の修正からも学ばず、同じ誤りを繰り返す、と話しています。

担当者が一度伝えた直し方を、次の実行で AI が覚えていなければ、担当者は同じ修正を毎回繰り返すことになります。画面の変更で自動化が止まる理由は「RPA が画面変更で止まる理由」で解説しています。

確かめること：

• 業務のルールや取引先の画面が変わったとき、誰が、どこで、どれくらいの時間で直すか
• 担当者が直したことと、その理由が残り、次の実行に生かされるか
• 例外が出たとき、止まって人に知らせるか。黙って誤った結果を出さないか

失敗例 2：持ち主がいない

導入のプロジェクトが終わると、チームは解散します。外注先との契約が終わる。作った担当者が異動する。動いてはいるものの、誰のものでもない AI エージェントが残ります。不具合に気づいても、誰に言えばよいかわからず、担当者は黙って手作業に戻ります。

Gartner は、ベンダーの FDE（Forward Deployed Engineer）が作ったエージェント型 AI について、2028 年までに企業の 70% が使うのをやめると予測しています。費用が膨らみ、自分たちで進化させられなくなるためです。早い段階では進みが速く見えても、社内に力が育たないことを理由に挙げています。MIT の調査は、うまくいく組織は、作る権限を現場に渡しながら、責任の所在ははっきりさせている、としています。

確かめること：

• AI エージェントごとに、業務の責任者と直す人は誰か。不在のときの代わりは誰か
• 外注先との契約が終わった後、誰が直すか
• 動いている AI エージェントの一覧（台帳）があるか

作った人がいなくなった自動化の扱いは「作った人がいない RPA ロボットの引き継ぎ方」で、一覧の作り方は「RPA のロボット管理台帳」で解説しています。

失敗例 3：使われているかを、誰も測っていない

AI エージェントが使われなくなっても、エラーは出ません。実行の記録の上では、毎日動いています。変わるのは、担当者が結果を確かめ直す時間と、AI を通さずに処理する件数です。これは、測っていなければ見えません。

MIT の調査では、公式に AI のサービスを契約した企業は 40% でしたが、90% を超える企業で、社員が個人の AI ツールを日常的に仕事に使っていました。会社の AI を使わなくなった社員は、仕事をやめるのではなく、別の手段に移ります。

Gartner が中止の理由に挙げた 3 つのうちの 1 つも、ビジネス価値の不明確さです。MIT は、うまくいく企業は、AI をモデルの性能ではなく、業務の成果で評価していた、としています。

Sinch の調査では、ガバナンスの仕組みが最も整った企業ほど、AI エージェントを元に戻した割合が高く、81% でした。Sinch は、監視が整っているぶん、ほかの企業が見逃している失敗に気づけるためだとしています。測っていれば、直す判断も、止める判断も早くできます。

確かめること：

• 成功の基準を数字で決めているか（人の修正なしに処理した件数の割合など）
• AI エージェントが処理した件数、人が直した件数、AI を通さずに処理した件数を、定期的に見ているか
• 誰がその数字を見て、直すか止めるかを決めるか

成功の基準の決め方は「AI エージェントを業務に導入する前に確かめる 7 つのこと」の導入の進め方で解説しています。

失敗例 4：AI モデルの提供が終わる

AI エージェントが使う AI モデルには、提供の終わりがあります。Anthropic は少なくとも 60 日前に通知し、提供終了の後のリクエストは失敗します。OpenAI は 2026 年 10 月 14 日に、GPT-4o や GPT-4.1 などを 2027 年 1 月 14 日に API から外すと通知しました。

通知は、AI モデルの API を契約している側に届きます。外注先が契約していれば、社内では気づかないまま、ある日止まります。代わりのモデルに替えても同じように動くとは限らないため、業務で試してから切り替える必要があります。

確かめること：

• AI モデルの API を、自社と外注先のどちらが契約しているか
• 提供終了の通知を誰が受け取り、誰が代わりのモデルを試すか
• 同じ入力で、替える前と後の結果を比べる手順があるか

通知が届いた後に、外注、FDE、内製でそれぞれ何が起きるかは「AI エージェントの内製化の課題」で比べています。

失敗例 5：任せきれず、人が全部確かめ直す

誤りが一度でも社外に出ると、担当者は AI エージェントの結果を全部確かめ直すようになります。全件を確かめ直すなら、手作業と手間は変わりません。やがて、AI を通す意味がなくなります。

MIT の調査では、メールの下書きのような短い仕事は 70% が AI に任せたいと答えた一方、複雑な仕事は 90% が若手の同僚に任せたいと答えました。Sinch の調査で、本番に出した後に AI エージェントを元に戻すか止めた理由も、ガバナンスの不備でした。

防ぐには、全部を任せるか、全部を確かめるかの二択にしないことです。取り消しにくい操作（登録、送信、支払）の前にだけ人の承認を置き、それ以外は、件数や合計金額のように AI の外で確かめられる数字で確かめます。

確かめること：

• 取り消しにくい操作はどれか。その前に、誰が承認するか
• AI の結果を、件数や合計金額など、AI の外で確かめられるか
• 誤りが出たとき、どこまで戻せるか

AI に任せるステップと、決まった手順で動かすステップの分け方は「AI エージェントと RPA の使い分け」で解説しています。

外注が原因なのか

「外注した AI エージェントは使われなくなる」と言われることがあります。調査を見ると、そう単純ではありません。

MIT の調査では、外部と組んで作った AI が本番に届いた割合は約 67%、社内だけで作ったものは約 33% でした。社員の利用率も、外部と作ったもののほうがほぼ 2 倍でした。ここでの「外部と組む」は、業務から学ぶ仕組みを持つツールを買い、ベンダーと一緒に作り込む形です。MIT 自身も、52 組織の自己申告にもとづく結果で、因果関係を示すものではないと断っています。

MIT によると、うまくいった企業は、AI のベンダーをソフトウェアの売り手ではなく、業務の委託先のように扱い、次のことをしていました。

• 自社の業務とデータに合わせた深い作り込みを求める
• モデルの性能ではなく、業務の成果で評価する
• 初期の失敗も一緒に乗り越え、導入を共に育てるものとして扱う
• 中央の部署ではなく、現場の管理者から取り組みを始める

一方で、Gartner は先のとおり、FDE が作ったエージェント型 AI の 70% が使われなくなると予測しています。

2 つは矛盾しません。外部と組めば、本番には届きやすい。使われ続けるかどうかを分けるのは、作った後に、業務の変化に合わせて誰が直すかです。5 つの失敗例は、外注でも社内でも起きます。起き方が違うだけです。

失敗例	外注で起きやすい形	社内で作って起きやすい形
業務の変化に追いつかない	直すたびに見積もりと順番待ち	作った人の手が空くまで直らない
持ち主がいない	契約が終わると、直す人がいない	作った人が異動すると、中身がわからない
誰も測っていない	契約に業務の成果の数字がない	数字を見る人が決まっていない
モデルの提供が終わる	通知が外注先に届き、社内で気づかない	通知を受けた人に、試す時間がない
任せきれない	中身が見えず、全件を確かめ直す	承認の置き場所が決まっていない

外注、FDE、内製の比べ方は「AI エージェントの内製化の課題」で解説しています。

本番の前に決めておく 6 つのこと

1. 持ち主：業務の責任者、直す人、不在のときの代わり
2. 測る数字：AI が処理した件数、人が直した件数、AI を通さずに処理した件数。誰が、どれくらいの頻度で見るか
3. 直し方：誰がどこで直すか。直した理由をどこに残すか。本番の前にどう試すか
4. 承認：取り消しにくい操作の前に、誰が承認するか
5. モデルの交代：API の契約者、通知の受け取り手、代わりのモデルを試す手順
6. やめる基準：数字がどうなったら直し、どうなったら止めるか。止めたら台帳から外す

6 つ目は見落とされがちです。使われていない AI エージェントを動かし続けると、AI の利用料がかかり、操作するシステムへのアクセスも残ります。止める基準を決めておけば、使われなくなったと気づいたときに、迷わず止められます。

よくある質問

使われなくなった AI エージェントは、作り直すべきですか？

まず、5 つの失敗例のどれに当たるかを確かめます。業務の変化に追いついていないだけなら、直せば使われるようになります。持ち主がいないなら、持ち主を決めるのが先です。業務の数字で見て効果がないなら、止めるのも選択肢です。

使われなくなり始めたことに、どう気づけますか？

人が直した件数と、AI を通さずに処理した件数の推移を見ます。実行の記録だけでは、動いていることしかわかりません。担当者に、結果をどれくらい確かめ直しているかを聞くのも早い方法です。

外注先との契約で、何を決めておけばよいですか？

業務の成果で測る成功の基準、作ったものの権利、引き継ぐ資料、AI モデルの API の契約者、契約が終わった後に誰が直すかを決めます。詳しくは「AI エージェントの内製化の課題」をご覧ください。

Kitewell で、使われ続ける形にする

Descarty の Kitewell は、AI が作って AI が直す AI RPA です。業務の担当者が、会話で作り、会話で直します。5 つの失敗例に、次の仕組みで備えます。

• 教えたことを覚える：会話の中で伝えた業務のルールや直し方を、その場で、伝えた言葉のまま「覚えていること」に残します。何を覚えたかは会話に表示され、「元に戻す」で取り消せます。アシスタントは、頼まれるたびに覚えていることをすべて読みます。業務のマニュアルも、「マニュアルから覚えさせる」で PDF、Word、Excel から覚えさせられます
• 会話で直す：アシスタントに頼むと、変更の内容とフロー図を示します。「適用」を押すまで保存されず、「元に戻す」で戻せます。画面が変わったときだけ AI が操作を覚え直し、覚え直したことは実行の記録でわかります
• 止まったら知らせる：失敗や承認待ちを、Slack、Microsoft Teams、メールなどに通知します。失敗の見立てを設定すると、失敗が続き始めたときに、AI が「もう一度試す」「対応が必要」「ワークフローの変更」「不明」に分けて、原因と次にすることを示します
• 数字を見る：「実行とログ」で、失敗した実行の件数と成功率を確かめられます
• 承認を置く：どのステップにも承認を設定できます。承認する人は、承認、差し戻し、却下を選び、いつ、どう判断したかが記録に残ります
• モデルの交代は 1 か所で：AI モデルは「エージェントとモデル」に登録し、ワークフローはその登録を参照します。登録を替えれば、それを使うワークフローすべてに反映されます。覚えた画面の操作はモデルに結び付いていないため、覚え直しは要りません
• 全体を把握し、チームで直す：ロボット管理台帳を Excel で書き出せます。Dagu Cloud で同期すると、誰かが直したワークフローと覚えていることが、各端末に届きます

PoC では、Descarty が貴社のご担当者と一緒にワークフローを作り、効果を確かめます。本番のワークフローは、ご担当者が Kitewell のアシスタントとの会話で作り、直します。作ったものも、直せる力も、最初から貴社に残ります。

まずは、使われなくなった AI エージェントや、外注先に直してもらっている業務を 1 つ選び、先行利用パートナーとして共同で検証できます。詳しくは「先行利用パートナー様募集」をご覧ください。

まとめ

• AI エージェントが使われなくなる主な原因は、モデルの性能より、作った後に業務に合わせて変われないこと
• 5 つの失敗例：業務の変化に追いつかない、持ち主がいない、誰も測っていない、モデルの提供が終わる、任せきれない
• 外注そのものは原因ではない。MIT の調査では、外部と組んだほうが本番に届きやすかった。分かれ目は、作った後に誰が直すか
• 本番の前に、持ち主、測る数字、直し方、承認、モデルの交代、やめる基準を決める

出典

• Fortune：MIT report: 95% of generative AI pilots at companies are failing（2025 年 8 月 18 日）。MIT NANDA の報告書「The GenAI Divide: State of AI in Business 2025」（2025 年 7 月、予備調査）を報じた記事。本番に届いた割合は報告書の 3 ページ、個人の AI ツールの利用は 8 ページ、利用者が挙げた理由と人に任せたい仕事は 12〜13 ページ、外部と組んだ場合との比較とうまくいった企業のやり方は 19〜20 ページ
• IPA：DX 動向 2026（2026 年 7 月 30 日）。AI 導入による効果の状況は図表 3-13
• Gartner：2027 年末までにエージェント型 AI プロジェクトの 40% 以上が中止されるとの見解（2025 年 6 月 25 日）
• Gartner：Gartner Predicts 70% of Enterprises Will Abandon Agentic AI Built by Vendor Forward-Deployed Engineering by 2028（2026 年 9 月 29 日）
• Sinch：Sinch research reveals 74% of enterprises have rolled back live AI customer communications agents（2026 年 5 月 13 日）
• Anthropic：Model deprecations
• OpenAI：Deprecations