AI エージェントを業務に導入する前に確かめる 7 つのこと

AI エージェントは、目的を伝えると自分で手順を考え、ブラウザや社内のシステムを操作して仕事を進めます。試すだけなら、すぐに始められるようになりました。難しいのは、その先です。毎日決まった時刻に、人が見ていない間も、ログインが要るシステムで正しく動き続けられるか。多くの導入は、ここでつまずきます。

Gartner は、2027 年末までにエージェント型 AI のプロジェクトの 40% 以上が、コストの高騰、ビジネス価値の不明確さ、リスク管理の不足を理由に中止されるとの見通しを示しています。今のプロジェクトの多くは実験や概念実証の段階で、大規模に導入したときのコストや複雑さが見えにくく、本番への移行が止まっているとも指摘しています。

この記事では、AI エージェントを毎日の業務に入れる前に確かめたい 7 つのことと、RPA や人との役割の分け方、導入の進め方を解説します。

AI エージェントとは

経済産業省と総務省の「AI 事業者ガイドライン」は、2026 年 3 月の第 1.2 版で、AI エージェントを「特定の目標を達成するために、環境を感知し自律的に行動する AI システム」と定義しました。高度な自律だけでなく、ある程度の自律性を持つものも含みます。

業務の自動化でよく比べられる、生成 AI のチャットや RPA との違いは次のとおりです。

観点	生成 AI のチャット	AI エージェント	RPA
役割	質問に答え、文章を作る	目的に向けて手順を考え、ブラウザやシステムを操作する	記録した操作を、そのとおりに繰り返す
操作	人（AI の答えを見て操作する）	AI（実行のたびに次の操作を考える）	ロボット（人が作った手順どおり）
得意	下書き、要約、調べもの	毎回内容が違う仕事、判断が混じる仕事	同じ手順の大量の繰り返し
苦手	社内のシステムを見ながら進める作業	毎回同じ結果を出すこと、大量の処理を速く回すこと	画面の変更、判断が要る場面

RPA、AI エージェント、AI RPA の違いは、「RPA の課題」でも比べています。

AI エージェントに向く仕事、向かない仕事

Gartner も、AI エージェントは意思決定が必要な場面から使い始めるよう勧めています。

AI エージェントに向く仕事：

• 毎回内容が違う調べもの（取引先の公開情報の確認、見込み客の企業調査）
• 書式がそろわない書類の読み取りと分類（請求書、注文書、問い合わせのメール）
• 例外の一次判断と、回答や報告の下書き
• 人がそばにいて、結果をその場で確かめられる作業

そのまま任せると困る仕事：

• 毎日、同じ手順で大量に回す処理
• 締め切りまでに確実に終える必要がある処理（月末の請求、給与計算の前の勤怠の確認）
• 誤りがそのまま社外に出る、登録、送信、支払

実際の業務では、この 2 つが 1 つの流れの中に混ざっています。業務を丸ごと AI エージェントに渡すのではなく、ステップごとに担い手を決めると、失敗しにくくなります。分け方の基準と、請求書の処理を例にした分け方は、「AI エージェントと RPA の使い分け」で解説しています。

導入の前に確かめる 7 つのこと

1. 毎回、同じように処理できるか

AI エージェントは、実行のたびに画面や文書を読み、次の操作を考えます。そのため、同じ指示でも、毎回同じ手順で同じ結果になるとは限りません。AI 事業者ガイドラインも、同じ基準で運用していても、モデルの確率的な性質から、場面によって異なる判断を下すことがあると指摘しています。毎回考えるぶん、1 件ごとに時間と AI の利用料もかかります。

確かめること：

• 1 日に何件、何回動かすか。その件数を、締め切りまでに処理しきれるか
• 同じ入力で何度か試し、結果がそろうか
• 結果を確かめる手段（件数、合計金額、元データとの突き合わせ）を、AI の外に用意できるか

2. 登録や送信の前に、誰が確かめるか

ブラウザを操作する AI エージェントは、人がブラウザでできることの多くを実行できます。AI 事業者ガイドラインは、AI エージェントが自律的な動作の中で、人の意図しない注文やファイルの削除を行う可能性を挙げています。そのうえで、AI の利用者が人の判断を挟むことで、予期せぬ事故を防げるとしています。

確かめること：

• 取り消しにくい操作（登録、送信、支払、削除）はどれか
• その前に、誰が、何を見て承認するか。承認する人が不在のときはどうするか
• いつ、誰が、どう判断したかが記録に残るか

3. ログインとパスワードを、どう渡すか

ログインが要る仕事を AI エージェントに頼むと、パスワードを会話で伝えるか、ログインしたままのブラウザを任せることになりがちです。会話で伝えたパスワードは AI の提供者に送られ、会話の履歴にも残ります。ログインしたままのブラウザを任せれば、そのブラウザでログインしているすべてのサービスに AI の手が届きます。OpenAI も、ブラウザを操作するエージェントには、作業にログインが要らないなら、ログインしていない状態で使うよう勧めています。

確かめること：

• パスワードを AI に見せずに入力できるか
• AI が操作するブラウザは、普段のメールや管理画面にログインしているブラウザと分かれているか
• 開けるサイトと、使うアカウントの権限を、その業務に必要な範囲に絞れるか

4. 読ませる内容に、指示が紛れ込んでいないか

AI エージェントが読むメール、Web ページ、添付ファイルに、AI への指示が書き込まれていることがあります。AI がそれを依頼者の指示と取り違えて従ってしまう攻撃を、プロンプトインジェクションと呼びます。OWASP は、LLM を使うアプリケーションのリスクの一覧で、これを 1 番目に挙げています。

OpenAI は、受信トレイに届いたメールに仕込まれた指示に従ったエージェントが、頼まれた不在時の返信を書く代わりに、利用者の名前で社長宛てに退職の連絡を送ってしまう攻撃を、自社の検証で見つけて対策したと公表しています。そのうえで、プロンプトインジェクションは、Web 上の詐欺やソーシャルエンジニアリングと同じように、完全に解決されることはないだろうとしています。AI 事業者ガイドラインも、攻撃でエージェントの挙動が不正に操作され、社内のデータが意図せず外部に送られるおそれを挙げています。

OWASP が挙げる対策には、AI に与える権限を必要最小限に絞ることと、影響の大きい操作の前に人の承認を挟むことがあります。

確かめること：

• エージェントが、社外の人が書いた文章（メール、Web ページ、取引先からのファイル）を読むか
• 読むなら、そのエージェントに、送信、支払、コマンドの実行といった強い権限まで持たせていないか
• 取り消しにくい操作の前に、人の承認が入っているか（2 を参照）

5. どの情報が、どこに送られるか

クラウドの AI モデルを使う AI エージェントは、操作のために読んだ画面や文書の内容を、モデルの提供者に送ります。AI 事業者ガイドラインは、AI の利用者に、個人情報や機密情報を不適切に入力しないよう注意を求めています。

確かめること：

• エージェントが読む画面や文書に、個人情報や機密情報が含まれるか
• モデルの提供者は、送った内容を学習に使うか、どれだけの期間保存するか（契約と規約で確かめる）
• 個人情報を扱う部分だけ、社内やローカルのモデルに切り替えられるか

主な AI モデルの提供者ごとの扱いは、「セキュリティ」でまとめています。

6. 何をしたかを、後から確かめられるか

誤った登録が見つかったとき、AI エージェントがどの画面で何を入力し、誰が承認したのかがわからなければ、原因を調べられず、同じ誤りも防げません。AI 事業者ガイドラインは、AI の判断を検証できるように、利用時の入出力などのログを記録・保存し、記録の方法や保存期間を、事故の原因究明や再発防止の観点から検討するよう示しています。

確かめること：

• 実行ごとに、操作した画面、入力した値、AI に送った内容が残るか
• 承認と差し戻しの経緯が残るか
• 監査や社内の確認のときに、記録を取り出せるか

動いている自動化の全体は、「RPA のロボット管理台帳」と同じ考え方で一覧にしておくと、把握し続けられます。

7. 止まったとき、誰が気づき、誰が直すか

AI エージェントも止まります。ログインの画面が変わった、追加の認証を求められた、相手のサイトが止まっていた。AI 事業者ガイドラインは、AI エージェントのように構成の複雑な AI システムでは、通常の AI システムよりもメンテナンスやトラブルシューティングが難しくなる場合があるとしています。

確かめること：

• 失敗したとき、誰に、どう知らせるか
• 途中まで処理した分をどう扱うか。止まった所からやり直せるか
• 作った人が異動しても、別の人が中身を理解して直せるか

作った人がいなくなった自動化の扱いは、「作った人がいない RPA ロボットの引き継ぎ方」で解説しています。

導入の進め方

1. 業務を 1 つ選ぶ：毎日か毎週動き、件数が多く、判断が少し混じる業務から選びます。操作する Web サイトの利用規約で、自動での操作が認められているかも確かめます（「自動化の前に確かめる利用規約」）
2. ステップごとに担い手を決める：AI、決まった手順、人に分け、取り消しにくい操作の前には承認を置きます。こう分けると、7 つのことのほとんどに、設計の段階で答えられます
3. 成功の基準を決めてから試す：「9 割以上の件数を人の修正なしに処理する」「誤った登録は 0 件」のように、数字で決めます。人が確かめた件数と、かかった時間も測ります
4. 本番の前に、運用を決める：通知の宛先、承認する人と代わりの人、止まったときの担当、記録の保存期間を決めます
5. 1 つ目の結果を見て広げる：うまくいった分け方を、似た業務に当てはめます

本番に出した後に使われなくなる失敗例と防ぎ方は、「AI エージェントの失敗例」で解説しています。今の RPA から移る場合の手順は、「RPA から AI RPA への切り替え手順」で解説しています。

Kitewell での作り方

Descarty の Kitewell は、AI が作って AI が直す AI RPA です。7 つのことに、次の仕組みで答えます。

• 毎回同じように：一度うまくいったクリックや入力は覚えて、次からは同じ手順で繰り返します。画面が変わったときだけ AI が覚え直し、覚え直したことは実行の記録でわかります
• 人が承認する：どのステップにも承認を設定できます。承認する人は、承認、差し戻し、却下を選び、いつ、どう判断したかが記録に残ります。AI が作ったワークフローも、差分を確かめて「適用」するまで保存されません
• パスワードは渡さない：パスワードは名前で参照し、AI には値を見せず、Kitewell が入力します。AI が操作するブラウザは、普段のブラウザとは別の、ワークフロー用のブラウザです。開けるサイトも限れます
• 指示の紛れ込みに備える：メールの本文を、コマンドを実行できる AI エージェントに渡す構成には、実行前の確認で警告します
• 送り先を選ぶ：AI モデルはステップごとに選べ、社内やローカルのモデルも使えます。ただし、小さなローカルモデルでは、通常、画面を操作できません。モデルに送ったプロンプトは実行履歴に残ります
• すべてを記録する：実行ごとに、ステップ単位のログ、出力ファイル、スクリーンショットを保存します。ロボット管理台帳も Excel で書き出せます
• 止まったら知らせ、止まった所から：失敗や承認待ちを、Slack、Microsoft Teams、メールなどに通知します。直したら、失敗したステップからやり直せます

Claude Code や Codex など 15 種類の AI エージェントも、ワークフローの 1 つのステップとして動かせます。判断が要る所は AI エージェントに任せ、その結果を人が確かめてから次のステップへ進める、という組み方ができます。差し戻せば、コメントを添えてやり直させられます。ChatGPT や Claude を接続すれば、スマートフォンからでも承認や差し戻しができます。

まずは手作業の業務や止まりがちなロボットを 1 つ選び、先行利用パートナーとして共同で検証できます。詳しくは「先行利用パートナー様募集」をご覧ください。

まとめ

• AI エージェントは、判断が要る仕事に強い一方、毎回同じ結果を出すことや、無人で確実に回し続けることは苦手
• 導入の前に、再現性、承認、パスワード、指示の紛れ込み、データの送り先、記録、止まったときの運用の 7 つを確かめる
• 業務を丸ごと任せず、ステップごとに AI、決まった手順、人に分ける
• 1 つの業務で成功の基準を決めて試し、運用を決めてから広げる

出典

• Gartner：2027 年末までにエージェント型 AI プロジェクトの 40% 以上が中止されるとの見解（2025 年 6 月 25 日）
• 経済産業省・総務省：AI 事業者ガイドライン（第 1.2 版）（2026 年 3 月 31 日）。AI エージェントの定義は本編の第 1 部、ログの記録・保存は第 2 部、AI の利用者が取り組むことは第 5 部、AI エージェントのリスクは別添 1
• OpenAI：Continuously hardening ChatGPT Atlas against prompt injection attacks（2025 年 12 月 22 日）
• OWASP：LLM01:2025 Prompt Injection