AIエージェントという言葉が、あまりに広く使われています。決められた順番で処理を流すだけの仕組みも、そう呼ばれている。
Anthropicが公開している整理は、ここをはっきり分けています。設計の話をするときに、この区別があると議論が噛み合います。
ワークフローとエージェントの違い
同社の定義はこうです。
ワークフローは、あらかじめ書かれたコードの経路を通じて、モデルと道具が組み合わされているもの。処理の順番は人が決めています。
エージェントは、モデルが自分の処理と道具の使い方を動的に決めるもの。どうやって仕事を片づけるかの制御をモデル側が握っています。
分かれ目は、次に何をするかを誰が決めているかです。人が書いた順番どおりに動くならワークフロー。モデルが状況を見て決めるならエージェント。
5つの組み立て方
| 形 | やること |
|---|---|
| プロンプトの連鎖 | 仕事を順番に分け、前の出力を次に渡す。途中に検査を挟める |
| 振り分け | 入力を分類し、種類ごとに専用の処理へ送る |
| 並列化 | 分割して同時に処理するか、同じ処理を何度も走らせて多数決を取る |
| 指揮者と作業者 | 中心のモデルが仕事を分解して割り振り、結果をまとめる |
| 評価と改善 | 片方が書き、もう片方が指摘する。それを繰り返す |
「指揮者と作業者」の形が効くのは、小さな仕事の中身を前もって決められない場合です。分解のしかた自体をモデルに任せることになります。
「評価と改善」は、答えの良し悪しを言葉で説明できる仕事に向いています。文章の推敲や翻訳の見直しがそうです。
そして自律的なエージェントは、環境からの反応を見ながら道具を使い、人の介入をほとんど必要とせずに動きます。
エージェントにすべきでない場面
同じ文書が、いちばん強く言っているのはここでした。
多くの用途では、検索と例示を添えた1回の呼び出しを丁寧に作り込むだけで十分だとしています。
エージェントは、応答の遅さと費用を、成果と引き換えにする選択です。だから単純な方法で足りないと分かってから複雑さを足すべきだ、という順番になります。
加えて挙げられている代償が3つ。費用が高くなること、誤りが積み重なっていく可能性があること、そのために十分な試験と歯止めが必要になること。
誤りの積み重ねは特に厄介です。1手ごとの正確さが95%でも、20手続けば全体の成功率は3分の1近くまで落ちます。手数が増えるほど不利になる構造があります。
同じ仕事を3つの形で組んでみる
問い合わせメールへの返信を例に、違いを並べます。
1回の呼び出しで済ませる場合。過去の返信例を数件と社内のFAQを添えて、返信の下書きを書かせる。速く、安く、何が起きたか明白です。定型の問い合わせならこれで足ります。
ワークフローにする場合。まず内容を分類し、返品なら返品用の処理、技術的な質問なら技術用の処理へ振り分ける。それぞれに合った資料を渡し、最後に文面を整える。処理の経路は人が決めているので、おかしな返信が出たときにどこで狂ったか追えます。
エージェントにする場合。過去の注文履歴を調べ、在庫を確認し、必要なら配送状況を照会し、そのうえで返信を書く。どの情報を見に行くかはモデルが決めます。事前に場合分けを書き切れない複雑な問い合わせに向きますが、費用と時間はかかり、途中で判断を誤るとその先が全部ずれます。
3つのうちどれが正しいかは、扱う問い合わせの幅で決まります。9割が定型なら、その9割を1回の呼び出しで処理し、残りを人に回すほうが賢い。全部をエージェントで受ける必要はありません。
歯止めをどこに置くか
エージェントを動かすなら、止める仕組みが要ります。
手数の上限を決めておく。20手を超えたら人に渡す、といった打ち切りです。これがないと、同じ場所を延々と往復して費用だけが増える状態になり得ます。
戻せない操作は自動で実行させない。メールの送信、データの削除、支払い。この種の行為は、人の確認を挟む形にしておく。読むだけの操作と、外に影響を与える操作を分けて考えることになります。
そして、何をしたかの記録を残す。どの道具をどの順番で呼んだかが追えなければ、おかしな結果が出たときに直しようがありません。
導入を考えるときの順番
この整理を業務に当てはめると、検討の順番はこうなります。
まず、1回の呼び出しで済まないかを試す。必要な資料を添えて、丁寧に指示を書く。ここで足りるなら、それが最も安く速く確実です。
足りなければ、手順を分けます。順番が決まっているならプロンプトの連鎖、種類ごとに処理が違うなら振り分け。ここまではワークフローなので、どこで何が起きたかを追えます。
手順を前もって決められない場合に、はじめてエージェントを検討します。取り得る道筋が多すぎて場合分けを書き切れない、という状態になってからです。
「エージェントを作りたい」から始めると、たいてい高くて遅くて不安定なものができあがります。
出典
定義・パターン・使うべきでない場面についての記述は、下記に基づきます。設計上のガードレールや評価の考え方は、OpenAIの実務ガイドもあわせて参照しました。
