#73 AIエージェントの「あきらめる力」の正体

最近のAIは、ただ質問に答えるだけでなく、ウェブを閲覧したり、ネット通販で買い物をしたり、コマンドライン（黒い画面の操作）で作業したりと、何ステップもかけて自律的にタスクをこなす「エージェント」へと進化しています。

ただし、ユーザーの指示がいつも明確で実現可能とは限りません。たとえば「ピンクのクッションを買って」と頼まれても、そのサイトにピンクのクッションが1つも存在しないこともあります。こんなとき、賢いエージェントなら「これ以上探しても無駄だ」と気づいて手を止めるべきです。ところが従来の研究は「タスクをいかに成功させるか」ばかりに注目し、「いつあきらめるべきか」という判断はほとんど調べられていませんでした。

この研究の新しさは、「あきらめる判断」を 一回きりの選択ではなく、何ステップにもわたる連続的な判断 として捉えた点にあります。

従来のAIの「あきらめ」研究は、質問に対して「答える」か「答えない」かの一発勝負でした。しかしエージェントの世界はもっと複雑です。検索する、クリックする、もっと情報を集める、といった選択肢があり、しかも「無理だ」と分かるのは環境を操作してみた後だったりします。最初は解けそうに見えるのに、調べてみて初めて不可能だと判明する——これがやっかいなのです。

そこで著者らは、ネット通販・コマンドライン操作・質問応答という3つの場面で、約2万8000件のタスクからなる検証セットを作成。さらに「CONVOLVE（コンボルブ）​」という改善手法を提案しました。これはAIの中身（パラメータ）を一切いじらず、過去のやりとりの記録から「こういうときは止めるべき」という再利用可能な教訓集（プレイブック）を抽出し、エージェントに渡すという、いわば「失敗ノート」を持たせるアプローチです。

結果は「AIは止め時を知らない」というものでした。13種類のAIを試した結果、多くが10ステップ動いても正しくあきらめられた割合（あきらめ再現率）が50%未満。特に ​「最も早い適切なタイミングで止まれた率」はどのモデルも平均40%未満 という低さでした。多くは延々と無駄な操作を続けるか、まったくあきらめませんでした。

意外なことに、モデルが大きく高性能なほど良いとは限らず、規模を大きくしても「早く止まる力」はほとんど向上しませんでした。一方でCONVOLVEは効果絶大で、Llama-3.3-70Bというモデルでは、適切なタイミングであきらめられた率が 26.7%から57.4%へ 、最終的にあきらめられた率は 83.2%から100%へ 向上。しかもわずか20件の記録から学習しただけです。

AIエージェントを業務に導入する企業が増えるなか、この研究は「AIの失敗の新しい形」に光を当てています。AIの問題は「間違った答えを出す」ことだけではありません。​無駄なツール操作を延々と繰り返してコスト（API利用料や計算資源）を浪費する ことや、できないことを「できます」と振る舞う過信も、実害のある失敗です。

たとえば自律的に調査やデータ処理を任せたAIが、不可能なタスクに気づかず何十回もアクセスを繰り返せば、料金もかさみ、結果も得られません。逆に「これは情報が足りません」「この指示は矛盾しています」と早めに正直に報告してくれるAIなら、人間が次の手を打てます。

重要なのは、この研究が「AIの中身を再学習させなくても、運用の工夫（過去の教訓を渡す）だけで賢いあきらめが身につく」と示した点です。コストをかけずにエージェントの信頼性を上げられる可能性があり、AI導入を検討するビジネス現場にとって実用的なヒントになります。