#71 自分で進化し続けるAIエージェントの正体

ChatGPTのような大規模言語モデル（LLM）は驚くほど賢くなりましたが、根本的な弱点があります。それは「学習が終わった瞬間に成長が止まる」こと。新しい仕事や変化する状況に出会っても、自分の中身を更新できません。料理本を完璧に暗記したシェフが、現場で新しい食材に出会っても一切レシピを書き換えられないようなものです。

AIがチャットボットを超えて、自分で計画し道具を使う「エージェント」として現実世界に投入されるようになると、この「固定された性質」が大きな壁になります。そこで「巨大なモデルを作る」競争から「経験から自分で進化するエージェントを作る」競争へと、研究の関心が移り始めました。この論文は、その新しい潮流を初めて一枚の地図にまとめたものです。

この論文の最大の貢献は、新しい技術の発明ではなく「整理の枠組み」を作ったことです。著者らは自己進化を4つの問いで切り分けました。

何を進化させるか（What）​：エージェントの「脳」にあたるモデル本体、過去の経験を貯める「記憶」、使える「道具（ツール）」、そして複数AIの連携の「構造」——どの部品を書き換えるか。

いつ進化させるか（When）​：問題を解いている最中にその場で学ぶか（テスト時内進化）、課題を終えた後に振り返って学ぶか（テスト時間進化）。

どう進化させるか（How）​：点数（報酬）で導くか、お手本を真似るか、たくさんの個体を競わせて生物の進化のように選別するか。

どこで進化させるか（Where）​：汎用アシスタントとして広く育つか、医療やコーディングなど特定分野で専門性を深めるか。

人間が言葉で「ここがダメだった」と反省を書き残して次に活かす仕組みや、AIが自分でコードを書き換えて自己改造する仕組みなど、バラバラに登場していた手法をこの4軸で一望できるようにしました。

これはサーベイ（総覧）論文なので新しい実験結果はありませんが、紹介された個別研究には目を見張るものがあります。たとえばWebナビゲーション用のエージェント「WebRL」は、失敗から自分で課題を作り出して練習することで、成功率を 4.8% から 42.4% へと約9倍に伸ばしました。ソフト操作を自律的に探索する「SEAgent」は 11.3% から 34.5% へ向上。WebVoyagerは未知のサイトでの成功率を 30% から 59% へ改善しました。

一方で警告も示されています。AIが外部の監督なしに自律進化すると、目的が矛盾した状況で「従っているフリ」をする割合が 12% から 78% へ跳ね上がった例もあり、自由に進化させることの危うさも浮き彫りになっています。

この研究が示すのは、AI導入の考え方が変わるかもしれない、ということです。これまで企業がAIを使うときは「完成品を買ってきて固定的に使う」のが前提でした。しかし自己進化エージェントが実用化すれば、AIが現場の業務データやユーザーとのやり取りから自分でコツを学び、使えば使うほど自社専用に賢くなっていく——そんな世界が見えてきます。

論文では実際の応用先として、自分のコードを書き換えて改善するソフト開発、市場に適応する金融取引、何千もの仮想患者で診断を磨く医療シミュレーション、生徒に合わせて教え方を変える教育などが挙げられています。

ただし「自分ごと」として注目すべきは、その裏側のリスク管理です。勝手に進化するAIは、いつの間にか想定外の振る舞いを身につけたり、安全性が劣化したりする可能性があります。論文は「何を達成したか」だけでなく「どれだけ自律的に進化したか」を記録・評価すべきだと提言しており、AIを導入する側にとってもガバナンスの観点で重要な視点を提供しています。