放課後論文ラジオ
放課後論文ラジオ
EP.074

#74 小さなAIが巨大モデルに勝つ「やり抜く力」の正体

350億パラメータのAIが1兆級モデルを上回った、学び方の工夫とは

2026年7月1日

番組ノート

今回の論文

  • タイトル: Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent
  • 著者: Agents-A1 Team, Shanghai Artificial Intelligence Laboratory
  • 発表: arXiv, 2026年6月

このエピソードのポイント

  • モデルを巨大化させる代わりに「長い作業を最後までやり抜く力」を鍛えるという別ルートに挑んだ研究
  • 350億パラメータの中型AIが、約30倍規模の1兆パラメータ級モデルを複数のテストで上回った
  • 成功も失敗も「過程ごと」記録した教材と、分野ごとの専門家先生から学ぶ工夫がカギ
#放課後論文ラジオ#AI#機械学習#AIエージェント#LLM#蒸留#上海AI研究所

論文を読み解く

Overview

ひと言でいうと

モデルを巨大化させる代わりに、AIが「長い作業をやり抜く力」を鍛えることで、350億パラメータという中型サイズながら1兆パラメータの超巨大モデルに匹敵する性能を引き出した研究。

Background

背景

最近のAIは、ただ質問に答えるだけでなく、自分で計画を立て、ツールを使い、途中経過を検証しながら作業を進める「エージェント(自律的に動く助手)」へと進化しています。ソフト開発や科学研究のような現場では、AIは情報を集め、課題を分解し、何時間もかけて試行錯誤を続ける必要があります。

こうした「長い道のり(long-horizon)」をこなす力を高める方法は、これまで主に「モデルそのものを巨大化する」ことでした。しかしこの方法は、莫大な計算資源とデータがなければ再現できず、限られた組織しか追随できません。そこでこの研究は「モデルを大きくせず、作業を最後までやり抜く力そのものを鍛える」という別ルートに挑みました。

Novelty

何が新しいか

核心は2つです。

ひとつは「知識・行動インフラ(Knowledge-Action Graph)」の構築。普通のAI学習は完成した文章だけを教材にしますが、これでは「どう調べ、どう試し、どこで失敗し、どう直したか」という過程が学べません。そこで研究チームは、証拠・行動・観察結果・検証結果を一つの地図のようにつなぎ、成功も失敗も丸ごと記録した教材を作りました。平均4万5千トークン(おおよそ原稿用紙100枚分以上)という長い作業記録です。

もうひとつは「複数の専門家先生から学ぶ蒸留」。検索、科学、工学、指示の遵守など分野ごとに得意なAI(教師モデル)を別々に育て、その知恵を1つの「生徒モデル」に集約します。ここで巧みなのは、分野ごとに考え方のクセが違うため衝突が起きる問題を、​分野ごとに担当の先生を割り当て、各分野を平等に扱うことで解消した点です。

Results

どんな結果が出たか

Agents-A1(350億パラメータ)は、Kimi-K2.6やDeepSeek-V4-proといった約30倍規模の1兆パラメータ級モデルを複数の指標で上回りました。たとえば検索系のSEAL-0で56.4点(1兆級は42〜55点)、指示遵守のIFBenchで80.6点(同71〜76点)、物理オリンピック級のHiPhOで46.4点、科学オリンピックのFrontierScience-Olympiadで79.0点と、いずれもトップ級です。

さらに実応用として、機械学習の最適化タスクを12時間自走させた実験では、AUC(精度指標)を0.58から0.9935まで自力で改善し、Kaggleコンペで金メダル相当に到達しました。一方、長期記憶が必要な工学タスクではGPT-5.5(72.7点)に対し43.9点と差が残るなど、限界も率直に示されています。

Key Point

なぜ重要か

この研究が示すのは「賢いAIを使うのに、必ずしも超巨大モデルは要らない」という現実的な道筋です。1兆パラメータ級モデルは運用コストも莫大ですが、350億パラメータなら導入や運用のハードルが大きく下がります。コスト面でAI導入をためらってきた企業にとって、これは大きな朗報といえるでしょう。

特に注目すべきは「長い作業をやり抜く力」を鍛えた点です。実務でAIに本当に任せたいのは、一問一答ではなく、調査・分析・試行錯誤を伴う数時間がかりの仕事です。本研究のAIは、台風の進路を実データから自力で再構築し図表とレポートまで仕上げる、機械学習モデルを半日かけて改良し金メダル級に到達する、といった一連の業務を自走でこなしました。

つまり、適切な「学び方」を設計すれば、中型モデルでも実務級のエージェントが作れる。これは、AI活用を一部の巨大企業だけの特権から、より多くの組織へ開放する可能性を示しています。

From the Host

解説者ノート

個人的に面白いのは「パラメータ競争」とは別の土俵で勝負を挑んだ点です。AI業界は「とにかく大きく」が主流でしたが、本研究は「学び方の質」で殴り返した格好です。特に、失敗の過程まで丸ごと教材化する発想は、人間の徒弟制度を思わせて納得感がありました。一方、工学系の長期記憶タスクではまだ巨大モデルに及ばず、論文も「過去の決定を覚え続ける力」を課題に挙げています。効率路線がどこまで巨大路線に迫れるか、続報に注目したいところです。

キーワード

エージェント(Agent)

質問に答えるだけでなく、自分で計画し、ツールを使い、検証しながら作業を進める自律型AI。

長い道のり(Long-Horizon)

何十ステップも、ときに何時間もかけて続ける長期的な作業のこと。途中の小さなミスが積み重なりやすい難しさがある。

パラメータ

AIの「脳の規模」を表す数字。多いほど賢くなりやすいが、運用コストも増える。本研究は350億で1兆級に挑んだ。

知識・行動グラフ(KAG)

証拠・行動・観察・検証結果を地図のようにつないだ教材。成功も失敗も「過程ごと」記録する点が新しい。

蒸留(Distillation)

優秀な「先生AI」の知恵を、より扱いやすい「生徒AI」へ受け継がせる技術。本研究は複数の専門家先生を使った。

MoE(混合エキスパート)

モデル内に複数の専門家を持ち、必要な専門家だけを呼び出す仕組み。全体は大きくても実際に動く部分は小さく、効率的。

論文情報

2606 30616

トランスクリプト

かなで

かなで

はじまりました、放課後論文ラジオです。
ゆい

ゆい

ゆいです!
かなで

かなで

かなでです。
ゆい

ゆい

この番組は、むずかしいAI論文を2人でゆるく読み解いてお届けしてるよ!
かなで

かなで

今日もよろしくね。ゆい、最近なんか頑張ってることある?
ゆい

ゆい

あー、あるある!自由研究やってるんだけど、これが終わらなくて。

EP.074|#74 小さなAIが巨大モデルに勝つ「やり抜く力」の正体