#38 100万個のAIを1つの土台で動かす仕組み

巨大な基盤モデルを1つだけ常駐させたまま、その上に「個性」を載せる小さなパーツ（LoRAアダプター）を百万単位で訓練・配信・管理できるようにしたインフラ基盤。

ChatGPTやClaudeのような大規模言語モデル（LLM）は、もはや「一度訓練して終わり」ではありません。企業ごと・用途ごと・ユーザーごとにカスタマイズし、継続的に学習させ続けるのが当たり前になりつつあります。

ところが従来の方法だと、カスタマイズ版を作るたびに「モデル丸ごとのコピー」を保存・配信する必要がありました。1兆パラメータ級のモデルでこれをやると、ファイルサイズは数百GB〜TB級。バリエーションが100種類あれば100倍、1万種類あれば1万倍のストレージとGPUメモリが必要になります。

「すべての顧客に専用LLMを」「すべての社員に個人秘書AIを」というビジョンは、このインフラの壁にぶつかっていました。MinTはまさにここを突破しようとした研究です。

鍵は LoRA（Low-Rank Adaptation）​ という技術。これは、巨大モデル本体は触らず、「追加の小さな調整パーツ」だけを学習させる手法です。本体が「土台付きのレストラン」だとすれば、LoRAは「日替わりメニューの紙」のようなもの。土台はそのまま、紙だけ差し替えればその日の店になる。

MinTのアイデアは「土台のモデルはGPU上に常駐させたまま、紙（アダプター）だけを訓練・配信・差し替えする」ことの徹底です。具体的には3つの方向にスケールさせました：

• スケールアップ: 1兆パラメータ級の巨大モデルでもLoRA訓練できるよう、分散処理に対応
• スケールダウン: 訓練後にやり取りするデータを、丸ごとモデル（数十GB）ではなくアダプター（数百MB〜数MB）だけに圧縮。​ベースモデルサイズの1%以下 になることも
• スケールアウト: 100万個規模のアダプターを「住所録」として管理し、必要なものだけを瞬時にGPUに呼び出す

さらに、訓練→評価→配信→巻き戻しという一連の流れをサービスAPIで隠蔽し、利用者は複雑な分散処理を意識しなくていい仕組みにしています。

実測値で見るとインパクトが分かります。

• 訓練から配信への引き渡しが、4Bモデルで 18.3倍 、30B MoEモデルで 2.85倍 高速化
• 同じGPU割り当てのまま、複数ポリシーを並行訓練することで実時間を 1.77倍／1.45倍 短縮（メモリは増えない）
• 100万エントリ規模のアダプターカタログ を扱える設計を実証。1エンジンで10万エントリの探索、クラスター規模で千個単位のアダプター同時稼働を確認
• MoEアダプターの内部構造を「パック化」する工夫で、ロード時間が 8.5〜8.7倍 高速化
• 学習品質も実証：金融タスクで精度を 42%→78% に、AIME 2024数学コンペで 11%→47% に、1兆パラメータのKimi K2モデルでもLoRA RL訓練を完走

これは「マルチテナントLLMサービス」の土台になる研究です。具体的にどう変わるか：

SaaS事業者にとって: 顧客ごとに専用にチューニングしたAIを、丸ごとモデルを複製せずに提供できる。「1000社の顧客に1000個の専用AI」がコスト的に現実味を帯びる。

社内AI導入企業にとって: 部署別・チーム別・タスク別に微調整したAIを、共通の基盤モデル1つの上で動かせる。法務用・営業用・カスタマーサポート用を別々に持つ必要がなくなる。

個人レベルでも: 将来的には「個人専用にチューニングされたLLM」が現実的なコストで持てるようになる可能性がある。論文も「組織や個人のポリシーを1兆クラス基盤の上に大量に載せる道筋」と明言しています。

また、訓練・評価・配信・ロールバック（巻き戻し）が一つの仕組みに統合されているため、AIを継続的に改善し続ける運用（lifelong learning）にも適しています。