
#80 スマホで動くAIが1兆モデルに並んだ日
Gemma 4は310億の軽さで巨大モデルと肩を並べた
2026年7月9日
番組ノート
今回の論文
- タイトル: Gemma 4 Technical Report
- 著者: Gemma Team, Google DeepMind
- 発表: 2026年6月(arXivプレプリント)
このエピソードのポイント
- スマホやノートPCでも動くほど軽いのに、文章・画像・音声をまるごと理解できるAI
- 答える前に頭の中で考えを書き出す「考えるモード」で、数学やプログラミングの正答率が急上昇
- わずか310億の規模で、数千億〜1兆超の巨大モデルと肩を並べた
論文を読み解く
Overview
ひと言でいうと
スマホなどの手元の機器でも動くほど軽量なのに、文章・画像・音声をまるごと理解し、しかも「考えてから答える」能力を身につけた、誰でも自由に使える公開AIモデル群を実現した研究。
Background
背景
ChatGPTのような大規模AIは強力ですが、多くは中身が非公開で、動かすにも巨大なサーバーが必要です。一方で「手元の機器(スマホやノートPC)で動く、中身が公開された軽いAI」への需要が高まっています。GoogleのGemmaシリーズはこの流れを担ってきました。
ただし軽さと賢さの両立は難しく、特に「長い文章を扱うとメモリを爆発的に消費する」「複雑な数学やプログラミングの推論が苦手」「画像や音声を扱うのに別々の変換装置が必要で重い」といった課題がありました。Gemma 4はこれらを一気に解決しようとした最新世代です。
Novelty
何が新しいか
大きく4つの工夫があります。
1つ目は「考えるモード(thinking mode)」。答えを即答するのではなく、いったん頭の中で推論の道筋(メモ書き)を書き出してから答えます。人間が難問を解くときに紙に計算過程を書くのと同じ発想で、これにより数学やコーディングの正答率が大きく上がりました。
2つ目は「省メモリ設計」。AIは長い文章を扱うほど記憶(KVキャッシュ)が膨らみます。そこで、遠くまで見る注意と近くだけ見る注意を5対1で組み合わせ、記憶の使い回しなどを工夫し、メモリ消費を最大37.5%削減しました。
3つ目は「変換装置なし(encoder-free)」の構造。従来は画像や音声を専用の変換装置で処理していましたが、12Bモデルでは生の画像の断片や40ミリ秒ごとの音声を直接AIに流し込む方式にし、装置を丸ごと省きました。
4つ目は軽量化技術。計算を粗くする「量子化」や、先読みで生成を速める仕組みを組み込みました。
Results
どんな結果が出たか
人間による目隠し評価(Arena)で、Gemma 4の31Bモデルは公開されている「中身の詰まった(dense)」モデルの中でトップに立ちました。注目すべきは規模の対比です。相手は数千億〜1兆超のパラメータを持つ巨大モデルなのに、わずか310億パラメータのGemma 4がそれらと肩を並べたのです。
性能の伸びも劇的で、数学コンテスト問題(AIME 2026)では前世代のGemma 3 27Bが20.8点だったのに対し、Gemma 4 31Bは89.2点。音声認識でも前世代比で誤り率が10〜17%改善しつつ、音声処理部品のサイズは390MBから87MBへと78%も縮小しました。
Key Point
なぜ重要か
最大のポイントは「巨大サーバーがなくても高性能AIが使える」という点です。Apache 2.0という自由なライセンスで公開されているため、企業は自社サーバーやスマホ、社内機器にAIを組み込み、外部に情報を送らず手元で動かせます。機密データを扱う金融・医療・製造業にとって、情報漏洩リスクを抑えつつAIを活用できる意味は大きいでしょう。
また「考えるモード」により、単なる文章生成にとどまらず、複雑な業務判断やプログラム作成の補助まで任せられる可能性が広がります。文章・画像・音声をまとめて扱えるため、書類の読み取り、会議音声の文字起こし・翻訳、図表の解釈といった業務を一つのAIでこなせます。
「大きいほど賢い」という常識に対し、「設計の工夫で小さくても戦える」ことを示した点は、AI導入コストを気にするビジネス現場にとって朗報です。
From the Host
解説者ノート
個人的に面白いのは「310億パラメータで1兆超の巨大モデルと張り合う」という点です。AIの進化は「とにかく巨大化」の一辺倒に見えがちですが、実際には省メモリ設計や記憶の使い回しといった地道な工夫が効いています。特に音声処理を78%も小さくして精度は上げた、という部分は技術者の執念を感じます。手元で動く高性能AIが当たり前になる未来を予感させる一報でした。なお本レポートは近未来の日付設定で書かれており、記載の競合モデル名などは実在確認が必要な点には留意したいところです。
キーワード
オープンウェイト
AIの「頭脳の中身」が公開されていて、誰でもダウンロードして自由に使える形式のこと
考えるモード(thinking mode)
答えを出す前に、推論の過程をいったん書き出してから回答する仕組み。難問への正答率が上がる
Mixture-of-Experts(MoE)
多数の専門家AIを用意し、質問ごとに必要な担当だけを動かす方式。全体は大きくても計算は軽い
KVキャッシュ
AIが文脈を覚えておくための記憶メモ。長い文章ほど膨らみ、メモリを圧迫する
量子化(QAT)
計算の精度をあえて粗くしてデータを小さくし、動作を軽く速くする技術
エンコーダーフリー
画像・音声を処理する専用の変換装置を省き、生データを直接AIに流し込む構造
トランスクリプト

かなで

ゆい

かなで

ゆい

かなで

ゆい