Google DeepMind は実験的オープンモデル DiffusionGemma の開発者ガイドを公開した。Gemma 4 の 26B Mixture of Experts（推論時は 3.8B 活性）を背骨に、256 トークンのキャンバスを並列に denoising してテキストを生成する。量子化時は 18 GB VRAM 程度への収まりを想定し、重みは Apache 2.0 で配布される。テキスト・画像・動画入力に対応し、音声入力は非対応である。コンテキストは最大 256K トークンである。
自己回帰 LLM がメモリ帯域で詰まりやすいのに対し、並列生成でボトルネックを計算側へ移す。GPU 上では最大約 4 倍のトークン生成、NVIDIA GeForce RTX 5090 で 700 トークン/秒超、単一 H100 で 1000 トークン/秒超を示す。長い出力では 256 トークンブロックを確定して KV キャッシュへ積み、次ブロックへ進む block-autoregressive 方式を採る。vLLM の OpenAI 互換ローカルサーバでそのまま起動でき、Transformers、SGLang、MLX でも実行できる。従量制のファーストパーティ API 単価は公表されておらず、利用はセルフホストや Vertex AI Model Garden、NVIDIA NIM などの配備が前提となる。
性能
| モデル | 推論 | Intelligence Index | 公称コンテキスト |
|---|---|---|---|
| DiffusionGemma 26B A4B | あり | 13 | 256k |
| Gemma 4 26B A4B | あり | 26 | 256k |
同一サイズ帯の自己回帰版 Gemma 4 26B A4B より Intelligence Index は低く、拡散デコードの速度志向とのトレードオフが指数にも表れている。
評価（ベンダー）
| 指標 | DiffusionGemma 26B A4B | Gemma 4 26B A4B |
|---|---|---|
| MMLU Pro | 77.6% | 82.6% |
| AIME 2026（ツールなし） | 69.1% | 88.3% |
| LiveCodeBench v6 | 69.1% | 77.1% |
| GPQA Diamond | 73.2% | 82.3% |
| MMMU Pro | 54.3% | 73.8% |
| MRCR v2 8 needle 128k | 32.0% | 44.1% |
指示チューニング済み・推奨 Entropy Bound サンプラ条件での比較であり、主要ベンチでは背骨の自己回帰版を下回る。
数独向けの JAX SFT レシピでは、素の正答率が約 0% から約 80% へ上がり、推論ステップ数も減る例が示されている。