谷歌发布DiffusionGemma文本扩散AI模型 提升本地AI推理速度4倍

6月11日消息，据报道，谷歌正式发布全新开放人工智能模型DiffusionGemma，该模型基于文本扩散机制打造。与传统自回归大语言模型相比，本地AI推理速度提升4倍，为端侧及本地人工智能应用的优化开辟了新路径。

当前，GPT、Gemini等主流大语言模型多采用自回归架构，即按顺序逐一生成文本单元。这类模型在云端批量处理场景中表现稳定，但由于受硬件内存带宽限制，应用于本地推理时容易造成计算资源浪费。

DiffusionGemma创新性地采用扩散模型技术路线，摒弃逐一生成本文单元的方式，通过对噪声逐步去噪、并行处理全部文本单元来完成内容生成。这种方式能够同步优化整体输出效果，并完美适配本地低带宽运行环境，速度优势显著。

据介绍，DiffusionGemma的整体能力与同系列Gemma 4模型持平，兼顾高效推理与内容质量。模型支持生成过程中的迭代纠错，输出内容的稳定性和一致性更强。其采样速率可达每秒1479个文本单元，单次生成耗时仅0.84秒，生成效率大幅提升。

在综合性能测试中，该模型在不同领域表现各有亮点。代码生成方面，在LiveCodeBench、BigCodeBench、HumanEval三项测试中，DiffusionGemma分别取得30.9%、45.4%、89.6%的成绩，综合表现与Gemini 2.0 Flash-Lite旗鼓相当。

数学推理方面，DiffusionGemma在AIME 2025测试中获得23.3%的得分，优于同期对比模型，充分彰显了扩散架构在数理推理任务中的发展潜力。与此同时，该模型仍存在一定提升空间，在科学推理及高难度综合推理相关测试中，成绩暂不及主流对比模型。

硬件适配方面，DiffusionGemma的架构设计能够充分发挥英伟达GPU的并行计算性能。实测数据显示，在单块H100 GPU环境下，模型每秒可生成1000个文本单元；在DGX Spark设备上速率为每秒150个文本单元；在DGX Station设备上则可达到每秒2000个文本单元。整体速度约为同等运行条件下自回归模型的4倍。

据悉，DiffusionGemma已按照Apache 2.0开源协议正式开放，开发者可前往Hugging Face平台下载模型权重，进行二次开发与实际应用部署。