DFlash：块扩散草稿模型实现最高15倍吞吐量提升

OmniTools 6月24日消息，加州大学圣地亚哥分校团队提出新型投机解码方法DFlash，采用轻量级块扩散草稿模型，支持一次前向推理生成整块token，并由目标模型并行验证，确保输出无损。

实验显示，DFlash在Qwen3-8B等多款模型上平均无损加速超6倍（MATH-500基准达6.08×），相较EAGLE-3最高提速2.5倍；在NVIDIA Blackwell平台配合TensorRT-LLM运行gpt-oss-120b时，吞吐量最高提升15倍，约为EAGLE-3的1.5倍。

其核心创新在于将目标模型多层隐藏特征注入草稿模型各层的Key-Value投影，使接受长度随草稿深度动态增长。