OmniTools 9月10日消息,DeepSeek AI 近日发布多模态混合专家(MoE)模型 DeepSeek-V4.1-Flash。该模型主干参数量为 552B,叠加 196B Engram 参数,上下文窗口达 100 万 token。
模型在推理阶段实现高效参数调度:prefill 阶段激活约 8B 参数,decode 阶段激活约 16B 参数。通过 FP4 量化 KV 缓存与跨层注意力复用技术,全局 KV 缓存开销降至每 token 约 890 字节,约为 DeepSeek-V4-Flash 的 1/4、DeepSeek-V1 的 1/437。