Liquid AI 开源 LFM2.5-VL-DSpark:加速视觉语言模型推理
Liquid AI 在 Hugging Face 平台发布实验性推测解码(speculative decoding)辅助模型 LFM2.5 VL DSpark,专为 30 亿参数视觉语言模型 LFM2.5 VL 3B 设计。 该辅助模型采用 4 层纯注意力架构,包含约 2.8 亿参数,仅使整体参数量增加 8.9%。实测数据显示,在 Apple M5 Max 设备上解码速度最高提升 3.13 倍,端到端延迟优化 1.56–2.62 倍;在 H...