OmniTools 8月10日消息,Meta正式发布多模态大模型Muse Glimmer,该模型为30B参数的开源模型(Apache 2.0许可证),专为本地化、隐私敏感的智能体(agentic)场景设计,适用于代码生成、文档分析、个人助理及Claw/Hermes类架构。
Muse Glimmer采用双模块架构:2B参数ViT风格视觉编码器(支持图像与视频帧处理,最高96帧/视频)与28B参数文本解码器;解码器引入混合注意力机制(滑动窗口+全注意力交替)、门控分组查询注意力(KV缓存减少16倍)及Q-K归一化+查询缩放等优化技术。
模型已实现对Hugging Face Transformers、llama.cpp、vLLM等主流框架的首日(day-0)支持,并提供文本、图文、视频、工具调用及开放目标检测等多种能力演示。其配套DFlash推测解码器可显著提升结构化内容(如代码)生成速度。