模型发布官方发布 · huggingface.co
Thinking Machines Lab 发布 Inkling 2 Mini:面向本地部署的多模态 MoE 模型
合并 2 条报道
OmniTools 11月21日消息,Thinking Machines Lab 发布面向本地 AI 环境的循环 Transformer 多模态混合专家模型 Inkling 2 Mini。该模型物理总参数约 26B,每 token 激活 3B 参数,支持 100 万 token 上下文,接受图像与文本输入。
Inkling 2 Mini 共 24 个解码器层,其中中间 12 层循环执行 3 次,使模型按 48 次逻辑层访问运行;每层从 128 个专家中选择 8 个。模型以 NVFP4 与 MXFP8 混合精度专家权重交付,并附带 DSpark drafter,以较小的内存开销提升速度。同步发布的研究版本可调整循环次数,设为 1 或 2 次可显著加快推理,但生成质量可能略低。
在 Artificial Analysis Intelligence Index v5 及多类基准测试中,Inkling 2 Mini 在 48 项基准的 32 项上领先 Gemma 4 31B、Muse Glimmer、Qwen3.8-27B 和 Nemotron 3.5 Super VL,覆盖编程与自动研究、智能体搜索与工具调用、视觉理解与生成、推理与知识、安全与对齐等方向。推理支持覆盖 Transformers、Llama App 与 llama.cpp、MLX,SGLang 提供首日推理支持。