OmniTools 10月1日消息,蚂蚁百灵正式推出新一代大模型 Ling-3.1-flash。该模型总参数量约 560B,单 Token 激活参数约 25B,上下文窗口上限达 1M。
在架构设计上,Ling-3.1-flash 延续混合线性架构,并进一步提升线性 Attention 层比例,采用 7 层 KDA 搭配 1 层 Gated MLA 的结构。其 MoE 路由机制支持从 512 个专家中动态选择 8 个活跃专家,并额外引入 1 个共享专家。
此次升级主要聚焦于提升模型在真实场景下的长任务处理与推理能力。