OmniTools 7月28日消息，月之暗面推出 Kimi Linear，一种新型混合线性注意力架构。该架构首次在短上下文、长上下文及强化学习场景中全面超越全注意力机制。 其 3B 激活参数模型在全部评估任务中显著优于全 MLA，KV cache 使用量最多降低 75%，并在 100 万 token 上下文长度下实现最高 6 倍解码吞吐量。 月之暗面已开源 KDA 内核、vLLM 实现及对应模型权重。
