返回行业动态

SGLang 与 Miles 为月之暗面 Kimi K3 模型提供发布当日支持

2026/07/27 18:06
查看原文

OmniTools 7月28日消息,SGLang 和 Miles 工具链为月之暗面开源的 2.8T 参数大模型 Kimi K3 提供发布当日支持,其中 SGLang 负责推理优化,Miles 支持强化学习(RL)训练。

Kimi K3 采用 69 层 KDA 线性注意力与 24 层 MLA 交错的混合架构。在 SGLang 上,单卡 batch-1 解码速度约为 113 tok/s;结合 DSpark 推测解码后,可达约 423 tok/s。

该模型及配套工具支持信息均随 Kimi K3 开源发布同步公开。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部