SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持

OmniTools 8月11日消息，SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 模型提供 Day-0 支持。该开源模型采用混合专家（MoE）架构，总参数量 30B，激活参数量 3B，支持最长 1M token 上下文。

Nemotron 3.5 Lightning 的 BF16 与 NVFP4 权重已上线 Hugging Face。模型支持 MTP、DFlash、DSpark 三种投机解码技术，可提升推理效率。

开发者可通过 OpenAI 兼容 API 将该模型直接接入智能体工作流。