OmniTools 8月11日消息,SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 模型提供 Day-0 支持。该开源模型采用混合专家(MoE)架构,总参数量 30B,激活参数量 3B,支持最长 1M token 上下文。
Nemotron 3.5 Lightning 的 BF16 与 NVFP4 权重已上线 Hugging Face。模型支持 MTP、DFlash、DSpark 三种投机解码技术,可提升推理效率。
开发者可通过 OpenAI 兼容 API 将该模型直接接入智能体工作流。