返回行业动态

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

2026/10/16 15:42
查看原文

OmniTools 10月16日消息,vLLM 宣布从发布首日(Day 0)起支持 Reflection 公司推出的 Beam 模型。该模型为 501B 参数量的稀疏混合专家(MoE)架构,每 token 激活约 23B 参数。

Beam 模型已在 NVIDIA Blackwell 架构 GPU 上完成针对性优化,vLLM 提供开箱即用的推理支持,涵盖调度、内存管理与并行计算等关键环节。

此举标志着主流大模型推理框架对超大规模 MoE 模型的快速适配能力持续增强。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部