返回行业动态

腾讯发布稀疏MoE大模型Hy3:295B参数、21B激活,支持256K上下文

2026/07/07 06:34
查看原文

OmniTools 7月7日消息,腾讯Hy团队正式发布稀疏混合专家(MoE)大模型Hy3。该模型总参数量达2950亿,单次推理激活参数为210亿,采用192专家与top-8路由架构,上下文长度支持至256K。

Hy3引入多token预测层(MTP),兼容vLLM与SGLang的推测解码以加速推理,并提供FP8量化版本。在多项基准测试中表现突出:SWE-Bench Verified得分为78.0,GPQA Diamond达90.4,USAMO 2026为72.0,IMOAnswerBench为90.0;盲测评分2.67/4,高于GLM-5.1的2.51。

模型在工具调用、抗幻觉与多轮对话追踪三项可靠性指标上,错误率分别从12.5%、25.4%、17.4%降至5.4%、12.7%、7.9%。支持OpenAI兼容API及reasoning_effort参数调控推理深度。Hy3已基于Apache 2.0协议开源,OpenRouter平台同步提供免费API路由服务,有效期至2026年7月21日。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部