OmniTools 6月28日消息,新浪正式开源轻量级大模型VibeThinker-3B,参数量仅30亿。该模型在AIME26等数学与编程基准测试中,表现与参数量大200–333倍的DeepSeek V3.2等模型持平;在LiveCodeBench上超越所有20B以下模型,在LeetCode竞赛中解决123/128题,优于GPT-5.2、Kimi K2.5等同类模型。
但在知识密集型任务GPQA-Diamond上,VibeThinker-3B表现大幅落后。该模型基于阿里Qwen2.5-Coder-3B底座,经监督微调(SFT)、强化学习与自蒸馏等多阶段后训练优化。
研究团队提出“参数压缩-覆盖假说”:逻辑推理依赖少量可压缩模式,而广泛的事实性知识仍需更大参数规模支撑。目前模型代码与权重已全面开源。