OmniTools 9月18日消息,AI 初创公司 PrismML 发布其最新轻量级大语言模型 Bonsai 2 27B。该模型基于阿里巴巴开源模型 Qwen3.8 27B 压缩而成,体积仅 5.9GB,较原模型减少约 9–10 倍内存占用,可部署于个人电脑及高端智能手机。
Bonsai 2 在多项基准测试中达到原模型 98% 的综合得分,较今年 3 月发布的初代 Bonsai(95%)有所提升。截至发布时,初代模型下载量超 1100 万次,后续更小尺寸模型下载量达 260 万次。
PrismML 采用“三元权重”(ternary weights)压缩技术,将每个权重从常规 16 位简化为 +1、−1 或 0 三种状态。公司由加州理工学院研究人员创立,CEO Babak Hassibi 为该校教授,顾问包括 Databricks 联合创始人 Ion Stoica。团队正推进对数百亿参数级更大模型的压缩工作。