返回行业动态

Cactus 发布 Gemma 4 E2B Hybrid 混合模型,支持设备端置信度评估与自动路由

2026/07/23 06:16
查看原文

OmniTools 7月23日消息,Cactus 推出基于 Gemma 4 的混合模型“Cactus Hybrid”,在模型检查点中内嵌置信度探针,可为每个生成答案输出 0–1 之间的结构化置信度分数。高置信度时在设备端直接响应,低分时自动路由至更大模型处理。

该探针无需音频训练数据,在四个音频基准测试中 AUROC 达 0.79–0.88,显著高于 token 熵基线(均值 0.549)。项目已按 MIT 协议开源,代码托管于 GitHub。

相关背景

想继续了解,可以看这些

从这条动态出发,继续查看相关分析、产品详情和同主题更新。

最新工具

刚收录的 AI 工具,适合顺手发现可用产品。

查看全部