OTRouterClaude、GPT 一个 Key 调用看价格 →
模型发布媒体报道 · github.com

Cactus 发布 Gemma 4 E2B Hybrid 混合模型,支持设备端置信度评估与自动路由

OmniTools 7月23日消息,Cactus 推出基于 Gemma 4 的混合模型“Cactus Hybrid”,在模型检查点中内嵌置信度探针,可为每个生成答案输出 0–1 之间的结构化置信度分数。高置信度时在设备端直接响应,低分时自动路由至更大模型处理。

该探针无需音频训练数据,在四个音频基准测试中 AUROC 达 0.79–0.88,显著高于 token 熵基线(均值 0.549)。项目已按 MIT 协议开源,代码托管于 GitHub。

返回快讯