Tomer Tunguz：专用 AI 决策器将 if-then 判断成本降低数十倍

OmniTools 9月22日消息，Tomer Tunguz 撰文指出，新一代专用 AI 决策器正逐步替代软件中传统的 if-then 判断逻辑。Jev 与 SemIf 等轻量级决策模型可在数百毫秒内完成响应，推理成本较通用生成式模型降低约 76 倍至 209 倍。

作者在其自主开发的 Agent 中将约 25% 的条件判断调用替换为上述专用模型。在 98 条经人工核验的真实生产邮件线程测试中，Jev 分类准确率达 80%，本地部署的 SemIf 达 82%，均明显高于当前生产所用模型的 47% 准确率。