IBM研究院:模型路由是系统优化问题,而非简单分类
IBM研究院近日在Hugging Face博客发布技术文章指出,模型路由远非简单的任务分类问题,而是一个涉及成本、复杂度与延迟的多维系统优化难题。 研究基于AppWorld Test Challenge中417项任务的实测数据发现:GPT 4.1在纸面定价更低,但实际运行成本(155美元)却接近Claude Sonnet 4.6(79美元),主因是缓存命中率差异显著影响了有效输入成本。 文章指出,任务难度难以在路由前准确预判,且企业场景还需...