OTRouterClaude、GPT 一个 Key 调用看价格 →
模型发布媒体报道 · aihot.virxact.com

SpecForge v0.3.0 发布:支持多算法投机解码,实现目标模型推理与草稿模型训练分离

OmniTools 8月5日消息,SpecForge v0.3.0 正式发布。该版本将目标模型推理与草稿模型训练解耦,支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino、DSpark 等多种投机解码算法。

新版本统一了在线、离线及解耦式工作流,并新增开放 SpecBundle 草稿模型,旨在提升大语言模型推理效率与灵活性。

项目开源地址及技术细节可通过官方渠道获取。

返回快讯