模型发布媒体报道 · aihot.virxact.com
SpecForge v0.3.0 发布:支持多算法投机解码,实现目标模型推理与草稿模型训练分离
OmniTools 8月5日消息,SpecForge v0.3.0 正式发布。该版本将目标模型推理与草稿模型训练解耦,支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino、DSpark 等多种投机解码算法。
新版本统一了在线、离线及解耦式工作流,并新增开放 SpecBundle 草稿模型,旨在提升大语言模型推理效率与灵活性。
项目开源地址及技术细节可通过官方渠道获取。