OmniTools 10月15日消息,vLLM 官方宣布推出新型在线拟合接受估计器,将置信度评分(confidence scoring)能力扩展至所有基于草稿模型的投机解码类型(如 EAGLE、MTP 等)。该功能通过在线拟合的逻辑回归模型,直接从草稿模型 logits 中提取特征预测目标模型的接受概率,作为自适应验证(Adaptive Verification)的置信分,无需额外训练置信度头部。此举显著提升了投机解码的灵活性与部署效率。