英伟达发布 Nemotron 3.5 Embed、Rerank 与 Parse 检索模型

OmniTools 10月21日消息，据 Hugging Face 博客 10 月 21 日消息，英伟达扩展 Nemotron Retriever 系列，推出面向企业智能体工作流的开放商用检索模型，包括 Nemotron 3.5 Embed 8B BF16、1B BF16、1B NVFP4，Nemotron 3.5 Rerank 8B BF16，以及参数规模为 631M 的 Nemotron 3.5 Parse。该系列模型支持文本与图像检索、多模态重排序和文档处理，覆盖表格、图表、信息图、数据表与示意图等内容。

据英伟达公布的数据，截至 10 月 20 日，在 ViDoRe v3.1 榜单上，Nemotron 3.5 Embed 8B BF16 以 61.17 nDCG@10 在稠密检索模型中排名第一，比 Llama Nemotron Embed VL 1B 的 52.23 高 8.94 点；由 8B 模型蒸馏的 1B BF16 版本得分 58.38，保留 95.4% 的性能。重排序方面，Nemotron 3.5 Rerank 8B BF16 在图文混合输入下取得 60.49 nDCG@10，Qwen-3-VL-Reranker-8B 为 59.17。英伟达称，在智能体检索流程中加入该重排序模型，可使单次查询的推理 token 成本分别降低约 14%（搭配 8B Embed）和 13%（搭配 1B Embed）。

部署层面，Nemotron 3.5 Embed 1B NVFP4 在 NVIDIA GB200 上的吞吐量较 1B BF16 提升 27.1%，从每秒 101.3 份文档提高到 128.8 份，同时在 ViDoRe v3 图文混合输入上保留 99.85% 的检索精度。英伟达表示，NIM 在 RTX PRO 6000 Blackwell 服务器版上实现每秒 6031 次查询请求，约为对比 vLLM 配置 2099 次的 2.9 倍。