产品与应用官方发布 · blogs.nvidia.com
NVIDIA 公布 Vera CPU 智能体性能数据
OmniTools 11月6日消息,NVIDIA 在 11 月 5 日发布的博客中介绍了 Vera CPU 面向 AI 智能体的性能表现,称其可在同一颗 CPU 上兼顾智能体运行速度与每瓦容量。
NVIDIA 表示,在 100 兆瓦数据中心对比中,单颗 Vera CPU 的表现优于最快的 x86 CPU 和最节能的 x86 CPU。与最快的 x86 CPU 相比,Vera 每瓦可支持 1.6 倍智能体数量;与最节能的 x86 CPU 相比,Vera 的智能体速度提升 2 倍,并保持领先能效。
早期采用者在生产式测试中给出了数据:Perplexity 使用 Vera 运行智能体编程任务,速度提升 1.5 倍,并计划在即将上线的生产系统中部署 Vera;DeepInfra 在其生产智能体负载的编排任务上达到最佳 x86 处理器最高 2.2 倍的速度;ClickHouse 的标准二进制未做 Vera 专属调优,在 176 核上接近线性扩展,并登上 ClickBench 硬件排行榜首位;DuckLabs 的 TPC-H SF1000 中位性能约为 Intel Xeon 6 基线的 1.5 倍。
Daytona 使用 Vera 在 10.8 秒内上线 1,000 个智能体沙箱,在 2,000 个并发沙箱下达到每秒完成 12.7 个任务,x86 对应时间为 88.4 秒;Modal 则实现每核最高 2 倍于同类 x86 硬件的沙箱吞吐量,且负载越高增益越明显。