返回行业动态

NVIDIA Blackwell架构在首个智能体AI基础设施基准测试中领先

2026/06/12 21:17
查看原文

OmniTools 6月13日消息,人工智能分析机构Artificial Analysis发布行业首个智能体AI(Agentic AI)基础设施基准测试AgentPerf。首轮测试结果显示,基于NVIDIA Blackwell Ultra架构的GB300 NVL72平台在多项智能体工作负载中表现最优,单位功耗(每兆瓦)可运行的智能体数量达NVIDIA Hopper架构系统的20倍。

该基准测试聚焦真实编码场景中的智能体行为轨迹,涵盖多步推理、工具调用与长上下文链式处理,区别于传统单次LLM调用的推理基准。测试采用DeepSeek V4 Pro混合专家模型,模拟包括代码读写、执行与迭代等典型任务流程。

NVIDIA表示,性能优势源于全栈协同优化,包括72卡GPU集群级互联、CUDA内核通信与计算重叠、TensorRT LLM对并发会话的持续高效调度等。Baseten、DeepInfra和Together AI等推理服务商已基于Blackwell平台部署DeepSeek V4 Pro等前沿模型,支持Cursor、Pam.ai等生产级智能体应用。