
据wccftech报说念,英伟达Blackwell GB300 在全新智能体 AI 职责负载基准测试 AA-AgentPerf 中创下性能记录!
英伟达Blackwell Ultra GB300 在智能体 AI 任务中的性能达到 Hopper 架构居品的 20 倍,在最新一轮基准测试中斩获最高性能收获。

评测机构 Artificial Analysis 推出了一款全新基准测试器具 AA-AgentPerf,该器具用于测算推理部署集群在确实业务负载下约略承载的活跃智能体数目,其秘籍的业务负载场景包含多种确实工况。 AA-AgentPerf 基准测试主要接洽三项中枢认识,这三神气的亦然现时 AI 线上部署的中枢评判设施,具体如下:
Time to First Token(TTFT,首 Token 生成时延):从发送推理苦求到收到首个输出 Token 的单苦求延长;
输成就成速率:得回首 Token 之后,单个苦求每秒产出的 Token 数目;
系统全体输出隐晦:所有并发驱动的智能体每秒共计输出的 Token 总量。
英伟达初次发布基于 DeepSeek V4 Pro 大模子、在 GB300 NVL72 整机平台上测得的 AA-AgentPerf 基准测试数据。该模子属于现时赋能万般智能体应用的前沿大模子,在 AI 行业中应用终点平凡。

首轮基准测试服从透露,凤凰彩票(中国)官方网站英伟达GB300 硬件跑出了最优性能,单元兆瓦算力下的性能是前代 HGX H200 平台的 20 倍。GB300 每兆瓦算力最多可支握 60000 个并发智能体,相对 Hopper 架构竣事了弘大性能跳动。

英伟达示意,本次测试数据充分体现出 GB300 NVL72 整机与 Blackwell 架构的上风:约略相识承载大限制智能体代码类职责负载,况兼在多路并发智能体会话场景下永恒保管 GPU 高满载愚弄率。
放眼曩昔凤凰彩票中国官网入口,英伟达Rubin 架构居品行将面世,依托经由全面强化的 AI 架构,它将进一步拉大性能最初上风:其 NVFP4 算力单元可提供 50 PFLOPs 算力;搭配 Vera CPU 后,大模子器具调用才调与端到端全链路的性能、能效皆将竣事大幅提高。