英伟达最新的Blackwell GPU包含两款小型工作站显卡,旨在70瓦功耗限制内为专业可视化和本地AI工作负载提供最高性能。
这两款产品于周一在加拿大温哥华的Siggraph大会上发布,分别是RTX Pro 4000小型版(SFF)和RTX Pro 2000,它们采用相同的半高双槽散热器设计。尽管外观相似,但两款显卡性能差异显著,RTX 4000 SFF拥有8960个CUDA核心,是RTX Pro 2000的4352个核心的两倍多。
据英伟达称,RTX 4000 Ada SFF在光线追踪方面比前代产品快1.7倍,AI性能提升2.5倍。凭借280个张量核心,该芯片能够提供770 teraFLOPS的FP4性能。
虽然技术上这确实是浮点运算2.51倍的提升,但大部分性能提升来自FP4格式而非架构改进。当标准化为FP8时,芯片性能仅提升约25%。
虽然这款小型显卡的浮点性能提升有限,但内存带宽这一本地推理的关键指标却有显著改进。配备24GB GDDR7内存,带宽达432GB/s,该显卡在运行OpenAI新发布的gpt-oss-20b等大语言模型时,Token生成速度比英伟达上一代产品快约54%。
英伟达建议RTX Pro 2000主要用于专业可视化工作负载,同时也承诺显著的性能提升。据该GPU巨头表示,与上一代Ada架构相比,用户可期待3D建模性能提升1.6倍,CAD性能提高1.4倍,渲染速度快1.6倍。
在AI性能方面,该显卡远不及更大型或更高功耗的同系列产品,但考虑到其仅70W的热设计功耗,表现仍然不俗。该显卡拥有高达545 teraFLOPS的稀疏FP4计算能力,以及由16GB GDDR7提供的280GB/s内存带宽。
RTX Pro 4000 SFF和2000都将于今年晚些时候通过PNY和TD SYNNEX发售,并将在BOXX、戴尔、惠普和联想的OEM系统中提供。
这两款显卡完善了英伟达在3月GTC大会上发布的Blackwell工作站GPU产品线,当时公司发布了96GB的RTX Pro 6000。
同样在Siggraph大会上,英伟达展示了一款2U服务器平台,可运行两块600W的RTX Pro 6000服务器版显卡。每块GPU拥有高达4 petaFLOPS的稀疏FP4性能。
这些系统现已通过思科、戴尔、慧与、联想和超微等厂商提供。
Q&A
Q1:英伟达RTX Pro 4000 SFF和RTX Pro 2000有什么区别?
A:两款显卡最大区别在于CUDA核心数量,RTX Pro 4000 SFF拥有8960个CUDA核心,是RTX Pro 2000的4352个核心的两倍多。RTX Pro 4000 SFF配备24GB GDDR7内存和432GB/s带宽,而RTX Pro 2000配备16GB GDDR7内存和280GB/s带宽。
Q2:这两款显卡的AI性能表现如何?
A:RTX Pro 4000 SFF能够提供770 teraFLOPS的FP4性能,在运行大语言模型时Token生成速度比上一代产品快约54%。RTX Pro 2000拥有545 teraFLOPS的稀疏FP4计算能力。虽然不及更高功耗的同系列产品,但在70W功耗限制下表现优异。
Q3:这两款显卡什么时候上市,通过哪些渠道购买?
A:RTX Pro 4000 SFF和RTX Pro 2000将于今年晚些时候发售,用户可通过PNY和TD SYNNEX购买,也可在BOXX、戴尔、惠普和联想的OEM系统中获得这些显卡。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。