为什么要依赖数据中心,当你可以在桌面上运行通常在云端才有的成熟AI模型时?这正是戴尔为其新PC产品提出的论点,其中一款配备了数据中心级GPU,能够运行万亿参数的AI模型。
戴尔Pro Max GB300桌面产品配备了英伟达Grace Blackwell Ultra GB300超级芯片,这是同样用于数据中心运行最苛刻AI模型的处理器。
"想象一下一家小公司...将万亿参数的Kimi K2.5模型加载到GB300上,"戴尔产品负责人Charlie Walker在简报会上表示。
Pro Max GB300桌面产品的推出,正值更多AI技术被设计为在PC上运行,企业也在寻求降低云计算成本之际。例如,OpenClaw是一种AI技术,可以运行智能体来自动化PC上的工作,同时协调这些任务与基于云的大语言模型。
英伟达本质上是将GB300超级芯片从数据中心中抽出,并将其装入桌面设备。由于AI计算依赖于Token,企业可以节省资金,因为在桌面上生成Token的成本比在云端显著更低。
"你可以将Token生成视为为公司创造收入——将其从云端拉出来,放在桌边,"Walker说道。
不过,令人印象深刻的AI性能也有其不利之处:Pro Max GB300是一个1600瓦的庞然大物,这意味着电费将会更高。戴尔没有透露这款桌面产品的价格,但它会很昂贵——CDW已为MSI GB300工作站标价97,000美元。
英伟达正在领导桌面AI PC的开发,其GPU通过PC制造商销售。Pro Max GB300配备了DGX B300,具有252GB HBM3e内存。英伟达还有一款名为DGX Spark的AI桌面,价格为4,699美元,配备功能稍弱的GPU。
这些高端PC"让开发者能够将某些东西放在桌子上或桌子下,对数据安全、访问和控制完全有信心,"英伟达企业平台副总裁Chris Marriott在新闻电话会议中表示。
Marriott说,桌面是实验的绝佳场所,因为开发者可以在桌面上微调模型,然后再部署到云端。
Marriott表示,开发AI模型并不像发出提示并获得回应那么简单。一些AI任务会持续运行数周甚至数月,特别是像OpenClaw这样的智能体之间相互对话以及企业运行代码时。
更长的任务会生成更多Token,让桌面能够提供一个沙盒环境来测试智能体,然后再将生产模型部署到云端。智能体工作流程也可以与云端模型进行测试。
"当你运行智能体时——特别是部署生产智能体——你总是希望运行你能负担得起的最高级别智能,因为你要给它们分配长期运行的任务,"Marriott说道。
戴尔没有宣布Pro Max GB300的发货日期,但表示一些设备已经交付给客户。这一宣布的时机配合了英伟达在加利福尼亚州圣何塞举行的GTC开发者大会,该大会将持续到周四。
尽管桌面AI一直是可能的,特别是通过游戏GPU,但GB300超级芯片是专为AI而非游戏明确设计的。早期围绕AI PC的炒作主要集中在笔记本电脑上,这些产品正在帮助改善PC功能。
J. Gold Associates首席分析师Jack Gold表示,随着AI处理扩展到数据中心之外的更多计算设备,戴尔新桌面产品的重要性日益显现。尽管这种快速发展的技术是通过服务器上的大语言模型突破的,但AI正越来越多地通过推理和小语言模型向边缘迁移。
即便如此,云计算仍将是企业AI应用的主流。模型通过混合云服务器有效提供服务,为扩展AI基础设施提供更多计算能力。
Q&A
Q1:戴尔Pro Max GB300桌面产品有什么特别之处?
A:戴尔Pro Max GB300桌面产品配备了英伟达Grace Blackwell Ultra GB300超级芯片,这是同样用于数据中心的处理器,能够运行万亿参数的AI模型,让企业在桌面端就能运行通常需要云端才能处理的复杂AI任务。
Q2:使用桌面AI相比云端AI有什么成本优势?
A:由于AI计算依赖于Token,在桌面上生成Token的成本比在云端显著更低。企业可以将Token生成从云端转移到桌面端,从而节省大量云计算费用,特别是对于需要长期运行的AI任务。
Q3:Pro Max GB300的缺点和价格如何?
A:主要缺点是功耗高达1600瓦,会导致电费增加。价格方面戴尔未公布具体数字,但会很昂贵,类似的MSI GB300工作站标价达到97,000美元。
好文章,需要你的鼓励
苹果已开始在印度分阶段恢复Apple账户的信用卡支付功能,用户可绑定Visa和Mastercard信用卡及借记卡,用于购买iCloud+、Apple Music订阅及App Store应用。此前,由于印度储备银行于2021年推出新的周期性支付监管框架,苹果于2022年5月暂停了该支付方式。此次恢复标志着苹果在适应各国本地化监管要求方面的持续努力,同时也引发外界对苹果是否将在印度推出Apple Pay的新猜测。
腾讯混元等机构提出HiLS-Attention,通过端到端可学习的分层稀疏注意力机制,让大模型在超长上下文推理中比全量注意力快14倍,同时检索准确率更高。
Bookshop.org创始人Andy Hunter证实,与Kobo的合作集成将于今年落地。此前该计划历经多次推迟,网页措辞一度从"2026年"改为"未来某时"。Hunter表示,双方已就商业条款达成一致,工程团队正将资源重新投入Kobo支持开发,但尚无具体上线日期。该集成将支持数字版权管理要求,让用户通过Bookshop.org购买电子书,同时支持独立书店。
DSpark是DeepSeek与北京大学提出的投机解码框架,通过半自回归生成和置信度调度验证两项创新,将DeepSeek-V4用户生成速度提升60%至85%。