编者按:本文是Nemotron Labs博客系列的一部分,该系列探讨最新开放模型、数据集和训练技术如何帮助企业在英伟达平台上构建专业化AI系统和应用。每篇文章都重点介绍使用开放技术栈在生产环境中创造实际价值的实践方法——从透明的科研助手到可扩展的AI智能体。
企业可选择的强大模型已不在少数。真正的考验在于:企业构建的AI能否切实满足自身业务需求——优化工作流程、挖掘领域知识,并在准确性与可信度方面达到更高标准。
在竞争日趋激烈的AI赛道上,越来越多的优势来自企业如何利用现有模型来构建应用,而非仅仅取决于选择了哪个模型。
像英伟达Nemotron这样的开放模型,正是为定制化而生——帮助企业和国家构建可控、可信、高度贴合自身需求的AI。
构建专业化AI
自主智能体和各类AI应用,通常基于经过定制的开放模型来构建。这些智能体专注于特定任务,所使用的模型在专有知识上经过调优,并以真实业务结果作为评估基准。
这一切都需要直接获取模型本身。封闭模型虽然不断突破技术边界、持续推动通用智能的前沿发展,但也为企业在检查、调优和改进方面设下了天花板。开放模型则消除了这一障碍,赋予企业完整的所有权与控制权。
最高效的智能体AI应用往往是一套模型协同体系:开放模型与领先的前沿模型并肩工作,各司其职、发挥所长。高性能推理模型负责处理复杂规划,较小的模型则执行专项任务。这让企业得以按需匹配推理成本,提升特定任务的准确率,并在工作流程演进过程中保持灵活适应的能力。
为什么选择开放模型
开放模型能为企业提供封闭模型无法给予的能力:完全掌控AI的定制、检查与改进过程,使其真正服务于业务需求。公开基准测试衡量的是通用能力,而针对业务场景的专项评估,则让团队能够基于自身数据、工作流程和准确性标准进行测试,再从中持续优化。
例如,在医疗健康和法律等行业,错误答案的代价极高。这些领域的团队需要处理敏感数据,并面临严格的准确性要求。相关机构必须清楚了解模型的训练方式、性能表现,并在必要时具备改进模型的能力。
借助开放模型,团队可以审查自己的应用,按照自定义标准运行私有评估,并搭建针对自身工作流程调优的强化学习环境,全程无需将专有数据路由至第三方。
目前,多个行业的企业已在将Nemotron定制化应用于各自领域:
Abridge正在基于Nemotron定制开发首个专为临床对话设计的基础模型。
Glean构建了Waldo——一个将Nemotron与大型封闭模型结合的智能体搜索模型,以显著更低的延迟和更少的Token实现企业级搜索。
H Company通过对Nemotron 3 Nano Omni进行专有计算机使用数据的后训练,构建了Holotron 3 Nano,在OSWorld-Verified计算机任务基准测试中达到超过76%的准确率,以极低成本媲美其他领先前沿模型。
Harvey对Nemotron 3 Ultra进行了法律基准后训练,达到前沿级别的准确率——在复杂法律任务上与领先封闭模型不相上下,且每次运行成本至少降低10倍。
Heidi Health无需前沿规模的算力,即可在临床文档领域实现前沿质量的输出。
YTL AI Labs针对马来语对Nemotron模型进行后训练,将本地化定制的AI交到马来西亚开发者社区手中,进一步提升当地的AI能力。
成本效益与可扩展性
定制化能够提升准确率。当模型针对特定应用场景或领域进行调优后,运行效率也会随之提高。
英伟达NeMo开放库套件加速了模型定制与评估流程,同时支持智能体优化与治理。
Prime Intellect和Unsloth等合作伙伴已在帮助企业基于Nemotron构建后训练管线,让大规模运行专业化AI切实可行。
LangChain针对Nemotron 3 Ultra对其Deep Agents应用框架进行了调优——调整提示词、工具与中间件,无需重新训练模型——在开放模型中实现了最高的智能体准确率,每次运行成本约为领先封闭方案的十分之一。
这种成本优势同样延伸至基础设施层面,带来更优的可扩展性。Arcee AI通过在英伟达Blackwell平台上对Nemotron进行后训练,将推理成本压缩至每百万输出Token约0.9美元——比同类封闭前沿模型便宜约20倍——同时在PinchBench上排名第二,且完全开放权重。
成本的大幅降低意味着更广泛的实验空间、更多的部署机会和更快的迭代速度。
从AI采用走向AI自主
AI发展的趋势正在从"采用AI"迈向"自主掌控AI"。英伟达Nemotron联盟正致力于将开放模型开发转变为一项生态合作,汇聚模型构建者与开发者,通过共享数据、评估方法和领域专业知识共同改进Nemotron。此外,黑客松参赛作品和社区贡献也在持续形成跨行业可复用的实践资产。
构建者们正在将Nemotron纳入各自的AI系统,验证其价值并分享成功经验。这套基础体系完全开放。
了解更多英伟达Nemotron开放模型,请访问build.nvidia.com进行体验。
Q&A
Q1:英伟达Nemotron开放模型和封闭模型相比,优势在哪里?
A:Nemotron等开放模型最大的优势在于完整的所有权和控制权。企业可以直接检查模型训练方式、按照自身业务标准进行私有评估、搭建强化学习环境,且无需将专有数据传输给第三方。相比之下,封闭模型虽然不断推进通用智能前沿,但企业在检查、调优和改进方面存在明显限制,无法做到完全的定制化控制。
Q2:基于Nemotron定制AI的成本优势有多大?
A:成本优势相当显著。以Arcee AI为例,通过在英伟达Blackwell平台上对Nemotron进行后训练,推理成本约为每百万输出Token 0.9美元,比同类封闭前沿模型便宜约20倍。LangChain调优后的智能体方案每次运行成本也约为封闭方案的十分之一,Harvey在法律任务上同样实现了至少10倍的成本下降。
Q3:Nemotron联盟是做什么的?
A:英伟达Nemotron联盟是一个围绕Nemotron开放模型构建的生态合作计划,旨在将模型构建者与开发者汇聚在一起,通过共享数据、评估方法和领域专业知识来共同改进Nemotron模型。联盟还通过黑客松和社区贡献,持续积累跨行业可复用的实践资产,推动开放模型开发从单一企业行为转变为整个生态的协同努力。
好文章,需要你的鼓励
芝加哥大学等机构将强化学习引入大型强子对撞机触发系统,用GFPO方法实现阈值自适应调整,显著提升信号效率并保持背景率稳定,首次在真实CMS碰撞数据上完成验证。
AI评估初创公司Braintrust确认其AWS云账户遭未经授权访问,导致客户API密钥泄露风险。公司已通知所有客户立即更换存储在其平台上的API密钥,并表示已封锁受损账户、审计相关系统访问权限,同时对内部密钥进行了轮换。目前,Braintrust正对事件原因展开调查。安全专家指出,此次泄露可能对依赖该平台的AI公司产生连锁影响。该公司今年2月完成8000万美元B轮融资,估值达8亿美元。
英伟达发布Audex多模态大模型,在音频理解与生成达到最优水平的同时,保持文字推理能力几乎零退步,提供完整技术路径。