Zoom通信公司与英伟达建立合作伙伴关系,旨在提供"更快速、更安全、更可定制"的企业人工智能体验,具备更强的隐私保护、更强大的功能和更个性化的服务,以提升工作效率。
这项合作将使这家AI优先的工作平台提供商的联邦架构扩展到包含英伟达Nemotron开放技术,以支持AI Companion 3.0在金融、医疗和政府等行业的应用。
该框架正在扩展为"下一代"混合语言模型方法——这是一种AI架构,能够智能地在Zoom专有的小语言模型(针对特定技能或任务优化的低延迟和高质量模型)和用于复杂推理的微调大语言模型之间路由查询。它还将通过优化的成本效率、质量和延迟来加速企业生产力和协作体验。
混合机器学习模型能够预测和生成人类语言,AI架构在响应查询时智能连接Zoom的小语言模型,优化隐私保护并在大语言模型中实现更强的复杂推理能力。
联邦架构旨在利用英伟达先进的AI基础设施为每项任务选择最佳AI模型,同时允许企业和政府组织以更高效率获得开放和封闭模型访问权限。
使用英伟达Nemotron使Zoom的AI Companion能够跨Microsoft 365、Microsoft Teams、Google Workspace、Slack、Salesforce和ServiceNow等平台工作。Zoom表示,使用英伟达Nemotron推理模型来增强决策制定和管理多步骤任务,将使AI Companion模块能够进行更深入的推理、自动化工作流程并在整个企业中提供智能辅助。
通过这种方法,Zoom表示AI Companion可以使用英伟达的先进AI基础设施、服务和软件以及其他模型,在为客户优化成本的同时提供增强功能。这包括Zoom基于英伟达Nemotron开发的新型490亿参数大语言模型,该模型使用英伟达NeMo工具开发,"旨在实现速度、成本和准确性的最佳平衡"。拥有开放和封闭模型被认为能够在AI Companion中提供更高的成本效率、更快的AI工作流程、更深入的推理能力和更高效的协作。
展望未来,Zoom认为其新举措能够推动Zoom联邦AI架构的下一次演进,该架构动态整合最优模型,包括基于Llama Nemotron Super的推理模型,以实现准确性、性能和成本的平衡。
Zoom首席技术官X.D. Huang表示:"我们使用英伟达GPU和AI软件堆栈提高了速度并增强了低成本模型决策制定,有助于优化AI Companion的核心功能并实现更快的产品上市时间。在英伟达Nemotron开放技术的帮助下,我们正在加速开发企业检索增强生成(RAG)功能,使AI Companion能够与Microsoft 365、Microsoft Teams、Google Workspace、Slack、Salesforce和ServiceNow无缝协作。这种合作伙伴关系使我们能够快速向客户提供强大、注重安全且可扩展的AI体验。"
英伟达生成式AI软件副总裁Kari Briski补充道:"将英伟达Nemotron集成到Zoom AI Companion中,使包括英伟达在内的企业能够体验私密、强大且个性化的工作环境,从而提升生产力。我们与Zoom的合作为客户带来智能高效的AI推理,这仅仅是个开始。"
Q&A
Q1:Zoom与英伟达合作推出的AI Companion 3.0有什么特色?
A:AI Companion 3.0采用混合语言模型方法,能够智能地在小语言模型和大语言模型之间路由查询。它集成了英伟达Nemotron技术,可以跨Microsoft 365、Teams、Google Workspace等多个平台工作,提供更快速、更安全、更个性化的企业AI体验。
Q2:什么是联邦AI架构?它有什么优势?
A:联邦AI架构是一种能够为每项任务选择最佳AI模型的框架,利用英伟达先进的AI基础设施。它允许企业和政府组织获得开放和封闭模型访问权限,提供更高的成本效率、更快的AI工作流程和更深入的推理能力。
Q3:混合语言模型方法如何提升工作效率?
A:混合语言模型方法结合了小语言模型的低延迟优势和大语言模型的复杂推理能力。它能够智能路由查询,优化隐私保护,实现自动化工作流程,并在整个企业中提供智能辅助,从而显著提升生产力和协作体验。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。