几个月前,微软推出了Copilot微调功能,为客户提供了在Microsoft Copilot Studio中使用低代码工具的方式,利用基于企业数据训练的高度自动化微调"配方"。
虽然生成式人工智能(GenAI)工具通常与在互联网和社交媒体平台上的大量公共信息上训练的AI模型相关联,但企业需要能够理解其内部数据和流程的模型。现在主要AI提供商已经将生成式AI的力量植入到企业高管和IT主管的思维中,这正是当前商业AI的关注焦点。
这类产品旨在提供针对特定行业的AI系统,相比在免费互联网数据上训练的高度通用化模型更具针对性。理论上,它们应该比通用AI模型更少出现幻觉问题,并更贴近企业的实际工作方式。
微软体验与设备副总裁兼集团产品经理Ranveer Chandra在博客中写道:"由开箱即用的大语言模型和检索增强生成技术驱动的AI工具,在理解企业的特定流程、术语和风格方面可能并不总是到位。"他声称微软为企业优化AI模型的方法是降低微调项目通常伴随的复杂性。
微软365 Copilot(M365)微调早期访问计划的客户之一是会计师事务所安永。该公司全球税务副主席Marna Ricker表示,公司正在通过M365将税务领域微调的大语言模型与企业知识和税务顾问的专业技能相整合,向市场提供增强的税务服务。"这种协同提高了服务质量,并通过在人们已经工作的M365环境中提供相关知识和智能,显著推进了税务和法律研究,"她补充道。
根据Gartner的预测,专业化生成式AI模型市场到2026年将增长一倍以上,达到25亿美元。虽然这比Gartner预测的通用生成式AI模型的230亿美元市场要小得多,但它显示了企业对此类技术的需求。
Gartner高级总监分析师Roberta Cozza表示,主要AI提供商正在微调其模型,因为这是企业发展的方向。她说,企业买家重视与可信技术提供商的合作,但他们也需要基于生成式AI的工具来响应其特定领域的需求。"我们实际看到的是领域特定模型,"她说。
Cozza指出,许多这样的模型实际上以开源模型为基础,通常部署为小语言模型(SLM),在资源成本方面提供效率,同时由于可以在企业自有数据上训练而提供更好的控制。
生成式AI可以创造价值,但她交流过的企业IT领导者表示,他们希望AI在他们所在特定行业的问题、数据和内容上进行训练。虽然微软和主要IT咨询提供商正在加大AI业务产品供应,以迎合现在寻求通过生成式AI创造业务价值的企业,但IT领导者应该考虑替代方法。"他们需要将专有数据交给模型构建者或IT服务提供商,"Cozza说。
"使用基础开源模型的准入门槛已经大大降低,所以我们看到许多较小的AI提供商帮助大客户构建自己的小模型,"她补充道。"他们可以提炼ChatGPT等专有模型,但许多都从Meta的Llama开始,在欧洲,我们看到Mistral作为起点。"
虽然90%的生成式AI模型由少数几家主要提供商管理,但Cozza表示,Gartner一直在接到IT决策者的咨询,他们特别需要部署欧洲AI技术作为缓冲他们需要运营的动荡地缘政治环境的保障。他们还在考虑如何在欧盟AI法案下保持合规。
"那些被认为是高风险的AI应用和技术需要受到监管并遵守欧盟AI法案,"她说。"但这涵盖了在互联网数据上训练的前沿模型。"
Cozza表示,基于公司内部数据构建的模型和可解释的小语言模型不太可能需要监管审查。"训练AI并创建更具领域特异性的东西实际上改善了总体合规性,因为你可以使其符合政策或法规,"她补充道。
像M365 Copilot微调这样的工具必然有助于降低被任命提供能够增加业务价值的生成式AI能力的IT领导者的准入门槛,但小语言模型提供了一种替代方法,可以提供可解释性并更容易遵守欧盟AI法案。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。