2023年7月6日,昇腾人工智能产业高峰论坛在上海举办。论坛现场,华为联合四家伙伴共同发布昇腾AI大模型训推一体化解决方案,加速大模型在各行业里快速落地应用。
随着深度学习领域的快速发展,越来越多的应用场景需要使用大模型来进行训练和推理。然而,企业在大模型开发全流程中,常常面临切换硬件集群、适配底层硬件以及微调优化等复杂问题。加之大模型研发周期长、部署门槛高等系列挑战,“攒机”式开发手段难以满足需求。
为有效解决以上问题,华为联合四家伙伴共同发布昇腾AI大模型训推一体化解决方案,实现了训推一体,提供了“开箱即用”的解决方案,同一个集群内可以无缝切换大模型的训练和推理过程,从而为客户提供高效的大模型训练和推理部署流程;同时,解决方案内置了大模型推理引擎、调优工具和算子加速库,支撑客户开箱即用,无需进行二次硬件适配,即可让客户能够直接使用大型预训练模型,从而降低了技术门槛;结合昇腾AI基础软硬件能力和伙伴模型和平台优势,通过嵌入四家伙伴各自在大模型训练、微调和优化方面的算法和模型能力,共同设计、联合开发、协同上市、持续迭代,实现为客户提供更全面的解决方案,更能满足全场景、全行业客户使用。
昇腾AI大模型训推一体化解决方案重塑了大模型开发流程,让大模型在行业充分发挥价值,帮助客户更好地应用大型深度学习模型。未来,华为也将继续携手合作伙伴,共同推动大模型与行业的深度融合与应用落地,为更多行业提供高效的解决方案,加速全场景、全行业应用成果落地。
好文章,需要你的鼓励
GSMA发布《中国移动经济发展2025》报告:预计2030年移动技术对中国经济的贡献将达2万亿美元,移动互联网用户数将增至12.2亿,中国的移动产业数据流量预计将是原来的四倍
TransUnion信用报告公司宣布其大规模数据湖项目即将完成,OneTru平台已为内部和客户带来显著收益。该平台支持新的信贷风险产品、身份营销解决方案和欺诈预防服务,提高了生产力并改善了客户体验。公司正专注于为客户提供分析、风险管理等服务,并计划推出可组合的灵活平台。
亚马逊推出了一款名为 Nova Sonic 的 AI 语音模型,它不仅能理解语音内容,还能捕捉说话者的语气、犹豫等细微变化。这个模型整合了语音识别、回复生成和语音合成功能,能够实现更自然的对话交互。Nova Sonic 可以根据说话者的语气调整回应,理解对话中的停顿,并能适当处理打断等情况,从而提供更智能、更人性化的语音交互体验。
OpenAI 宣布为 ChatGPT 推出新的记忆功能,使聊天机器人能够根据用户之前的对话内容定制回答。这项功能旨在提高对话的相关性,将应用于文本、语音和图像生成。该更新首先向付费用户开放,免费用户暂未包括在内。用户可以选择关闭此功能或管理已保存的记忆,以控制隐私。