近日,阿里云机器学习平台PAI主导的论文《Parameter-Efficient Sparsity for Large Language Models Fine-Tuning》,大模型参数高效稀疏训练算法PST被IJCAI(International Joint Conference on Artificial Intelligence)2022录取。论文通过减少模型稀疏训练过程中需要更新的参数量,从而减少大模型稀疏训练的时间以及资源开销。
IJCAI(International Joint Conference on Artificial Intelligence)是人工智能领域的顶级国际会议之一,涉及机器学习,计算机视觉,自然语言处理等多个方向。本年度会议投稿超过4500篇,录用率仅为15%,会议于7月在奥地利维也纳召开。此次入选意味着阿里云机器学习平台PAI在大模型优化方向上的研究达到了全球业界先进水平,获得了国际学者的认可,展现了中国深度学习技术在国际上的竞争力。
首个大模型参数高效的稀疏训练算法PST
论文核心内容是通过减少模型稀疏训练过程中需要更新的参数量,从而减少大模型稀疏训练的时间以及资源开销。近几年,越来越多的大模型被提出,这些模型的参数量从百亿到千亿甚至万亿,虽然它们可以达到很高的模型精度,但是过大的模型体积限制了这些大模型的实际落地应用。稀疏作为一个有效的模型压缩手段,可以将大模型压缩到较小的体积,使得它们能够以较少的资源较快的速度运行起来。然而,稀疏训练本身会引入额外的参数,从而使得大模型的稀疏训练需要占用更多的训练资源以及导致训练速度更慢。
针对这一问题,PST提出了一种参数高效的稀疏训练算法,通过分析权重的重要性指标,得出了其拥有两个特性:低秩性和结构性。根据这一结论,PST算法引入了两组小矩阵来计算权重的重要性,相比于原本需要与权重一样大的矩阵来保存和更新重要性指标,稀疏训练需要更新的参数量大大减少。对比常用的稀疏训练算法,PST算法可以在仅更新1.5%的参数的情况下,达到相近的稀疏模型精度。
PST技术已经集成在阿里云机器学习PAI的模型压缩库,以及Alicemind平台大模型稀疏训练功能中。为阿里巴巴集团内部落地使用大模型带来了性能加速,在百亿大模型PLUG上,PST相比于原本的稀疏训练可以在模型精度不下降的情况下,加速2.5倍,内存占用减少10倍。目前,阿里云机器学习PAI已经被广泛应用于各行各业,提供AI开发全链路服务,实现企业自主可控的AI方案,全面提升机器学习工程效率。
论文名字:
Parameter-Efficient Sparsity for Large Language Models Fine-Tuning
论文作者:
李与超、罗福莉、谭传奇、王梦娣、黄松芳、李深、白俊杰
好文章,需要你的鼓励
这项由浙江大学与阿里巴巴通义实验室联合开展的研究,通过创新的半在线强化学习方法,显著提升了AI界面助手在多步骤任务中的表现。UI-S1-7B模型在多个基准测试中创造了7B参数规模的新纪录,为GUI自动化代理的发展开辟了新的技术路径。
阿里巴巴联合浙江大学开发的OmniThink框架让AI学会像人类一样慢思考写作。通过信息树和概念池的双重架构,系统能够动态检索信息、持续反思,突破了传统AI写作内容浅薄重复的局限。实验显示该方法在文章质量各维度均显著超越现有最强基线,知识密度提升明显,为长文本生成研究开辟了新方向。
新加坡国立大学研究人员开发出名为AiSee的可穿戴辅助设备,利用Meta的Llama模型帮助视障人士"看见"周围世界。该设备采用耳机形态,配备摄像头作为AI伴侣处理视觉信息。通过集成大语言模型,设备从简单物体识别升级为对话助手,用户可进行追问。设备运行代理AI框架,使用量化技术将Llama模型压缩至10-30亿参数在安卓设备上高效运行,支持离线处理敏感文档,保护用户隐私。
腾讯混元3D 2.0是一个革命性的3D生成系统,能够从单张图片生成高质量的带纹理3D模型。该系统包含形状生成模块Hunyuan3D-DiT和纹理合成模块Hunyuan3D-Paint,采用创新的重要性采样和多视角一致性技术,在多项评估指标上超越现有技术,并提供用户友好的制作平台。作为开源项目,它将大大降低3D内容创作门槛,推动3D技术的普及应用。