在整个 AI 领域,各个团队正通过改变模型运作方式来释放新的功能。这其中包括输入压缩、改变大语言模型的内存需求、重新定义上下文窗口,以及创建注意力机制来帮助神经网络聚焦于所需之处。
例如,有一种叫做"量化"的过程,通过使用不同的输入类型来帮助模型获得更好的整体效果——这在某种程度上类似于早期主要是监督系统的机器学习程序中的维度概念。
从 MIT 专家的最新研究中我们可以看到,4 位量化过程在生成式 AI 扩散模型中非常有用。具体来说,Muyang Li 及其团队开发了一个用于扩散的 "SVDquant" 4 位量化系统,该系统比传统模型运行速度快三倍,同时还能提供更好的图像质量和兼容性。
扩散模型如何工作
在深入探讨研究团队在量化系统方面的发现之前,让我们先了解扩散模型的一般工作原理。
我在 MIT CSAIL 实验室的同事 Daniela Rus 曾对此做出很好的解释。她指出,扩散模型会获取现有图像,将其分解,然后基于先前的训练输入数据重建出新图像。因此,最终会创建出一张全新的图像,但它包含了用户在输入提示时所期望的所有特征。提示越详细,输出就越精确。如果你使用过这些系统,就会知道你还可以通过后续提示来调整或修改图像,使其更符合你的期望。
你可以将其类比为一位技艺精湛的画家根据要求作画。你告诉画家要画什么,他们就会运用自己的知识库来描绘特定事物的样子。虽然图像是原创和独特的,但它是基于艺术家所学习的知识。同样,扩散模型的结果也是基于它所学习的内容。
提升扩散效率
通过将 16 位模型转换为 4 位模型,研究人员声称可以节省约 3.5 倍的内存,并将延迟减少 8.7 倍。
一些已发表的资源展示了如何在较少资源的情况下实现高保真度和良好的构图。
Li 在系统说明中写道:"量化为减小模型大小和加速计算提供了强有力的方法。通过将参数和激活压缩为低位表示,它大大降低了内存和处理需求。随着摩尔定律放缓,硬件供应商正在转向低精度推理。NVIDIA Blackwell 中的 4 位浮点 (FP4) 精度就是这一趋势的典范。"
这是一个很好的例证,因为 Nvidia Blackwell 几乎无所不能。查看一些使用最先进 GPU 和现代硬件的企业程序,你会经常听到 "Blackwell" 这个名字。
因此,正如作者指出的,硬件供应商正在转向低精度推理,这是一个极好的例子。
量化的挑战
为了克服 4 位量化模型的一些限制,专家们建议了一些最佳实践。例如,权重和激活必须匹配,异常值必须重新分配,必须达到某种平衡。
但是一旦实现了这些,你就能获得那些将在未来转化为大规模企业应用的节省。
期待这些创新很快就会在你所在的商业领域中得到应用。
好文章,需要你的鼓励
亚马逊在新加坡中央商务区开设了一个占地36万平方英尺的亚太旗舰中心。这标志着亚马逊成立30周年和亚马逊云服务(AWS)在新加坡运营15周年。新中心将容纳亚马逊和AWS员工,设有促进员工福祉、协作和客户互动的设施,展示了亚马逊对新加坡经济的巨大投资和对数字技能发展的贡献。
Adobe 推出新的 AI 视频生成功能,可将静态图像转换为视频并延长现有视频片段。该功能包括从文本提示生成短视频、将静态图像转为视频剪辑,以及在 Premiere Pro 中延长视频长度。Adobe 声称生成的视频内容"知识产权友好",创作者可安全使用。这项技术主要用于填充视频空白、生成背景画面和特效等。
Forrester 预测 2025 年欧洲企业 IT 支出将增长 5%,达 4.9 万亿美元。人工智能、网络安全和云基础设施成为主要增长动力。美国和亚太地区的 IT 投资占 GDP 比重更高,软件和 IT 服务将占全球技术支出的 66%。未来五年,技术投资将以前所未有的速度重塑各行各业。
随着人类探索太空的脚步不断推进,科学家们正在研发人工智能技术来帮助宇航员应对太空环境的挑战。从脑机接口到增强现实设备,这些创新技术旨在提升宇航员的认知能力和工作效率,为未来的月球和火星任务做好准备。同时,人工智能还可能在国际空间站等近期任务中发挥重要作用。