以色列计算机芯片制造商Hailo Technologies试图利用一款针对深度学习工作负载定制的新型处理器来破解人工智能世界。
专注于汽车行业的Hailo公司表示,该芯片能够让设备在网络运行“复杂”的深度学习应用,而以前这些应用智能托管在云数据中心。
Hailo表示,这个比1便士还小的处理器是从零开始设计的,采用了重新设计的内存、控制和计算架构组件,此外还附带了一个软件开发工具包,让开发者可以开发针对硬件定制的应用。
Hailo首席执行官Orr Danon表示:“我们迫切需要一种类似的架构来取代过去的处理器,使深度学习能够在边缘运行设备。”
Hailo特别强调了该芯片的性能,特别是功效。Hailo引用了ResNet-50基准测试的初步结果,该测试将Hailo-8TM芯片与Nvidia Xavier AGX进行了比较,后者也是针对人工智能工作负载设计的。Hailo表示,根据测试结果显示,Hailo-8在执行相同任务时的功耗几乎减少了20倍。
“通过设计一种依赖于神经网络核心特性的架构,边缘设备现在全面运行深度学习的表现要比传统解决方案更高效,、更有效、更具可持续性,同时显着降低成本。”
不过Moor Insights&Strategy分析师Patrick Moorhead表示,这种专用计算芯片通常会存在一个问题。
“问题是编程能力非常有限,应用范围很窄。这是一种经典的ASIC与CPU、GPU和FPGA的对比。此外,我对于这种对比持怀疑态度,因为没有考虑到Nvidia的最新更新。”
尽管存在质疑,但Hailo似乎已经赢得了一些发展势头。Hailo表示,目前正在与汽车行业一些正在研究先进驾驶员辅助系统的合作伙伴、致力于智能城市和智能家居的企业一起测试Hailo-8TM。
好文章,需要你的鼓励
国际能源署发布的2025年世界能源展望报告显示,全球AI竞赛推动创纪录的石油、天然气、煤炭和核能消耗,加剧地缘政治紧张局势和气候危机。数据中心用电量预计到2035年将增长三倍,全球数据中心投资预计2025年达5800亿美元,超过全球石油供应投资的5400亿美元。报告呼吁采取新方法实现2050年净零排放目标。
维吉尼亚理工学院研究团队对58个大语言模型在单细胞生物学领域的应用进行了全面调查,将模型分为基础、文本桥接、空间多模态、表观遗传和智能代理五大类,涵盖细胞注释、轨迹预测、药物反应等八项核心任务。研究基于40多个公开数据集,建立了包含生物学理解、可解释性等十个维度的评估体系,为这个快速发展的交叉领域提供了首个系统性分析框架。
AMD首席执行官苏姿丰在纽约金融分析师日活动中表示,公司已准备好迎接AI浪潮并获得传统企业计算市场更多份额。AMD预计未来3-5年数据中心AI收入复合年增长率将超过80%,服务器CPU收入份额超过50%。公司2025年预期收入约340亿美元,其中数据中心业务160亿美元。MI400系列GPU采用2纳米工艺,Helios机架系统将提供强劲算力支持。
西湖大学王欢教授团队联合国际研究机构,针对AI推理模型内存消耗过大的问题,开发了RLKV技术框架。该技术通过强化学习识别推理模型中的关键"推理头",实现20-50%的内存缩减同时保持推理性能。研究发现推理头与检索头功能不同,前者负责维持逻辑连贯性。实验验证了技术在多个数学推理和编程任务中的有效性,为推理模型的大规模应用提供了现实可行的解决方案。