以色列计算机芯片制造商Hailo Technologies试图利用一款针对深度学习工作负载定制的新型处理器来破解人工智能世界。
专注于汽车行业的Hailo公司表示,该芯片能够让设备在网络运行“复杂”的深度学习应用,而以前这些应用智能托管在云数据中心。
Hailo表示,这个比1便士还小的处理器是从零开始设计的,采用了重新设计的内存、控制和计算架构组件,此外还附带了一个软件开发工具包,让开发者可以开发针对硬件定制的应用。
Hailo首席执行官Orr Danon表示:“我们迫切需要一种类似的架构来取代过去的处理器,使深度学习能够在边缘运行设备。”
Hailo特别强调了该芯片的性能,特别是功效。Hailo引用了ResNet-50基准测试的初步结果,该测试将Hailo-8TM芯片与Nvidia Xavier AGX进行了比较,后者也是针对人工智能工作负载设计的。Hailo表示,根据测试结果显示,Hailo-8在执行相同任务时的功耗几乎减少了20倍。
“通过设计一种依赖于神经网络核心特性的架构,边缘设备现在全面运行深度学习的表现要比传统解决方案更高效,、更有效、更具可持续性,同时显着降低成本。”
不过Moor Insights&Strategy分析师Patrick Moorhead表示,这种专用计算芯片通常会存在一个问题。
“问题是编程能力非常有限,应用范围很窄。这是一种经典的ASIC与CPU、GPU和FPGA的对比。此外,我对于这种对比持怀疑态度,因为没有考虑到Nvidia的最新更新。”
尽管存在质疑,但Hailo似乎已经赢得了一些发展势头。Hailo表示,目前正在与汽车行业一些正在研究先进驾驶员辅助系统的合作伙伴、致力于智能城市和智能家居的企业一起测试Hailo-8TM。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。