以色列计算机芯片制造商Hailo Technologies试图利用一款针对深度学习工作负载定制的新型处理器来破解人工智能世界。
专注于汽车行业的Hailo公司表示,该芯片能够让设备在网络运行“复杂”的深度学习应用,而以前这些应用智能托管在云数据中心。
Hailo表示,这个比1便士还小的处理器是从零开始设计的,采用了重新设计的内存、控制和计算架构组件,此外还附带了一个软件开发工具包,让开发者可以开发针对硬件定制的应用。
Hailo首席执行官Orr Danon表示:“我们迫切需要一种类似的架构来取代过去的处理器,使深度学习能够在边缘运行设备。”
Hailo特别强调了该芯片的性能,特别是功效。Hailo引用了ResNet-50基准测试的初步结果,该测试将Hailo-8TM芯片与Nvidia Xavier AGX进行了比较,后者也是针对人工智能工作负载设计的。Hailo表示,根据测试结果显示,Hailo-8在执行相同任务时的功耗几乎减少了20倍。
“通过设计一种依赖于神经网络核心特性的架构,边缘设备现在全面运行深度学习的表现要比传统解决方案更高效,、更有效、更具可持续性,同时显着降低成本。”
不过Moor Insights&Strategy分析师Patrick Moorhead表示,这种专用计算芯片通常会存在一个问题。
“问题是编程能力非常有限,应用范围很窄。这是一种经典的ASIC与CPU、GPU和FPGA的对比。此外,我对于这种对比持怀疑态度,因为没有考虑到Nvidia的最新更新。”
尽管存在质疑,但Hailo似乎已经赢得了一些发展势头。Hailo表示,目前正在与汽车行业一些正在研究先进驾驶员辅助系统的合作伙伴、致力于智能城市和智能家居的企业一起测试Hailo-8TM。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
伊尔德兹技术大学团队通过词典手术和离线蒸馏,以不足20美元成本打造出专为土耳其语优化的200M参数句子嵌入模型,在语义相似度任务上超越了参数量更大的原版教师模型。