IDC对人工智能边缘处理器的首个预测显示,2019年全球面向边缘系统的AI优化处理器出货量将达到3.401亿个,比2018年增长170.0%,到2023年出货量将达到15个,实现64.9%的五年复合年增长率(CAGR)。
人工智能的出现正在颠覆微处理器市场。虽然通用处理器和图形处理器单元(GPU)的开发,给体积更小、移动性更高、由电池供电的设备带来了巨大的计算能力,但这些处理器并不是神经网络推理解决方案的理想平台。与通用架构相比,AI优化的处理器带有独立的加速器和主机处理器,在处理器中集成了神经网络加速器,使得运行AI解决方案的性能要高通用架构。如今主要的提供商都在顺应这一趋势,开发能够解决满足这一新计算模式的解决方案,一些新兴处理器提供商也进入这个市场,其中包括一系列风投支持的半导体初创公司发布了新的IP和加速器。
随着人工智能解决方案在网络边缘不断扩展,以及人工智能工作负载不再局限于基本的系统优化任务,对于这种AI优化的处理器来说,市场机会越来越多。2018年运行AI的边缘系统中只有5.1%采用了优化的处理器。到2023年,这一比例预计将达到40.5%。到2023年,AI优化的处理器收入预计将达到404亿美元,复合年增长率为86.4%。
该预测中提到的边缘系统包括主要客户端,例如PC、手机、平板电脑;边缘基础设施网关和服务器;部署在企业、政府和家庭网络边缘的端点和物联网设备。边缘AI处理器的一些关键应用领域包括汽车高级驾驶员辅助系统(ADAS)、游戏系统、智能家居和视频监控,其他主要市场包括工业自动化、医疗设备、AR/VR设备、机器人和无人机等。
IDC赋能技术和半导体研究团队研究主管Michael J. Palma表示:“人工智能的成功在于部署到边缘的系统,在边缘位置,神经网络做出的即时决策是可以创造价值的,不受延迟和连接问题的限制,而这正是云解决方案所面对的一大挑战。边缘AI能否取得成功要取决于高效计算处理元件的开发,这些元件针对AI工作负载进行了优化,支持大多数边缘系统功率受限的特性。目前,离散加速器提供了最佳性能,但也增加了BOM成本,最终能否取得成功可能要取决于在主机处理器中AI优化处理元件的集成。”
好文章,需要你的鼓励
Adobe 周二宣布推出适用于 Android 系统的 Photoshop 应用测试版,提供与桌面版相似的图像编辑工具和 AI 功能,初期免费使用,旨在吸引更多偏好手机创作的年轻用户。
弗吉尼亚大学研究团队开发了TruthHypo基准和KnowHD框架,用于评估大语言模型生成生物医学假设的真实性及检测幻觉。研究发现大多数模型在生成真实假设方面存在困难,只有GPT-4o达到60%以上的准确率。通过分析推理步骤中的幻觉,研究证明KnowHD提供的基础依据分数可有效筛选真实假设。人类评估进一步验证了KnowHD在识别真实假设和加速科学发现方面的价值,为AI辅助科学研究提供了重要工具。
文章详细介绍了Character.AI这款主要面向娱乐、角色扮演和互动叙事的AI聊天工具的原理、用户群体、特色功能以及面临的法律与伦理争议,同时揭示了其新推出的视频和游戏互动体验。
亚马逊Nova责任AI团队与亚利桑那州立大学共同开发了AIDSAFE,这是一种创新的多代理协作框架,用于生成高质量的安全策略推理数据。不同于传统方法,AIDSAFE通过让多个AI代理进行迭代讨论和精炼,产生全面且准确的安全推理链,无需依赖昂贵的高级推理模型。实验证明,使用此方法生成的数据训练的语言模型在安全泛化和抵抗"越狱"攻击方面表现卓越,同时保持了实用性。研究还提出了"耳语者"代理技术,解决了偏好数据创建中的困难,为直接策略优化提供了更有效的训练材料。