树莓派推出8GB RAM扩展板,专为本地运行生成式AI模型设计
树莓派5可以将AI相关工作负载转移至售价130美元的AI HAT +2扩展板。
树莓派正在推出一款新的扩展板,能够在树莓派5上本地运行生成式AI模型。周四发布的AI HAT+ 2售价130美元,是去年推出模块的升级版本,价格更高,现在提供8GB内存和Hailo 10H芯片,具备40 TOPS的AI计算性能。
连接后,树莓派5将使用AI HAT+ 2处理AI相关工作负载,同时让主板的Arm CPU能够完成其他任务。与之前专注于图像AI处理的AI HAT+不同,AI HAT+ 2配备了板载内存,可以运行小型生成式AI模型,如Llama 3.2和DeepSeek-R1-Distill,以及一系列Qwen模型。用户还可以使用该设备训练和微调AI模型。
树莓派分享的演示显示,你可以使用这款扩展板为AI模型提供算力,该模型能够生成摄像头流的文本描述,并回答场景中是否有人的问题。另一个演示展示了如何使用Qwen2将文本从法语翻译成英语。
然而,科技YouTuber Jeff Geerling发现,配备8GB内存的独立树莓派5在支持的模型上通常表现优于AI HAT+ 2。Geerling将较低的性能归因于功耗限制,因为Pi 5可以在最高10瓦的功率下运行,而AI HAT+ 2限制在3W。
虽然AI HAT+ 2可能适合特定使用场景,但Geerling指出,扩展板的额外8GB内存"还不足以让这个HAT相对于购买更大的16GB Pi具有优势,后者拥有更多内存,更加灵活,运行模型也更快"。去年发布的AI HAT也可以处理AI图像处理,起价更便宜,仅需70美元。
树莓派表示,更多"更大"的AI模型"正在准备更新,应该会在发布后不久提供安装"。
Q&A
Q1:树莓派AI HAT+ 2有什么主要特点?
A:AI HAT+ 2是树莓派推出的扩展板,售价130美元,配备8GB内存和Hailo 10H芯片,具备40 TOPS的AI计算性能。它可以在树莓派5上本地运行生成式AI模型,如Llama 3.2和DeepSeek-R1-Distill等,还支持AI模型的训练和微调功能。
Q2:AI HAT+ 2的性能表现如何?
A:根据科技YouTuber Jeff Geerling的测试,配备8GB内存的独立树莓派5在支持的模型上通常表现优于AI HAT+ 2。这主要是由于功耗限制导致的,Pi 5可以在最高10瓦功率下运行,而AI HAT+ 2限制在3W。
Q3:AI HAT+ 2适合什么用户购买?
A:AI HAT+ 2适合需要在树莓派5上运行生成式AI模型的特定使用场景。不过专家建议,如果预算允许,直接购买16GB内存版本的树莓派5可能更加灵活且性能更好,而去年发布的70美元AI HAT则更适合图像AI处理需求。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。