随着AI应用日益渗透到企业运营的各个层面,从通过先进医学影像增强患者护理,到驱动复杂的欺诈检测模型,甚至协助野生动物保护,一个关键瓶颈经常出现:数据存储。
在VentureBeat的Transform 2025大会上,Solidigm产品和营销负责人Greg Matson和PEAK:AIO首席执行官Roger Cummings与M12管理合伙人Michael Stewart探讨了存储技术创新如何推动医疗保健领域的企业AI用例。
MONAI框架是医学影像领域的突破性进展,使其构建更快、更安全、更稳定。存储技术的进步使研究人员能够在该框架基础上构建,快速迭代和创新。PEAK:AIO与Solidgm合作,整合了高能效、高性能和大容量存储,使MONAI能够在其IT环境的单个节点上存储超过200万个全身CT扫描。
"随着企业AI基础设施的快速发展,存储硬件越来越需要根据具体用例进行定制,这取决于它们在AI数据管道中的位置,"Matson说。"我们与MONAI讨论的用例类型,即边缘用例以及训练集群的数据供给,都很好地适用于超大容量固态存储解决方案,但实际的推理和模型训练需要不同的东西。这需要非常高性能、极高每秒I/O的SSD要求。对我们而言,RAG正在分化我们制造的产品类型以及我们必须与软件进行的集成类型。"
提升边缘AI推理性能
为了在边缘实现峰值性能,关键是将存储缩减到单个节点,以便将推理更接近数据。关键是消除内存瓶颈。这可以通过将内存作为AI基础设施的一部分来实现,以便与数据和元数据一起扩展。数据与计算的接近度显著提高了洞察的时间。
"你看到所有大规模部署,用于AI的大型绿地数据中心,使用非常特定的硬件设计,能够将数据尽可能接近GPU,"Matson说。"他们一直在构建具有超大容量固态存储的数据中心,以极高速度为GPU提供PB级存储的便捷访问。现在,同样的技术正在边缘和企业中的微观环境中发生。"
对于AI系统的购买者来说,确保通过在全固态上运行来获得系统的最大性能变得至关重要。这允许你引入大量数据,并在边缘的小型系统中实现令人难以置信的处理能力。
AI硬件的未来
"我们必须提供开放、可扩展、具有内存速度的解决方案,使用一些最新最好的技术来实现这一点,"Cummings说。"这是我们公司的目标,提供组织所需的开放性、速度和规模。我认为你会看到经济性也会与此匹配。"
对于整个训练和推理数据管道,以及推理本身,硬件需求将持续增长,无论是超高速SSD还是节能的超大容量解决方案。
"我认为它将进一步向超大容量方向发展,无论是几年后的1PB SSD,以极低功耗运行,基本上可以替代四倍数量的硬盘,还是接近内存速度的超高性能产品,"Matson说。"你会看到大型GPU供应商正在研究如何定义下一代存储架构,以便它能够非常紧密地帮助增强系统中的HBM。云计算中的通用SSD现在正在分化为容量和性能两个方向。在未来5到10年中,我们将在这两个方向上继续深化发展。"
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。