IDC发布了一份关于AI就绪数据存储基础设施(AI-RDSI)的研究报告,该报告由Hammerspace公司进行分发。
这份报告是四部分系列研究的第一部分,其他部分将涵盖客户之声、竞争格局以及市场规模和预测。
AI-RDSI文档的IDC观点部分指出,"不到一半的AI试点项目能够推进到生产阶段"。报告强调"组织必须从以数据为中心的角度来处理AI项目"。作者还表示"供应商必须准备好在合作伙伴和竞争对手的生态系统中运营,以提供全栈AI基础设施产品"。
AI-RDSI的定义为:一个能够支持AI工作负载数据需求的数据存储基础设施,包括数据摄取、处理、分析和部署的全生命周期。
IDC作者谈到了数据物流的概念,即数据从创建或摄取开始在组织数据处理环境中的整个流程,并用图表说明了这一概念。
AI系统需要单一的数据真实来源,要么"具备复制数据管理能力,要么在所有存储中建立单一统一的元数据环境"。
这种数据基础设施有五个主要属性:
性能 - 数据吞吐量、IOPS、延迟、网络带宽和性能密集型计算需求,报告指出"实现高吞吐量可能需要使用并行文件系统或并行NFS(pNFS)等技术"。
规模
服务级别 - 报告提到99.999%是常见的要求。
数据物流
数据信任
分析师深入探讨了每个部分的更多细节,并讨论了AI-RDSI本体论和软件分类法。他们最后为IT供应商和IT采购方提供了建议。最终总结指出"太多AI项目以失败告终...我们认为对存储基础设施关注不够,导致项目受到数据孤岛、数据质量差和存储性能不足的阻碍"。
IDC全球基础设施研究部基础设施软件平台研究副总裁Phil Goodwin在最后表示:"这项研究帮助IT供应商定义AI就绪数据存储产品要求,并帮助IT采购方识别适合其需求的解决方案"。
Hammerspace对这份IDC原创研究报告的内容非常认可,因此获得了转载许可。
评论
我们注意到IDC报告忽略了使用闪存硬件和GPU Direct for Objects的快速访问对象存储 - 如Cloudian、Scality和MinIO - 将对象存储定位为适合中等或较低性能需求的解决方案。
报告强调数据可用性的重要性:
以1PB数据和99.999%的可用性计算,0.001%的数据面临不可用风险;1PB的0.001% = 0.00001 x 1 x 10^15 = 1 x 10^10字节或10GB。
在对象存储领域,Scality的RING和Cloudian的Hyperstore提供14个9(99.999999999999%)的数据持久性和可用性,意味着只有1KB数据不可用,仅为10GB的0.00001%,这样的表现更好。
好文章,需要你的鼓励
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
随着医疗数据数字化与互操作性的进步,跨机构纵向患者数据的研究应用成为可能。本研究通过对20位领域专家的访谈,识别出8种数据收集方法,涵盖智能手机应用、结构化数据导出、区域/全国研究查询及聚合数据源等。研究发现,各方法均有其优缺点,无单一最优方案。参与者中介交换方式可绕过复杂治理安排,但存在数据缺口;全国性网络尚不支持研究查询。公共政策的持续推进将对该领域发展起关键作用。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。