IDC发布了一份关于AI就绪数据存储基础设施(AI-RDSI)的研究报告,该报告由Hammerspace公司进行分发。
这份报告是四部分系列研究的第一部分,其他部分将涵盖客户之声、竞争格局以及市场规模和预测。
AI-RDSI文档的IDC观点部分指出,"不到一半的AI试点项目能够推进到生产阶段"。报告强调"组织必须从以数据为中心的角度来处理AI项目"。作者还表示"供应商必须准备好在合作伙伴和竞争对手的生态系统中运营,以提供全栈AI基础设施产品"。
AI-RDSI的定义为:一个能够支持AI工作负载数据需求的数据存储基础设施,包括数据摄取、处理、分析和部署的全生命周期。
IDC作者谈到了数据物流的概念,即数据从创建或摄取开始在组织数据处理环境中的整个流程,并用图表说明了这一概念。
AI系统需要单一的数据真实来源,要么"具备复制数据管理能力,要么在所有存储中建立单一统一的元数据环境"。
这种数据基础设施有五个主要属性:
性能 - 数据吞吐量、IOPS、延迟、网络带宽和性能密集型计算需求,报告指出"实现高吞吐量可能需要使用并行文件系统或并行NFS(pNFS)等技术"。
规模
服务级别 - 报告提到99.999%是常见的要求。
数据物流
数据信任
分析师深入探讨了每个部分的更多细节,并讨论了AI-RDSI本体论和软件分类法。他们最后为IT供应商和IT采购方提供了建议。最终总结指出"太多AI项目以失败告终...我们认为对存储基础设施关注不够,导致项目受到数据孤岛、数据质量差和存储性能不足的阻碍"。
IDC全球基础设施研究部基础设施软件平台研究副总裁Phil Goodwin在最后表示:"这项研究帮助IT供应商定义AI就绪数据存储产品要求,并帮助IT采购方识别适合其需求的解决方案"。
Hammerspace对这份IDC原创研究报告的内容非常认可,因此获得了转载许可。
评论
我们注意到IDC报告忽略了使用闪存硬件和GPU Direct for Objects的快速访问对象存储 - 如Cloudian、Scality和MinIO - 将对象存储定位为适合中等或较低性能需求的解决方案。
报告强调数据可用性的重要性:
以1PB数据和99.999%的可用性计算,0.001%的数据面临不可用风险;1PB的0.001% = 0.00001 x 1 x 10^15 = 1 x 10^10字节或10GB。
在对象存储领域,Scality的RING和Cloudian的Hyperstore提供14个9(99.999999999999%)的数据持久性和可用性,意味着只有1KB数据不可用,仅为10GB的0.00001%,这样的表现更好。
好文章,需要你的鼓励
随着数字化时代的到来,网络安全威胁呈指数级增长。勒索软件、AI驱动的网络攻击和物联网设备漏洞成为主要威胁。企业需要建立全面的风险管理策略,包括风险评估、安全措施实施和持续监控。新兴技术如人工智能、区块链和量子计算为网络安全带来新机遇。组织应重视员工培训、供应链安全、数据治理和事件响应能力建设。
滑铁卢大学研究团队开发出ScholarCopilot,一个革命性的AI学术写作助手。该系统突破传统"先检索后生成"模式,实现写作过程中的动态文献检索和精确引用。基于50万篇arXiv论文训练,引用准确率达40.1%,大幅超越现有方法。在人类专家评估中,引用质量获100%好评,整体表现优于ChatGPT。这项创新为AI辅助学术写作开辟新道路。
AWS Amazon Bedrock负责人Atul Deo正致力于让人工智能软件变得更便宜和更智能。他在12月re:Invent大会前只有六个月时间来证明这一目标的可行性。Deo表示AI领域发展速度前所未有,模型每几周就会改进,但客户只有在经济效益合理时才会部署。为此,AWS推出了提示缓存、智能路由、批处理模式等功能来降低推理成本,同时开发能执行多步骤任务的自主代理软件,将AI应用从聊天机器人转向实际业务流程自动化。
哥伦比亚大学研究团队发布NodeRAG技术,通过异构图结构革新智能问答系统。该方法将文档信息分解为7种节点类型,采用双重搜索机制,在多个权威测试中准确率达89.5%,检索效率提升50%以上,为智能信息检索技术带来重大突破。