微软正在扩展其基于云的Fabric数据平台,将Oracle和谷歌BigQuery数据仓库纳入镜像功能,并基于内部LinkedIn项目推出新的图数据库。
这家雷德蒙德软件巨头于2023年首次发布Fabric平台,并在同年晚些时候推出镜像功能。该功能承诺帮助用户在Fabric分析系统中添加和管理现有的云数据仓库和数据库。现在,微软新增了从谷歌和Oracle外部数据库复制快照到OneLake Delta Lake表的能力,并保持副本近实时同步。
Azure数据首席副总裁Arun Ulag表示,在Fabric中,镜像功能意味着用户无需从支持的系统中提取、转换和加载(ETL)数据,也不用构建和维护数据管道。
"快照对于创建第一个副本是必需的,建立基线,但从那时起,Fabric会持续保持数据库更新,"他说。"延迟不到五分钟,Fabric会自动保持数据库和元数据实例与原始数据同步。"
不过,Ulag表示用户可能首先需要做一些基础工作。首先,Fabric需要获得Oracle数据库的权限,如果Oracle数据库位于本地系统或防火墙后面,用户需要在防火墙后配置Fabric企业网关来连接Oracle数据库。
"镜像的计算对客户是免费的,"Ulag说。"微软承担这部分成本。我们为客户提供存储,客户不必担心存储成本。我们镜像功能的目标是让数据完全可访问,以开源格式提供,这样整个Fabric和AI堆栈都能增加价值。"
Fabric中的镜像数据存储使用Apache Parquet文件格式和Linux基金会的Delta Lake开放表格式(OTF),这是Fabric湖仓系统OneLake的原生格式。
在镜像功能方面,微软还增加了对Apache Iceberg的支持,这是起源于Netflix并被谷歌、Snowflake和Cloudera采用的开放表格式。构建Delta Lake的Databricks已承诺加强两种格式之间的集成。
用户是否愿意接受微软的这一方案可能取决于他们的起始情况。对于深度使用Power BI和早期数据仓库版本Synapse等相关产品的组织来说,这可能是合乎逻辑的选择。谷歌、AWS、Oracle、Databricks和Snowflake已经有了自己对湖仓概念的解释,他们的用户可能会有不同的看法。
微软还宣布了Fabric中的图数据库功能,这是一个用于建模和分析企业数据关系的低代码/无代码平台。Ulag解释说,该数据库是由LinkedIn团队开发的,微软于2016年收购了LinkedIn。他表示,图数据库主要用于理解Fabric中数据之间的关系。
Q&A
Q1:微软Fabric平台的镜像功能有什么优势?
A:镜像功能让用户无需进行复杂的数据提取、转换和加载(ETL)操作,也不用构建和维护数据管道。微软免费提供计算和存储资源,延迟不到五分钟就能保持数据库与原始数据同步,数据以开源格式提供,便于整个AI堆栈使用。
Q2:使用Oracle数据库镜像需要什么条件?
A:首先需要获得Oracle数据库的访问权限。如果Oracle数据库位于本地系统或防火墙后面,用户需要在防火墙后配置Fabric企业网关来连接Oracle数据库。微软承担计算和存储成本,用户主要需要解决网络连接和权限问题。
Q3:微软Fabric中的图数据库有什么用途?
A:图数据库是基于LinkedIn团队开发的技术,提供低代码/无代码平台,主要用于建模和分析企业数据关系。它能够帮助用户更好地理解Fabric平台中各种数据之间的关联和关系,为数据分析提供支持。
好文章,需要你的鼓励
在Meta Connect大会上,Meta展示了新一代Ray-Ban智能眼镜的硬件实力,配备神经腕带支持手势控制,电池续航翻倍,摄像头性能提升。然而AI演示却频频失败,包括Live AI烹饪指导、WhatsApp通话和实时翻译功能都出现问题。尽管Meta在智能眼镜硬件方面表现出色,但AI软件仍远未达到扎克伯格提出的"超级智能"目标。文章建议Meta考虑开放AI生态,允许用户选择其他AI服务商,这可能帮助Meta在AI硬件市场获得优势。
人民大学团队开发了Search-o1框架,让AI在推理时能像侦探一样边查资料边思考。系统通过检测不确定性词汇自动触发搜索,并用知识精炼模块从海量资料中提取关键信息无缝融入推理过程。在博士级科学问题测试中,该系统整体准确率达63.6%,在物理和生物领域甚至超越人类专家水平,为AI推理能力带来突破性提升。
英伟达同意以50亿美元收购英特尔股份,双方将合作开发多代数据中心和PC产品。英伟达将以每股23.28美元的价格收购约4%的英特尔股份,成为其最大股东之一。两家公司将通过NVLink接口整合各自架构,实现CPU和GPU间的高速数据传输。英特尔将为英伟达AI平台定制x86处理器,并开发集成RTX GPU的x86系统级芯片,用于消费级PC市场。
Anthropic研究团队开发的REINFORCE++算法通过采用全局优势标准化解决了AI训练中的"过度拟合"问题。该算法摒弃了传统PPO方法中昂贵的价值网络组件,用统一评价标准替代针对单个问题的局部基准,有效避免了"奖励破解"现象。实验显示,REINFORCE++在处理新问题时表现更稳定,特别是在长文本推理和工具集成场景中展现出优异的泛化能力,为开发更实用可靠的AI系统提供了新思路。