微软正在扩展其基于云的Fabric数据平台,将Oracle和谷歌BigQuery数据仓库纳入镜像功能,并基于内部LinkedIn项目推出新的图数据库。
这家雷德蒙德软件巨头于2023年首次发布Fabric平台,并在同年晚些时候推出镜像功能。该功能承诺帮助用户在Fabric分析系统中添加和管理现有的云数据仓库和数据库。现在,微软新增了从谷歌和Oracle外部数据库复制快照到OneLake Delta Lake表的能力,并保持副本近实时同步。
Azure数据首席副总裁Arun Ulag表示,在Fabric中,镜像功能意味着用户无需从支持的系统中提取、转换和加载(ETL)数据,也不用构建和维护数据管道。
"快照对于创建第一个副本是必需的,建立基线,但从那时起,Fabric会持续保持数据库更新,"他说。"延迟不到五分钟,Fabric会自动保持数据库和元数据实例与原始数据同步。"
不过,Ulag表示用户可能首先需要做一些基础工作。首先,Fabric需要获得Oracle数据库的权限,如果Oracle数据库位于本地系统或防火墙后面,用户需要在防火墙后配置Fabric企业网关来连接Oracle数据库。
"镜像的计算对客户是免费的,"Ulag说。"微软承担这部分成本。我们为客户提供存储,客户不必担心存储成本。我们镜像功能的目标是让数据完全可访问,以开源格式提供,这样整个Fabric和AI堆栈都能增加价值。"
Fabric中的镜像数据存储使用Apache Parquet文件格式和Linux基金会的Delta Lake开放表格式(OTF),这是Fabric湖仓系统OneLake的原生格式。
在镜像功能方面,微软还增加了对Apache Iceberg的支持,这是起源于Netflix并被谷歌、Snowflake和Cloudera采用的开放表格式。构建Delta Lake的Databricks已承诺加强两种格式之间的集成。
用户是否愿意接受微软的这一方案可能取决于他们的起始情况。对于深度使用Power BI和早期数据仓库版本Synapse等相关产品的组织来说,这可能是合乎逻辑的选择。谷歌、AWS、Oracle、Databricks和Snowflake已经有了自己对湖仓概念的解释,他们的用户可能会有不同的看法。
微软还宣布了Fabric中的图数据库功能,这是一个用于建模和分析企业数据关系的低代码/无代码平台。Ulag解释说,该数据库是由LinkedIn团队开发的,微软于2016年收购了LinkedIn。他表示,图数据库主要用于理解Fabric中数据之间的关系。
Q&A
Q1:微软Fabric平台的镜像功能有什么优势?
A:镜像功能让用户无需进行复杂的数据提取、转换和加载(ETL)操作,也不用构建和维护数据管道。微软免费提供计算和存储资源,延迟不到五分钟就能保持数据库与原始数据同步,数据以开源格式提供,便于整个AI堆栈使用。
Q2:使用Oracle数据库镜像需要什么条件?
A:首先需要获得Oracle数据库的访问权限。如果Oracle数据库位于本地系统或防火墙后面,用户需要在防火墙后配置Fabric企业网关来连接Oracle数据库。微软承担计算和存储成本,用户主要需要解决网络连接和权限问题。
Q3:微软Fabric中的图数据库有什么用途?
A:图数据库是基于LinkedIn团队开发的技术,提供低代码/无代码平台,主要用于建模和分析企业数据关系。它能够帮助用户更好地理解Fabric平台中各种数据之间的关联和关系,为数据分析提供支持。
好文章,需要你的鼓励
ChatGPT发布三年后,物理AI成为行业最新热词。物理AI是指在硬件中实现的AI系统,能够感知周围世界并进行推理以执行操作。与传统机器人不同,物理AI具备推理、行动和与环境交互的能力。智能眼镜是物理AI的典型代表,能够看到和听到用户所体验的内容。高通专家指出,AI可穿戴设备可以为机器人提供基于真实人类体验的高质量数据集,形成良性生态系统。
德国弗劳恩霍夫研究院提出ViTNT-FIQA人脸质量评估新方法,无需训练即可评估图像质量。该方法基于Vision Transformer层间特征稳定性原理,通过测量图像块在相邻层级间的变化幅度判断质量。在八个国际数据集上的实验显示其性能可媲美现有最先进方法,且计算效率更高,为人脸识别系统提供了即插即用的质量控制解决方案,有望广泛应用于安防监控和身份认证等领域。
来自加州大学伯克利分校和康奈尔大学的研究团队,通过分析130万篇学术论文发现,使用ChatGPT等AI工具的科学家论文产出平均提升40-60%,且英语非母语研究者受益最大。
布朗大学联合图宾根大学的研究团队通过系统实验发现,AI医疗助手的角色设定会产生显著的情境依赖效应:医疗专业角色在急诊场景下表现卓越,准确率提升20%,但在普通医疗咨询中反而表现更差。研究揭示了AI角色扮演的"双刃剑"特性,强调需要根据具体应用场景精心设计AI身份,而非简单假设"更专业等于更安全",为AI医疗系统的安全部署提供了重要指导。