Confluent公司作为Apache Kafka实时数据流管道构建和管理平台的开发商,今天推出了Streaming Agents功能,这是该公司Confluent Cloud for Apache Flink中的全新能力,旨在为金融服务、医疗保健、广告等对时间敏感的行业组织提供支持。
这项功能旨在帮助组织超越生成式AI实验阶段,进入可扩展的生产级智能体AI应用,能够对实时数据采取自主行动。
Streaming Agents将实时数据引入数据处理管道,使组织能够构建能够推理、适应并随着业务条件变化立即采取行动的智能体。
Confluent技术战略负责人Andrew Sellers表示:"智能体AI已成为竞争力的重要元素,但真正从基础模型中获得实际投资回报的企业与其他企业的区别在于能够实时使用特定领域数据为AI提供上下文。"
Confluent引用国际数据公司的研究发现,企业在2023年至2024年间平均运行了23个生成式AI概念验证项目,但只有3个投入生产,不到三分之二达到预期。
"大语言模型不再是限制因素,"Sellers说,"缺失的是智能体可以用来做决策的上下文化、可信赖的实时数据。"
Streaming Agents将基于Flink的流处理与智能体框架集成,使事件驱动的智能体能够持续运行,响应信号,并利用数据库和应用程序编程接口等工具完成任务。Confluent表示,这种系统密切模拟了人类对动态环境的响应方式。
例如,在金融服务中,反洗钱工作流程通常由一系列可疑交易触发。"智能体可以接收这些事件,识别模式,使用过往案例模板生成报告,并将其交给调查员,"Sellers说。
Kafka和Flink的配对是Confluent方法的核心。Kafka为智能体和系统间传递的消息提供持久性和重放能力,而Flink支持长时间运行的工作流程、水印、SQL和复杂事件处理的检查点功能。
Streaming Agents使用模型上下文协议安全调用外部工具如API和应用程序。通过Flink作为骨干,Streaming Agents支持与向量数据库、大语言模型和其他后端系统的安全集成。
智能体可以查询并使用来自关系数据库或REST API的数据丰富实时Kafka流,以便在检索增强生成等应用中做出更好的决策。开发者还可以使用真实数据测试智能体而不会产生意外副作用,实现暗启动、A/B测试和更安全的迭代。
所有功能现已在Confluent Cloud用户的开放预览中提供。
Q&A
Q1:Streaming Agents是什么?它有什么作用?
A:Streaming Agents是Confluent公司推出的全新功能,位于Confluent Cloud for Apache Flink中。它将实时数据引入数据处理管道,帮助组织构建能够推理、适应并随着业务条件变化立即采取行动的智能体,使企业能够从生成式AI实验阶段进入生产级智能体AI应用。
Q2:Streaming Agents如何解决当前生成式AI项目的问题?
A:研究显示企业平均运行23个生成式AI概念验证项目,但只有3个投入生产。Streaming Agents通过提供上下文化、可信赖的实时数据来解决这个问题,让智能体能够基于实时业务数据做出决策,而不是仅依赖静态数据。
Q3:Streaming Agents在金融服务中如何应用?
A:在金融服务的反洗钱场景中,Streaming Agents可以接收一系列可疑交易事件,识别其中的模式,使用过往案例模板自动生成调查报告,然后将报告交给人工调查员进行进一步处理,大大提高了反洗钱工作的效率和准确性。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。