Confluent公司作为Apache Kafka实时数据流管道构建和管理平台的开发商,今天推出了Streaming Agents功能,这是该公司Confluent Cloud for Apache Flink中的全新能力,旨在为金融服务、医疗保健、广告等对时间敏感的行业组织提供支持。
这项功能旨在帮助组织超越生成式AI实验阶段,进入可扩展的生产级智能体AI应用,能够对实时数据采取自主行动。
Streaming Agents将实时数据引入数据处理管道,使组织能够构建能够推理、适应并随着业务条件变化立即采取行动的智能体。
Confluent技术战略负责人Andrew Sellers表示:"智能体AI已成为竞争力的重要元素,但真正从基础模型中获得实际投资回报的企业与其他企业的区别在于能够实时使用特定领域数据为AI提供上下文。"
Confluent引用国际数据公司的研究发现,企业在2023年至2024年间平均运行了23个生成式AI概念验证项目,但只有3个投入生产,不到三分之二达到预期。
"大语言模型不再是限制因素,"Sellers说,"缺失的是智能体可以用来做决策的上下文化、可信赖的实时数据。"
Streaming Agents将基于Flink的流处理与智能体框架集成,使事件驱动的智能体能够持续运行,响应信号,并利用数据库和应用程序编程接口等工具完成任务。Confluent表示,这种系统密切模拟了人类对动态环境的响应方式。
例如,在金融服务中,反洗钱工作流程通常由一系列可疑交易触发。"智能体可以接收这些事件,识别模式,使用过往案例模板生成报告,并将其交给调查员,"Sellers说。
Kafka和Flink的配对是Confluent方法的核心。Kafka为智能体和系统间传递的消息提供持久性和重放能力,而Flink支持长时间运行的工作流程、水印、SQL和复杂事件处理的检查点功能。
Streaming Agents使用模型上下文协议安全调用外部工具如API和应用程序。通过Flink作为骨干,Streaming Agents支持与向量数据库、大语言模型和其他后端系统的安全集成。
智能体可以查询并使用来自关系数据库或REST API的数据丰富实时Kafka流,以便在检索增强生成等应用中做出更好的决策。开发者还可以使用真实数据测试智能体而不会产生意外副作用,实现暗启动、A/B测试和更安全的迭代。
所有功能现已在Confluent Cloud用户的开放预览中提供。
Q&A
Q1:Streaming Agents是什么?它有什么作用?
A:Streaming Agents是Confluent公司推出的全新功能,位于Confluent Cloud for Apache Flink中。它将实时数据引入数据处理管道,帮助组织构建能够推理、适应并随着业务条件变化立即采取行动的智能体,使企业能够从生成式AI实验阶段进入生产级智能体AI应用。
Q2:Streaming Agents如何解决当前生成式AI项目的问题?
A:研究显示企业平均运行23个生成式AI概念验证项目,但只有3个投入生产。Streaming Agents通过提供上下文化、可信赖的实时数据来解决这个问题,让智能体能够基于实时业务数据做出决策,而不是仅依赖静态数据。
Q3:Streaming Agents在金融服务中如何应用?
A:在金融服务的反洗钱场景中,Streaming Agents可以接收一系列可疑交易事件,识别其中的模式,使用过往案例模板自动生成调查报告,然后将报告交给人工调查员进行进一步处理,大大提高了反洗钱工作的效率和准确性。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。