Confluent公司作为Apache Kafka实时数据流管道构建和管理平台的开发商,今天推出了Streaming Agents功能,这是该公司Confluent Cloud for Apache Flink中的全新能力,旨在为金融服务、医疗保健、广告等对时间敏感的行业组织提供支持。
这项功能旨在帮助组织超越生成式AI实验阶段,进入可扩展的生产级智能体AI应用,能够对实时数据采取自主行动。
Streaming Agents将实时数据引入数据处理管道,使组织能够构建能够推理、适应并随着业务条件变化立即采取行动的智能体。
Confluent技术战略负责人Andrew Sellers表示:"智能体AI已成为竞争力的重要元素,但真正从基础模型中获得实际投资回报的企业与其他企业的区别在于能够实时使用特定领域数据为AI提供上下文。"
Confluent引用国际数据公司的研究发现,企业在2023年至2024年间平均运行了23个生成式AI概念验证项目,但只有3个投入生产,不到三分之二达到预期。
"大语言模型不再是限制因素,"Sellers说,"缺失的是智能体可以用来做决策的上下文化、可信赖的实时数据。"
Streaming Agents将基于Flink的流处理与智能体框架集成,使事件驱动的智能体能够持续运行,响应信号,并利用数据库和应用程序编程接口等工具完成任务。Confluent表示,这种系统密切模拟了人类对动态环境的响应方式。
例如,在金融服务中,反洗钱工作流程通常由一系列可疑交易触发。"智能体可以接收这些事件,识别模式,使用过往案例模板生成报告,并将其交给调查员,"Sellers说。
Kafka和Flink的配对是Confluent方法的核心。Kafka为智能体和系统间传递的消息提供持久性和重放能力,而Flink支持长时间运行的工作流程、水印、SQL和复杂事件处理的检查点功能。
Streaming Agents使用模型上下文协议安全调用外部工具如API和应用程序。通过Flink作为骨干,Streaming Agents支持与向量数据库、大语言模型和其他后端系统的安全集成。
智能体可以查询并使用来自关系数据库或REST API的数据丰富实时Kafka流,以便在检索增强生成等应用中做出更好的决策。开发者还可以使用真实数据测试智能体而不会产生意外副作用,实现暗启动、A/B测试和更安全的迭代。
所有功能现已在Confluent Cloud用户的开放预览中提供。
Q&A
Q1:Streaming Agents是什么?它有什么作用?
A:Streaming Agents是Confluent公司推出的全新功能,位于Confluent Cloud for Apache Flink中。它将实时数据引入数据处理管道,帮助组织构建能够推理、适应并随着业务条件变化立即采取行动的智能体,使企业能够从生成式AI实验阶段进入生产级智能体AI应用。
Q2:Streaming Agents如何解决当前生成式AI项目的问题?
A:研究显示企业平均运行23个生成式AI概念验证项目,但只有3个投入生产。Streaming Agents通过提供上下文化、可信赖的实时数据来解决这个问题,让智能体能够基于实时业务数据做出决策,而不是仅依赖静态数据。
Q3:Streaming Agents在金融服务中如何应用?
A:在金融服务的反洗钱场景中,Streaming Agents可以接收一系列可疑交易事件,识别其中的模式,使用过往案例模板自动生成调查报告,然后将报告交给人工调查员进行进一步处理,大大提高了反洗钱工作的效率和准确性。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。