AI 行业正在全力推动"代理"(agents)的发展——这些由 AI 驱动的软件可以代表用户执行多步骤操作。包括 Google 在内的多家科技公司最近都在强调代理特性,今年 1 月,OpenAI 首席执行官 Sam Altman 表示,2025 年将是 AI 代理"加入劳动力大军"的一年。
OpenAI 正在努力将这一承诺变为现实。周二,OpenAI 推出了新的"Responses API",旨在帮助软件开发者创建能够使用该公司 AI 模型独立执行任务的 AI 代理。Responses API 最终将取代当前的 Assistants API,OpenAI 计划在 2026 年上半年停用后者。
通过这项新服务,用户可以开发自定义 AI 代理,使用文件搜索工具快速检索公司数据库(OpenAI 承诺不会用这些文件训练其模型),并浏览网站——这类似于 OpenAI 的 Operator 代理所提供的功能。开发者还可以访问其底层的计算机使用代理 (CUA) 模型,以实现数据录入等任务的自动化。
不过,OpenAI 承认其 CUA 模型在操作系统任务自动化方面尚不够可靠,可能会产生意外错误。该公司将这个新 API 描述为早期版本,并将继续改进。
使用 Responses API 的开发者可以访问驱动 ChatGPT Search 的相同模型:GPT-4o search 和 GPT-4o mini search。这些模型可以浏览网络来回答问题,并在回答中引用来源。
值得注意的是,OpenAI 表示,增加的网络搜索能力显著提高了其 AI 模型的事实准确性。在 OpenAI 的 SimpleQA 基准测试(旨在衡量虚构率)中,GPT-4o search 得分为 90%,GPT-4o mini search 达到 88%——两者都大大超过了没有搜索功能的更大型 GPT-4.5 模型的 63% 的得分。
尽管有这些改进,该技术仍存在重要限制。除了 CUA 在正确浏览网站方面的问题外,改进的搜索功能并未完全解决 AI 虚构的问题,GPT-4o search 仍有 10% 的事实错误率。
除了 Responses API,OpenAI 还发布了开源的 Agents SDK,为开发者提供免费工具,用于将模型与内部系统集成、实施安全保护措施,以及监控代理活动。这个工具包是继 OpenAI 早前发布的用于协调多个代理的 Swarm 框架之后的又一举措。
AI 代理领域仍处于早期阶段,未来可能会快速进步。然而,目前 AI 代理运动仍容易受到不切实际宣传的影响。本周早些时候,用户发现中国初创公司蝴蝶效应的 Manus AI 代理平台未能实现其许多承诺,突显了这一新兴技术类别中宣传主张与实际功能之间持续存在的差距。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。