微软预测,未来大多数在线搜索将由代替人类执行任务的AI智能体完成,而非人类自身。为此,这家科技巨头近日发布了Microsoft Web IQ——一套专为AI智能体设计的全新API套件,帮助智能体更快速、更全面地获取网络信息。
微软在其年度开发者大会Microsoft Build上表示,Web IQ是专为AI系统打造的搜索引擎。它将AI工具与网络信息连接起来,但呈现方式与面向人类的传统搜索引擎截然不同。
"我们以前拥有面向人类的搜索引擎,比如Bing。"微软搜索与AI业务总裁乔迪·里巴斯(Jordi Ribas)在接受CNET采访时表示。
里巴斯指出,面向智能体的搜索引擎正在快速崛起。"Web IQ是我们针对这类搜索引擎提出的解决方案,它提供与智能体查询相关的上下文信息,包括网页文档、新闻、图片和视频,供智能体用于知识接地。"
虽然人类和AI智能体的搜索方式不同,但微软得以借助在Bing领域积累的多年经验来构建Web IQ。
"我们充分利用了过去20年在Bing上积累的一切成果,同时从底层对架构进行了重新设计和重建,以确保打造出一款针对智能体高度优化的搜索引擎。"里巴斯说道。
人类搜索与AI智能体搜索的核心区别在于信息的呈现方式。对人类而言,是根据搜索意图对结果进行排序;而对AI智能体而言,则是提供一个全面但精简的结果页面,以便在不消耗过多Token的情况下完成解析。因此,Web IQ需要以紧凑的方式快速交付高质量的结果。
Token是AI模型处理并生成响应的基本文本单位,在英语中通常约为每个Token四个字符。AI模型使用的Token越多,输出成本就越高。
智能体AI是超越聊天机器人的下一阶段形态。它不仅能告知用户应采取哪些步骤,还能直接介入并代替用户完成任务。自动驾驶汽车和智能家居助手等都属于某种形式的智能体AI,而最新一代AI智能体能够以更高的自主性独立运作。
里巴斯表示,Web IQ在搜索结果质量、Token效率和响应延迟方面均处于行业领先地位——95%的情况下响应时间不超过165毫秒,Token效率约为其他同类产品的2.5倍。
Web IQ API作为Microsoft IQ的重要组成部分(该产品同样在Microsoft Build主题演讲中发布),已在"相当长"的一段时间内为微软旗下AI产品Copilot及OpenAI的ChatGPT提供支持。
里巴斯补充道:"还有很多其他系统也在使用Web IQ进行知识接地。"但微软目前暂未披露具体名称。
尽管里巴斯认为智能体执行搜索的数量可能低于部分预测(有预测认为未来几年内智能体的查询量将是人类的1000倍),但他相信在今年年底之前,AI智能体的搜索量必然将超过人类。
"我们预计智能体的查询量会轻松超过人类,这本质上取决于每次对话响应所需的查询次数,以及AI系统持续加速增长的现实趋势。每当这些系统处理一个查询或问题时,通常需要在Web IQ这样的系统中完成多次查询。"里巴斯说道。
Q&A
Q1:Microsoft Web IQ是什么?和普通搜索引擎有什么区别?
A:Microsoft Web IQ是微软专为AI智能体打造的搜索API套件,与Bing等面向人类的搜索引擎不同,Web IQ提供的是全面且精简的结果,方便AI智能体高效解析,同时尽量减少Token消耗以降低成本。其响应速度极快,95%的情况下延迟不超过165毫秒,Token效率约是同类产品的2.5倍。
Q2:Microsoft Web IQ目前已经被哪些产品使用了?
A:根据微软官方信息,Web IQ已被用于为微软自家的AI产品Copilot以及OpenAI的ChatGPT提供搜索支持,且两者使用该技术已有相当长一段时间。此外,还有其他系统也在使用Web IQ进行知识接地,但微软目前尚未公开具体名称。
Q3:AI智能体的搜索量真的会超过人类吗?
A:微软搜索与AI业务总裁里巴斯认为,AI智能体的搜索量在今年年底前就会超过人类。原因在于,智能体在处理每个用户问题时通常需要发起多次查询,加之AI系统的持续扩张,其查询总量自然会快速超越人类搜索量。
好文章,需要你的鼓励
今天讲的出海案例是开创电气,一家金华手持式电动工具制造商,在越南基地完成首款产品验收并形成80万台年产能力。
JETSPEC是由UC San Diego等机构联合提出的推测解码框架,通过树形因果掩码让草稿头在一次前向传播中生成分支一致的候选树,在MATH-500上实现最高9.64倍端到端加速。
研究人员意外发现,标准MOSFET晶体管可同时模拟神经元和突触行为,形成"神经突触随机存取存储器"(NSRAM)。该技术仅需一至两个晶体管即可实现传统需数十乃至数百个元件才能完成的神经信号处理,且与现有硅基制造工艺完全兼容,良率达100%。未来有望应用于边缘AI及高能效神经形态芯片,长远或可挑战GPU地位。
本文介绍了中国科学院自动化所的研究,揭示了大型语言模型在多轮工具调用强化学习中崩溃的根本原因,并系统评估了五种监督信号对训练稳定性和泛化能力的影响。