Context.ai,一家专注于为 AI 模型构建评估和分析工具的初创公司,于周二宣布,其联合创始人将加入 OpenAI。
根据公司网站上的公告,Context.ai 计划在此次收购后逐步停用现有产品。当被询问相关情况时,OpenAI 拒绝透露此次交易的具体条款。
公告中写道: “评估是构建高性能 AI 应用的必备环节,但目前要做到这一点仍充满挑战。我们花了两年的时间在 Context.ai 构建评估和模型分析工具——期间也经历了几次战略转型。对于能够开启在 OpenAI 的新篇章,我们感到无比激动,同时也衷心感谢所有曾经参与其中的人。”
Context.ai 由前 Google 员工 Henry Scott-Green(首席执行官)和 Alex Gamble(首席技术官)于 2023 年创立。同年,该初创公司从 GV 与 Theory Ventures 获得了 350 万美元的种子融资。
Context.ai 的旗舰产品之一是一款仪表盘,允许用户深入挖掘模型生成的数据,从而判断模型是否能够真正有效地回答查询。Context.ai 用户能够通过 API 分享对话记录,随后 Context.ai 会对这些记录进行分析,并根据主题将其分组和打标签。
Scott-Green 在 2023 年接受 TechCrunch 采访时表示:“我经常听到‘我的模型是个黑盒子’这句话。我们与数百名开发者交流时发现,他们普遍面临两个问题:一是不了解用户如何使用他们的模型,二是无法全面掌握模型的表现情况。”
截至 2023 年 8 月,Context.ai 拥有六名员工。目前尚不清楚该团队的实际规模是否有所变化,以及是否所有员工都将获得 OpenAI 的岗位。
在 X 平台上的一篇帖子中,Scott-Green 表示,他与 Gamble 将在 OpenAI 致力于开发“帮助开发者成功所必需的工具”,重点放在模型评估上。根据 Scott-Green 在 LinkedIn 上的资料,他现已成为 OpenAI 的产品经理,负责“构建评估工具”。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。