总部位于巴黎的人工智能初创公司 Mistral AI 今天宣布开源其新的轻量级 AI 模型 Mistral Small 3.1,声称其性能超越了 OpenAI 和 Google LLC 开发的类似模型。
这一举措可能会加剧开发高性能低成本大语言模型的竞争。Mistral Small 3.1 仅使用 240 亿参数就能处理文本和图像,虽然规模仅为目前最先进模型的一小部分,但仍能与它们竞争。
在一篇博客文章中,Mistral 解释说,与其前身 Mistral Small 3 相比,Mistral Small 3.1 提供了"更好的文本处理性能、多模态理解能力,以及扩展到 128,000 个 token 的内容窗口"。
该公司补充说,新模型可以以每秒约 150 个 token 的速度处理数据,这使其非常适合需要快速响应的应用场景。从各方面来看,这都是一个令人印象深刻的技术成就,突显了 Mistral AI 的另类战略。与竞争对手简单地投入更多计算资源不同,该公司的许多进步源于对算法改进和训练优化技术的关注。这种方法使其能够最大化小型模型架构的性能。
Mistral AI 的这种方法的主要优势在于使 AI 更容易获取。通过构建能在相对普通硬件上运行的强大新模型 - 在本例中是单个 RTX 4090 显卡或配备 32GB 内存的 Mac 笔记本电脑 - 它使更先进的 AI 能够部署在更小的远程设备上。
与简单增加 AI 模型规模相比,Mistral 的方法最终可能更具可持续性。随着中国的 DeepSeek Ltd. 也采用类似策略,其资金更充足的竞争对手最终可能别无选择,只能走上同样的道路。
这家法国公司由来自 Google DeepMind 部门和 Meta Platforms Inc. 的前 AI 研究人员于 2023 年创立,现已成为欧洲顶级 AI 公司。迄今为止,该公司已筹集超过 10.4 亿美元资金,估值约为 60 亿美元。这确实是一笔巨额资金,但与 OpenAI 据报道的 800 亿美元估值相比却显得微不足道。
Mistral Small 3.1 是该公司最近一系列发布的最新产品。上个月,它推出了专注于阿拉伯语言和文化的新模型 Saba,本月又推出了 Mistral OCR。Mistral OCR 是一个专门使用光学字符识别将 PDF 文档转换为 Markdown 文件的模型,使其更容易被大语言模型访问。
这些专业产品丰富了公司更广泛的 AI 模型组合,其中包括公司当前的旗舰产品 Mistral Large 2、多模态模型 Pixtral、代码生成模型 Codestral,以及用于边缘设备的高度优化模型系列 Les Ministraux。
这个多样化的产品组合突显了 Mistral AI 如何根据市场需求调整其创新,创建各种专用系统以满足不断增长的需求,而不是直接与 OpenAI 和 Google 正面竞争。
该公司对开源的承诺也是一个独特的战略选择,在由封闭、专有模型主导的行业中脱颖而出。这种策略在某种程度上也取得了成效,其轻量级前身 Mistral Small 3 已经衍生出"几个出色的推理模型"。这表明开放合作有潜力使 AI 发展的速度远超任何单个公司独自工作的速度。
通过开源其模型,Mistral 还受益于更广泛的 AI 社区提供的扩展研发能力,使其能够与资金更充足的竞争对手竞争。
然而,Mistral 的开源策略也使其更难产生收入,因此必须寻求提供专业服务、企业部署和利用其基础技术的独特应用,以提供其他类型的优势。
Mistral 选择的道路是否正确仍有待观察,但目前显然 Mistral Small 3.1 是一个重要的技术成就,强化了强大的 AI 模型可以以更小、更高效的包装形式实现的理念。
Mistral Small 3.1 可通过 Huggingface 下载,也可以通过 Mistral 的 AI 应用程序接口或 Google Cloud 的 Vertex AI 平台访问。在未来几周内,它还将通过 Nvidia Corp. 的 NIM 微服务和 Microsoft Corp. 的 Azure AI Foundry 提供。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。