Elon Musk 的 xAI 公司于周一深夜宣布推出 Grok-3,这是该公司大语言模型家族的最新成员。
该公司表示,这个 AI 模型相比其前代 Grok-2 实现了重大突破,加入了"推理模型"以模拟人类思维。
在直播发布会上,xAI 的研究人员表示,Grok-3 的训练使用了比 Grok-2 多 10 到 15 倍的计算能力。该公司于 9 月份推出了一个名为 Colossus 的大型超级计算机训练系统,配备了 100,000 个 Nvidia 公司的 H100 图形处理单元,专门用于推出 Grok 的新版本。
"Grok-3 的整体表现独具一格," CEO Elon Musk 在发布会上表示。他声称根据早期测试结果,该模型在数学、科学和编程方面的表现超过了 OpenAI 和中国 DeepSeek 的模型。
Grok-3 包含两个主要推理模型:Grok-3 Reasoning beta (一个大型复杂模型) 和 Grok-3 mini Reasoning (一个能快速生成答案的小型快速模型)。在 xAI 的聊天机器人中启用这些模型后,它们会在处理复杂的科学、数学和编程问题时展示其"思考"过程,进行逐步推理。
此次发布恰逢其他公司开始推出推理模型,这些模型能将复杂任务分解为更小的任务,并在提供解决方案前进行自我事实核查。这样做的目的是提供更好的结果。竞争对手开发的类似模型包括 OpenAI 的 o1 和 o3-mini reasoning、DeepSeek 的 R1 以及 Google 的 Gemini 2.0 Flash Thinking Experimental。
"我们需要强调这是一个测试版,这意味着一开始可能会有一些不完善之处,但我们会快速改进,几乎每天都会更新," Musk 补充道。
用户可以启用"Think"功能来使用 Grok-3 模型的推理能力。对于更难的问题,他们可以激活"Big Brain"模式,xAI 表示这最适合处理涉及数学、科学或编程推理的复杂查询。
Grok-3 的推理模式还可以与名为"DeepSearch"的搜索功能配合使用,虽然需要更长时间,但模型会扫描互联网寻找相关知识并将其整合到答案中。xAI 表示使用 DeepSearch 将获得更相关、更详细的回答。
增加这种深度互联网研究能力意味着 xAI 的模型将加入拥有类似功能的竞争对手行列,包括 OpenAI 和 Google。AI 搜索引擎创建者 Perplexity AI 公司在提供搜索答案时直接将深度互联网研究融入其服务中。
Grok-3 还将获得语音模式,允许其用语音回答查询。虽然该功能在发布时尚未推出,但 Musk 表示将在一周左右内推出。Musk 补充说,Grok 的语音模式不仅仅是语音转文本,它将能理解语调、语气和节奏,"就像与真人对话一样"。
好文章,需要你的鼓励
随着AI模型参数达到数十亿甚至万亿级别,工程团队面临内存约束和计算负担等共同挑战。新兴技术正在帮助解决这些问题:输入和数据压缩技术可将模型压缩50-60%;稀疏性方法通过关注重要区域节省资源;调整上下文窗口减少系统资源消耗;动态模型和强推理系统通过自学习优化性能;扩散模型通过噪声分析生成新结果;边缘计算将数据处理转移到网络端点设备。这些创新方案为构建更高效的AI架构提供了可行路径。
清华大学团队开发了CAMS智能框架,这是首个将城市知识大模型与智能体技术结合的人类移动模拟系统。该系统仅需用户基本信息就能在真实城市中生成逼真的日常轨迹,通过三个核心模块实现了个体行为模式提取、城市空间知识生成和轨迹优化。实验表明CAMS在多项指标上显著优于现有方法,为城市规划、交通管理等领域提供了强大工具。
Meta以143亿美元投资Scale AI,获得49%股份,这是该公司在AI竞赛中最重要的战略举措。该交易解决了Meta在AI发展中面临的核心挑战:获取高质量训练数据。Scale AI创始人王亚历山大将加入Meta领导新的超级智能研究实验室。此次投资使Meta获得了Scale AI在全球的数据标注服务,包括图像、文本和视频处理能力,同时限制了竞争对手的数据获取渠道。
MIT研究团队发现了一个颠覆性的AI训练方法:那些通常被丢弃的模糊、失真的"垃圾"图片,竟然能够训练出比传统方法更优秀的AI模型。他们开发的Ambient Diffusion Omni框架通过智能识别何时使用何种质量的数据,不仅在ImageNet等权威测试中创造新纪录,还为解决AI发展的数据瓶颈问题开辟了全新道路。