Google在周四发布了一系列全新的开源权重Gemma模型,专门针对智能体AI和编程进行了优化,并采用了更宽松的Apache 2.0许可证,旨在赢得企业客户的青睐。
此次发布正值中国开源权重大语言模型的猛烈攻势,包括月之暗面、阿里巴巴和零一万物等公司的模型,其中许多已经可以与OpenAI的GPT-5或Anthropic的Claude相媲美。
通过最新发布的产品,Google为企业客户提供了一个本土化替代方案,但这个方案不会收集敏感的企业数据来训练未来的模型。
由Google的DeepMind团队开发的第四代Gemma模型带来了多项改进,包括"高级推理"能力以提升数学和指令遵循性能、支持超过140种语言、原生函数调用,以及视频和音频输入功能。
与之前的Gemma模型一样,Google提供了多种规模的版本,适用于从单板计算机和智能手机到笔记本电脑和企业数据中心的各种应用场景。
顶级版本是一个310亿参数的大语言模型,Google表示该模型经过调优以最大化输出质量。
考虑到其规模,该模型不会与Google更大的专有模型形成竞争,但体积足够小,企业无需花费数十万美元购买GPU服务器来运行或微调它。
根据Google的说明,该模型可以在单个80GB H100上以16位未量化方式运行。而在4位精度下,该模型小到足以在24GB GPU上运行,如英伟达RTX 4090或AMD RX 7900 XTX,使用Llama.cpp或Ollama等框架。
对于需要更低延迟(即更快响应)的应用,Gemma 4系列还包括一个使用专家混合架构的260亿参数模型。
在推理过程中,模型的128个专家中的一个子集(总计38亿活跃参数)被用来处理和生成每个Token。只要能将模型加载到显存中,它就能比同等大小的密集模型更快地生成Token。
这种更高的速度确实会以较低的输出质量为代价,因为只有一小部分参数用于处理输出。然而,如果在内存较慢的设备(如笔记本电脑或消费级显卡)上运行,这可能是值得的。
这两个模型都具有256,000个Token的上下文窗口,使它们适合本地代码助手,这是Google在发布公告中重点强调的用例。
除了这些模型,还有一对专为低端边缘硬件(如智能手机和单板计算机,比如树莓派)优化的大语言模型。这些模型有两种规格,一种具有20亿有效参数,另一种具有40亿有效参数。
这里的关键词是"有效"。这些模型实际上分别具有51亿和80亿参数,但通过使用每层嵌入技术,Google能够将模型在计算方面的有效大小减少到23亿到45亿参数之间,使它们在计算能力或电池有限的设备上运行更高效。
尽管规模较小,这两个模型仍然提供128,000个Token的上下文窗口,并且是多模态的,这意味着除了文本之外,它们还可以接受视觉和音频数据作为输入。
与所有供应商提供的基准测试一样,这些声明需要谨慎对待,但与Gemma 3相比,Google声称在各种AI基准测试中都有显著的性能改进。
但Gemma 4最重要的变化可能是切换到更宽松的Apache 2.0许可证,这为企业在如何以及在何处使用或部署这些模型方面提供了更大的灵活性。
此前,Google的Gemma许可证禁止在某些场景下使用这些模型,并保留在用户不遵守规则时终止其访问权限的权利。
转向Apache 2.0现在意味着企业可以部署这些模型而无需担心Google突然撤回支持。
Gemma 4可在Google的AI Studio和AI Edge Gallery服务中使用,也可在Hugging Face、Kaggle和Ollama等流行的模型库中获取。
在发布时,Google声称首日就支持十多个推理框架,包括vLLM、SGLang、Llama.cpp和MLX等。
Q&A
Q1:Gemma 4有哪些主要改进?
A:Gemma 4带来了多项重要改进,包括"高级推理"能力以提升数学和指令遵循性能、支持超过140种语言、原生函数调用功能,以及视频和音频输入能力。最重要的是采用了更宽松的Apache 2.0许可证,给企业更大的使用灵活性。
Q2:Gemma 4的不同版本分别适用于什么场景?
A:Gemma 4提供多种规模版本:310亿参数的顶级模型适合企业应用,260亿参数的专家混合模型适合需要快速响应的应用,20亿和40亿有效参数的模型专为智能手机和树莓派等低端边缘硬件优化。
Q3:Apache 2.0许可证对企业用户有什么好处?
A:Apache 2.0许可证为企业提供了更大的灵活性,可以自由决定如何以及在何处使用或部署模型,而不用担心Google突然撤回支持。这与之前的Gemma许可证相比是重大改进,之前的许可证禁止某些使用场景并保留终止用户访问的权利。
好文章,需要你的鼓励
火箭实验室(Rocket Lab)宣布计划以现金加股票方式,斥资80亿美元收购主要卫星运营商铱星通信(Iridium Communications),交易预计于2027年中完成。铱星目前运营着由66颗活跃低轨卫星组成的星座网络,拥有约255万活跃用户,2024年营收达8.717亿美元。收购完成后,Rocket Lab计划借助其新型重型运载火箭Neutron及Lightning卫星平台,扩大铱星星座规模,开拓未被覆盖的市场并降低发射成本。
谷歌研究院开发的论文助手工具PAT,利用分阶段深度推理流水线自动审查学术论文,在真实错误检测任务上达到89.7%召回率,并已在STOC和ICML两大顶会完成超4700篇论文的真实部署。
音乐流媒体平台Tidal宣布,将于7月中旬启用自动化工具,对完全由AI生成的音乐添加"AI"标识,并移除具有欺诈性质的曲目。平台还将取消AI生成音乐的版税资格,仅向真人创作、演唱的原创音乐开放变现渠道。此外,Tidal明确将高频异常上传、干扰真实艺术家等行为列为欺诈活动。Deezer、Spotify等竞争对手此前已推出类似检测机制,流媒体行业正加速构建AI内容治理体系。
香港大学与武汉大学联合开发的EO-WM系统,将地球观测卫星图像预测重新定义为天气驱动的世界建模问题,通过把气象信号拆解为气候基线、天气异常和累积压力三层,显著提升了对极端干旱和热浪事件下植被退化的预测准确性。