Mira Murati创立的Thinking Machines Lab公司近日发布了其首个基础模型Inkling,并向开发者完整开放模型权重,允许其根据需求自由微调。
Inkling是Thinking Machines完全从零开始训练的第一个模型。在此之前,这家公司过去一年的曝光主要集中在大规模融资轮次以及与英伟达的合作关系上。
模型架构与技术特性
Thinking Machines在博客中介绍,Inkling采用混合专家架构,参数总量达9750亿,但在处理普通任务时,模型仅会激活其中约410亿参数,以实现更快的推理速度和更低的运营成本。
该模型的训练数据量约为45万亿Token,涵盖文本、图像、音频与视频四种模态,并支持原生跨模态推理。不过,Inkling目前仅支持文本形式输出,但这已涵盖代码、格式化内容以及结构化数据。
Inkling的发布,被业界视为面向西方企业、对抗低成本中国AI模型的一次战略行动。近年来,西方开源AI生态在模型开放程度上落后于中国市场,这一差距在Meta将战略重心从Llama系列转向更封闭的自有模型后进一步拉大。
创始人理念与模型定位
Murati曾于2024年9月离开OpenAI首席技术官职位,她一贯强调新公司致力于推动AI的可访问性、定制化与多模态协作。Inkling的发布正是这一理念的直接体现——由于模型完整权重对外公开,开发者可以查看完整代码,并针对不同应用场景进行定制,无需支付高昂的许可费用。
此外,Inkling还提供"推理强度"控制功能,允许开发者在处理速度与精度之间灵活权衡。更值得关注的是,该模型会主动标记输出结果中的不确定内容,而非直接生成可能存在误导性的幻觉信息。
开发者可通过Tinker平台直接对Inkling进行微调。Tinker是Thinking Machines于去年10月推出的模型训练应用程序接口。早期测试数据显示,Inkling在代码生成任务上的表现与英伟达Nemotron 3 Ultra模型相当,但所用Token数量减少了三分之二。
市场反应与行业意义
Futurum Group分析师Mitch Ashley在接受《华尔街日报》采访时表示,过去一年,开放权重模型市场一直由中国AI公司主导,而Inkling是西方市场首个可与之抗衡的替代方案。"它为西方企业提供了一个以定制经济性为核心卖点的可信选择,有助于将支出从按Token计费的API模式,转向企业自主掌控的基础设施。"他还指出,工程团队应将基础模型的选择视为架构层面的决策,因为微调所选模型将成为软件底层的一部分,每一次下游定制都会增加迁移成本,这一评估不可延迟。
Thinking Machines坦承,Inkling在能力上尚不及市面上最顶尖的闭源模型,但公司显然将赌注押在其高度可定制性上。与其将模型封装为固定的聊天机器人应用,Inkling被定位为一个基础模型,供各类组织在自有基础设施上进行微调和部署。
实际应用案例也初步印证了这一策略的可行性。Thinking Machines与桥水基金的合作项目中,研究人员通过Tinker平台,利用专项金融数据对开放模型进行了微调,最终以不足顶尖闭源方案10%的成本,在主流金融推理基准测试中取得了84.7%的高分,超越了多款主流闭源模型。
Thinking Machines表示,Inkling从立项到完成仅历时不足九个月,远低于OpenAI、Anthropic等竞争对手动辄数年的开发周期。该公司在X平台的发布帖子中透露,模型基于英伟达GB300 NVL72系统训练完成,这一合作于今年3月正式对外宣布。
在商业模式上,Thinking Machines不打算通过按量计费的API向用户收费,而是计划通过付费服务Tinker实现营收变现。这一模式的成败,将成为开放权重AI模型能否颠覆硅谷头部AI公司所主导的付费访问体系的重要检验。
Q&A
Q1:Inkling模型有多少参数?实际运行时会全部用到吗?
A:Inkling采用混合专家架构,总参数量为9750亿,但在处理普通任务时,模型只会激活其中约410亿参数。这种设计的目的是在保持强大能力的同时,加快推理速度并降低运行成本,并非每次任务都需要调用全部参数。
Q2:Inkling开放权重对开发者意味着什么?
A:开放权重意味着开发者可以免费下载Inkling的完整模型代码,查看其内部结构,并根据自身业务需求进行自由定制和微调,无需支付高昂的许可费用。开发者还可以通过Thinking Machines的Tinker平台,利用专属数据对模型进行进一步训练,部署在自有基础设施上,实现完全自主可控。
Q3:Thinking Machines靠什么盈利?Inkling免费吗?
A:Inkling的模型权重本身对外开放,开发者可以免费获取。Thinking Machines的盈利方式是通过付费服务Tinker——这是一个帮助开发者便捷完成模型微调的训练平台。简单来说,模型本身免费,但如果想使用官方提供的便捷训练工具,则需要付费。
好文章,需要你的鼓励
苹果已开始在印度分阶段恢复Apple账户的信用卡支付功能,用户可绑定Visa和Mastercard信用卡及借记卡,用于购买iCloud+、Apple Music订阅及App Store应用。此前,由于印度储备银行于2021年推出新的周期性支付监管框架,苹果于2022年5月暂停了该支付方式。此次恢复标志着苹果在适应各国本地化监管要求方面的持续努力,同时也引发外界对苹果是否将在印度推出Apple Pay的新猜测。
CGGS是华南理工大学与西湖大学联合提出的以自我为中心三维场景生成框架,通过一致性增强多视角扩散模型、光流深度估计和互信息几何优化,实现高保真文本驱动3D场景生成。
Bookshop.org创始人Andy Hunter证实,与Kobo的合作集成将于今年落地。此前该计划历经多次推迟,网页措辞一度从"2026年"改为"未来某时"。Hunter表示,双方已就商业条款达成一致,工程团队正将资源重新投入Kobo支持开发,但尚无具体上线日期。该集成将支持数字版权管理要求,让用户通过Bookshop.org购买电子书,同时支持独立书店。
南加州大学团队发现语音抑郁检测领域存在数据漏洞,并提出CLeaD跨语言对比对齐框架,揭示模型规模越大跨语言性能越差的反直觉规律。