Mira Murati创立的Thinking Machines Lab公司近日发布了其首个基础模型Inkling,并向开发者完整开放模型权重,允许其根据需求自由微调。
Inkling是Thinking Machines完全从零开始训练的第一个模型。在此之前,这家公司过去一年的曝光主要集中在大规模融资轮次以及与英伟达的合作关系上。
模型架构与技术特性
Thinking Machines在博客中介绍,Inkling采用混合专家架构,参数总量达9750亿,但在处理普通任务时,模型仅会激活其中约410亿参数,以实现更快的推理速度和更低的运营成本。
该模型的训练数据量约为45万亿Token,涵盖文本、图像、音频与视频四种模态,并支持原生跨模态推理。不过,Inkling目前仅支持文本形式输出,但这已涵盖代码、格式化内容以及结构化数据。
Inkling的发布,被业界视为面向西方企业、对抗低成本中国AI模型的一次战略行动。近年来,西方开源AI生态在模型开放程度上落后于中国市场,这一差距在Meta将战略重心从Llama系列转向更封闭的自有模型后进一步拉大。
创始人理念与模型定位
Murati曾于2024年9月离开OpenAI首席技术官职位,她一贯强调新公司致力于推动AI的可访问性、定制化与多模态协作。Inkling的发布正是这一理念的直接体现——由于模型完整权重对外公开,开发者可以查看完整代码,并针对不同应用场景进行定制,无需支付高昂的许可费用。
此外,Inkling还提供"推理强度"控制功能,允许开发者在处理速度与精度之间灵活权衡。更值得关注的是,该模型会主动标记输出结果中的不确定内容,而非直接生成可能存在误导性的幻觉信息。
开发者可通过Tinker平台直接对Inkling进行微调。Tinker是Thinking Machines于去年10月推出的模型训练应用程序接口。早期测试数据显示,Inkling在代码生成任务上的表现与英伟达Nemotron 3 Ultra模型相当,但所用Token数量减少了三分之二。
市场反应与行业意义
Futurum Group分析师Mitch Ashley在接受《华尔街日报》采访时表示,过去一年,开放权重模型市场一直由中国AI公司主导,而Inkling是西方市场首个可与之抗衡的替代方案。"它为西方企业提供了一个以定制经济性为核心卖点的可信选择,有助于将支出从按Token计费的API模式,转向企业自主掌控的基础设施。"他还指出,工程团队应将基础模型的选择视为架构层面的决策,因为微调所选模型将成为软件底层的一部分,每一次下游定制都会增加迁移成本,这一评估不可延迟。
Thinking Machines坦承,Inkling在能力上尚不及市面上最顶尖的闭源模型,但公司显然将赌注押在其高度可定制性上。与其将模型封装为固定的聊天机器人应用,Inkling被定位为一个基础模型,供各类组织在自有基础设施上进行微调和部署。
实际应用案例也初步印证了这一策略的可行性。Thinking Machines与桥水基金的合作项目中,研究人员通过Tinker平台,利用专项金融数据对开放模型进行了微调,最终以不足顶尖闭源方案10%的成本,在主流金融推理基准测试中取得了84.7%的高分,超越了多款主流闭源模型。
Thinking Machines表示,Inkling从立项到完成仅历时不足九个月,远低于OpenAI、Anthropic等竞争对手动辄数年的开发周期。该公司在X平台的发布帖子中透露,模型基于英伟达GB300 NVL72系统训练完成,这一合作于今年3月正式对外宣布。
在商业模式上,Thinking Machines不打算通过按量计费的API向用户收费,而是计划通过付费服务Tinker实现营收变现。这一模式的成败,将成为开放权重AI模型能否颠覆硅谷头部AI公司所主导的付费访问体系的重要检验。
Q&A
Q1:Inkling模型有多少参数?实际运行时会全部用到吗?
A:Inkling采用混合专家架构,总参数量为9750亿,但在处理普通任务时,模型只会激活其中约410亿参数。这种设计的目的是在保持强大能力的同时,加快推理速度并降低运行成本,并非每次任务都需要调用全部参数。
Q2:Inkling开放权重对开发者意味着什么?
A:开放权重意味着开发者可以免费下载Inkling的完整模型代码,查看其内部结构,并根据自身业务需求进行自由定制和微调,无需支付高昂的许可费用。开发者还可以通过Thinking Machines的Tinker平台,利用专属数据对模型进行进一步训练,部署在自有基础设施上,实现完全自主可控。
Q3:Thinking Machines靠什么盈利?Inkling免费吗?
A:Inkling的模型权重本身对外开放,开发者可以免费获取。Thinking Machines的盈利方式是通过付费服务Tinker——这是一个帮助开发者便捷完成模型微调的训练平台。简单来说,模型本身免费,但如果想使用官方提供的便捷训练工具,则需要付费。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。