Thinking Machines Lab 发布了 Inkling,其首个开放模型:一款总参数 975B / 激活 41B 的多模态 Mixture-of-Experts,拥有 256 位可路由专家(每 token 激活 6 位)、1M 上下文,并在 45 万亿 token 的文本、图像、音频和视频上训练。权重以 open-weights 形式发布在 Hugging Face,可在 Tinker 平台运行,并内置一个可调的「思考努力度」,在质量与每 token 成本之间取得平衡。
多年来,「真正强大的开放模型」这句话总是附带着小字注解:要么是排在闭源模型后面很远的小不点,要么是藏在带候补名单的 API 之后的权重。正因如此,7 月 15 日的消息才让这么多人挑起了眉毛——由前 OpenAI CTO Mira Murati 创立、拥有地球上最昂贵技术团队之一的研究实验室 Thinking Machines Lab,发布了它的首个模型 Inkling,并把完整权重以 open-weights 形式放到 Hugging Face 上,同时让它在自家平台 Tinker 和合作伙伴的 API 上运行起来。这不是一张漂亮截图的演示:是权重本身,可以下载并在你自己的基础设施上运行。当这种量级的实验室选择从开放起步时,这个姿态本身就已经是新闻。
## 一个能塞进你预算的近乎万亿参数
Inkling 是一款总参数 9750 亿的多模态 Mixture-of-Experts(MoE),但——这正是 MoE 的魔力所在——它处理的每个 token 只激活 410 亿参数。一个有用的类比:每一层都聘请了 256 位可路由的专家(外加一两位始终待命的),但对每个 token 只唤醒需要的那六位;你付的是六位的算力,不是二百五十六位的。再加上高达 100 万 token 的上下文,一次在 45 万亿 token 的文本、图像、音频和视频上完成的训练,以及一个更轻量的预览变体——Inkling-Small,总参数 276B / 激活 12B——供那些不需要旗舰的人使用。正是这类架构让一个庞大的模型反而在运营上变得可行。
## 几乎没人在关注的那根杠杆:可调的努力度
对建造者而言,最有意思的不是参数量,而是一个更微妙的细节:Inkling 允许控制它在回答前「思考」多少,以在性能和 token 消耗之间取得平衡。创作者们用一个具体数据来说明:在 Terminal Bench 2.1 上,它以大约三分之一的 token 追平了 Nemotron 3 Ultra。换算成账单:模型多推理的每一个 token 都是从你账户里流出的钱,而在这里你可以逐请求地决定任务是否值得深度模式,还是快速回答就够了。这是一个把质量对成本的旋钮交到了你手里。而且实验室并不掩饰那份诚实的分寸:他们直言不讳地说 Inkling「不是当今可用的最强模型,无论开放还是闭源」,而是一个可以定制和微调的良好开放基座。在一个每逢跑分就沉迷于宣称自己最优的市场里,这份坦诚令人感激。
## 为什么「open-weights」改变了起跑线
权重可以下载,这个差别本身就足以成为标题。把这一点与一个每 token「只」激活 41B 参数的 MoE、以及为现代硬件准备好的检查点结合起来——包括一个用于 NVIDIA Blackwell 系统高效推理的 NVFP4 版本——一支小团队突然就可以考虑在自己的基础设施上运行一个近乎万亿的模型,或者通过 Tinker 在自己的领域上微调它,而不必被绑定在一个闭源 API 上。它并不能在所有场景替代前沿模型——作者们自己也承认——但它确实重新定义了一支普通团队能够掌控在自己手中、纳入自己预算的东西的起跑线。不过要注意,在将其投入商业生产之前,最好先查阅 Hugging Face 上模型卡里的确切使用条款。
## 这对用 IA 建造的人意味着什么
Inkling 深层的启示在于,竞争优势正在从「我有什么模型」转向「我怎么治理它」。一个可调的思考努力度不是跑分把戏:它恰恰是那种决定一个 IA 产品是盈利、还是被 token 一点点吃掉利润的杠杆。在 NeuralOS,我们正是从这套无声的算术出发思考的——正因如此,cost guardrails(按用户的预算、按 workspace 的上限、用于提前中止的 streaming)是设计的一部分,而非可选的附加项。而且出于信念我们坚持 model-agnostic:像 Inkling 这样的开放模型和一个闭源前沿模型进入同一场对话,因为你按任务选择引擎,不与任何一个绑定。不放烟雾弹:我们不承诺今天就开箱即用地提供 Inkling。真正属于设计一部分的,是那份纪律——决定每个请求思考多少、花费多少。