Inkling 开放权重：975B 总参数的原生多模态 MoE

一分钟读懂

Thinking Machines Lab 在 7 月 15 日发布 Inkling，并以 Apache 2.0 许可证开放权重。模型卡将它描述为 66 层、解码器单栈的原生多模态自回归 Transformer，可接收文本、图像和音频并生成文本；其稀疏混合专家结构共有 975B 参数，每个 token 激活 41B。

发布材料给出的上下文窗口为一百万 token，训练数据规模为 45 万亿 token，覆盖文本、图像、音频和视频。模型提供 BF16 与 NVFP4 两种数值格式，并在发布当天获得 Transformers、SGLang、vLLM 等推理工具的接入支持。

开放权重扩大了研究、微调和第三方部署空间，但“权重开放”不等于低成本运行：官方生态文章称 BF16 检查点约需 2 TB 显存，NVFP4 版本约需 600 GB。发布方评测和安全结论也仍需要独立复核。

背景

多模态模型可以通过独立编码器拼接视觉或音频，也可以把不同模态投射到同一隐藏空间后交由统一解码器处理。Inkling 选择后一条路径：图像经分层 patch 编码，音频被离散化，各模态最终进入同一个解码器。

模型的注意力层按五个滑动窗口层配一个全局层交替，并加入短卷积处理局部信息。每个 token 在 256 个路由专家中选择 6 个，同时使用 2 个共享专家。这些设计共同决定长上下文、多模态和实际推理成本之间的取舍。

变化

Thinking Machines Lab 提供完整精度与 NVFP4 权重，并给出本地部署和第三方推理入口。模型还包含用于推测解码的多 token 预测层，使服务端可以先生成候选 token，再由主模型验证。这里确认的是模型结构与发布接口；实际加速幅度会随硬件、批量和服务实现变化。

模型卡报告了推理、编程 Agent、事实性、视觉、音频和安全等多组结果，并注明比较分数生成于 7 月 14 日。官方称，发布前测试覆盖日常交互、危险能力、失控风险和多模态输入一致性；其判断是 Inkling 没有带来超过既有开放权重生态的实质风险增量。

影响

观智录认为，Inkling 的长期位置取决于三个要素是否能同时成立：接近万亿参数的开放权重、原生多模态输入，以及在主流推理引擎中的可部署实现。它为研究者提供了观察大规模稀疏多模态模型的直接材料，也让模型架构、量化和集群服务必须被一起评估。

官方结果不应被简单压缩成单一排名。模型卡说明不同对比模型使用各自的推理设置，Inkling 的结果以接近最高的 effort 设置报告；对真实应用而言，质量、token 消耗、显存和延迟需要在同一预算下比较。

仍待观察

发布材料没有完整公开训练数据构成，也没有给出一百万 token 上下文在多模态长序列中的系统性评测。生态文章还明确表示，视频能力尚未进行开箱评估。

安全结果与大部分能力数字来自发布方。后续独立评测、不同语言和模态的压力测试，以及多节点部署数据，将决定开放权重是否能转化为可复现、可承担的实际能力。