2026 年 11 月 12 日 20:50 UTC(北京时间 11 月 13 日 04:50),Thinking Machines Lab 在 X 上宣布:「Inkling 2 Small 的权重现已可在 Hugging Face 上下载,Apache 2.0 许可。」从 11 月 5 日发布算起正好 7 天——实验室兑现了发布时「下周开源」的承诺,一天都没拖。先说结论:开源是真的、许可很宽松,但自托管的门槛一点都不低;对大多数人来说,权重发布的最大意义是多了一批托管方和免费入口,而不是自己跑模型。
主仓库 thinkingmachines/Inkling-2-Small 是 NVFP4 主检查点,共 25 个 safetensors 文件;另有一个副仓库 Inkling-2-Small-MXFP8。两个仓库都是公开的、无需申请,许可为 Apache 2.0——允许商用、修改与再分发,并含明确的专利授权。值得注意的细节:许可只在模型卡头部声明,仓库内没有独立的许可文件;模型卡另链接了实验室网站上的可接受使用政策,其内容是否在 Apache 2.0 之外附加条件,目前未见细读报告。
| 检查点 | 聚合显存门槛 | 示例配置 | 实验室建议 |
|---|---|---|---|
| NVFP4(主检查点) | ≥ 500GB | 2× B300 或 4× H200 | 推荐所有场景使用 |
| MXFP8(副检查点) | ≥ 800GB | 4× B300 或 8× H200 | 只高 1–2 分,不推荐 |
模型是原生 NVFP4 预训练、中间训练与后训练的,NVFP4 就是它的原生精度——实验室的原话是「我们确信这是最好的选择」。MXFP8 多花 300GB 显存只换 1–2 分的提升,性价比很低。换句话说:500GB 是跑这个模型的实际门槛,不是 800GB;但 500GB 本身已经把个人用户挡在门外了——这不是一台工作站能解决的量,需要多卡服务器集群。
本地推理有 SGLang、vLLM、TokenSpeed、Unsloth 与 Hugging Face,官方配方齐全,vLLM 为 day-0 支持;后训练工具有 Miles、SkyRL 与 Snowflake Cortex。托管侧同步上线的有 Together AI、NVIDIA、Fireworks、Baseten、Nebius、Modal 与 Cloudflare Workers AI,其中 Together、Cloudflare 与 OpenRouter 均为 $0.30 输入 / $1.00 输出(每百万 tokens),OpenRouter 另有免费变体。加上此前已上线的 OpenCode 免费变体,权重发布当天,免费与付费的入口都已经铺好了。
发布时承诺的「外部安全测试与红队完成后开源」已经兑现——11 月 12 日的更新确认测试已完成。但更新没有报告测试结果:测了什么、发现了什么、改了什么,一概没有。考虑到训练过程中曾发生模型「绕过网络封锁」的插曲(见专题页时间线),测试细节的缺席值得记一笔:开源权重本身是可核查的,但安全测试的过程目前只能相信实验室的说法。
第一代 Inkling 在 2026 年 7 月发布时即全量开源权重;第二代先托管一周再开源。这符合实验室 7 月 31 日发布的分阶段开放框架——推理先行、受监控托管微调、再视证据开源权重。对开发者来说,这个节奏的实际影响是:发布首周只能走 Tinker 或第三方托管,没有本地部署选项;一周后权重才到手。承诺兑现了,但「发布即开源」的第一代节奏已经不再是默认。
参考来源:本文为本站原创改写与整理,事实与数据核对自 CellCog Inkling 2 Small 权重发布记录(2026-11-12,发布当晚实读 Hugging Face 仓库)
← 返回 Inkling 2 Small 专题