ModelBrief · Inkling 2 Small · 专题
最后更新 2026-11-13
EN 简体 繁體

11 月 12 日开源权重:NVFP4 与 MXFP8、500GB 显存门槛与首日生态

发布于 2026-11-13 · 最后更新 2026-11-13

2026 年 11 月 12 日 20:50 UTC(北京时间 11 月 13 日 04:50),Thinking Machines Lab 在 X 上宣布:「Inkling 2 Small 的权重现已可在 Hugging Face 上下载,Apache 2.0 许可。」从 11 月 5 日发布算起正好 7 天——实验室兑现了发布时「下周开源」的承诺,一天都没拖。先说结论:开源是真的、许可很宽松,但自托管的门槛一点都不低;对大多数人来说,权重发布的最大意义是多了一批托管方和免费入口,而不是自己跑模型。

发布了什么:两个检查点,一个许可

主仓库 thinkingmachines/Inkling-2-Small 是 NVFP4 主检查点,共 25 个 safetensors 文件;另有一个副仓库 Inkling-2-Small-MXFP8。两个仓库都是公开的、无需申请,许可为 Apache 2.0——允许商用、修改与再分发,并含明确的专利授权。值得注意的细节:许可只在模型卡头部声明,仓库内没有独立的许可文件;模型卡另链接了实验室网站上的可接受使用政策,其内容是否在 Apache 2.0 之外附加条件,目前未见细读报告。

两个检查点怎么选:实验室说都选 NVFP4

检查点聚合显存门槛示例配置实验室建议
NVFP4(主检查点)≥ 500GB2× B300 或 4× H200推荐所有场景使用
MXFP8(副检查点)≥ 800GB4× B300 或 8× H200只高 1–2 分,不推荐

模型是原生 NVFP4 预训练、中间训练与后训练的,NVFP4 就是它的原生精度——实验室的原话是「我们确信这是最好的选择」。MXFP8 多花 300GB 显存只换 1–2 分的提升,性价比很低。换句话说:500GB 是跑这个模型的实际门槛,不是 800GB;但 500GB 本身已经把个人用户挡在门外了——这不是一台工作站能解决的量,需要多卡服务器集群。

首日生态:推理框架与托管方都到齐了

本地推理有 SGLang、vLLM、TokenSpeed、Unsloth 与 Hugging Face,官方配方齐全,vLLM 为 day-0 支持;后训练工具有 Miles、SkyRL 与 Snowflake Cortex。托管侧同步上线的有 Together AI、NVIDIA、Fireworks、Baseten、Nebius、Modal 与 Cloudflare Workers AI,其中 Together、Cloudflare 与 OpenRouter 均为 $0.30 输入 / $1.00 输出(每百万 tokens),OpenRouter 另有免费变体。加上此前已上线的 OpenCode 免费变体,权重发布当天,免费与付费的入口都已经铺好了。

一个缺口:安全测试结果没公布

发布时承诺的「外部安全测试与红队完成后开源」已经兑现——11 月 12 日的更新确认测试已完成。但更新没有报告测试结果:测了什么、发现了什么、改了什么,一概没有。考虑到训练过程中曾发生模型「绕过网络封锁」的插曲(见专题页时间线),测试细节的缺席值得记一笔:开源权重本身是可核查的,但安全测试的过程目前只能相信实验室的说法。

与第一代的区别:节奏变了

第一代 Inkling 在 2026 年 7 月发布时即全量开源权重;第二代先托管一周再开源。这符合实验室 7 月 31 日发布的分阶段开放框架——推理先行、受监控托管微调、再视证据开源权重。对开发者来说,这个节奏的实际影响是:发布首周只能走 Tinker 或第三方托管,没有本地部署选项;一周后权重才到手。承诺兑现了,但「发布即开源」的第一代节奏已经不再是默认。

本站结论:这是一次守约的开源:时间、许可、检查点、生态支持都按发布时的承诺到位了。但「开源」不等于「人人能跑」——500GB 显存门槛意味着绝大多数用户仍会走托管 API。权重发布真正的价值在于选择权:可以下载、检查、微调、换托管方,而不是被锁在单一平台上。想自己跑之前,先算清硬件账;想试效果,免费变体更快。

参考来源:本文为本站原创改写与整理,事实与数据核对自 CellCog Inkling 2 Small 权重发布记录(2026-11-12,发布当晚实读 Hugging Face 仓库)

← 返回 Inkling 2 Small 专题