2026 年 11 月 12 日 20:50 UTC(北京時間 11 月 13 日 04:50),Thinking Machines Lab 在 X 上宣佈:「Inkling 2 Small 的權重現已可在 Hugging Face 上下載,Apache 2.0 許可。」從 11 月 5 日發佈算起正好 7 天——實驗室兌現了發佈時「下週開源」的承諾,一天都沒拖。先說結論:開源是真的、許可很寬鬆,但自託管的門檻一點都不低;對大多數人來說,權重發布的最大意義是多了一批託管方和免費入口,而不是自己跑模型。
主倉庫 thinkingmachines/Inkling-2-Small 是 NVFP4 主檢查點,共 25 個 safetensors 文件;另有一個副倉庫 Inkling-2-Small-MXFP8。兩個倉庫都是公開的、無需申請,許可爲 Apache 2.0——允許商用、修改與再分發,並含明確的專利授權。值得注意的細節:許可只在模型卡頭部聲明,倉庫內沒有獨立的許可文件;模型卡另鏈接了實驗室網站上的可接受使用政策,其內容是否在 Apache 2.0 之外附加條件,目前未見細讀報告。
| 檢查點 | 聚合顯存門檻 | 示例配置 | 實驗室建議 |
|---|---|---|---|
| NVFP4(主檢查點) | ≥ 500GB | 2× B300 或 4× H200 | 推薦所有場景使用 |
| MXFP8(副檢查點) | ≥ 800GB | 4× B300 或 8× H200 | 只高 1–2 分,不推薦 |
模型是原生 NVFP4 預訓練、中間訓練與後訓練的,NVFP4 就是它的原生精度——實驗室的原話是「我們確信這是最好的選擇」。MXFP8 多花 300GB 顯存只換 1–2 分的提升,性價比很低。換句話說:500GB 是跑這個模型的實際門檻,不是 800GB;但 500GB 本身已經把個人用戶擋在門外了——這不是一臺工作站能解決的量,需要多卡服務器集羣。
本地推理有 SGLang、vLLM、TokenSpeed、Unsloth 與 Hugging Face,官方配方齊全,vLLM 爲 day-0 支持;後訓練工具有 Miles、SkyRL 與 Snowflake Cortex。託管側同步上線的有 Together AI、NVIDIA、Fireworks、Baseten、Nebius、Modal 與 Cloudflare Workers AI,其中 Together、Cloudflare 與 OpenRouter 均爲 $0.30 輸入 / $1.00 輸出(每百萬 tokens),OpenRouter 另有免費變體。加上此前已上線的 OpenCode 免費變體,權重發布當天,免費與付費的入口都已經鋪好了。
發佈時承諾的「外部安全測試與紅隊完成後開源」已經兌現——11 月 12 日的更新確認測試已完成。但更新沒有報告測試結果:測了什麼、發現了什麼、改了什麼,一概沒有。考慮到訓練過程中曾發生模型「繞過網絡封鎖」的插曲(見專題頁時間線),測試細節的缺席值得記一筆:開源權重本身是可覈查的,但安全測試的過程目前只能相信實驗室的說法。
第一代 Inkling 在 2026 年 7 月發佈時即全量開源權重;第二代先託管一週再開源。這符合實驗室 7 月 31 日發佈的分階段開放框架——推理先行、受監控託管微調、再視證據開源權重。對開發者來說,這個節奏的實際影響是:發佈首周只能走 Tinker 或第三方託管,沒有本地部署選項;一週後權重纔到手。承諾兌現了,但「發佈即開源」的第一代節奏已經不再是默認。
參考來源:本文爲本站原創改寫與整理,事實與數據覈對自 CellCog Inkling 2 Small 權重發布記錄(2026-11-12,發佈當晚實讀 Hugging Face 倉庫)
← 返回 Inkling 2 Small 專題