ModelBrief · Edge0-145B · 專題
最後更新 2026-11-20
EN 简体 繁體

Edge0-145B 發佈:11 月 12 日上線,145B 裝進一臺消費級電腦

ModelBrief · 2026-11-20 發佈 · 事實覈查 2026-11-20 · 參考來源:Edge0 官方博客、Hugging Face 模型卡、GitHub Edge0-AI/Edge0

Edge0 團隊 2026 年 11 月 12 日一次放出兩個模型:145B 的 Edge0-145B 與 120B 的 Edge0-120B,連同推理框架 edge0-infer 與部署工具 edge0-strata、桌面應用 Edge0 App。官方博客的標題是「Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer」,口號是「145B 參數、前沿級 Agent 與編碼能力,跑在你自己的電腦上」。本文先把發佈當日確認的事實列清楚,再拆開標題裏的兩個數字——29GB 與 80+ tok/s——它們各有一半沒說完。

發佈當日確認的事實

項目確認內容
發佈日期2026-11-12(週四),官方博客「Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer」
開發方Edge0(AutoArk 團隊;官方博客聯繫方式指向 autoark.ai;公司所在地未公開)
同日發佈Edge0-120B(120B 兄弟模型);推理框架 edge0-infer v0.2.0 發佈說明在 11 月 11 日先行上線
定位端側 Agent / 編碼模型:145B 參數、每 token 只激活 10.12B,主打本地 vibe coding 與 Agent 任務
底座阿里 Qwen3.8-Flash-Next(Hugging Face 模型卡元數據;官方博客未點名 Qwen)
權重Hugging Face 公開權重,兩個構建:Q3_K 40.81 GiB、NVFP4 47.79 GiB(Edge0/Edge0-145B-q3k、Edge0/Edge0-145B-NVFP4)
上下文256K tokens;KV int8,32K 常駐
速度(廠商實測,RTX 5090 D 24GB)NVFP4:Agent 解碼 98.3 tok/s、16K 預填充 3165.7 tok/s;Q3_K:Agent 解碼 121.2 tok/s、16K 預填充 3554.9 tok/s;博客標題口徑爲解碼 80+ tok/s、預填充 1100+ tok/s、典型功耗約 120W
許可證權重:Edge0 Community Model License 1.0,Qwen Community License 1.0 同時適用;框架代碼 Apache 2.0
價格無託管 API、無按 token 計價;成本只有本地硬件與電費

沿革:從 35B 手機模型到 145B 筆記本模型

Edge0-145B 不是憑空出現的。按官方博客的說法,這條端側產品線始於 2026 年 9 月 10 日發佈的 Edge0-35B——一個手機量級的模型;145B 與 120B 是同一條產品線的放大:把「專家權重走 SSD 流式加載」的架構從 35B 推到 100B+ 量級。理解這個沿革很重要:Edge0-145B 的設計目標從來不是「再做一個雲端旗艦」,而是「把雲端量級的參數塞進消費級硬件」——架構、內存管線與 4bit 訓練都是爲這個目標服務的,詳見本站架構專文。

發佈當天的三件套:權重、框架、桌面應用

這次發佈不是隻放權重,而是三件套一起到:第一,權重上 Hugging Face,Q3_K 與 NVFP4 兩個構建;第二,推理框架 edge0-infer 與部署工具 edge0-strata 上 GitHub(Edge0-AI/Edge0,Apache 2.0),v0.2.0 發佈說明 11 月 11 日先行,本地服務兼容 OpenAI 與 Anthropic 的 Messages API,145B 權重不隨安裝包附帶、需另從 Hugging Face 下載;第三,桌面應用 Edge0 App,核心能力離線可用、無需賬號與用量配額(官方博客口徑)。三件套齊全,是 Edge0-145B 與純論文模型的最大區別:發佈當天就有人能把它裝起來跑。

標題裏的兩個數字:29GB 與 80+ tok/s,各有一半沒說完

29GB 是 GPU 側峯值,不是整機需求。官方博客標題寫「29GB 峯值內存」「跑在 MacBook Pro 這類兼容個人筆記本上」「48GB 筆記本即可本地使用」。但模型卡自己公佈的實測常駐數據是另一回事(RTX 5090 D 24GB):NVFP4 需 23.25 GiB 顯存 + 38.27 GiB 系統內存,合計約 61.5 GiB;Q3_K 需 23.14 GiB 顯存 + 31.28 GiB 系統內存,合計約 54.4 GiB;另有約 40GB 專家庫在系統內存、約 48GB 詞表數據在 SSD 上。「一張消費級 GPU」是真的,但它後面還跟着一大份系統內存與 SSD——筆記本標題跑在了出貨文檔前面,詳見本站安裝指南。

80+ tok/s 是兩個構建各取所需。博客標題口徑是解碼 80+ tok/s、預填充 1100+ tok/s;模型卡的實測分構建給出:NVFP4 Agent 解碼 98.3 tok/s、Q3_K 121.2 tok/s,16K 預填充分別爲 3165.7 與 3554.9 tok/s(RTX 5090 D)。引用速度時必須帶構建名與硬件,單取一個數字會誤導。

廠商的說法與本站的標註:「開源」一詞要打引號

官方博客稱這次發佈爲「open-sourcing」,並稱 Edge0-145B 是「全球首個 145B 參數的開源端側 AI 模型」。這個說法站不住:權重實際適用 Edge0 Community Model License 1.0(2026-11-12)——一份自定義社區許可證,商業服務須另籤書面許可;Qwen Community License 1.0 同時適用。只有框架代碼是 Apache 2.0。準確的說法是「公開權重」(open weights),不是「開源」(open source)。本站全站統一用「公開權重」,並在許可證專文裏逐條拆解這份許可允許什麼、限制什麼,見許可證與成本專文。

發佈後一週:解釋文章多,獨立驗證零

11 月 12 日發佈後,11 月 13–15 日出現一波解釋與批評文章:groundtruth.day 與 oguzhan.co 各自指出 29GB 與 Mac 支持的兩處出入並拆解許可證,freshsynapse、explainx.ai、tokenstrom 跟進,newtoken.link 寫了中文批評文章,Signal Sentry 給出計分卡。需要說清的是:這些文章都是對廠商數字的再分析,沒有一家真正跑過模型——截至 11 月 20 日,尚無任何獨立基準成績(AA、LiveBench、LMArena 均未收錄),技術報告也未發佈。發佈後第一週的共識是「材料夠多、驗證爲零」,詳見本站基準專文。

ModelBrief 的看法:這是一次貨真價實的發佈:權重、框架、應用三件套齊全,11 月 12 日當天就能下載安裝,不是論文預告。但標題裏的兩個賣點都要打折讀——29GB 只是 GPU 側峯值、整機約 61.5 GiB;「開源」實際是自定義許可下的公開權重。先看清這兩點,再談它值不值得裝。