这篇部署指南的结论只有一句话:11 月 25 日之前,文心 5.5 Flash Preview 没有可部署的东西——Preview 权重尚未公开,官方称支持 SGLang 与 vLLM 但待权重放出后才可验证,许可证说法互相冲突。本文写的是「现在能部署什么」「11 月 25 日要核对什么」「Base 权重现状如何」,而不是一份安装教程;等权重放出后,本站再补实测部署步骤。
截至 11 月 16 日,可用的全部是托管渠道:千帆 API(模型 ID ernie-5.5-flash-preview,默认限流 RPM 60、TPM 1,000,000)、OpenRouter 付费版(baidu/ernie-5.5-flash-preview,$0.28/$1.13)与免费版(:free,20 请求/分钟、50 请求/天)、网页端 ernie.baidu.com/web/new-chat。Hugging Face 上没有 Preview 仓库——想下载权重、想本地跑、想自己搭推理服务,今天都做不到。Base 权重已可下载(见下节),但那是底座,不是 Preview。
官方承诺 Preview 权重将于 11 月 25 日前后开源,但两处措辞不一致:英文发布页称「权重将于 11 月 25 日前开源」(digintoai 直读);中文公众号推文称「11 月 25 日正式面向全球开源社区发布」(aiho.net 引用)。是「当天」还是「当天之前」,须等实际放出后核对。8 小时跟踪须盯三件事:11 月 25 日权重是否如期放出、放出的仓库名与权重格式(FP8?BF16?分片数?)、许可证文件内容。任何一项与承诺不符,本专题都要更新;11 月 25 日当天没放出,也要如实写「未如期放出」,不替官方圆场。
多家二手来源(digintoai、singularity.kiwi、yunsilu、saeedai)称 Apache 2.0;但直接读过官方发布页的 aiho.net 明确写「许可证类型官方尚未说明」。结论:Apache 2.0 未经官方发布页证实,建专题时不得写死,须写「多家报道称 Apache 2.0,官方发布页未明确,待 11 月 25 日权重放出后核对许可证文件」。部署决策尤其不能建立在传闻许可上:如果最终是自定义许可(像 Base 一样),商用、自托管与再分发条款可能完全不同;等许可证文件本身,再定部署方案。
官方称 Preview 支持 SGLang 与 vLLM 部署——但这个说法待权重放出后才可验证:没有权重,就没有可跑的推理服务,也就没有可验证的部署路径、显存需求与吞吐数字。本站不编造硬件配置:280B 总参数、14B 激活的 MoE 在什么硬件上能跑、需要多少显存,要等权重格式(FP8?BF16?量化版?)与实测后再写。11 月 25 日之后,本站的更新清单是:权重格式与分片、SGLang/vLLM 实测、显存估算、许可证文件全文核对。
ERNIE 5.5 Flash Base 权重已公开:Hugging Face 仓库 baidu/ERNIE-5.5-Flash-Base,FP8 与 BF16 两版。许可证为百度自定义「ERNIE 5.5 Flash Base Model License Agreement v1.0」,非 Apache 2.0;商用条款受限——freshsynapse 称该许可证排除欧盟、英国、韩国,apidog 称限非商业使用,两者细节不一,统一表述为「自定义许可证,商用条款受限,详情以 HF 许可证文件为准」。部署 Base 之前必须先读许可证文件:它不是开源许可,不能按 Apache 2.0 的习惯来用。而且 Base 只有底座能力、无指令跟随,直接部署只能得到一个补全模型,不是聊天模型;要对话需要自行后训练。
不能。Preview 权重截至 11 月 16 日尚未公开,Hugging Face 上没有 Preview 仓库;官方称支持 SGLang 与 vLLM,但待权重放出后才可验证。现在只能用 API(千帆、OpenRouter)或网页端。
是承诺,不是已兑现事实。英文发布页称「11 月 25 日前」,中文公众号推文称「11 月 25 日」——措辞还不一致,须等实际放出后核对。截至 11 月 16 日,权重尚未放出。
不能直接。Base 只有底座能力、无指令跟随,部署后得到的是补全模型,不是聊天模型;要对话需要自行后训练。而且 Base 是百度自定义许可证(非 Apache 2.0),商用条款受限,部署前先读 HF 许可证文件。
参考来源:百度官方发布页 — ERNIE 5.5 Flash Preview · Hugging Face — baidu/ERNIE-5.5-Flash-Base · aiho.net — 280B 深度分析 · digintoai.com — 官方发布页逐条精读(本文为本站改写与整理,事实以官方发布页与 Hugging Face 模型页为准)