10 月的端侧模型发布比往常密。英伟达在 10 月 23 日放出 4GB 的 Nemotron 3.5 Bolt E4B，Liquid AI 在 10 月 27 日发布 LFM3 家族，六个 2B 级模型共用一个主干。两条路线解决同一个问题：让模型在手机、笔记本和机器人上直接跑起来。本文按日期梳理这条线，并说明两家的取舍与边界。
10 月的两条发布线
先把时间摆出来。Liquid AI 官网的更新列表显示，这家公司在 10 月几乎每周都有动作，从决策模型到小参数语言模型逐级铺开；英伟达则在月末补上一款面向边缘设备的小模型。
| 日期 | 事件 | 性质 |
|---|---|---|
| 10 月 5 日 | Liquid AI 发布 d1 决策模型 | 官方更新列表 |
| 10 月 13 日 | LFM2.5-24B-A2B，面向端侧智能体 | 官方更新列表 |
| 10 月 15 日 | d1-ultra 发布 | 官方更新列表 |
| 10 月 23 日 | 英伟达 Nemotron 3.5 Bolt E4B 上线 Hugging Face | 模型卡标注发布日期 |
| 10 月 27 日 | LFM3 家族发布，六个 2B 级模型 | 官方博客与模型卡 |
两家公司选的时间点接近，方向却不同。英伟达拿现成的 Gemma 4 底座做后训练，把工程重心放在量化、投机解码与工具链适配上；Liquid AI 重新设计了主干架构，用一个 1.7B 模型派生出视觉、音频、全模态与决策五类变体。
英伟达 Bolt E4B：在 Gemma 4 上做后训练
按 Hugging Face 模型卡，Bolt E4B 是 2026 年 10 月 23 日发布的，总参数 80 亿、有效参数 40 亿，底座是 Gemma-4-E4B-it。英伟达的做法是用 GRPO 做多环境强化学习，覆盖指令跟随、多步工具调用、多轮对话与结构化输出，训练框架是自家的 NeMo RL 与 NeMo Gym。
它同时放出了两个版本：BF16 全精度权重，主要给继续后训练与研究用；Q4_K_M 的 GGUF 量化版，体积约 4GB，搭配 llama.cpp 这类运行时就能在本机跑。配套还有一个 DFlash 投机解码草稿模型，用来压低首字延迟。上下文长度输入输出各 64K。
模型卡写明它面向本地语音助手、互动角色与嵌入式界面，支持英语以及西班牙语、法语、德语、意大利语、日语等。使用上有两个开关：思考模式控制回答前是否推理，还能设思考预算；对话模式让输出更短、排版更轻，适合直接接语音合成念出来。这两点对做语音交互的人比跑分更有意义。
许可证是 OpenMDW-1.1，模型卡明确写了可商用也可非商用。底座来自谷歌的 Gemma 4，因此实际使用还要同时满足上游条款，这一点容易被忽略。
LFM3：一个 2B 主干派生六个模型
Liquid AI 的官方博客发布于 2026 年 10 月 27 日。LFM3 的六个模型都从 LFM3-1.7B-Base 分支出来：文本、视觉、音频、全模态四个输入模态版本，加上 d1-2B 与 d1-omni-2B 两个决策模型。文本模型在 4bit 量化下体积约 1GB，上下文 256K。
架构上做的是混合堆叠。24 层里 13 层是带门控的短卷积，5 层是窗口 256 token 的滑动窗口注意力，6 层是全球注意力；卷积核从 LFM2 的 3 放大到 7。预训练用了 22T token，最后 3.5T token 的中训练阶段加入更多智能体轨迹与工具调用数据，并把上下文扩到 256K。架构搜索覆盖了 14 种设备与后端组合，包括手机、树莓派 5、笔记本与高通 NPU。
官方博客给的另一些细节更贴近工程：音频版本支持 16 种语言，首 token 延迟可低至 50 毫秒，六个模型都能在单张 GPU 上做微调。这意味着它不是「一个模型打天下」，而是让你按输入模态挑一个能塞进目标硬件的版本，再拿自己的数据改成专用模型。
官方给出的对比是：LFM3-1.7B 用少 35% 的参数超过 LFM2.5-2.6B，在 WebArena-Verified 上是 38.42 对 3.02；视觉版本 LFM3-VL-2B 参数 1.9B，62 项视觉基准的平均分从 57.6 升到 71.4。这些数字都是厂商自报，测试条件与基线选择需要自己复核。
许可这块要注意，模型卡标的是 LFM Open License v1.0，属于自定义的开放权重许可，不是常见的 MIT 或 Apache 2.0。拿来做商用产品或再分发之前，得逐条读条款，别把「权重能下载」直接当成「随便用」。
参数之外的差异：许可、上下文、工具链
把两家的关键指标放在一起，差异比参数量更值得看。
| 维度 | Nemotron 3.5 Bolt E4B | LFM3-1.7B |
|---|---|---|
| 参数 | 8B 总参数、4B 有效参数 | 1.73B |
| 上下文 | 64K | 256K |
| 最小部署体积 | 约 4GB（Q4_K_M） | 约 1GB（4bit） |
| 底座来源 | Gemma-4-E4B 后训练 | 自研混合架构，22T token 预训练 |
| 许可 | OpenMDW-1.1，可商用 | LFM Open License v1.0，需读条款 |
| 强项 | 工具调用、低首字延迟、语音场景 | 长上下文、多模态同源、单卡可微调 |
工具链的覆盖面也很实际。LFM3 模型卡列出 vLLM、SGLang、Transformers、llama.cpp、Ollama、LM Studio、MLX 与 ONNX Runtime，基本上主流的本地运行时都有人接；Bolt E4B 的重点是 llama.cpp 与 Ollama 这条路，配合专门的草稿模型做加速。选型时先看你的目标设备上有没有现成跑通的路径，比看跑分省事。
站内此前写过小模型降价这条线，讲的是云端 API 的成本结构；端侧模型解决的是另一个问题，把推理搬到没有网络、或者不方便上传数据的地方。两件事不能互相替代。
影响与边界：端侧模型能替代什么
从这轮发布能看出一个趋势：1GB 到 4GB 的模型开始同时具备长上下文与工具调用能力，本地智能体从演示走向可交付。语音助手、离线文档问答、机器人动作规划、游戏内角色，这几类场景的共同点是对延迟敏感、对隐私敏感、对能力上限要求没那么高。
但边界同样清楚。2B 级模型在多步推理、长文档细节理解上仍然吃紧，厂商公布的分数集中在自家选的基准上，换到你的业务数据未必成立。第三方整理里也提醒，Bolt E4B 的底座来自 Gemma 4，谷歌与英伟达的条款会同时适用；真要落地，建议先用自己的一百条真实请求做小规模评测，再决定是本地跑还是走云端。
合规层面还有一层。端侧模型的价值在于数据不出设备，但前提是你真的关掉了联网上报；如果应用本身带遥测，模型再本地也没用。企业采购时常把「可离线」当成安全卖点，验收时至少要抓包看一次实际请求。
成本的账也要算全。模型体积小不等于部署简单，量化版本的效果、运行时版本兼容、设备发热与续航，都是上线后才暴露的问题。想做本地语音合成，可以顺着Kokoro 这类端侧方案的思路先搭一条最小链路；要把多个本地模型放进同一个工作台，站内也整理过本地 AI 工作台的做法。
对普通用户，这轮更新短期内的感知不会太强，手机厂商接入需要时间。对开发者，现在值得做的是把评测脚本准备好：同一个提示词集，分别跑云端旗舰、Bolt E4B 与 LFM3，记录准确率、首字延迟与内存占用。等到下一批端侧模型出现时，你手里有可比较的基线，而不是只有厂商的新闻稿。
相关地址
以下为文中项目的官方入口，版本号、文档与下载以这些页面为准。
- Liquid AI（官网）：https://www.liquid.ai/
- LFM3（发布说明（Hugging Face 博客））：https://huggingface.co/blog/LiquidAI/lfm3
- LFM3-1.7B（模型卡）：https://huggingface.co/LiquidAI/LFM3-1.7B
- Nemotron 3.5 Bolt E4B（模型卡（NVIDIA 官方））：https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
© 版权声明
文章版权归作者所有，转载需注明出处。未声明原创的皆为网络收集，如有侵权请邮箱lishiwenhuagx@sina.com联系下架处理。
相关文章
