企业官网建设流程全解析

• 基础模型
• 大模型
• 人工智能
• NLP
• 本地部署

LFM3-1.7B 是 Liquid AI 推出的 1.7B 参数本地智能体（Agent）文本模型，主打 256K 长上下文、强工具调用能力和边缘端约 1GB 的低内存占用。本文直接基于官方基准数据，把它和 Qwen3.5-4B/9B、Gemma 4 E4B、MiniCPM5-2B 等模型逐项对比，帮你判断这个"小钢炮"到底值不值得用。

🧩 LFM3-1.7B 是什么：1.7B 参数、256K 上下文、约 1GB 内存

一句话定位：LFM3-1.7B 是一个面向本地 Agent 和专用应用的文本模型，基于 Liquid AI 的 tri-hybrid（三混合）架构设计。核心规格如下：

几个对普通用户很友好的点：

• 4-bit 下约 1GB 内存：手机、轻薄本都能本地跑，不依赖云端 API
• 256K 上下文：在这个参数级别里相当罕见，适合长文档、多轮工具调用
• 为 Agent 场景后训练：针对 Hermes Agent、Pi、OpenClaw 等 Agent 框架优化，而不是通用聊天模型
• 易于微调：官方提供 SFT / DPO / GRPO / CPT 四种单卡微调路径

架构细节可在 config.json 中查看layer_types字段，24 层中卷积层占了一半以上——这正是它推理快的关键。

⚡ 三混合架构：为什么 1.7B 还能跑这么快

传统 Transformer 每一层都依赖全注意力，序列越长开销越大。LFM3-1.7B 的 tri-hybrid 架构把 24 层拆成三种类型：

1. 门控短卷积层（13 层）：局部特征提取，计算量恒定，不随上下文增长
2. 滑动窗口注意力（5 层）：只看 256 tokens 窗口，成本低
3. 全局注意力（6 层）：负责跨全文档的信息关联

这种"大部分层便宜、少量层保全局"的设计，让它既拿得住 256K 长上下文，又不会像纯注意力模型那样在长序列下拖慢。官方还为卷积部分写了专用的 Triton 推理内核，源码见 lfm3_conv.py，模型主干实现在 modeling_lfm3.py。

📊 基准数据深度解析：LFM3-1.7B vs Qwen3.5 vs Gemma 4

先看官方测试条件：所有模型用 vLLM 以 BF16 全上下文部署（LFM3-1.7B 为 262,144 tokens，对比模型为 131,072 tokens），多数评测使用 temperature 0.6 / top_p 0.95，完整数据见 README.md 的 Performance 一节。

Agent 基准：1.7B 打平 9B，碾压同级小模型

这是 LFM3-1.7B 的主场。在 6 项 Agent 评测中，它在 5 项上拿下第一：

几个值得注意的信号：

• LiveClaw 45.60：比 Qwen3.5-9B 的 35.77 高出近 10 分，比同级的 Gemma 4 E4B（20.36）高出一倍还多
• AutomationBench 41.29：对比模型全部在 15 分以下，差距是数量级的——说明"Agent 化后训练"确实有效
• 稳定性（pass^3，三次全对）上与 Qwen3.5-9B 基本打平（51.40 vs 51.87），1.7B 打平 9B 并非虚言

工具调用与指令遵循：最亮的两块成绩单

这一组是全面碾压：6 项全部第一，而且 IFBench 上领先 Qwen3.5-4B 超过 34 分。对做本地工具调用、JSON 结构化输出的用户来说，这是最有说服力的部分——它甚至不需要像 MCP-Atlas 那样依赖更强模型的多轮协作（该单项 Qwen3.5-9B 以 42.67 领先，LFM3 为 32.57，是少数失分项）。

代码与知识基准：小模型的短板在这里暴露

客观结论：

• ✅ 普通算法题（LiveCodeBench v6）第一，日常写脚本、解小问题够用
• ⚠️ 真实仓库级编程（SWE-bench、Terminal-Bench）明显落后 Qwen3.5-9B，官方也明确表示不建议用于 agentic coding 和复杂多步推理
• ⚠️ 知识深度（GPQA）和 128K 精细检索（RULER）是短板，知识密集型任务建议配检索/搜索
• ✅ 抗幻觉 92.93 全场最高：不知道就承认，对做企业问答很关键

平均分一览：LFM3-1.7B 49.37 > Qwen3.5-9B 47.24 > Qwen3.5-4B 39.27 > MiniCPM5-2B 39.19 > Gemma 4 E4B 31.74。1.7B 参数在 20+ 项基准的总分上超过 9B 模型，这就是"真的那么强吗"的直接答案：在它的定位场景里，是的。

🚀 推理速度基准：边缘设备更快，单卡日产 36 亿 tokens

参数少只是前提，架构才决定速度。官方在 32K 上下文、Q4_0 量化的 llama.cpp 环境下对比了三类设备：

• AMD Ryzen AI Max+ 395（核显）、Apple M5 Max、iPhone 17 Pro
• 结论：LFM3-1.7B 在全部三台设备上，prefill 快 2.5 倍以上、decode 快 1.8 倍以上，且内存占用最低

GPU 侧的数据同样夸张：单张 NVIDIA B300 上，1024 并发时输出吞吐接近 41K tokens/s，相当于每天 36 亿 tokens，全程压制 MiniCPM5-2B、Gemma 4 E4B、Qwen3.5-4B/9B——小模型 + 卷积架构在高并发服务场景下成本优势非常明显。

📚 训练配方：22T 预训练 + 四阶段后训练

成绩背后是一套完整的训练管线（数据量单位：T = 万亿 tokens）：

• 预训练（22T tokens）：约 15T 网页/合成数据打底 → 3T 代码/数学/科学 → 3T 精选 Agent 数据中训练 → 128K 与 256K 两段长上下文扩展，流程图见上文的配方图
• 后训练四阶段：

1. SFT：1.75T tokens，覆盖聊天、推理、工具调用、Agent 轨迹
2. 混合强化学习：数学、代码、SQL、结构化输出多领域同时 RL，并加入长度惩罚让回答更简洁
3. MOPD 多领域在线蒸馏：6 个专项 RL 教师（数学/代码/工具/长上下文/Agent/企业流程）的能力蒸回单一学生模型
4. Agentic RL：在真实 Agent 框架中跑网页浏览、办公任务，为落地做最后打磨

这套"学生-教师蒸馏 + Agent 实战 RL"的组合，解释了为什么它在 LiveClaw、AutomationBench 这类 Agent 基准上拉开差距。

🛠️ 快速上手与采样参数建议

用 Transformers 加载时开启trust_remote_code=True即可（模型带自定义架构代码）。官方推荐两组采样参数：

• 通用场景（聊天/工具/Agent/代码）：temperature=0.1, top_k=50, repetition_penalty=1.1（也是 generation_config.json 的默认值）
• 数学/理科：temperature=1.0, top_p=0.95, top_k=20

对话模板基于 ChatML 格式，见 chat_template.jinja；推理默认开启思维链，可用enable_thinking=False关闭。量化变体方面，GGUF 适配 llama.cpp/Ollama/LM Studio，另有 FP8、NVFP4、MLX-4bit、ONNX 等版本供不同硬件选择。

✅ 选型建议：谁该用 LFM3-1.7B，谁该选别人

📌 结论：定位精准的小钢炮

回到标题的问题——LFM3-1.7B 真的那么强吗？数据给出的答案是：在它定义的主战场上，强得离谱。25 项基准平均 49.37 分超过 9B 级的 Qwen3.5-9B（47.24），Agent、工具调用、指令遵循三大板块近乎全胜，还附赠全场最快的端侧推理和最高抗幻觉能力。当然，它不是全能选手：仓库级编程和 128K 精细检索不如 Qwen3.5 系列。如果你要的是一个跑在自己设备上、听话、会调工具、响应飞快的本地智能体大脑，LFM3-1.7B 目前是小模型档位里最值得优先评测的选择之一。

• 基础模型
• 大模型
• 人工智能
• NLP
• 本地部署