☰
本地部署 Ollama 开源模型对接 OpenClaw 操作全流程(含安装包)
2026/9/29 4:18:57 网站建设 项目流程

1. 本地跑开源模型,为什么还要接 OpenClaw

如果你已经在本地用 Ollama 跑过qwen、gemma、llama这类开源模型,大概率会遇到一个尴尬:命令行里聊得挺顺,但一旦想把它当成日常写代码、查文档、整理资料的助手,就发现缺一个顺手的界面。Ollama 自带的是终端交互,历史记录翻起来费劲,多轮上下文管理也偏弱。而 OpenClaw 这类客户端正好补上这块——它本身是个支持多模型切换的桌面工具,把 Ollama 的本地推理能力接进去之后,你就能在一个带会话管理、模型筛选、参数面板的界面里用本地模型,数据不出本机。

这篇要解决的就是这条链路:本地部署 Ollama 开源模型,然后对接 OpenClaw,从安装、拉模型、填接口地址,到在聊天面板里完成一次真实对话验证。适合两类人:一是想在自己电脑上跑开源模型、又不想天天敲命令行的开发者;二是已经在用 OpenClaw 但只接了云端模型、想加一条本地推理通道的人。整个过程不依赖外部网络代理,Ollama 默认监听本机127.0.0.1:11434,OpenClaw 通过这个地址读取本地模型列表。

需要提前说清楚一个边界:Ollama 负责“跑模型”,OpenClaw 负责“用模型”,两者是分工关系。Ollama 装好、模型拉下来之后,它本身就是一个本地推理服务;OpenClaw 只是作为前端去调用这个服务。所以配置的核心就一件事——让 OpenClaw 知道 Ollama 的接口地址在哪,并且能读到已经下载好的模型。下面按顺序走一遍,中间会给出可复制的配置骨架和排障清单。

2. 前置准备:Ollama 与 OpenClaw 的安装与模型拉取

2.1 安装 Ollama 并确认服务在跑

Ollama 的安装包从官网获取,Windows 和 macOS 都有对应版本。安装过程基本是下一步到底,装完它会自动在后台起一个服务,默认端口11434。装好后先别急着开 OpenClaw,先在终端确认服务活着。

打开 PowerShell 或终端,执行:

ollama --version

能打印出版本号,说明命令行工具就位。接着确认服务端口:

curl http://127.0.0.1:11434/api/tags

如果返回一段 JSON,里面models字段是数组(哪怕为空),说明 Ollama 服务已经在监听。这一步很关键,因为后面 OpenClaw 能不能连通,本质就是看这个地址通不通。

2.2 修改模型存储路径(可选但推荐)

本地模型文件动辄几个 GB,默认路径往往在系统盘。如果你 C 盘紧张,进 Ollama 的设置界面,找到 Model location,把目录改到大容量分区,比如E:\models。改完重启一下 Ollama 服务,后续拉取的模型就会落到新路径。这一步不做也能跑,但系统盘容易被撑爆。

2.3 拉取一个开源模型

模型标识要提前想好,比如gemma4:e4b、qwen2.5:7b这类。在终端执行:

ollama run gemma4:e4b

第一次执行会自动下载模型文件,下载完成后终端会进入交互模式,出现>>>提示符。这时候你随便输入一句话,比如“你好”,模型能回你内容,就说明模型本身没问题。想退出交互模式,输入/bye回车即可。

这里有个容易忽略的点:ollama run不只是“运行”,它第一次执行时承担了“下载”的职责。只有模型文件完整落到本地磁盘,OpenClaw 才能在下拉列表里看到它。所以哪怕你暂时不用命令行聊天,也建议先跑一次ollama run 模型名,把文件拉全。

2.4 安装 OpenClaw 客户端

OpenClaw 装好后先打开,确认顶部 Gateway 网关状态显示在线。如果网关没连上,先解决网络和客户端本身的问题,再往下走模型对接,否则后面测试会误判成 Ollama 的问题。

3. 可复制配置:config.toml 骨架与 settings.json 片段

3.1 OpenClaw 里填 Ollama 接口地址

进 OpenClaw 设置,左侧菜单找“模型配置”,里面有 Ollama 配置栏。地址输入框填:

http://127.0.0.1:11434

填完点“测试”按钮。测试通过后点右上角“保存全部配置”。保存动作很重要,不保存的话聊天面板里不会刷新出本地模型。

3.2 config.toml 骨架

如果你用的是支持配置文件方式的版本,可以参考下面这个骨架。注意base_url指向本机 Ollama,model写你实际拉下来的模型标识:

[provider.ollama] name = "ollama-local" base_url = "http://127.0.0.1:11434" api_style = "ollama" enabled = true [provider.ollama.models] default = "gemma4:e4b" available = ["gemma4:e4b", "qwen2.5:7b"] [chat] default_provider = "ollama" stream = true timeout_seconds = 120

几个参数说明一下。api_style告诉客户端按 Ollama 的接口格式发请求,不要按 OpenAI 格式拼路径。timeout_seconds建议给大一点,本地模型首次加载进显存/内存会慢,给 120 秒比较稳。stream = true开启流式输出,体验更接近云端模型。

3.3 settings.json 配置片段

有些版本走 JSON 配置,对应片段如下:

{ "providers": { "ollama": { "baseUrl": "http://127.0.0.1:11434", "apiStyle": "ollama", "enabled": true, "models": ["gemma4:e4b", "qwen2.5:7b"], "defaultModel": "gemma4:e4b" } }, "chat": { "defaultProvider": "ollama", "stream": true } }

注意:baseUrl不要写成http://localhost:11434之外的花样地址,也不要在末尾多加/v1。Ollama 的原生接口路径是/api/...,加/v1反而会让部分客户端拼错路径导致 404。

3.4 参数对照表

配置项推荐值作用
base_url / baseUrlhttp://127.0.0.1:11434Ollama 本机服务地址
api_style / apiStyleollama按 Ollama 原生接口格式请求
default model你实际拉取的模型标识聊天默认使用的模型
streamtrue流式返回,逐字输出
timeout_seconds120首次加载模型留足时间

4. 验证请求:从接口连通到一次真实对话

4.1 先用命令行验证 Ollama 接口

在配置 OpenClaw 之前,先用一条命令确认 Ollama 的对话接口能正常返回。执行:

curl http://127.0.0.1:11434/api/generate -d "{\"model\":\"gemma4:e4b\",\"prompt\":\"你好\",\"stream\":false}"

如果返回 JSON 里response字段有内容,说明模型推理链路完全正常。这一步能帮你把“Ollama 的问题”和“OpenClaw 的问题”提前分开。

4.2 在 OpenClaw 里测试连通

回到 OpenClaw 的 Ollama 配置栏,点“测试”。测试通过后,客户端会自动读取本地已下载的模型列表。如果列表是空的,别急着怀疑配置,先回到 4.1 确认模型确实拉全了。

4.3 聊天面板切换本地模型

打开 OpenClaw 左侧聊天页面,在模型筛选搜索框输入模型名,比如gemma4:e4b,选择带有 ollama 标识的那一项。选中后,输入框上方一般会显示当前模型来源,确认是本地 Ollama 而不是云端模型。

4.4 发送测试对话

在输入框发送:

你好,介绍一下你自己,并说明你是本地运行的模型。

如果页面能正常返回完整回答,并且是逐字流式输出,说明 Ollama 与 OpenClaw 的对接全部完成。实测下来,首次对话会明显慢一些,因为模型要从磁盘加载到内存;第二次开始响应会快很多。这是正常现象,不是配置错误。

4.5 自检清单

  • Ollama 服务在127.0.0.1:11434监听,/api/tags能返回 JSON
  • 目标模型已通过ollama run 模型名完整下载
  • OpenClaw 中 Ollama 地址填写正确且测试通过
  • 配置已保存,聊天面板能搜到带 ollama 标识的模型
  • 发送测试语句能收到流式回复

5. 本篇常见错排查

5.1 测试通过但读不到模型

最常见的原因是模型没真正下载完。ollama run中途断网或手动中断,文件可能不完整。重新执行一次ollama run 模型名,等终端出现完整交互提示再退出。另一个原因是模型标识写错,比如把gemma4:e4b写成gemma4,OpenClaw 按精确名称匹配就会落空。

5.2 接口地址填了却连不上

先确认 Ollama 进程还在。有时候装完重启电脑,Ollama 没有自启,端口自然不通。重新打开 Ollama 客户端即可。其次检查防火墙或安全软件是否拦了11434端口的本机回环访问。本机回环一般不会被拦,但部分安全软件会做端口级管控,放行即可。

5.3 首次对话超时

本地模型加载慢是常态,尤其是 7B 以上的模型。把timeout_seconds调到 120 甚至 180,给足加载时间。如果显存/内存不足,模型会退到 CPU 推理,速度更慢,这时候要么换更小的模型,要么接受等待。

5.4 返回内容乱码或截断

检查stream设置和客户端版本是否匹配。部分旧版本对 Ollama 流式响应的解析有 bug,把stream临时设为false能验证是不是流式解析的问题。如果是,升级客户端版本通常能解决。

5.5 模型列表刷新不出来

保存配置后如果列表没更新,退出 OpenClaw 重新打开一次。配置文件的读取有时在启动时完成,热刷新不一定生效。

6. 把本地模型接进日常工作流

Ollama 加 OpenClaw 这套组合,最大的价值是让你在本地有一个可控的推理入口。模型文件在你自己磁盘上,对话数据不出本机,适合处理一些不方便发到云端的草稿、笔记和代码片段。配置本身不复杂,核心就是地址填对、模型拉全、保存生效这三件事。

如果你后面想把本地模型和云端模型放在同一个工作流里切换使用,可以再配一条云端通道做补充。TaoToken 的模型对话入口适合用来验证不同模型在同一任务上的表现差异,接入文档里有接口说明,API Keys 页面可以管理调用凭证。本地跑开源模型、云端做对照,两边各取所长,日常写代码和查资料会顺很多。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询