企业官网建设流程全解析

简介：这份PDF资料面向希望在本地运行DeepSeek R1的开发者与AI爱好者，解决从零完成本地化部署并接入可视化客户端的问题。内容围绕Ollama展开，涵盖1.5b至671b共七种版本的选型建议，并给出CPU、GPU、显存与系统配置的对应参考，例如RTX3060 8G推荐8b、12G以上显存可流畅运行14b、32b及以上建议3090或4090，大型服务器可部署671b。同时整理了各版本对应的ollama run命令，便于按需拉取与验证安装结果。资源包共1个PDF文件，大小约1.54MB，轻量便携，适合随时查阅。目前已有94人学习。读者可据此掌握本地部署的完整流程，并借助Chatbox完成Web端访问：包括设置OLLAMA_HOST与OLLAMA_ORIGINS环境变量、在Chatbox中选择Ollama API并指定已安装模型，从而提升交互体验，减少命令行操作带来的不便。

1. 从一张 8G 显卡说起：DeepSeek R1 本地部署到底能跑出什么效果

手头只有一张 RTX 3060 8G，外加 16G 内存和一颗 AMD 3100，这套配置放在 2024 年属于入门偏下，但偏偏有人用它把 DeepSeek R1 跑起来了。不是云端 API 调用，不是网页版套壳，而是模型权重真正落在本地硬盘上，推理过程完全离线。这件事的意义在于：你不需要租 GPU 实例，不需要担心请求排队，也不需要把内部文档发给第三方接口。DeepSeek R1 的蒸馏版本覆盖了从 1.5B 到 671B 共七档参数规模，其中 1.5B、7B、8B 三档在消费级硬件上就能跑出可用的推理速度。这篇文章拆的是完整落地链路：Ollama 拉模型、命令行验证、环境变量配置、Chatbox 客户端接入，以及每一步里最容易翻车的地方。适合手上有闲置显卡、想先把本地推理跑通再考虑上量的开发者，也适合需要在内网环境里做模型验证的团队。

2. Ollama 拉取 DeepSeek R1：版本选择与命令行部署

2.1 七档参数怎么选：显存、内存与推理速度的三角关系

DeepSeek R1 的蒸馏版本按参数规模分为 1.5B、7B、8B、14B、32B、70B、671B 七档。参数越大，推理能力越强，但对显存和内存的胃口也越大。这里有一个容易被忽略的点：Ollama 在加载模型时，会优先把权重放进显存，显存不够就溢出到内存，内存再不够就开始用硬盘做交换——到了这一步，推理速度会从“能聊天”变成“打字机卡纸”。

根据实际部署经验，各档位的大致硬件门槛如下：

这张表里的显存需求是 Q4 量化后的近似值，实际占用会随上下文长度浮动。上下文越长，KV Cache 占用的显存越多，8G 卡跑 8B 模型时如果把上下文拉到 8K 以上，很容易触发显存溢出。

注意：如果你的显卡是 8G 显存，不要直接上 14B。虽然 Ollama 会通过内存卸载把模型跑起来，但推理速度会降到每秒两三个 token，交互体验极差。8B 是 8G 显存下的甜点版本。

2.2 安装 Ollama 并拉取模型：一条命令背后的完整流程

Ollama 的安装本身没有太多坑，Windows 下下载 exe 双击安装，macOS 用 dmg，Linux 用一条 curl 脚本。安装完成后，Ollama 会注册为系统服务，默认监听 127.0.0.1:11434。

拉取模型时，很多人直接复制官网的ollama run deepseek-r1，这条命令会默认拉取 7B 版本。如果你想要特定版本，必须带上 tag：

# 拉取 8B 蒸馏版本（适合 8G 显存） ollama run deepseek-r1:8b # 拉取 1.5B 版本（适合低配设备快速验证） ollama run deepseek-r1:1.5b # 拉取 14B 版本（需要 12G 以上显存） ollama run deepseek-r1:14b

第一次执行ollama run时，Ollama 会先从 registry 下载模型权重，下载进度会显示在终端里。8B 版本的权重文件大约 4.7GB，下载时间取决于网络带宽。下载完成后，终端会直接进入交互式对话界面，出现>>>提示符就说明模型已经加载成功。

这里有一个细节：ollama run在下载完成后会自动启动一个交互会话。如果你只是想拉取模型而不想立即对话，可以用ollama pull：

# 只下载模型，不启动对话 ollama pull deepseek-r1:8b # 查看本地已下载的模型列表 ollama list # 查看模型详细信息（包括量化方式、参数规模） ollama show deepseek-r1:8b

ollama list的输出里会显示模型名称、ID、大小和修改时间。如果你发现某个模型的大小明显小于预期，比如 8B 版本只有 2GB，那可能是下载中断导致的残缺文件，需要ollama rm删掉后重新拉取。

2.3 命令行验证：确认模型真的在本地跑

模型拉下来之后，别急着接客户端，先在命令行里做一轮基础验证。这一步的目的是排除模型加载失败、显存不足、推理异常等问题，避免后面接客户端时把问题归咎于配置错误。

# 启动交互式对话 ollama run deepseek-r1:8b # 在对话界面中输入测试问题 >>> 你是谁 # 退出对话界面 >>> /bye

如果模型正常加载，你会看到类似这样的输出：

我是 DeepSeek R1，一个由深度求索开发的 AI 助手...

推理速度可以通过ollama run时的 token 输出速率来粗略判断。8B 模型在 RTX 3060 8G 上，Q4 量化下大约能跑到每秒 20-30 个 token，体感上接近打字速度。如果速度明显低于每秒 5 个 token，大概率是显存不够导致模型部分层跑在 CPU 上。

另一个验证手段是用 API 方式调用：

# 通过 curl 调用本地 Ollama API curl http://localhost:11434/api/generate -d '{ "model": "deepseek-r1:8b", "prompt": "用一句话解释什么是量化", "stream": false }'

这个接口返回的是 JSON 格式的响应，response字段里就是模型生成的文本。能正常返回说明 Ollama 的 API 服务已经在后台跑起来了，这是后面接 Chatbox 的前提。

3. 环境变量配置：让 Ollama 接受外部客户端连接

3.1 为什么默认配置连不上：OLLAMA_HOST 与 OLLAMA_ORIGINS 的作用

Ollama 安装后默认只监听127.0.0.1:11434，这意味着只有本机上的程序能访问它。Chatbox 虽然也跑在同一台机器上，但它是一个独立的客户端进程，通过 HTTP 请求调用 Ollama 的 API。如果 Ollama 只绑定在回环地址上，Chatbox 的请求会被拒绝。

更关键的是OLLAMA_ORIGINS这个变量。浏览器和 Electron 客户端在发起跨域请求时，会检查服务端返回的 CORS 头。Ollama 默认只允许来自localhost和127.0.0.1的跨域请求，Chatbox 的请求来源可能带有file://或app://协议头，不在默认白名单里，就会被 CORS 策略拦截。

所以需要设置两个环境变量：

• OLLAMA_HOST=0.0.0.0：让 Ollama 监听所有网络接口，而不仅仅是回环地址。
• OLLAMA_ORIGINS=*：允许来自任何来源的跨域请求。

注意：OLLAMA_ORIGINS=*在纯本地环境下是安全的，因为你的机器没有暴露在公网。但如果你的电脑在局域网中且其他设备可以访问，建议把*替换为具体的来源地址，比如http://localhost:*。

3.2 Windows 下配置环境变量的完整步骤

Windows 下配置环境变量有一个容易踩的坑：Ollama 作为系统服务运行，它读取的是“系统环境变量”还是“用户环境变量”，取决于安装时的配置。大多数情况下，Ollama 会继承当前用户的环境变量，所以修改用户变量就能生效。

具体操作步骤：

1. 通过任务栏右下角的 Ollama 图标，右键选择 Quit Ollama，确保服务完全退出。
2. 打开“设置”应用，搜索“环境变量”，点击“编辑账户的环境变量”。
3. 在“用户变量”区域，点击“新建”按钮。
4. 变量名填入OLLAMA_HOST，变量值填入0.0.0.0。
5. 再次点击“新建”，变量名填入OLLAMA_ORIGINS，变量值填入*。
6. 点击“确定”保存所有设置。
7. 重新启动 Ollama（从开始菜单或桌面快捷方式启动）。

验证环境变量是否生效：

# 在 PowerShell 中检查环境变量 echo $env:OLLAMA_HOST echo $env:OLLAMA_ORIGINS # 检查 Ollama 监听端口 netstat -ano | findstr 11434

如果netstat的输出显示0.0.0.0:11434而不是127.0.0.1:11434，说明OLLAMA_HOST已经生效。如果仍然显示127.0.0.1，可能是 Ollama 没有完全退出就重新启动了，需要检查任务管理器里是否还有残留的 ollama.exe 进程。

3.3 Linux 与 macOS 下的配置差异

Linux 下 Ollama 通常以 systemd 服务运行，环境变量需要写在 service 文件里：

# 编辑 systemd 服务配置 sudo systemctl edit ollama.service # 在编辑器中添加以下内容 [Service] Environment="OLLAMA_HOST=0.0.0.0" Environment="OLLAMA_ORIGINS=*" # 重新加载配置并重启服务 sudo systemctl daemon-reload sudo systemctl restart ollama

macOS 下如果通过 Homebrew 安装，可以用launchctl设置环境变量，或者直接在~/.zshrc里 export，然后重启 Ollama 应用。但要注意，macOS 的 Ollama 桌面版可能不会读取 shell 的环境变量，最稳妥的方式是通过launchctl setenv设置全局变量。

4. Chatbox 接入 Ollama：从 API 配置到对话测试

4.1 Chatbox 的安装与模型选择

Chatbox 的下载渠道比较直接，官网提供了 Windows、macOS、Linux、Android、iOS 和网页版的入口。Windows 下下载 exe 安装包，双击安装即可。安装完成后首次启动，Chatbox 会引导你选择模型来源。

这里有一个分叉点：Chatbox 默认推荐使用自己的 API Key 或者云端模型，你需要手动切换到“使用自己的 API Key 或者本地模型”选项。点击后，在模型提供方列表里选择“Ollama API”。

选择 Ollama API 后，Chatbox 会自动尝试连接http://localhost:11434。如果前面的环境变量配置正确，模型下拉列表里会出现你已经拉取的 DeepSeek R1 版本，比如deepseek-r1:8b。选中它，点击保存，就完成了接入。

注意：如果模型列表是空的，先检查 Ollama 服务是否在运行。可以在浏览器里访问http://localhost:11434/api/tags，如果返回 JSON 格式的模型列表，说明 Ollama 正常；如果连接被拒绝，说明 Ollama 没启动或者端口被占用。

4.2 对话测试与参数调优

配置完成后，在 Chatbox 的对话框里输入“你是谁”进行测试。如果模型正常响应，说明整条链路已经打通。但这时候的对话体验可能还不够好，因为默认的推理参数不一定适合你的硬件。

Chatbox 的 Ollama 配置页面里可以调整几个关键参数：

对于 8G 显存的配置，建议把 Context Length 控制在 4096 以内。如果发现对话几轮之后响应变慢，大概率是上下文累积导致 KV Cache 膨胀，把显存吃满了。这时候可以在 Chatbox 里手动清空对话历史，或者调小 Context Length。

另一个实用技巧是开启 Chatbox 的“流式输出”选项。流式输出会让模型逐 token 返回结果，而不是等全部生成完再一次性显示。对于本地部署的模型，流式输出能显著提升交互体感，因为你能看到模型在“思考”的过程，而不是盯着空白屏幕等十几秒。

4.3 局域网内其他设备访问 Ollama 服务

如果你想让局域网内的手机或另一台电脑也能用上本地部署的 DeepSeek R1，需要把 Chatbox 的 API 地址从localhost改成运行 Ollama 的那台机器的局域网 IP。

假设 Ollama 运行在192.168.1.100上，Chatbox 的 API 地址就填http://192.168.1.100:11434。前提是OLLAMA_HOST已经设置为0.0.0.0，并且防火墙允许 11434 端口的入站连接。

Windows 下开放防火墙端口的命令：

# 以管理员身份运行 PowerShell New-NetFirewallRule -DisplayName "Ollama" -Direction Inbound -Protocol TCP -LocalPort 11434 -Action Allow

Linux 下如果用 ufw：

sudo ufw allow 11434/tcp

这样配置之后，局域网内的设备就能共享同一台机器上的模型推理能力。但要注意，Ollama 本身没有做请求队列管理，多个客户端同时发起推理请求时，会竞争 GPU 资源，导致每个请求的响应速度都下降。

5. 避坑与排查：本地部署 DeepSeek R1 的五个血泪经验

5.1 模型下载中断导致加载失败

现象：ollama run deepseek-r1:8b执行后卡在加载界面，或者报错Error: model not found。

原因：Ollama 的模型下载不支持断点续传，网络波动导致权重文件下载不完整时，模型会处于“半成品”状态。ollama list里能看到模型名称，但实际文件大小不对。

解决：先用ollama list确认模型大小是否与预期相符。8B 版本的正常大小在 4.7GB 左右，如果只有几百 MB 或者 2GB，说明下载不完整。执行ollama rm deepseek-r1:8b删除残缺模型，然后重新ollama pull。如果网络不稳定，可以尝试在低峰时段拉取，或者先用 1.5B 版本验证流程。

5.2 显存溢出导致推理速度骤降

现象：模型能加载，但对话时响应极慢，每秒只能输出两三个 token，任务管理器里 GPU 显存占用接近 100%，但 GPU 利用率很低。

原因：模型的部分层被卸载到了内存甚至硬盘上，GPU 只在做少量计算，大部分时间在等数据从内存搬运过来。这种情况在 8G 显存跑 14B 模型时特别常见。

解决：换用更小参数量的版本，或者降低上下文长度。如果必须跑 14B，可以在 Ollama 的 Modelfile 里调整num_gpu参数，控制卸载到 GPU 的层数。但更根本的方案是升级硬件，显存是本地推理的硬门槛，没有太多取巧空间。

5.3 环境变量不生效导致 Chatbox 连接失败

现象：Ollama 命令行能正常对话，但 Chatbox 里模型列表为空，或者保存时提示连接失败。

原因：环境变量没有正确设置，或者 Ollama 服务没有重启。Windows 下常见的问题是修改了用户变量但 Ollama 以系统服务方式运行，读取的是系统变量。

解决：先用netstat -ano | findstr 11434确认监听地址。如果是127.0.0.1，说明OLLAMA_HOST没生效。检查环境变量是否设置在正确的层级，然后彻底退出 Ollama（任务管理器里确认没有残留进程），再重新启动。如果还是不行，尝试在命令行里临时设置环境变量后启动 Ollama：set OLLAMA_HOST=0.0.0.0 && ollama serve。

5.4 端口冲突导致 Ollama 启动失败

现象：Ollama 启动后没有任何反应，命令行执行ollama run提示连接被拒绝。

原因：11434 端口被其他程序占用。常见的是之前启动的 Ollama 进程没有完全退出，或者某些开发工具占用了这个端口。

解决：用netstat -ano | findstr 11434找到占用端口的进程 ID，然后在任务管理器里结束该进程。如果确认是 Ollama 的残留进程，直接结束即可。如果端口被其他程序占用，可以修改 Ollama 的监听端口：设置OLLAMA_HOST=0.0.0.0:11435，然后 Chatbox 里的 API 地址也要相应改成http://localhost:11435。

5.5 模型响应质量差与预期不符

现象：模型能跑，但回答质量明显低于预期，经常答非所问或者输出重复内容。

原因：蒸馏版本的小模型在推理能力上确实弱于完整版。1.5B 和 7B 版本在复杂逻辑推理上表现有限，这是模型规模决定的，不是配置问题。另外，Temperature 设置过高也会导致输出发散。

解决：调整 Temperature 到 0.6 左右，降低 Top P 到 0.9。如果任务对推理能力要求高，建议至少用 14B 或 32B 版本。对于 8B 版本，把它当作一个快速的本地助手来用，处理简单的问答和文本生成任务，不要期望它在复杂数学推理上达到云端大模型的水平。

6. 进阶技巧：用 Modelfile 定制专属 DeepSeek R1 实例

Ollama 的 Modelfile 是一个容易被忽略但非常实用的功能。它允许你在现有模型的基础上，预设系统提示词、调整推理参数、甚至合并多个模型的层。对于需要固定角色设定的场景，比如让模型始终以某个专业领域的口吻回答，Modelfile 比每次在 Chatbox 里手动输入系统提示词要方便得多。

创建一个自定义 Modelfile：

# 文件名：DeepSeek-R1-Custom.Modelfile FROM deepseek-r1:8b # 设置系统提示词 SYSTEM """ 你是一个专注于代码审查的助手。回答时先指出代码中的潜在问题，再给出修改建议。 保持回答简洁，不要输出与代码审查无关的内容。 """ # 调整推理参数 PARAMETER temperature 0.6 PARAMETER top_p 0.9 PARAMETER num_ctx 4096

然后用这个 Modelfile 创建新模型：

# 创建自定义模型 ollama create deepseek-r1-reviewer -f DeepSeek-R1-Custom.Modelfile # 验证新模型 ollama run deepseek-r1-reviewer # 在 Chatbox 中，模型列表里会出现 deepseek-r1-reviewer

这个自定义模型会继承 8B 版本的全部能力，但每次对话都会自动带上系统提示词，不需要在客户端里重复配置。num_ctx参数控制上下文窗口大小，4096 是一个在 8G 显存下比较安全的数值。如果你有 12G 以上显存，可以尝试调到 8192，但要注意观察显存占用。

另一个实用技巧是用ollama cp快速复制模型：

# 复制模型并重命名 ollama cp deepseek-r1:8b deepseek-r1-backup # 查看所有模型 ollama list

这在你想对模型做实验但又不想破坏原始版本时很有用。复制出来的模型占用额外的硬盘空间，但共享相同的权重文件，不会重复下载。

验证自定义模型是否生效的方法很简单：在 Chatbox 里选中deepseek-r1-reviewer，输入一段有问题的代码，看它是否按照系统提示词的要求先指出问题再给建议。如果回答风格符合预期，说明 Modelfile 已经正确应用。

从那以后我每次部署新模型，都会先写一个 Modelfile 把常用参数固化下来，而不是在客户端里反复调。这样换设备或者重装系统时，只需要把 Modelfile 复制过去，一条ollama create就能恢复完整配置。希望帮到你。

本文还有配套的精品资源，点击获取