☰
DeepSeek本地部署全攻略:Ollama+Chatbox打造离线私有AI助手
2026/10/15 6:39:42 网站建设 项目流程

简介:面向希望在个人电脑上搭建私有AI平台的开发者和小型企业,这份PDF教程系统讲解了基于Ollama本地部署DeepSeek的完整流程。教程重点解决了默认安装路径受限的问题,通过环境变量配置将模型存储至非C盘,并完成防火墙端口放行,同时借助Chatbox提供可视化操作界面,让缺乏命令行经验的用户也能轻松上手。包体为单个PDF文件,约802KB,内容涵盖Ollama安装配置、不同规格DeepSeek模型选型与部署命令、安装成功判断以及日常对话使用方法,结构清晰、步骤详尽。已有1530人学习该资源,尤其适合计算机新手作为本地私有化AI部署的入门实操指南。

1. 为什么把DeepSeek部署到本地:一台电脑就是你的私有AI

在线AI聊天确实方便,但每次提问都要先把内容送到云端,文档、代码、聊天记录全都过一遍别人的服务器。对在意数据隐私的个人开发者,或者想减少外部依赖的小团队来说,本地部署DeepSeek是更实在的解法:把模型下到自己的电脑上,断网也能用,对话内容不出本机。这篇教程走的是一条已经验证过的完整路线:Ollama负责把模型跑起来,DeepSeek-R1负责回答问题,Chatbox负责把命令行变成像微信一样好用的聊天窗口。整个过程不需要写代码,主要工作在环境变量、防火墙放行和模型选择上。机器内存8GB以上、硬盘留出十几GB空间,跟着步骤走,大概半小时就能让一个私有AI在你电脑上开口说话,这不是玄学。

如果你之前被各种“本地部署AI”教程绕晕过,多半是卡在三个地方:模型被强制装进C盘、防火墙拦截端口、装完不知道怎么把命令行界面变成可视化窗口。这篇把这三关拆开讲,每步都给了参数和排错方法,顺便把容易翻车的位置标出来。小白按顺序做即可,老手直接跳到自己需要的章节。整套流程的界面截图和命令清单我都整理在配套资源包里,界面版本不一样时对照着找,能少走很多弯路。

2. 安装Ollama和改造存储路径:模型默认装C盘怎么挪到D盘

2.1 为什么用Ollama当底座

本地部署大模型,第一步不是下载模型,而是先搭一个“能跑模型的运行环境”。从零实现推理框架不现实,Ollama这类工具把模型下载、加载、推理和本地API服务封装成一条命令,操作门槛降到了“安装软件”的级别。选它还有一个实际理由:社区里DeepSeek-R1系列模型可以直接通过命令拉取,不需要手动找文件、对路径、配依赖,和Chatbox这类图形工具也能顺利对接。

从原理上讲,Ollama启动后会在本机开一个HTTP服务,默认监听11434端口。命令行工具通过这个端口发请求,Chatbox这种图形界面也走这个端口。所以后面要配置环境变量、放行防火墙,本质都在围绕“模型存在哪”和“服务能不能被访问”这两件事展开。如果对这两件事没有概念,后面出问题时很容易乱猜。

2.2 下载安装:先别急着拉模型

到Ollama官网下载Windows安装包,双击安装即可。这里要提前说一句:安装包默认不允许选择非C盘目录,装完以后模型默认也会存到C盘用户目录下。很多人装完发现C盘空间哗哗往下掉,就是这个原因。正确顺序是:先装好程序,配置完环境变量再拉模型。顺序反了,C盘已经被占掉几个GB,后面还得手动迁移。

安装完成后,系统托盘会出现Ollama的小图标,说明程序已经在后台运行。接下来不要急着打开命令行输模型命令,先在D盘建一个专门放模型的目录,比如D:\ollama。目录名建议全英文,后面配置环境变量时不容易遇到编码兼容问题。

2.3 三个环境变量配置步骤

在Win11或Win10左下角搜索“环境变量”,打开“编辑系统环境变量”,点“高级”页签下的“环境变量”按钮,进入环境变量设置窗口。在“用户变量”区域点“新建”,逐条添加下面三条变量:

变量名变量值作用
OLLAMA_MODELSD:\ollama修改模型存储位置,让模型文件写入D盘而非C盘
OLLAMA_ORIGINS*允许浏览器页面跨域访问Ollama服务,避免Web界面和控制台请求被拦
OLLAMA_HOST0.0.0.0:11434让Ollama监听所有网卡,便于局域网设备访问和调试

变量值里的路径不要带引号,也不要加结尾斜杠。如果你不想让局域网里的其它设备访问,OLLAMA_HOST可以保守一点,设成127.0.0.1:11434,这样只有本机程序能连。后面讲防火墙时再说两者的区别。配置完成后点“确定”保存,然后重启电脑。这一步经常被跳过,但环境变量对已运行的进程不会立刻生效,不重启的话Ollama继续用旧配置,模型照样写进C盘。

重启后,重新打开命令提示符,输入以下命令确认变量已经生效:

set OLLAMA_MODELS set OLLAMA_ORIGINS set OLLAMA_HOST

正常情况下会回显刚才设置的三条变量值。如果输出为空,说明变量没保存成功,或者重启的进程不对。注意每次修改环境变量后,命令行窗口要新开,不要在修改前就打开的旧窗口里测试。

2.4 改完位置,已经下过的模型怎么办

如果你是在配置环境变量之前就装过模型,这里有个容易踩的坑:OLLAMA_MODELS只影响后续下载的模型,已下载的模型文件仍然留在C盘原目录。你会在ollama list里看到模型还在,但D:\ollama目录并没有变大,C盘空间也没有释放。

处理方式是先把旧模型目录整体复制到D盘。默认位置一般在C:\Users\你的用户名.ollama\models,把models目录里的内容复制到D:\ollama下对应位置,然后重启Ollama。确认新位置模型能正常加载后,再删除C盘里的旧目录。如果嫌麻烦,也可以不迁移,直接把旧模型删掉重新pull一次,代价是重新下载一遍流量。我建议先复制再删除,留个后悔药,毕竟模型文件好几个GB,下回来挺费时间。

3. 防火墙放行11434端口:本地服务到底是怎么被拦下的

3.1 为什么Ollama要监听端口

很多人不理解:明明在本机跑的服务,为什么还要放行防火墙?因为Ollama的本质是一个本地HTTP服务,监听在11434端口。不管是命令行聊天还是Chatbox连接,都是向这个端口发请求。Windows防火墙默认拦截入站连接,如果规则不对,Ollama本身可能正常启动,但外部的请求根本达不到服务。

端口号不是随便定的。Ollama默认用11434,修改端口的话,Chatbox的API地址、防火墙规则都要跟着改,中间任何一处漏掉都会出现“服务明明在跑,但连不上”的诡异现象。这就是为什么有些教程会让人在多个地方反复改同一个数字。我一般建议新手保持默认端口不动,减少变量。

3.2 放行流程:入站规则、TCP、特定端口

放行操作在“高级安全Windows Defender防火墙”里完成。Win11和Win10都可以在左下角搜索“高级安全”,打开后左侧选“入站规则”,右侧点“新建规则”,按下面顺序操作:

  1. 规则类型选“端口”,点下一步。
  2. 协议选“TCP”,在“特定本地端口”里填11434,点下一步。
  3. 操作选“允许连接”,点下一步。
  4. 配置文件里把“域”“专用”“公用”三个选项都勾上,点下一步。
  5. 名称填“ollama 11434”,描述可以写“Ollama默认端口”,点完成。

注意两点。第一,协议要选TCP,不要选UDP,Ollama走的是TCP。第二,端口不要填“所有本地端口”,那种规则太宽,没必要也不安全。只放行11434就够。创建工作完成后,建议在左侧“入站规则”列表里确认这条规则存在,并且“已启用”列是“是”。

有个常见错误是把规则建到“出站规则”里。出站规则管的是本机主动向外发起的连接,而Ollama是要接收外部请求,属于入站方向。建错位置的话,放行规则完全起不到作用。

3.3 验证端口和本地API是否可用

配置完防火墙,先在本机验证服务状态。打开命令提示符,执行:

netstat -ano | findstr 11434

看到类似TCP 0.0.0.0:11434 ... LISTENING的输出,说明Ollama正在监听端口。如果Local Address是127.0.0.1:11434,说明服务只监听本机回环地址,局域网设备无法访问,需要检查OLLAMA_HOST是否配置成0.0.0.0并重启过Ollama。

接着验证API接口:

curl http://127.0.0.1:11434/api/tags

正常返回一堆JSON,里面是已安装模型的信息。如果返回不了,先看托盘里Ollama图标是否在运行,没运行的话从开始菜单手动启动再试。这一步能把“服务没启动”和“防火墙拦截”两个问题先拆开,排查起来不会瞎猜。

3.4 防火墙放行后,其它设备还是连不上

有时候本机访问正常,但局域网里另一台电脑就是连不上。逐个排查三个原因:第一,OLLAMA_HOST没设成0.0.0.0,服务只监听127.0.0.1,局域网请求进不来;第二,防火墙规则没建在入站规则里,或者端口填错;第三,访问的IP不对。可以用ipconfig查看本机在局域网里的IP,再在另一台电脑上执行:

curl http://你的局域网IP:11434/api/tags

把“你的局域网IP”换成实际值。能返回JSON,说明链路通。如果这一步卡住,回到上一节检查netstat输出中的监听地址。

注意:OLLAMA_HOST设成0.0.0.0后,局域网里其它设备确实能访问你的模型服务,但本地Ollama默认没有API鉴权。公司网络、公共Wi-Fi环境下不建议长期开着,用完改回127.0.0.1更稳。

4. 安装DeepSeek-R1模型:选哪个b模型,16GB内存怎么决定

4.1 DeepSeek-R1系列怎么理解

Ollama拉取的模型名称是deepseek-r1,后面跟的标签是这个系列的参数规模:1.5b、7b、8b、14b、32b、70b。这里的“b”是billion,即十亿参数。参数越多,模型的知识量和推理能力通常越强,但代价是内存占用、硬盘空间和生成速度全线上升。

这里有个容易误判的点:参数规模不是唯一的决定因素。同样的7b模型,不同量化格式文件大小不同,加载进内存的开销也不同。所以网上那些“1.5b只需要4GB内存”之类的说法只能当参考,最后还是要以本机实际体验为准。第一台机器别贪大,先装一个小模型跑通流程,再考虑换更大的。

选型要结合自己的内存、硬盘和耐心。个人经验是:内存8GB起步,用1.5b;16GB内存,7b或8b能跑,但8b在CPU推理时体感明显卡顿;32GB内存再考虑14b;64GB以上才适合折腾32b;70b基本是服务器玩家的事,个人电脑纯CPU很难喂饱。

4.2 模型大小与硬件的参考对照

下表是常见的选型经验值,不是精确值,同样标签的模型在不同量化方案下体积会略有浮动。硬盘占用看的是模型文件加上运行时临时空间,所以预留空间尽量比模型体积多留出2到3GB。

模型内存建议硬盘占用量级适合场景
deepseek-r1:1.5b8GB以上1.5GB左右低配本快速体验
deepseek-r1:7b16GB以上5GB左右日常问答、文档分析
deepseek-r1:8b16GB以上5GB左右需要更好效果时尝试
deepseek-r1:14b32GB以上9GB左右认真用,能接受明显延迟
deepseek-r1:32b64GB以上20GB左右高要求本地推理
deepseek-r1:70b64GB以上40GB左右实验室或服务器环境

“稍显卡顿”不是错觉。16GB内存跑8b,模型要占用相当一部分内存,CPU推理再加上R1系列的思考过程,一句话等上几十秒都很正常。第一次装建议从1.5b入手,先确认整套链路通畅,再换大模型,别一上来就挑战70b,下载几十GB不说,卡到想砸电脑。

4.3 安装命令与参数解读

打开命令提示符,先确认Ollama正常运行:

ollama

会回显版本信息和使用提示。如果提示不是内部或外部命令,检查Ollama有没有装好,或者重开一个命令行窗口。接下来安装1.5b模型:

ollama run deepseek-r1:1.5b

这个命令等价于“下载模型并立刻进入对话模式”。首次执行会在终端打印下载进度,模型下载完成后自动进入聊天界面,出现Send a message (/? for help)提示就是成功了。如果只想下载模型、暂不对话,可以拆成两步:

ollama pull deepseek-r1:1.5b

pull只负责下载,不会启动对话。安装其它大小模型,只需要把冒号后面的标签换成对应的数字,例如:

ollama run deepseek-r1:8b

下载完成后,命令行会显示success字样。先用ollama list确认模型已经安装:

ollama list

输出的一列是模型名称,以后忘了模型全名,用这个命令查看,然后复制出来用。运行中的模型还可以用ollama ps查看当前占用情况,后面调试时很有用。

4.4 首次对话,顺便判断速度

进入对话界面后,直接输入一句简单问题测试,例如:用一句话解释什么是人工智能。发送后如果长时间没有文字,先把任务管理器打开看一眼CPU占用。只要CPU在忙,模型就是在思考,不是死机。R1是推理模型,回答之前会生成一段内部推理过程,这段过程也会消耗算力,所以看起来“半天没动静”很正常。

对话按/exit退出交互界面。如果下载到一半卡住,网络不好时可能出现进度条长时间不动,直接按Ctrl+C终止命令,重新执行ollama run deepseek-r1:1.5b。不要同时后台挂多个下载任务,小内存机器会挤爆。

5. Chatbox接入DeepSeek:常见问题和避坑记录

5.1 下载安装Chatbox,注意“所有用户”

Chatbox是Ollama的图形界面壳,装上以后就不用天天面对命令行。下载Windows版本安装即可,但安装过程中有一个关键选择:在“选择用户”这一步,要选“所有用户”,不要选“仅为我安装”。选错也不是完全不能用,但后面可能会遇到配置读取异常,尤其是环境变量差异导致的模型列表读不出来。

安装完成后先不要急着打开,确认Ollama已经在后台运行。Chatbox本质上是一个客户端,它不负责跑模型,模型服务的根在Ollama上。运行状态不对,Chatbox界面做得再漂亮也只是空壳。

5.2 Chatbox连接Ollama API的完整配置

启动Chatbox后,按照下面流程配置:

  1. 首页选择“使用自己的API Key或本地模型”,不要选云端账号。
  2. 在模型服务商列表里选“Ollama API”。
  3. 点击“重置”按钮,让它扫描本机Ollama服务。
  4. 在模型下拉框里选中deepseek-r1:1.5b。
  5. 保存配置,进入聊天窗口。

“重置”这个按钮容易被忽略,但它是连接成功的关键一步。点击之后,Chatbox会向Ollama API请求模型列表。如果模型列表是空的,或者压根没有deepseek选项,按下面排查章节逐项检查。

如果改过端口,注意Chatbox里的访问地址也要改成对应端口。默认是127.0.0.1:11434,这里和防火墙放行的端口必须保持一致,否则报错连接失败。

5.3 避坑记录:我见过的几种翻车现场

1. Chatbox模型列表是空的

现象:保存配置后,模型下拉框里什么都没有。
原因:Ollama没启动,或者环境变量改完没重启,又或者Chatbox没点“重置”。
解决:先到托盘确认Ollama在运行,命令行执行ollama list确认模型存在,再回Chatbox点“重置”。这三步按顺序走,九成情况能解决。

2. 模型挪到D盘后,C盘空间没减少

现象:OLLAMA_MODELS已经指向D盘,新下载的模型也在D盘,但C盘可用空间还是往下掉。
原因:模型目录迁移后,Ollama的临时文件或索引可能仍写在原位置。
解决:退出Ollama,把C盘用户目录下的.ollama文件夹整体复制到新位置,然后用环境变量指向复制后的目录,重新启动。确认模型能正常加载后,再清理C盘旧文件。别在Ollama运行时删文件,容易导致索引损坏。

3. 局域网另一台电脑连不上Ollama

现象:A机器模型正常,B机器浏览器访问A的11434端口超时。
原因:OLLAMA_HOST没有设为0.0.0.0,服务只监听了127.0.0.1;或者防火墙入站规则没建对。
解决:在A机器执行netstat -ano | findstr 11434,看到监听地址是0.0.0.0再排除防火墙;如果监听地址是127.0.0.1,配置好OLLAMA_HOST并重启Ollama。

4. 改端口后,Chatbox连不上服务

现象:为了避开端口占用,把OLLAMA_HOST改成了11438,结果Chatbox报错。
原因:防火墙放行的是11434,Chatbox默认访问的也是11434,改了一处没改其它两处。
解决:把这个端口在防火墙、OLLAMA_HOST、Chatbox访问地址三处统一。最简单的方式是换回默认端口。

5. 上传文档或图片后,回答离谱

现象:Chatbox支持添加文档和图片,但问细节时模型胡编或说看不见。
原因:小参数模型主要是文本推理,对图片和超长文档的理解能力有限。
解决:把长文档拆成小段再提问,图片类问题别指望1.5b能真正看懂。要做严肃的文档分析,先换14b或32b再说。

5.4 日常使用:命令行和图形界面的选择

模型装好后,日常对话直接开Chatbox,不用再碰命令行。如果你同时在调试多个模型,命令行会更轻量:ollama run deepseek-r1:14b快速切换,ollama ps看内存占用。两个入口共用同一个Ollama服务,不会冲突,但同一时间别开太多对话任务,小内存机器会互相拖慢。

6. 验证部署不是玄学:常用命令和我的收尾习惯

6.1 部署完成后的验证清单

整套部署完成后,我习惯按下面顺序过一遍,速度快而且能准确定位问题:

ollama list ollama ps netstat -ano | findstr 11434 curl http://127.0.0.1:11434/api/tags

ollama list确认模型已经安装;ollama ps看当前加载到内存的模型;netstat确认端口监听状态;curl验证API能正常返回数据。这四条命令全部通过,再打开Chatbox,基本不会出幺蛾子。

6.2 一个有效的自测技巧

自测时别问“你好”这种没营养的问题,也先别拿复杂逻辑题考验小模型。问一个已知答案但需要模型组织语言的简单问题,比如“1加1等于几”,或者让模型复述刚才的对话。通过之后,再试一两条和你的实际工作相关的提问。这样能快速分清楚是链路问题还是模型能力问题,而不是把时间耗在无限重启上。

6.3 我的收尾习惯

踩过几次“改完环境变量不生效”的坑之后,我给自己定了一个死规矩:每次动完环境变量、防火墙或端口,全部强制走一遍“重启Ollama → 新开命令行 → set OLLAMA_MODELS → ollama list → curl API”的流程。哪一步卡住就修哪一步,修完重走一遍,直到全部通过再碰Chatbox。这个习惯看着笨,实际上最省时间。

还有一件我会顺手做的事:模型装完,在托盘Ollama图标上确认日志没有红色报错。Ollama的日志会记录端口监听失败、模型加载失败等信息,图形界面里看不出苗头的问题,日志里往往写着明确原因。从那以后,我每次部署新的本地模型都强制先验证一遍API端点再进聊天界面,很少再被“看起来没反应”骗到。希望这套流程也帮到你。

本文还有配套的精品资源,点击获取

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询