简介:面向希望在个人电脑上搭建私有AI平台的开发者和小型企业,这份PDF教程系统讲解了基于Ollama本地部署DeepSeek的完整流程。教程重点解决了默认安装路径受限的问题,通过环境变量配置将模型存储至非C盘,并完成防火墙端口放行,同时借助Chatbox提供可视化操作界面,让缺乏命令行经验的用户也能轻松上手。包体为单个PDF文件,约802KB,内容涵盖Ollama安装配置、不同规格DeepSeek模型选型与部署命令、安装成功判断以及日常对话使用方法,结构清晰、步骤详尽。已有1530人学习该资源,尤其适合计算机新手作为本地私有化AI部署的入门实操指南。
1. 为什么把DeepSeek部署到本地:一台电脑就是你的私有AI
在线AI聊天确实方便,但每次提问都要先把内容送到云端,文档、代码、聊天记录全都过一遍别人的服务器。对在意数据隐私的个人开发者,或者想减少外部依赖的小团队来说,本地部署DeepSeek是更实在的解法:把模型下到自己的电脑上,断网也能用,对话内容不出本机。这篇教程走的是一条已经验证过的完整路线:Ollama负责把模型跑起来,DeepSeek-R1负责回答问题,Chatbox负责把命令行变成像微信一样好用的聊天窗口。整个过程不需要写代码,主要工作在环境变量、防火墙放行和模型选择上。机器内存8GB以上、硬盘留出十几GB空间,跟着步骤走,大概半小时就能让一个私有AI在你电脑上开口说话,这不是玄学。
如果你之前被各种“本地部署AI”教程绕晕过,多半是卡在三个地方:模型被强制装进C盘、防火墙拦截端口、装完不知道怎么把命令行界面变成可视化窗口。这篇把这三关拆开讲,每步都给了参数和排错方法,顺便把容易翻车的位置标出来。小白按顺序做即可,老手直接跳到自己需要的章节。整套流程的界面截图和命令清单我都整理在配套资源包里,界面版本不一样时对照着找,能少走很多弯路。
2. 安装Ollama和改造存储路径:模型默认装C盘怎么挪到D盘
2.1 为什么用Ollama当底座
本地部署大模型,第一步不是下载模型,而是先搭一个“能跑模型的运行环境”。从零实现推理框架不现实,Ollama这类工具把模型下载、加载、推理和本地API服务封装成一条命令,操作门槛降到了“安装软件”的级别。选它还有一个实际理由:社区里DeepSeek-R1系列模型可以直接通过命令拉取,不需要手动找文件、对路径、配依赖,和Chatbox这类图形工具也能顺利对接。
从原理上讲,Ollama启动后会在本机开一个HTTP服务,默认监听11434端口。命令行工具通过这个端口发请求,Chatbox这种图形界面也走这个端口。所以后面要配置环境变量、放行防火墙,本质都在围绕“模型存在哪”和“服务能不能被访问”这两件事展开。如果对这两件事没有概念,后面出问题时很容易乱猜。
2.2 下载安装:先别急着拉模型
到Ollama官网下载Windows安装包,双击安装即可。这里要提前说一句:安装包默认不允许选择非C盘目录,装完以后模型默认也会存到C盘用户目录下。很多人装完发现C盘空间哗哗往下掉,就是这个原因。正确顺序是:先装好程序,配置完环境变量再拉模型。顺序反了,C盘已经被占掉几个GB,后面还得手动迁移。
安装完成后,系统托盘会出现Ollama的小图标,说明程序已经在后台运行。接下来不要急着打开命令行输模型命令,先在D盘建一个专门放模型的目录,比如D:\ollama。目录名建议全英文,后面配置环境变量时不容易遇到编码兼容问题。
2.3 三个环境变量配置步骤
在Win11或Win10左下角搜索“环境变量”,打开“编辑系统环境变量”,点“高级”页签下的“环境变量”按钮,进入环境变量设置窗口。在“用户变量”区域点“新建”,逐条添加下面三条变量:
| 变量名 | 变量值 | 作用 |
|---|---|---|
| OLLAMA_MODELS | D:\ollama | 修改模型存储位置,让模型文件写入D盘而非C盘 |
| OLLAMA_ORIGINS | * | 允许浏览器页面跨域访问Ollama服务,避免Web界面和控制台请求被拦 |
| OLLAMA_HOST | 0.0.0.0:11434 | 让Ollama监听所有网卡,便于局域网设备访问和调试 |
变量值里的路径不要带引号,也不要加结尾斜杠。如果你不想让局域网里的其它设备访问,OLLAMA_HOST可以保守一点,设成127.0.0.1:11434,这样只有本机程序能连。后面讲防火墙时再说两者的区别。配置完成后点“确定”保存,然后重启电脑。这一步经常被跳过,但环境变量对已运行的进程不会立刻生效,不重启的话Ollama继续用旧配置,模型照样写进C盘。
重启后,重新打开命令提示符,输入以下命令确认变量已经生效:
set OLLAMA_MODELS set OLLAMA_ORIGINS set OLLAMA_HOST正常情况下会回显刚才设置的三条变量值。如果输出为空,说明变量没保存成功,或者重启的进程不对。注意每次修改环境变量后,命令行窗口要新开,不要在修改前就打开的旧窗口里测试。
2.4 改完位置,已经下过的模型怎么办
如果你是在配置环境变量之前就装过模型,这里有个容易踩的坑:OLLAMA_MODELS只影响后续下载的模型,已下载的模型文件仍然留在C盘原目录。你会在ollama list里看到模型还在,但D:\ollama目录并没有变大,C盘空间也没有释放。
处理方式是先把旧模型目录整体复制到D盘。默认位置一般在C:\Users\你的用户名.ollama\models,把models目录里的内容复制到D:\ollama下对应位置,然后重启Ollama。确认新位置模型能正常加载后,再删除C盘里的旧目录。如果嫌麻烦,也可以不迁移,直接把旧模型删掉重新pull一次,代价是重新下载一遍流量。我建议先复制再删除,留个后悔药,毕竟模型文件好几个GB,下回来挺费时间。
3. 防火墙放行11434端口:本地服务到底是怎么被拦下的
3.1 为什么Ollama要监听端口
很多人不理解:明明在本机跑的服务,为什么还要放行防火墙?因为Ollama的本质是一个本地HTTP服务,监听在11434端口。不管是命令行聊天还是Chatbox连接,都是向这个端口发请求。Windows防火墙默认拦截入站连接,如果规则不对,Ollama本身可能正常启动,但外部的请求根本达不到服务。
端口号不是随便定的。Ollama默认用11434,修改端口的话,Chatbox的API地址、防火墙规则都要跟着改,中间任何一处漏掉都会出现“服务明明在跑,但连不上”的诡异现象。这就是为什么有些教程会让人在多个地方反复改同一个数字。我一般建议新手保持默认端口不动,减少变量。
3.2 放行流程:入站规则、TCP、特定端口
放行操作在“高级安全Windows Defender防火墙”里完成。Win11和Win10都可以在左下角搜索“高级安全”,打开后左侧选“入站规则”,右侧点“新建规则”,按下面顺序操作:
- 规则类型选“端口”,点下一步。
- 协议选“TCP”,在“特定本地端口”里填11434,点下一步。
- 操作选“允许连接”,点下一步。
- 配置文件里把“域”“专用”“公用”三个选项都勾上,点下一步。
- 名称填“ollama 11434”,描述可以写“Ollama默认端口”,点完成。
注意两点。第一,协议要选TCP,不要选UDP,Ollama走的是TCP。第二,端口不要填“所有本地端口”,那种规则太宽,没必要也不安全。只放行11434就够。创建工作完成后,建议在左侧“入站规则”列表里确认这条规则存在,并且“已启用”列是“是”。
有个常见错误是把规则建到“出站规则”里。出站规则管的是本机主动向外发起的连接,而Ollama是要接收外部请求,属于入站方向。建错位置的话,放行规则完全起不到作用。
3.3 验证端口和本地API是否可用
配置完防火墙,先在本机验证服务状态。打开命令提示符,执行:
netstat -ano | findstr 11434看到类似TCP 0.0.0.0:11434 ... LISTENING的输出,说明Ollama正在监听端口。如果Local Address是127.0.0.1:11434,说明服务只监听本机回环地址,局域网设备无法访问,需要检查OLLAMA_HOST是否配置成0.0.0.0并重启过Ollama。
接着验证API接口:
curl http://127.0.0.1:11434/api/tags正常返回一堆JSON,里面是已安装模型的信息。如果返回不了,先看托盘里Ollama图标是否在运行,没运行的话从开始菜单手动启动再试。这一步能把“服务没启动”和“防火墙拦截”两个问题先拆开,排查起来不会瞎猜。
3.4 防火墙放行后,其它设备还是连不上
有时候本机访问正常,但局域网里另一台电脑就是连不上。逐个排查三个原因:第一,OLLAMA_HOST没设成0.0.0.0,服务只监听127.0.0.1,局域网请求进不来;第二,防火墙规则没建在入站规则里,或者端口填错;第三,访问的IP不对。可以用ipconfig查看本机在局域网里的IP,再在另一台电脑上执行:
curl http://你的局域网IP:11434/api/tags把“你的局域网IP”换成实际值。能返回JSON,说明链路通。如果这一步卡住,回到上一节检查netstat输出中的监听地址。
注意:OLLAMA_HOST设成0.0.0.0后,局域网里其它设备确实能访问你的模型服务,但本地Ollama默认没有API鉴权。公司网络、公共Wi-Fi环境下不建议长期开着,用完改回127.0.0.1更稳。
4. 安装DeepSeek-R1模型:选哪个b模型,16GB内存怎么决定
4.1 DeepSeek-R1系列怎么理解
Ollama拉取的模型名称是deepseek-r1,后面跟的标签是这个系列的参数规模:1.5b、7b、8b、14b、32b、70b。这里的“b”是billion,即十亿参数。参数越多,模型的知识量和推理能力通常越强,但代价是内存占用、硬盘空间和生成速度全线上升。
这里有个容易误判的点:参数规模不是唯一的决定因素。同样的7b模型,不同量化格式文件大小不同,加载进内存的开销也不同。所以网上那些“1.5b只需要4GB内存”之类的说法只能当参考,最后还是要以本机实际体验为准。第一台机器别贪大,先装一个小模型跑通流程,再考虑换更大的。
选型要结合自己的内存、硬盘和耐心。个人经验是:内存8GB起步,用1.5b;16GB内存,7b或8b能跑,但8b在CPU推理时体感明显卡顿;32GB内存再考虑14b;64GB以上才适合折腾32b;70b基本是服务器玩家的事,个人电脑纯CPU很难喂饱。
4.2 模型大小与硬件的参考对照
下表是常见的选型经验值,不是精确值,同样标签的模型在不同量化方案下体积会略有浮动。硬盘占用看的是模型文件加上运行时临时空间,所以预留空间尽量比模型体积多留出2到3GB。
| 模型 | 内存建议 | 硬盘占用量级 | 适合场景 |
|---|---|---|---|
| deepseek-r1:1.5b | 8GB以上 | 1.5GB左右 | 低配本快速体验 |
| deepseek-r1:7b | 16GB以上 | 5GB左右 | 日常问答、文档分析 |
| deepseek-r1:8b | 16GB以上 | 5GB左右 | 需要更好效果时尝试 |
| deepseek-r1:14b | 32GB以上 | 9GB左右 | 认真用,能接受明显延迟 |
| deepseek-r1:32b | 64GB以上 | 20GB左右 | 高要求本地推理 |
| deepseek-r1:70b | 64GB以上 | 40GB左右 | 实验室或服务器环境 |
“稍显卡顿”不是错觉。16GB内存跑8b,模型要占用相当一部分内存,CPU推理再加上R1系列的思考过程,一句话等上几十秒都很正常。第一次装建议从1.5b入手,先确认整套链路通畅,再换大模型,别一上来就挑战70b,下载几十GB不说,卡到想砸电脑。
4.3 安装命令与参数解读
打开命令提示符,先确认Ollama正常运行:
ollama会回显版本信息和使用提示。如果提示不是内部或外部命令,检查Ollama有没有装好,或者重开一个命令行窗口。接下来安装1.5b模型:
ollama run deepseek-r1:1.5b这个命令等价于“下载模型并立刻进入对话模式”。首次执行会在终端打印下载进度,模型下载完成后自动进入聊天界面,出现Send a message (/? for help)提示就是成功了。如果只想下载模型、暂不对话,可以拆成两步:
ollama pull deepseek-r1:1.5bpull只负责下载,不会启动对话。安装其它大小模型,只需要把冒号后面的标签换成对应的数字,例如:
ollama run deepseek-r1:8b下载完成后,命令行会显示success字样。先用ollama list确认模型已经安装:
ollama list输出的一列是模型名称,以后忘了模型全名,用这个命令查看,然后复制出来用。运行中的模型还可以用ollama ps查看当前占用情况,后面调试时很有用。
4.4 首次对话,顺便判断速度
进入对话界面后,直接输入一句简单问题测试,例如:用一句话解释什么是人工智能。发送后如果长时间没有文字,先把任务管理器打开看一眼CPU占用。只要CPU在忙,模型就是在思考,不是死机。R1是推理模型,回答之前会生成一段内部推理过程,这段过程也会消耗算力,所以看起来“半天没动静”很正常。
对话按/exit退出交互界面。如果下载到一半卡住,网络不好时可能出现进度条长时间不动,直接按Ctrl+C终止命令,重新执行ollama run deepseek-r1:1.5b。不要同时后台挂多个下载任务,小内存机器会挤爆。
5. Chatbox接入DeepSeek:常见问题和避坑记录
5.1 下载安装Chatbox,注意“所有用户”
Chatbox是Ollama的图形界面壳,装上以后就不用天天面对命令行。下载Windows版本安装即可,但安装过程中有一个关键选择:在“选择用户”这一步,要选“所有用户”,不要选“仅为我安装”。选错也不是完全不能用,但后面可能会遇到配置读取异常,尤其是环境变量差异导致的模型列表读不出来。
安装完成后先不要急着打开,确认Ollama已经在后台运行。Chatbox本质上是一个客户端,它不负责跑模型,模型服务的根在Ollama上。运行状态不对,Chatbox界面做得再漂亮也只是空壳。
5.2 Chatbox连接Ollama API的完整配置
启动Chatbox后,按照下面流程配置:
- 首页选择“使用自己的API Key或本地模型”,不要选云端账号。
- 在模型服务商列表里选“Ollama API”。
- 点击“重置”按钮,让它扫描本机Ollama服务。
- 在模型下拉框里选中deepseek-r1:1.5b。
- 保存配置,进入聊天窗口。
“重置”这个按钮容易被忽略,但它是连接成功的关键一步。点击之后,Chatbox会向Ollama API请求模型列表。如果模型列表是空的,或者压根没有deepseek选项,按下面排查章节逐项检查。
如果改过端口,注意Chatbox里的访问地址也要改成对应端口。默认是127.0.0.1:11434,这里和防火墙放行的端口必须保持一致,否则报错连接失败。
5.3 避坑记录:我见过的几种翻车现场
1. Chatbox模型列表是空的
现象:保存配置后,模型下拉框里什么都没有。
原因:Ollama没启动,或者环境变量改完没重启,又或者Chatbox没点“重置”。
解决:先到托盘确认Ollama在运行,命令行执行ollama list确认模型存在,再回Chatbox点“重置”。这三步按顺序走,九成情况能解决。
2. 模型挪到D盘后,C盘空间没减少
现象:OLLAMA_MODELS已经指向D盘,新下载的模型也在D盘,但C盘可用空间还是往下掉。
原因:模型目录迁移后,Ollama的临时文件或索引可能仍写在原位置。
解决:退出Ollama,把C盘用户目录下的.ollama文件夹整体复制到新位置,然后用环境变量指向复制后的目录,重新启动。确认模型能正常加载后,再清理C盘旧文件。别在Ollama运行时删文件,容易导致索引损坏。
3. 局域网另一台电脑连不上Ollama
现象:A机器模型正常,B机器浏览器访问A的11434端口超时。
原因:OLLAMA_HOST没有设为0.0.0.0,服务只监听了127.0.0.1;或者防火墙入站规则没建对。
解决:在A机器执行netstat -ano | findstr 11434,看到监听地址是0.0.0.0再排除防火墙;如果监听地址是127.0.0.1,配置好OLLAMA_HOST并重启Ollama。
4. 改端口后,Chatbox连不上服务
现象:为了避开端口占用,把OLLAMA_HOST改成了11438,结果Chatbox报错。
原因:防火墙放行的是11434,Chatbox默认访问的也是11434,改了一处没改其它两处。
解决:把这个端口在防火墙、OLLAMA_HOST、Chatbox访问地址三处统一。最简单的方式是换回默认端口。
5. 上传文档或图片后,回答离谱
现象:Chatbox支持添加文档和图片,但问细节时模型胡编或说看不见。
原因:小参数模型主要是文本推理,对图片和超长文档的理解能力有限。
解决:把长文档拆成小段再提问,图片类问题别指望1.5b能真正看懂。要做严肃的文档分析,先换14b或32b再说。
5.4 日常使用:命令行和图形界面的选择
模型装好后,日常对话直接开Chatbox,不用再碰命令行。如果你同时在调试多个模型,命令行会更轻量:ollama run deepseek-r1:14b快速切换,ollama ps看内存占用。两个入口共用同一个Ollama服务,不会冲突,但同一时间别开太多对话任务,小内存机器会互相拖慢。
6. 验证部署不是玄学:常用命令和我的收尾习惯
6.1 部署完成后的验证清单
整套部署完成后,我习惯按下面顺序过一遍,速度快而且能准确定位问题:
ollama list ollama ps netstat -ano | findstr 11434 curl http://127.0.0.1:11434/api/tagsollama list确认模型已经安装;ollama ps看当前加载到内存的模型;netstat确认端口监听状态;curl验证API能正常返回数据。这四条命令全部通过,再打开Chatbox,基本不会出幺蛾子。
6.2 一个有效的自测技巧
自测时别问“你好”这种没营养的问题,也先别拿复杂逻辑题考验小模型。问一个已知答案但需要模型组织语言的简单问题,比如“1加1等于几”,或者让模型复述刚才的对话。通过之后,再试一两条和你的实际工作相关的提问。这样能快速分清楚是链路问题还是模型能力问题,而不是把时间耗在无限重启上。
6.3 我的收尾习惯
踩过几次“改完环境变量不生效”的坑之后,我给自己定了一个死规矩:每次动完环境变量、防火墙或端口,全部强制走一遍“重启Ollama → 新开命令行 → set OLLAMA_MODELS → ollama list → curl API”的流程。哪一步卡住就修哪一步,修完重走一遍,直到全部通过再碰Chatbox。这个习惯看着笨,实际上最省时间。
还有一件我会顺手做的事:模型装完,在托盘Ollama图标上确认日志没有红色报错。Ollama的日志会记录端口监听失败、模型加载失败等信息,图形界面里看不出苗头的问题,日志里往往写着明确原因。从那以后,我每次部署新的本地模型都强制先验证一遍API端点再进聊天界面,很少再被“看起来没反应”骗到。希望这套流程也帮到你。
本文还有配套的精品资源,点击获取