企业官网建设流程全解析

在实际 AI 应用开发中，构建一个能够理解并回答私有领域问题的智能系统，是很多开发者和技术团队的核心需求。单纯依赖通用大模型，往往无法满足企业内部文档、技术手册、产品资料等非公开信息的问答场景。RAG（检索增强生成）技术通过结合信息检索与大语言模型，成为解决这一问题的关键技术路径。RAGFlow 作为一款基于深度学习模型的开源 RAG 工作流引擎，以其强大的文档解析能力和可视化的流程编排，降低了构建高质量 AI 知识库的门槛。而 Qwen2 系列模型，特别是其最新版本，在数学、代码、推理等多方面能力的显著提升，为生成答案的质量提供了有力保障。

本文将手把手带你完成 Qwen2 与 RAGFlow 的本地一体化部署，并构建一个可用的私人 AI 知识库。整个过程将聚焦于实践，涵盖从环境准备、依赖安装、核心配置到最终验证的全流程，并针对部署过程中常见的网络、配置、资源问题提供具体的排查方案。即使你是初次接触 Docker 和模型部署的开发者，也能按照本文的步骤顺利完成搭建。

1. 理解核心组件：Qwen2 与 RAGFlow 的角色

在开始部署之前，需要清晰理解系统中各个组件的职责以及它们是如何协同工作的。这有助于在出现问题时快速定位根因。

1.1 Qwen2 大模型：系统的“大脑”

Qwen2 是阿里云通义千问开源模型的最新版本。在这个 RAG 系统中，它扮演着“大脑”的角色，主要负责根据检索到的相关信息，生成流畅、准确、符合人类习惯的最终答案。

• 核心能力：强大的自然语言理解和生成能力。它并不直接存储你的私有知识，而是负责“思考和表达”。
• 关键参数：模型规模（如 7B、14B、72B）直接影响其能力和对硬件资源的需求。对于本地部署，需要根据可用显存和内存谨慎选择。例如，Qwen2-7B 模型在量化后可能仅需 8GB 左右显存，而更大的模型则需要更多资源。
• 工作模式：它接收来自 RAGFlow 的“问题”和“检索到的相关文本片段”，然后基于这些上下文信息生成答案。

1.2 RAGFlow：系统的“知识管家”与“调度中心”

RAGFlow 是整个系统的枢纽，它不生成答案，但负责管理知识库和协调整个问答流程。

• 文档解析与向量化：RAGFlow 的核心优势在于能解析多种格式的文档（PDF、Word、PPT、TXT、Markdown 等），包括对文本、表格、图片内容的提取。解析后的文本被切分成片段（chunks），并通过嵌入模型（Embedding Model）转换为向量，存入向量数据库。
• 检索增强：当用户提出问题时，RAGFlow 会先将问题转换为向量，然后在向量数据库中进行相似度搜索，找到最相关的文本片段。
• 工作流编排：它将检索到的相关片段和原始问题组合成一个清晰的提示（Prompt），发送给 Qwen2 模型，并最终将 Qwen2 生成的答案返回给用户。

1.3 整体工作流程

一次完整的问答请求大致遵循以下步骤：

1. 用户通过前端界面或 API 提出问题：“我司的年度差旅报销标准是什么？”
2. RAGFlow 接收问题，并使用嵌入模型将问题转换为向量。
3. RAGFlow 在向量数据库（如 Chroma）中搜索与问题向量最相似的文本片段（例如，从上传的《财务报销制度.pdf》中检索到的相关段落）。
4. RAGFlow 将这些片段和原始问题组装成 Prompt，发送给已部署的 Qwen2 模型。
5. Qwen2 模型读取 Prompt，理解上下文，生成答案：“根据公司《财务报销制度》第三章第五条，国内差旅住宿标准为一线城市每晚不超过600元，二线城市每晚不超过400元...”
6. RAGFlow 将 Qwen2 的答案返回给用户。

2. 部署环境准备与规划

本地部署的成功与否，极大程度上依赖于前期对环境的一致性和资源充足性的检查。

2.1 硬件与软件基础要求

以下是一份详细的清单，用于评估你的机器是否满足部署条件。

注意：如果你只有 CPU 环境，部署仍然可行，但模型推理速度会慢很多，不适合高并发或实时性要求高的场景。

2.2 关键依赖安装：Docker 与 NVIDIA 容器工具

RAGFlow 官方推荐使用 Docker 进行部署，这能最大限度地保证环境一致性。

1. 安装 Docker Engine

在 Ubuntu 系统上，可以执行以下命令安装 Docker：

# 更新软件包索引 sudo apt-get update # 安装必要的依赖 sudo apt-get install apt-transport-https ca-certificates curl software-properties-common # 添加 Docker 的官方 GPG 密钥 curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg # 设置稳定版仓库 echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null # 更新源并安装 Docker Engine sudo apt-get update sudo apt-get install docker-ce docker-ce-cli containerd.io # 将当前用户加入 docker 组，避免每次使用 sudo sudo usermod -aG docker $USER # 执行后需要重新登录终端或执行 `newgrp docker` 使配置生效

2. 安装 NVIDIA Container Toolkit（GPU 用户必需）

如果你的机器有 NVIDIA GPU，需要安装此工具包，以便 Docker 容器能够调用 GPU 资源。

# 添加 NVIDIA 容器仓库 distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list # 安装 nvidia-container-toolkit sudo apt-get update sudo apt-get install nvidia-container-toolkit # 重启 Docker 服务 sudo systemctl restart docker # 验证安装，运行一个基础 CUDA 容器测试 GPU 是否可用 sudo docker run --rm --gpus all nvidia/cuda:12.0-base nvidia-smi

如果最后一条命令能正确输出你的 GPU 信息，说明环境配置成功。

2.3 模型文件与部署目录规划

建议在磁盘上创建一个清晰的工作目录，例如/home/yourname/ragflow_qwen，并在其下创建子目录用于持久化数据：

mkdir -p /home/yourname/ragflow_qwen/{models,ragflow_data}

• models：用于存放从 ModelScope 或 Hugging Face 下载的 Qwen2 模型文件。
• ragflow_data：用于映射 RAGFlow 容器内的数据，包括文档、向量数据库等，避免容器删除后数据丢失。

3. 部署 RAGFlow 服务

RAGFlow 的 Docker 镜像已经集成了运行时环境、前端界面和必要的组件（如 Chroma 向量数据库）。我们通过 Docker Compose 来管理其服务。

3.1 编写 Docker Compose 配置文件

在工作目录下创建docker-compose.yml文件：

version: '3.8' services: ragflow: # 使用 slim 版本镜像，体积更小 image: infiniflow/ragflow:v0.26.4-slim container_name: ragflow-server restart: unless-stopped ports: - "9380:9380" # 将容器的9380端口映射到宿主机的9380端口 environment: - EMBEDDING_DEVICE=cpu # 如果没有GPU，嵌入模型使用CPU。有GPU可改为 cuda:0 # 以下为数据库配置，使用容器内建的SQLite即可，生产环境可外接MySQL - CHECKPOINT_PATH=/ragflow/data - EXTERNAL_DB_TYPE=sqlite - EXTERNAL_DB_HOST=ragflow-db - EXTERNAL_DB_PORT=3306 - EXTERNAL_DB_USER=ragflow - EXTERNAL_DB_PASSWORD=ragflow - EXTERNAL_DB_NAME=ragflow volumes: # 将宿主机的数据目录挂载到容器内，实现数据持久化 - ./ragflow_data:/ragflow/data networks: - ragflow-net # 定义一个内建的数据库服务（可选，slim镜像已包含SQLite） # 如果需要使用独立的MySQL，可以取消注释并配置以下服务 # ragflow-db: # image: mysql:8.0 # container_name: ragflow-db # restart: unless-stopped # environment: # MYSQL_ROOT_PASSWORD: rootpassword # MYSQL_DATABASE: ragflow # MYSQL_USER: ragflow # MYSQL_PASSWORD: ragflow # volumes: # - ./mysql_data:/var/lib/mysql # networks: # - ragflow-net networks: ragflow-net: driver: bridge

3.2 启动 RAGFlow 服务

在包含docker-compose.yml文件的目录下，执行命令启动服务：

# 后台启动服务 docker-compose up -d # 查看服务日志，确认启动是否正常 docker-compose logs -f ragflow

当在日志中看到类似Application startup complete或服务持续运行无报错时，表示 RAGFlow 启动成功。

验证：打开浏览器，访问http://你的服务器IP地址:9380。你应该能看到 RAGFlow 的登录界面。首次使用，默认账号密码是admin/admin。

4. 部署并配置 Qwen2 模型服务

RAGFlow 本身不包含大模型，需要通过 API 的形式接入。我们将使用Ollama这个强大的工具来在本地快速部署和管理 Qwen2 模型。

4.1 使用 Ollama 部署 Qwen2 模型

Ollama 极大地简化了本地大模型的部署过程。

1. 安装 Ollama

在 Linux 系统上，一行命令即可安装：

curl -fsSL https://ollama.ai/install.sh | sh

安装完成后，Ollama 服务会自动启动。

2. 拉取并运行 Qwen2 模型

Ollama 官方库提供了预置的 Qwen2 模型。根据你的硬件条件选择一个合适的版本（模型越大，能力越强，所需资源越多）。

# 拉取并运行 Qwen2:7b 模型（适合 8GB+ 显存或 16GB+ 内存） ollama run qwen2:7b # 或者，如果你资源有限，可以尝试更小的模型，如 0.5b 或 1.5b # ollama run qwen2:0.5b

首次运行会自动下载模型文件。下载完成后，你会进入一个交互式对话界面，可以输入问题测试模型是否正常工作。输入/bye退出交互界面。

3. 以 API 服务模式运行 Ollama

默认的run命令是交互式的。我们需要让 Ollama 在后台以 API 服务器模式运行。

# 首先停止之前可能运行的 Ollama 服务 sudo systemctl stop ollama # 设置环境变量，让 Ollama 服务监听所有网络接口（以便 RAGFlow 能访问到） export OLLAMA_HOST="0.0.0.0:11434" # 重新启动 Ollama 服务 sudo systemctl start ollama

为了让这个设置永久生效，可以编辑 Ollama 的环境配置文件：

sudo nano /etc/systemd/system/ollama.service.d/environment.conf

在文件中添加以下内容：

[Service] Environment="OLLAMA_HOST=0.0.0.0:11434"

保存后，重新加载配置并重启服务：

sudo systemctl daemon-reload sudo systemctl restart ollama

验证 Ollama API：你可以通过 curl 命令测试 API 是否可用。

curl http://localhost:11434/api/generate -d '{ "model": "qwen2:7b", "prompt": "你好，请介绍一下你自己。", "stream": false }'

如果返回一段包含模型自我介绍的回答，则说明 API 服务部署成功。

4.2 在 RAGFlow 中配置模型端点

现在，我们需要告诉 RAGFlow 去哪里找到我们刚刚部署的 Qwen2 模型。

1. 登录 RAGFlow 控制台 (http://IP:9380)。
2. 进入设置->模型设置。
3. 点击添加模型。
4. 按下图所示填写配置：
   • 模型名称：自定义一个名字，如My-Qwen2-7B。
   • 模型类型：选择Chat。
   • 模型提供商：选择Ollama。
   • Base URL：填写你的 Ollama 服务地址，例如http://你的服务器IP:11434。（注意：如果 RAGFlow 和 Ollama 在同一台机器，也可用http://host.docker.internal:11434或http://172.17.0.1:11434这类 Docker 内部网络地址）。
   • 模型名称：填写 Ollama 中的模型名，如qwen2:7b。
   • API Key：Ollama 默认不需要 API Key，留空即可。
5. 点击测试连接，如果显示连接成功，说明配置正确。
6. 保存配置。

5. 构建与测试你的第一个知识库

所有服务都已就绪，现在可以创建知识库并上传文档进行测试了。

5.1 创建知识库

1. 在 RAGFlow 控制台，点击知识库->新建知识库。
2. 填写知识库名称和描述，例如“公司内部制度库”。
3. 在语言模型处，选择我们刚才配置的My-Qwen2-7B。
4. 其他参数如“分块方法”、“索引类型”可以先保持默认。
5. 点击创建。

5.2 上传文档并解析

1. 进入你刚创建的知识库。
2. 点击上传文档，选择一个本地文档（建议先从简单的 TXT 或 PDF 文件开始，避免复杂的排版和表格）。
3. 上传后，RAGFlow 会自动开始解析文档。你可以在“文档”列表中看到解析状态，从“解析中”变为“解析成功”。
4. 解析成功后，点击构建索引。这个过程会将文档内容向量化并存入向量数据库。

5.3 进行问答测试

1. 点击知识库顶部的对话标签页。
2. 在输入框中提出一个基于你上传文档内容的问题。
3. 等待模型生成答案。

成功迹象：模型给出的答案应该能准确引用文档中的信息。你可以点击答案上方的“引用来源”，查看模型是依据哪些文本片段生成的答案。

6. 常见问题排查与优化建议

部署过程很少一帆风顺，以下是几个典型问题及其解决方案。

6.1 部署阶段常见问题

6.2 应用阶段优化建议

1. 文档预处理是关键：RAG 的效果严重依赖于检索质量。确保上传的文档是清晰、可读的。对于重要文档，手动进行整理，去除无关内容（如页眉页脚），往往能显著提升效果。
2. 调整文本分块（Chunking）策略：在创建知识库时，可以尝试不同的分块大小和重叠度。对于技术文档，较小的块（如 256 tokens）和一定的重叠（如 50 tokens）可能效果更好。
3. 优化 Prompt：RAGFlow 允许自定义发给大模型的 Prompt 模板。在“模型设置”中，可以编辑模板，加入更明确的指令，如“请严格根据提供的上下文信息回答问题，如果上下文没有提到，请回答‘我不知道’。”，这可以减少模型胡言乱语的情况。
4. 资源监控：长期运行需要监控系统资源。可以使用nvidia-smi（GPU）、htop（CPU/内存）等工具监控资源消耗，确保服务稳定。

完成以上所有步骤，你就成功在本地部署了一个功能完整的、基于 Qwen2 和 RAGFlow 的私人 AI 知识库。这个系统可以作为企业内部的智能客服、技术文档查询助手或个人学习工具的基础。接下来，你可以继续探索 RAGFlow 的高级功能，如多路召回、重排序等，以进一步提升问答的准确性和可靠性。