企业官网建设流程全解析

1. 项目背景

某电商公司客服部门积累了 5000+ 条 FAQ，涵盖退货、退款、物流、保修、发票等高频业务场景。团队决定基于 LlamaIndex 构建智能客服知识库，但在技术选型的第一个岔路口就卡住了——Embedding 模型怎么选？

用 OpenAI 的text-embedding-3-small？一条 FAQ 向量化不到 1 厘钱，但 5000 条首次跑完要 2 美元，每日新增 50 条 FAQ 一个月下来 30 美元起步，再加上用户提问的实时向量化，月度账单轻松破 200。用本地的 BGE 模型？下载即用、零 API 成本，但团队既没 GPU，CPU 推理 5000 条 FAQ 耗时超过 10 分钟，每次索引更新都让人想起"编译代码等半天的年代"。

更致命的问题在于语义盲区。用户问"买的东西不满意怎么退"，系统匹配到"换货流程"而非"退款流程"——因为所选 Embedding 模型对中文"退货"“换货”"退款"这三个相近概念的区分度不足，把它们归到了同一个向量簇。另一个角度，如果用了英文原生训练、中文勉强支持的模型，"订舱"和"订餐"可能被当成一个意思，客服场景里这绝对是灾难。

问题：Embedding 选型不当 → 语义偏差 → 答非所问 → 用户投诉 成本层面：API 按量计费 → 日均 1000 次查询 → 月度账单超预算 性能层面：本地 CPU 推理 → 5000 文档 10min+ → 索引更新成为瓶颈

更麻烦的是，一旦选中一种模型并构建了索引，后续想切换模型的迁移成本极高——所有历史