☰
VibeCoding实战:文档知识库智能问答
2026/10/9 5:26:09 网站建设 项目流程
AI是博学家,但是每个公司的具体业务可能存在差异,但是我们没有对大模型进行训练的权力,就可以曲线救国,通过引入文档知识库,把文档相关片段和用户提示词一起给到大模型,以增强它的检索能力,减少胡编乱造的情况
功能结构图

效果展示

这里是直接展示了三个步骤,在实际业务中,比如说要在餐饮系统里面增加智能问答功能,可以把上传文档和分片策略的选择放到后台管理系统里面,小程序端就只显示只智能问答这块儿就行了。

让AI生成这个的时候需要注意几个点:
1.上传文档的时候要用分片上传,如果文件大的话直接传可能会超时,分片的话如果网络中断还能断点续传,已经上传的部分就不需要重新再传了

2.分片策略根据文档类型后台可以直接写死就不需要用户去选择了,如果是采访、对话、诗歌、代码这类结构性比较强的可以根据文档结构,如果是法律条文、论文、合同这类句子不太能断开的可以根据句子分割,一般使用递归字符分割普遍一些,他会先按照结构分,块儿大了再按照句子,还大了就按照字数。

3.分片策略里面还需要设置每块儿的大小和重叠字数,这能让相邻两个片段之间有一部分内容重复,避免因为硬切导致上下文丢失

具体的分片策略、分片大小、重叠字数,可以直接问大模型,最终分片效果好不好也可以导出让大模型看看,不好再看看怎么优化

4.智能问答部分要用流式输出,就是前端把提示词给到后端之后,后端要建立单向连接,大模型回答多少就给前端多少,前端接收之后做拼接,以实现打字机效果,可以减少用户等待时间,避免长时间没反应;如果网络中断后端要给错误提示,前端可以展示出来让用户重新提问

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询