LangServe 部署上线:10 行代码把 Chain 变成 API
📚专栏导航:这是《LangChain 30篇精讲》的第 24 篇,模块六「生产部署」的第 1 篇。前面我们学会了构建复杂的 Agent 系统、给它装上监控,现在到了最后一步——把它变成别人能调用的服务。
写在前面:从"本地能跑"到"别人能用"的鸿沟
你有没有这样的经历:
花了三天写了个很棒的 RAG Chain,本地跑通了,效果也不错。然后前端同学问你:“接口在哪?我怎么调?”
这时候你才意识到:本地跑通 ≠ 能提供服务。
你需要:
- 写一个 Web 服务(FastAPI / Flask)
- 定义路由、处理请求、封装响应
- 实现流式输出(SSE,自己手写很麻烦)
- 写接口文档(还得保证不过时)
- 给前端同学一个能测试的界面
这些活儿跟你的业务逻辑一点关系都没有,但一件都不能少。
我第一次做这件事的时候,光是让流式输出正常工作就折腾了一整天——SSE 的格式、连接保持、异常处理,全是坑。
后来发现LangServe这个官方工具,直接把上面这些活儿全包了。10 行代码,Ch