本文分析了金融业AI Agent的现状与挑战,包括开发难度大、场景复杂化和效果不确定性。文章提出了三种创新方法:并联替代串联、化零为整重新组合以及合理安排任务规范输出格式,并结合Agentic RAG技术支持上下文工程。未来,AI Agent将为金融业带来流程创新与结构性变革,为业务发展提供新思路。
当前,金融业嵌入AI Agent的流程数量呈上升趋势,这得益于AI Agent相较于传统解决方案的独特优势,比如减少或替换人工操作,尤其是在处理复杂流程或是重复性任务方面,可以在显著提高工作效率的同时节省人力,并较少地消耗软硬件资源。但另一方面,Agent开发又有一定门槛,不仅需要开发设计人员了解业务,还需要不断探索Agent效率和效果的优化路径。
金融业AI Agent
现状分析
现阶段金融AI Agent发展面临着诸多挑战。
一是开发难度大。目前金融业落地的Agent以静态编译工作流为主,其典型特征是可控性强但自主性差,更偏向于传统的Workflow概念,而不是由AI自主规划任务的“智能体”。大部分工作流的开发非常依赖工具组件的能力和质量。单个工具组件通常只能完成简单任务;而将多个工具组件按需组合在一起以解决复杂任务,则形成了工作流乃至Agent的雏形。另外,组件的不透明性会成为Agent开发的约束条件,开发者可能只知晓输入与输出,对内部可能存在的隐藏规则并不完全了解,如输入内容是否需要转义、组件内的分步运算如何运作等,影响开发质量与测试闭环。
二是场景复杂化。不少金融机构对AI Agent的落地是从场景出发,凸显出智能体体系的散乱性,并未发挥出Agent模式的优势。多元的场景使得Agent需要具备灵活切换的适应性与场景泛化的通用性。如果一个Agent不具备在多场景移植的特性,就会面临需要重复开发的风险。
三是效果不确定。实际工作中,智能体存在在测试运行中表现出色但在生产运作中未产生预期效益的情形,原因包括不能满足业务实际需求、无法持续更新等。就像AI大模型的缩放法则,对AI Agent的持续投入虽然能够解决许多层面的问题,但是金融机构寻找成本与收益的平衡点难度较大。例如,如何在保障Agent表现的同时缩短流程、减少延迟,或是如何在不增加额外成本投入的同时优化Agent表现,都是金融机构应用AI Agent需要直面的问题。
与传统金融科技系统相比,AI Agent具有更高的灵活度,可用最小化开发成本、简洁化智能体设计和优质化智能体业务效果,为推动业务的根本性流程革新提供技术支撑。这种灵活性主要表现在:一个Agent智能体既能作为“系统”来满足一个甚至更多的工作流程目标,又可以作为“零件”嵌入业务模块,实现智能化替换与升级。在规划设计阶段就需要明确关键问题:需要哪些智能体、选择什么业务流程与技术路线、如何编排智能体,以及如何应对后续潜在场景需求。前瞻性的布局规划能有效避免因直接开发导致的效率低下、流程设计不够简洁等潜在问题。
图 Agent开发与应用生态
AI Agent开发的一
些创新方法
针对以上挑战,结合我行智能体开发经验,可总结三条加强Agent成效的思路。
一是并联替代串联,同步转为异步。当前Agent工作流以链式占据主流,这类工作流步步为营、在传递前序步骤成果的同时实现逐步优化。从项目管理角度来说,在链式工作流中,各模块通常是作为FS依赖中的F出现,即需要等待该模块完成相关任务后再开展下一环节的任务。例如,对数据进行清洗分析的环节必须等待数据查询和获取的环节完成才能执行。但如果数据来源多样化,逐一等待将严重影响流程效率。事实上,这类任务完全可以同时执行。因此,优化工作流耗时的核心,首先是在设计流程时用并行模式替代链式模式。以我行Agentic RAG场景为例,对授信文档的预审核既需要符合制度要求,也要符合归纳的规则要求。如果以链式模式开发,在完成制度库检索后,还需等待规则库检索完成才能拼接成完整输入。但是以并行模式开发时,不仅可以同时对制度库和规则库进行检索,甚至可以拓展并行队列,分多次对不同范围的制度库进行检索,进而大幅缩短流程耗时。
二是化零为整,重新组合。通常认为,AGI即通用人工智能是AI的最终目标。然而,由于语言的信息熵、模型预训练方向等因素的存在,现阶段的AI往往展现出擅长不同领域能力的差异化和个性化倾向。在Agent开发过程中,场景的多变性使得单个智能体或工作流难以独自应对。因此,构建多个功能互补的智能体并通过意图识别路由到相应的执行路径,能够将复杂场景拆解为各种情景。这就好比在一个社区中,风格迥异、有不同专长的“人”适合承担不同的工作。
另外,群组中可以设置一名特殊角色,即“记录员”。Agent智能体开发的一大困境是无法在单一链路中实现“中断再继续”,智能体某个环节出现问题可能会传递到后续环节,需要及时中断并纠正。但无论是链式智能体还是并行智能体,单一智能体一旦中断后通常只能重新开始。如果智能体群组中有一位“记录员”,可以查阅每一步骤的相关记录,继而在完成修改后从原流程中断位置,甚至回退至更之前的步骤继续执行,则可以应对这个难题。
我行最初引入群组化、社区化的智能体开发思路,是为了解决单一工作流环节众多、过程烦琐、难以定位原始问题的痛点。在实际开发过程中,我们发现AI Agent可以采用“分布式”开发:将智能体分模块、分流程多线程开发,最后集成。这样做的好处是可以保持单一开发界面的整洁,减少开发资源的消耗,同时保障开发测试的过程可观测性和后续嵌入其他业务场景的灵活性与可复用性。
三是合理安排任务,规范输出格式。现有大模型通常是自回归模型,呈现按语序逐字输出的特性,如果涉及大模型的模块输出时间冗长,后续环节就会受到延迟影响,进而增加整体流程耗时,所以减少大模型在Agent中的参与度,可以提高时间效率。但由于大模型通常在Agent中承担的是非标文本处理等代码或一般工具组件难以替代的任务,因此需要转变思路,将大模型转化为一个更灵活的标准工具组件,充分利用其Transformer架构的Encoder与Decoder特点,将大篇幅、非标准化的输入内容转化为标准化的输出格式。具体来说,我们可以通过在提示词中限定大模型的输出范围、给予大模型输出选项的序列来实现。设定路由条件、打标签,或为工作流提供判断与选择决策等,都是潜在的应用场景。
合理运用prompt提示词的一大优势是可以让大模型代替执行一部分流程任务,可以参考部分传统算法模型绕过蒙特卡洛算法和决策树算法的做法:当我们为模型提供准确的方法论时,模型趋向于不采用随机采样或遍历决策分支,输出速率也能够相应地加快。纯粹通过大模型的复杂输出存在一定随机性,尤其是未作详细规则限定的选择与判断。在提示词中给予大模型一定的选择,并限定大模型输出简单内容,将大模型的输出方向从不可控的、随机的转变为可控的、不会超出既定范围的,可以一定程度上降低大模型输出难度、提高输出精度和速度。
需要注意的是,上下文提供的事实内容无法被提示词替代。也因此,如今业界逐渐有了从Prompt Engineering(提示词工程)到Context Engineering(上下文工程)转变的趋势。在Agent中使用提示词加强上下文的忠实度和召回精准度是对现有提示词工程的潜在衍生应用方向。
使用Agentic RAG
支援上下文工程
在我行实践中,为提升上下文的忠实度和召回精准度,我们引入了Agentic RAG技术。该技术通过开发Agent任务链流程实现对RAG技术的增强。RAG技术旨在对用户问题进行信息检索与扩展,为大模型提供额外参考信息。现在金融业应用的大部分知识库都是基于RAG技术。基础RAG存在许多痛点,其问答准确性不仅依赖知识的整理和存储,也依赖检索召回与重排序等算法能力,还依赖提示词等最终输入模型的内容。此外,大模型自身的上下文窗口限制也使得基础RAG需要对检索到的知识进行策略性的取舍。Agentic RAG则能够将一部分知识库操作定制化,即通过自定义知识范围、检索策略或提示词内容等RAG流程细节,实现对基础RAG的补充与修正。
Agentic RAG的主要流程节点包括:知识拆解入库、查询上下文、改写问题关键信息(或对问题打标识)、指定上下文检索范围、检索返回内容检查修改、提供压缩组装后的上下文给大模型等。其中知识拆解入库与指定上下文检索范围可以异步、跨库,甚至多工具实现,最后经过组装与总结提交大模型。但是,不同的需求场景对上下文有着极强的资料来源针对性和截然不同的细粒度要求,相应也就需要根据场景调整上下文的拆解、筛选策略与组装方式,目前该环节仍然需要人工判定、设计,后续可通过利用大模型实现需求理解、方案生成与评估优化。
为提高知识库问答准确率,部分金融机构引进了GraphRAG技术。该技术利用精心设计的智能体提取知识间的元素、关系与类型等,形成“知识原子”,并在使用时组合成为“上下文化合物”,最终提升上下文相关性。区别于GraphRAG及其构建的知识图谱,Agentic RAG的场景泛化能力或许稍弱,但所消耗的成本更少:同场景下大部分Agentic RAG流程分支共性多,结合Agent的模块化开发可以实现仅对参数配置进行修改以完成分支创建的过程。不过,Agentic RAG和GraphRAG是可以共存的。未来或可将Agentic RAG应用到GraphRAG的召回加工环节,进一步提炼有价值的信息,从而提升上下文相关性与忠实度。
最后
如果说程序员已经是高薪职业,那么干AI的程序员,就是高薪中的高薪。
现在的市场,已经用数据给程序员指明了方向:学AI大模型,就是冲刺高薪的最优解!
看着身边越来越多的同行转型大模型、拿到高薪offer,很多人心里都动了心,但真正的难题来了:零基础小白不知道从哪入门?有基础的程序员找不到系统学习路径?实战项目练手无门?面试不知道考什么?
别慌!今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包,覆盖从入门到实战、从理论到面试、从基础到进阶的全流程,所有资料均已整理归档,无冗余、无套路,免费分享给每一位想抓住AI风口的程序员和小白!
👇👇扫码免费领取全部内容👇👇
1、大模型系统化学习路线
2、大模型学习书籍&文档
3、AI大模型最新行业报告
4、大模型项目实战&配套源码
5、大模型大厂面试真题
四阶段精细化学习规划(附时间节点,可直接照做)
结合上述资源,给大家整理了一份可直接落地的四阶段学习规划,总时长约2个月,小白可循序渐进,程序员可根据自身基础调整节奏,高效掌握大模型核心能力,快速实现从“入门”到“能落地、能面试”的跨越。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
👇👇扫码免费领取全部内容👇👇
6、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】