文章目录
- 1. 提示词工程 Prompt Engineering:输入处理与生成控制
- 主流程
- 关键节点
- 生成控制手段
- 对应工程化能力:Prompt Engineering
- 2. 上下文工程 Context Engineering:补充事实、管理记忆、降低幻觉
- 上下文增强链路(幻觉治理方向)
- 关键节点
- 幻觉治理方式
- 对应工程化能力:Context Engineering
- 3. 智能体编排工程 Agent / Orchestration Engineering(社区亦称 Harness Engineering):从“能跑”到“可信”
- 命名说明:Agent / Orchestration Engineering 与 Harness Engineering
- Harness Engineering 的核心价值:从“能跑”到“可信”
- 核心公式:Agent = Model + Harness
- Harness 架构:三大分层 + 六大支柱
- 主流程
- 关键节点
- 支撑能力
- 对应工程化能力:Agent / Orchestration Engineering
- 底部主线总结
从 Token 处理到 Agent / Skill 复用,实现可控、可扩展、可复用的 AI 应用能力
1. 提示词工程 Prompt Engineering:输入处理与生成控制
明确输入如何被模型理解,并通过 Prompt、结构化约束与生成参数控制输出风格和稳定性。
主流程
多模态输入 → Tokenizer → Token → 上下文窗口 → LLM关键节点
| 节点 | 说明 |
|---|---|
| 多模态输入 | 文本 / 图片 / 音频 |
| Tokenizer | 切分为 Token |
| Token | 模型计量单位 |
| 上下文窗口 | 承载输入与历史 |
| LLM | 生成回答 |
生成控制手段
| 控制手段 | 作用 |
|---|---|
| System Prompt | 定义角色、边界、任务目标 |
| Temperature | 控制随机性,影响稳定性 |
| Structured Output | 约束格式,便于程序化处理 |
对应工程化能力:Prompt Engineering
- 角色边界
- 格式约束
- 生成参数
2. 上下文工程 Context Engineering:补充事实、管理记忆、降低幻觉
核心目标:先提供事实依据,再约束生成与校验输出,降低“高置信度但不正确”的结果。
上下文增强链路(幻觉治理方向)
先把问题向量化并检索事实证据,再增强上下文、约束生成、校验输出。
Query / 任务 → Embedding → RAG 召回 → 上下文增强 → LLM 生成关键节点
| 节点 | 说明 |
|---|---|
| Query / 任务 | 用户问题 / 当前目标,先明确检索意图 |
| Embedding | 问题向量化,用于相似度召回 |
| RAG 召回 | 向量库 / 知识库,检索事实证据 |
| 上下文增强 | 证据 + 记忆 + 约束,再交给 LLM 生成 |
幻觉治理方式
| 治理位置 | 治理手段 |
|---|---|
| 输入侧治理 | Embedding / RAG / 召回 |
| 生成侧治理 | Prompt / 参数 / 推理约束 |
| 输出侧治理 | 结构化输出 / 校验器 / 审核 |
对应工程化能力:Context Engineering
- RAG 检索增强
- Memory 记忆
- 上下文管理
- 幻觉治理
3. 智能体编排工程 Agent / Orchestration Engineering(社区亦称 Harness Engineering):从“能跑”到“可信”
核心目标:不只让 Agent 能跑通 Demo,而是让它在真实业务中能用、可控、可预测、可信任。
命名说明:Agent / Orchestration Engineering 与 Harness Engineering
本层在业界有两种常见叫法,指向的是同一阶段的两个侧面,并非对立关系:
| 对比维度 | Agent / Orchestration Engineering | Harness Engineering |
|---|---|---|
| 中文 | 智能体编排工程 | 外壳 / 脚手架工程 |
| 侧重视角 | 能力与行为:规划、调度、多步编排、能力复用 | 工程基建:把模型包裹成可在真实系统运行的运行时 |
| 抽象层级 | 更高层,含跨 Agent 协作、Workflow 编排、Skill 沉淀复用 | 更偏单个 Agent 的运行时外壳:loop + 工具调度 + 记忆 + 护栏 |
| 典型出处 | Agent Engineering、Orchestration 等通用表述 | Anthropic、OpenAI、Hugging Face 等厂商 / 社区博客 |
| 术语性质 | 较通用、稳妥 | 2026 年热词,属社区 / 研究语言,非厂商正式术语 |
| 经典比喻 | —— | 模型是「马」,harness 是挽具缰绳;“The model is commodity, the harness is moat” |
本文档为何采用 Agent / Orchestration Engineering:一是与前两层「Prompt Engineering → Context Engineering」保持「XX Engineering」的命名递进;二是 Orchestration 能完整覆盖本层主线中的Agent → Skill(跨 Agent、跨任务的编排与复用),而 Harness 更偏单个 Agent 的运行外壳。二者可互为补充,读者遇到 Harness Engineering 时可理解为本阶段的工程实现视角。
Harness Engineering 的核心价值:从“能跑”到“可信”
在真实业务系统里,Agent 的问题不是“能不能跑通 Demo”,而是能否在复杂输入、长链路任务、异常场景下稳定交付。可以用三个层级理解:
| 层级 | 含义 | 典型表现 |
|---|---|---|
| 能跑 | 理想路径下输入 A → 输出 B | Demo 阶段通常可以做到 |
| 能用 | 面对真实输入不跑偏、不偷懒 | 能处理分支、约束、上下文变化 |
| 可信 | 出问题不崩、可查、可改、可避免再犯 | 有门禁、有状态、有恢复、有经验沉淀 |
因此,第三阶段的重点不只是“让模型会调用工具”,而是通过确定性的工程框架托住 LLM:LLM 负责理解与生成,Harness 负责约束、验证、恢复和进化。
核心公式:Agent = Model + Harness
| 组成 | 作用 |
|---|---|
| Model | 能力来源,决定上限 |
| Harness | 能力释放方式,决定下限 |
模型越强,越需要 Harness 来承接它的能力。没有 Harness,Agent 可能能完成演示,但很难放心放进生产系统;有了 Harness,Agent 才能从“偶尔做对”走向“稳定交付”。
Harness 架构:三大分层 + 六大支柱
Harness 可以理解为包裹在模型外面的工程运行时,它让 Agent 具备身份边界、执行路径、上下文管理、质量门禁、故障恢复和经验进化能力。
身份层 → 执行层 → 进化层 → 身份层(螺旋上升)| 分层 | 作用 | 对应支柱 |
|---|---|---|
| 身份层 | 定义 Agent 是谁、能做什么、不能做什么 | Identity |
| 执行层 | 定义任务如何执行、如何加载上下文、如何检查质量、如何恢复异常 | Orchestration / Context / Gate / Recovery |
| 进化层 | 定义错误如何沉淀、经验如何复用、规则如何升级 | Evolution |
| 支柱 | 解决的问题 | 核心定义 |
|---|---|---|
| Identity | Agent 越界发挥 | 定义“谁有什么能力、什么绝对不能做” |
| Orchestration | 流程不可控或过慢 | 定义“按什么顺序执行,何时串行、何时并行” |
| Context | 上下文污染、信息过载 | 定义“每一步应该看到什么信息” |
| Gate | 产出不可信 | 定义“产出是否达标,是否允许进入下一阶段” |
| Recovery | 出错后无法恢复 | 定义“失败后从哪里恢复,是否重试、回退或中止” |
| Evolution | 错误重复发生 | 定义“如何把错误沉淀为规则、红线或 Skill” |
这六个支柱补齐了 Agent 从 Demo 到生产系统之间缺失的工程能力:Identity 保边界,Orchestration 保流程,Context 保信息,Gate 保质量,Recovery 保韧性,Evolution 保持续进化。
主流程
Tool Calling(含 Function Calling) → MCP / Tools → Agent → Skill关键节点
| 节点 | 说明 |
|---|---|
| Tool Calling(含 Function Calling) | 把意图转成工具参数并获取返回结果;Function Calling 是工具调用的形态之一 |
| MCP / Tools | 统一工具协议,接入搜索 / 系统 / 数据工具 |
| Agent | 规划 / 执行 / 重试 / 反思 |
| Skill | 经验沉淀,流程与能力复用 |
支撑能力
| 支撑能力 | 说明 |
|---|---|
| MCP / 统一工具协议 | 统一工具接入与调用方式,让 Agent 能连接外部系统 |
| Workflow / Orchestration | 支撑多步骤任务编排、分支判断、串并行调度 |
| Context 管理 | 控制每一步加载什么信息,避免上下文污染和长程约束丢失 |
| Gate / 质量门禁 | 在关键节点做强制检查,避免 Agent 自行跳过验证 |
| Recovery / 状态恢复 | 记录任务状态、检查点和产出文件,支持失败后重试或回退 |
| Evolution / 经验进化 | 把错误、规则和最佳实践沉淀为红线、规范或 Skill |
对应工程化能力:Agent / Orchestration Engineering
- 工具调用
- Agent 编排
- Skill 复用
- 评测与监控
底部主线总结
输入 → Token 化 → 上下文增强 → 生成控制 → 工具调用 → Agent 编排 → Skill 复用其中:输入 / Token 化 / 生成控制对应Prompt Engineering(蓝);上下文增强对应Context Engineering(紫);工具调用 / Agent 编排 / Skill 复用对应Agent / Orchestration Engineering(绿)。
这条主线表达的是:AI 应用工程化不是只写 Prompt,也不是只接入 RAG 或工具,而是从输入处理、上下文增强、生成控制,到工具调用、Agent 编排,最终通过 Harness 机制实现可控、可恢复、可评测、可进化,并沉淀为可复用 Skill 的完整链路。