概念 ›目标导向智能体协作
目标导向智能体协作是一种 AI Agent 的工作范式,核心理念是:人类只需定义终点(目标),路径由 Agent 自己探索和执行。这代表了人机协作从"对话"到"委托"的范式转变。
三代软件范式
Andrej-Karpathy 在 Sequoia AI Ascent 2026 中总结了三代软件范式的演进:
| 范式 | 人类参与方式 | 本质 |
|---|---|---|
| Software 1.0 | How:告诉机器怎么做 | 过程导向 |
| Software 2.0 | Show:给机器看该怎么做 | 数据导向 |
| Software 3.0 | What:告诉机器你要什么 | 目标导向 |
传统软件自动化的是你能规格化的东西,而 AI 自动化的是你能验证的东西。 —— Karpathy
/goal:目标导向的实践
Codex-CLI 的 /goal 功能是目标导向智能体协作的典型实现。其核心设计包括:
- 目标持久化:目标在进程内跨轮次保持活跃,不丢失上下文
- 自主迭代:Agent 自动循环——写代码、跑测试、检查结果,未达标则继续下一轮
- 完成审计:防止"代理证据接受",要求 Agent 提供真实证据证明目标完成
- 预算控制:设置 token 和时间上限,防止无限循环
与传统工作方式的区别
| 维度 | 过程导向(传统) | 目标导向(AI Agent) |
|---|---|---|
| 人类角色 | 执行者 | 定义者/验证者 |
| 交互方式 | 逐步指令 | 一次性委托 |
| 路径规划 | 人类负责 | Agent 负责 |
| 错误处理 | 人类介入 | Agent 自主修正 |
| 类比 | 手绘地图 | 导航 App |
关键挑战
- 目标定义的质量:人类唯一需要做好的事情是想清楚自己到底要什么
- 验证机制:需要确保 Agent 的"完成"是真实的完成,而非表面的完成
- 上下文腐烂:长时间运行的 Agent 会话中,错误累积会影响后续表现
- 锯齿状智能:Agent 在可验证领域表现好,但在需要常识判断的领域可能翻车
在智能体工程中的位置
目标导向协作是 智能体工程 的核心实践模式。在 Karpathy 的框架中,人类作为"工程导演",通过定义目标和验证结果来掌控全局,而将执行过程委托给智能体。
外部链接
来源
暂无来源