概念 ›锯齿状智能
锯齿状智能是 Andrej-Karpathy 在 Sequoia AI Ascent 2026 上提出的一个概念,用以描述当前大语言模型能力分布极不均匀的特征:模型可以一口气重构 10 万行代码库,却会在常识问题上翻车(如建议你走路去洗车店)。
经济学解释
Karpathy 认为锯齿状智能主要不是一个技术问题,而是一个经济学问题。模型能力的分布形状由两条线决定:
可验证性(Verifiability)
强化学习(RL)需要奖励信号,而奖励信号需要可验证。代码能不能跑、数学题答案对不对——这些领域的反馈信号清晰,因此可以构建 RL 环境,模型在这些领域飞速进化。
商业价值(Revenue / TAM)
仅有可验证性还不够,还需要有钱赚。市场大、付费意愿强、能形成商业闭环的领域,会被前沿实验室打包进 RL 训练数据分布;反之则无人投入。
在 RL 的轨道上,你在飞;离开数据分布,你拿着砍刀进丛林。 —— Karpathy
锯齿状的本质
所谓锯齿状,不是缺陷,而是结构。是"可验证 + 有钱赚"这两条线把模型能力雕成的形状。在 智能体工程 的实践中,工程师需要理解这种锯齿状分布,才能正确地分配任务和设定预期。
对工程实践的影响
理解锯齿状智能对于 AI 工程实践有重要意义:
- 任务分配:将模型擅长的可验证任务交给 AI,将需要常识判断和品味的任务留给人类
- 质量保障:在模型能力薄弱的领域建立额外的验证机制
- 预期管理:不因为模型在某些任务上的超人表现就对其全面信任
这与 Cursor 在 Agent Harness 中按模型定制策略的做法相呼应——承认模型的局限性,通过工程手段弥补。
外部链接
来源
暂无来源