NeuralOS
AI Research

给你的 AI 塞更多上下文,反而让它更蠢(这话是 Anthropic 自己说的)

"把所有东西都丢给它,它才能更懂"——这种本能恰恰是把它搞坏的元凶。Anthropic 把这叫做 context rot:上下文是一种有限资源,且边际收益递减。真正的艺术不是给它更多,而是给它恰到好处的高信号内容。

EN
Equipo NeuralOS
Investigación de producto
Jun 24, 20266 min read
In short

给 AI 更多上下文并不会让它更聪明;过了某个临界点,反而会拉低它的精度和专注力。Anthropic 把这叫做 "context rot":上下文是一种有限资源。关键技能(context engineering)是给它最小的一组高信号信息,而不是最大的一组。

我们都干过这种事:AI 没听懂某件事,我们的反应就是丢给它更多。更多文档、更多历史记录、更多指令,"以防万一"。这就像对一个听不懂你说话的人喊得更大声——感觉很有产出,但几乎没什么用。而事实证明,按照 Anthropic 自己的说法,这通常只会把事情弄得更糟。

问题的名字:"context rot"

Anthropic 在一篇价值连城的工程文章里给它起了名字,叫做 context rot,大致可以理解为"上下文的腐烂"。这个想法反直觉但很扎心:AI 的上下文是一种有限资源,且边际收益递减。你塞进去的每一个 token 都在消耗一份有限的注意力预算。过了某个临界点,模型不但不会理解得更好,反而开始丢失精度、忘掉中间的内容、把重要的东西和噪音混为一谈。更多不等于更好。更多等于一团迷雾。

行李箱的比喻

把它想象成一次旅行打包行李。新手会把所有东西都塞进去"以防万一",结果搞出一个自己都提不动的箱子,还什么都找不到。而经验丰富的旅行者只带恰到好处的、真正必需的、高信号的东西——所以他行动轻盈又迅速。跟 AI 打交道也一样:真正的艺术不是把你的整个人生都塞给它,而是挑出它为了这项任务真正需要的那寥寥几样东西。

这改变了这门手艺:从"prompt engineering"到"context engineering"

有一阵子,流行的是写出那个完美、神奇的 prompt。那个时代过去了。如今真正重要的技能叫做 context engineering:重点不再只是你向它要什么,而是你在它周围放了哪些信息——尤其是,你从中拿掉了什么。Anthropic 用一句你应该刺在身上的话总结了它:目标是找到能让结果最大化的、最小的一组高信号 token。是精选,不是堆积。

你今天就能做什么(不用当工程师)

下次你的 AI 犯迷糊时,别再往里加柴火:给它做减法。开一个干净的对话,而不是拖着一千条陈年旧消息。只给它相关的那份文档,而不是整个文件夹。对当下这项任务说得具体些,而不是把你的完整来龙去脉都倒出来。你会发现,东西给得越少,它答得越好。这是最容易上手一试、回报又最高的做法之一。

为什么这对我们很重要

在 NeuralOS,我们认为一个好的 AI 工具不该用一堆选项把你淹没,也不该逼你把所有东西都喂给它。它应该帮你在恰当的时刻,给出恰到好处的内容。这套理念——更少噪音,更多信号——正是我们设计整个体验的指导原则。因为归根结底,一个专注得当的 AI 并不是知道最多的那个:而是最懂得此刻该看什么的那个。

Share
Ready to build?

Start building in
under 3 minutes

Join 4,200+ builders. No credit card. Build your first app with AI in minutes.