Context is All You Need:为什么你的 AI 时灵时不灵?
Description: AI 聊着聊着就犯傻、Skill 成功率忽高忽低、复制别人的配置却跑不出同样的效果——这些问题的根源往往是同一个。理解上下文窗口,是用好所有 AI 工具的第一课。 像对待你最宝贵的注意力一样,对待 AI 的上下文。 前言:这些问题,你可能都遇到过 和 AI 聊了二十几轮,它开始前后矛盾,甚至忘了你五分钟前说的话 让 Agent 跑同一个流程,有时候一次过,有时候莫名其妙失败 把一大段数据扔给 AI 做分析,结果答非所问,或者分析得驴唇不对马嘴 同一个 Skill,换个模型结果完全不同;同一个模型,这次成功下次又失败 原来运行正常的 Skill,安装了更多 Skill 之后反而开始出错 完整复制了别人的 Agent 配置和工程设定,实际效果却和演示差了十万八千里 Meta 安全总监的 AI 助手帮他删光了所有邮件——因为对话太长,上下文压缩时丢失了安全限制 如果你有过类似的经历(或者担心类似的事发生在自己身上),这篇文章可能会帮你找到根源。 这些问题看起来五花八门,但往往指向同一个原因——上下文窗口(Context Window)。简单说,它就是 AI 的"工作记忆",是它在回答你时能同时"看到"的所有信息的总量。这个空间是有限的,而且远比你想象的脆弱。 理解上下文窗口,是理解当下所有 AI 工具的钥匙。不论你是在用 ChatGPT、Claude,还是在搭建自己的 Agent 自动化流程,这个概念都是绕不过去的第一课。 Harness Engineering:为什么我没有追最新的潮流 业界当前最热门的方向叫 Harness Engineering——它的目标是让 AI 系统能自动纠偏、自动迭代,全程最小化人类干预。它包含上下文工程、架构约束、自动化反熵等多个支柱,确实是一个很有前景的方向。 但坦白说,目前即便是最顶尖的团队,也还处在探索阶段。OpenAI 声称部分内部系统中 90% 的代码由 Agent 编写无人类参与,但这离普通人在日常工作中可以直接复用,还有相当的距离。 而如果你去拆解 Harness Engineering 的底层,会发现它的第一根支柱就是上下文工程——把正确的信息以正确的方式喂给 AI。所以与其追一个还在演进中的顶层框架,不如先把最底层的东西理解透。地基打好了,将来理解上层建筑也更容易。 本文聚焦的,就是这个地基。 一个贯穿全文的比喻:你的工作台 为了让后面的内容更好理解,我们先建立一个比喻——把 AI 的上下文窗口想象成一张工作台。 工作台的面积是有限的(上下文窗口有上限) 桌上堆的东西越多,你越难找到关键资料(噪声导致输出质量下降) 桌子越大,租金越贵——而且不是线性增长(成本问题) 聪明的做法是把资料分类归档到抽屉里,需要时再拿出来(渐进式披露) 脏活累活可以让助手在另一张桌子上干,只把结果递过来(Sub-agent 隔离) 每天重复的手工活,应该想办法变成一台机器自动跑(流程工具化) 后面的每一个方法论,都可以回到这张工作台上来理解。 ...
