别放手让AI自己跑——学会监控和及时纠正

前面的七篇文章，讲了很多AI"会出错"的原理。

但光知道它会出错没用，关键是你得能发现它出错了，并且在正确的时机纠正。

这就是人机协作的核心能力，也是最容易被忽视的一环。很多人以为"会和AI对话"就够了，但其实"会监控AI"才是拉开差距的关键。

AI不会自己发现跑偏

这是所有问题的起点。

人类在做一件事的时候，会有"元认知"——知道自己是否理解了、是否在正确的方向上、结果是否符合预期。你做一道数学题，算到一半觉得不对劲，会回头检查。你写一段话，读一遍觉得不通顺，会自己改。

AI没有这个能力。

它不知道自己不知道。它生成了错误的代码，但它不知道自己生成了错误的代码。它调用了错误的API，但它不知道自己调用了错误的API。它给出了一个常识性错误，但它不觉得有任何问题。

如果没有人去检查，它会一直沿着错误的方向跑下去，而且越跑越远。更糟糕的是，它会自信满满地告诉你"已经完成了"——因为它的输出没有附带任何自我怀疑的机制。

这不是AI的"缺陷"，这是它的工作方式。它就是一个需要人类监督的执行者，不是一个可以完全自主运行的智能体。理解这一点，是有效使用AI的基石。

跑偏的信号有哪些？

经验丰富的AI使用者，通常能识别以下几种跑偏信号。养成识别这些信号的习惯，比什么都重要。

重复做同样的事。 同一个操作执行了两次以上，说明AI没有正确识别之前的执行结果。这是自注意力分散的典型表现。比如你让它修改一个文件的格式，它改完之后又改回原来的样子，来回折腾。这时候你就该意识到：它已经失去了对当前状态的正确感知。

回答和问题不相关。 你问的是A，它回答的是B。说明自注意力已经不在你的问题上了。这种情况在长对话中特别常见——聊着聊着，AI的回答越来越"发散"，最后完全偏离了你最初的需求。

输出格式突然变化。 前面几轮输出格式很稳定，突然变了。说明上下文中某些关键约束被遗忘了，可能是上下文压缩导致的。比如你要求它用表格格式回答，前面三轮都很规范，第四轮突然变成了纯文本。这不是它"故意"的，而是上下文中的格式约束在压缩过程中被丢掉了。

过度解释简单问题。 你问了一个简单问题，它给了很长的回答。说明它没有抓住问题的核心，自注意力被分散了。比如你问"Python里怎么定义一个函数"，它给你写了五百字的"函数定义的前世今生"——你需要的是三行代码。

开始"绕圈子"。 同一个观点反复用不同的方式说，但没有给出实质性的新信息。这是逻辑死循环的前兆。比如"这是因为A，原因在于A，本质还是A"——换了三种说法，其实什么都没说。

突然引入不相关的信息。 比如在讨论数据库优化的时候，AI突然开始聊起前端框架的选择。这是上下文中的自注意力已经"迷路"的信号。

在哪些环节介入最有效？

不是所有环节都需要监控。在关键节点介入，效率最高：

任务开始前： 确认AI理解了你的需求。让它复述一遍你要它做的事，看看理解是否正确。这一步花30秒，能省30分钟。这是一个非常实用但很少人做的习惯。你可以直接说"先别动手，先告诉我你理解了这个任务吗？"——然后检查它的理解是否和你一致。

每个关键步骤完成后： 不要等全部完成再检查。每完成一个步骤，验证一下结果是否正确，再让它继续下一步。特别是代码生成任务，生成一个模块就测试一个模块，不要等所有代码写完才发现第一个模块就有问题。

出现异常时： 如果AI的输出和预期不符，立刻停下来检查，不要继续往下走。这个原则听起来简单，但很多人在实际使用中会有一种"也许后面会自己纠正"的侥幸心理——别信这个，它大概率不会自己纠正。

任务完成后： 最终结果要自己验证一遍。代码要跑一遍，数据要看一遍，文件要打开检查一遍。我见过太多人直接用AI生成的代码部署到结果上线的案例，结果出了bug都不知道去哪找。

定期"回头看"： 在长对话中，每隔一段时间（比如每10-15轮），花几秒钟看看AI的回答是否还和最初的目标相关。这能有效防止对话"跑偏"而不自知。

纠正的方式也很重要

当发现AI跑偏时，纠正的方式直接影响效果：

不要只说"错了"。 "错了"是一个模糊信号，AI不知道错在哪里。要说"第15行有个SyntaxError，缺了一个右括号"。越具体，越容易纠正。你给的信息越精确，AI纠正的效率越高。有时候你甚至可以直接给出正确答案，让它学习这个模式。

不要让它"再试试"。 "再试试"给了AI自由发挥的空间，大概率还是一样的结果。要给出具体的修改方向："把选择器从.class改成#id"。如果你不确定具体怎么改，至少给出约束条件："不要用for循环，改用数组的map方法"。

如果连续纠正两次还没解决，考虑开新会话。 继续纠正在旧上下文里打转，不如在新会话里重新开始，让自注意力重新聚焦。下篇文章我们会详细讨论新会话的力量。

纠正时保持一致性。 如果你前面说"代码要用TypeScript"，后面纠正的时候又说"JavaScript就行"，AI会困惑。在纠正时，重申关键的约束条件是个好习惯。

分步骤纠正。 如果错误比较多，不要一次性指出所有问题。先纠正最关键的错误，解决了之后再处理次重要的。一次塞太多纠正信息，AI可能一个都改不对。

人机协作的正确姿势

把AI当作一个能力很强但需要指导的助手。

它擅长：快速生成代码、处理大量文本、执行重复性任务、提供多种方案、模式匹配、格式转换、数据分析。

它不擅长：理解模糊需求、验证自己的输出、在长对话中保持一致性、发现自己的错误、理解业务上下文、做出价值判断。

你的角色是：定目标、给指令、验结果、纠方向。

就像放风筝。风筝能飞很高，但线在你手里。你不拉线，它就随风飘走了。

一个更精准的比喻：AI是一个知识面极广但缺乏判断力的实习生。它什么都知道一些，但不知道什么是对的、什么是重要的、什么是优先的。你要做的是告诉它"什么是对的"，然后让它去执行。

不同场景的监控策略

不同任务对监控的要求不同：

代码生成： 每个函数写完就测试，不要等全部写完。注意检查边界条件、错误处理、安全漏洞。AI生成的代码经常"能跑但有隐患"。

文档写作： 检查事实准确性、逻辑连贯性、是否有重复或矛盾。AI特别喜欢在长文档里"绕圈子"。

数据分析： 检查结果是否合理、逻辑是否自洽、数据源是否可靠。AI可能会得出"看似合理但实际错误"的结论。

创意设计： 确认方向符合预期后再深入细化。AI在创意任务中容易"过度发散"，给了太多选项反而让你无从选择。

回到最初的那个问题

现在你知道了：为什么AI越聊越跑偏（自注意力分散）、为什么它看起来很聪明但实际很笨（生成不等于执行）、为什么它输出是概率性的（不是真正理解）、为什么上下文压缩会丢失信息（细节最先被遗忘）、为什么它会自信幻觉（不知道自己错了）、为什么要直接说需求（减少决策点）、为什么要开新会话（重置自注意力）。

但知道这些只是第一步。真正重要的是：在每次使用AI时，把这些认知转化为实际的监控和纠正动作。

AI是一个强大的工具，但工具需要人来驾驭。理解了它的底层原理，你就能用最正确的姿势和它协作，让它真正成为你的效率倍增器，而不是一个让你抓狂的麻烦制造者。

记住：最好的AI使用者，不是最会和AI聊天的人，而是最会监控AI的人。