AI 为什么同一个问题问三遍答案都不一样
上周有个朋友问我："为什么我问AI同一个问题，三次答案都不一样？是不是模型有问题？"
我笑了。不是嘲笑他，是因为这个问题我当初也纠结过好一阵子。后来搞懂了原理，觉得挺有意思的，今天就聊聊这个。
AI不是在"查答案"，是在"猜词"
很多人第一次用AI的时候，会把它想象成一个超级搜索引擎——你问问题，它去数据库里找正确答案，然后返回给你。
不是的。
AI做的事情本质上非常简单粗暴：逐词预测。它根据你给的问题，计算下一个词出现的概率，选一个词输出，然后根据这个词继续预测下一个词，如此循环，直到生成完整答案。
关键就在"选一个词"这一步。AI不是选"最正确的词"，而是从概率分布中采样一个词。比如"今天天气"后面，"很好"的概率是30%，"不错"是25%，"晴朗"是20%……AI会按这个概率随机抽一个。
这就是为什么每次生成的结果都不一样——因为每次"抽签"的结果不同。
我第一次理解这个的时候，有种"原来如此"的感觉。之前总觉得AI很神秘，其实底层逻辑就是这么朴素。说白了就是一个超级强大的"文字接龙"模型——它不是在"思考"，而是在预测"最可能的下一个词是什么"。
更精确地说，大语言模型（LLM）的本质是一个概率模型。它的训练目标是：给定前面的所有词，最大化下一个词的预测准确率。这个过程跟"理解"没有关系——它只是统计了大量文本之后，掌握了词与词之间的共现概率。
温度参数：控制AI的"随机性"
这个随机程度是可以调节的，有个叫**温度参数（Temperature）**的东西。
温度的工作原理很简单。AI计算出每个候选词的概率后，温度决定了这些概率分布的"尖锐程度"：
- 温度=0： 等价于 argmax，每次都选概率最高的词，输出完全确定，同一个问题永远得到同一个答案。相当于一个没有想象力的复读机，好处是稳定，坏处是可能陷入重复循环。
- 温度=0.5： 轻度随机，概率高的词更可能被选，但偶尔会选到概率稍低的词。
- 温度=0.7（默认）： 有一定随机性，但不会太离谱。大多数AI产品的默认值。
- 温度=1.0： 完全按概率分布采样，随机性较高。
- 温度=1.5： 非常随机，可能很有创意，也可能胡说八道。适合创意写作，不适合要求准确性的场景。
大多数AI产品默认使用0.5-0.8之间的温度，所以你每次问都会得到略有不同的答案。这不是缺陷，是设计如此——如果AI每次说话都一模一样，那跟复读机有什么区别？
我在实际使用中会这样：写代码、查数据的时候，把温度调低，要的就是稳定输出；头脑风暴、想创意的时候，温度调高点，让AI放飞一下。
不同工具怎么调温度：
- OpenAI API：直接传 temperature 参数
- Cursor：设置里有 temperature 调节
- Claude API：也是直接传 temperature 参数
- 网页版 ChatGPT：不能调，默认 0.7 左右
上下文窗口：AI的"短期记忆"在作怪
还有一个很多人不知道的因素：上下文窗口。
AI在生成答案时，不只是看你的问题，还会看之前的对话历史。如果你在一个长对话中反复问同一个问题，AI看到的前文不一样，生成的答案也会不一样。
更隐蔽的是，很多AI产品会在后台自动给问题加上"系统提示"（system prompt），这些提示可能包含时间、用户信息等变量。即使你问的是同一个问题，系统提示变了，答案也会变。
所以有时候你觉得"明明问的是同一个问题"，但对AI来说，上下文已经不同了。
举一个具体的例子：你在对话的第3轮问"给我写一个Python爬虫"，问完之后又聊了别的话题，到第10轮你又问"给我写一个Python爬虫"——虽然你的问题一模一样，但AI看到的是完全不同的上下文。第3轮时它知道你是刚开始做这个任务，第10轮时它认为你可能已经写了但后来没继续，所以它给的建议可能完全不同。
对话越长，上下文越复杂，答案的变化越大。 这就是为什么在一个长对话里，后续的问题即使跟前面的问题相同，答案也不一样。
一个真实的测试
我做过一个测试：让AI帮我写一段Python代码，实现定时抓取GitHub Trending并生成文章的功能。
- 第1次： 代码能跑，错误处理写得很好，有重试机制和超时控制
- 第2次： 代码结构完全不同，用了async/await，但漏掉了超时设置
- 第3次： 代码最简洁，但把所有逻辑堆在一个函数里，完全没法维护
三个答案，各有优劣。最好的做法不是选一个直接用，而是把三个答案的优点拼起来。
这个测试让我意识到：AI不是用来"用一次就信"的，而是用来"多问几次，取长补短"的。
再举一个更直观的问答型例子。我问"如何快速学习Python"，三次答案分别强调了：官方教程和项目实战、先学基础和刷题、从web开发入手然后逐步深入。每个答案都有道理，但没有一个是"最优"的——最优的答案其实是三者的结合。
采样式解码 vs 贪心解码
说到采样的底层原理，AI生成文本时还有一个参数叫 Top-P（核采样） 。
Top-P 是另一种控制随机性的方法：不看所有候选词，而是选一个最小的词集合，让这些词的累积概率达到 P。比如 Top-P=0.9，就只从概率最高的、累积达到 90% 的词群里采样。
- Top-P=1.0： 考虑所有词
- Top-P=0.9： 只考虑前90%概率的词（排除最不靠谱的10%）
- Top-P=0.5： 只考虑前50%概率的词（更保守）
温度 + Top-P 的关系： 这两个参数通常一起用。温度控制分布的形状，Top-P 控制截断的范围。建议新手只调温度，Top-P 用默认的 1.0，等熟悉了再两者配合调节。
怎么用好AI的不确定性
既然AI的输出天然不确定，那正确的用法就不是"问一次就信"，而是：
策略一：多问几次，选最好的
就像抽卡一样，单次结果看脸，多次结果看概率。问3次，选最靠谱的那个，比问1次就照单全收要明智得多。
我的具体做法是针对重要任务（比如写邮件、写方案），至少问3次然后横向对比。你会发现大概率的正确答案会重复出现，而那些只出现一次的回答通常是有问题的。
策略二：不满意就追问，别重新开始
如果你觉得答案方向不对，不要关掉对话重新问。而是在当前对话里说"不对，我要的是XXX"，让AI在已有基础上修正。这样AI能看到自己之前说了什么，更容易调到你要的方向。
如果你关掉重问，AI完全不知道之前聊过什么，相当于从零开始。而追问的话，AI有上下文可以参考，调整会更快更准。
策略三：关键问题用"低温"模式
如果你需要AI给出确定性的答案（比如代码、数据、步骤），把温度调低。很多AI工具的高级设置里都有这个选项。温度越低，输出越稳定。
具体来说：生成代码 → 温度 0.1-0.3；写文章 → 温度 0.5-0.7；头脑风暴 → 温度 0.7-1.0。
策略四：给AI足够的上下文
问题越模糊，AI的输出越随机。"帮我写篇文章"和"帮我写一篇800字的文章，主题是AI的不确定性，风格像人写的，不要有AI味"——后者得到的答案质量会高得多，因为约束条件把AI的"发挥空间"压缩了。
更多约束 = 更少随机性 = 更高一致性。这不是什么技巧，这是概率论的自然结果。
策略五：利用不确定性做头脑风暴
不确定性不一定都是坏事。如果你需要做创意工作——比如想产品名、想活动主题、想文案角度——反而是温度调高点更好。随机的组合偶尔会碰出让你眼前一亮的东西。
我的做法是：头脑风暴时温度设1.0，问5次，然后从5个结果里挑出最好的元素组合。
别把AI当"答案机"，把它当"参谋"
说到底，AI不是一个给你标准答案的工具，它是一个有丰富知识但判断力不稳定的参谋。
好的参谋说的话有参考价值，但你不能不加思考就全信。你需要多问几次，对比不同回答，结合自己的判断做决定。
下次遇到AI给你一个"看起来对但总觉得哪里不对"的答案时，别急着骂AI不行。先问自己：我是不是只问了一次？是不是问题说清楚了？是不是该换个角度再问一遍？
进阶策略：如何减少不需要的随机性
如果你在做一个需要高度一致性的任务（比如每次都生成相同格式的报告），可以试试以下方法：
- 使用示例（Few-shot） —— 在提问时带上1-2个你期望的输出示例，AI会更倾向于按你的格式输出
- 固定随机种子（Seed） —— 如果你用的是 API，可以传入 seed 参数，让同样的输入每次产生同样的输出
- 降低温度 —— 前面已经说过了，不再赘述
- 使用结构化输出 —— 要求 AI 用 JSON 输出，明确的 schema 会减少随机性
- 拆分任务 —— 一个复杂任务拆成多个小任务，分别提问，每个小任务的随机性更小
理解随机性的价值
最后我想说，AI的随机性不是"需要修复的bug"，而是"有价值的feature"。
正是因为有了随机性，AI才能在创意任务上表现出色——写诗、写故事、想创意，这些任务本来就需要发散思维。如果一个AI每次都给你"最正确"的答案，它大概率只会给你最平庸的答案。
真正需要避免的是你不想要它随机的时候它随机了——比如写代码、查数据、整理信息。这时候你需要的是降低温度、增加约束、使用种子。
另一个需要避免的是你以为它是确定的但它不是——很多人把AI的回答当成唯一的正确答案，没有意识到这可能只是多个可能答案中的一个。这种认知上的误区比技术问题更危险。
AI的不确定性不是bug，是feature。学会跟它相处，比抱怨它有用得多。