温度参数(Temperature)是大模型的一个生成设置,控制输出的随机程度。它直接影响「同样的问题,AI 会不会给出不一样的回答」。
用一个类比理解:模型在生成每个词时,是在「候选词的概率分布」上做选择。温度决定了这个选择的「激进程度」:
- 低温度(如 0~0.3):几乎总是选概率最高的词,输出稳定、一致、保守。
- 中温度(如 0.7~1.0):偶尔选概率稍低的词,输出自然、有变化。
- 高温度(如 1.2+):经常选低概率词,输出更随机、更发散,但也更容易出错或胡言乱语。
不同任务对「创造性 vs 准确性」的需求不同:
- 事实与逻辑任务(总结、翻译、代码、数据提取):要准确稳定 → 低温度(0~0.3)。
- 日常写作与对话(文案、邮件、闲聊):要自然流畅 → 中温度(0.7~1.0)。
- 创意任务(头脑风暴、写故事、起名字):要多样与灵感 → 高温度(1.0+,视模型而定)。
调温度的本质是管理「稳定与创新」的平衡:同一模型,温度不同,输出的性格完全不同。
注意事项:
- 温度不是越高越好:过高会让回答变得混乱、跑题甚至不可读。
- 温度与重复相关:低温度可能让长文显得机械重复,高温度可能让内容前后不一致。
- 不同模型对温度的「手感」不同:同样的数值在不同模型上的效果差异明显,需要实测。
常见误区:
- 「调温度 = 改变模型能力」——不,它只改采样随机性,模型的知识与能力不变。
- 「温度=0 就一定正确」——不,只是更稳定;模型本身的错误与幻觉依然存在。
- 「所有生成都要调温度」——很多产品已经内置了合适的默认值,只有 API 或专业工具需要主动控制。
- Top-p(核采样):另一种控制随机性的参数,限制候选词范围。两者常一起使用:温度管「选择激进度」,Top-p 管「候选范围」。
- 思维链/推理:推理类任务通常建议低温度 + 分步推理,保证逻辑稳定。
温度参数是控制 AI 输出随机性的旋钮:低温度求稳定,高温度求创意。按任务性质调(事实任务低、创意任务高),并注意不同模型的手感差异。它是理解「为什么 AI 有时换着花样回答、有时照本宣科」的关键概念。