Q:temperature 到底是个啥? A:一句话:它控制模型输出的"随机性"。值越低,模型越保守,每次都选概率最高的词,输出稳定但可能死板;值越高,模型越"放飞",会尝试小概率的词,输出有创意但可能胡说八道。它不改变模型的知识,只改变"说话风格"。
Q:0 和 1 和 2 分别是什么效果? A:打个比方:temperature=0 的模型像严谨的会计,问它三遍"1+1=?",三遍都答"2",一字不差;temperature=1 像正常人聊天,有变化但不离谱;temperature=2 像喝了三杯的诗人,妙语连珠和胡言乱语随机掉落。一般应用里,0~1 是常用区间,超过 1.5 就要小心了。
Q:不同场景该设多少? A:记住这张速查表:
- 写代码、做数学、抽取信息:0~0.3。正确性优先,不需要创意,越稳越好。
- 写公文、商务邮件、翻译:0.3~0.7。准确打底,允许一点语言上的灵活性。
- 头脑风暴、写故事、起名字:0.7~1.2。创意场景,多样性就是价值。
- 严肃问答、医疗法律咨询:尽量低。温度高了容易一本正经地编造,风险你担不起。
Q:温度和"幻觉"有关系吗? A:有直接关系。温度越高,模型越敢用低概率的词"自由发挥",编造事实的概率也越高。如果你发现模型一本正经地胡说八道,第一件事就是把 temperature 调低,而不是先怪模型笨。
Q:调 temperature 时还有什么坑? A:三个常见坑:
- 只调温度不调提示词。温度是微调,提示词才是方向盘。方向错了,温度再合适也白搭。
- 混淆 temperature 和 top_p。两者都控制随机性,一般调一个就行,同时调容易互相打架。新手建议只动 temperature。
- API 和网页版默认值不同。很多 API 默认 temperature=1,网页版聊天可能做了单独优化。同样的提示词两边效果不一样,先检查参数再下结论。
Q:有没有"不用记"的傻瓜原则? A:有:要准就调低,要浪就调高。日常用默认就行;凡是输出要拿去用的(代码、数据、正式文档),往低了调;凡是图一乐、要灵感的,往高了调。记住这一句,80% 的场景够用了。
想深入玩 API 中转和参数,可以看看 API 中转的坑;语音场景看 ElevenLabs 语音指南;国产模型玩家参考 Kimi 使用指南。
Q:网页版聊天能调 temperature 吗? A:多数网页版不开放这个参数,用的是官方预设值。想调的话走两个途径:一是用 API(配合站内的 API 中转避坑指南食用更佳),二是用支持调参的第三方客户端,比如 Cherry Studio、ChatBox 这类,界面里直接有滑杆。
Q:调了 temperature 没效果,是为什么? A:三个可能:一是你用的场景对随机性不敏感(比如问事实性问题,温度高低答案都一样);二是平台没真正应用你的参数(某些中转 API 会锁死参数);三是变化太小你没察觉——同样的提示词跑三遍对比,比凭感觉靠谱。
Q:temperature 和 top_p 到底什么关系? A:都是控制"候选词范围"的参数。temperature 是"缩放概率分布",top_p 是"只从累积概率前 p 的词里选"。效果有重叠,业界共识是:调一个就行。新手建议只动 temperature,把 top_p 留在默认值,两个一起动容易互相干扰,出了问题都不知道是谁的锅。
Q:有没有"调参翻车"的典型例子? A:有,我亲历的:用 temperature=1.5 让模型写产品说明书,结果它给产品编了三个不存在的功能,差点发给客户。从那以后,任何要对外的内容,我都把温度压到 0.3 以下。创意可以放飞,交付必须收敛。
Q:不同模型的 temperature 刻度一样吗? A:不完全一样。同样是 0.7,不同模型的"放飞程度"有差异,因为底层实现和训练方式不同。换模型后别直接沿用旧参数,花十分钟重新试几个值,找到新模型的甜点区。
Q:最后一句忠告? A:参数是为你服务的,别被参数绑架。90% 的日常使用,默认值 + 好提示词就够了。只有当你明确知道"我要更稳"或"我要更发散"时,才去动 temperature。调参是手段,不是目的。