推理模型
推理模型是一类经过专门训练、会先分步骤思考问题再给出最终答案的语言模型,这一过程常被称为“思考”。在分步推理上投入更多计算,能提升数学、编程、规划和多步骤分析等任务的效果,但响应更慢、成本更高。
推理模型建立在思维链提示的基础上:研究表明,要求模型写出中间步骤,能提升复杂问题的答案质量。推理模型不再依赖提示词,而是通过训练(通常借助强化学习)生成较长的内部推理过程,并检查和修正自己的结果。许多产品允许你选择投入多少推理力度,有的会展示推理摘要,有的则将其隐藏。
为什么重要:在高难度的分析工作中,推理模型可能比普通模型更准确,但会消耗多得多的输出 Token,耗时也更长。对于改写邮件这类简单任务,普通模型通常更快、更便宜。比较套餐和 API 时,请确认推理 Token 是否计费,以及用量限制如何计算它们。
举例:让模型找出一长串表格公式中的错误时,推理模型可能先花几秒钟逐步推演再作答,而普通模型会立即回复。
局限:可见的推理过程并不保证结论正确,模型仍可能产生幻觉,或从错误前提出发进行推理。思考时间越长,成本和延迟也越高。
相关术语
循序渐进地学
来源
- Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Wei et al., arXiv, 2022年1月
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. DeepSeek-AI, arXiv, 2025年1月
主题: AI 基础
最后更新