什么是大语言模型（LLM）？

你发送消息后，文本会先被切分成 Token，也就是词或词的一部分这样的小片段。接着，模型会为词表中的每个 Token 计算它出现在下一个位置的可能性，选出一个接到文本后面，然后重复这个过程，直到回答结束。

这就像手机输入法的联想词，只不过规模大了无数倍：它用多得多的文本训练，能同时考虑成千上万字的上下文，并且对语言规律掌握得足够好，可以遵循指令、保持一致的文风，还能写出能运行的代码。

几乎所有大语言模型都基于 2017 年提出的 Transformer 架构，这种神经网络擅长把一段文字中的每个词与其他所有词关联起来。要把它变成能对话的助手，通常分几个阶段：

“大”既指训练数据多，也指参数多。例如，GPT-3 的论文（Brown 等人，2020 年）介绍了一个拥有 1750 亿参数的模型，并表明规模足够大时，模型只需提示词中的几个示例就能学会新任务。

模型越大，能力往往越强，但运行也更慢、更贵。较小的模型可以在笔记本电脑或手机上运行，处理摘要、文本分类这类目标明确的任务时，通常也够用。

大语言模型不是数据库，也不是搜索引擎。它并不像查表那样存储事实，而是生成符合所学规律的文本，所以可能信心十足地说出错误信息，这种现象叫作“幻觉”。除非产品把它接入搜索或文档，否则它的知识止于训练截止时间。

它也不会记住你。在不同对话之间，模型本身保持不变；所谓“记忆”是外层应用提供的功能，由应用保存笔记再把它们重新输入给模型。而且，尽管它语言流畅，却没有自己的信念或意图。

大语言模型驱动着 ChatGPT、Claude、DeepSeek 等聊天助手，也内置在许多并不自称聊天机器人的产品中：邮件和文档编辑器、客服工具、搜索引擎、编程助手和 AI 智能体。很多产品通过 API 调用其他公司的模型。API 是一种接口，让一个软件可以向模型发送提示词并取回回答。

挑选时，要看产品用的是哪个模型、上下文窗口多大、每个 Token 的价格以及数据使用条款。Mindber 的 Arena 模型排行榜和 LLM 成本计算器，可以帮你在能力和成本之间做权衡。