大语言模型

大多数大语言模型采用 2017 年提出的 Transformer 架构。在预训练阶段，模型阅读规模庞大的文本语料，不断调整参数，以更准确地预测下一个 Token。之后通常还会用指令数据和人类反馈进行调优，使它能够遵循请求、拒绝有害要求，并以有用的形式作答。你发送提示词后，模型会逐个 Token 地生成回复。

对采购者而言，产品内部所用的大语言模型在很大程度上决定了它的质量、速度和成本。基于同一模型的两款写作工具，表现可能相差不大；换用更便宜的模型可以降低成本，却可能丢失细节。许多产品页面会注明所用模型，结合上下文窗口和数据使用条款一起看，比营销文案更能说明问题。

举例：当你让助手把会议记录整理成摘要时，大语言模型会在上下文窗口内把记录作为 Token 读入，并按照你的指令预测出一份摘要。

局限：除非接入搜索或文档，大语言模型并不会查证事实，因此可能自信地给出错误信息（幻觉）。它的知识止于训练截止时间，而且每次输出都可能不同。