AI 基础知识:生成式 AI、大语言模型与 RAG 详解
AI 基础知识是理解当今 AI 软件的核心概念。生成式 AI 根据训练数据中学到的规律生成新的文本、图像、音频或代码;大语言模型(LLM)是处理文本的生成式模型;检索增强生成(RAG)则让模型能够引用你自己的文档。本指南用通俗语言逐一讲解,帮助你更有把握地评估 AI 工具。
市面上大多数 AI 产品都由少数几种通用构件组成。聊天机器人、写作助手、编程工具和客服智能体看起来各不相同,但底层通常都是一个基础模型、一段提示词、某种提供上下文的方式,再加上成本与准确性方面的限制。理解了这些构件,产品介绍页和价格表就会好懂得多。
本栏目先从定义讲起:什么是大语言模型,文本如何被切分为 Token,上下文窗口限制了什么,以及模型为什么有时会给出自信却错误的回答,也就是“幻觉”。随后介绍厂商用来提升模型实用性的技术,例如检索增强生成、嵌入、向量数据库和微调。
所有解释都面向选择和使用 AI 软件的人,而不是研究人员。凡是源自具体论文的概念,术语表词条都会链接到原始出处,方便你核对原文,而不必只依赖二手总结。
你将学到
- 什么是生成式 AI 和大语言模型,它们如何产生输出
- Token 和上下文窗口如何影响模型能读多少、记住多少以及花费多少
- 幻觉为何会出现,检索增强生成如何减少幻觉
- 什么情况下值得微调,什么情况下优化提示词或检索就够了
- 开放权重模型、推理模型和多模态模型与普通聊天模型有何不同
入门课程
什么是人工智能(AI)?
人工智能(AI)是让计算机完成通常需要人类智能才能完成的任务的技术领域,例如理解语言、识别图像、做出预测和解决问题。如今大多数 AI 不是靠人工编写的规则运行,而是从大量数据中学会这些能力。聊天助手、垃圾邮件过滤、地图导航和内容推荐都用到了 AI。
什么是机器学习?
机器学习(ML)是人工智能的一个分支:计算机不是靠逐条编写的规则,而是通过例子学会完成任务。机器学习系统会研究数据、找出规律,再用这些规律对新数据做出预测或判断,比如识别垃圾邮件、推荐电影或预估送达时间。
什么是深度学习?
深度学习是机器学习的一种,它使用多层神经网络,直接从像素、声波或文本等原始数据中学习。每一层学到的特征都比上一层更抽象一些。语音识别、图像识别、机器翻译,以及聊天助手背后的大语言模型,都以深度学习为基础。
什么是神经网络?
神经网络是一种由大量简单的互连单元(称为“人工神经元”)按层排列而成的计算模型。每条连接都有一个权重,也就是一个数字,决定一个单元对下一个单元的影响有多大。通过在训练中不断调整这些权重,网络就能学会把图像、句子等输入转化为有用的输出。
什么是生成式 AI?
生成式 AI 是能够根据提示词创造新内容的人工智能,内容可以是文本、图像、音频、视频或代码。它先从海量训练数据中学习规律,再按照这些规律生成全新的输出。聊天助手、AI 绘图工具和 AI 编程工具,都是日常生活中常见的生成式 AI。
什么是大语言模型(LLM)?
大语言模型(LLM)是在海量文本上训练、用来预测下一个词片段(即 Token)的 AI 模型。不断重复这种预测,它就能写出回答、摘要、译文和代码。LLM 是 ChatGPT、Claude、DeepSeek 等聊天助手的“引擎”,也内置在许多写作、搜索和编程工具之中。
ChatGPT 是什么?它是如何工作的?
ChatGPT 是 OpenAI 开发的 AI 聊天助手,于 2022 年 11 月 30 日推出。你输入问题或指令,它就用自然语言回复。在聊天窗口背后,是一个大语言模型根据从海量文本中学到的规律,并结合人类反馈调优,逐个 Token 地生成每一条回答。
什么是 AI 聊天机器人?
AI 聊天机器人是一种能用文字或语音与你对话的软件,它借助人工智能理解你的消息并写出回复。早期的聊天机器人按脚本和菜单运行;现代聊天机器人使用大语言模型,因此能回答开放式问题、遵循指令,并记住当前对话的上下文。
AI 中的 Token 是什么?
Token(词元)是语言模型读取和生成文本时使用的小片段,可以是一个词、词的一部分、一个标点或一个空格。模型在处理文本之前会先把所有内容切分成 Token,生成回复时也是一个 Token 接一个 Token。Token 还是用量的计量单位:上下文限制和 API 价格都按…
什么是上下文窗口?
上下文窗口是语言模型一次能够处理的最大文本量,以 Token 计。它装着你的指令、此前的对话、你附上的文件,以及模型自己的回复。窗口之外的内容,模型完全看不到,这也是超长对话会“忘记”前面细节的原因。
大语言模型的参数是什么?
参数是大语言模型在训练中学到的一组数字。每个参数都是一个可调节的“权重”,共同决定模型如何根据输入的文字预测下一个词。名称里带“7B”的模型大约有 70 亿个参数。参数越多,模型能学到的规律越多,但运行时也需要更多内存和算力。
AI 模型中的温度是什么?
温度是控制 AI 模型在挑选下一个词时随机程度的设置。温度低时,模型几乎总是选择可能性最高的词,回答聚焦且可重复;温度高时,模型更常选择可能性较低的词,回答更多样、更有创意,但也更容易出错。
什么是 AI 幻觉?
AI 幻觉是指 AI 模型生成了听起来自信、合理,实际上却错误、捏造或缺乏来源支持的信息,例如编造的引语、错误的日期,或引用一篇根本不存在的论文。之所以会这样,是因为语言模型生成的是“听起来像对的”文字,而不是去查找并核实事实。
什么是 RAG(检索增强生成)?
RAG 是检索增强生成(Retrieval-Augmented Generation)的缩写,是一种让 AI 模型在回答前先查资料的方法。系统先在知识来源(如公司文档或网页)中搜索与你的问题相关的段落,再把这些段落连同问题一起交给模型。模型据此撰写回答,并常常注明出处。
什么是微调(Fine-tuning)?
微调是让现有 AI 模型适应特定工作的额外训练。你拿一个已经掌握通用语言能力的模型,用一小批你自己的示例继续训练它,例如符合品牌语气的客服回复。这个过程会调整模型内部的参数,因此新的行为会固定下来,不必在每次提示词里重新说明。
什么是多模态 AI?
多模态 AI 是指能在同一个系统里理解或生成多种数据的 AI,例如文字、图片、音频和视频。你可以给它看一张照片,再用文字提问;也可以直接对它说话,听它用语音回答。“模态”就是数据的类型,好比人的视觉和听觉是两种不同的感知方式。
什么是计算机视觉?
计算机视觉是让计算机理解图像和视频的 AI 领域,包括识别物体、读取文字、发现人脸和追踪运动。手机相册搜索、文档扫描、工厂质检和驾驶辅助都依靠它。视觉模型不是靠人工编写的规则,而是从大量带标注的示例图片中学会事物的样子。
什么是自然语言处理(NLP)?
自然语言处理(NLP)是让计算机处理人类语言的 AI 分支:阅读、理解、翻译、总结和撰写文本,结合语音技术还能处理口语。垃圾邮件过滤、搜索、输入法纠错、翻译应用、语音助手和聊天机器人都依靠它。大语言模型是如今最知名的 NLP 技术,但 NLP 是孕育它们的更大领域。
什么是 AGI?它和 AI 有什么区别?
AGI 即通用人工智能,指一种设想中的 AI:它能学习并完成几乎所有人类能做的智力任务,跨越各个领域,水平达到甚至超过人类。如今的 AI 属于专用型:每个系统都有擅长和不擅长的事。专家们对 AGI 如何定义、如何衡量看法不一,所以听到某款产品“就是 AGI”时要保持审慎。
什么是开源 AI?
开源 AI 是指公开其构成部分、任何人都可以使用、研究、修改和分享的 AI。对模型而言,这意味着公开权重(模型学到的数字)、代码,以及足以重建模型的训练数据信息。很多号称“开源”的模型只按附带条件的许可证公开权重,更准确的叫法是开放权重模型。
AI 对环境有害吗?
AI 确实有环境代价,主要来自数据中心训练和运行模型所消耗的电力和水,以及制造芯片与服务器带来的排放。影响有多大,取决于 AI 的使用量和当地电力有多清洁。AI 也能在其他领域减少能源浪费,因此净影响取决于它被用来做什么。
使用 AI 安全吗?
如果把 AI 当作能干但会出错的助手来用,日常使用总体是安全的。主要风险包括:自信却错误的答案、你分享的隐私信息被保存、带偏见的输出、过度依赖导致自身能力退化,以及利用 AI 生成的声音、图片或消息实施的诈骗。重要事实要核实,敏感信息少分享,意外请求要求证。
关键术语
- 大语言模型 (LLM)
大语言模型(LLM)是在海量文本上训练、用于预测序列中下一个词元(Token)的 AI 模型。凭借这一简单目标,它能够写作、总结、翻译、回答问题和生成代码,是聊天助手、写作工具和大多数 AI 智能体背后的核心技术。
- 生成式 AI
生成式 AI 是一类能够根据训练数据中学到的规律,创造文本、图像、音频、视频或代码等新内容的人工智能。它不只做分类或预测,而是根据提示词生成全新的输出。聊天助手和 AI 绘图工具都是常见例子。
- 检索增强生成 (RAG)
检索增强生成(RAG)是一种在语言模型作答时,从企业文档、搜索索引等外部来源检索相关信息并提供给模型的技术。模型基于检索到的内容生成回答,因此答案更及时、更具体,也更便于核查。
- 词元(Token)
词元(Token)是语言模型读取和生成文本的基本单位。分词器会把文本切分成 Token,一个 Token 可以是完整的词、词的一部分、标点或空格。上下文窗口等模型限制和 API 价格,通常都按 Token 而不是字数计算。
- 上下文窗口
上下文窗口是语言模型一次能够处理的最大文本量,以 Token 计。它包括系统提示词、此前的对话内容、附带的文档以及模型自己的回复。超出窗口的内容,模型就无法看到。
- 幻觉
在 AI 领域,幻觉指模型输出看似合理、实则错误、缺乏依据甚至完全编造的内容,例如虚构的引文、数据或引语。原因在于语言模型生成的是“听起来可能正确”的文本,除非接入可靠来源,否则它并不会去查证事实。
- 嵌入
嵌入(Embedding)是用一串数字(向量)表示一段数据含义的方式,数据可以是词语、句子、图片或文档。含义相近的内容,其向量在空间中也彼此接近,因此软件可以按语义而非字面关键词来搜索、比较和归类内容。
- 向量数据库
向量数据库用于存储嵌入向量(文本、图像等数据的数值表示),并能快速找出与查询向量最相似的条目。它是语义搜索和检索增强生成的常用存储层,帮助 AI 系统迅速查到相关内容。
- 微调
微调是在现有 AI 模型的基础上,用规模较小、针对特定任务的数据集继续训练,使模型的行为、风格或输出格式适应特定用途。与只改变模型输入的提示词或检索不同,微调会改变模型的权重。
- 多模态 AI
多模态 AI 指能在同一系统中理解或生成多种类型数据的模型,数据类型包括文本、图像、音频和视频。例如,多模态助手可以读取一张图表照片并用文字解释,或者用语音回答口头提问。
- 基础模型
基础模型是在大规模、广泛数据上训练,并可适配多种不同任务(如写作、编程、图像分析或搜索)的大型 AI 模型。这一术语由斯坦福大学研究人员于 2021 年提出。大语言模型是最广为人知的基础模型。
- 推理(Inference)
推理(Inference)是使用已训练好的 AI 模型生成输出的阶段:模型接收提示词或图片等输入,产出预测或回答。训练只需进行一次,而每次有人使用模型都会发生推理,因此推理决定了响应速度和运行成本。
- Transformer
Transformer 是一种神经网络架构,由 2017 年的论文《Attention Is All You Need》提出,通过“注意力机制”处理序列数据。注意力机制让模型衡量输入中每个部分与其他部分的相关程度。当今大多数语言、图像和多模态模型都以 Transformer 为基础。
- 推理模型
推理模型是一类经过专门训练、会先分步骤思考问题再给出最终答案的语言模型,这一过程常被称为“思考”。在分步推理上投入更多计算,能提升数学、编程、规划和多步骤分析等任务的效果,但响应更慢、成本更高。
- 开放权重模型
开放权重模型是指公开发布训练好的参数(权重)、任何人都可以按发布方许可下载、在自有硬件上运行并通常可以微调的 AI 模型。它不同于只能通过厂商应用或 API 使用的封闭模型。开放权重并不总是等于开源。
探索 Mindber
延伸阅读
- 最佳 AI 模型排行榜 —— 2026 年 6 月文本、编程、智能体、图像与视频全榜单(附数据来源)
2026 年 6 月谁是最佳 AI 模型,取决于具体任务:Claude Fable 5 综合能力领先,GPT-5.5 称霸编程智能体,Gemini 3.1 Pro 性价比最佳。完整排名,附数据来源。
- Claude Fable 5:是什么、如何使用及利用它的提示词
Anthropic 首个面向公众的 Mythos 级模型,结合来源详解:价格、安全防护、基准测试、使用方式、真实用例与可直接复制粘贴的提示词。
- Opus 4.8 成本计算器:什么时候它胜过 Sonnet 和 GPT-5.5
Opus 4.8 API 成本计算器,对比 Sonnet 4.6、Haiku 4.5、GPT-5.5。盈亏点工作负载、智能路由节省约 32%、按模型区分缓存费率,支持任意币种。
常见问题
人工智能、机器学习和生成式 AI 有什么区别?
人工智能是让计算机完成通常需要人类判断的任务的广泛领域。机器学习是构建现代 AI 的主要方法:系统从数据中学习规律,而不是遵循人工编写的规则。生成式 AI 是机器学习的一个分支,其模型能创造文本、图像、音频或代码等新内容,而不只是分类或预测。
ChatGPT 是大语言模型吗?
ChatGPT 是构建在大语言模型之上的应用。大语言模型是负责预测文本的底层模型;ChatGPT 则在其外层加上了聊天界面、对话记录、安全机制、文件处理等工具。大多数 AI 助手都是如此:你使用的产品与其中的模型是两回事,产品也可能随时间更换模型。
不会编程能理解 AI 基础知识吗?
可以。本栏目中的 Token、上下文窗口、检索和微调等概念,不懂编程也能理解。掌握这些概念有助于你比较产品、估算成本、识别不切实际的营销说法。只有当你想直接调用模型 API 或开发自己的 AI 应用时,编程能力才会派上用场。
为什么同一个问题,AI 模型会给出不同答案?
大多数语言模型通过在下一个 Token 的概率分布中采样来生成文本,因此同一提示词可能得到不同措辞,甚至不同结论。温度参数等设置控制随机程度。模型版本、系统提示词、检索到的内容和对话历史不同,结果也会变化,所以重要答案务必核查。
最后更新