基础模型
基础模型是在大规模、广泛数据上训练,并可适配多种不同任务(如写作、编程、图像分析或搜索)的大型 AI 模型。这一术语由斯坦福大学研究人员于 2021 年提出。大语言模型是最广为人知的基础模型。
基础模型以高昂成本在大规模、多样化的数据集上预训练一次,然后通过提示词、微调或检索适配各种具体用途。同一个模型可以同时支撑聊天机器人、编程助手和文档分析工具。Bommasani 等人在 2021 年提出这一术语,既强调这种复用,也提醒一个模型的缺陷会扩散到所有基于它构建的产品中。
为什么重要:大多数 AI 软件都构建在少数几家厂商的基础模型之上。了解产品使用了哪个模型,有助于你判断它的能力、数据处理链条,以及它在多大程度上依赖另一家公司的定价和政策决定。
举例:一家初创公司通过 API 调用基础模型,再加上自己的录音、转录流程和界面,做出了一款 AI 会议助手。
局限:基础模型的通用训练并不能让它自动成为你所在领域的专家;基于同一模型的产品,也可能因提示词、数据和设计不同而在质量上相差很大。
相关术语
循序渐进地学
来源
- On the Opportunities and Risks of Foundation Models. Bommasani et al., arXiv, 2021年8月
主题: AI 基础
最后更新