少样本提示
少样本提示是一种在提示词中加入少量任务示例的技巧,让模型从示例中归纳出规律,再应用到新的输入上。这一方法因 2020 年发表的研究而广为人知,该研究表明大语言模型仅凭示例就能学会完成任务。
与其抽象地描述任务,不如直接演示:给出两到五组输入与输出示例,再附上新的输入,模型就会延续这一模式。Brown 等人(2020 年)描述了大语言模型的这种“上下文学习”能力,并比较了零样本(只有指令)、单样本和少样本三种设置。整个过程中模型权重并未改变,学习只发生在提示词之内。
为什么重要:少样本示例是无需微调就能控制格式、语气和边界情况的最可靠方法之一,尤其适合分类、信息抽取和按公司风格写作。许多 AI 产品也因此在隐藏的提示词中加入示例。
举例:要给客服工单打标签,可以在提示词中列出三张已正确标注的工单(账单、故障、功能需求),再让模型为第四张工单打标签。
局限:示例在每次请求中都会消耗 Token,模型也可能过度模仿示例的表面特征。请选择多样、有代表性的示例,并测试它们是否真的改善了结果。
相关术语
循序渐进地学
来源
- Language Models are Few-Shot Learners. Brown et al., arXiv, 2020年5月
主题: 提示词工程
最后更新