开放权重模型
开放权重模型是指公开发布训练好的参数(权重)、任何人都可以按发布方许可下载、在自有硬件上运行并通常可以微调的 AI 模型。它不同于只能通过厂商应用或 API 使用的封闭模型。开放权重并不总是等于开源。
公开权重后,组织可以在自己的服务器、指定的云区域或本地设备上运行模型,并通过微调加以调整。许可条款差异很大:有的几乎允许任何用途,有的则限制商用、用户规模或特定应用。开放源代码促进会(OSI)发布的《开源 AI 定义》设定了更高的门槛,还要求公开训练数据信息和代码,许多开放权重模型并不符合。
为什么重要:开放权重模型让采购方对数据驻留、隐私、规模化成本和供应商锁定有更多掌控。许多第三方产品也可能在后台运行开放模型。代价是,原本由封闭模型厂商负责的托管、安全、更新和安全调优,将由你或你的服务商承担。
举例:一家医院在自己的服务器上运行开放权重语言模型,确保病历数据不离开内部网络。
局限:运行大型模型需要大量 GPU 资源;开放权重模型与领先封闭模型之间的能力差距也会随时间变化。商用前务必阅读许可条款。
相关术语
循序渐进地学
来源
- The Open Source AI Definition 1.0. Open Source Initiative, 2024年10月
- Llama 2: Open Foundation and Fine-Tuned Chat Models. Touvron et al., arXiv, 2023年7月
主题: AI 基础
最后更新