第 23 课,共 28 课 · 用好 AI
什么是 AGI?它和 AI 有什么区别?
AGI 即通用人工智能,指一种设想中的 AI:它能学习并完成几乎所有人类能做的智力任务,跨越各个领域,水平达到甚至超过人类。如今的 AI 属于专用型:每个系统都有擅长和不擅长的事。专家们对 AGI 如何定义、如何衡量看法不一,所以听到某款产品“就是 AGI”时要保持审慎。
专用 AI 与通用 AI
目前投入使用的 AI 几乎都是专用 AI,也叫弱 AI:它为特定范围的任务而生。国际象棋引擎能击败特级大师,却填不了一张报税表;垃圾邮件过滤器只会分拣邮件。
聊天助手显得更“通用”,因为一个系统就能写作、总结、翻译和编程。但它的能力并不均衡:同一个助手能写出漂亮的文章,却可能数错一个单词里的字母、编造出处,或在长任务中迷失方向。AGI 将消除这种不均衡,像能干的人一样处理陌生问题、学习新技能,而无需为每项任务重新打造。
为什么 AGI 难以定义
AGI 没有公认的统一定义。有的研究者指在大多数思维任务上达到人类水平;OpenAI 的章程把 AGI 描述为“在大多数具有经济价值的工作上胜过人类的高度自主系统”;Google DeepMind 在 2023 年的一篇论文中提出了 AGI 分级,从“做得多好”和“覆盖多广”两个维度给系统评级。
更早的设想至今仍有影响。1950 年,艾伦·图灵提出了“模仿游戏”,也就是后来的图灵测试:机器的书面对话能否让人误以为是真人?如今的聊天机器人常常听起来很像人,许多研究者因此认为,仅凭对话流畅来检验通用智能并不可靠。
AI、AGI 与 ASI 对照
这几个词在新闻标题里经常被混用:
- AI(人工智能):让计算机完成通常需要人类判断的任务的整个领域。
- 专用 AI:为特定任务打造的系统,日常产品中的 AI 都属于这一类。
- AGI(通用人工智能):设想中在大多数智力任务上具备人类水平的 AI。
- ASI(超级人工智能):设想中在几乎所有领域都远超最优秀人类的 AI。
AGI 对今天的你意味着什么
关于 AGI 的争论影响着研究方向、安全工作和监管,值得关注。但对于挑选和使用工具来说,它没有看上去那么重要。营销常借用 AGI 的说法,而工具的价值在于它眼下能把你的任务做得多好。
评判任何系统都要看它在具体任务上的证据:用自己的案例测试,在公开的基准测试和排行榜上比较模型,并持续核查关键输出。“AGI 已经到来”和“AI 毫无用处”这两种说法,都需要证据支撑。
示例
试一试:摸清助手的强项与短板
试试这个提示词请列出你很可能做得好的三类任务,以及很可能出错的三类任务,每类用一句话说明原因。然后为每类任务各出一道简短的测试题,方便我验证。
挑几道测试题实际跑一跑,你通常会看到前文说的“不均衡”:有些任务很强,有些任务不可靠。这种不均衡正是专用智能而非通用智能的实际表现。助手的自我评估本身也可能出错,这也是要亲自测试的原因之一。
要点
- AGI 指设想中能学习并完成几乎所有人类智力任务的 AI。
- 如今的 AI 是专用的:即使同一个助手,也有擅长的任务和不可靠的任务。
- AGI 没有公认的定义或测试,说法如何取决于采用谁的定义。
- ASI(超级智能)指远超人类能力的 AI,同样只是设想。
- 挑选工具时,你自己任务上的实测证据比 AGI 标签更重要。
在 Mindber 上试试
相关术语
相关主题
常见问题
AGI 已经出现了吗?
没有公认的答案,因为 AGI 本身就没有公认的定义或测试。有些开发者认为自家系统已显露出通用能力的苗头;许多研究者则指出仍存在明显短板,比如推理不可靠、编造事实、难以在工作中学会新技能。判断任何说法,都应看具体任务上的证据,而不是标签。
AGI 等于有感知、有意识的 AI 吗?
不等于。AGI 讲的是能力:一个系统能学会并完成多少种任务。感知和意识讲的是内在体验:系统是否有任何感受。理论上,一个系统可以能力很强却毫无体验,而科学界目前也没有可靠的方法检验机器是否有意识。大多数 AGI 定义都刻意回避了这个问题。
AGI 和生成式 AI 有什么区别?
生成式 AI 是一类真实存在的工具,能生成文本、图像、音频或代码,今天的聊天助手就属于此类。AGI 则是一种设想中的通用能力水平。有些研究者认为大型生成式模型可能是通往 AGI 的路径,也有人认为还需要全新的方法。使用生成式 AI 并不等于使用 AGI。
来源
- Computing Machinery and Intelligence. A. M. Turing, Mind, 1950年10月
- OpenAI Charter. OpenAI, 2018年4月
- Levels of AGI for Operationalizing Progress on the Path to AGI. Morris et al. (Google DeepMind), arXiv, 2023年11月
最后更新