使用 AI 安全吗？

AI 助手生成的是“听起来最合理”的文字，而不是经过核实的事实。它可能信心十足地给出错误数字、错引法律条文，甚至编造出处，这种现象叫作“幻觉”。

把 AI 用于起草、出主意和解释概念，凡是要依赖的内容都要核实，尤其是健康、法律、财务或安全方面的信息。如果助手引用了来源，请亲自打开，确认它真实存在，而且确实说了助手所说的内容。

你输入或上传的任何内容，都可能被服务商保存、为安全目的被审核，或被用来改进未来的模型，具体取决于产品、套餐和你的设置。不妨把和聊天机器人的对话，当作发给一家不太熟悉的公司的邮件。

绝不要把密码、身份证号或银行卡号、病历或公司机密粘贴到个人 AI 账号里。检查隐私设置；工作中，请使用组织批准的工具。

AI 从人类产生的数据中学习，因此可能延续人类的偏见：生成图片中的刻板印象、对不同口音或语言的识别准确率不一，或者对人作出有失偏颇的判断。当 AI 参与就业、贷款、住房、教育或医疗方面的决策时，这一点尤为重要。这类决策需要人工复核，也要给当事人提出异议的渠道。

有了 AI，用一小段录音克隆声音、伪造视频、写出毫无破绽的钓鱼邮件都变得很便宜。深度伪造是指用 AI 生成的、逼真的真人音频、图片或视频，常被用于诈骗，比如冒充“家人”打电话求救，或冒充“老板”紧急要求转账。

只要消息既紧急又涉及钱财或机密，就先放慢脚步。通过你本来就信任的其他渠道核实，比如回拨你已知的号码；也可以和家人约定一个暗号。不要指望 AI 检测器下定论，它们的结果经常出错。

让 AI 包揽所有思考，可能削弱你正在培养的能力，这也是学生使用 AI 时最大的隐忧。把 AI 当作会讲解、会出题考你的家教，而不是代写枪手，并遵守学校或单位的规定。

从社会层面看，人们还担心虚假信息、就业冲击，以及权力过度集中在少数 AI 公司手中。美国国家标准与技术研究院（NIST）的《AI 风险管理框架》（2023 年）等框架，以及欧盟《人工智能法》等法律，都对组织如何识别和管理这些风险作出了规定。