第 4 课，共 28 课 · AI 基础
什么是神经网络？
神经网络是一种由大量简单的互连单元（称为“人工神经元”）按层排列而成的计算模型。每条连接都有一个权重，也就是一个数字，决定一个单元对下一个单元的影响有多大。通过在训练中不断调整这些权重，网络就能学会把图像、句子等输入转化为有用的输出。
神经网络由哪些部分组成
每个人工神经元做的事情都很简单：接收几个数字，分别乘以各自的权重，加起来，再通过一个“激活函数”（决定向下传递多少信号的小规则）输出结果。神经网络的威力来自把成千上万甚至数以百万计的这种单元连接在一起。
- 输入层：接收数据，比如像素值或代表词语的数字。
- 隐藏层：位于中间的各层，把数据逐步转化为越来越有用的特征。
- 输出层：给出答案，比如“猫”或下一个词。
- 权重和偏置：可调整的数字，网络学到的一切都存储在其中。
神经网络如何学习
训练是一个循环：网络先做出猜测，“损失函数”衡量猜测错得有多离谱，再由一种叫“反向传播”的方法算出每个权重对误差的影响。然后把每个权重朝着能减少误差的方向微调一点，这一步称为“梯度下降”。在大量例子上反复进行，网络就会逐步变好。
想象一张有几百万个旋钮的调音台：每试一次，就把每个旋钮朝着让声音更接近目标的方向拧一点点。Frank Rosenblatt 在 1958 年描述了一种早期的单层网络“感知机”；1986 年，Rumelhart、Hinton 和 Williams 的论文展示了反向传播如何让带有隐藏层的网络学会任务。
它真的像大脑吗？
只能说有一点像。这个名字来自生物神经元，它们通过强弱不同的连接传递信号。但人工神经元只是几行算术运算，神经网络既没有意识，也没有情感和目标。“神经元”只是一个便于理解的比喻，并不代表网络在“思考”，因为它根本不具备人类意义上的思考能力。
常见的神经网络类型
不同的网络结构适合不同类型的数据：
- 前馈网络：数据从输入直接流向输出，适合表格类预测。
- 卷积网络：以小块区域扫描图像，长期是计算机视觉的标准方案。
- 循环网络：一步一步处理序列数据，在 Transformer 出现之前广泛用于语音和文本。
- Transformer：借助“注意力”机制，把输入的每个部分与其他所有部分关联起来；自 2017 年起成为大语言模型的基础。
你会在哪里遇到神经网络
几乎每一款现代 AI 产品内部都有神经网络：聊天助手、图像生成工具、语音工具、推荐信息流和文档扫描应用。当你看到某个模型有“数十亿参数”时，这些参数主要就是权重。权重越多，能存储的规律就越多，但质量同样取决于训练数据、结构设计和调优。
示例
用 Python 写一个人工神经元
代码示例# 一个人工神经元：要不要带伞？
inputs = [0.9, 0.2] # 下雨概率、风力（0 到 1）
weights = [2.0, -0.5] # 下雨影响很大；风大时伞反而不好用
bias = -0.8 # 默认倾向于“不带”
total = sum(i * w for i, w in zip(inputs, weights)) + bias
output = max(0.0, total) # ReLU 激活函数：只传递正信号
print(round(output, 2)) # 0.9，比较明确的“带上”这里的权重和偏置是手动设定的，方便你跟着算一遍：0.9 × 2.0 + 0.2 × (−0.5) − 0.8 = 0.9。在真实的网络中，数以百万甚至数十亿计的权重都由训练自动确定。
要点
- 神经网络由多层简单的互连单元组成，把数字转换成数字。
- 网络学到的一切都存储在连接的权重里。
- 训练就是反复微调权重，减少网络的错误。
- 神经网络受大脑启发，但简单得多，也不会思考。
- 大语言模型背后的 Transformer 是神经网络的一种。
在 Mindber 上试试
相关术语
相关主题
常见问题
为什么叫“神经网络”？
这种设计在一定程度上受到大脑神经元的启发：神经元之间通过强弱不同的连接相互传递信号，早期研究者便借用了这个名字。现代人工神经网络是数学模型，在具体机制上与生物大脑差别很大。
什么是隐藏层？
隐藏层是位于输入层和输出层之间的任何一层。你不会直接看到它的数值，它负责把数据转化为网络认为有用的中间特征，比如图像中的边缘。拥有很多隐藏层的网络被称为“深度”网络，“深度学习”一词正是由此而来。
神经网络有多大？
差别非常大。教学示例可能只有几个权重，而图像识别或大语言模型背后的网络则有数百万到数十亿个。规模本身并不决定质量，训练数据、结构设计和调优同样重要。
来源
- The perceptron: A probabilistic model for information storage and organization in the brain. Frank Rosenblatt, Psychological Review, 1958
- Learning representations by back-propagating errors. Rumelhart, Hinton and Williams, Nature, 1986年10月
- Attention Is All You Need. Vaswani et al., arXiv, 2017年6月
最后更新