Feedforward Network-前馈网络¶
Feedforward Network（前馈神经网络，简称 FNN）是一种最基本的人工神经网络结构，特点是数据和信号从输入层依次向前传播到输出层，不存在循环或反馈连接。
前馈神经网络（Feedforward Neural Network，简称 FNN）是一种最简单且常见的神经网络架构。在这个网络中，信息只沿一个方向传播，从输入层传递到输出层，而不会形成任何循环或反馈连接。这种结构使得前馈神经网络非常适合解决监督学习问题，如分类和回归任务。
Feedforward Network 的结构¶
输入层（Input Layer）：这是网络接收外部数据的地方。每个节点代表一个特征或属性。
隐藏层（Hidden Layers）：位于输入层和输出层之间的层称为隐藏层。一个前馈神经网络可以有多个隐藏层，这些层负责提取数据中的抽象特征。每个隐藏层由多个神经元组成，每个神经元执行一个非线性变换。
输出层（Output Layer）：这是网络产生预测或结果的地方。输出层的大小取决于任务的性质，例如，在二分类任务中，输出层通常只有一个节点；而在多分类任务中，输出层的节点数等于类别数。
数据流动方式:
信息从输入层传递到隐藏层，再传递到输出层。
信息流动方向是单向的（从输入到输出），没有回流或反馈。
工作原理¶
前向传播：在网络中，数据从前向后流动，每一层的输出作为下一层的输入。每个神经元接收到上一层的加权输入后，加上一个偏置项，再通过激活函数进行非线性变换，产生该神经元的输出。
权重和偏置：权重决定了每个输入对神经元输出的影响程度，偏置则允许模型适应数据的平移变化。权重和偏置是训练过程中通过优化算法（如梯度下降）调整的参数。
激活函数：激活函数引入了非线性，使网络能够学习和表示复杂的映射关系。常用的激活函数包括 Sigmoid、ReLU（Rectified Linear Unit）、tanh 等。
数学公式¶
- \(h^{(l)}\)第 𝑙 层的输出（也称为激活值）
\(ℎ^{(0)}\) :输入数据
前一层的输出是后一层的输入
\(W^{(l)}\) :第 𝑙 层的权重矩阵
\(𝑏^{(𝑙)}\) :第 𝑙 层的偏置向量
\(𝑓\) :激活函数（如 ReLU, Sigmoid, Tanh 等）