卷积神经网络 - - Transformer原理篇（三）

前言前两篇我们先后梳理了神经网络的基本原理与训练技巧从激活函数、损失函数、梯度下降和反向传播讲到过拟合、数据增强、正则化与 Dropout基本上回答了“神经网络如何拟合”和“如何训练得更好”这两个问题。但此前讨论的网络多为全连接结构一旦进入图像领域问题就变得不那么简单如果把每个像素都作为一个输入参数量会迅速膨胀像素与相邻像素之间的空间关系也难以保留。本篇就从这一困境出发介绍卷积运算、卷积核以及卷积神经网络的基本结构并用一个手写数字识别的可视化网站直观展示卷积层、池化层和全连接层各自的作用。本篇内容主要来源于B站UP主“飞天闪客”BV号BVNCgVzoEG9由笔者重新整理。目录1 矩阵2 卷积3 卷积神经网络4 手写数字识别1 矩阵这是一个最简单的神经网络只有一个输入和一个输出。如果输入变成三个那么就有三个 w 和三个 x如果输出变成两个再加一行公式即可。这里的 w12表示第一个神经元的第二个参数。不过在上图中上面的写法较为复杂而下面的写法又不便于机器理解。因此将公式转换为矩阵形式更有利于让表达式既简洁又实用具体原理请自学线性代数。如果是多层神经网络层数可以用上标表示矩阵运算不仅能把复杂的数学公式转化为简洁明了的矩阵运算而且对机器擅长的并行运算更友好能大大加快训练速度。2 卷积前面提到的神经网络中相邻神经元都互相连接这类网络也叫全连接层fully connected layerFC。然而在图像视觉领域如果把每个像素都作为一个输入全连接层会导致参数量过于庞大。而且把每个像素单独作为输入无法保留像素与相邻像素之间的关系不能很好地理解图像的局部模式。如果图片整体平移一个像素结果就可能完全不同但这显然是不合理的。因此可以对每9个相邻像素的灰度值做如下运算将对应位置的灰度值与卷积核中的数值相乘后再求和。这样的运算叫做卷积convolution运算运算中用到的右侧方框叫做卷积核convolution kernel。对于这个卷积核来说中间的数字为5即加重像素中心的灰度值上下左右的数字为-1即减淡像素上下左右的灰度值四角的数字为0即四角的灰度值不变。这样的效果与常见的锐化sharpen类似。当这个卷积运算遍历整个图像后得到的灰度值就构成了一幅经过锐化后的图像。3 卷积神经网络在传统图像处理领域卷积核的值是已知的而在卷积神经网络中卷积核的值是未知的是需要被训练出来的一组值。卷积神经网络其实就是将全连接层中的一层改为卷积层这大大减少了权重参数的数量同时还能更有效地捕捉局部特征。由于这样的神经网络看起来仍然比较复杂可以进一步将示意图简化为长方形方框。由于卷积层的参数维数仍然较高通常还会在卷积层后加入池化层pool layer对特征进行降维减少计算量并保留主要特征。为了应对更复杂的图像还可以使用多个卷积层、池化层和全连接层。这种适用于图像识别领域的神经网络结构就叫做卷积神经网络convolutional neural network。卷积神经网络是一类由卷积层、池化层和全连接层组成的深度前馈神经网络最早由Yann LeCun在1989—1998年间提出。4 手写数字识别接下来我们利用这个网站来直观学习各个层的作用https://adamharley.com/nn_vis/cnn/3d.html。这是一个已经训练好的手写数字识别的卷积神经网络。在左上角的方框中画出数字6可以看到最下层是我们输入的图像。其上一层是卷积层共有6个卷积核对图像特征进行初步识别再上一层是池化层对卷积层的特征进行降维接下来上面一层又是卷积层共有16个卷积核对池化层的结果进行特征识别再上一层是池化层对应卷积核进行进一步降维然后连接两层全连接层最上一层是输出层。可以看到6最亮因此预测结果是6。卷积神经网络非常易于可视化我们可以通过卷积核来判断网络识别到了哪些特征这也是其魅力所在。感兴趣的朋友还可以通过以下网站进一步探索https://felixzhang00.github.io/DL/mnist/生物学AI模型构建讨论QQ群1121159210作者bioinforiverCSDN同名2026年10月23日本系列内容来源于网络仅用于分享学习不得用于任何商业用途。参考文献1.【闪客】一小时从函数到 Transformer飞天闪客2025年7月21日BVNCgVzoEG9