卷积神经网络的卷积到底是什么

卷积神经网络是一种特殊的神经网络结构,是自动驾驶汽车、人脸识别系统等计算机视觉应用的基础,其中基本的矩阵乘法运算被卷积运算取代。它们专门处理具有网格状拓扑结构的数据。例如,时间序列数据和图像数据可以看作是一个二维像素网格。
历史
卷积神经网络最初是由福岛核电站在1980年引入的,当时名为neocognitron。它的灵感来自于hubel和weisel提出的神经系统的层次模型。但由于其复杂的无监督学习算法,即无监督学习,该模型并不受欢迎。1989年,yann lecun利用反向传播和neocognitron的概念提出了一种名为lenet的架构,该架构被美国和欧洲用于手写的邮政编码识别。邮政服务。yann lecun进一步研究了这个项目,最终在1998年发布了lenet-5——第一个引入了我们今天在cnn仍然使用的一些基本概念的现代卷积神经网络。他还发布了mnist手写数字数据集,这可能是机器学习中最著名的基准数据集。在20世纪90年代,计算机视觉领域转移了它的焦点,许多研究人员停止了对cnn架构的研究。神经网络的研究经历了一个寒冷的冬天,直到2012年,多伦多大学的一组研究人员在著名的imagenet挑战赛中进入了一个基于cnn的模型(alexnet),最终以16.4%的错误率赢得了比赛。此后,卷积神经网络不断向前发展,基于cnn的体系结构不断赢得imagenet, 2015年,基于卷积神经网络的体系结构resnet的误差率超过人类水平的5.1%,误差率为3.57%。
卷积的误称
在cnn中广泛使用的卷积运算是用词不当的。严格地说,所使用的操作是相关,而不是卷积。这两个操作符都有一点不同,我们将分别讨论它们,以理解它们之间的区别。
互相关
相关是在图像上移动滤波掩码(通常称为核)并计算每个位置的乘积和的过程。相关是滤波器位移的函数。换句话说,相关的第一个值对应滤波器的零位移,第二个值对应一个位移,以此类推。
数学公式:
图3给出了使用f滤波器与图像i的一维互相关运算的数学公式。假设f具有奇数个元素会很方便,因此我们可以假设f随其中心移动。我们说f有2n+1的元素,这些索引从-n到n,f(0)是中心元素。
类似地,我们可以将这个概念扩展到下图所示的2d情况。基本思想是一样的,除了图像和滤波器现在是2d。我们可以假设我们的滤波器有奇数个元素,所以它由一个(2n+1)x(2n+1)矩阵表示。
二维的相关运算非常简单。我们只是取一个给定大小的滤波器,然后把它放在与滤波器大小相同的图像的一个局部区域上。我们继续这个操作,在整个图像中移动相同的滤波器。这也帮助我们实现了两个非常受欢迎的属性:
平移不变性:我们的视觉系统应该感知、响应或检测相同的物体,而不管它出现在图像的什么地方。
局部性:我们的视觉系统聚焦于局部区域,而不考虑图像的其他部分发生了什么。
互相关函数具有一个特性,当它应用于离散的单位脉冲(一个二维矩阵,其中只有一个1,其他都是0)时,得到的结果是滤波器的副本,但旋转了180度。
卷积:
卷积运算与互相关运算非常相似,但有细微的区别。在卷积运算中,首先将核翻转180度,然后应用于图像。卷积的基本性质是将一个核与一个离散的单位脉冲进行卷积,在脉冲的位置上得到一个核的拷贝。
我们在互相关部分看到,一个互相关操作产生一个脉冲的拷贝,但是旋转了180度。因此,如果我们预先旋转滤波器并执行相同的乘积滑动和运算,我们应该能够得到期望的结果。
数学公式:利用核函数f对图像i进行的卷积运算由一维的公式给出。卷积就像相关一样,只是我们在互相关之前先把滤波器翻转一下
在二维卷积的情况下,我们水平和垂直翻转滤波器。这可以写成:
卷积运算同样遵循平移不变性和局部性的性质。
注意:尽管这两个操作稍有不同,但是所使用的核是否对称并不重要。
结论:
在这篇文章中,我们简要讨论了卷积神经网络的历史和一些特性。我们讨论了卷积这个错误的说法,即在各种文本中经常提到的卷积运算其实是互相关运算。这种差别很细微,但却很有用,每个进入、练习或经验丰富的计算机视觉领域的人都应该知道。

ChatGPT可能带来风险引发热议!周鸿祎:现在担心为时尚早
基于STM32F0的适配器电路设计方案
智能电网的发展历程
专用玫瑰花光谱搭配LED顶光模组搭载提高玫瑰产量
MiniLED显示进入量产时代 各厂商对其市场前景一致看好
卷积神经网络的卷积到底是什么
君正集成电路技术产品 M200S主板介绍
电路的功率因数怎么计算 功率因数偏低如何解决
马斯克透露特斯拉Semi将搭载500kWh电池组
HOLLiAS-LEC G3 PLC设计的激光测距技术
Java工程师的修炼之道
微型磁通门基础
印制电路板EMC设计技巧
关于单片机系统EMC测试
选择了合适的传感器,才能更好地解决机器人的移动
单片机原理及应用单片机原理及应用
GUI高阶培训资料简介
单片机内部复位电路图和上电复位电路图解析(六款单片机复位电路)
如何搭建数据仓库
小米新机发布!黑鲨2 Pro标配12GB运存,不足3千!