[发明专利]有效提升卷积神经网络稳健性的方法有效
申请号: | 201611131712.2 | 申请日: | 2016-12-09 |
公开(公告)号: | CN106779070B | 公开(公告)日: | 2019-08-27 |
发明(设计)人: | 田新梅;沈旭;孙韶言;陶大程 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;郑哲 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种有效提升卷积神经网络稳健性的方法,包括:在训练过程中,首先将输入的特征图进行二维变换后进行前向传递,前向传递过程时,对二维变换后的特征图进行分级的且基于块能量大小的块重排序操作;然后进行反向传递,反向传递过程时,将块排序操作后每个像素点的误差传递给排序前对应的像素点;在测试过程中,采用训练过程的方式,将输入的特征图进行二维变换后进行分级的且基于块能量大小的块重排序操作。该方法在没有引入新的参数或者对输入图像做额外的处理下,可以有效提升卷积神经网络稳健性。 | ||
搜索关键词: | 有效 提升 卷积 神经网络 稳健 方法 | ||
【主权项】:
1.一种有效提升卷积神经网络稳健性的方法,其特征在于,包括:在训练过程中,首先将输入的特征图进行二维变换后进行前向传递,前向传递过程时,对二维变换后的特征图进行分级的且基于块能量大小的块重排序操作;然后进行反向传递,反向传递过程时,将块排序操作后每个像素点的误差传递给排序前对应的像素点;在测试过程中,采用训练过程的方式,将输入的特征图进行二维变换后进行分级的且基于块能量大小的块重排序操作;其中,所述进行分级的且基于块能量大小的块重排序操作包括:块重排序操作时的分级是针对同一个卷积层的每一个特征图独立进行,同一卷积层中,对于上一级输出的特征图,下一级均将特征图中每一个小块再细分成n×n个同等大小的子块,下一级的重排序操作仅在每一小块内的子块中独立进行,其中,n为预设的超参数;对第l级卷积层而言,特征图将被均匀地划分为(n×n)l个不重合的子块;在第l级卷积层中对l‑1级每一个子块内的n×n个l级的子块依据能量进行重排序;对每一级而言,能够根据重排序前后位置的差别计算出每一个像素点(i,j)对应的位置偏移量
再将所有级的偏移量进行叠加即可得到经过重排序之后的特征图每个像素点Zi,j对应的重排序前特征图中的像素点Xi,j:![]()
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611131712.2/,转载请声明来源钻瓜专利网。