[发明专利]有效提升卷积神经网络稳健性的方法有效
申请号: | 201611131712.2 | 申请日: | 2016-12-09 |
公开(公告)号: | CN106779070B | 公开(公告)日: | 2019-08-27 |
发明(设计)人: | 田新梅;沈旭;孙韶言;陶大程 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;郑哲 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 有效 提升 卷积 神经网络 稳健 方法 | ||
1.一种有效提升卷积神经网络稳健性的方法,其特征在于,包括:
在训练过程中,首先将输入的特征图进行二维变换后进行前向传递,前向传递过程时,对二维变换后的特征图进行分级的且基于块能量大小的块重排序操作;然后进行反向传递,反向传递过程时,将块排序操作后每个像素点的误差传递给排序前对应的像素点;
在测试过程中,采用训练过程的方式,将输入的特征图进行二维变换后进行分级的且基于块能量大小的块重排序操作;
其中,所述进行分级的且基于块能量大小的块重排序操作包括:
块重排序操作时的分级是针对同一个卷积层的每一个特征图独立进行,同一卷积层中,对于上一级输出的特征图,下一级均将特征图中每一个小块再细分成n×n个同等大小的子块,下一级的重排序操作仅在每一小块内的子块中独立进行,其中,n为预设的超参数;对第l级卷积层而言,特征图将被均匀地划分为(n×n)l个不重合的子块;在第l级卷积层中对l-1级每一个子块内的n×n个l级的子块依据能量进行重排序;
对每一级而言,能够根据重排序前后位置的差别计算出每一个像素点(i,j)对应的位置偏移量再将所有级的偏移量进行叠加即可得到经过重排序之后的特征图每个像素点Zi,j对应的重排序前特征图中的像素点Xi,j:
2.根据权利要求1所述的一种有效提升卷积神经网络稳健性的方法,其特征在于,所述将块排序操作后每个像素点的误差传递给排序前对应的像素点的公式为:
其中,为第k级排序像素点(i,j)对应的偏差,表示重排序之前的特征图中像素点(i,j)对应的误差,表示重排序之后的特征图中像素点(i,j)对应的误差。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611131712.2/1.html,转载请声明来源钻瓜专利网。