[发明专利]一种应用于深度卷积神经网络中的特征提取方法在审
申请号: | 201910955807.3 | 申请日: | 2019-10-09 |
公开(公告)号: | CN110689119A | 公开(公告)日: | 2020-01-14 |
发明(设计)人: | 刘奕彤;丁光磊;杨鸿文 | 申请(专利权)人: | 北京邮电大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100876 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 激活函数 线性运算 激活 卷积神经网络 卷积运算 输出结果 算法特征 特征提取 输出 滑动 遍历 迭代 重复 应用 | ||
1.一种应用于深度卷积神经网络中的特征提取方法,在深度卷积神经网络中使用卷积层来做深层堆叠时,使用本专利发明的特征提取算法来替代传统的卷积,使网络模型提取更加抽象的高阶特征信息,提高网络模型的表现性能。本发明的特征在于如下步骤:
a)基于传统卷积滑动计算的基础上,每次只对待卷积数据的局部进行计算。
b)首先,通过对局部待卷积数据进行线性运算。
c)之后,将输出结果使用一个非线性函数进行激活输出。
d)将激活函数的结果重新作为局部待卷积数据重复b)到c)的操作至少一次。
e)到此输出即为当前滑动窗口的特征提取结果,将卷积核滑动到下一位置并得到下一组局部待卷积数据,重复b)到d)的操作,直至滑动遍历完整的待卷积数据。
f)最终的输出即为一个非线性内核的卷积核输出结果。
2.根据权利要求1所述的方法,其特征在于,所述待卷积数据,是指由图像、音频频谱等可表示为矩阵或向量数据。
3.根据权利要求1所述的方法,其特征在于,所述线性运算,是指加法和数量乘法。在标量、向量和矩阵中有不同的形式,都称之为线性运算。
4.根据权利要求1所述的方法,其特征在于,所述非线性函数,是指函数图像不是一条直线的函数,包括指数函数、幂函数、对数函数、多项式函数等等基本初等函数以及他们组成的复合函数,还包括神经网络构成的函数。
5.根据权利要求1所述的方法,其特征在于,所述激活输出,是输入x经过函数f(x)的变换后得到结果y=f(x),y即为激活输出结果,所示函数f(x)不限于任何形式的函数包括神经网络,输入x不限任何形式,包括标量、向量、矩阵等。
6.根据权利要求1所述的方法,其特征在于,所述滑动窗口,是指和传统矩阵卷积算法中相同的滑动操作,但是不限制滑动窗口的步长、大小、形状和数目。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京邮电大学,未经北京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910955807.3/1.html,转载请声明来源钻瓜专利网。