[发明专利]基于稀疏自编码器的图像处理方法、系统、介质、设备

权利要求书

1.一种基于稀疏自编码器的图像处理方法，其特征在于，所述基于稀疏自编码器的图像处理方法用于图像降噪，包括：

所有神经网络的偏差预设为给定的向量或矩阵，并不断更新；

在偏差中引入了认知反馈权值矩阵，利用反馈偏差提高稀疏自编码器网络的精确度；

基于H1范数的正则化方法来控制稀疏自编码器；

所述基于H1范数的正则化方法来控制稀疏自编码器具体过程为：基于SAE和H1范数的思想，提出新的自编码器：

h₁＝φ(W₁·X+τ(D₁·b₁))，…，h_n＝φ(W_n-1·h_n-1+τ(D_n-1·b_n-1))；

其中，W⁽ⁱ⁾表示第i层的权重矩阵，D⁽ⁱ⁾表示第i个隐藏层的反馈权重矩阵，b_i是偏差向量，τ表示激活函数；X表示带有噪声的图像，带有噪声的图像都表示为X＝X₀+σ*randn，X表示观测图像，X₀表示干净图像，randn表示产生均值为0、方差为1的正态随机噪声，σ是噪声的方差，表示解码后的图像；

完整的花销函数为：

上式中的第一项是平方误差项，第二项是正则化项；正则化也被称为权值衰减项；参数为权值衰减参数，控制两项的相对重要性；设n_l表示层数，将层L标记为L_l，因此层L₁为输入层，层L_nl为输出层；表示第l层的单元j与第l+1层的单元i之间连接所关联的权值；和分别是l+1层中与单元i相关的反馈矩阵和偏差；表示单元i在l层的激活，特别是在后续中，设为第l层中单元i输入的总加权和，包括偏差项，最小化J(W,D,b)，训练神经网络，初始化和为一个接近于零的小随机值；采用梯度下降法，然而J(W,D,b)为非凸函数，梯度下降易受局部极值的影响。

2.如权利要求1所述基于稀疏自编码器的图像处理方法，其特征在于，所述采用梯度下降计算为：

ρ是学习率，表达式中三个偏导数可用反向传播算法计算：

首先，运行一个前向传递来计算整个网络的所有激活，包括每个隐藏层的输出值；然后对于第l层中的每个节点i计算误差项

3.如权利要求2所述基于稀疏自编码器的图像处理方法，其特征在于，所述反向传播算法如下：实现前馈传递来计算第l_i层的激活，i＝1,2,…,n_l，通过以下方程：

z^(l+1)＝W^(l)a^(l)+τ(D^(l)b^(l))，a^(l+1)＝φ(z^(l+1))；

a^(l)是已知的第l层的激活，且a⁽¹⁾＝1是输入层的值；

对于输出层n_l，设

对于第l层，l＝n_l-1,n_l-2,…,2，令

计算偏导数：