[发明专利]用于卷积神经网络的注意力权重模块和方法

权利要求书

1.一种用于卷积神经网络的注意力权重模块，其特征在于，所述注意力权重模块包括：

提取单元，被配置为从输入至所述卷积神经网络的特征图中提取特征向量；

生成单元，被配置为将所述特征向量馈送至完全连接层，以生成注意力向量；

权重分配单元，被配置为基于所述注意力向量将权重分配至所述特征图。

2.根据权利要求1所述的注意力权重模块，其特征在于，所述注意力权重模块还包括：

分组单元，被配置为将所述注意力向量分为两个以上的注意力向量组，并且

所述权重分配单元，被配置为基于所述注意力向量或基于所述注意力向量组将权重分配至所述特征图。

3.根据权利要求1所述的注意力权重模块，其特征在于

所述提取单元通过空间自适应池化处理从所述特征图中提取所述特征向量。

4.根据权利要求3所述的注意力权重模块，其特征在于，所述空间自适应池化处理具有随机采样因子，并且所述空间自适应池化处理包括平均池化处理和最大池化处理。

5.根据权利要求1所述的注意力权重模块，其特征在于

在所述生成单元中，所述完全连接层包括第一完全连接层和第二完全连接层，其中，所述特征向量依次通过：所述第一完全连接层、ReLU函数、所述第二完全连接层、sigmoid函数。

6.一种用于卷积神经网络的卷积层的注意力权重模块，其特征在于，所述注意力权重模块包括：

提取单元，被配置为从输入至所述卷积神经网络的第一特征图中提取特征向量z，所述第一特征图的维度为H×W×C；

生成单元，被配置为将所述特征向量z馈送至完全连接层，以生成注意力向量s；

权重修正单元，被配置为基于所述注意力向量s修正所述卷积层的卷积核W，得到修正后的卷积核W_rec；

卷积单元，配置为将所述修正后的卷积核W_rec与所述第一特征图进行卷积，从而得到第二特征图。

7.根据权利要求6所述的注意力权重模块，其特征在于，所述注意力权重模块还包括：

分组单元，被配置为将所述注意力向量s分为两个以上的注意力向量组，并且

所述权重修正单元，被配置为基于所述注意力向量s或基于所述注意力向量组修正所述卷积层的卷积核W，得到修正后的卷积核W_rec。

8.根据权利要求6所述的注意力权重模块，其特征在于，所述提取单元通过空间自适应池化处理从所述特征图中提取所述特征向量。

9.根据权利要求8所述的注意力权重模块，其特征在于，所述空间自适应池化处理具有随机采样因子k，所述特征向量z的维度为C×k×k，并且所述空间自适应池化处理包括平均池化处理和最大池化处理。

10.根据权利要求9所述的注意力权重模块，其特征在于

在所述生成单元中，所述完全连接层包括第一完全连接层和第二完全连接层，所述第一完全连接层的维度W₁＝λ/r×C×k×k，所述第二完全连接层的维度W₂＝λ/r×λ，其中，r为预设的下采样因子，λ为所述注意力向量s的长度，其中，在所述生成单元中，所述特征向量z依次通过以下各项从而生成所述注意力向量s：所述第一完全连接层、ReLU函数、所述第二完全连接层、sigmoid函数，其中，所述注意力向量s的计算公式如下：

s＝σ(W₂δ(W₁z))。