[发明专利]一种基于多头自注意力模块的遥感图像分类系统及方法

权利要求书

1.一种基于多头自注意力模块的遥感图像分类方法，其特征在于，所述分类方法的工作流程如下：

S100：上传检测图像，对所述检测图像的图像参数进行提取并进行缩放点积注意力处理；得到第一处理结果；

S200：将步骤S100得到的诸多个第一处理结果进行连接处理，得到连接处理结果；

S300：将所述连接处理结果进行一次归一化处理和残差连接，得到第二处理结果；

S400：将所述第二处理结果进行特征信息提取；

S500：将步骤S400得到的结果进行第二次归一化处理和残差连接得到最终的图像分类结果。

2.根据权利要求1所述的一种基于多头自注意力模块的遥感图像分类方法，其特征在于，所述检测图像的图像参数初始化采用的是正态随机生成的方式。

3.根据权利要求1所述的一种基于多头自注意力模块的遥感图像分类方法，其特征在于，所述步骤S100中的图像参数包括：检测图像的向量或者矩阵、检测图像的键矩阵、检测图像的值矩阵；

所述检测图像的键矩阵指所述检测图像中某个区域的矩阵；所述检测图像的值矩阵是指将所述检测图像的向量或者矩阵和所述检测图像的键矩阵进行点乘得到的矩阵；

所述缩放点积注意力处理公式如下：

其中，Q表示检测图像的向量或者矩阵；K表示检测图像的键矩阵，而K^T表示所述K矩阵的转置矩阵；V表示检测图像的值矩阵；表示缩放因子。

4.根据权利要求1所述的一种基于多头自注意力模块的遥感图像分类方法，其特征在于，所述步骤S100中的缩放点积注意力处理的处理过程如下：

S101：先将所述检测图像的向量或者矩阵、检测图像的键矩阵、检测图像的值矩阵经过多次不同线性映射运算得到矩阵：

S102：将所述矩阵：带入所述缩放点积注意力处理公式得到：

其中，表示经过多次不同线性映射运算后的检测图像的向量或者矩阵；表示经过多次不同线性映射运算后的检测图像的键矩阵；表示经过多次不同线性映射运算后的检测图像的值矩阵；表示所述矩阵的转置矩阵；表示缩放因子。

5.根据权利要求1所述的一种基于多头自注意力模块的遥感图像分类方法，其特征在于：所述步骤S200中多头自注意力处理包括以下过程：

S210：将所述步骤S100得到的一次处理结果作为所述多头注意力运算中的一个头，即：

其中，i表示第i次缩放点积注意力运算；head_i表示第i个头；

S220：将每一次缩放点积注意力处理后得到的结果进行连接处理；即：

MultiHead(Q，K，V)＝Concat(head₁，head₂，...head_i)