[发明专利]基于U-Transformer多层次特征重构的异常检测方法及系统

权利要求书

1.一种基于U-Transformer多层次特征重构的异常检测方法，其特征在于，包括如下步骤：

特征提取步骤：预训练特征提取器，通过所述特征提取器提取出多尺度特征；

网络结构步骤：将所提取的所述多尺度特征分割成不同的图像块，并在图像块内划分出特征词序列， U-Transformer模型包括多个Transformer编码器和多个Transformer解码器，Transformer编码器和Transformer解码器一一对应，采用Transformer编码器对于图像块内的特征词序列进行编码；对于编码后的所述特征词序列取其下采样表征，作为图像块的特征词，根据不同数据集的不同特性，Transformer编码器对于图像块内的特征词序列进行编码将会重复不同的层次；采用相同数量的所述Transformer解码器，利用不同层次的特征编码，将多层次的问询词序列重构为特征；对应的所述Transformer编码器和Transformer解码器之间连接有跳层连接层；最后得到了一个重构的特征词序列，对重构的特征词序列进行形状重组和上采样，得到重构的多尺度特征；

完全正样本步骤：训练集全部由正常样本组成，采用回归损失函数，使得重构特征图去靠近特征提取器所提取的特征图，从而对于U-Transformer模型网络的参数进行更新；当U-Transformer模型能够重构特征提取器所提取的多尺度特征图的时候，说明U-Transformer模型能够对于正常样本的特征分布进行建模；

存在部分负样本步骤：训练集存在部分负样本，建立兼容少量异常样本的损失函数；重构损失函数L可以被表示为“拉近-推离”损失函数；

其中，u表示空间点的索引；N为空间点的总个数；y(u)为像素级别的标签，s(u)表示重构特征和特征提取器提取的特征之间的差异；L的第一项将正常样本的重构特征拉近到原始特征，即s(u)越小，第一项就越小；第二项将异常区域的重构特征推离原始特征，即s(u)越大，第二项就越小；第一项表示

第二项表示

推断步骤：通过所述U-Transformer模型对工业质检中的样本进行异常检测。

2.根据权利要求1所述的基于U-Transformer多层次特征重构的异常检测方法，其特征在于，所述推断步骤包括：通过提取的所述多尺度特征和重构的多尺度特征之间的差异度作为样本的异常评分。

3.根据权利要求1所述的基于U-Transformer多层次特征重构的异常检测方法，其特征在于，所述跳层连接层上加入了降维-升维层，即在进行跳层连接的时候，对于输入先降维再升维。

4.一种基于U-Transformer多层次特征重构的异常检测系统，其特征在于，应用权利要求1-3任一所述的基于U-Transformer多层次特征重构的异常检测方法，包括如下模块：

特征提取模块：预训练特征提取器，通过所述特征提取器提取出多尺度特征；

网络结构模块：将所提取的所述多尺度特征分割成不同的图像块，并在图像块内划分出特征词序列， U-Transformer模型包括多个Transformer编码器和多个Transformer解码器，Transformer编码器和Transformer解码器一一对应，采用Transformer编码器对于图像块内的特征词序列进行编码；对于编码后的所述特征词序列取其下采样表征，作为图像块的特征词，根据不同数据集的不同特性，Transformer编码器对于图像块内的特征词序列进行编码将会重复不同的层次；采用相同数量的所述Transformer解码器，利用不同层次的特征编码，将多层次的问询词序列重构为特征；对应的所述Transformer编码器和Transformer解码器之间连接有跳层连接层；最后得到了一个重构的特征词序列，对重构的特征词序列进行形状重组和上采样，得到重构的多尺度特征；

推断模块：通过所述U-Transformer模型对工业质检中的样本进行异常检测。

5.根据权利要求4所述的基于U-Transformer多层次特征重构的异常检测系统，其特征在于，所述推断模块包括：通过提取的所述多尺度特征和重构的多尺度特征之间的差异度作为样本的异常评分。