[发明专利]用于训练用于图像分析的神经网络的设备和方法

说明书

提供了用于训练用于图像分析的神经网络的设备和方法，其中神经网络（70）被配置用于图像分析，并且其中训练包括步骤：由神经网络（70）基于第一变换图像（x_a1）确定第一特征图（f₁），其中基于训练图像（x_i）的第一变换确定第一变换图像（x_a1）；由神经网络（70）基于第二变换图像（x_a2）确定第二特征图（f₂），其中基于训练图像（x_i）的第二变换确定第二变换图像（x_a2）；确定表征第一特征图（f₁）的第一特征向量与第二特征图（f₂）的第二特征向量的加权和之间的度量的第一损失值，其中根据由第一特征向量表征的训练图像（x_i）部分相对于由相应的第二特征向量表征的训练图像（x_i）部分的重叠来确定加权和的权重；基于第一损失值训练神经网络（70）。

技术领域

Chen和He的“Exploring Simple Siamese Representation Learning”（2020年11月20日https://arxiv.org/abs/2011.10566v1）公开了一种用于无监督学习的SimSiam神经网络。

背景技术

用于图像分析的神经网络在几乎所有技术领域中都发现各种应用。尤其是深度神经网络实现通常优于其他基于机器学习的方法的预测性能。

然而，训练神经网络（尤其是深度神经网络）以实现这样的优越性能以需要大量的带注释的训练图像为代价，利用所述带注释的图像可以训练神经网络。注释这样的训练图像是耗时且昂贵的努力。

因此，常见的方法是在自监督学习方法中用未标注的训练数据预训练神经网络。该预训练允许减少带注释图像的必要数量，同时仍然能够实现高预测性能。

用于自监督学习的一类已知模型是SimSiam神经网络。为了训练SimSiam神经网络，确定用于图像的两个变换的相应特征表示，并且训练SimSiam神经网络以确定用于两个变换的类似输出。

然而，发明人发现，当神经网络的下游任务是对对象进行分类或执行语义分割时，SimSiam方法是次优的，因为SimSiam网络被配置为确定整个图像的全局特征表示。

发明内容

在给定该背景的情况下，本发明在第一方面涉及一种用于训练神经网络的计算机实现的方法，其中神经网络被配置用于图像分析，并且其中训练包括以下步骤：

·由神经网络基于第一变换图像确定第一特征图，其中基于训练图像的第一变换确定第一变换图像；

·由神经网络基于第二变换图像确定第二特征图，其中基于训练图像的第二变换确定第二变换图像；

·确定表征第一特征图的第一特征向量与第二特征图的第二特征向量的加权和之间的度量的第一损失值，其中根据由第一特征向量表征的训练图像部分相对于由相应的第二特征向量表征的训练图像部分的重叠来确定加权和的权重；

·基于第一损失值训练神经网络。

神经网络可以被理解为一种数据处理设备，其将表征图像的输入信号取作输入，并确定表征图像分析的输出信号。