[发明专利]自监督学习方法和自监督学习装置

权利要求书

1.一种自监督学习方法，其特征在于，包括：

根据每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息，确定权重，其中，所述距离度量信息越大，所述权重越小；

利用所述权重对第一代价函数进行加权，得到第二代价函数，其中，所述第一代价函数用于拉近同一原始图片的不同增广图片的特征的距离；

利用所述第二代价函数，根据输入的各个原始图片的各个增广图片进行自监督学习。

2.根据权利要求1所述的方法，其特征在于，所述确定权重包括：

利用基于所有原始图片的所有增广图片的特征的协方差构成的协方差矩阵，对每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息进行第一归一化处理；

根据第一归一化处理结果，确定权重。

3.根据权利要求2所述的方法，其特征在于，所述进行第一归一化处理包括：

每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息的转置，与基于所有原始图片的所有增广图片的特征的协方差构成的协方差矩阵的逆矩阵相乘，然后再与所述每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息相乘，作为第一归一化处理结果。

4.根据权利要求3所述的方法，其特征在于，所述确定权重包括：

对第一归一化处理结果进行取反运算；

以预设值为底数，以第一归一化处理结果的取反运算结果为指数，进行指数运算；

根据指数运算结果确定每个原始图片的每个增广图片相应的权重。

5.根据权利要求4所述的方法，其特征在于，所述根据指数运算结果确定每个原始图片的每个增广图片相应的权重包括：

将指数运算结果作为每个原始图片的每个增广图片相应的初始权重，利用所有原始图片的所有增广图片相应的初始权重的和值，对每个原始图片的每个增广图片相应的初始权重进行第二归一化处理，将第二归一化处理结果作为每个原始图片的每个增广图片相应的权重。

6.根据权利要求3所述的方法，其特征在于，所述每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息的转置，与基于所有原始图片的所有增广图片的特征的协方差构成的协方差矩阵的逆矩阵相乘包括：

每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息的转置，与用超参数调整后的协方差矩阵的逆矩阵相乘。

7.根据权利要求3所述的方法，其特征在于，所述第一代价函数包括基于同一原始图片的不同增广图片的特征构建的二范数。

8.一种自监督学习装置，其特征在于，包括：

权重确定模块，被配置为根据每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息，确定权重，其中，所述距离度量信息越大，所述权重越小；

代价函数加权模块，被配置为利用所述权重对第一代价函数进行加权，得到第二代价函数，其中，所述第一代价函数用于拉近同一原始图片的不同增广图片的特征的距离；

自监督学习模块，被配置为利用所述第二代价函数，根据输入的各个原始图片的各个增广图片进行自监督学习。

9.根据权利要求8所述的装置，其特征在于，所述权重确定模块，被配置为：

利用基于所有原始图片的所有增广图片的特征的协方差构成的协方差矩阵，对每个原始图片的每个增广图片的特征到所述每个原始图片的所有增广图片的特征均值的距离度量信息进行第一归一化处理；

根据第一归一化处理结果，确定权重。