[发明专利]存在标签噪声情况下的鲁棒训练

权利要求书

1.一种用于训练机器学习模型(150)的方法(500)，其特征在于，所述方法(500)包括：

在数据处理硬件(12)处获得标记训练样本(112G)的集合，每个标记训练样本(112G)与给定标签(116G)相关联；以及

在多个训练迭代的每个训练迭代期间：

对于所述标记训练样本(112G)的集合中的每个标记训练样本(112G)：

由所述数据处理硬件(12)生成用于所述标记训练样本(112G)的伪标签(116P)；

由所述数据处理硬件(12)估计指示所述给定标签(116G)的精确度的所述标记训练样本(112G)的权重(132)；

由所述数据处理硬件(12)确定所述标记训练样本(112G)的所述权重(132)是否满足权重阈值(142)；

当所述标记训练样本(112G)的所述权重(132)满足所述权重阈值(142)时，由所述数据处理硬件(12)将所述标记训练样本(112G)添加到干净标记训练样本(112C)的集合；以及

当所述标记训练样本(112G)的所述权重(132)不满足所述权重阈值(142)时，由所述数据处理硬件(12)将所述标记训练样本(112G)添加到错误标记训练样本(112M)的集合；以及

由所述数据处理硬件(12)使用对应的给定标签(116G)的所述干净标记训练样本(112C)的集合和使用对应的伪标签(116P)的所述错误标记训练样本(112M)的集合来训练所述机器学习模型(150)。

2.根据权利要求1所述的方法(500)，其特征在于，生成用于所述标记训练样本(112G)的所述伪标签(116P)包括：

基于所述标记训练样本(112G)，生成多个增强训练样本(112A)；

对于每个增强训练样本(112A)，使用所述机器学习模型(150)来生成预测标签(222)；以及

对为所述多个增强训练样本(112A)中的每个增强训练样本(112A)生成的每个预测标签(222)进行平均，以生成用于对应的所述标记训练样本(112G)的所述伪标签(116P)。

3.根据权利要求1或2所述的方法(500)，其特征在于，估计所述标记训练样本(112G)的所述权重(132)包括，确定所述标记训练样本(112G)的最优权重(132)的在线近似。

4.根据权利要求3所述的方法(500)，其特征在于，确定所述标记训练样本(112G)的所述最优权重(132)的所述在线近似包括，使用随机梯度下降优化。

5.根据权利要求3或4所述的方法(500)，其特征在于，所述最优权重(132)最小化所述机器学习模型(150)的训练损失(322)。

6.根据权利要求1-5中任一项所述的方法(500)，其特征在于，训练所述机器学习模型(150)包括：

获得可信训练样本(112T)的集合，每个可信训练样本(112T)与可信标签(116T)相关联；以及

使用所述可信训练样本(112T)的集合和所述标记训练样本(112G)的集合来生成凸组合(312)。

7.根据权利要求6所述的方法(500)，其特征在于，生成所述凸组合(312)包括，将成对混合应用于所述可信训练样本(112T)的集合和所述标记训练样本(112G)的集合。