[发明专利]用于训练神经网络模型的方法和设备

说明书

公开了用于训练神经网络模型的方法和设备。所述方法包括：接收输入数据和目标数据，输入数据包括包含多种对象的图像，所述多种对象分别与多个类对应，目标数据包括第一目标数据和第二目标数据，第一目标数据包括地面真值标签，第二目标数据包括在输入数据中的图像中所述多个类的概率的分布；通过神经网络模型从输入数据中的图像提取特征图；通过神经网络模型基于特征图的每个类的概率对特征图进行池化，以获得池化出的特征图；通过将输入数据输入到神经网络模型来生成输出数据，输出数据包括输入数据中的图像中的对象的识别结果；基于将输出数据与目标数据进行比较以及池化的辅助损失来确定损失；以及基于损失训练神经网络模型。

本申请要求于2021年5月18日在韩国知识产权局提交的第10-2021-0064266号韩国专利申请和于2021年7月13日在韩国知识产权局提交的第10-2021-0091360号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

下面的描述涉及一种用于训练神经网络模型的方法和设备，以在神经网络模型中执行池化时使用多个类中的每个类的概率来提高神经网络的性能。

背景技术

最近，神经网络模型已经用于各种领域(包括例如自主驾驶(AD)、高级驾驶员辅助系统(ADAS)、虚拟现实(VR)和物联网(IoT)领域)。例如，神经网络模型可用于识别图像中的对象。

通常用于图像识别的神经网络模型是卷积神经网络(CNN)。CNN可包括用于执行卷积运算的卷积层和用于执行池化的池化层。池化层可通过经由采样调整输入数据的尺寸来生成输出数据。

传统的池化方法可使用代表值或平均值，因此，在池化处理中可能发生输入数据的损失，这会降低神经网络模型的性能。需要一种用于防止池化处理中输入数据的损失的技术。

发明内容

提供本发明内容以简化的形式介绍在下面的具体实施方式中进一步描述的构思的选择。本发明内容不意在确定要求保护的主题的关键特征或必要特征，也不意在用于帮助确定要求保护的主题的范围。

在一个总体方面，提供了一种处理器实现的训练神经网络模型的方法，所述方法包括：接收输入数据和目标数据，其中，输入数据包括包含多种对象的图像，并且所述多种对象分别与多个类对应，其中，目标数据包括第一目标数据和第二目标数据，第一目标数据包括地面真值标签，第二目标数据包括在输入数据中的图像中所述多个类的概率的分布；通过神经网络模型从输入数据中的图像提取特征图；通过神经网络模型基于特征图的每个类的概率对特征图进行池化，以获得池化出的特征图；通过将输入数据输入到神经网络模型来生成输出数据，其中，输出数据包括输入数据中的图像中的对象的识别结果；基于将输出数据与第一目标数据进行比较来确定第一损失，并且基于第二目标数据与池化出的特征图来确定池化的辅助损失；以及基于第一损失和辅助损失来训练神经网络模型。

辅助损失可包括基于第二目标数据与通过神经网络模型池化出的特征图之间的差异而确定的损失。

特征图可包括特征图中的元素所属的类的信息，并且特征图的每个类的概率可基于元素所属的类的信息来确定。

神经网络模型可被配置为：基于在由池化的比例因子确定的特征图的单元区域中的属于所述多个类中的每个类的元素的数量与包括在特征图的单元区域中的元素的总数量之比来确定特征图的每个类的概率。

对特征图进行池化的步骤可包括：针对所述多个类中的至少一个类，通过神经网络模型基于特征图的每个类的概率以单元区域为单位对特征图执行池化，其中，在针对所述至少一个类中的每个类而确定的相应特征图中，与每个单元区域对应的特征图的值是每个单元区域中的每个类的概率。

辅助损失可包括基于包括在第二目标数据中的输入数据的所述多个类的概率的分布与池化出的特征图的所述多个类的概率的分布之间的距离而计算的损失。