[发明专利]神经网络模型的训练方法、装置、计算机设备及存储介质

说明书

本申请公开了一种神经网络模型的训练方法、装置、计算机设备及存储介质。该方法包括：对神经网络模型进行第t轮迭代训练，t为正整数；第t轮迭代训练后，确定神经网络模型的第t轮总损失，第t轮总损失由至少两种子损失构成，且各种子损失对应各自的第t轮损失权重；响应于不满足训练完成条件，基于各种子损失的损失占比的变化情况，确定各种子损失对应的第t+1轮损失权重，损失占比指子损失占总损失的比例。通过实时获取神经网络模型中各种子损失的占比情况，无需通过人工干预神经网络模型的训练过程，实现自适应调整各种子损失的损失权重，提高了损失权重的调整效率，且提高了神经网络模型的训练质量。

技术领域

本申请实施例涉及人工智能领域，特别涉及一种神经网络模型的训练方法、装置、计算机设备及存储介质。

背景技术

损失函数(loss function)是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。在应用中，损失函数通常作为学习准则与优化问题相联系，即通过最小化损失函数求解和评估模型。例如在卷积神经网络(Convolutional Neural Networks,CNN)中，可以通过控制多个损失函数的损失权重实现对目标任务的训练。

相关技术中，损失权重的调整方法主要分为静态调整和动态调整。静态调整方法中在训练过程中保持各个损失权重固定不变，静态调整的训练过程较慢，且训练的精度不高；动态调整方法在训练过程中根据损失函数的变化趋势适当改变各个损失权重，动态调整的训练过程比较繁琐，且需要人为干预。

发明内容

本申请实施例提供了一种神经网络模型的训练方法、装置、计算机设备及存储介质。所述技术方案如下：

一方面，本申请实施例提供了一种神经网络模型的训练方法，所述方法包括：

对神经网络模型进行第t轮迭代训练，t为正整数；

第t轮迭代训练后，确定所述神经网络模型的第t轮总损失，所述第t轮总损失由至少两种子损失构成，且各种子损失对应各自的第t轮损失权重；

响应于不满足训练完成条件，基于各种子损失的损失占比的变化情况，确定各种子损失对应的第t+1轮损失权重，所述损失占比指子损失占总损失的比例。

另一方面，本申请实施例提供了一种神经网络模型的训练装置，所述装置包括：

训练模块，用于对神经网络模型进行第t轮迭代训练，t为正整数；

损失确定模块，用于第t轮迭代训练后，确定所述神经网络模型的第t轮总损失，所述第t轮总损失由至少两种子损失构成，且各种子损失对应各自的第t轮损失权重；

损失权重确定模块，用于响应于不满足训练完成条件，基于各种子损失的损失占比的变化情况，确定各种子损失对应的第t+1轮损失权重，所述损失占比指子损失占总损失的比例。

另一方面，本申请实施例提供了一种计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如上述方面所述的神经网络模型的训练方法。

另一方面，本申请实施例提供了一种计算机可读存储介质，所述存储介质存储有至少一条指令，所述至少一条指令用于被处理器执行以实现如上述方面所述的神经网络模型的训练方法。

另一方面，本申请实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述方面提供的神经网络模型的训练方法。

本申请实施例提供的技术方案带来的有益效果至少包括：