[发明专利]任务处理网络生成、任务处理方法、装置及电子设备

说明书

本公开关于一种任务处理网络生成、任务处理方法、装置、电子设备及存储介质，该方法包括获取目标任务对应的多媒体资源和任务标注结果；将包括掩码学习参数和预设衰减参数的预设掩码信息插入预设深度学习网络，得到待训练网络，若预设衰减参数小于等于第一预设阈值，预设掩码信息为零，或与一的差值小于等于第二预设阈值；将多媒体资源输入待训练网络，得到第一预测任务结果；根据任务标注结果、第一预测任务结果和掩码学习参数，确定第一损失信息，并训练待训练网络，得到初始任务处理网络；基于初始任务处理网络中的预设掩码信息，对初始任务处理网络进行剪枝处理，得到目标任务处理网络。利用本公开实施例可以平衡网络的资源消耗量与网络精度。

技术领域

本公开涉及人工智能技术领域，尤其涉及一种任务处理网络生成、任务处理方法、装置、电子设备及存储介质。

背景技术

随着人工智能技术的迅猛发展，深度神经网络在计算机视觉、自然语言处理、广告推荐搜索等领域占据着越来越重要的地位。然而，其庞大的计算量与参数量耗费着大量的计算资源，限制了其在工业界的进一步推广与应用，故需要对深度学习网络进行剪枝，以进行网络的压缩。

相关技术中，由于一些任务处理网络的输入为图像等多媒体资源，在进行网络压缩时，大多需要先设定一个衡量任务处理网络中通道传输的多媒体特征信息的重要性标准，然后根据该重要性标准进行剪枝。即把重要性低的多媒体特征信息对应分支(通道)剪掉，保留重要性高的多媒体特征信息对应分支。例如结合group LASSO来优化神经网络，使其变得稀疏，该方法需要设定一个阈值，对于权重参数小于该阈值的分支予以剪枝，大于该阈值的分支予以保留。或者，结合损失函数的一阶导数或者高阶导数来衡量分支的重要性的；但上述相关技术中，用于衡量分支重要性的标准(阈值、一阶导数或者高阶导数)的选取需要很多调参经验，没法保证标准的数值大小可以准确代表了分支的重要程度，导致无法找到任务处理过程中对多媒体资源等数据处理带来的资源消耗量与任务处理精度的良好平衡点，即，在保持网络的任务处理精度的前提下，对多媒体资源等数据处理带来的资源消耗量往往依然很大，或者在降低对多媒体资源等数据处理带来的资源消耗以后，对任务处理精度造成了较大损失。

发明内容

本公开提供一种任务处理网络生成、任务处理方法、装置、电子设备及存储介质，以至少解决相关技术中无法平衡任务处理网络对多媒体资源等数据处理带来的资源消耗量与任务处理精度的问题。本公开的技术方案如下：

根据本公开实施例的第一方面，提供一种任务处理网络生成方法，包括：

获取目标任务对应的训练数据，所述训练数据包括多媒体资源和所述多媒体资源对应任务标注结果；

将预设掩码信息插入预设深度学习网络的待剪枝通道，得到待训练网络，所述预设掩码信息为基于掩码学习参数和预设衰减参数确定的，所述预设衰减参数在所述待训练网络训练过程中衰减至小于等于第一预设阈值，在所述预设衰减参数小于等于第一预设阈值的情况下，所述预设掩码信息为零，或所述预设掩码信息与一的差值小于等于第二预设阈值；

将所述多媒体资源输入所述待训练网络进行任务处理，得到第一预测任务结果；

根据所述任务标注结果、所述第一预测任务结果和所述掩码学习参数，确定第一损失信息；

基于所述第一损失信息训练所述待训练网络，得到初始任务处理网络；

基于所述初始任务处理网络中的预设掩码信息，对所述初始任务处理网络进行剪枝处理，得到目标任务处理网络。

可选的，所述基于所述第一损失信息训练所述待训练网络，得到初始任务处理网络包括：

在所述第一损失信息未满足预设条件的情况下，对所述预设衰减参数进行衰减处理，并基于所述第一损失信息更新所述预设深度学习网络的网络参数和所述掩码学习参数，得到更新后的待训练网络；