[发明专利]多任务模型迁移训练方法、装置、计算机设备及存储介质

权利要求书

1.一种多任务模型迁移训练方法，其特征在于，包括：

获取利用多个预设任务的训练样本训练得到的初始网络模型；其中，所述多个预设任务包括目标任务；

将所述目标任务对应的多个目标训练样本输入初始网络模型，经过所述初始网络模型对每个目标训练样本进行处理，分别确定所述初始网络模型对应于每个目标训练样本的参数梯度信息；

基于每个目标训练样本对应的参数梯度信息，确定所述初始网络模型对应的参数调整信息；其中，所述参数调整信息为用于对所述参数梯度信息进行调整的信息；

基于所述参数梯度信息和所述参数调整信息，对所述初始网络模型中的初始参数进行调整，得到目标参数，以及包括所述目标参数的目标网络模型。

2.根据权利要求1所述的方法，其特征在于，所述参数梯度信息包括所述初始网络模型中的多个初始参数中每个初始参数对应的参数梯度子信息；所述参数调整信息包括每个初始参数对应的参数调整子信息；

所述基于每个目标训练样本对应的参数梯度信息，确定所述初始网络模型对应的参数调整信息，包括：

针对所述初始网络模型中的多个初始参数中每个初始参数，基于所述初始参数对应于各个目标训练样本的参数梯度子信息，确定所述初始参数对应的目标参数梯度子信息；

针对每个初始参数，执行以下至少一次迭代，直到满足预设条件停止迭代，得到所述初始参数对应的参数调整子信息：

基于所述初始参数对应的目标参数梯度子信息，和上次迭代中确定的所述初始参数对应的参数调整子信息，对所述初始参数进行调整，得到所述初始参数对应于当次迭代的调整值；

基于所述调整值和至少部分所述目标训练样本，对上次迭代中确定的所述初始参数对应的参数调整子信息进行调整，得到当次迭代所确定的所述初始参数对应的参数调整子信息。

3.根据权利要求2所述的方法，其特征在于，所述基于所述初始参数对应于各个目标训练样本的参数梯度子信息，确定所述初始参数对应的目标参数梯度子信息，包括：

将各个目标训练样本对应于所述初始参数对应的参数梯度子信息进行累加处理，得到所述初始参数中对应的目标参数梯度子信息。

4.根据权利要求2所述的方法，其特征在于，所述基于所述调整值和至少部分所述目标训练样本，对上次迭代中确定的所述初始参数对应的参数调整子信息进行调整，得到当次迭代所确定的所述初始参数对应的参数调整子信息，包括：

基于所述调整值和至少部分所述目标训练样本，生成当次迭代对应的第一损失信息；

基于所述第一损失信息，确定所述参数调整子信息对应于当次迭代的梯度信息；

基于所述梯度信息，对上次迭代中确定的所述初始参数对应的参数调整子信息进行调整，得到当次迭代所确定的所述初始参数对应的参数调整子信息。

5.根据权利要求4所述的方法，其特征在于，所述基于所述梯度信息，对上次迭代中确定的所述初始参数对应的参数调整子信息进行调整，得到当次迭代所确定的所述初始参数对应的参数调整子信息，包括：

获取所述梯度信息对应的调整权重信息；

基于所述调整权重信息和所述梯度信息，对上次迭代中确定的所述初始参数对应的参数调整子信息进行调整，得到当次迭代所确定的所述初始参数对应的参数调整子信息。

6.根据权利要求1至5任一所述的方法，其特征在于，所述基于所述参数梯度信息和所述参数调整信息，对所述初始网络模型中的初始参数进行调整，得到目标参数，以及包括所述目标参数的目标网络模型，包括：

基于所述参数梯度信息和所述参数调整信息，确定目标调整信息；

基于所述目标调整信息和初始参数，确定所述目标参数；

基于所述目标参数，确定所述目标网络模型。