[发明专利]一种预测模型的训练方法、信息推送的方法及装置

权利要求书

1.一种预测模型的训练方法，其特征在于，预测模型包括每个业务场景对应的子预测层，以及场景权重层，包括：

针对每个业务场景，获取该业务场景下的目标训练样本，所述目标训练样本包括在该业务场景下，向用户推送的历史推送信息以及用户的相关信息；

根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，以及所述目标训练样本针对所有业务场景下对应的综合特征，以及将该业务场景对应的标识信息输入到所述场景权重层，确定该业务场景针对所述综合特征进行加权所需的场景权重矩阵；

将所述场景特征以及利用所述场景权重矩阵加权后的综合特征输入到该业务场景对应的子预测层中，得到针对所述历史推送信息的预测点击率；

根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练。

2.如权利要求1所述的方法，其特征在于，每个子预测层对应一个数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；

根据所述历史推送信息以及所述相关信息，确定所述目标训练样本在该业务场景下对应的场景特征，具体包括：

根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及，根据所述历史推送信息，确定所述历史推送信息对应的推送信息特征；

对所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；

将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，得到所述场景特征。

3.如权利要求2所述的方法，其特征在于，将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，得到所述场景特征，具体包括：

将所述样本特征输入到该业务场景下子预测层对应的数据预处理层中，以使所述数据预处理层，根据该业务场景下的目标训练样本所满足的第一样本分布，对所述样本特征进行归一化处理，得到所述场景特征，所述第一样本分布，是所述数据预处理层根据已输入的目标训练样本学到的。

4.如权利要求1所述的方法，其特征在于，所述预测模型还包括有共享数据预处理层，所述相关信息包括用户的历史业务记录以及用户的属性信息；

根据所述历史推送信息以及所述相关信息，确定所述目标训练样本针对所有业务场景下对应的综合特征，具体包括：

根据所述历史业务记录，确定所述用户对应的行为特征，根据所述属性信息，确定所述用户对应的画像特征，以及，根据所述历史推送信息、确定所述历史推送信息对应的推送信息特征；

将所述行为特征、所述画像特征以及所述推送信息特征进行拼接，得到所述目标训练样本对应的样本特征；

将所述样本特征输入到所述共享数据预处理层中，得到所述综合特征。

5.如权利要求4所述的方法，其特征在于，将所述样本特征输入到所述共享数据预处理层中，得到所述综合特征，具体包括：

将所述样本特征输入到所述共享数据预处理层中，以使所述共享数据预处理层，根据所有业务场景下的目标训练样本所满足的第二样本分布，对所述样本特征进行归一化处理，得到所述综合特征，所述第二样本分布，是所述共享数据预处理层在不区分业务场景的条件下，根据已输入的目标训练样本学到的。

6.如权利要求1所述的方法，其特征在于，所述预测模型还包括：共享预测层；

根据所述预测点击率以及所述目标训练样本对应的标签信息，对所述预测模型训练，具体包括：

获取经过预先训练的所述共享预测层对应的第一网络参数，以及该业务场景对应的子预测层对应的第二网络参数，所述共享预测层，是通过训练样本在所述共享预测层下的预测点击率与所述训练样本对应的标签信息之间的偏差，训练得到的；

根据所述第一网络参数和所述第二网络参数，确定经过预先训练的所述共享预测层与该业务场景对应的子预测层之间的参数偏差；

以最小化所述参数偏差，以及所述目标训练样本在该业务场景下的预测点击率与所述目标训练样本对应的标签信息之间偏差为优化目标，对所述预测模型训练。