[发明专利]联邦学习建模优化方法、设备、介质及产品

权利要求书

1.一种联邦学习建模优化方法，其特征在于，所述联邦学习建模优化方法应用于第一方，所述联邦学习建模优化方法包括：

获取待训练第一方底端特征提取模型和待训练顶端预测模型，并提取第一方待训练样本和所述第一方训练样本对应的预设真实标签；

基于所述待训练第一方底端特征提取模型，将所述第一方训练样本和预设第一方底端护照数据共同转换为具有护照嵌入的第一方训练中间输出；

基于所述第一方训练中间输出、所述预设真实标签、预设第一方顶端护照数据以及所述待训练顶端预测模型，通过与各第二方进行联邦交互，联合各所述第二方生成的具有护照嵌入的第二方训练中间输出，计算所述待训练顶端预测模型对应的模型总损失，其中，所述第二方训练中间输出由所述第二方获取的待训练第二方底端特征提取模型，对预设第二方底端护照数据和所述第一方训练样本对应的第二方训练样本进行转换得到；

基于所述模型总损失，优化所述待训练第一方底端特征提取模型和所述待训练顶端预测模型，获得第一方底端特征提取模型和顶端预测模型。

2.如权利要求1所述联邦学习建模优化方法，其特征在于，所述基于所述第一方训练中间输出、所述预设真实标签、预设第一方顶端护照数据以及所述待训练顶端预测模型，通过与各第二方进行联邦交互，联合各所述第二方生成的具有护照嵌入的第二方训练中间输出，计算所述待训练顶端预测模型对应的模型总损失的步骤包括：

接收各所述第二方发送的具有护照嵌入的第二方训练中间输出；

对所述第一方训练中间输出和各所述第二方训练中间输出进行聚合，获得聚合训练中间输出；

通过所述待训练顶端预测模型，将所述聚合训练中间输出和所述预设第一方顶端护照数据共同转换为输出预测标签；

基于所述输出预测标签和所述预设真实标签，计算所述模型总损失。

3.如权利要求2所述联邦学习建模优化方法，其特征在于，所述待训练顶端预测模型包括待训练顶端神经网络，所述待训练顶端神经网络至少包括一待训练顶端护照嵌入模块，所述预设第一方顶端护照数据至少包括一所述待训练顶端护照嵌入模块对应的顶端护照嵌入样本，

所述通过所述待训练顶端预测模型，将所述聚合训练中间输出和所述预设第一方顶端护照数据共同转换为输出预测标签的步骤包括：

基于所述待训练顶端神经网络中处于所述待训练顶端护照嵌入模块之前的第一部分待训练顶端神经网络，将所述聚合训练中间输出转换为待训练顶端网络中间输出；

基于所述待训练顶端护照嵌入模块，将所述待训练顶端网络中间输出和所述顶端护照嵌入样本共同转换为待训练顶端护照嵌入模块输出；

基于所述待训练顶端神经网络中处于所述待训练顶端护照嵌入模块之后的第二部分待训练顶端神经网络，将所述待训练顶端护照嵌入模块输出转换为所述输出预测标签。

4.如权利要求3所述联邦学习建模优化方法，其特征在于，所述待训练顶端护照嵌入模块包括待训练顶端护照嵌入层和待训练顶端模块神经网络层，

所述基于所述待训练顶端护照嵌入模块，将所述待训练顶端网络中间输出和所述顶端护照嵌入样本共同转换为待训练顶端护照嵌入模块输出的步骤包括：

基于所述待训练顶端模块神经网络层，将所述待训练网络中间输出线性变换为待嵌入训练网络层输出，以及将所述顶端护照嵌入样本线性变换为待嵌入护照；

基于所述第一方护照嵌入层中的护照函数，将所述待嵌入护照转换为护照嵌入参数；

基于所述待嵌入训练网络层输出和所述护照嵌入参数，生成所述待训练顶端护照嵌入模块输出。