[发明专利]更新业务模型的方法及装置

权利要求书

1.一种更新业务模型的方法，所述业务模型用于对业务数据进行处理，得到相应的业务处理结果，并由多个业务方在保护隐私前提下共同训练，其中，各个业务方分别通过本地持有的样本数据更新本地业务模型的模型参数并上传至服务方，服务方将各个业务方上传的模型参数融合后作为全局模型参数分发给各个业务方，各个业务方以全局模型参数为目标进行本地模型参数调整；所述方法由所述多个业务方中的第一方执行，包括：

利用本地业务模型处理本地的第一样本数据，其中，本地业务模型具有前一轮次调整后的本地模型参数；

基于本地业务模型的输出结果确定当前损失，所述当前损失包括，本地模型参数与当前的全局模型参数之间的距离损失，所述距离损失用于描述本地模型参数与当前的全局模型参数之间，在最小传输代价下的传输距离，所述传输代价是基于最优传输理论将本地模型参数向当前的全局模型参数变换所需要的质量；

以最小化所述当前损失为目标，调整本地模型参数。

2.根据权利要求1所述的方法，其中，所述方法还包括：

将调整后的本地模型参数发送至服务方，以供服务方基于各个业务方发送的本地模型参数，更新全局模型参数以反馈给各个业务方。

3.根据权利要求1所述的方法，其中，所述当前损失还包括，基于本地业务模型的输出结果与所述第一样本数据的样本标签的对比确定的基本损失。

4.根据权利要求1所述的方法，其中，所述最小传输代价通过以下方式确定：

基于本地模型参数和全局模型参数确定预定数量的候选转移矩阵，其中，单个候选转移矩阵的元素按行求和结果对应第一参数，元素按列求和结果对应第二参数，所述第一参数和第二参数互不相同且分别为本地模型参数和全局模型参数之一；

利用各个候选转移矩阵分别与预先确定的代价矩阵中相应元素按位相乘，得到各个乘积矩阵；

根据各个乘积矩阵的最小行列式，确定最小传输代价。

5.根据权利要求4所述的方法，其中，所述基于本地业务模型的输出结果确定当前损失还包括：

将具有最小传输代价的候选转移矩阵，作为最小代价矩阵；

基于所述最小代价矩阵，确定所述距离损失。

6.根据权利要求5所述的方法，其中，所述基于所述最小代价矩阵，确定所述距离损失包括：

所述距离损失为通过拉格朗日乘数法确定的最小距离，经由第一拉格朗日乘数处理所述最小代价矩阵和本地模型参数之差确定，所述第一拉格朗日乘数基于所述拉格朗日乘数法确定的距离对其梯度为零的约束确定。

7.根据权利要求1所述的方法，其中，所述以最小化所述当前损失为目标，调整本地模型参数包括：

确定包含所述距离损失的所述当前损失对模型参数的梯度；

向梯度减小的方向调整本地模型参数。

8.根据权利要求1所述的方法，其中，所述第一样本数据包括字符、图片、语音、动画、视频中至少一种形式的业务数据。

9.一种更新业务模型的方法，所述业务模型用于对业务数据进行处理，得到相应的业务处理结果，并由多个业务方在保护隐私前提下共同训练，其中，各个业务方分别通过本地持有的样本数据训练本地业务模型的模型参数，并基于其他方的模型参数，调整本地业务模型的模型参数；所述方法由所述多个业务方中的第一方执行，包括：

利用本地业务模型处理本地的第一样本数据，其中，本地业务模型具有前一轮次调整后的本地模型参数；

基于本地业务模型的输出结果确定当前损失，所述当前损失包括，本地模型参数分别与各个其他业务方的模型参数之间的距离损失之和，所述距离损失用于描述本地模型参数与相应业务方的模型参数之间，在最小传输代价下的传输距离，所述传输代价是基于最优传输理论将本地模型参数向当前的全局模型参数变换所需要的质量；

以最小化所述当前损失为目标，调整本地模型参数。