[发明专利]一种模型更新方法、装置及设备

权利要求书

1.一种模型更新方法，包括：

获取阴影集合S和目标样本z，其中，所述阴影集合中的部分样本属于已训练模型的训练样本集合；

确定阴影集合中包含训练样本的先验概率α，以及，确定所述已训练模型中的已训练参数分布θ₀；

对所述阴影集合中的样本进行采样，并根据采样结果训练得到采样模型，确定在所述采样模型中的采样训练参数分布θ₁；

根据目标样本z的特征值、已训练参数分布θ₀和采样训练参数分布θ₁确定出目标样本在所述阴影集合中的后验概率P；

计算所述后验概率P和先验概率α的差值，根据所述差值评估所述已训练模型对于所述训练样本集合的隐私泄露程度；

若所述隐私泄露程度超过阈值，改变所述目标样本与所述已训练模型的训练样本集合的归属关系，得到新的训练样本集合，并根据所述新的训练样本集合更新所述已训练模型。

2.如权利要求1所述的方法，确定阴影集合中包含训练样本的先验概率α，包括：

确定所述阴影集合中包含训练样本的比例，将所述比例确定为先验概率α；或者，

采用所述已训练模型对所述阴影集合中的样本进行识别，根据所述识别结果统计所述阴影集合中包含训练样本的先验概率α。

3.如权利要求1所述的方法，对所述阴影集合中的样本进行采样，包括：

对所述阴影集合中的样本进行随机采样；或者，对所述阴影集合中的样本进行非随机采样。

4.如权利要求1所述的方法，根据目标样本的特征值、已训练参数分布θ₀和采样训练参数分布θ₁确定出目标样本在所述阴影集合中的后验概率P，包括：

确定所述采样训练参数分布θ₁的期望E；

确定误差计算函数l，根据所述期望E和l确定出训练参数在采样模型和已训练模型中的分布误差值

根据分布误差值S，采用如下似然函数计算在给定阴影集合时，目标样本存在于所述阴影集合中的后验概率P：

P＝1/(1+e^-t)，其中，

5.如权利要求4所述的方法，确定误差计算函数l，包括：

将所述已训练模型中进行训练时所采用的误差函数确定为误差计算函数l。

6.如权利要求1所述的方法，根据所述差值评估所述已训练模型对于所述训练样本集合的隐私泄露程度，包括：

根据所述差值的绝对值大小评估所述已训练模型对于所述训练样本集合的隐私泄露程度，其中，所述绝对值越大，所述已训练模型对于所述训练样本集合的隐私泄露程度越高。

7.如权利要求1所述的方法，根据所述差值评估所述已训练模型对于所述训练样本集合的隐私泄露程度，包括：

获取多个目标样本的多个差值，确定所述多个差值的统计值，根据所述统计值确定所述已训练模型对于所述训练样本集合的隐私泄露程度，其中，所述统计值包括平均数、中位数、最大值或者最小值。

8.如权利要求1所述的方法，所述已训练模型包括图像识别模型、风险识别模型或者信息推荐模型，所述目标样本或者训练样本的特征包含用户标识特征或者用户行为特征中的至少一种。