[发明专利]探索联邦学习隐私的交互可视化系统

权利要求书

1.一种探索联邦学习隐私的交互可视化系统，其特征在于，所述系统包括：

后端计算模块和前端视图模块；

数据拥有者从所述前端视图模块选择训练样本，后端计算模块根据所述训练样本以及从全局服务器下载的全局模型，对所述全局模型进行训练，获得本地模型；

后端计算模块根据预先选择的攻击方式，对所述本地模型进行攻击，并将攻击结果显示在所述前端视图模块中；

后端计算模块采用差分隐私方式对所述本地模型进行隐私保护，并在所述前端视图模块显示隐私保护强度调节接口，以使数据拥有者根据攻击结果调节所述隐私保护强度调节接口；

后端计算模块在所述前端视图模块显示训练样本自定义接口，以使数据拥有者根据所述攻击结果调节所述训练样本自定义接口；

后端计算模块根据数据拥有者调节所述训练样本自定义接口的信息，调用预先设置的模型遗忘分析算法，分析得到训练样本的当前本地训练的状态以及当前训练所得模型的准确性，并展示在所述前端视图模块中。

2.根据权利要求1所述的系统，其特征在于，在数据拥有者从所述前端视图模块选择训练样本之前，还包括：

后端计算模块利用沙普利值法计算数据拥有者的本地隐私数据集中每一隐私数据对本地模型训练的贡献值；

根据每一隐私数据对应的贡献值，在前端视图模块中生成对应的训练样本推荐视图；所述训练样本推荐视图包括每一训练样本信息以及训练样本对本地模型训练的贡献值。

3.根据权利要求2所述的系统，其特征在于，所述后端计算模块利用沙普利值法计算数据拥有者的本地隐私数据集中每一隐私数据对本地模型训练的贡献值包括：

将每一隐私数据对本地模型训练的贡献值初始化为零；

随机打乱每一隐私数据在本地隐私数据集中的排序，得到打乱后的本地隐私数据集；

后端计算模块将数据拥有者的本地模型对应的本地模型初始化为所述全局模型，根据所述本地隐私数据集训练初始化后的本地模型，并计算训练好的本地模型的初始准确性；

将隐私数据从所述本地隐私数据集中移除，利用移除后的隐私数据集对本地模型进行训练，并计算隐私数据移除后对应的本地模型的准确性；

根据所述初始化准确性和每一隐私数据移除后对应的本地模型的准确性，得到每一隐私数据对本地模型训练的贡献值。

4.根据权利要求1所述的系统，其特征在于，所述模型遗忘分析算法包括：

将数据拥有者从前端视图模块选择的训练样本对应的训练集分成多个分片，根据每一所述分片进行分片模型训练，得到训练好的分片模型，聚合每一分片对应的所述分片模型，得到训练好的本地模型；

将所述每一分片分为多个分段，并在每一所述分段中进行增量训练；

当数据拥有者对所述训练集中的训练样本进行修改时，查找包含修改数据的分段，从所述分段的位置开始根据当前数据重新增量训练对应的分片模型，根据所述重新训练的分片模型更新所述训练好的本地模型。

5.根据权利要求1所述的系统，其特征在于，后端计算模块根据预先选择的攻击方式，对参与全局模型训练过程的本地模型进行攻击，并将攻击结果显示在所述前端视图模块中的步骤，包括：

后端计算模块根据预先选择的攻击方式，对所述本地模型进行攻击，并根据所述攻击方式下攻击成功的概率得到在所述攻击方式下每一训练样本对应的风险评分；

根据所述每一训练样本对应的风险评分，在所述前端视图模块中生成对应的隐私风险视图；所述隐私风险视图包括在每一所述攻击方式下每一训练样本对应的风险评分视图以及在多种所述攻击方式下每一训练样本对应的总体风险评分视图。

6.根据权利要求1所述的系统，其特征在于，所述后端计算模块采用差分隐私方式对所述本地模型进行隐私保护的步骤包括：

所述后端计算模块采用满足松弛差分隐私的高斯机制对所述本地模型进行隐私保护。

7.根据权利要求1所述的系统，其特征在于，所述数据拥有者根据所述攻击结果调节所述训练样本自定义接口包括：

数据拥有者根据所述攻击结果设置风险阈值，以过滤脆弱易受攻击的训练样本。