[发明专利]面向公平性保障的联邦学习的模型优化方法及系统

说明书

本发明提供一种面向公平性保障的联邦学习的模型优化方法及系统，该方法包括：接收多个客户端发送的待优化分类模型的第一优化参数和待测试图像；计算各客户端的待优化分类模型在不同待测试图像上的准确率，获取所有客户端对应的准确率形成的贡献度矩阵；根据贡献度矩阵，得到各客户端对应的总准确率，根据各客户端对应的总准确率、第一数量和第二数量，以及所有客户端对应的总准确率之间的方差，构建优化模型；根据优化模型的最优解，为各客户端分配第二优化参数，以供各客户端根据第二优化参数对待优化分类模型进行优化。本发明实现全面提高所有客户端优化后的待优化分类模型的性能，保证服务器和客户端组成的分布系统可长久稳定地持续下去。

技术领域

本发明涉及计算机技术领域，尤其涉及一种面向公平性保障的联邦学习的模型优化方法及系统。

背景技术

联邦学习是一个分布式学习框架，能有效地帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模，从而得到了广泛的关注。

联邦学习是一个多方协作的系统，每个参与者参与进来的动力是能拿到一个比本地训练更好的模型，为了保证该系统能够长久且稳定地持续下去，需要进一步保证这个系统的公平性。因此，在联邦学习场景中，如何实现公平性是目前亟待解决的问题。

为了解决上述问题，已有许多针对公平性的联邦学习方法，这些方法关于公平性的定义可以划分成两大类：一类属于机会公平；一类属于结果公平。例如，相关学者提到的公平性属于机会公平，通过设计一个信用评估机制实现机会公平，该机制下的客户端以“赚取和支付”的方式交换参数信息。每个客户端上会存储本地信任值，用于表示其他客户端在该客户端的上的信用级别以及用于下载其他客户端参数的积分。客户端可通过上传自己的参数信息赚取积分，并用赚来的积分与其他客户端进行参数交换。另外，有一些学者考虑了结果公平，提出了q-FFL(q-Fair Federated Learning，q-Fair联邦学习)的目标函数，用于动态分配目标函数中客户端的权重，对于表现差的客户端会分配更高的权重，由此保证所有客户端的准确率相差较小，从而实现了结果公平。

上述机会公平表示的是付出与回报成正比，即提供越好参数的客户端，其模型准确率应该要越好。上述结果公平表示的是所有参与联邦学习的客户端最终的准确率要基本一致，不能相差太大。

上述现有考虑公平性的联邦学习方法，要么只考虑了机会公平，要么只考虑了结果公平，机会公平对能力强的客户端有利，结果公平对能力弱的客户端有利。然而，在一个联邦学习的系统中，客户端之间的能力往往是参差不齐的，单单只考虑其中一种公平性，无法使得所有的客户端均获取性能良好的模型参数，进而难以保证该系统能够长久且稳定地持续下去。

发明内容

本发明提供一种面向公平性保障的联邦学习的模型优化方法及系统，用以解决现有技术中联邦学习仅考虑机会公平或结果公平性，无法使得所有的客户端均获取性能良好的模型参数，进而难以保证系统能够长久且稳定地持续下去的缺陷，实现对所有客户端的模型参数进行准确优化。

本发明提供一种面向公平性保障的联邦学习的模型优化方法，包括：

接收多个客户端发送的待优化分类模型的第一优化参数和待测试图像，得到多组不同的第一优化参数和待测试图像；

计算各客户端发送的第一优化参数对应的待优化分类模型在不同待测试图像上的准确率，并将所有客户端对应的准确率形成的矩阵作为贡献度矩阵；

根据所述贡献度矩阵，得到各客户端对应的总准确率，并根据各客户端对应的总准确率、第一数量和第二数量，以及所有客户端对应的总准确率之间的方差，构建对各客户端进行参数分配的优化模型；其中，所述第一数量为预分配给各客户端的第一优化参数的数量；所述第二数量为将各客户端上传的第一优化参数预分配给其他客户端的数量；