[发明专利]一种基于信息熵的联邦学习参与方权重计算方法

说明书

本发明公开了一种基于信息熵的联邦学习参与方权重计算方法，解决了现有针对分布式工业控制系统的入侵检测技术中，当某个参与方的模型由于数据毒化等问题出现偏移时，经过协调方聚合后带偏其他参与方的模型，进而影响整体检测准确率的问题。该方法采用多因子综合评价的方式计算客户端的权重，通过信息熵计算多个因子对客户端贡献度的作用程度，将各客户端本轮次的贡献度归一化后作为本轮次的权重信息，相较其他方法更加合理，聚合后的模型准确率更高。本发明利用该方法在聚合端对不同模型性能的客户端分配了不同权重，有效的解决了工业控制系统中训练数据毒化的问题，避免了一个客户端模型出现偏差进而影响其他客户端模型性能的问题。

技术领域

本发明涉及一种基于信息熵的联邦学习参与方权重计算方法，该发明面向工业控制系统，属于入侵检测领域。

背景技术

近几年来，各种工业控制系统(Industrial Control System,ICS)正在快速地从封闭孤立的系统走向开放便利的互联网，伴随着网络技术的飞速发展，工业控制系统不再局限于单一封闭的系统，逐渐呈现分布式管理形态，即通过中心总控室管理分布在全国各地的工控厂商。传统的防范攻击者入侵工业控制系统的方法一般为过提取攻击者的攻击特征利用机器学习进行攻击检测。利用机器学习进行入侵检测可以很好的防范攻击者的入侵行为，然而假若攻击者少量多次地向一个工控系统厂商注入错误的训练数据，导致训练数据毒化，将会使该ICS的训练模型出现严重偏移，进一步导致检测结果出现较大错误。

联邦学习是一种新兴的分布式学习方法，它构建的是基于分布在多个设备上的数据集的机器学习模型，主要用来保障数据的隐私性问题，多用于金融领域。传统的联邦学习在聚合端进行模型聚合时采用的是无差别平均算法，无法根据不同客户端的模型性能结果给予不同权重。现有针对客户端权重的计算方法多为单因子计算，仅根据客户端模型正确率计算分配权重，单一维度的权重分配方式不能综合考虑多个因子的作用结果，缺乏灵活性。

本发明首次将联邦学习应用于解决工业控制领域的数据毒化问题，提出一种基于信息熵的联邦学习参与方权重计算方法，该方法采用多因子综合评价的方式计算客户端的权重，相较其他方法更加合理，聚合后的模型准确率更高。

发明内容

本发明提供了一种基于联邦学习中客户端权值分配的入侵检测方法，该发明面向工业控制系统，解决了现有针对分布式工业控制系统的入侵检测技术中，当某个参与方的模型由于数据毒化等问题出现偏移时，经过协调方聚合后带偏其他参与方的模型，进而影响整体检测准确率的问题。

本发明提出的入侵检测方法，在协调方能依据各参与方模型准确率情况，给予其不同的权值，在进行模型聚合时，按照各参与方的权值信息进行聚合。这样不仅可以将某个参与方的优良模型参数分配给其他参与方，同时还能将出现模型偏移现象的某个参与方的劣质模型剔除训练，防止其参数影响其他参与方。

本发明将联邦学习技术应用在分布式工业控制系统中，该分布式工业控制系统是由一个总控中心和分布在各地的ICS厂商组成，总控中心负责协调各地ICS的工作。在本发明中，将各地ICS厂商作为联邦学习的客户端参与方，负责本地的模型训练；将总控中心作为联邦学习的服务端协调方，负责聚合并更新下发的全局参数。在训练开始时，由所有客户端参与方在本地完成各自的模型训练，经若干次迭代后，将模型参数上传给服务端协调方。服务端协调方将所有参与方上传的模型参数根据聚合算法进行聚合，得到并更新全局模型参数。之后协调方将得到的新的模型参数下发给各个参与方，所有参与方从协调方下载更新后的全局模型参数后保存到本地，作为本地模型参数继续进行迭代训练。

本发明采取如下技术方案实现：

步骤1上传局部模型参数