[发明专利]一种云边端协同个性化联邦学习方法、系统、设备及介质

权利要求书

1.一种云边端协同个性化联邦学习方法，其特征在于，所述云边端协同个性化联邦学习方法包括：

获取多个客户端的终端设备产生的数据样本和所有客户端构成的图结构；

获取所述数据样本的特征矩阵表示和邻接矩阵表示，并根据所述特征矩阵表示和所述邻接矩阵表示，获得所述数据样本的特征张量和邻接张量；

根据所述邻接张量和所述特征张量，对所述多个客户端的终端设备进行聚类，获得多组客户端终端设备；

构建云边端协同个性化联邦学习的目标函数和特征图，并根据所述目标函数和特征图，对每组客户端终端设备进行个性化模型训练，更新每组客户端终端设备的个性化模型的参数；

根据所述个性化模型的参数、所述特征图和所述图结构，通过图卷积神经网络进行聚合，获得每个客户端的全局模型和个性化模型。

2.根据权利要求1所述的云边端协同个性化联邦学习方法，其特征在于，所述根据所述邻接张量和所述特征张量，对所述多个客户端的终端设备进行聚类，获得多组客户端终端设备，包括：

根据注意力机制和图卷积神级网络，构建基于深度注意力机制的自编码器；

采用所述自编码器获取所述客户端的隐藏嵌入表征；

将所述隐藏嵌入表征、所述特征矩阵表示和所述邻接矩阵表示输入至所述图卷积神级网络中，获得重构图；

根据所述图结构和所述重构图，构建重构损失函数；其中，G表示所述重构图，A表示所述图结构；

基于所述隐藏嵌入表征，采用K-means方法获取聚类中心，并获取各个客户端的软标签分配，所述软标签分配是各个客户端归于某个类的概率分布；

根据所述聚类中心，通过增强节点特征提升所述软标签分配的置信度，获得新的目标分布：

其中，表示将客户端i划分为簇u的概率，表示所述客户端i划分为簇k的概率，表示基于新的目标分布将相似客户端划分到同一簇中的概率；

根据所述软标签分配和所述新的目标分布之间相对熵值构造聚类损失函数：；

根据所述聚类损失函数和所述重构损失函数，在所述基于节点张量的图聚类方法训练完成后，获得多组客户端终端设备。

3.根据权利要求1所述的云边端协同个性化联邦学习方法，其特征在于，在所述对每组客户端终端设备进行个性化模型训练之前，所述云边端协同个性化联邦学习方法还包括：

采用ISMOTE方法对少样本数量的每组客户端终端设备进行样本分析和构造，获得可预测标签。

4.根据权利要求3所述的云边端协同个性化联邦学习方法，其特征在于，所述采用ISMOTE方法对少样本数量的每组客户端终端设备进行样本分析和构造，获得可预测标签，包括：

通过编码器将每个终端设备中的高维数据映射为低维数据；

采用欧式距离计算所述低维数据中的当前样本与其余样本的距离，获得多个邻近样本；

基于整体数据不平衡的比例设置采样倍率，在所述当前样本邻近的所述多个邻近样本中选择预设数量的样本，并在所述预设数量的样本上构建新样本；

对所述新样本采用多层感知机输出可预测标签。

5.根据权利要求1所述的云边端协同个性化联邦学习方法，其特征在于，所述个性化联邦学习的目标函数包括：

其中，表示第m个客户端的局部目标，表示本地模型参数，R()和U()表示正则化函数，R()表示控制边缘服务器的局部模型趋向云端的中心服务器的全局模型，U()表示控制客户端的个性化模型趋向所述中心服务器的全局模型，表示在总体数据样本下损失最小的全局模型，E表示联邦训练参与者的图结构信息，表示基于两个客户端个性化模型参数和的相似矩阵，表示正则化函数的系数，表示限制图中邻居节点模型参数的距离，表示的系数。

6.根据权利要求5所述的云边端协同个性化联邦学习方法，其特征在于，在根据所述个性化模型的参数、所述特征图和所述图结构，通过图卷积神经网络进行聚合，获得每个客户端的全局模型和个性化模型之前，所述云边端协同个性化联邦学习方法还包括：

基于客户端特征信息，构建无监督学习的特征图自动编码器；

通过所述无监督学习的特征图自动编码器将高维稀疏数据表征为特征图形式。