[发明专利]一种基于区块链的联邦学习可信融合激励方法及系统有效
申请号: | 202211185889.6 | 申请日: | 2022-09-28 |
公开(公告)号: | CN115296927B | 公开(公告)日: | 2023-01-06 |
发明(设计)人: | 杨扬;张镇;王亚新;钱恒;刘伟 | 申请(专利权)人: | 山东省计算中心(国家超级计算济南中心) |
主分类号: | H04L9/40 | 分类号: | H04L9/40;H04L67/1097;G06F16/2458;G06N20/00 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 李圣梅 |
地址: | 250000 山*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 区块 联邦 学习 可信 融合 激励 方法 系统 | ||
本发明提供一种基于区块链的联邦学习可信融合激励方法及系统,涉及互联网技术领域,该方法包括:在多轮联邦学习过程中,获取各个参与节点的基础信用度和预设的节点等级临界值;针对每一轮迭代学习,根据参与节点的基础信用度和前一轮的信用度更新参与节点在当前轮迭代学习的信用度,通过比较节点等级临界值与信用度确定参与节点的等级,对预设等级的参与节点进行隔离并记录到区块链中;根据参与节点信用度以及相关属性信息,构建多属性融合数据的实体模型,将实体模型存储在区块链上。这样,可以解决联邦学习过程中参与节点消极搭便车、模型投毒攻击等问题,并且支持参与节点的实体级、属性级可信查询,为参与节点行为的量化评估提供依据。
技术领域
本发明属于互联网技术领域,尤其涉及一种基于区块链的联邦学习可信融合激励方法及系统。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成已经成为本领域一般技术人员所公知的现有技术。
互联网数据的处理过程通常包括以下方式,其中一方收集数据并将其传输到另一方,另一方负责整理和融合数据。最后,第三方将获取集成数据并构建模型,以供其他各方使用。随着对数据安全和用户隐私的意识日益增强,如何在加强数据隐私和安全性的前提下分析数据成为业内广泛关注的问题。
联邦学习是一种机器学习环境,在这种环境下,多个参与节点在中央服务器的协调下协同训练一个模型,同时保持训练数据的分散性。多个参与节点以模型参数作为信息载体,可以在不交换数据的情况下,共同训练模型,既将分散在各参与节点的数据孤岛进行链接,又保证了参与节点的数据隐私安全,可以带动跨领域企业级大数据合作,催生人工智能领域共享建模的新生态。
但是在实际应用中,联邦学习中各个参与节点目的不一,数据质量参差不齐,在缺乏一定激励方法的情况下,给恶意节点提供了破坏攻击的可能性,如参与节点消极搭便车、模型投毒攻击等恶意行为,这些恶意行为可能会影响模型的训练时间或致使模型无法收敛。在现有的技术方案中,更侧重于解决联邦学习中各参与节点的资源分配不均问题,缺乏对参与节点行为的量化评估,因而在实际应用中效果不佳。
发明内容
为了解决上述问题,本发明提供一种基于区块链的联邦学习可信融合激励方法及系统,通过在迭代学习过程中动态更新参与节点的信用度,以解决联邦学习模型训练中参与节点消极搭便车、模型投毒攻击等问题,实现多方参与节点高效可信的进行模型训练,并构建多属性融合数据的实体模型,以便于对参与节点进行实体级、属性级可信查询,从而实现对参与节点行为的量化评估。
为了实现上述目的,本发明主要包括以下几个方面:
第一方面,本发明实施例提供一种基于区块链的联邦学习可信融合激励方法,包括:
在多轮联邦学习过程中,获取各个参与节点的基础信用度和预设的节点等级临界值;
针对每一轮迭代学习,根据参与节点的基础信用度和前一轮的信用度更新参与节点在当前轮迭代学习的信用度,通过比较所述节点等级临界值与更新后的信用度确定参与节点的等级,对预设等级的参与节点进行隔离并记录到区块链中;根据参与节点更新后的信用度以及相关属性信息,构建多属性融合数据的实体模型,将所述实体模型存储在区块链上。
在一种可能的实施方式中,根据参与节点本地梯度对联邦学习全局梯度的贡献度和本地梯度的有效信息度,确定参与节点的基础信用度;其中,所述贡献度用于衡量本地梯度与联邦学习全局梯度的全局一致性,所述有效信息度用于衡量目标参与节点与联邦学习中除所述目标参与节点之外的其他参与节点所提供的梯度差异。
在一种可能的实施方式中,所述贡献度为参与节点本地更新梯度和前一轮联邦学习全局更新梯度的符号一致的数量,与联邦学习聚合的模型总参数量的比值。
在一种可能的实施方式中,通过以下方式确定所述有效信息度:
;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东省计算中心(国家超级计算济南中心),未经山东省计算中心(国家超级计算济南中心)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211185889.6/2.html,转载请声明来源钻瓜专利网。