[发明专利]一种基于共享数据的模型训练方法及装置有效
申请号: | 201710650740.3 | 申请日: | 2017-08-02 |
公开(公告)号: | CN109388661B | 公开(公告)日: | 2020-04-21 |
发明(设计)人: | 赵沛霖;李龙飞;周俊;李小龙 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/23 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 陈蕾 |
地址: | 开曼群岛大开曼岛西湾路8*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 共享 数据 模型 训练 方法 装置 | ||
公开了一种基于共享数据的模型训练方法及装置。数据挖掘方可以根据多个数据提供方提供的数据进行联合训练,并且在模型训练过程中,具体的参数迭代更新的操作是在数据提供方完成,因此数据提供方并不需要向数据挖掘方提供具体数据、仅需将每次参数更新的结果上传至数据挖掘方。
技术领域
本说明书实施例涉及数据挖掘技术领域,尤其涉及一种基于共享数据的模型训练方法及装置。
背景技术
在大数据时代,通过对海量数据进行挖掘,可以获得各种形式的有用信息,因此数据的重要性不言而喻。不同的机构都拥有各自的数据,但是任何一家机构的数据挖掘效果,都会受限于其自身拥有的数据数量和种类。针对该问题,一种直接的解决思路是:多家机构相互合作,将数据进行共享,从而实现更好的数据挖掘效果,实现共赢。
然而对于数据拥有方而言,数据本身是一种具有很大价值的资产,而且出于保护隐私、防止泄露等需求,数据拥有方往往并不愿意直接把数据提供出来,这种状况导致“数据共享”在现实中很难实际运作。因此,如何在充分保证数据安全的前提下实现数据共享,已经成为行业内备受关注的问题。
发明内容
针对上述技术问题,本说明书实施例提供一种基于共享数据的模型训练方法及装置,技术方案如下:
根据本说明书实施例的第一方面,提供一种基于共享数据的模型训练方法,数据挖掘方以及至少1个数据提供方分别维护针对训练样本数据特征集的模型参数,其中:
数据挖掘方维护公用参数集Wglobal;每个数据提供方u分别维护自有参数集Wu;
所述方法包括:利用以下步骤进行迭代训练,直到满足模型训练要求:
数据提供方u从数据挖掘方下载公用参数,利用下载结果替换本地维护的自有参数集Wu;
利用本地数据以及模型参数更新算法,对替换后得到的自有参数集Wu进行更新;
将更新结果上传至数据挖掘方,使得数据挖掘方利用数据提供方上传的更新结果更新公用参数集Wglobal。
根据本说明书实施例的第二方面,提供一种基于共享数据的模型训练装置,数据挖掘方以及至少1个数据提供方分别维护针对训练样本数据特征集的模型参数,其中:
数据挖掘方维护公用参数集Wglobal;每个数据提供方u分别维护自有参数集Wu,;
所述装置包括以下用于实现迭代训练的模块:
公用参数下载模块,用于数据提供方u从数据挖掘方下载公用参数,利用下载结果替换本地维护的自有参数集Wu;
自有参数更新模块,用于利用本地数据以及模型参数更新算法,对替换后得到的自有参数集Wu进行更新;
更新结果上传模块,用于将更新结果上传至数据挖掘方,使得数据挖掘方利用数据提供方上传的更新结果更新公用参数集Wglobal。
根据本说明书实施例的第三方面,提供包括数据挖掘方装置以及至少1个数据提供方装置;
数据挖掘方装置和数据提供方装置分别维护针对训练样本数据特征集的模型参数,其中:
数据挖掘方维护公用参数集Wglobal;每个数据提供方u分别维护自有参数集Wu;
所述数据提供方装置包括以下用于实现迭代训练的模块:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710650740.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置