[发明专利]一种大数据跨领域分析的深度迁移学习方法在审
申请号: | 201711184963.1 | 申请日: | 2017-11-23 |
公开(公告)号: | CN107704926A | 公开(公告)日: | 2018-02-16 |
发明(设计)人: | 龙明盛;王建民;树扬;黄向东 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司11002 | 代理人: | 王莹,吴欢燕 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 领域 分析 深度 迁移 学习方法 | ||
1.一种大数据跨领域分析的深度迁移学习方法,其特征在于,包括:
确定第一联合概率分布与第二联合概率分布之间的联合分布差异,所述第一联合概率分布为源域的样本在深度网络的所有任务相关层中的特征以及标签之间的联合概率分布,所述第二联合概率分布为目标域的样本在所述深度网络的所有任务相关层中的特征以及标签之间的联合概率分布,所述任务相关层为所述深度网络的上层;
确定对所述源域的样本的分类错误率;
根据所述联合分布差异和所述分类错误率,确定所述深度网络的损失函数的值;
基于所述损失函数的值,更新所述深度网络的参数,以使所述深度网络适配所述目标域。
2.根据权利要求1所述的方法,其特征在于,所述确定第一联合概率分布与第二联合概率分布之间的联合分布差异,包括:
确定所述第一联合概率分布,确定所述第二联合概率分布;
通过计算所述第一联合概率分布和所述第二联合概率分布在可再生核希尔伯特空间中的核嵌入之间的欧式距离的平方,获取所述联合分布差异;
其中,联合概率分布在可再生核希尔伯特空间中的核嵌入的表达式如下:
其中,x表示样本在任务相关层中的特征,φ(x)表示样本在任务相关层中的特征在可再生核希尔伯特空间的映射函数,ΩX表示样本在任务相关层中的特征的定义域,y表示标签,ψ(y)表示标签在可再生核希尔伯特空间的映射函数,ΩY表示标签的定义域,P(x,y)表示样本在任务相关层中的特征以及标签之间的联合概率分布。
3.根据权利要求2所述的方法,其特征在于,所述确定第一联合概率分布,包括:
将所述源域的样本输入到所述深度网络作正向传播,获取所述源域的样本在所述深度网络的每一任务相关层中的特征;
将所述源域的样本在所述深度网络的所有任务相关层中的特征和所述源域的标签作为第一数据集,将所述第一数据集满足的概率分布作为所述第一联合概率分布。
4.根据权利要求2所述的方法,其特征在于,所述确定第二联合概率分布,包括:
将所述目标域的样本输入到所述深度网络作正向传播,获取所述目标域的样本在所述深度网络的每一任务相关层中的特征,输出对所述目标域中缺少标签的样本的预测标签;
将所述目标域的样本在所述深度网络的所有任务相关层中的特征、所述目标域的标签和所述预测标签作为第二数据集,将所述第二数据集满足的概率分布作为所述第二联合概率分布。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711184963.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置