[发明专利]一种基于自动编码的文本表示学习方法、系统及电子设备有效
申请号: | 201811287359.6 | 申请日: | 2018-10-31 |
公开(公告)号: | CN109582786B | 公开(公告)日: | 2020-11-24 |
发明(设计)人: | 曲强;杨敏 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36;G06F40/289 |
代理公司: | 深圳市科进知识产权代理事务所(普通合伙) 44316 | 代理人: | 曹卫良 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种基于自动编码的文本表示学习方法、系统及电子设备。该方法包括:步骤a:使用编码器对原始文本进行编码,生成原始文本编码后的向量表达,并通过编码矩阵输出编码后的文本;步骤b:随机删除所述原始文本中的词,并将被删除的词的词向量置0,将未被删除的词使用预训练好的词向量表示,得到新的文本;步骤c:将所述编码后的文本与新的文本输入到解码器中,并通过解码矩阵预测所述被删除的在时间片t的待预测词的向量表达。本申请采用字谜游戏的方法,结合基于神经网络的自动编码机制,生成给定文本更精确的向量表达。实验结果表明,本申请能提高文本分类、信息抽取等自然语言任务的准确率,改进自然语言处理任务的效果。 | ||
搜索关键词: | 一种 基于 自动 编码 文本 表示 学习方法 系统 电子设备 | ||
【主权项】:
1.一种基于自动编码的文本表示学习方法,其特征在于,包括以下步骤:步骤a:使用编码器对原始文本进行编码,生成原始文本编码后的向量表达,并通过编码矩阵输出编码后的文本;步骤b:随机删除所述原始文本中的词,并将被删除的词的词向量置0,将未被删除的词使用预训练好的词向量表示,得到新的文本;步骤c:将所述编码后的文本与新的文本输入到解码器中,并通过解码矩阵预测所述被删除的在时间片t的待预测词的向量表达。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811287359.6/,转载请声明来源钻瓜专利网。