[发明专利]一种基于深度学习的自然语言生成方法在审
申请号: | 201810005504.0 | 申请日: | 2018-01-03 |
公开(公告)号: | CN108563624A | 公开(公告)日: | 2018-09-21 |
发明(设计)人: | 王伟;郑海涛;陈金元;韩金新;肖喜 | 申请(专利权)人: | 清华大学深圳研究生院 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F17/22;G06N3/04 |
代理公司: | 深圳新创友知识产权代理有限公司 44223 | 代理人: | 余敏 |
地址: | 518055 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于深度学习的自然语言生成方法,包括使用已有的新闻和评论对评论生成装置进行训练,训练阶段包括以下步骤:S1,将已有的新闻和评论中的词进行向量化处理,获取新闻中各词对应的词向量和评论中各词对应的词向量;S2,获取新闻中各词的隐藏状态向量;S3,获取评论中各词的隐藏状态向量;S4,对于评论中的各词均进行处理,得到各词的新的隐藏状态向量;S5,根据步骤S4得到的评论中各词的新的隐藏状态向量预测各词对应的下一个词:根据当前词的隐藏状态向量得到词表内选中各个词的概率,取概率最大的词作为生成的评论中的当前词的下一个词。本发明可针对给定的新闻生成对应的新闻评论,且评论中取词的准确性较高。 | ||
搜索关键词: | 评论 隐藏状态 向量 自然语言生成 词向量 词表 生成装置 向量预测 新闻评论 新闻生成 训练阶段 向量化 概率 取词 选中 学习 | ||
【主权项】:
1.一种基于深度学习的自然语言生成方法,其特征在于:包括使用已有的新闻和评论对评论生成装置进行训练,所述训练阶段包括以下步骤:S1,将已有的新闻和评论中的词进行向量化处理,获取新闻中各词对应的词向量和评论中各词对应的词向量;S2,将新闻中各词对应的词向量输入双向循环的神经网络结构中,获取新闻中各词的隐藏状态向量;S3,将评论中的各词对应的词向量输入单向循环的神经网络结构中,获取评论中各词的隐藏状态向量;S4,对于评论中的各词均进行如下处理,得到各词的新的隐藏状态向量:S41,分析当前词与新闻中各个词之间的相似程度,根据相似程度对新闻各个词的隐藏状态向量加权相加,得到的值作为新闻上下文向量;S42,根据当前词的隐藏状态向量通过门函数计算得到一个位于0到1之间的概率值;S43,以所述概率值将步骤S41计算得到的新闻上下文向量更新到当前词的隐藏状态向量中,得到当前词的新的隐藏状态向量;S5,根据步骤S4得到的评论中各词的新的隐藏状态向量预测各词对应的下一个词:根据当前词的隐藏状态向量得到词表内选中各个词的概率,取概率最大的词作为生成的评论中的当前词的下一个词。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学深圳研究生院,未经清华大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810005504.0/,转载请声明来源钻瓜专利网。
- 上一篇:一种有痕阅卷的方法和系统
- 下一篇:医疗文本命名实体识别方法和装置