[发明专利]一种基于深度学习的自然语言生成方法在审

专利信息
申请号: 201810005504.0 申请日: 2018-01-03
公开(公告)号: CN108563624A 公开(公告)日: 2018-09-21
发明(设计)人: 王伟;郑海涛;陈金元;韩金新;肖喜 申请(专利权)人: 清华大学深圳研究生院
主分类号: G06F17/27 分类号: G06F17/27;G06F17/22;G06N3/04
代理公司: 深圳新创友知识产权代理有限公司 44223 代理人: 余敏
地址: 518055 广东*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种基于深度学习的自然语言生成方法,包括使用已有的新闻和评论对评论生成装置进行训练,训练阶段包括以下步骤:S1,将已有的新闻和评论中的词进行向量化处理,获取新闻中各词对应的词向量和评论中各词对应的词向量;S2,获取新闻中各词的隐藏状态向量;S3,获取评论中各词的隐藏状态向量;S4,对于评论中的各词均进行处理,得到各词的新的隐藏状态向量;S5,根据步骤S4得到的评论中各词的新的隐藏状态向量预测各词对应的下一个词:根据当前词的隐藏状态向量得到词表内选中各个词的概率,取概率最大的词作为生成的评论中的当前词的下一个词。本发明可针对给定的新闻生成对应的新闻评论,且评论中取词的准确性较高。
搜索关键词: 评论 隐藏状态 向量 自然语言生成 词向量 词表 生成装置 向量预测 新闻评论 新闻生成 训练阶段 向量化 概率 取词 选中 学习
【主权项】:
1.一种基于深度学习的自然语言生成方法,其特征在于:包括使用已有的新闻和评论对评论生成装置进行训练,所述训练阶段包括以下步骤:S1,将已有的新闻和评论中的词进行向量化处理,获取新闻中各词对应的词向量和评论中各词对应的词向量;S2,将新闻中各词对应的词向量输入双向循环的神经网络结构中,获取新闻中各词的隐藏状态向量;S3,将评论中的各词对应的词向量输入单向循环的神经网络结构中,获取评论中各词的隐藏状态向量;S4,对于评论中的各词均进行如下处理,得到各词的新的隐藏状态向量:S41,分析当前词与新闻中各个词之间的相似程度,根据相似程度对新闻各个词的隐藏状态向量加权相加,得到的值作为新闻上下文向量;S42,根据当前词的隐藏状态向量通过门函数计算得到一个位于0到1之间的概率值;S43,以所述概率值将步骤S41计算得到的新闻上下文向量更新到当前词的隐藏状态向量中,得到当前词的新的隐藏状态向量;S5,根据步骤S4得到的评论中各词的新的隐藏状态向量预测各词对应的下一个词:根据当前词的隐藏状态向量得到词表内选中各个词的概率,取概率最大的词作为生成的评论中的当前词的下一个词。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学深圳研究生院,未经清华大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201810005504.0/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top