[发明专利]基于异构图神经网络的文本摘要生成方法及系统在审
申请号: | 202111203728.0 | 申请日: | 2021-10-15 |
公开(公告)号: | CN114091429A | 公开(公告)日: | 2022-02-25 |
发明(设计)人: | 刘培玉;金盾;李亚辉;朱振方 | 申请(专利权)人: | 山东师范大学 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/258;G06F40/126;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 黄海丽 |
地址: | 250014 山*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 构图 神经网络 文本 摘要 生成 方法 系统 | ||
1.基于异构图神经网络的文本摘要生成方法,其特征是,包括:
获取待处理文档;将待处理文档的换转为对应的文档张量、句子张量和单词张量;
使用文档张量、句子张量和单词张量,对异构图网络的节点进行初始化;其中,异构图网络包括文档节点、句子节点和单词节点;
对异构图网络的节点进行迭代更新;
将迭代更新后的异构图网络的句子节点提取出来,对提取出的句子节点进行句间关系弥补;
根据弥补句间关系的句子,得到最终的摘要语句。
2.如权利要求1所述的基于异构图神经网络的文本摘要生成方法,其特征是,将待处理文档的换转为对应的文档张量、句子张量和单词张量;具体包括:
采用编码器,将待处理文档的换转为对应的文档张量、句子张量和单词张量。
3.如权利要求1所述的基于异构图神经网络的文本摘要生成方法,其特征是,对异构图网络的节点进行迭代更新;具体包括:
使用句子节点对文档节点进行更新;
使用文档节点对句子节点进行更新;
使用句子节点对单词节点进行更新;
使用单词节点对句子节点进行更新;
重复上述步骤。
4.如权利要求3所述的基于异构图神经网络的文本摘要生成方法,其特征是,使用句子节点对文档节点进行更新、使用文档节点对句子节点进行更新、使用句子节点对单词节点进行更新或者使用单词节点对句子节点进行更新,均采用图注意力网络来实现。
5.如权利要求1所述的基于异构图神经网络的文本摘要生成方法,其特征是,将迭代更新后的异构图网络的句子节点提取出来,对提取出的句子节点进行句间关系弥补;
使用双向门控循环单元,对提取出的句子节点进行句间关系弥补。
6.如权利要求1所述的基于异构图神经网络的文本摘要生成方法,其特征是,根据弥补句间关系的句子,得到最终的摘要语句;
根据弥补句间关系的句子,使用线性变化层进行处理,得到一个二维张量,所述二维张量表示一个句子被选为摘要的概率,选择概率大于设定阈值的一个或多个句子,得到最终的摘要语句。
7.如权利要求1所述的基于异构图神经网络的文本摘要生成方法,其特征是,所述方法,采用训练后的模型来实现;其中,模型,其结构包括:依次连接的编码器、图注意力网络、Bi-GRU层、线性变换层和输出层;
其中,训练后的模型,训练步骤包括:
构建训练集;所述训练集为已知摘要的文档;
将训练集输入到模型中,进行训练,当总损失函数不再下降时,停止训练,得到训练后的模型。
8.基于异构图神经网络的文本摘要生成系统,其特征是,包括:
转换模块,其被配置为:获取待处理文档;将待处理文档的换转为对应的文档张量、句子张量和单词张量;
初始化模块,其被配置为:使用文档张量、句子张量和单词张量,对异构图网络的节点进行初始化;其中,异构图网络包括文档节点、句子节点和单词节点;
更新模块,其被配置为:对异构图网络的节点进行迭代更新;
弥补模块,其被配置为:将迭代更新后的异构图网络的句子节点提取出来,对提取出的句子节点进行句间关系弥补;
生成模块,其被配置为:根据弥补句间关系的句子,得到最终的摘要语句。
9.一种电子设备,其特征是,包括:
存储器,用于非暂时性存储计算机可读指令;以及
处理器,用于运行所述计算机可读指令,
其中,所述计算机可读指令被所述处理器运行时,执行上述权利要求1-7任一项所述的方法。
10.一种存储介质,其特征是,非暂时性地存储计算机可读指令,其中,当所述非暂时性计算机可读指令由计算机执行时,执行权利要求1-7任一项所述方法的指令。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东师范大学,未经山东师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111203728.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种通用蛇形冷却管
- 下一篇:一种逆变器故障预警系统及方法