[发明专利]文本摘要生成方法、装置、电子设备及存储介质在审
| 申请号: | 202111222471.3 | 申请日: | 2021-10-20 |
| 公开(公告)号: | CN113935328A | 公开(公告)日: | 2022-01-14 |
| 发明(设计)人: | 莫智文 | 申请(专利权)人: | 平安国际智慧城市科技股份有限公司 |
| 主分类号: | G06F40/295 | 分类号: | G06F40/295;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 深圳市赛恩倍吉知识产权代理有限公司 44334 | 代理人: | 严林;刘丽华 |
| 地址: | 518000 广东省深圳市前海深港合*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 摘要 生成 方法 装置 电子设备 存储 介质 | ||
1.一种文本摘要生成方法,其特征在于,所述方法包括:
获取多个语料文本,并提取每个所述语料文本中的第一命名实体;
基于所述语料文本及对应的第一命名实体生成训练文本,并基于多个所述训练文本训练BERT模型;
获取所述BERT模型输出的预测文本摘要,及获取所述预测文本摘要中的第二命名实体;
根据所述第一命名实体、所述预测文本摘要及所述第二命名实体生成整体风险损失值;
基于所述整体风险损失值优化所述BERT模型,得到文本摘要生成模型;
使用所述文本摘要生成模型生成目标文本的文本摘要。
2.如权利要求1所述的文本摘要生成方法,其特征在于,所述提取每个所述语料文本中的第一命名实体包括:
将所述语料文本中被选定的语料文本确定为训练集;
对所述训练集中的每个语料文本进行预处理;
对预处理后的语料文本进行命名实体标注,获得标注语料集;
构建基于BiLSTM-CRF和注意力机制的神经网络模型;
基于所述标注语料集对所述神经网络模型进行训练,得到命名实体识别模型;
使用所述命名实体识别模型识别所述语料文本中未被用户选定的语料文本的命名实体,得到所述第一命名实体。
3.如权利要求2所述的文本摘要生成方法,其特征在于,所述对所述训练集中的每个语料文本进行预处理包括:
对所述语料文本进行分词处理,得到多个关键词;利用预设词嵌入模型获取所述语料文本中每一个关键词的词向量;
所述对所述语料文本进行分词处理,得到多个关键词包括:根据预设词典对所述语料文本进行切分,得到多个切分路径及每个切分路径对应的多个切割分词;根据每个所述切割分词在所述预设词典中的分词权值计算得到每个所述切分路径的路径得分;根据所述路径得分,确定所述语料文本的多个关键词。
4.如权利要求3所述的文本摘要生成方法,其特征在于,在所述根据预设词典对所述语料文本进行切分之前,所述方法还包括:
获取领域文本集,所述领域文本集包括多个领域文本及多个领域关键词;
计算每个所述领域关键词在所述多个领域文本中的关键词数量;
根据所述关键词数量及所述多个领域文本的文本数量计算每个所述领域关键词的重要度;
根据所述领域关键词的重要度计算每个所述领域关键词的分词权值。
5.如权利要求2所述的文本摘要生成方法,其特征在于,所述基于所述标注语料集对所述神经网络模型进行训练,得到命名实体识别模型包括:
构建实体边界特征向量,所述实体边界特征向量包括实体起始位置标记向量和实体长度标记向量;
将所述语料文本的字向量、所述命名实体标签向量、所述实体起始位置标记向量和所述实体长度标记向量拼接后输入至所述神经网络模型的输入层;
将所述输入层得到的字向量输入至所述神经网络模型的BiLSTM层和注意力机制层;
在所述BiLSTM层获取所述字向量的双向特征向量;
在所述注意力机制层将表示所述字向量顺序的位置向量和所述双向特征向量进行拼接并分配权重系数,得到特征向量;
在所述神经网络模型的CRF层获取所述特征向量计算出的标注序列;
在所述神经网络模型的输出层输出所述标注序列;
基于所述标注序列迭代训练所述神经网络模型,直至达到预设迭代次数或者模型损失值满足预设条件,得到所述命名实体识别模型。
6.如权利要求1至5中任意一项所述的文本摘要生成方法,其特征在于,所述基于所述语料文本及对应的第一命名实体生成训练文本包括:
确定每个所述命名实体中的每个字符在对应的所述语料文本中的第一位置;
根据所述第一位置确定所述命名实体在对应的所述语料文本中的第二位置;
根据预设标识符,将所述语料文本及对应的命名实体和所述第二位置对应的位置字符进行拼接,得到训练文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安国际智慧城市科技股份有限公司,未经平安国际智慧城市科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111222471.3/1.html,转载请声明来源钻瓜专利网。





