[发明专利]摘要生成模型的训练方法、装置、电子设备及存储介质在审
申请号: | 202110198839.0 | 申请日: | 2021-02-22 |
公开(公告)号: | CN115017297A | 公开(公告)日: | 2022-09-06 |
发明(设计)人: | 付曦燕 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/34 | 分类号: | G06F16/34;G06F16/35;G06K9/62 |
代理公司: | 北京智信四方知识产权代理有限公司 11519 | 代理人: | 钟文芳 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 摘要 生成 模型 训练 方法 装置 电子设备 存储 介质 | ||
1.一种摘要生成模型的训练方法,其中,包括:
获取训练文本,并利用摘要生成模型获取所述训练文本的摘要;
针对所述训练文本和所述摘要执行相同的预测任务,分别得到文本预测结果和摘要预测结果;
根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练。
2.根据权利要求1所述的方法,其中,所述预测任务包括:
根据所述训练文本中的前n-1个句子生成所述训练文本的第n个句子;
根据所述摘要中的前n-1个句子生成所述训练文本的第n个句子;
其中,n为大于1的整数。
3.根据权利要求2所述的方法,其中,所述根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练,包括:
根据所述训练文本中的第n个句子、所述预测任务分别根据所述摘要和所述训练文本生成的第n个句子两两之间的相似度,对所述摘要生成模型进行自监督训练。
4.根据权利要求1所述的方法,其中,所述预测任务包括:
根据所述训练文本在包括所述训练文本中第m个句子的多个候选句子中筛选出与所述第m个句子相似度最高的第一句子;
根据所述摘要从所述多个候选句子中筛选与所述第m个句子相似度最高的第二句子;
其中,m为大于1的整数。
5.根据权利要求4所述的方法,其中,所述根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练,包括:
根据所述第m个句子、第一句子和所述第二句子两两之间的相似度,对所述摘要生成模型进行自监督训练。
6.根据权利要求1-5中任一项所述的方法,其中,所述利用摘要生成模型获取所述训练文本的摘要,包括:
利用所述摘要生成模型从所述训练文本中抽取句子形成摘要;或者,
利用所述摘要生成模型从所述训练文本中抽取单词形成摘要。
7.一种摘要生成模型的训练方法,其中,包括:
获取训练文本集;其中,所述训练文本集包括多个训练文本;
调用第一预设服务接口,以便由所述预设服务接口利用摘要生成模型获取所述训练文本的摘要,针对所述训练文本和所述摘要执行相同的预测任务,分别得到文本预测结果和摘要预测结果,以及根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练;
输出所述摘要生成模型。
8.一种摘要生成方法,其中,包括:
获取文本;
将所述文本输入至摘要生成模型,生成所述文本对应的摘要;其中,所述摘要生成模型利用权利要求1-7任一项所述的方法训练得到。
9.一种摘要生成方法,其中,包括:
获取对话文本;
调用第二预设服务接口,以便由所述第二预设服务接口将所述对话文本输入至摘要生成模型,并生成所述对话文本对应的摘要;所述摘要生成模型利用权利要求1-7任一项所述的方法训练得到;
输出所述摘要。
10.一种摘要生成模型的训练装置,其中,包括:
第一获取模块,被配置为获取训练文本,并利用摘要生成模型获取所述训练文本对应的摘要;
第一预测模块,被配置为针对所述训练文本和所述摘要执行相同的预测任务,分别得到文本预测结果和摘要预测结果;
训练模块,被配置为根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110198839.0/1.html,转载请声明来源钻瓜专利网。