[发明专利]摘要生成模型的训练方法、装置、电子设备及存储介质

说明书

本公开实施例公开了一种摘要生成模型的训练方法、装置、电子设备及存储介质，所述方法包括：针对所述训练文本和所述摘要执行相同的预测任务，分别得到文本预测结果和摘要预测结果；根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练。该技术方案能够提高摘要生成模型的训练效率，降低人工成本；并且在生成摘要的过程中由于不使用额外的文本辅助要点，能够增加摘要生成模型的普适性。

技术领域

本公开涉及计算机技术领域，具体涉及一种摘要生成模型的训练方法、装置、电子设备及存储介质。

背景技术

随着时间的推移，人们在生活和工作中产生了越来越多的文本数据。在一些应用场景下，为了能够了解相关文本数据中的内容，需要花费大量的人力物力阅读这些文本数据，效率低下，并且成本较高。例如，在司法场景下，庭审过程中产生的对话内容均会被记录为文本数据，为了便于相关人员了解庭审过程，在庭审结束后需要对该文本数据进行总结，生成案件相关的事实认定，而据不完全统计，每年的受理案件高达千万件，人工形成上述事实认定效率极低。而其他行业也存在同样的问题，会议结束后进行人工归纳总结耗费较大。因此，如何采用智能的方式对文本数据进行总结，高效地获得文本数据对应的摘要是当前需要解决的技术问题之一。

发明内容

本公开实施例提供一种摘要生成模型的训练方法、装置、电子设备及计算机可读存储介质。

第一方面，本公开实施例中提供了一种摘要生成模型的训练方法，其中，包括：

获取训练文本，并利用摘要生成模型获取所述训练文本的摘要；

针对所述训练文本和所述摘要执行相同的预测任务，分别得到文本预测结果和摘要预测结果；

根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练。

进一步地，所述预测任务包括：

根据所述训练文本中的前n-1个句子生成所述训练文本的第n个句子；

根据所述摘要中的前n-1个句子生成所述训练文本的第n个句子；

其中，n为大于1的整数。

进一步地，所述根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练，包括：

根据所述训练文本中的第n个句子、所述预测任务分别根据所述摘要和所述训练文本生成的第n个句子两两之间的相似度，对所述摘要生成模型进行自监督训练。

进一步地，所述预测任务包括：

根据所述训练文本在包括所述训练文本中第m个句子的多个候选句子中筛选出与所述第m个句子相似度最高的第一句子；

根据所述摘要从所述多个候选句子中筛选与所述第m个句子相似度最高的第二句子；

其中，m为大于1的整数。

进一步地，所述根据所述文本预测结果和所述摘要预测结果对所述摘要生成模型进行自监督训练，包括：

根据所述第m个句子、第一句子和所述第二句子两两之间的相似度，对所述摘要生成模型进行自监督训练。

进一步地，所述利用摘要生成模型获取所述训练文本的摘要，包括：

利用所述摘要生成模型从所述训练文本中抽取句子形成摘要；或者，

利用所述摘要生成模型从所述训练文本中抽取单词形成摘要。

第二方面，本发明实施例中提供了一种摘要生成模型的训练方法，其中，包括：

获取训练文本集；其中，所述训练文本集包括多个训练文本；