[发明专利]生成式文本摘要系统和方法

权利要求书

1.一种用于生成式文本摘要模型的方法，包括：

接收输入文本数据集；

为将被选择以包括在文本摘要中的一个或多个候选单词扩大搜索空间，其中使用最佳优先搜索算法对搜索空间内包括的所述一个或多个候选单词进行排名；和

使用软界限单词奖励（SBWR）算法对将包括在文本摘要中的所述一个或多个候选单词重新排名，其中当文本摘要超过预测长度阈值时，SBWR算法将递减的奖励值应用于所述一个或多个候选单词，并且其中当文本摘要在预测长度阈值以下时，SBWR算法将增加的奖励值应用于所述一个或多个候选单词。

2.根据权利要求1所述的方法，其中当文本摘要等于预测长度阈值时，SBWR算法选择所述一个或多个候选单词。

3.根据权利要求1所述的方法，其中SBWR算法使用以下公式操作：。

4.根据权利要求1所述的方法，进一步包括：使用sigmoid函数使递减的奖励值和增加的奖励值平滑。

5.根据权利要求1所述的方法，进一步包括：使用被训练来选择将包括在文本摘要中的所述一个或多个候选单词的值来对递减的奖励值和增加的奖励值进行缩放。

6.根据权利要求1所述的方法，当输入文本数据集超过预定义长度阈值时，对所述一个或多个候选单词进行重新排名。

7.根据权利要求1所述的方法，进一步包括：计算BP标准化，所述BP标准化将惩罚应用于不满足预测长度阈值的所述一个或多个候选单词。

8.根据权利要求7所述的方法，其中通过将简短惩罚的对数值与长度标准化评分函数相加来计算所述BP标准化。

9.根据权利要求8所述的方法，其中所述简短惩罚被设计成使得生成式文本摘要模型不从输入文本数据集产生短翻译。

10.根据权利要求8所述的方法，其中，所述简短惩罚包括将简短惩罚降低到零的复制率值。

11.根据权利要求1所述的方法，进一步包括：使用变换器神经模型来训练生成式文本摘要模型。

12.根据权利要求11所述的方法，其中所述变换器神经模型包括编码器机器学习算法和解码器机器学习算法。

13.根据权利要求12所述的方法，进一步包括：将输入文本数据集输入到编码器机器学习算法；以及向解码器机器学习算法输入目标摘要文本数据集。

14.根据权利要求13所述的方法，其中所述变换器神经模型使用一个或多个源标记来确定用于一个或多个目标摘要标记的概率值。

15.根据权利要求14所述的方法，其中所述变换器神经模型基于以下等式使用所述一个或多个源标记来确定用于所述一个或多个目标摘要标记的概率值：。

16.一种可操作来采用生成式文本摘要模型的系统，包括：

存储器，可操作来存储输入文本数据集；

处理器，可操作用于：

为将被选择以包括在文本摘要中的一个或多个候选单词扩大搜索空间，其中使用最佳优先搜索算法对搜索空间内包括的所述一个或多个候选单词进行排名；和

使用软边界单词奖励（SBWR）算法对将包括在文本摘要中的所述一个或多个候选单词重新排名，其中当文本摘要超过预测长度阈值时，SBWR算法将递减的奖励值应用于所述一个或多个候选单词，并且其中当文本摘要在预测长度阈值以下时，SBWR算法将增加的奖励值应用于所述一个或多个候选单词。

17.根据权利要求16所述的系统，其中当文本摘要等于预测长度阈值时，SBWR算法选择所述一个或多个候选单词。