[发明专利]文本通顺度的确定方法、目标模型的训练方法及装置

权利要求书

1.一种文本通顺度的确定方法，包括：

将待测文本包含的K个目标对象输入包含N个处理层的目标模型，得到所述待测文本中的K个目标对象的概率值；其中，K为大于等于1的整数，N为大于等于2的整数；

基于所述待测文本中所述K个目标对象的概率值，确定所述待测文本的通顺度预测结果；

其中，所述将待测文本包含的K个目标对象输入包含N个处理层的目标模型，得到所述待测文本中的K个目标对象的概率值，包括：

将所述待测文本包含的第i个目标对象输入包含所述N个处理层的所述目标模型，得到所述N个处理层中的第j个处理层输出的所述第i个目标对象的第j个概率分布；其中，i为大于等于1且小于等于K的整数；j为大于等于1且小于N的整数；

在所述第i个目标对象的所述第j个概率分布满足预设条件的情况下，基于所述第i个目标对象的所述第j个概率分布，确定所述第i个目标对象的概率值。

2.根据权利要求1所述的方法，其中，所述方法还包括：

在所述第i个目标对象的所述第j个概率分布不满足所述预设条件的情况下，将由所述第j个处理层得到的第j个特征表示输入到所述N个处理层中的第j+1个处理层，所述第j个特征表示用于表征所述待测文本的特征信息。

3.根据权利要求1或2所述的方法，其中，所述方法还包括：

基于所述第i个目标对象的所述第j个概率分布，确定所述第j个概率分布的相关参数值；

在所述第j个概率分布的所述相关参数值小于预设阈值的情况下，确定所述第i个目标对象的所述第j个概率分布满足所述预设条件。

4.根据权利要求3所述的方法，其中，所述方法还包括：

确定所述待测文本的业务需求，其中，不同的所述业务需求对应不同的所述预设阈值；

根据所述业务需求确定所述预设阈值。

5.一种目标模型的训练方法，包括：

将训练文本包含的K个目标对象中第i个目标对象输入包括N个处理层的目标模型，得到所述N个处理层中的第j个处理层输出的所述第i个目标对象的概率分布；基于所述第i个目标对象的所述第j个概率分布，确定所述第i个目标对象的概率值；其中，K为大于等于1的整数，N为大于等于2的整数；i为大于等于1且小于等于K的整数；j为大于等于1且小于N的整数；

根据所述K个目标对象分别对应的前N-1个处理层的所述概率值，以及所述K个目标对象分别对应的所述N-1个处理层的拟合到真实标签的概率值，确定损失函数；

基于所述损失函数进行反向传导更新所述目标模型。

6.根据权利要求5所述的方法，其中，所述根据所述K个目标对象分别对应的前N-1个处理层的所述概率值，以及所述K个目标对象分别对应的所述N-1个处理层的拟合到真实标签的概率值，确定损失函数，包括：

根据所述K个目标对象分别对应的前N-1个处理层的所述概率值，以及所述训练样本中所述K个目标对象的参考概率值，确定所述K个目标对象分别对应的所述前N-1个处理层对应的所述概率值与所述训练样本中所述K个目标对象的参考概率值之间的相对熵；

根据所述K个目标对象分别对应的所述前N-1个处理层的所述概率值，确定所述K个目标对象分别对应的所述前N-1个处理层的拟合到所述目标对象的真实标签的概率的交叉熵；

根据所述相对熵和所述交叉熵确定所述损失函数。