[发明专利]文本纠错模型的训练方法、设备和存储介质

说明书

本发明涉及一种文本纠错模型的训练方法、设备和存储介质，方法包括基于从预设的多个伪标记规则中随机选取的伪标记规则，对获取的无标记数据中每条文本进行伪标记构造，得到与每条文本对应的伪标记文本；检测伪标记构造次数是否达到预设迭代次数；若所述伪标记构造次数达到所述预设迭代次数，将所有的伪标记文本作为伪标记数据，减少人工标注的工作，并增加了数据量；进而可以将所述伪标记数据和获取的已标记数据作为源端数据，将所述无标记数据作为目标端数据，并基于指针网络的序列到序列方法训练文本纠错模型，提高了文本纠错模型的训练效率。

技术领域

本发明涉及信息处理技术领域，具体涉及一种文本纠错模型的训练方法、设备和存储介质。

背景技术

文本纠错是计算机自然语言处理中的一个重要研究方向，通过计算机算法可以纠错文本中人为因素产生的错误，比如，错别字、错误语序等。

现有的生成式文本纠错模型通常需要收集较大规模的标注数据，然后训练端到端的生成式模型，从而能够实现从错误文本到正确文本的修正过程。

但是，对于医疗数据等本身数据量较小的文本而言，收集和标注数据需要耗费一定规模的时间和人力，降低了文本纠错模型的训练效率。

发明内容

本发明提供一种文本纠错模型的训练方法、设备和存储介质，以解决现有技术中生成的文本准确性较低、质量高较低的技术问题。

本发明解决上述技术问题的技术方案如下：

一种文本纠错模型的训练方法，包括：

基于从预设的多个伪标记规则中随机选取的伪标记规则，对获取的无标记数据中每条文本进行伪标记构造，得到与每条文本对应的伪标记文本；

检测伪标记构造次数是否达到预设迭代次数；

若所述伪标记构造次数达到所述预设迭代次数，将所有的伪标记文本作为伪标记数据；

将所述伪标记数据和获取的已标记数据作为源端数据，将所述无标记数据作为目标端数据，并基于指针网络的序列到序列方法训练文本纠错模型。

进一步地，上述所述的文本纠错模型的训练方法中，预设的多个伪标记规则包括：

在每条文本中每个词的位置以预设的第一概率随机删除至少一个字；和/或

在每条文本中每个词的位置以预设的第一概率随机插入至少一个字；和/或

将每条文本中每个词的位置按照正态分布添加噪声，并对添加噪声后的每个词重新进行排序；和/或

收集并构建音近字字典，并将每条文本中的每个词按照预设的第三概率替换成音近字；和/或

收集并构建形近字字典，并将每条文本中的每个词按照预设的第四概率替换成形近字；和/或

维持每条文本中每个词。

进一步地，上述所述的文本纠错模型的训练方法中，预设的多个伪标记规则包括在每条文本中每个词的位置以预设的第一概率随机插入至少一个字，所述方法还包括：

根据所述无标记数据中字符频率构建字表；

从所述字表中选取插入的至少一个字。

进一步地，上述所述的文本纠错模型的训练方法中，根据所述无标记数据中字符频率构建字表，包括：

将所述无标记数据中字符频率大于或等于预设阈值的字符作为目标字符；

根据所述目标字符构建所述字表。

进一步地，上述所述的文本纠错模型的训练方法中，基于指针网络的序列到序列方法训练文本纠错模型，包括：