[发明专利]文本纠错方法、装置、计算机设备及存储介质

说明书

本申请实施例属于人工智能领域，涉及一种文本纠错方法，包括获取待处理文本和历史输出文本，根据预训练模型对待处理文本和历史输出文本进行编码，得到第一语义特征和第二语义特征；输入第一语义特征和第二语义特征至预设删除模型，计算得到目标删除字向量，得到第三语义特征；根据预设掩码模型对第三语义特征进行掩码预测，得到第四语义特征；输入第四语义特征至预设插入预测模型，得到第五语义特征，查找所述第五语义特征对应的词表，得到待处理文本对应的目标纠错文本。本申请还提供一种文本纠错装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，目标纠错文本可存储于区块链中。本申请实现了对文本的高效纠错。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种文本纠错方法、装置、计算机设备及存储介质。

背景技术

随着人工智能的高速发展，人工智能被广泛的应用在人们的生活中。尤其在语义处理领域，通常采用各类语义识别模型，对语义进行识别，从而实现智能对话，而无需人为的帮助。

在语义识别的纠错模型中，基于seq2seq的纠错模型往往使用自回归方式，其性能较差；而基于bert的纠错模型不支持可变长的情况，且不能很好的引入拼音信息，往往是在训练过程中通过对抗训练来引入训练的拼音预研模型，该模型较生硬，扩展难度高。由此最终导致，基于模型的文本纠错效率低下的技术问题。

发明内容

本申请实施例的目的在于提出一种文本纠错方法、装置、计算机设备及存储介质，以解决文本纠错效率低下的技术问题。

为了解决上述技术问题，本申请实施例提供一种文本纠错方法，采用了如下所述的技术方案：

获取待处理文本和历史输出文本，根据预设的预训练模型分别对所述待处理文本和所述历史输出文本进行编码，得到第一语义特征和第二语义特征；

获取预设纠错模型，其中，所述预设纠错模型包括预设删除模型、预设掩码模型和预设插入预测模型，输入所述第一语义特征和所述第二语义特征至所述预设删除模型，计算得到目标删除字向量，将删除所述目标删除字向量后的第一语义特征作为第三语义特征；

根据所述预设掩码模型对所述第三语义特征进行掩码预测，得到目标掩码位置，在所述第三语义特征的目标掩码位置插入预设的目标掩码，得到第四语义特征；

输入所述第四语义特征至所述预设插入预测模型，计算得到目标插入向量，将所述目标插入向量替换所述第四语义特征中的目标掩码，得到第五语义特征，查找所述第五语义特征对应的词表，得到所述待处理文本对应的目标纠错文本。

进一步的，所述根据所述预设掩码模型对所述第三语义特征进行掩码预测，得到目标掩码位置的步骤包括：

所述预设掩码模型包括两个自注意力层和两个前向网络层，根据所述自注意力层和所述前向网络层对所述第三语义特征进行计算，得到所述第三语义特征的目标掩码位置。

进一步的，在所述获取预设纠错模型的步骤之前，还包括：

创建基础纠错模型，所述基础纠错模型包括基础删除模型、基础掩码模型和基础插入预测模型；

采集多组纠错前文本和纠错后文本作为测试文本，其中，所述纠错后文本包括标准删除文本、标准掩码文本和标准插入文本；

根据所述纠错前文本和所述纠错后文本对所述基础纠错模型进行训练，计算得到总损失函数；

在所述总损失函数收敛时，确定所述基础纠错模型训练完成，将训练完成的基础删除模型、训练完成的基础掩码模型和训练完成的基础插入预测模型分别作为所述预设纠错模型的预设删除模型、预设掩码模型和预设插入预测模型。

进一步的，所述根据所述纠错前文本和所述纠错后文本对所述基础纠错模型进行训练，计算得到总损失函数的步骤包括：