[发明专利]文本的处理方法、装置、电子设备及可读存储介质在审
申请号: | 202111607020.1 | 申请日: | 2021-12-24 |
公开(公告)号: | CN114417834A | 公开(公告)日: | 2022-04-29 |
发明(设计)人: | 蚁韩羚;李圆法;余晓填;王孝宇 | 申请(专利权)人: | 深圳云天励飞技术股份有限公司 |
主分类号: | G06F40/232 | 分类号: | G06F40/232;G06F40/30;G06F40/216;G06F16/35 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 左婷兰 |
地址: | 518000 广东省深圳市龙岗区园山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 装置 电子设备 可读 存储 介质 | ||
1.一种文本的处理方法,其特征在于,所述方法包括:
对待处理的第一文本进行错误检测;
若经错误检测确定所述第一文本存在错误且所述错误属于第一错误类型,则从多个纠错模型中,确定与所述第一错误类型对应的第一纠错模型,所述多个纠错模型中的不同纠错模型能够对不同错误类型的错误文本进行纠错;
通过所述第一纠错模型对所述第一文本进行纠错处理,输出候选文本;
根据所述候选文本,确定目标文本。
2.如权利要求1所述的方法,其特征在于,所述根据所述候选文本,确定目标文本,包括:
分别确定所述第一文本的困惑度和所述候选文本的困惑度;
从所述第一文本和所述候选文本中,选择困惑度最小的文本;
将从所述第一文本和所述候选文本中选择的文本,确定为所述目标文本。
3.如权利要求1所述的方法,其特征在于,所述通过所述第一纠错模型对所述第一文本进行纠错处理,输出候选文本之后,还包括:
继续对当前得到的候选文本进行错误检测;
若得到的候选文本中存在错误,则从所述多个纠错模型中,确定与得到的候选文本的第二错误类型对应的第二纠错模型,所述第二错误类型是通过错误检测确定;
通过所述第二纠错模型对得到的候选文本进行纠错处理,再次得到候选文本,并返回至所述继续对当前得到的候选文本进行错误检测的操作,直到得到的候选文本中不存在错误时,结束操作。
4.如权利要求1-3中任一项所述的方法,其特征在于,所述第一错误类型包括替换错误类型、缺字错误类型、缺词错误类型、倒置错误类型中的任意一种,其中,所述替换错误类型是指文本内容被同音词、同音字、形近字、近音字中的任一种替换,所述倒置错误类型是指文本内容的位置发生颠倒。
5.如权利要求4所述的方法,其特征在于,若所述第一错误类型为所述替换错误类型,则所述第一纠错模型为替换纠错模型;
所述替换纠错模型的训练方式包括:
获取第一训练样本集,所述第一训练样本集中包括多个第一样本数据对,每个第一样本数据对包括正确语句样本和所述正确语句样本对应的替换错误语句样本,所述替换错误语句样本是对所述正确语句样本中的部分文本内容按照同音词、同音字、形近字、近音字中的任一种方式进行替换后生成的;
基于所述第一训练样本集,对经过预训练的第一Macbert模型进行训练,以得到所述替换纠错模型。
6.如权利要求4所述的方法,其特征在于,若所述第一错误类型为所述缺字错误类型,则所述第一纠错模型为缺字纠错模型;
所述缺字纠错模型的训练方式包括:
获取第二训练样本集,所述第二训练样本集中包括多个第二样本数据对,每个第二样本数据对包括完整语句样本和所述完整语句样本对应的缺字错误语句样本,所述缺字错误语句样本是将所述完整语句样本中的字进行删除处理后生成的;
基于所述第二训练样本集,对经过预训练的第二Macbert模型进行训练,以得到所述缺字纠错模型。
7.如权利要求4所述的方法,其特征在于,若所述第一错误类型为所述置换错误类型,则所述第一纠错模型为置换纠错模型;
所述置换纠错模型的训练方式包括:
获取第三训练样本集,所述第三训练样本集中包括多个第三样本数据对,每个第三样本数据对包括正确语句样本和所述正确语句样本对应的置换错误语句样本,所述置换错误语句样本是对所述正确语句样本中的部分文本内容进行位置置换后生成的;
基于所述第三训练样本集,对经过预训练的第三Macbert模型进行训练,以得到所述置换纠错模型。
8.如权利要求1所述的方法,其特征在于,所述对待处理的第一文本进行错误检测,包括:
调用错误诊断模型,所述错误诊断模型能够检测出任意一个错误文本的错误类型;
通过所述错误诊断模型,对所述第一文本进行错误检测,以确定所述第一错误类型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术股份有限公司,未经深圳云天励飞技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111607020.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种恒定张力牵引和储缆绞车控制系统
- 下一篇:压力锅调压阀