[发明专利]文本纠错训练语料的获取方法、装置及电子设备在审
| 申请号: | 202210537412.3 | 申请日: | 2022-05-17 |
| 公开(公告)号: | CN114781386A | 公开(公告)日: | 2022-07-22 |
| 发明(设计)人: | 桂睿;马芸;曹宇慧;黄硕;陈永锋 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/216;G06F40/30;G06N3/04;G06N3/08 |
| 代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 单冠飞 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 纠错 训练 语料 获取 方法 装置 电子设备 | ||
1.一种文本纠错训练语料的获取方法,包括:
获取参考纠错模型及初始训练语料,其中,所述参考纠错模型为基于通用领域语料训练生成的,所述初始训练语料中包括目标领域的待纠错文本及对应的标注文本;
将所述待纠错文本输入所述参考纠错模型,以获取多个预测文本及每个预测文本中每个位置的预测字符对应的第一概率;
根据所述多个预测文本、每个位置的预测字符对应的第一概率及所述标注文本,确定所述待纠错文本中的待改写字符及改写模式;
基于所述改写模式,对所述待改写字符进行改写,以获取所述目标领域对应的更新后的文本纠错训练语料。
2.如权利要求1所述的方法,其中,所述根据所述多个预测文本、每个位置的预测字符对应的第一概率及所述标注文本,确定所述待纠错文本中的待改写字符及改写模式,包括:
根据所述预测文本与所述标注文本的匹配度、及每个位置的预测字符对应的第一概率,确定所述标注文本中每个位置标注字符对应的第一目标概率;
根据每个位置对应的最大第一概率与第一目标概率的差值,确定每个位置对应的第一错误概率;
根据所述待纠错文本中每个位置对应的第一错误概率,确定所述待纠错文本中的待改写字符及改写模式。
3.如权利要求1所述的方法,其中,所述初始训练语料中还包括所述待纠错文本对应的第一拼音序列及所述标注文本对应的第二拼音序列,所述将所述待纠错文本输入所述参考纠错模型,以获取多个预测文本及每个预测文本中每个位置的预测字符对应的第一概率,包括:
将所述待纠错文本及所述第一拼音序列输入所述参考纠错模型,以获取多个预测文本、每个所述预测文本中每个位置的预测字符对应的第一概率、多个预测拼音序列及每个所述预测拼音序列中每个位置的预测拼音对应的第二概率。
4.如权利要求3所述的方法,其中,所述根据所述多个预测文本、每个位置的预测字符对应的第一概率及所述标注文本,确定所述待纠错文本中的待改写字符及改写模式,包括:
根据所述预测文本与所述标注文本的匹配度、及每个位置的预测字符对应的第一概率,确定所述标注文本中每个位置标注字符对应的第一目标概率;
根据每个位置对应的最大第一概率与第一目标概率的差值,确定每个位置对应的第一错误概率;
根据所述预测拼音序列与所述第二拼音序列的匹配度、及每个位置的预测拼音对应的第二概率,确定所述第二拼音序列中每个位置的第二拼音对应的第二目标概率;
根据每个位置对应的最大第二概率与第二目标概率的差值,确定每个位置对应的第二错误概率;
根据所述待纠错文本中每个位置对应的第一错误概率及第二错误概率,确定所述待纠错文本和/或所述第一拼音序列中的待改写位置,及改写模式。
5.如权利要求3所述的方法,其中,所述将所述待纠错文本及所述第一拼音序列输入所述参考纠错模型,包括:
确定所述第一拼音序列中每个字符对应的拼音子序列;
将每个所述拼音子序列进行聚合,以确定每个字符对应的拼音向量;
将所述待纠错文本中每个字符对应的字符向量与拼音向量进行融合,以获取每个字符对应的融合向量;
将所述待纠错文本对应的融合向量输入所述参考纠错模型。
6.如权利要求1-5任一所述的方法,其中,所述基于所述改写模式,对所述待改写字符进行改写,以获取所述目标领域对应的更新后的文本纠错训练语料,包括:
获取所述待改写字符对应的混淆字符集、及所述混淆字符集中每个混淆字符在所述目标领域的分布概率;
根据所述每个混淆字符在所述目标领域的分布概率,确定所述待改写字符对应的目标字符;
利用所述目标字符,替换所述待改写字符,以生成更新后的文本纠错训练语料。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210537412.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:大口径真空高压控制阀
- 下一篇:一种健美操力量训练装置





