[发明专利]一种基于互信息的中文纠错方法、装置、设备及存储介质有效
申请号: | 201710817047.0 | 申请日: | 2017-09-12 |
公开(公告)号: | CN107608963B | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 何朋;罗欢;权圣 | 申请(专利权)人: | 马上消费金融股份有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/232;G06F40/216 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静 |
地址: | 401121 重庆市渝北区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 互信 中文 纠错 方法 装置 设备 存储 介质 | ||
1.一种基于互信息的中文纠错方法,其特征在于,包括:
获得待纠错的目标短句;
对所述目标短句进行分词处理,获得分词序列;
确定所述分词序列对应的拼音组合序列,所述拼音组合序列中每个拼音组合与所述分词序列中每个分词一一顺序对应;具体的,将所述分词序列中的每一个分词转化为每一个分词对应的包含语调的全拼、或每一个分词对应的全拼、或每一个分词对应的首字母形式之中的任意一种或多种形式的拼音组合,得到分词序列对应的所述拼音组合序列;
基于所述拼音组合序列中每个拼音组合映射的同音词语,获得纠错词语序列集合;
根据互信息计算公式对所述纠错词语序列集合中每一个纠错词语序列,计算该纠错词语序列中每一个词语与相邻词语的互信息;
将该纠错词语序列中每一个词语与相邻词语的互信息进行累加,获得该纠错词语序列的互信息;
将所述纠错词语序列集合中互信息最大的纠错词语序列确定为所述目标短句的纠错结果。
2.根据权利要求1所述的基于互信息的中文纠错方法,其特征在于,针对该纠错词语序列中每一个词语,通过以下步骤计算该词语与相邻词语的互信息:
基于预先获得的语料库,确定该词语的词频、该词语与相邻词语的搭配组合的搭配频率;
根据所述词频和所述搭配频率,确定该词语与相邻词语的互信息。
3.根据权利要求1所述的基于互信息的中文纠错方法,其特征在于,所述目标短句为根据预设的断句符号,对待纠错的文本中的长句进行断句后获得的。
4.一种基于互信息的中文纠错装置,其特征在于,包括:
目标短句获得模块,用于获得待纠错的目标短句;
分词序列获得模块,用于对所述目标短句进行分词处理,获得分词序列;
拼音组合序列确定模块,用于确定所述分词序列对应的拼音组合序列,所述拼音组合序列中每个拼音组合与所述分词序列中每个分词一一顺序对应;具体的,将所述分词序列中的每一个分词转化为每一个分词对应的包含语调的全拼、或每一个分词对应的全拼、或每一个分词对应的首字母形式之中的任意一种或多种形式的拼音组合,得到分词序列对应的所述拼音组合序列;
纠错词语序列集合获得模块,用于基于所述拼音组合序列中每个拼音组合映射的同音词语,获得纠错词语序列集合;
互信息计算模块,用于针对所述纠错词语序列集合中每一个纠错词语序列,计算该纠错词语序列中每一个词语与相邻词语的互信息;并将该纠错词语序列中每一个词语与相邻词语的互信息进行累加,获得该纠错词语序列的互信息;
纠错结果确定模块,用于将所述纠错词语序列集合中互信息最大的纠错词语序列确定为所述目标短句的纠错结果。
5.根据权利要求4所述的基于互信息的中文纠错装置,其特征在于,所述互信息计算模块,针对该纠错词语序列中每一个词语,通过以下步骤计算该词语与相邻词语的互信息:
基于预先获得的语料库,确定该词语的词频、该词语与相邻词语的搭配组合的搭配频率;
根据所述词频和所述搭配频率,确定该词语与相邻词语的互信息。
6.根据权利要求4或5所述的基于互信息的中文纠错装置,其特征在于,所述目标短句为根据预设的断句符号,对待纠错的文本中的长句进行断句后获得的。
7.一种基于互信息的中文纠错设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至3任一项所述基于互信息的中文纠错方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至3任一项所述基于互信息的中文纠错方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710817047.0/1.html,转载请声明来源钻瓜专利网。