[发明专利]领域语言模型构建方法、装置、计算机设备及存储介质在审
申请号: | 202010669031.1 | 申请日: | 2020-07-13 |
公开(公告)号: | CN112002310A | 公开(公告)日: | 2020-11-27 |
发明(设计)人: | 张旭华;齐欣;孙泽明;朱林林;王宁 | 申请(专利权)人: | 苏宁云计算有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06 |
代理公司: | 北京市万慧达律师事务所 11111 | 代理人: | 张慧娟 |
地址: | 210000 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 领域 语言 模型 构建 方法 装置 计算机 设备 存储 介质 | ||
1.一种领域语言模型构建方法,其特征在于,所述方法包括:
将通用语言模型转换为等价的第一WFSA网络;
根据预设数目的领域语料,从所述第一WFSA网络中筛选出满足预设条件的最优路径,以构造第二WFSA网络;
对所述第二WFSA网络进行归一化,并将归一化后的所述第二WFSA网络转换为领域语言模型。
2.根据权利要求1所述的方法,其特征在于,所述根据预设数目的领域语料,从所述第一WFSA网络中筛选出满足预设条件的最优路径,以构造第二WFSA网络,包括:
针对每一个所述领域语料,在所述第一WFSA网络中搜索出预设数量的候选最优路径;以及
在所述预设数量的候选最优路径中,筛选出所述领域语料对应的最优路径,其中,所述最优路径的每个状态节点的发射弧上的概率均超过预设阈值;
根据各个所述领域语料对应的最优路径,构造所述第二WFSA网络。
3.根据权利要求2所述的方法,其特征在于,所述针对每一个所述领域语料,在所述第一WFSA网络中搜索出预设数量的候选最优路径,包括:
针对每一个所述领域语料,将所述领域语料输入所述第一WFSA网络中进行搜索,得到所述领域语料对应的多个候选路径及各所述候选路径的路径概率;
对所述领域语料对应的多个所述候选路径按照路径概率从高至低的顺序进行排序,将排序在前预设数量位的候选路径作为所述领域语料的候选最优路径。
4.根据权利要求1至3任一所述的方法,其特征在于,所述对所述第二WFSA网络进行归一化,包括:
根据所述第二WFSA网络中的每个状态节点的发射弧数以及各个发射弧上的概率,对所述第二WFSA网络中每个状态节点的所有发射弧上的概率进行归一化。
5.根据权利要求1所述的方法,其特征在于,所述通用语言模型、所述领域语言模型均为N-Gram语言模型。
6.一种领域语言模型构建装置,其特征在于,所述装置包括:
第一转换模块,用于将通用语言模型转换为等价的第一WFSA网络;
构造模块,用于根据预设数目的领域语料,从所述第一WFSA网络中筛选出满足预设条件的最优路径,以构造第二WFSA网络;
归一化模块,用于对所述第二WFSA网络进行归一化;
第二转换模块,用于将归一化后的所述第二WFSA网络转换为领域语言模型。
7.根据权利要求6所述的装置,其特征在于,所述构造模块包括:
搜索子模块,用于针对每一个所述领域语料,在所述第一WFSA网络中搜索出预设数量的候选最优路径;
筛选子模块,用于在所述预设数量的候选最优路径中,筛选出所述领域语料对应的最优路径,其中,所述最优路径的每个状态节点的发射弧上的概率均超过预设阈值;
构造子模块,用于根据各个所述领域语料对应的最优路径,构造所述第二WFSA网络。
8.根据权利要求7所述的装置,其特征在于,所述搜索子模块具体用于:
针对每一个所述领域语料,将所述领域语料输入所述第一WFSA网络中进行搜索,得到所述领域语料对应的多个候选路径及各所述候选路径的路径概率;
对所述领域语料对应的多个所述候选路径按照路径概率从高至低的顺序进行排序,将排序在前预设数量位的候选路径作为所述领域语料的候选最优路径。
9.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5中任一项所述的领域语言模型构建方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5中任一项所述的领域语言模型构建方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏宁云计算有限公司,未经苏宁云计算有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010669031.1/1.html,转载请声明来源钻瓜专利网。