[发明专利]段落的划分方法及装置有效
申请号: | 201711082718.X | 申请日: | 2017-11-07 |
公开(公告)号: | CN109753647B | 公开(公告)日: | 2022-11-04 |
发明(设计)人: | 姜珂 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279 |
代理公司: | 北京鼎佳达知识产权代理事务所(普通合伙) 11348 | 代理人: | 王伟锋;刘铁生 |
地址: | 100083 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 段落 划分 方法 装置 | ||
1.一种段落的划分方法,其特征在于,包括:
对待划分文章进行向量化处理得到段落向量,所述段落向量为使用一个数组表示一个自然段;
根据预先学习的段落分组模型,确定每个段落向量属于所述段落分组模型中每个段落分组的概率,其中,所述段落分组中至少包含一个自然段,所述段落分组模型是基于逻辑回归算法或支持向量机的段落分组模型;
将每个段落向量以及对应的概率输入隐马尔科夫模型,以便根据每个段落向量以及对应的概率确定隐含参数;
利用预设解码算法对所述隐含参数进行解码,得到每个段落属于段落分组的最大概率,根据所述最大概率对所述待划分文章执行段落划分;
将每个段落向量以及对应的概率输入隐马尔科夫模型,以便根据每个段落向量以及对应的概率确定隐含参数包括:
对隐马尔科夫模型中的初始状态概率矩阵进行初始化;
将每个段落向量以及对应的概率作为可见观测序列,记录于观测状态转移概率矩阵中;
计算每个自然段进行自转或者向后转的转移概率,将所述转移概率记录于所述隐含参数;
利用预设解码算法对所述隐含参数进行解码,得到每个段落属于段落分组的最大概率包括:
在所述隐含参数中计算转移可能的最大概率;
根据所述最大概率通过回溯的方式确定最优路径,完成所述待划分文章的段落划分。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取样本文章中进行段落分组的标记,确定每个段落分组中的信息要素;
对所述信息要素进行训练学习,得到训练函数,形成段落分组模型。
3.根据权利要求2所述的方法,其特征在于,对待划分文章进行向量化处理得到段落向量包括:
将所述待划分文章中每个自然段的字符使用数字表示,每个字符对应一个数字;
根据信息增益对所述数字进行计算得到预设数量的维度;
按照维度的信息熵大小进行排名,获取排名前N的维度,得到所述段落向量;其中,所述排名前N的维度作为段落向量的信息要素,记录于所述数组中。
4.根据权利要求3所述的方法,其特征在于,根据预先学习的段落分组模型,确定每个段落向量属于所述段落分组模型中每个段落分组的概率包括:
获取所述段落分组模型中的训练函数;其中,所述段落分组模型中的每个段落分组对应一个训练函数;
利用逻辑回归算法或者支持向量机,对所述段落向量进行回归;
计算每个段落向量属于所述每个段落分组对应的训练函数的概率。
5.一种段落划分的装置,其特征在于,包括:
处理单元,用于对待划分文章进行向量化处理得到段落向量,所述段落向量为使用一个数组表示一个自然段;
第一确定单元,用于根据预先学习的段落分组模型,确定所述处理单元得到的每个段落向量属于所述段落分组模型中每个段落分组的概率,其中,所述段落分组中至少包含一个自然段,所述段落分组模型是基于逻辑回归算法或支持向量机的段落分组模型;
输入单元,用于将每个段落向量以及对应的概率输入隐马尔科夫模型,以便根据每个段落向量以及对应的概率确定隐含参数;
解码单元,用于利用预设解码算法对所述隐含参数进行解码,得到每个段落属于段落分组的最大概率,根据所述最大概率对所述待划分文章执行段落划分;
所述输入单元包括:
初始化模块,用于对隐马尔科夫模型中的初始状态概率矩阵进行初始化;
处理模块,用于将每个段落向量以及对应的概率作为可见观测序列,记录于观测状态转移概率矩阵中;
计算模块,用于计算每个自然段进行自转或者向后转的转移概率,将所述转移概率记录于所述隐含参数;
所述解码单元包括:
计算模块,用于在所述隐含参数中计算转移可能的最大概率;
确定模块,用于根据所述最大概率通过回溯的方式确定最优路径,完成所述待划分文章的段落划分。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711082718.X/1.html,转载请声明来源钻瓜专利网。