[发明专利]一种基于停用词的相似文档查询方法无效
申请号: | 201210461090.5 | 申请日: | 2012-11-15 |
公开(公告)号: | CN102937994A | 公开(公告)日: | 2013-02-20 |
发明(设计)人: | 林述民 | 申请(专利权)人: | 北京锐安科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京君尚知识产权代理事务所(普通合伙) 11200 | 代理人: | 余功勋 |
地址: | 100044 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 用词 相似 文档 查询 方法 | ||
1.一种基于停用词的相似文档查询方法,其步骤包括:
1)将待查询的两文档进行归一化处理,去除文档中所有非中文字字符信息;所述两文档,其一为待查文档,另一取自一个或多个数据源;或两文档为从一个或多个数据源中提取的两文档,
2)根据分词词典对所述两个文档进行分词操作,将该些文档转化成词汇流;
3)在所述词汇流中按照书写习惯提取得到停用词;
4)将所述停用词后面的正常语义词和该停用词组合成分段信息指纹;
5)把所述分段信息指纹分别汇总形成所述两个文档的中指纹标识,并放入信息指纹库中进行比对;
6)对所述信息指纹库中指纹标识相似度进行计算,得到所述两个文档的相似度值;
7)将相似度值大于设定阈值的两文档作为相似文档,按照设定方式输出所有或部分相似文档。
2.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述分段信息指纹通过唯一记数器记录。
3.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述停用词中按照书写习惯由左到右进行提取同时去掉连续的重复词。
4.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述正常语义词选用至少一个以上。
5.如权利要求1或4所述的基于停用词的相似文档查询方法,其特征在于,所述正常语义词选用2个。
6.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述信息指纹库通过用户计算机保存至本地或上传到远端服务器。
7.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述停用词通过连续提取得到。
8.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述字符信息包括:中文标点、符号乱码。
9.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述指纹库中指纹标识相似度通过jaccard相似性算法计算。
10.如权利要求1所述的基于停用词的相似文档查询方法,其特征在于,所述指纹库中指纹标识相似度通过Euclidean Distances或Cosine Distance方法计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司,未经北京锐安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210461090.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据处理系统
- 下一篇:包含无数据的栅格数据写入及读取的方法及装置