[发明专利]文章相似度挖掘方法、系统、设备及存储介质在审
申请号: | 201711385538.9 | 申请日: | 2017-12-20 |
公开(公告)号: | CN109948121A | 公开(公告)日: | 2019-06-28 |
发明(设计)人: | 王颖帅;李晓霞;苗诗雨 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F17/22 | 分类号: | G06F17/22;G06F17/27 |
代理公司: | 上海弼兴律师事务所 31283 | 代理人: | 薛琦;张冉 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 相似度 向量 预处理 存储介质 特征向量 用户浏览 特征词 权重 挖掘 提取特征 用户推荐 用户文章 归一化 停用词 分词 偏好 词语 阅读 改进 | ||
1.一种文章相似度挖掘方法,其特征在于,包括:
S1、对多篇文章进行预处理,获取每篇文章的特征词;
S2、基于TF-IDF计算所述特征词的TF-IDF权重;
S3、根据所述TF-IDF权重生成每篇文章的归一化的特征向量;
S4、计算任意两个所述特征向量的相似度。
2.如权利要求1所述的文章相似度挖掘方法,其特征在于,步骤S1具体包括:
S11、读取多篇文章,并清洗所述文章;
S12、基于分词词库对已清洗的所述文章进行分词;
S13、基于停用词词库对已分词的所述文章去停用词;
S14、基于特征词词库对已去停用词的所述文章进行特征词提取。
3.如权利要求2所述的文章相似度挖掘方法,其特征在于,步骤S12具体包括:基于分词词库对已清洗的所述文章采用隐马尔可夫模型进行分布式分词。
4.如权利要求2所述的文章相似度挖掘方法,其特征在于,所述文章相似度挖掘方法还包括:在步骤S14前,将IDF值大于预设权重阈值的词和/或将自定义词作为特征词,并更新到所述特征词词库。
5.如权利要求1所述的文章相似度挖掘方法,其特征在于,步骤S2中TF-IDF权重的计算公式如下:
其中,
表示第t个特征词的归一化词频权重;
表示第t个特征词的归一化逆向文件频率权重;
ct表示第t个特征词的词频,表示n篇文章中所有特征词的总词频,n表示文章总篇数,dt表示含有第t个特征词的文章篇数,α为常数,α取值为0~1。
6.如权利要求1所述的文章相似度挖掘方法,其特征在于,步骤S4中计算任意两个所述特征向量的相似度的方法包括余弦内积、Pearson相似系数、Jaccard相似系数和余弦相似度中的任意一种方法。
7.如权利要求1所述的文章相似度挖掘方法,其特征在于,步骤S4还包括将所述特征向量及计算出的相似度存储于大数据平台,所述文章相似度挖掘方法还包括:
S5、当接收到用户请求目标文章时,从所述大数据平台中获取所述目标文章;
S6、根据所述目标文章与所述大数据平台中其他文章之间的相似度按相似度从高到低排序形成所述用户的推荐文章队列;
S7、从所述推荐文章队列中提取相似度大于预设相似度阈值的文章作为推荐文章,当所述推荐文章的数量小于预设推荐数量时,还从与所述用户上一次点击的文章的相似度大于所述预设相似度阈值的文章中按相似度从高到低提取文章追加为所述推荐文章,然后将所述推荐文章按所述预设推荐数量向所述用户推荐和展示。
8.如权利要求7所述的文章相似度挖掘方法,其特征在于,所述文章相似度挖掘方法还包括:在步骤S7前,记录所述用户的偏好主题,将与所述偏好主题的文章的相似度大于所述预设相似度阈值的文章按相似度从高到低更新到所述推荐文章队列中。
9.如权利要求1所述的文章相似度挖掘方法,其特征在于,所述文章相似度挖掘方法还包括:
根据配置参数,将新增文章按步骤S1–S4处理后衔接更新到大数据平台。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711385538.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于二元化的简历解析方法
- 下一篇:输入文本的纠错方法、装置及电子设备