[发明专利]一种基于集成学习的线上内容热度预测方法有效
申请号: | 201811295404.2 | 申请日: | 2018-11-01 |
公开(公告)号: | CN109344319B | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 龙飞;许美霞;李玉垒 | 申请(专利权)人: | 中国搜索信息科技股份有限公司 |
主分类号: | G06F16/953 | 分类号: | G06F16/953;G06F16/33;G06N3/08 |
代理公司: | 北京市盛峰律师事务所 11337 | 代理人: | 于国富 |
地址: | 100000 北京市大兴*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 集成 学习 线上 内容 热度 预测 方法 | ||
1.一种基于集成学习的线上内容热度预测方法,其特征在于,包括以下步骤:
S1,预测预料的选择与爬取;
S2,对爬取语料进行预处理;
S3,对预处理后的语料向量化,确定热度阈值;
S4,模型训练与集成;
所述步骤S4具体包括以下步骤:
S41,选取训练模型,根据单个模型的训练结果选择结果最好的2-3个模型;
S42,对选择的基础模型进行集成学习;
S43,对于需要预测的线上内容,首先向量化其标题、话题和内容,采用已训练好的模型进行预测;
步骤S42所述的集成学习包括以下内容:
当话题向量o是p维的o=[o1,o2,…,op],内容向量c是q维的c=[c1,c2,…,cq],标题向量t也是q维的t=[t1,t2,…,tq],输入变量x=[o,c,t]=[o1,o2,…,op,c1,c2,…,cq,t1,t2,…,tq],为了体现内容和标题对文章热度的贡献,使用x=[o,c’,t’]替代[o,c,t],其中c’=αc,t’=(1-α)t,其中α为贡献参数,热度阈值τ可由训练数据信息源的热度分布决定;
设定从互联网获取的线上内容数据的全集为D={d1,d2,…,dn},其中di为包含题目和内容的文章,每个基础模型的训练集相同,都为U={d1,d2,…,dm},其中mn;相应地,测试集V=D-U;其中k个基础模型可视为k个函数F1-Fk;每个函数Fi都可以在训练集U上使用随机梯度下降得以训练;参数α和τ都需要在训练前确定。
2.根据权利要求1所述的基于集成学习的线上内容热度预测方法,其特征在于,所述步骤S1具体包括以下步骤:
S11,确定训练语料爬取的数据来源,选择数据来源时需要考虑数据来源的访问量,数据源与需要预测内容的相似度;
S12,确定需要爬取的内容框架,包括爬取标题和内容;
S13,确定用于预测热度的衡量参数;
S14,编写爬虫爬取相应的内容,并保存至相应的数据库中。
3.根据权利要求2所述的基于集成学习的线上内容热度预测方法,其特征在于,所述步骤S13中用于预测热度的衡量参数包括点击数、评论数、点赞数和转发数。
4.根据权利要求1所述的基于集成学习的线上内容热度预测方法,其特征在于,所述步骤2具体包括以下步骤:
S21,将爬取的语料采用simhash法计算相似度,并删除重复的语料;
S22,利用停用词典将语料中的停用词去掉。
5.根据权利要求4所述的基于集成学习的线上内容热度预测方法,其特征在于,步骤S22中所述的停用词为没有实际意义的连接词或语尾助词。
6.根据权利要求1所述的基于集成学习的线上内容热度预测方法,其特征在于,所述步骤S3具体包括以下步骤:
S31,根据使用场景的具体需求和数据源的数据特性确定热度阈值,选定热度的评价标准;
S32,将语料主题采用话题产生模型进行向量化,可根据语料内容自动区分语料的主题,并将所述语料向量化;采用Doc2vec将语料的内容和标题进行向量化,并与主题向量联合为训练模型的输入向量。
7.根据权利要求6所述的基于集成学习的线上内容热度预测方法,其特征在于,步骤S32中话题产生模型需要根据语料指定话题的种类,包括娱乐、体育、教育和科技中的至少一个。
8.根据权利要求1所述的基于集成学习的线上内容热度预测方法,其特征在于,所述训练集选自与预测内容相近的并且有热度标识的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国搜索信息科技股份有限公司,未经中国搜索信息科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811295404.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:用于处理信息的方法和装置
- 下一篇:一种基于Apriori的图书推荐方法