[发明专利]一种网页文本信息的监控方法、装置及设备在审

专利信息
申请号: 202011277891.7 申请日: 2020-11-16
公开(公告)号: CN114510919A 公开(公告)日: 2022-05-17
发明(设计)人: 孙洋;粟栗;张星;杭小勇;郭斯栩;耿慧拯 申请(专利权)人: 中国移动通信有限公司研究院;中国移动通信集团有限公司
主分类号: G06F40/205 分类号: G06F40/205;G06F16/958;G06K9/62
代理公司: 北京银龙知识产权代理有限公司 11243 代理人: 许静;曹娜
地址: 100053 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 网页 文本 信息 监控 方法 装置 设备
【权利要求书】:

1.一种网页文本信息的监控方法,其特征在于,包括:

获得网络上的待检测网页;

调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本;

在所述待检测网页并非为网络上的相似文本时,获得所述待检测网页的网页数据文本块;

将所述网页数据文本块写入区块链中。

2.根据权利要求1所述的网页文本信息的监控方法,其特征在于,所述方法还包括:在所述待检测网页为网络上的相似文本时,丢弃所述待检测网页。

3.根据权利要求1所述的网页文本信息的监控方法,其特征在于,所述预设智能合约包括网页解析合约和内容相似度比较合约,调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本,包括:

通过所述网页解析合约解析所述待检测网页的网页正文,形成网页结构体;所述网页结构体包括网页文本内容;

通过所述内容相似度比较合约,将所述网页文本内容转化为指纹,根据所述指纹计算所述待检测网页与网络上文本的海明距离;

在所述海明距离大于或等于预设距离值时,确定所述待检测网页并非为网络上的相似文本;在所述海明距离小于所述预设距离值时,确定所述待检测网页为网络上的相似文本。

4.根据权利要求3所述的网页文本信息的监控方法,其特征在于,所述预设智能合约还包括信息价值评估合约,所述网页结构体还包括网页信息来源和网页时间;所述方法还包括:

通过所述信息价值评估合约,根据所述网页信息来源评估网页文本内容的价值,获得价值评估;

根据所述网页时间确定时间戳;

其中,所述网页数据文本块包括所述网页文本内容的指纹、所述时间戳和所述价值评估。

5.根据权利要求3所述的网页文本信息的监控方法,其特征在于,通过所述网页解析合约解析所述待检测网页的网页正文,形成网页结构体,包括:

所述网页解析合约检测所述待检测网页是否符合为文本类网页的响应条件;

在所述待检测网页为符合文本类网页的响应条件时,所述网页解析合约根据所述待检测网页的布局类型对所述待检测网页的网页正文进行解析,形成网页结构体。

6.根据权利要求5所述的网页文本信息的监控方法,其特征在于,所述网页解析合约根据所述待检测网页的布局类型对所述待检测网页的网页正文进行解析,包括:

采用与所述待检测网页的布局类型对应的网页解析合约,对所述待检测网页的网页正文进行解析。

7.根据权利要求4所述的网页文本信息的监控方法,其特征在于,通过所述信息价值评估合约,根据所述网页信息来源评估网页文本内容的价值,获得价值评估,包括:

所述信息价值评估合约依据所述网页信息来源确定的网站性质,采用与所述网站性质相对应的信息价值评估函数,评估网页文本内容的价值,获得价值评估。

8.根据权利要求3所述的网页文本信息的监控方法,其特征在于,通过所述内容相似度比较合约,将所述网页文本内容转化为指纹,根据所述指纹计算所述待检测网页与网络上文本的海明距离,包括:

所述内容相似度比较合约通过simhash算法将所述网页文本内容转化为指纹;

将所述指纹的二进制数据与网络上文本的指纹的二进制数据进行比较,确定所述海明距离。

9.一种网页文本信息的监控装置,其特征在于,包括:

获取模块,用于获得网络上的待检测网页;

分析模块,用于调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本;

数据模块,用于在所述待检测网页并非为网络上的相似文本时,获得所述待检测网页的网页数据文本块;

输出模块,用于将所述网页数据文本块写入区块链中。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信有限公司研究院;中国移动通信集团有限公司,未经中国移动通信有限公司研究院;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011277891.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top