[发明专利]一种网页文本信息的监控方法、装置及设备在审
申请号: | 202011277891.7 | 申请日: | 2020-11-16 |
公开(公告)号: | CN114510919A | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 孙洋;粟栗;张星;杭小勇;郭斯栩;耿慧拯 | 申请(专利权)人: | 中国移动通信有限公司研究院;中国移动通信集团有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F16/958;G06K9/62 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静;曹娜 |
地址: | 100053 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网页 文本 信息 监控 方法 装置 设备 | ||
1.一种网页文本信息的监控方法,其特征在于,包括:
获得网络上的待检测网页;
调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本;
在所述待检测网页并非为网络上的相似文本时,获得所述待检测网页的网页数据文本块;
将所述网页数据文本块写入区块链中。
2.根据权利要求1所述的网页文本信息的监控方法,其特征在于,所述方法还包括:在所述待检测网页为网络上的相似文本时,丢弃所述待检测网页。
3.根据权利要求1所述的网页文本信息的监控方法,其特征在于,所述预设智能合约包括网页解析合约和内容相似度比较合约,调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本,包括:
通过所述网页解析合约解析所述待检测网页的网页正文,形成网页结构体;所述网页结构体包括网页文本内容;
通过所述内容相似度比较合约,将所述网页文本内容转化为指纹,根据所述指纹计算所述待检测网页与网络上文本的海明距离;
在所述海明距离大于或等于预设距离值时,确定所述待检测网页并非为网络上的相似文本;在所述海明距离小于所述预设距离值时,确定所述待检测网页为网络上的相似文本。
4.根据权利要求3所述的网页文本信息的监控方法,其特征在于,所述预设智能合约还包括信息价值评估合约,所述网页结构体还包括网页信息来源和网页时间;所述方法还包括:
通过所述信息价值评估合约,根据所述网页信息来源评估网页文本内容的价值,获得价值评估;
根据所述网页时间确定时间戳;
其中,所述网页数据文本块包括所述网页文本内容的指纹、所述时间戳和所述价值评估。
5.根据权利要求3所述的网页文本信息的监控方法,其特征在于,通过所述网页解析合约解析所述待检测网页的网页正文,形成网页结构体,包括:
所述网页解析合约检测所述待检测网页是否符合为文本类网页的响应条件;
在所述待检测网页为符合文本类网页的响应条件时,所述网页解析合约根据所述待检测网页的布局类型对所述待检测网页的网页正文进行解析,形成网页结构体。
6.根据权利要求5所述的网页文本信息的监控方法,其特征在于,所述网页解析合约根据所述待检测网页的布局类型对所述待检测网页的网页正文进行解析,包括:
采用与所述待检测网页的布局类型对应的网页解析合约,对所述待检测网页的网页正文进行解析。
7.根据权利要求4所述的网页文本信息的监控方法,其特征在于,通过所述信息价值评估合约,根据所述网页信息来源评估网页文本内容的价值,获得价值评估,包括:
所述信息价值评估合约依据所述网页信息来源确定的网站性质,采用与所述网站性质相对应的信息价值评估函数,评估网页文本内容的价值,获得价值评估。
8.根据权利要求3所述的网页文本信息的监控方法,其特征在于,通过所述内容相似度比较合约,将所述网页文本内容转化为指纹,根据所述指纹计算所述待检测网页与网络上文本的海明距离,包括:
所述内容相似度比较合约通过simhash算法将所述网页文本内容转化为指纹;
将所述指纹的二进制数据与网络上文本的指纹的二进制数据进行比较,确定所述海明距离。
9.一种网页文本信息的监控装置,其特征在于,包括:
获取模块,用于获得网络上的待检测网页;
分析模块,用于调用预设智能合约,对所述待检测网页进行分析,确定所述待检测网页是否为网络上的相似文本;
数据模块,用于在所述待检测网页并非为网络上的相似文本时,获得所述待检测网页的网页数据文本块;
输出模块,用于将所述网页数据文本块写入区块链中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信有限公司研究院;中国移动通信集团有限公司,未经中国移动通信有限公司研究院;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011277891.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有缓冲结构的智能控制家居扫地机
- 下一篇:安全策略配置方法及系统
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置