[发明专利]一种检测网络中内容的方法和系统

说明书

技术领域

本发明涉及计算机网络领域，特别涉及检测网络中内容的方法和系统。

背景技术

随着互联网应用的发展，网络中发布的内容越来越多，这些内容中经常包括垃圾信息或者恶意攻击信息等，因此需要对网络中内容进行检测，以保证网络环境的安全和洁净。

现有技术中检测网络中内容的技术方案主要包括敏感词检测和人工检测。其中，人工检测的准确性高，能够精确判断内容是否适当。但是，因为网络中内容量的急剧猛增，使得对所有内容都进行人工检测，会增加巨额的人力成本，而且人工检测的效率也相对较低。

敏感词检测为将网络中内容与敏感词库中敏感词进行匹配，如果匹配成功，则该内容命中了敏感词库中的敏感词，由此判断出该内容存在风险，之后对该内容进行人工检测。如果内容没有命中敏感词库中的敏感词，则认为该内容安全，通过检测。在该技术方案中，敏感词库中敏感词的维护经常滞后于网络中内容的发展，经常是内容中某个敏感词出现一段时间后才会被发现。因此，导致部分危险内容不应被检测通过却被误判为通过，因此对网络环境造成了危害，使得内容检测率降低。在现实统计结果中也表明未命中敏感词的内容同样存在大量垃圾信息，特别是各种广告信息。

发明内容

本发明提供了检测网络中内容的方法和系统，以解决将危险内容误判为通过，内容检测率降低的技术问题。

本发明公开了一种检测网络中内容的方法，所述方法包括：

接收应用平台发送的网络中发布的内容，以及所述内容对应的指示是否进行重新检测的指示标识；其中当所述内容对应的配置参量的值达到预设的参量阀值时，所述指示标识指示对所述内容进行重新检测，所述配置参量用于表征所述内容被关注的程度，所述配置参量的值越大，则所述内容被关注的程度越高；

判断接收的所述指示标识是否指示对所述内容进行重新检测；

在所述指示标识没有指示对所述内容进行重新检测时，根据检测结果列表对所述内容进行检测，返回检测结果；所述检测结果列表中保存内容的检测结果；

在所述指示标识指示对所述内容进行重新检测时，接收审核指令，根据所述审核指令对所述内容进行检测，返回检测结果。

其中，所述配置参量至少包括下列参量中的一种：

内容被评论的次数；

内容被浏览的次数；

内容被转发的次数；

内容在页面中停留的时长。

其中，所述接收应用平台发送的网络中发布的内容后包括：

对所述内容进行哈希运算，获得所述内容对应的哈希值；

所述检测结果列表中对应地保存内容的哈希值和内容的检测结果；

所述根据检测结果列表对所述内容进行检测具体包括：

判断所述检测结果列表中是否包括所述哈希值，如果不包括，则根据已接收的与所述内容相同和/或相似内容的数量对所述内容进行检测；如果包括，则获取所述哈希值在所述检测结果列表中对应的检测结果。

其中，所述对所述内容进行哈希运算，获得所述内容对应的哈希值具体包括：

除去所述内容中冗余信息，对除去冗余信息的所述内容进行哈希运算，获得所述内容对应的指纹哈希值。

其中，所述获得所述内容对应的指纹哈希值后还包括：

将所述指纹哈希值对应的计数值加1；

所述根据已接收的与所述内容相同和/或相似内容的数量对所述内容进行检测具体包括：

判断所述指纹哈希值对应的计数值是否大于预设的计数值阀值，

如果大于，则接收审核指令，根据所述审核指令对所述内容进行检测；

否则，确定检测结果为所述内容通过检测。

其中，所述如果大于，则接收审核指令，根据所述审核指令对所述内容进行检测后还包括：

在所述检测结果列表中对应地保存所述哈希值和根据所述审核指令对所述内容进行检测所得的检测结果。

其中，所述根据已接收的与所述内容相同和/或相似内容的数量对所述内容进行检测之前还包括：

判断所述内容是否命中敏感词库中的敏感词；

如果是，则接收审核指令，根据所述审核指令对所述内容进行检测，获取检测结果；

所述返回检测结果之后还包括：在所述检测结果列表中对应地保存所述内容的哈希值和所得的根据所述审核指令对所述内容进行检测所得的检测结果；

如果否，进行所述根据已接收的与所述内容相同和/或相似内容的数量对所述内容进行检测的步骤。