[发明专利]一种网络言论监控方法、设备及系统

说明书

技术领域

本发明涉及网络言论安全监控技术领域，尤其涉及一种网络言论监控方法、设备及系统。

背景技术

随着网络的普及，越来越多的人利用网络进行交流，比如：网络留言、网络评论、发表各种网络言论等等，网络的快捷给人们的生活带来便利的同时，也让许多恶意分子有机可乘，比如：恶意分子利用网络发布中奖诈骗信息、广告信息、恶意言论信息等，给网络的应用带来了极坏的影响，严重损坏了用户的业务体验。

请参见图1，为现有的网络言论系统的结构示意图。用户通过客户端发布网络言论（如：网络留言、论坛评论等），客户端将用户发布的网络言论发送至业务服务器，业务服务器处理业务逻辑，包括：验证发布者的用户名（ID）、密码等信息，并将用户发布的该网络言论添加至相应的发布队列中，将发布队列返回给客户端进行显示，用户即可查看到自己发布的网络言论。业务服务器将该网络言论传送至数据服务器进行存储和管理。

为了防止恶意分子对网络应用进行破坏，现有的网络言论的安全监控方案基于关键词技术进行网络言论的安全控制，具体为：在业务服务器中预先存储不安全网络言论的关键词库，对关键词库中的各个关键词进行级别划分，如可划分为：严重恶意、恶意、轻微恶意三个级别，针对不同级别制定相应的控制方式，如：严重恶意级别对应的控制方式为“封号”，恶意级别对应的控制方式为“禁言”，轻微恶意级别对应的控制方式为“禁止发表该条言论”。当接收到用户发表的各种网络言论时，业务服务器首先对各种网络言论进行解析，当解析出网络言论中包含关键词库中的关键词，确定该关键词的级别，并根据确定的级别对应的控制方式对网络言论进行控制。

发明人发现，现有的网络言论的安全监控方案虽然能在一定程度上过滤掉部分不安全网络言论（如：恶意言论），但这种基于关键词技术的方案在应用中存在一些缺陷：

1、控制过于武断。现有的网络言论的安全监控方案往往在判断网络言论中存在某一个匹配的关键词时，即认为该网络言论为不安全网络言论，随即采取相应的控制方式进行控制，这种仅仅凭借一个关键词来判定一段网络言论的方式太过草率和武断，容易影响用户的业务体验。

2、对中性词很难界定，容易形成控制盲区。现有的网络言论的安全监控方案对于模糊性质的中性词很难处理，比如：“奖品”一词，在中奖诈骗类言论中，该词用于欺骗用户，属于恶意关键词，但是正常用户交流中，该词可能是用户发表的正常言论；对于这一类中性词，现有方案往往无法准确进行判断和处理，因此可能造成许多安全控制的盲区，从而降低了对网络言论的安全保护力度。

发明内容

本发明实施例所要解决的技术问题在于，提供一种网络言论监控方法、设备及系统，可有效地对不安全网络言论进行理解识别和过滤，提高对网络言论的安全保护力度。

为了解决上述技术问题，本发明实施例提供了一种网络言论监控方法，包括：

获取用户发表的网络言论；

判断所述网络言论是否与预设的识别规则相匹配，若判断结果为是，为所述网络言论标注相应的标识；

根据预设的标识与控制方式的逻辑对应关系，采用与所述网络言论的标识相对应的控制方式对所述网络言论进行安全控制。

其中，所述获取用户发表的网络言论包括：

接收客户端发送的用户发表的网络言论；或者，

接收业务服务器上报的用户发表的网络言论；

其中，所述网络言论包括：微博留言、微博评论、微博回复、论坛留言、论坛评论、留言板留言、日志评论及博客留言中的任一种或多种。

其中，所述判断所述网络言论是否与预设的识别规则相匹配，若判断结果为是，为所述网络言论标注相应的标识，包括：

解析所述网络言论，获得至少一个独立的短句；

对所述短句进行识别，判断所述短句是否与所述预设的识别规则相匹配；

若判断结果为是，为所述短句标注相应的标识。

其中，所述解析所述网络言论，获得至少一个独立的短句，包括：

基于标点符号对所述网络言论进行分割，获得至少一个独立的短句；或者，

基于短句长度的统计规律对所述网络言论进行分割，获得至少一个独立的短句。

其中，所述获取用户发表的网络言论之前，还包括：

预先设定各种识别规则，及预先设定各种标识与控制方式的逻辑对应关系；

所述预设的识别规则包括以下规则中的任一种或多种：广告类言论识别规则、诈骗类言论识别规则、恶意言论识别规则、反动类言论识别规则、色情类言论识别规则、政治类言论识别规则；