[发明专利]一种检测言论信息的方法与设备

说明书

本申请的目的是提供一种检测言论信息的方法，该方法包括：获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

技术领域

本申请涉及通信领域，尤其涉及一种用于检测言论信息的技术。

背景技术

随着时代的发展，网络成为已人们工作和生活中必不可少的工具，然而，随之而来的是在网络上也出现了一些不健康的因素，如各大论坛交流群中可能存在严重的网络暴力问题，虽然目前有对不文明用语的检验，但现有技术中的检验手段仍然存在着很大的漏洞。

发明内容

本申请的一个目的是提供一种检测言论信息的方法与设备。

根据本申请的一个方面，提供了一种检测言论信息的方法，该方法包括：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的一个方面，提供了一种检测言论信息的网络设备，该设备包括：

一一模块，用于获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

一二模块，用于通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

一三模块，用于结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

一四模块，用于根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的一个方面，提供了一种检测言论信息的设备，其中，该设备包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行如下操作：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。