[发明专利]内容过滤的方法、装置及系统

权利要求书

1.一种内容过滤的方法，其特征在于，包括：

获取待过滤的网络内容片断；

根据事件元素提取规则，对所述待过滤的网络内容片断进行事件元素提取，并按照事件模板将提取的事件元素生成对应于所述待过滤的网络内容片断的语义特征向量；

根据事件分类模型，对所述语义特征向量进行正负类类别判断；

若所述对应于所述待过滤的网络内容片断的语义特征向量被判定为负类，则对所述待过滤的网络内容片断对应的网络内容进行过滤处理。

2.根据权利要求1所述的内容过滤的方法，其特征在于，所述获取待过滤的网络内容片断，包括：

获取当前数据包以及所述当前数据包的前驱数据包；

对所述当前数据包及所述前驱数据包进行解封装，得到所述当前数据包及所述前驱数据包的内容；

判断所述当前数据包及所述前驱数据包的内容中是否存在事件触发词，所述事件触发词用于指示进行网络内容过滤时使用事件模板的类型；

若所述当前数据包或所述前驱数据包中任意一个的内容中存在事件触发词，则将所述当前数据包和所述前驱数据包重组，得到待过滤的网络内容片断。

3.根据权利要求2所述的内容过滤的方法，其特征在于，在判断所述当前数据包及所述前驱数据包的内容中是否存在事件触发词之后，还包括：

若所述当前数据包和所述前驱数据包的内容中均不存在所述事件触发词，则直接转发所述前驱数据包并缓存所述当前数据包。

4.根据权利要求1或2所述的内容过滤的方法，其特征在于，当所述待过滤的网络内容片断为动态文本数据时，所述根据事件元素提取规则，对所述待过滤的网络内容片断进行事件元素提取包括：

从所述待过滤的网络内容片断中提取事件句，并对所述事件句进行自然语言处理；

根据事件元素提取规则，对经过自然语言处理后的事件句进行事件元素提取。

5.根据权利要求1所述的内容过滤的方法，其特征在于，当所述待过滤的网络内容片断为静态文本数据时，所述根据事件元素提取规则，对所述待过滤的网络内容片断进行事件元素提取还包括：

从所述待过滤的网络内容片断中提取多个事件句，并对多个事件句分别进行自然语言处理；

根据事件元素提取规则，对经过自然语言处理后的多个事件句进行事件元素提取；

所述按照事件模板将提取的事件元素生成对应于所述待过滤的网络内容片断的语义特征向量为：

根据事件模板，将提取的对应于事件句的事件元素生成对应的语义特征向量；

将所述对应于多个事件句的语义特征向量组合生成对应于待过滤的所述网络内容片断的语义特征向量。

6.根据权利要求1所述的内容过滤的方法，其特征在于，在所述获取待过滤的网络内容片断之前，还包括：

获取第一粗语料，并对所述第一粗语料进行事件聚类处理，生成第二粗语料、事件模板及事件触发词词表，其中，一个所述事件模板对应事件触发词词表中的多个事件触发词。

根据所述事件触发词词表中的事件触发词，在所述第二粗语料中识别出包含所述事件触发词的事件句，并对所述事件句进行标注生成事件分类训练语料；

从所述事件分类训练语料的事件句中根据所述事件句中的事件触发词对应的事件模板提取语义特征向量，并根据所述语义特征向量进行模型训练，生成事件分类模型，所述事件分类模型，用于指示语义特征向量的正负类别。

7.根据权利要求1所述的内容过滤的方法，其特征在于，在所述根据事件分类模型，对所述语义特征向量进行正负类类别判断之后，还包括：

若所述对应于所述待过滤的网络内容片断的语义特征向量被判断为正类，则直接转发所述待过滤的网络内容片断。

8.根据权利要求1所述的内容过滤的方法，其特征在于，当所述待过滤的网络内容片断为动态文本数据时，在对所述待过滤的网络内容片断对应的网络内容进行过滤处理之前，还包括：

于第一阈值时间段内，对判定为负类事件的次数进行统计，得到第一统计值；

若所述对应于所述待过滤的网络内容片断的语义特征向量被判定为负类且所述第一统计值等于或小于第一阈值，则将所述负类网络内容片断对应的网络内容进行转发；

若所述对应于所述待过滤的网络内容片断的语义特征向量被判定为负类且所述第一统计值大于第一阀值，则执行所述对所述待过滤的网络内容片断对应的网络内容进行过滤处理。