[发明专利]进行文字攻击性检测和处理的系统和方法

权利要求书

1.通过检测在计算机网络上传递的文字串中的攻击性文字来修改图形用户界面上显示的文本的方法，包括：

使用一个或多个处理器在计算机数据库中接收和存储多个攻击性文字，其中在所述多个攻击性文字中的每个相应攻击性文字与标识该相应文字的攻击性的严重性评分相关联；

使用该一个或多个处理器接收文字串，其中候选文字选自所述文字串；

对于在所述多个攻击性文字中的每个相应攻击性文字，使用该一个或多个处理器计算候选文字与所述相应攻击性文字之间的距离；

使用该一个或多个处理器计算所述候选文字的攻击性评分，所述计算基于(i)在所述候选文字与所述多个攻击性文字中的攻击性文字之间的所计算的距离和(ii)所述攻击性文字的严重性评分，其中所述攻击性评分基于两个项的乘积，该两个项中的第一项基于所述候选文字与所述攻击性文字之间计算的所述距离，而该两个项中的第二项基于所述攻击性文字的严重性评分；

使用该一个或多个处理器，基于所述候选文字的攻击性评分是否超过了攻击性阈值来判断所述候选文字是否为攻击性文字；以及

当所述候选文字被判断为攻击性文字时，在图形用户界面显示该候选文字之前，调整计算机可读存储器中的该候选文字。

2.根据权利要求1所述的方法，其中所述多个攻击性文字中的每个文字和所述文字串中的每个文字包括简写。

3.根据权利要求1所述的方法，其中所述距离被计算为：Levenshtein距离、Hamming距离、Damerau-Levenshtein距离、Dice系数、相似性系数或Jaro-Winkler距离。

4.根据权利要求1所述的方法，其中所述攻击性阈值由服务管理员设置；

其中所述文字串从用户输入到服务；以及

其中如果在所述文字串中的候选文字由于具有超过所述服务管理员所设置的攻击性阈值的攻击性评分而被识别为攻击性文字，则拒绝自所述用户到所述服务的输入。

5.根据权利要求4所述的方法，其中所述服务为内容评论入口，且其中所述攻击性阈值基于下列之一来设置：其中存在被评论的内容的内容分组；所述攻击性阈值相关联的特定内容；以及内容的第三方内容分级。

6.根据权利要求5所述的方法，其中所述内容分组包括：

主题的特定分类，

类型，

地理原产地，其中所述地理包括国家、州、城市、公国或者它们的区域或子区域的集合，

专业或政府认证或分级的组，或行业节日或事件精选。

7.根据权利要求4所述的方法，其中所述服务选自下列的组：

留言板、内容评论入口、聊天室、电子布告栏系统、社交网站和多人游戏。

8.根据权利要求1所述的方法，其中：

所述攻击性阈值由服务用户来设置；

所述文字串为从所述服务到所述用户的有意输出；以及

包含因攻击性评分超过所述用户设置的所述攻击性阈值而被识别为攻击性文字的文字串在显示给所述用户之前被修改。

9.根据权利要求8所述的方法，根据下列之一来修改所述文字串：

删除所述文字串使得所述文字串并不显示给所述用户；

从所述文字串删除所述攻击性文字使得所述攻击性文字不显示给所述用户；

删改所述文字串使得所述文字串并不显示给所述用户；或者，

从所述文字串删改所述攻击性文字使得所述攻击性文字不显示给所述用户。

10.根据权利要求8所述的方法，其中所述多个攻击性文字和攻击性阈值是基于对所述用户所确定的文化规范来设置。

11.根据权利要求8所述的方法，其中所述多个攻击性文字和攻击性阈值基于政府机构限定的定义来设置，所述政府机构对于用户或者与所述用户相关联的非政府机构具有管辖权。