[发明专利]一种基于语义网的社交网络黑名单自动过滤模型

说明书

技术领域

本发明涉及信息安全与计算机应用技术领域，特别涉及一种基于语义网的社交网络黑名单自动过滤模型。

技术背景

社交网络（SNS）通过促进人们之间的线上交流和信息共享，已经成为一种主要的线上应用，获得了非常庞大的用户群数量。与此同时，为了提供良好的用户体验给如此大量的用户，社交网络自身的功能也变得越来越趋于复杂，交互信息从最开始单一的文本信息，已经转变为更多的电子内容，如视频等。这对社交网络的安全与隐私保护提出了新的挑战。

据调查，一些不法分子利用社交网络的开放性和用户使用过程中暴露的信息，如照片、与朋友的交互信息等，通过有针对性地传播欺诈信息，对社交网络用户的安全造成了严重威胁，社交网络已经成为不法分子欺诈侵财的一种主要途径。在用户使用社交网络过程中，或多或少会接收到一些不法分子的恶意信息，对一些明显的欺诈信息，用户有能力自行判断出来，但对一些经过伪装隐蔽的、表现不明显的信息，则其直接危害着人们的人身、财产安全。虽然一些社交网络，如人人网等为用户提供了一些权限控制的功能，但是这些控制功能都比较简单，不够灵活。

近年来，随着语义网的发展，越来越多的本体被用于建立特定领域内的知识表示模型，但由于知识网的庞大，还存在很多空白区域未曾涉及到过，尤其对于当前新兴应用的安全领域，语义网技术还很少被应用。

经过分析，利用语义网自身动态的、个性化的、主动服务等特性，非常适合解决当前我们提出的问题。而本发明能够很好地解决上面的问题。

发明内容

本发明目的在于解决了上述现有技术存在的问题，提供了一种基于语义网的社交网络黑名单自动过滤模型。该模型是基于潜在恶意信息提取和综合管理的方案及其相关的配套机制实现的。

本发明解决其技术问题所采用的技术方案是：本发明在对现有社交网络本体模型改进的基础上，设计了一种对社交网络中用户的交互信息进行分析判断，提取可能的犯罪组织关系的自动过滤模型。该模型分为信息分析提取模块、信息恶意指数计分模块、计分结果黑名单关联模块，其具体包括如下：

一、信息分析提取模块

本发明提出了一种信息分析提取模块，在该模块中可以看到在信息流部分，将信息划分为了两部分，其中一部分为正常的，无害的信息，另一部分是恶意信息(Viciousness)，按照对恶意信息特征的分析，现将恶意信息抽象分为4类，分别为：

●无意义信息(meaningless)：这类信息主要是形如随机排列的字母特殊符号，过滤那些有可能是机器随机发布的骚扰内容，如果恶意发布者使用发布机器大量地散步信息，不仅对社交网络自身带来了流量压力，对用户也带来了无形的困扰。

●欺诈信息(fraud)：欺诈信息主要是通过公安部门统计的典型案例中提取出的一些涉嫌欺诈的特征语句，如询问证件号码，家庭住址等。

●暴力信息(violence)：暴力信息是指包含辱骂词汇，危害社会安全的语句以及涉嫌精神骚扰的过激言语等。过滤这类信息可以避免造成双方冲突，为社交网络营造一个良好的“生态环境”。

●用户自定义信息(user defined)：用户自定义信息可以让用户个性化设置一些自己不愿意接受的内容，如可屏蔽广告等并非恶意推送的内容，使得上述提到的中间件的功能更加完善。

综上所述，本发明提出了恶意信息本体模型，该模型是对社交网络模型的扩展，为了更清楚的描述该模型，这里引入了敏感语义库的概念，敏感语义库就是上面所叙述的4大类信息组成的集合，当信息被检测到符合该语义库中的规则时，则被归类为恶意信息中的某一类，也即恶意信息。但是此时即使被归为恶意信息，也并不代表用户就不会接受到此条信息，这一步的评判只是对该信息的粗略划分，经过后期的分析数据流双方历来信息记录，才能进一步判断是否完全屏蔽此条信息。

二、信息恶意指数计分模块

本发明给出的识别恶意信息的方法，不仅考虑到了信息自身的恶意度，还综合了发送恶意信息的用户的恶意记录。为了更清楚的描述这个过程，本发明提出了以下几个概念：

恶意因子：用fa表示，表示用户发送的单条信息的恶意程度。恶意因子的取值如表1所示：

表1