[发明专利]一种用户生成内容提及的骚扰屏蔽方法和装置

说明书

技术领域

本发明实施方式涉及互联网应用技术领域，更具体地，涉及一种用户生成内容提及的骚扰屏蔽方法和装置。

背景技术

随着计算机技术和网络技术的飞速发展，互联网（Internet）在人们的日常生活、学习和工作中发挥的作用也越来越大。互联网上的各种应用层出不穷。

用户生成内容（UGC）是一种用户使用互联网的新方式，即由原来的以下载为主变成下载和上传并重。社区网络、视频分享、微博和博客等都是UGC的主要应用形式。随着全球互联网业务的不断发展，UGC业务正在日渐崛起，引起了业界的广泛关注。

微博（MicroBlog）是一种典型的UGC应用，是一个基于用户关系的信息分享、传播以及获取的平台，用户可以通过各种终端在微博上以简短的文字（一般是140个字）发布个人所想、所做的信息，实现信息的即时分享。微博是用户在互联网进行消息分享、传播的一种新方式。由于微博弱关系链的特点，微博的消息传递非常快，这也吸引很多用户在微博上发表一些不利于微博生态发展的消息，例如在转播、点评名人的消息时带上自己的广告，这种与被提及用户无关的转播、点评都会进入被提及用户的收件箱，对用户造成极大骚扰，降低了微博的消息质量和用户的创作积极性，对整个微博的积极发展带来非常大的副作用。

在现有技术中，对于用户生成内容业务中提及骚扰行为采取的是事后处理策略，即只有当用户投诉某个账号恶意提及时，审核的人员才会判断该账号是否对其他用户造成了骚扰，如果确认骚扰，则根据严重程度对该骚扰账号进行禁言或者封号处理。

然而，对于海量的用户生成内容数据而言，人工审核并处理骚扰提及行为的处理效率偏低。而且，这种事后处理方式依赖于用户的反馈，实际上很多用户不知道或者不愿意反馈，因此骚扰行为经常得不到及时处理，进一步降低了用户生成内容提及骚扰的处理效率。

发明内容

本发明实施方式提出一种用户生成内容提及的骚扰屏蔽方法，以提高用户生成内容提及骚扰的处理效率。

本发明实施方式提出一种用户生成内容提及的骚扰屏蔽装置，以提高用户生成内容提及骚扰的处理效率。

本发明实施方式的技术方案如下：

一种用户生成内容提及的骚扰屏蔽方法，该方法包括：

接收用户生成内容发表请求；

解析所述用户生成内容发表请求以判断是否包含提及对象，并当判定包含提及对象时，进一步判断该用户生成内容发表请求是否满足预先设置的骚扰判定条件，如果满足，则不将该用户生成内容发表请求的消息内容发送给所述提及对象。

一种用户生成内容提及的骚扰屏蔽装置，该装置包括用户生成内容发表请求接收单元、用户生成内容解析单元和骚扰处理单元，其中：

用户生成内容发表请求接收单元，用于接收用户生成内容发表请求；

用户生成内容提及处理单元，用于解析所述用户生成内容发表请求以判断是否包含提及对象；

骚扰处理单元，用于当用户生成内容解析单元判定包含提及对象时，进一步判断该用户生成内容发表请求是否满足预先设置的骚扰判定条件，如果满足，则不将该用户生成内容发表请求的消息内容发送给所述提及对象。

从上述技术方案可以看出，在本发明实施方式中，接收用户生成内容发表请求；解析所述用户生成内容发表请求以判断是否包含提及对象，并当判定包含提及对象时，进一步判断该用户生成内容发表请求是否满足预先设置的骚扰判定条件，如果满足，则不将该用户生成内容发表请求的消息内容发送给所述提及对象。由此可见，应用本发明实施方式之后实现了一种用户生成内容提及骚扰的智能屏蔽策略，可以在微博发表之前对提及骚扰进行智能屏蔽。本发明实施方式克服了现有技术的事后处理的缺陷，实现了针对用户生成内容提及骚扰的事先处理，提高了针对用户生成内容提及骚扰的处理实时性，提高了用户生成内容提及骚扰的处理效率。

而且，本发明实施方式实现了针对用户生成内容提及骚扰的自动屏蔽，克服了现有技术中人工审核的缺陷，节省了运营成本，而且本发明实施方式综合了消息体内容、用户特征和关系链三个大维度的特征，增加了综合得分的准确性，而且每个得分项可以调整，能够适应不断变化的恶意提及骚扰模型，从而提高用户生成内容（比如微博）的整体消息质量，以及提高了用户生成内容提及骚扰的处理效率。

附图说明

图1为现有技术中骚扰提及的处理示意图；

图2为根据本发明实施方式的用户生成内容提及骚扰屏蔽方法流程图；

图3为根据本发明实施方式的消息内容评估示意图；