[发明专利]一种用户隐私数据的风险内容识别方法、装置及系统

说明书

本说明书一个或多个实施例提供了一种用户隐私数据的风险内容识别方法、装置及系统，其中，该方法应用于客户端，该方法包括：监测用户使用客户端中的目标应用所产生的用户隐私数据。利用预设语义表征模型，对上述用户隐私数据进行语义识别，得到相应的语义表征信息；其中，该预设语义表征模型是利用预设知识蒸馏方法处理后部署于客户端的语义表征模型。若上述语义表征信息包括用于表征可疑风险内容语句的第一语义特征向量，则向服务端发送该第一语义特征向量，以使服务端基于该第一语义特征向量对用户隐私数据进行风险内容识别。

技术领域

本文件涉及互联网技术领域，尤其涉及一种用户隐私数据的风险内容识别方法、装置及系统。

背景技术

目前，随着互联网时代的到来，互联网在人们日常的学习、工作和生活中得到广泛的应用。人们日常的各种事务都可以通过互联网来处理和呈现。同时，随着移动互联网的快速发展，各互联网服务提供方通过开发各自的应用程序为用户提供相应的业务服务，用户可以根据各自的实际需求在智能手机中安装相应的应用程序，例如，资讯应用、视频应用、聊天应用、购物应用、支付应用等等。

然而，应用程序向用户展示的页面浏览信息可能添加有风险内容，尤其在大量正常浏览信息中添加少量风险信息，导致风险信息被隐没；以及，由于考虑到用户的页面浏览信息可能属于用户隐私数据，在用户无感知的情况下，客户端直接将用户隐私数据(如用户在某一网页页面上的浏览内容)上传至服务端，以使服务端对用户隐私数据中是否存在风险信息进行识别，从而导致存在侵犯用户隐私的问题，因此，无法同时兼顾用户隐私保护和内容风险内容识别。

由此可知，需要提供一种在确保用户隐私保护的前提下对用户隐私数据进行风险内容识别的技术方案。

发明内容

本说明书一个或多个实施例的目的是提供一种用户隐私数据的风险内容识别方法。应用于客户端，该用户隐私数据的风险内容识别方法包括：

监测用户使用所述客户端中的目标应用所产生的用户隐私数据。利用预设语义表征模型，对所述用户隐私数据进行语义识别，得到相应的语义表征信息；其中，所述预设语义表征模型是利用预设知识蒸馏方法处理后部署于所述客户端的语义表征模型。若所述语义表征信息包括用于表征可疑风险内容语句的第一语义特征向量，则向服务端发送所述第一语义特征向量，以使所述服务端基于所述第一语义特征向量对所述用户隐私数据进行风险内容识别。

本说明书一个或多个实施例的目的是提供一种用户隐私数据的风险内容识别装置。设置于客户端，该用户隐私数据的风险内容识别装置包括：

用户隐私数据监测模块，其监测用户使用所述客户端中的目标应用所产生的用户隐私数据。隐私数据语义识别模块，其利用预设语义表征模型，对所述用户隐私数据进行语义识别，得到相应的语义表征信息；其中，所述预设语义表征模型是利用预设知识蒸馏方法处理后部署于所述客户端的语义表征模型。语义特征向量上传模块，其若所述语义表征信息包括用于表征可疑风险内容语句的第一语义特征向量，则向服务端发送所述第一语义特征向量，以使所述服务端基于所述第一语义特征向量对所述用户隐私数据进行风险内容识别。

本说明书一个或多个实施例的目的是提供一种用户隐私数据的风险内容识别设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器。

所述计算机可执行指令在被执行时使所述处理器监测用户使用所述客户端中的目标应用所产生的用户隐私数据。利用预设语义表征模型，对所述用户隐私数据进行语义识别，得到相应的语义表征信息；其中，所述预设语义表征模型是利用预设知识蒸馏方法处理后部署于所述客户端的语义表征模型。若所述语义表征信息包括用于表征可疑风险内容语句的第一语义特征向量，则向服务端发送所述第一语义特征向量，以使所述服务端基于所述第一语义特征向量对所述用户隐私数据进行风险内容识别。