[发明专利]一种社交内容风险识别方法、装置以及设备

说明书

本说明书实施例公开了一种社交内容风险识别方法、装置以及设备。方案包括：通过树桩结构的机器学习模型处理，对待识别的社交内容数据的特征进行特征维度扩展，再将得到的维度扩展的特征输入深度机器学习模型进行预测，从而识别该社交内容数据是否存在风险。

技术领域

本说明书涉及计算机软件技术领域，尤其涉及一种社交内容风险识别方法、装置以及设备。

背景技术

随着计算机技术和互联网技术的迅速发展，社交活动越来越多地基于互联网进行，包括但不限于论坛交流、即时通讯、网上交易等活动，在活动中相应地产生一些行为记录、发布或者传播的语料等数据，这里统称为社交内容。

在实际应用中，一些社交内容是存在风险的，会影响正常用户的上网体验，严重的还可能威胁网络安全甚至现实社会安全，比如，暴力、恐怖或者政治相关的不当行为或者不当言论等。

在现有技术中，往往基于经验设置一些关键词，通过关键词匹配对社交内容进行风险识别。

基于现有技术，需要更为可靠的社交内容风险识别方案。

发明内容

本说明书实施例提供一种社交内容风险识别方法、装置以及设备，用以解决如下技术问题：需要更为可靠的社交内容风险识别方案。

为解决上述技术问题，本说明书实施例是这样实现的：

本说明书实施例提供的一种社交内容风险识别方法，包括：

获取待识别的社交内容数据；

提取所述社交内容数据中的社交行为特征和/或社交语料特征，并输入树桩结构的机器学习模型进行处理，得到维度扩展的特征；

通过将所述维度扩展的特征输入深度机器学习模型进行处理，识别所述社交内容数据是否存在风险。

本说明书实施例提供的一种社交内容风险识别装置，包括：

获取模块，获取待识别的社交内容数据；

提取模块，提取所述社交内容数据中的社交行为特征和/或社交语料特征，并输入树桩结构的机器学习模型进行处理，得到维度扩展的特征；

识别模块，通过将所述维度扩展的特征输入深度机器学习模型进行处理，识别所述社交内容数据是否存在风险。

本说明书实施例提供的一种社交内容风险识别设备，包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：

获取待识别的社交内容数据；

提取所述社交内容数据中的社交行为特征和/或社交语料特征，并输入树桩结构的机器学习模型进行处理，得到维度扩展的特征；

通过将所述维度扩展的特征输入深度机器学习模型进行处理，识别所述社交内容数据是否存在风险。

本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果：相比于原始的特征，维度扩展的特征能够更精细地刻画社交内容数据，便于用诸如深度神经网络(Deep Neural Networks，DNN)等包含大量输入节点的深度机器学习模型进行处理，进而有利于更可靠地识别社交内容数据是否存在风险。

附图说明