[发明专利]一种社交内容风险识别方法、装置以及设备

权利要求书

1.一种社交内容风险识别方法，包括：

获取待识别的社交内容数据；

提取所述社交内容数据中的社交行为特征和/或社交语料特征，并输入树桩结构的机器学习模型进行处理，得到维度扩展的特征；所述输入树桩结构的机器学习模型进行处理，得到维度扩展的特征，具体包括：输入树桩结构的机器学习模型进行处理，得到多个叶节点的预测数据；根据所述多个叶节点的预测数据，提取得到维度扩展的特征；所述多个叶节点包括所述树桩结构的机器学习模型处理后的最后一层叶节点；其中，所述社交行为是社交相关的行为，包括用户建立用户群、点对点聊天、群聊天、在论坛发表言论或者转发言论、转账、网购；所述社交语料是由于社交行为而产生的语料，包括用户的个人聊天记录、群聊天记录、在论坛上所发表或者转发的言论、转账留言信息；所述社交行为特征包括社交行为的发生时间、结束时间、持续时间、间隔时间、频度、行为发生时用户所在位置；所述社交语料特征包括关键词、敏感词、词频、逆向文件频率、语序；

通过将所述维度扩展的特征输入深度机器学习模型进行处理，识别所述社交内容数据是否存在风险；所述风险包括不当行为或者不当言论。

2.如权利要求1所述的方法，所述树桩结构的机器学习模型和所述深度机器学习模型预先利用存在风险的黑样本和不存在风险的白样本进行过训练。

3.如权利要求1所述的方法，所述提取所述社交内容数据中的社交行为特征和/或社交语料特征，具体包括：

对所述社交内容数据进行数据清洗；

利用特征工程，从数据清洗后的所述社交内容数据中提取社交行为特征和/或社交语料特征。

4.如权利要求1所述的方法，所述识别所述社交内容数据是否存在风险后，所述方法还包括：

基于定时调度，定时获取并向风控平台提供社交内容数据的风险识别结果。

5.如权利要求1～4任一项所述的方法，所述树桩结构的机器学习模型包括梯度提升决策树GBDT。

6.如权利要求1～4任一项所述的方法，所述深度机器学习模型包括深度神经网络DNN。

7.一种社交内容风险识别装置，包括：

获取模块，获取待识别的社交内容数据；

提取模块，提取所述社交内容数据中的社交行为特征和/或社交语料特征，并输入树桩结构的机器学习模型进行处理，得到维度扩展的特征；所述输入树桩结构的机器学习模型进行处理，得到维度扩展的特征，具体包括：输入树桩结构的机器学习模型进行处理，得到多个叶节点的预测数据；根据所述多个叶节点的预测数据，提取得到维度扩展的特征；所述多个叶节点包括所述树桩结构的机器学习模型处理后的最后一层叶节点；其中，所述社交行为是社交相关的行为，包括用户建立用户群、点对点聊天、群聊天、在论坛发表言论或者转发言论、转账、网购；所述社交语料是由于社交行为而产生的语料，包括用户的个人聊天记录、群聊天记录、在论坛上所发表或者转发的言论、转账留言信息；所述社交行为特征包括社交行为的发生时间、结束时间、持续时间、间隔时间、频度、行为发生时用户所在位置；所述社交语料特征包括关键词、敏感词、词频、逆向文件频率、语序；

识别模块，通过将所述维度扩展的特征输入深度机器学习模型进行处理，识别所述社交内容数据是否存在风险；所述风险包括不当行为或者不当言论。

8.如权利要求7所述的装置，所述树桩结构的机器学习模型和所述深度机器学习模型预先利用存在风险的黑样本和不存在风险的白样本进行过训练。

9.如权利要求7所述的装置，所述提取模块提取所述社交内容数据中的社交行为特征和/或社交语料特征，具体包括：

所述提取模块对所述社交内容数据进行数据清洗；

利用特征工程，从数据清洗后的所述社交内容数据中提取社交行为特征和/或社交语料特征。