[发明专利]一种内容审核方法和装置

说明书

本申请提供了一种内容审核方法和装置，涉及人工智能领域，方法包括：响应于待审用户触发的待发布内容上传操作，获取待审用户的多维度特征数据；调用目标低质率预测模型对多维度特征数据进行用户低质率预测，得到待审用户的预测低质率，其中，预测低质率表征待审用户在未来的第一预设时长内的预估发文低质率；获取当前时间窗口的预估低质率阈值；将预测低质率小于或等于预估低质率阈值的待审用户在当前时间窗口内所上传的待发布内容添加至免审白名单池中；目标低质率预测模型为基于携带用户低质率标签的多个样本用户的多维度样本特征数据对机器学习模型进行低质率预测的训练得到的模型。本申请能够有效降低人工审核内容数量，提高审核效率。

技术领域

本申请涉及人工智能领域，尤其涉及一种内容审核方法和装置。

背景技术

随着互联网的普及和发展，越来越多的用户通过互联网向各类内容平台上传自发制作的媒体内容，如视频和图文等。但是，用户自发上传的媒体内容质量良莠不齐，低质内容会造成不良传播影响，且会严重影响平台形象。因此，现有内容平台中通常采用线下人工团队对用户实时上传的内容进行人工审核，通过质量审核的内容才会被分发推荐。

然而，用户上传的内容体量巨大，审核时需耗费大量的时间和人力成本，因此亟需提供一种能够有效提高内容审核效率的审核方案，以降低时间人力成本。

发明内容

本申请提供了一种内容审核方法和装置，可以有效提高人工审核效率，降低审核成本。

一方面，本申请提供了一种内容审核方法，所述方法包括：

响应于待审用户触发的待发布内容上传操作，获取所述待审用户的多维度特征数据；

调用目标低质率预测模型对所述多维度特征数据进行用户低质率预测，得到所述待审用户的预测低质率，其中，所述预测低质率表征预估的、所述待审用户在未来的第一预设时长内的发文低质率；

获取当前时间窗口的预估低质率阈值；

将预测低质率小于或等于所述预估低质率阈值的待审用户在当前时间窗口内所上传的待发布内容添加至免审白名单池中；

其中，所述目标低质率预测模型为基于携带用户低质率标签的多个样本用户的多维度样本特征数据对机器学习模型进行低质率预测的训练得到的模型。

另一方面提供了一种内容审核装置，所述装置包括：

特征数据获取模块：用于响应于待审用户触发的待发布内容上传操作，获取所述待审用户的多维度特征数据；

低质率预测模块：用于调用目标低质率预测模型对所述多维度特征数据进行用户低质率预测，得到所述待审用户的预测低质率，其中，所述预测低质率表征预估的、所述待审用户在未来的第一预设时长内的发文低质率；

低质率阈值获取模块：用于获取当前时间窗口的预估低质率阈值；

待发布内容处理模块：用于将预测低质率小于或等于所述预估低质率阈值的待审用户在当前时间窗口内所上传的待发布内容添加至免审白名单池中；

其中，所述目标低质率预测模型为基于携带用户低质率标签的多个样本用户的多维度样本特征数据对机器学习模型进行低质率预测的训练得到的模型。

另一方面提供了一种内容审核设备，所述设备包括处理器和存储器，所述设备包括处理器和存储器，所述存储器中存储有至少一条指令或至少一段程序，所述至少一条指令或所述至少一段程序由所述处理器加载并执行以实现如上述的内容审核方法。

另一方面提供了一种计算机可读存储介质，所述存储介质中存储有至少一条指令或至少一段程序，所述至少一条指令或所述至少一段程序由处理器加载并执行以实现如上述的内容审核方法。