[发明专利]一种视频直播监控方法及相关装置

说明书

本申请公开了一种视频直播监控方法及相关装置，其中，所述监控方法包括：获得当前视频直播片段的视频数据以及音频数据；对视频数据和音频数据分别进行违规检测，以分别获得视频违规概率和音频违规概率；根据视频违规概率和音频违规概率获得综合违规概率；判断综合违规概率与预设范围的关系；若综合违规概率大于预设范围的最大值，则输出违规报警信息；若综合违规概率小于预设范围的最小值，则不输出违规报警信息；若综合违规概率位于所述预设范围内，则将当前视频直播片段发送至检测人员的终端，并接收所述检测人员的人工审核结果。通过上述方式，本申请可以提高视频直播的监控效率和准确性，大大减少人力成本。

技术领域

本申请涉及视频直播监控技术领域，特别是涉及一种视频直播监控方法及相关装置。

背景技术

随着互联网技术的快速发展，视频直播正逐渐成为一种流行的生活娱乐方式。然而在鱼龙混杂的视频直播平台中，难免会出现一些不良违规甚至违法的信息，这严重破坏了视频直播的发展环境，给社会带来了恶劣影响。因此，需要加强对视频直播的实时监控，一经发现违规情况应及时处理。

传统的视频直播监控方法主要基于人工审核方式，但该方法需要投入大量的人工成本，且监控难度较大、效率较低。目前应用较广的直播视频监控方法是基于预设时间间隔，利用图像检测算法从目标直播间的视频数据中提取视频帧，再对每一帧图像进行违规分析。这类方法在使用的过程中，预设时间间隔的选取尤为重要。如果时间间隔设定较小，会存在识别资源浪费、监控效率低的问题；而如果时间间隔较大，会存在信息遗漏或丢失的问题，无法准确地识别出存在违规风险的直播，从而导致违规播放的直播事故。

发明内容

本申请主要解决的技术问题是提供一种视频直播监控方法及相关装置，能够有效避免视频采样过程中信息丢失、特征遗漏等问题，提高视频直播的监控效率和准确性，大大减少人力成本。

为解决上述技术问题，本申请采用的一个技术方案是：提供一种视频直播监控方法，包括：获得当前视频直播片段的视频数据以及音频数据；对所述视频数据和所述音频数据分别进行违规检测，以分别获得视频违规概率和音频违规概率；根据所述视频违规概率和所述音频违规概率获得综合违规概率；判断所述综合违规概率与预设范围的关系；若所述综合违规概率大于所述预设范围的最大值，则输出违规报警信息；若所述综合违规概率小于所述预设范围的最小值，则不输出违规报警信息；若所述综合违规概率位于所述预设范围内，则将所述当前视频直播片段发送至检测人员的终端，并接收所述检测人员的人工审核结果。

其中，对所述视频数据进行违规检测，以获得视频违规概率的步骤包括：将所述视频数据中的每个视频帧分别输入至违规检测模型中以获得所述视频帧中含有违规信息的置信度；将所有视频帧对应的置信度中的最大值作为所述视频违规概率。

其中，所述获得当前视频流的视频数据以及音频数据的步骤之前，还包括：获得直播视频中的多个样本图像，并对所述样本图像进行预处理；利用多个所述样本图像训练违规检测模型，其中，所述违规检测模型包括R-CNN、R-FCN、YOLO、SSD中任意一种。

其中，对所述音频数据进行违规检测，以获得音频违规概率的步骤包括：将所述音频数据分别输入声学模型和语言模型中，以获得对应的文本数据；将所述文本数据输入文本分类模型中，以获得对应的文本类别；根据所述文本类别获得对应的音频违规概率。

其中，所述获得当前视频流的视频数据以及音频数据的步骤之前，还包括：获得直播视频中的多个样本语音；利用多个所述样本语音训练所述声学模型和语言模型，其中，所述声学模型包括GMM、HMM、TDNN、RNN中任意一种，所述语言模型包括N-gram、RNN中任意一种。

其中，所述获得当前视频流的视频数据以及音频数据的步骤之前，还包括：利用多个所述样本文本训练所述文本分类模型，其中，所述文本分类模型包括FastText、TextCNN、LSTM、Bert中任意一种。