[发明专利]消息审核方法及装置

说明书

本发明公开了一种消息审核方法及装置，涉及金融技术领域；其中该方法包括：接收消息发送方上传的5G消息；5G消息中包含第一文本信息、第一图像信息、视频信息；对视频信息进行抽帧处理得到第二图像信息；利用预先训练的文本提取模型提取第一图像信息、第二图像信息中的第二文本信息；提取第一文本信息、第二文本信息中的关键字，将关键字与预先配置的审核关键字表进行字符串匹配；在字符串匹配结果小于第一预设阈值时，将第一图像信息、第二图像信息输入到图像审核模型中进行不合规内容审核；在图像审核模型输出的审核通过概率值大于第一预设阈值时，将5G消息发送至消息接收方。本发明可以节省人力成本，提高消息审核效率。

技术领域

本发明涉及人工智能技术领域，尤其涉及消息审核方法及装置。

背景技术

本部分旨在为权利要求书中陈述的本发明实施例提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。

5G消息在使用过程中，为确保信息传播安全，需要对消息发送方上传的消息进行安全审核，审核通过后才发送给接收方。当5G消息大规模使用时，单纯的人工审核成本较大，审核效率低，准确性差。

发明内容

本发明实施例提供一种消息审核方法，用以节省人力成本，提高消息审核效率，提升消息审核的准确性，该方法包括：

接收消息发送方上传的5G消息；5G消息中包含第一文本信息、第一图像信息、视频信息；

对视频信息进行抽帧处理得到第二图像信息；

利用预先训练的文本提取模型提取第一图像信息、第二图像信息中的第二文本信息；其中，所述文本提取模型为预先根据标注了文本内容的图像样本训练得到的机器学习模型；

提取第一文本信息、第二文本信息中的关键字，将所述关键字与预先配置的审核关键字表进行字符串匹配；所述审核关键字表中配置有审核不能通过的关键字；

在字符串匹配结果为不匹配时，将第一图像信息、第二图像信息输入到图像审核模型中进行不合规内容审核；其中，所述图像审核模型是根据标注了不合规内容的图像样本训练得到的机器学习模型；

在图像审核模型输出的审核通过概率值大于第一预设阈值时，将所述5G消息发送至消息接收方。

本发明实施例还提供一种消息审核装置，用以节省人力成本，提高消息审核效率，提升消息审核的准确性，该装置包括：

接收模块，用于接收消息发送方上传的5G消息；5G消息中包含第一文本信息、第一图像信息、视频信息；

第一处理模块，用于对视频信息进行抽帧处理得到第二图像信息；

文本信息提取模块，用于利用预先训练的文本提取模型提取第一图像信息、第二图像信息中的第二文本信息；其中，所述文本提取模型为预先根据标注了文本内容的图像样本训练得到的机器学习模型；

第二处理模块，用于提取第一文本信息、第二文本信息中的关键字，将所述关键字与预先配置的审核关键字表进行字符串匹配；所述审核关键字表中配置有审核不能通过的关键字；

图像审核模块，用于在字符串匹配结果小于第一预设阈值时，将第一图像信息、第二图像信息输入到图像审核模型中进行不合规内容审核；其中，所述图像审核模型是根据标注了不合规内容的图像样本训练得到的机器学习模型；

发送模块，用于在图像审核模型输出的审核通过概率值大于第一预设阈值时，将所述5G消息发送至消息接收方。

本发明实施例还提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述消息审核方法。