[发明专利]一种信息监测方法及装置、电子设备、存储介质

说明书

本申请提供一种信息监测方法及装置、电子设备、存储介质。信息监测方法，包括：获取待监测信息；所述待监测信息包括多种模态的信息；确定所述多种模态的信息分别对应的模态信息特征；每种模态的信息对应至少一种模态信息特征；根据所述多种模态的信息分别对应的模态信息特征和预先训练好的多模态信息识别模型确定所述待监测信息的监测结果；所述监测结果用于表征所述待监测信息是否为敏感信息。该信息监测方法用以实现敏感信息的准确监测。

技术领域

本申请涉及信息安全技术领域，具体而言，涉及一种信息监测方法及装置、电子设备、存储介质。

背景技术

随着互联网技术的发展，互联网中每时每刻都在产生或者传播大量的信息，在这些信息中，一些是正常信息，还有一些信息是不能随意产生或者传播的敏感信息（例如违规信息）。为了净化网络环境和维护网络安全，需要对敏感信息进行监测。

现有技术中，在采集到待监测的信息之后，将待监测的信息输入到网络模型中，由网络模型输出监测结果。但是，现有的网络模型仅能针对单模态的信息进行监测，不能保证最终的监测结果的准确性。

发明内容

本申请实施例的目的在于提供一种信息监测方法及装置、电子设备、存储介质，用以实现敏感信息的准确监测。

第一方面，本申请实施例提供一种信息监测方法，包括：获取待监测信息；所述待监测信息包括多种模态的信息；确定所述多种模态的信息分别对应的模态信息特征；每种模态的信息对应至少一种模态信息特征；根据所述多种模态的信息分别对应的模态信息特征和预先训练好的多模态信息识别模型确定所述待监测信息的监测结果；所述监测结果用于表征所述待监测信息是否为敏感信息；其中，所述预先训练好的多模态信息识别模型包括：特征融合层，用于将多种模态的信息分别对应的模态信息特征进行融合；所述特征融合层包括：单模态特征处理层、多模态特征处理层和特征整合层；所述单模态特征处理层用于对各种模态的信息对应的模态信息特征分别进行处理；所述多模态特征处理层包括第一模态特征处理层和第二模态特征处理层，所述第一模态特征处理层用于基于任意两种模态信息之间的关联关系对该两种模态的信息分别对应的模态信息特征进行处理，所述第二模态特征处理层用于基于任意三种模态信息之间的关联关系对该三种模态的信息分别对应的模态信息特征进行处理；所述特征整合层用于基于处理后的单模态特征和处理后的多模态信息特征进行特征融合，获得融合特征。

在本申请实施例中，获取多种模态的待监测信息，并分别提取各种模态的信息对应的模态信息特征，每种模态的信息对应至少一种模态信息特征，这样可以提取到多种模态信息特征，实现待监测信息的全面性特征提取；然后，再利用预先训练好的多模态信息识别模型和多种模态信息特征确定监测结果。相较于现有的基于单模态信息进行监测的方式，能够提取出更全面的特征，进而最终的监测结果也更加准确，实现敏感信息的准确监测。

作为一种可能的实现方式，所述多种模态的信息包括：图像信息、文本信息、音频信息和视频信息；其中，图像信息对应的模态信息特征为图像特征，文本信息对应的模态信息特征为文本特征，音频信息对应的模态信息特征为音频特征，视频信息对应的模态信息特征包括图像特征和音频特征。

在本申请实施例中，通过图像信息、文本信息、音频信息和视频信息，提取出文本特征、图像特征和音频特征这些多模态信息特征，实现全面性的特征提取。

作为一种可能的实现方式，所述预先训练好的多模态信息识别模型还包括预测层；所述根据所述多种模态的信息分别对应的模态信息特征和预先训练好的多模态信息识别模型确定所述待监测信息的监测结果，包括：通过所述特征融合层将所述多种模态的信息分别对应的模态信息特征进行融合，获得融合特征；通过所述预测层基于所述融合特征确定所述待监测信息的监测结果。

在本申请实施例中，多模态信息识别模型包括特征融合层和预测层，通过特征融合层，实现多模态信息特征的特征融合，获得融合特征；通过预测层，基于融合特征确定监测结果；实现监测结果的有效且准确的确定。