[发明专利]一种文章的敏感信息检测方法及装置

说明书

本申请提供了一种文章的敏感信息检测方法及装置，该方法包括：获取待检测文章的文章内容及所述待检测文章的评论内容；从所述文章内容和所述评论内容中分别提取文章关键词和评论关键词；根据所述文章关键词和评论关键词，利用训练得到的文章分类模型确定所述待检测文章对应的文章分类结果；当确认所述文章分类结果为设定分类时，则检测出所述待检测文章包括敏感信息。采用上述方法，可以准确地识别出文章中的敏感信息。

技术领域

本申请涉及网络安全技术领域，尤其涉及一种文章的敏感信息检测方法及装置。

背景技术

随着互联网技术的飞速发展，微博、微信、抖音、论坛、贴吧等应用已成为人们生活的重要组成部。每个人既是生活的作者，又是生活的读者。每个人都可以把自己的生活和对生活的感悟分享给别人，也可以参与别人的分享，对别人的分享进行评论。但是“言论自由”并不是无限制的绝对自由，所有的文章及评论在道德上必须要满足公序良俗，法律上必须满足宪法、法律和行政法规等要求。积极的信息可以引导人们的价值观，弘扬社会主义文化。而且不良信息会影响社会风气，甚至会危害国家安全。因此，如何准确判断信息的内容，并对信息进行高效地分类，对于信息安全至关重要。当前的信息分类方法只提取文章本身的内容，对于评论的内容不关注，往往不能准确地对其进行分类。进而影响文章和评论的内容中是否包括敏感信息的检测结果的准确性。

因此，如何能够准确地检测出带评论的文章中的敏感信息是值得考虑的技术问题之一。

发明内容

有鉴于此，本申请提供一种文章的敏感信息检测方法及装置，用以准确地检测出文章中的敏感信息。

具体地，本申请是通过如下技术方案实现的：

根据本申请的第一方面，提供一种文章的敏感信息检测方法，包括：

获取待检测文章的文章内容及所述待检测文章的评论内容；

从所述文章内容和所述评论内容中分别提取文章关键词和评论关键词；

根据所述文章关键词和评论关键词，利用训练得到的文章分类模型确定所述待检测文章对应的文章分类结果；

当确认所述文章分类结果为设定分类时，则检测出所述待检测文章包括敏感信息。

根据本申请的第二方面，提供一种文章的敏感信息检测装置，包括：

获取模块，用于获取待检测文章的文章内容及所述待检测文章的评论内容；

提取模块，用于从所述文章内容和所述评论内容中分别提取文章关键词和评论关键词；

确定模块，用于根据所述文章关键词和评论关键词，利用训练得到的文章分类模型确定所述待检测文章对应的文章分类结果；

检测模块，用于当确认所述文章分类结果为设定分类时，则检测出所述待检测文章包括敏感信息。

根据本申请的第三方面，提供一种电子设备，包括处理器和机器可读存储介质，机器可读存储介质存储有能够被处理器执行的计算机程序，处理器被计算机程序促使执行本申请实施例第一方面所提供的方法。

根据本申请的第四方面，提供一种机器可读存储介质，机器可读存储介质存储有计算机程序，在被处理器调用和执行时，计算机程序促使处理器执行本申请实施例第一方面所提供的方法。

本申请实施例的有益效果：

在获取到待检测文章时，通过获取该待检测文章的文章内容和评论内容，然后分别提取文章内容的文章关键词和评论内容的评论关键词，利用文章关键词和评论关键词综合判断该待检测文章中是否存在敏感信息，相比于现有技术仅基于文章内容检测敏感信息的方法，本申请提供的方法将文件内容和评论内容进行了关联，也即考虑的文章和评论之间的关系，从而提高了检测结果的准确性。

附图说明