[发明专利]文本过滤的方法及装置

说明书

本发明公开了一种文本过滤的方法，包括：将目标领域划分为n个单元领域并设置各自对应的相似度阈值和参照文本；分别将所有参照文本和待过滤文本通过LDA模型训练得到第一主题‑单词分布向量的集合和第二主题‑单词分布向量；分别将所有参照文本和待过滤文本通过关键词模型训练得到第一关键词向量的集合和第二关键词向量；将第一主题‑单词分布向量的集合与第一关键词向量的集合进行组合得到第一组合向量的集合，将第二主题‑单词分布向量与第二关键词向量进行组合得到第二组合向量；根据第一组合向量的集合、第二组合向量、每个单元领域的相似度阈值三者之间的预设规则确定出待过滤文本的结果。本发明同时还公开了一种文本过滤的装置。

技术领域

本发明涉及文本分析领域，尤其涉及一种文本过滤的方法及装置。

背景技术

随着大数据时代的到来，文本信息呈现出爆炸性增长的趋势，特别是社交网络的兴起，使人们能够随时随地利用社交网络发出自己的声音，这便带来了庞杂、多样的文本数据；然而在特定的分析任务中，所需要的数据却只限于几个特定的领域，大部分数据对于单个分析任务来说是冗余的，甚至是噪音；因此，在进行特定的分析任务时便需要对文本进行过滤。

目前，常见的文本过滤方法主要包括基于关键词匹配的过滤方法、基于本体库的过滤方法、采用分类或者聚类算法的文本过滤方法和基于文档主题生成模型(LatentDirichlet Allocation，LDA)的过滤方法；采用这些方法进行文本过滤时，精确度不高，当目标领域转移时，方法不够灵活，不能同时保证准确率和召回率。

发明内容

有鉴于此，本发明实施例期望提供一种文本过滤的方法及装置，以提高文本过滤时的准确率和精度，实现准确率与召回率的动态平衡。

为达到上述目的，本发明的技术方案是这样实现的：

本发明提供一种文本过滤的方法，所述方法包括：

将目标领域划分为n个单元领域，对每个单元领域设置各自对应的相似度阈值和预设数量的参照文本，所述n为自然数；

将所述目标领域的所有参照文本通过文档主题生成LDA模型训练得到第一主题-单词分布向量的集合，将待过滤文本通过所述LDA模型训练得到第二主题-单词分布向量；

将所述目标领域的所有参照文本通过关键词模型训练得到第一关键词向量的集合，将所述待过滤文本通过所述关键词模型训练得到第二关键词向量；

将所述第一主题-单词分布向量的集合与所述第一关键词向量的集合进行组合，得到第一组合向量的集合，将所述第二主题-单词分布向量与所述第二关键词向量进行组合，得到第二组合向量；

根据所述第一组合向量的集合、第二组合向量、所述每个单元领域的相似度阈值三者之间的预设规则确定出所述待过滤文本的结果。

上述方案中，所述将所述目标领域的所有参照文本通过文档主题生成LDA模型训练得到第一主题-单词分布向量的集合，将待过滤文本通过所述LDA模型训练得到第二主题-单词分布向量，包括：

将所述目标领域的所述每个单元领域的预设数量的参照文本通过所述LDA模型训练得到所述每个单元领域的主题-单词分布；根据所述每个单元领域的主题-单词分布和预设数量的参照文本得到所述每个单元领域的主题-单词分布向量；根据所述每个单元领域的主题-单词分布向量得到所述目标领域的主题-单词分布向量的集合；

将所述待过滤文本通过所述LDA模型训练得到所述待过滤文本的主题-单词分布向量。

上述方案中，所述将所述目标领域的所有参照文本通过关键词模型训练得到第一关键词向量的集合，将所述待过滤文本通过所述关键词模型训练得到第二关键词向量，包括：