[发明专利]基于自动信息筛选的企业行业分类系统

说明书

技术领域

本发明涉及信息处理领域，特别涉及基于自动信息筛选的企业行业分类系统。

背景技术

随着社会的进步和市场的繁荣和发展，中国经济一直处于高速的发展轨道上，企业作为社会经济中最重要的活动主体，在经济中扮演着重要的角色，对于企业信息的整理和分析有助于帮助相关决策者了解该企业的经营状况，发现潜在经营风险。企业的二级行业类别较多，如果人工对海量的企业进行分类，将耗费大量的人力。

通常会借助机器学习的手段进行数据挖掘，自动完成行业分类。主流的方法分有两种：一种是使用传统的机器学习方法，首先人工提取特征，再利用经典的分类算法，比如SVM，朴素贝叶斯等分类器完成行业分类。另一种是利用深度学习技术，比如循环神经网络完成自动的特征提取和分类任务。二级行业分类相比一级行业分类，在经营范围的描述上，不同行业之间存在更多的相似性，这导致利用常规方法很难发现这种微小的差异，进而较难作出正确的判断。如果使用传统的机器学习方法，需要做大量的特征工程，比如TF-IDF，N-GRAM等方法提取重要的特征组成高维向量放入不同的分类器算法中进行试验和调参，工作量大而繁重，并且都是凭借人的一些经验和猜想在进行的尝试，很可能花费了很大的精力最终效果却不显著。即便使用深度学习的方法，比如循环神经网络，虽然免去了一些人工的特征提取的工作，但是由于经营范围的描述信息通常很分散，包含了多个行业的内容，单从经营范围无法确定哪些信息对判断行业类别是有效的。比如，XX酿酒有限公司的经营范围描述是“白酒酿造，批发零售五金、日用品、饲料、建筑材料”。该描述中包含了多个行业类别，很难确定哪些内容是需要重点关注的，哪些内容是无用的，应该忽略。针对该类问题，如果人工进行判定，通常会先看一下公司名包含了“酿酒”，会将经营范围的描述重点放在“白酒酿造”，忽略其他无关的描述，最终确定该企业属于“酒、饮料和精制茶制造业”。基于人脑的这种信息处理方式的启发，本发明结合循环神经网络和门限控制的方法，构建了一个能够基于公司名自动进行信息筛选的神经网络，用于企业的二级行业分类。

发明内容

本发明的目的在于克服现有技术中所存在的上述不足，提供基于自动信息筛选的企业行业分类系统，构造行业分类神经网络模型；所述行业分类神经网络模型中结合循环神经网络和门限控制的方法，使用企业名称来对企业经营范围信息进行筛选，以实现对待分类企业二级行业的自动分类判断。

为了实现上述发明目的，本发明提供了以下技术方案：基于自动信息筛选的企业行业分类系统，所述系统包含行业分类神经网络模型；所述行业分类神经网络模型中结合循环神经网络和门限控制的方法，使用企业名称来对企业经营范围信息进行筛选，实现对待分类企业二级行业的自动分类判断。

具体的，所采用行业分类神经网络模型的向前算法公式如下：

h_j＝GRU₁(x_j，h_j-1)

s_j＝GRU₂(z_j，s_j-1)

f＝σ(W^(f)h_T+U^(f)s_T)

y＝softmax(b)

其中，GRU₁为第一循环神经网络，h_j是GRU₁在输入序列中第j个词的输入后生成的隐藏层状态向量，x_j是输入序列中第j个词的词向量；

GRU₂为第二循环神经网络；s_j是GRU₂在输入序列中第j个词的输入后生成的隐藏层状态向量，z_j是输入序列中第j个词的词向量；

f是用于信息筛选的控制门向量，h_T是最后一个词输入后生成的隐藏层状态向量，s_T是最后一个词输入后生成的隐藏层状态向量，f由h_T和s_T通过一个全连接的神经网络生成，其网络的参数分别是W^(f)和U^(f)，激活函数是sigmoid函数，由符号σ表示；