[发明专利]一种基于特征筛选和注意力机制的制造装备价格预测方法

权利要求书

1.一种基于特征筛选和注意力机制的制造装备价格预测方法，其特征在于，包括以下步骤：

(1)进行装备价格数据集的特征筛选；

(2)构建基于注意力机制的价格预测模型；

(3)训练价格预测模型；

(4)使用训练好的价格预测模型进行制造装备的价格预测。

2.根据权利要求1所述的一种基于特征筛选和注意力机制的制造装备价格预测方法，其特征在于：所述步骤(1)中计算每个特征的信息增益值，并将其排序进行筛选，其计算方法如下式所示：

式中，和其中g_i和h_i分别表示损失函数的一阶和二阶导数，I_j表示叶子结点j的实例集，控制叶子结点权重，和分别是左右子树得分，γ是新加入叶子结点的复杂度表；

同时为了排除单一方法所造成的误差影响，利用若干种方法分别计算特征的权重，并根据各个方法在训练集上的效果计算相应的softmax值，并以此为标准对特征权重进行加权平均重排序，重新构造数据集，softmax计算公式如下式所示，其中eⁱ表示第i个方法的效果得分：

3.根据权利要求1所述的一种基于特征筛选和注意力机制的制造装备价格预测方法，其特征在于：所述步骤(2)主要包括输入层、神经网络编码层、注意力提取层以及结果输出层四部分。

4.根据权利要求3所述的一种基于特征筛选和注意力机制的制造装备价格预测方法，其特征在于：所述输入层接收经过特征筛选之后的数据，其输入的处理过程为：首先对数据进行处理，将所有数据统一映射成为原始的字符串编码，然后，将转换后的数据进行向量化，使字符串编码转换成神经网络能够处理的数字信息。

5.根据权利要求3所述的一种基于特征筛选和注意力机制的制造装备价格预测方法，其特征在于：所述神经网络编码层使用BP神经网络、LSTM网络和卷积神经网络三个不同结构的神经网络对相同数据同时进行学习，其中：

1)BP神经网络：

假设单条数据为将其输入到BP神经网络中，得到其对应的输出Y_c＝(y₁,…,y_m)，其计算过程如下：

Y_b＝W_o⊙(φ(W_h⊙w_c+b_h)+b_o)

其中，⊙表示元素乘法，W_h,W_o分别表示隐藏层和输出层的权重参数矩阵，b_h和b_o分别表示隐藏层和输出层的偏差参数；

2)LSTM网络：

将单条数据输入到LSTM网络对其进行序列编码，从而捕获其整体的数据特征，其中每个数据对应的两个方向的隐藏状态的序列分别是和其中d_h为其隐藏状态的维度，将其两个方向隐藏状态进行拼接，得到该条数据整体数据特征的向量表示，如下：

3)卷积神经网络：

卷积神经网络采用卷积核对数据进行扫描，取一个长度为l的卷积核在数据w_c的任何一个单项数据处，都有窗口矩阵W_i:i+l-1来拼接从到处的数据向量，其计算过程如下：

使卷积核k滑过数据w_c，取得其对应的特征图p∈R^n-l+1，下式展示了p中的每一个元素p_i的计算过程，

p_i＝φ(W_ii+l-1^T⊙l+b)

其中，φ为非线性激活函数，接着对h个长度为l的卷积核进行相同的卷积操作，获得同样数量大小的长度相同的特征图，将其按行拼接后进行转置得到网络输出Y_c，其计算过程如下：

Y_c＝[p₁；…；p_h]^T。