[发明专利]一种使用自注意力机制的疾病预测方法

说明书

本发明公开一种使用自注意力机制的疾病预测方法，包括步骤：将一个时间段的气候数据输入到LSTM网络中获得特征向量；将同样时间段内的医院就诊数据输入到LSTM网络中获得特征向量；将患者的体检数据，与两个特征向量进行拼接，输入到多层感知器中提取新特征向量；使用自注意力机制方法，对新特征向量进行特征筛选，获取重要程度较高的最终特征向量；将最终特征向量输入到全连接层网络，获取最终预测结果。本发明通过深度神经网络对某一地区的气候数据、医院的就诊数据以及患者的检测数据进行特征提取，并使用自注意力机制对这些特征进行筛选，具有干扰作用的特征进行抑制或剔除，提升模型的预测效果。

技术领域

本发明属于数据处理技术领域，特别是涉及一种使用自注意力机制的疾病预测方法。

背景技术

随着大数据的发展，对于疾病的预测算法也得到了极大的改进。在已有的一些方法中，使用了多元线性回归决策树模型，通过气象数据分析和预测患者的患病情况，但决策树模型等传统的机器学习模型无法获取数据的隐藏特征，对问题的拟合性较差。还有，使用了深度时空残差网络对疾病进行预测，并使用相关疾病数据以及多种外部数据对模型进行训练。还有，使用深度神经网络对脑卒中疾病进行预测分析，该方法中仅使用了患者的疾病数据进行分析。

在医疗健康领域与机器学习领域结合的预测方法中，可大致分为基于传统机器学习的预测方法和基于深度学习的预测方法。使用的决策树方法属于传统的机器学习方法，这种方法大多基于统计分析和信息熵的计算，对非线性问题的拟合性较差。而基于深度学习的疾病预测方法，其方法中使用深度神经网络对数据进行特征提取，分析数据中的隐藏信息，对数据进行重新表征。虽然深度神经网络对能够对输入数据进行有效地特征提取，但并无法知道这些特征是否有效，或者说可能只有部分特征比较重要，有些特征不重要，甚至会干扰模型的预测效果。现有的这种方法只能完成对数据的特征提取，并不能有效地对特征的重要程度进行区分和筛选。

发明内容

为了解决上述问题，本发明提出了一种使用自注意力机制的疾病预测方法，通过深度神经网络对某一地区的气候数据、医院的就诊数据以及患者的检测数据进行特征提取，并使用自注意力机制对这些特征进行筛选，进一步提取出重要的特征，将不重要的特征，甚至是具有干扰作用的特征进行抑制或剔除，提升模型的预测效果。

为达到上述目的，本发明采用的技术方案是：一种使用自注意力机制的疾病预测方法，构建基于注意力机制的疾病预测模型，包括步骤：

S10,将一个时间段的气候数据输入到第一LSTM网络中进行数据分析和特征提取，获得特征向量h₁；

S20,将同样时间段内的医院就诊数据输入到第二LSTM网络中进行数据分析和特征提取，获得特征向量h₂；

S30,将患者的体检数据，与特征向量h₁和h₂进行拼接，输入到MLP多层感知器中，对多源数据进行分析，并提取特征向量h_MLP；

S40,使用改进自注意力机制，对特征向量h_MLP进行特征筛选，获取重要程度较高的特征向量h_Att；

S50,将h_Att输入到一层全连接层网络FC，获取最终预测结果。

进一步的是，构建数据集作为疾病预测模型的输入数据，疾病预测模型的每条输入数据包括一位患者就诊的体检数据，以及就诊当天的前t天的气候数据和前t天的医院数据，该条数据的标签为医院诊断的患病情况。

进一步的是，构建数据集，数据集包含气候数据、医院就诊数据和患者的体检数据；

定义气候数据集D₁，包含地区或城市的一段时间T天内的气候数据，即D₁中包含T天的数据，每天的气候数据包括温度、湿度、空气质量以及风力数据；