[发明专利]基于Transformer子空间表征学习的因果推理辅助诊断方法

权利要求书

1.一种基于Transformer子空间表征学习的因果推理辅助诊断方法，其特征在于，包括：

通过Transformer网络从电子病历数据中提取患者的特征信息；

通过自监督学习的方式对所述患者的特征信息进行扩容，将扩容后的患者的特征信息映射到低维的共享子空间和特异子空间，得到患者的低维共享特征表示和特异特征表示，通过堆叠所述低维共享特征表示和特异特征表示得到患者的低维特征表示；

构建对抗模型，使用对抗模型来平衡所述患者的低维特征表示中不同分组之间的分布，得到分布平衡的低维特征表示；

将所述分布平衡的低维特征表示输入到前馈网络，所述前馈网络输出患者的预测诊断结果。

2.根据权利要求1所述的方法，其特征在于，所述的通过Transformer网络从电子病历数据中提取患者的特征信息，包括：

获取去除隐私信息的医院电子病历，从医院电子病历中提取结构化的患者数据，该患者数据包括患者的生理信息、数据化的主诉信息和实验室指标，对患者数据进行预处理后，通过Transformer网络从患者数据中提取患者的特征信息；

(1)将原始的患者数据转换为的矩阵形式；

(2)使用Transformer将矩阵X映射到两个不同的低维空间，分别得到低维的表征矩阵其中Transformer的核心部分为自注意力机制，公式如下：

Z_con,Z_tre表示矩阵X得到的特异子空间表示，Z_com表示矩阵X得到的共享子空间表示，将两种子空间表示进行拼接得到表示矩阵Q,K,V分别代表查询向量，键向量和值向量，其由输入矩阵X通过全连接网络映射得到；

(3)将表征矩阵Z作为患者的特征信息。

3.根据权利要求2所述的方法，其特征在于，所述的通过自监督学习的方式对所述患者的特征信息进行扩容，将扩容后的患者的特征信息映射到低维的共享子空间和特异子空间，得到患者的低维共享特征表示和特异特征表示，通过堆叠所述低维共享特征表示和特异特征表示得到患者的低维特征表示，包括：

通过重构网络将与所述患者的特征信息与原始的患者数据进行均方误差MSE重构，重构特征信息到原始的患者数据，采用基于重构的自监督学习对患者的特征信息进行扩容，得到扩容后的患者的特征信息，将患者的特征信息映射到低维的子空间，得到患者的低维特征表示；

将原始的患者数据x_i分别经过两个独立的Transformer，两个Transformer输出共享特征表示z_com和特异特征表示z_con\tre，将z_com和z_con\tre进行拼接，得到患者的低维特征表示z_i，采用希尔伯特-施密特独立性指标HSIC约束来减少同一病患x_i的z_com和z_con\tre之间的相关性：

其中，Tr(·)表示矩阵的迹，X,Y代表要进行约束的两种特征向量，K_X，K_Y分别表示X,Y由给定核函数计算而来的正定矩阵；

令F表示解码器；

按照如下公式计算x_i与之间的相似性L_reco：

其中L_reco表示x_i与之间的相似性损失。