[发明专利]一种基于去跟踪自编码器的动态缺失值填补方法

摘要

本发明公开了一种基于去跟踪自编码器的动态缺失值填补方法，属于数据挖掘技术领域。本发明包括两部分：网络模型部分和填补方案部分。在网络模型部分，为强化不完整样本中缺失值对现有数据的依存关系，本发明在传统自编码器的基础上设计了隐藏节点的计算规则，并构建了去跟踪自编码器；在填补方案部分，针对数据的不完整性，本发明设计了一种基于缺失值动态处理机制的填补方案，将缺失值视为代价函数的未知变量并基于优化算法动态调整其估计值，填补在网络训练结束时伴随式完成。本发明强化了网络模型对属性间互相关性的学习能力，并充分利用了不完整数据集中所有的数据信息，具有较理想的填补精度。

主权项

1.一种基于去跟踪自编码器的动态缺失值填补方法，包括网络模型和填补方案两个部分，其特征在于：第一部分：网络模型设计隐藏层节点的计算规则，并搭建去跟踪自编码器；在与输入层相连的第一个隐藏层中，节点的计算规则为：式中，表示在剔除网络输入x_ij后，第一个隐藏层第k个节点得到的输出；σ(·)表示隐藏层的激活函数；w_lk表示输入层第l个节点和第一个隐藏层第k个节点的连接权重；a_k表示第一个隐藏层第k个节点的阈值；在后续的第h个隐藏层中，节点的计算规则为：式中，表示在剔除网络输入x_ij后，第h个隐藏层第k个节点得到的输出；m^h‑1表示第h‑1个隐藏层的节点个数；表示第h‑1个隐藏层第l个节点和第h个隐藏层第k个节点的连接权重；表示在剔除网络输入x_ij后，第h‑1个隐藏层第l个节点得到的输出；表示第h个隐藏层第k个节点的阈值；令y_i＝[y_i1,y_i2,......,y_is]^T表示网络的最终输出，其中，y_ij是剔除其相应网络输入x_ij后，基于其他网络输入计算得到的结果；第二部分：填补方案将缺失值视为未知变量，设计基于缺失值动态处理的填补方案；令e_i表示输出y_i和输入x_i的误差：式中，X_P是不完整数据集中所有数据的集合；X_M是不完整数据集中所有缺失值的集合；是缺失值估计；网络代价函数为：式中，n为样本容量；MVPT的填补流程为：步骤1：随机初始化网络参数包括权重和阈值，缺失值估计；步骤2：将含缺失值估计的不完整数据集输入网络模型；步骤3：基于优化算法更新网络参数，缺失值估计；步骤4：基于更新后的缺失值估计填补不完整数据集的缺失值；步骤5：若训练未达到终止条件，返回步骤2；否则，利用与缺失值对应的网络输出填补缺失值。