[发明专利]基于VAE医疗保健联邦学习框架的确定方法

说明书

本发明公开了基于VAE医疗保健联邦学习框架的确定方法，涉及计算机科学、机器学习以及联邦学习技术领域，解决基于联邦学习的医疗保健领域的三个挑战，第一，数据分布非IID导致的最终模型性能降低以及收敛速度慢的问题。第二，医疗数据的正负样本分布不均衡导致的模型偏差较大的问题。第三，联邦学习下所消耗的通信带宽过大导致的难以实际部署的问题。我们先在联邦学习框架下训练两个轻量级的VAE，然后将训练好的VAE分发给所有的节点用于更新自己的本地数据，而更新后的本地数据具有的特点就是数据都是低维且分布具有相似性并且类别是均衡的。最后再利用这样的数据对异常检测模型进行训练。

技术领域

本发明涉及计算机科学领域，更具体的是涉及基于VAE医疗保健联邦学习框架的确定方法技术领域。

背景技术

近年来，可穿戴技术的出现改善了患者的生活和治疗体验。可穿戴设备和移动设备从根本上改变了我们对待医疗保健的方式。远程患者监控(RPM)是医疗物联网(IoMT)的一个实现，有助于提供高质量的护理和及时的远程干预，以避免健康危机。为了得到一个高质量的远程异常检测系统(比如心率异常检测，跌倒检测等)，必须通过大量的数据进行学习。然而医疗领域的数据又是非常敏感的且是隐私的，这意味着医疗机构之间的数据是不能被共享的，于是与传统的将数据集中起来进行模型训练不同，谷歌于2016年提出了联邦学习(FL)框架，也就是在数据不需要被集中(传到中心服务器)的情况下，所有参与方与一个中心服务器共同参与模型的训练。使用FL技术，独立的数据节点可以协同工作来训练一个强大的全局模型，这满足了数据安全和有关部门的监管要求。

虽然联邦学习是一个非常有应用前景的分布式学习框架，但是它依然有存在许多问题和挑战。第一个问题是，分布式训练下的每个节点的数据分布不是独立同分布的(non-IID)，这将会导致的两个问题是全局模型收敛会很慢以及最终的全局模型效果会比集中式学习模型效果差很多。第二个问题是，数据非平衡(imbalanced)的问题，这个问题在医疗保健领域尤为突出，因为异常数据发生的可能性比正常数据少得多，比如在跌倒检测的数据中，日常活动的数据要远多于跌倒类型的数据(因为人大多数时候都是在从事日常活动而不是摔倒)。而这将导致的结果是模型会更加关注那些类别多的数据从而得到的是有偏差的模型，进而影响最终的模型准确率。第三个问题是，联邦学习框架的通信成本过高。导致这个问题的原因主要有两点，第一，用户的原始数据维度太高导致模型也变得很大从而每个通信轮次中所要传输的梯度也会变多；第二，由于数据是非独立同分布的，导致全局模型需要迭代很多次(服务器与节点之间通信很多个轮次)才能收敛，这也增加了通信负担。针对第一个问题，现有的技术解决方案是让所有参与方(节点)共享一部分的数据以减轻数据非iid对模型的影响，但这不适用于医疗场景，因为在任何情况下都不能共享患者的私人数据；对于第二个问题，现有技术方案是采用数据生成算法(SMOTE算法)，然而，这种数据生成需要用到全局数据，而基于FL的医疗保健系统中的医疗数据是私有的和本地的，因此这种方法也是不现实的。针对第三个问题，现有的技术解决方案是在每个通信轮次都对所传输的梯度进行压缩，从而降低通信开销。然而，这种方法是以牺牲模型性能为代价的，这对医疗领域来说是不可容忍的，因为错误的判断可能会给患者带来无可挽回的后果。到目前为止，还没有研究同时解决这三个问题。虽然有部分研究专注于解决联邦学习中统计挑战中的某一个问题并且取得了良好的效果，但是如果只是简单将它们拼凑起来的结果是侵犯到了用户的隐私以及增加了计算成本，换句话说现有的方案是很难兼容的。

因此，我们提出了一个新的框架FedVAE，FedVAE为基于VAE医疗保健联邦学习框架；在医疗联邦学习场景下它可以同时解决中提到的上述三个问题，能在消耗较低通信带宽的情况下联合训练出高精度的异常检测模型。

发明内容

本发明的目的在于：为了解决上述技术问题，本发明提供基于VAE医疗保健联邦学习框架的确定方法。

本发明为了实现上述目的具体采用以下技术方案：

基于VAE医疗保健联邦学习框架的确定方法，具体包括以下步骤：