[发明专利]利用分布式异步更新在线机器学习的物联网数据分析方法

说明书

本发明属于机器学习技术领域，公开了一种利用分布式异步更新在线机器学习的物联网数据分析方法；利用分布式异步更新在线机器学习的物联网数据分析方法包括：位于网络边缘的从机摄取由各种传感器生成的数据；将处理后的信息发送给主控机；同时，主控机会发送全局模型向量给从机；从机发送本地计算的梯度给主控机；主控机将全局矢量w发送给从机；更新在线学习模型。本发明采用在线学习方法提高其处理流数据的效率和能力，分布式在线学习算法采用主/从架构，其中通过网络交换局部计算的梯度和全局更新的矢量模型；采用具有严格理论支持的异步更新策略减少信息各方之间的交换。

技术领域

本发明属于机器学习技术领域，尤其涉及一种利用分布式异步更新在线机器学习的物联网数据分析方法。

背景技术

目前，最接近的现有技术：分布式计算技术，然而几乎所有的分布式计算技术都没有完整统一的标准，且很难解决大规模复杂环境异构问题，所以在实际的应用中，缺乏迎合物联网边缘计算特点(如分布式、层次化、高实时性、设备计算能力由中心至边缘逐级递减)的智能化数据分析处理。另外，分布式算法在面对不断增长的网络模型时，整个平台的安全性和共享性方面的问题会显得极为严重。

物联网系统由临近现场的传感器和智能设备，用于数据传输的网络节点，以及远程云端服务器组成，系统的各个部分呈现出地理上分布范围广，逻辑上分层、从属关系明显的特点。得益于终端智能设备计算能力的提升，以及位于终端设备和云服务器之间的大量中间计算资源的存在，物联网系统能够尽可能地将计算和服务分配至网络边缘，从而扩展了云计算的集中服务模式，更加适用于规模大、地理位置分散及数据密集型的应用和服务。

综上所述，现有技术存在的问题是：现有的面向边缘节点的计算模式在实际应用中，没有迎合物联网边缘计算的特点，另外在面对大规模环境异构问题时，很难实现物联网数据分析所要求的实时性、高效率以及低通信开销等。

解决上述技术问题的难度：网络边缘设备的计算能力有限，而且大量的数据通信开销会增加网络延迟，减慢模型的更新速度，并不能高效、实时地适用于物联网数据分析任务。

解决上述技术问题的意义：能够解决物联网数据分析中边缘设备计算能力不强问题，提供在线、分布式、层次化、高实时性的数据分析方法，降低数据通信开销，加快模型的更新速度，给出一种更加高效的物联网数据分析方案。

发明内容

针对现有技术存在的问题，本发明提供了一种利用分布式异步更新在线机器学习的物联网数据分析方法。

本发明是这样实现的，一种利用分布式异步更新在线机器学习的物联网数据分析方法，所述利用分布式异步更新在线机器学习的物联网数据分析方法包括：

第一步，位于网络边缘的从机摄取由各种传感器生成的数据；将处理后的信息发送给主控机；同时，主控机会发送全局模型向量给从机；

第二步，从机发送本地计算的梯度给主控机；

第三步，主控机将全局矢量w发送给从机；

第四步，更新在线学习模型。

进一步，所述第一步将从机从边缘设备获取的数据流作为一个整体处理，将每个设备与N个从机中的一个相关联；数据集D分布在K上，即数据集D被划分为K个分区；使用符号I表示单位矩阵；给定两个矩阵和将M和N的克罗内克积表示为用作的简写；

(1)在线学习算法的初始化设置中，每个从机都以顺序的方式收集数据；在第t步，第i个从机接收到的数据表示为：(x_i，t，y_i，t)；其中表示样本是d维向量；y_i，t∈{-1，1}是指它的类标签；另外，第i个从机的分类模型由加权向量参数化；

(2)指定主控机节点维护一个复合向量w_t，由连接K个任务的权重组成即：且定期在主控机一侧更新；