[发明专利]联网式机器学习系统

说明书

技术领域

本发明涉及机器学习领域，具体地，涉及一种联网式机器学习系统。

背景技术

以深度学习为代表的新一代人工智能技术正风靡全球，成为新的风口，并被广泛应用于图像、自然语言、金融证券等领域。但不管是基于深度模型还是传统的浅层模型，都按照数据采集、本地训练、测试的流程，最后得到模型，再用此模型来解决现实问题。一般都只在单独一台机器上训练，即使有分布式训练，也只是将一个训练任务分配到多台机器上，整个过程中缺乏自动的对外交流机制。

因此，现有的机器学习系统较为封闭，学习速度慢，各个训练用机器之间没有联系，大量机器之间存在重复训练，不利于各机器学习模型能力的提高，并且单个机器的训练用数据源往往比较单一，影响了其泛化能力。

发明内容

本发明提供了一种联网式机器学习系统，解决了现有的机器学习存在学习速度慢，各个机器之间没有联系，性能较低、泛化能力差的问题，提高学习的速度，也能使同一模型经受各种应用场景和数据的检验从而提高性能。

为实现上述发明目的，本申请提供了联网式机器学习系统，所述系统包括：

系统中的互相连接的设备运行各自独立的机器学习模型。当系统中的一个设备上的模型进行训练或测试时，设备可以直接获取其他设备提供的机器学习模型、模型参数、数据，对本地模型的性能进行提高，也可在没有本地模型的情况下，直接使用其他模型提供的模型、参数、数据，建立本地模型。具体的方式，一种是设备应邀或主动上传本地所使用的模型、参数或数据，供其他设备取用。另一种情况则是本地模型主动提供数据，寻求能较好完成目标的模型与模型参数。

其中，将分布在不同地点模型进行在线连接，各设备通过协议，直接传送本地训练出的模型参数给其他模型，供其他模型进行借鉴，可以极大地提高学习的速度，也能使同一模型经受各种应用场景和数据的检验从而提高性能。

进一步地，所述系统还包括第一管理平台，各设备将各自的模型、参数上传至第一管理平台，并向第一管理平台提供训练及测试数据；不同设备根据自身应用场景及目的，从第一管理平台下载模型、参数与数据。

进一步地，所述系统还包括第二管理平台，第一预设设备通过第二管理平台与其他设备建立连接，将第一预设设备上的机器学习模型的训练与测试数据发送给其他设备，其他设备上的模型在接收训练与测试数据后在本地进行训练、测试，在测试合格时，将本地模型与参数通过第二管理平台传输至第一预设设备，数据包括训练数据与测试数据。

本申请提供的一个或多个技术方案，至少具有如下技术效果或优点：

大幅度提高机器学习模型的学习速度，提高其适应不同场景的能力。

具体实施方式

本发明提供了一种联网式机器学习系统，解决了现有的机器学习存在学习速度慢，各个机器之间没有联系，性能较低、泛化能力差的问题，提高学习的速度，也能使同一模型经受各种应用场景和数据的检验从而提高性能。

为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合具体实施方式对本发明进行进一步的详细描述。需要说明的是，在相互不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。

在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是，本发明还可以采用其他不同于在此描述范围内的其他方式来实施，因此，本发明的保护范围并不受下面公开的具体实施例的限制。

传统的机器学习，有从零开始训练和基于已有模型进行fine tune两种。后一种方式，也是要人工进行选择模型，然后再设定训练方式和数据重新进行fine tune。

另外还有一种称为迁移学习的方式，也是直接使用已有模型，再将已有模型应用到新领域的技术。微调的方式通常也是使用已有模型，但通常还在原有领域，一般属于一种局部性的调参手段。考虑到人工智能技术未来应用前景的广泛性，可以预见未来机器学习将被广泛应用于各种场景，这样将会有大量的模型同时运行在全球不同地点。如果所有的模型都只是依赖于本地数据进行离线/在线训练再逐渐提高，毫无疑问都将使模型的进步速度和适应场景的能力大幅度降低。

目前机器学习领域，fine tune和迁移学习都是人工完成的，受限于每个开发者的硬件能力、数据获取能力等因素，不同的模型都是独立开发的。需要经过大量的测试才能上线。而且即使上线运行，也难以完全应对所有的实际场景。