[发明专利]一种分布式的神经网络部署方法、电子设备与存储介质

说明书

本发明公开了一种分布式的神经网络部署方法、电子设备与存储介质，属于神经网络模型技术领域。包括以下步骤：用户端将输入嵌入到载体图片中，再送入公开的分类任务模型得到伪分类结果，以由服务器端的结果映射网络将所述伪分类结果进行映射，得到最终的分类结果返回给用户端；其中，所述载体图片和所述公开分类任务模型是由服务器预先分配给用户端；所述载体图片由自然图片叠加扰动P而成；所述公开分类任务模型是任意的开放分类任务神经网络模型。本发明既保证了用户的隐私，具有高度的安全性，又有效保护了模型参数，防御了对抗样本攻击与模型窃取攻击，尽可能减小了服务器的计算压力与通讯压力。

技术领域

本发明属于神经网络模型技术领域，更具体地，涉及一种分布式的神经网络部署方法、电子设备与存储介质。

背景技术

由于神经网络的发展，基于深度学习的移动端app越来越普及。深度学习部署在许多移动应用程序中，以执行各种分类任务，如人脸识别、图片分类、恶意软件检测等。基于深度学习的移动端app大致分为两种模式，一种模式是神经网络模型部署在服务器上，另一种模式是将网络模型部署在移动设备上，如图1。前者可以尽可能保护模型的隐私，但是这种模式对服务器的计算能力要求较高，需要服务器能够高并发处理数据，同时在移动端与服务器端的通信过程中，容易泄露上传的待分类图片、语音等隐私信息。因此将模型部署在移动设备上这种模式更加普遍，其便捷、轻量，减轻了服务器的并行计算压力，减少了网络流量的负载，但也增加了设备的计算要求，同时带来了各种模型知识产权问题和安全问题，例如大部分在设备上的模型并没有加密，他人可以很轻易的获取模型参数，即使模型进行了加密，攻击者也可以使用各种技术手段对其进行破解，同时在模型进行更新时，将模型部署在移动设备上这种模式将造成大量的网络流量通信，每个用户将要使用大量的流量下载新的模型参数。

为了同时获得云端和设备端的优势，显而易见的一个想法是将神经网络模型分割为两部分，分别放在云端和设备端。虽然最近有一些关于如何分割神经网络的研究，但他们关注的是用户隐私保护，而不是模型本身的安全。例如一个攻击者可以通过对抗样本技术去降低神经网络的效果，误导分类器使其错误分类；或者攻击者可能对云端模型进行模型窃取，攻击者在窃取模型后会带来以下问题：1)将模型另作他用，模型的训练需要大量的数据、资源等等，因此这属于一种知识产权的侵占；2)通过获取的模型参数，攻击者很容易攻击应用本身或者他人手机上的应用。

发明内容

针对相关技术的缺陷，本发明的目的在于提供一种分布式的神经网络部署方法、电子设备与存储介质，旨在保护模型参数，有效防御对抗样本攻击与模型窃取攻击，尽可能减小服务器的计算压力与通讯压力。

为实现上述目的，本发明的一个方面提供了一种分布式的神经网络部署方法，包括以下步骤：

用户端将输入嵌入到载体图片中，再送入公开分类任务模型得到伪分类结果，以由服务器端的结果映射网络将所述伪分类结果进行映射，得到最终的分类结果返回给用户端；

其中，所述载体图片和所述公开分类任务模型是由服务器预先分配给用户端；

所述载体图片由自然图片叠加扰动P而成；

所述公开分类任务模型是任意的开放分类任务神经网络模型。

进一步地，所述载体图片用于代表用户身份，不同用户各自所对应的自然图片不同。

进一步地，所述扰动P和结果映射网络的权重参数w通过训练得到。

进一步地，所述扰动P和结果映射网络的权重参数w通过以下步骤得到：

(1)获取新任务的数据集，所述数据集内包含数据及其标签；

(2)从数据集中随机挑选一批样本，将其输入所述分布式的神经网络模型中；

(3)根据输入的样本，并通过下式更新参数P和w：