[发明专利]减小移动设备端神经网络模型更新的传输消耗的方法

权利要求书

1.减小移动设备端神经网络模型更新的传输消耗的方法，其特征是：包括有以下步骤：

步骤1、移动设备选择预测置信度低的数据上传到云端；

步骤2、在云端，利用移动设备上传的数据，混合旧数据集组成更大的训练集，重新训练神经网络模型，实现对新数据的学习；

步骤3、在云端提取新模型中少量权重，传送到移动设备中，更新已部署到移动设备上的旧模型，使移动设备上的旧模型能达到新模型的识别性能；

所述提取新模型中少量权重包括以下步骤：

在步骤S01，输入新模型和对应的旧模型，并从第一层开始，执行步骤S02；

在步骤S02，将旧模型该层替代新模型对应层，生成Temp模型；设置权重差值的阈值列表t1,t2,t3,…tn；

在步骤S03，在当前层的权重差值阈值列表中读取一个阈值t_i；

在步骤S04，将新模型与旧模型当前层权重矩阵中的一个位置的权重作差，然后比较差值是否大于当前选择的阈值t_i；若是，执行步骤S05；否则执行步骤S06；

在步骤S05，将新模型当前层权重矩阵中对应位置的权重替代Temp模型对应层权重矩阵中相应位置权重；然后执行步骤S06；

在步骤S06，继续遍历对比当前层权重矩阵的下一个位置权重；然后执行步骤S07；

在步骤S07，判断当前层权重矩阵的所有权重是否遍历完成；若是，则执行步骤S08，否则执行步骤S04；

在步骤S08，通过测试集，测试被更新后的Temp模型，得到测试精度；然后保存Temp模型测试精度、当前使用的权重差值阈值以及当前层总的权重更新量作为阈值考察列表，然后执行步骤S09；

在步骤S09，判断当前层的阈值列表的所有阈值是否都判断完；若是，则执行步骤S10；否则读取下一个阈值，并执行步骤S03；

在步骤S10，通过搜索步骤S08中获得的阈值考察列表，提取当前层的最佳阈值；

在步骤S11，判断当前层是否是模型最后一层；若是，则执行步骤S12，否则执行步骤S02；

在步骤S12，根据模型每层得到的最佳阈值，从新模型每一层中提取变化大的权重，将超过最佳阈值的权重以及权重位置索引信息作为输出进行保存；

在步骤S13，输出新模型每一层提取的权重以及权重的索引信息，作为需要传送到移动端的更新数据。

2.根据权利要求1所述的减小移动设备端神经网络模型更新的传输消耗的方法，其特征是：在步骤1中，设定一个预测置信度阈值，选择预测置信度小于该阈值的数据作为上传数据。

3.根据权利要求2所述的减小移动设备端神经网络模型更新的传输消耗的方法，其特征是：在步骤2中，利用增量学习的方法，将新数据加到旧的训练数据集上，组成更大的混合训练集。