[发明专利]一种基于小样本的网络模型压缩云端服务方法和装置

说明书

本申请提出了一种基于小样本的网络模型压缩云端服务方法，涉及车载压缩模型技术领域，其中，该方法包括：获取用户上传的数据信息，包括待压缩模型的信息、第一样本集合和压缩要求；根据所述待压缩模型的信息和所述压缩要求确定压缩方案，并根据所述第一样本集合生成第二样本集合，并计算所述第二样本集合中各个样本的初始置信度，根据所述压缩方案和所述各个样本的初始置信度对待压缩模型进行迭代式压缩优化，以获得初步压缩模型；根据所述第一样本集合对所述初步压缩模型进行微调，以得到目标压缩模型。采用上述方案本发明在保证模型准确率的前提下，降低模型的计算量，通过云端和互联网搜索，避免对人为设定的依赖和上传大数据集所造成的消耗和不便利。

技术领域

本申请涉及车载压缩模型技术领域，尤其涉及一种基于小样本的网络模型压缩云端服务方法和装置。

背景技术

随着深度学习在图像、文本、语音等领域的迅速发展，推动了智慧交通、自动驾驶以及新能源汽车的研究，越来越多的深度学习模型需要部署在车载端和一些小型终端上。当前的神经网络为了更好地提取数据的特征以提升模型性能，模型的参数规模迅速增长，神经网络层数和通道数不断增加，使得神经网络模型规模越来越大，移植和运算都非常困难，这导致神经网络模型的应用范围受到限制，无法部署在资源受限的车载端上，这就需要将模型进行压缩，以保留其精度的情况下使模型参数量减少，便于将压缩模型顺利部署在车载端上，推动智能系统的应用和发展。

由于车载设备主要以通用计算单元为主，在存储和数据处理上适用于结构化的数据，故稀疏化的结构，如权重剪枝所带来的稀疏结构并不适合车载设备。而直接设计小的模型和人工设计超参数的方式在精度上并没有保障，而且需要人工手动调整，需要耗费大量人力精力，难以达到最优的压缩效果。通常的模型压缩需要利用训练集重新训练，但是云端网络结构压缩服务存在如下问题：一是网速限制，有的数据集非常庞大，完整的上传需要大量时间；二是有的数据集涉及隐私，不方便大量上传。

现有技术方案有一部分没有考虑到多个通道之间的互相影响；有一部分没有考虑到神经元之间的依赖关系，因此在排序时可能删掉了一些原本重要的需要有一定依赖关系的神经元；有一部分牺牲了精度，无法达到对精度的使用需求，这些方案都会导致压缩后的模型性能受限，使用效果不太理想。而另一部分技术方案则考虑了模型的性能，但大多都需要大量的训练数据，强化学习训练过程耗时长，且计算量较大，效率低下难以推广。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种基于小样本的网络模型压缩云端服务方法，一是为了解决云端压缩中存在的数据安全性或者隐私保护问题；

二是解决有的情况下数据传输量过大，受网速带宽影响；

三是在压缩过程中考虑模型通道之间的相互影响关系，在一定程度上更合理，同时提升压缩能力。

本申请的第二个目的在于提出一种计算机设备。

本申请的第三个目的在于提出一种非临时性计算机可读存储介质。

为达上述目的，本申请第一方面实施例提出了一种基于小样本的网络模型压缩云端服务方法，包括：

获取用户上传的数据信息，所述数据信息包括待压缩模型的信息、第一样本集合和压缩要求；

根据所述待压缩模型的信息和所述压缩要求确定压缩方案，并根据所述第一样本集合生成第二样本集合，并计算所述第二样本集合中各个样本的初始置信度，其中，所述第二样本集合包括具有与所述第一样本集合中第一样本的第一标签相关联的第二标签的第二样本；

根据所述压缩方案和所述各个样本的初始置信度对压缩模型进行迭代式压缩优化，以获得初步压缩模型；

根据所述第一样本集合对所述初步压缩模型进行微调，以得到目标压缩模型。