[发明专利]caffemodel模型压缩方法、系统、设备及介质

说明书

本发明公开了一种caffemodel模型压缩方法、系统、设备及介质，其中caffemodel模型压缩方法包括：利用caffe框架导入一训练后的caffemodel模型；获取第一权重矩阵；生成掩码矩阵；利用训练集训练caffemodel模型，迭代后，fc6层和/或fc7层的权重矩阵为第二权重矩阵；将第二权重矩阵中的每项元素与掩码矩阵中对应的每项元素相乘生成第三权重矩阵，将fc6层和/或fc7层的权重矩阵设置为第三权重矩阵；迭代结束，将第三权重矩阵转化为对应的csr稀疏矩阵格式生成压缩权重矩阵。本发明的方法可达到降低caffemodel模型的存储空间的效果。

技术领域

本发明涉及算法领域，具体涉及一种caffemodel模型压缩方法、系统、设备及介质。

背景技术

Pvanet-faster-rcnn(一种物体检测模型)是一种基于卷积神经网络的对图像中物体进行检测的算法模型。在caffe(一种深度学习框架)框架下训练标准的Pvanet-faster-rcnn模型得到的caffemodel(深度学习框架模型)模型的尺寸是369MB(兆，计算机中的一种存储单位)，该模型由若干层构成，其中fc6(全连接层第6层)层和fc7层(全连接层第7层)的权重参数合计约占352MB。

当用GPU(图形处理器)卡计算该模型时，369MB大小的caffemodel模型将驻留在GPU显存中，caffemodel模型中的参数量较大，占用GPU显存资源较多，无法在显存资源紧张的GPU显卡上运行，导致GPU运算性能下降。

发明内容

本发明要解决的技术问题是为了克服现有技术中caffemodel模型在运算时占用GPU显存，导致GPU运算性能下降的缺陷，提供一种caffemodel模型压缩方法、系统、设备及介质。

本发明是通过下述技术方案来解决上述技术问题：

一种caffemodel模型压缩方法，所述caffemodel模型压缩方法包括：

利用caffe框架导入一训练后的caffemodel模型，所述caffemodel模型包括fc6层和/或fc7层，所述fc6层和/或fc7层的权重矩阵为第一权重矩阵；

获取所述第一权重矩阵；

将所述第一权重矩阵中的绝对值大于和等于预设阈值的元素设置为1，并将所述第一权重矩阵中的绝对值小于所述预设阈值的元素设置为0后，生成掩码矩阵，所述预设阈值为一正值；

利用训练集训练所述caffemodel模型，迭代后，所述fc6层和/或fc7层的权重矩阵为第二权重矩阵；

将所述第二权重矩阵中的每项元素与所述掩码矩阵中对应的每项元素相乘生成第三权重矩阵，将所述fc6层和/或fc7层的权重矩阵设置为所述第三权重矩阵；

返回所述利用训练集训练所述caffemodel模型，迭代后，所述fc6层和/或fc7层的权重矩阵为第二权重矩阵的步骤；

直至达到预设迭代结束条件，则迭代结束，将所述第三权重矩阵转化为对应的csr(一种稀疏矩阵压缩存储格式)稀疏矩阵格式生成压缩权重矩阵，将所述caffemodel模型的权重矩阵设置为所述压缩权重矩阵。

较佳地，所述将所述caffemodel模型的权重矩阵设置为所述压缩权重矩阵的步骤还包括：

迭代结束后，获得所述caffemodel模型的训练精度为迭代训练精度；

迭代前的所述caffemodel模型的训练精度为原始训练精度，计算所述迭代训练精度相比所述原始训练精度的下降比例，若所述下降比例高于预设精度比例，则降低所述预设阈值，返回生成所述掩码矩阵的步骤；

所述将所述第三权重矩阵转化为对应的稀疏矩阵格式生成所述压缩权重矩阵的步骤包括：