[发明专利]压缩神经网络模型的方法、装置

权利要求书

1.一种压缩神经网络模型的方法，包括：

获取待压缩神经网络模型；

确定对应所述待压缩神经网络模型的第一比特宽度、第二比特宽度与目标稀疏率，所述第一比特宽度与所述第二比特宽度根据运行所述待压缩神经网络模型的处理器来确定；

根据所述第一比特宽度、所述第二比特宽度与所述目标稀疏率，得到目标数值；

使用所述目标数值、所述第一比特宽度与所述第二比特宽度对所述待压缩神经网络模型进行压缩，得到所述待压缩神经网络模型的压缩结果。

2.根据权利要求1所述的方法，其中，所述确定对应所述待压缩神经网络模型的第一比特宽度包括：

确定运行所述待压缩神经网络模型的处理器；

将所述处理器的向量宽度，作为对应所述待压缩神经网络模型的第一比特宽度。

3.根据权利要求1-2中任一项所述的方法，其中，所述确定对应所述待压缩神经网络模型的第二比特宽度包括：

确定运行所述待压缩神经网络模型的处理器；

根据所述处理器中的指令集的向量宽度，确定对应所述待压缩神经网络模型的第二比特宽度。

4.根据权利要求1所述的方法，其中，所述确定对应所述待压缩神经网络模型的目标稀疏率包括：

获取所述待压缩神经网络模型的属性信息；

将与所述属性信息对应的稀疏率，作为对应所述待压缩神经网络模型的目标稀疏率。

5.根据权利要求1所述的方法，其中，所述根据所述第一比特宽度、所述第二比特宽度与所述目标稀疏率，得到目标数值包括：

计算所述第二比特宽度与所述目标稀疏率之间的乘积；

将所述第一比特宽度与所述乘积之间的相除结果，作为所述目标数值。

6.根据权利要求1所述的方法，其中，所述使用所述目标数值、所述第一比特宽度与所述第二比特宽度对所述待压缩神经网络模型进行压缩，得到所述待压缩神经网络模型的压缩结果包括：

根据所述目标数值、所述第一比特宽度与所述第二比特宽度，对所述待压缩神经网络模型中的参数进行稀疏化处理，得到第一神经网络模型；

根据所述第一神经网络模型，得到所述待压缩神经网络模型的压缩结果。

7.根据权利要求6所述的方法，其中，所述根据所述目标数值、所述第一比特宽度与所述第二比特宽度，对所述待压缩神经网络模型中的参数进行稀疏化处理，得到第一神经网络模型包括：

将所述待压缩神经网络模型中连续的、对应所述目标数值个数的参数作为一个参数单元；

按照绝对值从小到大的顺序，对所述参数单元包含的参数进行排序；

根据所述第一比特宽度、所述第二比特宽度与所述目标数值，得到置零数量；

将所述待压缩神经网络模型的参数单元中排在置零数量之前的参数设置为零，得到所述第一神经网络模型。

8.根据权利要求6-7中任一项所述的方法，其中，所述根据所述第一神经网络模型，得到所述待压缩神经网络模型的压缩结果包括：

根据所述第二比特宽度，对所述第一神经网络模型中未设置为零的参数进行量化处理；

将量化处理之后的神经网络模型，作为所述待压缩神经网络模型的压缩结果。