[发明专利]神经网络量化、应用方法、装置和计算设备

权利要求书

1.一种神经网络量化方法，包括：

获取待量化的神经网络模型，从所述神经网络模型的参数中确定多个待量化的参数；

将每个所述待量化的参数转化为一个公共因子和一个量化因子的乘积，其中，所述公共因子为第一数据类型的数值，所述量化因子为第二数据类型的数值，且第一数据类型所占用的存储空间大于第二数据类型所占用的存储空间；

采用所述第一数据类型存储所述多个待量化的参数的公共因子，以及采用所述第二数据类型分别存储所述多个待量化的参数的量化因子。

2.如权利要求1所述的方法，其中，所述待量化的神经网络模型的参数采用第一数据类型存储。

3.如权利要求1所述的方法，其中，所述待量化的参数为神经网络模型的权重。

4.如权利要求1所述的方法，其中，所述第一数据类型为32位浮点型，所述第二数据类型为8位整型。

5.如权利要求1所述的方法，其中，所述将每个所述待量化的参数转化为一个公共因子和一个量化因子的乘积的步骤包括：

在所述神经网络模型中设置第一量化函数，所述第一量化函数包括待定参数，所述第一量化函数的输入为第一数据类型的待量化的参数，输出为该待量化的参数所对应的公共因子和量化因子的乘积；

采用第一样本集对包含第一量化函数的神经网络模型进行训练，以确定所述第一量化函数的待定参数，其中，所述第一样本集为用于训练所述神经网络模型所采用的训练样本集合的子集；

根据训练好的第一量化函数来确定待量化的参数所对应的公共因子和量化因子。

6.如权利要求5所述的方法，其中，在所述将每个所述待量化的参数转化为一个公共因子和一个量化因子的乘积的步骤之后，还包括：在神经网络模型中删除所述第一量化函数。

7.如权利要求5所述的方法，还包括：

在所述神经网络模型中设置第二量化函数，所述第二量化函数包括待定参数，所述第二量化函数的输入为第一数据类型的节点的输出值，输出为该节点的输出值所对应的公共因子和量化因子的乘积；

采用第一样本集对包含第二量化函数的神经网络模型进行训练，以确定所述第二量化函数的待定参数，其中，所述第一样本集为用于训练所述神经网络模型所采用的训练样本集合的子集；

根据训练好的第二量化函数来确定节点的输出值所对应的公共因子和量化因子。

8.如权利要求5所述的方法，其中，所述第一量化函数z₁为：

其中，α₁、β₁、o₁为待定参数，n、s_i、T、b_i为预设的常数，σ()为预设的基函数，α₁为公共因子，为量化因子，w为待量化的参数值。

9.如权利要求7所述的方法，其中，所述第二量化函数z₂为：

其中，α₂、β₂、o₂为待定参数，n、s_i、T、b_i为预设的常数，σ()为预设的基函数，α₂为公共因子，为量化因子，h为节点的输出值。

10.如权利要求8或9所述的方法，其中，n为预设的量化值集合中所包括的量化值的个数，s_i为量化值集合中第i+1个量化值与第i个量化值之差。

11.如权利要求8或9所述的方法，其中，所述基函数为全定义域可微且值域具有上下限的函数。

12.如权利要求11所述的方法，其中，σ()为sigmoid函数或tanh函数。