[发明专利]数据的量化装置及量化方法

权利要求书

1.一种数据的量化方法，包括步骤：

对权值进行分组，所述分组包括分为一组、层类型分组、层间分组和/或层内分组；

对每一组权值用聚类算法进行聚类操作，将一组权值分成m个类，每个类计算出一个中心权值，每个类中的所有权值都用中心权值替换，其中，m为正整数；以及

对中心权值进行编码操作，得到密码本和权值字典；

其中，所述分组为层间分组，将神经网络中一个或者多个卷积层的权值、一个或者多个全连接层的权值和一个或者多个长短时记忆网络层的权值各划分成一组；

其中，所述一个类的中心权值选择方法为：使得代价函数J(w，w₀)最小；

所述代价函数为：

其中，w是一个类中的权值，w₀是该类的中心权值，p是该类中权值的数量，p为正整数，w_r是该类中第r个权值，r为正整数，且1≤r≤p。

2.根据权利要求1所述的量化方法，其中，还包括步骤：对神经网络进行重训练，重训练时只训练密码本，权值字典内容保持不变。

3.根据权利要求2所述的量化方法，其中，所述重训练采用反向传播算法。

4.根据权利要求1至3中任一所述的量化方法，其中，所述聚类算法包括K-means、K-medoids、Clara和/或Clarans。

5.根据权利要求1所述的量化方法，其中，所述分组为分为一组，将神经网络的所有权值归为一组。

6.根据权利要求1所述的量化方法，其中，所述分组为层类型分组，对i个卷积层，j个全连接层，q个LSTM层，t种不同类型的层，其中，i，j，q为大于等于0的正整数，且满足i+j+q≥1，t为大于等于1的正整数且满足t＝(i＞0)+(j＞0)+(q＞0)，神经网络的权值将被分为t组。

7.根据权利要求1所述的量化方法，其中，所述分组为层内分组，将神经网络的卷积层作为一个四维矩阵(N_fin，N_fout，K_x，K_y)，其中，N_fin，N_fout，K_x，K_y是正整数，N_fin表示输入特征图像数量，N_fout表示输出特征图像数量，(K_x，K_y)表示卷积核的大小，卷积层的权值按(B_fin，B_foutB_x，B_y)的组大小被分成N_fin*N_fout*K_x*K_y/(B_fin*B_fout*B_x*B_y)个不同的组，其中B_fin为小于等于N_fin的正整数，B_fout为小于等于N_fout的正整数，B_x为小于等于K_x的正整数，B_y为小于等于K_y的正整数；将神经网络的全连接层作为一个二维矩阵(N_in，N_out)，其中N_in，N_out是正整数，N_in表示输入神经元的个数，N_out表示输出神经元的个数，共有N_in*N_out个权值；全连接层权值按照(B_in，B_out)的组大小被分成(N_in*N_out)/(B_in*B_out)个不同的组，其中B_in是小于等于N_in的正整数，B_out是小于等于N_out的正整数；将神经网络的LSTM层权值作为多个全连接层的权值的组合，且LSTM层的权值由n个全连接层权值组成，其中n为正整数，则每一个全连接层都可以按照全连接层的分组方式进行分组操作。