[发明专利]用于重组深层神经网络的自我微调模型压缩方法及装置

权利要求书

1.一种用于重组一深层神经网络DNN的自我微调模型压缩方法，其特征在于，包含：

接收一深层神经网络模型以及一数据组，其中该深层神经网络模型包含一输入层、至少一隐藏层以及一输出层，且该深层神经网络模型的该至少一隐藏层以及该输出层包含多个神经元；

依据该数据组，将该深层神经网络模型压缩成一重组模型，其中该重组模型包含一输入层、至少一隐藏层以及一输出层，且该重组模型的该至少一隐藏层以及该输出层包含多个神经元，且该重组模型的大小小于该深层神经网络模型的大小；以及

在一使用者终端执行该重组模型以供一最终使用者应用制法的使用。

2.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中依据该数据组将该深层神经网络模型压缩成该重组模型包含：

分析该深层神经网络模型的稀疏性以产生一分析结果；以及

藉由精简并量化该深层神经网络模型的一网络冗余性产生该重组模型，其中精简并量化该深层神经网络模型的该网络冗余性包含：

依据该分析结果，将一低阶近似方法施加于该深层神经网络模型的该至少一隐藏层以及该输出层。

3.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中该重组模型的该多个神经元的数量小于该深层神经网络模型的该多个神经元的数量。

4.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中该重组模型的该多个神经元的每一者对应于包含有一乘法器及一加法器中至少一者的至少一逻辑电路，该深层神经网络模型的该多个神经元的每一者对应于包含有一乘法器及一加法器中至少一者的至少一逻辑电路，以及于该重组模型中的逻辑电路的数量小于该深层神经网络模型中的逻辑电路的数量。

5.如权利要求1所述的自我微调模型压缩方法，其特征在于，另包含：

以该数据组重新训练该重组模型。

6.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中该深层神经网络模型包含一AlexNet、一VGG16、一RestNet、一MobileNet、以及一Yolo网络(Network)的多个类型的模型的其中之一。

7.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中该重组模型的该至少一隐藏层以及该输出层中的每一者是一卷积层或一完全连接层。

8.如权利要求1所述的自我微调模型压缩方法，其特征在于，其中该最终使用者应用制法是一视觉辨识应用制法或一语音辨识应用制法。

9.一种电子装置，其特征在于，包含：

一储存装置，用来储存一制法码；以及

一处理器，用来执行该制法码；

其中当该处理器载入并执行该制法码，该制法码指示该处理器执行以下步骤：

接收一深层神经网络模型以及一数据组，其中该深层神经网络模型包含一输入层、至少一隐藏层以及一输出层，且该深层神经网络模型的该至少一隐藏层以及该输出层包含多个神经元；以及

依据该数据组，将该深层神经网络模型压缩成一重组模型，其中该重组模型包含一输入层、至少一隐藏层以及一输出层，且该重组模型的该至少一隐藏层以及该输出层包含多个神经元，且该重组模型的大小小于该深层神经网络模型的大小。

10.如权利要求9所述的电子装置，其特征在于，其中依据该数据组将该深层神经网络模型压缩成该重组模型包含：

分析该深层神经网络模型的稀疏性以产生一分析结果；以及

藉由精简并量化该深层神经网络模型的一网络冗余性产生该重组模型，其中精简并量化该深层神经网络模型的该网络冗余性包含：

依据该分析结果，将一低阶近似方法施加于该深层神经网络模型的该至少一隐藏层以及该输出层。

11.如权利要求9所述的电子装置，其特征在于，其中该重组模型的该多个神经元的数量小于该深层神经网络模型的该多个神经元的数量。