[发明专利]神经网络的计算优化

权利要求书

1.一种用于执行机器学习操作的计算装置，所述装置包括：

解码单元，所述解码单元用于将单个指令解码成经解码的指令，所述经解码的指令指定多个操作数，该多个操作数包括输入值和与神经网络相关联的量化的权重值；

算术逻辑单元，所述算术逻辑单元包括桶形移位器、加法器和累加器寄存器，其中，为了执行经解码的指令，所述桶形移位器将所述输入值移位所述量化的权重值从而生成经移位的输入值，并且所述加法器将所述经移位的输入值加到被存储在所述累加器寄存器中的值上，并更新被存储在所述累加器寄存器中的值。

2.如权利要求1所述的计算装置，附加地包括输出寄存器，所述输出寄存器用于存储所述单个指令的输出值。

3.如权利要求1所述的计算装置，其特征在于，所述量化的权重值被量化成2的幂值。

4.如权利要求3所述的计算装置，其特征在于，与所述量化的权重值相关联的指数被输入到所述桶形移位器。

5.如权利要求4所述的计算装置，其特征在于，所述输入值是多位输入值。

6.如权利要求1所述的计算装置，其特征在于，所述计算装置包括多个算术逻辑单元，所述多个算术逻辑单元被配置作为单指令多数据计算单元。

7.如权利要求6所述的计算装置，其特征在于，所述单指令多数据计算单元用于执行单指令多线程计算架构的多个线程的操作。

8.如权利要求1所述的计算装置，其特征在于，所述计算装置是包括媒体处理器和视觉处理器的芯片上系统集成电路。

9.如权利要求8所述的计算装置，其特征在于，所述媒体处理器用于解码多个同时的视频流，并将多个经解码的视频流输出给芯片上存储器。

10.如权利要求9所述的计算装置，其特征在于，所述视觉处理器用于解析经解码的视频流，以经由与所述神经网络相关联的经训练的图像识别模型对所述经解码的视频流的帧执行处理操作。

11.一种执行机器学习操作的方法，所述方法包括：

解码指定多个操作数的单个指令，所述操作数指定包括神经网络的输入值和权重值的数据；

发布所述单个指令以用于在通用图形处理单元的计算单元内执行；并且

响应于所述单个指令的执行，基于将所述输入值移位所述神经网络的所述权重值来产生结果，并将经移位的值加到被存储在累加寄存器中的值。

12.如权利要求11所述的方法，其特征在于，所述权重值是量化的权重值。

13.如权利要求12所述的方法，其特征在于，所述权重值被量化成二的幂次值。

14.如权利要求13所述的方法，其特征在于，将所述输入值移位所述神经网络的所述权重值包括，经由桶形移位器逻辑移位所述输入值，并且输入给所述桶形移位器逻辑的所述权重值是与所述量化权重值相关联的指数值。

15.一种通用图形处理器，包括用于执行如权利要求11-14中的任一项所述的方法的装置。