[发明专利]运算处理设备、控制方法以及计算机可读记录介质

权利要求书

1.一种运算处理设备，包括：

存储器，其当在多次迭代中重复执行给定机器学习模型的训练时，存储在所述多次迭代中的每次迭代中获得的多个定点数数据中的每个定点数数据的小数点位置的误差，所述误差是基于与正数的最左置位位置和负数的最左未置位位置的分布或所述多个定点数数据的最右置位位置的分布相关的统计信息获得的；以及

确定器，其基于所述多次迭代中的每次迭代的误差的趋势确定用于校正在所述训练中使用的定点数数据的小数点位置的偏移量。

2.根据权利要求1所述的运算处理设备，其中：

所述机器学习模型是包括多个层的神经网络；以及

所述存储器存储所述神经网络中包括的所述多个层中的每一层的误差；以及

所述确定器确定所述多个层中的每一层的偏移量。

3.根据权利要求2所述的运算处理设备，其中，所述确定器基于在第一层之前的第二层的误差来确定所述第一层的偏移量，所述误差被存储在所述存储器中。

4.根据权利要求3所述的运算处理设备，其中，所述确定器还指定在第t次迭代之前并且在误差的趋势上与所述第二层的训练的第t次迭代相似的第x次迭代(其中，t是2或更大的整数，并且x是小于t的整数)，并且其中，

所述确定器基于所述第一层的第x次迭代的误差确定所述第一层的第t次迭代的偏移量。

5.根据权利要求3或4所述的运算处理设备，其中，所述确定器使用所述第二层的统计信息和所述第一层的误差来训练用于确定偏移量的机器学习模型，并且其中，

所述确定器基于用于确定偏移量的所述机器学习模型的学习结果来确定所述第一层的偏移量。

6.根据权利要求3或4所述的运算处理设备，其中：

所述存储器彼此相关联地存储从所述多次迭代中的每次迭代中的统计信息获得的特征值；以及

所述确定器基于存储在所述存储器中的所述第二层的误差和特征值的组合来确定所述第一层的偏移量。

7.根据权利要求3或4所述的运算处理设备，其中，所述第二层是所述神经网络中从引导层到所述第一层之前的层中的一层或者两层或更多层的组合。

8.根据权利要求3或4所述的运算处理设备，其中，所述第二层是所述神经网络中的引导层。

9.根据权利要求3或4所述的运算处理设备，其中，所述第二层是在通过以两个或更多个连续层为单位对所述多个层进行划分获得的多个块中的所述第一层所属的块中的引导层。

10.根据权利要求3或4所述的运算处理设备，其中，所述第二层是在通过以两个或更多个连续层为单位对所述多个层进行划分获得的多个块中的所述第一层所属的块中从引导层到所述第一层之前的层中的一层或者两层或更多层的组合。

11.一种计算机可读记录介质，所述计算机可读记录介质中存储有使计算机执行处理的控制程序，所述处理包括：

当在多次迭代中重复执行给定机器学习模型的训练时，将在所述多次迭代中的每次迭代中获得的多个定点数数据中的每个定点数数据的小数点位置的误差存储在存储器中，所述误差是基于与正数的最左置位位置和负数的最左未置位位置的分布或所述多个定点数数据的最右置位位置的分布相关的统计信息获得的；以及

基于所述多次迭代中的每次迭代的误差的趋势确定用于校正在所述训练中使用的定点数数据的小数点位置的偏移量。

12.根据权利要求11所述的计算机可读记录介质，其中：

所述机器学习模型是包括多个层的神经网络；以及

所述处理还包括：

将所述神经网络中包括的所述多个层中的每一层的误差存储到所述存储器中；以及

确定所述多个层中的每一层的偏移量。