[发明专利]信息处理设备、处理信息的方法和计算机可读记录介质

权利要求书

1.一种信息处理设备，包括：

量化单元，其被配置成量化在神经网络中使用的变量中的至少一个变量；

噪声添加单元，其被配置成向所述变量中的至少一个变量中的每个变量添加预定噪声；以及

学习单元，其被配置成通过使用已经添加了所述预定噪声的经量化的变量中的至少一个经量化的变量来执行所述神经网络。

2.根据权利要求1所述的信息处理设备，

其中，在所述量化中被量化的变量中的至少一个变量包括在学习期间后向传播的差值、在学习期间通过后向传播所述差值计算的梯度信息以及在学习或推断期间用于输入数据的计算的权重参数中的至少一个。

3.根据权利要求2所述的信息处理设备，

其中，所述噪声添加单元包括在所述添加中向所述经量化的变量添加其表示噪声的每个值的出现频率的直方图具有预定概率分布的噪声。

4.根据权利要求3所述的信息处理设备，

其中，所述学习单元包括：在所述量化中对在学习期间通过后向传播所述差值计算的所述梯度信息进行量化并且在所述添加中向经量化的梯度信息添加噪声的情况下，通过将已经添加了所述噪声的经量化的梯度信息与学习率相乘并且从先前学习的权重参数减去所述相乘的结果来更新所述先前学习的权重参数。

5.根据权利要求4所述的信息处理设备，

其中，所述概率分布是其平均值为0、其方差值是所述梯度信息的最大值的1/M倍(M是整数)的正态分布，并且其中，所述噪声的等于或大于经量化的梯度信息的最小值的值的出现频率为0。

6.一种用于通过执行神经网络的处理器来处理信息的方法，所述信息处理方法包括：

量化在神经网络中使用的变量中的至少一个变量；

向所述变量中的至少一个变量中的每个变量添加预定噪声；以及

通过使用已经添加了所述预定噪声的经量化的变量中的至少一个经量化的变量来执行所述神经网络。

7.一种计算机可读记录介质，其中存储有用于使执行神经网络的处理器执行包括以下的处理的程序：

量化在所述神经网络中使用的变量中的至少一个变量；

向所述变量中的至少一个变量中的每个变量添加预定噪声；以及

通过使用已经添加了所述预定噪声的经量化的变量中的至少一个经量化的变量来执行所述神经网络。