[发明专利]用于执行深度神经网络运算的存储器及其操作方法

说明书

本发明提供一种用于执行深度神经网络运算的存储器及其操作方法。存储器包括：处理单元以及权重单元。处理单元具有数据输入端与数据输出端。权重单元经配置以耦接处理单元的数据输入端。权重单元包括索引存储器与映射表。索引存储器经配置以存储多个权重索引。映射表经配置以将多个权重索引分别对应至多个代表权重数据。

技术领域

本发明涉及一种用于执行深度神经网络运算的存储器及其操作方法。

背景技术

随着人工智能(Artificial Intelligence，AI)运算的演进，AI运算的应用范围越来越广泛。例如，经由神经网络模型来进行图像分析、语音分析、自然语言处理等神经网络运算。因此，各技术领域持续地投入AI的研发与应用，适用于深度神经网络(Deep NeuralNetworks，DNN)、卷积神经网络(Convolutional Neural Network，CNN)等等的各种算法也不断推陈出新。

然而，无论是哪一种神经网络运算所使用的算法，在隐藏层(Hidden layer)中所使用的数据量非常庞大，才能达成机器学习的功能。具体而言，深度神经网络的运算基础实际上是来自于神经元与权重之间的矩阵运算。在此情况下，在执行深度神经网络运算时，需要花费大量的存储器空间来存储权重。倘若存储权重的存储器出现卡住错误(stuck-at-faults)的现象，将会导致深度神经网络的运算有误。因此，如何提供一种存储器及其操作方法可降低卡住错误的现象并提高深度神经网络运算的正确率将成为重要的一门课题。

发明内容

本发明提供一种适用于执行深度神经网络运算的存储器及其操作方法，其可找出具有最少卡住错误的编码数据来表示权重索引与代表权重数据之间的映射关系，进而减少索引存储器的卡住错误。

本发明提供一种存储器适用于执行深度神经网络运算。上述的存储器包括：处理单元以及权重单元。处理单元具有数据输入端与数据输出端。权重单元经配置以耦接处理单元的数据输入端。权重单元包括索引存储器与映射表。索引存储器经配置以存储多个权重索引。映射表经配置以将多个权重索引分别对应至多个代表权重数据。

本发明提供一种存储器的操作方法，适用于执行深度神经网络运算。上述的存储器的操作方法包括映射方法。上述的映射方法包括：将权重单元耦接至处理单元的数据输入端，其中权重单元包括存储有多个权重索引的索引存储器以及将多个权重索引分别对应至多个代表权重数据的映射表；检测索引存储器，以产生错误映射图(fault map)，其中错误映射图包括多个卡住错误；依据错误映射图来统计每一个代表权重数据与其对应的权重索引之间的编码数据的卡住错误的数量；以及依序挑选最少卡住错误的编码数据来建立多个代表权重数据与多个权重索引之间的映射表。

基于上述，本发明实施例可通过将多个权重值分群为多个代表权重数据，并通过映射表将多个权重索引分别对应至多个代表权重数据，以大幅降低存储器存储多个权重值的空间。另外，本发明实施例可通过检测索引存储器来产生错误映射图、依据错误映射图来统计每一个代表权重数据与其对应的权重索引之间的编码数据的卡住错误的数量以及依序挑选最少卡住错误的编码数据来建立上述的映射表。如此一来，本发明实施例可有效地减少索引存储器的卡住错误，进而提高深度神经网络运算的正确率。

为让本发明的上述特征和优点能更明显易懂，下文特举实施例，并配合附图作详细说明如下。

附图说明

图1是依照本发明一实施例所示出的一种存储器的架构示意图；

图2是依照本发明一实施例所示出的索引存储器与映射表之间的关系图；

图3是依照本发明一实施例所示出的映射表；

图4是依照本发明一实施例所示出的一种存储器的操作方法的流程图；

图5是依照本发明一实施例所示出的错误映射图；

图6A至图6C是图4的步骤404的流程图；