[发明专利]具有存储器内运算架构的存储器及其操作方法

说明书

本发明提出一种具有存储器内运算架构的存储器及其操作方法。存储器包括存储器阵列、模式缓存器、人工智能核心以及存储器接口。存储器阵列包括多个存储器区域。模式缓存器储存多个存储器模式设定。存储器接口耦接存储器阵列以及模式缓存器，并且外部耦接至特殊功能处理核心。人工智能核心耦接存储器阵列以及模式缓存器。所述多个存储器区域依据模式缓存器的所述多个存储器模式设定来分别选择性地被寻址于特殊功能处理核心以及人工智能核心，以使特殊功能处理核心以及人工智能核心依据所述多个存储器模式设定来分别存取存储器阵列中的不同存储器区域。

技术领域

本发明是有关于一种电路架构，且特别是有关于一种具有存储器内运算(Processing In Memory,PIM)架构的存储器及其操作方法。

背景技术

随着人工智能(Artificial Intelligence,AI)运算的演进，人工智能运算的应用越来越广泛，例如经由神经网络(Neural network)模型来进行图像(Image)数据分析、语音(Voice)数据分析、自然语言(Natural language)处理等神经网络运算。并且，随着神经网络的运算复杂度越来越高，目前用于执行人工智能运算的计算机设备已逐渐无法应付当前的神经网络运算需求，来提供有效且快速的运算性能。

因此，目前已有专属的处理核心被设计出来，以利用专属的处理核心来进行神经网络运算。然而，虽然将神经网络运算独立由专属的处理核心执行可充分发挥处理核心的运算能力，但是专属的处理核心的处理速度仍然受限于数据存取速度。由于专属的处理核心与其他特殊功能处理核心经由相同的通用总线(Bus)来读取存储器的数据，因此在其他特殊功能处理核心占用通用总线的情况下，导致专属的处理核心无法实时的取得执行人工智能运算所需的数据。有鉴于此，如何设计一种能快速执行人工智能运算的处理架构，以下将提出几个实施例的解决方案。

发明内容

本发明提供一种具有存储器内运算架构的存储器及其操作方法，可藉由整合在存储器当中的人工智能(Artificial Intelligence,AI)核心来直接读取储存在存储器芯片当中的执行神经网络(Neural network)运算所需的数据，以实现快速地神经网络运算的功效。

本发明的具有存储器内运算架构的存储器包括存储器阵列、模式缓存器、存储器接口以及人工智能核心。存储器阵列包括多个存储器区域。模式缓存器用以储存多个存储器模式设定。存储器接口耦接存储器阵列以及模式缓存器，并且外部耦接至特殊功能处理核心。人工智能核心耦接存储器阵列以及模式缓存器。所述多个存储器区域依据模式缓存器的所述多个存储器模式设定来分别选择性地被寻址于特殊功能处理核心以及人工智能核心，以使特殊功能处理核心以及人工智能核心依据所述多个存储器模式设定来分别存取存储器阵列中的不同存储器区域。

在本发明的一实施例中，上述的特殊功能处理核心以及人工智能核心分别经由各自专属的存储器总线来同时存取存储器阵列的不同存储器区域。

在本发明的一实施例中，上述的所述多个存储器区域包括第一存储器区域以及第二存储器区域。第一存储器区域用以供人工智能核心专属存取。第二存储器区域用以供特殊功能处理核心专属存取。

在本发明的一实施例中，上述的所述多个存储器区域还包括多个数据缓冲区域。人工智能引擎以及存储器接口交替地至所述多个数据缓冲区域存取不同数据。

在本发明的一实施例中，上述的当该人工智能核心执行神经网络运算时，人工智能核心读取所述多个数据缓冲区域中的一个的输入数据作为输入参数，并且读取第一存储器区域的权重数据。人工智能核心输出特征数据至第一存储器区域。

在本发明的一实施例中，上述的当人工智能核心执行神经网络运算时，人工智能核心读取第一存储器区域的特征数据作为下一输入参数，并且读取第一存储器区域的另一权重数据。人工智能核心输出下一特征图数据至所述多个数据缓冲区中的一个，以覆写所述多个数据缓冲区中的一个。