[发明专利]一种存内运算方法、装置及其应用

说明书

本发明涉及存储器技术领域，公开了一种存内运算方法、装置及其应用，其中方法包括对存储阵列按照单通道运算功能划分配置成若干运算基本块，对运算基本块中所有运算单元的输出端归一接入匹配的局部求和线LSL，按列设置总和线GSL，匹配运算基本块分别设置受控开关，将位于同一列上的各求和线LSL分别通过受控开关与总和线GSL数据连接，配置运算基本块参数、读取待运算数据，选择执行受控开关的断开或闭合，并配合输出移位操作实现目标运算结果数据的输出；本发明能够更高效地实现包括分组卷积在内的存内计算，具有更高的计算性能以及更优秀计算能效比，保证了整体计算的正确性，有着切实意义上的实用价值。

技术领域

本发明涉及存储器术领域，具体涉及一种存内运算方法、装置及其应用。

背景技术

存内计算被广泛应用于人工智能的矩阵运算加速，常见的有向量矩阵乘法，以及高维的卷积运算。但随着人工智能算法的发展，轻量型算法开始获得更多的关注，卷积神经网络也由传统的卷积逐渐向更加轻量的卷积转变，其中最常见的方式就是分组卷积或深度可分离卷积。而现有的存内计算对这类的轻量的卷积支持较弱，很难发挥存算的优势。

例如现有的一种传统的方法在计算分组卷积时，先将权重的矩阵映射到存储阵列中，计算时选取相应的通道开启，其他的通道关闭。而由于分组卷积的输入通道有限，故每次计算时，待计算的通道被打开之后，其他通道的输入必须为0，以避免产生电流影响最终的计算结果。而又由于输出通道和输入通道一一对应，故也只有一个输出通道的结果有效，其他通道的输出没有意义。

现今还有一种方法在计算分组卷积时，可以将待计算的通道依次错开，其他通道的权重均置为0。以使得计算可以同时发生，此方案具有较高的计算性能，但由于计算时，其他通道需置为0，对任何输入不产生电流响应亦即不能存储任何信息，故在面积上具有很大的浪费。

此外由于存内计算利用存储器的模拟域特性进行运算，其计算结果易受噪声的影响。虽依托于人工智能算法本身的容错性，在多数情况下存内计算可以容许一定的计算误差，但如何减少存内计算的误差，也对存储器性能和存内计算方法或者结构提出了很高的要求。

因此设计一种存内运算方法以提高包括分组卷积在内的卷积运算效率和准确率变得尤为重要。

发明内容

针对现有技术的不足，本发明提供一种存内运算方法、装置及应用，能够更高效准确地实现包括传统卷积、分组卷积等计算，具有更高的计算性能和性能功耗比。

本发明解决技术问题采用如下技术方案：

本发明提供一种存内运算方法，包括：

对存储阵列按照单通道运算功能划分配置成若干运算基本块；

对运算基本块中所有运算单元的输出端归一接入匹配的局部求和线LSL；

对位于同一行上的各运算基本块输入端配置接入同一矩阵输入；

按列设置总和线GSL，匹配运算基本块分别设置受控开关，将位于同一列上的各求和线LSL分别通过受控开关与总和线GSL数据连接；

根据目标运算功能，配置运算基本块参数、读取待运算数据，选择执行受控开关的断开或闭合，并配合输出移位操作实现目标运算结果数据的输出，所述目标运算功能至少包括传统卷积、分组卷积和深度可分离卷积中的一种或几种。

优选地，所述存储阵列为NOR Flash存储阵列、ReRAM存储阵列、SRAM存储阵列或DRAM存储阵列中的一种；

所述运算单元为单个存储单元或单个存储单元和电流镜单元的组合。

优选地，所述运算单位为单个存储单元，所述配置运算基本块参数、读取待运算数据具体包括：

根据各存储单元的初始参数，获取存储单元的阈值电压随编程操作的变化曲线；