[发明专利]神经网络的动态存储器映射

权利要求书

1.一种将神经网络的多个特征图映射到存储器层级上的方法，所述方法包括：

将所述多个特征图中的第一特征图映射到存储器层级中具有可用存储器空间并提供对第一特征图的最快访问的存储器；以及

当第一特征图期满时，从所述存储器中移除所述多个特征图中的第一特征图，并且将用于存储第一特征图的存储器取消分配。

2.根据权利要求1所述的方法，还包括从第一特征图生成所述多个特征图中的第二特征图。

3.根据权利要求2所述的方法，还包括：

确定所述存储器在所述存储器层级中高于所述存储器层级中的其他存储器；

基于所述存储器中取消分配的空间，确定第二特征图能够被映射到所述存储器；以及

将第二特征图映射到所述存储器。

4.根据权利要求2所述的方法，还包括：

确定所述存储器在所述存储器层级中高于所述存储器层级中的其他存储器；

基于所述存储器中分配的空间，确定第二特征图不能被映射到所述存储器；以及

将第二特征图映射到所述其他存储器。

5.根据权利要求2所述的方法，其中从第一特征图生成第二特征图包括：

向神经网络的层提供第一特征图；以及

对第一特征图执行所述神经网络的层操作。

6.根据权利要求2所述的方法，其中，响应于第二特征图的映射，从所述存储器层级中的存储器中移除第一特征图。

7.根据权利要求1所述的方法，其中，所述存储器层级包括至少一级的高速缓冲存储器和动态随机访问存储器DRAM。

8.一种电子设备，包括：

存储器层级中的至少一个存储器；以及

耦合到所述至少一个存储器的至少一个处理器，所述至少一个处理器被配置为：

将神经网络的多个特征图中的第一特征图映射到所述存储器层级中具有可用存储器空间并提供对第一特征图的最快访问的存储器；以及

当第一特征图期满时，从所述存储器中移除所述多个特征图中的第一特征图，并且将用于存储第一特征图的所述存储器取消分配。

9.根据权利要求8所述的电子设备，其中，所述至少一个处理器还被配置为从第一特征图生成所述多个特征图中的第二特征图。

10.根据权利要求9所述的电子设备，其中，所述至少一个处理器还被配置为：

确定所述存储器在所述存储器层级中高于所述存储器层级中的其他存储器；

基于所述存储器中取消分配的空间，确定第二特征图能够被映射到所述存储器；以及

将第二特征图映射到所述存储器。

11.根据权利要求9所述的电子设备，其中，所述至少一个处理器还被配置为：

确定所述存储器在所述存储器层级中高于所述存储器层级中的其他存储器；

基于所述存储器中分配的空间，确定第二特征图不能被映射到所述存储器；以及

将第二特征图映射到所述其他存储器。

12.根据权利要求9所述的电子设备，其中，所述至少一个处理器还被配置为：

由神经网络的层提供第一特征图；以及

对第一特征图执行所述神经网络的层的操作，以生成第二特征图。

13.根据权利要求9所述的电子设备，其中，响应于第二特征图的映射，从所述存储器层级中的所述存储器中移除第一特征图。

14.根据权利要求8所述的电子设备，其中，所述存储器层级包括至少一级的高速缓冲存储器和动态随机访问存储器DRAM。