[发明专利]数据处理方法及数据处理装置

说明书

一种数据处理方法及数据处理装置。该数据处理方法包括：对多个第一向量和第二向量进行压缩处理，用于去除多个第一向量中的至少一个无效第一向量和第二向量中的至少一个无效第二元素，以得到压缩后的第二组第一向量和压缩后第二向量，其中，第二组第一向量为第一组第一向量的子集。该数据处理方法能够通过压缩处理，删除运算数据中的无效数据，减少运算过程中的无效计算，在获得相同的计算结果的同时可以大幅减少所需要的操作周期，对于通用的乘加运算存在广泛的适应性。

技术领域

本公开的实施例涉及一种数据处理方法和数据处理装置。

背景技术

在矩阵中，若数值为0的元素的数目远远多于数值为非0的元素的数目，并且数值为非0的元素分布没有规律时，称该矩阵为稀疏矩阵。

随着人工智能及机器学习的发展，对以并行处理器(例如，多核处理器、图形处理器、数字信号处理器等)为代表的众多并行处理器设备提出了新的要求。原有由超级计算机计算的矩阵，单个矩阵具有数据密度高，矩阵维度大的特点，而在人工智能等领域中经常使用的神经网络，例如，卷积神经网络，其具有矩阵数量多，但单个矩阵多为维度较小的稀疏矩阵的特点。

发明内容

本公开至少一实施例提供一种数据处理方法，用于乘加运算，其中，所述乘加运算用于实现将第一组第一向量和第二向量进行乘加操作，所述第一组第一向量包括多个第一向量，每个第一向量包括P个第一元素，所述第二向量包括多个第二元素，所述多个第一向量与所述多个第二元素一一对应，所述方法包括：对所述多个第一向量和所述第二向量进行压缩处理，用于去除所述多个第一向量中的至少一个无效第一向量和所述第二向量中的至少一个无效第二元素，以得到压缩后的第二组第一向量和压缩后第二向量，其中，所述第二组第一向量为所述第一组第一向量的子集，所述至少一个无效第二元素包括数值为预设值的第二元素，所述至少一个无效第一向量包括第一组无效第一向量，所述第一组无效第一向量包括与所述至少一个无效第二元素对应的第一向量，和/或所述至少一个无效第一向量包括第二组无效第一向量，所述第二组无效第一向量包括所包括的P个第一元素的数值均为所述预设值的第一向量，所述至少一个无效第二元素包括与所述第二组无效第一向量对应的第二元素，P为大于1的正整数。

例如，在本公开至少一实施例提供的数据处理方法中，对所述多个第一向量和所述第二向量进行压缩处理，包括：基于所述多个第二元素的数值，对所述多个第一向量和所述第二向量进行第一压缩处理，和/或基于所述多个第一向量中的所有第一元素的数值，对所述多个第一向量和所述第二向量进行第二压缩处理。

例如，在本公开至少一实施例提供的数据处理方法中，所述多个第二元素中每个被选择的第二元素作为目标第二元素，所述多个第一向量中与所述目标第二元素对应的第一向量为目标第一向量，基于所述多个第二元素的数值，对所述多个第一向量和所述第二向量进行第一压缩处理，包括：对于所述目标第一向量和所述目标第二元素：判断所述目标第二元素的数值是否为所述预设值，响应于所述目标第二元素的数值为所述预设值，丢弃所述目标第二元素，不执行对所述目标第一向量的读取操作，并将所述目标第二元素作为无效第二元素，将所述目标第一向量作为无效第一向量，响应于所述目标第二元素的数值不为所述预设值，存储所述目标第二元素，执行对所述目标第一向量的读取操作。

例如，在本公开至少一实施例提供的数据处理方法中，所述多个第一向量中每个被选择的第一向量作为目标第一向量，所述多个第二元素中与所述目标第一向量对应的第二元素为目标第二元素，基于所述所有第一元素的数值，对所述多个第一向量和所述第二向量进行第二压缩处理，包括：对于所述目标第一向量和所述目标第二元素：判断所述目标第一向量包括的P个第一元素的数值是否均为所述预设值，响应于所述目标第一向量包括的P个第一元素的数值均为所述预设值，将所述目标第二元素作为无效第二元素，将所述目标第一向量作为无效第一向量，丢弃所述目标第一向量和所述目标第二元素，响应于所述P个第一元素的数值不均为所述预设值，将所述目标第一向量作为所述第二组第一向量中的一个第一向量，将所述目标第二元素作为所述压缩后第二向量中的一个元素。