[发明专利]一种基于分布式编码的卷积优化方法

说明书

本申请涉及一种基于分布式编码的卷积优化方法。该方法包括：将输入的初始矩阵分割成预设数量的分矩阵，分矩阵的大小为a×a；分别对各分矩阵进行编码，获得各编码矩阵，将各编码矩阵分别发送至对应的分节点；接收各分节点采用Winograd算法对编码矩阵进行卷积运算获得的分节点卷积运算结果；当接收到的分节点卷积运算结果个数达到预设值时，对接收到的各分节点卷积运算结果进行解码，获得各卷积结果；将各卷积结果进行拼接，获得最终卷积结果。通过Winograd算法计算卷积能够有效提升计算效率，分布式编码能够减轻straggler节点对于系统计算延迟的影响，缓解straggler节点拖慢系统执行任务时间的情况，从而提高了分布式系统运算速度。

技术领域

本申请涉及分布式计算架构技术领域，特别是涉及一种基于分布式编码的卷积优化方法。

背景技术

卷积是一种积分变换的数学方法，其定义为两个变量在某范围内相乘后求和的结果。卷积在统计学、概率论、信号处理、计算机科学中都有着极为广泛的应用，且起到了至关重要的作用。在如今较为热门的深度学习领域，卷积也有着其重要的作用，当一个包含着大量冗余和无用信息的输入进入神经网络时，如何去除这些无用信息，只保留有用信息输入网络便成了一个关键的问题，卷积滤波在其中便担任了关键的角色，使用卷积运算对输入信息进行滤波进而提取特征的方法是卷积神经网络的基础，因此卷积神经网络便是卷积滤波与深度学习所结合的典型之一。

卷积在深度学习、图像处理等领域都有着广泛的应用，如何优化卷积在计算机中的运算，加速其运算速度便成了可以探讨的问题，同时随着分布式计算的发展，其使用也变得越来越普及，其中分布式系统中的straggler节点会拖慢整个系统执行任务的时间，导致分布式系统运算速度耗时长。

发明内容

基于此，有必要针对上述技术问题，提供一种能够提高分布式系统运算速度的一种基于分布式编码的卷积优化方法。

一种基于分布式编码的卷积优化方法，所述方法包括：

将输入的初始矩阵分割成预设数量的分矩阵，所述分矩阵的大小为a×a；

分别对各所述分矩阵进行编码，获得各编码矩阵；

将各所述编码矩阵分别发送至对应的分节点；

接收各分节点采用Winograd算法对所述编码矩阵进行卷积运算获得的分节点卷积运算结果；

当接收到的所述分节点卷积运算结果个数达到预设值时，对接收到的各所述分节点卷积运算结果进行解码，获得各卷积结果；

将各所述卷积结果进行拼接，获得最终卷积结果。

在其中一个实施例中，所述将输入的初始矩阵分割成预设数量的分矩阵，所述分矩阵的大小为a×a，包括：

根据输入的初始矩阵的大小和分矩阵的大小，确定所述初始矩阵的矩阵分割类型；

当所述初始矩阵的矩阵分割类型为第一类型时，直接将所述初始矩阵分割为预设数量的大小为a×a的分矩阵；

当所述初始矩阵的矩阵分割类型为第二类型时，根据所述初始矩阵的大小和分矩阵的大小，对所述初始矩阵进行补0填充，获得填充后的矩阵；

将所述填充后的矩阵分割为预设数量的大小为a×a的分矩阵。

在其中一个实施例中，所述根据输入的初始矩阵的大小和分矩阵的大小，确定所述初始矩阵的矩阵分割类型，包括：

计算和的值，当和的值都为整数时，所述初始矩阵的矩阵分割类型为第一类型；

当和的值中的任意一个以上不为整数时，所述初始矩阵的矩阵分割类型为第二类型。