[发明专利]卷积运算的处理方法、电子设备、移动终端及存储介质

说明书

本申请公开了一种卷积运算的处理方法、电子设备、移动终端及存储介质，该处理方法包括：获取待处理的卷积运算以及配置数据库；将卷积运算转换为矩阵乘法，矩阵乘法对应一卷积尺寸；若确定配置数据库中无卷积尺寸对应的配置参数，则根据卷积尺寸以及硬件参数定义一参数搜索空间；根据参数搜索空间中的配置参数生成多个运算代码，并利用多个运算代码对矩阵乘法进行计算，以得到多个运算结果；将多个运算结果中满足预设条件的一个运算结果对应的运算代码的配置参数，存储至配置数据库。通过上述方式，本申请能够对矩阵乘法进行重构优化，从而以性能较好的矩阵乘法对卷积运算进行提升。

技术领域

本申请涉及可重构技术领域，特别是涉及一种卷积运算的处理方法、电子设备、移动终端及存储介质。

背景技术

近年来，大量的深度学习(DL)应用程序已经从专业的科学领域逐渐扩散到了消费者市场，具体的应用包括实时游戏机器人，自动驾驶汽车导航，VR社交平台以及使用数百万个摄像头的交通监控。在许多情况下，通常利用GPU群集、TPU群集进行训练的模型在边缘设备上部署使用，以提供实时的人工智能服务。

卷积计算是人工智能服务中常用卷积神经网络(CNN)中主要的运算部分，它在许多网络模型的运算占比达到了99％以上。卷积计算可以通过转换成矩阵乘法，所以许多应用程序使用了BLAS(基本线性代数子例程)，手工编写的矩阵运算例程，甚至是扩展矩阵运算例程作为卷积计算的实现。

目前，卷积神经网络中生成的矩阵大多是长条形矩阵，而那些性能很好的BLAS计算库，基本都是针对正方形矩阵运算进行优化的，基于优化策略不一致，所以它们通常无法在这些长条形矩阵的计算上提供最佳的性能，矩阵乘法的性能也就无法得以较好的提升。

发明内容

本申请实施例的第一方面提供了卷积运算的处理方法，该处理方法包括：获取待处理的卷积运算以及配置数据库；将卷积运算转换为矩阵乘法，矩阵乘法对应一卷积尺寸；若确定配置数据库中无卷积尺寸对应的配置参数，则根据卷积尺寸以及硬件参数定义一参数搜索空间；根据参数搜索空间中的配置参数生成多个运算代码，并利用多个运算代码对矩阵乘法进行计算，以得到多个运算结果；将多个运算结果中满足预设条件的一个运算结果对应的运算代码的配置参数，存储至配置数据库。

本申请实施例的第二方面提供了一种移动终端，包括：处理器和存储器，存储器中存储有计算机程序，处理器用于执行计算机程序以实现本申请实施例第一方面提供的处理方法。

本申请实施例的第三方面提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，计算机程序能够被处理器执行时实现本申请实施例第一方面提供的处理方法。

本申请的有益效果是：区别于现有技术的情况，本申请针对目前卷积运算的处理方法，通过确定配置数据库中没有对应的配置参数，根据卷积尺寸以及硬件参数定义一参数搜索空间，从而在根据参数搜索空间中的配置参数对矩阵乘法进行重构优化，生成多个运算代码，并利用多个运算代码对矩阵乘法进行计算，以得到多个运算结果，进而以提升矩阵乘法对卷积运算的性能。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请卷积运算的处理方法第一实施例的流程示意图；

图2是图1中步骤S13一具体实施例的流程示意图；

图3是图2中步骤S23一具体实施例的流程示意图；

图4是图1中步骤S14一具体实施例的流程示意图；

图5是图1中步骤S15一具体实施例的流程示意图；

图6是本申请卷积运算的处理方法一具体实施例的矩阵框架示意图；