[发明专利]神经网络优化方法、装置、电子设备及可读存储介质

说明书

本申请提供一种神经网络优化方法、装置、电子设备及可读存储介质，该神经网络优化方法包括：对待优化神经网络进行子网划分，并依据预设融合规则以及融合目标分别对各子网进行网络层layer融合，得到各子网的最优融合结果；依据各子网的最优融合结果、所述预设融合规则以及融合目标，对所述待优化神经网络进行layer融合，得到所述待优化神经网络的最优融合结果。该方法可以在保证得到满足预设融合规则以及融合目标的情况下的最优融合结果的情况下，提高确定待优化神经网络的最优融合结果的效率。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种神经网络优化方法、装置、电子设备及可读存储介质。

背景技术

神经网络(Neural Network，简称NN)是人工智能领域的研究热点与重点，神经网络庞大的计算量以及宽带要求成为神经网络部署的主要瓶颈。

为了降低神经网络在计算平台中部署的带宽要求，可以根据计算平台的约束，通过将神经网络的多个layer(网络层)融合为一个level(硬件基本计算单元，可以称为层级)的方式实现神经网络优化，从而，融合为一个level的多个layer的输入和输出均只需占用一次带宽，减少计算平台与外部存储数据交互的次数。

实践发现，不同的融合方式对带宽需求降低的效果不同，如何通过融合最小化神经网络的带宽需求成为一个亟待解决的技术问题。

发明内容

有鉴于此，本申请提供一种神经网络优化方法、装置、电子设备及可读存储介质。

具体地，本申请是通过如下技术方案实现的：

根据本申请实施例的第一方面，提供一种神经网络优化方法，包括：

对待优化神经网络进行子网划分，并依据预设融合规则以及融合目标分别对各子网进行网络层layer融合，得到各子网的最优融合结果；

依据各子网的最优融合结果、所述预设融合规则以及融合目标，对所述待优化神经网络进行layer融合，得到所述待优化神经网络的最优融合结果；其中，对于所述待优化神经网络的最优融合结果中任一包括多个layer的层级level，该level的结构与目标子网的最优融合结果的结构一致，所述目标子网为与该level包括的layer相同的子网。

根据本申请实施例的第二方面，提供一种神经网络优化装置，包括：

划分单元，用于对待优化神经网络进行子网划分；

优化单元，用于依据预设融合规则以及融合目标分别对各子网进行网络层layer融合，得到各子网的最优融合结果；

所述优化单元，还用于依据各子网的最优融合结果、所述预设融合规则以及融合目标，对所述待优化神经网络进行layer融合，得到所述待优化神经网络的最优融合结果；其中，对于所述待优化神经网络的最优融合结果中任一包括多个layer的层级level，该level的结构与目标子网的最优融合结果的结构一致，所述目标子网为与该level包括的layer相同的子网。

根据本申请实施例的第三方面，提供一种电子设备，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器用于执行机器可执行指令，以实现上述人员归档方法。

根据本申请实施例的第四方面，提供一种机器可读存储介质，所述机器可读存储介质内存储有机器可执行指令，所述机器可执行指令被处理器执行时实现上述人员归档方法。

本申请提供的技术方案至少可以带来以下有益效果：