[发明专利]网络结构搜索的方法及装置、计算机存储介质和计算机程序产品

说明书

一种网络结构搜索的方法包括：(步骤S12)确定待进行网络结构搜索的神经网络模型的搜索空间，搜索空间定义了神经网络模型中每两个节点之间的操作层上的多种操作；(步骤S14)根据第一网络结构在搜索空间的每个操作层采样一个操作以得到目标网络结构；(步骤S16)低比特化目标网络结构以得到第二网络结构；(步骤S18)确定第二网络结构的反馈量；(步骤S19)根据反馈量更新第一网络结构。本申请还公开了一种网络结构搜索的装置、计算机存储介质和计算机程序产品。

技术领域

本申请涉及机器学习领域，特别涉及一种网络结构搜索的方法及装置、计算机存储介质和计算机程序产品。

背景技术

相关技术在移动端应用深度学习模型时，需要在电脑或者服务器上训练模型，然后将模型部署在移动端的芯片。而目前高性能的深度学习模型往往参数量巨大，并且参数为32bit浮点参数，这在电脑或者服务器等计算力丰富的设备上训练没有问题，但是直接部署在计算资源有限的移动端则非常困难。而低比特网络存储空间小，运算速度快，对计算资源需求少，因此低比特网络成为近年来研究的热点之一。然而，网络结构对低比特网络有着较大的影响，如何设计一个适用于低比特网络的网络结构是亟待解决的问题。

发明内容

本申请的实施方式提供一种网络结构搜索的方法及装置、计算机存储介质和计算机程序产品。

本申请实施方式的网络结构搜索的方法包括：

确定待进行网络结构搜索的神经网络模型的搜索空间，所述搜索空间定义了所述神经网络模型中每两个节点之间的操作层上的多种操作；

根据第一网络结构在所述搜索空间的每个所述操作层采样一个所述操作以得到目标网络结构；

低比特化所述目标网络结构以得到第二网络结构；

确定所述第二网络结构的反馈量；

根据所述反馈量更新所述第一网络结构。

本申请实施方式的网络结构搜索的装置包括处理器和存储器，所述存储器存储有一个或多个程序，在所述程序被所述处理器执行的情况下，使得所述处理器用于执行：确定待进行网络结构搜索的神经网络模型的搜索空间，所述搜索空间定义了所述神经网络模型中每两个节点之间的操作层上的多种操作；根据第一网络结构在所述搜索空间的每个所述操作层采样一个所述操作以得到目标网络结构；低比特化所述目标网络结构以得到第二网络结构；确定所述第二网络结构的反馈量；根据所述反馈量更新所述第一网络结构。

本申请实施方式的计算机存储介质，其上存储有计算机程序，所述计算机程序被计算机执行时使得，所述计算机执行上述的方法。

本申请实施方式的包含指令的计算机程序产品，所述指令被计算机执行时使得计算机执行上述的方法。

本申请实施方式的网络结构搜索的方法及装置、计算机存储介质和计算机程序产品，将采样到的目标网络结构低比特化以得到第二网络结构，再确定第二网络结构的反馈量来更新第一网络结构，可以得到更适用于低比特网络的网络结构，从而实现高性能的低比特网络，进而使低比特网络能够更好的应用于移动端场景。

本申请的实施方式的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实施方式的实践了解到。

附图说明

本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解，其中：

图1是本申请实施方式的网络结构搜索的方法的流程示意图；

图2是本申请实施方式的网络结构搜索的装置的模块示意图；

图3是本申请实施方式的网络结构搜索的方法的原理示意图；