[发明专利]网络结构搜索方法和装置

权利要求书

1.一种网络结构搜索方法，其特征在于，包括：

将网络结构的优化构建为网络结构的权重的最大后验；

基于网络结构的权重的最大后验进行网络结构的优化的计算得到较优的网络结构的权重的分布；

根据较优的网络结构的权重的分布进行采样得到多个权重；

根据采样得到的每个权重相应的候选网络结构，选取满足性能要求的目标网络结构。

2.根据权利要求1所述的方法，其特征在于，将网络结构的优化构建为网络结构的权重的最大后验包括：

将网络结构的权重构建为等于在给定数据集和网络结构的超网络参数条件下的网络结构的权重的最大后验，其中，给定数据集包括多组输入数据及其目标标签的数据对。

3.根据权利要求2所述的方法，其特征在于，网络结构的权重的最大后验根据网络结构的权重的先验分布以及判别概率模型最优下的网络结构的权重构建，其中，所述判别概率模型是在输入数据、网络结构的超网络参数以及网络结构的权重条件下的目标标签的判别概率。

4.根据权利要求1所述的方法，其特征在于，基于网络结构的权重的最大后验进行网络结构的优化的计算得到较优的网络结构的权重的分布包括：

对网络结构的权重的后验进行变分推理学习得到网络结构的权重的后验的近似；

根据网络结构的权重的后验的近似进行网络结构的权重的最大后验的计算，得到较优的网络结构的权重的分布。

5.根据权利要求4所述的方法，其特征在于，对网络结构的权重的后验进行变分推理学习得到网络结构的权重的后验的近似包括：

构建代理高斯分布，所述代理高斯分布是以数学期望和标准差为高斯分布参数、以网络结构的权重为变量的高斯分布；

计算使得所述代理高斯分布与网络结构的权重的后验之间的距离最小的目标高斯分布参数；

将所述目标高斯分布参数下的代理高斯分布作为网络结构的权重的后验的近似。

6.根据权利要求5所述的方法，其特征在于，计算使得所述代理高斯分布与网络结构的权重的后验之间的距离最小的目标高斯分布参数包括：

根据网络结构的权重的先验分布以及判别概率模型构建网络结构的权重的后验，其中，所述判别概率模型是在输入数据、网络结构的超网络参数以及网络结构的权重条件下的目标标签的判别概率；

计算使得所述代理高斯分布与网络结构的权重的先验分布之间的距离与数学期望之间的差值最小的目标高斯分布参数，所述数学期望是基于所述代理高斯分布的所述判别概率模型的均值。

7.根据权利要求6所述的方法，其特征在于，计算使得所述代理高斯分布与网络结构的权重的先验分布之间的距离与数学期望之间的差值最小的目标高斯分布参数包括：

从所述代理高斯分布中抽取各个蒙特卡洛样本作为网络结构的权重的各个后验样本；

基于网络结构的权重的各个后验样本，计算使得目标差值最小的目标高斯分布参数，所述目标差值根据在各个后验样本下第一信息减去第二信息再减去第三信息的总差值确定，第一信息根据每个后验样本下的代理高斯分布确定，第二信息根据每个后验样本下的网络结构的权重的先验分布确定，第三信息根据每个后验样本下的判别概率模型确定。

8.根据权利要求7所述的方法，其特征在于，从所述代理高斯分布中抽取各个蒙特卡洛样本作为网络结构的权重的各个后验样本包括：

基于标准高斯分布的采样，利用所述代理高斯分布的数学期望进行移位，利用所述代理高斯分布的标准差进行缩放，并引入随机变量噪声，得到网络结构的权重的后验样本。

9.根据权利要求3或6所述的方法，其特征在于，网络结构的权重的先验分布根据两个预设高斯分布的比例混合分布确定。