[发明专利]一种基于激活值敏感性的Dropout正则化方法

摘要

本发明涉及一种基于激活值敏感性的Dropout正则化方法，用于图像分类，其数据训练阶段包括下列步骤收集不同类别的图像并标记图像类别作为标签；设置深度卷积神经网络结构；初始化(1)确定卷积滤波器权重，通过随机初始化的方法对参数进行初始化，设定迭代次数；(2)设定Dropout中选用的概率密度函数；前向计算从第一层到最后一层逐层计算，在最大池化层后，将每个特征点被置零的概率由概率密度函数确定，然后由均匀分布函数生成一个0到1之间的随机数，并用该随机数与每个特征点置零的概率进行对比，如果该随机数比概率小，那么该特征点的激活值置零；如果该随机数等于或者大于概率，那么该特征点的激活值保留；反向传播。

主权项

一种基于激活值敏感性的Dropout正则化方法，用于图像分类，其数据训练阶段包括下列步骤，1)准备数据：收集不同类别的图像并标记图像类别作为标签；2)结构设计：设置深度卷积神经网络结构，设置卷积层数和每个卷积层特征图的个数和大小；3)初始化：(1)确定卷积滤波器权重，通过随机初始化的方法对参数进行初始化，设定迭代次数；(2)设定Dropout中选用的概率密度函数。4)前向计算：把训练数据批量输入到该网络中，按照设置的网络，从第一层到最后一层逐层计算，在最大池化层后，将每个特征点被置零的概率由步骤3)中设置的概率密度函数确定，然后由均匀分布函数生成一个0到1之间的随机数，并用该随机数与每个特征点置零的概率进行对比，如果该随机数比概率小，那么该特征点的激活值置零；如果该随机数等于或者大于概率，那么该特征点的激活值保留；5)反向传播：从最后一层到第一层，应用反向传播算法对卷积滤波器的权重参数的进行更新、优化；6)迭代：重复步骤4和步骤5，通过迭代来不断优化网络参数，直到达到终止条件。