[发明专利]一种具有凭证识别功能的归一化方法在审
申请号: | 202110326758.4 | 申请日: | 2021-03-26 |
公开(公告)号: | CN112861079A | 公开(公告)日: | 2021-05-28 |
发明(设计)人: | 张卫明;俞能海;张杰;陈冬冬;廖菁;华刚 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06F21/10 | 分类号: | G06F21/10;G06F21/16;G06K9/62 |
代理公司: | 北京科迪生专利代理有限责任公司 11251 | 代理人: | 张乾桢 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 具有 凭证 识别 功能 归一化 方法 | ||
1.一种具有凭证识别功能的归一化方法、其特征在于,包括如下步骤:
步骤1、建立模型性能与正确凭证之间的关系,利用仿射变换的分布调制,将仿射变换参数γ、β改变为凭证的函数;如果向目标模型输入不正确的凭证,生成的仿射变换参数也会不正确,使模型工作异常;学习另一组仿射变换参数γ0、β0,用于模型的原始任务;
步骤2、在模型训练中引入凭证时,相应的统计量进行独立计算,其公式如下:
该公式包括两个分支,其中第二个分支作为凭证识别分支,对于全连接层后的归一化,第二个分支将计算自己的归一化统计量μ1,σ1,并分别学习基于凭证pγ、pβ的仿射变换参数γ、β。
2.根据权利要求1所述的一种具有凭证识别功能的归一化方法,其特征在于,所述步骤2中,包括如下步骤:
设计可学习的γ1,β1,他们也和原始模型的权重相关,即:
γ1(pγ)=w2Tg(w1T(wpγ)),
β1(pγ)=w2Tg(w1T(wpβ)),
式中表示卷积运算符,Wc是前一卷积层的核权重。对于全连接层之后的归一化层,将被替换为WcTpx,GAP表示全局平均池化,它将卷积后的凭证转换成与γ1,β1形状相同的向量;w1,w2是要学习的两个全连接层的权重,g是非线性激活函数,默认使用Leakly-ReLU函数;pγ、pβ为预先定义的凭证,Px代指pγ、pβ。
3.根据权利要求1所述的一种具有凭证识别功能的归一化方法,其特征在于,在训练目标模型时,采用交替训练策略,首先为每个归一化层预先定义凭证pγ、pβ,然后交替训练无凭证的分支和有凭证识别的分支。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110326758.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种汽车车轮止动器
- 下一篇:一种易掌握易使用的电流互感器校验设备