[发明专利]一种面向卷积神经网络的粗粒度参数正则化方法在审

专利信息
申请号: 201910584447.0 申请日: 2019-07-01
公开(公告)号: CN110413947A 公开(公告)日: 2019-11-05
发明(设计)人: 刘天元;鲍劲松;汪俊亮 申请(专利权)人: 东华大学
主分类号: G06F17/16 分类号: G06F17/16;G06N3/04
代理公司: 上海申汇专利代理有限公司 31001 代理人: 翁若莹;王文颖
地址: 201600 上*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种面向卷积神经网络的粗粒度参数正则化方法,其特征在于,将卷积神经网络中同一卷积层上的各卷积核拉伸为一维列向量,并将这些列向量重塑为二维权重矩阵;计算该权重矩阵各列的均值和方差,并由此计算该权重矩阵任意两列的协方差;根据该权重矩阵任意两列之间的协方差计算该两列间的相关系数,得出该权重矩阵的相关系数矩阵,并将此相关系数作为卷积核之间差异程度的表征;计算该相关系数矩阵的范数并作为粗粒度正则项加入原卷积神经网络的损失函数。本发明可以使用更少的卷积核参数提取更具表达性的特征从而得到更高的识别准确率。
搜索关键词: 权重矩阵 卷积神经网络 粗粒度 系数矩阵 卷积核 协方差 正则化 矩阵 参数提取 神经网络 损失函数 维列向量 表达性 列向量 准确率 范数 方差 卷积 拉伸 原卷
【主权项】:
1.一种面向卷积神经网络的粗粒度参数正则化方法,其特征在于,包括以下步骤:步骤1):将卷积神经网络中同一卷积层上的各卷积核拉伸为一维列向量,并将这些列向量重塑为二维权重矩阵;步骤2):计算该权重矩阵各列的均值和方差,并由此计算该权重矩阵任意两列的协方差;步骤3):根据该权重矩阵任意两列之间的协方差计算该两列间的相关系数,得出该权重矩阵的相关系数矩阵,并将此相关系数作为卷积核之间差异程度的表征;步骤4):计算该相关系数矩阵的范数并作为粗粒度正则项加入原卷积神经网络的损失函数。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东华大学,未经东华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201910584447.0/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top