[发明专利]基于张量分解的压缩表示学习方法有效
申请号: | 202010095808.8 | 申请日: | 2020-02-17 |
公开(公告)号: | CN111340186B | 公开(公告)日: | 2022-10-21 |
发明(设计)人: | 林宙辰;耿正阳;陈鸿旭;陈鑫 | 申请(专利权)人: | 之江实验室 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 邱启旺 |
地址: | 310023 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于张量分解的压缩表示学习方法,该方法首先将通过一个微型神经网络预处理学习到的表示转化为一个待分解的张量,基于优化算法进行张量分解,求解其子空间并进行低秩重建,最后经过另一个微型神经网络加工张量分解抽取的低秩表示,融合到主干网络学习的表示中,起到正则的作用;并结合截断的单步梯度优化方法,用于改进具有多步沿时间轴迭代模型的优化算法。本发明以一种计算友好和参数节约的方式,成功为大规模预训练和表示学习提供了正则与补充,本发明的有效性经过了大量计算机视觉的任务与应用的验证,在图像识别、语义分割、目标检测中都取得了显著效果;以更轻量级的计算和参数量,击败了计算机视觉常用的注意力机制。 | ||
搜索关键词: | 基于 张量 分解 压缩 表示 学习方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室,未经之江实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010095808.8/,转载请声明来源钻瓜专利网。