[发明专利]一种基于深度神经网络的连续学习统一框架在审
| 申请号: | 202010149777.X | 申请日: | 2020-03-06 |
| 公开(公告)号: | CN111382869A | 公开(公告)日: | 2020-07-07 |
| 发明(设计)人: | 查尔斯·凌;维克特·盛;方巍;郭奇锋;常坚;张齐宁;翟培芳 | 申请(专利权)人: | 深圳深知未来智能有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
| 代理公司: | 中山市科企联知识产权代理事务所(普通合伙) 44337 | 代理人: | 杨立铭 |
| 地址: | 518101 广东省深圳市宝安区西乡街道劳动社区宝源路1*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 深度 神经网络 连续 学习 统一 框架 | ||
1.一种基于深度神经网络的连续学习统一框架,其特征在于,所述连续学习统一框架包括:
通过深度神经网络的权重逐步学习若干个任务;所述学习若干个任务是通过非遗忘、正向传输、避免混淆和向后转移来学习的;
并对学习每个任务的权重进行合并,并设置超参数b值。
2.根据权利要求1所述的连续学习统一框架,其特征在于,所述超参数b值的大小根据学习任务的需要设置。
3.根据权利要求1或2所述的连续学习统一框架,其特征在于,所述逐步学习若干个任务包括:
逐步学习第一个任务和学习第二个任务;
所述学习所述第一个任务为括根据所述第一个任务的知识点,选择第一数量的权重,来对所述第一个任务的知识点进行学习,并对所述第一数量的权重合并,并设置第一超参数b值;
所述学习所述第二个任务包括,若所述第二个任务里的知识点,有与所述第一个任务里的知识点部分相同,则所述第二个任务首先利用所述第二个任务里,与所述第一个任务里已学习相同知识点的权重,所述第二个任务里与所述第一个任务里不相同的知识点,则使用深度神经网络里其余的新的第二数量的权重,来对所述第二个任务里与所述第一个任务里不同的知识点进行学习,并对学习所述第二个任务的权重合并并设置第二超参数b值。
4.根据权利要求3所述的连续学习统一框架,其特征在于,所述连续学习统一框架还包括:修剪所述深度神经网络的大小。
5.根据权利要求4所述的连续学习统一框架,其特征在于,所述连续学习统一框架还包括:选择性忘记,所述选择性忘记用于已经学习知识点的权重忘记已学习的任务或忘记已学习的知识点。
6.根据权利要求5所述的连续学习统一框架,其特征在于,所述选择性忘记是通过启发式来选择需要忘记已学习的任务或忘记已学习的知识点。
7.根据权利要求6所述的连续学习统一框架,其特征在于,所述启发式是通过跟踪已学习的任务或已学习的知识点的使用频率来判断的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳深知未来智能有限公司,未经深圳深知未来智能有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010149777.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种旋转式冲洗烘干装置
- 下一篇:故障模拟方法、装置和计算机可读存储介质





