[发明专利]一种基于样本重放和知识蒸馏的终身学习方法在审
| 申请号： | 202310465958.7 | 申请日： | 2023-04-27 |
| 公开（公告）号： | CN116776950A | 公开（公告）日： | 2023-09-19 |
| 发明（设计）人： | 刘朋杰;刘洪宇;王浩枫 | 申请（专利权）人： | 北京计算机技术及应用研究所 |
| 主分类号： | G06N3/082 | 分类号： | G06N3/082;G06N3/084;G06N3/047;G06F18/24;G06F18/214 |
| 代理公司： | 中国兵器工业集团公司专利中心 11011 | 代理人： | 辛海明 |
| 地址： | 100854*** | 国省代码： | 北京;11 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 本发明涉及一种基于样本重放和知识蒸馏的终身学习方法，属于人工智能领域。本发明中，任务t代表将要处理的任务数据集，缓冲区M存放了过去任务的部分数据集以及旧模型的概率输出信息，当前任务的样本通过蓄水池抽样算法选择性地加入到缓冲区M中；在训练时，选择一种深度学习模型F，模型F在任务t上训练损失记为Loss1，模型F在缓冲区M上的损失记为Loss2，总损失为Loss＝Loss1+α*Loss2；判断是否达到训练总轮数epochs，如果达到则导出训练好的模型文件，否则反向传播更新权重并再次计算Loss。本发明是一个通用的终身学习训练策略，适用于任何分类任务的深度学习模型，可以缓解神经网络灾难性遗忘问题，使深度学习模型具备持续学习的能力。 | ||
| 搜索关键词： | 一种 基于 样本 重放 知识 蒸馏 终身 学习方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京计算机技术及应用研究所，未经北京计算机技术及应用研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310465958.7/，转载请声明来源钻瓜专利网。
