[发明专利]一种基于反馈训练的有监督深度学习方法在审
| 申请号: | 201811367393.4 | 申请日: | 2018-11-16 |
| 公开(公告)号: | CN109583485A | 公开(公告)日: | 2019-04-05 |
| 发明(设计)人: | 杨俊杰;郑军 | 申请(专利权)人: | 聚时科技(上海)有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62 |
| 代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 翁惠瑜 |
| 地址: | 200082 上海市杨浦区*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 反馈训练 样本 采样概率 监督 采样频率 动态调整 离群样本 学习训练 训练效果 采样 预测 迭代 学习 抽样 关联 概率 | ||
1.一种基于反馈训练的有监督深度学习方法,其特征在于,该方法在训练有监督深度学习模型的过程中,在每次迭代开始时,以一采样概率对训练集中的各样本进行抽样,所述采样概率随各样本的预测损失值动态调整。
2.根据权利要求1所述的基于反馈训练的有监督深度学习方法,其特征在于,所述采样概率动态调整的过程具体包括:
1)初始化各样本权重参数;
2)根据各样本当前的权重参数计算对应的采样概率:
其中,P(i)是样本i的采样概率,α为优先级系数,pi为样本i的权重参数;
3)进行一次迭代后,获得各样本的预测损失值,基于所述预测损失值更新权重参数;
4)在下一次迭代开始时,令pi=p(i),返回步骤2)。
3.根据权利要求2所述的基于反馈训练的有监督深度学习方法,其特征在于,所述初始化各样本权重参数时,令各样本权重参数均为1。
4.根据权利要求2所述的基于反馈训练的有监督深度学习方法,其特征在于,所述基于所述预测损失值更新权重参数具体为:
p(i)=|δ(i)|+ε
其中,p(i)为更新后的样本i的权重参数,δ(i)为样本i的预测损失值,ε为修正因子。
5.根据权利要求4所述的基于反馈训练的有监督深度学习方法,其特征在于,所述修正因子ε为一大于0的正数。
6.根据权利要求4所述的基于反馈训练的有监督深度学习方法,其特征在于,所述预测损失值δ(i)的表达式为:
δ(i)=L(yi,f(xi))
其中,xi为输入,yi为xi对应的真值标签,函数f为通过输入xi预测标签的函数,函数L为计算真值标签yi与预测标签f(xi)差异的损失函数。
7.根据权利要求2所述的基于反馈训练的有监督深度学习方法,其特征在于,所述基于所述预测损失值更新权重参数时,权重参数与预测损失值的倒数成正比。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于聚时科技(上海)有限公司,未经聚时科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811367393.4/1.html,转载请声明来源钻瓜专利网。





