[发明专利]一种损失函数动态加权的方法在审
申请号: | 201911280000.0 | 申请日: | 2019-12-13 |
公开(公告)号: | CN111191685A | 公开(公告)日: | 2020-05-22 |
发明(设计)人: | 张伯政;吴军;樊昭磊;张述睿;张福鑫;李福友 | 申请(专利权)人: | 山东众阳健康科技集团有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 济南泉城专利商标事务所 37218 | 代理人: | 支文彬 |
地址: | 250001 山东省济南市市辖区*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 损失 函数 动态 加权 方法 | ||
1.一种损失函数动态加权的方法,其特征在于,包括如下步骤:
a)计算机获取数据集中类别数目,将类别数目表示为C,获取数据集中第i类的样本数量,表示为Ni,1≤i≤C,i为正整数,通过公式计算数据集中样本数量;
b)构建数据集中每个类别的损失函数权重向量为{α1,α2,α3,……,αC},损失权重向量满足限制条件其中αi为第i类的损失函数权重;
c)根据步骤b)中的限制条件联立方程组求解得到损失函数权重向量中各个类别损失函数权重的值,将求解得到的每个类别损失函数权重的值初始化朴素交叉熵损失函数及Focal Loss损失函数;
d)使用初始化的朴素交叉熵损失函数及初始化的Focal Loss损失函数对分类器模型进行训练,如果训练达到完成状态则停止训练,如果训练没有完成则返回执行步骤c);
e)统计分类器模型的训练集中每个类别样本的准确度为{T1,T2,T3,……,TC},其中Ti为训练集中第i类的准确度,1≤i≤C,统计分类器模型训练的验证集中每个类别样本的准确度为{V1,V2,V3,……,VC},其中Vi为验证集中第i类的准确度,1≤i≤C;
f)对损失函数权重向量为{α1,α2,α3,……,αC}进行第一次调整,如果则使用(1-γ)×αi代替损失函数权重向量{α1,α2,α3,……,αC}中的αi,式中γ为权重的调整比例,0<γ<1;
g)将步骤f)调整过的损失函数权重向量进行第二次调整,如果Vi<Ti则使用β×αi代替损失函数权重向量{α1,α2,α3,……,αC}中的αi,式中β为权重的调整比例,0<β<1;
h)将经步骤g)中调整后的损失函数权重向量通过公式进行归一化计算,得到调整完的损失权重向量;i)将归一化的调整完的损失权重向量代入步骤c)中,用归一化的调整完的损失权重向量的值初始化朴素交叉熵损失函数及FocalLoss损失函数。
2.根据权利要求1所述的损失函数动态加权的方法,其特征在于:步骤c)中将求解得到的每个类别损失函数权重的值利用公式初始化朴素交叉熵损失函数,式中Li为该样本在第i类上的标签,Li取值为0或1,为分类器输出的第i类的预测概率。
3.根据权利要求1所述的损失函数动态加权的方法,其特征在于:步骤c)中将求解得到的每个类别损失函数权重的值利用公式初始化FocalLoss损失函数,式中Li为该样本在第i类上的标签,Li取值为0或1,为分类器输出的第i类的预测概率,λ为Focal Loss损失函数的参数值。
4.根据权利要求1所述的损失函数动态加权的方法,其特征在于:步骤f)中γ的值为0.1。
5.根据权利要求1所述的损失函数动态加权的方法,其特征在于:步骤g)中β的值为0.5。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东众阳健康科技集团有限公司,未经山东众阳健康科技集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911280000.0/1.html,转载请声明来源钻瓜专利网。