[发明专利]半监督模型训练方法和装置在审
| 申请号: | 202211215544.0 | 申请日: | 2022-09-30 |
| 公开(公告)号: | CN115577768A | 公开(公告)日: | 2023-01-06 |
| 发明(设计)人: | 高彬;金欢;赵越;江立辉;张洪波 | 申请(专利权)人: | 华为技术有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06V10/764;G06V10/82;G06V20/70;G06V10/774 |
| 代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 万欣慰 |
| 地址: | 518129 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 监督 模型 训练 方法 装置 | ||
1.一种半监督模型训练方法,其特征在于,包括:
将第一增强数据输入第一模型获取所述第一增强数据的第一预测结果,以及,将所述第一增强数据输入第二模型获取所述第一增强数据的第二预测结果,所述第一增强数据根据第一数据增强方法处理第一无标注数据得到,所述第二模型与所述第一模型具有相同的结构和不同的初始化参数;
将第二增强数据输入所述第一模型获取所述第二增强数据的第三预测结果,以及,将所述第二增强数据输入所述第二模型获取所述第二增强数据的第四预测结果,所述第二增强数据根据第二数据增强方法处理所述第一无标注数据得到,所述第一数据增强方法与所述第二数据增强方法不同;
根据所述第一预测结果和所述第四预测结果的一致性确定第一非监督损失;
根据所述第二预测结果和所述第三预测结果的一致性确定第二非监督损失;
将第一标注数据输入所述第一模型,获取所述第一标注数据的第五预测结果;
根据所述第五预测结果和所述第一标注数据的标签确定第一监督损失;
基于所述第一非监督损失、所述第二非监督损失和所述第一监督损失更新所述第一模型的参数。
2.根据权利要求1所述的方法,其特征在于,所述第一模型包括图像的语义分割模型;
所述第一数据增强方法为非色彩域增强方法,所述非色彩域增强包括翻转变换、镜像变换、平移变换或尺度变换;
所述第二数据增强方法为色彩域增强方法,所述色彩域增强方法包括明暗度变换、对比度变换或图像高斯噪声增强。
3.根据权利要求1或2所述的方法,其特征在于,所述第一模型包括图像的语义分割模型;
所述第二增强数据根据第二数据增强方法处理所述第一无标注数据得到,包括:
所述第二增强数据根据所述第一无标注数据和所述第一标注数据进行复制粘贴增强获取。
4.根据权利要求1所述的方法,其特征在于,所述第一模型为目标检测模型;
所述第一数据增强方法包括:翻转变换、平移变换、尺度变换、旋转变换、缩放变换中的一种或者多种;
所述第二数据增强方法包括:翻转变换、平移变换、尺度变换、旋转变换、缩放变换中的一种或者多种。
5.根据权利要求1至4中任一项所述的方法,其特征在于,在将第一标注数据输入第一模型之前,所述方法还包括:
对所述第一标注数据进行增强处理,得到增强后的第一标注数据,所述增强后的第一标注数据用于输入所述第一模型,以获取所述第五预测结果。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述方法还包括:
将第一标注数据输入所述第二模型,获取所述第一标注数据的第六预测结果;
根据第六预测结果和第一标注数据的标签确定第二监督损失;
基于所述第一非监督损失、所述第二非监督损失和所述第二监督损失更新所述第二模型的参数。
7.根据权利要求1至6中任一项所述的方法,其特征在于,所述将第一增强数据输入第一模型获取所述第一增强数据的第一预测结果,以及,将所述第一增强数据输入第二模型获取所述第一增强数据的第二预测结果,包括:
将所述第一增强数据输入预设特征提取网络,获取第一特征数据;
将所述第一特征数据输入所述第一模型获取所述第一预测结果,以及,将所述第一特征数据输入所述第二模型获取所述第二预测结果。
8.根据权利要求1至7中任一项所述的方法,其特征在于,所述第一模型为图像的语义分割模型;
所述根据所述第一预测结果和所述第四预测结果的一致性确定第一非监督损失包括:
确定第一预测结果对应的第一伪标签,若所述第四预测结果中第一像素位置对应的第一预测概率大于所述第一预测结果中所述第一像素位置的第二预测概率,则所述第一伪标签的权值为1,若所述第一预测概率小于或等于所述第二预测概率,则所述第一伪标签的权值为0;
根据所述第一预测结果和第一伪标签确定所述第一非监督损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211215544.0/1.html,转载请声明来源钻瓜专利网。





