[发明专利]一种基于元学习嵌入半监督学习图像分类方法与系统有效
| 申请号: | 202210754352.0 | 申请日: | 2022-06-30 |
| 公开(公告)号: | CN114821204B | 公开(公告)日: | 2023-04-07 |
| 发明(设计)人: | 袭肖明;孟令钊;聂秀山;尹义龙;张光 | 申请(专利权)人: | 山东建筑大学 |
| 主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06V10/82;G06N3/0464;G06N3/08 |
| 代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 于凤洋 |
| 地址: | 250100 山东*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 学习 嵌入 监督 图像 分类 方法 系统 | ||
1.一种基于元学习嵌入半监督学习图像分类方法,其特征在于,训练步骤包括:
采集不同类型的原始图像数据样本,构建数据集并进行预处理;
构建训练样本集,将原始图像数据样本进行重要特征区域加噪,获得重要的特征区域信息;利用训练好的图像分类模型,获取原始数据样本集中每个图像的CAM,根据CAM获得数据样本重要的特征区域信息,将CAM作为图像加噪的概率图,对图像数据按照获得的加噪概率图进行不同程度的加噪;数据样本在进行重要特征加噪处理之后,将训练样本集中标记数据和未标记数据输入到学生分类网络模型和教师分类网络模型中,首先将标记样本输入到学生分类网络模型的主干网络resnet50中,进行多次卷积操作,提取数据样本的关键特征信息,获取对应的特征图;
将加噪后训练样本集中的样本输入到分类网络模型中,输出每个样本的权重;对数据样本进行自适应加权处理,具体的:在学生分类网络模型中嵌入元学习挖掘器,所述元学习挖掘器由一个三层的全连接神经网络构成,将获取的特征图输入至所述全连接神经网络中,输出每个数据样本的初始化权重;
构建损失函数,更新标记数据并输入分类网络模型中进行迭代,计算交叉熵损失以及均方差损失并计算网络总损失;
将在学生网络分类模型获得的标记数据特征图,经过平均池化层、全连接层和softmax分类器处理后,获得标记数据的预测类别;将预测类别与真实类别进行交叉熵损失计算,所述真实类别为样本标签;
教师网络和学生网络分别将未标记数据输入到网络中,经过卷积获得其特征图,将在学生分类网络与教师分类网络模型获得的未标记数据特征图,获得的特征图经过池化层、全连接层和Softmax分类器得到对应的预测结果,将学生网络和教师网络的预测类别做均方差损失计算;
将交叉熵损失与均方差损失相加,然后与样本自适应加权的输出结果数据样本的权重进行融合计算得到网络模型的总损失;
更新网络参数,进行迭代达到收件条件,获得最小损失的半监督网络模型,并利用测试集进行测试,输出图像类别;通过随机梯度下降法更新学生网络的主干网络参数,再基于更新后主干网络的参数优化元学习挖掘器,对于主干网络和元学习挖掘器进行交替优化。
2.如权利要求1所述的一种基于元学习嵌入半监督学习图像分类方法,其特征在于,数据预处理具体为:将原始图像数据样本中的每个图像的尺寸变换为统一大小,将每种类型的原始图像样本按照比例进行分配划分,组合成训练集、验证集和测试集。
3.如权利要求1所述的一种基于元学习嵌入半监督学习图像分类方法,其特征在于,对于未标记数据,利用已经训练好的教师分类网络进行预测,设定类别的概率T,若是所述标记数据分类某一类别的概率大于阈值T,则对其进行标记,生成伪标签数据,并重新加入到标记数据中,进行新一轮的训练,将所述伪标签数据与原始数据一并再作为输入,进行网络模型的训练。
4.如权利要求1所述的一种基于元学习嵌入半监督学习图像分类方法,其特征在于,对于所述获得的标记数据特征图,进行平均池化层、全连接层和softmax分类器处理,获得标记数据的预测类别,将所述预测类别与真实类别进行交叉熵损失计算:
是有标记数据目标损失函数,表示学生网络;是学生网络的网络参数,表示有标记样本数据集,是主干网络的网络参数。
5.如权利要求3所述的一种基于元学习嵌入半监督学习图像分类方法,其特征在于,将在教师分类网络模型获得未标记数据特征图,经过处理分别获得对应的预测类别,将学生分类网络和教师分类网络的预测类别做均方差损失计算:
表示学生网络和教师网络对未标记数据预测结果的目标损失函数,表示学生网络,表示教师网络,是学生网络的网络参数,表示教师网络的网络参数。
6.如权利要求5所述的一种基于元学习嵌入半监督学习图像分类方法,其特征在于,计算网络模型损失:
将交叉熵损失与均方差损失相加,然后与所述输出结果数据样本的权重进行融合计算得到网络模型的总损失:
表示元学习器输出的样本权重,是本网络模型的总损失。
7.一种基于元学习嵌入半监督学习图像分类系统,其特征在于,包括:
数据采集处理模块,用于采集不同类型的原始图像数据样本,构建数据集并进行预处理;构建训练样本集,将原始图像数据样本进行重要特征区域加噪,获得重要的特征区域信息;利用训练好的图像分类模型,获取原始数据样本集中每个图像的CAM,根据CAM获得数据样本重要的特征区域信息,将CAM作为图像加噪的概率图,对图像数据按照获得的加噪概率图进行不同程度的加噪;数据样本在进行重要特征加噪处理之后,将训练样本集中标记数据和未标记数据输入到学生分类网络模型和教师分类网络模型中,首先将标记样本输入到学生分类网络模型的主干网络resnet50中,进行多次卷积操作,提取数据样本的关键特征信息,获取对应的特征图;
训练与样本自适应加权模块,用于将加噪后训练样本集中的样本输入到分类网络模型中,输出每个样本的权重;对数据样本进行自适应加权处理,具体的:在学生分类网络模型中嵌入元学习挖掘器,所述元学习挖掘器由一个三层的全连接神经网络构成,将获取的特征图输入至所述全连接神经网络中,输出每个数据样本的初始化权重;
损失计算模块,用于构建损失函数,更新标记数据并输入分类网络模型中进行迭代,计算交叉熵损失以及均方差损失并计算网络总损失;
将在学生网络分类模型获得的标记数据特征图,经过平均池化层、全连接层和softmax分类器处理后,获得标记数据的预测类别;将预测类别与真实类别进行交叉熵损失计算,所述真实类别为样本标签;
教师网络和学生网络分别将未标记数据输入到网络中,经过卷积获得其特征图,将在学生分类网络与教师分类网络模型获得的未标记数据特征图,获得的特征图经过池化层、全连接层和Softmax分类器得到对应的预测结果,将学生网络和教师网络的预测类别做均方差损失计算;
将交叉熵损失与均方差损失相加,然后与样本自适应加权的输出结果数据样本的权重进行融合计算得到网络模型的总损失;
分类模块,用于进行迭代达到收件条件,获得最小损失的半监督网络模型,并利用测试集进行测试,输出图像类别;通过随机梯度下降法更新学生网络的主干网络参数,再基于更新后主干网络的参数优化元学习挖掘器,对于主干网络和元学习挖掘器进行交替优化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东建筑大学,未经山东建筑大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210754352.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种轴承内槽的自动加工装置
- 下一篇:一种半导体器件及其制造方法





