[发明专利]一种基于视觉因果干预的无监督元学习方法在审
申请号: | 202310100194.1 | 申请日: | 2023-02-06 |
公开(公告)号: | CN116246105A | 公开(公告)日: | 2023-06-09 |
发明(设计)人: | 于慧敏;齐国栋;卢朝晖;王润发;顾建波 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/778 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 视觉 因果 干预 监督 学习方法 | ||
本发明公开了一种基于视觉因果干预的无监督元学习方法,该方法包含无监督的元训练阶段和有监督的元测试阶段。具体而言,在元训练阶段中,该方法使用无标签的支撑集样本,学习输入数据、先验知识与预测输出三者之间的因果关系和先验知识中隐含变量之间的因果关系,消除输入数据中的上下文偏差所带来的负面影响,最终获得无偏的元知识。在元测试阶段,该方法利用上述得到的元知识作为模型的初始化参数,在给定少量有标签的支撑集样本的情况下,结合有监督和无监督学习,进一步消除数据偏差的影响,能够准确的预测查询集样本的标签。本方法在下游任务中的少样本图像分类问题上,能够准确的预测输出图像的类别。
技术领域
本发明属于人工智能与分类识别技术领域,尤其涉及到一种基于视觉因果干预的无监督元学习方法。
背景技术
无监督元学习方法有着广泛的研究和应用,其目的是通过在无标签的元训练数据集上进行元学习,以在元测试中,将学到的元知识快速适应到有监督的新任务中。特别是在少样本的情况下,元训练或元测试中的支撑数据集仅有少量几张图片,无监督元学习方法能有效防止过拟合,得到较好的结果。随着深度卷积神经网络的快速发展,科研工作者逐渐提出了一些基于深度卷积神经网络的无监督元学习方法。与此同时,无监督元学习方法能够减少对有标签的数据的依赖,因此工业界也逐渐关注无监督元学习方法。
当前基于深度卷积神经网络的无监督元学习方法更关注在元训练时通过一些聚类模型,融合无监督学习的特征,对无标签图像生成可靠的伪标签,并构建基于伪标签的有监督元学习方法。该方法在一定程度上被证实简单有效,但是这种流程在元训练或元测试时没有考虑每个任务中可能存在的数据偏差。训练偏差通常由于任务中的支撑数据较少,导致该任务中的数据分布不足以表达整个数据的真实分布,进而导致生成的伪标签不够准确,影响了元知识的学习。
因此,亟需提出一种基于视觉因果干预的无监督元学习方法,以解决在元训练或元测试阶段中存在的数据偏差的问题。
发明内容
为解决现有技术的不足,本发明的目的在于提供了一种基于视觉因果干预的无监督元学习方法,通过学习潜在的视觉因子以及视觉因子之间的因果关系,消除在元训练或元测试中数据存在的数据偏差。在建模部分,涉及到深度卷积神经编码网络、深度卷积神经解码网络和高斯混合模型;在优化部分,涉及到有向无环图的学习、证据下界的最大化以及高斯混合模型的求解。
为实现上述目的,本发明是采用如下技术方案来实现的:
一种基于视觉因果干预的无监督元学习方法,具体包括如下步骤:
(1)构建无监督元学习的因果结构模型图,获得输入数据、先验知识与预测输出三者之间的因果关系;
(2)定义先验变量与先验知识一一对应,同时定义先验变量之间具有因果关系,并使用可学习的有向无环图表达这种因果关系;
(3)定义因果空间,将输入图像编码为在因果空间中与先验变量对应的隐含变量,且该因果空间在多张图片对应的隐含变量相加时,其有向无环图的结构不变;
(4)定义干预公式,根据有向无环图,将先验知识的联合概率分布分解为各个因果相关的隐含变量的条件概率分布的乘积;
(5)对当前任务中所有支撑集输入图像进行编码,得到相应的隐含变量,构建位于因果空间中的无监督高斯混合模型,利用无监督的方式,最大化隐含变量的似然概率,然后对隐含变量解码,得到相应的生成图像,最后最大化生成图像和输入图像的相似度,优化模型;
(6)对当前任务中所有支撑集输入图像和查询集输入图像进行编码,得到相应的隐含变量,构建位于因果空间中的高斯混合模型,利用半监督的方式,最大化隐含变量的似然概率,得到查询集输入图像的类别概率。
进一步地,所述步骤(1)具体为:在无监督元学习的因果结构模型图中,输入数据是预测输出的因,先验知识是输入数据、预测输出的因;且所述先验知识是一种混杂变量,会导致产生了上下文偏差。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310100194.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种新能源消纳能力评估方法
- 下一篇:发动机缸体生产系统