[发明专利]一种基于记忆力机制和图神经网络的小样本图像分类方法

说明书

本发明公开了一种基于记忆力机制和图神经网络的小样本图像分类方法，其特点是借助学习好的概念知识帮助小样本模型进行推理预测，具体包括：预训练、元训练和元测试三个阶段，所述预训练将训练好的特征提取器和分类器作为编码器和记忆库的初始化权值；所述元训练通过编码器提取支撑集和查询集样本的特征，从记忆库中挖掘每个类相关信息作为元知识，并通过一个图神经网络来传播任务相关节点以及元知识之间的相似性；所述元测试通过任务相关节点和元知识节点得到分类结果。本发明与现有技术相比具有借鉴人类识别过程，基于信息瓶颈的记忆图增广网络，借助学习好的概念知识，帮助模型进行推理预测实，方法简便，实用性强，具有一定推广应用的前景。

技术领域

本发明涉及小样本图像分类技术领域，尤其是一种基于记忆力机制和图神经网络的小样本图像分类方法。

背景技术

深度学习的成功源于大量标注数据，而人类只需利用少量的几个样本，就有很好的泛化能力，两者之间的差距引起了人们对小样本学习的研究。与传统的深度学习场景不同，小样本学习的目的不在于对未知样本进行分类，而是在非常有限的标注数据和过往的知识中对新任务快速适应。

最近，利用元学习与情景(episode)训练相结合的思想，在解决这一问题上取得了显著的优势。直觉上，使用情景(episode)抽样策略，是一个很有希望的趋势，将知识从已知的类别(即有足够训练样本的已知类别)转移到新的类别(即有少量样本的新类别)，模拟人类的学习过程。尽管元学习与episode训练策略在小样本学习上取得了显著的成果，但是它们中的大多数忽略了一个关键性问题，即当一个一个情景(episode)来临训练时，过去所学的知识如何面对新任务。

现有技术存在着当面对未知的任务时，学习到的概念无法利用模型进行推理预测。

发明内容

本发明的目的是针对现有技术的不足而提出的一种基于记忆力机制和图神经网络的小样本图像分类方法，采用基于信息瓶颈的记忆图增广网络的方法，当面对未知分类任务时，利用图神经网络与记忆机制，使得学习到的概念帮助小样本模型进行推理预测，该方法很好的借鉴人类识别过程，借助学习好的概念知识，较好的实现了利用模型进行推理预测，方法简便，实用性强，具有一定推广应用的前景。

实现本发明目的的具体技术方案是：一种基于记忆力机制和图神经网络的小样本图像分类方法，该方法包括：

步骤1：预训练阶段

1.1)在整个训练集上学习一个有监督的特征提取器和线性分类器；

1.2)使用训练好的特征提取器和分类器分别作为元训练阶段编码器和记忆库的初始化，该预训练阶段有助于提取泛化性的特征表达。

步骤2：元训练阶段

2.1)使用小样本普遍应用的情景训练策略，具体的，考虑一个N-Way K-shot T-query 任务，其中包含支撑集样本和查询集样本通过编码器提取支撑集样本和查询集样本的特征表示作为任务相关的节点

2.2)为了便于快速适应，本发明持有一个记忆库存储支撑集样本的特征表示，使用类内均值计算支撑集样本中每个类的中心点f_cen∈R^[N,d]，将其与存储在记忆库中相同类别的原型点f_p∈R^[N,d]进行串接，将串接后的特征表示f_cat∈R^[N,2d]输入到一个全连接层以减少维度来提纯语义信息，该迭代更新过程可以被视作一种特殊的知识蒸馏技术，使用信息瓶颈原理(Information Bottleneck,IB)来提纯，为了确保IB工作良好，即避免与任务无关的干扰，同时保留语义标签信息，所述语义信息由下述(1)式进行约束：

maxI(f_p,Y)-βI(f_cen,f_p) (1)；