[发明专利]基于双重一致性自集成学习的半监督评估方法及评估系统在审
申请号: | 202011568233.3 | 申请日: | 2020-12-25 |
公开(公告)号: | CN112669330A | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 张立箎;霍加宇;薛忠;沈定刚;王乾 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06T7/11 | 分类号: | G06T7/11;G06T7/00;G06N20/20;G06N7/00 |
代理公司: | 上海世圆知识产权代理有限公司 31320 | 代理人: | 陈颖洁;王佳妮 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 双重 一致性 集成 学习 监督 评估 方法 系统 | ||
本发明提供一种基于双重一致性自集成学习的半监督评估方法及评估系统。基于双重一致性自集成学习的半监督评估系统包括双重一致性平均教师框架模块、注意力损失函数模块以及注意力一致性损失函数模块;本发明设计了一个自集成学习框架,该框架由具有相同结构的学生网络和教师网络组成;并且设计了一种新的基于注意力机制的损失函数,以获得准确的注意力区域结果;通过在病变分类和定位中对注意力进行双重一致性约束,这两个网络可以逐渐优化注意力分布并提高彼此的性能,而训练仅依赖于部分标记的数据并遵循半监督训练的方式,并不需要大量带有标注的数据,所花费的成本低。
技术领域
本发明涉及基于人工智能方法实现疾病诊断领域,具体地说,涉及一种基于双重一致性自集成学习的半监督评估方法及评估系统。
背景技术
膝关节骨关节炎(OA)是最常见的关节疾病之一,其特点是关节软骨缺乏完整性,并且软骨下骨和关节结构也会同时发生变化。如果不在早期对于膝关节骨关节炎进行干预,可能会导致关节坏死甚至残疾。膝关节软骨缺损作为膝关节骨关节炎的一个显著特征,与关节炎发病高度相关,因此在早期对于膝关节软骨缺损进行量化评估是非常必要的。如今,深度卷积神经网络(CNN)在计算机辅助诊断领域已取得了巨大成就。但是,深度学习模型的构建通常需要大量带有标注的数据,所花费的成本较高。
基于卷积神经网络(CNN)的膝关节诊断算法已被应用于X线平片以及磁共振数据,并且显示出了出色的诊断性能。例如,有人使用基于ImageNet数据集预训练的卷积神经网络从膝关节X线平片中自动判断膝关节骨关节炎的严重程度。有人实现了使用U-Net[3]用于膝关节磁共振数据中关节软骨的分割,并微调了U-Net中的编码器,用于评估分割后的软骨组织内的结构异常。但是,基于强监督学习的深度神经网络所获得的良好性能高度依赖于大量的人工标注数据,这通常是高成本的。为了减轻对于大量人工标注数据的需求,一些基于半监督学习的框架被提出。有人设计了用于自然图像分类的时序聚合模型。有人提出了用于左心房分割的不确定性感知框架。但是,尚未有人提出用于膝关节疾病诊断的半监督学习框架。
因此,需要提出一种用于膝关节疾病诊断的半监督学习框架,以减少大量带有标注的数据,达到减少成本的目的。
发明内容
本发明的目的在于,提供一种基于双重一致性自集成学习的半监督评估方法及评估系统,以解决现有人工智能方法中对膝关节骨关节炎进行量化评估的深度学习模型的构建通常需要大量带有标注的数据,所花费的成本较高的技术问题。
为实现上述目的,本发明提供一种基于双重一致性自集成学习的半监督评估系统,包括双重一致性平均教师框架模块、注意力损失函数模块以及注意力一致性损失函数模块;所述双重一致性平均教师框架模块,包含具有相同网络结构的学生模型和教师模型;所述学生模型和所述教师模型用于输入一患者图像并输出对应的分类结果和相应的注意力掩模;通过监督损失和非监督损失对学生网络进行优化,并通过指数移动平均更新教师模型;所述注意力损失函数模块与所述双重一致性平均教师框架模块连接,用于识别并定位病变通常所在区域,以约束所述注意力掩模的生成;所述注意力一致性损失函数模块与所述学生模型和所述教师模型连接,用于控制所述学生模型和所述教师模型同时输出所述分类结果和相应的所述注意力掩模。
进一步地,所述患者图像包括膝关节图像。
进一步地,所述学生模型和所述教师模型输出的分类结果为对应所述患者图像的病变严重程度的概率分布。
进一步地,所述监督损失的方式包括采用交叉熵损失函数和均方误差损失函数的方式进行计算。
进一步地,所述非监督损失的方式包括采用分类一致性损失函数和注意力一致性损失函数的方式进行计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011568233.3/2.html,转载请声明来源钻瓜专利网。