[发明专利]一种基于交叉融合卷积与可变形注意力Transformer的3D医学图像分割方法在审
申请号: | 202211526007.8 | 申请日: | 2022-12-01 |
公开(公告)号: | CN115830041A | 公开(公告)日: | 2023-03-21 |
发明(设计)人: | 严承;丁长松;许志祥;梁杨;黄辛迪 | 申请(专利权)人: | 湖南中医药大学 |
主分类号: | G06T7/11 | 分类号: | G06T7/11;G06V10/26;G06V10/40;G06V10/80;G06V10/82;G06N3/0464 |
代理公司: | 长沙瀚顿知识产权代理事务所(普通合伙) 43223 | 代理人: | 吴亮;朱敏 |
地址: | 410082 湖南省长沙市*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 交叉 融合 卷积 变形 注意力 transformer 医学 图像 分割 方法 | ||
1.一种基于交叉融合卷积与可变形注意力Transformer的3D医学图像分割方法,其特征在于,所述方法包括以下步骤:
S1,数据收集和预处理模块:获取3D医学图像数据,按照体素值截断的方法过滤不相关区域,对过滤后的3D医学图像数据进行标准化处理,然后划分训练集、验证集和测试集;
S2,编码器模块:交叉使用卷积层和可变形注意力Transformer层来获取3D医学图像的低分辨率特征,利用残差卷积块中卷积层的卷积操作获取3D医学图像的局部特征,减小特征图分辨率,利用可变形注意力Transformer层的可变形多头自注意力对所述局部特征进行全局关系建模,在编码器中使用残差结构来增强特征信息,使用卷积注意力模块对关键分割区域进行关注;
S3,解码器模块:使用反卷积操作对编码器提取到的低分辨率特征进行还原,对应于编码器每层次的特征图大小并作跳跃连接,逐步上采样到输入图像分辨率大小,得到带标记的3D医学图像。
2.根据权利要求1所述的3D医学图像分割方法,其特征在于,步骤S2所述的编码器模块还包括:
S21,使用一个标准7×7卷积核的卷积层对输入的3D医学图像进行处理,通过归一化层和激活层操作,得到中间特征图,所述中间特征图包含了丰富的局部特征信息;
S22,将所述中间特征图展开,使用两层DeTrans Layer进行全局关系信息建模,再将还原后得到的特征图与DeTrans Layer的输入信息残差相加,增强信息,减少传递过程中产生的损耗或丢失;使用可变自注意力机制来对采样点周围的部分关键点进行关注,提高编码器效率;
S23,使用卷积注意力模块对关键分割区域添加注意力,该注意力由沿着通道轴和空间轴的两个维度注意力模块融合得到,卷积注意力模块对重要的特征信息起强调作用,并减小不必要特征的影响,从而提高编码器的性能;
S24,将带有注意力的特征图传入步骤S22中的残差卷积模块处理,降低特征图分辨率,获取高维特征,所述残差卷积模块包括一个卷积核为2和两个卷积核为1的残差卷积层构成;
S25,重复S22、S23和S24的操作,获得多层次的图像特征信息,包含图像的局部细节特征和全局关系特征,将最后一层次的特征图传入解码器。
3.根据权利要求2所述的3D医学图像分割方法,其特征在于,在步骤S23中,使用卷积注意力模块关注关键分割区域,卷积注意力模块注入注意力的过程分为:沿着空间轴推断1D通道注意力Mc∈RC*1*1和沿着通道轴推断2D空间注意力Ms∈R1*H*W,卷积注意力模块的输入为中间特征图F∈RC*H*W,具体过程如下:
S231,通道注意模块对输入的中间特征图F进行操作,并行使用最大池化操作和平均池化操作来聚合中间特征图的通道间关系,生成最大池化特征和平均池化特征分别将最大池化特征和平均池化特征传入共享前向网络,最后将最大池化特征信息和平均池化特征信息使用对应位置相加,通过激活层得到中间特征图的通道注意力特征图Mc(F),通道注意力特征图计算公式为:
S232,将通道注意力特征图与输入的中间特征图融合,通道注意力被注入到中间特征图中,过程为:
S233,空间注意模块对融合了通道注意力的中间特征图F'进行操作,沿着通道轴并行使用最大池化操作和平均池化操作聚合F'的空间关系,生成最大池化特征和平均池化特征将最大池化特征和平均池化特征拼接起来,通过卷积层和激活层操作,得到空间注意力F'的空间注意力图Ms(F),空间注意力图的计算公式为:
S234,将空间注意力图与步骤S232中融合了通道注意力的结果逐元素相乘来添加空间注意力,计算过程如下,通道注意力和空间注意力在中间特征图F上的融合,给F中的重要特征和特征的空间信息增加权重,减小不重要特征的权重,从而强调了重要特征,抑制了不必要特征:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南中医药大学,未经湖南中医药大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211526007.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电子膨胀阀止动装置
- 下一篇:一种超压单向排气瓶盖