[发明专利]一种基于transformer和SE块的CT自动肝脏图像分割方法在审
申请号: | 202210563644.6 | 申请日: | 2022-05-23 |
公开(公告)号: | CN115311194A | 公开(公告)日: | 2022-11-08 |
发明(设计)人: | 徐志强;王涛;陈峰;王晓东;陈柯文;李志雄;陈万朋 | 申请(专利权)人: | 湘潭大学 |
主分类号: | G06T7/00 | 分类号: | G06T7/00;G06N3/04;G06N3/08;G06V10/82;G06V10/774;G06V10/80;G06V10/764;G06V10/40;G06T7/11;G06T5/40;G06T5/00;G06T3/60 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 411105 *** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 transformer se ct 自动 肝脏 图像 分割 方法 | ||
1.本发明提供了一种基于transformer和SE块的CT自动肝脏图像分割方法,该分割方法包括以下步骤:
步骤1:选择包含131组3D腹部CT扫描的Lits2017作为所需数据集,其中121组数据用作训练集,另外10组数据用作测试集。
步骤2:对数据集进行图像预处理和数据增强。首先,读取lits2017数据集的图像,将其转换为灰度图像,并通过直方图均衡化增强图像的对比度和清晰度。为了消除训练过程中的过拟合问题,对原始数据集进行剪切、翻转、旋转和弹性变形以扩展数据集。数据增强可以提高网络模型的泛化能力,增强噪声和网络模型的鲁棒性。
步骤3:构建网络模型:
3.1.本发明的编码器部分由编码器部分和解码器部分组成。编码器部分负责特征提取,解码器部分负责特征定位。整个架构由一个Repvgg模块、12个transformer模块、4个SE模块和4个上采样模块组成。卷积核的大小为3×3,池层的步长为2×2。经过卷积块、池化、transformer等一系列操作后,每个512x512x1特征图像获得大小为512x512x1的分割图像。
3.2.在整个网络中,首先是由一个Repvgg模块构成。Repvgg在VGG网络的基础上加入了Identity和残差分支,就相当将ResNet网络中的精华部分应用到VGG中。由于残差结构具有多个分支,就相当于给网络增加了多条梯度流动的路径,类似于模型集成的思路,简单又高效。且当前大多数引擎对3x3的卷积做了特定的加速,减少了整个网络的时间。
3.3.解码器的第二部分是由12个transformer构成。Transformer模型全部由注意力机制组合而成,可以实现更好的提取全局信息,但是容易忽视低分辨率的图像细节,在解码的过程中容易产生偏差。
transformer模型包括:位置编码,前向传播,多头注意力模块,自注意力和相加归一化。
位置编码:通过注入数据的顺序信息增强模型输入。
自注意力模块中,三个输入的初始向量分别为K(key),Q(query),V(value),权值的计算公式是:
其中为了防止Q与K点乘的乘积过大,所以除以
3.4.此外,为了从编码器的特征映射中获取信息,在每一个跳跃连接中加入SE模块,自适应的提取图像特征。因为模块中的通道注意力机制,使得网络能够专注于特定的分割任务。
SE模块的具体操作:第一步,通过全局平均池化将每个通道的特征映射压缩为实数,第二步,添加一个连通的神经网路,非线性变换以获得每个特征通道的权重。最后,将获得的权重归一化后应用于每个通道的特征,从而达到了提取特定信息的目的。
3.5.本网络模型采用了经典的编解码结构,包括上采样,下采样和跳跃连接。跳跃连接把编码器每一次下采样得到的特征通过级联与解码器上采样结果融合,从而使分割结果更加精准。
3.6.损失函数利用BCE损失函数和Dice损失函数进行融合构建损失函数作用于损失值的计算。
BCE损失函数公式为:
其中
N表示图像的像素总数,yn和xn分别表示第i个像素的真实值和预测值。
Dice损失函数公式如下:
结合Dice损失函数与二元交叉熵损失函数构建网络的损失函数:
Loss=α·BCEloss+(1-α)·Diceloss (4)
其中,a为权重因子,用于调节Dice损失函数和二元交叉函数所占比重,取值范围为0–1。
3.6.此方法,采用了如下几种常见的指标:
Dice coeffcient(DC):用于度量两个集合的相似性,值越大,表示分割的精度越高。
其中X表示分割结果,Y是表示的标签。
准确率Accuracy:
敏感度Sensitivity:
特异度Specificity:
其中TN、FP、FN和TP分别代表真阴性,假阳性,假阴性,真阳性的数量。
AUC指标是用来评价分类器对于正样本和负样本的分辨能力。AUC是ROC曲线与坐标轴围成的面积,以Sen为横轴,Spe为纵轴所绘制而成的曲线,越靠近左上角,模型的性能就越好。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湘潭大学,未经湘潭大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210563644.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种液固相变自支撑压裂液组合物及其制备方法
- 下一篇:一种固体废弃物分选装置
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法