[发明专利]基于四分支注意力机制的卷积神经网络及图像分割方法有效
申请号: | 202110404815.6 | 申请日: | 2021-04-15 |
公开(公告)号: | CN112949838B | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 雷涛;洪璐敏子;王日升;张栋;杜晓刚 | 申请(专利权)人: | 陕西科技大学 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/048;G06N3/0455;G06N3/08;G06T7/00;G06T7/12;G06T5/00;G06V10/44 |
代理公司: | 西安众和至成知识产权代理事务所(普通合伙) 61249 | 代理人: | 强宏超 |
地址: | 710021*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 分支 注意力 机制 卷积 神经网络 图像 分割 方法 | ||
1.基于四分支注意力机制的卷积神经网络的图像分割方法,其特征在于,包括:首先对医学CT图像进行预处理;然后将预处理后的医学CT图像输入基于四分支注意力机制的卷积神经网络,输出分割结果;
所述的基于四分支注意力机制的卷积神经网络包括U-Net基础网络结构,在编码器和解码器的特征融合处设置四分支注意力机制模块,四分支注意力机制模块获取包括通道注意力、空间注意力以及通道和空间之间所产生的跨维度交互注意力;在跳跃连接处设置长短跳跃连接模块,长短跳跃连接模块包括在每层池化操作之后设置的残差模块,残差模块包括反卷积操作和激活操作,并将结果合并进跳跃连接中;长短跳跃连接模块还包括在跳跃连接与解码器拼接之前设置的额外卷积模块,额外卷积模块包括卷积操作、归一化处理操作和激活操作,编码器传输的特征通过额外卷积模块后再传输到解码器;
所述四分支注意力机制模块定义为输入输出维度相同的四个分支,通过四个分支来捕获输入的(H,W)、(C,C)、(H,C)和(C,W)维度之间的依赖关系,从而捕获空间注意力、通道注意力以及空间通道跨维度交互注意力,给定X∈R(C×H×W)作为输入,其中,C是通道数,H是输入特征图的高度,W是输入特征图的宽度;
所述四分支注意力机制模块的第一个分支获取空间注意力包括:
1)给定原始输入特征X∈R(C×H×W),将其维度调整为X∈R(C×N),其中N=H×W;
2)将X∈R(C×N)的转置矩阵与X1∈R(N×C)和X2∈R(C×N)相乘,并通过归一化计算得到空间注意力矩阵M∈R(N×N),其中mji代表空间注意力矩阵M中第i个位置与第j个位置之间的相关性,x代表像素值;同时,对X∈R(C×H×W)进行维度变换,生成原始特征矩阵Q∈R(C×N),对原始特征矩阵Q∈R(C×N)和空间注意力矩阵M∈R(N×N)执行矩阵乘法,得到加权空间注意力矩阵;
3)将加权空间注意力矩阵乘比例系数α后与原始输入特征X∈R(C×H×W)进行逐元素求和,得到最终输出Out1∈R(C×H×W);
所述四分支注意力机制模块的第二个分支获取通道注意力包括:首先计算通道注意力矩阵M∈R(C×C);然后将原始特征矩阵X∈R(C×H×W)转置为Q∈R(C×N),并将Q∈R(C×N)矩阵与M∈R(C×C)矩阵相乘,相乘后在矩阵结果中添加比例系数α,与原始输入特征X∈R(C×H×W)进行逐元素求和,得到最终输出Out2∈R(C×H×W);
所述四分支注意力机制模块的第三个分支获取H维和C维的交互注意力包括:
1)将原始输入特征X∈R(C×H×W)映射转置为X1∈R(W×H×C),在W维度上分别进行全局最大池化和全局平均池化,得到特征映射X4∈R(2×H×C);
2)将特征映射X4∈R(2×H×C)通过标准卷积层和归一化层,得到输出X5∈R(1×H×C);
3)将输出X5∈R(1×H×C)通过sigmoid激活层生成注意力权重,将注意力权重应用于X1∈R(W×H×C),再进行维度调整,得到输出Out3∈R(C×H×W);
所述四分支注意力机制模块的第四个分支获取C维和W维的交互注意力包括:首先将原始输入特征X∈R(C×H×W)通过H维的池化操作转置为X7∈R(1×C×W),然后将X7∈R(1×C×W)通过sigmoid激活层生成注意力权重,将注意力权重应用于X1∈R(W×H×C),再进行维度调整,得到输出Out4∈R(C×H×W);
所述网络的运行参数为:学习率η=1×10-4,使用Adam梯度下降优化网络模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于陕西科技大学,未经陕西科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110404815.6/1.html,转载请声明来源钻瓜专利网。