[发明专利]一种医学图像分割模型压缩方法

权利要求书

1.一种医学图像分割模型压缩方法，其特征在于，包括以下步骤：

S1、收集医学影像数据库中的数据；

S2、进行数据预处理；

S3、以Res-Unet作为网络的基本骨架，使用可分离卷积作为其中的卷积层，针对一个医学图像分割基本模型，根据模型中每个位置所使用的卷积核的数量来构建搜索空间，针对分割网络的编码-解码结构，使用对称神经网络搜索在该搜索空间中寻找一个计算量小、分割精度高的子网络，且其编码-解码结构均是对称的；对称神经网络搜索的具体步骤如下：

S301、在分割网络中根据编码过程中卷积层通道个数的选择来构建搜索空间，搜索空间中每层中卷积通道数的配置为{c₁,c₂,...,c_K}，其中K表示待剪枝的第K个网络层；

S302、通过网络搜索得到的最优子网络的通道配置形式如下：

s.t.FLOPs＜F_t，其中，F_t是计算约束，L是知识蒸馏的最终目标；

S303、利用编码过程中卷积通道个数与解码过程中卷积通道个数之间的关系，在解码过程中生成相应数量的卷积通道，最终得到编码-解码结构是对称的子网络；

S4、在遍历整个搜索空间时，使用权重共享方法以减轻计算成本和训练资源；权值共享方法的具体步骤如下：

S401、基于基本模型的个通道，给定网络结构配置为

S402、通过从一次即用网络中的相应权重中提取第一个通道作为结构子网络的权重；

S403、在训练过程的每次前向传播时，随机选择一个具有一定通道数配置的子网络，计算其输出和梯度，根据学习目标来更新提取的权重，同时其他部分的权值被冻结，不参与该次前向传播；

S404、网络结构训练完成后，遍历整个搜索空间进行测试，找到综合性能最好的模型；

S405、用该子网络进行微调，得到最优结构子网络；

S5、在网络的训练过程中使用知识蒸馏方法，以基本模型作为教师模式，压缩子网络作为学生模型，实现二者之间的知识转移；知识蒸馏的具体步骤如下：

S501、采用基本模型作为教师模型，压缩子模型作为学生模型；

S502、以知识蒸馏的最终目标来训练学生模型；

S503、将分割模型的中间表示从教师模型迁移至学生模型：

L＝L_seg+λ_distillL_distill，其中，L是知识蒸馏的最终目标，L_seg是医学图像分割误差，L_distill是教师模型和学生模型迁移知识时的蒸馏误差，超参λ用于控制蒸馏目标的重要性；

其中，S_t(x)和S'_t(x)是学生模型和教师模型中选择的第t层的中间特征，T是层数，f_t是一个1x1的卷积层，用于将学生模型的特征映射到教师模型对应特征中相同数量的通道。