[发明专利]基于互补注意力的训练方法在审
申请号: | 202210631057.6 | 申请日: | 2020-11-27 |
公开(公告)号: | CN114972278A | 公开(公告)日: | 2022-08-30 |
发明(设计)人: | 彭璨 | 申请(专利权)人: | 深圳硅基智控科技有限公司 |
主分类号: | G06T7/00 | 分类号: | G06T7/00;G06V10/82;G06V10/774;G06V10/44;G06V10/764;G06N3/04;G06N3/08 |
代理公司: | 深圳舍穆专利代理事务所(特殊普通合伙) 44398 | 代理人: | 黄贤炬 |
地址: | 518000 广东省深圳市宝安区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 互补 注意力 训练 方法 | ||
1.一种基于互补注意力的训练方法,其特征在于,包括:
准备训练数据集,所述训练数据集包括多张由病变区域和非病变区域构成的检查图像以及与所述检查图像关联的标注图像;
将所述训练数据集输入人工神经网络模块以对所述检查图像进行特征提取以获得特征图;
基于注意力机制对所述特征图进行处理以获得指示所述病变区域的注意力热度图;
基于互补注意力机制对所述注意力热度图进行处理以获得指示所述非病变区域的互补注意力热度图;
基于所述特征图获得第一识别结果,基于所述特征图和所述注意力热度图获得第二识别结果,基于所述特征图和所述互补注意力热度图获得第三识别结果;
基于所述第一识别结果、所述第二识别结果、所述第三识别结果和所述标注图像获得总损失函数,
利用所述总损失函数对所述人工神经网络模块进行优化。
2.如权利要求1所述的训练方法,其特征在于,
所述标注图像包括有病变的标注结果或无病变的标注结果。
3.如权利要求2所述的训练方法,其特征在于,
所述标注结果为图像标注或文本标注,所述图像标注为由人工标注的并用于框选所述病变区域的标注框。
4.如权利要求1所述的训练方法,其特征在于,
所述人工神经网络模块包括第一人工神经网络、第二人工神经网络以及第三人工神经网络;
利用所述第一人工神经网络对所述检查图像进行特征提取以获得所述特征图,
利用所述第二人工神经网络获得指示病变区域的所述注意力热度图和指示非病变区域的所述互补注意力热度图,
利用所述第三人工神经网络基于所述特征图获得第一识别结果,基于所述特征图和所述注意力热度图获得第二识别结果,基于所述特征图和所述互补注意力热度图获得第三识别结果。
5.如权利要求4所述的训练方法,其特征在于,
在所述注意力热度图和所述互补注意力热度图中,位置相同的像素的像素值的和为恒定值。
6.如权利要求4所述的训练方法,其特征在于,
获得所述注意力热度图和所述互补注意力热度图后,对所述注意力热度图和/或所述互补注意力热度图进行归一化处理。
7.如权利要求1所述的训练方法,其特征在于,
结合所述第一识别结果与所述标注图像以获得在未使用所述注意力机制时的第一损失函数,结合所述第二识别结果与所述标注图像以获得在使用所述注意力机制时的第二损失函数,结合所述第三识别结果与具有无病变的标注结果的所述标注图像以获得在使用所述互补注意力机制时的第三损失函数,
利用所述第一损失函数、所述第二损失函数、以及所述第三损失函数获取包括基于所述第一损失函数的第一损失项、基于所述第二损失函数和所述第一损失函数的差的第二损失项、以及基于所述第三损失函数的第三损失项的总损失函数。
8.如权利要求7所述的训练方法,其特征在于,
所述第一损失函数、所述第二损失函数和所述第三损失函数通过误差损失函数获得,所述误差损失函数为相关函数、L1损失函数、L2损失函数或Huber损失函数中的至少一种。
9.如权利要求7所述的训练方法,其特征在于,
所述第一损失项与所述第一损失函数正相关。
10.如权利要求7所述的训练方法,其特征在于,
所述第二损失函数小于所述第一损失函数时,所述第二损失项为零。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳硅基智控科技有限公司,未经深圳硅基智控科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210631057.6/1.html,转载请声明来源钻瓜专利网。