[发明专利]神经网络训练方法、装置、电子设备及存储介质在审
申请号: | 202110932654.8 | 申请日: | 2021-08-13 |
公开(公告)号: | CN113688844A | 公开(公告)日: | 2021-11-23 |
发明(设计)人: | 尤志远;杨凯;崔磊 | 申请(专利权)人: | 上海商汤智能科技有限公司 |
主分类号: | G06K9/46 | 分类号: | G06K9/46;G06K9/62;G06N3/08;G06N3/04 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 马丽;张颖玲 |
地址: | 200233 上海市徐*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 装置 电子设备 存储 介质 | ||
本公开提供了一种神经网络训练方法、装置、电子设备及存储介质;方法包括:通过初始检测网络,对训练样本集中的当前训练样本进行特征处理与重构,得到当前训练样本对应的样本特征序列与重构样本特征序列;训练样本集包含正样本与负样本,负样本为存在异常部分的图像;通过异常损失函数,基于样本特征序列与重构样本特征序列,对初始检测网络进行迭代训练,直至得到检测网络;其中,检测网络用于对待检测图像中的异常部分进行检测;异常损失函数通过像素级和/或图像级进行损失计算。通过本公开,能够提高网络训练的准确性与灵活性。
技术领域
本公开涉及人工智能技术领域,尤其涉及一种神经网络训练方法、装置、电子设备及存储介质。
背景技术
近年来,深度学习算法在各个领域都取得了巨大的进展,也在很多工业视觉检测领域取得了落地。相关技术通常利用深度学习算法来训练异常检测模型,用于对生产环境中的产品进行异常图像的检测。然而,深度学习算法往往需要大量的、高质量的训练样本,而基于使用不同类型、不同标注方式的样本的模型训练方法不同,导致异常检测模型对于不同标注类型的训练样本的兼容能力较差,限制了异常检测模型从各种类型的样本中进行学习的能力。这样不仅降低了异常检测的灵活性,也降低了异常检测的准确性。
发明内容
本公开实施例提供一种神经网络训练方法、装置、电子设备及计算机可读存储介质,能够提高网络训练的准确性与灵活性。
本公开实施例的技术方案是这样实现的:
本公开实施例提供一种神经网络训练方法,包括:
通过初始检测网络,对训练样本集中的当前训练样本进行特征处理与重构,得到所述当前训练样本对应的样本特征序列与重构样本特征序列;所述训练样本集包含正样本与负样本,所述负样本为存在异常部分的图像;
通过异常损失函数,基于所述样本特征序列与重构样本特征序列,对所述初始检测网络进行迭代训练,直至得到检测网络;其中,所述检测网络用于对待检测图像中的异常部分进行检测;所述异常损失函数通过像素级和/或图像级进行损失计算。
上述方法中,所述初始检测网络包括:特征提取网络与初始重构网络;所述通过初始检测网络,对训练样本集中的当前训练样本进行特征处理与重构,得到所述当前训练样本对应的样本特征序列与重构样本特征序列,包括:
通过所述特征提取网络,对所述当前训练样本进行特征处理,得到样本特征序列;
基于所述初始重构网络,对所述样本特征序列和预设的初始问询词序列进行重构,得到重构样本特征序列。
上述方法中,所述通过异常损失函数,基于所述样本特征序列与重构样本特征序列,对所述初始检测网络进行迭代训练,直至得到检测网络,包括:
根据所述重构样本特征序列与所述样本特征序列,确定样本特征差异序列;
获取所述当前训练样本的真实值;
基于所述样本特征差异序列、所述真实值和所述异常损失函数,得到当前损失;其中,所述异常损失函数用于在针对所述正样本或负样本进行处理的情况下,将所述正样本对应的重构样本特征序列拉近样本特征序列;将所述负样本中的异常部分对应的重构样本特征序列推离样本特征序列;
基于所述当前损失对所述初始检测网络进行调整,并将所述训练样本集中的下一个训练样本作为当前样本,对调整后的初始检测网络进行下一轮训练,直至得到最终损失小于预设损失阈值的所述检测网络。
上述方法中,所述通过异常损失函数,基于所述样本特征序列与重构样本特征序列,对所述初始检测网络进行迭代训练,直至得到检测网络,包括:
基于所述样本特征序列与预设特征提取损失函数,计算所述特征提取网络对应的特征提取损失;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海商汤智能科技有限公司,未经上海商汤智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110932654.8/2.html,转载请声明来源钻瓜专利网。