“陈官富”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果2个，建议您升级VIP下载更多相关专利

[发明专利]一种神经网络的调整方法及相应装置-CN202111535584.9在审
发明人： 陈官富;陈敏琪;黄泽毅;唐少华 -专利权人：华为技术有限公司
申请日： 2021-12-15 - 公布日： 2023-06-20 - 主分类号： G06N3/0464 文献下载
摘要：本申请公开了一种神经网络的调整方法，应用于AI模型训练的过程中，该调整方法通过获取包含多个尺度层的第一神经网络，该第一神经网络采用混合精度运算，每个尺度层具有一个缩放尺度，在反向传播方向上，在每个尺度层按照对应的缩放尺度确定该尺度层上算子的权重梯度，例如，通过权重梯度在FP16中的表现，(如：是否有INF或NAN)来调整相应尺度层的缩放尺度，这样通过很小的计算量，就可以有效降低FP16的梯度的下溢率，可以使混合精度训练很好的应用于神经网络的训练。本申请提供的技术方案在保持了较高的训练精度的情况下，提高了训练效率，而且采用低精度运算的数据只需要占用芯片上较小的存储空间，也有利于芯片对低精度运算的数据的快速读写。
一种神经网络调整方法相应装置

[发明专利]神经网络模型的训练方法、图像处理方法及装置-CN202010948460.2在审
发明人：邓川云;陈官富;唐少华 -专利权人：华为技术有限公司
申请日： 2020-09-10 - 公布日： 2022-03-29 - 主分类号： G06V10/764 文献下载
摘要：本申请公开了人工智能领域中的一种神经网络模型的训练方法、图像处理方法及装置。该训练方法包括：将训练数据输入神经网络模型中进行特征提取，根据提取的特征得到神经网络模型的第一权重梯度；获取候选权重参数，目标损失函数的函数值对候选权重参数的偏导数为0，目标损失函数的函数值是根据第一预测标签对应的第二损失函数的函数值确定的，第一预测标签对应的第二损失函数的函数值用于指示候选权重参数与神经网络模型的权重参数之间的差异以及权重变化量与第一权重梯度之间的差异；根据候选权重参数更新神经网络模型的参数。本申请的方法能够加速训练过程，提高神经网络模型的训练效率。
神经网络模型训练方法图像处理装置