“梯度运算”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果200498个，建议您升级VIP下载更多相关专利

[发明专利]一种计算装置及相关产品-CN201810161636.2在审
发明人：不公告发明人 -专利权人：上海寒武纪信息科技有限公司
申请日： 2018-02-27 - 公布日： 2019-09-03 - 主分类号： G06F9/302 文献下载
摘要：本公开提供了一种计算装置，所述计算装置获取训练样本、训练模型；所述训练模型包括n层结构；包括：指令控制单元用于获取训练指令，根据所述训练指令得到正向运算指令和反向运算指令；运算单元用于根据所述正向运算指令对所述训练样本进行n层正向运算得到第n层正向运算结果，根据所述第n层正向运算结果获得第n层输出数据梯度，根据所述反向运算指令对所述第n层输出数据梯度执行n层反向运算得到所述训练模型的权值梯度；所述训练模型的权值梯度包括每层的权值梯度；压缩单元用于对所述训练模型的权值梯度进行处理，以对应得到处理后的权值梯度；计算装置用于依据所述处理后的权值梯度对所述训练模型的权值进行更新，以完成训练。
训练模型正向计算装置运算指令输出数据训练样本运算结果运算指令指令控制单元压缩单元运算单元更新

[发明专利]神经网络运算模块及方法-CN201811040961.X在审
发明人：不公告发明人 -专利权人：上海寒武纪信息科技有限公司
申请日： 2018-09-06 - 公布日： 2020-03-13 - 主分类号： G06N3/063 文献下载
摘要：本发明公开了一种神经网络运算模块，包括存储单元、用于从该存储单元获取第L层的输入神经元精度、权重精度和输出神经元梯度精度；根据输入神经元精度、权重精度和输出神经元梯度精度，获取梯度更新精度T；当梯度更新精度T大于预设精度Tr时，调整输入神经元精度、权重精度和输出神经元梯度精度；和用于根据增大后的输入神经元精度和权重精度来表示第L层的输出神经元和权重和根据增大的输出神经元梯度精度来表示运算得到的第L层输出神经元梯度，以进行后续运算的运算单元。采用本发明实施例可以在满足运算需求的同时，减少了运算结果的误差和运算开销，节省了运算资源。
神经网络运算模块方法

[发明专利]神经网络运算模块及方法-CN201811041573.3在审
发明人：不公告发明人 -专利权人：上海寒武纪信息科技有限公司
申请日： 2018-09-06 - 公布日： 2020-03-13 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种神经网络运算模块，包括存储单元、用于从该存储单元获取第L层的输入神经元精度、权重精度和输出神经元梯度精度；根据输入神经元精度、权重精度和输出神经元梯度精度，获取梯度更新精度T；当梯度更新精度T小于预设精度Tr时，调整输入神经元精度、权重精度和输出神经元梯度精度；和用于根据增大后的输入神经元精度和权重精度来表示第L层的输出神经元和权重和根据增大的输出神经元梯度精度来表示运算得到的第L层输出神经元梯度，以进行后续运算的运算单元。采用本发明实施例可以在满足运算需求的同时，减少了运算结果的误差和运算开销，节省了运算资源。
神经网络运算模块方法

[发明专利]脉冲神经网络加速器学习方法、装置、终端及存储介质-CN202211221881.0有效
发明人：田永鸿;权璞丽;李国齐;崔小欣;周晖晖;高文 -专利权人：鹏城实验室
申请日： 2022-10-08 - 公布日： 2023-07-25 - 主分类号： G06N3/049 文献下载
摘要：本发明公开了一种脉冲神经网络加速器学习方法、装置、终端及存储介质，包括：获取前向运算所需数据，并根据前向运算数据在前向运算引擎中进行第一卷积运算和自组织迁移运算，得到前向运算结果；根据前向运算结果在后向运算引擎中进行第二卷积运算和梯度运算，得到后向运算结果；根据后向运算结果进行梯度更新运算，并根据梯度更新运算的结果更新脉冲神经网络加速器的梯度参数。
脉冲神经网络加速器学习方法装置终端存储介质

[发明专利]用于执行人工神经网络反向运算的装置和方法-CN201910374850.0有效
发明人：刘少礼;郭崎;陈云霁;陈天石 -专利权人：中科寒武纪科技股份有限公司
申请日： 2016-01-20 - 公布日： 2020-11-06 - 主分类号： G06N3/08 文献下载
摘要：本申请涉及一种用于执行人工神经网络反向运算的装置，所述装置包括控制器单元、直接内存访问单元、主运算模块、H树模块以及从运算模块，使用该装置可以实现多层人工神经网络的反向训练。对于每一层来说，首先对输入梯度向量进行加权求和计算出本层的输出梯度向量，然后该输出梯度向量乘以下一层在正向运算时的激活函数的导数值可以得到下一层的输入梯度向量，之后将输入梯度向量与正向运算时的输入神经元对位相乘得到本层权值的梯度，然后可以根据所得到的本层权值的梯度来更新本层的权值。
用于执行人工神经网络反向运算装置方法

[发明专利]一种图像特征提取方法-CN201711476513.X有效
发明人：侯太炎;徐焕东;张春裕 -专利权人：惠州华阳通用电子有限公司
申请日： 2017-12-29 - 公布日： 2022-03-15 - 主分类号： G06V10/50 文献下载
摘要：本发明提供图像特征提取方法，方法包括：设置梯度运算矩阵大小的步骤；计算所述梯度运算矩阵各像素的梯度的步骤；确定所述各像素的梯度所属梯度区间的步骤；根据所述各像素的梯度计算其梯度长度的步骤；计算块特征值的步骤
一种图像特征提取方法

[发明专利]二值神经网络的梯度重构方法、装置、设备及存储介质-CN202211301162.X在审
发明人：尤江华;郑影;杨恒;王湾湾;王杨俊杰;高华 -专利权人：中电金信软件有限公司
申请日： 2022-10-24 - 公布日： 2023-01-31 - 主分类号： G06N3/0464 文献下载
摘要：本发明提供一种二值神经网络的梯度重构方法、装置、设备及存储介质，所述方法包括：在前向传播过程中，通过量化函数对实值权重和实值激活分别进行二值量化处理，得到二值神经网络的二值权重和二值激活；按照同或及位运算对所述二值权重和二值激活进行卷积运算，得到卷积运算结果；根据所述卷积运算结果确定所述二值神经网络的损失函数的结果；在反向传播过程中，对所述损失函数的结果和二值权重求偏导，得到二值权重的梯度；根据所述二值权重的梯度，确定实值权重的梯度，以便于根据所述实值权重的梯度来更新实值权重本发明通过同或运算和位运算来替代卷积运算中的加法和乘法运算，不但节省了运算时间，加快了推理速度，而且还提高了运算效率。
神经网络梯度方法装置设备存储介质

[发明专利]用于执行人工神经网络反向训练的装置和方法-CN202010164096.0在审
发明人：刘少礼;郭崎;陈云霁;陈天石 -专利权人：中科寒武纪科技股份有限公司
申请日： 2016-01-20 - 公布日： 2020-06-30 - 主分类号： G06N3/04 文献下载
摘要：本发明提供了一种用于执行人工神经网络反向训练的装置，包括指令缓存单元、控制器单元、直接内存访问单元、H树模块、主运算模块、以及多个从运算模块。使用该装置可以实现多层人工神经网络的反向训练。对于每一层来说，首先对输入梯度向量进行加权求和计算出本层的输出梯度向量。该输出梯度向量乘以下一层在正向运算时的激活函数的导数值可以得到下一层的输入梯度向量。将输入梯度向量与正向运算时的输入神经元对位相乘得到本层权值的梯度，然后可以根据所得到的本层权值的梯度来更新本层的权值。
用于执行人工神经网络反向训练装置方法

[发明专利]一种用于执行全连接层神经网络训练的装置和方法-CN201811221576.5有效
发明人：郭崎;张士锦;陈云霁;陈天石 -专利权人：中科寒武纪科技股份有限公司
申请日： 2016-04-29 - 公布日： 2020-04-24 - 主分类号： G06N3/08 文献下载
摘要：本发明提供了一种用于执行人工神经网络全连接层反向训练的装置，包括指令存储单元、控制器单元、数据访问单元、互连模块、主运算模块、以及多个从运算模块。使用该装置可以实现人工神经网络全连接层的反向训练。对于每一层来说，首先对输入梯度向量进行加权求和计算出本层的输出梯度向量。该输出梯度向量乘以下一层在正向运算时的激活函数的导数值可以得到下一层的输入梯度向量。将输入梯度向量与正向运算时的输入神经元对位相乘得到本层权值的梯度，然后可以根据所得到的本层权值的梯度来更新本层的权值。
一种用于执行连接神经网络训练装置方法

[发明专利]用于执行人工神经网络反向训练的装置和方法-CN201610039032.1有效
发明人：刘少礼;郭崎;陈云霁;陈天石 -专利权人：中科寒武纪科技股份有限公司
申请日： 2016-01-20 - 公布日： 2020-05-08 - 主分类号： G06N3/08 文献下载
摘要：本披露提供了一种用于执行人工神经网络反向训练的装置，包括指令缓存单元、控制器单元、直接内存访问单元、H树模块、主运算模块、以及多个从运算模块。使用该装置可以实现多层人工神经网络的反向训练。对于每一层来说，首先对输入梯度向量进行加权求和计算出本层的输出梯度向量。该输出梯度向量乘以下一层在正向运算时的激活函数的导数值可以得到下一层的输入梯度向量。将输入梯度向量与正向运算时的输入神经元对位相乘得到本层权值的梯度，然后可以根据所得到的本层权值的梯度来更新本层的权值。
用于执行人工神经网络反向训练装置方法

[发明专利]一种用于执行全连接层神经网络训练的装置和方法-CN201610285062.0有效
发明人：郭崎;张士锦;陈云霁;陈天石 -专利权人：中科寒武纪科技股份有限公司
申请日： 2016-04-29 - 公布日： 2021-01-29 - 主分类号： G06N3/063 文献下载
摘要：本公开提供了一种用于执行人工神经网络全连接层反向训练的装置，包括指令存储单元、控制器单元、数据访问单元、互连模块、主运算模块、以及多个从运算模块。使用该装置可以实现人工神经网络全连接层的反向训练。对于每一层来说，首先对输入神经元梯度向量进行加权求和计算出本层的输出神经元梯度向量。该输出神经元梯度向量乘以下一层在正向运算时的激活函数的导数值可以得到下一层的输入神经元梯度向量。将输入神经元梯度向量与正向运算时的输入神经元对位相乘得到本层权值的梯度，然后可以根据所得到的本层权值的梯度来更新本层的权值。
一种用于执行连接神经网络训练装置方法

[发明专利]基于全同态加密的多方计算方法、系统及相关设备-CN202210603875.5有效
发明人：黄一珉;王湾湾;何浩;姚明 -专利权人：深圳市洞见智慧科技有限公司
申请日： 2022-05-31 - 公布日： 2022-08-26 - 主分类号： H04L9/00 文献下载
摘要：本申请公开了一种基于全同态加密的多方计算方法、系统及相关设备，方法包括：通过协助方生成全同态的公钥和私钥；各参与方根据公钥进行内积运算，得到N个第一加密内积结果和N个第二加密内积结果；数据需求方通过第一加密内积结果得到部分梯度结果；各参与方根据部分梯度结果进行全同态密文运算，得到N个第一密文梯度数据，并通过掩码处理，得到N个第二密文梯度数据；协助方利用私钥解密N个第二密文梯度数据，得到N个明文梯度数据；各参与方对明文梯度数据去掩码运算得到真实梯度数据采用本申请实施例可以提升算法运算效率。
基于同态加密多方计算方法系统相关设备

[发明专利]特征值提取方法及系统-CN201110303234.X无效
发明人：柴志雷;任小龙;高卫东;刘基宏;潘如如;梁久祯;张平;钟传杰 -专利权人：江南大学
申请日： 2011-09-26 - 公布日： 2013-04-03 - 主分类号： G06T7/00 文献下载
摘要：本发明揭露了一种特征值提取方法及系统，所述方法包括对输入图像的行和列分别进行一维卷积计算以获得各个有效点的水平和垂直梯度；分别计算各个有效点的水平梯度平方值、水平梯度与垂直梯度的乘积和垂直梯度平方值；分别累计以当前有效点为中心的预定大小窗口内的各个有效点的水平梯度平方值和、水平梯度与垂直梯度的乘积和和垂直梯度平方值和；根据所述窗口内的各个有效点的水平梯度平方值和、水平梯度与垂直梯度的乘积和和垂直梯度平方值和计算当前有效点的特征值。本发明通过可以并行运算的两次一维卷积过程运算实现了原本二维卷积运算的效果，使得能够更加快速地对输入的每一个像素点计算其所代表的窗口具有的特征值。
特征值提取方法系统

[发明专利]神经网络运算模块及方法-CN201910235038.X在审
发明人：不公告发明人 -专利权人：上海寒武纪信息科技有限公司
申请日： 2019-03-26 - 公布日： 2020-10-09 - 主分类号： G06N3/063 文献下载
摘要：一种神经网络运算模块，包括存储单元存储多层神经网络的输出神经元、权重精度和输出神经元梯度精度；控制器单元，用于获取定点化前输出神经元的绝对值的平均值Y1和定点化后输出神经元的绝对值的平均值Y2；若Y1/Y2预设阈值K，则获取多层神经网络的相邻两层输出神经元梯度精度时，根据相邻两层输出神经元梯度精度和权重精度获取误差传递精度预估值An；当An大于预设精度Ar时，增大相邻两层输出神经元梯度精度及权重精度；运算单元根据增大后精度表示相邻两层输出神经元梯度及权重，并进行后续运算。采用本发明实施例可以在满足运算需求的同时，减小了运算结果的误差和运算开销，节省了运算资源。
神经网络运算模块方法

[发明专利]神经网络运算模块及方法-CN201910235215.4在审
发明人：不公告发明人 -专利权人：上海寒武纪信息科技有限公司
申请日： 2019-03-26 - 公布日： 2020-10-09 - 主分类号： G06N3/063 文献下载
摘要：一种神经网络运算模块，包括存储单元存储多层神经网络的输出神经元、权重精度和输出神经元梯度精度；控制器单元，用于获取定点化前输出神经元的绝对值的平均值Y1和定点化后输出神经元的绝对值的平均值Y2；若Y1/Y2预设阈值K，则获取多层神经网络的相邻两层输出神经元梯度精度时，根据相邻两层输出神经元梯度精度和权重精度获取误差传递精度预估值An；当An小于预设精度Ar时，减小相邻两层输出神经元梯度精度及权重精度；运算单元根据减小后精度表示相邻两层输出神经元梯度及权重，并进行后续运算。采用本发明实施例可以在满足运算需求的同时，减小了运算结果的误差和运算开销，节省了运算资源。
神经网络运算模块方法

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 100000 条