“并行梯度”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果139101个，建议您升级VIP下载更多相关专利

[发明专利]一种基于改进型随机并行梯度下降算法的光纤耦合方法-CN201910144363.5在审
发明人：胡钦涛;毛耀;周国忠;乔琦;聂康;周翕;李志俊;张超;段倩文;何秋农 -专利权人：中国科学院光电技术研究所
申请日： 2019-02-27 - 公布日： 2019-05-21 - 主分类号： G02B6/26 文献下载
摘要：本发明提供了一种基于改进型随机并行梯度下降算法的光纤耦合方法，旨在解决传统光纤耦合使用并行梯度下降算法收敛速度过慢和稳定性差的问题。该方法首先对光纤耦合的控制量同时施加随机扰动{δu_i}，然后计算施加扰动后的目标函数光功率J改变量，进而得到目标函数的近似梯度grad_l⁽ⁿ⁾＝δJδu_l⁽ⁿ⁾，通过计算近似梯度的一阶矩和二阶矩，得到解决随机并行梯度下降算法的自适应增益，以替代随机并行梯度算法的固定增益，用来迭代更新控制量，最终达到使并行梯度下降算法跳出局部
随机并行梯度下降算法并行梯度光纤耦合目标函数下降算法改进型控制量收敛近似施加算法稳定性传统光纤迭代更新固定增益随机扰动扰动耦合二阶矩改变量光功率一阶矩自适应算法跳出替代

[发明专利]求解条件非线性最优扰动的并行梯度定义数据处理方法-CN201910406606.8在审
发明人：穆斌;任菊慧;袁时金 -专利权人：同济大学
申请日： 2019-05-16 - 公布日： 2019-10-01 - 主分类号： G06K9/62 文献下载
摘要：本发明涉及一种求解条件非线性最优扰动的并行梯度定义数据处理方法，属于计算机和大气海洋学科交叉领域，可用于大气海洋领域的数值天气和气候现象的可预报性研究。本发明的求解CNOP并行梯度定义方法是使用梯度定义方法代替伴随模式求解目标函数关于优化变量的梯度信息，并通过计算机领域的MPI并行技术将梯度信息的计算过程并行优化，然后使用基于梯度信息的约束优化算法——SPG2梯度投影算法优化求解得到CNOP。
并行梯度梯度信息求解求解条件数据处理扰动梯度投影算法计算机领域并行技术并行优化海洋领域计算过程目标函数气候现象学科交叉优化变量优化求解优化算法预报性可用计算机海洋天气研究

[发明专利]基于图形处理单元的并行逻辑回归方法及系统-CN201610619782.6在审
发明人：叶允明;董学辉;王岢;徐晓飞 -专利权人：哈尔滨工业大学深圳研究生院
申请日： 2016-07-30 - 公布日： 2016-12-21 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种基于图形处理单元的并行逻辑回归方法及系统，该基于图形处理单元的并行逻辑回归方法包括如下步骤：模型梯度计算步骤：针对逻辑回归使用最速梯度下降法进行训练，使用图形处理单元并行计算模型的梯度；模型参数更新步骤：在图形处理单元上使用梯度方向并行更新逻辑回归模型中每个特征的参数。本发明的有益效果是：本发明的基于图形处理单元的并行逻辑回归方法及系统，提高了逻辑回归训练中数据计算速度。
基于图形处理单元并行逻辑回归方法系统

[发明专利]计算系统、模型训练方法及存储介质-CN202211604264.9在审
发明人：刘波;林立翔;于子淇 -专利权人：阿里云计算有限公司
申请日： 2022-12-13 - 公布日： 2023-04-04 - 主分类号： G06N3/063 文献下载
摘要：在本申请实施例中，针对分布式训练场景中的无P2P直连的多个并行处理单元，通过CPU将多个并行处理单元在每次迭代过程产生的梯度数据，复制到内存；CPU对多个并行处理单元的梯度数据进行全规约操作之后，将全规约结果写回到多个并行处理单元，实现了多个并行处理单元之间的梯度数据同步，有助于提高各并行处理单元的本地神经网络模型的收敛速度。
计算系统模型训练方法存储介质

[发明专利]一种并行的帧内模式选择系统和方法-CN202011629844.4有效
发明人：向国庆;刘凯阳;文湘鄂;范晓东;宋磊 -专利权人：北京博雅慧视智能技术研究院有限公司
申请日： 2020-12-30 - 公布日： 2023-01-03 - 主分类号： H04N19/109 文献下载
摘要：本申请公开了一种并行的帧内模式选择系统和方法，包括：存储模块将像素数据划分成四种不同尺寸的预测单元输入至第一并行模块和第二并行模块，将梯度发送至第一并行模块；第一并行模块包括：梯度计算单元和多个PU计算单元；梯度计算单元用于计算不同尺寸的预测单元的梯度发送至存储模块；多个PU计算单元均用于根据梯度确定三种尺寸的预测单元对应的一种最优帧内预测模式发送至比较输出模块；第二并行模块根据粗略模式决策、预测模式比特数和模式决策确定各尺寸的预测单元的最优帧内预测模式使用并行方式加快计算速度；根据预测模式比特数计算最优帧内模式降低数据依赖性。
一种并行模式选择系统方法

[发明专利]一种异构系统的并行逻辑回归方法与系统-CN201510945415.0在审
发明人：王娅娟;张广勇;吴韶华;卢晓伟;张清 -专利权人：浪潮（北京）电子信息产业有限公司
申请日： 2015-12-16 - 公布日： 2016-05-04 - 主分类号： G06F17/16 文献下载
摘要：本发明公开了一种异构系统的并行逻辑回归方法与系统，将逻辑回归模型的目标函数的梯度计算通过并行化的方式计算得到，将计算梯度使用的样本的特征向量构成样本矩阵，分类标签构成标签向量，将样本矩阵、标签向量和特征权重向量分别进行划分，划分后分配到批量的计算节点上分别计算再将结果并归得到大量样本的梯度值，从而根据并行计算得到的梯度确定目标特征权重向量，完成LR问题的求解，可以利用批量的计算节点高效地进行大规模样本的LR问题的并行求解
一种系统并行逻辑回归方法

[发明专利]基于联邦学习的模型构建方法、装置、设备及介质-CN202310954224.5在审
发明人：孙善宝;罗清彩;韩涛;李彬;贾荫鹏 -专利权人：山东浪潮科学研究院有限公司
申请日： 2023-07-31 - 公布日： 2023-10-27 - 主分类号： G06N20/00 文献下载
摘要：本申请公开了一种基于联邦学习的模型构建方法、装置、设备及介质，涉及联邦学习技术领域，应用于云数据中心聚合节点，包括：获取参与方对目标梯度加密得到的加密梯度，将加密梯度存放参数队列；目标梯度是参与方对当前模型训练得到的；以流水线并行模式依次从参数队列选取不高于目标数量个加密梯度进行梯度聚合得到聚合梯度，可信执行环境中解密聚合梯度得到解密梯度，利用解密梯度对当前模型参数更新，流水线并行模式结束后得到若干更新后模型；对所有更新后模型参数聚合得到聚合模型，将聚合模型作为当前模型发送参与方，跳转至获取加密梯度步骤，直至最新模型收敛。以流水线并行模式处理聚合解密和更新过程，节省时间，提高了模型训练效率。
基于联邦学习模型构建方法装置设备介质

[发明专利]一种基于混合并行的深度卷积神经网络并行训练方法-CN202210264342.9在审
发明人：刘斌;胡琪琳;刘荣达;张海曦;袁爱红 -专利权人：西北农林科技大学
申请日： 2022-03-17 - 公布日： 2022-11-04 - 主分类号： G06N3/08 文献下载
摘要：本发明提出了一种基于混合并行的深度卷积神经网络并行训练方法，用于快速训练具有大数据集的大模型。该方法包含组内并行和组间并行。对于组内并行性，首先使用自动模型划分方法将模型分割为多个分区，并将多个分区分别放置在不同的GPU上。然后，将划分后的小批量数据一个接一个地连续发送到不同的GPU上，并且以流水线并行方式训练多个分区。组间并行在每个分组上复制模型副本，独立的计算梯度，然后在组间分区上将这些梯度的汇总更新，以达到最大化计算与通信重叠，从而减少梯度同步时间。实验结果表明，与传统数据并行和最先进的并行训练torchgpipe方法相比，本发明提出的方法加速性能得到了明显提升。
一种基于混合并行深度卷积神经网络训练方法

[发明专利]抑制目标函数测量噪声的随机并行梯度下降光纤耦合方法-CN202211447156.5在审
发明人：亓波;彭锦锦;毛耀 -专利权人：中国科学院光电技术研究所
申请日： 2022-11-18 - 公布日： 2023-03-21 - 主分类号： G02B6/42 文献下载
摘要：本发明提出一种抑制目标函数测量噪声的随机并行梯度下降光纤耦合方法，称作卡尔曼随机并行梯度下降算法(Kalmanstochasticparallelgradientdescent)(KSPGD)，用于当存在光电探测噪声时提高空间激光束光纤耦合效率传统随机并行梯度下降(Stochasticparallelgradient descent)(SPGD)算法通过实时测量目标函数值估计迭代点梯度，进而按梯度下降的方式更新迭代点。因此当目标函数测量存在较大噪声时，迭代点梯度估计值会振荡，因而影响算法的收敛性能。针对这一问题本发明提出的KSPGD算法利用目标函数模型信息，通过卡尔曼滤波算法得到迭代点梯度的最优加权估计，提高梯度估计值的准确性，进而抑制测量噪声对算法收敛性能的影响。
抑制目标函数测量噪声随机并行梯度下降光纤耦合方法

[发明专利]基于随机并行梯度下降算法的无波前探测器自适应光学系统-CN200810105924.2无效
发明人：刘家国;俞信;胡新奇;赵磊;张晓芳;李林 -专利权人：北京理工大学
申请日： 2008-05-07 - 公布日： 2008-09-17 - 主分类号： G02B26/06 文献下载
摘要：本发明涉及基于随机并行梯度下降算法的无波前探测器自适应光学系统，由成像传感器、波前校正器及其驱动电路、随机并行梯度下降算法等组成。系统工作时，由成像传感器实时探测由畸变波前产生的模糊像斑或图像，通过随机并行梯度下降算法得到使像斑或图像清晰的波前校正器对应的控制电压，并通过驱动电路施加到波前校正器上，使波前校正器产生去除波前畸变的补偿量基于随机并行梯度下降算法的自适应光学系统无需波前探测器，也不需要测量波前校正器的影响函数，具有结构简单，体积小，重量轻，光能利用率高等优点。
基于随机并行梯度下降算法无波前探测器自适应光学系统

[发明专利]4K医疗影像处理方法-CN202210297689.3有效
发明人：于腾波;马金龙;王德勇;赵海波;陈进利;卢罗宗;时春峰 -专利权人：青岛大学附属医院
申请日： 2022-03-25 - 公布日： 2022-07-12 - 主分类号： G06T7/11 文献下载
摘要：本发明公开了一种4K医疗影像处理方法，包括：获取预设类型的医疗影像帧；一次分割步骤，将医疗影像帧分割成若干个子图像；对子图像并行梯度计算，得到各子图像的梯度矩阵；将所有子图像的梯度矩阵按照子图像在医疗影像帧中的位置组合成总梯度矩阵；二次分割步骤，对总梯度矩阵进行梯度特征分析，并根据分析结果将医疗影像帧分割成若干个区域；对各区域并行进行滤波降噪处理，得到处理图像。本发明的4K医疗影像处理方法，通过并行计算的方式，提高计算效率。尤其对于超高清的医疗影像帧的处理，保证处理速度。还可以在滤波时防止将边缘信息滤掉，能够将更多医疗影像帧的细节特征进行保留。
医疗影像处理方法

[发明专利]改进深度学习模型分布式数据并行训练效率的方法和系统-CN202211656348.7在审
发明人：唐卓;宋莹洁;李肯立;肖雄;纵瑞星;阳王东;周旭;刘楚波 -专利权人：湖南大学
申请日： 2022-12-22 - 公布日： 2023-03-28 - 主分类号： G06F18/214 文献下载
摘要：本发明公开了一种改进深度学习模型分布式数据并行训练效率的方法，首先，在预训练阶段，判断深度学习模型的所有层中哪些相邻层一起执行梯度通信能够使迭代时间最短，以得到梯度合并策略；其次，在正式训练的参数同步阶段，所有节点按照梯度合并策略执行分组式的梯度通信。本发明能够解决现有基于通信计算重叠和梯度合并的分布式深度学习分布式数据并行训练中存在的训练效率低的问题，使得每次迭代训练的用时更短，分布式深度学习更加高效。
改进深度学习模型分布式数据并行训练效率方法系统

[发明专利]非标量数据的大数据集的约简和广播操作的并行处理-CN202011112250.6在审
发明人：伊恩·莫里·麦克拉伦;诺曼·保罗·约皮;赵翔;格雷戈里·米歇尔·索尔森;比亚克·哈默肖特·鲁纳 -专利权人：谷歌有限责任公司
申请日： 2018-02-22 - 公布日： 2021-01-29 - 主分类号： G06N20/00 文献下载
摘要：本申请涉及非标量数据的大数据集的约简和广播操作的并行处理的方法、系统和装置，包括编码在存储介质上的指令，用于执行梯度向量和类似结构化数据的约简，所述梯度向量和类似结构化数据例如在以由节点之间的至少两个维度上的连接定义的网格或环面拓扑组织的节点上并行生成所述方法提供了拓扑中的节点之间的并行计算和通信。
标量数据广播操作并行处理

[发明专利]非标量数据的大数据集的约简和广播操作的并行处理-CN201810153965.2有效
发明人：伊恩·莫里·麦克拉伦;诺曼·保罗·约皮;赵翔;格雷戈里·米歇尔·索尔森;比亚克·哈默肖特·鲁纳 -专利权人：谷歌有限责任公司
申请日： 2018-02-22 - 公布日： 2020-11-06 - 主分类号： G06N20/00 文献下载
摘要：本申请涉及非标量数据的大数据集的约简和广播操作的并行处理的方法、系统和装置，包括编码在存储介质上的指令，用于执行梯度向量和类似结构化数据的约简，所述梯度向量和类似结构化数据例如在以由节点之间的至少两个维度上的连接定义的网格或环面拓扑组织的节点上并行生成所述方法提供了拓扑中的节点之间的并行计算和通信。
标量数据广播操作并行处理

[发明专利]基于数据流的卷积神经网络权重梯度优化方法-CN202011532343.4有效
发明人：刘强;孟浩 -专利权人：天津大学
申请日： 2020-12-22 - 公布日： 2023-04-07 - 主分类号： G06N3/082 文献下载
摘要：本发明公开了一种基于数据流的卷积神经网络权重梯度优化方法，为卷积神经网络权重梯度优化提供一种可配置的数据流架构设计，使其可以支持权重梯度计算中的不同尺寸的卷积运算，实现并行度是串行输入的K×K(卷积核大小)倍，提升整个卷积神经网络训练的性能，解决了权重梯度计算中存在的不同尺寸卷积运算难以实现的问题。与现有技术相比，本发明1)加速效果明显：对于权重梯度计算来说，其并行度较原有的串行方案提升了K×K的并行度，显著地降低数据输入的传输时间，从而达到了加速整个网络训练的目的，并且较通用矩阵乘的方案可以减少
基于数据流卷积神经网络权重梯度优化方法

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 100000 条