专利名称
主分类
A 农业
B 作业;运输
C 化学;冶金
D 纺织;造纸
E 固定建筑物
F 机械工程、照明、加热
G 物理
H 电学
专利下载VIP
公布日期
2023-10-24 公布专利
2023-10-20 公布专利
2023-10-17 公布专利
2023-10-13 公布专利
2023-10-10 公布专利
2023-10-03 公布专利
2023-09-29 公布专利
2023-09-26 公布专利
2023-09-22 公布专利
2023-09-19 公布专利
更多 »
专利权人
国家电网公司
华为技术有限公司
浙江大学
中兴通讯股份有限公司
三星电子株式会社
中国石油化工股份有限公司
清华大学
鸿海精密工业股份有限公司
松下电器产业株式会社
上海交通大学
更多 »
钻瓜专利网为您找到相关结果21个,建议您升级VIP下载更多相关专利
  • [发明专利]数据通信优化方法、装置以及系统-CN202310602704.5在审
  • 于子淇;林立翔;游亮;伍子强;杜帅 - 阿里巴巴(中国)有限公司
  • 2023-05-24 - 2023-10-17 - H04L67/60
  • 本说明书实施例提供数据通信优化方法、装置以及系统,其中,该方法包括:确定数据处理请求;根据目标集合通信算法,确定待处理数据的数据处理通信量、以及对应的通信组选择阈值;根据数据处理通信量、以及通信组选择阈值,从至少两个通信组中确定目标通信组;该方法通过根据数据处理请求中携带的待处理数据的数据处理通信量、以及通信组选择阈值,从多个通信组中选择目标通信组,可以实现根据数据处理通信量的不同,根据对应的通信组选择阈值,选择其合适的目标通信组进行数据处理,使得该数据通信优化方法应用于深度学习模型的分布式训练场景中,可以极大的提高其模型训练过程中的通信性能以及模型训练效率。
  • 数据通信优化方法装置以及系统
  • [发明专利]数据处理系统、数据处理方法及电子设备-CN202210220408.4在审
  • 于子淇;林立翔;游亮;龙欣;张尉东;卓钧亮;戚余航;刘思超 - 阿里巴巴(中国)有限公司
  • 2022-03-08 - 2022-06-24 - G06F8/65
  • 本申请实施例提供一种数据处理系统、数据处理方法及电子设备。其中,数据处理系统包括:第一客户端在确定本地数据在服务端侧有版本更新时,基于本地配置信息向服务端发送版本更新请求;服务端确定目标版本数据;根据版本更新请求中包含的配置信息,确定目标版本数据对应的编译文件;将编译文件的地址信息反馈至第一客户端;第一客户端基于地址信息从服务端获取编译文件;将编译文件存入本地缓存库以完成更新。因本实施例在数据版本升级时,服务端根据客户端的配置信息动态编译生成的编译文件(如可执行文件),是为客户端设备量身定制的,没有冗余信息,文件体积小;并且本方案是以编译文件形式进行更新的,实现了轻量级的数据版本更新。
  • 数据处理系统数据处理方法电子设备
  • [发明专利]分布式训练中梯度同步方法、分布式训练系统-CN202010266817.9在审
  • 龚志刚;林立翔;游亮;龙欣 - 阿里巴巴集团控股有限公司
  • 2020-04-07 - 2021-09-21 - G06N3/08
  • 本说明书实施例提供分布式训练中梯度同步方法、分布式训练系统,其中所述分布式训练中梯度同步方法包括:将第一训练数据输入至待训练神经网络模型中进行训练;对训练时间进行监控,在所述训练时间与预设的时间点序列中的第一时间点相同的情况下,获取所述待训练神经网络模型在第一时间区间内生成的梯度集合,其中,所述第一时间区间由所述第一时间点的上一时间点与所述第一时间点确定;将所述梯度集合发送至预先配置在当前训练节点的通讯库中,其中,所述通讯库用于与分布式训练集群中的其他训练节点通讯;通过所述通讯库获取所述分布式训练集群中的其他训练节点中的梯度集合。
  • 分布式训练梯度同步方法系统
  • [发明专利]一种共享自适应度优化方法及装置-CN202110218718.8在审
  • 程文华;吕倪祺;林立翔;游亮;龙欣;于子淇;龚志刚 - 阿里巴巴集团控股有限公司
  • 2021-02-26 - 2021-08-27 - G06N3/08
  • 本申请提供了一种共享自适应度优化方法及装置。将模型中的参数划分为至少两组参数集,获取每一组参数集对应的原始梯度。根据各个组参数集对应的原始梯度对各个组参数集对应的当前学习率进行自适应调整,得到各个组参数集对应的目标学习率,至少根据各个组参数集对应的目标学习率对各个组参数集中的参数进行优化。优化同一组参数集中的参数的过程使用的目标学习率可以相同,如此可以提高同一组参数集中的参数能够收敛到更优解的可能性,进而可以尽可能地提高模型的泛化性。优化不同组的参数集的过程使用的目标学习率可以不同,进而使得各个组参数集中的参数可以快速收敛。综上,本申请可以在参数快速收敛以及参数收敛到更优解这两方面兼顾平衡。
  • 一种共享自适应优化方法装置
  • [发明专利]深度学习权重更新方法、装置-CN201910217885.3在审
  • 林立翔;龚志刚 - 阿里巴巴集团控股有限公司
  • 2019-03-21 - 2020-09-29 - G06F9/54
  • 本申请提供一种深度学习权重更新方法、装置,将权重梯度分为多个片段,并发地将每个片段的集合通信和权重更新直接流水线起来,一旦当前片段集合通信完成,立即进行该片段对应的权重更新,同时下个片段在通信链路上并行的进行着集合通信,本发明经多线程集合通信和权重更新计算流水线起来的技术以及用内存替换显存存储技术、可以有效的将权重更新计算时间隐藏在网络通信时间之内,最终完成时间约为整个通信时间,节约了整体权重更新的时间并节约显存消耗。
  • 深度学习权重更新方法装置

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top