“卞正达”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果26个，建议您升级VIP下载更多相关专利

[发明专利]基于半动态布置的变电站高压断路器状态监测系统及方法-CN202310151302.8在审
发明人：陈昊;朱红;李国锋;张明;张锐;顾在峰;邹宇;王东;许洪华;朱斌;张灿;卞正达;陈逸涵 -专利权人：国网江苏省电力有限公司南京供电分公司;南京苏逸实业有限公司
申请日： 2023-02-22 - 公布日： 2023-06-23 - 主分类号： G01R31/327 文献下载
摘要：基于半动态布置的变电站高压断路器状态监测系统及方法，系统包括：固定安装在断路器处的断路器状态在线监测装置，移动安装在靠近断路器处的潜伏性故障监测装置；断路器状态在线监测装置采用侵入式测量方法，潜伏性故障监测装置采用非侵入式测量方法。潜伏性故障监测装置包括：单体型装置，集成型装置；单体型装置安装方式包括：摆放在端子箱处，摆放在智能IED柜中，摆放在靠近断路器的平台上；集成型装置内置于巡视机器人腹内。本发明通过差异化静态布置的断路器状态在线监测装置与动态布置的移动式潜伏性故障监测装置实现对全站断路器状态监测，提升了变电站断路器状态监测的可靠性。
基于动态布置变电站高压断路器状态监测系统方法

[发明专利]一种基于张量异步硬盘读写的异构空间优化器-CN202211090772.X在审
发明人：柳泓鑫;赵轩磊;李升桂;方佳瑞;卞正达;李永彬;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-07 - 公布日： 2023-06-13 - 主分类号： G06F3/06 文献下载
摘要：本发明公开了一种基于张量异步硬盘读写的异构空间优化器，涉及硬盘读写技术领域包括AdamOptimizer主流优化器、SGDOptimizer主流优化器、NVMeOptimizer基类优化器与TensorNVMe异步读写库；所述AdamOptimizer主流优化器，现有的主流优化器；所述SGDOptimizer主流优化器，现有的主流优化器；所述NVMeOptimizer基类优化器，通过调用TensorNVMe异步读写库，将优化过程中的计算和硬盘读写重叠起来；该基于张量异步硬盘读写的异构空间优化器，本异构空间优化器通过采用NVMeOptimizer基类优化器，使得NVMeOptimizer基类优化器通过调用TensorNVMe异步读写库，将优化过程中的计算和硬盘读写重叠起来，从而大大提升了运行效率，本异构空间优化器通过继承NVMeOptimizer基类优化器，只需进行简单的修改，即可兼容现有的主流优化器。
一种基于张量异步硬盘读写空间优化

[发明专利]自动激活值检查点搜索和自动张量并行搜索的融合系统-CN202211738333.5在审
发明人：刘育良;李升桂;姚博远;邵彦骏;方佳瑞;卞正达;柳泓鑫;李永彬;麦思琪;吴俊铭;陈巍文;黄海晨;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-12-31 - 公布日： 2023-05-02 - 主分类号： G06N3/10 文献下载
摘要：本发明公开了自动激活值检查点搜索和自动张量并行搜索的融合系统，涉及深度学习技术领域，包括网络线性化、元信息抽取、自动激活值检查点求解器、自动张量并行求解器、两阶段求解器，通过使用元信息抽取为自动张量并行求解器提供所需的内存开销和运算开销信息，自动张量并行求解器根据所给的内存预算和元信息进行求解，两阶段求解器将一系列张量并行策略进行网络线性化，将线性化网络传给自动激活值检查点求解器，自动激活值检查点求解器将内存开销控制在真实内存预算之下，将自动张量并行和自动激活值检查点的策略复合起来，进一步减缓深度学习训练中遇到的内存墙问题，同时两阶段求解器也能保证解决内存问题的同时兼顾模型训练的性能。
自动激活检查点搜索张量并行融合系统

[发明专利]基于元信息估计的自动激活值检查点搜索方法-CN202211551419.7在审
发明人：李升桂;刘育良;邵彦骏;姚博远;方佳瑞;卞正达;柳泓鑫;李永彬;麦思琪;吴俊铭;陈巍文;黄海晨;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-12-05 - 公布日： 2023-03-28 - 主分类号： G06N3/084 文献下载
摘要：本发明公开了基于元信息估计的自动激活值检查点搜索方法，具体涉及深度大模型优化领域，包括以下步骤：S1、初始化模型；S2、线性化模型的建立；S3、元信息抽取；S4、动态规划求解；S5、计算图优化：S6、执行，本发明通过设计通用节点特性的传播方式，解除了部分依赖，使得模型内可视为线性化分割点的节点增多，增加了线性化网络的链长，从而增加了搜索空间，同时，本发明的线性化是全自动的，不需要对模型进行改写。
基于信息估计自动激活检查点搜索方法

[发明专利]一种基于并行和张量分块的AlphaFold推理高性能实现方法-CN202211302872.4在审
发明人：程盛淦;路广阳;赵轩磊;马千里;方佳瑞;李升桂;卞正达;李永彬;柳泓鑫;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-10-24 - 公布日： 2023-02-28 - 主分类号： G16B35/20 文献下载
摘要：本发明公开了一种基于并行和张量分块的AlphaFold推理高性能实现方法，包括前处理部分和推理部分；所述前处理部分包括如下步骤：基于Ray的数据前处理并行策略；对于多条氨基酸序列的蛋白质复合物结构预测；所述推理部分包括如下步骤：优化的动态轴并行；自动张量分组；显存共享。本发明前处理部分：单条氨基酸序列的前处理速度为约原方法前处理速度的3倍；推理部分：能够更好地发挥GPU平台的性能，提高推理速度；可以有效地降低计算所需的显存，从而支持更长的输入氨基酸序列。
一种基于并行张量分块 alphafold 推理性能实现方法

[发明专利]一种基于细粒度并行假设的零冗余异构训练方法-CN202211345154.5在审
发明人：黄海晨;柳泓鑫;方佳瑞;李升桂;卞正达;李永彬;麦思琪;刘育良;吴俊铭;陈巍文;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-10-31 - 公布日： 2023-02-03 - 主分类号： G06F15/167 文献下载
摘要：本发明公开了一种基于细粒度并行假设的零冗余异构训练方法，涉及预训练语言模型技术领域，包括以下步骤：S1：将连续的一部分参数集中到一个块当中，在EL中使用一系列同样大小的内存块来存放这些参数；该基于细粒度并行假设的零冗余异构训练方法，通过使用对称的基于块的内存管理技术，充分利用了GPU间通信带宽与CPU‑GPU间的PCI‑E带宽，且减少了冗余的GPU间通信与CPU‑GPU间数据传输，从而大大提升了零冗余训练时的GPU通信效率，同时通过引入在GPU上预留缓存空间，提高了GPU内存与RAM之间的数据传输效率，对于DS中无法支持的新模型，EL给予了支持，并且本方法相比于传统方法拥有巨大的性能提升。
一种基于细粒度并行假设冗余训练方法

[发明专利]基于搜索的分布式张量的不同排布方式间的自动转换系统-CN202211123681.1在审
发明人：刘育良;李升桂;方佳瑞;卞正达;李永彬;柳泓鑫;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-15 - 公布日： 2022-12-16 - 主分类号： G06F3/06 文献下载
摘要：本发明公开了基于搜索的分布式张量的不同排布方式间的自动转换系统，涉及分布式张量转换技术领域，包括排布转换方案搜索器、模拟器、缓存表与执行器；所述排布转换方案搜索器，用于得到从起始序列到目标序列转换序列表；所述模拟器，用于在不真实执行的情况下，根据模型给出序列转换过程中，每个操作的开销，并累积起来；所述缓存表，用于缓存在所有搜索过的方案；该基于搜索的分布式张量的不同排布方式间的自动转换系统，通过设置有排布转换方案搜索器、模拟器、缓存表与执行器，完成高维集群下的分布式张量排布的自动转换，模拟器给出的信息，可以用来做分布式张量排布的选择或者自动并行方案的选择，缓存表可以使运行时的搜索开销大幅降低。
基于搜索分布式张量不同排布方式自动转换系统

[发明专利]一种混合词频嵌入的双重张量并行方法-CN202211181058.1在审
发明人：韩佳桐;方佳瑞;李升桂;卞正达;李永彬;柳泓鑫;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-27 - 公布日： 2022-12-09 - 主分类号： G06F16/33 文献下载
摘要：本发明公开了一种混合词频嵌入的双重张量并行方法，具体包括以下步骤：S1、通过任务分配器先扫描一遍训练用到的数据集，统计每个查询的词id出现次数，然后利用贪心算法(minimax：使切割后嵌入表之间词频的最大差距尽量小)将嵌入表的行按词频总数均匀切割到并行的设备上，使每个设备上的词频数基本一致，本发明涉及深度学习技术领域。该混合词频嵌入的双重张量并行方法，通过嵌入表的词频分布信息，在张量并行时做到了按访问量均匀横向切割，保证训练量的均摊；同时支持嵌入袋的操作，相比于单纯的嵌入有效缩减了设备间通信的开销；在并行的每个设备上，按照词频将嵌入表进行二次切割，并进行算法压缩，有效地进一步减小了每个设备上的内存消耗。
一种混合词频嵌入双重张量并行方法

[发明专利]一种基于分布式异构计算的大规模推荐系统训练方法-CN202211032557.4在审
发明人：方佳瑞;张耿;韩佳桐;李升桂;卞正达;李永彬;柳泓鑫;刘育良;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳 -专利权人：北京潞晨科技有限公司
申请日： 2022-08-26 - 公布日： 2022-12-02 - 主分类号： G06N3/08 文献下载
摘要：本发明公开了通信技术领域的一种基于分布式异构计算的大规模推荐系统训练方法，包括如下步骤：Cache初始化；Cache换入换出算法构建；索引映射算法构建；在GPU中，利用PyTorch提供的Embedding或Embedding_bag函数进行Sparsefeature的计算，以及模型后续的Dense部分的计算，本技术方案可以充分利用GPU计算资源，计算速度增快；将按行换入换出优化成按块进行换入换出，提高了吞吐量；最后充分利用计算资源进一步扩展模型的规模，对模型进行分布式扩展，该方法具有创造性和市场推广价值。
一种基于分布式计算大规模推荐系统训练方法

[发明专利]元信息计算图生成系统-CN202211020000.9在审
发明人：刘育良;李升桂;方佳瑞;卞正达;李永彬;柳泓鑫;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-08-24 - 公布日： 2022-11-22 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了元信息计算图生成系统，涉及深度学习技术领域，具体为元信息计算图生成系统，其特征在于：包括元信息代理、具备计算元信息能力的追踪器、补丁操作、元信息的计算图；该元信息计算图生成系统，通过元信息代理、具备计算元信息能力的追踪器、补丁操作、元信息的计算图的组合使用，本发明的代理具有更多元信息，比如形状、类型、维度等。同时，通过劫持PyTorch中的算子计算函数，拥有像正常张量一样在模型的前向传播中流动的能力，具有高通用性，支持立即模式框架，支持对控制流追踪，计算图生成速度快，代价低，获取的计算图带有足够多的元信息(形状、类型、维度等)。
信息计算生成系统

[发明专利]一种面对AI大模型的分布式张量管理方法-CN202210823499.0在审
发明人：方佳瑞;柳泓鑫;李升桂;卞正达;李永彬;刘育良;麦思琪;黄海晨;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-07-14 - 公布日： 2022-10-18 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种面对AI大模型的分布式张量管理方法，涉及张量管理技术领域，具体为一种面对AI大模型的分布式张量管理方法，包括通过数据并行和模型并行的两种并行训练和推理方式，一方面可通过切分模型的输入张量，使得各个机器上有相同的模型但是处理不同的输入，从而减少总体的训练时间，另一方面可通过切分模型的参数张量，使得模型均匀地分布在各个机器上，从而减少每个机器的内存开销，均摊所有计算操作，将分布式张量底层的数据移动自动封装和处理，对用户提供张量粒度的分布式方案，并通过对分布式训练推理的核心数据结构张量，做有效抽象和管理，从而提供用户从单机到分布式模型训练推理的便捷转化。
一种面对 ai 模型分布式张量管理方法

[发明专利]一种细粒度多维度的大规模机器学习性能分析方法-CN202210801965.5在审
发明人：柳泓鑫;黄海晨;方佳瑞;李升桂;卞正达;李永彬;刘育良;麦思琪 -专利权人：北京潞晨科技有限公司
申请日： 2022-07-07 - 公布日： 2022-09-16 - 主分类号： G06F9/48 文献下载
摘要：本发明公开了计算机技术领域的一种细粒度多维度的大规模机器学习性能分析方法，基于Colossal‑AIProfiler和Colossal‑AIGemini内存策略管理工具一起实现，其使用的流程和PyTorchProfiler类似，Colossal‑AIProfiler被设计为一个上下文管理器，能够通过with语句很快完成开启和关闭，可以精确记录处于不同状态的Tensor信息，从而得到目前内存使用的具体情况，帮助开发者更好地优化在机器学习过程中内存的使用量和调度策略，帮助开发者将程序的带宽性能与数据移动带宽的理论上限进行比较，进行客观精准的性能分析，获得当前程序对资源的利用率，找到程序的主要优化方向，具有创造性。
一种细粒度多维大规模机器学习性能分析方法

[发明专利]并行异构平台计算MOE的训练方法-CN202210618571.6在审
发明人：黄海晨;卞正达;李永彬;柳泓鑫;刘育良;麦思琪 -专利权人：北京潞晨科技有限公司
申请日： 2022-06-01 - 公布日： 2022-08-30 - 主分类号： G06F9/50 文献下载
摘要：本发明公开了并行异构平台计算MOE的训练方法，属于计算机技术领域，该训练方法具体步骤如下：(1)获取分布张量并进行分发；(2)对各参数信息进行阶段混合并进行数据处理；(3)对GPU参数移动进行训练优化；本发明能够减少无意义的计算与数据读取开销以及减小读入数据的载入时间，同时通过对参数进行分类，能够减少不必要的通信以及通信次数，且减少通信次数增多带来的固定的通信建立时间，能够实现在GPU资源较少、质量较低时训练MOE模型。
并行平台计算 moe 训练方法

[发明专利]针对大规模分布式机器学习的动态调度方法-CN202210692287.3在审
发明人： 卞正达;陈巍文;李永彬;柳泓鑫;刘育良;麦思琪 -专利权人：北京潞晨科技有限公司
申请日： 2022-06-17 - 公布日： 2022-08-16 - 主分类号： G06F9/48 文献下载
摘要：本发明公开了针对大规模分布式机器学习的动态调度方法，具体涉及计算资源管理领域，其包括计算节点分配、任务调度和任务迁移分配；所述计算节点分配是在初始化集群时，在一个计算节点启动远程过程调用服务作为调度器，其他的所有节点通过远程过程调用通知调度器将本节点加入调度器进行管理。本发明在任务调度时如发现资源不能满足将要调度任务，可以将正在运行的任务进行迁移，减少正在运行的任务使用的资源，腾出计算资源交给调度的任务进行使用，实现了分布式的动态调度，增加了调度效率，本发明使用两层任务调度策略，减少任务调度的中心负载，利用任务的迁移，提高了资源利用率，减少了任务等待的时间，增加调度效率。
针对大规模分布式机器学习动态调度方法

[发明专利]基于多种通信模式的深度学习大模型推理部署方法-CN202210502345.1在审
发明人：杜江溯;方佳瑞;卞正达;李永彬 -专利权人：北京潞晨科技有限公司
申请日： 2022-05-09 - 公布日： 2022-07-29 - 主分类号： G06F9/54 文献下载
摘要：本发明公开了基于多种通信模式的深度学习大模型推理部署方法，具体涉及程序模型领域，包括以下步骤：S1、对大模型进行模型并行与流水线并行分割；S2、进程运行，其中一个为主进程，除了主进程外的其他进程中，仅有通信初始化逻辑；S3、初始化所有通信；S4、主进程通过远程过程调用在所有进程上对相应模型分块进行实例化；S5、当一个推断请求到来时，主进程通过远程过程调用通知所有进程相应的信息，被调用的进程将执行信息压入自己的消息队列，后启动推理过程，本发明能够统一程序入口，实现非阻塞的流水线推理，在行为上，可将分布式推理封装成单设备推理具有相同行为，易于对分布式推理进行管理。
基于多种通信模式深度学习模型推理部署方法

1
2
下一页»
尾页
共 26 条