“黄海晨”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果21个，建议您升级VIP下载更多相关专利

[发明专利]一种基于张量异步硬盘读写的异构空间优化器-CN202211090772.X在审
发明人：柳泓鑫;赵轩磊;李升桂;方佳瑞;卞正达;李永彬;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-07 - 公布日： 2023-06-13 - 主分类号： G06F3/06 文献下载
摘要：本发明公开了一种基于张量异步硬盘读写的异构空间优化器，涉及硬盘读写技术领域包括AdamOptimizer主流优化器、SGDOptimizer主流优化器、NVMeOptimizer基类优化器与TensorNVMe异步读写库；所述AdamOptimizer主流优化器，现有的主流优化器；所述SGDOptimizer主流优化器，现有的主流优化器；所述NVMeOptimizer基类优化器，通过调用TensorNVMe异步读写库，将优化过程中的计算和硬盘读写重叠起来；该基于张量异步硬盘读写的异构空间优化器，本异构空间优化器通过采用NVMeOptimizer基类优化器，使得NVMeOptimizer基类优化器通过调用TensorNVMe异步读写库，将优化过程中的计算和硬盘读写重叠起来，从而大大提升了运行效率，本异构空间优化器通过继承NVMeOptimizer基类优化器，只需进行简单的修改，即可兼容现有的主流优化器。
一种基于张量异步硬盘读写空间优化

[发明专利]自动激活值检查点搜索和自动张量并行搜索的融合系统-CN202211738333.5在审
发明人：刘育良;李升桂;姚博远;邵彦骏;方佳瑞;卞正达;柳泓鑫;李永彬;麦思琪;吴俊铭;陈巍文;黄海晨;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-12-31 - 公布日： 2023-05-02 - 主分类号： G06N3/10 文献下载
摘要：本发明公开了自动激活值检查点搜索和自动张量并行搜索的融合系统，涉及深度学习技术领域，包括网络线性化、元信息抽取、自动激活值检查点求解器、自动张量并行求解器、两阶段求解器，通过使用元信息抽取为自动张量并行求解器提供所需的内存开销和运算开销信息，自动张量并行求解器根据所给的内存预算和元信息进行求解，两阶段求解器将一系列张量并行策略进行网络线性化，将线性化网络传给自动激活值检查点求解器，自动激活值检查点求解器将内存开销控制在真实内存预算之下，将自动张量并行和自动激活值检查点的策略复合起来，进一步减缓深度学习训练中遇到的内存墙问题，同时两阶段求解器也能保证解决内存问题的同时兼顾模型训练的性能。
自动激活检查点搜索张量并行融合系统

[发明专利]基于元信息估计的自动激活值检查点搜索方法-CN202211551419.7在审
发明人：李升桂;刘育良;邵彦骏;姚博远;方佳瑞;卞正达;柳泓鑫;李永彬;麦思琪;吴俊铭;陈巍文;黄海晨;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-12-05 - 公布日： 2023-03-28 - 主分类号： G06N3/084 文献下载
摘要：本发明公开了基于元信息估计的自动激活值检查点搜索方法，具体涉及深度大模型优化领域，包括以下步骤：S1、初始化模型；S2、线性化模型的建立；S3、元信息抽取；S4、动态规划求解；S5、计算图优化：S6、执行，本发明通过设计通用节点特性的传播方式，解除了部分依赖，使得模型内可视为线性化分割点的节点增多，增加了线性化网络的链长，从而增加了搜索空间，同时，本发明的线性化是全自动的，不需要对模型进行改写。
基于信息估计自动激活检查点搜索方法

[发明专利]一种基于并行和张量分块的AlphaFold推理高性能实现方法-CN202211302872.4在审
发明人：程盛淦;路广阳;赵轩磊;马千里;方佳瑞;李升桂;卞正达;李永彬;柳泓鑫;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-10-24 - 公布日： 2023-02-28 - 主分类号： G16B35/20 文献下载
摘要：本发明公开了一种基于并行和张量分块的AlphaFold推理高性能实现方法，包括前处理部分和推理部分；所述前处理部分包括如下步骤：基于Ray的数据前处理并行策略；对于多条氨基酸序列的蛋白质复合物结构预测；所述推理部分包括如下步骤：优化的动态轴并行；自动张量分组；显存共享。本发明前处理部分：单条氨基酸序列的前处理速度为约原方法前处理速度的3倍；推理部分：能够更好地发挥GPU平台的性能，提高推理速度；可以有效地降低计算所需的显存，从而支持更长的输入氨基酸序列。
一种基于并行张量分块 alphafold 推理性能实现方法

[发明专利]一种基于细粒度并行假设的零冗余异构训练方法-CN202211345154.5在审
发明人： 黄海晨;柳泓鑫;方佳瑞;李升桂;卞正达;李永彬;麦思琪;刘育良;吴俊铭;陈巍文;路广阳;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-10-31 - 公布日： 2023-02-03 - 主分类号： G06F15/167 文献下载
摘要：本发明公开了一种基于细粒度并行假设的零冗余异构训练方法，涉及预训练语言模型技术领域，包括以下步骤：S1：将连续的一部分参数集中到一个块当中，在EL中使用一系列同样大小的内存块来存放这些参数；该基于细粒度并行假设的零冗余异构训练方法，通过使用对称的基于块的内存管理技术，充分利用了GPU间通信带宽与CPU‑GPU间的PCI‑E带宽，且减少了冗余的GPU间通信与CPU‑GPU间数据传输，从而大大提升了零冗余训练时的GPU通信效率，同时通过引入在GPU上预留缓存空间，提高了GPU内存与RAM之间的数据传输效率，对于DS中无法支持的新模型，EL给予了支持，并且本方法相比于传统方法拥有巨大的性能提升。
一种基于细粒度并行假设冗余训练方法

[发明专利]基于搜索的分布式张量的不同排布方式间的自动转换系统-CN202211123681.1在审
发明人：刘育良;李升桂;方佳瑞;卞正达;李永彬;柳泓鑫;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-15 - 公布日： 2022-12-16 - 主分类号： G06F3/06 文献下载
摘要：本发明公开了基于搜索的分布式张量的不同排布方式间的自动转换系统，涉及分布式张量转换技术领域，包括排布转换方案搜索器、模拟器、缓存表与执行器；所述排布转换方案搜索器，用于得到从起始序列到目标序列转换序列表；所述模拟器，用于在不真实执行的情况下，根据模型给出序列转换过程中，每个操作的开销，并累积起来；所述缓存表，用于缓存在所有搜索过的方案；该基于搜索的分布式张量的不同排布方式间的自动转换系统，通过设置有排布转换方案搜索器、模拟器、缓存表与执行器，完成高维集群下的分布式张量排布的自动转换，模拟器给出的信息，可以用来做分布式张量排布的选择或者自动并行方案的选择，缓存表可以使运行时的搜索开销大幅降低。
基于搜索分布式张量不同排布方式自动转换系统

[发明专利]一种混合词频嵌入的双重张量并行方法-CN202211181058.1在审
发明人：韩佳桐;方佳瑞;李升桂;卞正达;李永彬;柳泓鑫;麦思琪;刘育良;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-09-27 - 公布日： 2022-12-09 - 主分类号： G06F16/33 文献下载
摘要：本发明公开了一种混合词频嵌入的双重张量并行方法，具体包括以下步骤：S1、通过任务分配器先扫描一遍训练用到的数据集，统计每个查询的词id出现次数，然后利用贪心算法(minimax：使切割后嵌入表之间词频的最大差距尽量小)将嵌入表的行按词频总数均匀切割到并行的设备上，使每个设备上的词频数基本一致，本发明涉及深度学习技术领域。该混合词频嵌入的双重张量并行方法，通过嵌入表的词频分布信息，在张量并行时做到了按访问量均匀横向切割，保证训练量的均摊；同时支持嵌入袋的操作，相比于单纯的嵌入有效缩减了设备间通信的开销；在并行的每个设备上，按照词频将嵌入表进行二次切割，并进行算法压缩，有效地进一步减小了每个设备上的内存消耗。
一种混合词频嵌入双重张量并行方法

[发明专利]一种基于分布式异构计算的大规模推荐系统训练方法-CN202211032557.4在审
发明人：方佳瑞;张耿;韩佳桐;李升桂;卞正达;李永彬;柳泓鑫;刘育良;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳 -专利权人：北京潞晨科技有限公司
申请日： 2022-08-26 - 公布日： 2022-12-02 - 主分类号： G06N3/08 文献下载
摘要：本发明公开了通信技术领域的一种基于分布式异构计算的大规模推荐系统训练方法，包括如下步骤：Cache初始化；Cache换入换出算法构建；索引映射算法构建；在GPU中，利用PyTorch提供的Embedding或Embedding_bag函数进行Sparsefeature的计算，以及模型后续的Dense部分的计算，本技术方案可以充分利用GPU计算资源，计算速度增快；将按行换入换出优化成按块进行换入换出，提高了吞吐量；最后充分利用计算资源进一步扩展模型的规模，对模型进行分布式扩展，该方法具有创造性和市场推广价值。
一种基于分布式计算大规模推荐系统训练方法

[发明专利]元信息计算图生成系统-CN202211020000.9在审
发明人：刘育良;李升桂;方佳瑞;卞正达;李永彬;柳泓鑫;麦思琪;黄海晨;娄宇轩;吴俊铭;路广阳;陈巍文 -专利权人：北京潞晨科技有限公司
申请日： 2022-08-24 - 公布日： 2022-11-22 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了元信息计算图生成系统，涉及深度学习技术领域，具体为元信息计算图生成系统，其特征在于：包括元信息代理、具备计算元信息能力的追踪器、补丁操作、元信息的计算图；该元信息计算图生成系统，通过元信息代理、具备计算元信息能力的追踪器、补丁操作、元信息的计算图的组合使用，本发明的代理具有更多元信息，比如形状、类型、维度等。同时，通过劫持PyTorch中的算子计算函数，拥有像正常张量一样在模型的前向传播中流动的能力，具有高通用性，支持立即模式框架，支持对控制流追踪，计算图生成速度快，代价低，获取的计算图带有足够多的元信息(形状、类型、维度等)。
信息计算生成系统

[发明专利]一种面对AI大模型的分布式张量管理方法-CN202210823499.0在审
发明人：方佳瑞;柳泓鑫;李升桂;卞正达;李永彬;刘育良;麦思琪;黄海晨;娄宇轩 -专利权人：北京潞晨科技有限公司
申请日： 2022-07-14 - 公布日： 2022-10-18 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种面对AI大模型的分布式张量管理方法，涉及张量管理技术领域，具体为一种面对AI大模型的分布式张量管理方法，包括通过数据并行和模型并行的两种并行训练和推理方式，一方面可通过切分模型的输入张量，使得各个机器上有相同的模型但是处理不同的输入，从而减少总体的训练时间，另一方面可通过切分模型的参数张量，使得模型均匀地分布在各个机器上，从而减少每个机器的内存开销，均摊所有计算操作，将分布式张量底层的数据移动自动封装和处理，对用户提供张量粒度的分布式方案，并通过对分布式训练推理的核心数据结构张量，做有效抽象和管理，从而提供用户从单机到分布式模型训练推理的便捷转化。
一种面对 ai 模型分布式张量管理方法

[发明专利]一种细粒度多维度的大规模机器学习性能分析方法-CN202210801965.5在审
发明人：柳泓鑫;黄海晨;方佳瑞;李升桂;卞正达;李永彬;刘育良;麦思琪 -专利权人：北京潞晨科技有限公司
申请日： 2022-07-07 - 公布日： 2022-09-16 - 主分类号： G06F9/48 文献下载
摘要：本发明公开了计算机技术领域的一种细粒度多维度的大规模机器学习性能分析方法，基于Colossal‑AIProfiler和Colossal‑AIGemini内存策略管理工具一起实现，其使用的流程和PyTorchProfiler类似，Colossal‑AIProfiler被设计为一个上下文管理器，能够通过with语句很快完成开启和关闭，可以精确记录处于不同状态的Tensor信息，从而得到目前内存使用的具体情况，帮助开发者更好地优化在机器学习过程中内存的使用量和调度策略，帮助开发者将程序的带宽性能与数据移动带宽的理论上限进行比较，进行客观精准的性能分析，获得当前程序对资源的利用率，找到程序的主要优化方向，具有创造性。
一种细粒度多维大规模机器学习性能分析方法

[发明专利]并行异构平台计算MOE的训练方法-CN202210618571.6在审
发明人： 黄海晨;卞正达;李永彬;柳泓鑫;刘育良;麦思琪 -专利权人：北京潞晨科技有限公司
申请日： 2022-06-01 - 公布日： 2022-08-30 - 主分类号： G06F9/50 文献下载
摘要：本发明公开了并行异构平台计算MOE的训练方法，属于计算机技术领域，该训练方法具体步骤如下：(1)获取分布张量并进行分发；(2)对各参数信息进行阶段混合并进行数据处理；(3)对GPU参数移动进行训练优化；本发明能够减少无意义的计算与数据读取开销以及减小读入数据的载入时间，同时通过对参数进行分类，能够减少不必要的通信以及通信次数，且减少通信次数增多带来的固定的通信建立时间，能够实现在GPU资源较少、质量较低时训练MOE模型。
并行平台计算 moe 训练方法

[发明专利]一种无梁楼板下风管的新型结构及安装工艺-CN201610793963.0有效
发明人：尚春雨;杨煜;闫英超;武博;黄海晨 -专利权人：大连都市发展设计有限公司
申请日： 2016-08-31 - 公布日： 2021-11-30 - 主分类号： F24F7/04 文献下载
摘要：一种无梁楼板下风管的新型结构，包括顺序连接安装的风管模块Ⅰ、Ⅱ、Ⅲ、Ⅳ与Ⅴ。其中风管模块Ⅰ为常规风系统始端模块，风管模块Ⅴ为常规风系统末端模块，其特征在于：与风管模块Ⅰ连接的风管模块Ⅱ为纵截面呈厂字形的风管升高弯头，风管模块Ⅲ为贴板风管模块，风管模块Ⅳ为纵截面呈L形的风管降低弯头。风管模块Ⅲ根据设计还可分为贴板风管直线段模块、贴板风管弯头模块和贴板风管三通模块。本发明提供了一种提升建筑空间净高的风管安装方式，在建筑物地下室采用无梁楼板结构时，通过风管的新型安装与连接方式，相比常规法兰连接的风管系统，风管的管道底标高上升，使建筑净高得到有效的提升，节省建筑材料与施工的成本，节省人力、物力与财力。
一种楼板风管新型结构安装工艺

[实用新型]一种黑水虻分离装置-CN202120219286.8有效
发明人：陈俊峰;黄海晨 -专利权人： 黄海晨
申请日： 2021-01-26 - 公布日： 2021-10-08 - 主分类号： A01K67/033 文献下载
摘要：本实用新型公开了一种黑水虻分离装置，包括有分离平台、电加热装置、引导滑道及收集箱，分离平台与地面设有间距，分离平台上设置有分离区域，电加热装置铺设在分离区域内并使分离区域的顶端平面产生温度，引导滑道呈倾斜状且高端设置有与分离平台的边沿相接的虫体进口、底端设置有虫体出口，引导滑道沿分离平台的外周延伸围绕，收集箱与虫体出口对应设置且箱口与虫体出口相对并位于虫体出口的下方。本实用新型提供的黑水虻分离装置，结构简单，成本低，对黑水虻虫体大小无尺寸要求限定，替代人工进行黑水虻和培养物的分离操作，高效完成分离作业。
一种黑水分离装置

[发明专利]一种牦牛膝盖骨食品及其制备工艺和用途-CN202110069860.0在审
发明人：马安玉;陈清文;刘晓梅;张凯新;张有贵;黄海晨;白永琴;李玲;任桂莲;杨双梅;刘春喜 -专利权人：青海省大通种牛场
申请日： 2021-01-19 - 公布日： 2021-05-04 - 主分类号： A23L13/20 文献下载
摘要：本发明属于食品技术领域，具体涉及一种牦牛膝盖骨食品及其制备工艺和应用，所述工艺包括以下步骤：将牦牛膝盖骨原料清洗、煮沸、去血沫后捞出备用；向去血沫的牦牛膝盖骨中加水和调味料，文火间歇式炖2～3h，歇式炖的方法为每煮沸30～40min，则关火停止加热5～10min；将橙子掏空果肉，橙子壳中放入炖好的牦牛膝盖骨，加入炖牦牛膝盖骨的汤汁和蒸味料，蒸10～20min，得到牦牛膝盖骨食品。本发明采用歇式炖的方法，每煮沸30～40min，则关火停止加热5～10min，提高牦牛膝盖骨富含钙营养元素的溶出率。
一种牦牛膝盖骨食品及其制备工艺用途

1
2
下一页»
尾页
共 21 条