“G06N3/04”专利分类搜索_专利查询_文献下载_出售_求购_买卖_交易

钻瓜专利网为您找到相关结果9067个，建议您升级VIP下载更多相关专利

[发明专利]一种面向智能物联系统的多元时序异常检测方法-CN202310339800.5在审
发明人：张啸;许书晴;徐伟涛;韩旭;于东晓 -专利权人：山东大学;浪潮云信息技术股份公司
申请日： 2023-04-03 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本申请属于物联网领域，具体涉及一种面向智能物联系统的多元时序异常检测方法，包括以下步骤，S1.空间编码器采用图学习策略建模序列之间的潜在图关系；S2.时间编码器应用多头自注意力机制和GAT网络捕获潜在时间序列表示；S3.重构解码器基于潜在时间序列表示，利用多头自注意力网络，实现对输入序列的重构；预测解码器基于潜在时间序列表示，利用多头注意力网络，实现对未来时间序列的多步预测；S4.利用随机梯度下降算法反向更新由空间编码器、时间编码器和重构解码器、预测解码器构成的层次变分自动编码器的参数，得到学习到时间序列正常模式的模型；S5.利用历史‑未来相结合的异常评分机制进行异常检测。其优点在于，解决多元时间序列异常检测中时间随机性和空间随机性这两大问题。
一种面向智能联系多元时序异常检测方法

[发明专利]基于跳出局部极小的改进卷积神经网络训练的方法-CN202310551209.6在审
发明人：刘波;傅可艺;袁彤彤;徐鹏 -专利权人：北京工业大学
申请日： 2023-05-16 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本发明涉及一种基于跳出局部极小的改进卷积神经网络训练的方法，用于实现最优化卷积神经网络的目标。主要包括优化得到非平凡局部极小值点θ*、构造出参数空间中θ*附近的一个点θ、再构造出与θ具有相等的训练损失的另一个点θ′、进一步优化θ′使训练损失降至比θ*的训练损失更低的程度，实现跳出局部极小，得到分类效果更好的卷积神经网络。将本发明提出的方法在CIFAR 10数据集上进行实验验证，实验结果显示本发明所提出的方法是有效的，可以在优化卷积神经网络的过程中跳出局部极小，提高在CIFAR 10数据集上的分类正确率。
基于跳出局部极小改进卷积神经网络训练方法

[发明专利]替选循环限制-CN202310558267.1在审
发明人：奥利维尔·泰马姆;哈西特·哈伊坦;拉维·纳拉亚纳斯瓦米;禹同爀 -专利权人：谷歌有限责任公司
申请日： 2018-04-27 - 公布日： 2023-08-29 - 主分类号： G06N3/044 文献下载
摘要：本发明涉及替选循环限制。描述了用于N维张量的张量元素来执行计算的方法、系统和装置。在一些实施方式中，一种方法包括对第一嵌套循环的一个或多个第一迭代中的每个迭代，执行嵌套在第一嵌套循环内的第二嵌套循环的迭代，直到达到用于第二嵌套循环的第一循环边界为止。响应于第二嵌套循环具有超过计算系统的硬件属性的值的迭代的总数，用于第一嵌套循环的一个或多个第一迭代的第二嵌套循环的迭代的数目受到第一循环边界限制。在第一嵌套循环的倒数第二迭代已经完成之后，对第一嵌套循环的最后一个迭代执行第二嵌套循环的一个或多个迭代，直到达到替选循环边界为止。
循环限制

[发明专利]一种基于参数分离和知识蒸馏的图持续学习方法-CN202310558961.3在审
发明人：吕肖庆;林鸿翔;贾瑞琪;赵堉萌 -专利权人：北京大学
申请日： 2023-05-17 - 公布日： 2023-08-29 - 主分类号： G06N3/042 文献下载
摘要：本发明属于深度学习技术领域，具体公开一种基于参数分离和知识蒸馏的图持续学习方法，该方法的输入是一张原图，由节点和边构成，Trans‑CGL首先为图中每个节点构造一个子图，然后通过Graph transformer并行地提取节点特征，此时应用参数分离和知识蒸馏来防止旧任务的特征遗忘，在经过L层Graph transformer之后，最终输出结果。Trans‑CGL由四个主要部分组成：构造子图(Construct subgraph)、参数分离(Parameter isolation)、知识蒸馏(Knowledge distillation)和模型输出(Output)。本发明主要是解决基于参数分离和知识蒸馏的图持续学习(CGL)存在的拓扑引起的灾难性遗忘问题，主要就是节点特征遗忘和拓扑特征遗忘。
一种基于参数分离知识蒸馏持续学习方法

[发明专利]一种算子优化方法、装置、存储介质及电子设备-CN202310941263.1在审
发明人：王鹏程;吕波;孙红江;陈晨;李勇;胡陈枢;曾令仿;陈光;程稳 -专利权人：之江实验室
申请日： 2023-07-28 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本说明书公开了一种算子优化方法、装置、存储介质及电子设备。在本说明书提供的算子优化方法中，获取目标神经网络模型，并确定目标神经网络模型的计算图；针对计算图中每个算子，确定包含该算子所有可行解的搜索空间；在搜索空间中选择若干可行解作为候选解，确定各候选解的评估值，并将评估值最高的作为待定解；确定目标硬件运行待定解的运行时间，并增加迭代次数；当运行时间小于当前最优时间或不存在当前最优时间时，将运行时间确定为当前最优时间，并将待定解确定为当前最优解；当迭代次数小于指定次数时，重新在该算子的搜索空间中选择指定数量个未被选择过的候选解；当迭代次数不小于指定次数时，将当前最优解确定为该算子的最优解。
一种算子优化方法装置存储介质电子设备

[发明专利]一种layernorm算子拆分量化装置及方法-CN202211729854.4有效
发明人：郝鑫;吴晗 -专利权人：珠海市欧冶半导体有限公司
申请日： 2022-12-30 - 公布日： 2023-08-29 - 主分类号： G06N3/045 文献下载
摘要：本申请公开了一种layernorm算子拆分量化装置及方法，装置包括均值计算单元、分裂单元、预设数量的并行量化单元及拼接单元，均值计算单元与分裂单元相连接，分裂单元分别与各量化单元相连接，各量化单元均与拼接单元相连接，预设数量等于输入张量所包含的数据类别的数量。本申请通过分裂单元将输入张量拆分为预设数量的子张量，然后通过各量化单元对各子张量处理，这可以对输入张量中的不同数据类别的token采用不同的量化单元进行并行处理，避免了因不同数据类别的token间的数据值分布差异大而导致部分token的数据值被过滤的问题，保证了量化后的layernorm算子的精度，进而在保证执行效率的前提下提高了嵌入设备上部署的携带有layernorm算子的网络模型的模型精度。
一种 layernorm 算子拆分量化装置方法

[发明专利]针对非对齐样本的深度神经网络模型训练方法-CN202310727671.7有效
发明人：田辉;朱鹏远;郭玉刚;张志翔 -专利权人：合肥高维数据技术有限公司
申请日： 2023-06-20 - 公布日： 2023-08-29 - 主分类号： G06N3/04 文献下载
摘要：本发明特别涉及一种针对非对齐样本的深度神经网络模型训练方法，包括如下步骤：构建数据集，数据集中包括对齐样本和非对齐样本；利用数据集对深度神经网络模型进行训练得到预训练模型；对非对齐样本的完整图及其第一特征图进行裁剪得到部分图样本；将部分图样本的部分图代入预训练模型中得到预识别的第三特征图；判断第三特征图相对于第二特征图的偏差是否小于设定阈值，若是则完成模型训练，否则对非对齐样本的第一特征图进行校准并更新数据集重新对深度神经网络模型进行训练。通过不断对非对齐数据集进行校准，使得模型和数据集同步迭代；与直接使用非对齐数据集相比，迭代训练后得到的模型准确率有明显提升。
针对对齐样本深度神经网络模型训练方法

[发明专利]一种基于深度迁移学习的气象温度、光照的预测方法-CN202110220175.3有效
发明人：毛永芳;王腾;魏铨;郭铭磊;柴毅;国祎晴 -专利权人：重庆大学
申请日： 2021-02-26 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本发明提供一种基于深度迁移学习的气象温度、光照的预测方法，具体步骤如下：获取目标区域内各个气象站点记录的历史数据，并对历史数据进行数据预处理，得到预处理数据；通过基于密度峰值的聚类算法预处理数据对气象探测点分类，并计算每一类的聚类中心点；使用每个类型的数据训练各自的空间预测神经网络模块，并根据优化后空间预测神经网络模块，对每个聚类得到的类型数据训练各自的预测模型；根据目标预测区域内有无数据样本使用不同的输入与模型结构对目标区域内的温度及光照进行预测，本发明适用于目标预测区域内有少量样本数据或零样本数据时的温度及日照的预测。
一种基于深度迁移学习气象温度光照预测方法

[发明专利]一种数据处理方法、装置及设备-CN202110602261.0有效
发明人：彭博;谭文明;李哲暘 -专利权人：杭州海康威视数字技术股份有限公司
申请日： 2021-05-31 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本申请提供一种数据处理方法、装置及设备，该方法包括：获取至少一个训练平台训练的第一深度学习模型，每一训练平台训练的第一深度学习模型包括第一模型结构、第一模型参数；将每一训练平台训练的第一深度学习模型转换为第二深度学习模型，第二深度学习模型包括第二模型结构、第二模型参数；将该第二深度学习模型转换为与硬件设备匹配的第三深度学习模型；将该第三深度学习模型发送给该硬件设备，以使该硬件设备运行该第三深度学习模型，并通过该第三深度学习模型实现数据处理。通过本申请的技术方案，可以提升跨训练平台以及跨硬件设备的部署效率，减少开发工作量，提高用户体验。
一种数据处理方法装置设备

[发明专利]神经网络型图像处理装置、外观检查装置及外观检查方法-CN201980012168.5有效
发明人：井尻善久 -专利权人：欧姆龙株式会社
申请日： 2019-02-20 - 公布日： 2023-08-29 - 主分类号： G06N3/04 文献下载
摘要：本发明提供一种神经网络型图像处理装置、外观检查装置以及外观检查方法。神经网络型图像处理装置包括：输入层，具有进行输入图像的输入的一个单元；输出层，具有进行输出图像的输出的一个单元；以及多个中间层，配置在所述输入层与所述输出层之间，且所述各中间层具有多个单元，所述输入层的单元、所述各中间层的单元及所述输出层的单元以耦合系数进行全耦合，所述各中间层的各单元为对输入至所述单元的图像实施图像处理的图像处理模块，所述神经网络型图像处理装置构成为，所述输入图像从所述输入层的单元输入，经过所述中间层的单元后，从所述输出层的单元作为所述输出图像而输出，且构成为通过利用误差反向传播法的学习而更新所述耦合系数。
神经网络图像处理装置外观检查方法

[发明专利]基于BP神经网络的危险态势分析的处理方法及处理装置-CN202010948216.6有效
发明人：王爱民;杜文持;王建群 -专利权人：北京理工大学
申请日： 2020-09-10 - 公布日： 2023-08-29 - 主分类号： G06N3/0499 文献下载
摘要：本发明提供了一种基于BP神经网络的危险态势分析的处理方法及处理装置，其中处理方法包括：根据车间的历史危险因素数据构建案例库；对案例库中的历史危险因素数据进行预处理，得到预处理后的案例数据；根据危险态势预测要求，建立神经网络模型；根据案例数据对神经网络模型进行训练，得到训练好的目标神经网络；获取车间的当前危险因素数据，并输入至目标神经网络中，得到危险态势预测结果。本发明的实施例，采用BP神经网络设计危险态势分析模型，有效地解决了非确定性危险因素与危险态势之间的非线性关系，提高了分析系统适应能力和可靠性。同时还能及时进行排查解决萌芽状态的车间风险点，降低事故率。
基于 bp 神经网络危险态势分析处理方法装置

[发明专利]一种用于ECMWF预报产品订正的深度学习NFC-Net网络模型-CN202310678856.3有效
发明人：夏景明;刘巧;谈玲 -专利权人：南京信息工程大学
申请日： 2023-06-09 - 公布日： 2023-08-29 - 主分类号： G06N3/045 文献下载
摘要：本发明公开了一种用于ECMWF预报产品订正的深度学习NFC‑Net网络模型。首先获取待订正区域内的DEM数据、FY‑4A卫星数据、ECMWF格点预报数据和ERA5再分析数据；随后构建预报订正网络NFC‑Net，该网络包括空间分辨率对齐模块、时空特征提取模块和UNet订正模块。空间分辨率对齐模块用于将FY‑4A卫星数据、DEM数据与ECMWF数据进行对齐。时空特征提取模块用于提取ERA5历史再分析数据和FY‑4A卫星数据的时空特征，UNet订正模块用于将上述多源异构数据的时空特征进行学习，输出订正结果。本方法能够融合多源异构数据的特征，对ECMWF预报产品进行有效订正。
一种用于 ecmwf 预报产品订正深度学习 nfc net 网络模型

[发明专利]卷积神经网络模型压缩方法和装置、存储介质及电子装置-CN201910251951.9有效
发明人：金坤;李峰;赵世杰;左小祥 -专利权人：腾讯科技（深圳）有限公司
申请日： 2019-03-29 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：本发明公开了一种卷积神经网络模型压缩方法和装置、存储介质及电子装置。其中，该方法包括：将卷积神经网络模型中的第一批量标准化层的参数合并到卷积神经网络模型中的第一卷积层中，生成包含有第一目标卷积层的第一目标神经网络模型，其中，卷积神经网络模型与第一目标神经网络模型对于相同的输入具有相同的输出；将第一目标神经网络模型中的第一目标卷积层中范数小于第一阈值的卷积核删除，得到第二目标神经网络模型；对第二目标神经网络模型进行压缩，得到第三目标神经网络模型。本发明解决了相关技术中神经网络模型的使用效率低、灵活性差的技术问题。
卷积神经网络模型压缩方法装置存储介质电子

[发明专利]基于柔性电缆连接的分布式AI训练拓扑-CN201980005607.X有效
发明人：朱贺飞;欧阳剑;赵志彪;龚小章;陈庆澍 -专利权人：昆仑芯（北京）科技有限公司
申请日： 2019-11-15 - 公布日： 2023-08-29 - 主分类号： G06N3/0464 文献下载
摘要：数据处理系统包括中央处理单元(CPU)(107、109)和通过总线联接到CPU(107、109)的多个加速器卡，每个加速器卡都具有多个数据处理(DP)加速器，以从CPU(107、109)接收DP任务并执行所接收的DP任务。加速器卡中的至少两个经由卡间连接彼此联接，并且DP加速器中的至少两个经由芯片间连接彼此联接。卡间连接和芯片间连接中的每一个都能够被动态激活或去激活，使得响应于从CPU(107、109)接收的请求，能够启用或禁用任一加速器卡或任一加速器卡中的任一DP加速器，以处理从CPU(107、109)接收的任一DP任务。
基于柔性电缆连接分布式 ai 训练拓扑

[发明专利]类神经电路以及运作方法-CN201980008013.4有效
发明人：林仲汉;邱青松 -专利权人：北京时代全芯存储技术股份有限公司
申请日： 2019-11-15 - 公布日： 2023-08-29 - 主分类号： G06N3/049 文献下载
摘要：一种类神经电路包含突触电路以及后神经元电路。突触电路包含相变化元件、具有至少三个端点的第一开关以及第二开关。相变化元件包含第一端以及第二端。第一开关包含第一端、二端以及控制端。第二开关包含第一端、第二端以及控制端。第一开关用以接收第一脉冲信号。第二开关耦接相变化元件以及第一开关。第二开关用以接收第二脉冲信号。后神经元电路包含电容以及输入端。后神经元电路的输入端响应于第一脉冲信号而对电容充电。后神经元电路依据电容的电压位准与电压门槛值产生激发信号。后神经元电路依据激发信号产生控制信号。控制信号控制第二开关导通，第二脉冲信号流经第二开关，以控制相变化元件的状态，进而决定类神经电路的权重。
神经电路以及运作方法