“G06N3/04”专利分类搜索_专利查询_文献下载_出售_求购_买卖_交易

钻瓜专利网为您找到相关结果9067个，建议您升级VIP下载更多相关专利

[发明专利]网络训练期间使用环路内数据增加的神经网络-CN201910904701.0有效
发明人：后藤拓矢;阪本正治;中野宏毅 -专利权人：国际商业机器公司
申请日： 2019-09-24 - 公布日： 2023-10-10 - 主分类号： G06N3/0464 文献下载
摘要：本公开的实施例涉及网络训练期间使用环路内数据增加的神经网络。提供了用于利用增强数据来训练神经网络的方法和系统。获得包括多个类的数据集以用于训练神经网络。在训练开始之前，可以通过对数据集中的数据执行仿射变换来增强数据集，其中增强量由数据增强变量确定。利用增强数据集来训练神经网络。确定针对每个类的类精度差和训练损失。基于针对每个类的类精度和总损失来更新数据增强变量。通过根据经更新的数据增强变量对数据集中的数据执行仿射变换来增强数据集，并且利用经增强的数据集来训练神经网络。
网络训练期间使用环路数据增加神经网络

[发明专利]一种用于计算设备的深度学习训练方法和装置-CN202010899680.0有效
发明人：张军磊;刘传建;李桂林;张星;张维;李震国 -专利权人：华为技术有限公司
申请日： 2020-08-31 - 公布日： 2023-10-10 - 主分类号： G06N3/045 文献下载
摘要：本申请提供人工智能领域中一种用于计算设备的深度学习训练方法和装置，用于得到残差连接更少的神经网络，提高神经网络的推理效率，降低神经网络运行时占用的内存量。该方法包括：获取训练集、第一神经网络和第二神经网络，第一神经网络包括残差连接少于第二神经网络包括残差连接；根据训练集对第一神经网络进行至少一次迭代训练，得到训练后的第一神经网络，其中，任意一次迭代训练包括：将第一神经网络中的至少一个第一中间层的第一输出，作为第二神经网络的至少一个网络层的输入，得到至少一个网络层的输出结果，使用第一损失函数更新第一神经网络，第一损失函数包括基于第二神经网络的至少一个网络层的输出结果所获取的约束项。
一种用于计算设备深度学习训练方法装置

[发明专利]神经网络模型的训练方法、训练系统及可读介质-CN202210289171.5在审
发明人：孙飞;秦明海;李浩然;朱囯材;高源;黄古玥;张雅文 -专利权人：阿里巴巴（中国）有限公司
申请日： 2022-03-22 - 公布日： 2023-10-03 - 主分类号： G06N3/0495 文献下载
摘要：本公开提供了一种神经网络模型的训练方法、训练系统及可读介质。该训练方法，包括：使用转置不变的稀疏权重矩阵，在前向传递中通过稀疏矩阵‑矩阵乘法模块计算神经网络模型的激活；使用从权重转置模块接收到的稀疏权重矩阵的转置，在反向传递中通过稀疏矩阵‑矩阵乘法模块计算神经网络模型的激活梯度；使用在前向传递中从稀疏矩阵‑矩阵乘法模块接收的激活，在反向传递中通过采样稠密‑稠密矩阵乘法模块计算神经网络模型的权重梯度。本公开实施例使用转置不变的稀疏权重矩阵进行非零计算来训练神经网络模型，有利地消除了稀疏矩阵‑矩阵乘法模块和采样稠密‑稠密矩阵乘法模块的冗余计算，减少了神经网络模型的训练时间和存储器消耗。
神经网络模型训练方法系统可读介质

[发明专利]一种BP神经网络住宅质量缺陷预测模型构建方法及应用-CN202310800041.8在审
发明人：白航;黎红兵;魏茂彬;唐家云;王子超;张安佶 -专利权人：四川省建筑科学研究院有限公司
申请日： 2023-06-29 - 公布日： 2023-10-03 - 主分类号： G06N3/0464 文献下载
摘要：本发明公开了一种BP神经网络住宅质量缺陷预测模型构建方法及应用，主要包括：典型质量缺陷及相关因素的数据集采集，基于数据集进行训练集、测试集、验证集划分；构建住宅质量缺陷预测训练模型，并对模型进行训练集测试，最后经验证集验证，满足误差指标后得到住宅质量缺陷预测模型；利用该预测模型直接预测得出住宅质量缺陷问题。解决了现有技术中，各项目参数需要使用设备或实验单独检测，周期长及检测条件限制的问题。
一种 bp 神经网络住宅质量缺陷预测模型构建方法应用

[发明专利]模型压缩方法、压缩模型解压缩方法、装置、电子设备-CN202310857777.9在审
发明人：何必仕 -专利权人：慧眼奇智（广州）精密技术有限公司
申请日： 2023-07-12 - 公布日： 2023-10-03 - 主分类号： G06N3/0464 文献下载
摘要：本申请提供一种模型压缩方法、压缩模型解压缩方法、装置、电子设备，所述模型压缩方法包括：获取高精度模型；所述高精度模型是指所述模型的参数采用浮点数表达；将所述模型的参数转换为频域表达的参数；对所述频域表达的参数进行量化压缩，得到低精度频域表达的参数的压缩模型。本申请提供的模型压缩方法，能够在不降低模型预测准确率的情况下，实现模型的有效压缩，获得较高的压缩率，提高计算速度，使得压缩后的模型在计算速度和存储空间方面都得到了优化。
模型压缩方法解压缩装置电子设备

[发明专利]多神经网络执行效率动态优化方法及系统-CN202310805891.7在审
发明人：李超;孙灵雨;王鑫凯;过敏意 -专利权人：上海交通大学
申请日： 2023-07-03 - 公布日： 2023-10-03 - 主分类号： G06N3/045 文献下载
摘要：一种多神经网络执行效率动态优化方法及系统，在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件，采用智能搜索算法寻找帕累托最优的调度配置，记录搜索过程中找到的所有候选配置，并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表；同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表；在在线阶段根据系统延迟需求，从最优配置查找表中选择匹配的最优调度配置，持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间，通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化，也能应对多硬件单元共享内存导致的性能干扰，解决了多个神经网络推理负载如何统一进行调度优化的问题。
神经网络执行效率动态优化方法系统

[发明专利]基于特征图的相关性和熵实现模型压缩的方法、装置、处理器及其计算机可读存储介质-CN202310823678.9在审
发明人：刘亚军;周文举;范科峰;仵大奎;杜鑫 -专利权人：上海大学
申请日： 2023-07-06 - 公布日： 2023-10-03 - 主分类号： G06N3/0495 文献下载
摘要：本发明涉及一种基于特征图的相关性和熵实现模型压缩的方法，包括以下步骤：获取图像分类数据集，并进行预处理；获取网上已公开的卷积神经网络预训练模型；使用钩子函数HOOK获取卷积神经网络架构中卷积层中的输出特征图，并保存；计算特征图的相关性；计算特征图二维熵；加权融合剪枝；恢复性能。本发明还涉及一种基于特征图的相关性和熵实现模型压缩的装置、处理器及其计算机可读存储介质。采用了本发明的基于特征图的相关性和熵实现模型压缩的方法、装置、处理器及其计算机可读存储介质，有效减少卷积神经网络的时间成本和计算资源，应用于轻量级边缘设备。特征图中的信息丰富程度反映滤波器的重要程度，信息论中的熵很好地表现特征图中的信息量。
基于特征相关性实现模型压缩方法装置处理器及其计算机可读存储介质

[发明专利]面向图像识别深度神经网络的算子融合方法及系统-CN202310524971.5在审
发明人：时洋;王家男;陈照云;邓灿;赵宵磊;文梅;王耀华;扈啸 -专利权人：中国人民解放军国防科技大学
申请日： 2023-05-10 - 公布日： 2023-10-03 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种面向图像识别深度神经网络的算子融合方法及系统，本发明包括将输入的深度神经网络模型的计算图分块为计算子图；为各个计算子图随机构造多种候选融合方案，在硬件上测试并选择最佳融合方案；候选融合方案中连续两个复杂算子的融合为对其中后一个复杂算子循环重组使两个复杂算子的外部循环统一为基于中间结果张量的维度和形状后再对外部循环直接合并实现；将各个计算子图的最佳融合方案组合得到深度神经网络模型的最佳融合执行方案。本发明能够解决图像识别深度神经网络中复杂算子不能融合的问题，可通过复杂算子的融合和整个神经网络的融合提高图像识别任务的执行效率，缓解图像识别任务在硬件部署时候的缓存资源紧张的问题。
面向图像识别深度神经网络算子融合方法系统

[发明专利]一种具有CPU硬件优化感知的神经网络设计方法-CN202310697122.X在审
发明人：赵洋;邹佳峻;程洪 -专利权人：电子科技大学
申请日： 2023-06-13 - 公布日： 2023-10-03 - 主分类号： G06N3/0464 文献下载
摘要：本发明涉及计算机技术领域，具体涉及一种具有CPU硬件优化感知的神经网络设计方法。该方法通过构建准确率预测器和具有网络硬件优化特性的延迟预测器，配合遗传算法，探寻得到具有与目标硬件更高匹配性和可行性的神经网络架构。让研究人员在设计神经网络时，对网络模型在目标硬件上的硬件特性的把控更为精准可靠，也让神经网络模型在CPU硬件上以更低推理延迟代价达到更高精度有了可能性。
一种具有 cpu 硬件优化感知神经网络设计方法

[发明专利]一种基于多属性二型模糊神经网络的总氮去除量检测方法-CN202310714351.8在审
发明人：韩红桂;孙晨暄;伍小龙;杨宏燕;乔俊飞 -专利权人：北京工业大学
申请日： 2023-06-15 - 公布日： 2023-10-03 - 主分类号： G06N3/043 文献下载
摘要：本发明提出一种基于多属性二型模糊神经网络的总氮去除量检测方法，实现污水处理过程总氮去除量的在线智能检测。由于进水流量、进水成分、天气和运行工艺的变化，污水处理过程存在多种运行工况。然而，针对难以全面建模具有多种运行工况的污水处理过程，本发明设计一种基于多属性二型模糊神经网络总氮去除量智能检测方法，通过建立区间二型模糊神经网络总氮去除量检测模型，利用多属性模糊规则表达污水处理过程变量与总氮去除量的关联关系，基于梯度下降算法校正总氮去除量检测模型参数，实现多工况下总氮去除量的准确检测。
一种基于属性模糊神经网络去除检测方法

[发明专利]图像生成器生成方法、图像生成方法、装置及电子设备-CN202210281140.5在审
发明人：吴捷 -专利权人：北京字跳网络技术有限公司
申请日： 2022-03-21 - 公布日： 2023-10-03 - 主分类号： G06N3/0464 文献下载
摘要：本公开实施例提供一种图像生成器生成方法、图像生成方法、装置及电子设备，通过获取预设的生成式对抗网络模型，针对第一生成器，循环执行以下步骤，直至第一生成器收敛为目标生成器，目标生成器用于生成目标视觉类别的图像：将第一样本数据分别输入第一生成器和第二生成器，得到第一生成器输出的第一随机图像和第二生成器输出的第二随机图像，其中，第一样本数据包括源视觉类别的无标图像；将第二随机图像输入判别器，得到第二随机图像对应的判别置信度，判别置信度表征第二随机图像归属于目标视觉类别的概率；若判别置信度大于置信度阈值，则基于第二随机图像和第一随机图像对第一生成器进行训练，提高了模型训练效果。
图像生成器生成方法装置电子设备

[发明专利]深度学习加速器及方法、芯片、电子设备、存储介质-CN202210279702.2在审
发明人：祝叶华;孙炜 -专利权人： OPPO广东移动通信有限公司
申请日： 2022-03-21 - 公布日： 2023-10-03 - 主分类号： G06N3/04 文献下载
摘要：本申请实施例公开了一种深度学习加速器及方法、芯片、电子设备、存储介质，深度学习加速器包括：数据生成模块、数据消费模块、通信模块和数据缓冲区；通信模块和数据缓冲区，分别连接于数据生成模块和数据消费模块之间；数据生成模块，用于将生成的待消费数据写入数据缓冲区，并将指示待消费数据在数据缓冲区中存储位置的指示信息提供给通信模块；通信模块，用于将指示信息提供给数据消费模块；数据消费模块，用于利用指示信息从数据缓冲区中读取待消费数据，并消费待消费数据。
深度学习加速器方法芯片电子设备存储介质

[发明专利]竞争预测神经网络的训练方法、装置及电子设备-CN202310806571.3在审
发明人：黄加勇 -专利权人：黄加勇
申请日： 2023-07-03 - 公布日： 2023-10-03 - 主分类号： G06N3/045 文献下载
摘要：本公开涉及竞争预测神经网络的训练方法、装置及电子设备。该方法包括：选择至少一个输入神经元作为被预测神经元，计算输入信号向量与各个输出神经元参数向量之间的相似度，以及输入信号向量在被预测神经元处与输出神经元参数向量之间的预测误差，并确定获胜神经元；确定每个输入神经元与被预测神经元之间的相关度；基于输入神经元与被预测神经元之间的相关度和/或每个输入神经元对应的平均误差，确定待裁剪神经元，将待裁剪神经元与输出神经元之间的连接参数进行删除；利用输入信号向量对竞争预测神经网络进行迭代训练。本公开能够有效地筛选和处理输入信号且具有预测功能，使得竞争预测神经网络具有更高的智能水平、安全性和准确性。
竞争预测神经网络训练方法装置电子设备

[发明专利]针对具有归一化或非线性的深度神经网络的半可编程和可重构协同加速器-CN202280012691.X在审
发明人： S·S·杨;S·K·莱因哈特;J·H·福沃斯;L·C·科帕卡;K·奥恰洛夫 -专利权人：微软技术许可有限责任公司
申请日： 2022-01-14 - 公布日： 2023-10-03 - 主分类号： G06N3/044 文献下载
摘要：本公开涉及一种用于使用针对固定功能数据路径的可配置堆叠架构的设备，其具有用于加速深度神经网络(DNN)的运算或层的加速器。堆叠架构可以具有固定功能数据路径，该固定功能数据路径包括一个或多个可配置微执行单元，该一个或多个可配置微执行单元执行针对DNN层运算的一系列向量、标量、归约、广播和归一化运算。固定功能数据路径可以基于DNN或运算进行定制。
针对具有归一化非线性深度神经网络可编程可重构协同加速器

[发明专利]具有短期记忆单元的注意力神经网络-CN202280013466.8在审
发明人：安德烈亚·巴尼诺;阿德里亚·普伊赫多梅内奇·巴迪亚;雅各布·查尔斯·瓦尔克;蒂莫西·安东尼·朱利安·斯科尔特斯;约瓦纳·米特罗维奇;查尔斯·布伦代尔 -专利权人：渊慧科技有限公司
申请日： 2022-02-07 - 公布日： 2023-10-03 - 主分类号： G06N3/0442 文献下载
摘要：一种用于控制与环境交互的智能体以执行任务的系统。该系统包括动作选择神经网络，其被配置为生成用于选择要由智能体执行的动作的动作选择输出。动作选择神经网络包括编码器子网络，其被配置为生成当前观察的编码表示；注意力子网络，其被配置为利用注意力机制生成注意力子网络输出；循环子网络，其被配置为生成循环子网络输出；动作选择子网络，其被配置为生成动作选择输出，该动作选择输出用于选择由智能体响应于当前观察而执行的动作。
具有短期记忆单元注意力神经网络