“G06N3/08”专利分类搜索_专利查询_文献下载_出售_求购_买卖_交易

钻瓜专利网为您找到相关结果4678个，建议您升级VIP下载更多相关专利

[发明专利]一种基于通道剪枝的模型压缩方法及装置-CN202310692243.5在审
发明人：范鑫;王浩璇;单奕萌;金一;陈怀安;王琪涵 -专利权人：国营芜湖机械厂;中国科学技术大学
申请日： 2023-06-09 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本申请公开了一种基于通道剪枝的模型压缩方法及装置。根据特征图(又叫通道)的结构相似性和细节丰富度，去除不符合预设条件的特征图，得到待训练剪枝模型。训练待训练教师模型，得到侧重表征学习的第一教师模型和侧重分类学习的第二教师模型，将二者进行知识融合后指导待训练剪枝模型的训练，最终用于压缩模型。通过评估特征图的结构相似性和细节丰富度来衡量通道的重要性，可以有效地捕获缺陷类别的特征，从而有助于缓解类别失衡问题。另外，融合两个教师模型的知识能兼顾剪枝模型的表征学习和分类学习，也改善了类不平衡问题。
一种基于通道剪枝模型压缩方法装置

[发明专利]计算机可读记录介质、机器学习方法和信息处理设备-CN202211533974.7在审
发明人：坂井靖文 -专利权人：富士通株式会社
申请日： 2022-11-30 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：提供了计算机可读记录介质、机器学习方法和信息处理设备。方法包括：获得神经网络的已训练模型中的层的每个元素的缩减率；当神经网络包括输出作为对张量的给定计算的结果的张量的处理时，并且当输入来自该处理之前的第一层的张量时，在第一层与该处理之间插入执行零填充的第二层，第一层包括该处理的前一层，并且包括在该前一层之前并且被快捷连接至该处理的一个或更多个层；以及用一个或更多个零矩阵对输入到第二层中的张量进行填充，每个第一层与一个第二层相关联，使得在根据缩减率缩减每个第一层的元素之后从第一层输入到该处理中的每个张量的元素的数量变成第一数量。
计算机可读记录介质机器学习方法信息处理设备

[发明专利]一种模型处理方法、电子设备及介质-CN202310514419.8在审
发明人：田雨川;陈汉亭;郭天宇;王云鹤 -专利权人：华为技术有限公司
申请日： 2023-05-08 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本申请涉及计算机技术领域，公开了一种模型处理方法、电子设备及介质，模型处理方法包括对训练得到的收敛模型进行权重剪枝得到剪枝模型后，对被剪枝权重中部分影响模型精度的重要权重进行恢复，并将恢复后的重要权重应用到剪枝模型中，以进行模型的再次训练，直至获得收敛后的模型。如此，可以使得在实现压缩模型的同时，实现保证模型的精度。
一种模型处理方法电子设备介质

[发明专利]推荐模型的训练方法、装置、设备及介质-CN202310602401.3在审
发明人：李嘉藩;杨青 -专利权人：度小满科技（北京）有限公司
申请日： 2023-05-25 - 公布日： 2023-09-05 - 主分类号： G06N3/08 文献下载
摘要：本申请公开了一种推荐模型的训练方法、装置、设备及介质，其中，方法包括：获取n类序列特征与n类序列特征的m种标签，其中，每类序列特征对应用户的一类行为信息，n、m为大于或等于2的正整数；通过初始推荐模型中的初始长序列模型，确定n类序列特征对应的n个第一隐层向量；通过初始推荐模型中的初始特征融合层对n个第一隐层向量输入进行特征交叉处理，得到目标隐层向量；通过初始推荐模型中的初始前馈层对目标隐层向量进行处理，得到目标输出结果；获取m种标签对应的融合标签；基于目标输出结果与融合标签对初始推荐模型进行训练，得到目标推荐模型。本申请各实施例提供的技术方案，可起到提高目标推荐模型的准确性的作用。
推荐模型训练方法装置设备介质

[发明专利]模型量化方法、装置、计算机设备和存储介质-CN202310659920.3在审
发明人：张振林;鞠园;袁金伟 -专利权人：中汽创智科技有限公司
申请日： 2023-06-05 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本申请涉及一种模型量化方法、装置、计算机设备和存储介质。该方法包括：根据原始网络模型中的每一原始网络层在至少两组候选量化策略下对应的量化误差，从至少两组候选量化策略中，为每一原始网络层确定目标量化策略；并根据每一原始网络层在目标量化策略下对应的量化误差，确定原始网络模型中的待量化网络层；再根据待量化网络层的目标量化策略，对原始网络模型进行量化处理，得到目标量化模型。即先对原始网络模型中的每一个原始网络层进行目标量化策略的筛选，然后对原始网络模型中的待量化网络层进行筛选，相比于基于固定比特的方式对原始网络模型中的每一原始网络层进行量化处理，提高了目标量化模型在精度和计算资源占用之间的平衡。
模型量化方法装置计算机设备存储介质

[发明专利]可逆神经网络的改进方法、电子设备和存储介质-CN202310675135.7在审
发明人：俞凯;刘贝;钱彦旻 -专利权人：思必驰科技股份有限公司
申请日： 2023-06-08 - 公布日： 2023-09-05 - 主分类号： G06N3/084 文献下载
摘要：本发明公开可逆神经网络的改进方法、电子设备和存储介质，其中，一种可逆神经网络的改进方法，其中，所述可逆神经网络包括多个残差块，所述方法包括：当所述残差块的跨度为1时，确定所述残差块为可逆操作符；对于可逆操作符，通过在向后传递中调用反函数来恢复输入激活，其中，每一层的输入激活都可以从下一层的输入激活中重建，从而在前向传递过程中，能够通过丢弃中间的输入激活来节省图形处理单元内存成本。从而本申请实施例的方法可以通过对残差块进行分类，对其中跨度为1的残差块通过在向后传递中调用反函数来恢复输入激活，从而可以不用存储中间的输入激活，进而能够极大节省图形处理单元GPU的内存成本。
可逆神经网络改进方法电子设备存储介质

[发明专利]神经网络计算图的优化方法、装置及相关设备-CN202310474315.9在审
发明人：雷宇;李原;朱建斌;付尧 -专利权人：珠海市芯动力科技有限公司
申请日： 2023-04-27 - 公布日： 2023-09-05 - 主分类号： G06N3/08 文献下载
摘要：本申请提供了一种神经网络计算图的优化方法、装置及相关设备，其中，该神经网络计算图的优化方法，包括：将待优化子图对应的程序转换为以待优化子图的输出数据表示的目标程序；待优化子图为神经网络计算图的子图；建立待优化子图的输出数据的索引与统一计算设备架构CUDA线程索引的对应关系；根据目标程序和对应关系，将待优化子图对应的程序转换为CUDA程序。本申请实施例不用根据算子的类型和算子间的拓扑关系预先定义大量的匹配模板，无需通过与匹配模板大量的样式匹配来进行子图的优化，而是将子图转换成CUDA程序，进而有利于减少定义匹配模板和样式匹配的工作量，提升神经网络计算图的优化效率。
神经网络计算优化方法装置相关设备

[发明专利]基于知识迁移的脉冲神经网络训练方法、设备及存储介质-CN202310712420.1在审
发明人：谢在鹏;高原;陈鹏;刘子昂 -专利权人：河海大学
申请日： 2023-06-15 - 公布日： 2023-09-05 - 主分类号： G06N3/084 文献下载
摘要：本发明公开了一种基于知识迁移的脉冲神经网络训练方法，包括：构建数据集；构建教师ANN网络，用误差反向传播算法进行训练；构建脉冲神经网络SNN，记为学生网络，学生网络采用LIF神经元，并为LIF神经元引入近似梯度函数；利用反向传播算法训练SNN，在训练过程中，将教师网络已习得的知识通过逐层定义的损失函数迁移到学生网络中。本发明能够加快SNN的收敛，提高SNN的推理精度，使得将SNN部署在资源受限的设备上时实现低功耗、高精度、低延迟的表现。
基于知识迁移脉冲神经网络训练方法设备存储介质

[发明专利]深度学习模型的压缩方法、训练方法、处理方法和装置-CN202310728945.4在审
发明人：于广华;王豪爽;党青青;沙燕霖;于佃海 -专利权人：北京百度网讯科技有限公司
申请日： 2023-06-19 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本公开提供了深度学习模型的压缩方法、训练方法、处理方法和装置，涉及人工智能技术领域，具体涉及深度学习、自然语言处理等技术领域。该压缩方法的具体实现方案为：根据初始模型的每个处理层的权重参数的分布信息，调整初始模型的每个处理层之前的处理层的特征参数，得到第一中间模型；利用第一中间模型对文本数据进行处理，得到每个处理层的输入激活值，其中，输入激活值由位于每个处理层之前的处理层对文本数据处理后得到；基于输入激活值，调整第一中间模型的每个处理层的权重参数，得到待量化的权重参数；以及对待量化的权重参数进行量化，得到与初始模型对应的压缩模型。
深度学习模型压缩方法训练处理装置

[发明专利]一种人工智能算法模型获取方法及装置-CN202210271417.6在审
发明人：王四海;秦城;杨锐 -专利权人：华为技术有限公司
申请日： 2022-03-18 - 公布日： 2023-09-05 - 主分类号： G06N3/08 文献下载
摘要：本申请提供一种人工智能算法模型获取方法及装置，能够为数据选择合适的人工智能算法模型，可以应用于各种通信系统。该方法包括：网络设备根据数据特征信息和M个模型特征信息，从M个人工智能算法模型中确定N个人工智能算法模型，向终端设备发送N个人工智能算法模型中的至少一个人工智能算法模型对应的配置信息。M个模型特征信息与M个人工智能算法模型一一对应，N个人工智能算法模型相较于M个人工智能算法模型中的剩余(M‑N)个人工智能算法模型更适于对数据进行处理，M个模型特征信息中的第i个模型特征信息包括第i个人工智能算法模型的特征，数据特征信息包括第一数据的特征。
一种人工智能算法模型获取方法装置

[发明专利]向并发执行的神经网络分配处理资源-CN202180084429.1在审
发明人： H·J·朴;A·高尔 -专利权人：高通股份有限公司
申请日： 2021-11-05 - 公布日： 2023-09-05 - 主分类号： G06N3/08 文献下载
摘要：实施例包括由交通工具的处理器执行的用于将处理资源分配给并发执行的神经网络的方法。这些方法可包括基于在交通工具处理系统上执行的多个神经网络中的每一者对总体交通工具安全性能的贡献来确定每一个神经网络的优先级，以及基于每一个神经网络的所确定的优先级来将计算资源分配给该多个神经网络。在一些实施例中，这些方法可动态地调整一个或多个神经网络的超参数。
并发执行神经网络分配处理资源

[发明专利]用于制造过程参数估计的模块式自动编码器模型-CN202180088237.8在审
发明人： A·奥纳斯;B·J·M·铁默斯马;N·弗赫尔;R·德克斯;D·巴比埃里;H·A·范拉霍文 -专利权人： ASML荷兰有限公司
申请日： 2021-12-20 - 公布日： 2023-09-05 - 主分类号： G06N3/08 文献下载
摘要：描述一种模块式自动编码器模型。该模块式自动编码器模型包括：输入模型，该输入模型被配置成将一个或更多个输入处理成适于与其它输入组合的第一级维度；共同模型，该共同模型被配置成：降低所组合的经处理的输入的维度以在潜在空间中产生低维度数据；并且将该潜在空间中的该低维度数据扩展成适于产生一个或更多个不同的输出的该一个或更多个输入的一个或更多个扩展版本；输出模型，该输出模型被配置成使用该一个或更多个输入的该一个或更多个扩展版本来产生该一个或更多个不同的输出，该一个或更多个不同的输出是该一个或更多个输入的近似值；以及预测模型，该预测模型被配置成基于该潜在空间中的该低维度数据来估计一个或更多个参数。
用于制造过程参数估计模块自动编码器模型

[发明专利]神经网络的剪枝方法、系统、设备、介质及图像处理方法-CN202310652433.4有效
发明人：李国庆;李拓;邹晓峰;王长红;李南君;席鑫 -专利权人：山东云海国创云计算装备产业创新中心有限公司
申请日： 2023-06-05 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本申请公开了一种神经网络的剪枝方法、系统、设备、介质及图像处理方法，解决的技术问题是传统剪枝方法中存在准确率低而网络复杂度高的问题，本申请应用于图像处理技术领域，包括：获取经过了预训练的第一卷积神经网络模型并确定出各层卷积层裁剪率；基于裁剪率确定出各层卷积层各自的分组数量；基于卷积核之间的相似度，按照相似度高的卷积核划分至同组的原则，对每一层的卷积层中的卷积核进行分组；保留各个分组中重要性最高的卷积核并对其余卷积核进行剪枝，得到剪枝之后的第二卷积神经网络模型。应用本申请的方案，可以有效地进行卷积神经网络的剪枝，有效地降低了卷积神经网络的复杂度，且保证了准确率。
神经网络剪枝方法系统设备介质图像处理

[发明专利]一种解耦合的网络结构搜索方法、设备及可读存储介质-CN202110609293.3有效
发明人：戴文睿;廖列文;李成林;邹君妮;熊红凯 -专利权人：上海交通大学烟台信息技术研究院
申请日： 2021-06-01 - 公布日： 2023-09-05 - 主分类号： G06N3/082 文献下载
摘要：本发明提供一种解耦合的网络结构搜索方法、设备及可读存储介质，包括：确定搜索空间，构建超网络；将超网络解耦成为各自独立的单一操作子网络；获取图像数据并分别作为超网络的网络参数、结构参数的训练数据；生成特征图，计算网络参数的交叉熵损失函数和变分丢弃损失函数，得到各通道丢弃概率，训练单一操作子网络至收敛并根据通道丢弃概率得到剪枝网络；将剪枝后的单一操作子网络组合成为超网络，生成特征图，计算交叉熵损失函数，更新超网络的结构参数；得到最终网络。本发明在保证较高的性能同时大幅度减少搜索时间和降低计算复杂度，保证了搜索的稳定性和实用性，可用于图像目标检测、分类等领域，提高图像处理速度。
一种耦合网络结构搜索方法设备可读存储介质

[发明专利]在集成电路中实现神经网络的系统和方法-CN201880061751.0有效
发明人： N·弗雷泽;M·伯洛特 -专利权人：赛灵思公司
申请日： 2018-08-30 - 公布日： 2023-09-05 - 主分类号： G06N3/084 文献下载
摘要：一种神经网络系统[图6,600]，其包括输入层[图6,204‑0]、一个或多个隐藏层[图6,204‑1,204‑2]和输出层[图6,204‑(N‑1)]。输入层接收包括批次序列的训练集[图6,220]并向其后一层[图6,204‑1]提供分别与该批次序列相关联的输出激活[图6,206‑0]。第一隐藏层[图7,204‑i]从其前一层[图7,204‑(i‑1)]接收与第一批次[图7,批次b]相关联的第一输入激活[图7,206‑(i‑1)]；接收与该第一批次之前的第二批次[图7,批次(b‑d)]相关联的第一输入梯度[图7,208‑(i+1)]；并基于该第一输入激活和第一输入梯度，向其后一层[图7,204‑(i+1)]提供与该第一批次[图7,批次b]相关联的第一输出激活[图7,206‑i]。输出层从其前一层接收第二输入激活[图6,206‑(N‑2)]；并基于该第二输入激活和该第一训练集，向其前一层[图6,204‑(N‑2)]提供第一输出梯度[图6,208‑(N‑1)]。
集成电路实现神经网络系统方法