“G06N3/08”专利分类搜索_专利查询_文献下载_出售_求购_买卖_交易

钻瓜专利网为您找到相关结果4678个，建议您升级VIP下载更多相关专利

[发明专利]先剪枝再蒸馏的轻量化网络构建方法、系统、介质及终端-CN202310660179.2在审
发明人：黄磊;丁卓越;张成;叶润;闫斌;周小佳 -专利权人：电子科技大学长三角研究院（湖州）
申请日： 2023-06-05 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本发明属于轻量化网络设计技术领域，公开了一种先剪枝再蒸馏的轻量化网络构建方法、系统、介质及终端，根据归一化特征图与输出特征图确定批标准化层的通道缩放因子；对所述批标准化层的通道缩放因子进行稀疏化处理，基于稀疏化后的通道缩放因子与预设的全局阈值之间的关系进行CNN模型的通道剪枝处理；分别训练剪枝后的CNN模型与剪枝前的CNN模型进行知识蒸馏得到轻量化网络。本发明不仅能够快速实现CNN模型的轻量化设计，还进一步提高了轻量化网络的学习能力和泛化能力。因此，具有非常好的可扩展性和灵活的可移植性，能够满足资源受限的嵌入式设备的部署需要。
剪枝蒸馏量化网络构建方法系统介质终端

[发明专利]基于控矿要素制约的机器学习化探数据处理方法及系统-CN202310790251.3在审
发明人：阴江宁 -专利权人：中国地质科学院矿产资源研究所
申请日： 2023-06-30 - 公布日： 2023-09-19 - 主分类号： G06N3/08 文献下载
摘要：本发明公开了一种基于控矿要素制约的机器学习化探数据处理方法及系统，涉及化探异常数据检测领域，方法包括：将研究区域的化探原始数据输入至地球化学异常识别模型中，得到化探原始数据对应的重构误差，并根据重构误差确定研究区域的多元地球化学异常；地球化学异常识别模型包括地质约束变分自动编码器网络和重构误差计算模块；其中，该网络的输入数据为化探原始数据，输出数据为重构后的化探数据，损失函数为将基于地质约束的损失函数以正则化项添加到原始变分自动编码器网络的损失函数后得到损失函数。本发明实现了带知识约束的机器学习模型的构建及提取地球化学异常识别的有效性和精确性。
基于要素制约机器学习数据处理方法系统

[发明专利]一种基于样本重放和知识蒸馏的终身学习方法-CN202310465958.7在审
发明人：刘朋杰;刘洪宇;王浩枫 -专利权人：北京计算机技术及应用研究所
申请日： 2023-04-27 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本发明涉及一种基于样本重放和知识蒸馏的终身学习方法，属于人工智能领域。本发明中，任务t代表将要处理的任务数据集，缓冲区M存放了过去任务的部分数据集以及旧模型的概率输出信息，当前任务的样本通过蓄水池抽样算法选择性地加入到缓冲区M中；在训练时，选择一种深度学习模型F，模型F在任务t上训练损失记为Loss1，模型F在缓冲区M上的损失记为Loss2，总损失为Loss＝Loss1+α*Loss2；判断是否达到训练总轮数epochs，如果达到则导出训练好的模型文件，否则反向传播更新权重并再次计算Loss。本发明是一个通用的终身学习训练策略，适用于任何分类任务的深度学习模型，可以缓解神经网络灾难性遗忘问题，使深度学习模型具备持续学习的能力。
一种基于样本重放知识蒸馏终身学习方法

[发明专利]基于客户选择和权重分配的联邦学习方法、系统及介质-CN202310236329.7在审
发明人：孙国辉;李星毅 -专利权人：江苏大学
申请日： 2023-03-13 - 公布日： 2023-09-19 - 主分类号： G06N3/08 文献下载
摘要：本发明提供了基于客户选择和权重分配的联邦学习、系统及介质，该方法包括以下步骤：根据客户端实时正确率对客户端进行分层；对每一层的选取概率进行调整，在新的概率分布下倾向于选取表现差的层；对层内每一个客户的选取概率进行调整；选取用户训练并上传模型参数；使用注意力机制对模型权重进行调整；进行全局模型参数聚合。本发明在处理Non‑IID数据时，控制全局模型的收敛方向，并且在不违背最终模型公平性的前提下选择对模型收敛有利的用户，以及在控制客户端计算成本的条件下提高模型的收敛速度，解决客户端数据异构型较强的情况下，随机选择算法导致模型收敛慢和收敛方向不可控的问题。
基于客户选择权重分配联邦学习方法系统介质

[发明专利]基于ReRAM的深度神经网络加速器剪枝方法及系统-CN202310762658.5在审
发明人：申兆岩;姜锡坤;魏倩;谢涛涛;陈孝委;于东晓;贾智平 -专利权人：山东大学
申请日： 2023-06-26 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本发明公开了一种基于ReRAM的深度神经网络加速器剪枝方法及系统，涉及深度神经网络加速器设计技术领域。该方法包括以下步骤：获取当前卷积层的激活值矩阵，以行列做为剪枝粒度设置标志位和阈值；根据标志位统计激活值的稀疏度，根据稀疏度进行排序；根据给定阈值标定敏感激活值行列与非敏感激活值行列，对非敏感激活值行列进行剪枝；利用激活值高位与权重进行卷积，得到高位运算结果，并根据高位运算结果对下一层非敏感激活值行列进行剪枝。本发明利用卷积神经网络激活值的稀疏性设计剪枝策略，适配ReRAM Crossbar结构，提升系统运行并行性的同时提升系统运算速度并降低系统功耗。
基于 reram 深度神经网络加速器剪枝方法系统

[发明专利]设备故障诊断方法、装置、存储介质及电子设备-CN202310586692.1在审
发明人：何潇;韩鹏宇;刘泽夷 -专利权人：清华大学
申请日： 2023-05-23 - 公布日： 2023-09-19 - 主分类号： G06N3/0895 文献下载
摘要：本发明提供了一种设备故障诊断方法、装置、存储介质及电子设备，涉及故障智能诊断技术领域，所述方法包括：获取当前时刻的设备运行数据作为当前样本集；基于所述当前样本集，对预先训练的故障诊断模型进行在线训练，获得更新后的故障诊断模型；其中，所述故障诊断模型为神经网络模型；针对所述当前样本集中的每一个样本，将该样本输入至所述更新后的故障诊断模型，以使所述更新后的故障诊断模型输出与该样本对应的故障诊断结果。本发明提供的技术方案，能够更加准确地对设备进行实时故障诊断。
设备故障诊断方法装置存储介质电子设备

[发明专利]一种模型压缩方法、系统及存储介质-CN202310716586.0在审
发明人：冯珺;赵帅;潘司晨;彭梁英;毛冬;王红凯;柯公武 -专利权人：国网浙江省电力有限公司信息通信分公司;国网浙江省电力有限公司双创中心
申请日： 2023-06-15 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本申请公开一种模型压缩方法、系统及存储介质，涉及模型压缩技术领域，能够提高模型压缩效率。具体方案包括：服务器接收客户端发送的可执行文件，可执行文件中包括：接口文件、调用文件、待压缩模型和待压缩模型的运行环境程序；接口文件用于获取训练数据集、验证数据集、损失函数和优化器；调用文件用于调用目标压缩程序；服务器确定待压缩模型的初始模型精度；服务器利用调用文件获取目标压缩程序，并利用目标压缩程序、损失函数和优化器对待压缩程序进行压缩，得到压缩模型；服务器确定压缩模型的压缩模型精度，若初始模型精度和压缩模型精度的精度差的绝对值小于预设阈值，则得到待压缩模型的目标压缩模型，并将目标压缩模型发送至客户端。
一种模型压缩方法系统存储介质

[发明专利]一种基于预测器的分组收缩神经架构搜索方法及系统-CN202310744302.9在审
发明人：刘昱;胡越 -专利权人：天津大学;天津大学浙江国际创新设计与智造研究院
申请日： 2023-06-20 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本发明公开了一种基于预测器的分组收缩神经架构搜索方法及系统，包括：配置阶段，确定具体的算法参数设置；初始化阶段，从搜索空间中随机采样架构并进行真实性能测量，实现评估池的初始化；迭代阶段，每轮迭代包括训练预测器，基于预测得分划分架构组，架构组采样三个子阶段；每轮迭代中架构组对应的预测得分区间按指定的收缩速度收紧，逐步收缩至整体预测得分的顶部；输出阶段，在全部迭代完成后从最终评估池中选出实际性能最优的架构。相比传统的基于预测器的神经架构搜索算法，本发明更为细致地考虑了预测器利用与搜索空间探索的权衡，通过控制不同搜索阶段的架构组位置，影响采样架构分布，实现搜索侧重点的动态调节，具有更优秀的搜索性能和稳定性。
一种基于预测分组收缩神经架构搜索方法系统

[发明专利]一种基于遗传算法的模糊神经网络优化方法-CN202310772505.9在审
发明人：张俊杰;远野;丁成;王哲;何师程;李林;张诗涵;陈景瑞;陈天明 -专利权人：盐城工学院
申请日： 2023-06-28 - 公布日： 2023-09-19 - 主分类号： G06N3/086 文献下载
摘要：本发明公开了一种基于遗传算法的模糊神经网络优化方法，包括确定模糊神经网络模型的结构；提取出所要优化的参数，将其映射成二进制编码的基因串，随机产生N个基因串的初始种群并计算适应度函数；根据上述结果利用遗传算法定位出全局最优解的大体空间；将上一阶段定位的搜索空间作为模糊神经网络搜索的初始权值和阈值，利用其局部搜索能力在这个小的解空间中搜索出最优解。通过遗传算法的优化以及寻优阶段的分不使得模糊神经网络具备了较强的全局搜索和局部探索能力，提高了寻优的精度和收敛速度，提高了模糊神经神经网络的精度和稳定性。
一种基于遗传算法模糊神经网络优化方法

[发明专利]一种深度神经网络的二阶段三角剪枝方法-CN202310803484.2在审
发明人：余乐;历泉有 -专利权人：北京工商大学
申请日： 2023-07-03 - 公布日： 2023-09-19 - 主分类号： G06N3/082 文献下载
摘要：本发明涉及一种深度神经网络的二阶段三角剪枝方法，属于人工智能领域。该方法执行如下步骤：S1对初始矩阵进行一阶段三角剪枝；S2对所述一阶段剪枝后矩阵进行二阶段剪枝；二阶段以斜边向直角端点修剪的方式进行或以斜边向直角端点保留的方式进行；最终完成对初始矩阵的剪枝。本发明提供一种高效、快速、灵活的神经网络剪枝方法，并可以有效解决计算量大和跟踪非零值时产生巨大索引开销的问题。
一种深度神经网络阶段三角剪枝方法

[发明专利]机器学习模型训练、视频处理方法、装置、设备及介质-CN202310536831.X在审
发明人：刘凯;付志航;陈泽;陶明渊;叶杰平 -专利权人：阿里巴巴达摩院（杭州）科技有限公司
申请日： 2023-05-10 - 公布日： 2023-09-19 - 主分类号： G06N3/088 文献下载
摘要：本公开涉及一种机器学习模型训练、视频处理方法、装置、设备及介质。本公开通过对待训练的机器学习模型进行无监督训练，从而无需对样本视频中的每帧图像进行标注，使得更多未被标注的视频资源可以参与到该无监督训练过程中，提高了视频资源的利用率。另外，本实施例根据当前图像中至少一个目标对象分别对应的标识、以及当前图像之前的至少一个历史图像中目标对象对应的标识，确定当前图像中每个目标对象的历史运动轨迹，并根据当前图像中每个目标对象的历史运动轨迹，确定当前图像的映射图像，使得映射图像能够反映出目标对象的真实运动，使用高质量的映射图像进行训练，可提高机器学习模型的精准度。
机器学习模型训练视频处理方法装置设备介质

[发明专利]神经网络模型的训练方法及装置-CN202110437224.9有效
发明人：黄雪 -专利权人：腾讯科技（深圳）有限公司
申请日： 2021-04-22 - 公布日： 2023-09-19 - 主分类号： G06N3/084 文献下载
摘要：本申请提供了一种神经网络模型的训练方法及装置，涉及人工智能技术及云技术；方法包括：通过神经网络模型对标注有目标标签的训练样本进行预测，得到所述训练样本的预测标签；获取所述目标标签与所述预测标签之间的误差，并在所述神经网络模型中对所述误差进行反向传播；获取所述神经网络模型包含的各个网络层的缩放值，所述缩放值用于指示对反向传播至相应网络层的误差进行缩小或放大的比例；在反向传播所述误差的过程中，分别基于所述神经网络模型的各个网络层的缩放值，对反向传播至相应网络层的误差进行缩放处理；基于缩放处理后的误差，对所述神经网络模型的模型参数进行更新。通过本申请，能够提升训练得到的神经网络模型的预测精度。
神经网络模型训练方法装置

[发明专利]使用神经网络模型的可变比特率压缩-CN202280009134.2在审
发明人： Y·陆;杨阳;朱银浩;A·赛德;R·普雷萨;T·S·科恩 -专利权人：高通股份有限公司
申请日： 2022-01-12 - 公布日： 2023-09-15 - 主分类号： G06N3/08 文献下载
摘要：一种用于操作人工神经网络(ANN)的计算机实现的方法，包括：接收输入。生成该输入的隐性表示。根据基于习得的隐性缩放参数的比特率来传达该隐性表示。该隐性缩放参数是基于通道索引和与平衡该比特率和失真的值相对应的折衷参数值来习得的。
使用神经网络模型可变比特率压缩

[发明专利]一种基于特征图通道间距离的滤波器修剪方法-CN202310520095.9在审
发明人：李光辉;施瑞文 -专利权人：江南大学
申请日： 2023-05-10 - 公布日： 2023-09-15 - 主分类号： G06N3/082 文献下载
摘要：本发明公开了一种基于特征图通道间距离的滤波器修剪方法，属于轻量化神经网络图像识别领域。本发明基于几何距离跨通道度量特征图的相关性，以删除冗余的特征图和其对应的滤波器。从通道间的角度考虑滤波器修剪可以更稳定、更可靠地探索冗余滤波器，从而为滤波器修剪提供更精确的指导。本发明实现了训练与修剪解耦以及网络结构与修剪解耦，将滤波器修剪定义为一个优化问题，并在修剪过程引入贪婪策略寻求最优解的近似解，设计了一种高鲁棒性、低成本的冗余滤波器修剪方案；本发明方法消除了额外的辅助约束和嵌入变量，从而简化了修剪过程。此外，本发明方法不需要修改损失函数，也无需了解训练细节，对于任何训练有素的网络都有较强适应性。
一种基于特征通道间距滤波器修剪方法

[发明专利]图神经网络的训练方法、分类方法、装置、设备及介质-CN202311033729.4在审
发明人：曹其春;董刚;胡克坤;王斌强;杨宏斌;晁银银 -专利权人：苏州浪潮智能科技有限公司
申请日： 2023-08-16 - 公布日： 2023-09-15 - 主分类号： G06N3/08 文献下载
摘要：本公开提供了一种图神经网络的训练方法、分类方法、装置、设备及介质，属于人工智能技术领域，旨在减少对电子设备的性能依赖，所述训练方法包括：对第一图数据样本进行切分处理，得到多个子图样本；并对多个子图样本，执行多次采样，得到每次采样出的子图样本集；以及构建每个子图样本集对应的空间特征；并以多个子图样本集和多个子图样本集分别对应的空间特征为训练样本，对图神经网络进行训练；其中，在训练时，空间特征用于为子图样本集中的各个节点提供节点间的特征传递路径，子图样本集中所包括的每两个子图样本之间，均能通过子图样本集中的至少一个子图样本产生连接关系。
神经网络训练方法分类装置设备介质