“G06N3/04”专利分类搜索_专利查询_文献下载_出售_求购_买卖_交易

钻瓜专利网为您找到相关结果9067个，建议您升级VIP下载更多相关专利

[发明专利]一种存算一体智能计算架构中的Concat算子简化处理方法-CN202310748552.X在审
发明人：姜书艳;曹文旭;黄乐天 -专利权人：电子科技大学长三角研究院（湖州）
申请日： 2023-06-21 - 公布日： 2023-09-15 - 主分类号： G06N3/0464 文献下载
摘要：本发明公开了一种存算一体智能计算架构中的Concat算子简化处理方法，是立足于卷积神经网络中的Concat算子引入的数据拼接增大存算一体智能计算架构中的硬件开销和调度难度、可能造成通信瓶颈的问题，提出采用特殊的通道切分方式和通信连接规划方式根除由Concat算子引入的数据拼接，实现多路并行通信流规划，大幅减小了实际互连结构的硬件开销和调度难度，同时释放了由多路Concat数据引入的带宽压力，消除了通信瓶颈的隐患。
一种一体智能计算架构中的 concat 算子简化处理方法

[发明专利]一种参数高效的大规模预训练模型迁移方法-CN202310758646.5在审
发明人：纪荣嵘;周奕毅;吴穹 -专利权人：厦门大学
申请日： 2023-06-26 - 公布日： 2023-09-15 - 主分类号： G06N3/045 文献下载
摘要：一种参数高效的大规模预训练模型迁移方法，涉及大规模预训练模型。基于Transformer的大规模预训练模型，优化用于建立自注意力机制的提示向量，在注意力模块中插入提示学习逼近模块和经过扩展的自注意力模块，以降低提示学习带来的额外计算开销，提升信息扩散的效率。1)将提示学习逼近模块插入到Transformer模型的注意力机制中，并添加任务关联的分类器；2)在下游任务上进行微调，实现参数高效的大规模预训练模型的迁移。不仅实现更加高效的输入序列间关系建立，同时允许额外的提示向量遵循新的模式建立与输入序列的联系。在低成本地实现迁移的同时，尽可能降低带来的额外开销。
一种参数高效大规模训练模型迁移方法

[发明专利]一种基于知识迁移压缩网络的方法-CN202310576587.X在审
发明人：宋晨;张连超;陈兆亮;段强;姜凯;李锐 -专利权人：山东浪潮科学研究院有限公司
申请日： 2023-05-22 - 公布日： 2023-09-15 - 主分类号： G06N3/042 文献下载
摘要：本发明涉及深度学习技术领域，具体为一种基于知识迁移压缩网络的方法，包括以下步骤：步骤1人工设计出轻量化模型；步骤2初始化网络参数；步骤3在训练完成的网络上进行每层敏感度的测量；步骤4微调门参数；步骤5重复步骤3和步骤4，最终得到一个包含大部分信息的且压缩的网络；步骤6将压缩的网络部署到嵌入式设备中；有益效果为：将检测学生情感识别的轻量化网络布置到嵌入式设备中，结合小型摄像头可以提升教学质量。
一种基于知识迁移压缩网络方法

[发明专利]基于多重随机纳米线网络的储备池系统-CN202310715854.7在审
发明人：王丽丹;唐健峰;夏磊;李广隶;付军;杨斌;段书凯 -专利权人：西南大学
申请日： 2023-06-16 - 公布日： 2023-09-15 - 主分类号： G06N3/04 文献下载
摘要：一种基于多重随机纳米线网络的储备池系统，包括输入层、随机纳米线网络层、训练层和输出层，其中：所述输入层采集具有时间序列属性的向量数据组，向量数据组经归一化处理转化为电压输入矩阵Win；随机纳米线网络层设置有N层依次串联的纳米线网络；输入层逐个传送所述电压输入矩阵Win中的电压给第一纳米线网络层；第一纳米线网络层的输出端连接有第二纳米线网络层与训练层；第二纳米线网络层的输出端连接有第三纳米线网络层输入端与训练层，直至第N纳米线网络层的输出端连接训练层；训练层输出端连接输出层，输出层输出权重矩阵Wout。
基于多重随机纳米网络储备系统

[发明专利]一种基于空间注意力的文本到图像生成方法及系统-CN202110474295.6有效
发明人：季薇;罗盛耀;李云 -专利权人：南京邮电大学
申请日： 2021-04-29 - 公布日： 2023-09-15 - 主分类号： G06N3/0475 文献下载
摘要：本发明提供一种基于空间注意力的文本到图像生成方法及系统，将文本描述输入文本编码器输出句子向量；生成服从高斯分布的随机噪声向量；生成器包括三个空间注意力模块和六个依次连接的上模块，其中位于第一个的上模块连接全连接层，位于最后三个的上模块分别连接一个空间注意力模块，三个空间注意力模块共同连接一个特征组通道归并模块，特征组通道归并模块连接卷积层，在生成器中引入了空间注意力机制，对特征图中不同区域分配不同程度的注意力，加强特征图中最有用的特征，抑制无用的特征，避免了产生伪像的问题；引入了特征组通道归并模块，充分融合文本信息，以增强提取得到特征的表达能力，使生成的图像更加清晰，并且符合给定的文本描述。
一种基于空间注意力文本图像生成方法系统

[发明专利]分类神经网络的训练方法、文本分类方法、装置及设备-CN202010244144.7有效
发明人：徐泽宇;孟二利;孙磊 -专利权人：北京小米松果电子有限公司
申请日： 2020-03-31 - 公布日： 2023-09-15 - 主分类号： G06N3/0464 文献下载
摘要：本公开是关于一种分类神经网络的训练方法、文本分类方法、装置及设备，所述分类神经网络的训练方法，包括基于以下步骤训练目标神经网络：获取样本文本数据的回归结果，所述回归结果基于预先构建的第一目标神经网络确定，用于表征所述样本文本数据的分类趋势；将所述样本文本数据和对应的回归结果输入至第二目标神经网络；根据第二目标神经网络获得每个所述样本文本数据的预测分类结果；根据每个样本文本数据的预测分类结果与对应类别真实值的差异对所述第二目标卷积神经网络的参数进行调整；在网络损失的变化满足收敛条件后，得到完成训练的第二目标神经网络。本公开可以实现更好的训练第二目标神经网络，提高后续进行文本数据分类的准确性。
分类神经网络训练方法文本装置设备

[发明专利]生成网络的特征蒸馏方法、装置、电子设备及存储介质-CN202211242759.1有效
发明人：季向阳;杨宇;程笑天;刘畅 -专利权人：清华大学
申请日： 2022-10-11 - 公布日： 2023-09-15 - 主分类号： G06N3/0475 文献下载
摘要：本申请涉及计算机视觉与深度学习技术领域，特别涉及一种生成网络的特征蒸馏方法、装置、电子设备及存储介质，其中，包括：获取目标生成网络中的多个特征图；将其输入至预设挤压模块，并从中挤压出满足预设变换不变性的预设图像特征；从预设数据增广中随机抽样出图像变换算子，并利用图像变换算子对预设图像特征进行特征蒸馏，得到目标生成网络在合成图像领域的图像；并将其输入至预设学生网络，同时输入真实图像进行自监督对比学习，使得目标生成网络的蒸馏表征扩张至真实图像领域，实现目标生成网络的特征蒸馏。由此，解决了无法从GAN的生成器中蒸馏出价值的表征信息，无法充分利用或将表征迁移至下游任务，降低了表征提取网络的性能等问题。
生成网络特征蒸馏方法装置电子设备存储介质

[发明专利]模型自生长训练加速方法、装置、电子设备和存储介质-CN202310558620.6有效
发明人：王业全;姚轶群;张正 -专利权人：北京智源人工智能研究院
申请日： 2023-05-17 - 公布日： 2023-09-15 - 主分类号： G06N3/0455 文献下载
摘要：本发明公开了模型自生长训练加速方法、装置、电子设备和存储介质，属于人工智能技术领域。所述模型自生长训练加速方法包括，从基础神经网络结构中确定一个或多个生长维度；定义与所确定的每个生长维度相关联的基于掩码的生长算子，并利用所述生长算子对所述基础神经网络结构的所述生长维度进行扩展，以实现模型自生长训练。本发明在模型层面上实现了大模型的自生长加速，支持横向和纵向生长，在通过保值性实现知识继承的同时，降低了预训练的时间和算力成本。
模型生长训练加速方法装置电子设备存储介质

[发明专利]生成神经网络-CN201780015370.4有效
发明人：伊沃·达尼赫尔卡;丹尼洛·希门尼斯·雷森德;沙基尔·穆罕默德 -专利权人：渊慧科技有限公司
申请日： 2017-02-03 - 公布日： 2023-09-15 - 主分类号： G06N3/044 文献下载
摘要：本公开提供了用于神经网络系统的方法、系统和装置，包括编码在计算机存储介质上的计算机程序。在一个方面中，神经网络系统包括：递归神经网络，被配置为：针对预定数目的时间步中的每个时间步，接收所述时间步的一组潜变量并且对所述潜变量进行处理以更新所述递归神经网络的隐藏状态；以及生成子系统，被配置为：针对每个时间步，生成所述时间步的所述一组潜变量并且将所述一组潜变量作为输入提供至所述递归神经网络；使用所述递归神经网络的所更新的隐藏状态来更新隐藏画布；并且针对最后一个时间步，使用所述最后一个时间步的所更新的隐藏画布来生成输出数据项。
生成神经网络

[发明专利]执行触摸运动预测的深度机器学习-CN201780055187.7有效
发明人： P-C.林;T-H.林 -专利权人：谷歌有限责任公司
申请日： 2017-08-17 - 公布日： 2023-09-15 - 主分类号： G06N3/044 文献下载
摘要：本公开提供了利用机器学习来执行用户输入运动预测的系统和方法。具体地，本公开的系统和方法可以包括并使用机器学习运动预测模型，该机器学习运动预测模型被训练为接收指示用户输入对象的运动的运动数据，并且响应于接收到运动数据而输出用户输入对象的预测的未来位置。用户输入对象可以是用户的手指或由用户操作的触笔。运动预测模型可以包括深度递归神经网络。
执行触摸运动预测深度机器学习

[发明专利]使用机器学习模型的自适应信道编码-CN201780085395.1有效
发明人： J.E.霍尔特;M.赫雷肖夫 -专利权人：谷歌有限责任公司
申请日： 2017-09-28 - 公布日： 2023-09-15 - 主分类号： G06N3/045 文献下载
摘要：本公开提供了能够对信道编码模型进行自适应训练的系统和方法，其中该信道编码模型包括编码器模型、结构上位于编码器模型之后的信道模型、和结构上位于信道模型之后的解码器模型。信道模型可以已经例如通过在已经经由通信信道发送的示例数据上训练信道模型而训练，以模拟通信信道。信道编码模型可以在损失函数上被训练，其中该损失函数描述输入到编码器模型中的输入数据和从解码器模型接收的输出数据之间的差异。具体地，这种损失函数可以通过解码器模型而反向传播同时修改解码器模型，通过信道模型而反向传播同时保持信道模型不变，然后通过编码器模型而反向传播同时修改编码器模型。
使用机器学习模型自适应信道编码

[发明专利]一种检测移动APP恶意流量的深度学习方法-CN202210533158.X有效
发明人：陆凯;胡香利 -专利权人：海南政法职业学院
申请日： 2022-05-17 - 公布日： 2023-09-15 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种检测移动APP恶意流量的深度学习方法，它包括如下步骤，第一步，采用相关信息决策矩阵CIDM进行网络流量特征选择，首先构建相关信息决策矩阵CIDM，然后进行属性评分。第二步，采用基于胶囊神经网络的恶意流量检测模型进行检测。本发明提出的方法与其他最先进的恶意软件检测技术进行比较，准确率和召回率分别提高了9.71%和20.18%。
一种检测移动 app 恶意流量深度学习方法

[发明专利]基于依赖树的方面级情感分析交互卷积网络-CN202211730845.7有效
发明人：陈建峡;毛磊;余天赐;司浩英 -专利权人：湖北工业大学
申请日： 2022-12-30 - 公布日： 2023-09-15 - 主分类号： G06N3/048 文献下载
摘要：本发明公开了基于依赖树的方面级情感分析交互卷积网络，包括输入编码层，其特征在于，还包括注意力层、依赖树层、图卷积层、交互网络层、以及输出层，所述图卷积层，用于根据句法结构图表示和句子隐藏状态向量表示的自注意力分数，利用Att‑GCN模型计算输出；交互网络层，用于输入Att‑GCN模型的输出，并进行交互操作；计算最终方面词表示的输出；计算输出#imgabs0#和输出#imgabs1#输出层根据#imgabs2#和#imgabs3#进行拼接操作，再进行分类获得分类概率。本发明使用交互网络层，减少因为卷积导致的信息丢失的影响。同时，让分散的句子信息更加的集中。
基于依赖方面情感分析交互卷积网络

[发明专利]一种基于像素梯度加权的卷积神经网络特征可视化方法及系统-CN202110242364.0有效
发明人：黄炜;颜天信 -专利权人：安徽省科亿信息科技有限公司
申请日： 2021-03-03 - 公布日： 2023-09-15 - 主分类号： G06N3/0464 文献下载
摘要：本发明公开了一种基于像素梯度加权的卷积神经网络特征可视化方法及系统，该方法包括：确定进行可视化所需的CNN模型、输入图像、类别索引、网络层级等需求参量；利用训练好的CNN模型对输入图像进行前向传播计算；保存目标层级前向计算输出的特征图；接着基于类别索引生成对应的单位向量并进行反向传播；获取目标层级反向传播得到的梯度图；对上述得到的梯度图和特征图进行像素级加权融合；再经过后处理最后得到类激活可视化输出结果。本发明提供一种新的融合特征图和梯度图的CNN可视化方法，可以得到对类别的显著性激活图，提供对类别更具有判别性的解释和定位能力，并对网络层数适用范围更广。
一种基于像素梯度加权卷积神经网络特征可视化方法系统

[发明专利]通过对抗网络自动生成验证性质的模型验证方法和系统-CN202110957915.1有效
发明人：高洪皓;戴宝斌;周琳;施建刚;陈洁 -专利权人：上海大学;上海上大海润信息系统有限公司
申请日： 2021-08-20 - 公布日： 2023-09-15 - 主分类号： G06N3/0475 文献下载
摘要：本发明涉及一种通过对抗网络自动生成验证性质的模型验证方法和系统，方法包括通过生成器自动获取验证性质，采用正则表达式并基于CTL语法对获取的验证性质进行语法校验后，用于进行模型验证；生成器的训练过程包括：获取采用计算树时序逻辑公式CTL描述的验证性质；将其转换成能被生成对抗网络所能识别的输入形式，作为训练数据；构建生成对抗网络，该生成对抗网络包括生成器和判别器，生成器的输入为随机噪声，判别器的输入为生成器生成的数据和训练数据，判别器输出期望奖励用于更新生成器的参数；采用对抗式训练的方法迭代地训练生成器和判别器，直至达到收敛。与现有技术相比，本发明能够实现高效且自动生成验证性质，支持提高模型验证的效率。
通过对抗网络自动生成验证性质模型方法系统