“注意力模型”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果1670109个，建议您升级VIP下载更多相关专利

[发明专利]一种复杂场景的未知异常障碍物识别方法及系统-CN202210607410.7在审
发明人：张卫东;任相璇;杨云祥;覃善兴;沈春华;柏林;熊明磊;常建;贺通;黄宴委 -专利权人：海南大学
申请日： 2022-05-31 - 公布日： 2022-08-19 - 主分类号： G06V20/58 文献下载
摘要：本发明涉及一种复杂场景的未知异常障碍物识别方法及系统，该系统包括：特征编码器模块：用以将输入图片编码为高维特征张量，提取输入特征；未知注意力生成模块，用以生成未知注意力权重图，该注意力图对不确定性高区域生成高权重，反之注意力图较低；注意力信息提示模块，用以对注意力高区域给予真值提示；语义分割结果预测模块，用以预测像素为各类别的概率。本发明通过训练模型将有效注意力放在不确定性区域高的区域来以此根据模型注意力权重值来预测是否为未知异常障碍物。与现有技术相比本发明具有应用性强、计算量小、普适性强等优点。
一种复杂场景未知异常障碍物识别方法系统

[发明专利]基于对称型注意力的机器翻译方法-CN202211033784.9在审
发明人：杨鹏飞;李述涵;程飞;徐安林;丁越利;李晨;朱子恒;林成民 -专利权人：西安电子科技大学
申请日： 2022-08-26 - 公布日： 2022-11-29 - 主分类号： G06F40/47 文献下载
摘要：本发明公开一种基于对称型注意力的机器翻译方法，主要解决现有技术在翻译中未能在多个子空间中利用相关性信息导致解码计算中的参考信息缺失，使翻译结果未能涵盖全部情景的问题。本发明构建的基于对称型注意力的机器翻译模型中由两个平行的对称子空间组成本发明模型中解码器的对称型注意力层，采用对称型注意力算法计算两支对称型注意力并进行融合。本发明的解码器中对称型注意力层与编码器输出的注意力矩阵之间实现了信息交互，提高了全面且准确地获取注意力信息的能力，本发明构建的机器翻译模型在翻译工作中涵盖更全面的语义情景，提高了英译中的准确性。
基于对称注意力机器翻译方法

[发明专利]一种基于注意力共享Transformer的语法改错模型-CN202010482641.0在审
发明人：徐书尧;陈进;秦龙 -专利权人：北京先声智能科技有限公司
申请日： 2020-06-01 - 公布日： 2020-10-30 - 主分类号： G06F40/253 文献下载
摘要：本发明涉及神经翻译的语法改错模型技术领域，尤其是一种基于注意力共享Transformer的语法改错模型，包括编码器与解码器，所述编码器由多层结构组成，每层结构均包含自注意力层与前馈神经网络，数据输入自注意力层，自注意力层进行计算后输出处理数据至前馈神经网络，前馈神经网络输出处理结果至解码器；所述解码器由自注意力层、编码器解码器注意力层与前馈神经网络构成，解码器的前馈神经网络输出计算数据，并通过Softmax映射到词汇表上的概率分布，本发明的语法改错模型，注意力共享机制下，语法改错模型的效果(F0.5)几乎与基线系统相同，但却可以减少计算量，加快推理速度。
一种基于注意力共享 transformer 语法改错模型

[发明专利]病变差异位点识别方法、装置、设备和存储介质-CN202211713209.3在审
发明人：纪永坤;卢国华;陈澍宜 -专利权人：泰州竹石医学检验实验室有限公司
申请日： 2022-12-28 - 公布日： 2023-04-21 - 主分类号： G16B20/20 文献下载
摘要：本申请公开了病变差异位点识别方法、装置、设备和存储介质，方法包括将多个待测DNA分词序列提供给注意力网络模型；通过实施被配置为通过对序列中分词编码并进行自注意力处理以得到分词对应注意力分数和特征向量的注意力网络模型来获得各分词对应注意力分数和分词序列的特征向量；将分词序列的特征向量提供给分类识别网络模型；通过实施被配置为基于特征向量执行病变DNA和非病变DNA识别的分类识别网络模型来获得分类识别结果；根据待测DNA分词序列中各分词对应注意力分数以及分类识别结果进行比对本申请充分利用了DNA序列信息来寻找病变差异位点，并利用了注意力机制和神经网络分类结果，使识别能力提升。
病变差异识别方法装置设备存储介质

[发明专利]基于层次化自制力机制胶囊网络的文本情感分类模型-CN202110292481.8在审
发明人：程艳;孙欢;陈豪迈;赵松华 -专利权人：江西师范大学
申请日： 2021-03-18 - 公布日： 2021-06-01 - 主分类号： G06F16/33 文献下载
摘要：针对胶囊网络和层次化注意力网络的不足，提出了基于层次化自注意力网络和胶囊网络的混合神经网络。本发明的目的是为了融合胶囊网络、层次化模型和注意力机制各自的优势，在层次化注意力网络中引入自注意力机制来增强模型的特征表达能力同时减少外部参数依赖，使模型能够学到更多的文本自身关键特征。使用层次化自注意力网络从单词、句子两个层次对文本进行情感建模，同时选择性地关注文本中重要的单词和句子。
基于层次自制力机制胶囊网络文本情感分类模型

[发明专利]一种基于DCCSO优化深度学习模型的超短期风电功率预测方法-CN202110668995.9有效
发明人：孟安波;陈顺;王陈恩;蔡涌烽;符嘉晋;殷豪 -专利权人：广东工业大学
申请日： 2021-06-16 - 公布日： 2022-05-06 - 主分类号： G06Q10/04 文献下载
摘要：本发明涉及风电功率预测的技术领域，更具体地，涉及一种基于DCCSO优化深度学习模型的超短期风电功率预测方法：采集原始风电数据并对原始风电数据进行预处理，建立时序注意力‑门控循环单元深度学习预测模型，并基于改进纵横交叉算法优化时序注意力‑门控循环单元深度学习预测模型的初始权值和阈值，可有效提升时序注意力‑门控循环单元深度学习预测模型的收敛速度及泛化性能；时序注意力‑门控循环单元深度学习预测模型中，时序注意力能够提升模型本身对输入的时间敏感性，门控循环单元则能进一步挖掘输入时间序列内在隐藏时间相关性，时序注意力与门控循环单元的结合对提高风电功率预测精度有重要的意义。
一种基于 dccso 优化深度学习模型短期电功率预测方法

[发明专利]一种基于循环注意力的联想动词生成方法-CN202310497546.1在审
发明人：曹肖攀;马国祖;陈超;张喜强 -专利权人：中电万维信息技术有限责任公司
申请日： 2023-05-05 - 公布日： 2023-10-10 - 主分类号： G06F40/284 文献下载
摘要：本发明属于自然语言处理技术领域，具体为一种基于循环注意力的联想动词生成方法，包括步骤有建立动词词库映射词典、训练集制作、构建循环注意力网络模型结构、模型训练和模型预测，本发明构建了循环注意力网络模型，将GRU的每个细胞单元替换为每个字的表示和隐藏状态拼接后的向量的自注意力运算，然后将具有强大拟合功能的前馈神经网络融入到每个细胞单元中，提高了模型拟合能力，采用基于循环注意力的模型进行动词生成，通过深度学习的
一种基于循环注意力联想动词生成方法

[发明专利]计算机视觉任务模型的训练方法、装置、设备和存储介质-CN202010135641.3在审
发明人：周锴;张睿 -专利权人：北京三快在线科技有限公司
申请日： 2020-03-02 - 公布日： 2020-07-10 - 主分类号： G06K9/62 文献下载
摘要：本申请公开了计算机视觉任务模型的训练方法、装置、设备和存储介质。所述方法包括：获取计算机视觉任务模型的主干网络输出的图像特征图；基于注意力算法生成所述图像特征图的注意力特征图；对所述注意力特征图进行参数统计，基于参数统计结果生成随机扰动掩模；以所述随机扰动掩模对所述注意力特征图进行扰动，得到注意力扰动特征图；将所述注意力扰动特征图与所述图像特征图进行叠加，得到增强特征图供所述主干网络使用。有益效果在于，加入的随机扰动因素，能够使计算机视觉任务模型在注意力机制的指导下仍能够关注到图像的重点区域，同时鲁棒性有了显著提升，更贴近于实际的应用场景，泛用性强。
计算机视觉任务模型训练方法装置设备存储介质

[发明专利]一种面向图像处理的金字塔型网络注意力调整方法和系统-CN202111204551.6在审
发明人：林晓;孙树州;黄伟;郑晓妹;蒋林华 -专利权人：上海师范大学
申请日： 2021-10-15 - 公布日： 2022-01-28 - 主分类号： G06V10/32 文献下载
摘要：本发明涉及一种面向图像处理的金字塔型网络注意力调整方法和系统，方法包括可变形的注意力机制调整步骤：基于可学习的位置偏置调整注意力窗口的范围和大小，即将待处理图片载入神经网络中，获取位置偏置结果；注意力金字塔网络调整步骤：根据图像处理的阶段顺序，逐步对注意力窗口进行尺寸划分；将待处理图片划分为多个分块图片，采用高斯函数对各个分块图片进行位置编码，根据该位置编码对分块图片进行图像处理并分别执行上述可变形的注意力机制调整步骤和注意力金字塔网络调整步骤与现有技术相比，本发明不仅在模型训练阶段有更快的训练速度，在模型推理和使用阶段同样有更好的精度表现和模型鲁棒性。
一种面向图像处理金字塔网络注意力调整方法系统

[发明专利]基于自适应宽度自注意力机制的轻量化异常声事件检测方法-CN202210039999.5在审
发明人：安正义;姚雨;宋浠瑜;王玫;仇洪冰 -专利权人：桂林电子科技大学
申请日： 2022-01-14 - 公布日： 2022-04-22 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了基于自适应宽度自注意力机制的轻量化异常声事件检测方法，该方法首先把带标签的音频进行信号处理得到它的某种时频特征表示；其次，把带标签的特征表示（通常是向量或矩阵）当作输入，给自适应宽度自注意力机制模型，然后，自适应宽度自注意力机制模型中有定义好的损失函数和随机初始化注意力权重，根据自适应自注意力机制算法算出和标签的损失值，接下来用反向传播算法，更新自适应注意力权重，通过对注意力三个输入权重持续进行更新迭代最后，使用轻量化的方法保存此时的权重参数，接下来以此权重参数为模型对一段未标注的音频做预测，快速准确的对发生的异常声事件。
基于自适应宽度注意力机制量化异常事件检测方法

[发明专利]一种多模态三维视觉注意力预测方法及其应用-CN202111465974.3在审
发明人：厉向东;吴玥;单逸飞;阴凯琳;姚佳怡;沈思扬 -专利权人：浙江大学
申请日： 2021-12-03 - 公布日： 2022-03-11 - 主分类号： G06V20/20 文献下载
摘要：本发明公开了一种多模态三维视觉注意力预测方法，包括以下步骤，(1)样本数据和样本标签采集、(2)样本数据预处理、(3)多模态视觉注意力模型构建、(4)训练多模态视觉注意力模型、(5)预测用户在浏览画面时的注意力；其中，多模态视觉注意力模型包括注意力长短期记忆人工模块、残差全连接卷积网络模块以及融合模块，残差全连接卷积网络模块中包括特征提取模块、最大池化模块和平均池化模块。本发明通过多模态融合技术综合利用眼动和头部运动多个模态的数据，提高视觉注意力预测的准确度，本发明预测方法可用于定位视觉兴趣区域和视觉搜索路径、评估空间信息布局，提高了评估效率，节约了评估成本。
一种多模态三维视觉注意力预测方法及其应用

[发明专利]基于通道注意力模型的音乐去噪方法及系统-CN202310369488.4在审
发明人：程皓楠;叶龙;刘淑琳 -专利权人：中国传媒大学
申请日： 2023-04-07 - 公布日： 2023-07-28 - 主分类号： G10L21/0216 文献下载
摘要：本发明提供一种基于通道注意力模型的音乐去噪方法及系统，属于智慧音乐处理技术领域，通过形成适用于音乐去噪的含噪音乐数据集，并基于含噪音乐数据集对基于有效通道注意力的特征学习网络以及噪声过滤网络进行训练；通过基于有效通道注意力的特征学习网络获得增强注意力特征，进而根据增强注意力特征获取去噪后的音乐。本发明能够改善非专业用户在自然场景下录制的音乐由各种背景噪音引起的失真，解决为音乐去噪设备昂贵、操作复杂的问题，同时，通过融合高效通道注意力模型，能够有效捕捉足够多的噪声音乐信息，提高本发明的基于通道注意力模型的音乐去噪系统对于不同噪声和音乐的泛化能力
基于通道注意力模型音乐方法系统

[发明专利]基于上下文感知的图像语义分割模型的图像分割方法及建模方法-CN202010375529.7有效
发明人：周全;李圣华;刘嘉;王杰;强勇;樊亚文;吴晓富 -专利权人：南京邮电大学
申请日： 2020-05-07 - 公布日： 2022-08-26 - 主分类号： G06V10/26 文献下载
摘要：本申请公开了一种基于上下文感知的图像语义分割模型，包括：编码骨干网、解码器；编码骨干网和解码器之间连接有稠密注意力上下文网络；稠密注意力上下文网络包括分级细化残差模块、联合通道注意力模块、堆叠模块和注意力增强的空间金字塔模块本申请还公开了上述模型的建模方法。本申请的图像语义分割模型中的稠密注意力上下文网络采用分级细化残差模块HRRB、联合通道注意力模块JCA和注意力增强的空间金字塔模块APSM的结合充分提取并融合来自不同骨干层的信息，得到高分辨率的特征图，
基于上下文感知图像语义分割模型方法建模

[发明专利]基于图注意力网络的HTTP恶意流量检测方法及装置-CN202111653905.5有效
发明人：芦斌;翟懿;刘龙;吴魏;费金龙;郭茂华;潘雁;孟轶同 -专利权人：中国人民解放军战略支援部队信息工程大学
申请日： 2021-12-30 - 公布日： 2023-07-18 - 主分类号： H04L9/40 文献下载
摘要：本发明属于网络通信安全技术领域，特别涉及一种基于图注意力网络的HTTP恶意流量检测方法及装置，该方法包括基于HTTP数据包中的头部字段信息，构建主机级的通信行为图，所述通信行为图表示为G＝(N，E)，其中N为节点，E为边；利用基于图注意力网络的检测模型对通信行为图进行分类，所述基于图注意力网络的检测模型包括3个改进后的图注意力层、图池化层和全连接层。本发明构建的通信行为图用以描述恶意代码通信过程中的宏观网络行为，基于图注意力网络的检测模型使用改进后的图注意力层，使图注意力网络能够同时处理节点特征和边特征，利用综合特征实现恶意流量的准确检测。
基于注意力网络 http 恶意流量检测方法装置

[发明专利]一种多尺度注意力特征检测方法-CN201911189274.9有效
发明人：周书仁 -专利权人：长沙理工大学
申请日： 2019-11-28 - 公布日： 2023-04-18 - 主分类号： G06V10/25 文献下载
摘要：本发明公开了一种多尺度注意力特征检测方法，方法包括：通过计算机的硬件资源构建单次目标检测器，其中，单次目标检测器包括基础网络、新增卷积层和预测层；于新增卷积层上加入多个注意力分支以增强检测特征的特性，并构建并行的多尺度注意力特征检测模型，训练单次目标检测器；根据训练单次目标检测器而得到的参数训练并行的多尺度注意力特征检测模型；将待检测图像输入至多尺度注意力特征检测模型，并计算得到检测结果；在单次目标检测器的新增卷积层上加入多个注意力分支，可联合上下文信息和注意力特征，提升检测效果，具体的，使用本方法在VOC2007数据集上可达到78.6％的效果。
一种尺度注意力特征检测方法