“transformer”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果3819个，建议您升级VIP下载更多相关专利

[发明专利]模型预测前后处理服务发布方法、装置、设备及介质-CN202310493130.2在审
发明人：陈敏 -专利权人：深圳前海环融联易信息科技服务有限公司
申请日： 2023-05-04 - 公布日： 2023-08-22 - 主分类号： G06F9/445 文献下载
摘要：本申请涉及人工智能技术，提供了模型预测前后处理服务发布方法、装置、设备及介质，能够在原生的数据卷目录下创建用于存放Transformer代码文件的目标文件夹，并打包预先构建的下载程序及Transformer服务启动脚本至Transformer基础镜像中，这样，当需要生成Transformer服务时，通过传入参数即可基于Transformer基础镜像从指定代码库拉取Transformer代码文件到Transformer Pod，并启动Transformer服务，仅需要维护一个通用Transformer基础镜像，降低了维护和管理镜像的成本。
模型预测前后处理服务发布方法装置设备介质

[发明专利]基于双分支Transformer网络的属性与图像跨模态行人再辨识方法及装置-CN202310199941.1在审
发明人：朱建清;许荣衔;陈永平;陈继平;曾焕强;蔡灿辉;廖昀;杜吉祥 -专利权人：华侨大学;厦门亿联网络技术股份有限公司
申请日： 2023-03-03 - 公布日： 2023-07-11 - 主分类号： G06V40/10 文献下载
摘要：本发明公开了一种基于双分支Transformer网络的属性与图像跨模态行人再辨识方法及装置，获取行人属性和行人图像，行人图像来自行人注册图像集；构建双分支Transformer网络，并对双分支Transformer网络训练，得到属性与图像跨模态行人再辨识模型，双分支Transformer网络包括同型的属性Transformer分支和图像Transformer分支；将行人属性和行人图像输入属性与图像跨模态行人再辨识模型，分别通过属性Transformer分支和图像Transformer分支提取得到属性特征和图像特征；将属性特征与图像特征进行相似度比对，得到行人属性对应的再辨识结果。属性Transformer分支和图像Transformer分支都属于同型的Transformer结构，有利于控制文本属性和行人图像在特征空间中的模态异质性问题，从而提升属性‑图像跨模态行人再辨识准确性。
基于分支 transformer 网络属性图像跨模态行人辨识方法装置

[发明专利]基于Transformer的中文智能对话方法-CN202011579830.6有效
发明人：杨波;巩固;郑文锋;刘珊 -专利权人：电子科技大学
申请日： 2020-12-28 - 公布日： 2022-03-25 - 主分类号： G06F16/332 文献下载
摘要：本发明公开了一种基于Transformer的中文智能对话方法，先使用大规模的中文闲聊语料库LCCC(Large‑scale Cleaned Chinese Conversation)构建训练数据集，作为Transformer模型的输入，然后基于深度学习的方式对Transformer模型进行训练，直至Transformer模型收敛，最后，将待对话的输入序列输入至Transformer模型，通过Transformer
基于 transformer 中文智能对话方法

[发明专利]一种基于张量的高效Transformer的架构方法-CN202210556441.4在审
发明人：朱晨露;刘德彬;阮一恒;张立杰;邓贤君;杨天若 -专利权人：湖北楚天高速数字科技有限公司
申请日： 2022-05-19 - 公布日： 2022-08-02 - 主分类号： G06N3/08 文献下载
摘要：本发明适用人工智能领域，提供了一种基于张量的高效Transformer的架构方法，本发明通过权重矩阵拼接和张量多模态分解方法设计了三个即插即用的轻量级Transformer组件，通过利用三个轻量级的Transformer组件，构建了LTensorized_transformer和LTensorized_transformer++，从而使得轻量级的Transformer模型能够部署到资源受限的工业嵌入式设备上。
一种基于张量高效 transformer 架构方法

[发明专利]基于线性稀疏注意力Transformer的视频去摩尔纹方法-CN202210649880.X在审
发明人：牛玉贞;林志华;刘文犀 -专利权人：福州大学
申请日： 2022-06-10 - 公布日： 2022-08-09 - 主分类号： G06T5/00 文献下载
摘要：本发明提出一种基于线性稀疏注意力Transformer的视频去摩尔纹方法，训练基于线性稀疏注意力Transformer的视频去摩尔纹网络，以实现在训练完成后对输入的视频去除摩尔纹；所述基于线性稀疏注意力Transformer的视频去摩尔纹网络包括：特征提取模块，用于对视频帧进行特征提取；空间Transformer模块，以使用空间Transformer的空间注意力捕捉单帧图像中存在摩尔纹的位置并进行重点去除；时间Transformer模块，以使用时间Transformer的时间注意力捕捉多帧图像间存在的互补信息，并利用相邻帧的互补信息进行图像恢复；以及，图像重建模块，用于将经过空间Transformer模块和时间Transformer模块的视频帧特征进行解码，恢复成与输入视频尺度相同的去摩尔纹视频帧。
基于线性稀疏注意力 transformer 视频摩尔方法

[发明专利]基于改进Transformer模型X射线光子计数探测器光谱失真校正方法-CN202211421008.6在审
发明人：方正;袁彬淦 -专利权人：厦门大学
申请日： 2022-11-11 - 公布日： 2023-03-03 - 主分类号： G06F30/27 文献下载
摘要：本发明公开了一种基于改进Transformer模型X射线光子计数探测器光谱失真校正方法，包括：采集失真光谱数据及X射线源参数向量、探测器参数向量；构建基于失真光谱数据及X射线源参数向量、探测器参数向量的改进的Transformer模型；采用改进的Transformer网络对构建的改进的Transformer模型进行训练；根据经训练后的改进的Transformer模型，来对采集的光谱数据进行失真校正。传统的Transformer模型广泛应用于自然语言处理(NLP)领域。为了将传统的Transformer模型应用于光谱失真校正的问题上，本发明对传统的Transformer模型进行改进，解决光谱数据和自然语言之间存在着明显差异的问题。
基于改进 transformer 模型射线光子计数探测器光谱失真校正方法

[发明专利]Transformer模型的并行训练方法及装置-CN202211441633.7在审
发明人：崔斌;苗旭鹏;王驭捷;姜友和;石淳安;聂小楠;张海林 -专利权人：北京大学
申请日： 2022-11-17 - 公布日： 2023-05-16 - 主分类号： G06N3/0455 文献下载
摘要：本发明提供一种Transformer模型的并行训练方法及装置，涉及计算机技术领域；其中所述Transformer模型的并行训练方法包括：基于M种预设并行训练策略，确定初始Transformer模型的并行训练策略搜索空间；基于各预设并行训练策略，构建至少一棵决策树；决策树用于从并行训练策略搜索空间中确定初始Transformer模型的并行训练策略集合；基于训练策略集合，确定目标并行训练策略组合；利用目标并行训练策略组合对初始Transformer模型进行训练，得到目标Transformer模型。利用吞吐率最高的目标并行训练策略组合对初始Transformer模型进行训练，提高了对模型的训练效率。
transformer 模型并行训练方法装置

[发明专利]一种基于Transformer_LSTM的船舶异常检测方法-CN202310767926.2在审
发明人：李可欣;郭健;葛文;李冉冲;成毅;王宇君;李宗明;缪坤;陈辉 -专利权人：中国人民解放军战略支援部队信息工程大学
申请日： 2023-06-27 - 公布日： 2023-10-27 - 主分类号： G06F18/20 文献下载
摘要：本发明涉及一种基于Transformer_LSTM的船舶异常检测方法，属于计算机地理空间数据挖掘技术领域。首先根据原始AIS船舶数据获取时序轨迹数据，建立Transformer_LSTM模型作为异常检测模型，Transformer_LSTM模型采用VAE模型的编解码器架构，包括有Transformer_LSTM编码器和Transformer_LSTM解码器，Transformer_LSTM编码器采用Transformer_LSTM模块作为神经网络层，将输入的时序轨迹数据进行空间变换和特征映射，得到隐藏层数据，Transformer_LSTM解码器采用Transformer_LSTM模块作为神经网络层，将输入的隐藏层进行轨迹重构，得到重构轨迹数据，根据时序轨迹数据、重构轨迹数据计算出重构误差，基于重构误差计算出重构概率
一种基于 transformer_lstm 船舶异常检测方法

[发明专利]一种基于改进Transformer模型的飞行器故障诊断方法和系统-CN202110300884.2有效
发明人：刘磊;刘永雄;王博;成忠涛;樊慧津;王永骥;罗小丽 -专利权人：华中科技大学
申请日： 2021-03-22 - 公布日： 2021-11-02 - 主分类号： G05B23/02 文献下载
摘要：本发明公开了一种基于改进Transformer模型的飞行器故障诊断方法和系统，属于故障检测领域。改进Transformer模型将Transformer模型中最后的Softmax函数层替换为输出神经元个数为1的全连接层，方法包括：采用训练样本集对改进Transformer模型进行训练，得到训练好的改进Transformer模型，所述训练样本为飞行器状态信息‑飞行器中的执行器故障信息对；将待测飞行器的状态信息输入至训练好的改进Transformer模型，输出对应的飞行器中的执行器故障信息。本发明对Transformer模型进行改进，创新提出将改进Transformer模型与故障诊断结合，由于改进Transformer模型能够很好地处理时序数据，即使是相隔较远的历史数据也能并行处理。
一种基于改进 transformer 模型飞行器故障诊断方法系统

[发明专利]一种基于Transformer的人脸检测方法及装置-CN202310746034.4在审
发明人：邢煜梓;殷绪成;陈磊;李凯;刘琦;陈松路;张梁凤;胡梅钰 -专利权人：北京科技大学
申请日： 2023-06-21 - 公布日： 2023-09-12 - 主分类号： G06V40/16 文献下载
摘要：本发明公开了一种基于Transformer的人脸检测方法及装置，涉及计算机视觉技术领域。包括：获取待检测的图像数据；将图像数据输入到训练好的基于Transformer的人脸检测模型；其中，基于Transformer的人脸检测模型包括特征提取模块、多尺度特征构造模块、人脸检测模块以及人脸关键点检测模块；根据图像数据以及基于Transformer的人脸检测模型，得到图像数据的人脸检测结果。本发明使用Transformer作为骨干网络，通过双阶段目标检测结构实现基于Transformer的人脸检测。这样既能有效利用Transformer能更好地获得全局信息的特点，又能保证在使用相对较小的数据集时模型能够快速收敛。
一种基于 transformer 检测方法装置

[发明专利]基于Transformer+LSTM神经网络模型的商品销量预测方法及装置-CN202010275150.9在审
发明人：阳旺;李淑兴 -专利权人：中南大学
申请日： 2020-04-09 - 公布日： 2020-09-04 - 主分类号： G06Q30/02 文献下载
摘要：本发明公开了一种基于Transformer+LSTM神经网络模型的商品销量预测方法及装置。在维护历史数据中的内部和外部特征时，采用Word2Vector来编码天气信息。并创新性的提出采用Transformer+LSTM的神经网络模型来解决销量预测中其他模型对历史特征提取不充分的弊端。为验证Transformer+LSTM的神经网络结构的有效性，模型结合实际大卖场历史数据进行训练，通过实验结果得出Transformer+LSTM确实可以解决单纯使用RNN或者LSTM神经网络中无法充分提取历史特征的问题同时,在Transformer+LSTM的神经网络结构中，只采用Transformer部分的Encoder部分，并使用LSTM替代Transformer的Decoder部分。实验结果表明，Transformer的Encoder部分在提取历史特征上有很好的优势，而LSTM对时间序列数据拥有很好的解码能力。
基于 transformer lstm 神经网络模型商品销量预测方法装置

[发明专利]一种基于transformer的无人机航拍绝缘子目标检测方法及装置-CN202310396295.8在审
发明人：赵昌新;王栋;任孝峰;王丽峰;高海龙;肖学权;滕松;徐志鹏;张潇;倪苏婷;杜文亮;周勇 -专利权人：国网江苏省电力有限公司徐州供电分公司;中国矿业大学
申请日： 2023-04-14 - 公布日： 2023-07-04 - 主分类号： G06V20/17 文献下载
摘要：本发明公开了一种基于transformer的无人机航拍绝缘子目标检测方法及装置，所述检测方法包括：获取无人机航拍绝缘子的训练图像和测试图像，并标注出绝缘子在训练图像中的位置信息；构建特征提取网络；所述特征提取网络包括卷积神经网络、特征降维网络及位置编码器；构建Transformer网络，并提取待预测特征；所述Transformer网络包括Transformer编码器、Transformer解码器；构建预测网；所述预测网络包括50个前馈神经网；训练Transformer网络与预测网络；基于训练完成的Transformer网络与预测网络，预测测试图像的绝缘子位置。本发明通过提升Transformer网络在无人机航拍绝缘子目标检测的适用性，构建无人机航拍绝缘子自动检测方案。
一种基于 transformer 无人机航拍绝缘子目标检测方法装置

[发明专利]基于Transformer融合卷积神经网络的高光谱图像重建方法-CN202211161991.2在审
发明人：徐萌;彭焱鑫;贾森 -专利权人：深圳大学
申请日： 2022-09-22 - 公布日： 2023-01-31 - 主分类号： G06V20/10 文献下载
摘要：本发明公开了一种基于Transformer融合卷积神经网络的高光谱图像重建方法，包括：构建Transformer与卷积神经网络CNN融合的CNN‑Transformer模型，其中，所述CNN‑Transformer模型包括依次连接的第一卷积层、CNN‑Transformer编码器、第二卷积层、CNN‑Transformer解码器以及第三卷积层；将待采集的RGB图像输入所述CNN‑Transformer模型，基于所述CNN‑Transformer模型获得所述RGB图像对应的高光谱图像。
基于 transformer 融合卷积神经网络光谱图像重建方法

[发明专利]基于Transformer结构搜索的脑电信号情绪识别方法-CN202210049194.9在审
发明人：李畅;张中振;刘羽;宋仁成;成娟;陈勋 -专利权人：合肥工业大学
申请日： 2022-01-17 - 公布日： 2022-04-26 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种基于Transformer结构搜索的脑电信号情绪识别方法，其步骤包括：1，对于原始EEG数据进行去基线和片段分割的预处理；2，通过自动化Transformer结构搜索建立Transformer模型；3，在数据集上训练建立的Transformer模型；4，利用建立好的模型实现情绪分类任务。本发明能实现自适应搜索情绪分类的最优Transformer结构模型，从而提高识别率。
基于 transformer 结构搜索电信号情绪识别方法

[发明专利]一种基于异构Transformer的无监督视频目标分割算法-CN202211532178.1在审
发明人：王一帆;袁亦忱;卢湖川;王立君 -专利权人：大连理工大学;大连理工大学宁波研究院;大连维视科技有限公司
申请日： 2022-12-01 - 公布日： 2023-03-14 - 主分类号： G06V20/40 文献下载
摘要：一种基于异构Transformer的无监督视频目标分割算法，为无监督视频目标分割网络在外观运动特征融合的浅层和深层阶段设计两种不同的基于Transformer的融合策略，分别是全局上下文共享的Transformer和语义聚合‑回嵌的Transformer。全局上下文共享的Transformer能以较低的计算量学习视频帧之间的全局共享上下文信息，语义聚合‑回嵌的Transformer对前景和背景分别建模语义相关性并通过对特征向量软聚合的方式来进一步降低计算量基于两种融合模块，为无监督视频目标分割任务设计一种层级异构的Transformer架构，这种架构能以较低的计算量实现最先进的性能。
一种基于 transformer 监督视频目标分割算法

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 3819 条