[发明专利]一种基于时序图像化和VIT的时间序列分类方法在审
申请号: | 202310336850.8 | 申请日: | 2023-03-31 |
公开(公告)号: | CN116416467A | 公开(公告)日: | 2023-07-11 |
发明(设计)人: | 王珂;杨思栋 | 申请(专利权)人: | 中国矿业大学;徐州智汇谷数字产业研究院有限公司 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/30;G06V10/20;G06V10/82;G06V10/44 |
代理公司: | 徐州创荣知识产权代理事务所(普通合伙) 32353 | 代理人: | 韦洲 |
地址: | 22100*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 时序 图像 vit 时间 序列 分类 方法 | ||
1.一种基于时序图像化和VIT的时间序列分类方法,其特征在于,其步骤如下:
步骤一、对时间序列进行预处理操作,利用奇异值分解法将时间序列内部所蕴含的噪声去除。
步骤二、基于不平衡因子法的原理将步骤一处理后的时间序列转换为二维的IFS图像,再利用双感知机采样法分别对转换的IFS图像的长和宽分别进行规整操作。
步骤三、使用轻量卷积令牌模型在较低参数量和计算量的情况下提取步骤一处理后时间序列的局部特征信息,将信息作为VIT模型的令牌。
步骤四、将步骤二中规整的IFS图像和步骤三中的令牌输入到VIT模型中进行注意力分配操作,对分配完成的信息进行聚合操作,得到模型对于训练集的预测。
步骤五、使用交叉熵损失函数衡量预测值与目标值之间的差距,利用Adam优化器对分类损失值进行优化。
步骤六、使用步骤五优化好的模型对测试集进行预测。
2.根据权利要求1所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述步骤二中,不平衡因子法的具体实现步骤如下:
1)将去噪后的序列转换为差值像素矩阵;
2)对像素矩阵使用参数进行扰动,打破像素矩阵的平衡性;
3)将像素矩阵对角线的常数项填充为原始时间序列。
3.根据权利要求2中所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述1)中,具体的实现公式如下:
其中,x为去噪后时间序列的元素值,n为时间序列的长度,像素矩阵的大小为n×n。
4.根据权利要求2中所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述2)中,具体的实现公式如下:
X=(X-α)/β
其中,α和β作为可调整的超参数,α为衰减因子,β为缩放因子,默认设置为0.5和0.5。
5.根据权利要求2中所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述3)中,具体的实现公式如下:
其中,α和β为上一步中的超参数,i,j为像素矩阵X的横纵坐标。
6.根据权利要求1所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述步骤二中,双感知机采样法具体的实现公式如下:
XN×224=(XN×N×W1+b1)×W2+b2
其中,X表示时间序列所转换的图像矩阵,W1,b1是第一个全连接层的权重矩阵和偏差,W2,b2是第二个全连接层的权重矩阵和偏差,xi为X中的元素值,u、v为自定义可训练的参数,初始值设为2和0。
7.根据权利要求1所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述步骤三中,轻量卷积令牌模型由Depth Wise卷积、Point Wise卷积、池化层、维度重组层组成。
8.根据权利要求1所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述步骤四中,VIT模型的组成部分如下:先经过Patch Emebding层,将图像按指定大小(P×P)分割为子块,可设为16×16;其次将令牌与子块输入至Positon Encoding层对令牌和子块进行位置编码,后将令牌与子块输入到Encode Blocks层中,该层由L个Encode Block组成,L一般取6,负责令牌与子块的注意力分配,将令牌和子块输入到MLP Head层中后,进行信息聚合和预测。
9.根据权利要求1所述的基于时序图像化和VIT的时间序列分类方法,其特征在于,所述步骤五中,交叉熵损失函数的计算公式如下:
其中,C为数据集的类别总数,pi为数据的真实类别,qi为模型的预测类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国矿业大学;徐州智汇谷数字产业研究院有限公司,未经中国矿业大学;徐州智汇谷数字产业研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310336850.8/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序