[发明专利]一种基于时序图像化和VIT的时间序列分类方法在审
申请号: | 202310336850.8 | 申请日: | 2023-03-31 |
公开(公告)号: | CN116416467A | 公开(公告)日: | 2023-07-11 |
发明(设计)人: | 王珂;杨思栋 | 申请(专利权)人: | 中国矿业大学;徐州智汇谷数字产业研究院有限公司 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/30;G06V10/20;G06V10/82;G06V10/44 |
代理公司: | 徐州创荣知识产权代理事务所(普通合伙) 32353 | 代理人: | 韦洲 |
地址: | 22100*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 时序 图像 vit 时间 序列 分类 方法 | ||
本发明公开了一种基于时序图像化和VIT的时间序列分类方法,通过奇异值分解方法去除时间序列内部的噪声;使用不平衡因子法将时间序列转换为IFS图像并采用双感知机采样法规整IFS图像的分辨率;利用轻量卷积令牌模块提取时间序列的局部信息作为VIT模型的令牌;将IFS图像和卷积令牌输入到视觉自注意力(VIT,Vision Transformer)模型之中进行注意力分配;利用Adam优化器对分类损失进行优化;使用训练好的模型对测试集进行分类。
技术领域
本发明属于时间序列分类领域,具体涉及一种基于时序图像化和VIT的时间序列分类方法。
背景技术
时间序列是以时间为次序,记录系统过程状态的一组观测值,以观测值随时间的变化刻画系统的运动与发展,是现实诸多领域数据最为普遍的存在方式。时间序列分类(TSC,Time Series Classification)是时间序列分析的一个重要分支,目的在于根据已标记的多条历史时间序列训练出一个分类器,并利用该分类器对未来的时间序列进行识别。与传统分类的区别在于,除去每个属性点的特征值以外,次序在分类中也有着至关重要的作用,这也是此种分类问题的一大特殊挑战。20世纪80年代以来,对时间序列准确分类的需求随着世界信息化的不断深入愈发迫切,为此Dau等人建立UCR(University ofCalifornia)数据集供各大研究人员研究,为解决时间序列分类问题提供了数据基础。
近年来,随着计算能力的提升,深度学习得到了极大的发展,也是诸多学者的研究方向,其中图像领域又受到大部分学者的青睐,图像领域的深度学习模型发展得十分成熟。因此,将一维时间序列二维化为图像,再利用成熟的图像识别模型进行分类,以此解决时间序列分类问题成为新思路,同时也具备可行性。但该方向的研究较少,且分类准确率无法满足实际需要。
发明内容
鉴于以上问题,本发明提出了一种基于时序图像化和VIT的时间序列分类方法,使用不平衡因子法丰富转换图像的特征,结合视觉自注意力模型进行转换图像的识别,自注意力机制提取了图像的全局语义信息,轻量卷积令牌模块的存在又以较低的代价增加了模型的局部表征能力,综合多方面优势提高了时间序列分类的准确率,使得图像视角下的时间序列分类的准确率达到先进。
基于时序图像化和VIT的时间序列分类方法步骤如下:
步骤一、对时间序列进行预处理操作,利用奇异值分解法将时间序列内部所蕴含的噪声去除。
步骤二、基于不平衡因子法的原理将步骤一处理后的时间序列转换为二维的IFS图像,再利用双感知机采样法分别对转换的IFS图像的长和宽分别进行规整操作。
步骤三、使用轻量卷积令牌模型在较低参数量和计算量的情况下提取步骤一处理后时间序列的局部特征信息,将信息作为VIT模型的令牌。
步骤四、将步骤二中规整的IFS图像和步骤三中的令牌输入到VIT模型中进行注意力分配操作,对分配完成的信息进行聚合操作,得到模型对于训练集的预测。
步骤五、使用交叉熵损失函数衡量预测值与目标值之间的差距,利用Adam优化器对分类损失值进行优化。
步骤六、使用步骤五优化好的模型对测试集进行预测。
进一步,步骤二中,不平衡因子法的具体实现步骤如下:
1)将去噪后的时间序列转换为差值像素矩阵;
2)对像素矩阵使用参数进行扰动,打破像素矩阵的平衡性;
3)将像素矩阵对角线的常数项填充为原始时间序列
进一步,1)中,具体的实现公式如下:
其中,x为去噪后时间序列的元素值,n为时间序列的长度,像素矩阵的大小为n×n。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国矿业大学;徐州智汇谷数字产业研究院有限公司,未经中国矿业大学;徐州智汇谷数字产业研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310336850.8/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序