首页  专利技术  电子电路装置的制造及其应用技术

一种应用MHAGRU-MCCE的单变量时间序列分类方法

2026-05-14 11:40:01 48次浏览
一种应用MHAGRU-MCCE的单变量时间序列分类方法

本发明涉及深度学习、人工智能技术、单变量时间序列分类领域,尤其涉及一种应用mhagru-mcce(multi-head attention mechanism based gru-multi-scaleconditional convolution and enhancement,多头注意力门控循环单元与多尺度条件卷积增强模型)的单变量时间序列分类方法。


背景技术:

1、时间序列作为一种常见的数据载体、按时间先后顺序进行排列的数据点集合,广泛存在于工业生产、环境监测、医疗健康等现实领域,对其数据挖掘非常重要,时间序列分类tsc是核心任务之一,基于时序数据所包含特征信息分析将时间序列准确划分到预先定义的类别标签中。在单变量tsc任务中,有效利用时间序列的多尺度特征、时间依赖特征对提高分类准确率至关重要。针对现有模型在综合利用多尺度特征、时间依赖特征方面局限。

2、本发明提出一种应用mhagru-mcce的单变量时间序列分类方法。该方法能综合提取和处理时间序列中的多尺度特征及时间依赖特征,通过新颖的模型结构设计,显著提升tsc准确性。在单变量时间序列分类方法领域,现有相似专利如cn114722990a、cn110119760b、cn113035361a等:

3、上述具体专利对比文件为:

4、1)、“一种基于sam-bilstm时间序列分类方法”,专利号cn114722990a。该方法公开了一种基于sam-bilstm时间序列分类方法,包括以下步骤:获取一维时间序列数据集并对一维时间序列数据集进行归一化处理;构造基于sam-bilstm时间序列分类网络模型;通过训练好的基于sam-bilstm时间序列分类模型对待测的一维时间序列数据进行特征提取输出时间序列分类结果。本发明将单变量时间序列输入结合多头注意力机制mha优化的gru序列处理支路,其由多头注意力机制mha和gru串联而成,提取时间依赖特征,与上述发明中使用sam-bilstm提取时间依赖特征的方法不同。

5、2)、“一种基于层次化多尺度循环神经网络的序列分类方法”,专利号cn110119760b。该方法公开了一种基于层次化多尺度循环神经网络的序列分类方法,包括以下步骤:输入一段序列,将其划分为多个等长的子序列;按照子序列顺序构建多个金字塔结构,每个金字塔接收一段子序列作为输入,产生位于塔底的隐藏状态和位于各层级的层次化聚合状态,每个金字塔塔顶的聚合状态作为下一个子金字塔塔底的输入;将所有金字塔塔顶的聚合状态通过跳跃连接迭代地聚合得到该层的输出;利用低层所有金字塔产生的不同尺度的层次化聚合状态序列作为高层的输入来构造多层的循环神经网络,产生每一层的输出;聚合每一层的输出得到多尺度融合特征;最后基于该特征采用一个softmax层对序列做分类。本发明将单变量时间序列输入基于mcce的残差结构支路,其由多尺度条件卷积增强残差块mcce resbolck、最大池化层、全局平均池化层组成,mcce resbolck由2个多尺度条件卷积增强模块mcce堆叠残差连接而成,提取多尺度特征,与上述发明中利用金字塔结构提取多尺度特征的方法不同。

6、3)、“一种基于数据增强的神经网络时间序列分类方法”,专利号cn113035361a。该方法公开了一种基于数据增强的神经网络时间序列分类方法,首先,对时间序列数据集进行预处理;其次,选择合适的参数α对训练数据进行mixup数据增强,增强后的数据用于模型训练;接着,构建lstm-fcn时间序列分类网络模型;最后,以交叉熵函数作为损失函数,使用反向传播和梯度下降算法adam训练lstm-fcn网络。本发明公开的mhagru-mcce混合模型,由基于多尺度条件卷积增强模块mcce的残差结构支路、结合多头注意力机制mha优化的gru序列处理支路及特征融合与输出块部分组成,与上述发明中采用mixup数据增强优化lstm-fcn模型的方法不同。


技术实现思路

1、为解决上述技术问题,本发明的目的是提供一种应用mhagru-mcce的单变量时间序列分类方法。

2、本发明的目的通过以下的技术方案来实现:

3、一种应用mhagru-mcce的单变量时间序列分类方法,包括:

4、a、获取单变量时间序列数据集;

5、b、将单变量时间序列输入残差结构支路,提取多尺度特征;

6、c、将单变量时间序列输入gru序列处理支路,提取时间依赖特征;

7、d、将多尺度特征、时间依赖特征输入特征融合与输出块,输出分类结果,构建mhagru-mcce混合模型;

8、e、训练构建的mhagru-mcce混合模型,并通过评价指标评估mhagru-mcce混合模型的性能。

9、与现有技术相比,本发明的一个或多个实施例可以具有如下优点:

10、通过基于多尺度条件卷积增强模块mcce的残差结构支路,能够有效提取时间序列数据中的多尺度特征,提高特征提取的丰富性和准确性;结合多头注意力机制mha优化的gru序列处理支路,能够充分捕捉时间序列数据的时间依赖特征,提高模型对时间序列数据的理解能力;通过特征融合与输出块的设计,将多尺度特征与时间依赖特征有效融合,构建的mhagru-mcce混合模型在分类性能有显著提升;本发明的方法可应用于各种单变量时间序列分类任务,具有广泛的应用前景。



技术特征:

1.一种应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述方法包括:

2.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤a中,获取单变量时间序列数据集,选择单变量时间序列分类领域的85个ucr单变量时间序列数据集,所述数据集划分为训练集和测试集。

3.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤b中,所述残差结构支路为基于多尺度条件卷积增强模块mcce的残差结构支路;基于mcce的残差结构支路,由多尺度条件卷积增强残差块mcce resbolck、最大池化层、全局平均池化层组成,其中mcce resbolck由两个多尺度条件卷积增强模块mcce堆叠残差连接而成。

4.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤b中,多尺度条件卷积增强模块mcce由多尺度条件卷积块mccb和增强块eb串联而成。

5.如权利要求4所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤b中,多尺度条件卷积块mccb由三个独立并行条件卷积层condconv、特征融合层、批量归一化层和relu激活函数组成,用于处理并优化输入特征;其中条件卷积condconv为多尺度条件卷积块mccb的核心块,所述条件卷积condconv先对输入数据x经过由最大池化gap、全连接fc和sigmoid函数组成的路由函数r(x)处理,再生成动态调整权重参数ai控制多组卷积核wi的动态组合,计算方式如下:

6.如权利要求4所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤b中,增强块eb由全局平均池化层gap、两层全连接层fc组成,用于进一步增强并调整特征表示;多尺度条件卷积块mccb输出特征y经gap得到时序数据特征图全局信息其中特征图长度为lf,系列特征元素yn(i)融合后特征元素表示为第一层fc利用降维系数r将特征图维度降低至原始输入、用relu激活函数增加非线性处理,第二层fc进行升维操作恢复至原始维度、使用sigmoid函数计算每个特征通道的权重s;增强块eb输出权重s与多尺度条件卷积块mccb输出特征y进行逐通道加权得到增强后输出z,计算过程如下:

7.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤c中,所述gru序列处理支路为结合多头注意力机制mha优化的gru序列处理支路,其由多头注意力机制mha和gru串联而成。

8.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤d中,特征融合与输出块由特征融合层、softmax函数组成;特征融合concat用于融合来自提取的多尺度特征和提取的时间依赖特征,softmax函数用于计算各类别的概率并输出分类结果,完成mhagru-mcce混合模型的构建。

9.如权利要求1所述的应用mhagru-mcce的单变量时间序列分类方法,其特征在于,所述步骤e中,使用交叉熵损失函数训练构建的mhagru-mcce混合模型,并通过平均准确率ma、类别平均准确率mpca指标评估mhagru-mcce混合模型性能;ma、mpca计算方式如下:


技术总结
本发明公开了一种应用MHAGRU‑MCCE的单变量时间序列分类方法,该方法包括:获取单变量时间序列数据集;将单变量时间序列输入残差结构支路,提取多尺度特征;将单变量时间序列输入GRU序列处理支路,提取时间依赖特征;将多尺度特征、时间依赖特征输入特征融合与输出块,输出分类结果,构建MHAGRU‑MCCE混合模型;训练构建的MHAGRU‑MCCE混合模型,并通过评价指标评估MHAGRU‑MCCE混合模型的性能。该方法显著提升了单变量时间序列分类的准确性,适用于各种单变量时间序列分类任务,具有广泛的应用前景。

技术研发人员:刘桂雄,林泓,戈燕红,崔怀丰
受保护的技术使用者:华南理工大学
技术研发日:
技术公布日:2024/11/28
文档序号 : 【 40163970 】

技术研发人员:刘桂雄,林泓,戈燕红,崔怀丰
技术所有人:华南理工大学

备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
刘桂雄林泓戈燕红崔怀丰华南理工大学
一种抗拔桩轴力修正计算方法及测试装置与流程 一种用于施工设备的换电方法、装置、设备及介质与流程
相关内容