时序数据自适应动态采样方法、装置、设备、介质及产品与流程

本发明实施例涉及数据采集与处理,尤其涉及一种时序数据自适应动态采样方法、装置、设备、介质及产品。
背景技术:
1、在现代工业、环境监测、物联网等领域,时序数据采集是实现系统监控、数据分析和智能决策的基础。然而,受限于传感器采样能力、数据传输带宽和存储空间等等,无法对时序数据进行高频、连续的全量采样,同时随着数据量的快速增长和实时处理需求的增加,传统的采样方法面临诸多挑战。
2、如传统的固定频率采样方法在时序数据采集中被广泛应用,这种方法无论数据变化为何种状态,均会按照预定的固定频率进行采样。这种一刀切的采样策略无法动态适应数据的特征,可能导致过度采样或不足采样的问题。过度采样不仅会增加数据存储和传输的负担,还会浪费计算资源,而不足采样则可能遗漏关键数据变化,从而影响数据分析和决策的准确性。
3、面对固定频率采样方法所面临的问题,逐渐开始对自适应采样方法进行研究,以尝试通过调整采样频率来应对数据的变化。但是目前的自适应采样方法需要通过实时分析数据特征来调整采样策略,通常需要大量的计算资源。虽然在一定程度上解决了固定频率采样方法的缺陷,但是计算复杂度高,实现难度大,在数据变化剧烈时采样精度仍可能不足。因此现有的采样方法均难以在采样精度与采样效率之间取得平衡。
技术实现思路
1、本发明实施例提供一种时序数据自适应动态采样方法、装置、设备、介质及产品,以解决传统采样方法在精度和效率之间的权衡问题,提高系统性能和资源利用率。
2、第一方面,本发明实施例提供了一种时序数据自适应动态采样方法,该方法包括:
3、根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数;
4、根据所述拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,得到采样数据。
5、可选的,所述根据所述拟合函数实时调整当前采样频率,包括:
6、实时根据所述拟合函数确定当前数据变化率;
7、实时根据当前数据变化率更新当前采样频率。
8、可选的,所述根据所述拟合函数实时调整当前采样频率,还包括:
9、实时根据所述拟合函数的当前拟合误差更新当前采样频率。
10、可选的,在所述根据历史时序数据对选定的目标拟合模型进行训练之前,还包括:
11、基于所述历史时序数据的数据特性、拟合模型的拟合精度和/或系统可用计算资源,根据待选拟合模型确定所述目标拟合模型;所述待选拟合模型包括线性模型、多项式模型、指数模型、样条插值模型以及机器学习模型中的至少一种。
12、可选的,所述根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数,包括:
13、基于时间窗口或系统驱动事件对所述历史时序数据进行分段;
14、根据每段数据分别对各段对应的目标拟合模型单独进行拟合训练,以分别得到每段数据的拟合函数。
15、可选的,在所述根据所述拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,得到采样数据之后,还包括:
16、根据所述采样数据的采样频率和/或重要等级,采用有损压缩算法或无损压缩算法对所述采样数据进行压缩;
17、按照预设数据存储格式对压缩后数据进行存储。
18、第二方面,本发明实施例还提供了一种时序数据自适应动态采样装置,该装置包括:
19、拟合函数生成模块,用于根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数;
20、采样频率调整模块,用于根据所述拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,得到采样数据。
21、第三方面,本发明实施例还提供了一种计算机设备,该计算机设备包括:
22、一个或多个处理器;
23、存储器,用于存储一个或多个程序;
24、当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明任意实施例所提供的时序数据自适应动态采样方法。
25、第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本发明任意实施例所提供的时序数据自适应动态采样方法。
26、第五方面,本发明实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该程序被处理器执行时实现本发明任意实施例所提供的时序数据自适应动态采样方法。
27、本发明实施例提供了一种时序数据自适应动态采样方法,首先根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数,然后在需要进行采样时,根据得到的拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,从而得到采样数据。本发明实施例所提供的时序数据自适应动态采样方法,通过基于数据拟合动态调整采样策略,可以实现对高频率且大规模的时序数据在有限的计算和存储资源的情况下精确且高效的进行采样,在保证数据采样准确性和代表性的前提下,减少冗余采样,从而显著减少了采样点数量,降低了数据计算、存储和传输的资源消耗,提升了系统整体性能和资源利用效率。而且适用范围广泛,可适用于多种应用场景,尤其是在对采样精度和资源利用效率要求较高的工业监控和环境监测等领域,效果尤为显著,因此具有广泛的应用前景和重要的现实意义。
技术特征:
1.一种时序数据自适应动态采样方法,其特征在于,包括:
2.根据权利要求1所述的时序数据自适应动态采样方法,其特征在于,所述根据所述拟合函数实时调整当前采样频率,包括:
3.根据权利要求2所述的时序数据自适应动态采样方法,其特征在于,所述根据所述拟合函数实时调整当前采样频率,还包括:
4.根据权利要求1所述的时序数据自适应动态采样方法,其特征在于,在所述根据历史时序数据对选定的目标拟合模型进行训练之前,还包括:
5.根据权利要求1所述的时序数据自适应动态采样方法,其特征在于,所述根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数,包括:
6.根据权利要求1所述的时序数据自适应动态采样方法,其特征在于,在所述根据所述拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,得到采样数据之后,还包括:
7.一种时序数据自适应动态采样装置,其特征在于,包括:
8.一种计算机设备,其特征在于,包括:
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一所述的时序数据自适应动态采样方法。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序在被处理器执行时实现如权利要求1-6中任一所述的时序数据自适应动态采样方法。
技术总结
本发明公开了一种时序数据自适应动态采样方法、装置、设备、介质及产品。该方法包括:根据历史时序数据对选定的目标拟合模型进行训练,以生成拟合函数;根据所述拟合函数实时调整当前采样频率,并实时根据当前采样频率进行采样,得到采样数据。本发明所提供的技术方案,通过基于数据拟合动态调整采样策略,可以实现对高频率且大规模的时序数据在有限的计算和存储资源的情况下精确且高效的进行采样,在保证数据采样准确性和代表性的前提下,减少冗余采样,从而显著减少了采样点数量,降低了数据计算、存储和传输的资源消耗,提升了系统整体性能和资源利用效率。
技术研发人员:郭为民,佘平,李炳楠,朱峰,张广涛,李铁军,饶德备,窦晨丹,李增学,周杰,董灿彬,黎盛鸣
受保护的技术使用者:润电能源科学技术有限公司
技术研发日:
技术公布日:2024/12/10
技术研发人员:郭为民,佘平,李炳楠,朱峰,张广涛,李铁军,饶德备,窦晨丹,李增学,周杰,董灿彬,黎盛鸣
技术所有人:润电能源科学技术有限公司
备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明 :此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
