本发明涉及核电数据处理,尤其涉及一种核电数据完整性自校验方法。
背景技术:
1、核电工业互联网平台边缘侧接入并存储了电厂的海量时序数据,根据核电数据业务特点可以将时序数据划分为近实时数据和历史数据,其中,在将历史数据由边缘侧传输到中心侧的过程中往往会遇到数据不完整和不可靠的问题,具体而言,历史数据具有数据量大和时间跨度大的特点,由于历史传输链路较长和数据流转环节较多等原因,导致最终存储到核电工业互联网平台的数据存在不完整的问题,由于核电工业互联网平台中需要基于历史数据进行各项应用与分析,其对连续时间区间内的历史数据质量要求较高,否则会影响应用与分析的可靠性,为提高核电工业互联网平台中存储的海量历史数据的完整性与可靠性,故在历史数据存储至核电工业互联网平台后,核电工业互联网平台还设计了对有问题的历史数据进行补充采集的步骤以确保海量历史数据的完整性与可靠性。由于核电测点众多,每个测点每天采集的数据量通常为百条以上,历史数据总量通常达到十亿级别,因此如何从海量数据快速定位问题数据是亟需解决的问题。
技术实现思路
1、有鉴于此,有必要提供一种核电数据完整性自校验方法,用以解决核电平台中心侧处问题数据的快速定位问题。
2、本发明提供一种核电数据完整性自校验方法,判断当前的采集任务完成后,对所述采集任务中的每个子任务分别执行自校验检查,其中,每个所述子任务的自校验包括:
3、s1依据所述子任务中的测点范围与时间范围分别从目标数据库、源数据库获取对应的第一测点数据与第二测点数据;
4、s2依据数据类型不同,对所述第一测点数据与所述第二测点数据分别执行预处理的操作;
5、s3对经预处理后的所述第一测点数据与所述第二测点数据,分别依据预设的时间区间计算每个测点在所述时间区间对应第一特征值与第二特征值,其中,所述测点的数据类型不同,所述特征值不同设置;
6、s4比较同一时间区段的所述第一特征值与所述第二特征值以获取差异比较结果;
7、s5基于所述差异比较结果定位所述子任务中的问题数据,其中将存在差异的所述第二测点数据记为问题数据。
8、优选的,s2依据数据类型不同,对所述第一测点数据与所述第二测点数据分别执行预处理的操作包括:
9、若所述测点的数据类型为整数型,则对该测点中的全部所述测点值执行科学计数法转化后再执行去噪操作;
10、若所述测点的数据类型为开关量,则对该测点中的全部所述测点值执行取整操作;
11、若测点的数据类型为浮点,则对该测点中的全部所述数值执行去噪操作。
12、优选的,所述去噪操作为保留小数点后4位。
13、优选的,所述s3中,所述测点的数据类型不同,所述特征值不同设置包括:
14、若测点的数据类型为整数型,则第一特征值与第二特征值为方差;
15、若测点的数据类型为开关量,则所述第一特征值与第二特征值为sum;
16、若测点的数据类型为浮点型,则所述第一特征值与第二特征值为平均数。
17、优选的,所述s1执行之后,还包括按实际采集时间对齐所述第一测点数据与所述第二测点数据,其中,若存在时间未对齐的测点数据,则将时间未对齐的第二测点数据记为问题数据并转入s5处理;同时将其他时间对齐的第一测点数据与所述第二测点数据转入s2处理。
18、优选的,所述s5后还包括:s6基于所述问题数据为所述子任务生成补充采集任务的步骤,其中,当所述补充采集任务完成后,为所述补充采集任务获取的测点数据继续执行自校验检查,直至所述子任务自校验通过。
19、进一步的,对于每个子任务,执行首次自校验时,时间区间与实际采集时间频率相同设置,执行后续自校验时,所述时间区间不小于所述实际采集时间频率设置。
20、优选的,所述s3中,基于所述测点、所述时间区间以及所述第一特征值构建目标关系表,基于所述测点、所述时间区间以及所述第二特征值构成源数据关系表;s4中,比较所述目标关系表与所述源数据关系表以获取差异比较结果并构建差异表,所述差异表包括测点、时间区间以及差异比较结果。
21、优选的,所述自校验方法还包括校验完成表,所述校验完成表用于存储每个子任务自校验的完成结果,每个子任务自校验完成后,则将该子任务对应的校验值置为true,用于表征该子任务已完成自校验,否则,对应的子任务的校验值置为false;所述采集任务在执行自校验时,从所述校验完成表获取对应子任务的校验值,若所述子任务中对应的校验值为true,则跳过该子任务,执行下一个子任务的自校验。
22、本发明还提供了一种计算机设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现任一项的基于文件存储的核电历史数据对比方法的步骤。
23、本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现上述任一项一种基于文件存储的核电历史数据对比方法的步骤。
24、与现有技术相比,本发明的一种核电数据完整性自校验方法,针对不同类型的测点数据,分别采取不同的预处理步骤并对应设置不同特征值,然后基于特征值对比所获取的差异结果,从而实现快速且精准的获取问题数据,以提高中心侧的核电数据质量,确保中心侧核电数据的完整性。
1.一种核电数据完整性自校验方法,其特征在于,判断当前的采集任务完成后,对所述采集任务中的每个子任务分别执行自校验检查,其中,每个所述子任务的自校验包括:
2.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,s2依据数据类型不同,对所述第一测点数据与所述第二测点数据分别执行预处理的操作包括:
3.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,所述s3中,所述测点的数据类型不同,所述特征值不同设置包括:
4.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,所述s1执行之后,还包括按实际采集时间对齐所述第一测点数据与所述第二测点数据,其中,若存在时间未对齐的测点数据,则将时间未对齐的第二测点数据记为问题数据并转入s5处理;同时将其他时间对齐的第一测点数据与所述第二测点数据转入s2处理。
5.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,所述s5后还包括:s6基于所述问题数据为所述子任务生成补充采集任务的步骤,其中,当所述补充采集任务完成后,为所述补充采集任务获取的测点数据继续执行自校验检查,直至所述子任务自校验通过。
6.根据权利要求5所述的一种核电数据完整性自校验方法,其特征在于,对于每个子任务,执行首次自校验时,时间区间与实际采集时间频率相同设置,执行后续自校验时,所述时间区间不小于所述实际采集时间频率设置。
7.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,所述s3中,基于所述测点、所述时间区间以及所述第一特征值构建目标关系表,基于所述测点、所述时间区间以及所述第二特征值构建源数据关系表;s4中,比较所述目标关系表与所述源数据关系表以获取差异比较结果并构建差异表,所述差异表包括测点、时间区间以及差异比较结果。
8.根据权利要求1所述的一种核电数据完整性自校验方法,其特征在于,
9.一种计算机设备,其特征在于:包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1至8任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现权利要求1至8任一项所述方法的步骤。
