所属的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。本公开实施例提供了一种电子设备,示例性地,该电子设备包括:处理器与存储器。该存储器可以用于存储处理器的可执行指令。其中,处理器配置为经由执行上述可执行指令来本公开实施例提供的数据质量智能稽核方法。下面参照图10来描述根据本公开的这种实施方式的电子设备1000。图10显示的电子设备1000仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图10所示,电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于:至少一个处理单元1010、至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030。其中,该存储单元存储有程序代码,该程序代码可以被该处理单元1010执行,使得该处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,该处理单元1010可以执行上述方法实施例的如下步骤:对待稽核的网络数据进行采集,网络数据中包括数据计算过程中至少一个阶段的计算得到的文件;通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核;将各个阶段中满足数据质量稽核条件的网络数据作为标杆数据。存储单元1020可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)10201和/或高速缓存存储单元10202,还可以进一步包括只读存储单元(rom)10203。存储单元1020还可以包括具有一组(至少一个)程序模块10205的程序/实用工具10204,这样的程序模块10205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。总线1030可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。电子设备1000也可以与一个或多个外部设备1040(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备1000交互的设备通信,和/或与使得该电子设备1000能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口1050进行。并且,电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器1060通过总线1030与电子设备1000的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备1000使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机程序产品,该计算机程序产品包括:计算机程序,该计算机程序被处理器执行时实现上述数据质量智能稽核方法。在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时可以实现本公开实施例提供的数据质量智能稽核方法。该计算机可读存储介质可以是可读信号介质或者可读存储介质。图11示出本公开实施例中一种计算机可读存储介质示意图,如图11所示,该计算机可读存储介质1100上存储有能够实现本公开上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当该程序产品在终端设备上运行时,该程序代码用于使该终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。本公开中的计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可选地,计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。在具体实施时,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,该程序设计语言包括面向对象的程序设计语言—诸如java、c++等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。通过以上实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围由所附的权利要求指出。
背景技术:
1、数据质量稽核是对数据生命周期中的数据计算过程进行数据质量校验控制。在无线网络端到端数据可视化呈现过程中,从话单层到中间层最终到达应用层的过程中,需要经过多个阶段的计算才能得到最终结果。对每一阶段的网络数据进行数据质量稽核,都是为下一阶段计算的保障,也是最终数据呈现的保障。
2、在相关技术中,可以对各个阶段、各个维度的网络数据分别进行定制化的稽查方法。在完整的数据计算过程下,相关技术提供的稽核方法耗时长,计算成本高,同时扩展性较差,需对不同数据做定制化需求。因此,目前亟需一种数据质量稽核方法,能够基于一个完备体系对各个阶段的不同维度的数据进行稽查,提高稽查效率与扩展性,并降低计算成本。
3、需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
技术实现思路
1、本公开提供一种数据质量智能稽核方法、系统、电子设备及存储介质,至少在一定程度上克服相关技术耗时长,计算成本高,同时扩展性较差,需对不同数据做定制化需求的问题。
2、本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
3、根据本公开的一个方面,提供了一种数据质量智能稽核方法,包括:对待稽核的网络数据进行采集,网络数据中包括数据计算过程中至少一个阶段的计算得到的文件;通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核;将各个阶段中满足数据质量稽核条件的网络数据作为标杆数据。
4、在一些实施例中,当通过稽查模型对第i阶段的网络数据进行及时性维度的数据质量稽核时,网络数据包括第i阶段的计算开始时间和计算结束时间,i为正整数;其中,通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核,包括:确定第i阶段对应的时间预测区间,时间预测区间用于描述第i阶段计算预计完成的时间范围;根据计算开始时间、计算结束时间与时间预测区间,确定第i阶段的数据及时率;若第i阶段的数据及时率小于及时性阈值,则确定第i阶段的网络数据满足及时性维度下的数据质量稽核条件。
5、在一些实施例中,确定第i阶段对应的时间预测区间,包括:获取预先存储的历史标杆数据;根据历史标杆数据中第i阶段的计算开始时间、计算结束时间、需处理的数据文件大小、文件总数量、集群平均压力中的至少一个,确定第i阶段的时间预测区间。
6、在一些实施例中,根据计算开始时间、计算结束时间与时间预测区间,确定第i阶段的数据及时率,包括:根据计算开始时间和计算结束时间,确定第i阶段内采集到的总文件数以及第i阶段内每个文件的结束时间;根据总文件数以及每个文件的结束时间,确定在时间预测区间内生成的文件数;根据总文件数与在时间预测区间内生成的文件数,确定第i阶段的数据及时率。
7、在一些实施例中,当通过稽查模型对第i阶段的网络数据进行完整性维度的数据质量稽核时,网络数据包括第i阶段生成文件的大小与空值率;其中,通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核,包括:确定第i阶段对应的文件完整性预测区间与记录完整性预测区间,文件完整性预测区间用于描述第i阶段生成文件的预计大小范围,记录完整性预测区间用于描述数据内部空值率的预计区间;根据文件完整性预测区间确定第i阶段生成文件的文件完整率,并根据记录完整性预测区间确定第i阶段生成文件的记录完整率;若第i阶段生成文件的文件完整率小于文件完整率阈值且记录完整率小于记录完整率阈值,则确定第i阶段的网络数据满足完整性维度下的数据质量稽核条件。
8、在一些实施例中,确定第i阶段对应的文件完整性预测区间与记录完整性预测区间,包括:获取预先存储的历史标杆数据;根据历史标杆数据中第i阶段的参与计算的文件的大小、参与计算的数据特征数量、参与计算的文件数量以及待校验文件的特征数量中的至少一个,确定第i阶段的文件完整性预测区间;根据历史标杆数据中第i阶段对应的空值率,确定第i阶段对应的记录完整性预测区间。
9、在一些实施例中,当通过稽查模型对第i阶段的网络数据进行准确性维度的数据质量稽核时,通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核,包括:确定第i阶段对应的至少一个检测类型;确定至少一个检测类型对应的合理值范围,其中任一检测类型对应一个合理值范围;根据第i阶段的网络数据中满足相应检测类型的合理值范围的文件,得到满足准确性维度下的数据质量稽核条件的第i阶段的网络数据。
10、在一些实施例中,数据质量智能稽核方法,还包括:对标杆数据以及异常数据分别进行存储,其中异常数据为将各个阶段中不满足数据质量稽核条件的网络数据,标杆数据用于对稽查模型进行迭代训练。
11、根据本公开的另一个方面,还提供了一种数据质量智能稽核系统,系统包括第一服务器与第二服务器;第一服务器,用于对待稽核的网络数据进行采集;调用第二服务器中的稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核;将各个阶段中满足数据质量稽核条件的网络数据作为标杆数据;第二服务器,用于获取标杆数据,通过标杆数据对稽查模型进行迭代更新。
12、根据本公开的另一个方面,还提供了一种数据质量智能稽核装置,该装置包括:
13、采集网络数据模块,用于进行对待稽核的网络数据进行采集,网络数据中包括数据计算过程中至少一个阶段的计算得到的文件;
14、数据质量稽核模块,用于通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核;
15、标杆数据确定模块,用于将各个阶段中满足数据质量稽核条件的网络数据作为标杆数据。
16、根据本公开的另一个方面,还提供了一种电子设备,该电子设备包括:处理器;以及存储器,用于存储该处理器的可执行指令;其中,该处理器配置为经由执行该可执行指令来执行上述任意一项的数据质量智能稽核方法。
17、根据本公开的另一个方面,还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述任意一项的数据质量智能稽核方法。
18、根据本公开的另一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。电子设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该电子设备执行本公开任一实施例中的各种可选方式中提供的数据质量智能稽核方法。
19、本公开实施例提供的技术方案,可以通过及时性、完整性和准确性中至少一个维度的数据质量稽核,对各个阶段的数据进行数据质量稽查,因此本公开可以避免对单一文件进行定制化稽查,可以提高数据质量稽查的效率与扩展性,降低计算成本,并提高数据质量稽查的准确性与可靠性。
20、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
1.一种数据质量智能稽核方法,其特征在于,包括:
2.根据权利要求1所述的数据质量智能稽核方法,其特征在于,当通过所述稽查模型对第i阶段的网络数据进行及时性维度的数据质量稽核时,所述网络数据包括第i阶段的计算开始时间和计算结束时间,i为正整数;
3.根据权利要求2所述的数据质量智能稽核方法,其特征在于,所述确定所述第i阶段对应的时间预测区间,包括:
4.根据权利要求2或3所述的数据质量智能稽核方法,其特征在于,所述根据所述计算开始时间、所述计算结束时间与所述时间预测区间,确定所述第i阶段的数据及时率,包括:
5.根据权利要求1至3中任意一项所述的数据质量智能稽核方法,其特征在于,当通过所述稽查模型对第i阶段的网络数据进行完整性维度的数据质量稽核时,所述网络数据包括第i阶段生成文件的大小与空值率;
6.根据权利要求5所述的数据质量智能稽核方法,其特征在于,所述确定所述第i阶段对应的文件完整性预测区间与记录完整性预测区间,包括:
7.根据权利要求1至3中任意一项所述的数据质量智能稽核方法,其特征在于,当通过所述稽查模型对第i阶段的网络数据进行准确性维度的数据质量稽核时,所述通过稽查模型对各个阶段的网络数据分别进行及时性、完整性和准确性中至少一个维度的数据质量稽核,包括:
8.根据权利要求1至3中任意一项所述的数据质量智能稽核方法,其特征在于,所述方法还包括:
9.一种数据质量智能稽核系统,其特征在于,所述系统包括第一服务器与第二服务器:
10.一种电子设备,其特征在于,包括:
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~8中任意一项所述的数据质量智能稽核方法。
12.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机指令,所述计算机指令存储在计算机可读存储介质中,电子设备的处理器从所述计算机可读存储介质读取所述计算机指令,所述处理器执行所述计算机指令,使得所述电子设备执行如权利要求1~8中任意一项所述的数据质量智能稽核方法。
