本发明涉及大数据处理,尤其涉及大数据智能归集分析方法、系统、电子设备和存储介质。
背景技术:
1、随着新一代信息技术迅速地发展,大数据、物联网、人工智能等技术被广泛应用于各行各业。不同企事业单位产生的信息资源总量以惊人的速度增长,然而不同部门之间数据来源多样,大多来自于不同的系统、平台和设备,数据之间存在异构性。在公共数据开发共享的场景下,多源异构数据在实际使用中存在难以实现信息共享、不同部门间数据存在隔离、数据归集不及时等问题。
2、尤其是在数据归集方面,数据资源整合和开发利用是必然的趋势,然而,数据源的多源异构性导致了数据归集过程复杂,数据归集效率偏低。
技术实现思路
1、有鉴于此,本发明提供大数据智能归集分析方法、系统、电子设备和存储介质,在实现对多数据源、多数据类型、多数据结构的待归集数据进行归集的同时,可以提高数据归集的效率。
2、本发明主要包括以下几个方面的技术方案:
3、第一方面,提供大数据智能归集分析方法,应用于大数据智能归集分析系统,包括:
4、针对来自多个数据源的待归集数据,按照所述待归集数据的数据结构对所述待归集数据进行分类,得到分类后的待归集数据;分类后的待归集数据包括结构化数据、半结构化数据和非结构化数据;
5、针对任一所述数据结构对应的待归集数据,基于所述数据结构对应的待归集数据的数据特征,确定与所述数据结构相匹配的目标xml描述文件;所述目标xml描述文件是对所述数据结构对应的待归集数据的数据归集逻辑进行描述的文件;不同的数据结构采用不同的目标xml描述文件;
6、确定与所述数据结构的目标xml描述文件对应的目标归集算法;不同的所述目标xml描述文件对应不同的目标归集算法;
7、针对任一所述数据结构对应的待归集数据,通过所述数据结构对应的所述目标xml描述文件和所述目标归集算法,对所述数据结构对应的待归集数据进行数据归集。
8、第二方面,还提供大数据智能归集分析系统,所述大数据智能归集分析系统包括数据结构划分模块、描述文件生成模块、归集算法生成模块和数据归集模块;
9、其中:
10、所述数据结构划分模块,用于针对来自多个数据源的待归集数据,按照所述待归集数据的数据结构对所述待归集数据进行分类,得到分类后的待归集数据;分类后的待归集数据包括结构化数据、半结构化数据和非结构化数据;
11、所述描述文件生成模块,用于针对任一所述数据结构对应的待归集数据,基于所述数据结构对应的待归集数据的数据特征,确定与所述数据结构相匹配的目标xml描述文件;所述目标xml描述文件是对所述数据结构对应的待归集数据的数据归集逻辑进行描述的文件;不同的数据结构采用不同的目标xml描述文件;
12、所述归集算法生成模块,用于确定与所述数据结构的目标xml描述文件对应的目标归集算法;不同的所述目标xml描述文件对应不同的目标归集算法;
13、所述数据归集模块,用于针对任一所述数据结构对应的待归集数据,通过所述数据结构对应的所述目标xml描述文件和所述目标归集算法,对所述数据结构对应的待归集数据进行数据归集。
14、第三方面,还提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过所述总线进行通信,所述机器可读指令被所述处理器运行时执行上述大数据智能归集分析方法的步骤。
15、第四方面,还提供了一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述大数据智能归集分析方法的步骤。
16、本方案的有益效果是:
17、本大数据智能归集分析方法通过针对多源异构数据的数据特征,设计不同数据结构的数据归集过程的 xml 描述文件,并设计与之对应的归集算法,与相关技术中的数据源的多源异构性导致了数据归集过程复杂,数据归集效率偏低相比,本发明实施例在实现对多数据源、多数据类型、多数据结构的待归集数据进行归集的同时,可以提高数据归集的效率。
1.一种大数据智能归集分析方法,其特征在于,包括:
2.根据权利要求1所述的大数据智能归集分析方法,其特征在于,对于所述待归集数据中的结构化数据,所述目标xml描述文件包括结构化xml描述文件;基于所述数据结构对应的待归集数据的数据特征,确定与所述数据结构相匹配的目标xml描述文件,包括:
3.根据权利要求2所述的大数据智能归集分析方法,其特征在于,对于所述待归集数据中的结构化数据,通过所述结构化数据的数据结构对应的所述目标xml描述文件和所述目标归集算法,对所述数据结构对应的待归集数据进行数据归集,包括:
4.根据权利要求3所述的大数据智能归集分析方法,其特征在于,还包括:
5.根据权利要求1所述的大数据智能归集分析方法,其特征在于,对于所述待归集数据中的半结构化数据,所述目标xml描述文件包括半结构化xml描述文件;基于所述数据结构对应的待归集数据的数据特征,确定与所述数据结构相匹配的目标xml描述文件,包括:
6.根据权利要求5所述的大数据智能归集分析方法,其特征在于,对于所述待归集数据中的半结构化数据,对所述数据结构对应的待归集数据进行数据归集,包括:
7.根据权利要求1所述的大数据智能归集分析方法,其特征在于,在对所述数据结构对应的待归集数据进行数据归集之后,还包括:
8.一种大数据智能归集分析系统,其特征在于,应用于分布式架构,所述大数据智能归集分析系统包括数据结构划分模块、描述文件生成模块、归集算法生成模块和数据归集模块;
9.电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过所述总线进行通信,所述机器可读指令被所述处理器运行时执行如权利要求1至7任一所述的大数据智能归集分析方法的步骤。
10.存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至7任一所述的大数据智能归集分析方法的步骤。
