一种数据处理任务的调度方法、装置和系统与流程

专利2022-05-09  6



1.本发明涉及计算机技术领域,尤其涉及一种数据处理任务的调度方法、装置和系统。


背景技术:

2.大数据系统一般都具有数据存储量大、数据存储结构复杂等特点,相应地数据处理任务量大,执行周期各异,且部分数据处理任务之间具有依赖关系即下游数据处理任务以来上游数据处理任务的执行结果,因而为提高数据处任务的执行效率,需要对数据处理任务进行合理的调度及分配。目前,数据处理任务调度多是通过简单的串行、定时技术来实现,如buffalo任务调度系统。
3.但现有的数据处理任务调度方法无法配置不同执行周期的数据处理任务之间的依赖关系,导致不同执行周期的任务与其他具有依赖关系的任务脱离,且无法实时并行运行多个不同执行周期的任务。为实现不同执行周期的依赖关系,则需要重新开发一套新的任务,增加了开发成本,降低了任务的执行效率。除此之外,在通过串行方式配置任务之间的依赖关系的情况下,上游任务未开始执行或未执行结束,下游任务无法开始执行,进而延长了任务的总执行时间,降低了数据处理任务的执行效率。


技术实现要素:

4.有鉴于此,本发明提供一种数据处理任务的调度方法、装置和系统,该任务调度方法,不仅能够实现并行执行多种不同执行周期的任务,还可以根据实际需求触发具有依赖关系的不同执行周期的任务,降低了具有依赖关系的任务等待执行的时间,减少了数据处理任务的总执行时间,提高了任务的执行效率。
5.为实现上述目的,根据本发明的第一方面,提供了一种数据处理任务的调度方法,包括:
6.获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;
7.根据所述执行顺序,确定每一个所述数据处理任务对应的执行时间;
8.将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
9.可选地,还包括:接收所述消息监听器返回的所述数据处理任务的执行结果。
10.可选地,在所述数据处理任务执行失败的情况下,
11.发送所述数据处理任务执行失败警报;和/或
12.尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。
13.可选地,使用时间表达式表示所述执行时间。
14.为实现上述目的,根据本发明的第二方面,提供了一种数据处理任务的调度装置,包括:任务调度模块、消息发送模块;其中,
15.所述任务调度模块,用于获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序确定每一个所述数据处理任务对应的执行时间;
16.所述消息发送模块,用于将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
17.可选地,所述任务调度模块,还用于接收所述消息监听器返回的所述数据处理任务的执行结果。
18.可选地,在所述数据处理任务执行失败的情况下,所述任务调度模块,还用于
19.发送所述数据处理任务执行失败警报;和或
20.尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。
21.可选地,所述任务调度模块,还用于使用时间表达式表示所述执行时间。
22.为实现上述目的,根据本发明的第三方面,提供了一种数据处理任务的调度系统,包括如上所述的数据处理任务的调度装置、消息队列、数据处理任务对应消息监听器;其中,
23.所述数据处理任务的调度装置,用于获取一个或多个数据处理任务的执行顺序,根据所述执行顺序生成每一个所述数据处理任务对应的执行时间,将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列;
24.所述消息队列,用于相对应地存储所述数据处理任务的标识、所述执行时间;
25.所述消息监听器,用于根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
26.为实现上述目的,根据本发明的第四方面,提供了一种用于数据处理任务调度的服务器,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上所述的数据处理任务调度方法中任一所述方法。
27.为实现上述目的,根据本发明的第五方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上所述的数据处理任务调度方法中任一所述方法。
28.上述发明中具有如下优点或有益效果:通过消息队列实现了对数据处理任务的调度,避免了执行周期的对数据处理任务调度的限制,且实现了不同执行周期任务的并发执行或者依赖关系,提高了数据处理任务的执行效率;通过时间表达式,灵活多样地表达了不同数据处理任务的执行周期、执行时间点以及执行方式等,对不同执行周期的任务具有较高的适用性,实现了任务的灵活编排机制。
29.上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
30.附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
31.图1是根据本发明实施例的数据处理任务的调度方法的主要流程的示意图;
32.图2是根据本发明实施例的数据处理任务的执行顺序示意图;
33.图3是根据本发明实施例的数据处理任务的调度装置的主要模块的示意图;
34.图4是根据本发明实施例的数据处理任务的调度系统的主要模块的示意图
35.图5是根据本发明实施例的另一数据处理任务的调度系统的主要结构的示意图
36.图6是根据本发明实施例的另一数据处理任务的调度方法的主要结构的示意图
37.图7是本发明实施例可以应用于其中的示例性系统架构图;
38.图8是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
39.以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
40.图1是根据本发明实施例的数据处理任务的调度方法的主要流程的示意图,如图1所示,该数据处理任务的调度方法具体可以包括的步骤如下:
41.步骤s101,获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器。
42.数据处理任务包括但不限于etl(extract-transform-load)技术中将数据从来源端经过提取(extract)、转换(transform)、加载(load)至目的端的过中需要进行的数据加工任务等,且数据处理任务的执行周期可能相同、可能不同,如执行周期为1天、2天等。每一个数据处理任务对应一个消息监听器,该消息监听器可以实时监听数据处理任务执行时间相关的消息,如通过订阅模式实时监听消息队列中的消息,如此,通过消息监听器与数据处理任务一对一的形式,提高了消息监听器从消息队列中获取消息的及时性、准确性以及全面性,提高了消息监听器根据执行时间触发数据处理任务的效率,减少了在消息监听器需对多个数据处理任务进行触发时,因对消息进行二次分配或者处理造成的数据处理任务触发失败、触发失败、触发延迟等情况。
43.可以理解的是,消息监听器不仅可以实时监听自身所对应的数据处理任务执行时间相关的消息,还可以实时监听其他数据处理任务执行时间相关的消息,但仅在监听到自身所对应的数据处理任务执行时间相关的消息时,也即与数据处理任务标识对应的执行时间时,才根据执行时间对数据处理任务进行处理。
44.步骤s102,根据所述执行顺序,确定每一个所述数据处理任务对应的执行时间。
45.参见图2,以获取的一个或多个数据处理任务为task0、task2、task3、task4、task5、task6为例进行说明,其中,task2、task5、task6是执行周期不大于一天的数据处理任务,task0、task3、task4为执行周期大于一天的数据处理任务,即不同的数据处理任务对应的执行周期不同但彼此之间却具有一定的依赖关系,即需要获取上游数据处理任务的执
行结果才能正常触发或者执行下游的数据处理任务,因而执行顺序不同:如由于task2、task3、task4需要利用task0的执行结果即task2、task3、task4与task0具有依赖关系,因此,task2、task3、task4需要在task0之后开始执行,即task2、task3、task4的执行时间晚于task0;同时,task5需要同时依赖task2、task3的执行结果,因此,task5的执行时间需要晚于task2、task3的执行时间;此外,task6需要依赖task5的执行结果,因此task6的执行时间需要晚于task5。
46.可以理解的是,在下游的数据处理任务需要上游的数据处理任务的执行结果(该执行结果可以为中间执行结果也可以是最终的执行结果)的情况下,在下游的数据处理任务的执行时间与上游的数据处理任务的执行时间至少具有一定的时间间隔,且该时间间隔可以根据上游的数据处理任务获取到相应的执行结果的时间来定,如在上游的数据处理任务需要全部执行完成后才能获取到下游的数据处理任务需要的执行结果的情况下,上下游数据处理任务对应的执行时间的时间间隔应不小于上游数据处理任务的执行周期。
47.在一种可选的实施方式中,使用时间表达式表示所述执行时间。
48.如以使用cron表达式表示执行时间为例进行说明,cron表达式的格式为:[秒][分][小时][日][月][周][年],相应地,“0 0 12**?”表示每天中午12点触发数据处理任务;“0 15 10?**”表示每天上午10:15触发数据处理任务;“0 15 10**?2005”表示2005年的每天上午10:15触发数据处理任务;“0 10,44 14?3wed”表示每年三月的星期三的下午2:10和2:44触发数据处理任务。也即是说,时间表达式涉及秒、分、小时、日、月、周、年多个维度,可以表达的执行时间灵活多变,不仅可以表示数据处理任务的执行时间点,还可以表示数据处理任务的执行周期、执行方式、执行的时间范围等,因而可以对不同执行周期的数据处理任务按照数据处理的需求进行灵活多样地编排,解除了现有的任务调度规则对任务执行周期的限制等。
[0049]
步骤s103,将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
[0050]
可以理解的是,虽然消息监听器可以监听一个或多个数据处理任务的执行时间,但是仅会根据从消息队列中获取的与自身所对应的数据处理任务的标识相对应的执行时间,触发相应的数据处理任务。
[0051]
在一种可选的实施方式中,还包括:接收所述消息监听器返回的所述数据处理任务的执行结果。消息监听器在数据处理任务执行完毕后,相对应地发送数据处理任务的标识、数据处理任务的执行结果,也可以将数据处理任务的标识、数据处理任务的执行结果相对应地存储至消息队列,以便可以根据数据处理任务的标识接收相应地的数据处理任务的执行结果。
[0052]
在一种可选的实施方式中,在所述数据处理任务执行失败的情况下,发送所述数据处理任务执行失败警报;和/或尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。
[0053]
也即是说,可以实时监控数据处理任务的执行状态,并在数据处理任务执行失败的情况下,会发出任务执行失败警报。同时,可以根据数据处理任务对应的执行策略,确定是否启动数据处理任务的重试机制。在启动数据处理任务的重试机制的情况下,也可以根
据实际情况确定是否使用数据处理任务对应的降级数据作为所述数据处理任务的执行结果以供下游数据处理任务使用:如在数据处理任务重复执行成功过的情况下,启动下游的数据处理任务;在数据处理任务重复执行一次或多次仍未成功的情况下,下游数据处理任务使用降级数据作为上游数据处理任务的执行结果。
[0054]
基于上述实施例提供的数据处理任务的调度方法,通过消息队列实现了对数据处理任务的调度,避免了执行周期的对数据处理任务调度的限制,且实现了不同执行周期任务的并发执行或者依赖关系,提高了数据处理任务的执行效率;通过时间表达式,灵活多样地表达了不同数据处理任务的执行周期、执行时间点以及执行方式等,对不同执行周期的任务具有较高的适用性,实现了任务的灵活编排机制。
[0055]
参见图3,在上述实施例的基础上,本发明实施例提供了一种数据处理任务的调度装置300,包括:任务调度模块301、消息发送模块302;其中,
[0056]
所述任务调度模块301,用于获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序确定每一个所述数据处理任务对应的执行时间;
[0057]
所述消息发送模块302,用于将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
[0058]
可选地,所述任务调度模块301,还用于接收所述消息监听器返回的所述数据处理任务的执行结果。
[0059]
可选地,在所述数据处理任务执行失败的情况下,所述任务调度模块301,还用于
[0060]
发送所述数据处理任务执行失败警报;和或
[0061]
尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。
[0062]
可选地,所述任务调度模块301,还用于使用时间表达式表示所述执行时间。
[0063]
参见图4,在上述实施例的基础上,提供了一种数据处理任务的调度系统400,包括前述实施例所述的数据处理任务的调度装置300、消息队列401、数据处理任务对应的消息监听器402;其中,
[0064]
所述数据处理任务的调度装置400,用于获取一个或多个数据处理任务的执行顺序,根据所述执行顺序生成每一个所述数据处理任务对应的执行时间,将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间相对应地存储至消息队列;
[0065]
所述消息队401,用于相对应地存储所述数据处理任务的标识、所述执行时间;
[0066]
所述消息监听器402,用于根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
[0067]
可选地,消息监听器402,还用于将数据处理任务的标识、数据处理任务的执行结果相对应地发送至数据处理任务的调度装置300。
[0068]
参见图5,在上述实施例的基础上,本发明实施例提供了另一数据处理任务的调度系统的主要结构示意图,该系统可以设置于在buffalo平台上,具体包括:task scheduler(任务调度模块)、task producer(消息发送模块)、task queue(消息队列)、task consumer(消息监听器);其中,task scheduler用于获取用户根据一个或多个数据处理任务的依赖
关系编排好数据处理任务的task flow(执行顺序),并根据task flow确定数据处理任务的执行时间;task producer用于将数据处理任务的执行时间、数据处理任务的标识相对应地存储至task queue,即生成执行消息;数据处理任务对应的task consumer根据从task queue中获取执行消息,并根据获取的与数据处理任务的标识对应的数据处理任务的执行时间,触发相对应地的数据处理任务;除此之外,在数据处理处理任务执行完毕后,task consumer还用于将数据处理任务的标识、数据处理任务的执行结果相对应地发送至task producer。
[0069]
由于数据处理任务的执行是根据从task queue(消息队列)获取的执行消息实现的,不需要利用buffalo任务调度系统中配置的任务依赖关系去执行,因而可以不同执行周期的定时任务也能通过消息队列完成各种数据处理任务间的实时串行或实时并行执行,解除了在buffalo平台上对数据处理任务执行周期的限制。
[0070]
参见图6,在上述实施例的基础上,提供了另一种数据处理任务的调度方法,具体可以包括的步骤如下:
[0071]
步骤601,task scheduler(任务调度模块)获取用户根据一个或多个数据处理任务的依赖关系编排好数据处理任务的task flow(执行顺序)。
[0072]
步骤602,task scheduler根据task flow确定数据处理任务的执行时间。
[0073]
步骤603,task producer(消息发送模块)将数据处理任务的执行时间、数据处理任务的标识相对应地存储至task queue(消息队列)。
[0074]
步骤604,task consumer(消息监听器)从task queue中监听与数据处理任务的标识对应的执行时间。
[0075]
步骤605,task consumer根据取的与数据处理任务的标识对应的数据处理任务的执行时间,触发相对应地的task(数据处理任务)。
[0076]
步骤606,task consumer接收task执行完毕后的执行结果。
[0077]
步骤607,task producer接收task consumer返回的执行结果。
[0078]
图7示出了可以应用本发明实施例的数据处理任务的调度方法或数据处理任务的调度装置的示例性系统架构700。
[0079]
如图7所示,系统架构700可以包括终端设备701、702、703,网络704和服务器705。网络704用以在终端设备701、702、703和服务器705之间提供通信链路的介质。网络704可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
[0080]
用户可以使用终端设备701、702、703通过网络704与服务器705交互,以接收或发送消息等。终端设备701、702、703上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
[0081]
终端设备701、702、703可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
[0082]
服务器705可以是提供各种服务的服务器,例如对用户利用终端设备701、702、703所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将执行结果反馈给终端设备。
[0083]
需要说明的是,本发明实施例所提供的数据处理任务的调度方法一般由服务器705执行,相应地,数据处理任务的调度装置一般设置于服务器705中。
[0084]
应该理解,图7中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
[0085]
下面参考图8,其示出了适于用来实现本发明实施例的终端设备的计算机系统800的结构示意图。图8示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
[0086]
如图8所示,计算机系统800包括中央处理单元(cpu)801,其可以根据存储在只读存储器(rom)802中的程序或者从存储部分808加载到随机访问存储器(ram)803中的程序而执行各种适当的动作和处理。在ram 803中,还存储有系统800操作所需的各种程序和数据。cpu 801、rom 802以及ram 803通过总线804彼此相连。输入/输出(i/o)接口805也连接至总线804。
[0087]
以下部件连接至i/o接口805:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至i/o接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
[0088]
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(cpu)801执行时,执行本发明的系统中限定的上述功能。
[0089]
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。
[0090]
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代
表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0091]
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括任务调度模块、消息发送模块。其中,这些模块的名称在某种情况下并不构成对该单元本身的限定,例如,消息发送模块还可以被描述为“将所述数据处理任务的标识、所述执行时间相对应地存储至消息队列的模块”。
[0092]
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序,确定每一个所述数据处理任务对应的执行时间;将所述数据处理任务的标识、所述执行时间相对应地存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。
[0093]
根据本发明实施例的技术方案,通过消息队列实现了对数据处理任务的调度,避免了执行周期的对数据处理任务调度的限制,且实现了不同执行周期任务的并发执行或者依赖关系,提高了数据处理任务的执行效率;通过时间表达式,灵活多样地表达了不同数据处理任务的执行周期、执行时间点以及执行方式等,对不同执行周期的任务具有较高的适用性,实现了任务的灵活编排机制。
[0094]
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

技术特征:
1.一种数据处理任务的调度方法,其特征在于,包括:获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序,确定每一个所述数据处理任务对应的执行时间;将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。2.根据权利要求1所述的数据处理任务的调度方法,其特征在于,还包括:接收所述消息监听器返回的所述数据处理任务的执行结果。3.根据权利要求2所述的大数据任务调度方法,其特征在于,在所述数据处理任务执行失败的情况下,发送所述数据处理任务执行失败警报;和/或尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。4.根据权利要求1所述的大数据任务调度方法,其特征在于,使用时间表达式表示所述执行时间。5.一种数据处理任务的调度装置,其特征在于,包括:任务调度模块、消息发送模块;其中,所述任务调度模块,用于获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序确定每一个所述数据处理任务对应的执行时间;所述消息发送模块,用于将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。6.根据权利要求5所述的数据处理任务的调度装置,其特征在于,所述任务调度模块,还用于接收所述消息监听器返回的所述数据处理任务的执行结果。7.根据权利要求6所述的数据处理任务的调度装置,其特征在于,在所述数据处理任务执行失败的情况下,所述任务调度模块,还用于发送所述数据处理任务执行失败警报;和或尝试执行所述数据处理任务,或将所述数据处理任务对应的降级数据作为所述数据处理任务的执行结果。8.根据权利要求5所述的数据处理任务的调度装置,其特征在于,所述任务调度模块,还用于使用时间表达式表示所述执行时间。9.一种数据处理任务的调度系统,包括权利要求5-8所述的数据处理任务的调度装置、消息队列、数据处理任务对应消息监听器;其中,所述数据处理任务的调度装置,用于获取一个或多个数据处理任务的执行顺序,根据所述执行顺序生成每一个所述数据处理任务对应的执行时间,将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列;所述消息队列,用于相对应地存储所述数据处理任务的标识、所述执行时间;
所述消息监听器,用于根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。10.一种用于数据处理任务调度的服务器,其特征在于,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
技术总结
本发明公开了一种数据处理任务的调度方法、装置和系统,涉及计算机技术领域。该方法的一种具体实施方式包括:获取一个或多个数据处理任务的执行顺序,每一个所述数据处理任务具有对应的消息监听器;根据所述执行顺序,确定每一个所述数据处理任务对应的执行时间;将所述数据处理任务的标识及所述数据处理任务的标识对应的所述执行时间存储至消息队列,以供所述消息监听器根据从所述消息队列中获取的与所述数据处理任务的标识相对应的所述执行时间触发所述数据处理任务。该实施方式避免了执行周期对任务调度的限制,提高了任务的执行效率。效率。效率。


技术研发人员:朱时涛
受保护的技术使用者:北京沃东天骏信息技术有限公司
技术研发日:2020.01.16
技术公布日:2021/7/15

转载请注明原文地址:https://doc.8miu.com/read-650005.html

最新回复(0)