本公开涉及大数据技术领域，更具体地，涉及一种路由方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术：
随着信息化时代的到来，分布式系统广泛应用在各种业务处理场景中，分布式平台系统采用的是分库分表分片的形式进行数据加工处理及存储，数据落库过程中，通常依据路由字段决定数据应该落地到哪个数据库中。
在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题，由于不同业务系统进行数据路由时依据的路由字段类型可能不同，在不同业务之间进行数据交互的过程中，可能存在在数据路由过程中数据文件不携带本系统使用的路由字段的情况，在这种情况下如何进行数据路由，是亟待解决的问题。
技术实现要素：
有鉴于此，本公开提供了一种路由方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
本公开的一个方面提供了一种路由方法，包括：
依次读取多个待处理文件，其中待处理文件中包括第一类型路由字段，第一类型路由字段为在第一文件系统中，将待处理文件进行数据路由时依据的路由字段类型；
判断当前待处理文件是否为目标待处理文件；
在当前待处理文件是目标待处理文件的情况下，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，以便根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，其中第二类型路由字段为在第二文件系统中，将待处理文件进行数据路由时依据的路由字段类型；以及
在当前待处理文件不是目标待处理文件的情况下，丢弃当前待处理文件。
根据本公开的实施例，其中，多个待处理文件为在预处理服务器中对原始批量文件中的每个文件分别按次序编号后获得的文件，每个待处理文件包含一个顺序编号，当前待处理文件包含当前顺序编号。
判断当前待处理文件是否为目标待处理文件包括：根据当前顺序编号和预设判断规则，判断当前待处理文件是否为目标待处理文件。
根据本公开的实施例，其中，预设判断规则采用取模判断规则；
根据当前顺序编号和判断规则，判断当前待处理文件是否为目标待处理文件包括：将当前顺序编号对节点数进行取模，以获得当前模值，其中节点数为第二文件系统中的处理服务器的数量，每个处理服务器通过节点序号进行标识；以及将当前模值与节点序号匹配的当前待处理文件确定为目标待处理文件。
根据本公开的实施例，其中，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段包括：根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段，其中预设生成规则用于表征第一类型路由字段和第二类型路由字段的对应关系。
根据本公开的实施例，其中，第一类型路由字段和第二类型路由字段的对应关系为：第二类型路由字段＝第一类型路由字段 辅助字段，其中辅助字段包括时间信息字段和随机数字段。
根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段包括：获取与目标第一类型路由字段对应的目标辅助字段；以及将目标辅助字段添加至目标第一类型路由字段中，以生成目标第二类型路由字段。
根据本公开的实施例，其中，获取与目标第一类型路由字段对应的目标辅助字段包括：获取目标原始信息数据，其中目标原始信息数据包括与目标第一类型路由字段对应的目标辅助字段信息数据，目标原始信息数据被被预先生成、并被预先存储在第二文件系统的信息数据库中，以及解析目标原始信息数据，以获取与目标第一类型路由字段对应的目标辅助字段。
根据本公开的实施例，其中，路由算法采用哈希算法；
根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库包括：利用哈希算法，基于目标第二类型路由字段和总分片数确定目标待处理文件对应的分片序号，其中分片序号用于标识目标数据库；以及将目标待处理文件存储至与分片序号对应的目标数据库。
根据本公开的实施例，还包括：在确定目标待处理文件对应的分片序号后，将目标待处理文件对应的分片序号存储至第二文件系统的信息数据库中。
一种路由装置，包括读取模块、判断模块、第一执行模块和第二执行模块。
其中，读取模块，用于依次读取多个待处理文件，其中待处理文件中包括第一类型路由字段，第一类型路由字段为在第一文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
判断模块，用于判断当前待处理文件是否为目标待处理文件。
第一执行模块，用于在当前待处理文件是目标待处理文件的情况下，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，以便根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，其中第二类型路由字段为在第二文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
第二执行模块，用于在当前待处理文件不是目标待处理文件的情况下，丢弃当前待处理文件。
根据本公开的实施例，其中，上述读取模块中，多个待处理文件为在预处理服务器中对原始批量文件中的每个文件分别按次序编号后获得的文件，每个待处理文件包含一个顺序编号，当前待处理文件包含当前顺序编号。
上述判断模块用于根据当前顺序编号和预设判断规则，判断当前待处理文件是否为目标待处理文件。
根据本公开的实施例，其中，上述预设判断规则采用取模判断规则。上述上述判断模块包括：取模单元和判断单元。
其中取模单元，用于将当前顺序编号对节点数进行取模，以获得当前模值，其中节点数为第二文件系统中的处理服务器的数量，每个处理服务器通过节点序号进行标识。
判断单元，用于将当前模值与节点序号匹配的当前待处理文件确定为目标待处理文件。
根据本公开的实施例，其中，上述第一执行模块用于根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段，其中预设生成规则用于表征第一类型路由字段和第二类型路由字段的对应关系。
根据本公开的实施例，其中，第一类型路由字段和第二类型路由字段的对应关系为：第二类型路由字段＝第一类型路由字段 辅助字段，其中辅助字段包括时间信息字段和随机数字段。
上述第一执行模块包括获取单元和添加单元。
其中，获取单元，用于获取与目标第一类型路由字段对应的目标辅助字段。添加单元，用于将目标辅助字段添加至目标第一类型路由字段中，以生成目标第二类型路由字段。
根据本公开的实施例，其中，上述获取单元括获取子单元、以及解析子单元。
其中，获取子单元用于获取目标原始信息数据，其中目标原始信息数据包括与目标第一类型路由字段对应的目标辅助字段信息数据，目标原始信息数据被被预先生成、并被预先存储在第二文件系统的信息数据库中。解析子单元，用于解析目标原始信息数据，以获取与目标第一类型路由字段对应的目标辅助字段。
根据本公开的实施例，其中，路由算法采用哈希算法，上述第一执行模块还包括：计算单元和存储单元。
其中计算单元，用于利用哈希算法，基于目标第二类型路由字段和总分片数确定目标待处理文件对应的分片序号，其中分片序号用于标识目标数据库。存储单元，用于将目标待处理文件存储至与分片序号对应的目标数据库。
根据本公开的实施例，该装置还包括存储模块，用于在确定目标待处理文件对应的分片序号后，将目标待处理文件对应的分片序号存储至第二文件系统的信息数据库中。
本公开的另一个方面提供了一种电子设备，包括：一个或多个处理器、以及存储器；其中该存储器用于存储一个或多个程序；其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的路由方法。
本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的路由方法。
本公开的另一方面提供了一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现如上所述的路由方法。
根据本公开的实施例，在本文件系统和外部文件系统进行数据交互的场景下，通过根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，使得后续可根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，解决了不同文件系统在数据交互场景下，由于数据文件不携带本系统使用的路由字段而无法完成路由的问题。同时，本系统的每台处理服务器在接收到文件后，可以通过预先判断处理，当接收到的文件属于目标待处理文件的情况下才进行处理，进一步计算本系统所需路由字段，并根据路由字段进行数据路由，基于此，可避免单台服务器或者部分服务器需要对全量数据文件进行处理的情况发生，因此，通过上述技术手段，可将多个待处理文件均衡分布至每台处理服务，在完成数据路由的同时，可提高数据路由的效率。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了可以应用本公开的路由方法和装置的示例性系统架构；
图2示意性示出了根据本公开实施例的路由方法的流程图；
图3示意性示出了根据本公开实施例的判断当前待处理文件是否为目标待处理文件的流程图；
图4示意性示出了根据本公开实施例的路由方法的示意图；
图5示意性示出了根据本公开实施例的路由装置的框图；
图6示意性示出了根据本公开实施例的用于实现路由方法的电子设备的框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“a、b和c等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有a、b和c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。在使用类似于“a、b或c等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有a、b或c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。
在对本公开的实施例进行详细阐述之前，先对本公开实施例提供的方法所涉及的系统结构以及应用场景进行如下介绍。
图1示意性示出了可以应用本公开的路由方法和装置的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括预处理服务器101、处理服务器集群102、数据库服务器103。
预处理服务器101、处理服务器集群102、以及数据库服务器103之间通过网络实现数据传输交互。网络可以包括各种连接类型，例如有线和/或无线通信链路等等。
预处理服务器101可用于对来自外部文件系统的批量待处理文件进行预处理，并将经过预处理的文件发送至处理服务器集群102。预处理可以是对批量待处理文件添加判断标识等，批量待处理文件包括多个文件，例如文件1、文件2、文件3……、文件n，对批量待处理文件添加判断标识，可分别对每个待处理文件添加不同的判断标识，以方便处理服务器集群102在接收到批量待处理文件后可根据判断标识判断当前待处理文件是否为目标待处理文件。
在本文件系统和外部文件系统进行数据交互的场景下，待处理文件中包括第一类型路由字段，第一类型路由字段为在外部文件系统中，将待处理文件进行数据路由时依据的路由字段类型。在本系统中，将待处理文件进行数据路由时，所依据的路由字段类型为不同于第一类型路由字段的第二类型路由字段。其中，第一类型路由字段和第二类型路由字段存在一一对应的对应关系。因此，可根据第一类型路由字段和上述对应关系生成第二类型路由字段。
处理服务器集群102包括多台处理服务器，每台处理服务器依在接收到批量待处理文件后，依次读取多个待处理文件，并根据每个待处理文件的判断标识判断当前待处理文件是否为目标待处理文件。
在当前待处理文件为目标待处理文件为目标待处理文件的情况下，处理服务器还用于根据第一类型路由字段和上述对应关系生成第二类型路由字段以及目标待处理文件对应的数据分片序号，并根据第二类型路由字段进行数据路由，将待处理文件存储至对应的数据分片中。在当前待处理文件不是目标待处理文件为目标待处理文件的情况下，处理服务器将当前待处理文件丢弃。
数据库服务器103中，存储有用于表征第一类型路由字段和第二类型路由字段之间对应关系的信息数据，处理服务器在根据第一类型路由字段和对应关系生成第二类型路由字段的过程中，可以从数据库服务器103中获取上述信息数据，便于进一步解析处理。数据库服务器103还用于存储数据处理的结果，可将处理服务器生成的相应的第二类型路由字段、以及处理服务器计算得到的目标待处理文件对应的数据分片序号存储在数据库服务器103中，便于数据维护和管理。
应该理解，图1中的预处理服务器101的数目、处理服务器集群102中服务器的数目、数据库服务器103的数目仅仅是示意性的。根据实现需要，可以具有任意数目的服务器。
需要说明的是，本公开的路由方法及装置可用于大数据技术领域，也可用于金融技术领域，也可用于除大数据技术领域和金融领域之外的任意领域，本公开对该路由方法及装置的应用领域不做限定。
分布式平台系统中，采用的是分库分表分片的形式进行数据加工处理及存储，数据落库过程中，通常依据路由字段决定数据应该落地到哪个数据库中。由于不同业务系统进行数据路由时依据的路由字段类型可能不同，在不同业务之间进行数据交互的过程中，可能存在在数据路由过程中数据文件不携带本系统使用的路由字段的情况，因此需要计算本系统所需路由字段。
如何处理交互的文件的问题，实际处理方法，一种情况是接收方应用每个分片均全部处理，这种情况需要每个分片均进行全量判断并处理，由于需要对全量数据进行处理导致处理效率低下。另一种方式在公共层对接收的文件进行预先路由，因公共层的执行器数量有限并且只能一个执行器进行处理，这样效率也不会太高。为了提高效率并充分利用分片的使用率。
在实现本公开的过程中发现，本系统在接收到文件后，可以通过预先判断处理，当接收到的文件属于目标待处理文件的情况下才进行处理，进一步计算本系统所需路由字段，并根据路由字段进行数据路由，基于此，在完成数据路由的同时，可提高数据路由的效率。
因此，基于上述构思，本公开提供了一种路由方法。
图2示意性示出了根据本公开实施例的路由方法的流程图。
如图2所示，该方法包括操作s201～s204。
在操作s201，依次读取多个待处理文件，其中待处理文件中包括第一类型路由字段，第一类型路由字段为在第一文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
在操作s202，判断当前待处理文件是否为目标待处理文件。
在操作s203，在当前待处理文件是目标待处理文件的情况下，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，以便根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，其中第二类型路由字段为在第二文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
在操作s204，在当前待处理文件不是目标待处理文件的情况下，丢弃当前待处理文件。
根据本公开的实施例，第一文件系统为外部文件系统，第二文件系统指本文件系统，在本文件系统和外部文件系统进行数据交互的场景下，待处理文件中包括第一类型路由字段，第一类型路由字段为在外部文件系统中，将待处理文件进行数据路由时依据的路由字段类型。在本系统中，将待处理文件进行数据路由时，所依据的路由字段类型为不同于第一类型路由字段的第二类型路由字段。其中，第一类型路由字段和第二类型路由字段存在一一对应的对应关系。因此，可根据第一类型路由字段和上述对应关系生成第二类型路由字段。
根据本公开的实施例，本文件系统，即第二文件系统中包括多台处理服务器，每台处理服务器在接收到来自外部文件系统的批量待处理文件后，依次读取多个待处理文件，预先判断当前待处理文件是否为目标待处理文件。在当前待处理文件为目标待处理文件的情况下，才进行后续处理，否则将当前待处理文件丢弃。
根据本公开的实施例，预先判断当前待处理文件是否为目标待处理文件，可以是根据每个待处理文件的判断标识判断当前待处理文件是否为目标待处理文件，其中判断标识可以是预先对每个待处理文件进行预处理添加的，上述预处理过程可以是在预处理服务器对批量待处理文件进行批量预处理的过程，也可以是每台处理服务器在接收到当前待处理文件后，对当前待处理文件进行添加判断标识的操作。上述预处理可以是分别对每个待处理文件添加不同的判断标识，也可以是部分相同的判断标识，处理服务器在对当前待处理文件进行判断时，可依据自定义的算法，结合判断标识进行判断，以便将多个待处理文件均衡分布至每台处理服务，以提高数据处理效率。
在当前待处理文件为目标待处理文件为目标待处理文件的情况下，处理服务器还用于根据与目标待处理文件对应的目标第一类型路由字段和上述对应关系生成与目标待处理文件对应的目标第二类型路由字段，以便根据目标第二类型路由字段和路由算法进行数据路由，将目标待处理文件路由至第二文件系统中的目标数据库，即对应的数据分片中。
根据本公开的实施例，在本文件系统和外部文件系统进行数据交互的场景下，通过根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，使得后续可根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，解决了不同文件系统在数据交互场景下，由于数据文件不携带本系统使用的路由字段而无法完成路由的问题。同时，本系统的每台处理服务器在接收到文件后，可以通过预先判断处理，当接收到的文件属于目标待处理文件的情况下才进行处理，进一步计算本系统所需路由字段，并根据路由字段进行数据路由，基于此，可避免单台服务器或者部分服务器需要对全量数据文件进行处理的情况发生，因此，通过上述技术手段，可将多个待处理文件均衡分布至每台处理服务，在完成数据路由的同时，可提高数据路由的效率。
图3示意性示出了根据本公开实施例的判断当前待处理文件是否为目标待处理文件的流程图。
如图3所示，该方法包括操作s321～s323。
在操作s321，在预处理服务器中对原始批量文件中的每个文件分别按次序编号后获得多个待处理文件，每个待处理文件包含一个顺序编号，当前待处理文件包含当前顺序编号。
根据本公开的实施例，预先判断当前待处理文件是否为目标待处理文件，可以是根据每个待处理文件的判断标识判断当前待处理文件是否为目标待处理文件。其中判断标识可以是在预处理服务器中对批量待处理文件进行批量预处理添加的。根据本公开的实施例，在操作s321中添加的判断标识为顺序编号，每个待处理文件包含一个顺序编号，且每个顺序编号各不相同。
根据本公开的实施例，判断当前待处理文件是否为目标待处理文件包括：根据当前顺序编号和预设判断规则，判断当前待处理文件是否为目标待处理文件。
根据本公开的实施例，其中，预设判断规则可采用取模判断规则。根据当前顺序编号和判断规则。
根据当前顺序编号和判断规则进行判断的过程中，在操作s322，将当前顺序编号对节点数进行取模，以获得当前模值，其中节点数为第二文件系统中的处理服务器的数量，每个处理服务器通过节点序号进行标识。
在操作s323，判断当前模值与节点序号是否匹配。在当前模值与节点序号匹配的情况下，将当前模值与节点序号匹配的当前待处理文件确定为目标待处理文件，否则将该文件丢弃。例如，当前待处理文件的顺序编号为1，节点数为16，则进行进行取模获得当前模值为1，则当前待处理文件由1号服务器进行处理；再例如，当前待处理文件的顺序编号为2，节点数为16，则进行进行取模获得当前模值为2，则当前待处理文件由2号服务器进行处理，如此，可将多个文件均衡分类至多台服务器进行并行处理。
根据本公开的实施例，通过预先对每个文件添加顺序编号，并结合取模算法，判断当前待处理文件是否为目标待处理文件，如此，可将文件均衡分类至多台服务器进行并行处理，能够充分利用所有服务器同时进行处理并且保证每个服务器处理的数据均匀且不重复，提高了数据处理效率，同时，该方法适用范围广，无论外部系统的上游应用提供的是一个文件还是多个文件，此方法均适用。
根据本公开的实施例，其中，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段包括：根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段，其中预设生成规则用于表征第一类型路由字段和第二类型路由字段的对应关系。
根据本公开的实施例，其中，第一类型路由字段和第二类型路由字段的对应关系为：第二类型路由字段＝第一类型路由字段 辅助字段，其中辅助字段包括时间信息字段和随机数字段。
根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段包括：
获取与目标第一类型路由字段对应的目标辅助字段；以及将目标辅助字段添加至目标第一类型路由字段中，以生成目标第二类型路由字段。
根据本公开的实施例，其中，获取与目标第一类型路由字段对应的目标辅助字段包括：获取目标原始信息数据，其中目标原始信息数据包括与目标第一类型路由字段对应的目标辅助字段信息数据，目标原始信息数据被被预先生成、并被预先存储在第二文件系统的信息数据库中，以及解析目标原始信息数据，以获取与目标第一类型路由字段对应的目标辅助字段。
根据本公开的实施例，第一路由字段例如采用客户编号(客户在办理业务时系统生成的仂议号)，第二类型路由字段例如采用的是介质编号，根据第一类型路由字段和第二类型路由字段的对应关系，即生成介质编号，例如，可以是先从数据库中获取预先存储的原始信息数据。数据库中，存储有用于表征第一类型路由字段和第二类型路由字段之间对应关系的原始信息数据，可以从数据库中获取上述原始信息数据，便于进一步解析处理。
根据本公开的实施例，原始信息数据可以是客户在办理业务的时候系统存储的业务日志数据，可包括例如业务办理时间、业务类型、协议号、协议生成时间、以及用于标识每个不同业务生成的协议随机号等等。之后，解析原始信息数据以获得协议生成时间和协议随机号(即目标辅助字段)，再将协议生成时间和协议随机号添加至协议号中，生成的介质编号＝协议号 协议生成时间 协议随机号。
根据本公开的实施例，其中，路由算法采用哈希算法。根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库包括：利用哈希算法，基于目标第二类型路由字段和总分片数确定目标待处理文件对应的分片序号，其中分片序号用于标识目标数据库；以及将目标待处理文件存储至与分片序号对应的目标数据库。
根据本公开的实施例，在进行数据路由时，是以一个具有唯一性的字段作为分库分表的路由字段，根据总分片数，通过对路由字段进行哈希算法确定数据所在的分片序号，因分片号决定数据应该落地到哪个数据库中，因此可根据分片序号将目标待处理文件存储至与分片序号对应的目标数据库。
图4示意性示出了根据本公开实施例的路由方法的示意图。以下，结合图4对本公开实施例的路由方法进行示例性说明。
根据本公开的实施例，首先在预处理服务器中对原始批量文件中的每个文件分别按次序添加顺序号后获得多个待处理文件，每个待处理文件包含一个顺序编号。
顺序编号从1开始顺序往后增加(示例：1，2，3，4……n)。
在添加顺序编号前，处理服务器接收到的文件如下：
字段1，字段2，字段3……
……
字段1，字段2，字段3……
在添加顺序编号后，处理服务器接收到的文件如下：
顺序号1，字段1，字段2，字段3……
顺序号2，字段1，字段2，字段3……
顺序号3，字段1，字段2，字段3……
顺序号4，字段1，字段2，字段3……
……
顺序号n，字段1，字段2，字段3……
其中，上述每个文件的字段中，包含第一路由字段，第一路由字段例如采用客户编号(客户在办理业务时系统生成的协议号)，第二类型路由字段例如采用的是介质编号。
之后，将多个待处理文件分别发送至每台处理服务器，可以将执行数据分片存储的多台数据库服务器作为处理服务器。每台数据库服务器在接收到待处理文件后，依次对每个文件进行判断，判断当前模值与节点序号是否匹配。在当前模值与节点序号匹配的情况下，将当前模值与节点序号匹配的当前待处理文件确定为目标待处理文件，否则将该文件丢弃，跳过该条数据，继续读取并处理下一条。例如，当前待处理文件的顺序编号为n，节点数为m，则进行进行取模获得当前模值为n，则当前待处理文件由n号服务器进行处理，如此将多个文件均衡分类至多台服务器进行并行处理。
在当前待处理文件为目标待处理文件的情况下，每台数据库服务器分别根据第一类型路由字段和第二类型路由字段的对应关系，生成第二类型路由字段。即介质编号。具体地，先从数据库中获取预先存储的原始信息数据，即客户在办理业务的时候系统存储的业务日志数据，通过解析原始信息数据，获得协议生成时间和协议随机号，再将协议生成时间和协议随机号添加至协议号中，生成的介质编号。另外，每台数据库服务器还用于计算路由关系，即利用哈希算法，基于目标第二类型路由字段和总分片数计算获得目标待处理文件执行落库时依据的分片序号，便于后续数据处理，例如将目标待处理文件存储至与分片序号对应的目标数据库。
根据本公开的实施例，在确定目标待处理文件对应的分片序号后，将目标待处理文件对应的分片序号存储至第二文件系统的信息数据库中。
根据本公开的实施例，信息数据库可采用非关系型数据库hbase。信息数据库可用于存储原始信息数据，例如业务系统日志数据，还可用于存储数据处理的结果，例如，可将处理服务器生成的相应的第二类型路由字段、以及处理服务器计算得到的目标待处理文件对应的数据分片序号存储在数据库中，便于后期进行数据维护和管理。
图5示意性示出了根据本公开实施例的路由装置500的框图。
该路由装置500可以用来实现参考图2所示的方法。
如图5所示，该路由装置500包括读取模块510、判断模块520、第一执行模块530和第二执行模块540。
其中，读取模块510，用于依次读取多个待处理文件，其中待处理文件中包括第一类型路由字段，第一类型路由字段为在第一文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
判断模块520，用于判断当前待处理文件是否为目标待处理文件。
第一执行模块530，用于在当前待处理文件是目标待处理文件的情况下，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，以便根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，其中第二类型路由字段为在第二文件系统中，将待处理文件进行数据路由时依据的路由字段类型。
第二执行模块540，用于在当前待处理文件不是目标待处理文件的情况下，丢弃当前待处理文件。
根据本公开的实施例，在本文件系统和外部文件系统进行数据交互的场景下，通过第一执行模块530，根据与目标待处理文件对应的目标第一类型路由字段，生成与目标待处理文件对应的目标第二类型路由字段，使得后续可根据目标第二类型路由字段和路由算法，将目标待处理文件路由至第二文件系统中的目标数据库，解决了不同文件系统在数据交互场景下，由于数据文件不携带本系统使用的路由字段而无法完成路由的问题。同时，通过判断模块520，本系统的每台处理服务器在接收到文件后，可以通过预先判断处理，当接收到的文件属于目标待处理文件的情况下才进行处理，进一步计算本系统所需路由字段，并根据路由字段进行数据路由，基于此，可避免单台服务器或者部分服务器需要对全量数据文件进行处理的情况发生，因此，通过上述技术手段，可将多个待处理文件均衡分布至每台处理服务，在完成数据路由的同时，可提高数据路由的效率。
根据本公开的实施例，其中，上述读取模块510中，多个待处理文件为在预处理服务器中对原始批量文件中的每个文件分别按次序编号后获得的文件，每个待处理文件包含一个顺序编号，当前待处理文件包含当前顺序编号。
上述判断模块520用于根据当前顺序编号和预设判断规则，判断当前待处理文件是否为目标待处理文件。
根据本公开的实施例，其中，上述预设判断规则采用取模判断规则。上述上述判断模块520包括：取模单元和判断单元。
其中取模单元，用于将当前顺序编号对节点数进行取模，以获得当前模值，其中节点数为第二文件系统中的处理服务器的数量，每个处理服务器通过节点序号进行标识。
判断单元，用于将当前模值与节点序号匹配的当前待处理文件确定为目标待处理文件。
根据本公开的实施例，其中，上述第一执行模块530用于根据目标第一类型路由字段和预设生成规则生成目标第二类型路由字段，其中预设生成规则用于表征第一类型路由字段和第二类型路由字段的对应关系。
根据本公开的实施例，其中，第一类型路由字段和第二类型路由字段的对应关系为：第二类型路由字段＝第一类型路由字段 辅助字段，其中辅助字段包括时间信息字段和随机数字段。
上述第一执行模块530包括获取单元和添加单元。
其中，获取单元，用于获取与目标第一类型路由字段对应的目标辅助字段。添加单元，用于将目标辅助字段添加至目标第一类型路由字段中，以生成目标第二类型路由字段。
根据本公开的实施例，其中，上述获取单元括获取子单元、以及解析子单元。
其中，获取子单元用于获取目标原始信息数据，其中目标原始信息数据包括与目标第一类型路由字段对应的目标辅助字段信息数据，目标原始信息数据被被预先生成、并被预先存储在第二文件系统的信息数据库中。解析子单元，用于解析目标原始信息数据，以获取与目标第一类型路由字段对应的目标辅助字段。
根据本公开的实施例，其中，路由算法采用哈希算法，上述第一执行模块530还包括：计算单元和存储单元。
其中计算单元，用于利用哈希算法，基于目标第二类型路由字段和总分片数确定目标待处理文件对应的分片序号，其中分片序号用于标识目标数据库。存储单元，用于将目标待处理文件存储至与分片序号对应的目标数据库。
根据本公开的实施例，该装置还包括存储模块，用于在确定目标待处理文件对应的分片序号后，将目标待处理文件对应的分片序号存储至第二文件系统的信息数据库中。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
例如，读取模块510、判断模块520、第一执行模块530和第二执行模块540中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，读取模块510、判断模块520、第一执行模块530和第二执行模块540中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，读取模块510、判断模块520、第一执行模块530和第二执行模块540中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
本公开的另一个方面提供了一种电子设备，包括：一个或多个处理器、以及存储器；其中该存储器用于存储一个或多个程序；其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的路由方法。
图6示意性示出了根据本公开实施例的用于实现路由方法的电子设备的框图。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，根据本公开实施例的电子设备600包括处理器601，其可以根据存储在只读存储器(rom)602中的程序或者从存储部分608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如cpu)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(asic))，等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在ram603中，存储有电子设备600操作所需的各种程序和数据。处理器601、rom602以及ram603通过总线604彼此相连。处理器601通过执行rom602和/或ram603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除rom602和ram603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，电子设备600还可以包括输入/输出(i/o)接口605，输入/输出(i/o)接口605也连接至总线604。系统600还可以包括连接至i/o接口605的以下部件中的一项或多项：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至i/o接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。
根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的rom602和/或ram603和/或rom602和ram603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的路由方法。
在该计算机程序被处理器601执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分609被下载和安装，和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如java，c ，python，“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。
1.一种路由方法，包括：
依次读取多个待处理文件，其中所述待处理文件中包括第一类型路由字段，所述第一类型路由字段为在第一文件系统中，将所述待处理文件进行数据路由时依据的路由字段类型；
判断当前待处理文件是否为目标待处理文件；
在所述当前待处理文件是所述目标待处理文件的情况下，根据与所述目标待处理文件对应的目标第一类型路由字段，生成与所述目标待处理文件对应的目标第二类型路由字段，以便根据所述目标第二类型路由字段和路由算法，将所述目标待处理文件路由至第二文件系统中的目标数据库，其中所述第二类型路由字段为在所述第二文件系统中，将所述待处理文件进行数据路由时依据的路由字段类型；以及
在所述当前待处理文件不是目标待处理文件的情况下，丢弃所述当前待处理文件。
2.根据权利要求1所述的方法，其中，所述多个待处理文件为在预处理服务器中对原始批量文件中的每个文件分别按次序编号后获得的文件，每个所述待处理文件包含一个顺序编号，所述当前待处理文件包含当前顺序编号；
所述判断当前待处理文件是否为目标待处理文件包括：
根据所述当前顺序编号和预设判断规则，判断所述当前待处理文件是否为所述目标待处理文件。
3.根据权利要求2所述的方法，其中，所述预设判断规则采用取模判断规则；
根据所述当前顺序编号和判断规则，判断所述当前待处理文件是否为所述目标待处理文件包括：
将所述当前顺序编号对节点数进行取模，以获得当前模值，其中所述节点数为所述第二文件系统中的处理服务器的数量，每个所述处理服务器通过节点序号进行标识；
将所述当前模值与所述节点序号匹配的所述当前待处理文件确定为所述目标待处理文件。
4.根据权利要求1所述的方法，其中，根据与所述目标待处理文件对应的目标第一类型路由字段，生成与所述目标待处理文件对应的目标第二类型路由字段包括：
根据所述目标第一类型路由字段和预设生成规则生成所述目标第二类型路由字段，其中所述预设生成规则用于表征所述第一类型路由字段和所述第二类型路由字段的对应关系。
5.根据权利要求4所述的方法，其中，
所述第一类型路由字段和所述第二类型路由字段的对应关系为：所述第二类型路由字段＝所述第一类型路由字段 辅助字段，其中所述辅助字段包括时间信息字段和随机数字段；
根据所述目标第一类型路由字段和预设生成规则生成所述目标第二类型路由字段包括：
获取与所述目标第一类型路由字段对应的所述目标辅助字段；
将所述目标辅助字段添加至所述目标第一类型路由字段中，以生成所述目标第二类型路由字段。
6.根据权利要求5所述的方法，其中，获取与所述目标第一类型路由字段对应的所述目标辅助字段包括：
获取目标原始信息数据，其中所述目标原始信息数据包括与所述目标第一类型路由字段对应的目标辅助字段信息数据，所述目标原始信息数据被被预先生成、并被预先存储在所述第二文件系统的信息数据库中；
解析所述目标原始信息数据，以获取与所述目标第一类型路由字段对应的所述目标辅助字段。
7.根据权利要求1所述的方法，其中，所述路由算法采用哈希算法；
根据所述目标第二类型路由字段和路由算法，将所述目标待处理文件路由至第二文件系统中的目标数据库包括：
利用所述哈希算法，基于所述目标第二类型路由字段和总分片数确定所述目标待处理文件对应的分片序号，其中所述分片序号用于标识所述目标数据库；
将所述目标待处理文件存储至与所述分片序号对应的目标数据库。
8.根据权利要求7所述的方法，还包括：
在确定所述目标待处理文件对应的分片序号后，将所述目标待处理文件对应的分片序号存储至第二文件系统的信息数据库中。
9.一种路由装置，包括：
读取模块，用于依次读取多个待处理文件，其中所述待处理文件中包括第一类型路由字段，所述第一类型路由字段为在第一文件系统中，将所述待处理文件进行数据路由时依据的路由字段类型；
判断模块，用于判断当前待处理文件是否为目标待处理文件；
第一执行模块，用于在所述当前待处理文件是所述目标待处理文件的情况下，根据与所述目标待处理文件对应的目标第一类型路由字段，生成与所述目标待处理文件对应的目标第二类型路由字段，以便根据所述目标第二类型路由字段和路由算法，将所述目标待处理文件路由至第二文件系统中的目标数据库，其中所述第二类型路由字段为在所述第二文件系统中，将所述待处理文件进行数据路由时依据的路由字段类型；以及
第二执行模块，用于在所述当前待处理文件不是目标待处理文件的情况下，丢弃所述当前待处理文件。
10.一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至8中任一项所述的方法。
11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至8中任一项所述的方法。
12.一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现权利要求1至8中任一项所述的方法。
技术总结