CN109597810A - 一种任务切分方法、装置、介质及电子设备 - Google Patents

Abstract

本发明实施例提供了一种任务切分方法、装置、介质及电子设备，该任务切分方法包括：将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；基于查询语言子数据，生成对应数量的查询任务，并整合查询任务，生成查询任务列表；向数据查询单元发送查询任务列表。本发明实施例的技术方案能够将输入的查询语言切分为查询子任务，发布到不同的查询节点上进行并行查询，同时并行从数据源读取目标数据，高效、快速的获取查询结果。

Description

一种任务切分方法、装置、介质及电子设备

技术领域

本发明涉及计算机技术领域，具体而言，涉及一种任务切分方法、装置、介质及电子设备。

背景技术

在医院研究领域中，通常有很多数据需求，这些需求不是一次检索就能够获得的，而是需要很多次检索，并且在检索过程中有一些简单的时间计算与比较。

现有数据检索技术方案主要有两种：(1)根据业务的需求进行顺序计算；(2)通过spark进行离线计算。

而上述现有技术方案存在以下缺点：

(1)如果根据业务需求进行顺序编程，则数据检索的性能以及可维护性较差；

(2)受限于资源抢占及数据源读取压力，如果用spark进行数据检索会对数据源会造成一定的稳定性压力。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本发明实施例的目的在于提供一种任务切分方法、装置、介质及电子设备，进而至少在一定程度上克服相关技术中数据检索性能低下以及可能造成数据源不稳定的一个或多个问题。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明实施例的第一方面，提供了一种数据查询实现方法，包括：

将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；

基于所述查询语言子数据，生成对应数量的查询任务，并整合所述查询任务，生成查询任务列表；

输出所述查询任务列表。

在本发明的一些实施例中，上述将所获取的查询语言数据进行切分，包括：对所述查询语言数据进行垂直切分和/或水平切分。

在本发明的一些实施例中，上述查询语言数据进行垂直切分和/或水平切分，包括：

按照预设划分规则将所述查询语言数据的列数据拆分至至少两个数据表中，和/或按照预设划分规则将所述查询语言数据的行数据拆分至至少两个数据表或数据库中。

在本发明的一些实施例中，上述对所述查询语言数据进行垂直切分和/或水平切分之后，包括：

通过预设的主键规则生成主键，将垂直切分后所获得的查询语言子数据进行关联；

通过预设的拆分标识位，将水平切分后所获得的查询语言子数据进行关联。

根据本发明实施例的第二方面，提供了一种数据查询方法，包括：

接收到查询任务列表后，将所述查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

执行所述排序后的查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有所述目标数据的查询结果；

输出并展示所述查询结果。

在本发明的一些实施例中，上述执行所述排序后的查询任务列表中的各查询任务，包括：

在所述排序后的查询任务列表中识别出垂直分割后的查询任务，根据预设的数据分片数量并行执行所述垂直分割后的查询任务；

在所述查询任务列表中识别出水平分割后的查询任务，根据预设的计算逻辑依次执行所述水平分割后的查询任务。

在本发明的一些实施例中，上述并行读取目标数据，包括：

当所述数据源为ES数据库时，同时从各个数据分片中读取目标数据；

当所述数据源为MangoDB数据库时，同时从各个数据主分片中读取目标数据。

在本发明的一些实施例中，上述输出所述查询结果，包括：将所述查询结果写入NoSQL数据库。

根据本发明实施例的第三方面，提供了一种任务切分单元，包括：拆分模块，用于将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；

生成模块，用于基于所述查询语言子数据，生成对应数量的查询任务，并整合所述查询任务，生成查询任务列表；

发送模块，用于发送所述查询任务列表。

根据本发明实施例的第四方面，提供了一种数据查询单元，包括：

获取模块，用于接收到查询任务列表后，将所述查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

执行模块，用于执行所述查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有所述目标数据的查询结果；

输出模块，用于输出所述查询结果。

根据本发明实施例的第五方面，提供了一种计算机可读介质，其上存储有计算机程序，上述程序被处理器执行时实现如上述实施例中第一方面的任务切分方法或第二方面的数据查询方法。

根据本发明实施例的第六方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器实现如上述实施例中第一方面的任务切分方法或第二方面的数据查询方法。

本发明实施例提供的技术方案可以包括以下有益效果：

本发明实施例提供了一种任务切分方法、装置、介质及电子设备，该任务切分方法包括：将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；基于所述查询语言子数据，生成对应数量的查询任务，并整合所述查询任务，生成查询任务列表；向数据查询单元发送所述查询任务列表。本发明实施例的技术方案能够将输入的查询语言切分为查询子任务，发布到不同的查询节点上进行并行查询，同时并行从数据源读取目标数据，高效、快速的获取查询结果。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示意性示出了根据本发明的一个实施例的任务切分方法中任务拆分的流程图；

图2示意性示出了根据本发明的一个实施例的任务切分方法的流程图；

图3示意性示出了根据本发明的一个实施例的任务切分及查询方法的框架图；

图4示意性示出了根据本发明的一个实施例的任务切分单元的框图；

图5示意性示出了根据本发明的一个实施例的数据查询单元的框图；

图6示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示意性示出了根据本发明的一个实施例的任务切分方法中任务拆分的流程图。

参照图1所示，根据本发明的一个实施例的任务切分方法中任务拆分，包括如下步骤：

步骤S110，将所获取的查询语言数据进行切分，获得至少两个查询语言子数据。

在本发明的一个实施例中，查询语言数据可以是用户输入的所拼接查询语言，该拼接查询语言包括多个数据的检索需求，并且该拼接查询语言是经过自然化语言描述的数据。

在本发明的一个实施例中，将自然化语言描述的查询语言数据进行切分处理，将查询语言数据拆分为一个个相互有关联的查询语言子数据，通过后续的并行执行查询语言子数据以提升数据查询效率和稳定性。

在本发明的一个实施例中，按照预设划分规则将查询语言数据的列数据拆分至至少两个数据表中，和/或按照预设划分规则将查询语言数据的行数据拆分至至少两个数据表或数据库中。

在本发明的一个实施例中，基于前述方案，可以将查询语言数据进行垂直切分和/或水平切分，其中，垂直切分为根据实际需求将查询语言数据进行分类，在数据的层面上，分布到不同的任务数据表或数据库中，这样垂直差分后的查询语言子数据之间关系清晰，拆分规则也明确，使查询系统之间的整合或者扩展容易，同时降低了数据维护的负载程度；水平切分为按照预设的规则，将查询语言数据分散至多个数据表或数据库中，简单来说是按照数据行的切分，就是将表中的某些行切分到一个数据表，而另外的某些行又切分到其他的数据表中，这样水平差分后不存高并发的性能瓶颈，提高了系统的稳定性和负载能。

在本发明的一个实施例中，对与查询语言数据的垂直切分和水平切分可以同时存在，也就是说，拆分后所获得的查询语言子数据既包括有垂直切分的查询语言子数据，又包括有水平切分的查询语言子数据。

步骤S120，基于查询语言子数据，生成对应数量的查询任务，并整合查询任务，生成查询任务列表。

在本发明的一个实施例中，将各个查询语言子数据作为数据查询任务，整合各个数据查询任务，生成数据查询任务列表，以供数据查询装置基于该查询任务列表并行执行数据查询任务。

步骤S130，向数据查询单元发送查询任务列表。

图2示意性示出了根据本发明的一个实施例的数据查询方法的流程图。

参照图2所示，根据本发明的一个实施例的数据查询方法，包括如下步骤：

步骤S210，接收到查询任务列表后，将查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

步骤S220，执行排序后的查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有目标数据的查询结果；

在本发明的一个实施例中，在查询任务列表中识别出垂直分割后的查询任务，根据预设的数据分片数量并行执行垂直分割后的查询任务；在查询任务列表中识别出水平分割后的查询任务，根据预设的计算逻辑依次执行水平分割后的查询任务。

在本发明的一个实施例中，基于前述方案，当数据源为ES数据库时，同时从各个数据分片中读取目标数据；当数据源为MangoDB数据库时，同时从各个数据主分片中读取目标数据。

步骤S230，输出查询结果。

在本发明的一个实施例中，可以将查询结果写入NoSQL数据库。

下面以具体数据查询实施例，对本发明所提出的任务切分及查询方法进行详细阐述。

图3示意性示出了根据本发明的一个实施例的任务切分及查询方法的框架图。

参照图3所示，根据本发明的一个实施例的任务切分及查询方法，包括如下步骤：

步骤S301，对数据查询语言进行切分，生成数据查询任务列表。

在本发明的一个实施例中，将自然化语言描述切分为一个个的子任务；如果是前后任务依赖，则垂直切分，按照不同数量的数据分片进行并行计算；如果前后任务不依赖，则水平切分，按照计算逻辑拆分计算；也可以垂直切分和水平切分同时存在。

步骤S302，根据接收到的数据查询任务列表，执行数据查询任务。

在本发明的一个实施例中，执行数据查询任务的执行主体可以使任务管理器，包括有多个任务节点，当任务管理器接收到数据查询任务列表后，根据任务节点的负载情况，将数据查询任务分配至任务节点。

在本发明的一个实施例中，任务管理器还用于管理任务节点，对任务节点的状态进行监控，针对出现异常的任务节点进行处理，以及根据数据查询任务优先级调度执行数据查询任务的先后顺序。

在本发明的一个实施例中，任务节点与任务管理器进行通信，向任务管理器注册，表明自己可以执行数据查询任务，当数据查询任务执行完毕后通知任务管理器，表明当前的数据查询任务完成，将查询结果输出，写入非关系型数据库中。

在上述步骤S302中，任务管理器通过数据节流模块控制从数据源读取目标数据的速度，从而提升数据源的稳定性，降低出现异常的概率。

在本发明的一个实施例中，基于前述方案，当数据源为ES时，数据节流模块则同时从各个数据分片中读取目标数据；当数据源为MongoDB时，则同时从各个数据主分片中读取目标数据。

步骤S303，数据查询任务执行完毕后，用户从非关系型数据库中读取查询结果。

以下介绍本发明的装置实施例，可以用于执行本发明上述的任务切分方法。

图4示意性示出了根据本发明的一个实施例的任务切分单元的框图。

参照图4所示，根据本发明的一个实施例的任务切分单元400，包括：

拆分模块401，用于将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；

生成模块402，用于基于查询语言子数据，生成对应数量的查询任务，并整合查询任务，生成查询任务列表；

发送模块403，用于向数据查询单元发送查询任务列表。

图5示意性示出了根据本发明的一个实施例的数据查询单元的框图。

参照图5所示，根据本发明的一个实施例的数据查询单元500，包括：

获取模块501，用于接收到查询任务列表后，将查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

执行模块502，用于执行排序后的查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有目标数据的查询结果；

输出模块503，用于输出查询结果。

由于本发明的示例实施例的任务切分单元的各个功能模块与上述第一方面的任务切分方法的示例实施例的步骤对应，本发明的示例实施例的数据查询单元的各个功能模块与上述第二方面的数据查询方法的示例实施例的步骤对应，因此对于本发明装置实施例中未披露的细节，请参照本发明上述的第一方面的任务切分方法和第二方面的的数据查询方法。

下面参考图6，其示出了适于用来实现本发明实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备的计算机系统600仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分1108加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中的任务切分方法。

例如，上述的电子设备可以实现如图1中所示的：步骤S110，将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；步骤S120，基于查询语言子数据，生成对应数量的查询任务，并整合查询任务，生成查询任务列表；步骤S130，发送查询任务列表。

又如，上述的电子设备可以实现如图2所示的各个步骤。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (12)

1.一种任务切分方法，其特征在于，包括：

将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；

基于所述查询语言子数据，生成对应数量的查询任务，并整合所述查询任务，生成查询任务列表；

输出所述查询任务列表。

2.根据权利要求1所述的任务切分方法，其特征在于，所述将所获取的查询语言数据进行切分，包括：对所述查询语言数据进行垂直切分和/或水平切分。

3.根据权利要求2所述的任务切分方法，其特征在于，对所述查询语言数据进行垂直切分和/或水平切分，包括：

按照预设划分规则将所述查询语言数据的列数据拆分至至少两个数据表中，和/或按照预设划分规则将所述查询语言数据的行数据拆分至至少两个数据表或数据库中。

4.根据权利要求2所述的任务切分方法，其特征在于，所述对所述查询语言数据进行垂直切分和/或水平切分之后，包括：

通过预设的主键规则生成主键，将垂直切分后所获得的查询语言子数据进行关联；

通过预设的拆分标识位，将水平切分后所获得的查询语言子数据进行关联。

5.一种数据查询方法，其特征在于，包括：

接收到查询任务列表后，将所述查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

执行所述排序后的查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有所述目标数据的查询结果；

输出所述查询结果。

6.根据权利要求5所述的数据查询方法，其特征在于，所述执行所述排序后的查询任务列表中的各查询任务，包括：

在所述排序后的查询任务列表中识别出垂直分割后的查询任务，根据预设的数据分片数量并行执行所述垂直分割后的查询任务；

在所述查询任务列表中识别出水平分割后的查询任务，根据预设的计算逻辑依次执行所述水平分割后的查询任务。

7.根据权利要求5所述的数据查询方法，其特征在于，所述并行读取目标数据，包括：

当所述数据源为ES数据库时，同时从各个数据分片中读取目标数据；

当所述数据源为MangoDB数据库时，同时从各个数据主分片中读取目标数据。

8.根据权利要求5所述的数据查询方法，其特征在于，所述输出所述查询结果，包括：将所述查询结果写入NoSQL数据库。

9.一种任务切分单元，其特征在于，包括：

拆分模块，用于将所获取的查询语言数据进行切分，获得至少两个查询语言子数据；

生成模块，用于基于所述查询语言子数据，生成对应数量的查询任务，并整合所述查询任务，生成查询任务列表；

发送模块，用于发送所述查询任务列表。

10.一种数据查询单元，其特征在于，包括：

获取模块，用于接收到查询任务列表后，将所述查询任务列表中经垂直切分和/或水平切分后的查询任务进行优先排序，获得排序后的查询任务列表；

执行模块，用于执行所述排序后的查询任务列表中的各查询任务，从数据源并行读取目标数据，获得包含有所述目标数据的查询结果；

输出模块，用于输出所述查询结果。

11.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1至4中任一项所述的任务切分方法或5至8中任一项所述的数据查询方法。

12.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个计算机程序，当所述一个或多个计算机程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至4中任一项所述的任务切分方法或5至8中任一项所述的数据查询方法。