CN109376015A - 用于任务调度系统的日志阻塞解决方法及系统 - Google Patents

Abstract

本发明公开一种用于任务调度系统的日志阻塞解决方法，包括：从任务调度系统的元数据中获取执行任务信息；根据所述执行任务信息确定需要启动以执行的任务；基于所述需要启动以执行的任务生成消息队列；启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。本发明实施例中多进程的配合使用可以均摊单节点的日志压力，同时单节点的日志量可以避开节点的pipe瓶颈，从而有效解决了现有技术中所存在的日志堵塞问题。

Description

用于任务调度系统的日志阻塞解决方法及系统

技术领域

本发明涉及数据信息处理技术领域，尤其涉及一种用于任务调度系统的日志阻塞解决方法、系统、电子设备及存储介质。

背景技术

任务调度是操作系统的重要组成部分，而对于实时操作系统，任务调度直接影响其实时性能。尤其对于分布式操作系统和集群系统中，存在着严重的日志堵塞现象，影响分布式应用的使用。

发明内容

本发明实施例提供一种用于任务调度系统的日志阻塞解决方法及系统，用于至少解决上述技术问题之一。

第一方面，本发明实施例提供一种用于任务调度系统的日志阻塞解决方法，包括：

从任务调度系统的元数据中获取执行任务信息；

根据所述执行任务信息确定需要启动以执行的任务；

基于所述需要启动以执行的任务生成消息队列；

启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。

第二方面，本发明实施例提供一种用于任务调度系统的日志阻塞解决系统，包括：

信息获取程序模块，用于从任务调度系统的元数据中获取执行任务信息；

任务确定程序模块，用于根据所述执行任务信息确定需要启动以执行的任务；

消息队列生成程序模块，用于基于所述需要启动以执行的任务生成消息队列；

执行程序模块，用于启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。

第三方面，本发明实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本发明上述任一项用于任务调度系统的日志阻塞解决方法。

第四方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明上述任一项用于任务调度系统的日志阻塞解决方法。

第五方面，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项用于任务调度系统的日志阻塞解决方法。

本发明实施例中多节点(多进程)的配合使用可以均摊单节点的日志压力，同时单节点的日志量可以避开节点的pipe瓶颈，从而有效解决了现有技术中所存在的日志堵塞问题。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明的用于任务调度系统的日志阻塞解决方法的一实施例的流程图；

图2为本发明的步骤S40的一实施例的流程图；

图3为本发明的用于任务调度系统的日志阻塞解决系统的一实施例的原理框图；

图4为本发明中的执行程序模块的一实施例的原理框图；

图5为本发明的电子设备的一实施例的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

本发明可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本发明，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

在本发明中，“模块”、“装置”、“系统”等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

如图1所示，本发明的实施例提供一种用于任务调度系统的日志阻塞解决方法，该调度系统为airflow调度系统，该方法包括以下步骤：

S10、从任务调度系统的元数据中获取执行任务信息；示例性的，启动airflow的主进程webserver，从元数据中获取所有的执行任务信息，进行进程通信，任务提交和管理。

S20、根据所述执行任务信息确定发布需要启动以执行的任务；示例性的，启动airflow任务的调度器scheduler，由controller(指监控Scheduler的一个服务)负责监控其状态，进行心跳通信，并将通信信息存入数据库，调度器scheduler会按指定规则(这里的指定规则是cron表达式的时间规则)发布需要启动的任务。

S30、基于所述需要启动以执行的任务生成消息队列；示例性的，调度器scheduler提交启动的任务信息给RabbitMq(RabbitMQ是流行的开源消息队列系统，用erlang语言开发)，worker从mq(Message Queue，消息队列)中拉取消息并处理。

S40、启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。示例性的，分布式的worker(执行airflow任务的进程)节点负责执行任务，每个任务由具体的operator执行，每个operator会启动一个子进程，进行日志的输出和管理，子进程又使用了communicate方法进行通信，并存入系统盘。这样多节点的配合使用可以均摊单节点的日志压力，同时单节点的日志量可以避开节点的pipe(python为子进程分配的内存管道)瓶颈。

其中，operator可以简单理解为一个class，描述了DAG(即有向无环图(DirectedAcyclic Graph)，将所有需要运行的tasks按照依赖关系组织起来，描述的是所有tasks执行的顺序)中一个具体的task具体要做的事。其中，airflow内置了很多operators，如BashOperator执行一个bash命令，PythonOperator调用任意的Python函数，EmailOperator用于发送邮件，HTTPOperator用于发送HTTP请求，SqlOperator用于执行SQL命令。同时，用户可以自定义Operator，这给用户提供了极大的便利性。

本发明实施例中基于集群模式(celery)下的airflow调度系统，通过使用python的子进程模块(subprocess)中的popen方法，解决集群模式，在有限资源情况下，大量日志涌入堵塞pipe的情况。

如图2所示，在一些实施例中，所述启动多个子进程从所述消息队列中拉取消息以执行相应任务，并进行日志处理及输出包括：

S41、启动多个子进程依次从所述消息队列中拉取消息以执行相应任务；示例性的，多个子进程中的每一个子进程分别依次从消息队列中获取消息以实现对相应于所获取的消息的任务的执行。

S42、判断执行所述相应任务时所产生的日志信息的语言类型；

示例性的，分析并判断所述日志信息的编码格式是否为预设编码格式；如果否，则判定所述日志信息的语言类型为非英文，如果是则判定所述日志信息的语言类型为英文。

S43、当判定所述日志信息为非英文日志信息时，修改所述日志信息的编码格式并输出。示例性的，将所述日志信息的编码格式修改为对应于其的预设编码格式，例如，当日志信息为中文日志信息时，将中文日志信息的编码格式修改为对应于中文日志信息的预设编码格式。

在一些实施例中，当判定所述日志信息为英文信息时，不作处理直接将该英文日志信息输出。

发明人在实际工作中发现，在airflow任务调度框架下进行应用的日志调度的过程中时常会出现应用日志堵塞的问题，经过分析之后发现，这种堵塞与日志语言种类存在一定的相关性。具体地，对于英文日志不会出现堵塞现象，堵塞现象仅仅发生于非英文日志(例如，中文、日文、韩文等)。之前代码没有考虑到中文编码的设置考虑，本实施例对于非英文编码进行了主动的预测判断进行编码输出。例如，在程序运行的过程中会输出相应的日志，如果日志是英文的话没有问题，当判断为非英文日志(例如，中文日志)就会出错(阻塞)。

因此，基于本实施例的方法通过对日志信息的语言类型进行识别，并对非英文日志信息进行编码格式的修改的方式解决了由于非英文日志信息所引起的日志阻塞的技术问题，从而使得调度系统能够适应不同的语言场景。在另一个维度降低了日志堵塞的概率，保证了系统运行的流畅性与稳定性。

在一些实施例中，预先识别任务执行过程中所产生的日志的语言类型，如果是非英文日志，则对该非英文日志的输出进行编码调整。使得其可以流畅的输出非英文日志。判断用户日志输出的原编码格式(例如，unicode)，然后进行相应的编码调整转化为新的编码格式(例如，utf-8)。

在一些实施例中，本发明的用于任务调度系统的日志阻塞解决方法还包括：当执行所述相应任务时所产生的日志信息的总量超过预设阈值之后启动新的子进程以对所述超出所述预设阈值之外的日志信息进行处理。

本发明实施例中，基于集群模式(celery)下的airflow调度系统，通过使用python的子进程模块(subprocess)中的popen方法，解决集群模式，在有限资源情况下，大量日志涌入堵塞pipe的情况。由于popen的使用，日志可以在积累到一定量后启动新的子进程切出到特定的文件目录中(例如，代码设置的服务专用日志目录:/data1/airflow/dag_log/...)。有效的缓解大量日志涌入对内存造成的压力。

在实现本发明上述实施例的方案之前，发明人首先想到的是以下方面的改进：

1、将日志落到hdfs(Hadoop分布式文件系统)中。这种方案好处是直接使用hdfs对文件进行分布式的管理，缺点是，由于日志量大且过于碎片化，除占用空间外，还会导致namenode压力过大。

2、采用进程阻塞的方法，收集日志，这样的收集方法比较简单易于实现和管理，但容易导致内存溢出，从而日志丢失。

因此，对于以发明人为代表的本领域普通技术人员来说以上这两种改进方法才是容易想到的。

并且，发明人在实施本发明实施例的过程中发现，这种日志堵塞解决方法不仅可以处理高并发场景下日志的堆积问题，由于使用了子进程，可以封装处理逻辑，从而可以检查日志中存在的异常情况，并对问题进行及时的处理。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作合并，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

如图3所示，本发明的实施例还提供一种用于任务调度系统的日志阻塞解决系统300，包括：

信息获取程序模块310，用于从任务调度系统的元数据中获取执行任务信息；

任务确定程序模块320，用于根据所述执行任务信息确定需要启动以执行的任务；

消息队列生成程序模块330，用于基于所述需要启动以执行的任务生成消息队列；

执行程序模块340，用于启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。

本发明实施例中基于集群模式(celery)下的airflow调度系统，通过使用python的子进程模块(subprocess)中的popen方法，解决集群模式，在有限资源情况下，大量日志涌入堵塞pipe的情况。

如图4所示，在一些实施例中，执行程序模块340包括：

消息队列执行程序单元341，用于通过所述多个子进程依次从所述消息队列中拉取消息以执行相应任务；

语言类型确定程序单元342，用于判断执行所述相应任务时所产生的日志信息的语言类型；

日志信息处理程序单元343，用于当判定所述日志信息为非英文日志信息时，修改所述日志信息的编码格式并输出。

在一些实施例中，用于任务调度系统的日志阻塞解决系统300还包括：子进程创建程序模块，用于当执行所述相应任务时所产生的日志信息的总量超过预设阈值之后启动新的子进程以对所述超出所述预设阈值之外的日志信息进行处理。

在一些实施例中，判断执行所述相应任务时所产生的日志信息的语言类型包括：分析并判断所述日志信息的编码格式是否为预设编码格式，如果否，则判定所述日志信息的语言类型为非英文。

在一些实施例中，本发明实施例提供一种非易失性计算机可读存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本发明上述任一项用于任务调度系统的日志阻塞解决方法。

在一些实施例中，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项用于任务调度系统的日志阻塞解决方法。

在一些实施例中，本发明实施例还提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行用于任务调度系统的日志阻塞解决方法。

在一些实施例中，本发明实施例还提供一种存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时用于任务调度系统的日志阻塞解决方法。

上述本发明实施例的用于任务调度系统的日志阻塞解决系统可用于执行本发明实施例的用于任务调度系统的日志阻塞解决方法，并相应的达到上述本发明实施例的实现用于任务调度系统的日志阻塞解决方法所达到的技术效果，这里不再赘述。本发明实施例中可以通过硬件处理器(hardware processor)来实现相关功能模块。

图5是本申请另一实施例提供的执行用于任务调度系统的日志阻塞解决方法的电子设备的硬件结构示意图，如图5所示，该设备包括：

一个或多个处理器510以及存储器520，图5中以一个处理器510为例。

执行用于任务调度系统的日志阻塞解决方法的设备还可以包括：输入装置530和输出装置540。

处理器510、存储器520、输入装置530和输出装置540可以通过总线或者其他方式连接，图5中以通过总线连接为例。

存储器520作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本申请实施例中的用于任务调度系统的日志阻塞解决方法对应的程序指令/模块。处理器510通过运行存储在存储器520中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例用于任务调度系统的日志阻塞解决方法。

存储器520可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于任务调度系统的日志阻塞解决装置的使用所创建的数据等。此外，存储器520可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器520可选包括相对于处理器510远程设置的存储器，这些远程存储器可以通过网络连接至用于任务调度系统的日志阻塞解决装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置530可接收输入的数字或字符信息，以及产生与用于任务调度系统的日志阻塞解决装置的用户设置以及功能控制有关的信号。输出装置540可包括显示屏等显示设备。

所述一个或者多个模块存储在所述存储器520中，当被所述一个或者多个处理器510执行时，执行上述任意方法实施例中的用于任务调度系统的日志阻塞解决方法。

上述产品可执行本申请实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本申请实施例所提供的方法。

本申请实施例的电子设备以多种形式存在，包括但不限于:

(1)移动通信设备:这类设备的特点是具备移动通信功能，并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如iPhone)、多媒体手机、功能性手机，以及低端手机等。

(2)超移动个人计算机设备:这类设备属于个人计算机的范畴，有计算和处理功能，一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等，例如iPad。

(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如iPod)，掌上游戏机，电子书，以及智能玩具和便携式车载导航设备。

(4)服务器:提供计算服务的设备，服务器的构成包括处理器、硬盘、内存、系统总线等，服务器和通用的计算机架构类似，但是由于需要提供高可靠的服务，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

(5)其他具有数据交互功能的电子装置。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (10)

1.一种用于任务调度系统的日志阻塞解决方法，包括：

从任务调度系统的元数据中获取执行任务信息；

根据所述执行任务信息确定需要启动以执行的任务；

基于所述需要启动以执行的任务生成消息队列；

启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。

2.根据权利要求1所述的方法，其中，所述启动多个子进程从所述消息队列中拉取消息以执行相应任务，并进行日志处理及输出包括：

启动多个子进程依次从所述消息队列中拉取消息以执行相应任务；

判断执行所述相应任务时所产生的日志信息的语言类型；

当判定所述日志信息为非英文日志信息时，修改所述日志信息的编码格式并输出。

3.根据权利要求2所述的方法，其中，还包括：

当执行所述相应任务时所产生的日志信息的总量超过预设阈值之后启动新的子进程以对超出所述预设阈值之外的日志信息进行处理。

4.根据权利要求2所述的方法，其中，所述判断执行所述相应任务时所产生的日志信息的语言类型包括：

分析并判断所述日志信息的编码格式是否为预设编码格式，

如果否，则判定所述日志信息的语言类型为非英文。

5.一种用于任务调度系统的日志阻塞解决系统，包括：

信息获取程序模块，用于从任务调度系统的元数据中获取执行任务信息；

任务确定程序模块，用于根据所述执行任务信息确定需要启动以执行的任务；

消息队列生成程序模块，用于基于所述需要启动以执行的任务生成消息队列；

执行程序模块，用于启动多个子进程从所述消息队列中的拉取消息以执行相应任务，并进行日志处理及输出。

6.根据权利要求5所述的系统，其中，所述执行程序模块包括：

消息队列执行程序单元，用于通过启动多个子进程依次从所述消息队列中拉取消息以执行相应任务；

语言类型确定程序单元，用于判断执行所述相应任务时所产生的日志信息的语言类型；

日志信息处理程序单元，用于当判定所述日志信息为非英文日志信息时，修改所述日志信息的编码格式并输出。

7.根据权利要求6所述的系统，其中，还包括：

子进程创建程序模块，用于当执行所述相应任务时所产生的日志信息的总量超过预设阈值之后启动新的子进程以对超出所述预设阈值之外的日志信息进行处理。

8.根据权利要求5所述的系统，其中，所述判断执行所述相应任务时所产生的日志信息的语言类型包括：分析并判断所述日志信息的编码格式是否为预设编码格式，如果否，则判定所述日志信息的语言类型为非英文。

9.一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任意一项所述方法的步骤。

10.一种存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-4中任意一项所述方法的步骤。