CN113791891A - 持续集成任务构建方法、装置、设备和计算机可读介质 - Google Patents

持续集成任务构建方法、装置、设备和计算机可读介质 Download PDF

Info

Publication number
CN113791891A
CN113791891A CN202110128494.1A CN202110128494A CN113791891A CN 113791891 A CN113791891 A CN 113791891A CN 202110128494 A CN202110128494 A CN 202110128494A CN 113791891 A CN113791891 A CN 113791891A
Authority
CN
China
Prior art keywords
node
configuration information
target
resource
preset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110128494.1A
Other languages
English (en)
Inventor
李华强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN202110128494.1A priority Critical patent/CN113791891A/zh
Publication of CN113791891A publication Critical patent/CN113791891A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5055Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering software capabilities, i.e. software resources associated or available to the machine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • G06F9/44505Configuring for program initiating, e.g. using registry, configuration files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues

Abstract

本公开的实施例公开了持续集成任务构建方法、装置、设备和计算机可读介质。该方法的一具体实施方式包括:响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;根据上述持续集成任务配置信息,确定目标资源节点池;通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点;构建持续集成任务。该实施方式提高了用于持续集成的主节点集群中的主节点的可用性。

Description

持续集成任务构建方法、装置、设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域,具体涉及持续集成任务构建方法、装置、设备和计算机可读介质。
背景技术
持续集成任务构建是指通过持续集成工具或者持续集成软件(例如,Jenkins)对持续集成任务进行构建。目前,在构建持续集成任务时,通常采用的方式为:通过部署的单个或多个用于持续集成的主节点来构建持续集成任务,每个主节点独立管理各自的配置信息和资源节点。
然而,当采用上述方式构建持续集成任务时,经常会存在如下技术问题:
当用于持续集成的某一主节点宕机或者出现网络故障时,将无法提供持续集成任务构建服务,进而导致单点故障的出现,严重影响持续集成任务的构建和运行。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了持续集成任务构建方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种持续集成任务构建方法,该方法包括:响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;根据上述持续集成任务配置信息,确定目标资源节点池;通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,上述第一预设条件是根据上述空闲资源占比集合设置的,上述目标主节点包含至少一个预置持续集成项目;利用上述持续集成任务配置信息和上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
可选的,上述主节点配置信息包括全局配置信息和预置持续集成项目配置信息;以及上述主节点集群是通过以下步骤进行构建的:基于上述主节点配置信息中包括的全局配置信息,对上述主节点集群中的各个主节点进行统一配置;利用上述主节点配置信息中包括的预置持续集成项目配置信息,为上述主节点集群中的各个主节点创建预设数目个预置持续集成项目;通过预设的资源节点映射信息确定上述主节点集群中的各个主节点对应的资源节点。
可选的,上述基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识,包括:基于上述持续集成任务配置信息和上述主节点配置信息中包括的预置持续集成项目配置信息,确定上述目标预置持续集成项目标识。
可选的,上述根据上述持续集成任务配置信息,确定目标资源节点池,包括:从与上述主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到上述目标资源节点池,其中,上述第二预设条件是根据上述持续集成任务配置信息进行设置的。
可选的,上述通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,包括:将上述目标资源节点池中与上述主节点对应的资源节点确定为挂载资源节点,得到挂载资源节点组;响应于上述主节点满足第三预设条件,通过上述挂载资源节点组中每个挂载资源节点中的执行器总数和被占用的执行器的数量,确定上述空闲资源占比。
可选的,上述通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,还包括:响应于上述主节点不满足上述第三预设条件,将上述空闲资源占比确定为零。
可选的,上述利用上述持续集成任务配置信息和上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务,包括:从上述目标主节点对应的挂载资源节点组中确定目标挂载资源节点;利用上述预置持续集成项目和上述持续集成任务配置信息,在上述目标挂载资源节点中构建上述持续集成任务。
第二方面,本公开的一些实施例提供了一种持续集成任务构建装置,装置包括:第一确定单元,被配置成响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;第二确定单元,被配置成根据上述持续集成任务配置信息,确定目标资源节点池;第三确定单元,被配置成通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;选择单元,被配置成从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,上述第一预设条件是根据上述空闲资源占比集合设置的,上述目标主节点包含至少一个预置持续集成项目;构建单元,被配置成利用上述持续集成任务配置信息和上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
可选的,上述主节点配置信息包括全局配置信息和预置持续集成项目配置信息;以及上述主节点集群是通过以下步骤进行构建的:基于上述主节点配置信息中包括的全局配置信息,对上述主节点集群中的各个主节点进行统一配置;利用上述主节点配置信息中包括的预置持续集成项目配置信息,为上述主节点集群中的各个主节点创建预设数目个预置持续集成项目;通过预设的资源节点映射信息确定上述主节点集群中的各个主节点对应的资源节点。
可选的,上述持续集成任务构建装置的第一确定单元,被进一步配置成:基于上述持续集成任务配置信息和上述主节点配置信息中包括的预置持续集成项目配置信息,确定上述目标预置持续集成项目标识。
可选的,上述持续集成任务构建装置的第二确定单元,被进一步配置成:从与上述主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到上述目标资源节点池,其中,上述第二预设条件是根据上述持续集成任务配置信息进行设置的。
可选的,上述持续集成任务构建装置的第三确定单元,被进一步配置成:将上述目标资源节点池中与上述主节点对应的资源节点确定为挂载资源节点,得到挂载资源节点组;响应于上述主节点满足第三预设条件,通过上述挂载资源节点组中每个挂载资源节点中的执行器总数和被占用的执行器的数量,确定上述空闲资源占比。
可选的,上述持续集成任务构建装置的第三确定单元,被更进一步配置成:响应于上述主节点不满足上述第三预设条件,将上述空闲资源占比确定为零。
可选的,上述持续集成任务构建装置的构建单元,被进一步配置成:从上述目标主节点对应的挂载资源节点组中确定目标挂载资源节点;利用上述预置持续集成项目和上述持续集成任务配置信息,在上述目标挂载资源节点中构建上述持续集成任务。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的持续集成任务构建方法,可以在主节点出现单点故障时,最大限度的保证持续集成任务的正常构建和运行。具体来说,造成持续集成任务的构建和运行在单点故障出现时受到严重影响的原因在于:用于持续集成的主节点集群中的主节点独立管理各自的配置信息和资源节点,无法找到对应的主节点替换故障主节点。基于此,本公开的一些实施例的持续集成任务构建方法在用于持续集成的同质的主节点集群中动态的对持续集成任务进行调度,选择可用性较高的主节点构建持续集成任务。使得某一主节点出现单点故障时,仍能通过其他可用的主节点构建持续集成任务,提高了用于持续集成的主节点集群的可用性。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是本公开的一些实施例的持续集成任务构建方法的一个应用场景的示意图;
图2是根据本公开的持续集成任务构建方法的一些实施例的流程图;
图3是根据本公开的持续集成任务构建方法的一些实施例中的主节点集群构建的示意图;
图4是根据本公开的持续集成任务构建方法的另一些实施例的流程图;
图5是根据本公开的持续集成任务构建装置的一些实施例的结构示意图;
图6是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是本公开的一些实施例的持续集成任务构建方法的一个应用场景的示意图。
在图1的应用场景中,首先,计算设备101可以响应于获取到持续集成任务配置信息102,基于上述持续集成任务配置信息102和用于持续集成的同质的主节点集群103的主节点配置信息104,确定目标预置持续集成项目标识105。接着,计算设备101可以根据上述持续集成任务配置信息102,确定目标资源节点池106。然后,计算设备101可以通过上述主节点集群103中每个主节点与上述目标资源节点池106中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合107。再然后,计算设备101可以从上述主节点集群103中选择满足第一预设条件的主节点作为目标主节点108,其中,上述第一预设条件是根据上述空闲资源占比集合107设置的,上述目标主节点108包含至少一个预置持续集成项目。最后,计算设备101可以利用上述持续集成任务配置信息102和上述目标主节点108中与上述目标预置持续集成项目标识105相匹配的预置持续集成项目,构建持续集成任务109。
需要说明的是,上述计算设备101可以是硬件,也可以是软件。当计算设备为硬件时,可以实现成多个服务器或终端设备组成的分布式集群,也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时,可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的计算设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的计算设备。
继续参考图2,示出了根据本公开的持续集成任务构建方法的一些实施例的流程200。该持续集成任务构建方法,包括以下步骤:
步骤201,响应于获取到持续集成任务配置信息,基于持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识。
在一些实施例中,持续集成任务构建方法的执行主体(如图1所示的计算设备101)可以响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群(例如,Jenkins多Master集群)的主节点配置信息,确定目标预置持续集成项目标识。其中,上述持续集成任务配置信息可以是用于创建持续集成任务的配置信息。上述持续集成任务配置信息可以包括任务唯一标识。上述任务唯一标识可以用数字表示。上述同质的主节点集群可以是包括的各个主节点拥有相同的持续集成任务构建能力的主节点集群,即持续集成任务可以在该主节点集群中的任一主节点上进行构建。上述同质的主节点集群中的各个主节点可以根据相同的配置信息进行构建,并且关联相同的资源节点。上述主节点配置信息可以包括预置持续集成项目数。上述主节点集群中的各个主节点拥有的预置持续集成项目的数目可以与上述预置持续集成项目数相同。上述预置持续集成项目可以是预先在上述主节点集群中的各个主节点中创建的模板持续集成项目。上述目标预置持续集成项目标识可以是用于构建上述持续集成任务配置信息对应的持续集成项目的预置持续集成项目的唯一标识。上述主节点集群中各个主节点中的预置持续集成项目可以使用不大于上述预置持续集成项目数的正整数进行顺序编号。可以在不大于上述预置持续集成项目数的正整数中随机选取一个作为目标预置持续集成项目标识。
作为示例,上述主节点集群中每个主节点可以拥有3个预置持续集成项目。上述主节点集群中每个主节点中的各个预置持续集成项目的唯一标识可以分别为1、2和3。则可以从1、2和3中随机选取一个作为目标预置持续集成项目标识。
在一些实施例的一些可选的实现方式中,上述主节点配置信息可以包括全局配置信息和预置持续集成项目配置信息。其中,上述全局配置信息可以包括但不限于全局属性定义信息、工具配置信息、凭据配置信息和共享库配置信息等。上述预置持续集成项目配置信息可以包括预置持续集成项目模板信息。可以预先创建一个持续集成项目,然后使用该持续集成项目的配置信息作为预置持续集成项目模板信息。上述主节点集群可以是通过以下步骤进行构建的:
第一步,基于上述主节点配置信息中包括的全局配置信息,对上述主节点集群中的各个主节点进行统一配置。
通过上述方式,可以使得主节点集群中的各个主节点拥有相同的配置信息。
第二步,利用上述主节点配置信息中包括的预置持续集成项目配置信息,为上述主节点集群中的各个主节点创建预设数目个预置持续集成项目。
通过上述方式,可以使得主节点集群中的各个主节点拥有相同数目个预置持续集成项目。从而,便于在上述主节点集群中的各个主节点对持续集成项目进行调度。
第三步,通过预设的资源节点映射信息确定上述主节点集群中的各个主节点对应的资源节点。其中,上述资源节点映射信息可以包括映射信息二元组集合。上述映射信息二元组集合中的映射信息二元组可以包括主节点唯一标识和资源节点唯一标识集合。同一个映射信息二元组中的主节点唯一标识所表征的主节点可以与资源节点唯一标识所表征的资源节点之间存在对应关系。上述主节点集群中的主节点与资源节点之间可以是多对多的对应关系。
作为示例,参考图3,首先,可以基于上述主节点配置信息301中包括的全局配置信息3011,对上述主节点集群302中的各个主节点进行统一配置。接着,可以利用上述主节点配置信息301中包括的预置持续集成项目配置信息3012,为上述主节点集群302中的各个主节点创建预设数目个预置持续集成项目。最后,可以通过预设的资源节点映射信息303确定上述主节点集群302中的各个主节点对应的资源节点。
可选的,上述执行主体可以基于上述持续集成任务配置信息和上述主节点配置信息中包括的预置持续集成项目配置信息,通过以下公式,确定上述目标预置持续集成项目标识:
X=PIID%N+1
其中,X表示上述目标预置持续集成项目标识。PJID表示上述持续集成项目配置信息中过包括的任务唯一标识。N表示上述预设数目。%表示取余符号。
作为示例,上述任务唯一标识可以为4,上述预设数目可以为3。则上述目标预置持续集成项目标识可以为2。
步骤202,根据持续集成任务配置信息,确定目标资源节点池。
在一些实施例中,上述执行主体可以根据上述持续集成任务配置信息,确定目标资源节点池。其中,上述目标资源节点池中的各个资源节点均可以用于构建与上述持续集成任务配置信息对应的持续集成任务。上述持续集成任务配置信息还可以包括目标资源节点池标识。可以通过上述目标资源节点池标识确定上述目标资源节点池。
具体的,通过上述方式确定目标资源节点池,需要预先存储目标资源节点池标识与该目标资源节点池标识表征的目标资源节点池中的各个目标资源节点的唯一标识之间的对应关系。可以通过二元组的方式存储上述对应关系。
步骤203,通过主节点集群中每个主节点与目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合。
在一些实施例中,上述执行主体通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,可以包括以下步骤:
第一步,根据上述主节点与上述目标资源节点池中各个目标资源节点的对应关系确定挂载资源节点池。
第二步,确定上述挂载资源节点池中每个挂载资源节点的中央处理器占用率,得到中央处理器占用率集合。
第三步,根据上述中央处理器占用率集合,通过以下公式确定上述空闲资源占比:
Figure BDA0002924315970000101
其中,R表示上述空闲资源占比。m表示上述挂载资源节点池中挂载资源节点的个数。i表示序号。Cpu表示上述中央处理器占用率集合中的中央处理器占用率。Cpui表示上述中央处理器占用率集合中第i个中央处理器占用率。
步骤204,从主节点集群中选择满足第一预设条件的主节点作为目标主节点。
在一些实施例中,上述执行主体可以从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点。其中,上述第一预设条件可以是主节点对应的空闲资源占比为上述空闲资源占比集合中的最大值。若上述主节点集群中存在多个对应的空闲资源占比为上述空闲资源占比集合中的最大值的主节点,则可以从这些主节点中随机选取一个作为目标主节点。
步骤205,利用持续集成任务配置信息和目标主节点中与目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
在一些实施例中,上述执行主体可以在上述目标主节点对应的挂载资源节点池中随机选取一个挂载资源节点作为目标挂载资源节点,然后,可以利用上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,通过上述持续集成任务配置信息构建持续集成任务。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的持续集成任务构建方法,可以在主节点出现单点故障时,最大限度的保证持续集成任务的正常构建和运行。具体来说,造成单点故障出现时,持续集成任务的构建和运行受到严重影响的原因在于:用于持续集成的主节点集群中的主节点独立管理各自的配置信息和资源节点。基于此,本公开的一些实施例的持续集成任务构建方法在用于持续集成的同质的主节点集群中动态的对持续集成任务进行调度,选择可用性较高的主节点构建持续集成任务。使得某一主节点出现单点故障时,仍能通过其他可用的主节点构建持续集成任务,提高了用于持续集成的主节点集群的可用性。
进一步参考图4,其示出了持续集成任务构建方法的另一些实施例的流程400。该持续集成任务构建方法的流程400,包括以下步骤:
步骤401,响应于获取到持续集成任务配置信息,基于持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识。
在一些实施例中,步骤401的具体实现方式及所带来的技术效果可以参考图2对应的那些实施例中的步骤201,在此不再赘述。
步骤402,从与主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到目标资源节点池。
在一些实施例中,持续集成任务构建方法的执行主体(如图1所示的计算设备)可以从与上述主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到上述目标资源节点池。其中,上述持续集成任务信息还可以包括资源池标签(例如,windows或mac等)。上述与上述主节点集群对应的各个资源节点也可以拥有资源池标签。上述第二预设条件可以是资源节点拥有的资源池标签与上述持续集成任务信息包括的资源池标签相同。
步骤403,通过主节点集群中每个主节点与目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合。
在一些实施例中,上述执行主体通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合,可以包括以下步骤:
第一步,将上述目标资源节点池中与上述主节点对应的资源节点确定为挂载资源节点,得到挂载资源节点组。其中,主节点和资源节点之间的对应关系可以通过预设的资源节点映射信息确定。
第二步,响应于上述主节点满足第三预设条件,通过上述挂载资源节点组中每个挂载资源节点中的执行器总数和被占用的执行器的数量,根据以下公式确定上述空闲资源占比:
Figure BDA0002924315970000121
其中,R表示上述空闲资源占比。m表示上述挂载资源节点池中挂载资源节点的个数。i表示序号。Executor表示上述挂载资源节点组中挂载资源节点中的执行器的总数。Executori表示上述挂载资源节点组中第i个挂载资源节点中的执行器的总数。executor表示上述挂载资源节点组中挂载资源节点中的空闲执行器的数目。executori表示上述挂载资源节点组中第i个挂载资源节点中的空闲执行器的数目。
具体的,上述第三预设条件可以是主节点未宕机或者出现网络故障。
在一些实施例的一些可选的实现方式中,上述执行主体还可以响应于上述主节点不满足上述第三预设条件,将上述空闲资源占比确定为零。当上述主节点宕机或者出现网络故障时,表明该主节点处于不可用的状态。
步骤404,从主节点集群中选择满足第一预设条件的主节点作为目标主节点。
在一些实施例中,步骤404的具体实现方式及所带来的技术效果可以参考图2对应的那些实施例中的步骤204,在此不再赘述。
步骤405,从目标主节点对应的挂载资源节点组中确定目标挂载资源节点。
在一些实施例中,上述执行主体可以从上述目标主节点对应的挂载资源节点组中选取中央处理器占用率最低的挂载资源节点作为目标挂载资源节点。
步骤406,利用预置持续集成项目和持续集成任务配置信息,在目标挂载资源节点中构建持续集成任务。
在一些实施例中,上述执行主体可以利用上述预置持续集成项目和上述持续集成任务配置信息,在上述目标挂载资源节点中构建上述持续集成任务。
从图4中可以看出,与图2对应的一些实施例的描述相比,图4对应的一些实施例中的持续集成任务构建方法的流程400体现了对确定空闲资源占比进行进一步扩展的步骤。由此,这些实施例描述的方案可以通过空闲执行器的数目确定主节点的可用性,从而实现更直观的体现主节点的持续集成任务构建能力。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种持续集成任务构建装置的一些实施例,这些装置实施例与图2所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,一些实施例的持续集成任务构建装置500包括:第一确定单元501、第二确定单元502、第二确定单元503、选择单元504和构建单元505。其中,第一确定单元501,被配置成响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识。第二确定单元502,被配置成根据上述持续集成任务配置信息,确定目标资源节点池。第三确定单元503,被配置成通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合。选择单元504,被配置成从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,上述第一预设条件是根据上述空闲资源占比集合设置的,上述目标主节点包含至少一个预置持续集成项目。构建单元505,被配置成利用上述持续集成任务配置信息和上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
在一些实施例的可选实现方式中,上述主节点配置信息包括全局配置信息和预置持续集成项目配置信息;以及上述主节点集群是通过以下步骤进行构建的:基于上述主节点配置信息中包括的全局配置信息,对上述主节点集群中的各个主节点进行统一配置;利用上述主节点配置信息中包括的预置持续集成项目配置信息,为上述主节点集群中的各个主节点创建预设数目个预置持续集成项目;通过预设的资源节点映射信息确定上述主节点集群中的各个主节点对应的资源节点。
在一些实施例的可选实现方式中,上述持续集成任务构建装置500的第一确定单元501可以被进一步配置成:基于上述持续集成任务配置信息和上述主节点配置信息中包括的预置持续集成项目配置信息,确定上述目标预置持续集成项目标识。
在一些实施例的可选实现方式中,上述持续集成任务构建装置500的第二确定单元502可以被进一步配置成:从与上述主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到上述目标资源节点池,其中,上述第二预设条件是根据上述持续集成任务配置信息进行设置的。
在一些实施例的可选实现方式中,上述持续集成任务构建装置500的第三确定单元503可以被进一步配置成:将上述目标资源节点池中与上述主节点对应的资源节点确定为挂载资源节点,得到挂载资源节点组;响应于上述主节点满足第三预设条件,通过上述挂载资源节点组中每个挂载资源节点中的执行器总数和被占用的执行器的数量,确定上述空闲资源占比。
在一些实施例的可选实现方式中,上述持续集成任务构建装置500的第三确定单元503可以被更进一步配置成:响应于上述主节点不满足上述第三预设条件,将上述空闲资源占比确定为零。
在一些实施例的可选实现方式中,上述持续集成任务构建装置500的构建单元504可以被进一步配置成:从上述目标主节点对应的挂载资源节点组中确定目标挂载资源节点;利用上述预置持续集成项目和上述持续集成任务配置信息,在上述目标挂载资源节点中构建上述持续集成任务。
可以理解的是,该装置500中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置500及其中包含的单元,在此不再赘述。
下面参考图6,其示出了适于用来实现本公开的一些实施例的电子设备600的结构示意图。图6示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;根据上述持续集成任务配置信息,确定目标资源节点池;通过上述主节点集群中每个主节点与上述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;从上述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,上述第一预设条件是根据上述空闲资源占比集合设置的,上述目标主节点包含至少一个预置持续集成项目;利用上述持续集成任务配置信息和上述目标主节点中与上述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括第一确定单元、第二确定单元、第二确定单元、选择单元和构建单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一确定单元还可以被描述为“响应于获取到持续集成任务配置信息,基于上述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

Claims (10)

1.一种持续集成任务构建方法,包括:
响应于获取到持续集成任务配置信息,基于所述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;
根据所述持续集成任务配置信息,确定目标资源节点池;
通过所述主节点集群中每个主节点与所述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;
从所述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,所述第一预设条件是根据所述空闲资源占比集合设置的,所述目标主节点包含至少一个预置持续集成项目;
利用所述持续集成任务配置信息和所述目标主节点中与所述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
2.根据权利要求1所述的方法,其中,所述主节点配置信息包括全局配置信息和预置持续集成项目配置信息;以及
所述主节点集群是通过以下步骤进行构建的:
基于所述主节点配置信息中包括的全局配置信息,对所述主节点集群中的各个主节点进行统一配置;
利用所述主节点配置信息中包括的预置持续集成项目配置信息,为所述主节点集群中的各个主节点创建预设数目个预置持续集成项目;
通过预设的资源节点映射信息确定所述主节点集群中的各个主节点对应的资源节点。
3.根据权利要求2所述的方法,其中,所述基于所述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识,包括:
基于所述持续集成任务配置信息和所述主节点配置信息中包括的预置持续集成项目配置信息,确定所述目标预置持续集成项目标识。
4.根据权利要求1所述的方法,其中,所述根据所述持续集成任务配置信息,确定目标资源节点池,包括:
从与所述主节点集群对应的各个资源节点中选择满足第二预设条件的资源节点作为目标资源节点,得到所述目标资源节点池,其中,所述第二预设条件是根据所述持续集成任务配置信息进行设置的。
5.根据权利要求1所述的方法,其中,所述通过所述主节点集群中每个主节点与所述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,包括:
将所述目标资源节点池中与所述主节点对应的资源节点确定为挂载资源节点,得到挂载资源节点组;
响应于所述主节点满足第三预设条件,通过所述挂载资源节点组中每个挂载资源节点中的执行器总数和被占用的执行器的数量,确定所述空闲资源占比。
6.根据权利要求5所述的方法,其中,所述通过所述主节点集群中每个主节点与所述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,还包括:
响应于所述主节点不满足所述第三预设条件,将所述空闲资源占比确定为零。
7.根据权利要求1所述的方法,其中,所述利用所述持续集成任务配置信息和所述目标主节点中与所述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务,包括:
从所述目标主节点对应的挂载资源节点组中确定目标挂载资源节点;
利用所述预置持续集成项目和所述持续集成任务配置信息,在所述目标挂载资源节点中构建所述持续集成任务。
8.一种持续集成任务构建装置,包括:
第一确定单元,被配置成响应于获取到持续集成任务配置信息,基于所述持续集成任务配置信息和用于持续集成的同质的主节点集群的主节点配置信息,确定目标预置持续集成项目标识;
第二确定单元,被配置成根据所述持续集成任务配置信息,确定目标资源节点池;
第三确定单元,被配置成通过所述主节点集群中每个主节点与所述目标资源节点池中各个目标资源节点的对应关系确定空闲资源占比,得到空闲资源占比集合;
选择单元,被配置成从所述主节点集群中选择满足第一预设条件的主节点作为目标主节点,其中,所述第一预设条件是根据所述空闲资源占比集合设置的,所述目标主节点包含至少一个预置持续集成项目;
构建单元,被配置成利用所述持续集成任务配置信息和所述目标主节点中与所述目标预置持续集成项目标识相匹配的预置持续集成项目,构建持续集成任务。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202110128494.1A 2021-01-29 2021-01-29 持续集成任务构建方法、装置、设备和计算机可读介质 Pending CN113791891A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110128494.1A CN113791891A (zh) 2021-01-29 2021-01-29 持续集成任务构建方法、装置、设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110128494.1A CN113791891A (zh) 2021-01-29 2021-01-29 持续集成任务构建方法、装置、设备和计算机可读介质

Publications (1)

Publication Number Publication Date
CN113791891A true CN113791891A (zh) 2021-12-14

Family

ID=78876863

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110128494.1A Pending CN113791891A (zh) 2021-01-29 2021-01-29 持续集成任务构建方法、装置、设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN113791891A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115829503A (zh) * 2022-11-30 2023-03-21 中电金信软件有限公司 一种项目集成方法、装置、系统、电子设备及存储介质
CN116991374A (zh) * 2023-09-27 2023-11-03 北京凌云雀科技有限公司 构建持续集成任务的控制方法、装置、电子设备及介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115829503A (zh) * 2022-11-30 2023-03-21 中电金信软件有限公司 一种项目集成方法、装置、系统、电子设备及存储介质
CN115829503B (zh) * 2022-11-30 2024-04-09 中电金信软件有限公司 一种项目集成方法、装置、系统、电子设备及存储介质
CN116991374A (zh) * 2023-09-27 2023-11-03 北京凌云雀科技有限公司 构建持续集成任务的控制方法、装置、电子设备及介质
CN116991374B (zh) * 2023-09-27 2024-01-19 北京凌云雀科技有限公司 构建持续集成任务的控制方法、装置、电子设备及介质

Similar Documents

Publication Publication Date Title
CN113791891A (zh) 持续集成任务构建方法、装置、设备和计算机可读介质
CN112559125A (zh) 容器应用迁移方法、装置、电子设备和计算机可读介质
CN113722056A (zh) 任务调度方法、装置、电子设备和计算机可读介质
CN110650209A (zh) 实现负载均衡的方法和装置
CN113760991A (zh) 数据操作方法、装置、电子设备和计算机可读介质
CN113553178A (zh) 任务处理方法、装置和电子设备
CN109428926B (zh) 一种调度任务节点的方法和装置
CN111857720A (zh) 用户界面状态信息的生成方法、装置、电子设备及介质
CN113419841B (zh) 消息调度方法、装置、电子设备和计算机可读介质
CN113760503A (zh) 任务迁移方法、装置、电子设备和计算机可读介质
CN116302271A (zh) 一种页面展示方法、装置及电子设备
CN112527454A (zh) 容器组调度方法、装置、电子设备和计算机可读介质
CN113760927A (zh) 数据处理方法、装置、电子设备和计算机可读介质
CN114490718A (zh) 数据输出方法、装置、电子设备和计算机可读介质
CN112817701A (zh) 定时器处理方法、装置、电子设备和计算机可读介质
US20170286181A1 (en) Deployment and execution of sensing and computational tasks in a network of computing devices
CN113064905A (zh) 业务流程处理方法、装置、电子设备和计算机可读介质
CN112507676A (zh) 能源报表生成方法、装置、电子设备和计算机可读介质
CN111694672A (zh) 资源分配方法、任务提交方法、装置、电子设备和介质
CN111694670A (zh) 资源分配方法、装置、设备和计算机可读介质
CN113472565B (zh) 服务器功能的扩容方法、装置、设备和计算机可读介质
CN115878296B (zh) 一种资源管理方法、装置、电子设备及可读存储介质
CN112148448B (zh) 资源分配方法、装置、设备和计算机可读介质
CN114625505A (zh) 运单任务执行方法、装置、电子设备和计算机可读介质
CN113760365A (zh) 取令牌操作执行方法、装置、电子设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination