发明内容
本发明为了克服上述相关技术存在的缺陷,提供一种实时计算任务的计算资源分配方法、装置、电子设备、存储介质,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
根据本发明的一个方面,提供一种实时计算任务的计算资源分配方法,包括:
接收用户登入信息,并根据所述用户登入信息验证用户权限;
接收实时计算任务的发布,并依据所述用户权限将该实时计算任务分配至关联该用户权限的任务队列中;
自所述任务队列中获取实时计算任务;以及
根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源。
可选地,所述根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源包括:
根据所述实时计算任务的配置信息确定所述实时计算任务所要求的计算集群的不同类型的计算资源的权重;
根据所述计算集群的资源状态及所述实时计算任务所要求的计算集群的不同类型的计算资源的权重,向所述实时计算任务分配不同类型的计算资源。
可选地,所述根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源之后包括:
执行所述实时计算任务,并持久化对该实时计算任务的计算资源的分配,供下次执行该实时计算任务或执行同类型的其它实时计算任务时计算资源分配参考。
可选地,所述实时计算任务的配置信息至少包括所述实时计算任务所申请的计算资源及所述实时计算任务的资源类型。
可选地,所述实时计算任务的配置信息还包括所述实时计算任务的数据源的数据大小,所述实时计算任务的资源类型根据所述实时计算任务的数据源的数据大小确定。
可选地,所述实时计算任务的资源类型包括CPU类型及内存类型,其中,所述实时计算任务的数据源的数据大小大于设定阈值时,所述实时计算任务的资源类型确定为CPU类型;所述实时计算任务的数据源的数据大小小于等于设定阈值时,所述实时计算任务的资源类型确定为内存类型。
可选地,所述根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源之后还包括:
执行所述实时计算任务,并监控所述实时计算任务中各段数据源的执行时间,若所述执行时间大于预定时间阈值,则生成告警提示。
可选地,所述预定时间阈值由各段数据源的历史执行时间的平均值与一容错时间值之和确定。
根据本发明的又一方面,还提供一种实时计算任务的计算资源分配装置,包括:
权限认证模块,用于接收用户登入信息,并根据所述用户登入信息验证用户权限;
队列模块,用于接收实时计算任务的发布,并依据所述用户权限将该实时计算任务分配至关联该用户权限的任务队列中;
获取模块,用于自所述任务队列中获取实时计算任务;以及
分配模块,用于根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源。
可选地,所述权限认证模块、发布模块、获取模块及分配模块中的一个或多个模块为热插拔模块。
根据本发明的又一方面,还提供一种电子设备,所述电子设备包括:处理器;存储介质,其上存储有计算机程序,所述计算机程序被所述处理器运行时执行如上所述的步骤。
根据本发明的又一方面,还提供一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如上所述的步骤。
相比现有技术,本发明的优势在于:
一方面,本发明通过对用户的管理,实现用户和用户之间,用户和应用之间权限的校验,有效的避免误操作以及非法操作对实时计算算力的影响;另一方面,通过对计算集群的资源状态的动态监控和收集,以根据计算集群的资源状态动态地对集群资源进行配额管理和优化分配,最大化利用集群算力。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此,实际执行的顺序有可能根据实际情况改变。
图1示出了根据本发明实施例的实时计算任务的计算资源分配方法的流程图。参考图1,所述实时计算任务的计算资源分配方法包括如下步骤:
步骤S110:接收用户登入信息,并根据所述用户登入信息验证用户权限;
步骤S120:接收实时计算任务的发布,并依据所述用户权限将该实时计算任务分配至关联该用户权限的任务队列中;
步骤S130:自所述任务队列中获取实时计算任务;以及
步骤S140:根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源。
在本发明的示例性实施方式的实时计算任务的计算资源分配方法中,一方面,本发明通过对用户的管理,实现用户和用户之间,用户和应用之间权限的校验,有效的避免误操作以及非法操作对实时计算算力的影响;另一方面,通过对计算集群的资源状态的动态监控和收集,以根据计算集群的资源状态动态地对集群资源进行配额管理和优化分配,最大化利用集群算力。
下面将具体描述本发明提供的实时计算任务的计算资源分配方法:
在本发明的各个实施例中,所述的计算资源的资源类型可以包括CPU资源、内存资源、网络带宽等。本发明并非以此为限。
在本发明的各个实施例中,上述的实时计算任务的配置信息至少包括所述实时计算任务所申请的计算资源及所述实时计算任务的资源类型。在一些实施例中,此处所述的所述实时计算任务所申请的计算资源可以指所述实时计算任务所申请的计算资源的类型。在这样的实施例中,后续计算资源的分配可以该实时计算任务前一次执行(或同类型的其它实时计算任务执行)时所分配的不同类型的计算资源的资源量为参考。在另一些实施例中,此处所述的所述实时计算任务所申请的计算资源也可以指所述实时计算任务所申请的计算资源的资源量。在这样的实施例中,可以仅以所申请的资源量为后续计算资源分配的参考;也可以结合所申请的资源量及该实时计算任务前一次执行(或同类型的其它实时计算任务执行)时所分配的不同类型的计算资源的资源量,以作为后续计算资源分配的参考。本发明可以实现更多的变化方式,并非以此为限。
所述实时计算任务的资源类型指的是所述实时计算任务更多依赖的资源类型。例如,对算法较复杂,数据量较大的实时计算任务更多依赖CPU资源,则该实时计算任务可以是CPU类型的实时计算任务;又例如,对算法较简单,数据量较小的实时计算任务更多依赖内存资源,则该实时计算任务可以是内存类型的实时计算任务。
进一步地,在本发明的一些具体实施例中,实时计算任务的配置信息还包括所述实时计算任务的数据源的数据大小,所述实时计算任务的资源类型根据所述实时计算任务的数据源的数据大小确定。所述数据源的数据大小可以指的单位时间内需处理的数据源的数据大小。利用单位时间内需处理的数据源的数据大小来衡量实时计算任务的数据源的数据大小使得数据源的数据大小的比较更为精准。在一些具体实施例中,所述实时计算任务的资源类型包括CPU类型及内存类型,其中,所述实时计算任务的数据源的数据大小大于设定阈值(例如,以高吞吐量的分布式发布订阅消息系统中每分钟一百万条数据,本发明并非以此为限)时,所述实时计算任务的资源类型确定为CPU类型;所述实时计算任务的数据源的数据大小小于等于设定阈值时,所述实时计算任务的资源类型确定为内存类型。
进一步地,上述步骤S110及步骤S120,通过用户权限的认证及任务队列的划分,使得同一工作组、开发同一应用、同一用户账号仅可处理其相关的实时计算任务,从而有效的避免误操作以及非法操作对实时计算算力的影响
进一步地,上述步骤S140:根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源的具体执行可以参见图2,图2示出了根据本发明具体实施例的计算资源分配的流程图。图2共示出了如下步骤:
步骤S210:根据所述实时计算任务的配置信息确定所述实时计算任务所要求的计算集群的不同类型的计算资源的权重。
步骤S220:根据所述计算集群的资源状态及所述实时计算任务所要求的计算集群的不同类型的计算资源的权重,向所述实时计算任务分配不同类型的计算资源。
步骤S230:执行所述实时计算任务,并持久化对该实时计算任务的计算资源的分配,供下次执行该实时计算任务或执行同类型的其它实时计算任务时计算资源分配参考。
其中,步骤S210和步骤S220包含在图1所示的步骤S140中,步骤S230在图1所示的步骤S140之后执行。
具体而言,上述步骤S210中,可以根据实时计算任务的数据源的数据大小来计算集群的不同类型的计算资源的权重。例如,预先设定实时计算任务的数据源的数据大小的范围与权重的映射关系,将当前实时计算任务的数据源的数据大小与先前的映射关系进行匹配以获得不同类型的计算资源的权重。进一步地,在上述步骤S210中,通过不同类型的计算资源的权重的计算相当于计算该实时计算任务对不同类型的计算资源的依赖程度。
在上述步骤S220中,相当于根据该实时计算任务对不同类型的计算资源的依赖程度,及计算集群的资源状态(例如可用资源的量),来确定对实时计算任务的计算资源的分配。
进一步地,在本发明的多个实施例中,图1所示步骤S140所述根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源之后还包括如下步骤:
执行所述实时计算任务,并监控所述实时计算任务中各段数据源的执行时间,若所述执行时间大于预定时间阈值,则生成告警提示。所述预定时间阈值由各段数据源的历史执行时间的平均值与一容错时间值之和确定。
具体而言,各实时计算任务可以划分为多段数据源(对应子计算任务),若某段数据源的执行时间大于预定时间阈值,则表示该端数据源的执行出现了问题,需要生成告警提示。进一步地,预定时间阈值可以是该实时计算任务前n段数据源的历史执行时间的平均值与一容错时间值(例如5秒、10秒,本发明并非以此为限)之和。又例如,预定时间阈值可以是该实时计算任务当前段数据源之前n段数据源的历史执行时间的平均值与一容错时间值(例如5秒、10秒,本发明并非以此为限)之和。本发明还可以实现更多的变化方式,在此不予赘述。
下面结合图3描述本发明的实时计算任务的计算资源分配方法应用到应用程序的实时计算平台中的具体实施例。图3示出了根据本发明具体实施例的实时计算架构的示意图。
图3示出了数据服务层350、计算框架层340,应用管理层330,权限管理层320和对外服务层310。
数据服务层350是实时平台数据源和数据输出的主要方式,承担平台数据的传输功能。数据服务层350对消息订阅模块351(例如kafka)等存储进行个性化封装,确保数据处理的完整性和准确性。
计算框架层340与实时计算资源交互,负责实时数据的计算,以及实时计算框架的管理。计算框架层340可以包括第一计算模块341、第二计算模块342及资源管理模块343。第一计算模块341例如是Spark Streaming模块,Spark Streaming是Spark核心API的一个扩展,可以实现高吞吐量的、具备容错机制的实时流数据的处理。支持从多种数据源获取数据。、第二计算模块342例如是flink模块(面向分布式数据流处理和批量数据处理的开源计算平台)。资源管理模块343例如是yarn模块(一种新的Hadoop资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处)。
应用管理层330包括应用管理模块331,负责应用的发布、停止、参数配置等功能,提供对第一计算模块341和第二计算模块342的实时应用支持。
权限管理层320负责对平台权限的管控。比如权限管理层320包括权限校验模块321和用户管理模块322以进行用户的管理,资源队列权限的管理等。
对外服务层310包括界面交互模块311及对外服务接口312以提供实时计算能力界面话操作。
图3所示的所有模块内部高内聚,模块之间松耦合,实现热拔插效果,单个功能模块的跟新不影响平台整体功能。
以上仅仅是示意性地描述本发明的具体实现方式,上述各步骤/模块可以单独执行或组合执行,在不违背本发明构思的前提下,皆在本发明的保护范围之内。
图4示出了根据本发明实施例的实时计算任务的计算资源分配装置的示意图。图4示出了根据本发明实施例的实时计算任务的计算资源分配装置的模块图。实时计算任务的计算资源分配装置400包括权限认证模块410、队列模块420、获取模块430及分配模块440。
权限认证模块410用于接收用户登入信息,并根据所述用户登入信息验证用户权限;
队列模块420用于接收实时计算任务的发布,并依据所述用户权限将该实时计算任务分配至关联该用户权限的任务队列中;
获取模块430用于自所述任务队列中获取实时计算任务;以及
分配模块440用于根据所述实时计算任务的配置信息及计算集群的资源状态向该实时计算任务动态分配计算集群的计算资源。
具体而言,在上述各个模块(所述权限认证模块、发布模块、获取模块及分配模块)中的一个或多个模块为热插拔模块。
在本发明的示例性实施方式的实时计算任务的计算资源分配装置中,一方面,本发明通过对用户的管理,实现用户和用户之间,用户和应用之间权限的校验,有效的避免误操作以及非法操作对实时计算算力的影响;另一方面,通过对计算集群的资源状态的动态监控和收集,以根据计算集群的资源状态动态地对集群资源进行配额管理和优化分配,最大化利用集群算力。
图4仅仅是示意性的示出本发明提供的实时计算任务的计算资源分配装置400,在不违背本发明构思的前提下,模块的拆分、合并、增加都在本发明的保护范围之内。
在本发明的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被例如处理器执行时可以实现上述任意一个实施例中所述电子处方流转处理方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。
参考图5所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品700,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在租户计算设备上执行、部分地在租户设备上执行、作为一个独立的软件包执行、部分在租户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到租户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在本发明的示例性实施例中,还提供一种电子设备,该电子设备可以包括处理器,以及用于存储所述处理器的可执行指令的存储器。其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述电子处方流转处理方法的步骤。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图6来描述根据本发明的这种实施方式的电子设备500。图6显示的电子设备500仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备500以通用计算设备的形式表现。电子设备500的组件可以包括但不限于:至少一个处理单元510、至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530、显示单元540等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元510执行,使得所述处理单元510执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元510可以执行如图1所示的步骤。
所述存储单元520可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202,还可以进一步包括只读存储单元(ROM)5203。
所述存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204,这样的程序模块5205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备600(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得租户能与该电子设备500交互的设备通信,和/或与使得该电子设备500能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口550进行。并且,电子设备500还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器560可以通过总线530与电子设备500的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备500使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明实施方式的上述电子处方流转处理方法。
相比现有技术,本发明的优势在于:
一方面,本发明通过对用户的管理,实现用户和用户之间,用户和应用之间权限的校验,有效的避免误操作以及非法操作对实时计算算力的影响;另一方面,通过对计算集群的资源状态的动态监控和收集,以根据计算集群的资源状态动态地对集群资源进行配额管理和优化分配,最大化利用集群算力。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由所附的权利要求指出。