CN108874520A - 计算方法及装置 - Google Patents
计算方法及装置 Download PDFInfo
- Publication number
- CN108874520A CN108874520A CN201810584721.XA CN201810584721A CN108874520A CN 108874520 A CN108874520 A CN 108874520A CN 201810584721 A CN201810584721 A CN 201810584721A CN 108874520 A CN108874520 A CN 108874520A
- Authority
- CN
- China
- Prior art keywords
- task
- calculate node
- sequence
- calculating
- computing platform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例提供一种计算方法及装置,属于数据处理领域。该方法首先获取任务计算请求,所述任务计算请求中包括需要计算的多个任务,然后根据所述多个任务之间的数据的依赖关系,生成对应的任务序列,再根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,本方法中将同一个计算平台上兼容多个计算节点,由此可在同一计算平台根据任务的计算需要执行不同计算平台的任务调度,从而可以有效提高计算任务调度的效率。
Description
技术领域
本发明涉及数据处理领域,具体而言,涉及一种计算方法及装置。
背景技术
随着科技的迅速发展,使得软硬件的性能有了飞跃的提升。在这种背景下各个行业能够存储的数据量急剧膨胀,面对日益激烈的市场竞争环境和客户需求的千变万化,各个企业对如此巨量的数据价值的探求情绪日益增长。
如何让数据在企业发挥巨大的价值是大数据公司追求的目标,在需求的驱动下,各个企业争相研发出了数据挖掘工具软件,现有的挖掘工具软件大多提供单一的计算平台进行架构。例如提供单一的SQL统计分析,单一的机器学习算法进行数据分析,单一的深度学习算法进行数据挖掘,也就是一个计算平台只能提高一种算法。
例如现有技术中只能依赖spark计算平台运行分布式任务,如有其他计算平台tensorflow的算法需求,不能快速融入整个运行环境;新的计算平台和原有计算平台之间的数据不能进行快速关联;若spark平台宕机,会影响整个系统的运行。
平台与算法耦合度太高,例如spark的算法只能运行在该计算平台上,如后期加入新的python算法,需重新进行代码开发,也不能进行多平台算法的混合执行,由此造成任务调度效率较低。
发明内容
有鉴于此,本发明实施例的目的在于提供一种计算方法及装置,以改善上述问题。
第一方面,本发明实施例提供了一种计算方法,所述方法包括:获取任务计算请求,所述任务计算请求中包括需要计算的多个任务;根据所述多个任务之间的数据的依赖关系,生成对应的任务序列;根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
进一步地,所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:根据所述任务序列中任务的先后顺序,调度所述第一计算节点执行所述第一任务的计算任务;调度所述第二计算节点执行所述第二任务的计算任务。
进一步地,调度所述第二计算节点执行所述第二任务的计算任务,包括:获取所述第一计算节点的计算结果,调度所述第二计算节点根据所述计算结果执行所述第二任务的计算任务。
进一步地,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务。
进一步地,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若否,则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
第二方面,本发明实施例提供了一种计算装置,所述计算装置包括:请求获取模块,用于获取任务计算请求,所述任务计算请求中包括需要计算的多个任务;任务序列生成模块,用于根据所述多个任务之间的数据的依赖关系,生成对应的任务序列;计算模块,用于根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
进一步地,所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,所述计算模块包括:第一计算单元,用于根据所述任务序列中任务的先后顺序,调度所述第一计算节点执行所述第一任务的计算任务;第二计算单元,用于调度所述第二计算节点执行所述第二任务的计算任务。
进一步地,所述第二计算单元,具体用于获取所述第一计算节点的计算结果,调度所述第二计算节点根据所述计算结果执行所述第二任务的计算任务。
进一步地,所述计算模块,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务。
进一步地,所述计算模块,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若否,则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
本发明实施例的有益效果是:
本发明实施例提供一种计算方法及装置,该方法首先获取任务计算请求,所述任务计算请求中包括需要计算的多个任务,然后根据所述多个任务之间的数据的依赖关系,生成对应的任务序列,再根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,本方法中将同一个计算平台上兼容多个计算节点,由此可在同一计算平台根据任务的计算需要执行不同计算平台的任务调度,从而可以有效提高计算任务调度的效率。
本发明的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明实施例了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了一种可应用于本申请实施例中的电子设备的结构框图;
图2为本发明实施例提供的一种计算方法的应用系统架构图;
图3为本发明实施例提供的一种计算方法的流程图;
图4为本发明实施例提供的一种计算装置的结构框图;
图5为本发明实施例提供的另一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
请参照图1,图1示出了一种可应用于本申请实施例中的电子设备100的结构框图。电子设备100可以包括计算装置、存储器101、存储控制器102、处理器103、外设接口104、输入输出单元105、音频单元106、显示单元107。
所述存储器101、存储控制器102、处理器103、外设接口104、输入输出单元105、音频单元106、显示单元107各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述计算装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器101中或固化在所述计算装置的操作系统(operating system,OS)中的软件功能模块。所述处理器103用于执行存储器101中存储的可执行模块,例如所述计算装置包括的软件功能模块或计算机程序。
其中,存储器101可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。其中,存储器101用于存储程序,所述处理器103在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流过程定义的服务器所执行的方法可以应用于处理器103中,或者由处理器103实现。
处理器103可以是一种集成电路芯片,具有信号的处理能力。上述的处理器103可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器103也可以是任何常规的处理器等。
所述外设接口104将各种输入/输出装置耦合至处理器103以及存储器101。在一些实施例中,外设接口104,处理器103以及存储控制器102可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
输入输出单元105用于提供给用户输入数据实现用户与所述服务器(或本地终端)的交互。所述输入输出单元105可以是,但不限于,鼠标和键盘等。
音频单元106向用户提供音频接口,其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。
显示单元107在所述电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,所述显示单元107可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器103进行计算和处理。
所述外设接口104将各种输入/输入装置耦合至处理器103以及存储器101。在一些实施例中,外设接口104,处理器103以及存储控制器102可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
输入输出单元105用于提供给用户输入数据实现用户与处理终端的交互。所述输入输出单元105可以是,但不限于,鼠标和键盘等。
可以理解,图1所示的结构仅为示意,所述电子设备100还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
在本发明实施例中,为了便于对本发明实施例提供的计算方法的理解,可参照如2所示的调度系统架构图,该计算方法应用于该调度系统中,该调度系统包括外部接口层、业务层、调度层、运行层、存储层以及大数据计算与调度平台,外部接口层用于提供可供外部调用的接口;调度层用于统一对业务层发起的需求进行资源管理、会话管理和任务管理,如多个用户提交任务何如处理优先级,如何分配资源,如何管理会话等多个环节的管理;运行层根据任务请求通过运行服务将任务发送到相应的计算平台上(如右侧spark,tensorflow,R,python),从单一的计算平台调度方式更改为跨多种计算平台的复合调度方式;业务层用于为用户自定义对数据处理的各种需求的组装流程,例如一个流程中,用户需要先上传数据,对数据进行清洗,提取特征,建立模型,使用模型进行预测,在业务层中会传入各种数据及参数,业务代码将流程进行解析发送相应的执行任务。
请参照图3,图3为本发明实施例提供的一种计算方法的流程图,所述方法包括如下步骤:
步骤S110:获取任务计算请求,所述任务计算请求中包括需要计算的多个任务。
上述方法可应用在上述的电子设备中的调度系统,所述电子设备中运行有上述的调度系统,用户可通过用户终端发起任务计算请求,如用户在用户终端的相关页面上触发任务计算请求的发送,所述任务计算请求中包括需要计算的多个任务,当然在任务计算请求发起时,同时获取到任务中需用到的计算数据,例如,在需要计算多个订单的总额时,可在用户终端的相关页面中输入用于计算多个订单的总额的相关数据,然后点击页面上的相关按钮,以此触发任务计算请求的发送。
上述调度系统在接收到任务计算请求后,自动为这个任务计算请求创建一个会话,通知运行层的运行管理器提交计算任务,一个会话中包含有多个任务,运行管理器会对接收到的任务计算请求进行初始化,根据任务的运行方式(单节点运行、批量运行)来提交具体的任务。
步骤S120:根据所述多个任务之间的数据的依赖关系,生成对应的任务序列。
多个任务之间的数据的依赖关系可以理解为:多个任务之间存在一定的依赖关系,如多个任务可分为计算多个订单的总额和按区域计算订单的总额(即多个订单的总额减去其他区域订单总额),所以,该两个任务之间具有一定的依赖关系,则可将这两个任务进行划分后,按照计算的先后顺序存储到任务序列中。
步骤S130:根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
计算平台可理解为执行计算任务的运行环境,一个计算平台中可包括有多个计算节点,每个计算节点通过一种算法来编写,如计算节点1为spark算法,计算节点2为TensorFlow算法,计算节点3为R类算法等,如此一个计算平台上可兼容多个算法的计算,则在执行计算任务进行时,可调度任务对应的计算节点来执行计算任务,从而可将对种语言算法运行在同一计算平台上,多种算法混合并发执行,可满足不同场景下各种数据分析需求。
若所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,第一任务可理解为需要先执行计算的任务,如上述的计算多个订单的总额,第二任务可理解为需要后执行的计算任务,如上述的分区域计算订单的总额,第一任务对应的计算节点为第一计算节点,第二任务对应的计算节点为第二计算节点,所以,可根据所述任务序列中任务的先后顺序,先调度所述第一计算节点执行所述第一任务的计算任务,然后再调度所述第二计算节点执行所述第二任务的计算任务,而由于第一任务和第二任务之间有一定的依赖关系,所以,还可以获取第一计算节点的计算结果,如上述的多个订单的总额,然后将所述计算结果保存在特定存储区域,在所述第二计算节点执行第二任务的计算任务时,可从特定存储区域获取存储的第一计算节点输出的计算结果,将所述计算结果作为第二计算节点进行计算的数据,以此可执行第二任务的计算任务,从而避免了数据的重复计算。
另外,若任务序列中包含的多个任务需计算平台中的同一个计算节点执行计算,所以还需判断所述任务序列中多个任务是否需计算平台中的同一个计算节点执行计算,若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务;若判断所述任务序列中的多个任务不需要计算平台中的同一个计算节点执行计算,则则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
可以理解的,例如上述计算多个订单的总额和分区域计算订单的总额这个两个任务,如果这两个任务可以采用同一个算法进行计算,则可把这两个任务分配到对应的同一个计算节点执行计算,若这两个任务需要不同的算法进行计算,则将这两个任务依次分配到不同的计算节点执行计算。
请参照图4,图4为本发明实施例提供的一种计算装置200的结构框图,所述装置包括:
请求获取模块210,用于获取任务计算请求,所述任务计算请求中包括需要计算的多个任务;
任务序列生成模块220,用于根据所述多个任务之间的数据的依赖关系,生成对应的任务序列;
计算模块230,用于根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
作为一种实施方式,所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,所述计算模块230包括:
第一计算单元,用于根据所述任务序列中任务的先后顺序,调度所述第一计算节点执行所述第一任务的计算任务;
第二计算单元,用于调度所述第二计算节点执行所述第二任务的计算任务。
作为一种实施方式,所述第二计算单元,具体用于获取所述第一计算节点的计算结果,调度所述第二计算节点根据所述计算结果执行所述第二任务的计算任务。
作为一种实施方式,所述计算模块230,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务。
作为一种实施方式,所述计算模块230,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若否,则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
请参照图5,图5为本发明实施例提供的另一种电子设备的结构示意图,该电子设备可以包括:至少一个处理器410,例如CPU,至少一个通信接口420,至少一个存储器430和至少一个通信总线440。其中,通信总线440用于实现这些组件直接的连接通信。其中,本发明实施例中设备的通信接口420用于与其他节点设备进行信令或数据的通信。存储器430可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。存储器430可选的还可以是至少一个位于远离前述处理器的存储装置。存储器430中存储有计算机可读取指令,且处理器410执行存储器430中有计算机可读取指令时运行上述的计算方法中的步骤。
本发明实施例还提供一种可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时运行如上述的计算方法中的步骤。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考前述方法中的对应过程,在此不再过多赘述。
综上所述,本发明实施例提供一种计算方法及装置,该方法首先获取任务计算请求,所述任务计算请求中包括需要计算的多个任务,然后根据所述多个任务之间的数据的依赖关系,生成对应的任务序列,再根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,本方法中将同一个计算平台上兼容多个计算节点,由此可在同一计算平台根据任务的计算需要执行不同计算平台的任务调度,从而可以有效提高计算任务调度的效率。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种计算方法,其特征在于,所述方法包括:
获取任务计算请求,所述任务计算请求中包括需要计算的多个任务;
根据所述多个任务之间的数据的依赖关系,生成对应的任务序列;
根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
2.根据权利要求1所述的方法,其特征在于,所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:
根据所述任务序列中任务的先后顺序,调度所述第一计算节点执行所述第一任务的计算任务;
调度所述第二计算节点执行所述第二任务的计算任务。
3.根据权利要求2所述的方法,其特征在于,调度所述第二计算节点执行所述第二任务的计算任务,包括:
获取所述第一计算节点的计算结果,调度所述第二计算节点根据所述计算结果执行所述第二任务的计算任务。
4.根据权利要求1所述的方法,其特征在于,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:
判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;
若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务。
5.根据权利要求1所述的方法,其特征在于,根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务,包括:
判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;
若否,则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
6.一种计算装置,其特征在于,所述计算装置包括:
请求获取模块,用于获取任务计算请求,所述任务计算请求中包括需要计算的多个任务;
任务序列生成模块,用于根据所述多个任务之间的数据的依赖关系,生成对应的任务序列;
计算模块,用于根据所述任务序列中任务的先后顺序,调度计算平台中对应的计算节点执行相应的计算任务。
7.根据权利要求6所述的装置,其特征在于,所述任务序列中包括顺序在先的第一任务和顺序在后的第二任务,所述计算平台包括第一计算节点和第二计算节点,所述计算模块包括:
第一计算单元,用于根据所述任务序列中任务的先后顺序,调度所述第一计算节点执行所述第一任务的计算任务;
第二计算单元,用于调度所述第二计算节点执行所述第二任务的计算任务。
8.根据权利要求7所述的装置,其特征在于,所述第二计算单元,具体用于获取所述第一计算节点的计算结果,调度所述第二计算节点根据所述计算结果执行所述第二任务的计算任务。
9.根据权利要求6所述的装置,其特征在于,所述计算模块,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若是,则根据所述任务序列中任务的先后顺序,依次调度所述同一个计算节点执行对应的计算任务。
10.根据权利要求6所述的装置,其特征在于,所述计算模块,具体用于判断所述任务序列中的多个任务是否需计算平台中的同一个计算节点执行计算;若否,则根据所述任务序列中任务的先后顺序,依次调度不同的计算节点执行对应的计算任务。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810584721.XA CN108874520A (zh) | 2018-06-06 | 2018-06-06 | 计算方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810584721.XA CN108874520A (zh) | 2018-06-06 | 2018-06-06 | 计算方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108874520A true CN108874520A (zh) | 2018-11-23 |
Family
ID=64337510
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810584721.XA Pending CN108874520A (zh) | 2018-06-06 | 2018-06-06 | 计算方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108874520A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109376137A (zh) * | 2018-12-17 | 2019-02-22 | 中国人民解放军战略支援部队信息工程大学 | 一种文件处理方法及装置 |
CN109542867A (zh) * | 2018-11-26 | 2019-03-29 | 成都四方伟业软件股份有限公司 | 分布式数据采集方法及装置 |
CN110262886A (zh) * | 2019-06-24 | 2019-09-20 | 上海商汤智能科技有限公司 | 任务执行方法及装置、电子设备和存储介质 |
CN111552547A (zh) * | 2020-04-21 | 2020-08-18 | 北京金山云网络技术有限公司 | 作业处理方法、装置以及计算机设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102089752B (zh) * | 2008-07-10 | 2014-05-07 | 洛克泰克科技有限公司 | 依赖性问题的有效率的并行计算 |
CN103514028B (zh) * | 2012-06-14 | 2016-12-21 | 北京新媒传信科技有限公司 | 一种处理分布式事务的方法和装置 |
CN106502791A (zh) * | 2016-10-14 | 2017-03-15 | 浪潮电子信息产业股份有限公司 | 一种任务分配方法及装置 |
CN106919449A (zh) * | 2017-03-21 | 2017-07-04 | 联想(北京)有限公司 | 一种计算任务的调度控制方法及电子设备 |
CN107370808A (zh) * | 2017-07-13 | 2017-11-21 | 盐城工学院 | 一种用于对大数据任务进行分布式处理的方法 |
-
2018
- 2018-06-06 CN CN201810584721.XA patent/CN108874520A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102089752B (zh) * | 2008-07-10 | 2014-05-07 | 洛克泰克科技有限公司 | 依赖性问题的有效率的并行计算 |
CN103514028B (zh) * | 2012-06-14 | 2016-12-21 | 北京新媒传信科技有限公司 | 一种处理分布式事务的方法和装置 |
CN106502791A (zh) * | 2016-10-14 | 2017-03-15 | 浪潮电子信息产业股份有限公司 | 一种任务分配方法及装置 |
CN106919449A (zh) * | 2017-03-21 | 2017-07-04 | 联想(北京)有限公司 | 一种计算任务的调度控制方法及电子设备 |
CN107370808A (zh) * | 2017-07-13 | 2017-11-21 | 盐城工学院 | 一种用于对大数据任务进行分布式处理的方法 |
Non-Patent Citations (1)
Title |
---|
程多祥,主编,: "《无人机移动测量数据快速获取与处理 2015年9月第1版》", 30 September 2015, 测绘出版社, * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109542867A (zh) * | 2018-11-26 | 2019-03-29 | 成都四方伟业软件股份有限公司 | 分布式数据采集方法及装置 |
CN109376137A (zh) * | 2018-12-17 | 2019-02-22 | 中国人民解放军战略支援部队信息工程大学 | 一种文件处理方法及装置 |
CN110262886A (zh) * | 2019-06-24 | 2019-09-20 | 上海商汤智能科技有限公司 | 任务执行方法及装置、电子设备和存储介质 |
CN111552547A (zh) * | 2020-04-21 | 2020-08-18 | 北京金山云网络技术有限公司 | 作业处理方法、装置以及计算机设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20240086240A1 (en) | Allocating computing resources based on user intent | |
US9727383B2 (en) | Predicting datacenter performance to improve provisioning | |
JP2022008497A (ja) | 出現した関係におけるスタックセグメント強度の相関 | |
CN108874520A (zh) | 计算方法及装置 | |
US20190034241A1 (en) | Optimized resource metering in a multi tenanted distributed file system | |
EP1975795B1 (en) | Method and system for estimating resource provisioning | |
US20100138268A1 (en) | Progress management platform | |
US20190182323A1 (en) | Hybrid cloud migration delay risk prediction engine | |
CN104380276A (zh) | 管理云服务 | |
US10373071B2 (en) | Automated intelligent data navigation and prediction tool | |
US11171825B2 (en) | Context-based resource allocation with extended user concepts | |
CN104246741A (zh) | 编制混合云服务 | |
CN109117141B (zh) | 简化编程的方法、装置、电子设备、计算机可读存储介质 | |
Vinod et al. | Simulation-based metamodels for scheduling a dynamic job shop with sequence-dependent setup times | |
CN109478147A (zh) | 分布式计算系统中的自适应资源管理 | |
US20130030858A1 (en) | Dynamically facilitating project assembly | |
Kia et al. | Scheduling a dynamic flexible flow line with sequence-dependent setup times: a simulation analysis | |
US20140136260A1 (en) | System and method for operational quality aware staffing requirements in service systems | |
CN111208975A (zh) | 并发执行服务 | |
US20120197677A1 (en) | Multi-role based assignment | |
CN111522840B (zh) | 标签的配置方法、装置、设备及计算机可读存储介质 | |
US20150310390A1 (en) | Aggregation and workflow engines for managing project information | |
US20210263718A1 (en) | Generating predictive metrics for virtualized deployments | |
CN115129481B (zh) | 一种计算资源分配方法、装置及电子设备 | |
CN110868330B (zh) | 云平台可划分cpu资源的评估方法、装置及评估系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181123 |