CN110851283A - 资源处理方法、装置以及电子设备 - Google Patents
资源处理方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN110851283A CN110851283A CN201911113040.6A CN201911113040A CN110851283A CN 110851283 A CN110851283 A CN 110851283A CN 201911113040 A CN201911113040 A CN 201911113040A CN 110851283 A CN110851283 A CN 110851283A
- Authority
- CN
- China
- Prior art keywords
- operator
- resource
- state
- processing
- current
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本申请公开了一种资源处理方法、装置以及电子设备,涉及资源处理领域。所述方法包括:确定与资源的类型对应的资源配置规则;选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态;根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果。无需针对不同类型的资源分别进行处理,减少了开发成本,有利于扩展新的资源,提高了资源处理效率。
Description
技术领域
本申请涉及大数据领域,尤其涉及一种资源处理领域。
背景技术
在内容推荐分发系统中,要想推荐对例如新闻、图片、视频、音频、直播等物料感兴趣的用户,需要经过几十甚至上百种内容理解策略。通常采用传统流式框spark(计算引擎)、flink(分布式流数据流引擎)等进行内容理解策略的运算。前述几种方法时效性较好,但是无法定制化优先运算某类资源,在扩展性方面,由于计算节点的路径固定,针对不同资源选取不同的策略需要较多的开发工作量,导致开发成本高,资源处理效率低。
发明内容
本申请实施例提供一种资源处理方法、装置以及电子设备,以解决现有技术中的一个或多个技术问题。
在第一方面,本申请实施例提供了一种资源处理方法,包括:
确定与资源的类型对应的资源配置规则;
选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态;
根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果。
本实施例中,无需针对不同类型的资源分别进行处理,减少了开发成本,有利于扩展新的资源,提高了资源处理效率。
在一种实施方式中,选择与资源的配置规则对应的多个算子,并获取各算子的运行顺序和运行状态,包括:
根据资源的配置规则,得到DAG流程图和DAG图状态,其中,DAG流程图包括与资源的配置规则对应的一个或多个算子以及各算子的运行顺序,DAG图状态包括各算子的运行状态。
本实施方式中,在规则引擎设置各个类型的资源与DAG流程图的对应关系,即根据输入的资源可以自动选取需要经过哪些策略节点(算子),生成DAG流程图。在扩展组件层实现各算子的定制化处理,即可完成一个内容理解流的开发工作。通过统一配置包含所有服务依赖关系的DAG流程图,面对不同的资源引入需求时,可以快速灵活的选择算子,使得开发简单化,资源扩展更为灵活。新增资源也只是需要配置选择的算子即可,减少了重复开发和重新搭建处理流程。
在一种实施方式中,根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果,包括:
执行各算子的过程中,更新各算子的运行状态;
各算子对资源进行处理,得到各算子对应的状态数据;
根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果。
在一种实施方式中,执行各算子的过程中,更新各算子的运行状态,包括:
执行当前算子的过程中,当前算子发起异步调用服务;
在执行异步调用服务时,将当前算子的运行状态设置为等待状态,存储当前算子的等待状态。
在一种实施方式中,各算子对资源进行处理,得到各算子对应的状态数据,包括:
当前算子对资源进行处理,生成当前状态数据,并存储当前状态数据。
在一种实施方式中,根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果,包括:
在异步调用服务执行结束后,获取资源的配置地址;
根据资源的配置地址确定已存储的当前算子的等待状态和当前状态数据;
根据已存储的当前算子的等待状态、各算子的运行顺序确定待执行的下一算子;
利用当前状态数据执行下一算子,直至全部算子执行完成,得到处理结果。
本实施方式中,解决了传统流式计算系统不支持异步服务调用及回调处理的技术问题,提供的框架通过保存图状态,在异步调用时,将该算子的状态变为等待状态,数据保存到数据存储中,此流程就暂时停止了,不再占用系统处理资源,待回调后,根据ID找到对应的图状态和存储数据,再继续恢复运行。
第二方面,本申请实施方式提供了一种资源处理装置,包括:
配置规则确定模块,用于确定与资源的类型对应的资源配置规则;
算子选择模块,用于选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态;
资源处理模块,用于根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果。
在一种实施方式中,算子选择模块包括:
流程图建立子模块,用于根据资源的配置规则,得到DAG流程图和DAG图状态,其中,DAG流程图包括与资源的配置规则对应的一个或多个算子以及各算子的运行顺序,DAG图状态包括各算子的运行状态。
在一种实施方式中,资源处理模块包括:
状态更新子模块,用于执行各算子的过程中,更新各算子的运行状态;
状态数据获取子模块,用于各算子对资源进行处理,得到各算子对应的状态数据;
资源处理子模块,用于根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果。
在一种实施方式中,状态更新子模块包括:
异步调用发起单元,用于执行当前算子的过程中,当前算子发起异步调用服务;
等待状态设置单元,用于在执行异步调用服务时,将当前算子的运行状态设置为等待状态,存储当前算子的等待状态。
在一种实施方式中,状态数据获取子模块包括:
当前状态数据获取单元,用于当前算子对资源进行处理,生成当前状态数据,并存储当前状态数据。
在一种实施方式中,资源处理子模块包括:
配置地址获取单元,用于在异步调用服务执行结束后,获取资源的配置地址;
当前状态确定单元,用于根据资源的配置地址确定已存储的当前算子的等待状态和当前状态数据;
算子确定单元,用于根据已存储的当前算子的等待状态、各算子的运行顺序确定待执行的下一算子;
算子执行单元,用于利用当前状态数据执行下一算子,直至全部算子执行完成,得到处理结果。
上述申请中的一个实施例具有如下优点或有益效果:因为采用确定与资源的类型对应的资源配置规则,选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态的技术手段,所以克服了开发成本高,资源处理效率低的技术问题,进而达到需针对不同类型的资源分别进行处理,减少了开发成本,有利于扩展新的资源,提高了资源处理效率的技术效果。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请实施例提供的一种资源处理方法流程示意图;
图2是根据本申请实施例提供的一种DAG流程图应用场景示意图;
图3是根据本申请实施例提供的另一种DAG流程图应用场景示意图;
图4是根据本申请实施例提供的另一种资源处理方法流程示意图;
图5是根据本申请实施例提供的一种流式调度触发框架场景示意图;
图6是根据本申请实施例提供的一种异步调用流程示意图;
图7是根据本申请实施例提供的另一种DAG流程图应用场景示意图;
图8是根据本申请实施例提供的一种资源处理装置结构框图;
图9是根据本申请实施例提供的另一种资源处理装置结构框图;
图10是根据本申请实施例提供的一种资源处理模块结构框图;
图11是用来实现本申请实施例的一种资源处理方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
实施例一…
在一种具体实施方式中,如图1所示,提供了一种资源处理方法,包括:
步骤S10:确定与资源的类型对应的资源配置规则;
步骤S20:选择与资源的配置规则对应的一个或多个算子,并获取各所述算子的运行顺序和运行状态;
步骤S30:根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果。
实际需求中,通常有几十种不同的资源需要处理。而不同类型的资源有不同的处理流程,如果针对每种资源,都独立生成与每种资源对应的资源处理方式,会导致资源处理的成本太高,处理不灵活的技术问题。本实施方式中,针对不同类型的资源,能够利用同一种资源处理方法进行处理,有效减少资源处理成本,提高资源处理效率,提高资源处理的灵活性。
在一种示例中,在内容推荐分发系统中,可以将各种各样的资源推荐给对其感兴趣的用户。资源可以包括新闻、图片、视频、音频、直播、小程序等各类插件和网页等。每种资源都可以有对应的定制化的内容理解策略、数据处理策略、审核策略等。为了能够对不同类型的资源利用同一种处理方法进行处理,提出了一种资源处理方法。首先,确定与资源的类型对应的资源配置规则。资源配置规则中不仅包含了根据资源类型选择的一个或多个算子,而且还包含了各个算子的运行顺序,例如,资源配置规则表示了内容理解策略、数据处理策略、审核策略等各个算子之间的依赖关系。然后,选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态。例如,如图2所示,当资源的类型是视频时,根据资源配置规则确定资源经过的算子可以包括图片理解、视频理解、垂类等级计算、视频基础特征计算、视频指纹计算、视频相似度计算、视频审核、安全审核、质量分计算、图片选择、图片提取、发布定时器。如图3所示,当资源的类型是新闻时,根据资源配置规则确定资源经过的算子可以包括图片理解、图片选择、图片提取、内容理解、安全审核、质量分计算。根据这些算子的运行顺序执行各个算子,在执行前需要获取各个算子当前的运行状态。最后,根据各算子的运行顺序和运行状态对资源进行处理,输出资源的处理结果。例如,处理结果可以是用于分发和推荐的标签、模型、数据等。
本实施方式的资源处理方法,无需针对不同类型的资源分别进行处理,减少了开发成本,有利于扩展新的资源,提高了资源处理效率。
在一种实施方式中,如图4所示,步骤S20包括:
步骤S201:根据资源的配置规则,得到DAG流程图和DAG图状态,其中,DAG流程图包括与资源的配置规则对应的一个或多个算子以及各算子的运行顺序,DAG图状态包括各算子的运行状态。
在本实施方式中,如图5所示,提供了基于DAG实现一个高效的流式调度触发框架。流式调度触发框架包含接口层,计算层,扩展组件层,存储层。资源输入至规则引擎中,根据资源的类型生成资源配置规则。流式调度触发框架将资源配置规则输入至图引擎中,得到DAG流程图(有向无环图)和DAG图状态。DAG流程图原本是计算机领域一种常用数据结构,因为独特的拓扑结构所带来的优异特性,经常被用于处理动态规划、导航中寻求最短路径、数据压缩等多种算法场景。其中,DAG流程图包括一个或多个算子。每个算子是用来实现对资源的某个功能的处理。例如,内容理解策略、审核策略、数据加工策略等。DAG图状态是指这个DAG流程图中每个算子的运行状态。例如,A算子的未运行、执行成功、执行失败、等待回调等几种状态。流式调度触发框架具有灵活的规则引擎、图引擎,管理DAG流程图中算子的运行顺序,支持DAG流程图的配置、修改、快速生效。
本实施方式中,在规则引擎设置各个类型的资源与DAG流程图的对应关系,即根据输入的资源可以自动选取需要经过哪些策略节点(算子),生成DAG流程图。在扩展组件层实现各算子的定制化处理,即可完成一个内容理解流的开发工作。通过统一配置包含所有服务依赖关系的DAG流程图,面对不同的资源引入需求时,可以快速灵活的选择算子,使得开发简单化,资源扩展更为灵活。新增资源也只是需要配置选择的算子即可,减少了重复开发和重新搭建处理流程。
在一种实施方式中,如图4所示,步骤S30,包括:
步骤S301:执行各算子的过程中,更新各算子的运行状态;
步骤S302:各算子对资源进行处理,得到各算子对应的状态数据;
步骤S303:根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果。
在本实施方式中,DAG流程图进入计算层进行处理:首先,各算子按照优先级连接。资源消费时,优先消费高优资源,保证时效性资源优先计算处理,实现了多资源流的分级保障。然后,资源消费时会进入定制化流控组件,根据算子的资源处理能力确定算子的输入资源量。在框架里可根据算子的实际处理瓶颈,根据资源的每单位时间的处理数或资源内的视频时长、或资源内的图片数等定制化限流,实现定制化限流功能。例如,每秒处理60秒的视频,替换掉默认限流功能。最后,资源进入业务实际处理阶段,各算子入口支持业务定制化处理。业务的定制化处理是指,框架中的算子都是用户可以任意设置的,能够在框架内实现,由框架负责调用和执行。只需要用户定制业务部分代码即可,其它功能都由架构处理,可以实现新业务的快速接入。在扩展组件层实现流控的定制化处理以及业务的定制化处理。定制化接口用于实现特殊业务需求的定制,大大降低新需求引入成本。
DAG流程图中每个算子被调用、或执行或等待等执行过程中,都会更新算子的运行状态。各算子对资源进行处理,得到各算子对应的状态数据,状态数据可以包括每个算子处理数据后产生的结果数据。例如,视频理解结果、图片处理结果等数据。根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果。例如,一个高级作者发布一篇文章,经过图片理解、选列表图、作者等级判定、审核、去重、是否抄袭等算子的处理之后,得到进行分发的处理结果。
在一种实施方式中,如图6所示,步骤S301包括:
步骤S3011:执行当前算子的过程中,当前算子发起异步调用服务;
步骤S3012:在执行异步调用服务时,将当前算子的运行状态设置为等待状态,存储当前算子的等待状态。
在一种实施方式中,步骤S302包括:
步骤S3021:当前算子对资源进行处理,生成当前状态数据,并存储当前状态数据。
在一种实施方式中,步骤S303包括:
步骤S3031:在异步调用服务执行结束后,获取资源的配置地址;
步骤S3032:根据资源的配置地址确定已存储的当前算子的等待状态和当前状态数据;
步骤S3033:根据已存储的当前算子的等待状态、各算子的运行顺序确定待执行的下一算子;
步骤S3034:利用当前状态数据执行下一算子,直至全部算子执行完成,得到处理结果。
本实施例中,在业务实际处理阶段,支持外部异步调用服务。如果当前的A算子执行异步调用服务,设置A算子的运行状态设置为等待状态。在A算子的运行状态设置为等待状态后,将此时资源在经过A算子处理后产出的状态数据保存到数据存储中,用于下一个算子依赖读取使用。服务执行结束后,接收异步回调请求,根据异步回调请求调用框架提供的回调接口。可以在扩展组件层实现回调定制化处理。根据配置的地址ID找到对应的图状态和状态数据,其中,每个资源进入系统时都会分配一个资源ID和一个版本ID,作为唯一ID。用唯一ID可以查询到A算子的图状态和状态数据。同时暂时结束这个流程,释放处理资源。服务回调后,框架根据当前的图状态及算子运行顺序确定下一算子是否可执行。如果发现此时是A算子处于等待状态,当前步骤中的算子都执行完成时,框架会根据图状态和状态数据调度下一个算子。即继续执行A算子以及DAG流程图后面的流程,直至整个DAG流程图处理完成。当然,还可以根据算子运行顺序确定当前步骤中的算子是否可以并发执行。例如,调度框架根据图状态及执行依赖关系决定此算子是否可执行,当所有的算子都执行完成时,此算子才可被调度。例如,如图7所示,算子A、算子B、算子C都执行成功后,才会执行算子D,从而实现算子的汇聚。在判断下一个算子节点是否可执行,如果依赖关系满足,可同时并发执行多个算子,例如,算子D执行完成后可以执行算子E、算子F、算子G从而实现算子的并发执行。
在一种示例中,DAG流程图中有算子需要异步调用人工审核服务,该算子的功能是判断资源是否需要送人工审核服务。类似的服务还可以是视频理解服务、指纹服务等。将该算子的图状态设置为等待状态,并存储此算子的等待状态。调用人工审核服务后,释放当前资源。当人工审核服务完成,会根据ID找到保存的图状态,根据算子运行顺序,执行DAG流程图直至结束。收到回调后,DAG流程图继续执行。由框架支持的定制化回调组件层来完成由定制化逻辑到标准逻辑的转化,以供算子调用。定制化回调组件使得异步服务方可以不选择使用框架标准协议,而按自己的标准提供异步服务。通过定制化回调组件,可以方便框架对接任意服务,实现低成本接入。此外,在框架层设置了健康监测模块,可针对各算子依赖的服务进行超时、丢包重试等操作,简化用户的稳定性保障方面的工作。
本实施方式中,解决了传统流式计算系统不支持异步服务调用及回调处理的技术问题,提供的框架通过保存图状态,在异步调用时,将该算子的状态变为等待状态,数据保存到数据存储中,此流程就暂时停止了,不再占用系统处理资源,待回调后,根据ID找到对应的图状态和存储数据,再继续恢复运行。
实施例二
在另一种具体实施方式中,如图8所示,提供了一种资源处理装置100,包括:
配置规则确定模块110,用于确定与资源的类型对应的资源配置规则;
算子选择模块120,用于选择与资源的配置规则对应的一个或多个算子,并获取各算子的运行顺序和运行状态;
资源处理模块130,用于根据各算子的运行顺序和运行状态对资源进行处理,得到处理结果。
在一种实施方式中,如图9所示,一种资源处理装置200,算子选择模块120包括:
流程图建立子模块121,用于根据资源的配置规则,得到DAG流程图和DAG图状态,其中,DAG流程图包括与资源的配置规则对应的一个或多个算子以及各算子的运行顺序,DAG图状态包括各算子的运行状态。
在一种实施方式中,如图9所示,资源处理模块130包括:
状态更新子模块131,用于执行各算子的过程中,更新各算子的运行状态;
状态数据获取子模块132,用于各算子对资源进行处理,得到各算子对应的状态数据;
资源处理子模块133,用于根据各算子更新后的运行状态、各算子对应的状态数据以及各算子的运行顺序,对资源进行处理,得到处理结果。
在一种实施方式中,如图10所示,状态更新子模块131包括:
异步调用发起单元1311,用于执行当前算子的过程中,当前算子发起异步调用服务;
等待状态设置单元1312,用于在执行异步调用服务时,将当前算子的运行状态设置为等待状态,存储当前算子的等待状态。
在一种实施方式中,如图10所示,状态数据获取子模块132包括:
当前状态数据获取单元1321,用于当前算子对资源进行处理,生成当前状态数据,并存储当前状态数据。
在一种实施方式中,如图10所示,资源处理子模块133包括:
配置地址获取单元1331,用于在异步调用服务执行结束后,获取资源的配置地址;
当前状态确定单元1332,用于根据资源的配置地址确定已存储的当前算子的等待状态和当前状态数据;
算子确定单元1333,用于根据已存储的当前算子的等待状态、各算子的运行顺序确定待执行的下一算子;
算子执行单元1334,用于利用当前状态数据执行下一算子,直至全部算子执行完成,得到处理结果。
本发明实施例各装置中的各模块的功能可以参见上述方法中的对应描述,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图11所示,是根据本申请实施例的一种资源处理的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图11所示,该电子设备包括:一个或多个处理器1101、存储器1102,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(Graphical User Interface,GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图11中以一个处理器1101为例。
存储器1102即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的一种资源处理的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的一种资源处理的方法。
存储器1102作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的一种资源处理的方法对应的程序指令/模块(例如,附图8所示的配置规则确定模块111、算子选择模块120、资源处理模块130)。处理器1101通过运行存储在存储器1102中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的一种资源处理的方法。
存储器1102可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据一种资源处理的电子设备的使用所创建的数据等。此外,存储器1102可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器1102可选包括相对于处理器1101远程设置的存储器,这些远程存储器可以通过网络连接至一种资源处理的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一种资源处理的方法的电子设备还可以包括:输入装置1103和输出装置1104。处理器1101、存储器1102、输入装置1103和输出装置1104可以通过总线或者其他方式连接,图11中以通过总线连接为例。
输入装置1103可接收输入的数字或字符信息,以及产生与一种资源处理的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置1104可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(Liquid Cr11stal Displa11,LCD)、发光二极管(Light EmittingDiode,LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路(Application Specific Integrated Circuits,ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(programmable logic device,PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode Ray Tube,阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,无需针对不同类型的资源分别进行处理,减少了开发成本,有利于扩展新的资源,提高了资源处理效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种资源处理方法,其特征在于,包括:
确定与所述资源的类型对应的资源配置规则;
选择与所述资源的配置规则对应的一个或多个算子,并获取各所述算子的运行顺序和运行状态;
根据各所述算子的运行顺序和运行状态对所述资源进行处理,得到处理结果。
2.根据权利要求1所述的方法,其特征在于,选择与所述资源的配置规则对应的多个算子,并获取各所述算子的运行顺序和运行状态,包括:
根据所述资源的配置规则,得到DAG流程图和DAG图状态,其中,所述DAG流程图包括与所述资源的配置规则对应的一个或多个算子以及各所述算子的运行顺序,所述DAG图状态包括各所述算子的运行状态。
3.根据权利要求1所述的方法,其特征在于,根据各所述算子的运行顺序和运行状态对所述资源进行处理,得到处理结果,包括:
执行各所述算子的过程中,更新各所述算子的运行状态;
各所述算子对所述资源进行处理,得到各所述算子对应的状态数据;
根据各所述算子更新后的运行状态、各所述算子对应的状态数据以及各所述算子的运行顺序,对所述资源进行处理,得到所述处理结果。
4.根据权利要求3所述的方法,其特征在于,执行各所述算子的过程中,更新各所述算子的运行状态,包括:
执行当前算子的过程中,所述当前算子发起异步调用服务;
在执行所述异步调用服务时,将所述当前算子的运行状态设置为等待状态,存储所述当前算子的等待状态。
5.根据权利要求4所述的方法,其特征在于,各所述算子对所述资源进行处理,得到各所述算子对应的状态数据,包括:
所述当前算子对所述资源进行处理,生成当前状态数据,并存储所述当前状态数据。
6.根据权利要求5所述的方法,其特征在于,根据各所述算子更新后的运行状态、各所述算子对应的状态数据以及各所述算子的运行顺序,对所述资源进行处理,得到所述处理结果,包括:
在所述异步调用服务执行结束后,获取所述资源的配置地址;
根据所述资源的配置地址确定已存储的所述当前算子的等待状态和所述当前状态数据;
根据已存储的所述当前算子的等待状态、各所述算子的运行顺序确定待执行的下一算子;
利用所述当前状态数据执行所述下一算子,直至全部算子执行完成,得到所述处理结果。
7.一种资源处理装置,其特征在于,包括:
配置规则确定模块,用于确定与所述资源的类型对应的资源配置规则;
算子选择模块,用于选择与所述资源的配置规则对应的一个或多个算子,并获取各所述算子的运行顺序和运行状态;
资源处理模块,用于根据各所述算子的运行顺序和运行状态对所述资源进行处理,得到处理结果。
8.根据权利要求7所述的装置,其特征在于,所述算子选择模块包括:
流程图建立子模块,用于根据所述资源的配置规则,得到DAG流程图和DAG图状态,其中,所述DAG流程图包括与所述资源的配置规则对应的一个或多个算子以及各所述算子的运行顺序,所述DAG图状态包括各所述算子的运行状态。
9.根据权利要求7所述的装置,其特征在于,所述资源处理模块包括:
状态更新子模块,用于执行各所述算子的过程中,更新各所述算子的运行状态;
状态数据获取子模块,用于各所述算子对所述资源进行处理,得到各所述算子对应的状态数据;
资源处理子模块,用于根据各所述算子更新后的运行状态、各所述算子对应的状态数据以及各所述算子的运行顺序,对所述资源进行处理,得到所述处理结果。
10.根据权利要求9所述的装置,其特征在于,所述状态更新子模块包括:
异步调用发起单元,用于执行当前算子的过程中,所述当前算子发起异步调用服务;
等待状态设置单元,用于在执行所述异步调用服务时,将所述当前算子的运行状态设置为等待状态,存储所述当前算子的等待状态。
11.根据权利要求10所述的装置,其特征在于,所述状态数据获取子模块包括:
当前状态数据获取单元,用于所述当前算子对所述资源进行处理,生成当前状态数据,并存储所述当前状态数据。
12.根据权利要求11所述的装置,其特征在于,所述资源处理子模块包括:
配置地址获取单元,用于在所述异步调用服务执行结束后,获取所述资源的配置地址;
当前状态确定单元,用于根据所述资源的配置地址确定已存储的所述当前算子的等待状态和所述当前状态数据;
算子确定单元,用于根据已存储的所述当前算子的等待状态、各所述算子的运行顺序确定待执行的下一算子;
算子执行单元,用于利用所述当前状态数据执行所述下一算子,直至全部算子执行完成,得到所述处理结果。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911113040.6A CN110851283A (zh) | 2019-11-14 | 2019-11-14 | 资源处理方法、装置以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911113040.6A CN110851283A (zh) | 2019-11-14 | 2019-11-14 | 资源处理方法、装置以及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110851283A true CN110851283A (zh) | 2020-02-28 |
Family
ID=69600274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911113040.6A Pending CN110851283A (zh) | 2019-11-14 | 2019-11-14 | 资源处理方法、装置以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110851283A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112559808A (zh) * | 2020-12-17 | 2021-03-26 | 北京百度网讯科技有限公司 | 数据处理方法、装置以及电子设备 |
CN112632082A (zh) * | 2020-12-30 | 2021-04-09 | 中国农业银行股份有限公司 | 一种创建Flink作业的方法及装置 |
CN112783614A (zh) * | 2021-01-20 | 2021-05-11 | 北京百度网讯科技有限公司 | 对象处理方法、装置、设备、存储介质以及程序产品 |
CN113553489A (zh) * | 2021-07-29 | 2021-10-26 | 北京百度网讯科技有限公司 | 内容抓取的方法、装置、设备、介质及程序产品 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110213802A1 (en) * | 2010-02-26 | 2011-09-01 | Ebay Inc. | Parallel data stream processing system |
CN104052811A (zh) * | 2014-06-17 | 2014-09-17 | 华为技术有限公司 | 一种业务调度的方法、装置及系统 |
CN106547613A (zh) * | 2016-10-20 | 2017-03-29 | 西北工业大学 | 任务处理流程的调度及故障恢复方法 |
CN107463595A (zh) * | 2017-05-12 | 2017-12-12 | 中国科学院信息工程研究所 | 一种基于Spark的数据处理方法及系统 |
CN108053086A (zh) * | 2017-09-30 | 2018-05-18 | 广州筑网网络科技有限公司 | 一种遗体处理过程的资源智能调度方法及系统 |
CN109254854A (zh) * | 2018-08-15 | 2019-01-22 | 中国平安人寿保险股份有限公司 | 异步调用方法、计算机装置及存储介质 |
CN109634764A (zh) * | 2018-12-20 | 2019-04-16 | 百度在线网络技术(北京)有限公司 | 工作流控制方法、装置、设备、存储介质和系统 |
-
2019
- 2019-11-14 CN CN201911113040.6A patent/CN110851283A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110213802A1 (en) * | 2010-02-26 | 2011-09-01 | Ebay Inc. | Parallel data stream processing system |
CN104052811A (zh) * | 2014-06-17 | 2014-09-17 | 华为技术有限公司 | 一种业务调度的方法、装置及系统 |
CN106547613A (zh) * | 2016-10-20 | 2017-03-29 | 西北工业大学 | 任务处理流程的调度及故障恢复方法 |
CN107463595A (zh) * | 2017-05-12 | 2017-12-12 | 中国科学院信息工程研究所 | 一种基于Spark的数据处理方法及系统 |
CN108053086A (zh) * | 2017-09-30 | 2018-05-18 | 广州筑网网络科技有限公司 | 一种遗体处理过程的资源智能调度方法及系统 |
CN109254854A (zh) * | 2018-08-15 | 2019-01-22 | 中国平安人寿保险股份有限公司 | 异步调用方法、计算机装置及存储介质 |
CN109634764A (zh) * | 2018-12-20 | 2019-04-16 | 百度在线网络技术(北京)有限公司 | 工作流控制方法、装置、设备、存储介质和系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112559808A (zh) * | 2020-12-17 | 2021-03-26 | 北京百度网讯科技有限公司 | 数据处理方法、装置以及电子设备 |
CN112559808B (zh) * | 2020-12-17 | 2023-07-25 | 北京百度网讯科技有限公司 | 数据处理方法、装置以及电子设备 |
CN112632082A (zh) * | 2020-12-30 | 2021-04-09 | 中国农业银行股份有限公司 | 一种创建Flink作业的方法及装置 |
CN112783614A (zh) * | 2021-01-20 | 2021-05-11 | 北京百度网讯科技有限公司 | 对象处理方法、装置、设备、存储介质以及程序产品 |
CN113553489A (zh) * | 2021-07-29 | 2021-10-26 | 北京百度网讯科技有限公司 | 内容抓取的方法、装置、设备、介质及程序产品 |
CN113553489B (zh) * | 2021-07-29 | 2023-06-23 | 北京百度网讯科技有限公司 | 内容抓取的方法、装置、设备、介质及程序产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110851283A (zh) | 资源处理方法、装置以及电子设备 | |
US10171377B2 (en) | Orchestrating computing resources between different computing environments | |
US9026920B2 (en) | Workflow-based session management | |
JP2020536312A (ja) | マルチテナントapiゲートウェイにおいてテナント分離を提供するためのマイクロサービスコンテナの活用 | |
CN112015521A (zh) | 推理服务的配置方法、装置、电子设备及存储介质 | |
CN106533713B (zh) | 一种应用部署方法及设备 | |
CN112925651B (zh) | 应用资源部署方法、装置、电子设备和介质 | |
CN111770169A (zh) | 设备固件升级的方法、装置、设备以及存储介质 | |
CN105786603B (zh) | 一种基于分布式的高并发业务处理系统及方法 | |
US20200110631A1 (en) | Virtual machine deployment method and omm virtual machine | |
US9342369B2 (en) | System and method for increasing throughput of a PaaS system | |
CN108809683B (zh) | 部署云应用系统的方法及装置 | |
CN111913884A (zh) | 分布式测试方法、装置、设备、系统和可读存储介质 | |
CN111552550A (zh) | 一种基于图形处理器gpu资源的任务调度方法、设备及介质 | |
CN113474751A (zh) | 管理软件程序 | |
WO2015117445A1 (zh) | 任务窗口的处理方法及装置 | |
CN111290768A (zh) | 一种容器化应用系统的更新方法、装置、设备和介质 | |
CN112925652A (zh) | 应用资源部署方法、装置、电子设备和介质 | |
US11327788B2 (en) | Methods for scheduling multiple batches of concurrent jobs | |
CN112558968B (zh) | 一种资源树视图的生成方法、装置、设备及存储介质 | |
JP2021131897A (ja) | スケジューリング方法、装置、設備、記憶設備、及びプログラム | |
WO2016078326A1 (zh) | 一种虚拟机名称展示的方法、装置及系统 | |
CN112435313A (zh) | 播放帧动画的方法、装置、电子设备及可读存储介质 | |
CN109491762B (zh) | 容器状态控制方法及装置、存储介质、电子设备 | |
US11068140B2 (en) | Intelligent overflow menu |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |