CN109814997A - 一种分布式自主均衡人工智能任务调度方法及系统 - Google Patents
一种分布式自主均衡人工智能任务调度方法及系统 Download PDFInfo
- Publication number
- CN109814997A CN109814997A CN201910049967.1A CN201910049967A CN109814997A CN 109814997 A CN109814997 A CN 109814997A CN 201910049967 A CN201910049967 A CN 201910049967A CN 109814997 A CN109814997 A CN 109814997A
- Authority
- CN
- China
- Prior art keywords
- task
- artificial intelligence
- equilibrium
- attribute
- queue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明提出了一种分布式自主均衡人工智能任务调度方法及系统，包括：任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性；任务发布服务器将任务放置在不同队列中；任务处理服务器从公共缓存中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值；根据任务优先权值从队列中依次拉取任务；对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。本发明支持多种类型的人工智能识别任务，以充分应对不同业务场景需要，计算不同任务优先权值，选择任务进行处理，从而达到在分布式环境下均衡合理使用系统资源的目的。
Description
技术领域
本发明涉及人工智能算法技术领域，特别涉及一种分布式自主均衡人工智能任务调度方法及系统。
背景技术
现有机器学习平台，同一时刻只支持对于某个特定的场景进行处理。在对于需要同时支持多种类型识别任务，以及在一个流程中需要进行多种算法组合处理的情况并没有很完善的解决方案。尤其是对于每一个单独的显卡，缺乏成熟的机制支持多模型切换；在分布式的环境下，也没有合理的充分利用集群GPU资源的灵活调度方案。
发明内容
本发明的目的旨在至少解决所述技术缺陷之一。
为此，本发明的目的在于提出一种分布式自主均衡人工智能任务调度方法及系统。
为了实现上述目的，本发明的实施例提供一种分布式自主均衡人工智能任务调度方法，包括如下步骤：
(1)任务发布阶段
步骤S1：任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；
步骤S2，所述任务发布服务器根据所述任务属性，将任务放置在不同队列中，并更新公共缓存中的排队信息；
(2)任务处理阶段
步骤S3，任务处理服务器从公共缓存中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值；
步骤S4，所述任务处理服务器根据任务优先权值从队列中依次拉取任务；
步骤S5，所述任务处理服务器对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
进一步，在所述步骤S5中，所述任务处理服务器根据所述任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
进一步，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。
进一步，所述任务发布服务器每次接收到新的任务后，将队列排队信息更新到所述公共缓存。
进一步，在所述步骤S3中，所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
本发明的实施例还提供一种分布式自主均衡人工智能任务调度系统，包括：任务发布服务器、任务处理服务器和公共缓存平台，其中，
所述任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；然后根据所述任务属性，将任务放置在不同队列中，并更新公共缓存平台中的排队信息；
所述公共缓存平台用于存储任务的排队信息；
所述任务处理服务器用于从公共缓存平台中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值，根据任务优先权值从队列中依次拉取任务，对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
进一步，所述任务处理服务器还用于根据所述任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
进一步，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。
进一步，所述任务发布服务器还用于在每次接收到新的任务后，将队列排队信息更新到所述公共缓存。
进一步，所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
根据本发明实施例的分布式自主均衡人工智能任务调度方法及系统，在实际落地场景中可以自由组合使用不同的算法，同时支持多种类型的人工智能识别任务，以充分应对不同业务场景需要。同时本发明的架构设计对调度方案的配置有很大灵活性，每一块单独的显卡都能被用于多种识别任务。通过本发明，GPU的集群可以很方便的扩容或缩容。当整个系统中堆积的任务组成发生变化时，处理任务的策略也会随之自动变化，能够尽量充分的利用GPU的计算资源。本发明能够支持多种类型的识别任务，能够灵活配置调度方式，既能满足不同场景下的各种业务需求，又能充分利用每一块显卡的计算能力。本发明可以计算不同任务优先权值，选择任务进行处理，从而达到在分布式环境下均衡合理使用系统资源的目的。
本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本发明实施例的分布式自主均衡人工智能任务调度方法的流程图；
图2为根据本发明实施例的任务发布者的工作流程图；
图3为根据本发明实施例的任务处理者的工作流程图；
图4为根据本发明实施例的分布式自主均衡人工智能任务调度方法的架构图；
图5为根据本发明实施例的任务发布和任务处理的架构图；
图6为根据本发明实施例的分布式自主均衡人工智能任务调度系统的结构图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
本发明提供一种分布式自主均衡人工智能任务调度方法及系统，可应用于需要人工智能算法作为在线服务的领域。
如图1和图5所示，本发明实施例的分布式自主均衡人工智能任务调度方法，包括如下步骤：
(1)任务发布阶段，参考图2所示：
步骤S1：任务发布服务器接收任务并识别任务携带的描述信息，根据描述信息对任务配置任务属性，其中，任务属性记录符合该任务工作场景的算法执行流程。
步骤S2，任务发布服务器根据任务属性，将任务放置在不同队列中，并更新公共缓存中的排队信息。
在本发明的实施例中，任务发布服务器每次接收到新的任务后，将队列排队信息更新到公共缓存。
(2)任务处理阶段，参考图3所示：
步骤S3，任务处理服务器获取本机可处理的任务列表，从公共缓存中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值，即各个任务的处理优先级。
在本发明的一个实施例中，优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
需要说明的是，优先级策略是由用户进行预先设置，其设置依据由用户根据需要进行制定。例如，用户可以配置优先级策略为：先对数据量大的任务进行处理，后对数据量小的任务进行处理；或者先对VIP级别高的客户的任务进行处理，后对普通客户的任务进行处理。
步骤S4，任务处理服务器根据任务优先权值从队列中依次拉取任务，更新缓存中的排队信息。
步骤S5，任务处理服务器对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
在本步骤中，任务处理服务器根据任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
具体的，当任务处理服务器从缓存中读取这些信息后，依据排队信息，计算不同任务优先权值，选择任务进行处理，从而达到在分布式环境下均衡合理使用系统资源的目的。
需要说明的是，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，任务发布服务器和任务处理服务器通过公共缓存共享任务堆积信息，调整执行任务的策略。
图4为根据本发明实施例的分布式自主均衡人工智能任务调度方法的架构图。
调用端代表识别请求发送方。发送方首先将调用请求发送到负载均衡服务器。负载均衡服务器将请求发送给sv_server。sv_server将请求信息记录进REDIS缓存，并将请求放入消息队列MQ。middle_task_client以很短的间隔向sv_server拉取识别请求。middle_task_client处理识别请求，如果有需要则调用tensorflow处理。middle_task_client将请求结果返回给sv_server。sv_server将结果记录进MySQL数据库。调用方可选择拉取识别结果，或由sv_server主动返回的方式得到结果。middle_task_watcher负责监控Redis中识别请求的超时请客，定期将超时任务重新放入消息队列MQ。
如图6所示，本发明实施例的分布式自主均衡人工智能任务调度系统，包括：任务发布服务器1、任务处理服务器2和公共缓存平台3。
具体的，任务发布服务器1接收任务并识别任务携带的描述信息，根据描述信息对任务配置任务属性，其中，任务属性记录符合该任务工作场景的算法执行流程；然后根据任务属性，将任务放置在不同队列中，并更新公共缓存平台3中的排队信息。
在本发明的实施例中，任务发布服务器1还用于在每次接收到新的任务后，将队列排队信息更新到公共缓存平台3。
此外，任务处理服务器2还用于根据任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
公共缓存平台3用于存储任务的排队信息。
任务处理服务器2用于从公共缓存平台3中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值，根据任务优先权值从队列中依次拉取任务，对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
在本发明的一个实施例中，优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。需要说明的是，优先级策略是由用户进行预先设置，其设置依据由用户根据需要进行制定。例如，用户可以配置优先级策略为：先对数据量大的任务进行处理，后对数据量小的任务进行处理；或者先对VIP级别高的客户的任务进行处理，后对普通客户的任务进行处理。
具体的，当任务处理服务器2从缓存中读取这些信息后，依据排队信息，计算不同任务优先权值，选择任务进行处理，从而达到在分布式环境下均衡合理使用系统资源的目的。当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，任务发布服务器1和任务处理服务器2通过公共缓存共享任务堆积信息，调整执行任务的策略。
根据本发明实施例的分布式自主均衡人工智能任务调度方法及系统，在实际落地场景中可以自由组合使用不同的算法，同时支持多种类型的人工智能识别任务，以充分应对不同业务场景需要。同时本发明的架构设计对调度方案的配置有很大灵活性，每一块单独的显卡都能被用于多种识别任务。通过本发明，GPU的集群可以很方便的扩容或缩容。当整个系统中堆积的任务组成发生变化时，处理任务的策略也会随之自动变化，能够尽量充分的利用GPU的计算资源。本发明能够支持多种类型的识别任务，能够灵活配置调度方式，既能满足不同场景下的各种业务需求，又能充分利用每一块显卡的计算能力。本发明可以计算不同任务优先权值，选择任务进行处理，从而达到在分布式环境下均衡合理使用系统资源的目的。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在不脱离本发明的原理和宗旨的情况下在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。本发明的范围由所附权利要求极其等同限定。
Claims (10)
1.一种分布式自主均衡人工智能任务调度方法，其特征在于，包括如下步骤：
(1)任务发布阶段
步骤S1：任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；
步骤S2，所述任务发布服务器根据所述任务属性，将任务放置在不同队列中，并更新公共缓存中的排队信息；
(2)任务处理阶段
步骤S3，任务处理服务器从公共缓存中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值；
步骤S4，所述任务处理服务器根据任务优先权值从队列中依次拉取任务；
步骤S5，所述任务处理服务器对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
2.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，在所述步骤S5中，所述任务处理服务器根据所述任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
3.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。
4.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，所述任务发布服务器每次接收到新的任务后，将队列排队信息更新到所述公共缓存。
5.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，在所述步骤S3中，所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
6.一种分布式自主均衡人工智能任务调度系统，其特征在于，包括：任务发布服务器、任务处理服务器和公共缓存平台，其中，
所述任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；然后根据所述任务属性，将任务放置在不同队列中，并更新公共缓存平台中的排队信息；
所述公共缓存平台用于存储任务的排队信息；
所述任务处理服务器用于从公共缓存平台中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值，根据任务优先权值从队列中依次拉取任务，对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果。
7.如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述任务处理服务器还用于根据所述任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。
8.如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略。
9.如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述任务发布服务器还用于在每次接收到新的任务后，将队列排队信息更新到所述公共缓存平台。
10.如权利要求6所述的分布式自主均衡人工智能任务调度系统，其特征在于，所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910049967.1A CN109814997B (zh) | 2019-01-18 | 2019-01-18 | 一种分布式自主均衡人工智能任务调度方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910049967.1A CN109814997B (zh) | 2019-01-18 | 2019-01-18 | 一种分布式自主均衡人工智能任务调度方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109814997A true CN109814997A (zh) | 2019-05-28 |
| CN109814997B CN109814997B (zh) | 2021-08-06 |
Family
ID=66604527
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910049967.1A Active CN109814997B (zh) | 2019-01-18 | 2019-01-18 | 一种分布式自主均衡人工智能任务调度方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109814997B (zh) |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110704171A (zh) * | 2019-09-19 | 2020-01-17 | 苏州浪潮智能科技有限公司 | 存储系统中i/o栈模式切换方法、系统、装置及存储介质 |
| CN111147603A (zh) * | 2019-09-30 | 2020-05-12 | 华为技术有限公司 | 一种推理服务网络化的方法及装置 |
| CN111212107A (zh) * | 2019-12-10 | 2020-05-29 | 中移（杭州）信息技术有限公司 | 用于cdn平台的业务处理方法及cdn系统 |
| CN111813557A (zh) * | 2020-07-21 | 2020-10-23 | 北京千丁互联科技有限公司 | 任务处理装置、方法、终端设备和可读存储介质 |
| CN111913791A (zh) * | 2020-07-02 | 2020-11-10 | 北京和瑞精准医学检验实验室有限公司 | 任务调度方法、装置、设备和计算机可读存储介质 |
| CN112052027A (zh) * | 2019-06-06 | 2020-12-08 | 阿里巴巴集团控股有限公司 | 一种处理ai任务的方法及装置 |
| CN112910708A (zh) * | 2021-02-07 | 2021-06-04 | 中国工商银行股份有限公司 | 分布式服务调用方法及装置 |
| CN113296921A (zh) * | 2020-04-07 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 云资源调度方法、节点、系统及存储介质 |
| CN113791889A (zh) * | 2021-11-18 | 2021-12-14 | 中国科学院成都文献情报中心 | 一种基于多级轮询队列控制器部署学习模型的方法 |
| CN115208901A (zh) * | 2022-08-15 | 2022-10-18 | 抖音视界有限公司 | 一种资源分配方法、系统、装置、计算机设备及存储介质 |
| CN115412510A (zh) * | 2022-10-31 | 2022-11-29 | 成都中科合迅科技有限公司 | 基于分布式框架业务灵活配置方法 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101692208A (zh) * | 2009-10-15 | 2010-04-07 | 北京交通大学 | 实时交通信息处理的任务调度方法与系统 |
| CN101917385A (zh) * | 2009-11-17 | 2010-12-15 | 新奥特（北京）视频技术有限公司 | 调度服务器及多媒体转码用的分布式系统 |
| CN102624870A (zh) * | 2012-02-01 | 2012-08-01 | 北京航空航天大学 | 基于智能优化算法的云制造计算资源可重构配置方法 |
| CN102915254A (zh) * | 2011-08-02 | 2013-02-06 | 中兴通讯股份有限公司 | 任务管理方法及装置 |
| CN103927218A (zh) * | 2014-04-30 | 2014-07-16 | 广州唯品会网络技术有限公司 | 事件分发方法及系统 |
| CN104331327A (zh) * | 2014-12-02 | 2015-02-04 | 山东乾云启创信息科技有限公司 | 大规模虚拟化环境中任务调度的优化方法及优化系统 |
| CN105335236A (zh) * | 2015-12-10 | 2016-02-17 | 厦门市美亚柏科信息股份有限公司 | 一种分布式取证动态负载均衡调度方法和装置 |
| CN106484713A (zh) * | 2015-08-27 | 2017-03-08 | 中国石油化工股份有限公司 | 一种基于面向服务的分布式请求处理系统 |
| CN108170832A (zh) * | 2018-01-11 | 2018-06-15 | 哈尔滨工业大学 | 一种面向工业大数据的异构数据库的监控系统及监控方法 |
| CN108804237A (zh) * | 2017-05-05 | 2018-11-13 | 北京京东尚科信息技术有限公司 | 数据实时统计方法、装置、存储介质和电子设备 |
| CN108833199A (zh) * | 2018-04-26 | 2018-11-16 | 广州视源电子科技股份有限公司 | 数据上报的方法、装置、设备及存储介质 |
| CN109144683A (zh) * | 2017-06-28 | 2019-01-04 | 北京京东尚科信息技术有限公司 | 任务处理方法、装置、系统及电子设备 |
-
2019
- 2019-01-18 CN CN201910049967.1A patent/CN109814997B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101692208A (zh) * | 2009-10-15 | 2010-04-07 | 北京交通大学 | 实时交通信息处理的任务调度方法与系统 |
| CN101917385A (zh) * | 2009-11-17 | 2010-12-15 | 新奥特（北京）视频技术有限公司 | 调度服务器及多媒体转码用的分布式系统 |
| CN102915254A (zh) * | 2011-08-02 | 2013-02-06 | 中兴通讯股份有限公司 | 任务管理方法及装置 |
| CN102624870A (zh) * | 2012-02-01 | 2012-08-01 | 北京航空航天大学 | 基于智能优化算法的云制造计算资源可重构配置方法 |
| CN103927218A (zh) * | 2014-04-30 | 2014-07-16 | 广州唯品会网络技术有限公司 | 事件分发方法及系统 |
| CN104331327A (zh) * | 2014-12-02 | 2015-02-04 | 山东乾云启创信息科技有限公司 | 大规模虚拟化环境中任务调度的优化方法及优化系统 |
| CN106484713A (zh) * | 2015-08-27 | 2017-03-08 | 中国石油化工股份有限公司 | 一种基于面向服务的分布式请求处理系统 |
| CN105335236A (zh) * | 2015-12-10 | 2016-02-17 | 厦门市美亚柏科信息股份有限公司 | 一种分布式取证动态负载均衡调度方法和装置 |
| CN108804237A (zh) * | 2017-05-05 | 2018-11-13 | 北京京东尚科信息技术有限公司 | 数据实时统计方法、装置、存储介质和电子设备 |
| CN109144683A (zh) * | 2017-06-28 | 2019-01-04 | 北京京东尚科信息技术有限公司 | 任务处理方法、装置、系统及电子设备 |
| CN108170832A (zh) * | 2018-01-11 | 2018-06-15 | 哈尔滨工业大学 | 一种面向工业大数据的异构数据库的监控系统及监控方法 |
| CN108833199A (zh) * | 2018-04-26 | 2018-11-16 | 广州视源电子科技股份有限公司 | 数据上报的方法、装置、设备及存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 预流: "[消息队列MQ 专栏]消息队列之RocketMQ", 《芋道源码微信公众号》 * |
Cited By (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112052027A (zh) * | 2019-06-06 | 2020-12-08 | 阿里巴巴集团控股有限公司 | 一种处理ai任务的方法及装置 |
| CN110704171B (zh) * | 2019-09-19 | 2023-01-10 | 苏州浪潮智能科技有限公司 | 存储系统中i/o栈模式切换方法、系统、装置及存储介质 |
| CN110704171A (zh) * | 2019-09-19 | 2020-01-17 | 苏州浪潮智能科技有限公司 | 存储系统中i/o栈模式切换方法、系统、装置及存储介质 |
| CN111147603A (zh) * | 2019-09-30 | 2020-05-12 | 华为技术有限公司 | 一种推理服务网络化的方法及装置 |
| CN111212107A (zh) * | 2019-12-10 | 2020-05-29 | 中移（杭州）信息技术有限公司 | 用于cdn平台的业务处理方法及cdn系统 |
| CN113296921A (zh) * | 2020-04-07 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 云资源调度方法、节点、系统及存储介质 |
| CN113296921B (zh) * | 2020-04-07 | 2022-05-27 | 阿里巴巴集团控股有限公司 | 云资源调度方法、节点、系统及存储介质 |
| CN111913791A (zh) * | 2020-07-02 | 2020-11-10 | 北京和瑞精准医学检验实验室有限公司 | 任务调度方法、装置、设备和计算机可读存储介质 |
| CN111913791B (zh) * | 2020-07-02 | 2023-10-13 | 北京和瑞精湛医学检验实验室有限公司 | 任务调度方法、装置、设备和计算机可读存储介质 |
| CN111813557A (zh) * | 2020-07-21 | 2020-10-23 | 北京千丁互联科技有限公司 | 任务处理装置、方法、终端设备和可读存储介质 |
| CN112910708A (zh) * | 2021-02-07 | 2021-06-04 | 中国工商银行股份有限公司 | 分布式服务调用方法及装置 |
| CN112910708B (zh) * | 2021-02-07 | 2023-03-03 | 中国工商银行股份有限公司 | 分布式服务调用方法及装置 |
| CN113791889A (zh) * | 2021-11-18 | 2021-12-14 | 中国科学院成都文献情报中心 | 一种基于多级轮询队列控制器部署学习模型的方法 |
| CN113791889B (zh) * | 2021-11-18 | 2022-03-11 | 中国科学院成都文献情报中心 | 一种基于多级轮询队列控制器部署学习模型的方法 |
| CN115208901A (zh) * | 2022-08-15 | 2022-10-18 | 抖音视界有限公司 | 一种资源分配方法、系统、装置、计算机设备及存储介质 |
| CN115208901B (zh) * | 2022-08-15 | 2023-06-20 | 抖音视界有限公司 | 一种资源分配方法、系统、装置、计算机设备及存储介质 |
| CN115412510A (zh) * | 2022-10-31 | 2022-11-29 | 成都中科合迅科技有限公司 | 基于分布式框架业务灵活配置方法 |
| CN115412510B (zh) * | 2022-10-31 | 2023-01-17 | 成都中科合迅科技有限公司 | 基于分布式框架业务灵活配置方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109814997B (zh) | 2021-08-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109814997A (zh) | 一种分布式自主均衡人工智能任务调度方法及系统 | |
| US11218597B2 (en) | Techniques for behavioral pairing in a contact center system | |
| CN104040486B (zh) | 解耦paas资源、作业和调度 | |
| CN104040485B (zh) | Paas分层调度和自动缩放 | |
| JPH02247768A (ja) | 分散処理システム及び分散処理連携方法 | |
| CN111427675B (zh) | 一种数据处理方法、装置以及计算机可读存储介质 | |
| CN109947574A (zh) | 一种基于雾网络的车辆大数据计算卸载方法 | |
| US6636599B1 (en) | Reserving resources for anticipated work items via simulated work items | |
| CN107273211A (zh) | 一种云计算环境下基于虚拟机的数据处理方法 | |
| CN116010054A (zh) | 一种基于强化学习的异构边云ai系统任务调度框架 | |
| CN114724694B (zh) | 医疗资源处理方法、装置及可读存储介质 | |
| CN110099083A (zh) | 一种用于服务器集群的负载均衡调度方法及装置 | |
| CN100505688C (zh) | 一种用于网络处理器的差额权重排队调度装置及调度方法 | |
| CN107168805A (zh) | 一种基于虚拟机的资源调度方法 | |
| CN109614236A (zh) | 集群资源动态调整方法、装置、设备及可读存储介质 | |
| Hyytiä et al. | Value (generating) functions for the MX/G/1 queue | |
| Whitt | A multi-class fluid model for a contact center with skill-based routing | |
| CN114493113A (zh) | 任务分配方法、装置、电子装置和存储介质 | |
| Vermeulen et al. | Optimization of online patient scheduling with urgencies and preferences | |
| CN100407745C (zh) | 一种呼叫中心实现数据检索控制的系统和控制方法 | |
| CN116701126B (zh) | pod容量控制方法及装置 | |
| CN113220458B (zh) | 一种数据库连接池实现负载均衡的实时调度方法和装置 | |
| JP2001525570A (ja) | 幾人かのユーザの間における資源の分担管理用装置 | |
| CN117707790A (zh) | 负载均衡方法及负载均衡器 | |
| Adewusi et al. | Modelling Customer’s Satisfaction at Portofino Eatery Ado-Ekiti Using Queuing Theory |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20221221 Address after: 17-1 #, No. 7, Huasheng Road, Yuzhong District, Chongqing 400,043 Patentee after: Chongqing qisaidi Technology Co.,Ltd. Address before: 510670 Room 101, building 1, No. 232 Kezhu Road, Science City, high tech Industrial Development Zone, Guangzhou, Guangdong Patentee before: ALNNOVATION (GUANGZHOU) TECHNOLOGY Co.,Ltd. |
|
| TR01 | Transfer of patent right |