CN116233017B - 时延保证方法、装置及存储介质 - Google Patents

Abstract

本申请提供一种时延保证方法、装置及存储介质，涉及通信技术领域，能够保证业务具有较好的时延性能。该方法包括：确定处理目标业务所需的t个处理节点中每个处理节点的时延；t为大于或等于1的正整数；时延包括以下至少之一：传输时延和处理时延；由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求；第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量。本申请实施例用于时延保证的过程中。

Description

时延保证方法、装置及存储介质

技术领域

本申请涉及通信技术领域，尤其涉及一种时延保证方法、装置及存储介质。

背景技术

算力网络可以通过协同调度，为用户设备提供最优的计算节点，这样可以尽可能的保证在算力网络中用户设备的时延性能位于合理范围内，进而提高了用户体验。

但是，随着算力网络的变化，算力网络为用户设备提供的初始处理节点很有可能会发生变化，进而使得该业务的时延性能无法被保证。因此，在业务进行的过程中，如何保证上述业务的时延性能位于合理范围内，即保证上述业务具有较好的时延性能是本领域技术人员亟待解决的问题。

发明内容

本申请提供一种时延保证方法、装置及存储介质，能够保证上述业务具有较好的时延性能。

为达到上述目的，本申请采用如下技术方案：

第一方面，本申请提供一种时延保证方法，该方法包括：确定处理目标业务所需的t个处理节点中每个处理节点的时延；t为大于或等于1的正整数；时延包括以下至少之一：传输时延和处理时延；由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求；第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量。

在一种可能的实现方式中，由t个处理节点中，时延大于预设时延阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，包括：在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延；n为小于t的正整数；在第n个处理节点的传输时延小于第三预设阈值的情况下，将目标业务的等级变更为预设等级。

在一种可能的实现方式中，由t个处理节点中，时延大于预设时延阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，包括：在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延；n为小于t的正整数；在第n个处理节点的传输时延大于或等于第三预设阈值的情况下，获取多个待选第n+1个处理节点的分配资源量，并确定分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点；分配资源量用于表征待选第n+1个处理节点为目标业务分配的资源量；目标资源量用于表征处理目标业务所需的资源量。

在一种可能的实现方式中，由t个处理节点中，时延大于预设时延阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，包括：在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，调整第n个处理节点为目标业务分配的资源量；n为小于t的正整数。

在一种可能的实现方式中，目标资源量满足以下公式：

其中，C为目标资源量；k为预设权重值；p为调整目标资源量的次数；A1为当前目标资源量；B1为待处理数据的数量；B2为总数据的数量；D1为处理待处理的数据所需的时间；D2为处理总数据所需的时间。

在一种可能的实现方式中，调整第n个处理节点为目标业务分配的资源量，包括：确定目标资源量和第n个处理节点的待用资源量；确定目标资源量和第n个处理节点的待用资源量中较小的资源量为预设资源量；基于预设资源量，调整第n个处理节点为目标业务分配的资源量。

第二方面，本申请提供一种时延保证装置，该装置包括：处理单元；处理单元，用于确定处理目标业务所需的t个处理节点中每个处理节点的时延；t为大于或等于1的正整数；时延包括以下至少之一：传输时延和处理时延；处理单元，还用于由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求；第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量。

在一种可能的实现方式中，在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延；n为小于t的正整数；在第n个处理节点的传输时延小于第三预设阈值的情况下，处理单元，还用于将目标业务的等级变更为预设等级。

在一种可能的实现方式中，装置还包括：通信单元；在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延；n为小于t的正整数；在第n个处理节点的传输时延大于或等于第三预设阈值的情况下，通信单元，还用于获取多个待选第n+1个处理节点的分配资源量；分配资源量用于表征待选第n+1个处理节点为目标业务分配的资源量；处理单元，还用于确定分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点；目标资源量用于表征处理目标业务所需的资源量。

在一种可能的实现方式中，在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于调整第n个处理节点为目标业务分配的资源量；n为小于t的正整数。

在一种可能的实现方式中，目标资源量满足以下公式：

其中，C为目标资源量；k为预设权重值；p为调整目标资源量的次数；A1为当前目标资源量；B1为待处理数据的数量；B2为总数据的数量；D1为处理待处理的数据所需的时间；D2为处理总数据所需的时间。

在一种可能的实现方式中，处理单元，还用于确定目标资源量和第n个处理节点的待用资源量；处理单元，还用于确定目标资源量和第n个处理节点的待用资源量中较小的资源量为预设资源量；处理单元，还用于基于预设资源量，调整第n个处理节点为目标业务分配的资源量。

第三方面，本申请提供了一种时延保证装置，该装置包括：处理器和通信接口；通信接口和处理器耦合，处理器用于运行计算机程序或指令，以实现如第一方面和第一方面的任一种可能的实现方式中所描述的时延保证方法。

第四方面，本申请提供了一种计算机可读存储介质，计算机可读存储介质中存储有指令，当指令在终端上运行时，使得终端执行如第一方面和第一方面的任一种可能的实现方式中描述的时延保证方法。

第五方面，本申请提供一种包含指令的计算机程序产品，当计算机程序产品在时延保证装置上运行时，使得时延保证装置执行如第一方面和第一方面的任一种可能的实现方式中所描述的时延保证方法。

第六方面，本申请提供一种芯片，芯片包括处理器和通信接口，通信接口和处理器耦合，处理器用于运行计算机程序或指令，以实现如第一方面和第一方面的任一种可能的实现方式中所描述的时延保证方法。

具体的，本申请中提供的芯片还包括存储器，用于存储计算机程序或指令。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备确定处理目标业务所需的t(即大于或等于1的正整数)个处理节点中每个处理节点的时延(即包括以下至少之一：传输时延和处理时延)，由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作(即包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量)，以使得目标业务的时延满足预设时延要求。基于上述可知，本申请计算设备可以在确定了t个处理节点之后(即目标业务处理过程中)，对每个时延异常的处理节点动态执行第一操作，即对每个时延异常的处理节点的时延性能进行优化，这样使得在上述处理节点不断变化的过程，计算设备能够及时筛选出时延性能异常的处理节点，并对上述处理节点进行处理，进而保证上述业务具有较好的时延性能。

附图说明

图1为本申请实施例提供的一种通信系统的结构图；

图2为本申请实施例提供的一种时延保证方法的流程图；

图3为本申请实施例提供的另一种时延保证方法的流程图；

图4为本申请实施例提供的t个资源池的示例图；

图5为本申请实施例提供的另一种时延保证方法的流程图；

图6为本申请实施例提供的另一种时延保证方法的流程图；

图7为本申请实施例提供的另一种时延保证方法的流程图；

图8为本申请实施例提供的另一种时延保证方法的流程图；

图9为本申请实施例提供的一种时延保证装置的结构示意图；

图10为本申请实施例提供的另一种时延保证装置的结构示意图。

具体实施方式

下面结合附图对本申请实施例提供的时延保证方法、装置及存储介质进行详细地描述。

本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。

本申请的说明书以及附图中的术语“第一”和“第二”等是用于区别不同的对象，或者用于区别对同一对象的不同处理，而不是用于描述对象的特定顺序。

此外，本申请的描述中所提到的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括其他没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

需要说明的是，本申请实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

在本申请的描述中，除非另有说明，“多个”的含义是指两个或两个以上。

为了解决上述现有技术中存在的问题，本申请实施例提出了一种通信系统，能够更加灵活的处理多种业务。如图1所示，图1示出了本申请实施例提供的一种通信系统10的结构示意图。该通信系统10包括计算设备101、以及处理节点102。

计算设备102，用于确定处理目标业务所需的t个处理节点102中每个处理节点102的时延，并由t个处理节点102中，时延大于第一预设阈值的处理节点102执行第一操作，以使得目标业务的时延满足预设时延要求。

处理节点102，用于处理目标业务。

其中，t为大于或等于1的正整数。时延包括以下至少之一：传输时延和处理时延。第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点102、以及调整处理节点102中为目标业务分配的资源量。

一种可选的实现方式中，本申请所记载的计算设备101主要承担信息(例如，目标业务的算法)和/或数据(例如，目标业务的数据)转发的作用，例如，计算设备101可以基于目标协议(例如，无线通信协议、有线路由协议)向处理节点102发送目标业务的算法和目标业务的数据。

可选的，上述计算设备101还可以称之为业务编排设备，上述计算设备101可以包括以下至少一项：接入网设备、交换机、以及核心网设备。在一种示例中，接入网设备可以为小型基站、无线接入点、收发点(transmission receive point，TRP)、传输点(transmission point，TP)以及某种其它接入节点中的任一节点。

一种可能的实现方式中，由于人工智能领域的迅速发展，设备计算代替人力计算是必然的。人工智能设备的三要素包括：数据、算法、以及计算资源(还可以称之为计算能力)，上述计算资源可以作为上述设备中最主要的支撑。因此，上述处理节点102可以指的是为终端设备提供计算资源的节点。

可选的，上述处理节点102的底层运行环境可以参考公有云搭建底层环境的技术进行理解，此处不再赘述。

在一些示例中，上述处理节点102可以为终端(terminal equipment)、用户设备(user equipment，UE)、者移动台(mobile station，MS)、移动终端(mobile terminal，MT)、手机(mobile phone)、平板电脑或带无线收发功能的电脑，还可以是虚拟现实(virtualreality，VR)终端、增强现实(augmented reality，AR)终端、工业控制中的无线终端、无人驾驶中的无线终端、远程医疗中的无线终端、智能电网中的无线终端、智慧城市(smartcity)中的无线终端、智能家居、车载终端、个人用户的终端设备、企业用户的终端设备(例如，高清摄像机、可编程逻辑控制器(programmable logic controller，PLC)控制器、传感器)等。本申请实施例中，用于实现处理节点102的功能的装置可以是处理节点102，也可以是能够支持处理节点102实现该功能的装置，例如芯片系统。

此外，本申请实施例描述的通信系统是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域普通技术人员可知，随着网络架构的演变和新通信系统的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。

算力网络可以通过协同调度，为用户设备提供最优的计算节点，这样可以尽可能的保证在算力网络中用户设备的时延性能位于合理范围内，进而提高了用户体验。

但是，随着算力网络的变化，算力网络为用户设备提供的初始处理节点很有可能会发生变化，进而使得该业务的时延性能无法被保证。因此，在业务进行的过程中，如何保证上述业务的时延性能持续位于合理范围内，即保证上述业务具有较好的时延性能是本领域技术人员亟待解决的问题。

为了解决上述现有技术中存在的问题，本申请实施例提出了一种时延保证方法，能够保证上述业务具有较好的时延性能。如图2所示，该方法包括：

S201、计算设备确定处理目标业务所需的t个处理节点中每个处理节点的时延。

其中，t为大于或等于1的正整数。时延包括以下至少之一：传输时延和处理时延。

作为一种可选的实现方式，在上述S201的实现过程可以为：计算设备可以先基于目标业务中第n个处理节点待处理的数据量和第n个处理节点的可用资源量，确定第n个处理节点的处理时延，并且基于第n个节点与第n+1个处理节点之间的距离，以及传输速度确定第n个处理节点的传输时延。计算设备可以基于上述方法确定上述每个处理节点的时延。上述n为小于t的正整数。

示例性的，由于直播业务可以视频推送(采集)，视频渲染，视频编码等步骤，具体为：在直播的过程中，主播会打开美颜效果，上述美颜效果需要对为用户推送的视频进行渲染，同时用户和主播需要进行互动，可以为用户增加一些面部特效，上述面部特效也需要一定的渲染，最终通过编解码，将上述视频呈现给用户，因此需要尽可能的保证这些渲染的处理时延位于合理范围呢，避免出现由于处理时延过长导致用户增加的特效效果并未在直播中及时出现的问题，这样使得直播业务对时延的要求较高。基于此，上述目标业务可以为直播业务。

可选的，上述传输时延是指处理节点之间传输数据的时延。

可以理解的是，由于在选择处理节点的过程中，主要参考的是服务功能所需的计算量，因此，计算设备在为目标业务确定初始处理节点的过程中，很有可能会选择资源量较为充足的处理节点作为目标业务的初始处理节点，但上述目标业务的初始处理节点之间相距的距离较长。另外，算力网络中的光纤使用程度及负载率等指标也均会对时延有一定的影响。

基于上述情况，相邻节点之间的传输时延对目标业务的时延产生的影响是较大的，因此，在计算设备对处理节点的时延进行判断的过程中，需要考虑处理节点的传输时延，这样可以使得上述判断结果能够更加准确且真实。

又可选的，上述处理时延是指处理节点处理数据的时延。

可以理解的是，处理节点可以为服务功能提供满足需求的计算能力，但是处理节点的负载率以及存储能力均会影响服务功能的处理时延。

基于上述情况，服务功能的处理时延对目标业务的时延产生的影响也是较大的，因此，在计算设备对处理节点的时延进行判断的过程中，需要考虑处理节点的处理时延，这样可以使得上述判断结果能够更加准确且真实。

可选的，如图3所示，在上述S201之前，计算设备确定目标业务的初始业务路径的过程可以为：计算设备可以接收来自终端设备的目标业务的业务需求，并基于上述目标业务的业务需求确定处理目标业务所需的m个处理节点，这样基于m个处理节点访问目标业务待访问的服务。上述业务需求可以包括以下至少一项：目标业务待访问的服务、带宽、时延、以及速率。接着，计算设备可以根据m个处理节点进行串接，即按照顺序连接m个处理节点，这样计算设备可以基于上述m个处理节点的顺序访问目标业务待访问的服务，并基于上述m个处理节点，生成业务转发路径，以便于计算设备可以基于上述业务转发路径完成目标业务路径初始路径的确认。

在一种示例中，如图4所示，t个处理节点还可以为t个资源池。

S202、计算设备由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求。

其中，第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量。

在一种示例中，由于不同处理节点处理的数据不同，且不同处理节点的处理能力也不同，因此不同的处理节点处理数据的时间也不同。在该情况下，计算设备可以为不同的处理节点设置不同的第一预设阈值。

在另一种示例中，由于不同处理节点处理的数据相同，且不同处理节点的处理能力也相同，因此不同的处理节点处理数据的时间相同。在该情况下，计算设备可以为不同的处理节点设置相同的第一预设阈值。

一种可能的实现方式中，计算设备调整目标业务的业务等级的实现过程可以为：计算设备确定目标业务当前处于的等级。在上述目标业务当前处于的等级不为最高等级的情况下，计算设备均可以将上述目标业务当前处于的等级向上调整一级。在上述目标业务当前处于的等级为最高等级的情况下，计算设备可以将上述目标业务当前处于的等级调整为预留通道等级。上述预留通道等级是指上述目标业务的业务可以通过预留通道中为突发情况预留的网络资源来传输。一般情况下，上述预留通道等级用于紧急情况中，以便于可以保证在紧急情况中，也能够传输时延满足传输时延的预设时延要求。

需要指出的是，不同等级的业务通常对应着不同的时延要求。一般情况下，业务的等级越高，该业务对应的时延要求也越高。下表1给出了多种等级的业务分别对应的时延要求，如下表1所示，预留通道等级的业务无时延要求。等级一的业务对应的时延要求为小于或等于10毫秒(ms)。等级二的业务对应的时延要求为小于或等于30ms。等级三的业务对应的时延要求为小于或等于50ms。等级四的业务对应的时延要求为小于或等于70ms。等级五的业务对应的时延要求为小于或等于90ms。

表1

等级类型	时延要求
		预留通道等级	/
等级一	t<＝10ms
		等级二	t<＝30ms
等级三	t<＝50ms
		等级四	t<＝70ms
等级五	t<＝90ms

另一种可能的实现方式中，计算设备更换处理节点的实现过程可以为：计算设备确定可替换该处理节点的至少一个待选处理节点，并确定上述至少一个待选处理节点中每个待选处理节点的目标资源量。接着，计算设备确定目标资源量最大的待选处理节点为新的处理节点。

另一种可能的实现方式中，计算设备调整处理节点为目标业务分配的资源量的实现过程可以为：计算设备可以确定处理节点的目标资源量、总资源量、负载率、以及已使用资源量，并基于上述目标资源量、总资源量、负载率、以及已使用资源量确定为目标业务新分配的资源数量。接着，计算设备基于上述为目标业务新分配的资源数量调整处理节点为目标业务分配的资源量。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备确定处理目标业务所需的t(即大于或等于1的正整数)个处理节点中每个处理节点的时延(即包括以下至少之一：传输时延和处理时延)，由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作(即包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量)，以使得目标业务的时延满足预设时延要求。基于上述可知，本申请计算设备可以在确定了t个处理节点之后(即目标业务处理过程中)，对每个时延异常的处理节点动态执行第一操作，即对每个时延异常的处理节点的时延性能进行优化，这样使得在上述处理节点不断变化的过程，计算设备能够及时筛选出时延性能异常的处理节点，并对上述处理节点进行处理，进而保证上述业务具有较好的时延性能。

在一种可选的实施例中，如S202所示，计算设备由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，在图2示出的方法实施例的基础上，本实施例提供上述S202的一种可能实现方式，结合图2，如图5所示，上述S202具体可以通过以下S501至S504确定。

S501、计算设备确定t个处理节点中第n个处理节点的处理时延是否大于第二预设阈值。

其中，n为小于t的正整数。

可选的，计算设备可以根据实际情况设置第二预设阈值，例如，计算设备将第二预设阈值设置为10ms。上述仅为第二预设阈值的一种示例，第二预设阈值还可以为其他值，本申请对此不作任何限制。

可以理解的是，在上述第n个处理节点为上述t个处理节点中的最后一个处理节点的情况下，计算设备对其进行调整，对目标业务的时延造成的影响不大。在该情况下，计算设备不对该处理节点执行第一操作，因此，n需要限定为小于t的正整数。

可选的，若t个处理节点中第n个处理节点的处理时延大于第二预设阈值，则计算设备不对第n个处理节点执行第一操作。

若t个处理节点中第n个处理节点的处理时延大于第二预设阈值，则计算设备执行S502。

S502、计算设备预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延。

可选的，上述预设等级可以为上述目标业务的当前等级的上一个等级。示例性的，以目标业务的当前等级为3为例，上述预设等级可以为2。上述目标业务的当前等级可以为原始目标业务的等级，还可以为调整后的目标业务的等级。

一种示例(记为示例1)，当第n个处理节点的处理时延超过预期，且目标业务的当前等级为第四等级时，计算设备可以预测在业务等级调整为第三等级(该等级的时延要求为小于或等于50ms)之后，第n个处理节点的传输时延为150ms。

S503、计算设备确定第n个处理节点的传输时延是否小于第三预设阈值。

结合上述示例1，若第三预设阈值为160ms，则上述预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延小于第三预设阈值。

可选的，计算设备可以根据实际情况设置第三预设阈值，例如，计算设备将第三预设阈值设置为10ms。上述仅为第三预设阈值的一种示例，第三预设阈值还可以为其他值，本申请对此不作任何限制。

若第n个处理节点的传输时延小于第三预设阈值，则计算设备执行S504。

S504、计算设备将目标业务的等级变更为预设等级。

可选的，计算设备可以基于上述图2所示的方法对每个处理节点进行处理。

可选的，在计算设备对第n+1个处理节点的时延进行判断的过程中，计算设备可以预测将目标业务的等级调整回原先的等级，第n+1个处理节点的传输时延能否小于或等于第三预设阈值。若上述传输时延小于或等于第三预设阈值，则计算设备将将目标业务的等级调整回原先的等级。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备在t个处理节点中第n(即小于t的正整数)个处理节点的处理时延大于第二预设阈值的情况下，预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延，并在第n个处理节点的传输时延小于第三预设阈值的情况下，将目标业务的等级变更为预设等级，这样使得在上述处理节点不断变化的过程，计算设备能够及时筛选出时延性能异常的处理节点，并及时将目标业务的等级调高，使得在数据传输的过程中上述目标业务的数据可以优先被传输，进而保证上述业务具有较好的时延性能。

在一种可选的实施例中，如S202所示，计算设备由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，在图2示出的方法实施例的基础上，本实施例提供上述S202的另一种可能实现方式，结合图2，如图6所示，上述S202具体可以通过以下S601至S605确定。

S601、计算设备确定t个处理节点中第n个处理节点的处理时延是否大于第二预设阈值。

可选的，上述S601可参考上述S501进行理解，此处不再赘述。

若t个处理节点中第n个处理节点的处理时延大于第二预设阈值，则计算设备执行S602。

S602、计算设备预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延。

可选的，上述S602可参考上述S502进行理解，此处不再赘述。

S603、计算设备确定第n个处理节点的传输时延是否小于第三预设阈值。

可选的，上述S603可参考上述S503进行理解，此处不再赘述。

结合上述示例1，若第三预设阈值为120ms，则上述预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延大于第三预设阈值。

若第n个处理节点的传输时延大于或等于第三预设阈值，则计算设备执行S604。

S604、计算设备获取多个待选第n+1个处理节点的分配资源量。

其中，分配资源量用于表征待选第n+1个处理节点为目标业务分配的资源量。

可选的，计算设备可以基于待处理的数据量确定待选第n+1个处理节点为目标业务分配的资源量，以便于能够在能够完成数据处理的基础上，避免资源浪费。

S605、计算设备确定分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点。

其中，目标资源量用于表征处理目标业务所需的资源量。

作为一种可选的实现方式，计算设备确定目标资源量的实现过程可以为：获取当前第n+1个处理节点的分配资源量，并基于当前第n+1个处理节点的信息，确定目标资源量。其中，信息包括：t，n，预设权重值，对第n+1个处理节点执行第一操作的次数、第n+1个处理节点的算力资源量、待处理数据的数量、总数据的数量、处理待处理数据所需的时间、处理总数据所需的时间。

一种可能的实现方式中，目标资源量满足以下公式1：

其中，C为目标资源量。k为预设权重值。p为调整目标资源量的次数。A1为当前目标资源量。B1为待处理数据的数量。B2为总数据的数量。D1为处理待处理的数据所需的时间。D2为处理总数据所需的时间。

示例性的，上述处理目标业务所需处理节点可以包括：处理节点#1、处理节点#2、处理节点#3、处理节点#4、以及处理节点#5。处理节点#1的总数据量为2500TFLOPS，处理节点#2的总数据量为200TFLOPS，处理节点#3的总数据量为300TFLOPS，处理节点#4的总数据量为400TFLOPS，处理节点#5的总数据量为500TFLOPS。处理节点#1为目标业务分配的资源量为350TFLOPS，处理节点#2为目标业务分配的资源量为250TFLOPS，处理节点#3为目标业务分配的资源量为350TFLOPS，处理节点#4为目标业务分配的资源量为450TFLOPS，处理节点#5为目标业务分配的资源量为550TFLOPS。

在第n个处理节点为处理节点#1，k为1.1，p为1，A1为350，B1为150，B2为250，D1为1400，D2为1500的情况下，目标资源量可以为746TFLOPS(即)。

在该示例中，计算设备可以确定分配资源量大于或等于746TFLOPS的待选第n+1个处理节点为新的第n+1个处理节点。

可选的，若计算设备已更换了新的第n+1个处理接单，但目标业务的整个时延(例如，183ms)仍旧大于或等于第四预设阈值(例如，180ms)，则计算设备可以调整目标业务的业务等级或者调整处理节点为目标业务分配的资源量，直至将目标业务的整个时延调整至小于或等于第四预设阈值。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备在t个处理节点中第n(即小于t的正整数)个处理节点的处理时延大于第二预设阈值的情况下，预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延，并在第n个处理节点的传输时延大于或等于第三预设阈值的情况下，获取多个待选第n+1个处理节点的分配资源量(即用于表征待选第n+1个处理节点为目标业务分配的资源量)，并确定分配资源量大于或等于目标资源量(即用于表征处理目标业务所需的资源量)的待选第n+1个处理节点为新的第n+1个处理节点，这样使得在上述处理节点不断变化的过程，计算设备能够及时筛选出时延性能异常的处理节点，并对上述时延性能异常的处理节点进行更换，使得具有更好时延性能的处理节点来处理该目标业务，进而保证上述业务具有较好的时延性能。

在一种可选的实施例中，如S202所示，计算设备由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求，在图2示出的方法实施例的基础上，本实施例提供上述S202的另一种可能实现方式，结合图2，如图7所示，上述S202具体可以通过以下S701至S702确定。

S701、计算设备确定t个处理节点中第n个处理节点的处理时延是否大于第二预设阈值。

可选的，上述S701可参考上述S501进行理解，此处不再赘述

若t个处理节点中第n个处理节点的处理时延大于第二预设阈值，则计算设备执行S702。

S702、计算设备调整第n个处理节点为目标业务分配的资源量。

作为一种可选的实现方式，上述S502的实现过程可以为：计算设备可以先基于第n个处理节点的总资源量和第n个处理节点的已使用资源量确定上述第n个处理节点的待使用资源量，再确定上述第n个处理节点的目标资源量。接着，计算设备可以从上述待使用资源量和目标资源量中确定较大的资源量为调整后的为目标业务分配的资源量，并基于预设资源量，调整第n个处理节点为目标业务分配的资源量。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备在t个处理节点中第n(即小于t的正整数)个处理节点的处理时延大于第二预设阈值的情况下，调整第n个处理节点为目标业务分配的资源量，这样使得在上述处理节点不断变化的过程，计算设备能够及时筛选出时延性能异常的处理节点，并及时调整第n个处理节点为目标业务分配的资源量，使得第n个处理节点可以基于更加充裕的资源来进行目标业务的处理，避免了因资源量不够导致的数据等待的问题，进而保证上述业务具有较好的时延性能。

在一种可选的实施例中，如S702所示，计算设备调整第n个处理节点为目标业务分配的资源量，在图7示出的方法实施例的基础上，本实施例提供上述S702的另一种可能实现方式，结合图7，如图8所示，上述S702具体可以通过以下S801至S803确定。

S801、计算设备确定目标资源量和第n个处理节点的待用资源量。

一种可能的实现方式，计算设备可以先上述第n个处理节点的负载率和总资源量，再确定第n个处理节点的负载率和总资源量的乘积为实际总资源量。接着，计算设备确定上述实际总资源量和第n个处理节点的已使用资源量为第n个处理节点的待用资源量。

可选的，上述目标资源量可以参考上述相应位置的描述进行理解，此处不再赘述。

S802、计算设备确定目标资源量和第n个处理节点的待用资源量中较小的资源量为预设资源量。

一种可能的实现方式，上述预设资源量满足以下公式2：

Q＝Min(C， (p×R1-R2)) 公式2

其中，Q为预设资源量。C为目标资源量。p为负载率。R1为第n个处理节点的总资源量。R2为第n个处理节点的已使用资源量。

S803、计算设备基于预设资源量，调整第n个处理节点为目标业务分配的资源量。

作为一种可选的实现方式，上述S603的实现过程可以为：计算设备可以将上述第n个处理节点当前为目标业务分配的资源量变更为上述预设资源量。

上述技术方案至少带来以下有益效果：本申请提供的时延保证方法，计算设备确定目标资源量和第n个处理节点的待用资源量，确定目标资源量和第n个处理节点的待用资源量中较小的资源量为预设资源量，并基于预设资源量，调整第n个处理节点为目标业务分配的资源量，这样以便于后续第n个处理节点可以具备更加充裕的资源，避免了因资源量不够导致的数据等待的问题，进而保证上述业务具有较好的时延性能。

可以理解的是，上述时延保证方法可以由时延保证装置实现。时延保证装置为了实现上述功能，其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到，结合本文中所公开的实施例描述的各示例的模块及算法步骤，本申请公开实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请公开实施例的范围。

本申请公开实施例可以根据上述方法示例生成的时延保证装置进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。需要说明的是，本申请公开实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

图9为本发明实施例提供的一种时延保证装置的结构示意图。如图9所示，时延保证装置90可以用于执行图2、图5-图8所示的时延保证方法。该时延保证装置90包括：处理单元901。

处理单元901，用于确定处理目标业务所需的t个处理节点中每个处理节点的时延。t为大于或等于1的正整数。时延包括以下至少之一：传输时延和处理时延。处理单元，还用于由t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得目标业务的时延满足预设时延要求。第一操作包括以下至少之一：调整目标业务的业务等级、更换处理节点、以及调整处理节点为目标业务分配的资源量。

在一种可能的实现方式中，在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延。n为小于t的正整数。在第n个处理节点的传输时延小于第三预设阈值的情况下，处理单元，还用于将目标业务的等级变更为预设等级。

在一种可能的实现方式中，装置还包括：通信单元902。在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于预测在目标业务的等级变更为预设等级的情况下，第n个处理节点的传输时延。n为小于t的正整数。在第n个处理节点的传输时延大于或等于第三预设阈值的情况下，通信单元，还用于获取多个待选第n+1个处理节点的分配资源量。分配资源量用于表征待选第n+1个处理节点为目标业务分配的资源量。处理单元，还用于确定分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点。目标资源量用于表征处理目标业务所需的资源量。

在一种可能的实现方式中，在t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，处理单元，还用于调整第n个处理节点为目标业务分配的资源量。n为小于t的正整数。

在一种可能的实现方式中，目标资源量满足以下公式：

其中，C为目标资源量。k为预设权重值。p为调整目标资源量的次数。A1为当前目标资源量。B1为待处理数据的数量。B2为总数据的数量。D1为处理待处理的数据所需的时间。D2为处理总数据所需的时间。

在一种可能的实现方式中，处理单元，还用于确定目标资源量和第n个处理节点的待用资源量。处理单元，还用于确定目标资源量和第n个处理节点的待用资源量中较小的资源量为预设资源量。处理单元，还用于基于预设资源量，调整第n个处理节点为目标业务分配的资源量。

在采用硬件的形式实现上述集成的模块的功能的情况下，本发明实施例提供了上述实施例中所涉及的时延保证装置的一种可能的结构示意图。如图10所示，一种时延保证装置100，例如用于执行图2、图5-图8所示的时延保证方法。该时延保证装置100可以包括处理器1001，存储器1002、以及总线1003。可选的，该时延保证装置100还可以包括通信接口1004。处理器1001与存储器1002之间可以通过总线1003连接。

处理器1001是用户设备的控制中心，可以是一个处理器，也可以是多个处理元件的统称。例如，处理器1001可以是一个通用中央处理单元1002(central processing unit，CPU)，也可以是其他通用处理器等。其中，通用处理器可以是微处理器或者是任何常规的处理器等。

作为一种实施例，处理器1001可以包括一个或多个CPU，例如图10中所示的CPU 0和CPU 1。

存储器1002可以是只读存储器(read-only memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，RAM)或者可存储信息和指令的其他类型的动态存储设备，也可以是电可擦可编程只读存储器(electrically erasable programmable read-only memory，EEPROM)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。

作为一种可能的实现方式，存储器1002可以独立于处理器1001存在，存储器1002可以通过总线1003与处理器1001相连接，用于存储指令或者程序代码。处理器1001调用并执行存储器1002中存储的指令或程序代码时，能够实现本发明实施例提供的地图标绘方法。

另一种可能的实现方式中，存储器1002也可以和处理器1001集成在一起。

总线1003，可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外围设备互连(Peripheral Component Interconnect，PCI)总线或扩展工业标准体系结构(Extended Industry Standard Architecture，EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示，图10中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

通信接口1004，用于与其他设备通过通信网络连接。该通信网络可以是以太网，无线接入网，无线局域网(wireless local area networks，WLAN)等。通信接口1004可以包括用于接收数据的通信单元902。

在一种设计中，本发明实施例提供的时延保证装置100中，通信接口还可以集成在处理器中。

需要指出的是，图10示出的结构并不构成对该时延保证装置100的限定。除图10所示部件之外，该时延保证装置100可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

作为一个示例，结合图9，时延保证装置90中的处理单元901实现的功能与图10中的处理器1001的功能相同。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

其中，计算机可读存储介质，例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(Random Access Memory，RAM)、只读存储器(Read-Only Memory，ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、寄存器、硬盘、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合、或者本领域熟知的任何其它形式的计算机可读存储介质。一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于特定用途集成电路(Application Specific Integrated Circuit，ASIC)中。在本申请实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

以上，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何在本申请揭露的技术范围内的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应该以权利要求的保护范围为准。

Claims (8)

1.一种时延保证方法，其特征在于，包括：

确定处理目标业务所需的t个处理节点中每个处理节点的时延；t为大于或等于1的正整数；所述时延包括以下至少之一：传输时延和处理时延；

由所述t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得所述目标业务的时延满足预设时延要求，包括：在所述t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，预测在所述目标业务的等级变更为预设等级的情况下，所述第n个处理节点的传输时延；n为小于t的正整数；在所述第n个处理节点的传输时延小于第三预设阈值的情况下，将所述目标业务的等级变更为所述预设等级。

2.根据权利要求1所述的方法，其特征在于，所述由所述t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得所述目标业务的时延满足预设时延要求，包括：

在所述t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，预测在所述目标业务的等级变更为预设等级的情况下，所述第n个处理节点的传输时延；n为小于t的正整数；

在所述第n个处理节点的传输时延大于或等于第三预设阈值的情况下，获取多个待选第n+1个处理节点的分配资源量，并确定所述分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点；所述分配资源量用于表征所述待选第n+1个处理节点为所述目标业务分配的资源量；所述目标资源量用于表征处理所述目标业务所需的资源量。

3.根据权利要求2所述的方法，其特征在于，所述目标资源量满足以下公式：

其中，C为所述目标资源量；k为预设权重值；p为调整所述目标资源量的次数；A1为当前目标资源量；B1为待处理数据的数量；B2为总数据的数量；D1为处理所述待处理的数据所需的时间；D2为处理所述总数据所需的时间。

4.一种时延保证装置，其特征在于，包括：处理单元；

所述处理单元，用于确定处理目标业务所需的t个处理节点中每个处理节点的时延；t为大于或等于1的正整数；所述时延包括以下至少之一：传输时延和处理时延；

所述处理单元，还用于由所述t个处理节点中，时延大于第一预设阈值的处理节点执行第一操作，以使得所述目标业务的时延满足预设时延要求，包括：在所述t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，预测在所述目标业务的等级变更为预设等级的情况下，所述第n个处理节点的传输时延；n为小于t的正整数；在所述第n个处理节点的传输时延小于第三预设阈值的情况下，将所述目标业务的等级变更为所述预设等级。

5.根据权利要求4所述的装置，其特征在于，所述装置还包括：通信单元；

在所述t个处理节点中第n个处理节点的处理时延大于第二预设阈值的情况下，所述处理单元，还用于预测在所述目标业务的等级变更为预设等级的情况下，所述第n个处理节点的传输时延；n为小于t的正整数；

在所述第n个处理节点的传输时延大于或等于第三预设阈值的情况下，所述通信单元，用于获取多个待选第n+1个处理节点的分配资源量；所述分配资源量用于表征所述待选第n+1个处理节点为所述目标业务分配的资源量；

所述处理单元，还用于确定所述分配资源量大于或等于目标资源量的待选第n+1个处理节点为新的第n+1个处理节点；所述目标资源量用于表征处理所述目标业务所需的资源量。

6.根据权利要求5所述的装置，其特征在于，所述目标资源量满足以下公式：

其中，C为所述目标资源量；k为预设权重值；p为调整所述目标资源量的次数；A1为当前目标资源量；B1为待处理数据的数量；B2为总数据的数量；D1为处理所述待处理的数据所需的时间；D2为处理所述总数据所需的时间。

7.一种时延保证装置，其特征在于，包括：处理器和通信接口；所述通信接口和所述处理器耦合，所述处理器用于运行计算机程序或指令，以实现如权利要求1-3任一项中所述的时延保证方法。

8.一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，其特征在于，当计算机执行该指令时，该计算机执行上述权利要求1-3任一项中所述的时延保证方法。