CN114301907B - 云计算网络中的业务处理方法、系统、装置及电子设备 - Google Patents
云计算网络中的业务处理方法、系统、装置及电子设备 Download PDFInfo
- Publication number
- CN114301907B CN114301907B CN202111370223.3A CN202111370223A CN114301907B CN 114301907 B CN114301907 B CN 114301907B CN 202111370223 A CN202111370223 A CN 202111370223A CN 114301907 B CN114301907 B CN 114301907B
- Authority
- CN
- China
- Prior art keywords
- processing
- service
- service processing
- target
- target service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种云计算网络中的业务处理方法、系统、装置及电子设备。通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
Description
技术领域
本申请中涉及数据处理技术,尤其是一种云计算网络中的业务处理方法、系统、装置及电子设备。
背景技术
随着物联网络发展进入了新的发展阶段。海量的物联设备也会随之接入到云计算网络中。
其中,与海量设备接入伴随而来的是海量的数据处理,由于云计算网络中终端计算能力的匮乏,未来网络面临的计算服务需求将为网络带来巨大压力。但随着移动边缘计算服务与云服务器计算服务的逐渐部署完善,芯片等计算硬件的蓬勃发展,为网络的计算服务带来新的发展契机。
然而,相关技术中,云计算网络中各个计算节点的计算方式是固化的,这也导致没有考虑不同计算模块的计算服务需求差异以及辅助计算服务的数据大小,从而出现个别计算节点的计算效率不高的问题。
发明内容
本申请实施例提供一种云计算网络中的业务处理方法、系统、装置及电子设备,其中,根据本申请实施例的一个方面,提供的一种云计算网络中的业务处理方法,其特征在于,应用于边缘服务器,包括:
获取终端设备生成的用于对目标业务进行处理的业务处理请求;
基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;
根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;
将包含所述第一业务处理结果的业务处理请求发送给所述云服务器。
可选地,在基于本申请上述方法的另一个实施例中,所述基于决策业务参数以及业务处理模型,制定对所述目标业务进行处理的处理策略,包括:
根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
可选地,在基于本申请上述方法的另一个实施例中,所述历史业务参数包括以下至少一种:
当前待处理的业务数量,待处理的业务数据大小,历史计算时延以及历史传输时延。
可选地,在基于本申请上述方法的另一个实施例中,所述根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略,包括:
分别比较同一业务处理模型在所述边缘服务器下所需的第一运算成本以及在所述云服务器下处理所述目标业务所需的第二运算成本的大小关系;
分别为每个业务处理模型确定其中运算成本最低的处理子策略,并根据每个业务处理模型对应的处理子策略,生成对所述目标业务进行处理的处理策略。
其中,根据本申请实施例的一个方面,提供的一种云计算网络中的业务处理系统,其特征在于,包括终端设备,边缘服务器以及云服务器,其中:
所述终端设备生成用于对目标业务进行处理的业务处理请求后发送给所述边缘服务器;
所述边缘服务器根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含所述第一业务处理结果的业务处理请求发送给所述云服务器;
所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果,并将所述第一业务处理结果以及所述第二业务处理结果返回给所述终端设备。
可选地,在基于本申请上述系统的另一个实施例中,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算在所述边缘服务器下对所述目标业务进行业务处理所耗费的第一计算时延成本;以及,
计算在所述云服务器下对所述目标业务进行业务处理所耗费的第二计算时延成本;
将所述第一计算时延成本以及所述第二计算时延成本存储到所述决策业务参数中。
可选地,在基于本申请上述系统的另一个实施例中,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算所述终端设备将所述业务处理请求传输至所述边缘服务器所耗费的第一传输时延成本;以及,
计算所述边缘服务器将所述业务处理请求传输至所述云服务器的第二传输时延成本,其中所述传输包括有线传输以及无线传输的其中至少一种;
将所述第一传输时延成本以及所述第二传输时延成本存储到所述决策业务参数中。
其中,根据本申请实施例的又一个方面,提供的一种云计算网络中的业务处理装置,其特征在于,应用于边缘服务器,包括:
获取模块,被配置为获取终端设备生成的用于对目标业务进行处理的业务处理请求;
制定模块,被配置为基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;
处理模块,被配置为根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;
发送模块,被配置为将包含所述第一业务处理结果的业务处理请求发送给所述云服务器。
根据本申请实施例的又一个方面,提供的一种电子设备,包括:
存储器,用于存储可执行指令;以及
显示器,用于与所述存储器显示以执行所述可执行指令从而完成上述任一所述云计算网络中的业务处理方法的操作。
根据本申请实施例的还一个方面,提供的一种计算机可读存储介质,用于存储计算机可读取的指令,所述指令被执行时执行上述任一所述云计算网络中的业务处理方法的操作。
本申请中,终端设备生成用于对目标业务进行处理的业务处理请求后发送给边缘服务器;边缘服务器根据处理策略,对目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含第一业务处理结果的业务处理请求发送给云服务器;云服务器对目标业务的第二部分进行业务处理,得到第二业务处理结果,并将述第一业务处理结果以及第二业务处理结果返回给终端设备。通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
下面通过附图和实施例,对本申请的技术方案做进一步的详细描述。
附图说明
构成说明书的一部分的附图描述了本申请的实施例,并且连同描述一起用于解释本申请的原理。
参照附图,根据下面的详细描述,可以更加清楚地理解本申请,其中:
图1为本申请提出的一种云计算网络中的业务处理方法示意图;
图2-图3为本申请提出的一种云计算网络的系统架构示意图;
图4为本申请提出的一种云计算网络中的业务处理系统的处理流程示意图;
图5为本申请提出的云计算网络中的业务处理电子装置的结构示意图;
图6为本申请提出的云计算网络中的业务处理电子设备的结构示意图。
具体实施方式
现在将参照附图来详细描述本申请的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本申请的范围。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,不作为对本申请及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
另外,本申请各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。
需要说明的是,本申请实施例中所有方向性指示(诸如上、下、左、右、前、后……)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
下面结合图1-图3来描述根据本申请示例性实施方式的用于进行云计算网络中的业务处理方法。需要注意的是,下述应用场景仅是为了便于理解本申请的精神和原理而示出,本申请的实施方式在此方面不受任何限制。相反,本申请的实施方式可以应用于适用的任何场景。
本申请还提出一种云计算网络中的业务处理方法、系统、装置及电子设备。
图1示意性地示出了根据本申请实施方式的一种云计算网络中的业务处理方法的流程示意图。如图1所示,该方法应用于边缘服务器,包括:
S101,获取终端设备生成的用于对目标业务进行处理的业务处理请求。
随着5G商用网络部署范围不断扩大,物联网络发展进入了新的发展阶段。随之而来的也会有海量的互联网设备接入。与海量设备接入伴随而来的是海量的数据处理,由于物联网终端计算能力的匮乏,未来网络面临的计算服务需求将为网络带来巨大压力。
但随着移动边缘计算服务的逐渐部署完善,芯片等计算硬件的蓬勃发展,为网络的计算服务带来新的发展契机。面向未来的多样化计算业务需求,尤其是随着人工智能业务的发展而带来的大规模数据处理需求,目前的诸多人工智能算法采用模块化设计的方案增加网络服务算法的通用性,减少了相似功能的重复开发与相同计算辅助数据的重复部署。例如在道路交通摄像头的主要工作流程中均需要进行大量的图片处理工作,无论是判断车辆是否违章,还是识别车辆号牌,判断路面交通信息都需要在对图片进行物体识别的基础上进行,再辅助以人脸检测,文字识别等模块化算法,实现最终的服务效果;目前市场前景火热的智能音响则需要声音转文字,文字识别,以及后续功能处理乃至反馈等多种处理模块。
进一步的,在计算形式模块化的发展趋势下,应综合考虑不同计算模块的计算服务需求差异,辅助计算服务的数据大小,模块间的逻辑关系进行计算资源分配研究。
在传统的计算过程中,通常对于计算服务并未进行深入研究,通常通过该服务所需要的计算任务总数表示,从而忽略了计算服务本身的诸多特性,如计算服务所需要的额外数据支持,不同计算服务的前后处理顺序,将计算服务模块化拆分后模块间业务过度状态的数据大小……因此面向模块化服务的计算资源分配策略需要在立足不同计算模块间逻辑关系的基础上,根据支持数据所占用存储大小以及不同资源的调用频次等因素确定不同模块在边缘部署的必要性,从而为进一步的资源分配确定可行的动作空间,最后根据不同计算任务的计算量需求、时延要求、数据大小差异进行合理的计算传输策略设计,充分调用云端资源与边缘资源相互配合,使得网络资源最大化利用。
也就是说,现有技术中云计算网络中各个计算节点的计算方式是固化的,这也导致没有考虑不同计算模块的计算服务需求差异以及辅助计算服务的数据大小,从而出现个别计算节点的计算效率不高的问题。
进一步的,为了解决上述存在的问题,本申请实施例中可以由网络摄像头等终端设备将自身处理能力无法满足需求或不由自身处理的业务处理请求向云计算节点中的下一计算节点(即边缘服务器)处转发。
一种方式中,本申请中的云计算网络架构可以如图2所示,例如云计算网络架构中用户集合中可以包含至少一个用户。终端设备RRU的集合中可以包含至少一个RRU。且包含至少一个边缘服务器MEC以及至少一个云服务器。
具体的,本申请中的云计算网络架构可以包括无线链路集合与有线链路集合两部分组成。其中用户设备与终端设备RRU间的通信为无线链路。其中,RRU具有个用于无线传输的子信道,每个信道的带宽为(以MHz为单位)。
另外,除用户设备与RRU之间的连接为无线链路外,RRU与BBU池中MEC设备以及MEC与远程云服务器的链路为有线链路或无线链路进行连接。
具体来说,业务处理请求可以首先经过无线通信系统到达无线接入点(AccessPoint,AP),然后依据资源分配策略制定的处理策略在边缘节点开始第一部分的处理计算任务并后续传输向云端。
若任务在边缘节点开始处理,则在完成串行的任意任务后,决定是否将处理后的数据上传到云端继续处理。同时,该业务在边缘可以进行的处理步骤由部署在边缘的计算辅助数据库决定,即只有将计算辅助数据缓存边缘服务器节点的串行处理步骤才可以在边缘节点进行,而云端拥有全部的计算辅助信息,因此可以承担边缘不适宜进行的处理任务。
进一步的,传统的计算任务处理一般是一个完整的流程,数据处理是集中在某一计算节点或者多个计算节点并行进行的。不过任一不可分割数据的处理均由单一计算节点独立完成。但基于神经网络的AI业务可以通过将完整的深度学习模型分解为多个子深度学习模型分别部署在云和边缘,甚至对于某些深度学习业务等,需要多个独立模型进行串行工作(如:图像检测yolo3包可以由多个检测包串行检测)。
如图3所示,基于以上信息,本申请可以分别在BBU资源池的MEC与云服务器部署AI业务的不同子进程。以达到将一个业务处理请求部分性的分配给边缘服务器与云服务器共同完成业务处理的目的。
S102,基于决策业务参数以及至少一个业务处理模型,制定对目标业务进行处理的处理策略,处理策略包括由边缘服务器对目标业务的第一部分进行处理,以及由云服务器对目标业务的第二部分进行处理
需要说明的是,本申请不对第一部分做具体限定,例如可以为全部,也可以为零,还可以为百分之五十或百分之三十等数值。同样的,本申请也不对第二部分做具体限定,例如可以为全部,也可以为零,还可以为百分之五十或百分之三十等数值。而第一部分以及第二部分之和为目标业务的全部。
举例来说,例如当第一部分为零时,则边缘服务器不对目标业务进行任何处理而直接发送给云服务器以使由云服务器进行全部业务的处理。而当第一部分为全部时,则边缘服务器对目标业务进行全部的处理。
本申请中在制定对目标业务进行处理的处理策略的过程中,可以通过预先存储的决策业务参数以及至少一个业务处理模型来确定。其中该业务处理模型即为处理该目标业务所需的所有处理模型。
进一步的,决策业务参数即包括当前待处理的业务数量,待处理的业务数据大小,历史计算时延以及历史传输时延。可以理解的,本申请可以根据决策业务参数,确定出每个业务处理模型处理目标业务所需的运算成本(其中包括如果该业务处理模型在边缘服务器上处理目标业务所需的运算成本,以及,如果该业务处理模型在云服务器上处理目标业务所需的运算成本),进而在后续根据运算成本的高低制定出处理策略。
需要说明的是,对于任一业务处理模型,在处理不同的输入数据时,其处理压缩系数不是确定的,而是符合某种分布的,在本文的研究中,假设该分布是未知的。不过由于其符合某种确定分布,因此可以通过对其不断的探索获得其分布的部分信息。
对于BBU资源池内的不同MEC,由于不同MEC间的传输时延以及算力同样受限问题,因此不考虑进行MEC间的计算传输策略,即将MEC无法满足的计算业务全部传输到云端服务器。同时,RRU只连接到单一MEC服务器,但多个RRU可能会连接到同一MEC服务器。因此对于每个RRU,存在固定的传输MEC,对于任一MEC,其可以部署的业务处理模型数量受限于其存储空间的大小。
S103,根据处理策略,对目标业务的第一部分进行业务处理,得到第一业务处理结果。
S104,将包含第一业务处理结果的业务处理请求发送给云服务器。
例如对于处理语音类业务(即目标业务)来说,所需要的业务处理模型可以包括用于对语音识别的第一语音处理模型,以及将识别结果转换成文字的第二语音处理模型,以及将转换文字进行语义分析等处理的第三语音处理模型等等。可以理解的,该上述提及的三个语音处理模型即为处理该语音业务所需的所有处理模型(即业务处理模型)。
进一步的,本申请可以根据决策业务参数计算出第一语音处理模型在边缘服务器上处理目标业务所需的运算成本为1,以及,其在云服务器上处理目标业务所需的运算成本1.5。且,根据决策业务参数计算出第二语音处理模型在边缘服务器上处理目标业务所需的运算成本为1,以及,其在云服务器上处理目标业务所需的运算成本1.5。且,根据决策业务参数计算出第三语音处理模型在边缘服务器上处理目标业务所需的运算成本为5,以及,其在云服务器上处理目标业务所需的运算成本1。
那么根据比较运算成本之后,即可以制定出,由第一语音处理模型以及第二语音处理模型在边缘服务器上处理目标业务的第一部分,且由第三语音处理模型在云服务器上处理目标业务的第二部分的处理策略。
可以理解的,在制定出处理策略后,即可以由边缘服务器利用第一语音处理模型以利用及第二语音处理模型处理目标业务的第一部分后,将处理结果以及业务请求发送给云服务器,以使云服务器利用第三语音处理模型在云服务器上处理目标业务的第二部分。
本申请中,终端设备生成用于对目标业务进行处理的业务处理请求后发送给边缘服务器;边缘服务器根据处理策略,对目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含第一业务处理结果的业务处理请求发送给云服务器;云服务器对目标业务的第二部分进行业务处理,得到第二业务处理结果,并将述第一业务处理结果以及第二业务处理结果返回给终端设备。通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
可选的,在本申请一种可能的实施方式中,基于决策业务参数以及业务处理模型,制定对所述目标业务进行处理的处理策略,包括:
根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
可选的,在本申请一种可能的实施方式中,所述历史业务参数包括以下至少一种:
当前待处理的业务数量,待处理的业务数据大小,历史计算时延以及历史传输时延。
可选的,在本申请一种可能的实施方式中,所述根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略,包括:
分别比较同一业务处理模型在所述边缘服务器下所需的第一运算成本以及在所述云服务器下处理所述目标业务所需的第二运算成本的大小关系;
分别为每个业务处理模型确定其中运算成本最低的处理子策略,并根据每个业务处理模型对应的处理子策略,生成对所述目标业务进行处理的处理策略。
通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
图4示意性地示出了根据本申请实施方式的一种云计算网络中的业务处理系统的流程示意图。如图4所示,该系统包括终端设备,边缘服务器以及云服务器,其中:
终端设备生成用于对目标业务进行处理的业务处理请求后发送给边缘服务器;
边缘服务器根据处理策略,对目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含第一业务处理结果的业务处理请求发送给云服务器;
云服务器对目标业务的第二部分进行业务处理,得到第二业务处理结果,并将第一业务处理结果以及第二业务处理结果返回给终端设备。
通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
可选的,在本申请一种可能的实施方式中,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算在所述边缘服务器下对所述目标业务进行业务处理所耗费的第一计算时延成本;以及,
计算在所述云服务器下对所述目标业务进行业务处理所耗费的第二计算时延成本;
将所述第一计算时延成本以及所述第二计算时延成本存储到所述决策业务参数中。
可选的,在本申请一种可能的实施方式中,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算所述终端设备将所述业务处理请求传输至所述边缘服务器所耗费的第一传输时延成本;以及,
计算所述边缘服务器将所述业务处理请求传输至所述云服务器的第二传输时延成本,其中所述传输包括有线传输以及无线传输的其中至少一种;
将所述第一传输时延成本以及所述第二传输时延成本存储到所述决策业务参数中。
进一步的,本申请还可以在利用处理策略对目标业务处理完毕之后,进一步的计算处理目标业务所耗费的时延信息,以使后续将时延信息添加到决策业务参数中,从而提高后续制定处理策略的精准度。
其中,业务的总体时延由传输时延和计算时延两部分组成,其中传输时延包括在无线链路上传输时延和在有限链路上的传输时延。由于任一终端设备的频谱资源是受限的,因此可接入的信道数量是固定的,因此对于业务的无线传输部分,可以视为一个近似于排队系统,业务的到达是符合Poisson分布的,但是由于不同业务产生位置对应的信道频谱效率不同,因此负指数分布的业务数据量的服务时间并不严格符合负指数分布。
而有线链路时延则主要由发送时延和排队时延两部分组成,归功于处理器的处理能力和光纤的传输速度,处理时延和传播时延均可以被忽略。对于RRU至MEC的有线链路,其传输时延由目前在队列中的所有数据包决定。即,
同样的,计算时延可以分为MEC服务器计算时延和云服务器计算时延两种。其中,对于边缘服务器服务器的计算时延的规则为:
对于不同的业务处理模型,分别存在独立的排队队列,如业务处理模型I(a)与业务处理模型I(b)拥有独立的业务队列,一业务可以在结束业务处理模型I(a)处理后,如决定继续在MEC处理,该业务将进入业务处理模型I(b)队列;MEC服务器的处理流程是将计算资源按照队列中首个任务的计算量分配给当前任务队列非空的所有业务处理模型;从而可以保证任一业务处理模型同时结束该当前的计算任务,实现时间节点对齐。
而对于云服务器的计算时延为:虽然云服务器的资源对于MEC服务器而言资源可以认为是不受限的。但由于云服务器资源的开销成本以及业务处理模型设计时考虑的有限性可调用资源,每个业务处理模型在云端不可能无限制的调用计算资源为自身服务。因此,本文假设每个业务处理模型在云端可调用的计算资源量是相同的,该计算资源量为qcld,因此云端计算时延为:
云端计算资源的无线性体现业务在云端的处理是无需排队的,因为云端可以同时并发多个子资源进程。
业务的总体时延由无线传输时延,有线传输时延,云端计算时延和MEC计算时延四部分构成,其中每部分都包括处理时延和等待时延。故,业务的总体时延D为:
D=Dwl+Dwd+Dj+Dcld。
另外,本申请还可以计算每个业务处理模型在处理相应业务后的收益值,以使后续通过历史数据进行预测的reward-predict模型,根据环境状态与Agent输出动作对reward进行预策,以预测奖励代替延迟奖励,降低模型的学习难度,增加部署效率。为增加reward-predict的预测精度,本发明采用了并行预测方式,通过并行的神经网络对业务的时延与运算代价分别进行预测并将预测结果输入到最终的结果输出层,得到最终预测结果。
其中,每个业务的收益取决于该业务最终的完成时延和要求时延间的相对关系,对于时延敏感业务,其计算时延为0-1二元分布的,在要求时延内完成为1,否则为0。而对于非时延敏感业务,其收益取决于:
其中,完成该业务的成本为:
C=Cj+Ccld
该业务的总收益为:
R=r-C。
可选的,在本申请的另外一种实施方式中,如图5所示,本申请还提供一种云计算网络中的业务处理装置。其中包括:
获取模块,被配置为获取终端设备生成的用于对目标业务进行处理的业务处理请求;
制定模块,被配置为基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;
处理模块,被配置为根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;
发送模块,被配置为将包含所述第一业务处理结果的业务处理请求发送给所述云服务器。
本申请中,终端设备生成用于对目标业务进行处理的业务处理请求后发送给边缘服务器;边缘服务器根据处理策略,对目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含第一业务处理结果的业务处理请求发送给云服务器;云服务器对目标业务的第二部分进行业务处理,得到第二业务处理结果,并将述第一业务处理结果以及第二业务处理结果返回给终端设备。通过应用本申请的技术方案,可以由边缘计算节点在接收到业务处理请求后,根据历史的业务处理信息,选择性的对该业务处理请求进行部分的业务处理,并将后续未处理完的业务再移交给云服务器处理,进而在保证业务处理效率的同时,实现了为各个计算节点合理分配计算资源的目的。
在本申请的另外一种实施方式中,获取模块201,还包括:
获取模块201,被配置为根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
获取模块201,被配置为根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
获取模块201,被配置为根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
在本申请的另外一种实施方式中,所述历史业务参数包括以下至少一种:
当前待处理的业务数量,待处理的业务数据大小,历史计算时延以及历史传输时延。
在本申请的另外一种实施方式中,获取模块201,还包括:
获取模块201,被配置为分别比较同一业务处理模型在所述边缘服务器下所需的第一运算成本以及在所述云服务器下处理所述目标业务所需的第二运算成本的大小关系;
获取模块201,被配置为分别为每个业务处理模型确定其中运算成本最低的处理子策略,并根据每个业务处理模型对应的处理子策略,生成对所述目标业务进行处理的处理策略。
图6是根据一示例性实施例示出的一种电子设备的逻辑结构框图。例如,电子设备300可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器,上述指令可由电子设备处理器执行以完成上述云计算网络中的业务处理方法,该方法包括:获取终端设备生成的用于对目标业务进行处理的业务处理请求;基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;将包含所述第一业务处理结果的业务处理请求发送给所述云服务器。可选地,上述指令还可以由电子设备的处理器执行以完成上述示例性实施例中所涉及的其他步骤。例如,非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种应用程序/计算机程序产品,包括一条或多条指令,该一条或多条指令可以由电子设备的处理器执行,以完成上述云计算网络中的业务处理方法,该方法包括:获取终端设备生成的用于对目标业务进行处理的业务处理请求;基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;将包含所述第一业务处理结果的业务处理请求发送给所述云服务器。可选地,上述指令还可以由电子设备的处理器执行以完成上述示例性实施例中所涉及的其他步骤。
图6为计算机设备30的示例图。本领域技术人员可以理解,示意图6仅仅是计算机设备30的示例,并不构成对计算机设备30的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如计算机设备30还可以包括输入输出设备、网络接入设备、总线等。
所称处理器302可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器302也可以是任何常规的处理器等,处理器302是计算机设备30的控制中心,利用各种接口和线路连接整个计算机设备30的各个部分。
存储器301可用于存储计算机可读指令303,处理器302通过运行或执行存储在存储器301内的计算机可读指令或模块,以及调用存储在存储器301内的数据,实现计算机设备30的各种功能。存储器301可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备30的使用所创建的数据等。此外,存储器301可以包括硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)或其他非易失性/易失性存储器件。
计算机设备30集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机可读指令来指令相关的硬件来完成,的计算机可读指令可存储于一计算机可读存储介质中,该计算机可读指令在被处理器执行时,可实现上述各个方法实施例的步骤。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (9)
1.一种云计算网络中的业务处理方法,其特征在于,应用于边缘服务器,包括:
获取终端设备生成的用于对目标业务进行处理的业务处理请求;
基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;
根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;
将包含所述第一业务处理结果的业务处理请求发送给所述云服务器;
其中,所述基于决策业务参数以及业务处理模型,制定对所述目标业务进行处理的处理策略,包括:
根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
2.如权利要求1所述的方法,其特征在于,所述历史业务参数包括以下至少一种:
当前待处理的业务数量,待处理的业务数据大小,历史计算时延以及历史传输时延。
3.如权利要求1所述的方法,其特征在于,所述根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略,包括:
分别比较同一业务处理模型在所述边缘服务器下所需的第一运算成本以及在所述云服务器下处理所述目标业务所需的第二运算成本的大小关系;
分别为每个业务处理模型确定其中运算成本最低的处理子策略,并根据每个业务处理模型对应的处理子策略,生成对所述目标业务进行处理的处理策略。
4.一种云计算网络中的业务处理系统,其特征在于,包括终端设备,边缘服务器以及云服务器,其中:
所述终端设备生成用于对目标业务进行处理的业务处理请求后发送给所述边缘服务器;
所述边缘服务器根据处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果后,将包含所述第一业务处理结果的业务处理请求发送给所述云服务器;
所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果,并将所述第一业务处理结果以及所述第二业务处理结果返回给所述终端设备;
其中,所述处理策略由所述边缘服务器基于决策业务参数以及业务处理模型而制定,其中包括:
根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
5.如权利要求4所述的系统,其特征在于,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算在所述边缘服务器下对所述目标业务进行业务处理所耗费的第一计算时延成本;以及,
计算在所述云服务器下对所述目标业务进行业务处理所耗费的第二计算时延成本;
将所述第一计算时延成本以及所述第二计算时延成本存储到所述决策业务参数中。
6.如权利要求4或5所述的系统,其特征在于,在所述云服务器对所述目标业务的第二部分进行业务处理,得到第二业务处理结果之后,还包括:
计算所述终端设备将所述业务处理请求传输至所述边缘服务器所耗费的第一传输时延成本;以及,
计算所述边缘服务器将所述业务处理请求传输至所述云服务器的第二传输时延成本,其中所述传输包括有线传输以及无线传输的其中至少一种;
将所述第一传输时延成本以及所述第二传输时延成本存储到所述决策业务参数中。
7.一种云计算网络中的业务处理电子装置,其特征在于,应用于边缘服务器,包括:
获取模块,被配置为获取终端设备生成的用于对目标业务进行处理的业务处理请求;
制定模块,被配置为基于决策业务参数以及至少一个业务处理模型,制定对所述目标业务进行处理的处理策略,所述处理策略包括由所述边缘服务器对所述目标业务的第一部分进行处理,以及由云服务器对所述目标业务的第二部分进行处理;
处理模块,被配置为根据所述处理策略,对所述目标业务的第一部分进行业务处理,得到第一业务处理结果;
发送模块,被配置为将包含所述第一业务处理结果的业务处理请求发送给所述云服务器;
其中,所述基于决策业务参数以及业务处理模型,制定对所述目标业务进行处理的处理策略,包括:
根据历史业务参数,计算在所述边缘服务器下,各个业务处理模型处理所述目标业务所需的第一运算成本;以及,
根据历史业务参数,计算在所述云服务器下,各个业务处理模型处理所述目标业务所需的第二运算成本;
根据所述第一运算成本以及所述第二运算成本,制定对所述目标业务进行处理的处理策略。
8.一种电子设备,其特征在于,包括:
存储器,用于存储可执行指令;以及,
处理器,用于与所述存储器显示以执行所述可执行指令从而完成权利要求1-3中任一所述云计算网络中的业务处理方法的操作。
9.一种计算机可读存储介质,用于存储计算机可读取的指令,其特征在于,所述指令被处理器执行时实现权利要求1-3中任一所述云计算网络中的业务处理方法的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111370223.3A CN114301907B (zh) | 2021-11-18 | 2021-11-18 | 云计算网络中的业务处理方法、系统、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111370223.3A CN114301907B (zh) | 2021-11-18 | 2021-11-18 | 云计算网络中的业务处理方法、系统、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114301907A CN114301907A (zh) | 2022-04-08 |
CN114301907B true CN114301907B (zh) | 2023-03-14 |
Family
ID=80966160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111370223.3A Active CN114301907B (zh) | 2021-11-18 | 2021-11-18 | 云计算网络中的业务处理方法、系统、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114301907B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116700311B (zh) * | 2023-06-26 | 2024-01-26 | 中国人民解放军96901部队 | 一种基于软件定义的组合化高速飞行器控制系统 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109240821A (zh) * | 2018-07-20 | 2019-01-18 | 北京航空航天大学 | 一种基于边缘计算的分布式跨域协同计算与服务系统及方法 |
CN111427679A (zh) * | 2020-03-25 | 2020-07-17 | 中国科学院自动化研究所 | 面向边缘计算的计算任务调度方法、系统、装置 |
WO2020216135A1 (zh) * | 2019-04-25 | 2020-10-29 | 南京邮电大学 | 基于边-端协同的多用户多mec任务卸载资源调度方法 |
CN111970323A (zh) * | 2020-07-10 | 2020-11-20 | 北京大学 | 边缘计算网络中云边多层协作的时延优化方法及装置 |
CN112996056A (zh) * | 2021-03-02 | 2021-06-18 | 国网江苏省电力有限公司信息通信分公司 | 一种云边协同下时延最优化的计算任务卸载方法及装置 |
CN113015253A (zh) * | 2021-02-25 | 2021-06-22 | 深圳大学 | 一种多业务共存的网络切片的资源分配方法及系统 |
CN113504949A (zh) * | 2021-06-22 | 2021-10-15 | 山东师范大学 | Mar客户端在边缘计算中的任务卸载与参数优化方法及系统 |
CN113626104A (zh) * | 2021-08-18 | 2021-11-09 | 北京工业大学 | 边云架构下基于深度强化学习的多目标优化卸载策略 |
CN113660303A (zh) * | 2021-07-02 | 2021-11-16 | 山东师范大学 | 一种端边网云协同的任务卸载方法及系统 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102571849B (zh) * | 2010-12-24 | 2016-03-30 | 中兴通讯股份有限公司 | 云计算系统及方法 |
CN105516884B (zh) * | 2014-09-23 | 2019-03-01 | 中兴通讯股份有限公司 | 一种mtc业务处理方法及装置 |
US10659526B2 (en) * | 2018-01-03 | 2020-05-19 | Verizon Patent And Licensing Inc. | Edge compute systems and methods |
WO2020023115A1 (en) * | 2018-07-27 | 2020-01-30 | Futurewei Technologies, Inc. | Task offloading and routing in mobile edge cloud networks |
CN109560968A (zh) * | 2018-12-20 | 2019-04-02 | 中国电子科技集团公司第三十研究所 | 一种动态策略驱动的网络资源智能规划与配置方法 |
CN111585916B (zh) * | 2019-12-26 | 2023-08-01 | 国网辽宁省电力有限公司电力科学研究院 | 基于云边协同的lte电力无线专网任务卸载和资源分配方法 |
CN111641614B (zh) * | 2020-05-20 | 2021-02-26 | 上海星地通讯工程研究所 | 基于区块链和云计算的通信数据处理方法及边缘计算平台 |
CN111787069A (zh) * | 2020-06-09 | 2020-10-16 | 中移雄安信息通信科技有限公司 | 业务接入请求的处理方法、装置、设备及计算机存储介质 |
CN112286677B (zh) * | 2020-08-11 | 2021-07-16 | 安阳师范学院 | 一种面向资源受限边缘云的物联网应用优化部署方法 |
CN112752302A (zh) * | 2021-01-05 | 2021-05-04 | 全球能源互联网研究院有限公司 | 一种基于边缘计算的电力业务时延优化方法及系统 |
-
2021
- 2021-11-18 CN CN202111370223.3A patent/CN114301907B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109240821A (zh) * | 2018-07-20 | 2019-01-18 | 北京航空航天大学 | 一种基于边缘计算的分布式跨域协同计算与服务系统及方法 |
WO2020216135A1 (zh) * | 2019-04-25 | 2020-10-29 | 南京邮电大学 | 基于边-端协同的多用户多mec任务卸载资源调度方法 |
CN111427679A (zh) * | 2020-03-25 | 2020-07-17 | 中国科学院自动化研究所 | 面向边缘计算的计算任务调度方法、系统、装置 |
CN111970323A (zh) * | 2020-07-10 | 2020-11-20 | 北京大学 | 边缘计算网络中云边多层协作的时延优化方法及装置 |
CN113015253A (zh) * | 2021-02-25 | 2021-06-22 | 深圳大学 | 一种多业务共存的网络切片的资源分配方法及系统 |
CN112996056A (zh) * | 2021-03-02 | 2021-06-18 | 国网江苏省电力有限公司信息通信分公司 | 一种云边协同下时延最优化的计算任务卸载方法及装置 |
CN113504949A (zh) * | 2021-06-22 | 2021-10-15 | 山东师范大学 | Mar客户端在边缘计算中的任务卸载与参数优化方法及系统 |
CN113660303A (zh) * | 2021-07-02 | 2021-11-16 | 山东师范大学 | 一种端边网云协同的任务卸载方法及系统 |
CN113626104A (zh) * | 2021-08-18 | 2021-11-09 | 北京工业大学 | 边云架构下基于深度强化学习的多目标优化卸载策略 |
Non-Patent Citations (2)
Title |
---|
Cognitive Data Offloading in Mobile Edge Computing for Internet of Things;Pavlos Athanasios Apostolopoulos;Eirini Eleni Tsiropoulou;《IEEE Access》;20200318;第8卷;全文 * |
Jinze Wu ; Zhiying Cao ; Yingjun Zhang ; Xiuguo Zhang.Edge-Cloud Collaborative Computation Offloading Model Based on Improved Partical Swarm Optimization in MEC.《2019 IEEE 25th International Conference on Parallel and Distributed Systems (ICPADS)》.2020, * |
Also Published As
Publication number | Publication date |
---|---|
CN114301907A (zh) | 2022-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111835827B (zh) | 物联网边缘计算任务卸载方法及系统 | |
Liang et al. | A novel adaptive resource allocation model based on SMDP and reinforcement learning algorithm in vehicular cloud system | |
CN107766148A (zh) | 一种异构集群及任务处理方法和装置 | |
US11334758B2 (en) | Method and apparatus of data processing using multiple types of non-linear combination processing | |
CN108111335A (zh) | 一种调度和链接虚拟网络功能的方法及系统 | |
CN113778691B (zh) | 一种任务迁移决策的方法、装置及系统 | |
CN114301907B (zh) | 云计算网络中的业务处理方法、系统、装置及电子设备 | |
CN110020022A (zh) | 数据处理方法、装置、设备及可读存储介质 | |
CN110992123B (zh) | 一种订单派发方法及装置 | |
Zhang et al. | Service pricing and selection for IoT applications offloading in the multi-mobile edge computing systems | |
CN117193992B (zh) | 模型训练方法、任务调度方法、装置以及计算机存储介质 | |
Tang et al. | Pricing model for dynamic resource overbooking in edge computing | |
CN113778675A (zh) | 一种基于面向区块链网络的计算任务分配系统及方法 | |
WO2019062404A1 (zh) | 应用程序的处理方法、装置、存储介质及电子设备 | |
CN109388482A (zh) | 任务的调度方法、装置及存储介质 | |
WO2023071616A1 (zh) | 业务处理的方法、装置、电子设备及介质 | |
CN109101329A (zh) | 通过多个移动终端采集数据的细粒度任务分配方法及系统 | |
CN115562861A (zh) | 针对数据倾斜的数据处理的方法和装置 | |
CN114138466A (zh) | 面向智慧公路的任务协同处理方法、装置及存储介质 | |
CN114700957A (zh) | 模型低算力需求的机器人控制方法及装置 | |
Han et al. | Opportunistic coded distributed computing: An evolutionary game approach | |
CN112994911B (zh) | 计算卸载方法、装置及计算机可读存储介质 | |
CN112506644A (zh) | 基于云边端混合计算模式系统的任务调度方法和系统 | |
CN117858031B (zh) | 一种低延时无线对讲和tws无缝切换系统、方法及介质 | |
CN111163237A (zh) | 呼叫业务流程控制方法和相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |