CN114296924A - 一种边缘算力共享方法、服务器及系统 - Google Patents
一种边缘算力共享方法、服务器及系统 Download PDFInfo
- Publication number
- CN114296924A CN114296924A CN202111637039.0A CN202111637039A CN114296924A CN 114296924 A CN114296924 A CN 114296924A CN 202111637039 A CN202111637039 A CN 202111637039A CN 114296924 A CN114296924 A CN 114296924A
- Authority
- CN
- China
- Prior art keywords
- computing
- server
- task
- service
- computing power
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 105
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000004891 communication Methods 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 21
- 238000012546 transfer Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 description 73
- 230000015654 memory Effects 0.000 description 12
- 238000012545 processing Methods 0.000 description 12
- 238000009826 distribution Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000007689 inspection Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种边缘算力共享方法、服务器及系统,涉及互联网技术领域。该方法包括:第一服务器接收第一终端发送的第一计算任务;第一服务器将第一计算任务拆分成至少两个更加细粒度的第二计算任务;当第一服务器的边缘算力不满足第二计算任务时,第一服务器从本地存储的算力服务信息列表中查询边缘算力满足第二计算任务的算力服务信息;第一服务器根据算力服务的信息向第二服务器发送第二计算任务;第一服务器接收到第二服务器返回的第二计算任务对应的计算结果。该方法可以实现边缘算力共享,提高边缘算力资源利用率。
Description
技术领域
本发明涉及互联网技术领域,尤其涉及一种边缘算力共享方法、服务器及系统。
背景技术
随着互联网技术的发展,终端上的应用的功能越来越强大,在一些场景中,可以将应用中部分复杂的计算功能交由功能强大的云计算服务器进行处理。然而,针对一些算力密集型且具有低时延特征的应用,例如增强现实(augmented reality,AR)、自动驾驶、云游戏及工业智能制造等,传统的云计算服务器已无法同时满足高计算资源和低时延的需求。为此,针对这些算力密集型且具有低时延特征的应用,可以将应用中的高计算功能分流到靠近用户位置(即终端侧)的边缘计算节点进行处理,这样减少了将应用数据上传至云计算服务器的传输时延,有利于降低应用数据的整体处理时延,提升应用的用户体验。
目前,主要由运营商或互联网厂商独立构建边缘计算节点。一方面,运营商或互联网厂商需要投入大量资金用于购买专用的服务器,并对服务器及机房进行集中管理和维护等,成本高昂。另一方面,运营商或互联网厂商独立构建边缘计算节点,无法实现资源共享,存在计算资源的浪费。
发明内容
本申请提供了一种边缘算力共享方法、服务器及系统,可以实现边缘算力共享,提高边缘算力资源利用率。
为达到上述目的,本申请采用如下技术方案:
第一方面,本申请提供了一种边缘算力共享的方法。第一服务器接收第一终端发送的第一请求,第一请求用于请求执行第一计算任务;当第一服务器的边缘算力不满足第二计算任务时,第一服务器从本地存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息;其中,第二计算任务为第一计算任务中的部分或全部任务;第一服务器根据第一算力服务的信息向第二服务器发送第二计算任务;第一服务器接收到第二服务器返回的第二计算任务对应的计算结果。
结合上述第一方面,在一种可能的实现方式中,在当第一服务器的边缘算力不满足第二计算任务时,第一服务器从本地存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息之前,第一服务器将第一计算任务拆分为至少两个第二计算任务,其中,第二计算任务为函数粒度的计算任务。
结合上述第一方面,在一种可能的实现方式中,第一服务器接收第二服务器发送的第一账单,第一账单为第二服务器执行第二计算任务的费用。
结合上述第一方面,在一种可能的实现方式中,第一算力服务的信息还包括功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
结合上述第一方面,在一种可能的实现方式中,第一服务器从本地存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息,具体包括第一服务器从本地存储的算力服务信息列表中查询算力服务的功能描述、算力资源所在位置、使用价格、算力资源类型中一项或多项满足第二计算任务的算力服务为第一算力服务。
第二方面,本申请提供了一种第一服务器,包括查询模块,存储模块和通信模块;通信模块,用于接收第一终端发送的第一请求,第一请求用于请求执行第一计算任务;查询模块,用于当第一服务器的边缘算力不满足第二计算任务时,从存储模块中存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息;其中,第二计算任务为第一计算任务中的部分或全部任务;通信模块,用于根据第一算力服务的信息向第二服务器发送第二计算任务;通信模块,还用于接收到第二服务器返回的第二计算任务对应的计算结果。
结合上述第二方面,在一种可能的实现方式中,还包括拆分模块。拆分模块,用于将第一计算任务拆分为至少两个第二计算任务,其中,第二计算任务为函数粒度的计算任务。
结合上述第二方面,在一种可能的实现方式中,通信模块,还用于接收第二服务器发送的第一账单,第一账单为第二服务器执行第二计算任务的费用。
结合上述第二方面,在一种可能的实现方式中,第一算力服务的信息还包括:功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
结合上述第二方面,在一种可能的实现方式中,查询模块还用于从存储模块中存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息,具体包括查询模块还用于从存储模块中存储的算力服务信息列表中查询算力服务的功能描述、算力资源所在位置、使用价格、算力资源类型中一项或多项满足第二计算任务的算力服务为第一算力服务。
综上可见,在本申请实施例提供的边缘算力共享系统中,第一服务器维护有各个边缘算力提供方提供的算力服务的信息。当第一服务器的边缘算力不能满足第二计算任务时,第一服务器可以从本地存储的算力服务信息列表中查询边缘算力能够满足第二计算任务的第二服务器,由第二服务器为第一终端提供边缘算力。如此,实现边缘算力共享,提高边缘算力资源利用率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种边缘算力共享系统的结构示意图;
图2为本发明实施例提供的一种边缘算力共享系统的流程示意图;
图3为本发明实施例提供的另一种边缘算力共享系统的流程示意图;
图4为本发明实施例提供的又一种边缘算力共享系统的流程示意图;
图5为本发明实施例提供的一种第一服务器200的结构示意图;
图6为本发明实施例提供的又一种第一服务器200的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”、“第三”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了便于理解本申请的技术方案,先对本申请涉及的一些技术术语进行说明。
云计算:是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后通过多个服务器组成的系统对小程序进行处理和分析,得到结果并返回给用户。而随着例如增强现实、自动驾驶、云游戏及工业智能制造等移动应用的出现,这些应用一方面需要低传输时延,以提供更好的用户体验,另一方面对计算资源需求高。传统的云计算无法满足用户的需求。因此,对于计算和存储能力较弱的终端,一般会把需要高计算资源需求的功能分流到靠近用户的边缘计算节点。
边缘计算:指的是在靠近用户(终端)的位置处理和分析数据,采用网络、计算、存储、应用核心能力为一体的开放平台,就近提供最近端服务。其中的“边缘”是一个相对的概念,其可以包括用户设备、运营商基站或者地区云。
无服务器计算:是指在构建和运行应用时无需管理服务器等基础设施。它描述了一个更细粒度的部署模型,在该模型中,应用被拆解为一个或多个细粒度的函数被上传到一个平台,然后根据当前所需执行、扩展和计费。根据无服务器计算所用到的技术,又分为后端即服务(backend-as-a-service,BaaS)和功能即服务(functions-as-a-service,FaaS)。后端即服务包含了存储、数据库、队列、缓存等各种形态的无服务器计算服务。功能即服务是无服务器计算的核心。
功能即服务:是一种面向事件的高度可缩放的计算机代码执行模型,该模型通常在云计算基础设施上预设单目的的应用编程接口(application programmi nginterface,API)端点以接收和运行针对少量时间的代码执行请求。在这种模型中,开发人员可以根据需要在云服务供应商的服务器上运行代码,而无需提供和管理服务器。功能即服务负责代码的执行并根据代码消耗的计算进行收费。
区块链技术:是一种由多方共同维护,以块链结构存储数据,使用密码学保证传输和访问安全,能够实现数据一致存储、无法篡改、无法抵赖的技术体系。区块链中的账本可以在多个节点进行存储,并使用P2P(peer to peer,P2P)技术进行同步。区块链根据允许接入用户的范围分为公有区块链、联盟区块链和私有区块链。公有区块链允许任何人接入使用账本和记账,支持公有交易。为了完成公有交易,需要在公有区块链内实施共识协议,而共识过程由共识节点控制。共识节点除了需要完成一个普通节点的工作之外,还需要达成共识以实现账本的更新。联盟链仅允许特定的企业和个人实体接入和使用账本。每个企业或个人都运行着一个或多个节点,其中的数据只允许系统内不同的企业或个人进行读写和发送交易,并且共同来记录交易数据。企业或个人产生的数据除向其他企业或个人授权密匙外,只有自己能够看到。私有链仅由企业内部节点维护和使用区块链,集中控制读取和写入权限。
如图1所示,为本发明实施例提供了一种边缘算力共享系统的结构示意图。该共享系统可以包括:一个或多个第一终端100,一个或多个第一服务器200、以及一个或多个第二服务器300。可选的,该共享系统还可以包括第三服务器400。
其中,上述第一终端100,可以安装应用程序,为用户提供各种应用功能。例如,第一终端100可以是虚拟现实(virtual reality,VR)终端、AR终端、工业控制中的无线终端、无人驾驶中的无线终端、远程医疗中的无线终端、智能电网中的无线终端、智慧城市(smartcity)中的无线终端、智能家居中的物联网(internet of things,IoT)设备、或车载终端等。本申请实施例对第一终端100的具体形态不做限定。
在一些实施例中,第一终端100在运行其上的应用程序时,可以向第一服务器200请求全部或部分的算力服务。
第一服务器200,为边缘计算服务器,用于实现对第一终端请求的算力服务进行分流。第一服务器200上存储有算力服务信息列表,用于维护在第一服务器200注册的边缘算力提供方的信息。其中边缘算力提供方的信息包括各个边缘算力提供方能够提供的各个算力服务的信息,例如各个算力服务的功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。在一个具体的实现方式中,第一服务器200可以采用区块链账本(例如轻量级的账本)存储上述的算力服务信息列表。
在本申请的一些实施例中,当第一服务器200接收到第一终端100发送的算力服务请求后,将算力服务请求对应的计算任务拆解为粒度更小的计算任务(例如函数粒度的计算任务)。当自身的边缘算力不满足小粒度的计算任务时,第一服务器200可以从本地存储的算力服务信息列表中查询相匹配的算力服务。在一个示例中,第一服务器200可以基于算力服务的功能描述以及第一服务器200的位置信息查询满足条件的算力服务。在另一个示例中,第一服务器200还可以基于算力资源类型、使用价格、路径时延以及带宽等确定相匹配的算力服务。第一服务器200在确定相匹配的算力服务后,通过访问入口路径向第二服务器300发送计算任务,由第二服务器300执行相应的算力服务。
需要说明的是,第一服务器200可以是一台独立的物理服务器、多台独立的物理服务器、提供边缘计算的云服务器、边缘计算平台和虚拟化中心中的至少一种。
第二服务器300,在第一服务器200上注册的一个边缘算力提供方。在本申请中,第二服务器300具有的算力资源类型可以为中央处理器(central processing unit,CPU)、图形处理器(graphics processing unit,GPU)、神经网络处理器(neural-networkprocessing unit,NPU)、现场可编程门阵列(Field Programmable Gate Array,FPGA)中的一项或多项。换言之,本申请对第二服务器300配置的算力资源的类型不做限定。再换言之,本申请实施例提供的算力共享系统可以实现异构的计算资源的共享。在一些示例中,第二服务器300可以归属于独立个人,也可以归属于电信运营商,还可以归属于第三方企业。其中第三方企业可以为大型的互联网厂商,也可以中小型的企业。换言之,本申请实施例提供的算力共享系统可以实现计算资源的多源。
第二服务器300在接收到第一服务器200发送的计算任务后,选择相应的算力服务对应的函数及版本,基于传入的数据执行函数运算生成第二计算任务对应的计算结果,并将计算结果返回给第一服务器200。
在本申请的又一些实施例中,上述边缘算力共享系统还包括第三服务器400,例如为云计算服务器,可以为第一服务器200提供云计算。
在一些实施例中,当第一服务器200确定边缘计算资源(包括第一服务器200,以及在第一服务器200上注册的其他边缘算力提供方)均无法满足第一终端所请求的计算任务时,第一服务器200可以请求第三服务器400执行相关算力服务。
如图2所示,为本发明实施例提供的一种边缘算力共享系统的流程示意图,该流程包括:
S201、第一终端向第一服务器发送第一计算任务。
在一些场景中,第一终端为弱算力(即计算能力较弱)的终端,可能无法完成算力密集型的应用中的计算任务。比如,第一终端为弱算力的可穿戴设备、IOT设备、车载终端等时,可能无法完成运算量较大的计算,如神经网络模型的相关计算等。
在另一些场景中,当第一终端配置的计算资源缺少某一类型的计算资源时,可能无法高效地完成某个类型的计算任务。比如,第一终端未配置有图形处理器或其他专用芯片时,可能无法高效地完成图像识别类型的计算任务。又比如,第一终端未配置有NPU时,可能无法高效地完成语音识别、自然语言处理等类型的计算任务。
在又一些场景中,第一终端可能配置有高算力的计算资源,但因为某一时间段的计算任务较重,造成该时间段的计算资源紧缺等。
在一个具体的实现方式中,第一终端在运行某个应用时,因自身配置的计算资源有限无法完成该应用的相关计算任务时,或者无法高效完成该应用的相关计算任务时,可以向第一服务器发送第一计算任务。其中,第一计算任务用于请求协同完成该应用中的某个计算任务。在一个示例中,第一计算任务包括完成某个计算任务的输入数据,例如待处理的图像、视频、语音等。可选的,第一计算任务还可以包括计算任务相关的参数,例如计算的精度等。
S202、第一服务器将第一计算任务拆分为至少两个第二计算任务。
其中,第一服务器例如为边缘计算服务器,用于实现对第一终端请求的算力服务进行分流。在一个示例中,第一服务器的位置和第一终端的位置位于第一距离内,即第一服务器的位置靠近第一终端。
在一个具体的实现方式中,第一服务器可以将第一计算任务对应的计算任务(通常计算量较大,为粗粒度的计算任务)拆分为更加细粒度函数(例如FaaS函数)功能能够实现的计算任务。其中,每一个细粒度函数能够实现的计算任务可以认为对应一个第二计算任务。需要说明的是,由于FaaS函数具有良好的可伸缩性和易于部署,非常适合边缘计算中的计算分流,有利于实现边缘算力的共享。
可以理解的,粗粒度的计算任务拆分为细粒度的函数能够实现的计算任务后,针对细粒度的函数匹配边缘算力提供方时,可以降低边缘算力提供方所配置的算力资源的要求,有利于提升匹配的成功率。
另外,从边缘算力提供方来看,当提供的算力服务以细粒度的函数来匹配时,降低了边缘算力提供方配置的算力资源的要求,可使得更多的异构的算力服务器也能够实现算力服务的共享。
S203、当第一服务器的边缘算力不满足第二计算任务时,第一服务器从本地存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息。
在一些实施例中,第一服务器具备一定的边缘计算能力。那么第一服务器可以针对拆分后的第二计算任务,先确定第一服务器能够本地完成哪些第二计算任务,并执行相关的业务计算,而后向第一终端返回计算结果。针对第一服务器本地无法完成的第二计算任务,第一服务器可以从本地存储的算力服务信息列表中,查询能够满足这些第二计算任务的算力服务。
在另一些实施例中,第一服务器也可以不具备边缘计算能力。那么,第一服务器从本地存储的算力服务信息列表中查询全部的第二计算任务所需的算力服务。
如前文所述,第一服务器存储有算力服务信息列表,该算力服务信息列表中记录有在第一服务器处注册的各个边缘算力提供方的算力服务信息。其中,算力服务信息可以包括各个算力服务的功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。其中,算力服务能够提供的功能可以为视频转码、图片压缩、人工智能(artificial intelligence,AI)图像识别、人工智能语音识别、物联网动作触发等中的一项或多项。其中,参数传递,算力服务所需要输入的参数,例如待处理的数据、计算精度等。访问入口路径用于接入提供相应算力服务的物理服务器。执行超时时间是指一次算力服务所允许消耗的最大时长。使用价格可以基于各个算力服务(例如FaaS函数)的计费规则,即根据代码消耗的计算进行收费。算力资源的类型包括但不限于中央处理器、图形处理器、现场可编程门阵列等。算力资源所在位置是指边缘算力提供方所在的物理位置,可以包括位置所在的经纬度、海拔高度等。
在具体实现中,第一服务器可以根据算力服务信息列表中各个算力服务的函数功能、算力资源所在位置、使用价格、算力资源类型中的一项或多项,确定满足第二计算任务的算力服务。
在一些示例中,第一服务器可以根据第二计算任务中的关键字,查询能够提供与关键字匹配的函数功能的算力服务,作为候选的算力服务,或者直接确定由该算力服务对应的第二服务器提供边缘算力。
可选的,在确定了候选的算力服务后,第一服务器也可以优先选择算力资源所在位置距离第一服务器的位置较近于预设范围内的算力服务。
可选的,第一服务器还可以结合边缘算力提供方的使用价格、算力资源类型等其他因素,进一步筛选算力服务。
可选的,第一服务器还可以测量第一服务器与各个候选的边缘算力提供方之间的时延、带宽等参数。或者,第一服务器可以在运营商网络管理平台查询第一服务器与各个候选的边缘算力提供方之间的时延、带宽等参数。而后,第一服务器选择低传输时延和/或高带宽的算力服务对应的第二服务器作为最终确定的第二服务器。
S204、第一服务器向第二服务器发送第二计算任务。
示例性的,第二计算任务包括第一服务器向第二服务器传递的满足第二计算任务的算力服务所需的参数等。例如,第一服务器可以通过调用满足第二计算任务的算力服务对应的访问接口,向第二服务器传递该算力服务所需的参数。传递的参数例如包括第一服务器的身份信息、证书管理机构(certification authority,CA)证书、算力服务对应的函数名称及版本、输入数据、请求序列号等。
S205、第二服务器向第一服务器发送第二计算任务对应的计算结果。
在一些实施例中,第二服务器在接收第二计算任务后,选择相应的算力服务对应的函数及版本,基于传入的数据执行函数运算并生成第二计算任务对应的计算结果。其中,第二计算任务对应的计算结果可以包括特定的数据计算结果、逻辑判断结果、文件等。
S206、第一服务器向第一终端发送第二计算任务对应的计算结果。
在一些实施例中,第一服务器在接收到第一计算任务对应的全部的第二计算任务对应的计算结果后,会将多个计算结果进行整合,发送至第一终端。
S207、第二服务器生成第一账单,并发送给第一服务器。
本申请中,第二服务器可以基于每一次的第二计算任务进行计费。例如,第二计算任务为FaaS函数的计算任务时,本申请能够以更细粒度实现对算力服务进行量化和计费,有利于实现异构边缘算力的共享。
在另一些实施例中,第一服务器在接收到第二服务器发送的第一账单后,可以按次进行结算,还可以对一段时间(如一个星期、一个月、一年)内进行的第二计算任务生成的第一账单一起进行结算。其中,结算方式包括主动缴费和自动缴费。
综上可见,在本申请实施例提供的边缘算力共享系统中,第一服务器维护有各个边缘算力提供方提供的算力服务的信息。第一服务器在接收到第一终端发送的第一计算任务后,会将第一计算任务拆分为至少两个第二计算任务。当第一服务器的边缘算力不能满足第一终端的第二计算任务时,第一服务器可以从本地存储的算力服务信息列表中查询边缘算力能够满足第一终端的第二计算任务的算力服务,通过访问入口路径确定的第二服务器为第一终端提供边缘算力。在本申请的一些实施例中,第一服务器可以对第一终端请求的第一计算任务进行拆分,拆分为细粒度的函数所能实现的算力服务,以细粒度的函数为单位,为第一终端匹配相应的第二服务器。
可以理解的,粗粒度的计算任务拆分为细粒度的函数能够实现的计算任务后,针对细粒度的函数匹配边缘算力提供方时,可以降低边缘算力提供方所配置的算力资源的要求,有利于提升匹配的成功率。
另外,从边缘算力提供方来看,当提供的算力服务以细粒度的函数来匹配时,降低了边缘算力提供方配置的算力资源的要求,可使得更多的异构的算力服务器也能够实现算力服务的共享。
在一些实施例中,第一服务器可以具体包括分流模块和账本模块。这里以第一服务器包括分流模块和账本模块为例,对本申请进行说明。如图3所示,为本发明实施例提供的另一种边缘算力共享系统的流程示意图,所述方法还包括:
S301、分流模块在账本模块上注册身份信息。
其中,身份信息可以包括但不限于分流模块的基本信息(例如:互联网协议地址、所在地理位置)、CA证书等。
S302、第二服务器在账本模块上注册身份信息。
其中,身份信息可以包括但不限于边缘算力提供方的基本信息(例如:企业名称或个人姓名、经营范围、企业性质)、CA证书等。
需要说明的是,上述步骤S302也可以在步骤S301之前或同时执行,本申请实施例不限定步骤S302和步骤S301的执行顺序。
S303、第二服务器在账本模块上注册算力服务信息。
其中,算力服务信息可以包括各个算力服务的功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。其中,算力服务的功能描述可以包括但不限于视频转码、图片压缩、人工智能图像识别、人工智能语音识别、物联网动作触发。
具体的,第二服务器可以通过集成在区块链上的智能合约将算力服务信息写入账本模块并完成共识。其中,智能合约可以存储数据,该数据可以用于记录信息、事实、关联以及实现合约执行逻辑所需的任何其他信息。第二服务器还可以对注册在账本模块上的算力服务信息(如FaaS函数版本、FaaS函数类型)进行更新。
S304、第一终端向分流模块发送第一计算任务。
在一些实施例中,在第一终端向分流模块发送第一计算任务之前,第一终端与分流模块之间建立通信关系,完成信息交互。例如,第一终端可以将分流模块作为其业务服务方,分流模块为第一终端提供算力服务。包括分流模块可以利用本身的边缘算力为第一终端提供算力服务,还可以在本身的边缘算力无法满足第一终端的计算任务时,从账本模块存储的算力服务信息列表中查询边缘算力匹配的算力服务,由该算力服务对应的第二服务器提供边缘算力。
S305、分流模块将第一计算任务拆分为至少两个第二计算任务。
在一个具体的实现方式中,分流模块可以将第一计算任务对应的计算任务(通常计算量较大,为粗粒度的计算任务)拆分为更加细粒度函数(例如FaaS函数)能够实现的计算任务。其中,每一个细粒度函数能够实现的计算任务可以认为对应一个第二计算任务。
S306、当分流模块的边缘算力不满足第二计算任务时,分流模块从账本模块存储的算力服务信息列表中查询边缘算力满足第二计算任务的算力服务的信息。
在一些实施中,分流模块具备一定的边缘计算能力,能够完成一部分第二计算任务。针对分流模块本地无法完成的第二计算任务,分流模块从账本模块存储的算力服务信息列表中,查询能够满足这些第二计算任务的算力服务。或者分流模块不具备边缘计算能力,从账本模块存储的算力服务信息列表中查询全部的第二计算任务所需的算力服务。
在具体实现中,分流模块可以根据算力服务信息列表中各个算力服务的函数功能、算力资源所在位置、使用价格、算力资源类型中的一项或多项,确定满足第二计算任务的算力服务。
可以理解的,分流模块可以从账本模块存储的算力服务信息列表中获取算力服务信息。其中,算力服务的信息可以包括满足第二计算任务的算力服务的功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
在一些场景中,第二服务器虽然能提供与关键字匹配的函数功能,但在执行超时时间、使用价格、算力资源类型方面不能满足需求分流模块的需求。此时,分流模块可以从候选的算力服务中进行选择,根据算力资源所在位置、价格、算力资源类型、时延、带宽等因素选择确定一个算力服务对应的第二服务器。在确定一个第二服务器后,分流模块会按照边缘算力提供方设置的代码编写规则,将函数代码、分流模块的身份信息和CA证书上传至边缘算力提供方提供的访问接口。边缘算力提供方在接收到函数代码、分流模块的身份信息和CA证书后,会进行函数代码的部署及执行环境的配置,将访问接口发送至分流模块。
在另一些场景中,分流模块可以根据算力服务信息列表中各个算力服务的函数功能、算力资源所在位置、使用价格、算力资源类型中的一项或多项进行查询,但查询不到满足第二计算任务的算力服务。此时,分流模块会向云计算服务器发送第一计算任务。
S307、分流模块对第二服务器的参数进行测试。
可选的,分流模块可以测量与各个候选的边缘算力提供方之间的时延、带宽等参数。或者,分流模块还可以在运营商网络管理平台查询与各个候选的边缘算力提供方之间的时延、带宽等参数。
S308、分流模块与第二服务器之间完成身份验证。
需要说明的是,在第二服务器提供算力服务前,分流模块和第二服务器需要通过双方在账本模块上的身份信息及CA证书,完成双向身份认证。
S309、分流模块向第二服务器发送第二计算任务。
S310、第二服务器向分流模块发送第二计算任务对应的计算结果。
S311、分流模块向第一终端发送第二计算任务对应的计算结果。
其中,步骤S309-步骤S311的过程可参照步骤S204-步骤S206,在此不予赘述。
需要说明的是,为分流模块提供过算力服务的边缘算力提供方,分流模块可以将边缘算力提供方的算力服务信息中的访问入口路径进行缓存,或者写入算力分流程序,之后可以多次持续使用边缘算力提供方提供的算力服务。
S312、第二服务器生成第一账单,并发送给账本模块。
在一个具体的实现方式中,账本模块可以采用共识机制对写入账本的记录进行确认和更新,在多节点共同参与下保证记录数据的不可篡改及可溯源。
综上可见,在本申请实施例提供的边缘算力共享系统中,账本模块维护有各个边缘算力提供方提供的算力服务的信息。分流模块在接收到第一终端发送的第一计算任务后,会将第一计算任务拆分为至少两个第二计算任务。当分流模块的边缘算力不能满足第一终端的第二计算任务时,分流模块可以从账本模块存储的算力服务信息列表中查询边缘算力能够满足第一终端的算力服务信息,由第二服务器为第一终端提供边缘算力。在本申请的一些实施例中,当第二服务器虽然能提供与关键字匹配的函数功能,但在执行超时时间、使用价格、算力资源类型方面不能满足需求分流模块的需求时,分流模块可以从候选的算力服务中进行选择,确定一个算力服务对应的第二服务器,并按照边缘算力提供方设置的代码编写规则上传函数代码。或者,当分流模块从账本模块存储的算力服务信息列表中查询不到能够满足第二计算任务的算力服务时,还可以将第一计算任务发送至云计算服务器。在本申请的另一些实施例中,分流模块可以对第一终端请求的第一计算任务进行拆分,拆分为细粒度的函数所能实现的算力服务,以细粒度的函数为单位,为第一终端匹配相应的算力服务。
可以理解的,粗粒度的计算任务拆分为细粒度的函数能够实现的计算任务后,针对细粒度的函数匹配边缘算力提供方时,可以降低边缘算力提供方所配置的算力资源的要求,有利于提升匹配的成功率。
另外,从边缘算力提供方来看,当提供的算力服务以细粒度的函数来匹配时,降低了边缘算力提供方配置的算力资源的要求,可使得更多的异构的算力服务器也能够实现算力服务的共享。
这里示例性结合图像识别的应用场景对本申请提供的技术方案进行说明。
可以理解,图像(例如视频)识别具有低时延、高算力需求的特点,同时对于识别结果的准确率要求高,所以需要由靠近用户(即终端侧)的边缘计算节点进行处理。第一终端可以是质检机器人,第一服务器可以包括边缘算力服务节点和区块链账本节点,第二服务器配置GPU算力资源,能够提供高准确度要求的图像处理功能。如图4所示,为本发明实施例提供的又一种边缘算力共享系统的流程示意图,包括以下步骤:
S401、边缘算力服务节点在区块链账本节点上注册身份信息。
S402、第二服务器在区块链账本节点上注册身份信息。
S403、第二服务器在区块链账本节点上注册算力服务信息。
S404、质检机器人向边缘算力服务节点发送第一计算任务。
S405、边缘算力服务节点将第一计算任务拆分为至少两个第二计算任务。
S406、当边缘算力服务节点的边缘算力不满足第二计算任务时,边缘算力服务节点从区块链账本节点存储的算力服务信息列表中查询边缘算力满足第二计算任务的算力服务的信息。
S407、边缘算力服务节点对第二服务器的参数进行测试。
S408、边缘算力服务节点与第二服务器之间完成身份验证。
S409、边缘算力服务节点向第二服务器发送第二计算任务。
S410、第二服务器向边缘算力服务节点发送第二计算任务对应的计算结果。
S411、边缘算力服务节点向质检机器人发送第二计算任务对应的计算结果。
S412、第二服务器生成第一账单,并发送给区块链账本节点。
其中,上述步骤S401-步骤S412的具体内容可参见图3中步骤S301-步骤S312中的相关内容,在此不予赘述。
综上可见,以一个具体的图像识别为例,在本申请实施例提供的边缘算力共享系统中,区块链账本节点维护有各个边缘算力提供方提供的算力服务的信息。边缘算力服务节点在接收到第一终端发送的第一计算任务后,会将第一计算任务拆分为至少两个第二计算任务。当边缘算力服务节点的边缘算力不能满足质检机器人的第二计算任务时,边缘算力服务节点可以从区块链账本节点存储的算力服务信息列表中查询边缘算力能够满足质检机器人的算力服务信息,由第二服务器为质检机器人提供边缘算力。
上述主要从方法的角度对本申请实施例提供的方案进行了介绍。可以理解的是,为了实现上述功能,本申请实施例提供的边缘算力共享装置包含了执行各个功能相应的硬件结构和/或软件网元。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
如图5所示,为本申请实施例提供的一种第一服务器200的结构示意图。该第一服务器200包括查询模块201,存储模块202和通信模块203。
其中,通信模块203,用于接收第一终端发送的第一请求,第一请求用于请求执行第一计算任务;查询模块201,用于当第一服务器的边缘算力不满足第二计算任务时,从存储模块202中存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息;其中,第二计算任务为第一计算任务中的部分或全部任务;通信模块203,用于根据第一算力服务的信息向第二服务器发送第二计算任务;通信模块203,还用于接收到第二服务器返回的第二计算任务对应的计算结果。在一些实施例中,存储模块202可以是区块链账本模块,通信模块203可以是区块链客户端模块。
进一步的,第一服务器200还包括拆分模块204。拆分模块204,用于将第一计算任务拆分为至少两个第二计算任务,其中,第二计算任务为函数粒度的计算任务。在一些实施例中,拆分模块204可以是计算任务拆分模块。
可选的,通信模块203,还用于接收第二服务器发送的第一账单,第一账单为第二服务器执行第二计算任务的费用。
可选的,第一算力服务的信息还包括功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
可选的,查询模块201还用于从存储模块202中存储的算力服务信息列表中查询边缘算力满足第二计算任务的第一算力服务的信息,具体包括查询模块201还用于从存储模块202中存储的算力服务信息列表中查询算力服务的功能描述、算力资源所在位置、使用价格、算力资源类型中一项或多项满足第二计算任务的算力服务为第一算力服务。
由于本实施例提供的第一服务器200可执行上述边缘算力共享方法,因此其所能获得的技术效果可参考上述方法实施例,在此不再赘述。
如图6所示,图6示出一种第一服务器200的结构示意图,第一服务器200包括一个或多个处理器201、一个或多个存储器202、以及一个或多个通信接口203。
处理器201、存储器202和通信接口203通过总线相连接。处理器201可以包括通用中央处理器(例如CPU0和CPU1)、微处理器、特定应用集成电路(Application-SpecificIntegrated Circuit,ASIC),图形处理器、神经网络处理器,或者用于控制本申请方案程序执行的集成电路等。
存储器202,可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。存储器202可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统以及应用程序代码等。在一些示例中,存储数据区记录有各个边缘算力提供方的信息。此外,存储器202可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器201通过运行存储在存储器202的指令,执行第二服务器200的各种功能应用以及数据处理。在一个示例中,处理器201也可以包括多个CPU,并且处理器201可以是一个单核(single-CPU)处理器或多核(multi-CPU)处理器。这里的处理器可以指一个或多个设备、电路或用于处理数据(例如计算机程序指令)的处理核。
通信接口203,可用于与其他设备或通信网络通信,如以太网,无线局域网(wireless local area networks,WLAN)等。
需要说明的是,图1所示第二服务器300和第三服务器400等均可以参考图6所示的第一服务器200的结构。第二服务器300和第三服务器400等可以包括比第一服务器200更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。本申请实施例对此不做限定。
本申请另一实施例还提供一种边缘算力共享系统,该系统包括第一服务器和第二服务器。
本申请另一实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机指令,当计算机指令在服务器上运行时,使得边缘算力共享装置执行上述方法实施例所示的方法流程中执行的各个步骤。
本申请另一实施例还提供一种芯片系统,该芯片系统应用于边缘算力共享装置。所述芯片系统包括一个或多个接口电路,以及一个或多个处理器。接口电路和处理器通过线路互联。接口电路用于从边缘算力共享装置的存储器接收信号,并向处理器发送所述信号,所述信号包括所述存储器中存储的计算机指令。当处理器执行计算机指令时,边缘算力共享装置执行上述方法实施例所示的方法流程中边缘算力共享装置执行的各个步骤。
在本申请另一实施例中,还提供一种计算机程序产品,该计算机程序产品包括指令,当指令在边缘算力共享装置上运行时,使得边缘算力共享装置执行上述方法实施例所示的方法流程中执行的各个步骤。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置实施例而言,由于其基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。
Claims (10)
1.一种边缘算力共享的方法,其特征在于,所述方法包括:
第一服务器接收第一终端发送的第一请求,所述第一请求用于请求执行第一计算任务;
当所述第一服务器的边缘算力不满足第二计算任务时,所述第二计算任务为所述第一计算任务中的部分或全部任务,所述第一服务器从本地存储的算力服务信息列表中查询边缘算力满足所述第二计算任务的第一算力服务的信息;
所述第一服务器根据所述第一算力服务的信息向第二服务器发送所述第二计算任务;
所述第一服务器接收到所述第二服务器返回的所述第二计算任务对应的计算结果。
2.根据权利要求1所述的方法,其特征在于,在所述当所述第一服务器的边缘算力不满足第二计算任务时,所述第一服务器从本地存储的算力服务信息列表中查询边缘算力满足所述第二计算任务的第一算力服务的信息之前,所述方法包括:
所述第一服务器将所述第一计算任务拆分为至少两个所述第二计算任务,其中,所述第二计算任务为函数粒度的计算任务。
3.根据权利要求2所述的方法,其特征在于,还包括:
所述第一服务器接收所述第二服务器发送的第一账单,所述第一账单为所述第二服务器执行所述第二计算任务的费用。
4.根据权利要求3所述的方法,其特征在于,所述第一算力服务的信息还包括:功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
5.根据权利要求4所述的方法,其特征在于,所述第一服务器从本地存储的算力服务信息列表中查询边缘算力满足所述第二计算任务的第一算力服务的信息,具体包括:
所述第一服务器从本地存储的算力服务信息列表中查询算力服务的功能描述、算力资源所在位置、使用价格、算力资源类型中一项或多项满足所述第二计算任务的算力服务为所述第一算力服务。
6.一种第一服务器,其特征在于,包括查询模块,存储模块和通信模块;
所述通信模块,用于接收第一终端发送的第一请求,所述第一请求用于请求执行第一计算任务;
所述查询模块,用于当所述第一服务器的边缘算力不满足第二计算任务时,所述第二计算任务为所述第一计算任务中的部分或全部任务,从所述存储模块中存储的算力服务信息列表中查询边缘算力满足所述第二计算任务的第一算力服务的信息;
所述通信模块,用于根据所述第一算力服务的信息向第二服务器发送所述第二计算任务;
所述通信模块,还用于接收到所述第二服务器返回的所述第二计算任务对应的计算结果。
7.根据权利要求6所述的第一服务器,其特征在于,还包括拆分模块;
所述拆分模块,用于将所述第一计算任务拆分为至少两个所述第二计算任务,其中,所述第二计算任务为函数粒度的计算任务。
8.根据权利要求7所述的第一服务器,其特征在于,
所述通信模块,还用于接收所述第二服务器发送的第一账单,所述第一账单为所述第二服务器执行所述第二计算任务的费用。
9.根据权利要求8所述的第一服务器,其特征在于,所述第一算力服务的信息还包括:功能描述、参数传递、访问入口路径、安全密钥、函数名、版本、执行超时时间、使用价格、算力资源类型以及算力资源所在位置中的一项或多项。
10.根据权利要求9所述的第一服务器,其特征在于,所述查询模块还用于从存储模块中存储的算力服务信息列表中查询边缘算力满足所述第二计算任务的第一算力服务的信息,具体包括:
所述查询模块,还用于从存储模块中存储的算力服务信息列表中查询算力服务的功能描述、算力资源所在位置、使用价格、算力资源类型中一项或多项满足所述第二计算任务的算力服务为所述第一算力服务。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111637039.0A CN114296924A (zh) | 2021-12-29 | 2021-12-29 | 一种边缘算力共享方法、服务器及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111637039.0A CN114296924A (zh) | 2021-12-29 | 2021-12-29 | 一种边缘算力共享方法、服务器及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114296924A true CN114296924A (zh) | 2022-04-08 |
Family
ID=80971757
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111637039.0A Pending CN114296924A (zh) | 2021-12-29 | 2021-12-29 | 一种边缘算力共享方法、服务器及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114296924A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115242865A (zh) * | 2022-07-11 | 2022-10-25 | 北京邮电大学 | 一种远程视频人工服务的切换标准 |
CN116074541A (zh) * | 2023-03-09 | 2023-05-05 | 新华三工业互联网有限公司 | 一种资源处理方法、系统、装置及电子设备 |
WO2023246757A1 (zh) * | 2022-06-21 | 2023-12-28 | 维沃移动通信有限公司 | 算力服务方法、装置及终端 |
WO2024067148A1 (zh) * | 2022-09-28 | 2024-04-04 | 中国电信股份有限公司 | 边缘互通业务执行方法、装置、系统、电子设备和介质 |
-
2021
- 2021-12-29 CN CN202111637039.0A patent/CN114296924A/zh active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023246757A1 (zh) * | 2022-06-21 | 2023-12-28 | 维沃移动通信有限公司 | 算力服务方法、装置及终端 |
CN115242865A (zh) * | 2022-07-11 | 2022-10-25 | 北京邮电大学 | 一种远程视频人工服务的切换标准 |
WO2024067148A1 (zh) * | 2022-09-28 | 2024-04-04 | 中国电信股份有限公司 | 边缘互通业务执行方法、装置、系统、电子设备和介质 |
CN116074541A (zh) * | 2023-03-09 | 2023-05-05 | 新华三工业互联网有限公司 | 一种资源处理方法、系统、装置及电子设备 |
CN116074541B (zh) * | 2023-03-09 | 2023-06-02 | 新华三工业互联网有限公司 | 一种资源处理方法、系统、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114296924A (zh) | 一种边缘算力共享方法、服务器及系统 | |
CN113228600B (zh) | 激励参与雾网络的方法和设备 | |
Bittencourt et al. | The internet of things, fog and cloud continuum: Integration and challenges | |
CN113014415A (zh) | 边缘计算环境中的端到端服务质量 | |
US20210021431A1 (en) | Methods, apparatus and systems to share compute resources among edge compute nodes using an overlay manager | |
KR102254809B1 (ko) | 블록체인에 기반한, 자원 공유에 따른 보상 제공하는 분산형 컴퓨팅 자원 공유 시스템 및 컴퓨팅 장치 | |
US11200211B2 (en) | Method and system for managing mutual distributed ledgers in a system of interconnected devices | |
Rivera et al. | A blockchain framework for secure task sharing in multi-access edge computing | |
CN114338659A (zh) | 边缘网络中的智能数据转发 | |
US20210390642A1 (en) | Digital service management in edge computing elements of content delivery networks | |
US20200143583A1 (en) | Cloud render service framework for low power playback devices | |
CN114546632A (zh) | 算力分发方法、平台和系统、计算机可读存储介质 | |
CN102984189A (zh) | 一种无线网络及其实现方法、终端 | |
US11755379B2 (en) | Liaison system and method for cloud computing environment | |
KR20170021831A (ko) | 쿠리어 네트워크 서비스 | |
CN115297008B (zh) | 基于智算网络的协同训练方法、装置、终端及存储介质 | |
CN115865950A (zh) | 信息中心网络中的存储节点募集 | |
KR102599812B1 (ko) | 에지 컴퓨팅 구현 방법, 장치 및 시스템 | |
CN105591792A (zh) | 一种服务模板的推荐方法和装置 | |
US20230176913A1 (en) | Cross-domain cabin computing system and method based on data resource distribution | |
Lee et al. | Mobile edge computing based immersive virtual reality streaming scheme | |
Yousefpour et al. | All one needs to know about fog computing and related edge computing paradigms | |
CN116887357B (zh) | 基于人工智能的计算平台管理系统 | |
US20240045730A1 (en) | Distributed edge computing system and method | |
US20240114347A1 (en) | Dynamic radio access network sharing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |