CN113992945B - 一种基于博弈论的多服务器多用户视频分析任务卸载方法 - Google Patents
一种基于博弈论的多服务器多用户视频分析任务卸载方法 Download PDFInfo
- Publication number
- CN113992945B CN113992945B CN202111463398.9A CN202111463398A CN113992945B CN 113992945 B CN113992945 B CN 113992945B CN 202111463398 A CN202111463398 A CN 202111463398A CN 113992945 B CN113992945 B CN 113992945B
- Authority
- CN
- China
- Prior art keywords
- video
- user
- server
- delay
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 230000005540 biological transmission Effects 0.000 claims abstract description 37
- 238000010187 selection method Methods 0.000 claims abstract description 4
- 238000004891 communication Methods 0.000 claims description 27
- 230000001934 delay Effects 0.000 claims description 23
- 238000004364 calculation method Methods 0.000 claims description 21
- 238000013178 mathematical model Methods 0.000 claims description 12
- 208000001613 Gambling Diseases 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 9
- 230000008450 motivation Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000013461 design Methods 0.000 claims description 4
- 238000013527 convolutional neural network Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims 1
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/042—Backward inferencing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/101—Server selection for load balancing based on network conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/502—Proximity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/509—Offload
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本发明提出了一种基于博弈论方法的视频分析任务卸载方法,应用于多服务器多用户的边缘计算网络场景下。所述方法根据多服务器多用户卸载视频分析任务的边缘计算场景进行建模,将其视为一个综合了数据传输时延和任务计算时延的多人博弈问题,并基于潜在最优服务器选择方法和截断值的概念,提出视频单元分配算法,通过对该博弈问题进行求解,达到纳什均衡以及获得多用户的视频分析任务卸载方案。本发明填补了领域空白,支持多服务器多用户视频分析任务卸载,同时考虑了多用户之间对网络中有限资源的竞争性,具有广泛的适用性,提升了边缘计算场景下任务分配和资源利用效率。
Description
技术领域
本发明涉及边缘计算领域,具体是一种在边缘计算网络场景下的多服务器多用户视频分析任务卸载方法。
背景技术
随着智能设备(例如智能手机、平板电脑等设备)和大量新应用的出现,网络流量正在迅速增长。由于回程链路传输时延高、负载大,传统的集中式网络架构无法满足用户的需求。边缘计算是一种新兴的范式,将存储和计算资源带到网络的边缘。它允许终端设备产生的数据在网络边缘进行处理,而不是沿着长距离将其发送到云或数据中心。在过去的十几年里,有许多与边缘计算相关的研究工作,包括最优网络控制、多用户资源分配、服务缓存等。
与此同时,基于深度学习的人工智能服务和应用在近些年来蓬勃发展,例如视频监控、推荐系统等。与边缘计算环境中的其他服务和应用类似,人工智能相关的任务被推送到网络边缘进行计算。自2009年以来,微软一直在研究哪些类型的AI应用应该移至网络边缘,比如交互式云游戏、语音命令识别、VR/AR和实时视频分析等等。其中,实时视频分析应用被认为是边缘计算的杀手级应用。大多数运行在边缘服务器上的视频分析应用通过处理视频数据来检测一些特定对象,包括失踪儿童、遗弃行李等。一般来说,视频分析任务收集大量高清视频,并且需要高计算量,高带宽和低延迟的要求。因此,边缘计算被认为是满足这些严格要求的合适解决方案。
在边缘计算环境中,存在一些具有不同计算能力、内存的边缘服务器。服务器物理分布在不同的位置,并且它们的数据传输延迟不同。大量用户将他们的视频数据卸载到边缘服务器上进行视频分析。一些视频数据可以根据视频长度和视频配置(帧率和分辨率)分成更小的单元,然后视频分析服务可以对每个视频单元进行单独分析。用户需要选择合适的边缘服务器,并将他们的视频数据(或视频单元)卸载给这些服务器进行计算。但是具有挑战性的是,边缘服务器的计算能力和传输带宽有限,不合适的卸载决策可能会导致部分边缘服务器过载,造成CPU周期的浪费。例如,如果将过多的视频数据分配给同一边缘服务器,那么由于服务器过载,处理时间将显着延长。另一方面,如果分配给边缘服务器的视频数据太少,则会导致服务器上的计算资源利用率低。
发明内容
针对现有技术的空白,本发明的目的是提供一种边缘计算场景下基于博弈论方法的多服务器多用户视频分析任务卸载方法,实现了如何通过博弈论的方法确定每个用户的视频分析任务卸载决策。本发明填补了领域空白,支持多服务器多用户视频分析任务卸载,同时考虑了多用户之间对网络中有限资源的竞争性,具有广泛的适用性,提升了边缘计算场景下任务分配和资源利用效率。
本发明的目的通过以下技术方案实现:
一种边缘计算场景下基于博弈论的多服务器多用户视频分析任务卸载方法应用于边缘计算网络环境,其特征在于:根据多服务器多用户卸载视频分析任务的边缘计算场景进行建模,将其视为一个综合了数据传输时延和任务计算时延的多人博弈问题,并基于潜在最优服务器选择方法和截断值的概念,提出视频单元分配算法,通过对该博弈问题进行求解,达到纳什均衡以及获得多用户的视频分析任务卸载方案;包括以下步骤:
(1)对移动边缘计算场景建立数学模型:
(2)对建立的数学模型进行求解,得到多用户视频分析准确度策略。
其中,对移动边缘计算场景建立数学模型具体如下:
在网络边缘,考虑N个用户,记为N={1,2,...,N},以及M个边缘服务器,记为M={1,2,...,M}。视频分析应用(例如人脸识别、车辆跟踪、行人计数)部署在边缘服务器上,用户将视频分析任务卸载给它们进行计算。
根据视频长度和配置(帧率和分辨率),可以将一些视频数据分成更小的单元,然后通过视频分析应用程序分析每个视频单元。例如,在目标检测应用中,任务是在卸载的视频数据中找到某个目标(例如丢失的钱包)。视频长度为600秒,帧速率为30fps。可以将视频数据分成更小的单位,其长度和帧率分别为60秒和3fps。之后,可以将目标检测子(例如YOLO)并行应用于(600s*30fps)/(60s*3fps)=100个视频单元。
每个用户n都有一个视频分析任务,其中和分别表示长度、帧率和分辨率。在一些视频分析应用中,视频数据是从监控摄像头捕获的,视频分辨率是固定的。此外,输入到用于视频分析的卷积神经网络的视频帧的尺寸通常设置为常数。因此在本文中,假设所有用户的视频数据的分辨率都是相同的常数R,根据长度和帧率将视频数据划分成更小的单位。然后可以计算用户n的视频单元数为,其中设置为所有用户视频长度的公因数,为所有用户的视频帧率的公因数。值得一提的是,对于一组视频数据,总是可以有可行的和(例如,可以将设置为1秒并将设置为1fps)。因此,用户n需要将个视频单元卸载到边缘服务器进行计算。
卸载到特定服务器的任务过多会导致服务器拥塞和高计算延迟。因此,用户需要做出适当的卸载决策,以最小化计算延迟。视频可以被划分为一组更小的单元,每个视频单元的计算需求(如CPU周期)表示为。此外,使用虚拟并行处理来支持多个任务的处理。那么边缘服务器m上的计算延迟可以计算为:
从上面的等式中观察到,当用户n将其所有视频单元卸载到某一个边缘服务器m时,整体计算延迟仅取决于该服务器上的计算延迟。然而,当视频单元被卸载到多个边缘服务器时,整体计算延迟是这些服务器的计算延迟中最大的。因此,用户需要做出卸载决策,并且根据其他用户的决策来调整他们的决策,以最小化整体的计算延迟。
根据香农公式计算用户n卸载视频数据的速率为
其中是每个视频单元的数据大小。在视频分析任务卸载场景中,观察到视频分析任务通常会消耗较大的计算延迟(即推理延迟),并且传输延迟远短于计算延迟。因此,可以忽略不同用户将视频数据卸载到同一服务器的传输时延差异。在本文中,收集了一个包含从用户到边缘服务器m的各种传输延迟的历史数据集,然后用中所有传输延迟的平均值来表示与服务器m相关的传输延迟。具体来说,对于任何用户n,数据传输到边缘服务器m的延迟表示为:
基于上述计算和通信模型,计算用户n的整体延迟为:
对建立的数学模型进行求解,得到多服务器多用户视频分析任务卸载策略,具体如下:
将多服务器多用户异构视频分析任务卸载问题建模为多人博弈问题,记为G=<N,S,U>,其中用户集合S被视为博弈玩家集合。
所有参与者的策略空间集合表示为,其中表示玩家n的策略空间,是用户n选择的所有策略的并集;策略空间中的策略个数也称为策略空间的势,取决于视频单元个数;任务卸载决策被视为每个玩家的策略,并且策略中的每个方向的量代表卸载到对应边缘服务器的视频单元的数量;让表示所有参与者的任务卸载策略,表示除玩家n之外所有其他玩家的卸载策略。
对于每个博弈玩家来说,最大化其效用是赢得博弈的最佳策略。然而,由于每个博弈玩家的收益取决于其他玩家的策略,因此玩家决定策略是具有挑战性的。目标是设计算法以实现定义如下的纳什均衡:对于每个博弈玩家n,策略集在博弈模型G中构成纳什均衡,当且仅当任意博弈玩家不能通过单方面改变自己的任务卸载策略来提高个人效用,即:
纳什均衡具有自稳定性,使得处于均衡状态的用户可以获得各方都满意的解决方案。通过实现纳什均衡,可以得到一个稳定的情况,每个用户都没有单方面改变其卸载决策的动机。
本文专注于每个用户的视频单元可以单独卸载到多个服务器的一般情况。每个用户可以选择多台服务器,并且卸载到不同服务器的视频单元数量根据服务器的计算能力而有所不同。
在视频分析任务卸载问题中定义Cut-off值如下:Cut-off值表示卸载到每个边缘服务器m的视频单元数量的阈值,从而最小化所有边缘服务器之间的计算和通信的最大延迟;所有Cut-off值形成集合,其中有下式满足:
当所有边缘服务器的计算和通信的最大延迟最小时,有:
通过移动上式中的项,得到:
从而,为了最小化所有边缘服务器的计算和通信的最大延迟,对于服务器m,有:
根据Cut-off值的定义,当卸载到边缘服务器m的视频单元数量小于时,至少有一个其他边缘服务器,其计算和通信延迟必定会更高。相反,当卸载到m的视频单元数量明显大于时,可能会提高所有服务器的整体延迟。因此,为了最小化所有边缘服务器之间计算和通信的最大延迟,卸载到每个边缘服务器的视频单元数m应该接近Cut-off值。
但是值得注意的是,根据Cut-off值相关定理计算的截断值可能不是整数,并且常量是理论上的最佳总延迟。因此,不能直接使用截断值作为卸载到服务器的视频单元的数量。为了确定每个用户卸载到服务器的视频单元数量,提出了一种基于GT的视频单元分配算法。通过该算法,可以实现纳什均衡,用户没有动机单方面改变他们的任务卸载决策。
基于GT的视频单元分配算法如图2所示,流程如下:
1)视频单元初始分配
2)信息收集和更新
3)剩余视频单元分配
由于使用舍入整数来近似初始视频单元分配,因此初始视频单元分配与理论上的最佳分配之间存在差距。对于用户n,有剩余视频单元的数量:
对于剩余的视频单元,用户将它们中的每一个卸载到潜在最优服务器。定义潜在最优服务器如下:在将视频单元卸载到某个边缘服务器之前,计算每个服务器m的潜在延迟为:,其中表示当前服务器m上的视频单元数。边缘服务器m是潜在的最优服务器当且仅当服务器m的潜在延迟在所有服务器中最小的。
考察每个边缘服务器最后达到的视频单元,因为每个边缘服务器上的每个视频单元在博弈中效用函数值是相等的。发现每个边缘服务器上最后达到的视频单元在到达该边缘服务器时,选择的是当时的潜在最优服务器,而从它达到该边缘服务器一直到所有视频单元分配完,非潜在最优服务器的总时延不会降低,因此每个边缘服务器最后达到的视频单元没有动机改变服务器选择的决策。因此,此时达到纳什均衡,没有用户有单方面改变其任务卸载决策的动机。
通过基于GT的视频单元分配算法,所有用户的视频单元被卸载到适当的边缘服务器进行视频分析,有实际的总体延迟为:
本发明有益效果:
本发明提出了一种基于博弈论方法的视频分析任务卸载方法,应用于多服务器多用户的边缘计算网络场景下。根据多服务器多用户卸载视频分析任务的边缘计算场景进行建模,将其视为一个综合了数据传输时延和任务计算时延的多人博弈问题,并基于潜在最优服务器选择方法和截断值的概念,提出视频单元分配算法,通过对该博弈问题进行求解,达到纳什均衡以及获得多用户的视频分析任务卸载方案。本发明填补了领域空白,支持多服务器多用户视频分析任务卸载,同时考虑了多用户之间对网络中有限资源的竞争性,具有广泛的适用性,提升了边缘计算场景下任务分配和资源利用效率。
附图说明
图1是本发明实施多用户确定视频分析任务卸载场景示意图;
图2是本发明实施例提供的视频单元分配算法示意图。
具体实施方式
下面参照附图对本发明的技术方案做进一步的说明。
参照图1的边缘计算场景,在一个实施例中,考虑多用户确定视频分析任务卸载决策方法,包括以下步骤:
步骤(1),根据移动边缘计算场景为确定视频分析任务卸载决策问题建立数学模型。
在网络边缘,考虑N个用户,记为N={1,2,...,N},以及M个边缘服务器,记为M={1,2,...,M}。视频分析应用(例如人脸识别、车辆跟踪、行人计数)部署在边缘服务器上,用户将视频分析任务卸载给它们进行计算,如图1所示。
根据视频长度和配置(帧率和分辨率),可以将一些视频数据分成更小的单元,然后通过视频分析应用程序分析每个视频单元。例如,在目标检测应用中,任务是在卸载的视频数据中找到某个目标(例如丢失的钱包)。视频长度为600秒,帧速率为30fps。可以将视频数据分成更小的单位,其长度和帧率分别为60秒和3fps。之后,可以将目标检测子(例如YOLO)并行应用于(600s*30fps)/(60s*3fps)=100个视频单元。
每个用户n都有一个视频分析任务,其中和分别表示长度、帧率和分辨率。在一些视频分析应用中,视频数据是从监控摄像头捕获的,视频分辨率是固定的。此外,输入到用于视频分析的卷积神经网络的视频帧的尺寸通常设置为常数。因此在本文中,假设所有用户的视频数据的分辨率都是相同的常数R,根据长度和帧率将视频数据划分成更小的单位。然后可以计算用户n的视频单元数为,其中设置为所有用户视频长度的公因数,为所有用户的视频帧率的公因数。值得一提的是,对于一组视频数据,总是可以有可行的和(例如,可以将设置为1秒并将设置为1fps)。因此,用户n需要将个视频单元卸载到边缘服务器进行计算。
卸载到特定服务器的任务过多会导致服务器拥塞和高计算延迟。因此,用户需要做出适当的卸载决策,以最小化计算延迟。视频可以被划分为一组更小的单元,每个视频单元的计算需求(如CPU周期)表示为。此外,使用虚拟并行处理来支持多个任务的处理。那么边缘服务器m上的计算延迟可以计算为:
从上面的等式中观察到,当用户n将其所有视频单元卸载到某一个边缘服务器m时,整体计算延迟仅取决于该服务器上的计算延迟。然而,当视频单元被卸载到多个边缘服务器时,整体计算延迟是这些服务器的计算延迟中最大的。因此,用户需要做出卸载决策,并且根据其他用户的决策来调整他们的决策,以最小化整体的计算延迟。
根据香农公式计算用户n卸载视频数据的速率为
其中是每个视频单元的数据大小。在视频分析任务卸载场景中,观察到视频分析任务通常会消耗较大的计算延迟(即推理延迟),并且传输延迟远短于计算延迟。因此,可以忽略不同用户将视频数据卸载到同一服务器的传输时延差异。在本文中,收集了一个包含从用户到边缘服务器m的各种传输延迟的历史数据集,然后用中所有传输延迟的平均值来表示与服务器m相关的传输延迟。具体来说,对于任何用户n,数据传输到边缘服务器m的延迟表示为:
基于上述计算和通信模型,计算用户n的整体延迟为:
下表展示了上述符号的含义:
表1 数学模型中使用的符号含义
步骤(2),对建立的数学模型进行求解,得到边缘计算网络场景下的多服务器多用户视频分析任务卸载方案。
将多服务器多用户异构视频分析任务卸载问题建模为多人博弈问题,记为G=<N,S,U>,其中用户集合S被视为博弈玩家集合。
所有参与者的策略空间集合表示为,其中表示玩家n的策略空间,是用户n可以选择的所有策略的并集。策略空间中的策略个数也称为策略空间的势,取决于视频单元个数。任务卸载决策被视为每个玩家的策略,并且策略中的每个方向的量代表卸载到对应边缘服务器的视频单元的数量。让表示所有参与者的任务卸载策略,表示除玩家n之外所有其他玩家的卸载策略。
对于每个博弈玩家来说,最大化其效用是赢得博弈的最佳策略。然而,由于每个博弈玩家的收益取决于其他玩家的策略,因此玩家决定策略是具有挑战性的。目标是设计算法以实现定义如下的纳什均衡:对于每个博弈玩家n,策略集在博弈模型G中构成纳什均衡,当且仅当任意博弈玩家不能通过单方面改变自己的任务卸载策略来提高个人效用,即:
纳什均衡具有自稳定性,使得处于均衡状态的用户可以获得各方都满意的解决方案。通过实现纳什均衡,可以得到一个稳定的情况,每个用户都没有单方面改变其卸载决策的动机。
本文专注于每个用户的视频单元可以单独卸载到多个服务器的一般情况。每个用户可以选择多台服务器,并且卸载到不同服务器的视频单元数量根据服务器的计算能力而有所不同。
在视频分析任务卸载问题中定义Cut-off值如下:Cut-off值表示卸载到每个边缘服务器m的视频单元数量的阈值,从而可以最小化所有边缘服务器之间的计算和通信的最大延迟。所有Cut-off值形成集合,其中有下式满足:
当所有边缘服务器的计算和通信的最大延迟最小时,有:
通过移动上式中的项,得到:
从而,为了最小化所有边缘服务器的计算和通信的最大延迟,对于服务器m,有:
根据Cut-off值的定义,当卸载到边缘服务器m的视频单元数量小于时,至少有一个其他边缘服务器,其计算和通信延迟必定会更高。相反,当卸载到m的视频单元数量明显大于时,可能会提高所有服务器的整体延迟。因此,为了最小化所有边缘服务器之间计算和通信的最大延迟,卸载到每个边缘服务器的视频单元数m应该接近Cut-off值。
但是值得注意的是,根据Cut-off值相关定理计算的截断值可能不是整数,并且常量是理论上的最佳总延迟。因此,不能直接使用截断值作为卸载到服务器的视频单元的数量。为了确定每个用户卸载到服务器的视频单元数量,提出了一种基于GT的视频单元分配算法。通过该算法,可以实现纳什均衡,用户没有动机单方面改变他们的任务卸载决策。
基于GT的视频单元分配算法如图2所示,流程如下:
for每个用户 do:
收集其他用户的视频单元数信息;
for每个边缘服务器 do:
for每个用户 do:
收集他人视频单元分配信息;
计算剩余视频单元的数量;
将剩余视频单元中的每个视频单元分配至潜在最佳服务器;
发布视频单元分配信息;
1)视频单元初始分配
2)信息收集和更新
3)剩余视频单元分配
由于使用舍入整数来近似初始视频单元分配,因此初始视频单元分配与理论上的最佳分配之间存在差距。对于用户n,有剩余视频单元的数量:
对于剩余的视频单元,用户将它们中的每一个卸载到潜在最优服务器。定义潜在最优服务器如下:在将视频单元卸载到某个边缘服务器之前,计算每个服务器m的潜在延迟为:,其中表示当前服务器m上的视频单元数。边缘服务器m是潜在的最优服务器当且仅当服务器m的潜在延迟在所有服务器中最小的。
考察每个边缘服务器最后达到的视频单元,因为每个边缘服务器上的每个视频单元在博弈中效用函数值是相等的。发现每个边缘服务器上最后达到的视频单元在到达该边缘服务器时,选择的是当时的潜在最优服务器,而从它达到该边缘服务器一直到所有视频单元分配完,非潜在最优服务器的总时延不会降低,因此每个边缘服务器最后达到的视频单元没有动机改变服务器选择的决策。因此,此时达到纳什均衡,没有用户有单方面改变其任务卸载决策的动机。
通过基于GT的视频单元分配算法,所有用户的视频单元被卸载到适当的边缘服务器进行视频分析,有实际的总体延迟为:
以上详细描述了本发明的具体实施方案,但本发明并不限于上述实施方式中的具体细节,在本发明的技术构思范围内,可以对本发明的技术方案进行多种等同变换,这些等同变换均属于本发明的保护范围。
Claims (5)
1.一种基于博弈论的多服务器多用户视频分析任务卸载方法,其特征在于:根据多服务器多用户卸载视频分析任务的边缘计算场景进行建模,将其视为一个综合了数据传输时延和任务计算时延的多人博弈问题,并基于潜在最优服务器选择方法和截断值的概念,提出视频单元分配算法,通过对该博弈问题进行求解,达到纳什均衡以及获得多用户的视频分析任务卸载方案;包括以下步骤:
(1)对移动边缘计算场景建立数学模型:
(2)对建立的数学模型进行求解,得到多用户视频分析准确度策略;
步骤(1)具体如下:
在网络边缘,考虑N个用户,记为N={1,2,...,N},以及M个边缘服务器,记为M={1,2,...,M};视频分析应用部署在边缘服务器上,用户将视频分析任务卸载给它们进行计算;
根据视频长度和配置,将一些视频数据分成更小的单元,然后通过视频分析应用程序分析每个视频单元;
每个用户n都有一个视频分析任务Tn=<ln,fn,rn>,其中ln、fn和rn分别表示长度、帧率和分辨率;在一些视频分析应用中,视频数据是从监控摄像头捕获的,视频分辨率是固定的;输入到用于视频分析的卷积神经网络的视频帧的尺寸通常设置为常数;假设所有用户的视频数据的分辨率都是相同的常数R,根据长度和帧率将视频数据划分成更小的单位;然后计算用户n的视频单元数为sn=(lnfn)/(LuFu),其中Lu设置为所有用户视频长度的公因数,Fu为所有用户的视频帧率的公因数;对于一组视频数据,总是有可行的Lu和Fu;用户n将sn个视频单元卸载到边缘服务器进行计算;
用户n的任务卸载决策表示为xn=[xn,1,xn,2,...,xn,M]T,其中xn,m表示用户n卸载到边缘服务器m的视频单元的数量;对于每个服务器m∈M,xn,m是一个非负整数,有∑m∈Mxn,m=sn;
卸载到特定服务器的任务过多会导致服务器拥塞和高计算延迟,用户需要做出适当的卸载决策,以最小化计算延迟;视频被划分为一组更小的单元,每个视频单元的计算需求表示为Cu;使用虚拟并行处理来支持多个任务的处理;那么边缘服务器m上的计算延迟计算为:
其中Capm表示边缘服务器m的计算能力;将用户n的整体计算延迟表示为:
从上面的等式中观察到,当用户n将其所有视频单元卸载到某一个边缘服务器m时,整体计算延迟仅取决于该服务器上的计算延迟;然而,当视频单元被卸载到多个边缘服务器时,整体计算延迟是这些服务器的计算延迟中最大的,用户需要做出卸载决策,并且根据其他用户的决策来调整他们的决策,以最小化整体的计算延迟;
根据香农公式计算用户n卸载视频数据到边缘服务器m的速率为
其中W代表信道带宽,Pn代表用户n的发射功率,通过相关功率控制算法来确定,Hn,m表示用户n与其连接的边缘服务器m之间的信道增益,ω表示高斯白噪声的功率,Pi代表用户i的发射功率,Hi,j表示用户i与其连接的边缘服务器j之间的信道增益;
边缘服务器返回计算结果的时间开销被忽略,当用户n将xn,m个视频单元卸载到边缘服务器m时,传输延迟计算为:
其中Du是每个视频单元的数据大小;在视频分析任务卸载场景中,观察到视频分析任务通常会消耗较大的计算延迟,并且传输延迟远短于计算延迟,忽略不同用户将视频数据卸载到同一服务器的传输时延差异;收集一个包含从用户到边缘服务器m的各种传输延迟的历史数据集Hm,然后用Hm中所有传输延迟的平均值来表示与服务器m相关的传输延迟,对于任何用户n,数据传输到边缘服务器m的延迟表示为:
基于上述计算和通信模型,计算用户n的整体延迟为:
3.根据权利要求1所述的基于博弈论的多服务器多用户视频分析任务卸载方法其特征在于,步骤(2)对建立的数学模型进行求解,包括以下的多人博弈问题的定义过程:
将多服务器多用户异构视频分析任务卸载问题建模为多人博弈问题,记为G=<N,S,U>,其中用户集合S被视为博弈玩家集合;
所有参与者的策略空间集合表示为S={S1,S2,...,SN},其中Sn表示玩家n的策略空间,是用户n选择的所有策略的并集;策略空间Sn中的策略个数也称为策略空间的势,取决于视频单元个数sn;任务卸载决策xn=[xn,1,xn,2,...,xn,M]T被视为每个玩家的策略,并且策略中的每个方向的量代表卸载到对应边缘服务器的视频单元的数量;让x=[x1,,x2,...,xN]表示所有参与者的任务卸载策略,x-n=[x1,,...,xn-1,xn+1,...,xN]表示除玩家n之外所有其他玩家的卸载策略;
所有玩家效用函数的集合表示为U={Un(xn,x-n)}n∈N;基于计算和传输的整体延迟Dn,博弈模型G中构建每个博弈玩家n的效用函数为:
对于每个博弈玩家来说,最大化其效用是赢得博弈的最佳策略,然而,由于每个博弈玩家的收益取决于其他玩家的策略,因此玩家决定策略是具有挑战性的;目标是设计算法以实现定义如下的纳什均衡:对于每个博弈玩家n,策略集x*=[x1 *,x2 *,...,xN *]在博弈模型G中构成纳什均衡,当且仅当任意博弈玩家不能通过单方面改变自己的任务卸载策略来提高个人效用,即:
纳什均衡具有自稳定性,使得处于均衡状态的用户获得各方都满意的解决方案;通过实现纳什均衡,得到一个稳定的情况,每个用户都没有单方面改变其卸载决策的动机。
4.根据权利要求1所述的基于博弈论的多服务器多用户视频分析任务卸载方法其特征在于,步骤(2)对建立的数学模型进行求解,包括以下的少数者博弈截断值计算过程:
每个用户选择多台服务器,并且卸载到不同服务器的视频单元数量根据服务器的计算能力而有所不同;
在视频分析任务卸载问题中定义Cut-off值如下:Cut-off值表示卸载到每个边缘服务器m的视频单元数量的阈值,从而最小化所有边缘服务器之间的计算和通信的最大延迟;所有Cut-off值形成集合其中有下式满足:
当所有边缘服务器的计算和通信的最大延迟最小时,有:
通过移动上式中的项,得到:
进一步地,通过将∑i∈N添加到上式的两边,得到:
从而,为了最小化所有边缘服务器的计算和通信的最大延迟,对于服务器m,有:
5.根据权利要求1所述的基于博弈论的多服务器多用户视频分析任务卸载方法其特征在于,步骤(2)对建立的数学模型进行求解,包括以下的基于博弈论的视频单元分配算法的设计:
基于GT的视频单元分配算法,流程如下:
1)视频单元初始分配
使用下取整数来近似初始视频单元分配x′n,m;不难看出,最初倾向于将更多的视频单元分配给具有较大截断值的服务器;
2)信息收集和更新
在这个过程中,用户收集其他用户对视频单元数量的卸载决策信息,并了解边缘服务器的资源利用率;对于边缘服务器m,其视频单元数量λm更新为
λm=λm+snew
其中snew表示新卸载到服务器m的视频单元的数量,这取决于用户的视频单元分配;通过信息收集和更新,用户为剩余的视频单元分配做准备;
3)剩余视频单元分配
由于使用舍入整数来近似初始视频单元分配,因此初始视频单元分配与理论上的最佳分配之间存在差距;对于用户n,有剩余视频单元的数量:
对于剩余的视频单元,用户将它们中的每一个卸载到潜在最优服务器;定义潜在最优服务器如下:在将视频单元卸载到某个边缘服务器之前,计算每个服务器m的潜在延迟为:其中λm表示当前服务器m上的视频单元数;边缘服务器m是潜在的最优服务器当且仅当服务器m的潜在延迟在所有服务器中最小的;
考察每个边缘服务器最后达到的视频单元,因为每个边缘服务器上的每个视频单元在博弈中效用函数值是相等的;发现每个边缘服务器上最后达到的视频单元在到达该边缘服务器时,选择的是当时的潜在最优服务器,而从它达到该边缘服务器一直到所有视频单元分配完,非潜在最优服务器的总时延不会降低,因此每个边缘服务器最后达到的视频单元没有动机改变服务器选择的决策;此时达到纳什均衡,没有用户有单方面改变其任务卸载决策的动机;
通过基于GT的视频单元分配算法,所有用户的视频单元被卸载到适当的边缘服务器进行视频分析,有实际的总体延迟为:
实际总延迟D是所有边缘服务器之间计算和通信的最大延迟;在所有边缘服务器中,让q1表示计算和通信延迟最大的服务器,q2表示计算和通信延迟最小的服务器;定义:
即实际总延迟D与理论最优总延迟D*之间的差距不大于Cu/minm{Capm},其中Cu为每个视频单元的计算需求和,minm{Capm}是所有边缘服务器中最小的计算能力。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111463398.9A CN113992945B (zh) | 2021-12-03 | 2021-12-03 | 一种基于博弈论的多服务器多用户视频分析任务卸载方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111463398.9A CN113992945B (zh) | 2021-12-03 | 2021-12-03 | 一种基于博弈论的多服务器多用户视频分析任务卸载方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113992945A CN113992945A (zh) | 2022-01-28 |
CN113992945B true CN113992945B (zh) | 2022-10-28 |
Family
ID=79733077
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111463398.9A Active CN113992945B (zh) | 2021-12-03 | 2021-12-03 | 一种基于博弈论的多服务器多用户视频分析任务卸载方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113992945B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114170560B (zh) * | 2022-02-08 | 2022-05-20 | 深圳大学 | 一种基于深度强化学习的多设备边缘视频分析系统 |
CN115208894B (zh) * | 2022-07-26 | 2023-10-13 | 福州大学 | 移动边缘计算中基于Stackelberg博弈的定价与计算卸载方法 |
CN116560839B (zh) * | 2023-05-06 | 2023-11-10 | 湖南师范大学 | 一种基于主从博弈的边缘计算任务卸载方法和系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110377353B (zh) * | 2019-05-21 | 2022-02-08 | 湖南大学 | 计算任务卸载系统与方法 |
PT115587B (pt) * | 2019-06-18 | 2021-07-16 | Univ Do Porto | Método e dispositivo para transmissão em direto em contínuo com partilha de carga oportunista por computação em nuvem periférica móvel |
-
2021
- 2021-12-03 CN CN202111463398.9A patent/CN113992945B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113992945A (zh) | 2022-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113992945B (zh) | 一种基于博弈论的多服务器多用户视频分析任务卸载方法 | |
CN109857546B (zh) | 基于Lyapunov优化的多服务器移动边缘计算卸载方法及装置 | |
CN109684075B (zh) | 一种基于边缘计算和云计算协同进行计算任务卸载的方法 | |
CN110971706B (zh) | Mec中近似最优化与基于强化学习的任务卸载方法 | |
Baek et al. | Managing fog networks using reinforcement learning based load balancing algorithm | |
CN110098969B (zh) | 一种面向物联网的雾计算任务卸载方法 | |
CN110519370B (zh) | 一种基于设施选址问题的边缘计算资源分配方法 | |
CN110798849A (zh) | 一种超密网边缘计算的计算资源分配与任务卸载方法 | |
CN110717300B (zh) | 面向电力物联实时在线监测业务的边缘计算任务分配方法 | |
Zhang et al. | Adaptive configuration selection and bandwidth allocation for edge-based video analytics | |
CN111711666B (zh) | 一种基于强化学习的车联网云计算资源优化方法 | |
Jia et al. | Delay-sensitive multiplayer augmented reality game planning in mobile edge computing | |
CN110177055B (zh) | 一种边缘计算场景下边缘域资源的预分配方法 | |
WO2023116460A1 (zh) | 移动边缘计算环境下多用户多任务计算卸载方法及系统 | |
CN110968366B (zh) | 一种基于有限mec资源的任务卸载方法、装置及设备 | |
CN108924254B (zh) | 以用户为中心的分布式多用户计算任务卸载方法 | |
CN113286329B (zh) | 基于移动边缘计算的通信和计算资源联合优化方法 | |
CN115002113B (zh) | 一种移动基站边缘计算力资源调度方法、系统、电子设备 | |
CN112040512A (zh) | 一种基于公平的雾计算任务卸载方法及系统 | |
CN113784373A (zh) | 云边协同网络中时延和频谱占用联合优化方法及系统 | |
Salem et al. | Toward inference delivery networks: Distributing machine learning with optimality guarantees | |
CN113938394B (zh) | 监控业务带宽分配方法、装置、电子设备及存储介质 | |
CN111211984B (zh) | 优化cdn网络的方法、装置及电子设备 | |
Chen et al. | When learning joins edge: Real-time proportional computation offloading via deep reinforcement learning | |
Li et al. | Computation offloading and service allocation in mobile edge computing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |