CN112839382B - 一种车联网中视频语义驱动的通信和计算资源联合分配方法 - Google Patents

Abstract

本发明公开了一种车联网中视频语义驱动的通信和计算资源联合分配方法，属于车联网移动边缘计算领域。主要贡献在于提出一种基于QoC的联合资源分配方案，用于通信和计算资源受限的情况下，以最大程度提高视频内容理解性能。首先构建车辆端与边缘服务器端视频语义通信的车联网系统模型，然后基于频谱和算力限制下的目标检测精度模型，构建视频语义驱动的通信资源和计算资源联合分配优化目标。由于车联网场景下资源分配的实时性和环境的多变性，设计一种多智能体分布式Q‑Learning算法求解此类多约束非线性规划问题。最后，仿真结果表明，与基于QoC单一频谱资源分配和资源平均分配方案相比，本发明提出的方案具有更好的性能。

Description

一种车联网中视频语义驱动的通信和计算资源联合分配方法

技术领域

本发明属于车联网领域，涉及车联网边缘计算场景下的视频传输和视频分析理解系统， 具体是一种车联网中视频语义驱动的通信和计算资源联合分配方法。

背景技术

随着5G网络和计算机视觉应用的快速发展，车联网(Internet of Vehicles，IoV)系 统中通过给车辆配备各种传感器和通信模块，新兴的车载应用大多涉及到视频传输或图像处 理技术，而此类业务通常伴随着庞大的数据量和巨大的计算能力需求，难以在车载系统上单独处理。为了解决计算密集型应用和车辆端有限能力之间的冲突，移动边缘计算(Mobile Edge Computing，MEC)被认为是一种有前景的技术，车辆端通过将计算密集型业务卸载到资源丰富的MEC服务器，利用边缘服务器强大的计算能力进行视频的分析理解，从而可 以加速任务执行，降低时延并减少车辆端的能耗。然而，车联网场景下海量的视频传输和分 析业务给传统无线通信资源和边缘服务器计算资源带来巨大压力，因此需要联合考虑通信资 源和计算资源设计高效的资源分配方案。

在传统的无线视频传输研究中，优化标准是基于服务质量(Quality of Service，QoS)， 或基于用户体验质量(Quality of Experience，QoE)基于人类感知的设计。随着在车联网 场景下以视频分析理解为目的(目标检测，目标追踪，动作识别)而收集的视频数据越来越多。现有的基于人类感知设计的无线视频传输方案可能不是基于视频分析理解为目的的最佳 选择。因此，有必要为基于视频内容分析理解(Quality of Content，QoC)的计算机视觉 应用设计更有效的视频传输和资源分配方案。

现已有研究提出视频内容质量(Quality of Content，QoC)的概念，以最大化平均目 标检测精度为目标，给出了视频编码资源分配方案以及频谱限制下的资源分配方案。但并从 计算资源角度考虑不同算力下的目标检测算法对最终检测精度的影响，且未联合考虑通信资 源和边缘服务器计算资源限制下的联合资源分配。因此，有必要针对视频语义研究更高效的 联合资源分配指导方式。

发明内容

本发明为了解决上述问题，结合强化学习理论，提供了一种车联网中视频语义驱动的通 信资源和计算资源联合分配方法，优化了车辆端到边缘服务器端的频谱分配以及边缘服务器 端的计算资源分配，实现了在频谱，计算资源和系统时延约束下的平均目标检测精度最大化。

具体步骤包括：

步骤一、构建车辆端与边缘服务器端视频语义通信的车联网系统模型；

系统模型包括配备边缘服务器的蜂窝基站(Base Station，BS)和M辆装有摄像头的智 能网联汽车。

整个系统的通信和计算过程如下：1)车辆发起视频传输请求，对所采集的视频进行预处 理，获取视频信息并将其上传到边缘服务器，同时边缘服务器获取信道状态信息(Channel State Information，CSI)；2)边缘服务器获取视频信息和CSI，根据视频语义驱动的资源分 配方法得到最优的频谱资源和计算资源分配结果；3)车辆根据频谱资源分配的结果完成视频 的编码压缩，通过无线信道传输到边缘服务器；4)边缘服务器将接收到的视频进行解码，根 据所分配的计算资源采用不同的语义理解算法，对视频进行语义理解并将结果反馈给各车辆。

步骤二、构建视频语义驱动的频谱资源分配指导模型；

以视频语义理解的基础任务——目标检测任务为例，视频的语义即待检测的目标类别和 数量，视频语义的理解准确率即目标检测的准确率。详细的资源分配指导模型建模步骤如下：

步骤201、构建目标检测精度与QP值之间的关系；

采用H.265视频编码压缩标准对视频数据进行编码压缩处理，使得视频传输的码率小于 或等于带宽限制下的传输速率。压缩编码过程中不同的视频量化参数(Quantitative Parameters，QP)值对应不同的压缩步长，QP值越小，压缩步长越小，视频码率越接近原 始视频码率，传输所需的带宽越大。

采用Faster-RCNN算法对Caltech数据集中不同压缩程度的视频进行目标检测，目标 类型主要包括行人、车辆和交通信号灯等。根据数据结果拟合出如下的指数关系模型：

P(Q)＝α·Q^β+γ

Q表示视频量化参数QP值，P表示目标检测精度，α,β,γ均为模型参数。引入均方误差值(Mean Square Error，MSE)作为损失函数，并利用回归方法求解模型参数。

步骤202、构建检测准确率和视频码率的关系；

QP值决定了视频压缩率的不同，而视频数据速率的大小与压缩率有关。因此根据实验研 究QP和视频数据速率之间的关系。通过曲线拟合，QP和视频数据速率之间的关系可以近似表示为：

Q＝a·exp(b·R_data)

其中Q为视频量化参数(QP)，R_data为视频码率，a,b为模型参数。exp(·)表示以自然常 数e为底的指数函数，相应的ln(·)表示以自然常数e为底的对数函数。

联合上述两步所得的关系模型，可得检测准确率与码率的关系模型如下：

P_mAP(Q)＝α(aexp(b·R_data))^β+γ

其中P_mAP(Q)表示频谱资源限制下的目标检测精度。

码率的大小与传输过程中的带宽资源有关，从而得到了面向视频语义理解准确率(即目 标检测任务中的检测准确率)的带宽资源分配指导模型。上述目标检测准确率与码率的关系 模型从理论上给出了语义驱动的频谱资源分配算法的优化方向。

步骤203、构建视频传输时延和频谱资源分配的关系；

车辆端通过将目标检测任务卸载到边缘服务器，可以解决车辆计算能力不足的问题。同 时，它会花费额外的时间和能量来上传视频。基于上述通信资源分配结果，视频上传过程的 时延可表示为：

其中表示视频从车辆上传到边缘服务器过程的时延，D_m为视频数据的大小，R_m表示 视频数据传输速率。

步骤三、构建视频语义驱动的计算资源分配指导模型；

在收到各个车辆的视频数据后，边缘服务器基于视频内容重要性分配计算资源执行目标 检测算法。在计算资源建模方面，尤其是在移动边缘计算场景中，边缘服务器的CPU资源是 影响到计算任务执行性能指标的关键因素。目标检测算法精度直接取决于其DNN模型复杂 度。对于DNN模型而言有一个趋势，即模型的规模越大，即神经网络层数越多的，所需要的计算资源越多，对视频内容理解的性能越好。详细的计算资源分配指导模型建模步骤如下：

步骤301、构建目标检测精度与其模型计算复杂度之间的关系；

根据Faster R-CNN、R-FCN和SSD三个经典目标检测算法上在COCO数据集上做 了大量实验，最终给出了一系列检测问题所能达到的平均检测性能。

步骤302、构建目标检测精度与其模型算力之间的关系；

由于所建立的DNN模型训练和推理性能与其复杂度之间的关系为一系列散点图，因此 考虑将DNN模型复杂度抽象为算力，即执行算法所需要的CPU频率。对散点图进行曲线拟合，进而构建视频内容理解精度和算力之间的闭合表达式可近似表示为：

其中P_mAP(f_m)表示计算资源限制下的目标检测精度，f_m为边缘服务器所分配的计算资源， x,y,z,w均为模型参数。此处仍以均方误差值(Mean Square Error，MSE)作为损失函数。

目标检测算法模型的大小与边缘服务器所分配的计算资源有关，从而得到了面向视频语 义理解准确率(即目标检测任务中的检测准确率)的计算资源分配指导模型。上述目标检测准确率与计算资源的关系模型从理论上给出了语义驱动的计算资源分配算法的优化方向。

步骤303、构建计算时延和计算资源分配的关系；

由步骤二可知，通过将目标检测任务卸载到边缘服务器，需要花费额外的时间和能量来 上传视频，同时需要花费计算时延执行目标检测算法。基于上述计算资源分配结果，服务器 端执行目标检测算法所需的计算时延以及卸载过程的总时延可以分别表示为：

其中，T_m分别表示视频上传时延，边缘服务器计算时延和卸载过程的总时延。 D_m,X_m分别表示当前任务的数据量和计算复杂度，f_m表示边缘服务器为当前目标检测任务 所分配的计算资源。

步骤四、视频语义驱动的通信资源和计算资源联合分配优化模型；

由于通信资源与计算资源相互独立存在，但共同影响到目标检测精度，拟将二者相乘， 表示在仅分配通信资源优化视频内容理解精度的基础上，则改变算力带来的目标检测精度的 变化符合步骤三中计算资源限制下目标检测精度的曲线趋势。基于以上理论分析，得到联合通信资源和计算资源的目标检测精度最大化优化模型可以表示为：

s.t.C1:R_data,m≤R_m

C3:B_min≤B_m≤B_total

C4:T_m(B_m,f_m)≤τ_m

C6:f_min≤f_m≤F_total

其中M为车辆总数，ρ为补偿因子，补偿归一化的影响；I_m表示原视频中待检测的目标 数量(密度)，即表征当前视频数据的重要程度；R_data,m表示第m辆车所采集视频的码率；R_m表示香农公式下所允许的最大数据速率；和分别表示通信资源和计算资源分配下 的平均检测精度；τ_m表示第m辆车的计算任务所允许的最大时延；B_m是每个车辆所分配的 带宽，f_m是每个车辆所分配的计算资源；B_min,F_min分别表示系统限制带宽和计算资源的最小 值；B_total,F_total分别表示系统总带宽资源和MEC计算资源。

约束条件C1表示传输视频的码率受到车辆的传输速率限制，由于视频传输过程受到无 线通信资源的限制及信道条件的影响，进而研究建立视频内容理解精度与通信资源(带宽、 信道、功率等)之间的关系。对于OFDMA机制，由于独占子载波分配，可以忽略子载波间 干扰。因此基于香农公式，借鉴传统传输损耗模型，车辆端通过上行子载波将一个计算任务 A_m(D_m,τ_m,X_m)上传到边缘服务器数据速率如下所示：

其中R_m为数据传输速率，B_m为车辆m上传视频所占用的带宽，g_m为车辆m的信道衰减系数，P_m为车辆m的发射功率。

约束条件C2表示所有车辆分配的带宽之和不超过总带宽B_total；

约束条件C3表示每个车辆分配的带宽不小于限制B_min；

约束条件C4表示每个车辆当前目标检测任务的系统总时延不大于τ_m；

约束条件C5表示所有车辆分配的算力之和不超过边缘服务器总计算资源F_total；

约束条件C6表示每个车辆分配的算力不小于限制f_min；

步骤五、在视频语义驱动的资源分配优化模型的基础上，构建强化Q学习算法模型；

步骤501、设置超参数；

强化Q学习算法训练的效果和它的主要参数有较强的相关性，本模型的主要参数设定如 下：1)学习速率α取0.1，让算法保留历史训练结果的90％，更注重过往经验；2)折扣因子 γ取0.9，让算法考虑下一步效益的90％，更重视长远利益；3)ε-greedy策略中的ε取0.8，让算法有20％的尝试空间，避免陷入局部最优。

步骤502、构建状态空间；

状态空间为M个车辆分配的带宽B_m＝{B₁,B₂,…,B_M}和计算资源f_m＝{f₁,f₂,…,f_M}，其 中B_m∈[B_min,B_total)，f_m∈[f_min,F_total)。

步骤503、构建动作空间；

动作空间为M个车辆带宽和计算资源的分配变化。为简化模型中的Q值表，假设带宽变 化的最小步长为总带宽的1％，算力变化的最小步长为总计算资源的1％。当M＝3时，每个 动作对应只有两个车辆的带宽增减，因此整个动作空间可表示为：

a_m＝[B_m1,B_m2,...,B_mN,f_m1,f_m2,...,f_mN]

步骤504、构建环境反馈；

设奖励函数则环境反馈的奖励值为下 一状态和当前状态的R的差值ΔR＝R′-R，由于训练的目标是R取得最优值，因此希望R往 不断增大的方向优化，当R减小时，则将反馈函数为负值。

本发明的优点在于：

(1)一种车联网中视频语义驱动的联合资源分配方法，优化了车辆端到边缘服务器端的 频谱分配和边缘服务器计算资源分配，实现了时延约束下的平均目标检测精度最大化；

(2)一种车联网中视频语义驱动的联合资源分配方法，构建了语义驱动的联合资源分配 指导模型，从视频语义角度出发，考虑了不同视频的语义差异，从理论上给出了语义驱动的 联合资源分配算法的优化方向；

(3)一种车联网中视频语义驱动的联合资源分配方法，引入了强化Q学习算法模型， 考虑了车联网非稳态信道条件，解决了车联网中针对视频语义任务的资源分配问题。同时满 足了车联网场景下资源分配的实时性和环境的多变性，提供了较稳定且低复杂度的资源分配 算法。

附图说明

图1为本发明构建的车联网中的移动边缘计算模型示意图；

图2为本发明构建的车辆端与边缘服务器端视频语义通信的车联网系统模型示意图；

图3为本发明的语义理解准确率建模过程示意图；

图4为本发明用于构建目标检测准确率与QP关系模型示意图；

图5为本发明构建的不同算法的目标检测精度与其计算复杂度之间的关系；

图6为本发明提出的联合资源分配算法指导下不同车辆视频的频谱资源分配结果；

图7为本发明提出的联合资源分配算法指导下不同车辆视频的计算资源分配结果；

图8为本发明与其他两种不同资源分配方案的平均目标检测精度与系统总带宽的关系；

图9为本发明与其他两种不同资源分配方案的平均检测精度与视频信息量标准差的关系；

图10为本发明与其他两种不同资源分配方案的平均检测精度与系统中车辆数目的关系；

具体实施方式

为了能够更加清楚地理解本发明的技术原理，下面结合附图，具体、详细地阐述本发明 实施例。

一种车联网中视频语义驱动的通信和计算资源联合分配方法(Video Semantics-driven  Joint Allocation of Communication and Computing Resources Algorithmsin Vehicular Networks)应用于车辆端与边缘服务器端视频语义通信的车联网系统中；首先构 建面向视频语义理解准确率的带宽资源分配指导模型，建立检测准确率和视频码率的关系表 达式；然后构建面向视频语义理解准确率的计算资源分配指导模型，建立检测准确率与目标 检测算法模型复杂度之间的关系；由于通信资源与计算资源相互独立存在，但共同影响到目标检测精度，最终以最大化单位车辆的检测准确率为优化目标，构建车联网中视频语义驱动 的联合资源分配优化模型；

根据优化模型，设计算法求解面临新的挑战：1)由于建模的联合资源分配模型是一个具 有多约束的非线性规划问题，作为典型的NP Hard问题，难以通过凸优化等传统方法求其最 优解；2)由于自动驾驶场景下资源分配的实时性和环境的多变性，对算法的复杂度和稳定性 提出了较高的要求。因此构建用于车联网中视频语义驱动的联合资源分配的强化Q学习算法模型的状态空间、动作空间和环境反馈。

整体流程包括建立系统模型，建立通信资源分配指导模型，建立计算资源分配指导模型， 提出优化问题并建立优化模型，以及建立强化Q学习算法模型并执行训练五个步骤；其中， 建立视频语义驱动的频谱资源分配指导模型过程包括构建QP值和检测准确率的关系、构建 QP值和视频码率的关系、以及视频传输时延和频谱资源分配的关系；建立视频语义驱动的计算资源分配指导模型过程包括建立目标检测精度与其模型计算复杂度之间的关系、目标检测 精度与其模型算力之间的关系、以及计算时延和计算资源分配的关系；强化Q学习算法模型 并执行训练过程包括设置超参数、构建状态空间、构建动作空间和构建环境反馈；

具体步骤如下：

步骤一、构建车辆端与边缘服务器端视频语义通信的车联网系统模型；

如图1所示，系统模型包括一个BS和M辆装有摄像头的智能网联汽车。

整个系统的通信和计算过程如下：1)车辆端向边缘服务器发起视频传输请求，对所采集 的视频进行预处理，获取视频信息并将其上传到边缘服务器，同时边缘服务器获取信道状态 信息(Channel State Information，CSI)；2)边缘服务器获取视频信息和CSI，根据视频语义驱动的资源分配方法得到最优的频谱资源和计算资源分配结果；3)车辆根据频谱资源分 配的结果完成视频的编码压缩，通过无线信道传输到边缘服务器，该过程遵循无线视频传输 协议；4)边缘服务器将接收到的视频进行解码，根据所分配的计算资源采用不同的语义理解 算法，对视频进行语义理解并将结果反馈给各车辆，同时边缘服务器可将视频进行存储或用于其他任务，如道路交通情况分析等。

步骤二、构建视频语义驱动的频谱资源分配指导模型；

以视频语义理解的基础任务——目标检测任务为例，视频的语义即待检测的目标类别和 数量，视频语义的理解准确率即目标检测的准确率。详细的资源分配指导模型建模步骤如下：

步骤201、构建目标检测精度与QP值之间的关系；

采用H.265视频编码压缩标准对视频数据进行编码压缩处理，使得视频传输的码率小于 或等于带宽限制下的传输速率。压缩编码过程中不同的视频量化参数(Quantitative Parameters，QP)值对应不同的压缩步长，QP值越小，压缩步长越小，视频码率越接近原 始视频码率，传输所需的带宽越大。

采用Faster-RCNN算法对Caltech数据集中不同压缩程度的视频进行目标检测，目标 类型主要包括行人、车辆和交通信号灯等。根据数据结果拟合出如下的指数关系模型：

P(Q)＝α·Q^β+γ

Q表示视频量化参数QP值，P表示目标检测精度，α,β,γ均为模型参数。引入均方误差值(Mean Square Error，MSE)作为损失函数，并利用回归方法求解模型参数。

步骤202、构建检测准确率和视频码率的关系；

QP值决定了视频压缩率的不同，而视频数据速率的大小与压缩率有关。因此根据实验研 究QP和视频数据速率之间的关系。通过曲线拟合，QP和视频数据速率之间的关系可以近似表示为：

Q＝a·exp(b·R_data)

其中Q为视频量化参数(QP)，R_data为视频源编码率，a,b为模型参数。exp(·)表示以自 然常数e为底的指数函数，相应的ln(·)表示以自然常数e为底的对数函数。

联合上述两步所得的关系模型，可得检测准确率与码率的关系模型如下：

P_mAP(Q)＝α(aexp(b·R_data))^β+γ

其中P_mAP(Q)表示频谱资源限制下的目标检测精度。

码率的大小与传输过程中的带宽资源有关，从而得到了面向视频语义理解准确率(即目 标检测任务中的检测准确率)的带宽资源分配指导模型。上述目标检测准确率与码率的关系 模型从理论上给出了语义驱动的频谱资源分配算法的优化方向。

步骤203、构建视频传输时延和频谱资源分配的关系；

车辆端通过将目标检测任务卸载到边缘服务器，可以解决车辆计算能力不足的问题。同 时，它会花费额外的时间和能量来上传视频。基于上述通信资源分配结果，视频上传过程的 时延可表示为：

其中表示视频从车辆上传到边缘服务器过程的时延，D_m为视频数据的大小。

步骤三、构建视频语义驱动的计算资源分配指导模型；

在收到各个车辆的视频数据后，边缘服务器基于视频内容重要性分配计算资源执行目标 检测算法。在计算资源建模方面，尤其是在移动边缘计算场景中，边缘服务器的CPU资源是 影响到计算任务执行性能指标的关键因素。目标检测算法精度直接取决于其DNN模型复杂 度。对于DNN模型而言有一个趋势——模型的规模越大，即神经网络层数越多的，所需要的计算资源越多，对视频内容理解的性能越好。详细的计算资源分配指导模型建模步骤如下：

步骤301、构建目标检测精度与其模型计算复杂度之间的关系；

根据Faster R-CNN、R-FCN和SSD三个经典目标检测算法上在COCO数据集上做 了大量实验，通过改变目标检测算法，特征提取结构(卷积神经网络)，超参数(输入图像的 大小、卷积核的步长、proposal的数目)，最终给出一系列不同复杂度的DNN模型所需要的 计算资源以及所能达到的平均推理性能，从而得到目标检测精度与其模型计算复杂度之间的关系。

步骤302、构建目标检测精度与其模型算力之间的关系；

在上述研究的基础上作出以计算复杂度为横坐标，即执行目标检测算法所需要的GPU时 间，以平均目标检测精度为纵坐标的一系列散点图如图5所示。通过图5可以发现算法复杂 度越高，即执行算法的时间越长，则算法的平均检测性能越好。由于GPU是执行计算的主要 引擎，GPU性能由GPU周期频率f_m(也称为GPU时钟速度)控制，并且f_m的值由边缘 服务器总计算资源F_total界定。因此考虑将DNN模型复杂度抽象为算力，即执行算法所需要 的GPU频率。对散点图进行曲线拟合，进而构建视频内容理解精度和算力之间的闭合表达 式可近似表示为：

其中P_mAP(f_m)表示计算资源限制下的目标检测精度，f_m为边缘服务器所分配的计算资源， x,y,z,w均为模型参数。此处仍以均方误差值(Mean Square Error，MSE)作为损失函数。

目标检测算法模型的大小与边缘服务器所分配的计算资源有关，从而得到了面向视频语 义理解准确率(即目标检测任务中的检测准确率)的计算资源分配指导模型。上述目标检测准确率与计算资源的关系模型从理论上给出了语义驱动的计算资源分配算法的优化方向。

步骤303、构建计算时延和计算资源分配的关系；

由步骤二可知，通过将目标检测任务卸载到边缘服务器，需要花费额外的时间和能量来 上传视频，同时需要花费计算时延执行目标检测算法。事实上，在车联网移动边缘计算系统 中计算卸载的过程主要包括以下三个部分：

1)车辆端通过上行子载波将一个计算任务A_m(D_m,τ_m,X_m)上传到MEC服务器；

2)MEC服务器为其分配f_m的计算资源并执行任务m；

3)MEC服务器将输出数据发送回车辆端。

通常情况下由于输出数据的数据量通常比输入数据小得多，因此可以忽略返回输出数据 的时延和能耗。基于上述计算资源分配结果，服务器端执行目标检测算法所需的计算时延以 及卸载过程的总时延可以分别表示为：

其中，T_m分别表示视频上传时延，边缘服务器计算时延和卸载过程的总时延。 D_m,X_m分别表示当前任务的数据量和计算复杂度，f_m表示边缘服务器为当前目标检测任务 所分配的计算资源。

步骤四、视频语义驱动的通信资源和计算资源联合分配优化模型；

基于以上对通信资源和计算资源限制下的视频内容理解精度的表达式，考虑如何推导通 信资源和计算资源限制下视频内容理解精度的统一表达式。由于通信资源与计算资源相互独 立存在，但共同影响到目标检测精度。因此考虑将二者相乘的合理性：表示在通信资源分配下目标检测精度的基础上，则改变算力带来的检测精度的变化符合步骤三中计算资源限制下 目标检测精度的曲线趋势。

因此根据图5将当前目标检测算法所需计算资源对应的检测精度进行归一化，由于目标 检测精度总是小于1的，因此需要额外再乘一个补偿因子，将其数值调节到正常的水准。不 难发现，补偿因子的存在仅仅是补偿了归一化过程中数值上的大小，并不会影响整体的资源分配以及后续的对比算法。基于以上理论分析，得到联合通信资源和计算资源的目标检测精 度最大化优化模型可以表示为：

s.t.C1:R_data,m≤R_m

C3:B_min≤B_m≤B_total

C4:T_m(B_m,f_m)≤τ_m

C6:f_min≤f_m≤F_total

其中M为车辆总数，ρ为补偿因子，补偿归一化的影响；I_m表示原视频中待检测的目标 数量(密度)，即表征当前视频数据的重要程度；R_data,m表示第m辆车所采集视频的码率；R_m表示香农公式下所允许的最大数据速率；和分别表示通信资源和计算资源分配下 的平均检测精度；τ_m表示第m辆车的计算任务所允许的最大时延；B_m是每个车辆所分配的 带宽，f_m是每个车辆所分配的计算资源；B_min,F_min分别表示系统限制带宽和计算资源的最小 值；B_total,F_total分别表示系统总带宽资源和MEC计算资源。

约束条件C1表示传输视频的码率受到车辆的传输速率限制，由于视频传输过程受到无 线通信资源的限制及信道条件的影响，进而研究建立视频内容理解精度与通信资源(带宽、 信道、功率等)之间的关系。对于OFDMA机制，由于独占子载波分配，可以忽略子载波间 干扰。因此基于香农公式，借鉴传统传输损耗模型，车辆端通过上行子载波将一个计算任务 A_m(D_m,τ_m,X_m)上传到边缘服务器数据速率如下所示：

其中R_m为数据传输速率，B_m为车辆m上传视频所占用的带宽，g_m为车辆m的信道衰减系数，P_m为车辆m的发射功率。

约束条件C2表示所有车辆分配的带宽之和不超过总带宽B_total；

约束条件C3表示每个车辆分配的带宽不小于限制B_min；

约束条件C4表示每个车辆当前目标检测任务的系统总时延不大于τ_m；

约束条件C5表示所有车辆分配的算力之和不超过边缘服务器总计算资源F_total；

约束条件C6表示每个车辆分配的算力不小于限制f_min；

步骤五、在视频语义驱动的资源分配优化模型的基础上，构建强化Q学习算法模型；

步骤501、设置超参数；

强化Q学习算法训练的效果和它的主要参数有较强的相关性，本模型的主要参数设定如 下：1)学习速率α取0.1，让算法保留历史训练结果的90％，更注重过往经验；2)折扣因子 γ取0.9，让算法考虑下一步效益的90％，更重视长远利益；3)ε-greedy策略中的ε取0.8，让算法有20％的尝试空间，避免陷入局部最优。

步骤502、构建状态空间；

状态空间为M个车辆分配的带宽B_m＝{B₁,B₂,…,B_M}和计算资源f_m＝{f₁,f₂,…,f_M}，其 中B_m∈[B_min,B_total)，f_m∈[f_min,F_total)。

步骤503、构建动作空间；

动作空间为M个车辆带宽和计算资源的分配变化。为简化模型中的Q值表，假设带宽变 化的最小步长为总带宽的1％，算力变化的最小步长为总计算资源的1％。当M＝3时，每个 动作对应只有两个车辆的带宽增减，因此整个动作空间可表示为：

a_m＝[B_m1,B_m2,...,B_mN,f_m1,f_m2,...,f_mN]

步骤504、构建环境反馈；

设奖励函数则环境反馈的奖励值为下 一状态和当前状态的R的差值ΔR＝R′-R，由于训练的目标是R取得最优值，因此希望R往 不断增大的方向优化，当R减小时，则将反馈函数为负值。

强化Q学习算法对于每个训练回合，具体步骤如下：

(1)设置初始状态[B_m,f_m]；

(2)基于贪婪决策选择动作a：若随机数random小于ε，则根据Q值表选择动作空间中Q值最大的动作a；若随机数random大于ε，则随机选择动作a；

(3)执行所选择的动作a，观测下一带宽分配状态[B′_m,f′_m]和环境反馈的R′值，计算得 到变化量ΔR；

(4)更新Q值表：Q′_m(s,a)＝Q_m(s,a)+α(R_m(s,a)+γ·maxQ_m(s′,a′)-Q_m(s,a))；

(5)更新当前状态：B_m←B′_m,f_m←f′_m；

(6)返回步骤(2)，直至B_m＜B_min或f_m＜f_min，回合结束。

通过将本发明视频语义驱动的联合资源分配方法与基于QoC的单一频谱资源分配方法、 通信和计算资源平均分配方法分别做对比，验证本发明所提出算法的优越性；

资源分配仿真结果如图6和图7所示。就目标检测而言，视频重要程度与视频中所包含 目标个数成正比。图6表示固定计算资源为2000MHz时，改变频谱资源1MHz—20MHz，各重要程度不同视频的频谱资源分配结果。图7表示固定频谱资源限制为10MHz时，改变计算资源1000MHz—3000MHz，各重要程度不同视频的计算资源分配结果。仿真结果表明， 面向QoC的联合资源分配结果倾向于为重要程度更高的视频分配更多的通信资源和计算资源，从而提升整体的平均视频内容理解精度。

图8表示采用不同方案的平均检测精度与系统总带宽的关系。对于所有方案，系统总带 宽越高，平均检测精度越高，因为更高的带宽资源可确保更好的视频质量。随着系统总带宽 的增加，本发明提出的基于QoC的联合资源分配方案的平均检测精度始终优于其他两种资源分配方案。此外，当系统总带宽处于较低水平时，基于QoC的联合资源分配方案和单一频 谱资源分配方案的平均检测精度明显高于资源平均分配方案。随着系统总带宽的增加，基于 QoC的单一频谱资源分配方案的优势被慢慢稀释，而基于QoC的联合资源分配方案的优势 则越来越明显。

图9表示在不同方案下平均检测精度与视频信息标准差的关系。当视频信息量标准差为 0时，即各视频内容重要性相同，三种资源分配方案的平均检测精度相同。随着视频信息量 标准差的增大，即各视频内容重要性差距逐渐变大，本发明提出的基于QoC的联合资源分配 方案倾向于为信息量大的视频数据，即重要程度更高，分配更多的频谱资源和计算资源，因 此其在平均检测精度上的优势就越来越明显。

图10表示不同方案的平均检测精度与MEC系统中车辆数量的关系。随着MEC系统中车辆数量的增加，每个车分配的资源越少，因此三种方案的平均检测精度逐渐下降。尽管如此，本发明提出的基于QoC的联合资源分配方案的平均检测精度始终优于其他两种资源分配方案。因此需要根据不同任务对检测精度的要求而确定当前MEC系统的可容纳车辆的最大数量。

综上所述，通过实施本发明一种车联网中视频语义驱动的联合资源分配方法，可以优化 车辆端到边缘服务器端的频谱分配以及边缘服务器端的计算资源分配，在时延约束下最大化 平均目标检测精度。相比于基于QoE和QoS的资源分配算法，本发明所设计的基于视频语 义的资源分配算法，考虑了所传输的视频内容或语义信息，针对视频理解或分析的准确率提出资源分配方案。相比于基于QoC的资源分配算法，本发明从计算资源角度考虑不同算力下 的目标检测算法对最终检测精度的影响，且联合考虑通信资源和边缘服务器计算资源限制下 的联合资源分配。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说， 在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明 的保护范围。

Claims (1)

1.一种车联网中视频语义驱动的通信和计算资源联合分配方法，其特征在于，具体步骤包括：

步骤一、构建车辆端与边缘服务器端视频语义通信的车联网系统模型；

系统模型包括配备边缘服务器的蜂窝基站BS和M辆装有摄像头的智能网联汽车；

整个系统的通信和计算过程如下：1)车辆发起视频传输请求，对所采集的视频进行预处理，获取视频信息并将其上传到边缘服务器，同时边缘服务器获取信道状态信息CSI；2)边缘服务器获取视频信息和CSI后，根据视频语义驱动的资源分配方法得到最优的频谱资源和计算资源分配结果；3)车辆根据频谱资源分配的结果完成视频的编码压缩，通过无线信道传输到边缘服务器；4)边缘服务器将接收到的视频进行解码，根据所分配的计算资源采用不同的语义理解算法，对视频进行语义理解并将结果反馈给各车辆；

步骤二、构建基于目标检测任务的视频语义驱动的频谱资源分配模型；

视频的语义是待检测的目标类别和数量，视频语义的理解准确率是目标检测的准确率；详细的频谱资源分配模型建模步骤如下：

步骤201、构建目标检测精度与视频量化参数QP值之间的关系；

采用H.265视频编码压缩标准对视频数据进行编码压缩处理，然后采用Faster-RCNN算法对Caltech数据集中不同压缩程度的视频进行目标检测，目标类别主要包括行人、车辆和交通信号灯；根据数据结果拟合出如下的指数关系模型：

P(Q)＝α·Q^β+γ

Q表示QP值，其中QP值对应着不同的压缩步长，P表示目标检测精度，α,β,γ均为模型参数；引入均方误差值MSE作为损失函数，并利用回归方法求解模型参数；

步骤202、构建检测准确率和视频码率的关系；

根据实验研究QP和视频数据速率之间的关系，通过曲线拟合，QP和视频数据速率之间的关系可以表示为：

Q＝a·exp(b·R_data)

其中R_data为视频源编码率，a,b为模型参数；exp(·)表示以自然常数e为底的指数函数，相应的ln(·)表示以自然常数e为底的对数函数；

联合步骤201和本步骤上述所得的关系模型，可得检测准确率与码率的关系模型如下：

P_mAP(Q)＝α(a·exp(b·R_data))^β+γ

其中P_mAP(Q)表示频谱资源限制下的目标检测精度；

步骤203、构建视频传输时延和频谱资源分配的关系；

视频上传过程的时延可表示为：

其中表示视频从车辆上传到边缘服务器过程的时延，D_m为视频数据的大小，R_m表示视频数据传输速率；

步骤三、构建视频语义驱动的计算资源分配模型；

在收到各个车辆的视频数据后，边缘服务器基于视频内容重要性分配计算资源执行目标检测算法；详细的计算资源分配模型建模步骤如下：

步骤301、构建目标检测精度与其模型计算复杂度之间的关系；

采用Faster R-CNN、R-FCN和SSD三个经典目标检测算法上在COCO数据集上进行计算，得出平均检测性能；

步骤302、构建目标检测精度与其模型执行算法所需CPU频率之间的关系；

建立深度神经网络DNN模型训练和推理性能与DNN模型复杂度之间的关系，其为一系列散点图，对散点图进行曲线拟合，进而构建视频内容理解精确度和执行算法所需CPU频率之间的闭合表达式可表示为：

其中P_mAP(f_m)表示计算资源限制下的目标检测精度，f_m表示边缘服务器为当前目标检测任务所分配的CPU频率资源，x,y,z,w均为模型参数；此处仍以MSE作为损失函数；

步骤303、构建计算时延和计算资源分配的关系；

基于步骤二频谱资源分配结果，服务器端执行目标检测算法所需的计算时延以及卸载过程的总时延可以分别表示为：

其中，T_m分别表示边缘服务器计算时延和卸载过程的总时延；X_m表示当前任务的计算复杂度；

步骤四、构建视频语义驱动的通信资源和计算资源联合分配优化模型；

联合通信资源和计算资源的目标检测精度最大化优化模型可以表示为：

s.t.C1:R_data,m≤R_m

C3:B_min≤B_m≤B_total

C4:T_m(B_m,f_m)≤τ_m

C6:f_min≤f_m≤F_total

其中M为车辆总数，ρ为补偿因子，补偿归一化的影响；I_m表示原视频中待检测的目标数量；R_data,m表示第m辆车所采集视频的码率；Q(R_data,m)表示在R_data,m码率条件下的检测准确率；R_m表示香农公式下所允许的最大数据速率；和分别表示通信资源和计算资源分配下的平均检测精度；τ_m表示第m辆车的计算任务所允许的最大时延；B_m为车辆m上传视频所占用的带宽；T_m(B_m,f_m)表示在带宽资源B_m和CPU频率资源f_m条件下的时延；B_min,f_min分别表示系统限制带宽和CPU频率资源的最小值；B_total,F_total分别表示系统总带宽资源和边缘服务器总CPU频率资源；

约束条件C1表示传输视频的码率受到车辆的传输速率限制；基于香农公式，借鉴传统传输损耗模型，车辆端通过上行子载波将一个计算任务A_m(D_m,τ_m,X_m)上传到边缘服务器数据速率如下所示：

其中R_m为数据传输速率，g_m为车辆m的信道衰减系数，P_m为车辆m的发射功率，σ²为噪声功率；

约束条件C2表示所有车辆分配的带宽之和不超过总带宽B_total；

约束条件C3表示每个车辆分配的带宽不小于限制B_min；

约束条件C4表示每个车辆当前目标检测任务的系统总时延不大于τ_m；

约束条件C5表示所有车辆分配的执行算法所需CPU频率之和不超过边缘服务器总CPU频率资源F_total；

约束条件C6表示每个车辆分配的执行算法所需CPU频率不小于限制f_min；

步骤五、在视频语义驱动的资源分配优化模型的基础上，构建强化Q学习模型；

使用强化Q学习模型，通过训练学习模型得到资源分配的最优值；详细强化Q学习模型建模步骤如下：

步骤501、设置超参数；

强化Q学习模型的主要参数设定如下：1)学习速率lr取0.1；2)折扣因子dis取0.9；3)强化Q学习模型中贪婪策略算法策略中的ε取0.8；

步骤502、构建状态空间；

状态空间为M个车辆分配的带宽B_m＝{B₁,B₂,…,B_M}和计算资源f_m＝{f₁,f₂,…,f_M}，其中B_m∈[B_min,B_total)，f_m∈[f_min,F_total)；

步骤503、构建动作空间；

动作空间为M个车辆带宽和计算资源的分配变化；为简化强化Q学习模型中的Q值表，假设带宽变化的最小步长为总带宽的1％，执行算法所需CPU频率变化的最小步长为总计算资源的1％；当M＝3时，每个动作对应只有两个车辆的带宽增减，因此整个动作空间可表示为：

a_m＝[B_m1,B_m2,B_m3,f_m1,f_m2,f_m3]

步骤504、构建环境反馈；

设奖励函数则环境反馈的奖励值为下一状态R′和当前状态的R的差值ΔR＝R′-R。

Images