CN114401063B - 基于轻量化模型的边缘设备协同频谱智能监测方法和系统 - Google Patents
基于轻量化模型的边缘设备协同频谱智能监测方法和系统 Download PDFInfo
- Publication number
- CN114401063B CN114401063B CN202210046190.5A CN202210046190A CN114401063B CN 114401063 B CN114401063 B CN 114401063B CN 202210046190 A CN202210046190 A CN 202210046190A CN 114401063 B CN114401063 B CN 114401063B
- Authority
- CN
- China
- Prior art keywords
- layer
- model
- intelligent monitoring
- spectrum
- lightweight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 162
- 238000012544 monitoring process Methods 0.000 title claims abstract description 142
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000012549 training Methods 0.000 claims abstract description 51
- 238000004806 packaging method and process Methods 0.000 claims abstract description 21
- 238000011176 pooling Methods 0.000 claims description 40
- 238000005516 engineering process Methods 0.000 claims description 18
- 125000002015 acyclic group Chemical group 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 3
- 238000005538 encapsulation Methods 0.000 claims description 3
- 238000012821 model calculation Methods 0.000 claims 1
- 238000012856 packing Methods 0.000 claims 1
- 238000004422 calculation algorithm Methods 0.000 abstract description 13
- 238000013135 deep learning Methods 0.000 abstract description 12
- 230000008901 benefit Effects 0.000 abstract description 5
- 238000013136 deep learning model Methods 0.000 abstract description 3
- 238000013528 artificial neural network Methods 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 6
- 238000003062 neural network model Methods 0.000 description 6
- 230000011218 segmentation Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000005855 radiation Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000013138 pruning Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/391—Modelling the propagation channel
- H04B17/3912—Simulation models, e.g. distribution of spectral power density or received signal strength indicator [RSSI] for a given geographic region
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/61—Installation
- G06F8/63—Image based installation; Cloning; Build to order
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/391—Modelling the propagation channel
- H04B17/3913—Predictive models, e.g. based on neural network models
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Abstract
本申请涉及一种基于轻量化模型的边缘设备协同频谱智能监测方法和系统。本发明将深度学习算法模型部署于边缘设备上,利用边缘设备靠近数据采集终端的优势,提高频谱监测效率。在云端服务器上训练用于频谱监测深度学习算法模型,将训练好的推理模型进行保存,并根据网络结构特点进行分割,而后使用轻量化容器工具Docker对分割后的子模型进行封装,部署于边缘设备上,进行频谱信号调制方式的协同识别。本发明利用多种异构边缘设备,验证方法和系统的可行性,提高分布式深度学习模型对硬件的适用性。
Description
技术领域
本发明涉及频谱智能监测领域,具体涉及一种基于轻量化模型的边缘设备协同频谱智能监测方法和系统。
背景技术
随着信息化的逐步增强,电磁频谱监测技术愈加广泛。电磁频谱监测是指对包括战场无线电设备辐射源的检测、测向、定位,对信号参数的测量,对信号调制方式的识别,对信号所含信息的监听。通过对频谱监测,可以感知空穴频谱以提高频谱利用率,还可以监测信号频率和时间等信息,对辐射源进行定位。通过部署多个频谱监测节点,增大监测范围,提高监测的容错性。
电磁频谱信号调制方式的识别是电磁频谱监测重要内容之一。对信号调制方式的识别可以增强对信号的感知,并解析信号信息,有助于监测信号发射设备,并对其连续监听和定位。电磁频谱信号的调制方式智能识别,主要是利用深度神经网络提取辐射源频谱信号的某些特征参数来自动识别信号的调制方式。在人工智能技术迅速发展的今天,各种深度神经网络在对通信信号调制方式识别时,效果显著,识别准确率较高,比较著名的有卷积神经网络、长短期记忆网络、循环神经网络等,或者将各种网络进行组合,级联式对信号识别。
目前关于轻量化模型的研究主要集中在几个方面。一是模型结构轻量化,利用分布式深度学习技术,将模型分为几个小的轻量化子模型,或者通过减少网络层数、模型剪枝等方法进行轻量化。二是通过轻量化工具减少模型运行需要的资源。边缘设备具有本身小型化、嵌入式的特点,并且存储、计算和网络等资源比较有限,现有的分布式深度学习训练和推理数据太多、计算量大、网络模型规模太大,不能满足在边缘设备上部署的要求。
发明内容
基于此,有必要针对上述技术问题,提供一种基于轻量化模型的边缘设备协同频谱智能监测方法和系统。
一种基于轻量化模型的边缘设备协同频谱智能监测方法,所述方法包括:
获取多个电磁频谱信号,并将所述电磁频谱信号作为训练样本。
在云端服务器,利用所述训练样本对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成。
根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型。
采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像。
将所述子推理模型镜像部署到分布式的边缘设备上,利用边缘设备实现协同频谱智能监测。
在其中一个实施例中,预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;在云端服务器,利用所述训练样本对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型,并将训练好的轻量化频谱智能监测网络模型保存为推理模型,包括:
在云端服务器,将所述训练样本输入到预构建的频谱智能监测轻量化网络模型中经过1层卷积层、1层最大值池化层、1层卷积层、连续3层全连接层进行处理后,得到频谱监测预测结果。
根据所述训练样本、频谱监测预测结果以及预设的误差函数,采用误差反向传播的方式对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型。
将训练好的轻量化频谱智能监测网络模型保存为推理模型。
在其中一个实施例中,根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型,步骤前还包括:
在训练好的轻量化频谱智能监测网络模型的第一层卷积层前加上了padding层,各层之间加上dropout层,得到完整网络。
根据训练样本的维度尺寸和所述完整网络中每层的预设参数,确定每层的计算量和参数量;所述完整网络中每层的预设参数包括padding层的参数,卷积层的卷积尺寸、步长和卷积通道数,池化层的最大池化通道数,池化核尺寸,池化步长,以及全连接层的通道数。
在其中一个实施例中,根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型,包括:
将训练好的轻量化频谱智能监测网络模型的每一层作为一个连接点,构建轻量化频谱智能监测网络模型的有向无环拓扑图。
根据所述有向无环拓扑图中的连接点、完整网络中各层的计算量对所述推理模型进行预分割,并根据预分割结果进行推理所用的推理用时与预设阈值进行比较,确定最优网络分割点位置。
根据网络分割点位置对所述推理模型进行分割,得到子推理模型。
在其中一个实施例中,采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像,包括:
采用Docker容器对所述子推理模型进行封装,得到的封装结果。
利用Docker工具对所述封装结果制作镜像,得到子推理模型镜像;并将所有子推理模型镜像上传至私有仓库或者线下压缩文件形式移植共享。
在其中一个实施例中,所述方法中分布式的边缘设备是满足预设条件的边缘设备,预设条件包括:安装有Docker软件,根据需要进行软件更新,与云端服务器设置在同一网段,利用交换机或者无线方式组成局域网。
在其中一个实施例中,所述方法中预构建的轻量化频谱智能监测网络模型的激活函数为ReLu。
一种基于轻量化模型的边缘设备协同频谱智能监测系统,所述系统包括:云端服务器和不少于2个边缘设备。
所述云端服务和所述分布式的边缘设备之间以及所述分布式的边缘设备之间通过网络进行数据传输。
所述云端服务器用于根据有多个电磁频谱信号构成的训练样本对预构建的轻量化频谱智能监测网络模型进行训练,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型;采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像,并将所有子推理模型镜像上传至私有仓库部或者线下压缩文件形式移植共享;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成。
所述分布式的边缘设备是用于根据预设的频谱监测业务,在需要根据频谱监测业务的具体需求,在所述私有仓库部中拉取所需子推理模型镜像,进行协同频谱智能监测。
上述基于轻量化模型的边缘设备协同频谱智能监测方法和系统,本发明将深度学习算法模型部署于边缘设备上,利用边缘设备靠近数据采集终端的优势,提高频谱监测效率。在云端服务器上训练用于频谱监测深度学习算法模型,将训练好的推理模型进行保存,并根据网络结构特点进行分割,而后使用轻量化容器工具对分割后的子推理模型进行封装和镜像处理,得到子推理模型映像,并将其部署于边缘设备上,进行频谱信号调制方式的协同识别。本发明利用多种异构边缘设备,验证方法和系统的可行性,提高分布式深度学习模型对硬件的适用性。
附图说明
图1为一个实施例中基于轻量化模型的边缘设备协同频谱智能监测方法流程示意图;
图2为另一个实施例中频谱智能监测轻量化神经网络结构图;
图3为另一个实施例中有向无环拓扑图,其中(a)为3分支神经网络结构图,(b)为3分支神经网络的有向无环图;
图4为一个实施例中模型分割示意图;
图5为另一个实施例中容器虚拟化技术路线图;
图6为一个实施例中基于轻量化模型的边缘设备协同频谱智能监测方法流程图;
图7为一个实施例中基于轻量化模型的边缘设备协同频谱智能监测系统。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种基于轻量化模型的边缘设备协同频谱智能监测方法,该方法包括以下步骤:
步骤100:获取多个电磁频谱信号,并将电磁频谱信号作为训练样本。
具体的,采用MATLAB模拟了共11种信号调制方式,其中包括8种数字信号调制方式,如8PSK、BPSK、CPFSK、GFSK、PAM4、QAM16、QAM64、QPSK,3种模拟信号调制方式,如AM-DSB、AM-SSB、WBFM。利用MATLAB进行数据集的构造,如表1所示为MATLAB设置的信号参数。
表1电磁频谱信号参数表
调制类型 | 基带速率 | 信噪比 | 训练集 | 测试集 |
11种 | 20kHz | -20dB-18dB | 22万条 | 22万条 |
采样点 | 中心频率 | 传输延迟 | 多普勒频移 | 采样频率 |
128 | 915Mhz | 30 | 100 | 20kHz |
信噪比(SNR)从-20dB到18dB每间隔2dB变化,基带速率选择20kHz进行仿真。每个信号调制方式、基带速率、信噪比仿真出2000条信号。11种调制方式,20种信噪比共440000条信号数据,训练样本中训练集和测试集各220000条信号。
步骤102:在云端服务器,利用训练样本对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成。预构建的轻量化频谱智能监测网络模型结构如图2所示。
具体的,根据电磁频谱信号调制方式的需求,考虑到边缘设备自身资源约束性的特点,在构造神经网络时必须权衡识别准确率以及算法模型的复杂度。部署到边缘设备必须具有轻量化的特点,其自身结构以及进行信号识别时的计算量所占有的资源应当满足边缘设备的要求。所以构建的网络模型层数不能太多,计算量不能太大。经过筛选和实验,最终设计了如图2所示的基于卷积神经网络的DNN模型。
预构建的轻量化频谱智能监测网络模型2个卷积层、池化层和3个全连接层组成。卷积核参数和偏置参数是在云端服务器中对神经网络的梯度前向传播和误差反向传播计算的。
步骤104:根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型。
步骤106:采用轻量化容器技术对子推理模型进行封装、镜像处理,得到子推理模型镜像。
具体的,轻量化容器技术可采用Docker容器技术、rkt容器技术、Hyper容器技术或CRI-O容器技术。
步骤108:将子推理模型镜像部署到分布式的边缘设备上,利用边缘设备实现协同频谱智能监测。
具体的,边缘设备是具有一定的存储和计算资源,靠近现场设备,可以收到现场数据采集设备传输的各类数据,完成相应的计算,根据需要可以将结果传到云端服务器。
边缘设备主要包括网关、路由器、智能边缘处理设备等。边缘设备广泛的分布在不同的现场场景如高速公路、街道、工厂等。
上述基于轻量化模型的边缘设备协同频谱智能监测方法和系统,本发明将深度学习算法模型部署于边缘设备上,利用边缘设备靠近数据采集终端的优势,提高频谱监测效率。在云端服务器上训练用于频谱监测深度学习算法模型,将训练好的推理模型进行保存,并根据网络结构特点进行分割,而后使用轻量化容器工具对分割后的子推理模型进行封装和镜像处理,得到子推理模型映像,并将其部署于边缘设备上,进行频谱信号调制方式的协同识别。本发明利用多种异构边缘设备,验证方法和系统的可行性,提高分布式深度学习模型对硬件的适用性。
在其中一个实施例中,预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;步骤102包括:在云端服务器,将训练样本输入到预构建的频谱智能监测轻量化网络模型中经过1层卷积层、1层最大值池化层、1层卷积层、连续3层全连接层进行处理后,得到频谱监测预测结果;根据训练样本、频谱监测预测结果以及预设的误差函数,采用误差反向传播的方式对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型;将训练好的轻量化频谱智能监测网络模型保存为推理模型。
在其中一个实施例中,步骤104前包括:在训练好的轻量化频谱智能监测网络模型的第一层卷积层前加上了padding层,各层之间加上dropout层,得到完整网络;根据训练样本的维度尺寸和完整网络中每层的预设参数,确定每层的计算量和参数量;完整网络中每层的预设参数包括padding层的参数,卷积层的卷积尺寸、步长和卷积通道数,池化层的最大池化通道数,池化核尺寸,池化步长,以及全连接层的通道数。
具体的,两个卷积层的作用是提取电磁频谱信号的不同内部特征,卷积运算主要是乘法和加法运算。若输入信号维度尺寸为Tin*Lin,卷积核尺寸为K*K,步长为S,卷积通道数为C,Padding为P,则卷积后输出信号尺寸为:
则当输出信号通道数为Cc-out时,总的卷积次数为:
Y=Tc-out*Lc-out*Cc-out (3)
卷积层的参数量和卷积核的大小、偏置大小有关,当卷积层的卷积核尺寸为K*K、步长为S、信号输入通道数Cin、信号输出通道数Cc-out。则该卷积层参数总量为:
K*K*Cin*Cc-out+Cc-out(4)
最大池化层在卷积层之后,主要是降低信号维度。本发明采取最大池化层,将卷积层提取到的信号特征按照池化层大小划分为几个特定区域,取其中的最大值。从而减少网络的参数来减小计算量,加速计算、但保留了信号的重要信息,使其检测出的特征更加健壮,并且能够在一定程度上控制过拟合。若输入信号尺寸为TD-in*LD-in,最大池化通道数为D,池化核尺寸为KD﹡KD,池化步长为SD,则经过最大池化层后信号输出维度尺寸为:
最后三个全连接核心操作是矩阵向量乘积,全连接层相邻两层的神经元全部进行特征信息传输。因为用到了所有的局部特征,全连接层的计算量和参数存储量都比较大。在网络模型中起到11种信号调制方式“分类器”的作用。若考虑输入特征图尺寸为Tl-in*Ll-in*Cl-in,全连接层将特征图展开为一维向量1*R,实际上用R个Tl-in*Ll-in*Cl-in的滤波器去做卷积,参数量为:Tl-in*Ll-in*Cl-in*R。
在第一层卷积层前加上了padding层,各层之间加上了召回率为0.5的dropout层,以防止网络过拟合。两个卷积层卷积核的数量分别为256和80,卷积核大小为1*3和1*2。根据构造电磁频谱数据集的特点,输入电磁频谱信号维度为(1,2,128)
根据网络结构和参数计算公式,并且加上dropout、补充层padding和展平flatten层后得出整个模型的输出维度与参数总量表如表2所示。由表2可知网络模型总参数量为2698075,其中全连接层参数量比较大,占到总参数量的99%。卷积层虽然参数较少,但在实际频谱监测中,要考虑大规模频谱信号数据在卷积层中的矩阵运算所需的存储资源。
表2模型输出与参数表
在其中一个实施例中,步骤104包括:将训练好的轻量化频谱智能监测网络模型的每一层作为一个连接点,构建轻量化频谱智能监测网络模型的有向无环拓扑图;根据有向无环拓扑图中的连接点、完整网络中各层的计算量对推理模型进行预分割,并根据预分割结果进行推理所用的推理用时与预设阈值进行比较,确定最优网络分割点位置;根据网络分割点位置对推理模型进行分割,得到子推理模型。
具体的:(1)神经网络推理模型分割原理
边缘设备协同进行频谱监测应该与基于深度学习的频谱监测算法应用的动态部署结合起来,体现使用边缘计算框架管理分布式的边缘设备的优势。当神经网络模型计算开销比较大时,边缘设备计算能力有限,无法独立完成完整神经网络模型的推理运算,需要将神经网络模型进行分割后,分布式地部署在边缘设备上,由多个边缘设备协同完成单个边缘设备无法完成的神经网络模型推理运算。DNN的卷积层、池化层、全连接层等各层都包括相应的数学算子,神经网络的推理过程可以由这些计算层描述。推理过程可以构建成有向无环图的拓扑结构形式。例如,有向无环图的构建过程以多分枝模型为例进行说明,多分枝模型的有向无环图的构建过程如图3所示,其中(a)为3分支神经网络结构图,(b)为3分支神经网络的有向无环图,图3中(b)中的{v1,v2,v3,v4,v5,v6,v7,v8}称为3分支神经网络有向无环图中的连接点。对于有向无环拓扑图中的任意两个连接点,只有当前一层推理完毕后,其输出作为下一层的输入,则有向无环图中的两层之间存在一个有向链接。
(2)频谱监测推理模型分割方法
基于有向无环图中的连接点,设置网络分割点并开展实验。以网络层为单位进行分割,确定网络分割点的位置。
步骤1:针对需要分割的网络模型,搭建有向无环拓扑图,测量和建模不同神经网络层的计算量以及各神经网络层之间的传输数据量;
步骤2:构建频谱智能监测轻量化神经网络的有向无环图,根据图中的连接点、各层计算量以及推理用时对神经网络层设置合适的分割点;推理用时是根据每次根据设置网络分割点进行分割后,用得到的子模型进行推理,从推理开始到推理完成所用的时间。
步骤3:在频谱监测的神经网络模型上进行分割。根据边缘设备数量,按照模型输出与参数表分析网络层的特点、并且联系具体监测任务和步骤1在边缘设备中任务响应时间等因子,使划分后各部分神经网络模型能在边缘设备中完成推理计算。频谱监测协同推理模型可以减少推理在边缘设备上的存储,且准确性没有损失。本发明构建神经网络最优分割点如图所示,拟分为三部分,部署至三个边缘设备,分别为卷积层和池化层、卷积层和全连接层、两层全连接层。模型分割如图4所示。
在其中一个实施例中,步骤106包括:采用Docker容器对子推理模型进行封装,得到的封装结果;利用Docker工具对封装结果制作镜像,得到子推理模型镜像;并将所有子推理模型镜像上传至私有仓库或者线下压缩文件形式移植共享。
本发明选择使用Docker容器技术对云端服务器训练好的轻量化频谱智能监测网络模型分割后的子推理模型与环境进行封装。Docker官方仓库提供多种深度学习框架的基础镜像,所以无需在各边缘设备配置深度学习环境,实现算法轻量便捷、便于分享、易部署的目的。可以将子推理模型镜像上传至私有仓库或者线下压缩文件形式移植共享。容器虚拟化包括频谱镜像算法的制作和封装、镜像的管理和维护、镜像运行为容器、容器调度与应用部署等过程。具体技术路线如图5所示。主要步骤包括:
(1)在云端服务器部分训练好轻量化频谱智能监测网络模型后,保存模型参数为推理算法,并对模型进行分割得到多个子推理模型;
(2)在Docker公共仓库Docker Hub中下载深度学习框架TensorFlow、Pytorch等的基础镜像;
(3)利用镜像制作文件Dockerfile综合基础镜像、依赖的Python第三方包以及多个子推理模型制作多个子推理模型镜像;
(4)将多个子推理模型镜像全部上传到私有镜像仓库;
(5)边缘设备拉取子推理模型镜像。
在其中一个实施例中,该方法中分布式的边缘设备是满足预设条件的边缘设备,预设条件包括:安装有Docker软件,根据需要进行软件更新,与云端服务器设置在同一网段,利用交换机或者无线方式组成局域网。
在其中一个实施例中,该方法中预构建的轻量化频谱智能监测网络模型的激活函数为ReLu。
在一个实施例中,如图6所示,提供了一种基于轻量化模型的边缘设备协同频谱智能监测方法,该方法的实施步骤包括:
(1)构造轻量化频谱智能监测网络模型,并在云端服务器对轻量化频谱智能监测网络模型;
(2)保存轻量化频谱智能监测网络模型;
(3)计算网络模型的参数量;
(4)确立有向无环图;
(5)按照模型参数量和网络结构对模型进行分割;
(6)使用容器化工具Docker对分割后的子模型进行封装;
(7)制作频谱监测算法镜像;
(8)在边缘设备部署频谱监测算法镜像。
(9)各边缘设备协同进行频谱监测,识别信号的调制方式。
在一个实施例中,如图7所示,提供了一种基于轻量化模型的边缘设备协同频谱智能监测系统,该系统包括:云端服务器和不少于2个边缘设备。
云端服务和边缘设备之间以及边缘设备之间通过网络进行数据传输。
云端服务器用于根据有多个电磁频谱信号构成的训练样本对预构建的轻量化频谱智能监测网络模型进行训练,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型;采用轻量化容器技术对子推理模型进行封装、镜像处理,得到子推理模型镜像,并将所有子推理模型镜像上传至私有仓库部或者线下压缩文件形式移植共享;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成。
边缘设备用于根据预设的频谱监测业务,在需要根据频谱监测业务的具体需求,在私有仓库部中拉取所需子推理模型镜像,进行协同频谱智能监测。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (4)
1.一种基于轻量化模型的边缘设备协同频谱智能监测方法,其特征在于,所述方法包括:
获取多个电磁频谱信号,并将所述电磁频谱信号作为训练样本;
在云端服务器,利用所述训练样本对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;
根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型;
采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像;
将所述子推理模型镜像部署到分布式的边缘设备上,利用边缘设备实现协同频谱智能监测;
预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;
其中:
步骤:在云端服务器,利用所述训练样本对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型,并将训练好的轻量化频谱智能监测网络模型保存为推理模型,具体包括:
在云端服务器,将所述训练样本输入到预构建的频谱智能监测轻量化网络模型中经过1层卷积层、1层最大值池化层、1层卷积层、连续3层全连接层进行处理后,得到频谱监测预测结果;
根据所述训练样本、频谱监测预测结果以及预设的误差函数,采用误差反向传播的方式对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型;
将训练好的轻量化频谱智能监测网络模型保存为推理模型;
所述根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型,步骤前还包括:
在训练好的轻量化频谱智能监测网络模型的第一层卷积层前加上了padding层,各层之间加上dropout层,得到完整网络;
根据训练样本的维度尺寸和所述完整网络中每层的预设参数,确定每层的计算量和参数量;所述完整网络中每层的预设参数包括padding层的参数,卷积层的卷积尺寸、步长和卷积通道数,池化层的最大池化通道数,池化核尺寸,池化步长,以及全连接层的通道数;
步骤:根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型,具体包括:
将训练好的轻量化频谱智能监测网络模型的每一层作为一个连接点,构建轻量化频谱智能监测网络模型的有向无环拓扑图;
根据所述有向无环拓扑图中的连接点、完整网络中各层的计算量以及边缘设备的数量对所述推理模型进行预分割,并根据预分割结果进行推理所用的推理用时与预设阈值进行比较,确定最优网络分割点位置;
根据网络分割点位置对所述推理模型进行分割,得到子推理模型;
步骤:采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像,具体包括:
采用Docker容器对所述子推理模型进行封装,得到的封装结果;
利用Docker工具对所述封装结果制作镜像,得到子推理模型镜像;并将所有子推理模型镜像上传至私有仓库或者线下压缩文件形式移植共享。
2.根据权利要求1所述的方法,其特征在于,所述方法中分布式的边缘设备是满足预设条件的边缘设备,预设条件包括:安装有Docker软件,根据需要进行软件更新,与云端服务器设置在同一网段,利用交换机或者无线方式组成局域网。
3.根据权利要求1所述的方法,其特征在于,所述方法中预构建的轻量化频谱智能监测网络模型的激活函数为ReLu。
4.一种基于轻量化模型的边缘设备协同频谱智能监测系统,其特征在于,所述系统包括:云端服务器和不少于2个分布式的边缘设备;
所述云端服务和所述分布式的边缘设备之间以及所述分布式的边缘设备之间通过网络进行数据传输;
所述云端服务器用于根据有多个电磁频谱信号构成的训练样本对预构建的轻量化频谱智能监测网络模型进行训练,并将训练好的轻量化频谱智能监测网络模型保存为推理模型;根据训练好的轻量化频谱智能监测网络模型的层次结构和分布式的边缘设备的数量对所述推理模型进行分割,得到子推理模型;采用轻量化容器技术对所述子推理模型进行封装、镜像处理,得到子推理模型镜像,并将所有子推理模型镜像上传至私有仓库部或者线下压缩文件形式移植共享;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;
所述分布式的边缘设备用于根据预设的频谱监测业务,在需要根据频谱监测业务的具体需求,在所述私有仓库部中拉取所需子推理模型镜像,进行协同频谱智能监测;
其中:所述云端服务器,还用于将所述训练样本输入到预构建的频谱智能监测轻量化网络模型中经过1层卷积层、1层最大值池化层、1层卷积层、连续3层全连接层进行处理后,得到频谱监测预测结果;预构建的轻量化频谱智能监测网络模型由1层卷积层、1层最大值池化层、1层卷积层和3个全连接层构成;根据所述训练样本、频谱监测预测结果以及预设的误差函数,采用误差反向传播的方式对预构建的轻量化频谱智能监测网络模型进行训练,得到训练好的轻量化频谱智能监测网络模型;将训练好的轻量化频谱智能监测网络模型保存为推理模型;
所述云端服务器中还包括:轻量化频谱智能监测网络模型计算量和参数量确定模块,用于在训练好的轻量化频谱智能监测网络模型的第一层卷积层前加上了padding层,各层之间加上dropout层,得到完整网络;根据训练样本的维度尺寸和所述完整网络中每层的预设参数,确定每层的计算量和参数量;所述完整网络中每层的预设参数包括padding层的参数,卷积层的卷积尺寸、步长和卷积通道数,池化层的最大池化通道数,池化核尺寸,池化步长,以及全连接层的通道数;
所述云端服务器,还用于将训练好的轻量化频谱智能监测网络模型的每一层作为一个连接点,构建轻量化频谱智能监测网络模型的有向无环拓扑图;根据所述有向无环拓扑图中的连接点、完整网络中各层的计算量以及边缘设备的数量对所述推理模型进行预分割,并根据预分割结果进行推理所用的推理用时与预设阈值进行比较,确定最优网络分割点位置;根据网络分割点位置对所述推理模型进行分割,得到子推理模型;
所述云端服务器,还用于采用Docker容器对所述子推理模型进行封装,得到的封装结果;利用Docker工具对所述封装结果制作镜像,得到子推理模型镜像;并将所有子推理模型镜像上传至私有仓库或者线下压缩文件形式移植共享。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210046190.5A CN114401063B (zh) | 2022-01-10 | 2022-01-10 | 基于轻量化模型的边缘设备协同频谱智能监测方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210046190.5A CN114401063B (zh) | 2022-01-10 | 2022-01-10 | 基于轻量化模型的边缘设备协同频谱智能监测方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114401063A CN114401063A (zh) | 2022-04-26 |
CN114401063B true CN114401063B (zh) | 2023-10-31 |
Family
ID=81229962
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210046190.5A Active CN114401063B (zh) | 2022-01-10 | 2022-01-10 | 基于轻量化模型的边缘设备协同频谱智能监测方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114401063B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115858131B (zh) * | 2023-02-22 | 2023-05-16 | 山东海量信息技术研究院 | 一种任务执行方法、系统、设备及可读存储介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070181A (zh) * | 2019-04-30 | 2019-07-30 | 深圳朴生智能科技有限公司 | 一种用于边缘计算设备的深度学习的优化方法 |
CN110309914A (zh) * | 2019-07-03 | 2019-10-08 | 中山大学 | 基于边缘服务器与移动端设备协同的深度学习模型推理加速方法 |
CN111181773A (zh) * | 2019-12-13 | 2020-05-19 | 西安交通大学 | 面向异构边云协同智能系统的多组件应用的延迟预测方法 |
CN111445026A (zh) * | 2020-03-16 | 2020-07-24 | 东南大学 | 面向边缘智能应用的深度神经网络多路径推理加速方法 |
CN111522657A (zh) * | 2020-04-14 | 2020-08-11 | 北京航空航天大学 | 一种分散设备协同深度学习推理方法 |
CN112115973A (zh) * | 2020-08-18 | 2020-12-22 | 吉林建筑大学 | 一种基于卷积神经网络图像识别方法 |
CN112860411A (zh) * | 2021-03-12 | 2021-05-28 | 中国人民解放军93114部队 | 一种基于模型压缩和服务分发的边缘计算方法及系统 |
CN113067873A (zh) * | 2021-03-19 | 2021-07-02 | 北京邮电大学 | 基于深度强化学习的边云协同优化方法 |
CN113128681A (zh) * | 2021-04-08 | 2021-07-16 | 天津大学 | 一种多边缘设备辅助的通用cnn推理加速系统 |
CN113312183A (zh) * | 2021-07-30 | 2021-08-27 | 北京航空航天大学杭州创新研究院 | 面向深度神经网络的边缘计算方法 |
CN113592077A (zh) * | 2021-08-05 | 2021-11-02 | 哈尔滨工业大学 | 一种面向边缘智能的云边端dnn协同推理加速方法 |
-
2022
- 2022-01-10 CN CN202210046190.5A patent/CN114401063B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070181A (zh) * | 2019-04-30 | 2019-07-30 | 深圳朴生智能科技有限公司 | 一种用于边缘计算设备的深度学习的优化方法 |
CN110309914A (zh) * | 2019-07-03 | 2019-10-08 | 中山大学 | 基于边缘服务器与移动端设备协同的深度学习模型推理加速方法 |
CN111181773A (zh) * | 2019-12-13 | 2020-05-19 | 西安交通大学 | 面向异构边云协同智能系统的多组件应用的延迟预测方法 |
CN111445026A (zh) * | 2020-03-16 | 2020-07-24 | 东南大学 | 面向边缘智能应用的深度神经网络多路径推理加速方法 |
CN111522657A (zh) * | 2020-04-14 | 2020-08-11 | 北京航空航天大学 | 一种分散设备协同深度学习推理方法 |
CN112115973A (zh) * | 2020-08-18 | 2020-12-22 | 吉林建筑大学 | 一种基于卷积神经网络图像识别方法 |
CN112860411A (zh) * | 2021-03-12 | 2021-05-28 | 中国人民解放军93114部队 | 一种基于模型压缩和服务分发的边缘计算方法及系统 |
CN113067873A (zh) * | 2021-03-19 | 2021-07-02 | 北京邮电大学 | 基于深度强化学习的边云协同优化方法 |
CN113128681A (zh) * | 2021-04-08 | 2021-07-16 | 天津大学 | 一种多边缘设备辅助的通用cnn推理加速系统 |
CN113312183A (zh) * | 2021-07-30 | 2021-08-27 | 北京航空航天大学杭州创新研究院 | 面向深度神经网络的边缘计算方法 |
CN113592077A (zh) * | 2021-08-05 | 2021-11-02 | 哈尔滨工业大学 | 一种面向边缘智能的云边端dnn协同推理加速方法 |
Non-Patent Citations (2)
Title |
---|
EdgeMI:资源受限条件下深度学习多设备协同推理;薛峰;方维维;;现代计算机(20);全文 * |
边缘智能:边缘计算与人工智能融合的新范式;周知;《大数据》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114401063A (zh) | 2022-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hossain et al. | A deep-tree-model-based radio resource distribution for 5G networks | |
CN110968426B (zh) | 一种基于在线学习的边云协同k均值聚类的模型优化方法 | |
CN113313947A (zh) | 短期交通预测图卷积网络的路况评估方法 | |
CN113613301B (zh) | 一种基于dqn的空天地一体化网络智能切换方法 | |
CN113779247B (zh) | 基于意图驱动的网络故障诊断方法及系统 | |
CN114401063B (zh) | 基于轻量化模型的边缘设备协同频谱智能监测方法和系统 | |
CN112512069A (zh) | 基于信道波束图样的网络智能优化方法及装置 | |
CN114943284A (zh) | 行为预测模型的数据处理系统与方法 | |
CN113660687B (zh) | 网络差小区处理方法、装置、设备及存储介质 | |
CN113194493B (zh) | 基于图神经网络的无线网络数据缺失属性恢复方法及装置 | |
US20220014932A1 (en) | Method and node for handling sensor nodes and fog nodes in a communications system | |
CN114169506A (zh) | 一种基于工业物联网平台的深度学习边缘计算系统框架 | |
KR20230091093A (ko) | 조건부 변이형 오토-인코더들을 사용한 무선 채널들의 데이터-기반 확률론적 모델링 | |
CN113590321A (zh) | 面向异构分布式机器学习集群的任务配置方法 | |
US11074710B2 (en) | Image-based framework for improving location estimate accuracy in indoor positioning systems | |
CN106941466B (zh) | 一种软硬件协同的数字预失真的方法及装置 | |
CN112486667B (zh) | 一种基于边缘计算精准处理数据的方法及装置 | |
CN116436980A (zh) | 一种实时视频任务端网边协同调度方法及装置 | |
CN115937355A (zh) | 电力物联网负荷预测指纹图像构造方法、系统及介质 | |
CN112486676B (zh) | 一种基于边缘计算的数据共享分发装置 | |
CN113379708A (zh) | 一种基于联邦学习的空调外机外观检测方法及系统 | |
CN111914923B (zh) | 一种基于聚类特征提取的目标分布式识别方法 | |
CN113098707B (zh) | 边缘网络中一种虚拟网络功能需求预测方法 | |
CN117149444B (zh) | 适用于巡检系统的深度神经网络混合划分方法 | |
Jain et al. | Data prediction model in wireless sensor networks: a machine learning approach |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |