CN113852432A - 基于rcs-gru模型的频谱预测感知方法 - Google Patents
基于rcs-gru模型的频谱预测感知方法 Download PDFInfo
- Publication number
- CN113852432A CN113852432A CN202110017312.3A CN202110017312A CN113852432A CN 113852432 A CN113852432 A CN 113852432A CN 202110017312 A CN202110017312 A CN 202110017312A CN 113852432 A CN113852432 A CN 113852432A
- Authority
- CN
- China
- Prior art keywords
- channel
- model
- spectrum
- rcs
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/382—Monitoring; Testing of propagation channels for resource allocation, admission control or handover
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Abstract
本发明属于认知无线电技术领域,更具体地是,涉及基于RCS‑GRU模型的频谱预测感知方法。包括如下步骤,采用M/M/N排队论模型对信道进行仿真;将步骤1中模拟的各信道状态序列组合拼接成矩阵;建立基于残差CBAM的卷积神经网络模型,将拼接的信道状态矩阵集输入该模型,提取各个信道间的频谱占用状态的特征;将提取的特征数据集输入GRU模型,挖掘信道状态在时序上的特征,进行频谱预测,输出下一时隙的信道状态;采用Adam优化算法设置可变学习率优化交叉损失函数来训练的RCS‑GRU网络,并在训练过程中加入dropout方法;采用虚警预测概率和检测预测概率的关系曲线以及均方根误差RMSE,对RCS‑GRU的预测性能进行评估。
Description
技术领域
本发明属于认知无线电技术领域,更具体地是,涉及基于RCS-GRU模型的频谱预测感知方法。
背景技术
认知无线电网络CRNs(Cognitive Radio Networks)通过动态频谱接入DSA(Dynamic spectrum access)及频谱资源管理技术,可有效解决当前无线频谱资源紧缺与无线频谱利用率低下之间的矛盾,提高系统的通信容量。
然而,CRNs系统面临着诸多技术挑战,其中之一,就是频谱感知技术。频谱感知技术使得认知用户利用有效的信号检测或感知方法得到授权的无线通信系统中的频谱资源使用情况。然而传统的频谱感知中,认知用户对整个频谱进行扫描和感知往往造成巨大的处理时延和能量消耗,进而影响认知用户频谱决策的准确率和频谱利用率。为解决上述问题,提出了基于频谱预测的频谱感知方案,在该方案中认知用户首先对未来的频谱状态进行预测,然后选择预测结果为空闲的频谱进行感知,而不对预测结果为忙碌的频谱进行感知,从而降低宽带频谱感知的时间和能量消耗。
因此,预测感知技术已成为CRNs技术的一个研究热点。当前,随着机器学习技术的高速发展,深度神经网络在频谱预测中取得了良好的效果。有学者通过基于Taguchi的长短期记忆LSTM(long short-term memory)模型来预测真实世界的频谱数据,LSTM模型将传统循环神经网络RNN(recurrent neural network)中的隐含层换成存储块,当误差从输出层反向传播回来时,可以使用模块的记忆元记下来,有效地避免了RNN网络中反向传播时梯度指数衰减的现象,从而记住比较长时间内的信息。与此同时采用Taguchi的方法代替网格搜索法,在设计神经网络优化配置时,减少了时间消耗和计算资源。还有学者提出了一种使用卷积长短期记忆ConvLSTM(convolutional long short-term memory)深度学习神经网络的方法,用于长期时间预测,该预测被训练为学习在频谱使用中观察到的联合时空时域依赖性。
上述基于预测的频谱感知方法仍然存在以下问题:(1)没有考虑多个信道之间频谱占用的相关性,提取频谱占用状态特征过程中不能全面捕获细节特征;(2)预测时消耗的时间过长,预测精度不够。
发明内容
针对现有技术存在的不足之处,本发明提出了一种基于RCS-GRU模型的频谱预测感知方法,与传统频谱预测感知方法相比,本发明方法能更好的挖掘频谱之间的相关性提高预测精度,并在预测中减少预测时长。
为解决上述技术问题,本发明采用如下技术方案:
基于RCS-GRU模型的频谱预测感知方法,包括如下步骤,
步骤1、采用M/M/N排队论模型对信道进行仿真,顾客表示主用户,服务窗口表示频谱资源;
步骤2、将步骤1中模拟的各信道状态序列组合拼接成矩阵;
步骤3、建立基于残差CBAM的卷积神经网络模型,将步骤2中拼接的信道状态矩阵集输入该模型,提取各个信道间的频谱占用状态的特征;
步骤4、将步骤3提取的特征数据集输入GRU模型,挖掘信道状态在时序上的特征,进行频谱预测,输出下一时隙的信道状态;
步骤5、采用Adam优化算法设置可变学习率优化交叉损失函数来训练步骤4中的RCS-GRU网络,并在训练过程中加入dropout方法;
步骤6、将次用户的感知框架分为三个时段:频谱预测时段Tp,频谱感知时段Ts,数据传输时段Td,选择步骤4中预测的信道状态结果为空闲的信道进行频谱感知;
步骤7、采用虚警预测概率和检测预测概率的关系曲线以及均方根误差RMSE,对RCS-GRU的预测性能进行评估。
本技术方案进一步的优化,所述步骤1中包含N个授权频谱信道的认知无线电网络,主用户离开授权频谱到再次接入的时间服从参数为λ的负指数分布,其概率密度函数PDF(Probability Density Function)为:
主用户在授权频谱进行业务传输的持续时间服从参数为μ的负指数分布,形成一个具有N+1个状态的一阶马尔科夫链模型,当模型处于状态N时,认为系统繁忙,当处于其他状态是可接入次用户,当模型处于繁忙状态的概率可用PN表示。
本技术方案更进一步的优化,所述系统处于状态N的概率PN的表达式为:
本技术方案进一步的优化,所述步骤2每个无线信道具有两种可能的状态:空闲由“0”表示和忙碌由“1”表示,用N×1的向量Xt表示在时隙t上所有信道的占用状态。
本技术方案更进一步的优化,所述步骤3在基于残差CBAM的卷积神经网络模型中,将ResNet网络作为主干网络,其后插入CBAM,在原输出矩阵之后,分别插入通道注意力机制,用来强调该特征是什么,然后插入空间注意力机制,用来突出位置信息,
ResNet网络中残差块ResBlock的输入为x,期望输出的潜在映射是H(x),残差定义为:
F(x)=H(x)-x (2)
对于一个ResBlock,其函数表达式为:
CBAM整个流程可概括为:输入特征图F∈RH×W×C,先经过通道注意模块得到通道权重系数Mc,并与输入特征图F相乘,得到包含更多通道维度上的关键特征的特征图F′,再将F′作为空间注意模块的输入特征,得到空间权重系数Ms并与F′相乘得到包含更多空间位置关键信息的特征图F″,整个流程可以用以下公式表示:
本技术方案进一步的优化,所述通道注意力模块,输入一个H×W×C的特征F∈RH ×W×C,首先利用平均池化层(Average pooling)和最大池化层(Max pooling)得到特征Favg∈R1×1×C和Fmax∈R1×1×C,再将这两个特征送入含有一个隐层的多层感知机(MLP)进行特征的降维和升维操作,隐层的神经元个数为C/r,激活函数为Relu,输出层神经元个数为C,这两层神经网络中的参数是共享的。然后将得到的两个特征相加后经过一个Sigmoid激活函数得到权重系数Mc(F)∈R1×1×C,最后将权重系数和原来的特征F进行逐元素相乘即可得到缩放后的新特征,在此过程中通道注意力模块权重系数Mc(F)可由以下公式表示:
Mc(F)=σ(MLP(AvgPool(F))+MLP(MaxPool(F)))=σ(W1(W0(Favg))+W1(W0(Fmax))) (11)式(11)中,σ表示Sigmoid激活函数,W0∈RC/r×C和W1∈RC×C/r分别表示多层感知机隐层和输出层的权重。
本技术方案更进一步的优化,所述空间注意力模块以通道注意力模块输出的特征F′∈RH×W×C作为空间注意力模块的输入,首先分别进行一个通道维度的平均池化层和最大池化层压缩得到一维通道特征图F′avg∈RH×W×1和F′max∈RH×W×1,并将其在通道维度拼接成一个通道数为2的特征图。再用一个7×7的卷积层对其进行信道维度上的压缩,用Sigmoid对其激活,得到空间注意力权重系数Ms(F′)∈RH×W×1。最后将权重系数和特征F′进行对应元素相乘即可得到缩放后的新特征。在此过程中空间注意力模块权重系数Mc(F′)可由以下公式表示:
Mc(F′)=σ(f7×7([AvgPool(F′);MaxPool(F′)]))=σ(f7×7([F′avg;F′max])) (12)
式(12)中,f7×7表示卷积核大小为7的卷积层。
本技术方案更进一步的优化,所述步骤4中GRU模型使用重置门用于控制前一时刻的隐含层状态有多大程度更新到当前候选隐含层状态,计算公式为:
rt=σ(Wr·[ht-1,xt]+br) (5)
更新门用于控制前一时刻的隐含层状态有多大程度更新到当前的隐含层状态,范围为0-1,越接近1,代表“记忆”下的数据越多,越接近0表示“遗忘”越多,计算公式为:
zt=σ(Wz·[ht-1,xt]+bz) (6)
式(5)和(6)中rt为t时刻复位门向量,zt为t时刻更新门的向量,σ为Sigmoid函数,Wr、Wz为各连接向量间的权重矩阵,ht-1为上一节点隐含层状态,xt为t时刻的输入,br、bz为偏置;
得到门控信号之后,使用重置门控来得到重置后的数据rt*ht-1,将其与输入xt进行拼接,再通过激活函数tanh函数来将数据放缩到-1~1的范围内,在更新记忆阶段,同时进行遗忘和记忆两个步骤,计算过程如下:
本技术方案进一步的优化,所述步骤5包括Adam优化算法中,步长因子∈,一阶矩估计的指数衰减率ρ1,二阶矩估计的指数衰减率ρ2,用于数值稳定的小常数δ,首先初始参数θ,初始化一阶和二阶矩变量s,r,初始化时间步长t,然后从训练集中采取m个样本{x(1),…,x(m)},对应目标y(1),计算梯度:
更新有偏一阶和二阶矩估计:
修正一阶矩和二阶矩的偏差:
计算参数更新:
应用更新:
θ←θ+Δθ (17)。
本技术方案进一步的优化,所述步骤7虚警预测和检测预测概率为:
均方根误差为:
本发明采用以上技术方案与现有技术相比,具有以下技术效果:
(1)在次用户进行频谱感知前,先对频谱的使用情况进行预测,针对预测结果为空闲的信道进行感知,减少了能量损耗。
(2)针对频谱占用状态特征提取不全面的问题,本专利在残差卷积神经网络中加入了CBAM使得网络专注于当前最有用的信息,能够更好地提取一定时隙内的不同信道之间的频谱占用特征,同时也能提取同一信道间的频谱占用特征,使得后续预测结果更为准确。
(3)在以往的频谱预测模型中多采用LSTM模型进行预测,本专利使用简单化的LSTM模型即GRU模型进行预测,能够极大地减少网络学习的计算空间提升训练效率,减少预测消耗的时长,并实现对处理后数据的精确学习,提高预测精度。
附图说明
图1是RCS-GRU模型示意图;
图2是M/M/N状态转移图;
图3是CBAM与ResNet中block的集成图;
图4是CBAM的通道注意力模块示意图;
图5是CBAM的空间注意力模块示意图;
图6是GRU模块示意图。
具体实施方式
为进一步说明各实施例,本发明提供有附图。这些附图为本发明揭露内容的一部分,其主要用以说明实施例,并可配合说明书的相关描述来解释实施例的运作原理。配合参考这些内容,本领域普通技术人员应能理解其他可能的实施方式以及本发明的优点。图中的组件并未按比例绘制,而类似的组件符号通常用来表示类似的组件。
现结合附图和具体实施方式对本发明进一步说明。
参阅图1所示,为RCS-GRU模型示意图。本发明优选一种基于RCS-GRU模型的频谱预测感知方法,
包括如下步骤:
步骤1、采用M/M/N排队论模型对信道进行仿真,通过仿真产生3000个时间点的信道状态序列。M/M/N表示顾客的达到时间和服务时间服从负指数分布,以及服务窗口的个数为N。在模型中,顾客表示主用户,服务窗口表示频谱资源,考虑包含N个授权频谱信道的认知无线电网络,主用户离开授权频谱到再次接入的时间服从参数为λ的负指数分布,其概率密度函数PDF(Probability Density Function)为:
主用户在授权频谱进行业务传输的持续时间服从参数为μ的负指数分布,形成一个具有N+1个状态的一阶马尔科夫链模型,其状态转移如图2所示。当模型处于状态N时,认为系统繁忙;当处于其他状态时,可接入次用户。系统处于状态N的概率PN的表达式为:
步骤2、将步骤1中模拟的各信道状态序列,通过长度为100的滑动窗口,组合拼接成矩阵。此时每个无线信道具有两种可能的状态:空闲(由“0”表示)和忙碌(由“1”表示)。用N×1的向量Xt表示在时隙t上所有信道的占用状态。
步骤3、建立基于残差CBAM的卷积神经网络模型,将步骤2中拼接的信道状态矩阵输入该模型,对个信道间的频谱占用状态进行一个特征提取,输出包含不同信道间频谱占用特征的矩阵。在基于残差CBAM的卷积神经网络模型中,将ResNet网络作为主干网络,其后插入CBAM。在ResBlock中插CBAM,如图3所示,为CBAM与ResNet中block的集成图。在原输出矩阵之后,分别插入通道注意力机制,用来挖掘不同信道间频谱的占用特征;然后插入空间注意力机制,用来挖掘同一信道不同时隙频谱的占用特征。
ResNet网络中残差块ResBlock的输入为x,期望输出的潜在映射是H(x),残差定义为:
F(x)=H(x)-x (2)
对于一个ResBlock,其函数表达式为:
CBAM整个流程可概括为:输入特征图F∈RH×W×C,先经过通道注意模块得到通道权重系数Mc并与输入特征图F相乘,得到包含更多通道维度上的关键特征的特征图F′,再将F′作为空间注意模块的输入特征,得到空间权重系数Ms并与F′相乘得到包含更多空间位置关键信息的特征图F″,整个流程可以用以下公式表示:
通道注意力模块如图4所示,输入一个H×W×C的特征F∈RH×W×C,首先利用平均池化层(Average pooling)和最大池化层(Max pooling)得到特征Favg∈R1×1×C和Fmax∈R1×1×C,再将这两个特征送入含有一个隐层的多层感知机(MLP)进行特征的降维和升维操作。隐层的神经元个数为C/r,激活函数为Relu,输出层神经元个数为C,这两层神经网络中的参数是共享的。然后将得到的两个特征相加后经过一个Sigmoid激活函数得到权重系数Mc(F)∈R1 ×1×C。最后将权重系数和原来的特征F进行逐元素相乘即可得到缩放后的新特征。在此过程中通道注意力模块权重系数Mc(F)可由以下公式表示:
Mc(F)=σ(MLP(AvgPool(F))+MLP(MaxPool(F)))=σ(W1(W0(Favg))+W1(W0(Fnax))) (11)式(11)中,σ表示Sigmoid激活函数,W0∈RC/r×C和W1∈RC×C/r分别表示多层感知机隐层和输出层的权重。
空间注意力模块如图5所示,以通道注意力模块输出的特征F′∈RH×W×C作为空间注意力模块的输入,首先分别进行一个通道维度的平均池化层和最大池化层压缩得到一维通道特征图F′avg∈RH×W×1和F′max∈RH×W×1,并将其在通道维度拼接成一个通道数为2的特征图。再用一个7×7的卷积层对其进行信道维度上的压缩,用Sigmoid对其激活,得到空间注意力权重系数Ms(F′)∈RH×W×1。最后将权重系数和特征F′进行对应元素相乘即可得到缩放后的新特征。在此过程中空间注意力模块权重系数Mc(F′)可由以下公式表示:
Mc(F′)=σ(f7×7([AvgPool(F′);MaxPool(F′)]))=σ(f7×7([F′avg;F′max])) (12)
式(12)中,f7×7表示卷积核大小为7的卷积层。
步骤4、根据步骤3提取的特征数据集输入如图6所示的GRU模型,挖掘信道状态在时序上的特征,进行频谱预测,输出下一时隙的信道状态。
GRU模型使用重置门用于控制前一时刻的隐含层状态有多大程度更新到当前候选隐含层状态,计算公式为:
rt=σ(Wr·[ht-1,xt]+br) (5)
更新门用于控制前一时刻的隐含层状态有多大程度更新到当前的隐含层状态,范围为0-1,越接近1,代表“记忆”下的数据越多,越接近0表示“遗忘”越多,计算公式为:
zt=σ(Wz·[ht-1,xt]+bz) (6)
式(5)和(6)中rt为t时刻复位门向量,zt为t时刻更新门的向量,σ为Sigmoid函数,Wr、Wz为各连接向量间的权重矩阵,ht-1为上一节点隐含层状态,xt为t时刻的输入,br、bz为偏置。
得到门控信号之后,使用重置门控来得到重置后的数据rt*ht-1,将其与输入xt进行拼接,再通过激活函数tanh函数来将数据放缩到-1~1的范围内,在更新记忆阶段,同时进行遗忘和记忆两个步骤,计算过程如下:
步骤5、采用Adam优化算法设置可变学习率优化交叉损失函数来训练步骤4中的RCS-GRU网络,并在训练过程中加入dropout方法。
Adam优化算法中,将步长因子∈设置为0.001,一阶矩估计的指数衰减率ρ1设置为0.9,二阶矩估计的指数衰减率ρ2设置为0.999,用于数值稳定的小常数δ设置为10-8。首先初始参数θ,初始化一阶和二阶矩变量s=0,r=0,初始化时间步长t=0。然后从训练集中采取m个样本{x(1),…,x(m)},对应目标y(i)。计算梯度:
更新有偏一阶和二阶矩估计:
修正一阶矩和二阶矩的偏差:
计算参数更新:
应用更新:
θ←θ+Δθ (17)
步骤6、将次用户的感知框架分为三个时段:频谱预测时段Tp,频谱感知时段Ts,数据传输时段Td。选择步骤4中预测的信道状态结果为空闲的信道进行频谱感知。
步骤7、采用虚警预测概率Pf和检测预测概率Pd的关系曲线以及均方根误差RMSE(Root Mean Square Error),对RCS-GRU的预测性能进行评估。
虚警预测和检测预测概率为:
式(8)中H1和H0表示信道状态为占用和空闲。
均方根误差为:
式(9)中y′i表示真实结果,yi表示预测的结果。
尽管结合优选实施方案具体展示和介绍了本发明,但所属领域的技术人员应该明白,在不脱离所附权利要求书所限定的本发明的精神和范围内,在形式上和细节上可以对本发明做出各种变化,均为本发明的保护范围。
Claims (10)
1.基于RCS-GRU模型的频谱预测感知方法,其特征在于:包括如下步骤,
步骤1、采用M/M/N排队论模型对信道进行仿真,顾客表示主用户,服务窗口表示频谱资源;
步骤2、将步骤1中模拟的各信道状态序列组合拼接成矩阵;
步骤3、建立基于残差CBAM的卷积神经网络模型,将步骤2中拼接的信道状态矩阵集输入该模型,提取各个信道间的频谱占用状态的特征;
步骤4、将步骤3提取的特征数据集输入GRU模型,挖掘信道状态在时序上的特征,进行频谱预测,输出下一时隙的信道状态;
步骤5、采用Adam优化算法设置可变学习率优化交叉损失函数来训练步骤4中的RCS-GRU网络,并在训练过程中加入dropout方法;
步骤6、将次用户的感知框架分为三个时段:频谱预测时段Tp,频谱感知时段Ts,数据传输时段Td,选择步骤4中预测的信道状态结果为空闲的信道进行频谱感知;
步骤7、采用虚警预测概率和检测预测概率的关系曲线以及均方根误差RMSE,对RCS-GRU的预测性能进行评估。
4.如权利要求1所述的基于RCS-GRU模型的频谱预测感知方法,其特征在于:所述步骤2每个无线信道具有两种可能的状态:空闲由“0”表示和忙碌由“1”表示,用N×1的向量Xt表示在时隙t上所有信道的占用状态。
5.如权利要求1所述的基于RCS-GRU模型的频谱预测感知方法,其特征在于:所述步骤3在基于残差CBAM的卷积神经网络模型中,将ResNet网络作为主干网络,其后插入CBAM,在原输出矩阵之后,分别插入通道注意力机制,用来强调该特征是什么,然后插入空间注意力机制,用来突出位置信息,ResNet网络中残差块ResBlock的输入为x,期望输出的潜在映射是H(x),残差定义为:
F(x)=H(x)-x (2)
对于一个ResBlock,其函数表达式为:
CBAM整个流程可概括为:输入特征图F∈RH×W×C,先经过通道注意模块得到通道权重系数Mc,并与输入特征图F相乘,得到包含更多通道维度上的关键特征的特征图F′,再将F′作为空间注意模块的输入特征,得到空间权重系数Ms并与F′相乘得到包含更多空间位置关键信息的特征图F″,整个流程可以用以下公式表示:
6.如权利要求5所述的基于RCS-GRU模型的频谱预测感知方法,其特征在于:所述通道注意力模块,输入一个H×W×C的特征F∈RH×W×C,首先利用平均池化层(Average pooling)和最大池化层(Max pooling)得到特征Favg∈R1×1×C和Fmax∈R1×1×C,再将这两个特征送入含有一个隐层的多层感知机(MLP)进行特征的降维和升维操作,隐层的神经元个数为C/r,激活函数为Relu,输出层神经元个数为C,这两层神经网络中的参数是共享的。然后将得到的两个特征相加后经过一个Sigmoid激活函数得到权重系数Mc(F)∈R1×1×C,最后将权重系数和原来的特征F进行逐元素相乘即可得到缩放后的新特征,在此过程中通道注意力模块权重系数Mc(F)可由以下公式表示:
Mc(F)=σ(MLP(AvgPool(F))+MLP(MaxPool(F)))=σ(W1(W0(Favg))+W1(W0(Fmax))) (11)
式(11)中,σ表示Sigmoid激活函数,W0∈RC/r×C和W1∈RC×C/r分别表示多层感知机隐层和输出层的权重。
7.如权利要求6所述的基于RCS-GRU模型的频谱预测感知方法,其特征在于:所述空间注意力模块以通道注意力模块输出的特征F′∈RH×W×C作为空间注意力模块的输入,首先分别进行一个通道维度的平均池化层和最大池化层压缩得到一维通道特征图F′avg∈RH×W×1和F′max∈RH×W×1,并将其在通道维度拼接成一个通道数为2的特征图。再用一个7×7的卷积层对其进行信道维度上的压缩,用Sigmoid对其激活,得到空间注意力权重系数Ms(F′)∈RH ×W×1。最后将权重系数和特征F′进行对应元素相乘即可得到缩放后的新特征。在此过程中空间注意力模块权重系数Mc(F′)可由以下公式表示:
Mc(F′)=σ(f7×7([AvgPool(F′);MaxPool(F′)]))=σ(f7×7([F′avg;F′max])) (12)
式(12)中,f7×7表示卷积核大小为7的卷积层。
8.如权利要求6所述的基于RCS-GRU模型的频谱预测感知方法,其特征在于:所述步骤4中GRU模型使用重置门用于控制前一时刻的隐含层状态有多大程度更新到当前候选隐含层状态,计算公式为:
rt=σ(Wr·[ht-1,xt]+br) (5)
更新门用于控制前一时刻的隐含层状态有多大程度更新到当前的隐含层状态,范围为0-1,越接近1,代表“记忆”下的数据越多,越接近0表示“遗忘”越多,计算公式为:
zt=σ(Wz·[ht-1,xt]+bz) (6)
式(5)和(6)中rt为t时刻复位门向量,zt为t时刻更新门的向量,σ为Sigmoid函数,Wr、Wz为各连接向量间的权重矩阵,ht-1为上一节点隐含层状态,xt为t时刻的输入,br、bz为偏置;
得到门控信号之后,使用重置门控来得到重置后的数据rt*ht-1,将其与输入xt进行拼接,再通过激活函数tanh函数来将数据放缩到-1~1的范围内,在更新记忆阶段,同时进行遗忘和记忆两个步骤,计算过程如下:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110017312.3A CN113852432B (zh) | 2021-01-07 | 2021-01-07 | 基于rcs-gru模型的频谱预测感知方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110017312.3A CN113852432B (zh) | 2021-01-07 | 2021-01-07 | 基于rcs-gru模型的频谱预测感知方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113852432A true CN113852432A (zh) | 2021-12-28 |
CN113852432B CN113852432B (zh) | 2023-08-25 |
Family
ID=78972180
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110017312.3A Active CN113852432B (zh) | 2021-01-07 | 2021-01-07 | 基于rcs-gru模型的频谱预测感知方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113852432B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115276855A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于ResNet-CBAM的频谱感知方法 |
CN115276856A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于深度学习的信道选择方法 |
CN115276853A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
CN115276854A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 基于ResNet-CBAM的主用户信号随机到达和离开的能量频谱感知方法 |
CN115802401A (zh) * | 2022-10-19 | 2023-03-14 | 苏州大学 | 一种无线网络信道状态预测方法、装置、设备及存储介质 |
CN117238420A (zh) * | 2023-11-14 | 2023-12-15 | 太原理工大学 | 一种极薄带力学性能预测方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107070569A (zh) * | 2017-03-06 | 2017-08-18 | 广西大学 | 基于hmm模型的多点协作频谱感知方法 |
CN109194423A (zh) * | 2018-08-13 | 2019-01-11 | 中国人民解放军陆军工程大学 | 基于优化的长短期记忆模型的单频点频谱预测方法 |
US20200128473A1 (en) * | 2017-07-11 | 2020-04-23 | Beijing University Of Posts And Telecommunications | Frequency spectrum prediction method and apparatus for cognitive wireless network |
CN111612097A (zh) * | 2020-06-02 | 2020-09-01 | 华侨大学 | 一种基于gru网络的主用户数目估计方法 |
-
2021
- 2021-01-07 CN CN202110017312.3A patent/CN113852432B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107070569A (zh) * | 2017-03-06 | 2017-08-18 | 广西大学 | 基于hmm模型的多点协作频谱感知方法 |
US20200128473A1 (en) * | 2017-07-11 | 2020-04-23 | Beijing University Of Posts And Telecommunications | Frequency spectrum prediction method and apparatus for cognitive wireless network |
CN109194423A (zh) * | 2018-08-13 | 2019-01-11 | 中国人民解放军陆军工程大学 | 基于优化的长短期记忆模型的单频点频谱预测方法 |
CN111612097A (zh) * | 2020-06-02 | 2020-09-01 | 华侨大学 | 一种基于gru网络的主用户数目估计方法 |
Non-Patent Citations (1)
Title |
---|
郭佳;余永斌;杨晨阳;: "基于全注意力机制的多步网络流量预测", 信号处理, no. 05 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115276855A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于ResNet-CBAM的频谱感知方法 |
CN115276856A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于深度学习的信道选择方法 |
CN115276853A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
CN115276854A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 基于ResNet-CBAM的主用户信号随机到达和离开的能量频谱感知方法 |
CN115276855B (zh) * | 2022-06-16 | 2023-09-29 | 宁波大学 | 一种基于ResNet-CBAM的频谱感知方法 |
CN115276856B (zh) * | 2022-06-16 | 2023-09-29 | 宁波大学 | 一种基于深度学习的信道选择方法 |
CN115276853B (zh) * | 2022-06-16 | 2023-10-03 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
CN115276854B (zh) * | 2022-06-16 | 2023-10-03 | 宁波大学 | 基于ResNet-CBAM的主用户信号随机到达和离开的能量频谱感知方法 |
CN115802401A (zh) * | 2022-10-19 | 2023-03-14 | 苏州大学 | 一种无线网络信道状态预测方法、装置、设备及存储介质 |
CN115802401B (zh) * | 2022-10-19 | 2024-02-09 | 苏州大学 | 一种无线网络信道状态预测方法、装置、设备及存储介质 |
CN117238420A (zh) * | 2023-11-14 | 2023-12-15 | 太原理工大学 | 一种极薄带力学性能预测方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113852432B (zh) | 2023-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113852432B (zh) | 基于rcs-gru模型的频谱预测感知方法 | |
CN110223517B (zh) | 基于时空相关性的短时交通流量预测方法 | |
CN114818515A (zh) | 一种基于自注意力机制和图卷积网络的多维时序预测方法 | |
CN111260124A (zh) | 一种基于注意力机制深度学习的混沌时间序列预测方法 | |
CN112183742B (zh) | 基于渐进式量化和Hessian信息的神经网络混合量化方法 | |
CN112766496B (zh) | 基于强化学习的深度学习模型安全性保障压缩方法与装置 | |
CN113840297B (zh) | 一种基于射频机器学习模型驱动的频谱预测方法 | |
CN112910711A (zh) | 一种基于自注意力卷积网络的无线业务流量预测方法、设备及介质 | |
CN107704426A (zh) | 基于扩展小波神经网络模型的水位预测方法 | |
CN112766603A (zh) | 一种交通流量预测方法、系统、计算机设备及存储介质 | |
CN115018193A (zh) | 基于lstm-ga模型的时间序列风能数据预测方法 | |
CN111832228A (zh) | 基于cnn-lstm的振动传递系统 | |
CN115347571A (zh) | 基于迁移学习的光伏发电功率短期预测方法及装置 | |
CN114124734B (zh) | 一种基于GCN-Transformer集成模型的网络流量预测方法 | |
CN114596726B (zh) | 基于可解释时空注意力机制的停车泊位预测方法 | |
CN117035464A (zh) | 基于时序网络改进循环网络的企业用电碳排放预测方法 | |
JPH06208392A (ja) | パターン認識方法および装置 | |
CN113283576A (zh) | 一种基于鲸鱼算法优化lstm的频谱感知方法 | |
CN115762147B (zh) | 一种基于自适应图注意神经网络的交通流量预测方法 | |
CN111144473A (zh) | 训练集构建方法、装置、电子设备及计算机可读存储介质 | |
CN116522594A (zh) | 基于卷积神经网络的时间自适应暂态稳定预测方法及装置 | |
Peng et al. | Hmm-lstm for proactive traffic prediction in 6g wireless networks | |
KR20190129422A (ko) | 뉴럴 네트워크를 이용한 변분 추론 방법 및 장치 | |
CN116186581A (zh) | 一种基于图脉冲神经网络的楼层识别方法及系统 | |
CN114566048A (zh) | 一种基于多视角自适应时空图网络的交通控制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |