CN116386847A - 基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 - Google Patents
基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 Download PDFInfo
- Publication number
- CN116386847A CN116386847A CN202310227898.5A CN202310227898A CN116386847A CN 116386847 A CN116386847 A CN 116386847A CN 202310227898 A CN202310227898 A CN 202310227898A CN 116386847 A CN116386847 A CN 116386847A
- Authority
- CN
- China
- Prior art keywords
- spectrum
- neural network
- layer
- data
- lstm neural
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 136
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 61
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 38
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 38
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000012549 training Methods 0.000 claims abstract description 16
- 238000003062 neural network model Methods 0.000 claims abstract description 13
- 238000005070 sampling Methods 0.000 claims abstract description 4
- 239000010410 layer Substances 0.000 claims description 61
- 230000006870 function Effects 0.000 claims description 19
- 238000010586 diagram Methods 0.000 claims description 17
- 238000004891 communication Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 13
- 230000002829 reductive effect Effects 0.000 claims description 12
- 230000015654 memory Effects 0.000 claims description 8
- 230000002441 reversible effect Effects 0.000 claims description 8
- 238000004088 simulation Methods 0.000 claims description 7
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 5
- 238000010606 normalization Methods 0.000 claims description 5
- 230000007787 long-term memory Effects 0.000 claims description 4
- 230000008447 perception Effects 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 238000009825 accumulation Methods 0.000 claims description 2
- 230000008033 biological extinction Effects 0.000 claims description 2
- 125000004122 cyclic group Chemical group 0.000 claims description 2
- 238000000605 extraction Methods 0.000 claims description 2
- 230000006403 short-term memory Effects 0.000 claims description 2
- 239000002356 single layer Substances 0.000 claims description 2
- 239000000758 substrate Substances 0.000 claims description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 claims 1
- 230000001413 cellular effect Effects 0.000 claims 1
- 238000012360 testing method Methods 0.000 description 8
- 210000004027 cell Anatomy 0.000 description 5
- 230000001149 cognitive effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 201000010099 disease Diseases 0.000 description 4
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000011176 pooling Methods 0.000 description 3
- 206010006187 Breast cancer Diseases 0.000 description 2
- 208000026310 Breast neoplasm Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000002324 minimally invasive surgery Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 108010076504 Protein Sorting Signals Proteins 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 208000019622 heart disease Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011423 initialization method Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000010992 reflux Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Economics (AREA)
- General Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Pathology (AREA)
- Marketing (AREA)
- Artificial Intelligence (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于DB‑LSTM神经网络的移动医疗物联网频谱智能预测算法，包括如下步骤：首先对本地移动医疗物联网信号数据采样，利用ResNet‑CNN模型进行频谱感知操作，获得主用户历史使用频谱时序二进制数据集；然后通过滑动窗构建具有时序特性的频谱预测数据集，利用此数据集对DB‑LSTM神经网络模型训练，利用训练后的DB‑LSTM神经网络模型实现频谱预测。所述方法能够有效的提高频谱预测准确率并降低频谱预测均方误差。
Description
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法。
背景技术
依据远程医疗多参数健康监测系统中各种无线生物传感器设备不断的监测、采集患者身体各项指标信息，以便医护人员无需接触患者就能及时掌握信息，更好的进行管理与治疗，为医疗信息与资源共享打下基础。医疗物联网已与生活融为一体，医疗咨询、实时监测、远程医疗、医生与患者实时信息交互，专家远程会诊指导患者治疗方案等。
A.U.Haq等人提出了一种基于卷积神经网络(CNN)的早期乳腺癌症诊断方法。交叉验证方法结合了最佳模型选择和超级参数调整，取得了良好的效果。Y.-S.Su等人利用脉冲医疗物联网传感设备所获数据，观察血液回流与皮肤温度之间的相对关系，实现膜瓣心脏疾病的筛查系统，便于患者的自我检查，及时发现问题。L.Jia等人提出了一种用于医疗物联网(IoMT)的基于压电微机械超声换能器(PMUT)阵列的智能电子听诊器。使远程医疗和数字智能医疗成为现实。对已有疾病的患者进行了可行性测试。S.Y.Siddiqui等人通过医疗数据图像进行基于医疗物联网的智能乳腺癌分期预测，对于疾病的发展做了进一步的研究，取得了较为准确的结果。H.Wang等人提出一个医疗物联网在微创手术领域的安全改进框架，用于协助外科医生实施微创手术，并指导下一阶段的手术过程，减少因手术工作流非确定性引发的外围并发症，以提高手术安全性。学者们从医疗咨询，健康监测，疾病的诊断、预测以及相应的疾病手术治疗，全方位在医疗物联网中协作运行，发挥着重要作用。但随着物联网技术在医疗领域的飞速发展，为医生及医疗用户提供便利服务的同时，越来越多的医疗设备不断接入，医疗物联网传输的数据量激增，使用无线网络的频率越来越高，使得频谱资源供需矛盾变得愈发严峻，不能更好的为医疗设备服务。
传统静态频谱分配策略只允许特定用户使用，已不能满足日益增长的频谱需求，如何高效利用频谱资源是面临的一项重要问题。认知无线电网络(Cognitive RadioNetwork，CRN)赋予次用户(Secondary User，SU)在不对主用户(Primary User，PU)产生干扰的前提下通过频谱感知动态利用PU空闲时隙频谱资源进行通信，提升频谱资源利用率。
Z.Chen等人提出一种利用信号的时频域信息的STFT-CNN频谱感知算法，无需主用户任何先验信息。S.Lin等人利用智能反射面增强PU信号技术，提出一种加权能量检测的方法。S.Surekha等人提出一种针对提高医疗传感网络吞吐量的ALOHA频谱传感方法，减少了对主要用户的干扰。A.Moawad等人通过提出的倒谱协方差检测器，有效克服了低信噪比下检测不理想的状况。
但频谱感知需要在每个时隙都需进行感知操作，易受噪声干扰，耗费大量资源，造成一定的传感延迟，不利于数据传输。认知无线电中频谱预测技术利用频谱感知反馈给次用户的信道状态信息，挖掘信道历史状态数据内在关联来预测PU通信的规律。与频谱感知相结合，即减少频谱感知损耗的能量与时间，又降低接收信号的误差。因此探究准确有效的频谱预测算法变得尤为重要。为了能够快速高效的获得PU信道状态，确保医疗数据高效、准确的采集与传输，频谱预测算法得到了学者们广泛研究。R.Ahmed等人提出了一种新的传感和通信集成框架，称为CR辅助IoV网络(CRAV Net)，有效地预测主频谱中的频谱占用率，而无需先验地了解无线电环境。Z.Cong等人设计了一个对接收信号进行自适应加权的切换关注模块(SAM)，解决了主要信号随机到达和离开的频谱感知问题。相比于现有检测器的检测性能取得很大提高。S.Luo等人面向无人机通信提出基于HT-HMM的预测方法，取得良好的预测效果。面对无线信道中因受外界因素影响的多变复杂信号，数据的缺失、时序特性、规模的增加易造成传统机器学习方法准确及有效性受限、收敛时间增加。X.Li等人基于频谱数据的三种时间特性提出一种时空频谱预测网络，显著提高预测性能。J.Sun等人提出了一种基于历史频谱数据组成的多个“图像”的推断思想，实现基于张量完成的长期频谱预测方案(LSP-TC)。为了降低频谱预测网络模型的复杂度，N.Radhakrishnan等人提出了“KandeepanNiranjana(KN)初始化方法，显著提高基于LSTM的频谱预测模型的训练收敛性。R.Ding等人提出了一种射频机器学习驱动的频谱预测方案，在AR网络的每层中使用只有两个参数的单元，加速网络训练。
上述研究中频谱感知方法易受噪声干扰、提取感知信号的特征模糊。频谱预测技术的传统预测模型粗陋、时序数据反向特性考虑较少，未能充分挖掘内在关联。
发明内容
本发明所要解决的技术问题是如何提供一种能够有效的提高频谱预测准确率并降低频谱预测均方误差的方法。
为解决上述技术问题，本发明所采取的技术方案是：一种基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于包括如下步骤：
首先对本地移动医疗物联网信号数据采样，利用ResNet-CNN模型进行频谱感知操作，获得主用户历史使用频谱时序二进制数据集；
然后通过滑动窗构建具有时序特性的频谱预测数据集，利用此数据集对DB-LSTM神经网络模型训练，利用训练后的DB-LSTM神经网络模型实现频谱预测。
采用上述技术方案所产生的有益效果在于：所述方法针对移动医疗物联网通信环境下噪声复杂，无线信号易受噪声干扰，信号特征质量低等问题。提出基于ResNet-CNN组合的神经网络结构。使用两层残差捷径连接模块结构，一定程度缓解网络训练过程中梯度问题，有效降低数据信息传递的损耗，保证数据信息的完整性。卷积运算后接批次标准化，ReLU函数激活，增强提取无线信号数据特征的能力，使得网络结构更加稳健。CNN运用去除池化层的三层卷积运算，提取数据特征同时降低神经网络参数量，减少无线信号数据重要特征的丢失，尽可能保证原有信号特征信息。
利用滑动窗方法构建频谱预测数据集，保证数据时序特性的同时覆盖更多的数据点，充分利用数据。提出DB-LSTM神经网络。包含128个记忆单元的LSTM分支结构，tanh函数激活。每一时间步更新提取时序数据的正向内在关联，Bi-LSTM分支相当于两层包含64个记忆单元的LSTM。tanh函数激活每一时间步提取的特征，正反两个方向同时进行，提取时序数据反向特性的同时，增强正向提取数据特征的能力。DB-LSTM充分挖掘时序数据前向、反向时序的内在关联特性，预测出授权用户使用频谱的内在规律性。
通过仿真实验，与ELM、BP和CNN神经网络等算法相比，本算法的频谱预测准确率分别提高了2％、3％和8％，均方误差分别降低了9％、44％和41％，表明本算法无论是在频谱预测准确率还是在均方误差降低方面都具有明显优势。
附图说明
下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1是本发明实施例中频谱预测算法流程图；
图2是本发明实施例中频谱预测认知通信系统模型；
图3是本发明实施例中ResNet-CNN网络结果示意图；
图4是本发明实施例中CNN网络具体结构图；
图5是本发明实施例中ResNet网络模块结构图；
图6是本发明实施例中滑动窗示意图；
图7是本发明实施例中数据集示意图；
图8是本发明实施例中LSTM单元结构图；
图9是本发明实施例中Bi-LSTM网络结构示意图；
图10是本发明实施例中DB-LSTM神经网络示意图；
图11是本发明实施例中不同信噪比下的频谱感知准确率对比图；
图12是本发明实施例中不同信噪比下的频谱感知虚警概率图；
图13是本发明实施例中ELM与DB-LSTM测试集误差图；
图14是本发明实施例中ELM与DB-LSTM集合数据均方误差图；
图15是本发明实施例中BP与DB-LSTM测试集误差图；
图16是本发明实施例中BP与DB-LSTM集合数据均方误差图；
图17是本发明实施例中CNN与DB-LSTM测试集误差图；
图18是本发明实施例中CNN与DB-LSTM集合数据均方误差图；
图19是本发明实施例中不同算法下的预测准确率图；
图20是本发明实施例中不同通信强度下的均方误差图；
具体实施方式
下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是本发明还可以采用其他不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本发明内涵的情况下做类似推广，因此本发明不受下面公开的具体实施例的限制。
总体的，如图1所示，本发明实施例公开了一种基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，包括如下步骤：
首先对本地移动医疗物联网信号数据采样，利用ResNet-CNN模型进行频谱感知操作，获得主用户历史使用频谱时序二进制数据集；
然后通过滑动窗构建具有时序特性的频谱预测数据集，利用此数据集对DB-LSTM神经网络模型训练，利用训练后的DB-LSTM神经网络模型实现频谱预测。
下面结合具体内容对上述步骤进行详细的说明
系统模型
本申请构建的频谱预测认知系统模型如图2所示，主用户可以无条件利用频谱资源进行通信，在主用户网络中，次用户通过频谱感知得到主用户使用频谱的历史时序二进制数据，具体过程如下所示：
H0:x(t)＝n(t) (1)
H1:x(t)＝h(t)*s(t)+n(t) (2)
式中H0和H1分别代表有可用频谱资源和无可用频谱资源，x(t)是接收端所接收到的离散信号序列集，n(t)是在标准正态分布条件下的高斯白噪声，在N-Nakagami信道中所产生的信道增益为h(t)，主用户发射机发射的离散信号数据集使用s(t)表示，算子*代表卷积运算。次用户通过频谱感知判断是否有可以利用的空闲频谱资源。
通过基于ResNet-CNN频谱智能感知模型的频谱感知操作后，可以获得具有时序特性的频谱状态二进制数据，反映出主用户使用频谱资源的整体时序变化过程，为频谱预测提供更加清晰、准确的频谱感知数据，有效提升频谱预测的预测效果。
利用滑动窗构建频谱预测数据集，通过DB-LSTM神经网络频谱预测模型对历史数据进行训练、分析，实现频谱状态的预测。根据感知与预测信息相结合来达到次用户在不影响主用户通信的前提下利用空闲频谱资源进行通信的目的。
基于ResNet-CNN模型的频谱感知
根据信号数据维度较小的特点舍弃了神经网络中的池化层，使得传递特征信息更加完整。接收端获取离散信号数据集后，首先对数据进行归一化处理与维度变换。利用ResNet残差块与CNN网络结构进一步提取数据特征，使得输入全连接网络的特征更加充分准确，最终输出的频谱状态分类结果更加精确。
数据预处理
获取到离散信号数据集对其进行归一化操作，消除其中不良数据对感知结果的影响。数据单位限制的去除，便于不同单位或量级的数据可以比较与加权，同时有利于神经网络的训练，归一化公式如下所示：
其中X为原始数据，X是归一化后数据，Max与Min分别为原始数据最大值与最小值。
文中神经网络使用ReLU激活函数：
其中c表示卷积运算完成后输出的特征图。
全连接层使用Softmax分类器：
公式(5)中zi为第i个节点的输出值，J为输出节点个数，通过Softmax函数将多分类的输出值转换为范围在[0,1]且和为1的概率分布，并输出最大值的类别分类。
ResNet-CNN网络模块
ResNet-CNN组合神经网络
ResNet-CNN频谱感知模型整体结构包括三层卷积神经网络，两层残差模块，三层全连接神经网络，具体网络结构如图3所示。
改进CNN网络结构
卷积神经网络因为其隐含层内的卷积核参数共享和层间连接的稀疏性使得它能够具有较小的计算量、稳定的学习特征。由于提取的信号特征的数量少且为一维向量，不适用于传统的卷积神经网络。根据输入值维度小的特点，去除了用于减少网络参数维度的池化层，避免了信号数据重要特征的丢失。上一卷积层的特征图与本层卷积核进行卷积操作，通过相应的激活函数产生本层特征图输出。卷积运算过程如公式(6)所示：
式中x(L)为本层卷积输出特征图，x(L-1)为上层卷积输出特征图，W(L)、b(L)分别为本层的卷积核与偏置值，f(·)为ReLU激活函数。某一隐含层二维卷积输出公式如式(7)所示：
公式(7)中
表示第i个隐含层经过卷积的输出的第j个特征图，/>
为第i-1层的第k个通道特征图，/>
是第i层j个特征图的第k个权重，/>
为第i层对应的偏置项。
ResNet网络模块结构
残差神经网络模块中跳转捷径分支结构能够有效缓解神经网络在训练过程中梯度问题。当残差模块的残差值为0时，可理解为本层神经元对前层输出特征的一次线性堆叠，网络总体性能不会下降。实际训练中残差不可能一直为0，所以能够进一步增加神经网络深度。同时一定程度上降低网络信息传递的损耗，保证数据信息的完整性，增强提取数据特征的能力。只需学习输入与输出相差部分，简化了学习目标及难度。残差学习模块计算公式如(8)所示：
xl+1＝xl+F(xl,wl) (8)
公式(8)中，xl+1为本层残差块的输出，xl为上一层的输出，F(xl,wl)＝xl+1-xl为残差函数，wl为相应的权重。如果F(xl,wl)→0时就相当于一个恒等映射。L层能够被任意一个比它层数浅的I层与他们之间的残差部分和表示出来，如公式(9)：
如果从第0层开始推导，第L层可以表示各层残差块提取特征的累加，如公式(10)：
使用交叉熵损失函数进行优化，如公式(11)所示：
y为标签值，
为分类值。损失函数C对某一xl的梯度如公式(12)所示：
因为
不可能一直为0，所以一定程度上能够解决梯度消失的问题。ResNet网络模块具体结构如图5所示：
基于DB-LSTM神经网络的频谱预测算法
本申请提出的DB-LSTM神经网络频谱预测算法包含两个主要部分：首先对本地信号数据采样，利用ResNet-CNN模型进行频谱感知操作，获得主用户历史使用频谱时序二进制数据集。然后通过滑动窗构建具有时序特性的频谱预测数据集，利用此数据集对DB-LSTM网络模型训练，实现快速、准确的频谱预测。
信号数据的获取
通过MATLAB仿真平台利用M/Geo/1排队系统模型模拟实际授权用户使用信道的内在规律对无线信道建模，生成无线信号数据集。M/Geo/1模型中，M代表授权用户到达的整个输入过程服从参数为λ的泊松过程，Geo代表授权用户每次使用信道时间遵循几何分布，授权用户平均使用信道时间设为μ；1表示单信道。
泊松分布数学表达式如式(13)所示：
式中表示在任意时间t中，授权用户到达数x的概率分布。
几何分布数学表达式如式(14)所示：
P(x＝k)＝(1-μ)k-1μ,k＝1,2,3...N (14)
式中表示授权用户每次占用信道所持续的时间。
为了得到不同通信场景下授权用户使用信道的状态，本申请通过改变通信强度ρ和授权用户的平均到达时间tinter来实现，关系表达式如(15)所示：
其中，tserv为授权用户占用信道进行通信的平均时间。
滑动窗构建数据集
依据时序信号数据的时序特点，不能调序、乱序、随机打乱排序，这里使用滑动窗方法构建频谱预测数据集。设置不同大小的滑动窗口，以满足不同时隙历史频谱感知数据输入要求。依次向前滑动即可得到时序相邻、标签准确的数据集。即保证了时序数据的时序特性，又覆盖了更多的数据点，具体内容如图6所示：
图6中，设每个滑动窗口大小为5，根据需要进行相应修改。Sj表示第几次滑动，j取1,2,…,N，窗口内每一个取值代表一个时隙内的频谱感知获得的信道频谱状态，Lj表示与第Sj个滑动窗口数据相对应的标签值。t表示时间即多少个时隙。构建的频谱预测数据集如图7所示：
图7中为本申请所构建的数据集示意图，每一行是数据加标签，构成一组训练样本，在输入神经网络之前经维度转换变为神经网络模型输入所需维度。
DB-LSTM神经网络模型频谱预测
1)LSTM神经网络
LSTM神经网络有效解决了循环神经网络(Recurrent network,RNN)中出现的梯度问题。网络结构中引入了一个称为记忆单元的组件，通过拓展记忆模块来替代网络中隐含节点，在处理具有时序特点且长间隔、长时延问题时具有显著优势。频谱感知所得的二分类频谱状态数据可以看作是时序序列数据，使用LSTM神经网络进行频谱预测具有合理性、可行性。本申请所用的具体的网络单元结构如图8所示：
图8中，LSTM神经网路单元结构中引入了三个门限结构：输入门、遗忘门、输出门；输入门确定当前输入流中哪些信息是重要的，需要被添加到记忆单元中。遗忘门确定了前一记忆单元中的哪些相关信息需要被保留，进一步减少网络的负荷。输出门决定了下一刻隐藏状态的值。引入了表示长期记忆的细胞态Ct；等待存入长期记忆的候选态
σ表示Sigmoid函数，/>
表示元素相乘运算，/>
表示元素相加运算，tanh代表tanh函数；三个门限都是当前时刻的输入特征xt与上一时刻的短期记忆ht-1的函数，公式分别表示为：
输入门：
it＝σ(Wi·[ht-1,xt]+bi) (17)
遗忘门：
ft＝σ(Wf·[ht-1,xt]+bf) (19)
输出门：
Ot＝σ(Wo·[ht-1,xt]+bo) (20)
2)Bi-LSTM神经网络
Bi-LSTM能够同时利用时间序列过去以及未来时隙之中包含的内在相关性，单层的Bi-LSTM神经网络可以看作为两层LSTM神经网络的组合，一层正向去处理时间序列，另一层反向处理时间序列，当所有的时间步处理完毕之后，将两层LSTM提取到的前向、反向数据状态特征进行拼接，形成最终的数据输出结构特征。本申请所用网络结构展开图如图9所示：
Bi-LSTM在t时刻的隐藏状态ht包括前向LSTM的隐藏状态
与反向LSTM隐藏状态
式中，T表示时序序列的长度。
3)DB-LSTM神经网络
频谱智能感知所得时序二进制结果序列构建频谱预测数据集完毕后，首先对数据集进行特征维度变换，使之符合循环神经网络输入维度要求。输入网络结构中，调试网络结构及参数以寻求最优。根据信号感知结果时序数据的特点，针对前向、后向数据特征，提出DB-LSTM路神经网络。充分提取时序数据的历史与未来信息，提高网络模型预测的准确性，网络训练的高效性。本申请中频谱预测网络模型结构如图10所示；
由图10可知，DB-LSTM频谱预测网络模型经过训练得到最优网络结构后，对于给定的目标输入神经网络的预测值g较实际期望值lable存在一定误差，输出值不能立即判断出信道状态，所以在最终输出后加入二元判决门限，将门限值设置为λ＝0.5。
实验分析
本申请在N-Nakagami信道下基于M/Geo/1排队模型，仿真生成2FSK调制方式下信噪比为-15dB～0dB、间隔3dB且添加高斯白噪声的信号数据集。每种信噪比下产生11220组信号数据。取连续的前1～2000组作为训练集，2000～3000组作为测试集，其后连续的8220组进行对比实验。对比神经网络频谱感知模型的感知准确率与虚警率。模拟参数如表1所示。
表1-模拟参数
频谱感知性能比较：
图11、12中可以看出本申请所提的频谱感知算法在测试集中总体表现性能相比于LVQ、Elman和CNN算法，频谱感知准确率与频谱感知的虚警概率都取得较好优势。在-9dB下频谱感知准确率分别提升3.8％、30.9％和1％。说明基于ResNet-CNN神经网络能够从噪声干扰中精准、充分的提取信号特征，取得准确高效的频谱感知结果，展现出良好的频谱感知能力。
频谱预测性能比较
本申请从频谱感知得到的信道历史状态数据中选取连续8000组数据，滑动窗口大小设置为4，其中每一组数据包含4个历史频谱状态作为目标输入和1个标签值作为预测模型输出值。将第1～1800组数据作为训练数据，第1900～2000组数据进行预测实验，第2000～8000组数据设置为100个集合，每个集合包含60组数据进行集合预测实验，对比神经网络预测模型的预测结果与实际值的误差和均方误差，如图13-18所示：
图13-18中可以看出本申请所提的算法的表现相比于ELM、BP与CNN算法在测试集与集合测试集中，均方误差分别降低了9％、44％与41％。说明DB-LSTM神经网络模型充分利用历史时序数据，发掘出授权用户使用频谱的内在规律性，更加适于复杂多变的无线通信环境，展现出良好的预测能力。
由图19可以看出DB-LSTM神经网络模型相比于ELM、BP与CNN算法，移动频谱预测准确率分别提高2％、3％与8％，说明DB-LSTM神经网络模型充分利用历史频谱感知数据信息，进一步提高频谱预测准确率。
图20中展示了3种算法在不同通信强度ρ下的均方误差对比，可看出本申请所提的算法相比于其他3种算法效果更好，在ρ为0.8时相比于ELM、BP、CNN算法，均方误差分别降低10％、66％与45％。
ResNet-CNN频谱感知模型有效克服噪声干扰，提取的感知信号特征清晰，提升频谱感知结果准确率，进而提升频谱预测准确率。DB-LSTM神经网络结构不仅能够充分提取时序数据的反向内在关联特性，还进一步增强了提取到的主用户频谱使用规律的正向内在关联，可以有效降低频谱预测的均方误差，提高频谱预测的准确性。仿真结果表明，本申请算法频谱预测性能优于ELM、BP与CNN算法。
Claims (10)
1.一种基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于包括如下步骤：
首先对本地移动医疗物联网信号数据采样，利用ResNet-CNN模型进行频谱感知操作，获得主用户历史使用频谱时序二进制数据集；
然后通过滑动窗构建具有时序特性的频谱预测数据集，利用此数据集对DB-LSTM神经网络模型训练，利用训练后的DB-LSTM神经网络模型实现频谱预测。
2.如权利要求1所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于，利用ResNet-CNN模型进行频谱感知操作包括如下步骤：
接收端获取离散信号数据集后，首先对数据进行归一化处理与维度变换，利用ResNet-CNN模型中的ResNet残差块与CNN网络结构进一步提取数据特征。
3.如权利要求2所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于，对数据进行归一化处理与维度变换包括如下步骤：
归一化公式如下所示：
其中X为原始数据，
是归一化后数据，Max与Min分别为原始数据最大值与最小值；
神经网络使用ReLU激活函数：
其中c表示卷积运算完成后输出的特征图；
全连接层使用Softmax分类器：
公式(3)中zi为第i个节点的输出值，J为输出节点个数，通过Softmax函数将多分类的输出值转换为范围在[0,1]且和为1的概率分布，并输出最大值的类别分类。
4.如权利要求2所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于：ResNet-CNN频谱感知模型整体结构包括三层卷积神经网络，两层残差模块和三层全连接神经网络。
5.如权利要求4所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于，所述CNN网络结构中：
卷积运算过程如公式(4)所示：
式中x(L)为本层卷积输出特征图，x(L-1)为上层卷积输出特征图，W(L)、b(L)分别为本层的卷积核权重值与偏置值，f(·)为ReLU激活函数；某一隐含层二维卷积输出公式如式(5)所示：
公式(5)中
表示第i个隐含层经过卷积的输出的第j个特征图，/>
为第i-1层的第k个通道特征图，/>
是第i层j个特征图的第k个权重，/>
为第i层对应的偏置项。
6.如权利要求4所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于ResNet网络模块结构中：
残差学习模块计算公式如(6)所示：
xl+1＝xl+F(xl,wl) (6)
公式(6)中，xl+1为本层残差块的输出，xl为上一层的输出，F(xl,wl)＝xl+1-xl为残差函数，wl为相应的权重；如果F(xl,wl)→0时就相当于一个恒等映射；L层能够被任意一个比它层数浅的I层与他们之间的残差部分和表示出来，如公式(7)：
如果从第0层开始推导，第L层可以表示各层残差块提取特征的累加，如公式(8)：
使用交叉熵损失函数进行优化，如公式(9)所示：
y为标签值，
为分类值；损失函数C对某一xl的梯度如公式(10)所示：
因为
不可能一直为0，所以一定程度上能够解决梯度消失的问题。
7.如权利要求1所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于，信号数据的获取包括如下步骤：
通过MATLAB仿真平台利用M/Geo/1排队系统模型模拟实际授权用户使用信道的内在规律对无线信道建模，生成无线信号数据集；M/Geo/1模型中，M代表授权用户到达的整个输入过程服从参数为λ的泊松过程，Geo代表授权用户每次使用信道时间遵循几何分布，授权用户平均使用信道时间设为μ；1表示单信道；
泊松分布数学表达式如式(11)所示：
式中表示在任意时间t中，授权用户到达数x的概率分布；
几何分布数学表达式如式(12)所示：
P(x＝k)＝(1-μ)k-1μ,k＝1,2,3...N (12)
式中表示授权用户每次占用信道所持续的时间；
为了得到不同通信场景下授权用户使用信道的状态，通过改变通信强度ρ和授权用户的平均到达时间tinter来实现，关系表达式如(13)所示：
其中，tserv为授权用户占用信道进行通信的平均时间。
8.如权利要求1所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于：
LSTM神经网络单元结构中引入三个门限结构：输入门、遗忘门、输出门；输入门确定当前输入流中哪些信息是重要的，需要被添加到记忆单元中；遗忘门确定前一记忆单元中的哪些相关信息需要被保留，进一步减少网络的负荷；输出门决定下一刻隐藏状态的值；引入表示长期记忆的细胞态Ct；等待存入长期记忆的候选态
σ表示Sigmoid函数，/>
表示元素相乘运算，/>
表示元素相加运算，tanh代表tanh函数；三个门限都是当前时刻的输入特征xt与上一时刻的短期记忆ht-1的函数，公式分别表示为：
输入门：
it＝σ(Wi·[ht-1,xt]+bi) (15)
遗忘门：
ft＝σ(Wf·[ht-1,xt]+bf) (17)
输出门：
Ot＝σ(Wo·[ht-1,xt]+bo) (18)
9.如权利要求8所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于：
Bi-LSTM神经网络能够同时利用时间序列过去以及未来时隙之中包含的内在相关性，单层的Bi-LSTM神经网络可以看作为两层LSTM神经网络的组合，一层正向去处理时间序列，另一层反向处理时间序列，当所有的时间步处理完毕之后，将两层LSTM提取到的前向、反向数据状态特征进行拼接，形成最终的数据输出结构特征；
Bi-LSTM在t时刻的隐藏状态ht包括前向LSTM的隐藏状态
与反向LSTM隐藏状态/>
式中，T表示时序序列的长度。
10.如权利要求9所述的基于DB-LSTM神经网络的移动医疗物联网频谱智能预测算法，其特征在于：
频谱智能感知所得时序二进制结果序列构建频谱预测数据集完毕后，首先对数据集进行特征维度变换，使之符合循环神经网络输入维度要求。输入网络结构中，调试网络结构及参数以寻求最优；
DB-LSTM频谱预测网络模型经过训练得到最优网络结构后，对于给定的目标输入神经网络的预测值g较实际期望值lable存在一定误差，输出值不能立即判断出信道状态，所以在最终输出后加入二元判决门限，将门限值设置为λ＝0.5。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310227898.5A CN116386847A (zh) | 2023-03-10 | 2023-03-10 | 基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310227898.5A CN116386847A (zh) | 2023-03-10 | 2023-03-10 | 基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116386847A true CN116386847A (zh) | 2023-07-04 |
Family
ID=86966526
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310227898.5A Pending CN116386847A (zh) | 2023-03-10 | 2023-03-10 | 基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116386847A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117522177A (zh) * | 2024-01-08 | 2024-02-06 | 国网江苏省电力有限公司信息通信分公司 | 一种智能电网稳定性预测方法 |
-
2023
- 2023-03-10 CN CN202310227898.5A patent/CN116386847A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117522177A (zh) * | 2024-01-08 | 2024-02-06 | 国网江苏省电力有限公司信息通信分公司 | 一种智能电网稳定性预测方法 |
| CN117522177B (zh) * | 2024-01-08 | 2024-03-12 | 国网江苏省电力有限公司信息通信分公司 | 一种智能电网稳定性预测方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP1534122B1 (en) | Medical decision support systems utilizing gene expression and clinical information and method for use | |
| Huang et al. | Multivariate time series early classification using multi-domain deep neural network | |
| Fialho et al. | Mortality prediction of septic shock patients using probabilistic fuzzy systems | |
| CN113113130A (zh) | 一种肿瘤个体化诊疗方案推荐方法 | |
| CN111597991A (zh) | 一种基于信道状态信息和BiLSTM-Attention的康复检测方法 | |
| CN104523264A (zh) | 一种心电信号处理方法 | |
| CN116386847A (zh) | 基于db-lstm神经网络的移动医疗物联网频谱智能预测算法 | |
| CN112766496B (zh) | 基于强化学习的深度学习模型安全性保障压缩方法与装置 | |
| CN113315593A (zh) | 一种基于flom协方差矩阵和lstm神经网络的频谱感知算法 | |
| CN113114400A (zh) | 基于时序注意力机制和lstm模型的信号频谱空洞感知方法 | |
| CN110751032A (zh) | 一种无需校准的脑机接口模型的训练方法 | |
| CN115147376A (zh) | 一种基于深度贝叶斯蒸馏网络的皮肤病变智能识别方法 | |
| Ramjee et al. | Ensemble wrapper subsampling for deep modulation classification | |
| CN109935321B (zh) | 基于功能核磁共振影像数据的抑郁症患者转为双相情感障碍的风险预测系统 | |
| Du et al. | Decoding ECoG signal with deep learning model based on LSTM | |
| CN117493955B (zh) | 一种癫痫患者的脑电信号分类模型的训练方法 | |
| Geetha et al. | An hybrid ensemble machine learning approach to predict type 2 diabetes mellitus | |
| CN115115038B (zh) | 一种基于单导联心电信号的模型构建方法及性别识别方法 | |
| CN117079017A (zh) | 可信的小样本图像识别分类方法 | |
| CN116865884A (zh) | 基于在线学习的宽带频谱感知方法 | |
| Gómez-Ruiz et al. | A neural network based model for prognosis of early breast cancer | |
| Azam et al. | Classification of COVID-19 symptoms using multilayer perceptron | |
| Pan et al. | Specific radar emitter identification using 1D-CBAM-ResNet | |
| Chandra et al. | Bayesian multi-task learning for dynamic time series prediction | |
| CN115064276A (zh) | 一种使用自注意力机制的疾病预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |