CN116341614A - 基于深层自编码网络的无线电干扰激发函数的预测方法 - Google Patents

基于深层自编码网络的无线电干扰激发函数的预测方法 Download PDF

Info

Publication number
CN116341614A
CN116341614A CN202310377116.6A CN202310377116A CN116341614A CN 116341614 A CN116341614 A CN 116341614A CN 202310377116 A CN202310377116 A CN 202310377116A CN 116341614 A CN116341614 A CN 116341614A
Authority
CN
China
Prior art keywords
self
layer
encoder
training
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310377116.6A
Other languages
English (en)
Other versions
CN116341614B (zh
Inventor
何旺龄
魏宏宇
万保权
刘云鹏
陈启宇
刘冀邱
吕铎
干喆渊
王延召
张建功
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Grid Sichuan Economic Research Institute
State Grid Corp of China SGCC
China Electric Power Research Institute Co Ltd CEPRI
North China Electric Power University
Original Assignee
State Grid Corp of China SGCC
North China Electric Power University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Grid Corp of China SGCC, North China Electric Power University filed Critical State Grid Corp of China SGCC
Priority to CN202310377116.6A priority Critical patent/CN116341614B/zh
Publication of CN116341614A publication Critical patent/CN116341614A/zh
Application granted granted Critical
Publication of CN116341614B publication Critical patent/CN116341614B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R29/00—Arrangements for measuring or indicating electric quantities not covered by groups G01R19/00 - G01R27/00
    • G01R29/08—Measuring electromagnetic field characteristics
    • G01R29/0864—Measuring electromagnetic field characteristics characterised by constructional or functional features
    • G01R29/0892—Details related to signal analysis or treatment; presenting results, e.g. displays; measuring specific signal features other than field strength, e.g. polarisation, field modes, phase, envelope, maximum value
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B15/00—Suppression or limitation of noise or interference

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了基于深层自编码网络的无线电干扰激发函数的预测方法，包括以下步骤：将多个自编码器AE进行级联，采用逐层贪婪训练方式，将上一级AE的隐含层输出作为下一级AE的输入，构建具有堆栈自编码器和前馈神经网络的深层自编码网络，并对深层自编码网络进行无监督预训练与有监督微调，直至网络收敛；将深层自编码网络作为预测无线电干扰激发函数值的预测模型，通过采集高海拔地区的不同降雨条件、不同海拔高度和沙尘天气条件下的自变量参数，作为深层自编码网络的输入自变量，预测处于高海拔地区的交流输电线路的无线电干扰激发函数值；本发明提出的预测方法具有更高的预测精度，并为进一步预测不同环境下无线电干扰水平提供参考。

Description

基于深层自编码网络的无线电干扰激发函数的预测方法
技术领域
本发明涉及无线电干扰激发函数预测技术领域，具体而言，涉及基于深层自编码网络的无线电干扰激发函数的预测方法。
背景技术
近年来，通过对于高海拔地区复杂环境下的输电线路空间电磁辐射特征的研究，进而有效控制高海拔地区线路的电磁环境水平，从而践行绿色电网建设，对保护生态环境具有重要意义。
针对特高压交流输电线路无线电干扰特性开展了大量研究。现有技术利用SVM算法，建立了给定海拔高度下，无线电干扰与温湿度、风速风向等环境因素的灰色关联关系，提出了高压直流线路无线电干扰最小二次支持向量机(LSSVM)模型，以及利用BP神经网络、两种不同形式深度学习模型，建立了定海拔高度下，气象参数、电压参数、线路结构参数等多个维度特征量与无线电干扰的灰关联关系，提出了准确的直流线路无线电干扰预测模型，然而，交、直流线路电晕放电无线电干扰具有明显的差异性，比如交流线路雨天条件下无线电干扰较为强烈，而直流线路无线电干扰则以晴好天气为主等。因此，直流线路下获取的预测模型并不能直接用于指导交流线路设计，有必要建立基于深度学习策略的交流输电线路无线电干扰激发函数预测模型。
发明内容
为了解决上述问题，本发明的目的是提供一种基于深层自编码网络的无线电干扰激发函数的预测方法，将简单编码器中的解码器替换为神经网络，形成深度自编码网络后，通过无监督预训练逐层贪婪训练提取特征，通过监督微调进行对整个网络用有标签的数据进行训练调整，利用反向传播梯度下降算法更新网络参数，降低误差；并通过训练对高海拔地区的无线电激发函数进行预测。
为了实现上述技术目的，本申请提供了基于深层自编码网络的无线电干扰激发函数的预测方法，包括以下步骤：
将多个自编码器AE进行级联，生成堆栈自编码器SAE，采用逐层贪婪训练方式，将上一级AE的隐含层输出作为下一级AE的输入，构建具有堆栈自编码器和前馈神经网络相结合的深层自编码网络，其中，基于深层自编码网络，对SAE进行无监督预训练，将SAE训练得到的权重和偏置参数作为网络的初始化参数，通过反向传播梯度下降算法更新网络参数，直至网络收敛；
将深层自编码网络作为预测无线电干扰激发函数值的预测模型，通过采集高海拔地区的不同降雨条件、不同海拔高度和沙尘天气条件下的自变量参数，作为深层自编码网络的输入自变量，预测处于高海拔地区的交流输电线路的无线电干扰激发函数值。
优选地，在生成堆栈自编码器的过程中，堆栈自编码器包括三层，第一层隐藏层节点数为6，第二层隐藏层节点数为5，第三层隐藏层节点数为2。
优选地，在生成堆栈自编码器的过程中，堆栈自编码器的每一层隐含层均由AE的编码器组成，通过逐层贪婪训练，将训练得到特征表达存放在coder层中，再作为原始信号输入到下一层的自编码器中，得到新的特征表达，进而将多个自编码器逐层堆叠起来，生成堆栈自编码器。
优选地，在进行逐层贪婪训练的过程中，对每层隐含层进行单独训练，并保存编码器的权重与偏置参数。
优选地，在进行逐层贪婪训练的过程中，对第一层的处理过程：训练两个隐藏层的堆叠自编码器，首先用原始输入训练第一个编码器，学习得到原始输入的一阶特征表示，保留编码层的权重和偏置参数；
对第二层的处理过程：把经过上述第一层自编码器训练得到的一阶特征表示作为新的原始数据，输入到第二层自编码器中，学习得到二阶特征，同样地保留第二层的网络参数；
对第三层的处理过程：把经过第二层自编码器得到的二阶特征作为前馈神经网络的输入，训练前馈神经网络。
优选地，在构建深层自编码网络的过程中，编码器通过线性映射和非线性激活函数完成对样本进行编码，其中，编码器表示为：
H＝f(WeX+be)
Figure BDA0004170753440000031
z＝WbX+be
式中，H为经编码器编码后输出的结果，f为非线性激活函数，We为经过训练后得到的权重，X为输入的特征变量，be为经过训练后得到的偏置。
优选地，在获取输入自变量的过程中，将作为输入自变量的数据集的70％设置为训练集，15％设置为验证集，15％设置为测试集。
优选地，在通过深层自编码网络对无线电干扰激发函数值进行预测的过程中，将深层自编码网络的学习率设置为：训练过程中的初始学习率设置为0.00001，学习率增长比1.05、学习率下降比0.7。
本发明公开了以下技术效果：
与现有技术相比，本发明的预测精度更高，可以为进一步预测不同环境下无线电干扰水平提供参考。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例所述的简单自编码器结构示意图；
图2是本发明实施例所述的深层自编码网络结构图；
图3是本发明实施例所述的深层自编码网络的第一层自编码器示意图；
图4是本发明实施例所述的深层自编码网络的第二层自编码器示意图；
图5是本发明实施例所述的深层自编码网络的第三层自编码器示意图；
图6是本发明实施例所述的三层自编码器+神经网络结构图；
图7是本发明实施例所述的不同学习方法训练过程中验证集RMSE比较示意图；
图8是本发明实施例所述的方法实施流程图；
图9是本发明所述的方法流程示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
如图1-9所示，本申请提供了基于深层自编码网络的无线电干扰激发函数的预测方法，包括以下步骤：
将多个自编码器AE进行级联，生成堆栈自编码器SAE，采用逐层贪婪训练方式，将上一级AE的隐含层输出作为下一级AE的输入，构建具有堆栈自编码器和前馈神经网络相结合的深层自编码网络，其中，基于深层自编码网络，对SAE进行无监督预训练，将SAE训练得到的权重和偏置参数作为网络的初始化参数，通过反向传播梯度下降算法更新网络参数，直至网络收敛；
将深层自编码网络作为预测无线电干扰激发函数值的预测模型，通过采集高海拔地区的不同降雨条件、不同海拔高度和沙尘天气条件下的自变量参数，作为深层自编码网络的输入自变量，预测处于高海拔地区的交流输电线路的无线电干扰激发函数值。
进一步优选地，本发明在生成堆栈自编码器的过程中，本发明提到的堆栈自编码器包括三层，第一层隐藏层节点数为6，第二层隐藏层节点数为5，第三层隐藏层节点数为2。
进一步优选地，本发明在生成堆栈自编码器的过程中，本发明提到的堆栈自编码器的每一层隐含层均由AE的编码器组成，通过逐层贪婪训练，将训练得到特征表达存放在coder层中，再作为原始信号输入到下一层的自编码器中，得到新的特征表达，进而将多个自编码器逐层堆叠起来，生成堆栈自编码器。
进一步优选地，本发明在进行逐层贪婪训练的过程中，本发明对每层隐含层进行单独训练，并保存编码器的权重与偏置参数。
进一步优选地，本发明在进行逐层贪婪训练的过程中，本发明提到的第一层：训练两个隐藏层的堆叠自编码器，首先用原始输入训练第一个编码器，学习得到原始输入的一阶特征表示，保留编码层的权重和偏置参数；
本发明提到的第二层：把经过上述第一层自编码器训练得到的一阶特征表示作为新的原始数据，输入到第二层自编码器中，学习得到二阶特征，同样地保留第二层的网络参数；
本发明提到的第三层：把经过第二层自编码器得到的二阶特征作为前馈神经网络的输入，训练前馈神经网络。
进一步优选地，本发明在构建深层自编码网络的过程中，本发明提到的编码器是通过线性映射和非线性激活函数完成对样本进行编码，其中，编码器表示为：
H＝f(WeX+be)
Figure BDA0004170753440000071
z＝WbX+be
式中，H为经编码器编码后输出的结果，f为非线性激活函数，We为经过训练后得到的权重，X为输入的特征变量，be为经过训练后得到的偏置。
进一步优选地，本发明在获取输入自变量的过程中，本发明将作为输入自变量的数据集的70％设置为训练集，15％设置为验证集，15％设置为测试集。
进一步优选地，本发明在通过深层自编码网络对无线电干扰激发函数值进行预测的过程中，本发明将深层自编码网络的学习率设置为：训练过程中的初始学习率设置为0.00001，学习率增长比1.05、学习率下降比0.7。
实施例1：对于深层自编码网络的构建过程，如下：
1、现有技术中的自编码器：
自编码器(Autoencoder,AE)是一种无监督学习模型，基于反向传播算法和最优化方法，利用输入数据本身作为监督，指导神经网络学习映射关系，从而得到一个重构的输出。如图1所示，一个简单的AE结构主要包括两个部分：编码器(Encoder)和解码器(Decoder)。编码器将高维输入样本运用矩阵乘法经过权重和偏置的作用，映射到低维抽象表示，实现样本压缩和降维。而解码器则将抽象表示转换为期望输出，实现样本的复现。
2、基于自编码器，设计一种深层自编码网络：
将多个AE进行级联，则构建堆栈自编码器，采用逐层贪婪训练方式，将上一级AE的隐含层输出作为下一级AE的输入，进行层次化特征提取，使得最终提出的特征更具代表性。将把堆栈式自编码器(SAE)和前馈神经网络(feedforward)结合在一起，形成预测模型，如图2所示。
网络结构包括了3层的SAE网络，形成特征提取网络；之后与一层前馈神经网络相连，最终构成预测无线电干扰的SAE+feedforward网络模型。其中，第一层隐藏层节点数为6，根据上文先验知识去除部分影响较小的特征量，判断影响较大的特征维数为6；进一步分析设置第二层节点数为5，第三层节点数为2。
3、对深层自编码网络的无监督预训练与有监督微调：
(1)无监督预训练
首先SAE部分无监督预训练，逐层贪婪训练提取特征。每一层隐含层均由AE的编码器作用，训练得到特征表达存放在coder层中，再作为原始信号输入到下一层的自编码器中，得到新的特征表达，如此类推经过多个自编码器逐层堆叠起来。每层隐含层单独训练，保存编码器的权重与偏置参数。
第一层：训练两个隐藏层的堆叠自编码器，首先用原始输入训练第一个编码器，学习得到原始输入的一阶特征表示，保留编码层的权重和偏置；
第二层：把经过上述第一层自编码器训练得到的一阶特征表示作为新的原始数据，输入到第二层自编码器中，学习得到二阶特征，同样地保留第二层的网络参数；
第三层：把经过上述第二层自编码器得到的二阶特征作为前馈神经网络的输入，训练前馈神经网络模型；
组合：最终，把三层结合起来构建一个包含两个隐藏层和前馈神经网络的堆叠自编码网络，最终模型如下：
堆栈自编码网络在无监督训练完毕后，将经过预训练的各层网络结合起来，形成最终的网络模型，其中每层权重偏置参数已经在有数据输入的情况下进行了初始化，在一定程度上拟合了训练数据的结构，学习到了训练数据内部的相关性和规律性，使得在进行有监督学习前，整个网络参数的初始值更为适合，以加快迭代收敛和提高准确度。
(2)有监督训练微调
微调阶段，对整个网络用有标签的数据进行训练调整，利用反向传播梯度下降算法更新网络参数，降低误差。训练过程将无监督学习阶段保留的网络参数作为初始化参数，输入与无监督学习阶段同样的输入数据，在整个网络中进行训练，计算隐含层激活函数和目标函数，通过误差的反向传播更新权重和偏置参数。
将SAE训练得到的权重和偏差作为网络的初始化参数，并通过反向传播对整个网络进行微调，通过最小化目标变量的预测误差来获得改进的权重，直达模型稳定收敛。
实施例2：本发明通过深层自编码网络进行预测的技术过程，包括以下步骤：
步骤1：将简单自编码器进行改造，形成深层自编码网络；
传统的AE结构主要包括编码器和解码器，本发明保留编码器部分并堆叠多个编码器形成深层自编码网络。编码器通过线性映射和非线性激活函数完成对样本的编码，运算公式如式(1)。
H＝f(WeX+be) (1)
式中，H为经编码器编码后输出的结果，f为非线性激活函数(表达式如式(2)所示)，We为经过训练后得到的权重，X为输入的特征变量，be为经过训练后得到的偏置。
Figure BDA0004170753440000101
式中：z＝WbX+be。
神经网络中使用logsig函数用作神经网络的激活函数，如式(3)所示，可将将变量映射到0,1之间。
Figure BDA0004170753440000111
步骤2：网络输入；
深层自编码网络的输入自变量如表1不同降雨量条件下深层自编码网络输入参数、表2不同海拔高度条件下深层自编码网络输入参数和表3沙尘条件下深层自编码网络输入参数所示，分别为不同降雨条件、不同海拔高度和沙尘天气条件下的自变量参数，无线电干扰为因变量，即标签数据。其中，不同海拔高度条件输入参量类别与不同降雨条件基本一致，主要体现在大气压强数值的区别。此数据集为一个9维的输入数据集，可以组成一个3×3的输入。除了9个自变量数据外，还要输入作为标签的无线电干扰激发函数值。对比以上数据集，沙尘条件下的输入自变量参数包含了沙尘颗粒直径和沙尘浓度，共计10个数据，由于沙尘天气条件下无降雨天气状况，因此不包含降雨量参数，10维输入数据可以组成5×2的输入，除此之外，还要输入作为标签的无线电干扰激发函数值。
表1
Figure BDA0004170753440000112
表2
Figure BDA0004170753440000121
表3
Figure BDA0004170753440000122
对于数据集的划分如下，总数据集包括不同降雨量、不同海拔高度、不同沙尘浓度条件下的有效数据，将其中70％设置为训练集，15％作为验证集，15％作为测试集。测试集的工况不在训练集和验证集中出现。验证集用于反映当前模型的预测效果，根据预测效果不断对模型进行调整，最终将测试集数据输入训练好的模型，对结果作误差分析，完成对模型的性能评价。
步骤3：设置网络结构参数和网络训练参数；
(1)网络结构参数
网络结构参数设置如附表4深层自编码网络结构参数所示。
表4
Figure BDA0004170753440000131
(2)网络训练参数
学习率：训练过程中的初始学习率设置为0.00001，学习率增长比1.05、学习率下降比0.7。
损失函数：目标损失函数采用均方误差(RMSE)：
Figure BDA0004170753440000132
其中yi表示实际数，
Figure BDA0004170753440000133
表示预测值，n为样本个数。
步骤4：对比不同学习方法的无线电激发函数预测效果：
把深层自编码网络与负反馈(BP)神经网络和普通的卷积神经网络(CNN)进行比较，验证其预测效果。图7为不同学习方法进行训练过程中验证集的训练误差变化情况。可以看到BP神经网络和普通卷积神经网络回归结果较为接近，此两种方法的验证集RMSE在3.154和3.728。此处深层自编码网络采用三隐含层网络结构，最终验证集RMSE略优于BP神经网络和普通卷积神经网络。
步骤5：通过对比学习方法的模型，得到预测精度更高的预测模型。
本发明提出的使用三层自编码器可以提取到更为显著的无线电干扰特征，将所提取到的特征输入到神经网络中可以预测得到精度更高的无线电激发函数。通过将预测结果与传统人工智能算法(负反馈(BP)神经网络和普通的卷积神经网络(CNN))对比，本发明预测精度更高，可以为进一步预测不同环境下无线电干扰水平提供参考。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
在本发明的描述中，需要理解的是，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (8)

1.基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于，包括以下步骤：
将多个自编码器AE进行级联，生成堆栈自编码器SAE，采用逐层贪婪训练方式，将上一级AE的隐含层输出作为下一级AE的输入，构建具有所述堆栈自编码器和前馈神经网络相结合的深层自编码网络，其中，基于所述深层自编码网络，对SAE进行无监督预训练，将SAE训练得到的权重和偏置参数作为网络的初始化参数，通过反向传播梯度下降算法更新网络参数，直至网络收敛；
将所述深层自编码网络作为预测无线电干扰激发函数值的预测模型，通过采集高海拔地区的不同降雨条件、不同海拔高度和沙尘天气条件下的自变量参数，作为所述深层自编码网络的输入自变量，预测处于所述高海拔地区的交流输电线路的无线电干扰激发函数值。
2.根据权利要求1所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在生成堆栈自编码器的过程中，所述堆栈自编码器包括三层，第一层隐藏层节点数为6，第二层隐藏层节点数为5，第三层隐藏层节点数为2。
3.根据权利要求2所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在生成堆栈自编码器的过程中，所述堆栈自编码器的每一层隐含层均由AE的编码器组成，通过逐层贪婪训练，将训练得到特征表达存放在coder层中，再作为原始信号输入到下一层的自编码器中，得到新的特征表达，进而将多个自编码器逐层堆叠起来，生成所述堆栈自编码器。
4.根据权利要求3所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在进行逐层贪婪训练的过程中，对每层隐含层进行单独训练，并保存所述编码器的权重与偏置参数。
5.根据权利要求4所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在进行逐层贪婪训练的过程中，对第一层的处理过程：训练两个隐藏层的堆叠自编码器，首先用原始输入训练第一个编码器，学习得到原始输入的一阶特征表示，保留编码层的权重和偏置参数；
对第二层的处理过程：把经过上述第一层自编码器训练得到的一阶特征表示作为新的原始数据，输入到第二层自编码器中，学习得到二阶特征，同样地保留第二层的网络参数；
对第三层的处理过程：把经过所述第二层自编码器得到的二阶特征作为所述前馈神经网络的输入，训练所述前馈神经网络。
6.根据权利要求5所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在构建深层自编码网络的过程中，所述编码器通过线性映射和非线性激活函数完成对样本进行编码，其中，所述编码器表示为：
H＝f(WeX+be)
Figure FDA0004170753370000031
z＝WbX+be
式中，H为经编码器编码后输出的结果，f为非线性激活函数，We为经过训练后得到的权重，X为输入的特征变量，be为经过训练后得到的偏置。
7.根据权利要求6所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在获取输入自变量的过程中，将作为所述输入自变量的数据集的70％设置为训练集，15％设置为验证集，15％设置为测试集。
8.根据权利要求7所述基于深层自编码网络的无线电干扰激发函数的预测方法，其特征在于：
在通过深层自编码网络对无线电干扰激发函数值进行预测的过程中，将所述深层自编码网络的学习率设置为：训练过程中的初始学习率设置为0.00001，学习率增长比1.05、学习率下降比0.7。
CN202310377116.6A 2023-04-10 2023-04-10 基于深层自编码网络的无线电干扰激发函数的预测方法 Active CN116341614B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310377116.6A CN116341614B (zh) 2023-04-10 2023-04-10 基于深层自编码网络的无线电干扰激发函数的预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310377116.6A CN116341614B (zh) 2023-04-10 2023-04-10 基于深层自编码网络的无线电干扰激发函数的预测方法

Publications (2)

Publication Number Publication Date
CN116341614A true CN116341614A (zh) 2023-06-27
CN116341614B CN116341614B (zh) 2023-10-03

Family

ID=86885718

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310377116.6A Active CN116341614B (zh) 2023-04-10 2023-04-10 基于深层自编码网络的无线电干扰激发函数的预测方法

Country Status (1)

Country Link
CN (1) CN116341614B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102509011A (zh) * 2011-11-03 2012-06-20 国网电力科学研究院 特高压输电线路导线无线电干扰激发函数及其确定方法
CN104636985A (zh) * 2013-11-08 2015-05-20 国家电网公司 一种改进bp神经网络的输电线路无线电干扰预测方法
CN104715151A (zh) * 2015-03-20 2015-06-17 国家电网公司 一种高压输电线路无线电干扰激发函数确定方法
US20170328194A1 (en) * 2016-04-25 2017-11-16 University Of Southern California Autoencoder-derived features as inputs to classification algorithms for predicting failures
CN108446766A (zh) * 2018-03-21 2018-08-24 北京理工大学 一种快速训练堆栈自编码深度神经网络的方法
CN108921343A (zh) * 2018-06-26 2018-11-30 浙江工业大学 基于堆栈自编码器-支持向量回归的交通流量预测方法
CN109255469A (zh) * 2018-08-07 2019-01-22 河海大学 融合栈式自编码器和支持向量回归的洪水预测方法
CN110456176A (zh) * 2019-05-28 2019-11-15 武汉大学 一种高海拔地区高压输电线路无线电干扰水平的计算方法
CN111814878A (zh) * 2020-07-09 2020-10-23 仲恺农业工程学院 基于ssda-helm-softmax的农业投入品实时分类预测方法
US20210132132A1 (en) * 2019-10-31 2021-05-06 State Grid Nanjing Supply Power Company Method for calculating radio interference suffered by a communication device mounted on an electric power tower
CN112861992A (zh) * 2021-03-09 2021-05-28 三峡大学 基于独立稀疏堆叠自编码器的风电场超短期功率预测方法
CN112904092A (zh) * 2021-01-19 2021-06-04 华北电力大学（保定） 一种高海拔交流线路的无线电干扰预测方法及装置
WO2021170735A1 (en) * 2020-02-28 2021-09-02 Sensyne Health Group Limited Semi-supervised machine learning method and system suitable for identification of patient subgroups in electronic healthcare records

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102509011A (zh) * 2011-11-03 2012-06-20 国网电力科学研究院 特高压输电线路导线无线电干扰激发函数及其确定方法
CN104636985A (zh) * 2013-11-08 2015-05-20 国家电网公司 一种改进bp神经网络的输电线路无线电干扰预测方法
CN104715151A (zh) * 2015-03-20 2015-06-17 国家电网公司 一种高压输电线路无线电干扰激发函数确定方法
US20170328194A1 (en) * 2016-04-25 2017-11-16 University Of Southern California Autoencoder-derived features as inputs to classification algorithms for predicting failures
CN108446766A (zh) * 2018-03-21 2018-08-24 北京理工大学 一种快速训练堆栈自编码深度神经网络的方法
CN108921343A (zh) * 2018-06-26 2018-11-30 浙江工业大学 基于堆栈自编码器-支持向量回归的交通流量预测方法
CN109255469A (zh) * 2018-08-07 2019-01-22 河海大学 融合栈式自编码器和支持向量回归的洪水预测方法
CN110456176A (zh) * 2019-05-28 2019-11-15 武汉大学 一种高海拔地区高压输电线路无线电干扰水平的计算方法
US20210132132A1 (en) * 2019-10-31 2021-05-06 State Grid Nanjing Supply Power Company Method for calculating radio interference suffered by a communication device mounted on an electric power tower
WO2021170735A1 (en) * 2020-02-28 2021-09-02 Sensyne Health Group Limited Semi-supervised machine learning method and system suitable for identification of patient subgroups in electronic healthcare records
CN111814878A (zh) * 2020-07-09 2020-10-23 仲恺农业工程学院 基于ssda-helm-softmax的农业投入品实时分类预测方法
CN112904092A (zh) * 2021-01-19 2021-06-04 华北电力大学（保定） 一种高海拔交流线路的无线电干扰预测方法及装置
CN112861992A (zh) * 2021-03-09 2021-05-28 三峡大学 基于独立稀疏堆叠自编码器的风电场超短期功率预测方法

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
AFAN ALI 等: "Automatic modulation classification of digital modulation signals with stacked autoencoders", 《DIGITAL SIGNAL PROCESSING》, vol. 71, pages 108 - 116, XP085215600, DOI: 10.1016/j.dsp.2017.09.005 *
QIUSHENG WANG 等: "Noise Suppression of Corona Current Measurement From HVdc Transmission Lines", 《IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT》, vol. 65, no. 02, pages 264 - 275, XP011596327, DOI: 10.1109/TIM.2015.2485339 *
万保权 等: "高海拔地区大截面导线束的无线电干扰特征研究", 《环境污染与防治》, vol. 43, no. 08, pages 933 - 936 *
刘泫梓: "基于软件无线电平台和循环神经网络的电磁干扰采集与识别系统的研究与实现", 《中国优秀硕士学位论文全文数据库信息科技辑》, no. 2019, pages 136 - 438 *
瓮佳良: "基于深度学习的玻璃缺陷识别方法研究", 《中国优秀硕士学位论文全文数据库工程科技Ⅰ辑》, no. 2017, pages 015 - 106 *
谢辉春: "特高压交流输电线路无线电干扰统计特征及预测评估方法", 《中国博士学位论文全文数据库工程科技Ⅱ辑》, no. 2017, pages 042 - 149 *
郑心仪 等: "交直流并行输电线路无线电干扰的预测算法", 《南方电网技术》, vol. 15, no. 10, pages 72 - 79 *

Also Published As

Publication number Publication date
CN116341614B (zh) 2023-10-03

Similar Documents

Publication Publication Date Title
US10832123B2 (en) Compression of deep neural networks with proper use of mask
CN108764539B (zh) 一种梯级电站的上下游水位预测方法
CN111860982A (zh) 一种基于vmd-fcm-gru的风电场短期风电功率预测方法
CN110322364B (zh) 一种短期光伏发电预测方法及系统
CN109599872B (zh) 基于堆栈降噪自动编码器的电力系统概率潮流计算方法
CN113554466A (zh) 一种短期用电量预测模型构建方法、预测方法和装置
CN112669168B (zh) 一种风电功率短期预测方法
CN106447133A (zh) 一种基于深度自编码网络的短期电力负荷预测方法
CN113255986A (zh) 一种基于气象信息和深度学习算法的多步日径流预报方法
CN111178585A (zh) 基于多算法模型融合的故障接报量预测方法
CN109754122A (zh) 一种基于随机森林特征提取的bp神经网络的数值预测方法
CN115907131B (zh) 一种北方地区电采暖负荷预测模型搭建方法和系统
CN114298140A (zh) 一种考虑机组分类的风电短期功率预测校正方法
CN113947182A (zh) 基于双阶段堆叠图卷积网络的交通流预测模型构建方法
CN110717581A (zh) 一种基于温度模糊处理和dbn的短期负荷预测方法
CN113537539B (zh) 一种基于注意力机制的多时间步供热用气量预测模型
CN116341717A (zh) 一种基于误差补偿的风速预测方法
CN115577748A (zh) 一种集成挤压激励注意力机制的双通道风电预测方法
CN111985711B (zh) 一种风电功率概率预测模型建立方法
CN116341614B (zh) 基于深层自编码网络的无线电干扰激发函数的预测方法
CN116306292A (zh) 一种基于卷积神经网络的水电站物理场级数字孪生模型构建方法
CN113722951B (zh) 基于神经网络的散射体三维有限元网格优化方法
Li et al. A short-term wind power forecasting method based on NWP wind speed fluctuation division and clustering
CN115329937A (zh) 一种风机运维数据驱动的lstm-sa神经网络超短期功率预测方法
CN115293406A (zh) 基于CatBoost和Radam-LSTM的光伏发电功率预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20231031

Address after: 071000 619 Yonghua North Street, lotus pool, Baoding, Hebei

Patentee after: NORTH CHINA ELECTRIC POWER University (BAODING)

Patentee after: STATE GRID CORPORATION OF CHINA

Patentee after: CHINA ELECTRIC POWER RESEARCH INSTITUTE Co.,Ltd.

Patentee after: STATE GRID SICHUAN ECONOMIC Research Institute

Address before: 071000 619 Yonghua North Street, lotus pool, Baoding, Hebei

Patentee before: NORTH CHINA ELECTRIC POWER University (BAODING)

Patentee before: STATE GRID CORPORATION OF CHINA