CN109361635A - 基于深度残差网络的水下通信调制方式识别方法及系统 - Google Patents

基于深度残差网络的水下通信调制方式识别方法及系统 Download PDF

Info

Publication number
CN109361635A
CN109361635A CN201811403397.3A CN201811403397A CN109361635A CN 109361635 A CN109361635 A CN 109361635A CN 201811403397 A CN201811403397 A CN 201811403397A CN 109361635 A CN109361635 A CN 109361635A
Authority
CN
China
Prior art keywords
residual error
error network
layer
depth residual
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811403397.3A
Other languages
English (en)
Other versions
CN109361635B (zh
Inventor
王岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taishan University
Original Assignee
Taishan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taishan University filed Critical Taishan University
Priority to CN201811403397.3A priority Critical patent/CN109361635B/zh
Publication of CN109361635A publication Critical patent/CN109361635A/zh
Application granted granted Critical
Publication of CN109361635B publication Critical patent/CN109361635B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00—Modulated-carrier systems
    • H04L27/0012—Modulated-carrier systems arrangements for identifying the type of modulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00—Modulated-carrier systems
    • H04L27/0008—Modulated-carrier systems arrangements for allowing a transmitter or receiver to use more than one type of modulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Geophysics And Detection Of Objects (AREA)

Abstract

本申请公开了一种基于深度残差网络的水下通信调制方式识别方法及系统,将水下通信传输过来的多种调制方式数据进行数据预处理；经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层；经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。使用了深度残差网络对输入的多种调制方式的数据进行预处理后，然后通过深度残差网络中识别能力逐渐递增的残差网络层对预处理数据逐级进行特征提取，最终获取准确的通信调制方式，提高对水下通信调制方式的判断准确率。

Description

基于深度残差网络的水下通信调制方式识别方法及系统
技术领域
本申请涉及水下通信技术领域，具体涉及一种基于深度残差网络的水下通信调制方式识别方法及系统。
背景技术
由于水下无线通信对高频电磁波的吸收特性，水下的场景主要指海底，而陆地中使用的无线电磁波不能在水下长距离传输。水下信道特性主要反映在窄信道，长延迟和多径效应中。这些水下通信环境特性与地面无线通信环境显著不同，使得建立一个稳定和有效的水下通信的过程变得极为困难。
通常为了提高通信系统的通信效率，比较常用的方法是采用高阶调制方法提高了水下通信的效率。高阶调制的引入，调制识别成为通信系统通信过程中的重要组成部分。随着水声通信环境的复杂性，调制识别成为具有挑战性的任务。通常机器学习调制识别方法主要包括支持向量机，K-最近邻和决策树等。
但是传统的水下通信调制方式识别方法无法快速准确的判断出当前的调制方式，因此亟需一种水下通信调制方式识别方法。
发明内容
本申请为了解决上述技术问题，本申请是通过如下技术方案实现的：
第一方面，本申请实施例提供了一种基于深度残差网络的水下通信调制方式识别方法,所述方法包括：将水下通信传输过来的多种调制方式数据进行数据预处理；经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层；经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。
采用上述实现方式，使用了深度残差网络对输入的多种调制方式的数据进行预处理后，然后通过深度残差网络中识别能力逐渐递增的残差网络层对预处理数据逐级进行特征提取，最终获取准确的通信调制方式，提高对水下通信调制方式的判断准确率。
根据第一方面，在第一方面第一种可能的实现方式中，所述将水下通信传输过来的多种调制方式数据进行数据预处理，包括：将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元；对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。
根据第一方面第一种可能的实现方式，在第一方面第二种可能的实现方式中，所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层，所述经过数据预处理后的多种调制方式数据输入深度残差网络第二层，从第二层到最后一层依次进行数据特征的提取，包括：第一深度残差网络层，根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集；第二深度残差网络层根据所述第一特征提取集生成第一高级特征集；第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集；第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
根据第一方面第二种可能的实现方式，在第一方面第三种可能的实现方式中，所述深度残差网络还包括第五深度残差网络层，所述经过深度残差网络最后一层识别出的调制方式数据输出包括：所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断，输出识别出的调制方式数据。
根据第一方面第二种可能的实现方式，在第一方面第四种可能的实现方式中，所述第一深度残差网络层包括3个残差网络单元，所述第二深度残差网络层包括4个残差网络单元，所述第三深度残差网络层包括6个残差网络单元，所述第四深度残差网络层包括3个残差网络单元，其中所述第一深度残差网络层和所述第四深度残差网络层中残差网络单元包含的神经元个数不同。
第二方面，本申请实施例提供了一种基于深度残差网络的水下通信调制方式识别系统,所述系统包括：预处理模块，用于将水下通信传输过来的多种调制方式数据进行数据预处理；特征提取模块，用于经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层；输出模块，用于经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。
根据第二方面，在第二方面第一种可能的实现方式中，所述预处理模块包括：数据转换单元，用于将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元；归一化处理单元，用于对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。
根据第二方面第一种可能的实现方式，在第二方面第二种可能的实现方式中，所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层，所述特征提取模块，包括：第一特征提取单元，用于第一深度残差网络层根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集；第二特征提取单元，用于第二深度残差网络层根据所述第一特征提取集生成第一高级特征集；第三特征提取单元，用于第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集；第四特征提取单元，用于第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
根据第二方面第二种可能的实现方式，在第二方面第三种可能的实现方式中，所述深度残差网络还包括第五深度残差网络层，所述输出模块包括：判断单元，用于所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断；输出单元，用于输出识别出的调制方式数据。
第三方面，本申请实施例提供了一种终端，包括：处理器；存储器，存储有可执行指令；所述处理器执行所述可执行指令，执行上述第一方面或第一方面任一可能的基于深度残差网络的水下通信调制方式识别方法。
附图说明
下面结合附图对本申请作进一步的说明。
图1为本申请实施例提供的一种基于深度残差网络的水下通信调制方式识别方法的流程示意图；
图2，为本申请实施例提供的一种深度残差网络部分网络层的示意图；
图3为本申请实施例提供的一种动量变化的示意图；
图4为本申请实施例提供的一种18层残差网络结构和50层残差网络结构识别效果示意图；
图5为本申请实施例提供的一种深度残差网络训练过程示意图；
图6为本申请实施例提供的一种深度残差网络在信噪比-10dB下的识别效果示意图；
图7为本申请实施例提供的一种深度残差网络在信噪比-2dB下的识别效果示意图；
图8为本申请实施例提供的一种基于深度残差网络的水下通信调制方式识别系统的示意图；
图9为本申请实施例提供的一种终端的结构示意图。
具体实施方式
为能清楚说明本方案的技术特点，下面结合附图与具体实施方式对本方案进行阐述。
接收端的调制识别是解调和信号识别的前提。在水下无线通信过程中，主要受到水下特殊传播环境的影响，包括多径，加性噪声，多普勒频移等因素的影响。
表达的基本形式类似于通用通信模型的形式，但它与基本形式不同。具体表示为s(t)是发送信号，τ代表时延。c(τ；t)表示在时间(t-τ)添加的信道的脉冲响应，在时刻t的响应。n(t)是满足高斯特性的加性噪声。该噪声可以是非白色的，即噪声的频谱分量不一定均匀分布。r(t)表示接收到的信号。
时变脉冲响应的形式写为ak(t)表示L多径传播路径上可能的时变衰减因子。τk是第k个路径上的相应延迟。δ(τ-τk)是在时间(τ-τk)时的脉冲响应。
由上两式可得接收信号可表示为因此，接收信号由L路径分量组成，其中每个分量具有ak的衰减和τk的延迟。
在本具体方案实施设计中，为了提高水下无线通信过程中的通信效率，通常采用多元QAM和PSK调制方式。这两种调制方法(包括它们的多元形式)可以通过I/Q正交调制实现(I表示同相，Q表示正交)。两个信号f1(t)和f2(t)分别由信号cos(wct)和sin(wct)调制，形式为s(t)＝f1(t)cos(wct)-f2(t)sin(wct)，其中f1(t)称为I信号，f2(t)称为Q信号。cos(wct)和sin(wct)是载波，其中wc是载波角频率。以输出BPSK调制为例，将使用表1描述使用I/Q调制的BPSK的简单描述。s01表示输入数据的位置。
表1.正交调制表示的BPSK调制.
图1为本申请实施例提供的一种基于深度残差网络的水下通信调制方式识别方法，参见图1所述方法包括：
S101，将水下通信传输过来的多种调制方式数据进行数据预处理。
本申请实施例中将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元。对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。需要指出的是，本申请实施例中水下通信传输过来的多种调制方式包括在目标水下进行通信和参考水下进行通信获取的多种调制方式对应的数据。目标水下通信调制识别方式数据与参考水下通信调制方式数据分别属于同一水下信道产生的水下通信数据。
S102，经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取。
残差网络结构使用跳层连接的方式，通过多层的卷积神经网络组成。跳层连接的主要作用是在后向传播时传递梯度参数从而有效地缓解梯度消失问题，进而解决深度学习网络层次很深时难以训练的问题。
所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层。
如图2所示，为本申请实施例提供的一种深度残差网络部分网络层的示意图。
第一深度残差网络层，根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集。第二深度残差网络层根据所述第一特征提取集生成第一高级特征集。第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集。第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
第一深度残差网络层包括了三个残差网络单元，三个残差网络单元的结构形式由两种形式组成。第一个残差网络单元由第一种残差网络单元结构形式组成。第一种残差网络单元结构形式，由三层卷积神经网络层构成，同时从第一层卷积神经网络层前通过一层卷积神经网络跳层连接到第三层卷积神经网络层后。第二、三个残差网络单元由第二种残差网络单元结构形式组成。第二种残差网络单元结构形式，也由三层卷积神经网络层构成，同时从第一层卷积神经网络层前直接连接到第三层卷积神经网络层后。每个卷积神经网络层都由M*N格式的神经单元(也就是数据卷积单元)构成，其中，M代表分析数据矩阵上的所在行上的数据个数，N代表分析数据矩阵的所在列上的数据个数。第一层类残差网络层的神经单元数与其他层类残差网络层的神经单元数可以一致或不一致。
第二深度残差网络层包括了四个残差网络单元，四个残差网络单元的结构形式由两种形式组成。第一个残差网络单元与第一层类的第一种残差网络单元结构形式类似。第二、三、四残差网络单元和第一层类的第二种残差网络单元结构形式类似。每个残差网络单元中使用的卷积神经网络层都是通过包括M*N格式的神经单元(也就是数据卷积单元)组成，其中，M代表分析数据矩阵上的所在行上的数据个数，N代表分析数据矩阵的所在列上的数据个数，两层的M值、N值一样。第二层类残差网络层的神经单元数与其他层类残差网络层的神经单元数可以一致或不一致。
第三深度残差网络层包括了六个残差网络单元，六个残差网络单元的结构形式由两种形式组成。第一个残差网络单元与第一层类的第一种残差网络单元结构形式类似。第二、三、四、五、六残差网络单元和第一层类的第二种残差网络单元结构形式类似。每个残差网络单元中使用的卷积神经网络层都是通过包括M*N格式的神经单元(也就是数据卷积单元)组成，其中，M代表分析数据矩阵上的所在行上的数据个数，N代表分析数据矩阵的所在列上的数据个数，两层的M值、N值一样。第三层类残差网络层的神经单元数与其他层类残差网络层的神经单元数可以一致或不一致。
第四深度残差网络层包括三个残差网络单元，三个残差网络单元的结构形式由两种形式组成。第一个残差网络单元与第一层类的第一种残差网络单元结构形式类似。第二、三残差网络单元和第一层类的第二种残差网络单元结构形式类似。每个残差网络单元中使用的卷积神经网络层都是通过包括M*N格式的神经单元(也就是数据卷积单元)组成，其中，M代表分析数据矩阵上的所在行上的数据个数，N代表分析数据矩阵的所在列上的数据个数，两层的M值、N值一样。第四层类残差网络层的神经单元数与其他层类残差网络层的神经单元数可以一致或不一致。
虽然深度学习网络中，通过增加网络层数以及每层中神经元个数的方法可以提取分析数据集中更多的数据特征，同时过多的网络层和每层中的神经元也很容易造成训练的模型过度拟合的问题，导致训练完成的模型无法在实际环境中上线使用。这时就需要通过在深度学习网络层之间加入跨层连接的方式来提高模型的抗过拟合的能力，使得训练后的模型能在实际类似数据集分类任务中的正常使用。
通过残差网络跨层连接的方式可以有效地在各层之间有效的传递梯度参数共享训练参数，这都使得模型训练效率更高，同时因为不用使用过多全连接层，从而极大地减少了参数数量，减少了模型参数规模，进而提高了模型训练的速度，节省了模型训练的硬件开销及计算资源规模。
S103，经过深度残差网络最后一层识别出的调制方式数据输出。
所述调制方式数据对应最终识别的通信调制方式，所述深度残差网络还包括第五深度残差网络层，所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断，输出识别出的调制方式数据。
该第五层神经网络层为结果判断层，根据各层神经网络提供的特征信息通过Softmax激活函数处理，对实际传输的调制方式进行判断。最终判断经过水下通信信道传输过程中污染的接收信号属于何种调制方式。
通过单层的全连接层形成有效的特征集数据分类能力，给最终的调制方式判断提供更好的分类预处理。目前可分类的主要用于水下通信的调制方式为MPSK(主要包括BPSK、QPSK、8PSK等)和MQAM(主要包括16QAM等)，使得模型以后可以更广泛地扩展应用到各种水下通信过程中。全连接层实际上对通过每层深度残差网络输出的结果进行了进一步的分析处理，对通过多层残差网络结构后产生的特征数据集进行了优化并输出最终的调试方式结果。
在申请中，使用了训练深度神经网络模型数据和测试深度神经网络模型数据分别独立输入的方式，也就说先将训练模型的数据输入到神经网络中，进行神经网络的训练，当训练完毕后，再将测试模型的数据输入到神经网络中进行对网络模型的准确率测试。故可以模拟实际使用的情况，提高在实际水下通信中的使用效果，更方便高效地完成水下通信调制识别，提高识别判断的准确度。因为在实际使用之前已经完成了对模型的训练及测试工作，在实际的上线使用中训练好的模型不需要进行参数的动态调整、数据处理和相应运算过程，而可以直接通过输入的数据判断输出的结果，具备延迟低、实时处理性好和效率高等优点。
通过对深度学习网络的实验，可以发现随着深度学习网络层数的不断提高，模型的准确性不断提高。当网络级别增加到一定数量时，训练准确性和测试准确性迅速降低。这表明当网络变深时，深层网络变得更难训练。
随着网络层次越来越深，模型效果越差，主要原因就是梯度消失问题。一般的神经网络结构由输入层，隐藏层和输出层组成，每层由几个神经元组成。输入表示输入层，隐藏表示隐藏层(可根据实际情况使用多个隐藏层)，输出表示输出层，与每层神经元对应的数字是层的序列号。可以存在从层中的神经元到下神经元的多个映射，每个映射对应于权重。反向传播以虚线表示并表示反向传播的操作，因为它仅是一种操作形式并且由虚线表示。
神经网络的反向传播原理，首先通过前向传播计算结果输出，然后将其与样本目标进行比较以获得误差值根据误差结果，使用链规则来获得偏导数，并且反向传播结果误差以获得权重w调整的梯度。
根据链规则获得的隐藏层的反向传播过程为 其中，OutputO1代表输出层的第一个单元，HiddenO1代表隐藏层的第一个单元。通过连续迭代，连续调整参数矩阵，使输出结果的误差值更小，输出结果更接近事实。从上述过程可以看出，神经网络在反向传播期间连续传播梯度。当网络层的数量加深时，梯度将在传播过程中逐渐消失。层越多，衰减越多，这使得无法有效地调整先前网络层的权重。此时，有必要在加深网络层数量后解决梯度消失的问题，并提高模型的准确性。
假设一个相对较浅的网络已经达到饱和精度，然后添加几个跳层连接(即输出等于输入)，这会增加网络的深度，并且最小误差不会因此而增加。也就是说，更深的网络不应该导致训练集上的错误增加。这里提到的使用跳层连接的方式将前一层的输出直接传递给后者的方法是深度残差网络的基本方法。
在多层网络中，每层可以被认为是分类器模型。只是每个级别的分类器的特定分类含义仍然难以找到精确和令人信服的物理解释。然而，每层的各种神经元客观地充当分类器，对先前层的矢量进行采样并将其映射到新的矢量空间分布中。
在深度残差网络的结构设计中，通常是采用一种简化结构的设计方法，但只是通过简单地深化网络来提高分类精度。在图像域中使用的残差网络结构中，几乎所有卷积层都使用3×3的卷积内核。并且没有在隐藏层中设计任何完全连接的层。在训练过程中也不考虑使用任何Dropout机制来防止过拟合。
使用短路连接层，引入了非常平滑的正向传输过程。αi+1与其前一层αi之间的关系是纯线性叠加关系，如等式所示αi+1＝αi+G(αi)。如果进一步导出αi+2及其后续图层的输出，将找到扩展表达式，如下所示：αi+2＝αi+1+G(αi+1)，αi+2＝αi+G(αi)+G(αi+1)，就是说，αI向量的任何后续层的内容将具有一部分，其由前面的层αi线性贡献。
上述公式中的αI层输出的函数表达式表明反向残差转移也是一个非常平稳的过程。对应于上述公式中残差的定义，其中相应的残差表示为这里αla表示在给定当前样本和标签的情况下对应于αI层的理想矢量值。然后使用反向传播过程，这里的链式规则可以直接找到相应的反向传播由任何层上的输出αI产生的残差可以传递回其前面的任何层的αi上。这种转移的过程非常快速和直接。然后，当层数增加时，将没有明显的效率问题，注意部分在等式中，使得和是线性叠加过程而不是乘法，并且估计梯度不会消失。这解释了为什么可以允许深度残差网络的深度如此深，并且不存在难以解决的梯度消失和训练效率的问题。
在训练网络中选择梯度下降优化参数时，应注意所选参数与水下通信调制识别数据之间的匹配问题。通用公式用于描述梯度下降方法，要优化的参数λ，目标函数f(λ)和初始学习率θ。然后执行迭代优化，并且进行epoch的次数用j来表示。Epoch表示完整数据集通过模型然后再次返回的次数。计算当前参数的目标函数的梯度基于历史梯度计算一阶动量公和二阶动量公式计算当前时刻的下降梯度根据下降梯度更新网络参数λj+1＝λj-ρj。在这个过程中最广泛使用的梯度下降法是Adam(Adaptive Moment Establishment)。Adam引入了二阶动量，使用它的主要原因是神经网络中有许多参数。对于经常更新的参数，网络在学习过程中已经积累了大量关于它们的知识。在这个过程中不希望它们受到单个样本太多的影响，希望学习速度较慢。对于未经常更新的参数，因为包含的信息太少，导致网络无法理解。我们希望网络可以从偶然发生的每个样本中学到更多，并且学习率更高。但是随着时间窗口的变化，遇到的数据会发生巨大变化，从而可能变得或大或小，而不是一个单调变化的过程。这可能导致后期训练中的学习率震荡，并导致模型无法收敛。当使用Adam训练深度学习模型用来识别水下通信调制方式的数据集时，就会遇到此问题
为了解决这类问题并确保算法的收敛性，需要使用具有动量方法的随机梯度下降方法(Stochastic Gradient Descent，SGD)来解决使用Adam训练模型的问题。SGD在学习数据集分布时波动的优势在于可以更好的学习类似流域区域的数据集的分布特征。换句话说就是可以在许多局部极小点中最终找到全局极小点。数据集中具有许多局部极小点正是水下通信调制识别数据的特征。这种波动的特征可能导致优化方向从当前局部最小点跳到另一个更好的局部最小点。因此，模型最终学习获得的非凸函数可以收敛到更好的局部极值点或甚至全局极值点。在SGD中包含的Momentum获得依据主要是通过由在数据集流域区域中某些方向比其他方向更陡峭并且通常在局部极值点处发现。SGD在这些地方振荡，从而增加了迭代次数(学习时间)，也就是说，收敛速度减慢了。在这种情况下，Momentum解决了这个问题，如图3所示。
Momentum类似于从雪山顶部滚动的雪球。当它滚下来时，雪球会在它前面堆积从而形成一定基础，这时Momentum会一直再增加。因此，Momentum变得越来越快，直到它结束。类似地，当更新模型参数时，当前梯度方向与先前梯度方向相同的参数被加强，即这些方向更快。对于当前梯度方向与先前梯度方向不同的那些参数，进行减小并减慢方向。因此，可以获得更快的收敛速度和更少的振荡。通过具有Momentum的SGD，解决Adam不能使水下通信的调制识别模型不收敛的问题有显著的效果。
当使用训练数据集完成模型训练，然后使用验证数据集进行模型验证时，需要一个标准来衡量模型的训练和验证。该度量是交叉熵函数。交叉熵是一种损失函数，它描述了模型的预测值与真实值之间的差异。如果通过深度学习网络输出神经元可以表示为φ＝ψ(z)，这里ψ是激活函数，形式采用sigmoid函数取值范围为0到1,形式为z是神经元的基本操作形式z＝∑kwkxk+b，其中k是对应的神经元数，根据网络层的实际设计，k≥2。wk是神经元的权重，xk是神经元的输入，b是偏差。这里的总和涵盖了所有训练输入xk。将此神经元的交叉熵函数损失函数定义为这里u是训练数据的数量，y是预期输出，L是计算交叉熵函数的结果。交叉熵适合作为损失函数的原因是由交叉熵获得的值必定是正数。预测结果越准确，值越小，便于测量模型的效果。
在本申请实施例中，从图4中可以看出，当残差网络模型使用不同数量的层时，分类性能是不同的。50层残差网络优于18层残差网络，特别是当SNR从-10dB到0dB时。因此，本文的调制识别任务将使用50层剩余网络结构。
在本申请实施例中，从图5中可以看出，当training_loss&error和val_error最小时，该模型对训练数据集和验证数据集都实现了期望的效果。其中，虚线曲线training_loss.&.error表示在训练集上训练模型时的训练变化，实线val_error表示在验证集上验证模型时的情况。在图5中，纵轴表示损耗比，其通过上述交叉熵函数的等式计算得出。横轴表示训练时间，其在10次后收敛到稳定值，表示使用该模型的效率。尽管在首次输入验证集的数据时发生急剧跳跃，但这仅在第一个训练时间，并且验证集数据的性能在第二个训练时间快速移动到更接近训练集数据。这进一步说明了模型的效率，并且可以在几个训练时间之后获得数据集中的数据的概率分布。
在实际方案实施中，在图6和图7中，纵轴表示数据的真实调制模式，横轴表示用于在水下通信之后接收识别模式的模型的判断。在图6中当SNR＝-10dB时，可以以较高的识别率从多种调制方式中区分出BPSK。此时，QPSK的辨别度相对较低，并且不容易与几种调制方法区分开。当SNR上升到-2dB时，在图7中可以很好地区分四种调制方法。这从另一方面说明该模型在较低的信噪比下是有效的。
在本申请实施例中，全连接判断层可以输出存在哪种调制方式的结果判断。而在另外一些实例中，全连接判断层也可以输出是否需要进一步的判断调制方式，如果是某种调制方式应该能更好的归类为某种调制方式的判断。
在一些实例中，全连接判断层可以通过输出概率的方式来判断最终结果。此外，在其他一些示例中，全连接判断层也可以采用各种非线性或者是线性分类器的方式比如随机森林、决策树、支持向量机等。甚至在某些示例中，全连接判断层也可以使用一些简单的数值操作方法，比如最大值判断法、平均值判断法等。
由上述实施例可知，本实施例提供的基于深度残差网络的水下通信调制方式识别方法,使用了深度残差网络对输入的多种调制方式的数据进行预处理后，然后通过深度残差网络中识别能力逐渐递增的残差网络层对预处理数据逐级进行特征提取，最终获取准确的通信调制方式，提高对水下通信调制方式的判断准确率。
与上述实施例提供的一种基于深度残差网络的水下通信调制方式识别方法相对应，本申请还提供了一种基于深度残差网络的水下通信调制方式识别系统的实施例。
图8为本申请实施例提供的一种基于深度残差网络的水下通信调制方式识别系统。参见图8，所述识别系统20包括：预处理模块201、特征提取模块202和输出模块203。
预处理模块201，用于将水下通信传输过来的多种调制方式数据进行数据预处理。特征提取模块202，用于经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层。输出模块203，用于经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。
一个示意性实施例，所述预处理模块201包括：数据转换单元和归一化处理单元。
数据转换单元，用于将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元。归一化处理单元，用于对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。
一个示意性实施例，所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层，所述特征提取模块202，包括：第一特征提取单元、第二特征提取单元、第三特征提取单元和第四特征提取单元。
第一特征提取单元，用于第一深度残差网络层根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集。第二特征提取单元，用于第二深度残差网络层根据所述第一特征提取集生成第一高级特征集。第三特征提取单元，用于第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集。第四特征提取单元，用于第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
一个示意性实施例中，所述深度残差网络还包括第五深度残差网络层，所述输出模块203包括：判断单元和输出单元。
判断单元，用于所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断。输出单元，用于输出识别出的调制方式数据。
本申请实施例还提供了一种终端，如图9所示，终端30包括：处理器301、存储器302和通信接口303。
在图9中，处理器301、存储器302和通信接口303可以通过总线相互连接；总线可以分为地址总线、数据总线、控制总线等。为便于表示，图9中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
处理器301通常是控制终端30的整体功能，例如终端的启动、以及终端启动后对水下通信调试方式进行识别等。此外，处理器301可以是通用处理器，例如，中央处理器(英文：central processing unit，缩写：CPU)，网络处理器(英文：network processor，缩写：NP)或者CPU和NP的组合。处理器也可以是微处理器(MCU)。处理器还可以包括硬件芯片。上述硬件芯片可以是专用集成电路(ASIC)，可编程逻辑器件(PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(CPLD)，现场可编程逻辑门阵列(FPGA)等。
存储器302被配置为存储计算机可执行指令以支持终端30数据的操作。存储器301可以可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
启动终端30后，处理器301和存储器302上电，处理器301读取并执行存储在存储器302内的计算机可执行指令，以完成上述的基于深度残差网络的水下通信调制方式识别方法实施例中的全部或部分步骤。
通信接口303用于终端30传输数据，例如实现与水下通信设备之间的数据通信。通信接口303包括有线通信接口，还可以包括无线通信接口。其中，有线通信接口包括USB接口、Micro USB接口，还可以包括以太网接口。无线通信接口可以为WLAN接口，蜂窝网络通信接口或其组合等。
在一个示意性实施例中，本申请实施例提供的终端30还包括电源组件，电源组件为终端30的各种组件提供电力。电源组件可以包括电源管理系统，一个或多个电源，及其他与为终端30生成、管理和分配电力相关联的组件。
通信组件，通信组件被配置为便于终端30和其他设备之间有线或无线方式的通信。终端30可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。通信组件还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在一个示意性实施例中，终端30可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、处理器或其他电子元件实现。
本申请说明书中各个实施例之间相同相似的部分互相参见即可。尤其，对于系统及终端实施例而言，由于其中的方法基本相似于方法的实施例，所以描述的比较简单，相关之处参见方法实施例中的说明即可。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
当然，上述说明也并不仅限于上述举例，本申请未经描述的技术特征可以通过或采用现有技术实现，在此不再赘述；以上实施例及附图仅用于说明本申请的技术方案并非是对本申请的限制，如来替代，本申请仅结合并参照优选的实施方式进行了详细说明，本领域的普通技术人员应当理解，本技术领域的普通技术人员在本申请的实质范围内所做出的变化、改型、添加或替换都不脱离本申请的宗旨，也应属于本申请的权利要求保护范围。

Claims (10)

1.一种基于深度残差网络的水下通信调制方式识别方法,其特征在于，所述方法包括：
将水下通信传输过来的多种调制方式数据进行数据预处理；
经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层；
经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。
2.根据权利要求1所述的方法,其特征在于，所述将水下通信传输过来的多种调制方式数据进行数据预处理，包括：
将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元；
对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。
3.根据权利要求2所述的方法，其特征在于，所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层，所述经过数据预处理后的多种调制方式数据输入深度残差网络第二层，从第二层到最后一层依次进行数据特征的提取，包括：
第一深度残差网络层，根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集；
第二深度残差网络层根据所述第一特征提取集生成第一高级特征集；
第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集；
第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
4.根据权利要求3所述的方法,其特征在于，所述深度残差网络还包括第五深度残差网络层，所述经过深度残差网络最后一层识别出的调制方式数据输出包括：
所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断，输出识别出的调制方式数据。
5.根据权利要求3所述的方法,其特征在于，所述第一深度残差网络层包括3个残差网络单元，所述第二深度残差网络层包括4个残差网络单元，所述第三深度残差网络层包括6个残差网络单元，所述第四深度残差网络层包括3个残差网络单元，其中所述第一深度残差网络层和所述第四深度残差网络层中残差网络单元包含的神经元个数不同。
6.一种基于深度残差网络的水下通信调制方式识别系统,其特征在于，所述系统包括：
预处理模块，用于将水下通信传输过来的多种调制方式数据进行数据预处理；
特征提取模块，用于经过数据预处理后的多种调制方式数据输入深度残差网络第一层，从第一层到倒数第二层依次进行数据特征的提取，所述深度残差网络包括多层神经网络层；
输出模块，用于经过深度残差网络最后一层识别出的调制方式数据输出，所述调制方式数据对应最终识别的通信调制方式。
7.根据权利要求6所述的系统,其特征在于，所述预处理模块包括：
数据转换单元，用于将各种调制方式复数表示方式的数据格式转化成对应实数形式的数据格式的数据格式转化单元；
归一化处理单元，用于对目标水下通信调制方式数据与参考水下通信调制方式数据进行归一化处理。
8.根据权利要求7所述的系统，其特征在于，所述深度残差网络包括第一深度残差网络层、第二深度残差网络层、第三深度残差网络层和第四深度残差网络层；深度残差网络层级以包含的卷积神经网络层中的神经单元数来进行确定，卷积神经网络层中神经单元个数一样的卷积神经网络层作为一层深度残差网络层，所述特征提取模块，包括：
第一特征提取单元，用于第一深度残差网络层根据数据预处理后的水下通信传过来的多种调制方式数据，产生第一特征提取集；
第二特征提取单元，用于第二深度残差网络层根据所述第一特征提取集生成第一高级特征集；
第三特征提取单元，用于第三深度残差网络层，根据所述第一高级特征集生成第二高级特征集；
第四特征提取单元，用于第四深度残差网络层，根据所述第二高级特征集生成第三高级特征集。
9.根据权利要求8所述的系统,其特征在于，所述深度残差网络还包括第五深度残差网络层，所述输出模块包括：
判断单元，用于所述第五深度残差网络层根据所述第三高级特征集产生最终的调制方式判断；
输出单元，用于输出识别出的调制方式数据。
10.一种终端，其特征在于，包括：
处理器；
存储器，存储有可执行指令；
所述处理器执行所述可执行指令，执行如权利要求1-5任一项所述的基于深度残差网络的水下通信调制方式识别方法。
CN201811403397.3A 2018-11-23 2018-11-23 基于深度残差网络的水下通信调制方式识别方法及系统 Active CN109361635B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811403397.3A CN109361635B (zh) 2018-11-23 2018-11-23 基于深度残差网络的水下通信调制方式识别方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811403397.3A CN109361635B (zh) 2018-11-23 2018-11-23 基于深度残差网络的水下通信调制方式识别方法及系统

Publications (2)

Publication Number Publication Date
CN109361635A true CN109361635A (zh) 2019-02-19
CN109361635B CN109361635B (zh) 2021-06-04

Family

ID=65338540

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811403397.3A Active CN109361635B (zh) 2018-11-23 2018-11-23 基于深度残差网络的水下通信调制方式识别方法及系统

Country Status (1)

Country Link
CN (1) CN109361635B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110300078A (zh) * 2019-07-01 2019-10-01 西安电子科技大学 基于课程学习的调制信号识别方法
CN110503185A (zh) * 2019-07-18 2019-11-26 电子科技大学 一种改进的深度调制识别网络模型
CN110798417A (zh) * 2019-10-24 2020-02-14 北京邮电大学 一种基于循环残差网络的信号调制识别方法及装置
CN111970218A (zh) * 2020-08-27 2020-11-20 泰山学院 基于深度多跳网络进行通信自动调制识别的方法
CN113014524A (zh) * 2021-03-03 2021-06-22 电子科技大学 一种基于深度学习的数字信号调制识别方法
CN113285762A (zh) * 2021-02-25 2021-08-20 广西师范大学 一种基于相对熵计算的调制格式识别方法
CN113343801A (zh) * 2021-05-26 2021-09-03 郑州大学 基于轻量化卷积神经网络的无线信号自动调制识别方法
CN113923088A (zh) * 2021-10-21 2022-01-11 天津光电通信技术有限公司 一种基于hlnn的5g信号数字调制方式自动识别方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3203330A1 (de) * 2016-02-05 2017-08-09 Vaillant GmbH Softsensor zur identifikation und regelung oder steuerung eines lüftungssystems
CN107067011A (zh) * 2017-03-20 2017-08-18 北京邮电大学 一种基于深度学习的车辆颜色识别方法与装置
CN108038471A (zh) * 2017-12-27 2018-05-15 哈尔滨工程大学 一种基于深度学习技术的水声通信调制模式识别方法
CN108234370A (zh) * 2017-12-22 2018-06-29 西安电子科技大学 基于卷积神经网络的通信信号调制方式识别方法
CN108616470A (zh) * 2018-03-26 2018-10-02 天津大学 基于卷积神经网络的调制信号识别方法
CN109299697A (zh) * 2018-09-30 2019-02-01 泰山学院 基于水声通信调制方式识别的深度神经网络系统及方法
CN109462564A (zh) * 2018-11-16 2019-03-12 泰山学院 基于深度神经网络的水下通信调制方式识别方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3203330A1 (de) * 2016-02-05 2017-08-09 Vaillant GmbH Softsensor zur identifikation und regelung oder steuerung eines lüftungssystems
CN107067011A (zh) * 2017-03-20 2017-08-18 北京邮电大学 一种基于深度学习的车辆颜色识别方法与装置
CN108234370A (zh) * 2017-12-22 2018-06-29 西安电子科技大学 基于卷积神经网络的通信信号调制方式识别方法
CN108038471A (zh) * 2017-12-27 2018-05-15 哈尔滨工程大学 一种基于深度学习技术的水声通信调制模式识别方法
CN108616470A (zh) * 2018-03-26 2018-10-02 天津大学 基于卷积神经网络的调制信号识别方法
CN109299697A (zh) * 2018-09-30 2019-02-01 泰山学院 基于水声通信调制方式识别的深度神经网络系统及方法
CN109462564A (zh) * 2018-11-16 2019-03-12 泰山学院 基于深度神经网络的水下通信调制方式识别方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
CHRISTIAN SZEGEDY: "Going Deeper with Convolutions", 《2015 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110300078B (zh) * 2019-07-01 2021-04-27 西安电子科技大学 基于课程学习的调制信号识别方法
CN110300078A (zh) * 2019-07-01 2019-10-01 西安电子科技大学 基于课程学习的调制信号识别方法
CN110503185B (zh) * 2019-07-18 2023-04-07 电子科技大学 一种改进的深度调制识别网络模型
CN110503185A (zh) * 2019-07-18 2019-11-26 电子科技大学 一种改进的深度调制识别网络模型
CN110798417A (zh) * 2019-10-24 2020-02-14 北京邮电大学 一种基于循环残差网络的信号调制识别方法及装置
CN110798417B (zh) * 2019-10-24 2020-07-31 北京邮电大学 一种基于循环残差网络的信号调制识别方法及装置
US11909563B2 (en) 2019-10-24 2024-02-20 Beijing University Of Posts And Telecommunications Method and apparatus for modulation recognition of signals based on cyclic residual network
CN111970218A (zh) * 2020-08-27 2020-11-20 泰山学院 基于深度多跳网络进行通信自动调制识别的方法
CN113285762A (zh) * 2021-02-25 2021-08-20 广西师范大学 一种基于相对熵计算的调制格式识别方法
CN113285762B (zh) * 2021-02-25 2022-08-05 广西师范大学 一种基于相对熵计算的调制格式识别方法
CN113014524A (zh) * 2021-03-03 2021-06-22 电子科技大学 一种基于深度学习的数字信号调制识别方法
CN113014524B (zh) * 2021-03-03 2021-12-14 电子科技大学 一种基于深度学习的数字信号调制识别方法
CN113343801A (zh) * 2021-05-26 2021-09-03 郑州大学 基于轻量化卷积神经网络的无线信号自动调制识别方法
CN113343801B (zh) * 2021-05-26 2022-09-30 郑州大学 基于轻量化卷积神经网络的无线信号自动调制识别方法
CN113923088B (zh) * 2021-10-21 2023-08-08 天津光电通信技术有限公司 一种基于hlnn的5g信号数字调制方式自动识别方法
CN113923088A (zh) * 2021-10-21 2022-01-11 天津光电通信技术有限公司 一种基于hlnn的5g信号数字调制方式自动识别方法

Also Published As

Publication number Publication date
CN109361635B (zh) 2021-06-04

Similar Documents

Publication Publication Date Title
CN109361635A (zh) 基于深度残差网络的水下通信调制方式识别方法及系统
CN103116762B (zh) 一种基于自调制字典学习的图像分类方法
CN109274621A (zh) 基于深度残差网络的通信协议信号识别方法
CN110335270A (zh) 基于层级区域特征融合学习的输电线路缺陷检测方法
US11581967B2 (en) Wireless channel scenario identification method and system
CN110147456A (zh) 一种图像分类方法、装置、可读存储介质及终端设备
CN106250931A (zh) 一种基于随机卷积神经网络的高分辨率图像场景分类方法
CN109299697A (zh) 基于水声通信调制方式识别的深度神经网络系统及方法
CN107194336A (zh) 基于半监督深度距离度量网络的极化sar图像分类方法
Penalba et al. A data-driven long-term metocean data forecasting approach for the design of marine renewable energy systems
CN103093244B (zh) 一种基于稀疏分解的雷达信号识别方法
CN110120926A (zh) 基于演化bp神经网络的通信信号调制方式识别方法
CN103324954A (zh) 一种基于树结构的图像分类方法及其系统
CN110211173A (zh) 一种基于深度学习的古生物化石定位和识别方法
CN108805193A (zh) 一种基于混合策略的电力缺失数据填充方法
CN109120435A (zh) 网络链路质量预测方法、装置及可读存储介质
CN110045356A (zh) 一种双向长短时记忆神经网络水面目标识别方法
CN109462564A (zh) 基于深度神经网络的水下通信调制方式识别方法及系统
Akyon et al. Classification of intra-pulse modulation of radar signals by feature fusion based convolutional neural networks
Harford et al. Multi-indicator harvest strategies for data-limited fisheries: a practitioner guide to learning and design
Williams et al. Analysing coastal ocean model outputs using competitive-learning pattern recognition techniques
CN109547374A (zh) 一种用于水下通信调制识别的深度残差网络及系统
Zhang et al. Identification of navel orange diseases and pests based on the fusion of densenet and self-attention mechanism
CN103258212A (zh) 基于吸引子传播聚类的半监督集成遥感影像分类方法
CN101414378A (zh) 特征维数可选的图像信息隐藏盲检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Wang Yan

Inventor after: Xiao Jing

Inventor after: Zhang Lian

Inventor after: Yang Hongfang

Inventor before: Wang Yan

CB03 Change of inventor or designer information
GR01 Patent grant
GR01 Patent grant