CN105512635A - 一种融合类别属性的深度网络地下目标识别方法及系统 - Google Patents

一种融合类别属性的深度网络地下目标识别方法及系统 Download PDF

Info

Publication number
CN105512635A
CN105512635A CN201510936603.7A CN201510936603A CN105512635A CN 105512635 A CN105512635 A CN 105512635A CN 201510936603 A CN201510936603 A CN 201510936603A CN 105512635 A CN105512635 A CN 105512635A
Authority
CN
China
Prior art keywords
sigma
degree
sample data
theta
rho
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510936603.7A
Other languages
English (en)
Inventor
邹海林
柳婵娟
周树森
臧睦君
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ludong University
Original Assignee
Ludong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ludong University filed Critical Ludong University
Priority to CN201510936603.7A priority Critical patent/CN105512635A/zh
Publication of CN105512635A publication Critical patent/CN105512635A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Astronomy & Astrophysics (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

本发明公开了一种融合类别属性的深度网络地下目标识别方法及系统,方法包括:对接收到的多个地下目标物的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标回波信号;根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。本发明与现有识别方法对比,当样本量不足或训练迭代次数不多时本发明可有效地提高目标物的识别率。

Description

一种融合类别属性的深度网络地下目标识别方法及系统
技术领域
本发明涉及探地雷达技术领域,特别是一种融合类别属性的深度网络地下目标识别方法及系统。
背景技术
探地雷达(groundpenetratingradar,GPR)是20世纪80年代新兴起的一种利用电磁波反射原理,来探测地下目标物以及地质结构与分布的浅地层无损探测技术。它根据电磁波在介质中传播时,其传播路径、强度、波形随介质的电磁性质和几何结构而发生变化的性质,推断介质的结构和目标的位置、形状等,已经成为浅层地下探测的有效手段。由于地下物质成分的多样和复杂,介质损耗造成电磁波在有损耗介质中传播发生较大衰减;构成大地物质的物理成份、密度、湿度等参数因地质环境的不同而差异很大,以及地上地下各种杂波干扰等诸多因素,造成探地雷达系统在数据处理、数据分析与解译上的困难。
探地雷达地下目标识别主要包括目标特征提取和识别,目标特征提取与选择己经有较成熟的方法。由于地下环境复杂,目标体形状各异,难以得到完备的样本集,这使得地下目标识别方法研究方面仍面临许多技术上的难点,导致GPR在实际应用中难以达到预期的性能。
目前,常用的地下目标识别方法主要有以下几类:基于时域参数的识别方法,基于统计学的识别方法和神经网络识别方法。
(1)采用时域参数进行识别。时域特征参数,能在一定程度上反映着信号的形状及位置信息,但对于复杂地质环境中的目标信号,直接在时域上识别正确率较低。
(2)统计学识别方法主要是基于隐马尔可夫模型HMM(HiddenMarkovModel)的检测方法,以及HMM与神经网络结合的方法。这一类方法都以回波信号中双曲线目标的形状特征为基础,并未涉及地下目标回波信号中丰富的时频联合信息,识别的精度有待于提高。
(3)神经网络识别方法,比较常用的有BP网络(BackPropagation)、RBF网络(RadicalBasisFunction)、支撑向量机SVM(SupportVectorMachine)和小波网络WNN(WaveletNeuralNetwork)等。
BP神经网络具有一般神经网络的优点,如学习规则简单,较强的非线性映射能力和容错能力等。BP神经网络的缺点在于随着网络层数的增加,模型训练易陷入局部极值以及算法的收敛速度慢,从而降低特征提取分类的效果和效率。
与BP网络相比,RBF网络具有唯一最佳逼近的特性,且无局部极小问题存在;具有较强的输入和输出映射功能;网络连接权值与输出呈线性关系;学习过程收敛速度快;具有很强的聚类分析能力。RBF网络的不足:它不能解释本身的推理过程和推理依据;不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作;它把一切问题的特征都变为数字,把一切推理都变为数值计算,易导致信息丢失。
SVM是一种以统计学理论为基础的,以结构风险最小化的学习机学习方法,在解决小样本、非线性及高维模式识别问题中表现出特有的优势。从理论上说,SVM算法得到的将是全局最优解,解决了BP网络中无法避免的局部极值问题。SVM方法的两个不足:对大规模训练样本难以实施,用于解决多分类问题存在困难。
小波神经网络WNN(WaveletNeuralNetwork)是由大量非线性处理单元广泛互连而成的网络,具有逼近能力强、收剑速度快、网络结构明确、网络参数(隐层结点数和权重)的选取有理论依据、有效避免了局部最小值等优点,并且能大规模并行处理、分布式信息存储,具有较强的函数学习能力和容错能力。相比多层感知器MLP(multi-layerperceptron)网络和RBF网络,小波神经网络的构造比较复杂,其运算复杂度增加;在多维输入的情况下,随着网络的输入维数的增加,网络所需训练样本呈指数增长,网络结果也将随之变得庞大,导致收敛速度下降;隐含层结点数确定困难;无法根据实际情况自适应选择合适的小波基函数。
浅层学习(shallowlearning)虽然理论模型简单,但对复杂函数的表示能力弱,并且浅层模型提取出来的浅层特征对复杂问题分类的效率不高。传统的神经网络结构通过增加隐含层的结点个数,在一定程度上能够克服浅层网络的特征学习能力不足的缺点,但是传统神经网络反向传播算法参数随机初始化,收敛速度慢,而且在参数初始化不当的情况下会引起网络学习局部收敛,严重过拟合。
为解决传统的神经网络随机初始化网络中的权值,容易导致网络收敛到局部最小值问题,2006年,HintonG和他的团队提出了一种深度置信网络(deepbeliefnetwork,DBN),提出多隐层的人工神经网络具有优异的特征学习能力,可以学习得到更深刻更本质的特征,从而更有利于可视化或分类;深度神经网络可以通过“逐层初始化”(layer-wisepre-training)的方法克服传统神经网络学习速度慢的缺点。逐层初始化是通过无监督学习实现的。深度学习的本质是通过构建含有多个隐层的机器学习模型和海量的训练数据,来学习和得到大量更具代表性的特征信息,从而提高分类和预测的准确性。此后,多种深度学习模型被陆续提出,并在各个领域得到应用。
深度学习与浅层学习的本质区别是网络层次和训练方式不同。浅层学习一般只含有一个隐含层,而深度学习往往含有多个隐含层,可以将复杂的问题分层次研究和表达,层次之间非线性,对于复杂函数表达能力强;但网络层次过多会使得训练时间变长,而且训练层次的增多也并不能确保算法精度得到提升。为此,深度学习引进了新的训练方法——即“分层训练”,以提高学习效率和分类效果。
研究表明,目标识别与分类性能与训练样本的数量、算法迭代次数有密切关系。当运用大量(如5万个以上)训练样本进行训练时,随着迭代次数的增加,识别率从88.59%上升到97.27%。当降低训练样本数量时,算法对测试样本的识别率会急速下降,尤其当训练所使用的样本不足2万个时,识别率仅为59.21%,识别效果下降明显。这对于GPR目标数据的分析与识别是不能满足需要的。因此,需要提出一种当样本量不足或训练迭代次数不多时可有效地提高GPR目标的识别率的识别方法。
发明内容
本发明提供一种融合类别属性的深度网络地下目标识别方法及系统,以解决现有的技术问题,当样本量不足或训练迭代次数不多时可有效地提高GPR目标的识别率。
一方面,本发明实施例提供一种融合类别属性的深度网络地下目标识别方法,包括以下步骤:
对接收到的多个地下目标物返回的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
所述对接收到的多个地下目标物返回的探地雷达回波信号进行预处理,具体包括:
对多个所述GPR回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
在一个实施例中,设接收到的所述探地雷达回波信号即GPR回波信号共有m个,根据所述多个目标信号建立数据样本集,具体为:
从所述m个GPR回波信号中提取目标信号A-scan数据组合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
在一个实施例中,进一步的,深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数,具体为:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) , h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W,b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , hW,b(x(i))是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数。
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
在一个实施例中,利用softmax回归方式进行分类识别以确定所述多个目标物,具体为:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 0 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。
另一方面,本发明实施例还提供一种融合类别属性的深度网络地下目标识别系统,包括:
信号预处理单元,用于对接收到的多个地下目标物返回的探地雷达GPR回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
数据集建立单元,用于根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
深度网络训练单元,用于深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
目标识别单元,用于在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
所述信号预处理单元具体用于对多个所述GPR回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
在一个实施例中,设接收到的所述探地雷达GPR回波信号共有m个,所述数据集建立单元具体用于从所述m个GPR回波信号中提取目标信号A-scan数据组合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
所述深度网络训练单元具体用于:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) , h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W,b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , hW,b(x(i))是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数。
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
所述目标识别单元,具体用于:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 0 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。
本发明的有益效果是:本发明首先对GPR回波信号进行预处理,如直达波去除、背景噪声去除、道间能量均衡、信号相干增强和深部弱信号增强等,然后提取经过预处理的GPR目标的A-scan信号作为训练数据,利用深层稀疏编码模型对提取GPR地下目标信号进行训练识别。其中将Fisher准则和样本类别信息引入深度网络学习过程,在反向传播权值调整时,采用了基于类内类间距离的约束准则,在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小类间距离大,从而使权值能更加快速地逼近分类的最优值。本发明与其他现有识别方法进行了对比实验,验证了该方法在样本数量少的情况下,对复杂地质环境下的GPR目标仍然具有较好的识别效果,当样本量不足或训练迭代次数不多时本发明可有效地提高识别率。
附图说明
图1是本发明融合类别属性的深度网络地下目标识别方法流程图;
图2是本发明测得的GPR地下目标信号的相邻三道回波信号波形示意图;
图3是本发明一个示例中融合类别属性的深度网络地下目标识别方法流程图;
图4是本发明一个示例中深度神经网络结构示意图;
图5是本发明一个示例中三种不同形状的地下目标测量示意图;
图6是本发明融合类别属性的深度网络地下目标识别系统示意图。
具体实施方式
下面结合附图和实施方式对本发明作进一步的说明。
如图1所示的融合类别属性的深度网络地下目标识别方法,包括以下步骤:
S101、对接收到的多个地下目标物返回的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
S102、根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
S103、深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
S104、在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
具体的,所述对接收到的多个地下目标物返回的探地雷达回波信号即GPR回波信号进行预处理,具体包括:
对多个所述GPR回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
在一个实施例中,设接收到的所述探地雷达回波信号共有m个,根据所述多个目标信号建立数据样本集,具体为:
从所述m个GPR回波信号中提取目标信号A-scan数据组合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
在一个实施例中,进一步的,深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数,具体为:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) , , h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W,b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , hW,b(x(i))是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数。
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
在一个实施例中,利用softmax回归方式进行分类识别以确定所述多个目标物,具体为:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 0 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。
下面结合具体示例详细说明本发明。
研究表明,目标识别与分类性能与训练样本的数量、算法迭代次数有密切关系。当运用5万个以上训练样本进行训练时,随着迭代次数的增加,识别率从88.59%上升到97.27%。当降低训练样本时,算法对测试样本的识别率会急速下降,尤其当训练所使用的样本不足2万个时,识别率仅为59.21%,识别效果下降明显。这对于GPR目标数据的分析与识别是不能满足需要的。因此,本发明提出一种融合类别属性的深度网络地下目标识别方法,具体包括:
(1)首先对GPR回波信号进行预处理,包括直达波去除、背景噪声去除、道间能量均衡、信号相干增强和深部弱信号增强等,然后提取经过预处理的GPR目标的A-scan信号作为训练数据,利用深度网络对提取GPR地下目标进行识别。
探地雷达回波信号由收发天线间直接耦合波、地面反射波、地下介质不连续产生的后向散射波、随机干扰等构成。直接耦合波和地面反射波组成的直达波直接影响回波目标信号。因此,为了能够从目标回波信号中提取能够反映目标本质属性的特征,提高目标识别的准确率,必须先对GPR原始数据进行一系列的预处理,包括背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强等。背景噪声去除:即去除由仪器本身或耦合差异引起的噪声。滤波处理:根据噪声的分布特性设计相应的FIR(finiteimpulseresponse)和IIR(infiniteimpulseresponse)滤波器,可实现对特定噪声的滤除。一维滤波能有效压制信号频带以外的干扰信号,突出GPR目标信号。二维滤波则在去除斜波和水平波干扰比较有效。此外,中值滤波也是较好的去噪手段之一。道间能量均衡:GPR在实际探测中,都是在一定区域内进行探测,因而对于一个目标来说,它不会只反映在一个A-scan数据中,而是反映在一系列相邻的多通道数据中,也就是说GPR目标相邻道信号A-scan往往具有相关性和相似性,而与非目标回波不具有这一性质。图2为实际测得的GPR地下目标的相邻三道回波信号波形,由图2可看出三条相邻道的A-scan信号波形大致相似,这三道A-scan信号的奇异点也是在产生在大致相同的位置。因此,可以利用相邻道间信号的相关性原理进行道间能量均衡处理,增强相关道的A-scan信号,抑制和弱化不相关道的非目标信号。
子波相干加强:对GPR目标回波信号进行子波相干计算,增强与子波相关的信号。深部弱信号增强:针对GPR地下回波信号的强度较小、受随机噪声干扰以及地下介质复杂性的影响等问题,在去除信号噪声基础上,对弱信号进行增强处理,以提高GPR深部弱信号信噪比,使地下目标体或介质分布情况容易识别。如小波软阈值(Softthreshold)去噪处理,基于小波域增强处理,地下目标回波信号的分辨率得到提高。通过以上预处理步骤,去除了GPR地下目标回波信号中的各种干扰,强化了目标回波信号的特征。需要说明的是说明:GPR回波信号预处理的方法和各种技术目前基本成熟,可参考现有成熟技术,不再详述。
(2)为了有效利用深度网络学习自动提取特征的能力,并解决当训练样本量减少或者迭代次数降低时,识别性能急速下降的问题,将样本类别信息引入深度学习过程,在反向传播权值调整时,采用了基于最大类间距离的约束准则。在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小,类间距离大,从而使权值能更加快速地逼近分类的最优值,当样本量不足或训练迭代次数不多时可有效地提高系统的识别率。
本发明首先此定义k个类别的类间相似度函数:
J 0 = 1 2 Σ i = 1 m Σ j = 1 n | | D ( i ) - D ( j ) | | 2 · T i j - - - ( 1 )
式中D(i)为第i类样本的均值,定义为:
D ( i ) = 1 n Σ j = 1 n h W , b ( x ( i , j ) ) - - - ( 2 )
Τij是相似度矩阵,定义为:
Tij=exp(-||D(i)-D(j)||)(3)
为了使深度网络每层学到的特征更有利于分类,引入带类别信息约束的能量函数模型,即
L(W,b)=J(W,b)+J0(4)
这样,学习获得的最优深度网络权值就是满足式(5)的解。
arg min W , b L ( W , b ) = arg min W , b J ( W , b ) + J 0 - - - ( 5 )
在考虑误差的同时,使样本类内间距小,类间距离大。这样,在调整权值时能使每层权值向更有利于分类的方向调整,从而使得当样本数量较少或训练迭代次数较少时,能更快地接近适于分类的目标。
具体的,整个计算处理流程如下图3所示,深度网络分类器的训练过程如下:x是训练样本集中所有样本;h是隐单元向量;α是梯度下降法中的学习速率;W为权值矩阵;b是输入偏置向量。
第一步:由公式(6)~(8)计算h;
第二步:由公式(10)~(17)和(1)~(5)求解和更新权值W,b;
第三步:由公式(18)~(20)进行分类。
整个实施过程所涉及到的具体步骤和公式参看下面内容4.1~4.3。
4.1建立GPR数据样本空间
在对GPR目标回波信号进行预处理的基础上,假设提取的探地雷达回波信号A-sacn数据共m个,每个A-scan数据的采样点数是d,把提取的含有目标信号的A-scan数据组合成一个矩阵X,每个A-scan数据为X中的一列,得到目标信号矩阵X=[x(i)],x(i)(i=1,2,…,m)表示第i个A-scan数据,对应的样本类别为{y(i)},i=1,2,…,m,y(i)是样本x(i)对应的标签。m个样本构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},他们分别属于k个类别。m、k、i以及下面的j均为整数。
4.2GPR多目标深度网络分类器
把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过第一层编码器获得第一隐层(hiddenlayer)的状态为:
h 1 = f ( W 1 T X + b 1 ) - - - ( 6 )
式中f(z)是激活函数,在本实施例中使用sigmoid函数作为神经节点激活函数,其表示形式为
f ( z ) = 1 1 + exp ( - z ) - - - ( 7 )
深度神经网络的网络结构如图4,每个隐藏层即隐层包括多个数据单元,各层以及层内的各个单元构成深度神经网络。
对于一个由l个隐层(hiddenlayer)组成的深层网络(deepneuralnetwork),采用贪婪算法逐层初始化(layer-wisepre-training),则第i隐层的状态为:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) , h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } - - - ( 8 )
Wi表示第i隐层的权值向量,T表示该权值向量的转置符号。向量分为行向量和列向量。W一般是为了写起来方便,都写行向量,但是计算的时候其实是用的列向量,所以加了转置符号。bi表示第i隐层的偏置项。
最后通过BP(ErrorBackPropagation)算法获得到全局最优的权值向量。
深度网络训练的目的是寻找参数W和b使代价函数J(W,b)最小。对于一个含有m个样本的数据集,其代价函数J(W,b)定义为:
式(9): J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j ) 式(9)等式右边第一项是代价函数J(W,b)的均方差项,W为各层单元之间连接参数,即权值向量,b为偏置项。第二项是权重衰减项,λ为权重衰减参数,用于控制公式中前后两项的相对重要性,m,nl,sl分别表示样本数、网络层数和l层的单元数。为稀疏性约束项。公式(8)是深度网络的第i隐层的状态值,公式(9)是深度网络的代价函数。
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 - - - ( 10 )
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j - - - ( 11 )
式(10)中hW,b(x(i))是自动编码器(AutoEncoder)网络输出向量。式(11)中ρ为稀疏惩罚系数,一般取接近0的正数,是隐藏层第j单元平均输出值,由网络参量θ(W,b)确定。
在网络训练每个迭代过程中,用梯度下降法(gradientdescentmethod)对目标函数J(W,b)进行优化,迭代公式为:
W j ( l ) = W j ( l ) - α ∂ ∂ W j ( l ) J ( W , b ) - - - ( 12 )
b i ( l ) = b i ( l ) - α ∂ ∂ b i ( l ) J ( W , b ) - - - ( 13 )
式(12)和(13)中的α是学习速率(learningrate),即步长系数,其作用是控制每一步权值调整的幅度,通常被设定在一个比较小的数值上。
h W , b ( x ( i ) ) = a ( k , 3 ) = f ( W ( k , 2 ) a ( k , 2 ) + b ( k , 2 ) ) a ( k , 2 ) = f ( W ( k , 1 ) x ( i ) + b ( k , 1 ) ) - - - ( 14 )
通过计算单个训练样本(x,y)对应的代价函数J(W,b;x,y)的偏导数就可以计算得到整体样本代价函数J(W,b)的偏导数:
∂ ∂ W i j ( l ) J ( W , b ) = [ 1 m Σ i = 1 m ∂ ∂ W i j ( l ) J ( W , b ; x ( i ) , y ( i ) ) ] + λW i j ( l ) - - - ( 15 )
∂ ∂ b i ( l ) J ( W , b ) = 1 m Σ i = 1 m ∂ ∂ b i ( l ) J ( W , b ; x ( i ) , y ( i ) ) - - - ( 16 )
式(12)(13)(15)(16)中的偏导数用BP算法求解。对于样本(x(i),y(i)),输出层nl的每一节点i的残差为
δ i ( n l ) = ∂ ∂ z i ( n l ) 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 = - ( y - a i ( n l ) ) · f ′ ( z i ( n l ) ) - - - ( 17 )
式中为第nl隐层第i单元输入加权和。
4.3多目标识别与分类
为了解决多目标分类问题,本实施例用softmax回归进行分类识别。在深层稀疏编码模型的顶层上添加了一个输出层,构成一softmax分类器。对m个样本构成的训练集{(x(1),y(1)),…,(x(m),y(m))},y(i)∈{1,2,…,k},在softmax回归中,将测试样本x划归为类别j的概率为
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k - - - ( 18 )
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,保证所有测试样本x属于k类的概率之和为1。
此时,采用有监督的最小化softmax回归的代价函数即可训练模型参数θ,
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 0 n θ i j 2 - - - ( 19 )
式(19)等号右边第二项为权重衰减项,对过大的参数值进行惩罚,并使得代价函数变成严格的凸函数,避免优化过程中陷于局部收敛,以得到全局最优的唯一解。
为了对其进行优化,需要计算J(θ)的导数,它的求导公式为:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j - - - ( 20 )
通过优化后的最小化代价公式J(θ),就可实现softmax回归分类。
4.4实验及结果
参看图5,为了验证本文提出的算法的识别性能,分别对不同形状的地下目标物体和不同材质的目标体进行实验。
(1)对不同形状的地下目标物体的识别,采用的样本数据分别为针对球形体、管形体、长方体等测量获得的样本数据。共有3970个训练样本和230个测试样本。
(2)对不同材质的地下目标物体的识别。采用的样本数据分别是针对金属(铁)管状体、塑料管状体、水泥管状体及土壤等测量获得的样本数据。样本数量分别为:金属材质目标体训练样本1360个,测试样本165个;塑料目标体训练样本1270个,测试样本169个;水泥材料目标体训练样本1330个,测试样本173个;无目标体沙土训练样本2170个,测试样本220个。
(3)对上述实测数据分别采用BP神经网络(BP-NN)、RBF神经网络(RBF-NN)、深度网络(DNN)进行识别,表1分别列出了三种方法对四大类不同材质地下目标的识别结果。为兼顾计算复杂度和识别效果,本文实验采用含有六个隐藏层的深度神经网络结构。
表1对四类不同材质的地下目标的识别结果
实验结果表明,在没有引入Fisher准则和样本类别信息的深度学习过程中,由于训练样本较少,深度网络总体识别率都不是很理想。当训练样本数量增加时,其识别的错误率会下降。在深度网络学习模型引入Fisher准则和样本类别信息之后,对相同数量的训练样本,识别正确率明显提高。这是因为当用BP算法进行权值更新时,加入类别信息约束项使搜索空间变小,梯度下降方向更有利于分类,最终尽管网络的实际输出值和标签值误差相对稍大,但判别信息相对增加。因此,在训练样本较少的情况下,加入类内、类间约束的学习方法具有更好的分类性能。
针对深度神经网络在训练样本数量少的情况下目标识别性能降低的问题,本发明提出了基于最大异类距离的深度网络GPR地下目标识别方法。首先对GPR回波信号进行预处理,包括直达波去除、背景噪声去除、道间能量均衡、信号相干增强和深部弱信号增强等,然后提取经过预处理的GPR目标的A-scan信号作为训练数据,利用深层稀疏编码模型对提取GPR地下目标的有效特征进行识别。其次,将样本类别信息引入深度学习过程,在反向传播权值调整时,既考虑误差的最小化,同时又让样本保持类内距离小,类间距离大,从而使权值能更加快速地逼近有利于分类的最优值。目标的有效特征即为对GPR目标回波信号进行预处理,去除各种干扰和进行增强处理后,能反映目标本质属性的物理量;反向传播权值调整是整个目标识别过程中网络训练算法的一部分,目标识别整个过程包含权值调整。
最后使用该方法对GPR实测数据库中的4类目标进行识别,并与其他识别方法进行了对比实验,验证了本文的方法对复杂的GPR目标回波信号在样本数量少的情况下仍然具有较好的识别效果。
基于同一构思,本发明实施例还提供一种融合类别属性的深度网络地下目标识别系统,如图6所示,系统包括:
信号预处理单元10,用于对接收到的多个地下目标物返回的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
数据集建立单元20,用于根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
深度网络训练单元30,用于深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
目标识别单元40,用于在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
所述信号预处理单元具体用于对多个所述回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
在一个实施例中,设接收到的所述探地雷达GPR回波信号共有m个,所述数据集建立单元具体用于从所述m个GPR回波信号中提取目标信号A-scan数据组合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
所述深度网络训练单元具体用于:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) , h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W,b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , hW,b(x(i))是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数。
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
所述目标识别单元,具体用于:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 0 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。需要说明的是,该系统实施例与上述方法实施例一一对应,具体可参考前述方法实施例部分的全部内容,此处不再详述。
本发明首先对GPR回波信号进行预处理,如直达波去除、背景噪声去除、道间能量均衡、信号相干增强和深部弱信号增强等,然后提取经过预处理的GPR目标的A-scan信号作为训练数据,利用深层稀疏编码模型对提取GPR地下目标信号进行训练识别。其中将Fisher准则和样本类别信息引入深度网络学习过程,在反向传播权值调整时,采用了基于类内类间距离的约束准则,在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小类间距离大,从而使权值能更加快速地逼近分类的最优值。本发明与其他现有识别方法进行了对比实验,验证了该方法在样本数量少的情况下,对复杂地质环境下的GPR目标仍然具有较好的识别效果,当样本量不足或训练迭代次数不多时本发明可有效地提高识别率。
以上对本发明进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述。以上实施例的说明只是用于帮助理解本发明的核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种融合类别属性的深度网络地下目标识别方法,其特征在于,包括以下步骤:
对接收到的多个地下目标物的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
2.根据权利要求1所述的融合类别属性的深度网络地下目标识别方法,其特征在于,所述对接收到的多个地下目标物返回的探地雷达回波信号即GPR回波信号进行预处理,具体包括:
对多个所述GPR回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
3.根据权利要求2所述的融合类别属性的深度网络地下目标识别方法,其特征在于,设接收到的所述探地雷达回波信号共有m个,根据所述多个目标信号建立数据样本集,具体为:
从所述m个GPR回波信号中提取目标信号A-scan数据,并组合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
4.根据权利要求3所述的融合类别属性的深度网络地下目标识别方法,其特征在于,深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数,具体为:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W和偏置项b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , h W , b ( x ( i ) ) 是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数;
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
5.根据权利要求4所述的融合类别属性的深度网络地下目标识别方法,其特征在于,利用softmax回归方式进行分类识别以确定所述多个目标物,具体为:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 1 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。
6.一种融合类别属性的深度网络地下目标识别系统,其特征在于,包括:
信号预处理单元,用于对接收到的多个地下目标物返回的探地雷达回波信号进行预处理,提取分别表征所述多个目标物的多个目标信号;
数据集建立单元,用于根据所述多个目标信号建立样本数据集,所述样本数据集包括所述多个目标信号和目标信号所属的多个类别信息;
深度网络训练单元,用于深度网络分类器对所述样本数据集内的数据进行深度网络训练迭代计算,寻找使得所述样本数据集的代价函数值最小的参数;
目标识别单元,用于在所述深度网络训练迭代计算过程中,利用softmax回归方式进行分类识别以确定所述多个目标物。
7.根据权利要求6所述的融合类别属性的深度网络地下目标识别系统,其特征在于,所述信号预处理单元具体用于对多个所述探地雷达回波信号分别进行背景噪声去除、滤波处理、道间信号能量均衡、子波相干加强和深部弱信号增强处理。
8.根据权利要求7所述的融合类别属性的深度网络地下目标识别系统,其特征在于,设接收到的所述探地雷达回波信号即GPR回波信号共有m个,所述数据集建立单元具体用于从所述m个GPR回波信号中提取目标信号A-scan数据组,并合成目标信号矩阵X=[x(i)],其中,x(i)(i=1,2,…,m)表示第i个A-scan样本数据,每个A-scan数据为矩阵X中的一列,对应的样本类别矩阵为{y(i)},i=1,2,…,m,y(i)是样本数据x(i)对应的类别信息标签,m个样本数据构成的样本数据集为{(x(1),y(1)),…,(x(m),y(m))},其分别属于k个类别。
9.根据权利要求8所述的融合类别属性的深度网络地下目标识别系统,其特征在于,所述深度网络训练单元具体用于:
A、把X=[x(i)](i=1,2,…,m)作为深层稀疏编码模型的输入数据,通过下式计算所述深度网络的第i隐层的状态:
h i = 1 1 + exp ( - h i - 1 · W i T + b i ) h 0 = X , ∀ i ∈ { 1 , 2 , ... , l } ;
其中,W为各隐层之间的连接参数,即权值向量,b为偏置项;
B、通过BP算法计算得到使所述样本数据集的代价函数值最小的全局最优权值向量W和偏置项b,其中所述样本数据集的代价函数J(W,b)为:
J ( W , b ) = [ 1 m Σ i = 1 m J ( W , b ; x ( i ) , y ( i ) ) ] + λ 2 Σ l = 1 n l - 1 Σ i = 1 s l Σ j = 1 s l + 1 ( W i j ( i ) ) 2 + β Σ j = 1 s 2 K L ( ρ | ρ ‾ j )
其中,nl,sl分别表示深度网络层数和l层单元数,为稀疏性约束项;
K L ( ρ | ρ ‾ j ) = ρlog 2 ρ ρ ‾ j + ( 1 - ρ ) log 2 1 - ρ 1 - ρ ‾ j ;
其中,ρ为稀疏惩罚系数,是隐藏层j单元平均输出值;
是代价函数J(W,b)的均方差项;
J ( W , b ; x ( i ) , y ( i ) ) = 1 2 | | h W , b ( x ( i ) ) - y ( i ) | | 2 , h W , b ( x ( i ) ) 是深度网络的第i隐层的自动编码器的网络输出向量;
是权重衰减项,λ为权重衰减参数,
其中,在网络训练每个迭代过程中,用梯度下降法对目标函数J(W,b)进行优化。
10.根据权利要求9所述的融合类别属性的深度网络地下目标识别系统,其特征在于,所述目标识别单元,具体用于:
softmax分类器对m个样本数据构成的样本数据集{(x(1),y(1)),…,(x(m),y(m))}进行处理,在softmax回归中通过下式计算将测试样本x划归为类别j的概率:
p ( y ( i ) = j | x ( i ) ; θ ) = e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) , j = 1 , 2 , ... , k
上式中θ12,…,θk∈Rn+1是模型参数,是归一化处理,所有测试样本x属于k类的概率之和为1;
采用下式即softmax回归的最小化代价函数训练模型参数θ:
J ( θ ) = - 1 m [ Σ i = 1 m Σ j = 1 k { y ( i ) = j } log 2 e θ j T x ( i ) Σ l = 1 k e θ l T x ( i ) ] + λ 2 Σ i = 1 k Σ j = 1 n θ i j 2 ;
其中,为权重衰减项;
通过下式求导对最小化代价函数进行优化:
▿ θ j J ( θ ) = - 1 m Σ i = 1 m [ x ( i ) { y ( i ) = j } - p ( y ( i ) = j | x ( i ) ; θ ) ] + λθ j ;
通过优化后的最小化代价公式J(θ)实现softmax回归分类,识别确定所述多个目标物。
CN201510936603.7A 2015-12-15 2015-12-15 一种融合类别属性的深度网络地下目标识别方法及系统 Pending CN105512635A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510936603.7A CN105512635A (zh) 2015-12-15 2015-12-15 一种融合类别属性的深度网络地下目标识别方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510936603.7A CN105512635A (zh) 2015-12-15 2015-12-15 一种融合类别属性的深度网络地下目标识别方法及系统

Publications (1)

Publication Number Publication Date
CN105512635A true CN105512635A (zh) 2016-04-20

Family

ID=55720602

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510936603.7A Pending CN105512635A (zh) 2015-12-15 2015-12-15 一种融合类别属性的深度网络地下目标识别方法及系统

Country Status (1)

Country Link
CN (1) CN105512635A (zh)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106539587A (zh) * 2016-12-08 2017-03-29 浙江大学 一种基于多运动传感器的跌倒风险评估以及监测系统及评估方法
CN107067027A (zh) * 2017-03-08 2017-08-18 同济大学 一种基于光滑多示例学习的目标识别方法
CN107064894A (zh) * 2017-01-11 2017-08-18 南京御达电信息技术有限公司 一种基于深度学习的杂波抑制方法
CN107169469A (zh) * 2017-06-02 2017-09-15 南京理工大学 一种基于机器学习的mimo雷达的材料识别方法
CN107193001A (zh) * 2017-06-05 2017-09-22 广西大学 基于探地雷达的岩溶隧道不良地质预报专家系统及实现方法
CN108182450A (zh) * 2017-12-25 2018-06-19 电子科技大学 一种基于深度卷积网络的机载探地雷达目标识别方法
CN108229404A (zh) * 2018-01-09 2018-06-29 东南大学 一种基于深度学习的雷达回波信号目标识别方法
CN108470184A (zh) * 2018-02-11 2018-08-31 青岛海尔智能技术研发有限公司 食材识别方法、识别装置及家电设备
CN108759648A (zh) * 2018-04-09 2018-11-06 中国科学院电子学研究所 基于机器学习的探地雷达检测方法
CN108845321A (zh) * 2018-04-19 2018-11-20 北京三快在线科技有限公司 目标对象的识别方法、装置及无人驾驶智能设备
CN109031287A (zh) * 2018-09-21 2018-12-18 西安交通大学 基于Faster-RCNN网络的穿墙超宽带雷达人体呼吸信号检测方法
CN109446877A (zh) * 2018-09-01 2019-03-08 哈尔滨工程大学 一种联合多维特征迁移融合的雷达辐射源信号调制识别方法
CN110244381A (zh) * 2019-06-17 2019-09-17 中国地质大学(北京) 无人机地质勘测方法、装置和系统
CN110619342A (zh) * 2018-06-20 2019-12-27 鲁东大学 一种基于深度迁移学习的旋转机械故障诊断方法
CN110766067A (zh) * 2019-10-21 2020-02-07 浙江工业大学之江学院 基于机器学习的毫米波雷达材质识别方法
CN110953488A (zh) * 2019-12-30 2020-04-03 中国海洋石油集团有限公司 基于堆栈自编码的气液两相流管道泄漏声发射检测方法
CN110991507A (zh) * 2019-11-22 2020-04-10 北京中科蓝图科技有限公司 基于分类器的道路地下空洞识别方法、装置及系统
CN111027410A (zh) * 2019-11-19 2020-04-17 宁波康顿电子科技有限公司 避碰系统红外光电信号与雷达信号的叠加与切换方法
CN111162853A (zh) * 2020-01-10 2020-05-15 重庆邮电大学 认知无线网络中基于监督学习的协作宽带压缩频谱检测方法
CN112187502A (zh) * 2019-07-05 2021-01-05 中国移动通信集团河南有限公司 一种深度覆盖需求定位的方法
WO2021068848A1 (zh) * 2019-10-09 2021-04-15 山东大学 隧道结构病害多尺度检测与智能诊断系统及方法
CN113359101A (zh) * 2021-08-10 2021-09-07 中南大学 一种地下目标探测方法、系统及计算机存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1595195A (zh) * 2004-06-17 2005-03-16 上海交通大学 基于信息融合的超宽带探地雷达自动目标识别方法
CN105069400A (zh) * 2015-07-16 2015-11-18 北京工业大学 基于栈式稀疏自编码的人脸图像性别识别系统
CN105137498A (zh) * 2015-09-17 2015-12-09 鲁东大学 一种基于特征融合的地下目标探测识别系统及方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1595195A (zh) * 2004-06-17 2005-03-16 上海交通大学 基于信息融合的超宽带探地雷达自动目标识别方法
CN105069400A (zh) * 2015-07-16 2015-11-18 北京工业大学 基于栈式稀疏自编码的人脸图像性别识别系统
CN105137498A (zh) * 2015-09-17 2015-12-09 鲁东大学 一种基于特征融合的地下目标探测识别系统及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
李帅等: "一种深度神经网络SAR遮挡目标识别方法", 《西安电子科技大学学报(自然科学版)》 *

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106539587A (zh) * 2016-12-08 2017-03-29 浙江大学 一种基于多运动传感器的跌倒风险评估以及监测系统及评估方法
CN107064894A (zh) * 2017-01-11 2017-08-18 南京御达电信息技术有限公司 一种基于深度学习的杂波抑制方法
CN107067027A (zh) * 2017-03-08 2017-08-18 同济大学 一种基于光滑多示例学习的目标识别方法
CN107067027B (zh) * 2017-03-08 2020-06-23 同济大学 一种基于光滑多示例学习的目标识别方法
CN107169469B (zh) * 2017-06-02 2020-06-19 南京理工大学 一种基于机器学习的mimo雷达的材料识别方法
CN107169469A (zh) * 2017-06-02 2017-09-15 南京理工大学 一种基于机器学习的mimo雷达的材料识别方法
CN107193001A (zh) * 2017-06-05 2017-09-22 广西大学 基于探地雷达的岩溶隧道不良地质预报专家系统及实现方法
CN107193001B (zh) * 2017-06-05 2020-04-14 广西大学 基于探地雷达的岩溶隧道不良地质预报专家系统及实现方法
CN108182450B (zh) * 2017-12-25 2021-03-30 电子科技大学 一种基于深度卷积网络的机载探地雷达目标识别方法
CN108182450A (zh) * 2017-12-25 2018-06-19 电子科技大学 一种基于深度卷积网络的机载探地雷达目标识别方法
CN108229404B (zh) * 2018-01-09 2022-03-08 东南大学 一种基于深度学习的雷达回波信号目标识别方法
CN108229404A (zh) * 2018-01-09 2018-06-29 东南大学 一种基于深度学习的雷达回波信号目标识别方法
CN108470184A (zh) * 2018-02-11 2018-08-31 青岛海尔智能技术研发有限公司 食材识别方法、识别装置及家电设备
CN108759648A (zh) * 2018-04-09 2018-11-06 中国科学院电子学研究所 基于机器学习的探地雷达检测方法
CN108845321A (zh) * 2018-04-19 2018-11-20 北京三快在线科技有限公司 目标对象的识别方法、装置及无人驾驶智能设备
CN110619342A (zh) * 2018-06-20 2019-12-27 鲁东大学 一种基于深度迁移学习的旋转机械故障诊断方法
CN110619342B (zh) * 2018-06-20 2023-02-03 鲁东大学 一种基于深度迁移学习的旋转机械故障诊断方法
CN109446877A (zh) * 2018-09-01 2019-03-08 哈尔滨工程大学 一种联合多维特征迁移融合的雷达辐射源信号调制识别方法
CN109446877B (zh) * 2018-09-01 2022-01-07 哈尔滨工程大学 一种联合多维特征迁移融合的雷达辐射源信号调制识别方法
CN109031287A (zh) * 2018-09-21 2018-12-18 西安交通大学 基于Faster-RCNN网络的穿墙超宽带雷达人体呼吸信号检测方法
CN110244381A (zh) * 2019-06-17 2019-09-17 中国地质大学(北京) 无人机地质勘测方法、装置和系统
CN112187502A (zh) * 2019-07-05 2021-01-05 中国移动通信集团河南有限公司 一种深度覆盖需求定位的方法
CN112187502B (zh) * 2019-07-05 2022-12-23 中国移动通信集团河南有限公司 一种深度覆盖需求定位的方法
WO2021068848A1 (zh) * 2019-10-09 2021-04-15 山东大学 隧道结构病害多尺度检测与智能诊断系统及方法
CN110766067B (zh) * 2019-10-21 2023-07-21 浙江工业大学之江学院 基于机器学习的毫米波雷达材质识别方法
CN110766067A (zh) * 2019-10-21 2020-02-07 浙江工业大学之江学院 基于机器学习的毫米波雷达材质识别方法
CN111027410A (zh) * 2019-11-19 2020-04-17 宁波康顿电子科技有限公司 避碰系统红外光电信号与雷达信号的叠加与切换方法
CN110991507A (zh) * 2019-11-22 2020-04-10 北京中科蓝图科技有限公司 基于分类器的道路地下空洞识别方法、装置及系统
CN110953488B (zh) * 2019-12-30 2021-04-02 中国海洋石油集团有限公司 基于堆栈自编码的气液两相流管道泄漏声发射检测方法
CN110953488A (zh) * 2019-12-30 2020-04-03 中国海洋石油集团有限公司 基于堆栈自编码的气液两相流管道泄漏声发射检测方法
CN111162853B (zh) * 2020-01-10 2021-11-16 重庆邮电大学 认知无线网络中基于监督学习的协作宽带压缩频谱检测方法
CN111162853A (zh) * 2020-01-10 2020-05-15 重庆邮电大学 认知无线网络中基于监督学习的协作宽带压缩频谱检测方法
CN113359101B (zh) * 2021-08-10 2021-11-05 中南大学 一种地下目标探测方法、系统及计算机存储介质
CN113359101A (zh) * 2021-08-10 2021-09-07 中南大学 一种地下目标探测方法、系统及计算机存储介质

Similar Documents

Publication Publication Date Title
CN105512635A (zh) 一种融合类别属性的深度网络地下目标识别方法及系统
Chen et al. Automatic waveform classification and arrival picking based on convolutional neural network
Liu et al. Seismic facies classification using supervised convolutional neural networks and semisupervised generative adversarial networks
Liu et al. Deep-learning seismic full-waveform inversion for realistic structural models
Chang et al. Lithofacies identification using multiple adaptive resonance theory neural networks and group decision expert system
Zhu et al. An end‐to‐end earthquake detection method for joint phase picking and association using deep learning
CN102854528B (zh) 粒子群优化算法叠前非线性反演方法
CN105259572B (zh) 基于地震多属性参数非线性自动分类的地震相计算方法
CN106886043B (zh) 基于地震数据深度学习的储层检测方法
CN105137498A (zh) 一种基于特征融合的地下目标探测识别系统及方法
CN103454677B (zh) 基于粒子群与线性加法器结合的地震数据反演方法
CN104280771A (zh) 一种基于em算法的三维地震数据波形的半监督聚类方法
Ren et al. Lithology identification using principal component analysis and particle swarm optimization fuzzy decision tree
CN103366365A (zh) 基于人工免疫多目标聚类的sar图像变化检测方法
CN104714249A (zh) 直接提取流体因子的新方法
CN104298999A (zh) 基于递归自动编码的高光谱特征学习方法
Liu et al. Mixture of relevance vector regression experts for reservoir properties prediction
Lu et al. Improving the image quality of elastic reverse-time migration in the dip-angle domain using deep learning
Bedi et al. PP-NFR: an improved hybrid learning approach for porosity prediction from seismic attributes using non-linear feature reduction
CN116299665A (zh) Lstm面波反演方法、装置及介质
Han et al. Multiple point geostatistical simulation with adaptive filter derived from neural network for sedimentary facies classification
Guo First-arrival picking for microseismic monitoring based on deep learning
Xu et al. First‐break automatic picking technology based on semantic segmentation
Sheng et al. Arrival-time picking of microseismic events based on MSNet
Zhang et al. Convolutional neural network long short-term memory deep learning model for sonic well log generation for brittleness evaluation

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20160420

RJ01 Rejection of invention patent application after publication