CN107239803A - 利用深度学习神经网络的海底底质自动分类方法 - Google Patents
利用深度学习神经网络的海底底质自动分类方法 Download PDFInfo
- Publication number
- CN107239803A CN107239803A CN201710600898.XA CN201710600898A CN107239803A CN 107239803 A CN107239803 A CN 107239803A CN 201710600898 A CN201710600898 A CN 201710600898A CN 107239803 A CN107239803 A CN 107239803A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msubsup
- msub
- layer
- convolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000013135 deep learning Methods 0.000 title claims abstract description 15
- 239000013049 sediment Substances 0.000 title claims abstract description 14
- 230000007935 neutral effect Effects 0.000 title abstract 3
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 31
- 238000013528 artificial neural network Methods 0.000 claims abstract description 28
- 210000002569 neuron Anatomy 0.000 claims abstract description 19
- 238000004364 calculation method Methods 0.000 claims description 34
- 230000006870 function Effects 0.000 claims description 29
- 238000012549 training Methods 0.000 claims description 18
- 230000004913 activation Effects 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 15
- 239000000758 substrate Substances 0.000 claims description 13
- 238000005070 sampling Methods 0.000 claims description 10
- 238000011176 pooling Methods 0.000 claims description 9
- 239000000654 additive Substances 0.000 claims description 8
- 230000000996 additive effect Effects 0.000 claims description 8
- 230000008447 perception Effects 0.000 claims description 8
- 238000010586 diagram Methods 0.000 claims description 7
- 230000000694 effects Effects 0.000 claims description 5
- 210000002364 input neuron Anatomy 0.000 claims description 4
- 238000013461 design Methods 0.000 claims description 3
- 238000003062 neural network model Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 abstract description 2
- 239000004576 sand Substances 0.000 description 6
- 238000012706 support-vector machine Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- QNJOVLAFLJQFBF-UHFFFAOYSA-N 2-octyldodecyl 16-methylheptadecanoate Chemical compound CCCCCCCCCCC(CCCCCCCC)COC(=O)CCCCCCCCCCCCCCC(C)C QNJOVLAFLJQFBF-UHFFFAOYSA-N 0.000 description 1
- 208000003098 Ganglion Cysts Diseases 0.000 description 1
- 208000021342 Isolated sulfite oxidase deficiency Diseases 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 208000005400 Synovial Cyst Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008521 reorganization Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种利用深度学习神经网络的海底底质自动分类方法，属于底质分类技术领域。本发明提取特征参数增加至十四维，引入有一定模型运算优势和分类优势的深度学习卷积神经网络,卷积和降采样计算不断降低特征的纬度，使得神经网络不宜出现过拟合，传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元，而每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，然后在更高层将局部的信息综合起来即可得到了全局的信息，卷积神经网络的局部感知就做到了这一点，且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。
Description
技术领域
本发明涉及一种利用深度学习神经网络的海底底质自动分类方法，属于底质分类技术领域。
背景技术
现在应用较为广泛的分类方法按照分类原理可分为非监督分类和有监督分类两类。非监督分类主要有ISOD利用深度学习神经网络的海底底质自动分类方法T利用深度学习神经网络的海底底质自动分类方法和K-me利用深度学习神经网络的海底底质自动分类方法n聚类方法，有监督分类主要有平行六面体、最小距离、极大似然、SVM、BP神经网络等。本发明应用的分类方法是深度学习卷积神经网络属于有监督分类，卷积神经网络跟传统的非监督分类方法相比计算复杂度高，但分类精度高；与传统的神经网络比起来加入了卷积和降采样计算，以及独有的局部感知和权值共享，卷积和降采样计算不断对特征进行二次提取的同时降低特征维度，避免神经网络出现过拟合，局部感知和权值共享大大减少了模型的计算参数，加快模型的收敛速率，分类精度高。
相比于本发明应用的卷积神经网络，现有的技术或多或少存在一定缺陷，比如非监督分类对于同一类样本分布较为密集时分类较为准确，对不同类别混杂严重的分类效果不佳；监督分类中常见的分类方法SVM泛化能力较弱，对训练样本要求较高，由于运算过程设计大量矩阵的存储因而占用内存较大，运算时间较长，BP神经网络收敛速度慢、初始化参数较为随机，很容易陷入局部极值，算法运算效率不高，特别是网络层数较多，复杂度较大时，训练时间较长，分类精度普遍没有卷积神经网络分类精度高。
发明内容
针对现有底质分类软件对混合沉积物识别率不高且分类方法较为传统，本发明提取特征参数增加至十四维，引入有一定模型运算优势和分类优势的深度学习卷积神经网络。
本发明是采用以下的技术方法实现的：
一种利用深度学习神经网络的海底底质自动分类方法，包括如下步骤：
S1：输入层计算：
对于输入层的输入可用以下公式表示：
其中，l为卷积层数代表维度，k表示类别属性，gi(x，y)表示特征层中第i个像元的空间位置。
S2：卷积计算：
卷积过程是输入一幅图像，与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算，然后加一个偏置，输入到神经元的激活函数，得到卷积输出层，卷积计算公式：
其中，表示第l层输出的特征图m的激活值，f()为激活函数，P表示选择的输入特征图集合，代表卷积运算，为卷积核函数，为偏置参数。
S3：下采样计算：
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征，计算公式如下：
其中，为l层中特征图的乘性偏置系数，为l层中特征图的加性偏置系数，每一个特征图都有自己的加性和乘性偏置系数，down()为下采样函数。
S4：全连接层计算：
全连接层是对模型中上一层特征图重组的过程，该过程可增加模型训练效果。相比于稀疏连接，全连接考虑了上层网络中所有特征图的性质，通过学习的方法得到特征图的组合系数，进一步提高了模型的表达能力和适应性。全连接层输出的特征图计算公式如下：
其中，Z为输入的l-1层中的特征图总数，代表l层特征图n与输入的l-1层中特征图m的权值，为l层中特征图m的偏置系数。
S5：输出层计算：
CNN模型的输出层的作用是计算输入层神经元的归属概率，每个神经元代表一个底质类型。神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率，该函数可以增强输出层神经元间的约束性，类别估计函数如公式：
其中W和b分别为权重和偏置，Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数，Y代表输入神经元的分类结果，其与训练样本标签一一对应。P( )代表每个输入像元特征g归属为底质类型k的潜在概率，在softmax函数中将样本分为某一类别的概率：
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数，提高模型的训练效率。
优选地，所述步骤S2中，激活函数常用的有sign，sigmoid，tanh，在传统的CNN中通常使用sigmoid函数。
优选地，所述步骤S2中，P可从这个集合中选取某个组合作为输入特征图，每个输出特征图都有一个偏置系数，特征图内的权值相同，由卷积神经网络的权值共享特性决定的；卷积核也可以称为滤波器，卷积核设计通常涉及卷积核的大小，数目以及步长；卷积核大小确定了图像中参与运算子区域的大小，卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力，权值越大，投票贡献越大。
优选地，所述步骤S2中，每个输出特征图都有自己的乘性偏置参数α和加性偏置参数b。
优选地，所述步骤S3中，对上层进行池化，通常采用最大池化、均值池化、随机池化和高斯池化，在计算过程中通常采用前两种方法。
优选地，所述步骤S3中，由于特征图的变长不一定是2的倍数，在边缘处理上有忽略边缘和保留边缘两种方法，在计算过程中通常选用保留边缘。
本发明的有益效果是：卷积和降采样计算不断降低特征的纬度，使得神经网络不宜出现过拟合，传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元，而每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，然后在更高层将局部的信息综合起来即可得到了全局的信息，卷积神经网络的局部感知就做到了这一点，且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。相比于其他算法CNN特殊的局部感知和权值共享大大的减少了网络的训练参数和计算量，这使得神经网络结构变得更简单，适应性更强且分类精度普遍较高。
附图说明
图1是本发明的卷积神经网络结构示意图。
图2是本发明的卷积神经网络计算流程图。
图3是本发明的卷积计算流程图。
图4是本发明的分类结果图。
图5是本发明的SVM神经网络的分类结果图。
图6是本发明的BP神经网络的分类结果图。
具体实施方式
为了使本发明目的、技术方法更加清楚明白，下面结合附图，对本发明作进一步详细说明。
实施例一：
CNN是神经网络的一种变形，它与神经网络的区别在于增加了卷积运算和降采样过程，具有局部感知和权值共享的特点，是一个前馈网络。
如图1所示，根据CNN结构可大致分为四层结构：输入层，卷积和下采样层，全连接层和输出层四部分。
(1)输入层：卷积神经网络的第一层是输入层，利用CNN进行底质分类研究输入的实际上是声纳图像的特征信息。
(2)卷积与下采样层：卷积与下采样层又叫特征提取层，上一层的输出与本层权重W做卷积提取输入数据特征得到各个卷积层(C)，通过下采样计算，加快网络训练速度得到各个下采样层(S)，通常卷积神经网络至少包含两层特征提取层。
(3)全连接层：全连接层实际上是多层感知器的隐含层部分，经过卷积和下采样处理后的特征信息为了与传统的多层感知器全连接，需要经过一步光栅化(X)即将上一层的所有特征信息依次展开排成一列。该过程可增加模型训练效果。相比于稀疏连接，全连接考虑了上层网络中所有特征图的性质，使模型具有更好的表达能力，增强模型适应性。
(4)输出层：输出层神经节点的数目根据最终具体类别数目设定。
卷积神经网络计算流程图如图2所示.
针对结构中不同层涉及到的计算进行介绍：
S1：输入层计算：
对于输入层的输入可用以下公式表示：
其中，l为卷积层数代表维度，k表示类别属性，gi(x，y)表示特征层中第i个像元的空间位置。
S2：卷积计算：
卷积过程是输入一幅图像，与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算，然后加一个偏置，输入到神经元的激活函数，得到卷积输出层，卷积计算公式：
其中，表示第l层输出的特征图m的激活值，f()为激活函数，P表示选择的输入特征图集合，代表卷积运算，为卷积核函数，为偏置参数。常用的激活函数有sign，sigmoid，tanh等，在传统的CNN中通常使用sigmoid函数，为偏置参数。Mj表示选择的输入特征图集合，可从这个集合中选取某个组合作为输入特征图，每个输出特征图都有一个偏置系数，特征图内的权值相同，由卷积神经网络的权值共享特性决定的。卷积核也可以称为滤波器，卷积核设计通常涉及卷积核的大小(size)，数目(number)以及步长(stride)。卷积核大小确定了图像中参与运算子区域的大小，卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力，权值越大，投票贡献越大。
S3：下采样计算：
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征，计算公式如下：
其中，为l层中特征图的乘性偏置系数，为l层中特征图的加性偏置系数，每一个特征图都有自己的加性和乘性偏置系数，down()为下采样函数。
S4：全连接层计算：
全连接层是对模型中上一层特征图重组的过程，该过程可增加模型训练效果。相比于稀疏连接，全连接考虑了上层网络中所有特征图的性质，通过学习的方法得到特征图的组合系数，进一步提高了模型的表达能力和适应性。全连接层输出的特征图计算公式如下：
其中，Z为输入的l-1层中的特征图总数，代表l层特征图n与输入的l-1层中特征图m的权值，为l层中特征图m的偏置系数。
S5：输出层计算
CNN模型的输出层的作用是计算输入层神经元的归属概率，每个神经元代表一个底质类型。神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率，该函数可以增强输出层神经元间的约束性，类别估计函数如公式：
其中，W和b分别为权重和偏置，Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数，Y代表输入神经元的分类结果，其与训练样本标签一一对应。P()代表每个输入像元特征g归属为底质类型k的潜在概率，在softmax函数中将样本分为某一类别的概率：
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数，提高模型的训练效率。
实施例二:
选取某实验测区内12条多波束(EM3000)观测条带进行实验，实验区含有细砂、泥质砂、砂质泥、粗砂、基岩及砾石等6种底质类型，因为细砂、粗砂和砂质泥的特征及其相似不宜区分因此将这三类合并为一类砂进行研究。为了研究该方法的有效性和优势，分别与SVM和BP神经网络的分类结果进行对比，不同分类方法的分类结果已经精度评估如图4至图6所示。
本发明采用卷积和降采样计算不断降低特征的纬度，使得神经网络不宜出现过拟合，传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元，而每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，然后在更高层将局部的信息综合起来即可得到了全局的信息，卷积神经网络的局部感知就做到了这一点，且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。相比于其他算法CNN特殊的局部感知和权值共享大大的减少了网络的训练参数和计算量，这使得神经网络结构变得更简单，适应性更强且分类精度普遍较高。
本发明可广泛运用于深度卷积神经网络在海底底质分类研究中的场合。
以上所述仅为本发明的较佳实施例而己，并不以本发明为限制，凡在本发明的精神和原则之内所作的均等修改、等同替换和改进等，均应包含在本发明的专利涵盖范围内。
Claims (6)
1.一种利用深度学习神经网络的海底底质自动分类方法，其特征在于，包括如下步骤：
S1：输入层计算：
对于输入层的输入可用以下公式表示：
<mrow>
<mi>g</mi>
<mo>=</mo>
<msub>
<mi>g</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>,</mo>
<mi>l</mi>
<mo>,</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msub>
<mi>g</mi>
<mi>i</mi>
</msub>
<msubsup>
<mrow>
<mo>(</mo>
<mi>x</mi>
<mo>,</mo>
<mi>y</mi>
<mo>)</mo>
</mrow>
<mi>l</mi>
<mi>k</mi>
</msubsup>
<mo>,</mo>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
<mo>,</mo>
<mn>2....</mn>
<mi>N</mi>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
</mrow>
其中，l为卷积层数代表维度，k表示类别属性，gi(x，y)表示特征层中第i个像元的空间位置；
S2：卷积计算：
卷积过程是输入一幅图像，与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算，然后加一个偏置，输入到神经元的激活函数，得到卷积输出层，卷积计算公式：
<mrow>
<msubsup>
<mi>V</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
<mo>=</mo>
<mi>f</mi>
<mo>(</mo>
<mrow>
<munder>
<mo>&Sigma;</mo>
<mrow>
<mi>n</mi>
<mo>&Element;</mo>
<mi>P</mi>
</mrow>
</munder>
<msubsup>
<mi>V</mi>
<mi>n</mi>
<mrow>
<mi>l</mi>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>&CircleTimes;</mo>
<msubsup>
<mi>H</mi>
<mrow>
<mi>m</mi>
<mi>n</mi>
</mrow>
<mi>l</mi>
</msubsup>
<mo>+</mo>
<msubsup>
<mi>b</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
</mrow>
<mo>)</mo>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>2</mn>
<mo>)</mo>
</mrow>
</mrow>
其中，表示第l层输出的特征图m的激活值，f()为激活函数，P表示选择的输入特征图集合，代表卷积运算，为卷积核函数，为偏置参数；
S3：下采样计算：
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征，计算公式如下：
<mrow>
<msubsup>
<mi>V</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
<mo>=</mo>
<mi>f</mi>
<mrow>
<mo>(</mo>
<msubsup>
<mi>&alpha;</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
<mi>d</mi>
<mi>o</mi>
<mi>w</mi>
<mi>n</mi>
<mo>(</mo>
<msubsup>
<mi>V</mi>
<mi>m</mi>
<mrow>
<mi>l</mi>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
<mo>+</mo>
<msubsup>
<mi>b</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>3</mn>
<mo>)</mo>
</mrow>
</mrow>
其中，为l层中特征图的乘性偏置系数，为l层中特征图的加性偏置系数，每一个特征图都有自己的加性和乘性偏置系数，down()为下采样函数；
S4：全连接层计算：
全连接层是对模型中上一层特征图重组的过程，该过程可增加模型训练效果；相比于稀疏连接，全连接考虑了上层网络中所有特征图的性质，通过学习的方法得到特征图的组合系数，进一步提高了模型的表达能力和适应性；全连接层输出的特征图计算公式如下：
<mrow>
<msubsup>
<mi>V</mi>
<mi>n</mi>
<mi>l</mi>
</msubsup>
<mo>=</mo>
<mi>f</mi>
<mo>(</mo>
<mrow>
<munderover>
<mo>&Sigma;</mo>
<mrow>
<mi>m</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>z</mi>
</munderover>
<msub>
<mo>&part;</mo>
<mrow>
<mi>m</mi>
<mi>n</mi>
</mrow>
</msub>
<mo>*</mo>
<msubsup>
<mi>V</mi>
<mi>m</mi>
<mrow>
<mi>l</mi>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>+</mo>
<msubsup>
<mi>b</mi>
<mi>m</mi>
<mi>l</mi>
</msubsup>
</mrow>
<mo>)</mo>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>4</mn>
<mo>)</mo>
</mrow>
</mrow>
其中，Z为输入的l-1层中的特征图总数，代表l层特征图n与输入的l-1层中特征图m的权值，为l层中特征图m的偏置系数；
S5：输出层计算：
CNN模型的输出层的作用是计算输入层神经元的归属概率，每个神经元代表一个底质类型；神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率，该函数可以增强输出层神经元间的约束性，类别估计函数如公式：
<mrow>
<mi>P</mi>
<mo>=</mo>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<mrow>
<mi>P</mi>
<mrow>
<mo>(</mo>
<mi>Y</mi>
<mo>=</mo>
<mn>1</mn>
<mo>|</mo>
<mi>V</mi>
<mo>,</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mi>P</mi>
<mrow>
<mo>(</mo>
<mi>Y</mi>
<mo>=</mo>
<mn>2</mn>
<mo>|</mo>
<mi>V</mi>
<mo>,</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>...</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mi>P</mi>
<mrow>
<mo>(</mo>
<mi>Y</mi>
<mo>=</mo>
<mi>k</mi>
<mo>|</mo>
<mi>V</mi>
<mo>,</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
</mtable>
</mfenced>
<mo>=</mo>
<mfrac>
<mn>1</mn>
<mrow>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>k</mi>
</msubsup>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mi>k</mi>
</msub>
</mrow>
</msup>
</mrow>
</mfrac>
<mfenced open = "[" close = "]">
<mtable>
<mtr>
<mtd>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mn>1</mn>
</msub>
</mrow>
</msup>
</mtd>
</mtr>
<mtr>
<mtd>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mn>2</mn>
</msub>
</mrow>
</msup>
</mtd>
</mtr>
<mtr>
<mtd>
<mn>...</mn>
</mtd>
</mtr>
<mtr>
<mtd>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mi>k</mi>
</msub>
</mrow>
</msup>
</mtd>
</mtr>
</mtable>
</mfenced>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>5</mn>
<mo>)</mo>
</mrow>
</mrow>
其中，W和b分别为权重和偏置，Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数，Y代表输入神经元的分类结果，其与训练样本标签一一对应；P()代表每个输入像元特征g归属为底质类型k的潜在概率，在softmax函数中将样本分为某一类别的概率：
<mrow>
<mi>P</mi>
<mrow>
<mo>(</mo>
<mi>Y</mi>
<mo>=</mo>
<mi>i</mi>
<mo>|</mo>
<mi>V</mi>
<mo>,</mo>
<mi>W</mi>
<mo>,</mo>
<mi>b</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfrac>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mi>k</mi>
</msub>
</mrow>
</msup>
<mrow>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>k</mi>
</msubsup>
<msup>
<mi>e</mi>
<mrow>
<msubsup>
<mi>W</mi>
<mrow>
<mi>n</mi>
<mi>k</mi>
</mrow>
<mi>T</mi>
</msubsup>
<msub>
<mi>V</mi>
<mi>n</mi>
</msub>
<mo>+</mo>
<msub>
<mi>b</mi>
<mi>k</mi>
</msub>
</mrow>
</msup>
</mrow>
</mfrac>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>6</mn>
<mo>)</mo>
</mrow>
</mrow>
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数，提高模型的训练效率。
2.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法，其特征在于，所述步骤S2中，激活函数常用的有sign，sigmoid，tanh，在传统的CNN中通常使用sigmoid函数。
3.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法，其特征在于，所述步骤S2中，P可从这个集合中选取某个组合作为输入特征图，每个输出特征图都有一个偏置系数，特征图内的权值相同，由卷积神经网络的权值共享特性决定的；卷积核称为滤波器，卷积核设计通常涉及卷积核的大小，数目以及步长；卷积核大小确定了图像中参与运算子区域的大小，卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力，权值越大，投票贡献越大。
4.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法，其特征在于，所述步骤S3中，每个输出特征图都有自己的乘性偏置参数α和加性偏置参数b。
5.根据权利要求4所述的利用深度学习神经网络的海底底质自动分类方法，其特征在于，所述步骤S3中，对上层进行池化，通常采用最大池化、均值池化、随机池化和高斯池化，在计算过程中通常采用前两种方法。
6.根据权利要求5所述的利用深度学习神经网络的海底底质自动分类方法，其特征在于，所述步骤S3中，由于特征图的变长不一定是2的倍数，在边缘处理上有忽略边缘和保留边缘两种方法，在计算过程中通常选用保留边缘。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710600898.XA CN107239803A (zh) | 2017-07-21 | 2017-07-21 | 利用深度学习神经网络的海底底质自动分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710600898.XA CN107239803A (zh) | 2017-07-21 | 2017-07-21 | 利用深度学习神经网络的海底底质自动分类方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107239803A true CN107239803A (zh) | 2017-10-10 |
Family
ID=59989353
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710600898.XA Pending CN107239803A (zh) | 2017-07-21 | 2017-07-21 | 利用深度学习神经网络的海底底质自动分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107239803A (zh) |
Cited By (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108171707A (zh) * | 2018-01-23 | 2018-06-15 | 武汉精测电子集团股份有限公司 | 一种基于深度学习的Mura缺陷等级评判方法及装置 |
| CN108596226A (zh) * | 2018-04-12 | 2018-09-28 | 武汉精测电子集团股份有限公司 | 一种基于深度学习的显示面板缺陷训练方法及系统 |
| CN109001833A (zh) * | 2018-06-22 | 2018-12-14 | 天和防务技术（北京）有限公司 | 一种基于深度学习的太赫兹危险品检测方法 |
| CN110162426A (zh) * | 2018-02-12 | 2019-08-23 | 罗伯特·博世有限公司 | 用于检验神经网络中的神经元函数的方法和设备 |
| CN110188794A (zh) * | 2019-04-23 | 2019-08-30 | 深圳大学 | 一种深度学习模型的训练方法、装置、设备及存储介质 |
| CN110532940A (zh) * | 2019-08-27 | 2019-12-03 | 河海大学 | 一种人脸表情识别方法 |
| CN110716234A (zh) * | 2019-11-07 | 2020-01-21 | 中国科学院声学研究所东海研究站 | 一种用于海底底质识别的声学数据获取方法 |
| CN110765865A (zh) * | 2019-09-18 | 2020-02-07 | 北京理工大学 | 基于改进的yolo算法的水下目标检测方法 |
| CN111079900A (zh) * | 2019-12-17 | 2020-04-28 | 中山大学 | 一种基于自适应连接神经网络的图像处理方法及装置 |
| CN111144269A (zh) * | 2019-12-23 | 2020-05-12 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
| CN111382836A (zh) * | 2018-12-30 | 2020-07-07 | 罗伯特·博世有限公司 | 用于边缘设备的分布式神经网络 |
| CN111431825A (zh) * | 2020-02-25 | 2020-07-17 | 泰山学院 | 一种基于深度多流神经网络的信号自动分类识别方法 |
| CN111465941A (zh) * | 2017-11-21 | 2020-07-28 | 国立研究开发法人理化学研究所 | 分类装置、分类方法、程序以及信息记录介质 |
| CN111507335A (zh) * | 2019-01-31 | 2020-08-07 | 斯特拉德视觉公司 | 自动标注利用于深度学习网络的训练图像的方法和装置 |
| CN111612049A (zh) * | 2020-04-30 | 2020-09-01 | 自然资源部第一海洋研究所 | 基于人工神经网络的海底细粒土工程分类定名分析方法 |
| CN111798935A (zh) * | 2019-04-09 | 2020-10-20 | 南京药石科技股份有限公司 | 基于神经网络的普适性化合物结构-性质相关性预测方法 |
| CN112433248A (zh) * | 2020-11-10 | 2021-03-02 | 成都理工大学 | 一种碳酸盐岩沉积环境下隐蔽储层的探测方法 |
| CN112534446A (zh) * | 2018-09-10 | 2021-03-19 | 日立汽车系统株式会社 | 电子控制装置、神经网络更新系统 |
| CN112689841A (zh) * | 2018-09-07 | 2021-04-20 | 韦务拓客公司 | 微生物信息提供装置及方法 |
| CN113255660A (zh) * | 2021-03-18 | 2021-08-13 | 自然资源部第三海洋研究所 | 一种基于实例分割框架的海洋底质自动识别方法及装置 |
| CN113376172A (zh) * | 2021-07-05 | 2021-09-10 | 四川大学 | 一种基于视觉与涡流的焊缝缺陷检测系统及其检测方法 |
| CN113642591A (zh) * | 2020-04-27 | 2021-11-12 | 中国科学院声学研究所 | 一种基于迁移学习的多波束海底沉积层类型的估计方法及系统 |
| CN114514519A (zh) * | 2019-10-04 | 2022-05-17 | 瑞典爱立信有限公司 | 使用异构模型类型和架构的联合学习 |
| CN115824458A (zh) * | 2023-02-22 | 2023-03-21 | 自然资源部第一海洋研究所 | 一种海底底层水温反演的方法和装置 |
| CN116863343A (zh) * | 2023-09-04 | 2023-10-10 | 中国地质大学（武汉） | 一种深度学习模型、海底底质解译方法、装置及介质 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110222724A1 (en) * | 2010-03-15 | 2011-09-15 | Nec Laboratories America, Inc. | Systems and methods for determining personal characteristics |
| CN104732243A (zh) * | 2015-04-09 | 2015-06-24 | 西安电子科技大学 | 基于cnn的sar目标识别方法 |
| CN105787510A (zh) * | 2016-02-26 | 2016-07-20 | 华东理工大学 | 基于深度学习实现地铁场景分类的系统及方法 |
| CN105825511A (zh) * | 2016-03-18 | 2016-08-03 | 南京邮电大学 | 一种基于深度学习的图片背景清晰度检测方法 |
| CN105929845A (zh) * | 2016-05-18 | 2016-09-07 | 中国计量大学 | 基于无人机网络的河道巡航系统与巡航方法 |
| US20160259994A1 (en) * | 2015-03-04 | 2016-09-08 | Accenture Global Service Limited | Digital image processing using convolutional neural networks |
| CN105975931A (zh) * | 2016-05-04 | 2016-09-28 | 浙江大学 | 一种基于多尺度池化的卷积神经网络人脸识别方法 |
| CN106250812A (zh) * | 2016-07-15 | 2016-12-21 | 汤平 | 一种基于快速r‑cnn深度神经网络的车型识别方法 |
| CN106485251A (zh) * | 2016-10-08 | 2017-03-08 | 天津工业大学 | 基于深度学习的鸡蛋胚胎分类 |
| CN106780546A (zh) * | 2016-12-06 | 2017-05-31 | 南京航空航天大学 | 基于卷积神经网络的运动模糊编码点的身份识别方法 |
-
2017
- 2017-07-21 CN CN201710600898.XA patent/CN107239803A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110222724A1 (en) * | 2010-03-15 | 2011-09-15 | Nec Laboratories America, Inc. | Systems and methods for determining personal characteristics |
| US20160259994A1 (en) * | 2015-03-04 | 2016-09-08 | Accenture Global Service Limited | Digital image processing using convolutional neural networks |
| CN104732243A (zh) * | 2015-04-09 | 2015-06-24 | 西安电子科技大学 | 基于cnn的sar目标识别方法 |
| CN105787510A (zh) * | 2016-02-26 | 2016-07-20 | 华东理工大学 | 基于深度学习实现地铁场景分类的系统及方法 |
| CN105825511A (zh) * | 2016-03-18 | 2016-08-03 | 南京邮电大学 | 一种基于深度学习的图片背景清晰度检测方法 |
| CN105975931A (zh) * | 2016-05-04 | 2016-09-28 | 浙江大学 | 一种基于多尺度池化的卷积神经网络人脸识别方法 |
| CN105929845A (zh) * | 2016-05-18 | 2016-09-07 | 中国计量大学 | 基于无人机网络的河道巡航系统与巡航方法 |
| CN106250812A (zh) * | 2016-07-15 | 2016-12-21 | 汤平 | 一种基于快速r‑cnn深度神经网络的车型识别方法 |
| CN106485251A (zh) * | 2016-10-08 | 2017-03-08 | 天津工业大学 | 基于深度学习的鸡蛋胚胎分类 |
| CN106780546A (zh) * | 2016-12-06 | 2017-05-31 | 南京航空航天大学 | 基于卷积神经网络的运动模糊编码点的身份识别方法 |
Non-Patent Citations (3)
| Title |
|---|
| AHMED NAIT CHABANE ET AL.: "Unsupervised knowledge discovery of seabed types using competitive neural network: Application to sidescan sonar images", 《2014 OCEANS - ST. JOHN"S》 * |
| 冯子勇: "基于深度学习的图像特征学习和分类方法的研究及应用", 《中国博士学位论文全文数据库》 * |
| 唐秋华 等: "济州岛南部海域海底声呐图像分析与声学底质分类", 《海洋学报(中文版)》 * |
Cited By (34)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111465941A (zh) * | 2017-11-21 | 2020-07-28 | 国立研究开发法人理化学研究所 | 分类装置、分类方法、程序以及信息记录介质 |
| CN108171707A (zh) * | 2018-01-23 | 2018-06-15 | 武汉精测电子集团股份有限公司 | 一种基于深度学习的Mura缺陷等级评判方法及装置 |
| CN110162426A (zh) * | 2018-02-12 | 2019-08-23 | 罗伯特·博世有限公司 | 用于检验神经网络中的神经元函数的方法和设备 |
| CN108596226A (zh) * | 2018-04-12 | 2018-09-28 | 武汉精测电子集团股份有限公司 | 一种基于深度学习的显示面板缺陷训练方法及系统 |
| CN109001833A (zh) * | 2018-06-22 | 2018-12-14 | 天和防务技术（北京）有限公司 | 一种基于深度学习的太赫兹危险品检测方法 |
| CN112689841A (zh) * | 2018-09-07 | 2021-04-20 | 韦务拓客公司 | 微生物信息提供装置及方法 |
| CN112534446A (zh) * | 2018-09-10 | 2021-03-19 | 日立汽车系统株式会社 | 电子控制装置、神经网络更新系统 |
| CN111382836A (zh) * | 2018-12-30 | 2020-07-07 | 罗伯特·博世有限公司 | 用于边缘设备的分布式神经网络 |
| CN111507335B (zh) * | 2019-01-31 | 2023-10-13 | 斯特拉德视觉公司 | 自动标注利用于深度学习网络的训练图像的方法和装置 |
| CN111507335A (zh) * | 2019-01-31 | 2020-08-07 | 斯特拉德视觉公司 | 自动标注利用于深度学习网络的训练图像的方法和装置 |
| CN111798935A (zh) * | 2019-04-09 | 2020-10-20 | 南京药石科技股份有限公司 | 基于神经网络的普适性化合物结构-性质相关性预测方法 |
| CN110188794B (zh) * | 2019-04-23 | 2023-02-28 | 深圳大学 | 一种深度学习模型的训练方法、装置、设备及存储介质 |
| CN110188794A (zh) * | 2019-04-23 | 2019-08-30 | 深圳大学 | 一种深度学习模型的训练方法、装置、设备及存储介质 |
| CN110532940A (zh) * | 2019-08-27 | 2019-12-03 | 河海大学 | 一种人脸表情识别方法 |
| CN110765865B (zh) * | 2019-09-18 | 2022-06-28 | 北京理工大学 | 基于改进的yolo算法的水下目标检测方法 |
| CN110765865A (zh) * | 2019-09-18 | 2020-02-07 | 北京理工大学 | 基于改进的yolo算法的水下目标检测方法 |
| CN114514519A (zh) * | 2019-10-04 | 2022-05-17 | 瑞典爱立信有限公司 | 使用异构模型类型和架构的联合学习 |
| CN110716234B (zh) * | 2019-11-07 | 2021-10-19 | 中国科学院声学研究所东海研究站 | 一种用于海底底质识别的声学数据获取方法 |
| CN110716234A (zh) * | 2019-11-07 | 2020-01-21 | 中国科学院声学研究所东海研究站 | 一种用于海底底质识别的声学数据获取方法 |
| CN111079900A (zh) * | 2019-12-17 | 2020-04-28 | 中山大学 | 一种基于自适应连接神经网络的图像处理方法及装置 |
| CN111079900B (zh) * | 2019-12-17 | 2023-07-14 | 中山大学 | 一种基于自适应连接神经网络的图像处理方法及装置 |
| CN111144269B (zh) * | 2019-12-23 | 2023-11-24 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
| CN111144269A (zh) * | 2019-12-23 | 2020-05-12 | 威海北洋电气集团股份有限公司 | 一种基于深度学习的信号相关行为识别方法及系统 |
| CN111431825A (zh) * | 2020-02-25 | 2020-07-17 | 泰山学院 | 一种基于深度多流神经网络的信号自动分类识别方法 |
| CN113642591A (zh) * | 2020-04-27 | 2021-11-12 | 中国科学院声学研究所 | 一种基于迁移学习的多波束海底沉积层类型的估计方法及系统 |
| CN113642591B (zh) * | 2020-04-27 | 2023-07-18 | 中国科学院声学研究所 | 一种基于迁移学习的多波束海底沉积层类型的估计方法及系统 |
| CN111612049B (zh) * | 2020-04-30 | 2023-10-13 | 自然资源部第一海洋研究所 | 基于人工神经网络的海底细粒土工程分类定名分析方法 |
| CN111612049A (zh) * | 2020-04-30 | 2020-09-01 | 自然资源部第一海洋研究所 | 基于人工神经网络的海底细粒土工程分类定名分析方法 |
| CN112433248A (zh) * | 2020-11-10 | 2021-03-02 | 成都理工大学 | 一种碳酸盐岩沉积环境下隐蔽储层的探测方法 |
| CN113255660A (zh) * | 2021-03-18 | 2021-08-13 | 自然资源部第三海洋研究所 | 一种基于实例分割框架的海洋底质自动识别方法及装置 |
| CN113376172A (zh) * | 2021-07-05 | 2021-09-10 | 四川大学 | 一种基于视觉与涡流的焊缝缺陷检测系统及其检测方法 |
| CN115824458A (zh) * | 2023-02-22 | 2023-03-21 | 自然资源部第一海洋研究所 | 一种海底底层水温反演的方法和装置 |
| CN116863343A (zh) * | 2023-09-04 | 2023-10-10 | 中国地质大学（武汉） | 一种深度学习模型、海底底质解译方法、装置及介质 |
| CN116863343B (zh) * | 2023-09-04 | 2024-01-23 | 中国地质大学（武汉） | 一种深度学习模型、海底底质解译方法、装置及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107239803A (zh) | 利用深度学习神经网络的海底底质自动分类方法 | |
| CN110135267B (zh) | 一种大场景sar图像细微目标检测方法 | |
| CN108509978B (zh) | 基于cnn的多级特征融合的多类目标检测方法及模型 | |
| CN109086824B (zh) | 一种基于卷积神经网络的海底底质声呐图像分类方法 | |
| CN110232394B (zh) | 一种多尺度图像语义分割方法 | |
| US10275719B2 (en) | Hyper-parameter selection for deep convolutional networks | |
| CN103955702B (zh) | 基于深度rbf网络的sar图像地物分类方法 | |
| CN107563355A (zh) | 基于生成对抗网络的高光谱异常检测方法 | |
| CN109785344A (zh) | 基于特征重标定的双通路残差网络的遥感图像分割方法 | |
| CN104866810A (zh) | 一种深度卷积神经网络的人脸识别方法 | |
| CN110826458A (zh) | 一种基于深度学习的多光谱遥感图像变化检测方法及系统 | |
| CN113361485B (zh) | 基于光谱空间注意力融合和可变形卷积残差网络的高光谱图像分类方法 | |
| CN114119582B (zh) | 一种合成孔径雷达图像目标检测方法 | |
| CN112364931B (zh) | 一种基于元特征和权重调整的少样本目标检测方法及网络系统 | |
| CN111160217B (zh) | 一种行人重识别系统对抗样本生成方法及系统 | |
| CN111984817B (zh) | 一种基于自注意力机制加权的细粒度图像检索方法 | |
| CN109359661B (zh) | 一种基于卷积神经网络的Sentinel-1雷达图像分类方法 | |
| CN114207628A (zh) | 通过调整存储器内计算阵列的列阈值来执行xnor等效运算 | |
| CN104732244A (zh) | 基于小波变换、多策略pso和svm集成的遥感图像分类方法 | |
| CN112966747A (zh) | 一种基于无锚框检测网络改进的车辆检测方法 | |
| CN110991257A (zh) | 基于特征融合与svm的极化sar溢油检测方法 | |
| CN110119805A (zh) | 基于回声状态网络分类的卷积神经网络算法 | |
| CN115482518A (zh) | 一种面向交通场景的可扩展多任务视觉感知方法 | |
| CN113033792A (zh) | 神经网络运算装置及方法 | |
| CN116563682A (zh) | 一种基于深度霍夫网络的注意力方案和条带卷积语义线检测的方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171010 |