CN109754058A - 一种基于cgbp算法的深度基准面拟合方法 - Google Patents
一种基于cgbp算法的深度基准面拟合方法 Download PDFInfo
- Publication number
- CN109754058A CN109754058A CN201810433781.1A CN201810433781A CN109754058A CN 109754058 A CN109754058 A CN 109754058A CN 201810433781 A CN201810433781 A CN 201810433781A CN 109754058 A CN109754058 A CN 109754058A
- Authority
- CN
- China
- Prior art keywords
- network
- depth datum
- cgbp
- formula
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Complex Calculations (AREA)
Abstract
本发明公开了一种基于CGBP算法的深度基准面拟合方法，包括以下步骤：步骤A，确定网络结构，确定网络层数、节点数与传递函数；步骤B，采用基于Fletcher‑Reeves共轭梯度算法对网络进行训练；步骤C，对网络性能进行测试。本发明基于CGBP算法构建BP神经网络模型对深度基准面进行拟合，用于提高网络训练速度与拟合精度，相比于传统的深度基准面拟合方法，具有更好的拟合精度，且基于CGBP算法的BP网络所具有的泛化能力使该方法在海洋无缝深度基准面构建中，对不同海域的验潮站数据都具有较好的适用性。
Description
技术领域
本发明涉及海洋无缝垂直基准面构建，特别涉及一种基于CGBP算法的深度基准面拟合方法。
背景技术
深度基准面是相对于当地长期平均海平面垂线方向以下L的基准面，根据验潮站的验潮资料，采用模型算法或传递算法可计算得到各验潮站的深度基准面。此外，在一般情况下，验潮站的平面位置(x,y)也可获得，所以根据验潮站已知平面位置和深度基准面高，则可采用几何插值或拟合的方法来构建某一区域连续无缝深度基准面。由于验潮站的布设成离散、点状分布特征，从而导致深度基准面也为离散非连续，所以进行深度基准面的高精度拟合对海洋无缝垂直基准面的建立具有重要意义。神经网络算法一直是国内外研究的热点，BP神经网络具有更小的模型误差而被广泛应用。传统的BP网络算法存在自身的限制与不足，主要表现在训练过程的不确定上，例如训练时间过长、陷入局部极小值、学习过程常常发生震荡等。BP网络训练的实质是一个非线性函数目标的优化问题，基于数值优化的训练算法除了利用目标样本的一阶梯度信息，往往还利用目标样本的二阶梯度信息，处理一些问题时在收敛速度上都存在着一定问题。
发明内容
本发明的目的是克服现有技术中的不足，提供一种基于CGBP算法的深度基准面拟合方法，应用于海洋无缝垂直基准面的构建。本发明针对深度基准面的特点及应用需求，采用基于变梯度算法(CGBP)对BP网络进行训练，不仅能够提高收敛速度、减小计算的复杂度，从而提高深度基准面的拟合精度，还可以消除梯度幅度的不利影响。运用变梯度算法训练的神经网络具有很好的泛化能力，可以广泛应用于深度基准面的拟合。
本发明所采用的技术方案是：一种基于CGBP算法的深度基准面拟合方法，包括以下步骤：
步骤A，确定网络结构，确定网络层数、节点数与传递函数；
步骤B，采用基于Fletcher-Reeves共轭梯度算法对网络进行训练；
步骤C，对网络性能进行测试。
进一步的，步骤A具体包括：
步骤A1，提取验潮站的平面坐标(x,y)作为输入因子，深度基准面值为输出因子，为了实现基于神经网络的深度基准面拟合的数学模型表达为：
L＝f(x,y) (1)
神经网络结构模型的输入层取两个神经元，输出层取一个神经元，则神经网络结构模型为2×M×1，其中M的经验取值为：
式中M为隐层节点数；ni为输入节点数；n0为输出节点数；a为1～10之间的常数；
步骤A2，隐层激活函数采用双曲正切S型函数作为传递函数，传递函数的数学表达式为：
式中，net1为隐层神经元的输入加权和；
输出层采用线性传递函数，线性传递函数的数学表达式为：
S2(net2)＝net2 (4)
式中，net2为输出层的输入加权和。
进一步的，步骤B具体包括：
步骤B1，正向传播阶段：输入已知学习样本，通过步骤A设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元的输出；
步骤B2，反向传播阶段：对权值和阈值进行修改，从最后一层向前计算各权值和阈值对总误差的影响，据此对各权值和阈值进行修改；
步骤B1的正向传播过程和步骤B2的反向传播过程反复交替，直到收敛为止。
其中，步骤B1具体包括：
步骤B11：初始化网络，对每个连接的阈值和权值分别赋予区间(-1,1)的随机数；
步骤B12：输入学习样本：
Ti＝Li (6)
式中，P2i为各验潮站的平面坐标，xi为第i个验潮站的横轴坐标；yi为第i个验潮站的纵轴坐标；Ti为网络的期望输出；Li为各验潮站对应的深度基准面值。
其中，步骤B2具体包括：
采用基于Fletcher-Reeves共轭梯度算法的训练方法对网络进行训练，X(k)为第k次迭代时网络所有权值和阈值组成的向量；S(X(k))为由X(k)的各分量组成的向量空间中的搜索方向；η(k)为在S(X(k))方向上的搜索步长；
基于Fletcher-Reeves共轭梯度算法的计算过程如下：
基于Fletcher-Reeves共轭梯度算法第一次迭代的搜索方向确定为负梯度方向，即
式中，S(X(0))为第一次迭代中搜索方向的初始值；f(X(0))为第一次迭代中网络的总误差；
第一次迭代之后各次迭代的搜索方向由公式(8)确定：
式中，S(X(k-1))为第k-1次迭代的搜索方向；β(k)为调整参数，表示形式采用Fletcher-Reeves形式，如公式(9)所示：
式中，gk为第k次迭代时的梯度，表示为gk-1为第k-1次迭代时的梯度。
第k次迭代的网络输出总误差性能函数E(k)，采用均方误差MSE(Mean SquareError)进行计算，验证网络是否达到预设精度，若达到预设精度，则训练结束；若未达到预设精度，则继续网络训练，直到达到预设最大的训练次数时结束训练。
进一步的，步骤C具体包括：采用待构建海洋无缝垂直基准面区域的共n个验潮站深度基准面数据对基于CGBP算法的深度基准面拟合方法进行测试，其中选取n-1个验潮站深度基准面数据作为训练样本，对网络的阈值和权值进行学习和修正，1个验潮站的深度基准面数据作为测试样本对网络进行测试，以使网络实现验潮站平面坐标/深度基准面值的输入/输出映射关系。
本发明的有益效果是：本发明基于CGBP算法构建BP神经网络模型对深度基准面进行拟合，用于提高网络训练速度与拟合精度，相比于传统的深度基准面拟合方法，具有更好的拟合精度，且基于CGBP算法的BP网络所具有的泛化能力使该方法在海洋无缝深度基准面构建中，对不同海域的验潮站数据都具有较好的适用性。
附图说明
图1：本发明一种基于CGBP算法的深度基准面拟合方法流程图
图2：本实施例中基于CGBP算法的深度基准面拟合网络训练仿真效果图；
图3：本实施例中训练状态图；
图3a：本实施例中训练的梯度图；
图3b：本实施例训练过程中的验证图；
图3c：本实施例中网络学习速率图。
具体实施方式
为能进一步了解本发明的发明内容、特点及功效，兹例举以下实施例，并配合附图详细说明如下：
如附图1所示，一种基于CGBP算法的深度基准面拟合方法，采用变梯度算法(CGBP)对传统BP网络算法进行改进，从而获得更高的拟合精度与训练速度。误差反向传播多层前馈神经网络(BP)神经网络是目前处理非线性映射问题中应用较为广泛的一类神经网络。网络结构分为三部分，分别为输入层、隐含层和输出层。本方法采用单隐层BP神经网络，以验潮站平面坐标(x,y)为输入，对应的深度基准面值为输出，采用Fletcher-Reeves共轭梯度算法(CGBP)对神经网络进行训练。在确定了网络的结构及训练方法后，要通过输入和输出样本集对网络的阈值和权值进行学习和修正，以使网络实现给定的输入/输出映射关系。整体拟合方法具体包括以下步骤：
步骤A，确定网络结构，确定网络层数、节点数与传递函数。具体包括：
步骤A1，为了实现基于神经网络的深度基准面拟合，提取验潮站的平面坐标(x,y)作为输入因子，深度基准面值为输出因子，为了实现基于神经网络的深度基准面拟合的数学模型表达为：
L＝f(x,y) (1)
深度基准面值和验潮站平面坐标(x,y)有关，神经网络结构模型的输入层取两个神经元，输出层取一个神经元，则神经网络结构模型为2×M×1，其中M的经验取值为：
式中M为隐层节点数；ni为输入节点数；n0为输出节点数；a为1～10之间的常数；
步骤A2，隐层激活函数采用双曲正切S型函数作为传递函数，传递函数的数学表达式为：
式中，net1为隐层神经元的输入加权和；
输出层采用线性传递函数，线性传递函数的数学表达式为：
S2(net2)＝net2 (4)
式中，net2为输出层的输入加权和。
步骤B，采用基于Fletcher-Reeves共轭梯度算法对网络进行训练。具体包括：
步骤B1，输入已知学习样本，通过步骤A设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元的输出，该阶段为正向传播。
步骤B11：初始化网络，对每个连接的阈值和权值分别赋予区间(-1,1)的随机数；
步骤B12：输入学习样本：
Ti＝Li (6)
式中，P2i为各验潮站的平面坐标，xi为第i个验潮站的横轴坐标；yi为第i个验潮站的纵轴坐标；Ti为网络的期望输出；Li为各验潮站对应的深度基准面值。
步骤B2，对权值和阈值进行修改，从最后一层向前计算各权值和阈值对总误差的影响，据此对各权值和阈值进行修改，该阶段为反向传播。
采用基于Fletcher-Reeves共轭梯度算法的训练方法对网络进行训练，X(k)为第k次迭代时网络所有权值和阈值组成的向量；S(X(k))为由X(k)的各分量组成的向量空间中的搜索方向；η(k)为在S(X(k))方向上的搜索步长；
基于Fletcher-Reeves共轭梯度算法的计算过程如下：
基于Fletcher-Reeves共轭梯度算法第一次迭代的搜索方向确定为负梯度方向，即
式中，S(X(0))为第一次迭代中搜索方向的初始值；f(X(0))为第一次迭代中网络的总误差；
第一次迭代之后各次迭代的搜索方向由公式(8)确定：
式中，S(X(k-1))为第k-1次迭代的搜索方向；β(k)为调整参数，表示形式采用Fletcher-Reeves形式，如公式(9)所示：
式中，gk为第k次迭代时的梯度，表示为gk-1为第k-1次迭代时的梯度。
第k次迭代的网络输出总误差性能函数E(k)，采用均方误差MSE(Mean SquareError)进行计算，验证网络是否达到预设精度，若达到预设精度，则训练结束；若未达到预设精度，则继续网络训练，直到达到预设最大的训练次数时结束训练。
步骤B1的正向传播过程和步骤B2的反向传播过程反复交替，直到收敛为止。
步骤C，对网络性能进行测试：采用待构建海洋无缝垂直基准面区域的共n个验潮站深度基准面数据对基于CGBP算法的深度基准面拟合方法进行测试，其中选取n-1个验潮站深度基准面数据作为训练样本，1个验潮站的深度基准面数据作为测试样本对网络进行测试，对网络的阈值和权值进行学习和修正，以使网络实现验潮站平面坐标/深度基准面值的输入/输出映射关系。
本实施例中，采用某区域共9个验潮站深度基准面数据对本发明拟合方法进行测试，其中选取8个验潮站深度基准面数据作为训练样本，1个验潮站的深度基准面数据作为测试样本对网络进行测试，数据如下表所示：
表1测试数据
经多次网络训练及测试后输出的结果如下表所示：
表2测试结果
如附图2所示，本实施例中基于CGBP算法的深度基准面拟合网络训练仿真效果图，共进行了8次训练，在第3次训练时达到最好的验证结果，均方误差(mse)为0.01304。附图3为本实施例中训练状态图：图3a为本实施例中训练的梯度图，绘制了每次训练对应的梯度，在第8次训练时，梯度为0.006184；图3b为本实施例训练过程中的验证图，对网络的泛化能力进行检验，在第8次训练时达到了验证检查的最大次数6；图3c为本实施例中网络学习速率图，训练参数a表示训练的步长，在第8步时训练步长为0.26223。
经测试基于CGBP算法的深度基准面拟合方法能够达到很高的拟合精度，可以作为一种深度基准面的拟合方法，从而实现海洋无缝垂直基准面的更高精度的构建。
尽管上面结合附图对本发明的优选实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，并不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可以做出很多形式，这些均属于本发明的保护范围之内。
Claims (6)
1.一种基于CGBP算法的深度基准面拟合方法，其特征在于，包括以下步骤：
步骤A，确定网络结构，确定网络层数、节点数与传递函数；
步骤B，采用基于Fletcher-Reeves共轭梯度算法对网络进行训练；
步骤C，对网络性能进行测试。
2.根据权利要求1所述的一种基于CGBP算法的深度基准面拟合方法，其特征在于，步骤A具体包括：
步骤A1，提取验潮站的平面坐标(x,y)作为输入因子，深度基准面值为输出因子，为了实现基于神经网络的深度基准面拟合的数学模型表达为：
L＝f(x,y) (1)
神经网络结构模型的输入层取两个神经元，输出层取一个神经元，则神经网络结构模型为2×M×1，其中M的经验取值为：
式中M为隐层节点数；ni为输入节点数；n0为输出节点数；a为1～10之间的常数；
步骤A2，隐层激活函数采用双曲正切S型函数作为传递函数，传递函数的数学表达式为：
式中，net1为隐层神经元的输入加权和；
输出层采用线性传递函数，线性传递函数的数学表达式为：
S2(net2)＝net2 (4)
式中，net2为输出层的输入加权和。
3.根据权利要求1所述的一种基于CGBP算法的深度基准面拟合方法，其特征在于，步骤B具体包括：
步骤B1，正向传播阶段：输入已知学习样本，通过步骤A设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元的输出；
步骤B2，反向传播阶段：对权值和阈值进行修改，从最后一层向前计算各权值和阈值对总误差的影响，据此对各权值和阈值进行修改；
步骤B1的正向传播过程和步骤B2的反向传播过程反复交替，直到收敛为止。
4.根据权利要求3所述的一种基于CGBP算法的深度基准面拟合方法，其特征在于，步骤B1具体包括：
步骤B11：初始化网络，对每个连接的阈值和权值分别赋予区间(-1,1)的随机数；
步骤B12：输入学习样本：
Ti＝Li (6)
式中，P2i为各验潮站的平面坐标，xi为第i个验潮站的横轴坐标；yi为第i个验潮站的纵轴坐标；Ti为网络的期望输出；Li为各验潮站对应的深度基准面值。
5.根据权利要求3所述的一种基于CGBP算法的深度基准面拟合方法，其特征在于，步骤B2具体包括：
采用基于Fletcher-Reeves共轭梯度算法的训练方法对网络进行训练，X(k)为第k次迭代时网络所有权值和阈值组成的向量；S(X(k))为由X(k)的各分量组成的向量空间中的搜索方向；η(k)为在S(X(k))方向上的搜索步长；
基于Fletcher-Reeves共轭梯度算法的计算过程如下：
基于Fletcher-Reeves共轭梯度算法第一次迭代的搜索方向确定为负梯度方向，即
式中，S(X(0))为第一次迭代中搜索方向的初始值；f(X(0))为第一次迭代中网络的总误差；
第一次迭代之后各次迭代的搜索方向由公式(8)确定：
式中，S(X(k-1))为第k-1次迭代的搜索方向；β(k)为调整参数，表示形式采用Fletcher-Reeves形式，如公式(9)所示：
式中，gk为第k次迭代时的梯度，表示为gk-1为第k-1次迭代时的梯度；
第k次迭代的网络输出总误差性能函数E(k)，采用均方误差进行计算，验证网络是否达到预设精度，若达到预设精度，则训练结束；若未达到预设精度，则继续网络训练，直到达到预设最大的训练次数时结束训练。
6.根据权利要求1所述的一种基于CGBP算法的深度基准面拟合方法，其特征在于，步骤C具体包括：采用待构建海洋无缝垂直基准面区域的共n个验潮站深度基准面数据对基于CGBP算法的深度基准面拟合方法进行测试，其中选取n-1个验潮站深度基准面数据作为训练样本，对网络的阈值和权值进行学习和修正，1个验潮站的深度基准面数据作为测试样本对网络进行测试，以使网络实现验潮站平面坐标/深度基准面值的输入/输出映射关系。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810433781.1A CN109754058A (zh) | 2018-05-08 | 2018-05-08 | 一种基于cgbp算法的深度基准面拟合方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810433781.1A CN109754058A (zh) | 2018-05-08 | 2018-05-08 | 一种基于cgbp算法的深度基准面拟合方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109754058A true CN109754058A (zh) | 2019-05-14 |
Family
ID=66402377
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810433781.1A Pending CN109754058A (zh) | 2018-05-08 | 2018-05-08 | 一种基于cgbp算法的深度基准面拟合方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109754058A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111275250A (zh) * | 2020-01-15 | 2020-06-12 | 天津大学 | 一种基于各向异性的强流区海表面温度预报方法 |
| CN111368406A (zh) * | 2020-02-26 | 2020-07-03 | 天津大学 | 连续深度基准面构建方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101539781A (zh) * | 2009-04-22 | 2009-09-23 | 北京中冶设备研究设计总院有限公司 | 电镀锌锌层厚度bp神经网络控制方法及其在plc上的应用 |
| CN103763350A (zh) * | 2014-01-02 | 2014-04-30 | 北京邮电大学 | 基于误差反向传播神经网络的web服务选择方法 |
| CN103886373A (zh) * | 2014-04-18 | 2014-06-25 | 天津理工大学 | 基于bp神经网络的高速冷轧机第三倍频程颤振预测方法 |
| CN104700153A (zh) * | 2014-12-05 | 2015-06-10 | 江南大学 | 基于模拟退火优化BP神经网络的pH值预测方法 |
-
2018
- 2018-05-08 CN CN201810433781.1A patent/CN109754058A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101539781A (zh) * | 2009-04-22 | 2009-09-23 | 北京中冶设备研究设计总院有限公司 | 电镀锌锌层厚度bp神经网络控制方法及其在plc上的应用 |
| CN103763350A (zh) * | 2014-01-02 | 2014-04-30 | 北京邮电大学 | 基于误差反向传播神经网络的web服务选择方法 |
| CN103886373A (zh) * | 2014-04-18 | 2014-06-25 | 天津理工大学 | 基于bp神经网络的高速冷轧机第三倍频程颤振预测方法 |
| CN104700153A (zh) * | 2014-12-05 | 2015-06-10 | 江南大学 | 基于模拟退火优化BP神经网络的pH值预测方法 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111275250A (zh) * | 2020-01-15 | 2020-06-12 | 天津大学 | 一种基于各向异性的强流区海表面温度预报方法 |
| CN111275250B (zh) * | 2020-01-15 | 2022-05-17 | 天津大学 | 一种基于各向异性的强流区海表面温度预报方法 |
| CN111368406A (zh) * | 2020-02-26 | 2020-07-03 | 天津大学 | 连续深度基准面构建方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109117951B (zh) | 基于bp神经网络的概率潮流在线计算方法 | |
| WO2021120787A1 (zh) | 一种流域干支流大规模水库群模拟调度方法 | |
| CN103728535B (zh) | 一种基于小波变换暂态能量谱的特高压直流输电线路故障测距方法 | |
| CN113052334A (zh) | 一种联邦学习实现方法、系统、终端设备及可读存储介质 | |
| CN107316099A (zh) | 基于粒子群优化bp神经网络的弹药贮存可靠性预测方法 | |
| CN108665112A (zh) | 基于改进粒子群优化Elman网络的光伏故障检测方法 | |
| CN108920812A (zh) | 一种机械加工表面粗糙度预测方法 | |
| CN110443724B (zh) | 一种基于深度学习的电力系统快速状态估计方法 | |
| CN104636985A (zh) | 一种改进bp神经网络的输电线路无线电干扰预测方法 | |
| CN103544526A (zh) | 一种改进粒子群算法及其应用 | |
| CN105701568B (zh) | 一种启发式的配电网状态估计量测位置快速优化方法 | |
| Ueno et al. | Computerized adaptive testing based on decision tree | |
| CN109754058A (zh) | 一种基于cgbp算法的深度基准面拟合方法 | |
| CN110414718A (zh) | 一种深度学习下的配电网可靠性指标优化方法 | |
| CN108280207A (zh) | 一种构造完美哈希的方法 | |
| CN108594793A (zh) | 一种改进的rbf飞控系统故障诊断网络训练方法 | |
| CN108717506A (zh) | 一种预测焦炭热态强度的方法 | |
| CN113916329A (zh) | 基于神经网络的天然气流量计检定装置及检定方法 | |
| CN112149883A (zh) | 基于fwa-bp神经网络的光伏功率预测方法 | |
| CN106896724B (zh) | 用于太阳跟踪器的跟踪系统及跟踪方法 | |
| CN115983105A (zh) | 基于深度学习加权决策的Occam反演拉格朗日乘子优化方法 | |
| CN110137967B (zh) | 一种针对关键节点的大规模电力系统潮流收敛性调整方法 | |
| CN116755481A (zh) | 一种基于神经网络的pid振动主动控制与可靠性分析方法 | |
| CN107451660A (zh) | 模糊神经网络bp训练过程中的步长优化方法 | |
| CN103761567A (zh) | 一种基于贝叶斯估计的小波神经网络权值初始化方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190514 |