CN115512172B - 一种用于电阻抗成像技术中多维参数的不确定性量化方法 - Google Patents

一种用于电阻抗成像技术中多维参数的不确定性量化方法 Download PDF

Info

Publication number
CN115512172B
CN115512172B CN202211213824.8A CN202211213824A CN115512172B CN 115512172 B CN115512172 B CN 115512172B CN 202211213824 A CN202211213824 A CN 202211213824A CN 115512172 B CN115512172 B CN 115512172B
Authority
CN
China
Prior art keywords
network
uncertainty
parameters
value
function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211213824.8A
Other languages
English (en)
Other versions
CN115512172A (zh
Inventor
赵营鸽
李颖
王灵月
闫延鹏
靳瑞霞
吴贝贝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202211213824.8A priority Critical patent/CN115512172B/zh
Publication of CN115512172A publication Critical patent/CN115512172A/zh
Application granted granted Critical
Publication of CN115512172B publication Critical patent/CN115512172B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/771—Feature selection, e.g. selecting representative features from a multi-dimensional feature space
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供了一种用于解决电阻抗成像技术中多维参数的不确定性量化方法。该方法首先通过训练深度神经网络用于构建原不确定系统的替代模型，进而基于深度神经网络替代模型，结合单变元降维法对不确定性参数分析量化，最终得到不确定性输出的分布。并与基准方法对比，评估本发明方法的性能。结果表明，本发明方法计算精度高，能准确量化输出的不确定性；在随着参数的不确定性维度增加时，能够有效解决高维参数的不确定性量化问题，缓解了“维数灾难”，且不受变量间是否存在交互作用的限制，有效降低了计算成本。此外，该方法也可拓展应用于其它复杂领域的不确定性系统量化中。

Description

一种用于电阻抗成像技术中多维参数的不确定性量化方法
技术领域
本发明提供了一种用于解决电阻抗成像技术中多维参数的不确定性量化方法。该方法首先通过训练深度神经网络用于构建原不确定系统的替代模型，进而基于深度神经网络替代模型，结合单变元降维法对不确定性参数分析量化，最终得到不确定性输出的分布。并与基准方法对比，评估本发明方法的性能。结果表明，本发明方法计算精度高，能准确量化输出的不确定性；在随着参数的不确定性维度增加时，能够有效解决高维参数的不确定性量化问题，缓解了“维数灾难”，且不受变量间是否存在交互作用的限制，有效降低了计算成本。此外，该方法也可拓展应用于其它复杂领域的不确定性系统量化中。
背景技术
电阻抗成像（electrical impedance tomography，EIT）技术是电磁学的一个重要研究内容。根据被测组织电特性的差异，在组织表面施加安全激励电流，通过测量组织表面的电压信号，依照一定的图像重构算法得到目标组织内的阻抗图像分布，广泛应用于生物电磁、电力设备、地质勘探、地下水污染监测等工业领域。在设计过程中，电磁等一些涉及到安全或者复杂现象研究的需要进行数学建模仿真模拟的领域，由于参数的固有属性以及设计条件的变化，会给结果带来较大的误差。对模型中参数的不确定性进行量化，有助于减小由于系统不确定性带来的风险，对模型的设计优化具有重要意义。
EIT在生物电磁领域的应用体现在对人体生理功能和疾病诊断等方面具有重要研究价值。通常，EIT相关问题研究中假定生物组织器官的电导率为定值。然而实际情况是，生物组织结构复杂，存在一定的相互作用，且由于生物组织的电学特性，其电导率受到组织结构、离子浓度、温度和病理状态等因素的影响，这表明电导率的不确定性对正问题的影响显著的，研究电导率的不确定性对输出电压的影响对图像重构具有一定的研究意义。
目前在生物电磁领域的不确定性量化方法有混沌多项式展开法、蒙特卡洛模拟法、稀疏网格配点法等，其原理是通过预设每个参数的分布类型和范围，将原系统采样为数学模型，选择合适的不确定性量化方法计算不确定性在模型中的传播，对模型中的不确定参数进行量化表示和计算，进而掌握输出的不确定性分布特性，对提高EIT图像重构质量具有重要意义。该类方法的精度高，能够准确量化输出的不确定性，但随着建模问题的复杂性的增加，单元剖分数增多，模型的不确定性也在增加，在计算高维参数的不确定性量化时，现有方法受到了限制，面临着“维数灾难”，高维参数的不确定性量化求解仍是一个亟需解决的问题。
综上所述，在解决复杂系统的建模仿真实验中，设计一种能够高精度计算、有效降低计算成本、且不受变量间交互作用强弱影响的高维参数的不确定性量化方法十分必要，但目前尚未见到有公开的研究来解决此类问题。
发明内容
针对现有技术的不足，本发明的目的在于提供一种基于深度神经网络的单变元降维法。通过引入深度神经网络（deep neural networks，DNN）作为原系统的替代模型，结合单变元降维法计算输出结果的概率分布，并与基准方法作对比评估本发明方法的性能。
为了实现此发明目的，本发明采用以下技术方案：
一种用于电阻抗成像技术中多维参数的不确定性量化方法，该方法包括以下步骤：
步骤1：在电阻抗成像（electrical impedance tomography，EIT）中，对研究目标进行有限元建模，通过预设电导率参数的不确定性分布，设定其参数类型和分布范围，经过不确定性传播，生成大量数据。
步骤2：基于步骤1中生成的数据作为样本，构建深度神经网络（deep neuralnetwork, DNN）网络模型，用作EIT的替代模型。
步骤3：结合单变元降维法，将EIT中电导率参数的不确定性量化问题转化为加载DNN网络的结构信息并利用单变元降维法对网络输出进行量化表示和计算。
步骤4：在对EIT不确定系统中由电导率参数的不确定性导致输出电压的不确定性分布量化时，选择蒙特卡罗模拟（Monte Carlo simulation，MCS）法作为实验基准，分别使用两种方法计算输出的统计矩信息，从计算精度、效率和适用范围评估本发明方法的性能。
优选地，在步骤1中设置电导率参数服从随机正态、随机均匀分布、指数等任一分布类型，根据其分布类型对应单变元积分求解时插值节点和权值的分布范围。对步骤1中得到的大量数据作预处理，EIT中电导率参数作为网络输入，电压的输出分布对应网络输出，得到配对的样本集，分别用作DNN网络的训练集和测试集。
优选地，DNN是一个网络参数θ涉及到多层简单函数的高级复杂函数，其基本网络架构包括输入、输出和隐藏层，要配置网络结构，包括Loss函数的选择，网络结构的设置，梯度计算与优化。构建深度神经网络模型的过程为求解Loss最小化的过程。所述步骤2的具体实现过程包括：
优选地，选择实际值和预测值之间的均方误差作为求解网络的Loss值，如下式所示，已知包含N个样本的数据集，函数f未知，其计算过程为：
式中，ξ为输入数据集，θ为网络参数，d N 代表含N个样本的d维样本集，y i 为第i个样本对应的实际样本值，为训练网络模型的预测值。
优选地，在网络的Loss选定后，结合待分析不确定性系统的参数分布类型，设置网络结构，主要包括确定网络层数和结构大小；系统的不确定性参数维度d对应输入层神经元维度，不确定输出维度对应输出层的神经元维度，隐藏层神经元的数目与输入层维度成整数倍关系，如下所示：
式中，d j 为第j层隐藏层神经元个数，k为任意正整数。
优选地，采用Dropout正则化结构来增强网络的泛化能力，即在训练网络过程中，在神经元全连接传播的基础上，随机隐藏部分单元，用这个新的单元层向下传播。
优选地，在设定网络结构后，开始训练网络，实现对估计θ的求解，将其转换为求Loss最小化的梯度计算，如下所示：
式中，θ为网络模型的参数，θ * 为网络模型的估计值，代表网络的Loss函数。
优选地，选择自适应时刻估计（adaptive moment estimation，Adam）作为梯度优化算法，通过随机初始化网络模型参数，在迭代训练中自适应的更新样本，不断地计算梯度、更新参数，直到满足某个条件，Adam更新网络架构步骤如下所示：
式中，η为常数值，β 1，β 2为可调参数，G k 和V k 分别代表迭代次数为k时目标函数的梯度和梯度平方的指数平均估计，M 0和V 0值设为0，在训练过程中产生的偏差值在计算，中被归正，该方法在更新步长的过程中不受梯度大小选择的影响。
优选地，对网络的训练包含基于参数梯度的正向计算和反向传播，在DNN网络结构配置后，样本数据集中的X为网络输入，通过权值参数w和偏置参数b传递信息到每层的单元，最终通过激活函数a生成非线性加权和y，在此过程中不断更行网络参数，直至Loss值绝对小，满足收敛条件，并将最终结果传递到输出层，具体实现如下所示：
式中，a 0 是初始信息，表示网络层的输出，j=（1,...,l）为网络中的层数，z j 为第j层的输入，w为权重矩阵，c为偏置向量。
优选地，在正向计算完成后，沿梯度方向迭代更新参数，直至找到损失函数最小化的极值，此时w和c即为所求解网络参数，如下式所示：
式中，ε表示学习率，同时更新对应的权值矩阵w，偏置向量c，则中的w、c即为取得最优结果的相关参数，保存此时的DNN网络。
优选地，将预设生成的测试集代入步骤2.3中保存的DNN网络模型中，比较模型预测值与样本实际值，若DNN网络精度不能满足要求，重复步骤2.2，修改网络结构，加深网络深度，直至精度满足要求，保存DNN网络。
优选地，进而对DNN网络模型进行验证，利用EIT的有限元模型生成新的样本数据并将其代入测试后的网络模型中，比较模型输出值与样本实际值，若精度不符合要求，返回，重复训练DNN网络，直至训练所的模型结果精度满足要求，保存模型。
优选地，所述步骤3的具体实现流程为：
基于步骤2中构建的DNN替代模型，进一步对原不确定性系统的参数进行不确定性量化计算，不确定性量化指的是对由电导率参数导致系统输出电压的不确定性分布进行概率型分析，具体包括：
选定一组参考点作为单变元分解的参考点，将原系统多元函数近似分解为多个单变元函数求和的形式：
式中，d为变量维度，μ i 为第i维变量对应的参考点；X i 为唯一变量；为变量X i 函数值；/>为g(X)在/>处的函数值，根据统计知识，等号右端的d个求和项减去d-1个常数项等于等号左端项。
优选地，g(X)的r阶统计矩计算相当于一个求m个节点的高斯积分的过程，根据数值积分知识，选择高斯型插值作为求解函数积分的方法，确定插值积分节点个数，求单变元所对应1维函数的权值和节点值，其计算公式为：
式中，表示数学期望算子，节点/>，l i 和ω i 分别为第i个节点所对应的节点值和权值，可由查表得出；f X (x)表示已知随机变量X的概率密度函数。
优选地，不确定性量化目标是分析系统响应值的概率分布，因而计算其统计矩信息，r阶统计矩的具体求解如下：
式中，为第j维变量所对应的单变元函数值。
计算各单变元函数的均值和方差，结合统计学知识，可得到原系统多元函数的均值、方差、变量间相互作用等统计信息。
优选地，定量化评估方法的性能，所述步骤4的具体实现流程为：
为了量化分析方法的性能，采用均值、标准差等参数描述输出的不确定性信息，协方差来判别变量间是否存在相互作用，选择MCS作为实验基准，MCS原理简单，计算结果精度高，且不受研究对象类型和参数维度、尺寸的限制，是最常用的基于样本计算的方法。其具体实现如下：
优选地，将一个复杂的不确定性系统描述为一个多元函数：
式中，代表概率密度函数/>存在的d维随机输入变量。
优选地，预设变量X的分布类型和范围，产生N个样本（），依次将x i 代入不确定性函数中求解y i （/>）。
优选地，最后对N次输出值计算其相关统计信息，如均值、标准差、概率函数分布等。其中，选择协方差（covariance，COV）来判别变量间的相互作用，其表达式为：
式中，和/>分别为变量X和Y的平均值。
相对于现有技术，本发明的有益效果在于：
（1）本发明提供的基于DNN的单变元降维法，计算精度高，能够有效现有方法在计算EIT问题中多维参数的不确定性量化时的“维数灾难”困难，且随着参数维度的增加，本发明在计算效率方面优势更加明显，与基准相比，约提高103倍。
（2）本发明提供的方法在以往研究EIT中电导率参数的不确定性量化基础上，考虑多个存在相互作用的高维参数的不确定性量化，通过引入深度神经网络来代替原EIT系统建模，不受变量间相互作用的限制，适用于不确定性参数间存在较强相互作用的复杂系统中。
（3）本发明提供的基于DNN的单变元降维法，为高维参数的不确定性量化问题提供了解决方法，可应用于其它领域的不确定性量化研究中。
附图说明
图1是本发明的算法流程图。
图2是EIT不确定系统的有限元仿真模型图（不确定参数的维度为256）。
图3是深度神经网络的基本网络结构。
图4是深度神经网络的Dropout结构。
图5是实施例2（变量间存在交互作用）的输出的概率函数分布图；图6是本发明的结构示意图。
具体实施方式
下面通过一些具体实施方式结合附图来进一步说明本发明的技术方案。需要说明的是，本领域技术人员应该明了，示例实施方式能够以多种方式实施，所述实施例仅仅是为了帮助更好的理解本发明，不应视为对本发明的具体限制。
实施例1
本发明提供了一种用于电阻抗成像技术中多维参数的不确定性量化方法，基于深度神经网络的单变元降维方法，将其应用在EIT的高维参数不确定性量化技术中，如图1所示，下面结合本发明所述方法的步骤进行详细说明：
S1：EIT中不确定样本数据来源及处理。在EIT中，通过预设电导率参数的不确定性分布，设定其类型和分布范围，经过系统的不确定性传播，生成大量数据。并对数据预处理，系统中的不确定性参数作为网络输入，系统的不确定性输出对应网络输出，得到配对的样本集，分别用作DNN网络的训练集和测试集。
本实施例研究对象为头部的EIT有限元建模。考虑到本发明方法重在解决变量间存在相互作用的高维参数的不确定性量化问题，因而此处将EIT的目标对象归一化为二维圆模型。
EIT正问题是在已知目标电导率σ分布的情况下，根据给定的边界激励条件求目标体内及边界电位分布φ的情况。通常将其所在场域看成稳态电流场来处理，数学模型表示为：
式中，J n 为注入的电流密度；Ω为目标区域；Γ 1和Γ 2分别为第一和第二类边界条件；为边界电位。
如图2所示，为EIT的有限元模型，每个网格单元的电导率均不同，服从0.8S/m -1.2S/m的随机均匀分布，不确定性系统的参数维度等于网格单元数为256。实验生成N=105个数据样本，将电导率的分布作为网络输入，相应输出的电压分布对应网络输出。
不确定性系统的参数分布，设定电导率参数的类型和分布范围，经过EIT传播，生成大量数据。并对数据预处理，电导率参数作为网络输入，系统的电压输出对应网络输出，得到配对的样本集，分别用作DNN网络的训练集和测试集，训练集：测试集= 8 ：2。
S2：DNN网络模型的训练。利用S1中生成的训练集，构建DNN网络模型。
DNN是一个网络参数θ涉及到多层简单函数的高级复杂函数。图3为其基本架构，包括输入、输出和隐藏层。训练DNN网络，包括Loss函数的选择，网络结构的设置，梯度计算与优化。具体实现流程如下：
（1） Loss的选择
选择实际值和预测值之间的均方误差作为求解网络的Loss值，如下式所示，已知包含N个样本的数据集，函数f未知，具体如下：
式中，ξ为输入数据集，θ为网络参数，d N 代表含N个样本的d维样本集，y i 为第i个样本对应的实际样本值，为训练网络模型的预测值。在此处，ξ为电导率的分布，y i 为正问题的输出电压。
（2） 网络结构的设置
在网络的Loss选定后，结合待分析不确定性系统的参数分布类型，设置网络结构，主要包括确定网络层数和结构大小；系统的不确定性参数维度d对应输入层神经元维度，不确定输出维度对应输出层的神经元维度，隐藏层神经元的数目与输入层维度成整数倍关系，具体如下：
式中，d j 为第j层隐藏层神经元个数，k为任意正整数，此处d为256。
此外，采用Dropout正则化结构来增强网络的泛化能力，即在训练网络过程中，在神经元全连接传播的基础上，随机隐藏部分单元，用这个新的单元层向下传播，如图4所示。
（3） 梯度计算与优化
在设定网络结构后，开始训练网络，实现对估计θ的求解，将其转换为求Loss最小化的梯度计算，具体如下：
式中，θ为网络模型的参数，θ * 为网络模型的估计值，代表网络的Loss函数。
此外，选择自适应时刻估计（adaptive moment estimation，Adam）作为梯度优化算法，通过随机初始化网络模型参数，在迭代训练中自适应的更新样本，不断地计算梯度、更新参数，直到满足某个条件，Adam更新网络架构步骤具体如下：
式中，η为常数值，β 1，β 2为可调参数，G k 和V k 分别代表迭代次数为k时目标函数的梯度和梯度平方的指数平均估计，M 0和V 0值设为0，在训练过程中产生的偏差值在计算，中被归正。本实施例设置初始学习率为ε=1´10-5，β 1=0.900，β 2=0.999，衰减学习率为0.80，且在全连接的网络层基础上加入了每隔两层的连接桥作为残差结构，避免了由于深层网络可能引起的模型过拟合及网络退化现象。
（4） 网络的训练
在DNN网络结构配置后，样本数据集中的X为网络输入，通过权值参数w和偏置参数b传递信息到每层的单元，最终通过激活函数a生成非线性加权和y，在此过程中不断更行网络参数，直至Loss值绝对小，满足收敛条件，并将最终结果传递到输出层，具体如下：
式中，a 0 是初始信息，表示网络层的输出，j=（1,...,l）为网络中的层数，z j 为第j层的输入，w为权重矩阵，c为偏置向量。
正向计算完成后，沿梯度方向迭代更新参数，直至找到损失函数最小化的极值，此时w和c即为所求解网络参数，具体如下：
式中，ε表示学习率，同时更新对应的权值矩阵w，偏置向量c，则中的w、c即为取得最优结果的相关参数，保存此时的DNN网络。
S3：DNN网络模型的测试
利用S1中生成的测试集，对S2构建的DNN网络测试，寻找符合精度要求的DNN网络，用作EIT不确定性系统的替代模型。将S1生成的测试集代入S2保存的DNN网络模型中，比较模型预测值与样本实际值，若DNN网络精度不能满足要求，修改网络结构，加深网络深度，直至精度满足要求，保存DNN网络。重复S1生成新的样本数据并将其代入中保存的DNN模型中，比较模型输出值与样本实际值，若精度不符合要求，返回，重复S1，直至训练所的模型结果精度满足要求，保存模型。
S4：基于深度神经网络的单变元降维法的实现与性能评估。结合单变元降维法，将原EIT不确定性系统中参数的不确定性量化问题转化为加载DNN网络的结构信息并利用单变元降维法对网络输出进行量化表示和计算。在对原不确定性系统中由参数的不确定性导致输出的不确定性分布量化时，选择MCS法作为实验基准，分别使用两种方法计算输出的统计矩信息，从计算精度、效率和适用范围评估本发明方法的性能。
结合S3中构建的DNN替代模型，进一步对原EIT不确定性系统的参数进行不确定性量化计算，具体如下：
1) 单变元分解
选择电导率参数的均值点作为单变元分解的参考点，将原系统多元函数近似分解为多个单变元函数求和的形式：
式中，d为变量维度，μ i 为第i维变量对应的参考点；X i 为唯一变量；为变量X i 函数值；/>为g(X)在/>处的函数值，根据统计知识，等号右端的d个求和项减去d-1个常数项等于等号左端项；
2) 单变元积分求解
g(X)的r阶统计矩计算相当于一个求m个节点的高斯积分的过程，根据数值积分知识，选择高斯型插值作为求解函数积分的方法，确定插值积分节点个数，求单变元所对应1维函数的权值和节点值，其计算公式为：
式中，表示数学期望算子，节点/>，l i 和ω i 分别为第i个节点所对应的节点值和权值，可由查表得出；f X (x)表示已知随机变量X的概率密度函数；
3) r阶统计矩的计算
不确定性量化目标是分析系统响应值的概率分布，因而计算其统计矩信息，具体如下：
式中，/>为第j维变量所对应的单变元函数值；通过计算各单变元函数的均值和方差，结合统计学知识，可得到原系统多元函数的均值、方差、变量间相互作用等统计信息；
4) 性能评估
为了量化分析方法的性能，选择MCS作为实验基准，采用均值（μ）、标准差等参数描述输出的不确定性信息，协方差来判别变量间是否存在相互作用，如表1所示，本发明和基准法对EIT问题中不确定参数维度为256的量化表。
表1边界电极电压的均值和协方差
由表1可知，两种方法的统计矩信息计算所得结果一致，且变量间相互作用较小。当计算EIT中多维参数的不确定性量化时，本发明是有效的，很好地缓解了“维数灾难”困难。从运行时间角度来评估方法的计算效率，如表2所示，为两种方法的运行时间对比。
表2 两种方法的运行时间
由表2可知，当计算复杂系统的不确定性量化时，本发明是有效的，很好的缓解了“维数灾难”困难，在相同计算精度条件下，本发明所提出基于深度神经网络的单变元降维法（DNN-DRM）的计算成本远远小于蒙特卡洛模拟法（MCS），时间节省了103左右，计算效率更高。
实施例2
本实施例提供一种用于电阻抗成像技术中多维参数的不确定性量化方法，将其应用在一个变量间存在较强交互作用，且变量服从均值为0，标准差为0.1的正态分布类型的随机代数方程中，函数表达式为，具体实施步骤如下：
1）以蒙特卡洛模拟法（MCS）计算结果作为基准，采用本发明方法求解不确定函数Y的均值（μ）和标准差（STD），来判断变量的分布对函数输出值的影响，为了量化本发明方法计算的精度，采用r阶统计矩的相对误差来描述，表示为：
式中，和/>分别表示利用本发明和MCS计算出来的Y的r阶统计矩；
2）对于本实施例，多元不确定性函数的输出等于各单变元函数的和，此处变量的维度d=10。按照图2所示步骤进一步展开计算，输入变量均服从正态分布，选取高斯插值积分来计算1维高斯节点的权值和节点值，可通过查表法实现；由于函数的特殊性，使用相同的字符来表示各维随机变量对应的值；
3）将上一步所得1维变量的权值和节点进行组合，得到d维变量对应的节点和权值，并计算各维单变元函数的均值和标准差为：
4）基于上一步得到的μ i 值和STD i 值，计算多元不确定函数的μ值和STD值：
式中，Y 0表示变量参数在参考点处时不确定函数的值，即在均值点处函数的解。
如图5所示，为模型中参数变量间存在交互作用的输出的概率函数分布图，经本发明方法和基准方法计算所输出不确定性函数的概率分布函数拟合，这说明本发明方法取得了精确的不确定性量化结果。表3给出了本发明和基准方法计算不确定输出的相关统计矩信息比较。
由下表可看出，变量间的COV值在0.418左右，存在较强的相互作用，但本发明方法最终所得均值和标准差结果与基准方法所得结果基本一致，其μ值、STD误差分别为0.2543%、0.198 4%，这表明本发明方法在计算变量间存在交互作用的不确定性量化问题是有效的，且在得到相同精度的计算结果时，由积分计算次数可得出，本发明方法的计算效率远远高于基准方法。
表3两种方法的统计矩
综上所述，本发明方法在计算EIT中的参数的不确定性量化问题时是有效的，适用于变量间存在交互作用的高维不确定性量化问题中，达到了和基准方法同样高精度的计算结果，且随着模型复杂度的提升，本发明方法在计算效率方面的优势变得明显，能够有效缓解目前方法在计算复杂仿真建模时的“维数灾难”，这对提高逆问题图像重建质量具有重要的意义，且有望应用于其他领域的不确定性量化研究中。
本发明未详细阐述的部分为本领域公知技术。
以上所述的实施例为本发明的具体实现方式，但本发明的保护范围并不只限于此，凡在本发明所提出方法的基本思路以内且并未做任何实质性的修改的，都应该涵盖在本发明的保护范围之内。

Claims (2)

1.一种用于电阻抗成像技术中多维参数的不确定性量化方法，其特征在于，该方法包括以下步骤：
步骤1：在电阻抗成像EIT中，对研究目标进行有限元建模，通过预设电导率参数的不确定性分布，设定其参数类型和分布范围，经过系统不确定性传播，生成大量数据；
步骤2：基于步骤1中生成的数据作为样本，构建深度神经网络DNN网络模型，用作EIT的替代模型；
步骤3：结合单变元降维法，将EIT中电导率参数的不确定性量化问题转化为加载DNN网络的结构信息并利用单变元降维法对网络输出进行量化表示和计算；
步骤4：在对EIT不确定系统中由电导率参数的不确定性导致输出电压的不确定性分布量化时，选择蒙特卡罗模拟MCS法作为实验基准，分别使用两种方法计算输出的统计矩信息，从计算精度、效率和适用范围评估方法的性能；
所述步骤2具体如下：
DNN是一个网络参数θ涉及到多层简单函数的高级复杂函数，构建深度神经网络模型的过程为求解Loss最小化的过程，具体如下：
步骤2.1样本数据集的预处理
对步骤1中得到的大量数据作预处理，将EIT中的不确定性参数作为网络输入，不确定性输出对应网络输出，得到配对的样本集，并对数据集切分，分别用作DNN网络的训练集和测试集；
步骤2.2配置网络架构
神经网络的基本网络架构包括输入、输出和隐藏层，要配置网络结构，包括Loss函数的选择，网络结构的设置，梯度计算与优化；
(1)Loss的选择
选择实际值和预测值之间的均方误差作为求解网络的Loss值，如下式所示，已知包含N个样本的数据集，函数f未知，求解Loss具体如下：
式中，ξ为输入数据集，θ为网络参数，dN代表含N个样本的d维样本集，yi为第i个样本对应的实际样本值，为训练网络模型的预测值；
(2)网络结构的设置
在网络的Loss选定后，结合待分析的不确定性系统的参数分布类型，设置网络结构，主要包括确定网络层数和结构大小；系统的不确定性参数维度d对应输入层神经元维度，不确定输出维度对应输出层的神经元维度，隐藏层神经元的数目与输入层维度成整数倍关系，具体如下：
dj＝[k×d]
式中，dj为第j层隐藏层神经元个数，k为任意正整数；
此外，采用Dropout正则化结构来增强网络的泛化能力，即在训练网络过程中，在神经元全连接传播的基础上，随机隐藏部分单元，用这个新的单元层向下传播；
(3)梯度计算与优化
在设定网络结构后，开始训练网络，实现对估计θ的求解，将其转换为求Loss最小化的梯度计算，具体如下：
式中，θ为网络模型的参数，θ*为网络模型的估计值，L(θ；f)代表网络的Loss函数；
此外，选择自适应时刻估计Adam作为梯度优化算法，通过随机初始化网络模型参数，在迭代训练中自适应的更新样本，不断地计算梯度、更新参数，直到满足某个条件，Adam更新网络架构步骤具体如下：
Mk←β1Mk-1+(1-β1)Gk
式中，η为常数值，β1，β2为可调参数，Gk和Vk分别代表迭代次数为k时目标函数的梯度和梯度平方的指数平均估计，M0和V0值设为0，在训练过程中产生的偏差值在计算 中被归正；
步骤2.3网络的训练
在DNN网络结构配置后，样本数据集中的电导率参数分布X为网络输入，通过权值参数w和偏置参数c传递信息到每层的单元，最终通过激活函数a生成非线性加权和y，在此过程中不断更行网络参数，直至Loss值绝对小，满足收敛条件，并将最终结果传递到输出层，具体如下：
式中，a0是初始信息，表示网络层的输出，j＝(1,...,l)为网络中的层数，zj为第j层的输入，w为权重矩阵，c为偏置向量；
正向计算完成后，沿梯度方向迭代更新参数，直至找到损失函数L(θ；f)最小化的极值，此时w和c即为所求解网络参数，具体如下：
式中，ε表示学习率，同时更新对应的权值矩阵w，偏置向量c，则minL(θ；f)中的w、c即为取得最优结果的相关参数，保存此时的DNN网络；
步骤2.4网络的测试和验证
1)将2.1中生成的测试集代入步骤2.3中保存的DNN网络模型中，比较模型预测值与样本实际值，若DNN网络精度不能满足要求，重复步骤2.2，修改网络结构，加深网络深度，直至精度满足要求，保存DNN网络；
2)进而对DNN网络模型进行验证，重复步骤1生成新的样本数据并将其代入1)中保存的模型中，同1)，比较模型输出值与样本实际值，若精度不符合要求，返回，重复步骤2.1-2.3，直至训练所的模型结果精度满足要求，保存模型；
所述步骤3具体如下：
结合步骤2中构建的DNN替代模型，进一步对原EIT的参数进行不确定性量化计算，具体如下：
步骤3.1单变元分解
找一组参考点作为单变元分解的参考点，将原系统多元函数近似分解为多个单变元函数求和的形式：
式中，d为变量维度，μi为第i维变量对应的参考点；Xi为唯一变量；g(μ1，…，μi-1，Xi，μi+1，…，μd)为变量Xi函数值；g(μ1，…，μd)为g(X)在μX处的函数值，根据统计知识，等号右端的d个求和项减去d-1个常数项等于等号左端项；
步骤3.2单变元积分求解
g(X)的r阶统计矩计算相当于一个求m个节点的高斯积分的过程，根据数值积分知识，选择高斯型插值作为求解函数积分的方法，确定插值积分节点个数，求单变元所对应1维函数的权值和节点值，其计算公式为：
式中，E(·)表示数学期望算子，节点{x1，x2，...，xm}∈[a，b]，li和ωi分别为第i个节点所对应的节点值和权值，可由查表得出；fX(x)表示已知随机变量X的概率密度函数；
步骤3.3r阶统计矩的计算
不确定性量化目标是分析系统响应值的概率分布，即计算其统计矩信息，具体如下：
式中，g(μ1，...，μj-1，lji，…，μj+1，μd)为第j维变量所对应的单变元函数值；通过计算各单变元函数的均值和方差，结合统计学知识，可得到原系统多元函数的均值、方差、变量间相互作用统计信息。
2.根据权利要求1所述的方法，其特征在于，所述步骤4具体如下：
为了量化分析的性能，选择MCS作为实验基准，采用均值、标准差参数描述输出的不确定性信息，协方差来判别变量间是否存在相互作用，具体如下：
步骤4.1将一个复杂的不确定性系统描述为一个多元函数：
Y＝g(X)
式中，X＝[X1，X2，…，Xd]代表概率密度函数fX(x)存在的d维随机输入变量；
步骤4.2预设变量X的分布类型和范围，产生N个样本xi＝[xi1，xi2，…，xid](i＝1，…，N)，依次将xi代入不确定性函数中求解yi(i＝1，…，N)；
步骤4.3最后对N次输出值计算其相关统计信息，如均值、标准差、概率函数分布，其中，
选择协方差COV来判别变量间的相互作用，具体如下：
式中，和/>分别为变量X和Y的平均值。
CN202211213824.8A 2022-09-30 2022-09-30 一种用于电阻抗成像技术中多维参数的不确定性量化方法 Active CN115512172B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211213824.8A CN115512172B (zh) 2022-09-30 2022-09-30 一种用于电阻抗成像技术中多维参数的不确定性量化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211213824.8A CN115512172B (zh) 2022-09-30 2022-09-30 一种用于电阻抗成像技术中多维参数的不确定性量化方法

Publications (2)

Publication Number Publication Date
CN115512172A CN115512172A (zh) 2022-12-23
CN115512172B true CN115512172B (zh) 2023-09-15

Family

ID=84507871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211213824.8A Active CN115512172B (zh) 2022-09-30 2022-09-30 一种用于电阻抗成像技术中多维参数的不确定性量化方法

Country Status (1)

Country Link
CN (1) CN115512172B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859285A (zh) * 2019-01-25 2019-06-07 天津大学 基于空洞卷积网络的电阻抗图像重建方法
CN110097755A (zh) * 2019-04-29 2019-08-06 东北大学 基于深度神经网络的高速公路交通流量状态识别方法
KR20190129422A (ko) * 2018-05-11 2019-11-20 서울대학교산학협력단 뉴럴 네트워크를 이용한 변분 추론 방법 및 장치
WO2021007812A1 (zh) * 2019-07-17 2021-01-21 深圳大学 一种深度神经网络超参数优化方法、电子设备及存储介质
CN113362407A (zh) * 2021-05-10 2021-09-07 浙江工业大学 一种基于复值卷积的gan增强磁感应成像方法及系统
WO2022077866A1 (zh) * 2020-10-15 2022-04-21 北京航空航天大学 一种基于深度学习的电阻抗成像方法
CN114494477A (zh) * 2022-01-28 2022-05-13 天津大学 基于先验降维卡尔曼滤波的电学成像动态图像重建方法
CN114663544A (zh) * 2022-05-26 2022-06-24 中国科学技术大学 一种基于深度图像先验的电阻抗图像重建方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005019779A1 (es) * 2003-08-22 2005-03-03 Instituto Mexicano Del Petróleo Método de visualización de flujos multifásicos usando tomografía de capacitancia eléctrica

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190129422A (ko) * 2018-05-11 2019-11-20 서울대학교산학협력단 뉴럴 네트워크를 이용한 변분 추론 방법 및 장치
CN109859285A (zh) * 2019-01-25 2019-06-07 天津大学 基于空洞卷积网络的电阻抗图像重建方法
CN110097755A (zh) * 2019-04-29 2019-08-06 东北大学 基于深度神经网络的高速公路交通流量状态识别方法
WO2021007812A1 (zh) * 2019-07-17 2021-01-21 深圳大学 一种深度神经网络超参数优化方法、电子设备及存储介质
WO2022077866A1 (zh) * 2020-10-15 2022-04-21 北京航空航天大学 一种基于深度学习的电阻抗成像方法
CN113362407A (zh) * 2021-05-10 2021-09-07 浙江工业大学 一种基于复值卷积的gan增强磁感应成像方法及系统
CN114494477A (zh) * 2022-01-28 2022-05-13 天津大学 基于先验降维卡尔曼滤波的电学成像动态图像重建方法
CN114663544A (zh) * 2022-05-26 2022-06-24 中国科学技术大学 一种基于深度图像先验的电阻抗图像重建方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于均值点展开的单变元降维法在EIT不确定性量化研究中的应用;赵营鸽 等;电工技术学报;第36卷(第18期);3776-3786 *
改进的稀疏网格配点罚对EIT电导率分布的不确定性量化;李颖 等;浙江大学学报;第56卷(第3期);613-621 *

Also Published As

Publication number Publication date
CN115512172A (zh) 2022-12-23

Similar Documents

Publication Publication Date Title
Yan et al. An adaptive surrogate modeling based on deep neural networks for large-scale Bayesian inverse problems
Cockayne et al. A Bayesian conjugate gradient method (with discussion)
Gribben et al. Exact quantum dynamics in structured environments
Liao et al. An adaptive reduced basis ANOVA method for high-dimensional Bayesian inverse problems
Tanyu et al. Deep learning methods for partial differential equations and related parameter identification problems
Jiang et al. Multiscale model reduction method for Bayesian inverse problems of subsurface flow
O’Leary-Roseberry et al. Learning high-dimensional parametric maps via reduced basis adaptive residual networks
Ba et al. A two-stage ensemble Kalman filter based on multiscale model reduction for inverse problems in time fractional diffusion-wave equations
Chandramoorthy et al. A computable realization of Ruelle's formula for linear response of statistics in chaotic systems
Bahmani et al. Manifold embedding data-driven mechanics
Jiang et al. Identifying the wavenumber for the inverse Helmholtz problem using an enriched finite element formulation
Smyl et al. An efficient quasi-Newton method for nonlinear inverse problems via learned singular values
Shi et al. Finite difference neural networks: Fast prediction of partial differential equations
Zhang et al. On stability and regularization for data-driven solution of parabolic inverse source problems
Ruggeri et al. A hierarchical Bayesian setting for an inverse problem in linear parabolic PDEs with noisy boundary conditions
CN115512172B (zh) 一种用于电阻抗成像技术中多维参数的不确定性量化方法
Ceccarelli Bayesian physics-informed neural networks for inverse uncertainty quantification problems in cardiac electrophysiology
Bayer et al. An efficient forward–reverse expectation-maximization algorithm for statistical inference in stochastic reaction networks
Silva et al. Generative network-based reduced-order model for prediction, data assimilation and uncertainty quantification
Shoaib et al. Prediction of time series empowered with a novel srekrls algorithm
Yan et al. Identifying a fractional order and a time-dependent coefficient in a time-fractional diffusion wave equation
Sentz et al. Reduced basis approximations of parameterized dynamical partial differential equations via neural networks
Hu et al. An uncertainty analysis on finite difference time-domain computations with artificial neural networks: improving accuracy while maintaining low computational costs
Xu et al. Domain-decomposed Bayesian inversion based on local Karhunen-Loève expansions
Holmsen et al. Pseudo-Hamiltonian system identification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant