CN113743597B - 一种基于无训练深度神经网络的nmr弛豫时间反演方法 - Google Patents
一种基于无训练深度神经网络的nmr弛豫时间反演方法 Download PDFInfo
- Publication number
- CN113743597B CN113743597B CN202111292131.8A CN202111292131A CN113743597B CN 113743597 B CN113743597 B CN 113743597B CN 202111292131 A CN202111292131 A CN 202111292131A CN 113743597 B CN113743597 B CN 113743597B
- Authority
- CN
- China
- Prior art keywords
- neural network
- nmr
- deep neural
- relaxation time
- nmr relaxation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
本发明公开了一种基于无训练深度神经网络的NMR弛豫时间反演方法,建立无训练深度神经网络模型,建立的无训练深度神经网络模型的损失函数;输入NMR弛豫信号;无训练深度神经网络模型根据输入的NMR弛豫信号更新神经网络权重,最小化损失函数,从而得到最优的NMR弛豫信号与NMR弛豫时间谱之间的映射关系,输出最优的NMR弛豫时间谱。本发明无需先验信息,正则化参数自学习;无需预训练,不赖大量的数据集;对待测数据中的噪声具有高阻抗。
Description
技术领域
本发明属于核磁共振技术领域,具体涉及一种基于无训练深度神经网络的NMR弛豫时间反演方法。
背景技术
在核磁共振(NMR)研究领域,所研究样品的NMR弛豫时间是与物质分子的结构和动态过程以及所处的环境密切相关, 是表征物质特性以及所处的环境相互关系的特征参数。研究中最常用的NMR弛豫时间有两种:纵向(自旋-晶格)弛豫时间T1和横向(自旋-自旋) 弛豫时间T2。对于简单体系的NMR样品(如纯水)弛豫过程是单指数的时变函数形式,样品的弛豫时间(T1和T2)是易于分析的单组份。而如果所研究的样品含有多种物质成分或者是样品内部的局部微环境不均匀的复杂体系,样品的NMR弛豫过程不再是简单的单指数时变函数形式,而是比较复杂的多指数时变函数形式,样品NMR弛豫时间隐含有多种组分信息,复杂体系的数据分析要复杂和困难得多,必须通过合适的特定的NMR弛豫时间反演方法进行演算分析才能获得各种组分的弛豫时间(又称为:NMR弛豫时间谱,T1谱,T2谱),并由此分析和了解所研究样品的各组分对应的物质特性和动力学信息。
目前,NMR弛豫时间谱相关技术已被广泛地用于石油、化工、食品、农业、医药、材料等诸多领域。例如,在石油测井中,通过弛豫时间谱来进一步评价底层孔隙度、渗透率、流体类型、流体饱和度、孔径分布、地层润湿性以及原油粘度等储层参数;在食品工业中,可以用于确定食品和乳液中的固体脂肪含量和液滴大小分布,并用于液体分型和定量等;在材料领域,可以用于材料的老化研究、湿润和干燥性研究、多孔介质的研究等。
目前,NMR弛豫时间谱的求解,常用基于拉普拉斯逆变换的方法对采集样品的NMR自旋弛豫信号进行反演以获得。拉普拉斯反演是不适定的逆问题,是病态的,即解不唯一,对于具有有限噪声的给定数据集,许多解将数据拟合到噪声统计中。由于NMR技术存在检测灵敏度低的缺点,导致许多样品的NMR数据的信噪比(SNR)不高,尤其是NMR弛豫时间谱常用的低场核磁共振领域,所以通过拉普拉斯反演获得的NMR弛豫时间谱不确定性很大。
为改善这种问题,目前传统的方法是在反演方法的目标函数中增加正则化约束项,以用于压制噪声造成的解振荡,并约束解的幅度和形态。常用的例如,Tikonov正则化和最大熵等方法。但是这些传统的反演方法一方面:普遍存在需要先验信息,且正则化因子是需要动态调节的,不匹配的正则化参数容易造成弛豫谱的峰宽化或使权重发生明显的变化;另一方面,对于噪声大的数据,其结果的不确定性更加的明显。
目前,还有经过训练的神经网络来解决这类不适定的逆问题,有训练的神经网络模型比依赖于人工先验信息的传统方法有优势。但是经过训练的深度神经网络在预测未经过训练的数据的结果方面的性能的一个基本问题是泛化误差。当测试数据偏离训练数据时,该类方法预测出的结果性能会较差。
针对上述传统反演算法和有训练的神经网络中存在的问题,本发明提出了一种基于无训练深度神经网络(No-training of deepneural network,NTD)。把深度神经网络作为待优化函数,进行梯度优化,不是基于大量的数据学习。即随机初始化网络权重,使用单个测试数据对参数进行迭代优化,通过最小化无监督保真度损失来更新网络权重参数。无需预训练网络,不依赖大量的数据集。
与传统的反演方法相比,过程全自动,无需先验信息,正则化参数自学习;由于我们的参数化对测试数据中的噪声具有高阻抗,因此可以自然地滤除待测数据中的噪声。
与有训练的神经网络相比,无需收集大量的数据集来对网络进行训练,无论什么类型的测试数据,本发明都有较好的适应性。
发明内容
本发明的目的在于针对现有技术上存在的缺陷,提供一种基于无训练深度神经网络的NMR弛豫时间反演方法。
为了实现上述的目的,本发明采用以下技术措施:
一种基于无训练深度神经网络的NMR弛豫时间反演方法,包括以下步骤:
步骤1、建立无训练深度神经网络模型,建立的无训练深度神经网络模型的损失函数:
其中, ,为无训练深度神经网络模型输入的NMR弛豫信号与无训练深度神经网络模型输出的NMR弛豫时间谱之间的映射关系,为输入的NMR弛豫信号,为反演核矩阵,为神经网络权重,为NMR弛豫多信号的标准差,和均为正则化参数,为1-范数;为2-范数的平方;
步骤2、输入NMR弛豫信号;
步骤3、无训练深度神经网络模型根据输入的NMR弛豫信号更新神经网络权重,最小化损失函数,从而得到最优的NMR弛豫信号与NMR弛豫时间谱之间的映射关系,输出最优的NMR弛豫时间谱。
如上所述的无训练深度神经网络模型包括第一子网络和第二子网络,第一子网络包括一个输入层,四个隐藏层和一个输出层;第二子网络包括一个输入层,二个隐藏层和一个输出层;第一子网络和第二子网络的隐藏层的激活函数均为线性整流函数,第一子网络输出层的激活函数为softmax;第二子网络的输出层的激活函数为softplus。
本发明相比于现有技术具有以下有益效果:
1、本发明过程全自动,无需先验信息,正则化参数自学习。
2、本发明无需预训练,不赖大量的数据集。
3、本发明对待测数据中的噪声具有高阻抗。
附图说明
图1为无训练深度神经网络模型的结构示意图;
图2A显示的是信噪比为80的情况下输入无训练深度神经网络模型的NMR横向弛豫衰减信号,
图2B显示的是信噪比为80的情况下预测NMR横向弛豫衰减信号(实线)和期望的NMR横向弛豫衰减信号(虚线)的对比图;
图3A显示的是信噪比为10的情况下输入无训练深度神经网络模型的NMR横向弛豫衰减信号,
图3B显示的是信噪比为10的情况下预测NMR横向弛豫衰减信号(实线)和期望的NMR横向弛豫衰减信号(虚线)的对比图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合实施例对本发明作进一步的详细描述,应当理解,此处所描述的实施示例仅用于说明和解释本发明,并不用于限定本发明。
弛豫时间包括横向弛豫时间和纵向弛豫时间,本实施例是以横向弛豫时间为例进行说明,纵向弛豫时间与横向弛豫时间的区别仅在弛豫信号的公式上。横向弛豫信号是衰减信号(随时间减小),而纵向弛豫信号是恢复信号(随时间增大)。纵向弛豫时间T 1谱和横向弛豫时间T 2谱的反演求解算法在数学原理上是一致的,所以一般在探讨研究多指数反演算法时常以T 2为例。
本实施例中,NMR弛豫信号为NMR横向弛豫多指数衰减信号,数学模型如公式(1)所示:
其中,是回波采样时间,是NMR弛豫时间,是NMR弛豫信号强度,本实施例中,NMR弛豫信号强度为NMR横向弛豫多指数衰减信号强度,是NMR弛豫时间的分布,即对应NMR弛豫时间谱F,本实施例中NMR弛豫时间的分布为NMR横向弛豫时间的分布,NMR弛豫时间谱F为横向弛豫时间谱,为噪声。
对上述问题的求解,首先,将公式(1)离散化:
K为反演核矩阵,为NMR弛豫信号,F为连续的NMR弛豫时间谱,为预定义的NMR弛豫时间的个数,j为预定义的NMR弛豫时间的序号,为第j个预定义的NMR弛豫时间,为回波信号的总个数,为回波信号的序号,为第j个预定义NMR弛豫时间所对应的幅值,为第个回波的采样时间。为第个回波信号强度,是多个单指数回波信号强度的叠加,本实施例中,单指数回波信号强度为单指数衰减回波信号强度。
无训练深度神经网络模型(NTD)可表示为以下公式:
一种基于无训练深度神经网络的NMR弛豫时间反演方法,包括以下步骤:
步骤1、建立无训练深度神经网络模型
本实施例建立的无训练深度神经网络模型(NTD)由两个子网络组成,分别为第一子网络和第二子网络。如图1所示,第一子网络包括一个输入层,四个隐藏层和一个输出层;第二子网络包括一个输入层,二个隐藏层和一个输出层。第一子网络和第二子网络共用同一个输入层,输入层神经元个数为2048。第一子网络每个隐藏层均有2048个神经元,输出层的神经元为128。第二子网络每个隐藏层均有2048个神经元,输出层的神经元个数为2。第一子网络和第二子网络的隐藏层的激活函数均为线性整流函数(Rectified Linear Unit,ReLU)。第一子网络输出层的激活函数为softmax;第二子网络的输出层的激活函数为softplus。第一子网络是用于优化结果输出参数;第二子网络是用于优化正则化参数。
本实施例建立的无训练深度神经网络模型的损失函数为:
其中,,为无训练深度神经网络模型输入的NMR弛豫信号与无训练深度神经网络模型输出的NMR弛豫时间谱之间的映射关系,本实施例中,NMR弛豫信号为NMR横向弛豫多指数衰减信号,NMR弛豫时间谱为NMR横向弛豫时间谱,为输入的NMR弛豫信号,为公式1中描述的反演核矩阵,为神经网络权重,为NMR弛豫信号的标准差,范围在(0,1)区间内。和均为正则化参数,为第二子网络的输出结果。为1-范数;为2-范数的平方。
步骤2、输入NMR弛豫信号,NMR弛豫信号的回波个数为2048。
步骤3、无训练深度神经网络模型学习,得到最优解。
无训练深度神经网络模型学习过程即根据输入的NMR弛豫信号更新神经网络权重,最小化损失函数,从而得到最优的NMR弛豫信号与NMR弛豫时间谱之间的映射关系,输出最优的NMR弛豫时间谱。
整个无训练深度神经网络模型学习过程是一个迭代学习过程,具体可分为前向传播和反向传播两个阶段。前向传播是指神经网络的每一层经过神经网络权重乘以输入求和再加上偏置矢量,再通过激活函数得到输出,求得输出损失值的过程。反向传播是神经网络通过输出损失值计算每一层的神经网络权重对最终输出的影响(用偏导数衡量),再经过梯度下降原理,从当前神经网络权重减去学习率乘以偏导数,进而更新神经网络权重的过程。
输入层、各个隐藏层和最后的输出层的初始偏置矢量均设为零。
整个无训练深度神经网络模型学习过程中的神经网络迭代算法采用的是自适应矩估计算法(Adam),学习率为1e-5。
图2A显示的是信噪比为80的情况下输入无训练深度神经网络模型的NMR横向弛豫衰减信号,
图2B显示的是信噪比为80的情况下预测NMR横向弛豫衰减信号(实线)和期望的NMR横向弛豫衰减信号(虚线)的对比图;
图3A显示的是信噪比为10的情况下输入无训练深度神经网络模型的NMR横向弛豫衰减信号,
图3B显示的是信噪比为10的情况下预测NMR横向弛豫衰减信号(实线)和期望的NMR横向弛豫衰减信号(虚线)的对比图;
在信噪比为80时,预测的NMR横向弛豫时间谱(实线)的谱峰的位置和谱峰宽度与NMR横向弛豫时间谱(虚线)几乎没有差别;在信噪比很低的情况下(信噪比为10),预测的NMR横向弛豫时间谱(实线)与NMR横向弛豫时间谱(虚线)相比,谱峰位置略偏大,谱峰宽度基本一致。总体来说,本发明的方法有较好地抗噪性。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。
Claims (2)
1.一种基于无训练深度神经网络的NMR弛豫时间反演方法,其特征在于,包括以下步骤:
步骤1、建立无训练深度神经网络模型,建立的无训练深度神经网络模型的损失函数:
其中, ,为无训练深度神经网络模型输入的NMR弛豫信号与无训练深度神经网络模型输出的NMR弛豫时间谱之间的映射关系,为输入的NMR弛豫信号,为反演核矩阵,为神经网络权重,为NMR弛豫多信号的标准差,和均为正则化参数,为1-范数;为2-范数的平方;
步骤2、输入NMR弛豫信号;
步骤3、无训练深度神经网络模型根据输入的NMR弛豫信号更新神经网络权重,最小化损失函数,从而得到最优的NMR弛豫信号与NMR弛豫时间谱之间的映射关系,输出最优的NMR弛豫时间谱。
2.根据权利要求1所述的一种基于无训练深度神经网络的NMR弛豫时间反演方法,其特征在于,所述的无训练深度神经网络模型包括第一子网络和第二子网络,第一子网络包括一个输入层,四个隐藏层和一个输出层;第二子网络包括一个输入层,二个隐藏层和一个输出层;第一子网络和第二子网络的隐藏层的激活函数均为线性整流函数,第一子网络输出层的激活函数为softmax;第二子网络的输出层的激活函数为softplus。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111292131.8A CN113743597B (zh) | 2021-11-03 | 2021-11-03 | 一种基于无训练深度神经网络的nmr弛豫时间反演方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111292131.8A CN113743597B (zh) | 2021-11-03 | 2021-11-03 | 一种基于无训练深度神经网络的nmr弛豫时间反演方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113743597A CN113743597A (zh) | 2021-12-03 |
CN113743597B true CN113743597B (zh) | 2022-02-18 |
Family
ID=78727218
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111292131.8A Active CN113743597B (zh) | 2021-11-03 | 2021-11-03 | 一种基于无训练深度神经网络的nmr弛豫时间反演方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113743597B (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107728231B (zh) * | 2017-10-18 | 2019-04-12 | 科为联合(青岛)能源技术研究院有限公司 | 一种预测核磁共振测井横向弛豫时间t2分布的方法 |
CN108805259A (zh) * | 2018-05-23 | 2018-11-13 | 北京达佳互联信息技术有限公司 | 神经网络模型训练方法、装置、存储介质及终端设备 |
CN111898734B (zh) * | 2020-07-10 | 2023-06-23 | 中国科学院精密测量科学与技术创新研究院 | 一种基于mlp的nmr弛豫时间反演方法 |
-
2021
- 2021-11-03 CN CN202111292131.8A patent/CN113743597B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113743597A (zh) | 2021-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Srivastava et al. | A new wavelet denoising method for selecting decomposition levels and noise thresholds | |
Zwick et al. | Maximizing information on the environment by dynamically controlled qubit probes | |
CN110431408B (zh) | 使用短rf线圈的空间灵敏度曲线的长全岩心岩样的高空间分辨率核磁共振 | |
Hatami et al. | Magnetic resonance spectroscopy quantification using deep learning | |
CN108520088B (zh) | 基于数值模拟技术的仿真核磁共振弛豫谱分析方法及系统 | |
Ge et al. | Noise reduction of nuclear magnetic resonance (NMR) transversal data using improved wavelet transform and exponentially weighted moving average (EWMA) | |
US10732314B2 (en) | Estimation of petrophysical and fluid properties using integral transforms in nuclear magnetic resonance | |
CN111898734B (zh) | 一种基于mlp的nmr弛豫时间反演方法 | |
Cortez et al. | Rapid estimation of drifting parameters in continuously measured quantum systems | |
Cho et al. | Water self-diffusion in Chlorella sp. studied by pulse field gradient NMR | |
Gu et al. | A novel method for NMR data denoising based on discrete cosine transform and variable length windows | |
Luo et al. | A machine learning framework for low-field NMR data processing | |
CN113743597B (zh) | 一种基于无训练深度神经网络的nmr弛豫时间反演方法 | |
CN113743682B (zh) | 一种基于有监督深度神经网络的nmr弛豫时间反演方法 | |
CN114091538B (zh) | 一种基于信号特征的判别损失卷积神经网络智能降噪方法 | |
Guo et al. | Variational mode decomposition for NMR echo data denoising | |
Hiltunen et al. | Quantification of human brain metabolites from in vivo1H NMR magnitude spectra using automated artificial neural network analysis | |
Bonny et al. | Parsimonious discretization for characterizing multi‐exponential decay in magnetic resonance | |
WO2010030777A1 (en) | An adaptive signal averaging method which enhances the sensitivity of continuous wave magnetic resonance and other analytical measurements | |
Boux et al. | Dictionary-free MR fingerprinting parameter estimation via inverse regression | |
Gao et al. | A nuclear magnetic resonance echo data filter method based on gray-scale morphology | |
Bai et al. | A U-Net based deep learning approach for seismic random noise suppression | |
CN115329802A (zh) | 一种基于深度学习的核磁共振信号弛豫时间分布计算方法 | |
CN113743596B (zh) | 一种基于无监督神经网络的nmr弛豫时间反演方法 | |
Meng et al. | Identification of light Oil in 2D NMR spectra of tight sandstone reservoirs by using L1/L2 Two-parameter regularization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |