CN117408322B - 脑功能与脑结构的映射模型训练方法、装置及映射方法 - Google Patents

脑功能与脑结构的映射模型训练方法、装置及映射方法 Download PDF

Info

Publication number
CN117408322B
CN117408322B CN202311725952.5A CN202311725952A CN117408322B CN 117408322 B CN117408322 B CN 117408322B CN 202311725952 A CN202311725952 A CN 202311725952A CN 117408322 B CN117408322 B CN 117408322B
Authority
CN
China
Prior art keywords
brain
brain function
network
dynamic
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311725952.5A
Other languages
English (en)
Other versions
CN117408322A (zh
Inventor
仲苏玉
李鹏辉
兰敏
苏禹巍
魏珑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Posts and Telecommunications
Original Assignee
Beijing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Posts and Telecommunications filed Critical Beijing University of Posts and Telecommunications
Priority to CN202311725952.5A priority Critical patent/CN117408322B/zh
Publication of CN117408322A publication Critical patent/CN117408322A/zh
Application granted granted Critical
Publication of CN117408322B publication Critical patent/CN117408322B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • G06N3/0455Auto-encoder networks; Encoder-decoder networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Abstract

本申请提供脑功能与脑结构的映射模型训练方法、装置及映射方法,涉及神经影像领域,所述模型训练方法包括:构建动态脑功能融合网络;基于动态脑功能融合网络得到动态脑功能融合嵌入矩阵和对应的重构矩阵;将动态脑功能融合嵌入矩阵映射为预测行为表征;基于动态脑功能融合嵌入矩阵得到重构脑结构网络;根据重构矩阵、动态脑功能融合网络、预测行为表征、原始行为表征、原始脑结构网络和重构脑结构网络计算误差;计算原始脑结构网络和动态脑功能融合网络的映射关系;基于上述数据进行模型训练,得到脑功能与脑结构的映射模型。本申请能够有效提升脑功能与脑结构映射的全面性,增强映射关系的可解释性,进而能够有效提升神经疾病诊断的准确性。

Description

脑功能与脑结构的映射模型训练方法、装置及映射方法
技术领域
本申请涉及神经影像领域,尤其涉及一种脑功能与脑结构的映射模型训练方法、装置及映射方法。
背景技术
近年来,随着基于磁共振成像的“脑连接组学”的提出,我们可以将大脑视为一个相互连接的网络。根据多模态磁共振成像,可以构建脑结构连接网络和功能连接网络。结构连接网络可以通过弥散加权成像(Diffusion Weighted Imaging,DWI)纤维束追踪技术获得,功能连接网络通常可以基于静息状态下的功能磁共振成像(functionalMagneticResonance Imaging,fMRI)捕捉到大脑区域上的血氧水平依赖性信号的同步性来量化。多项研究一致表明结构连接和功能连接之间存在直接或间接的对应关系,这种对应关系对理解大脑功能的形成及推动神经相关疾病的诊断有重要意义,因此基于多模态连接特征进行结构-功能连接间的映射研究已成为一个神经科学领域中重要的研究课题。
现有技术仅仅局限于对静态的功能磁共振成像的分析,即主要基于单一时间点或平均化的时间段对大脑活动进行分析,从而忽略了大脑功能的时间动态性特征,以及最终得到的映射关系存在可解释性差的问题。
发明内容
鉴于此,本申请实施例提供了一种脑功能与脑结构的映射模型训练方法、装置及映射方法,以消除或改善现有技术中存在的一个或更多个缺陷。
本申请的第一个方面提供了一种脑功能与脑结构的映射模型训练方法,该方法包括:
基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络;
将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差;
基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差;
将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差;
基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系;
根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型。
在本申请的一些实施例中,所述原始脑训练数据包括:健康个体的FMRI数据、DWI数据和行为表征数据;
相对应的,在所述基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络之前,还包括:
基于所述MRI数据、DWI数据和行为表征数据得到所述静态脑功能网络、各个所述动态脑功能连接矩阵、所述原始脑结构网络和所述原始行为表征。
在本申请的一些实施例中,所述基于所述MRI数据、DWI数据和行为表征数据得到所述静态脑功能网络、各个所述动态脑功能连接矩阵、所述原始脑结构网络和所述原始行为表征,包括:
基于所述FMRI数据得到所述静态脑功能网络和各个所述动态脑功能连接矩阵;
基于DWI数据得到所述原始脑结构网络;
对所述行为表征数据进行缺失值处理、归一化和平滑处理后得到所述原始行为表征。
在本申请的一些实施例中,所述基于所述静态脑功能网络和各个所述动态脑功能连接矩阵得到动态脑功能融合网络,包括:
基于多头自注意力模块将各个所述动态脑功能连接矩阵表示为一注意力矩阵;
基于聚类读出函数和各个所述动态脑功能连接矩阵的时间位置信息将各个所述注意力矩阵压缩为一动态脑功能表示图;
基于所述静态脑功能网络和动态脑功能表示图得到权重分布函数;
基于所述动态脑功能表示图和权重分布函数,得到所述动态脑功能融合网络。
在本申请的一些实施例中,所述将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络,包括:
将所述动态脑功能融合嵌入矩阵输入对齐解码器中的第一全连接层,得到重构脑结构嵌入矩阵;
将所述重构脑结构嵌入矩阵输入对齐解码器中的第二全连接层,得到重构脑结构网络。
在本申请的一些实施例中,在所述基于降维算法和所述对齐解码器中的权重矩阵分析所述动态脑功能融合嵌入矩阵和重构脑结构连接矩阵之间转换的稳定性,得到所述静态脑功能网络和动态脑功能融合网络之间的目标映射关系之前,还包括:
基于降维算法对所述动态脑功能融合嵌入矩阵和重构脑结构连接矩阵进行可视化,得到各自对应的直观表示图。
本申请的第一个方面提供了一种脑功能与脑结构的映射方法,该方法包括:
获取目标个体的FMRI数据和DWI数据;
将所述FMRI数据和DWI数据输入第一方面所述的脑功能与脑结构的映射模型训练方法训练得到的脑功能与脑结构的映射模型,输出得到所述目标个体的脑功能和脑结构之间的映射关系。
本申请的第三个方面提供了一种脑功能与脑结构的映射模型训练装置,该装置包括:
动态脑功能融合模块,用于基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络;
动态脑功能误差计算模块,用于将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差;
行为表征误差计算模块,用于基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差;
脑结构网络误差计算模块,用于将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差;
映射模块,用于基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系;
模型训练模块,用于根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型。
本申请的第四个方面提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现前述的第一方面所述的脑功能与脑结构的映射模型训练方法,或者,实现前述的第二方面所述的脑功能与脑结构的映射方法。
本申请的第五个方面提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现前述的第一方面所述的脑功能与脑结构的映射模型训练方法,或者,实现前述的第二方面所述的脑功能与脑结构的映射方法。
本申请提供一种脑功能与脑结构的映射模型训练方法、装置及映射方法,所述模型训练方法包括:构建动态脑功能融合网络;基于动态脑功能融合网络得到动态脑功能融合嵌入矩阵和对应的重构矩阵;将动态脑功能融合嵌入矩阵映射为预测行为表征;基于动态脑功能融合嵌入矩阵得到重构脑结构网络;根据重构矩阵、动态脑功能融合网络、预测行为表征、原始行为表征、原始脑结构网络和重构脑结构网络计算误差;计算原始脑结构网络和动态脑功能融合网络之间的目标映射关系;基于上述数据进行模型训练,得到脑功能与脑结构的映射模型。本申请能够有效提升脑功能与脑结构映射的全面性,以及增强映射关系的可解释性,进而能够有效提升神经疾病诊断的准确性。
本申请的附加优点、目的,以及特征将在下面的描述中将部分地加以阐述,且将对于本领域普通技术人员在研究下文后部分地变得明显,或者可以根据本申请的实践而获知。本申请的目的和其它优点可以通过在说明书以及附图中具体指出的结构实现到并获得。
本领域技术人员将会理解的是,能够用本申请实现的目的和优点不限于以上具体所述,并且根据以下详细说明将更清楚地理解本申请能够实现的上述和其他目的。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,并不构成对本申请的限定。附图中的部件不是成比例绘制的,而只是为了示出本申请的原理。为了便于示出和描述本申请的一些部分,附图中对应部分可能被放大,即,相对于依据本申请实际制造的示例性装置中的其它部件可能变得更大。在附图中:
图1为本申请一实施例中的脑功能与脑结构的映射模型训练方法的流程示意图。
图2为本申请另一实施例中的脑功能与脑结构的映射模型训练装置的结构示意图。
图3为本申请另一实施例中的脑功能与脑结构的映射方法的流程示意图。
图4为本申请另一实施例中自编码器模型的流程示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚明白,下面结合实施方式和附图,对本申请做进一步详细说明。在此,本申请的示意性实施方式及其说明用于解释本申请,但并不作为对本申请的限定。
在此,还需要说明的是,为了避免因不必要的细节而模糊了本申请,在附图中仅仅示出了与根据本申请的方案密切相关的结构和/或处理步骤,而省略了与本申请关系不大的其他细节。
应该强调,术语“包括/包含”在本文使用时指特征、要素、步骤或组件的存在,但并不排除一个或更多个其它特征、要素、步骤或组件的存在或附加。
在此,还需要说明的是,如果没有特殊说明,术语“连接”在本文不仅可以指直接连接,也可以表示存在中间物的间接连接。
在下文中,将参考附图描述本申请的实施例。在附图中,相同的附图标记代表相同或类似的部件,或者相同或类似的步骤。
具体通过下述实施例进行详细说明。
本申请实施例提供一种可以由脑功能与脑结构的映射模型训练装置或客户端设备执行的脑功能与脑结构的映射模型训练方法,参见图1,所述的脑功能与脑结构的映射模型训练方法具体包含有如下内容:
步骤110:基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络。
步骤120:将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差。
步骤130:基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差。
步骤140:将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差。
步骤150:基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系。
步骤160:根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型。
具体来说,参见图4,客户端设备首先基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络(即图4中的融合后的脑功能连接矩阵FC)。将动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵(即图4中的FC嵌入矩阵);基于全连接层(即图4中的2D全连接层)得到动态脑功能融合嵌入矩阵对应的重构矩阵(即图4中的重构的脑功能连接矩阵);并计算重构矩阵和动态脑功能融合网络的第一均方误差。
其中,该图卷积网络采用3层图卷积层,每一层图卷积层类似于卷积操作。节点特征矩阵更新公式如式(1)所示:
(1)
其中,是动态脑功能融合网络中第l+1层的节点特征矩阵,/>是动态脑功能融合网络中第l层的权重矩阵,A是动态脑功能融合网络的邻接矩阵,/>是动态脑功能融合网络中第l层的节点特征矩阵,/>是一个非线性激活函数。
重构矩阵的公式如式(2)所示:
(2)
其中,表示动态脑功能融合嵌入矩阵对应的重构矩阵,/>表示2D全连接层,/>表示动态脑功能融合嵌入矩阵。/>表示全连接层的权重矩阵,/>表示权重矩阵/>的转置。
然后,基于人工神经网络(Artificial neural network,ANN)将动态脑功能融合嵌入矩阵映射为预测行为表征;并计算预测行为表征和预先获取的原始行为表征之间的第二均方误差。其中,图4中的、/>和/>分别表示第n个训练样本对应的第1种、第2种和第m种测量方法表示的预测行为表征。
接着,将动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络(即图4中的重构的脑结构连接矩阵);并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差。
其中,通过对齐解码器中2D全连接层中的权重矩阵分析对齐解码器学习到的流形之间转换的稳定性。具体通过/>的权重矩阵得到动态脑功能融合嵌入矩阵和重构脑结构网络的整体标准差和均值之比(绝对值),从而能够验证这两种流行(动态脑功能融合嵌入矩阵和重构脑结构网络)之间转换的稳定性。
再接着,基于第一均方误差、第二均方误差和第三均方误差得到原始脑结构网络和动态脑功能融合网络之间的目标映射关系。
具体地,通过第一均方误差、第二均方误差和第三均方误差进行反向传播,计算每一层的梯度,然后基于梯度得到对应的热力图,最后将热力图叠加到动态脑功能融合网络中,就可以关注模型关注的区域,而这些区域是在特定行为表征中贡献(权重)最大的区域,因此就能得到功能网络和对应的结构网络之间的映射关系。
最后,根据原始脑训练数据,以及各个健康个体各自对应的目标映射关系训练预设的映射模型,并基于第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型,从而能够有效提升脑功能与脑结构映射的全面性,以及增强映射关系的可解释性,进而能够有效提升神经疾病诊断的准确性。
其中,原始脑训练数据包括:健康个体的FMRI(functional Magnetic ResonanceImaging,磁共振成像)数据、DWI(Diffusion Weighted Imaging,弥散加权成像)数据和行为表征数据。
第一均方误差、第二均方误差和第三均方误差分别如式(3)、(4)和(5)所示:
(3)
其中,表示第一均方误差,/>表示第n个训练样本的重构矩阵,/>表示第n个训练样本的动态脑功能融合网络,N表示训练样本的数量。
(4)
其中,表示第二均方误差,/>表示第n个训练样本的预测行为表征,/>表示第n个训练样本的原始行为表征,N表示训练样本的数量,M表示预测行为表征和原始行为表征对应的测量方法的数量。
(5)
其中,表示第三均方误差,/>表示第n个训练样本的表示重构脑结构网络,/>表示第n个训练样本的表示原始脑结构网络,N表示训练样本的数量。
另外,模型最终的总损失如式(6)所示:
(6)
其中,表示模型最终的总损失,/>和/>分别是损失函数的超参数,它们决定了对应的子损失函数在总损失函数中的权重。调整这些权重可以使模型在不同的约束之间保持平衡。
为了有效提升脑功能与脑结构映射的全面性,在步骤110之前,还包括:
步骤109:基于所述MRI数据、DWI数据和行为表征数据得到所述静态脑功能网络、各个所述动态脑功能连接矩阵、所述原始脑结构网络和所述原始行为表征。
其中,步骤109包括:
基于所述FMRI数据得到所述静态脑功能网络和各个所述动态脑功能连接矩阵;
基于DWI数据得到所述原始脑结构网络;
对所述行为表征数据进行缺失值处理、归一化和平滑处理后得到所述原始行为表征。
具体来说,客户端设备根据FMRI数据捕捉到大脑区域上的血氧水平依赖性信号的同步性来量化,以得到静态脑功能网络;结合血氧水平依赖性信号对应的时间序列数据,得到一定数量的有关时间序列的动态脑功能连接矩阵;采用MRItrix3(扩散磁共振成像数据分析的先进工具)工具包对DWI数据其进行预处理,并通过纤维追踪技术估计纤维束,进而得到原始脑结构网络;对行为表征数据进行缺失值处理、归一化和平滑处理后得到原始行为表征,从而能够有效提升脑功能与脑结构映射的全面性。
为了进一步提升脑功能与脑结构映射的全面性,步骤110包括:
基于多头自注意力模块将各个所述动态脑功能连接矩阵表示为一注意力矩阵;
基于聚类读出函数和各个所述动态脑功能连接矩阵的时间位置信息将各个所述注意力矩阵压缩为一动态脑功能表示图;
基于所述静态脑功能网络和动态脑功能表示图得到权重分布函数;
基于所述动态脑功能表示图和权重分布函数,得到所述动态脑功能融合网络。
具体来说,客户端设备采用Brain Network Transformer(脑网络变换)模型中包含的多头自注意力模块获取各个动态脑功能连接矩阵中的不同节点之间的依赖关系,进而得到对脑功能网络进行丰富表示的注意力矩阵,接着基于聚类读出函数和各个所述动态脑功能连接矩阵的时间位置信息将各个所述注意力矩阵压缩为一动态脑功能表示图,该图如式(7)所示:
(7)
其中,表示动态脑功能表视图,f表示聚类读出函数,/>表示时间位置信息,/>表示注意力矩阵,/>表示t时刻的动态脑功能连接矩阵。
接着,以静态脑功能网络为基准,赋予每个动态脑功能连接矩阵不同的权重,如式(8)所示,且这些权重之和为1,以利于最后的动态网络融合。
(8)
其中,表示每个动态脑功能连接矩阵各自对应的权重,S表示静态脑功能网络,表示动态脑功能表示图,/>表示动态脑功能表视图与静态脑功能网络的相似程度。
最后,基于各个权重动态脑功能表示图进行网络融合,如式(9)所示:
(9)
其中,表示动态脑功能融合网络,k表示动态脑功能连接矩阵的数量,/>表示各个动态脑功能连接矩阵各自对应的权重,/>表示动态脑功能表示图。
为了增强映射关系的可解释性,步骤140包括:
将所述动态脑功能融合嵌入矩阵输入对齐解码器中的第一全连接层,得到重构脑结构嵌入矩阵;
将所述重构脑结构嵌入矩阵输入对齐解码器中的第二全连接层,得到重构脑结构网络。
具体来说,客户端设备将动态脑功能融合嵌入矩阵输入对齐解码器中的第一全连接层(即图4中的2D全连接层),得到重构脑结构嵌入矩阵(即图4中的SC嵌入矩阵);然后将重构脑结构嵌入矩阵输入对齐解码器中的第二全连接层(即图4中的2D全连接层/>),得到重构脑结构网络,从而能够有效增强映射关系的可解释性。
为了保证静态脑功能网络和动态脑功能融合网络之间转换的准确性,在步骤150之前,还包括:
基于降维算法对所述动态脑功能融合嵌入矩阵和重构脑结构连接矩阵进行可视化,得到各自对应的直观表示图。
具体来说,客户端设备采用如t-SNE(t分布式随机邻居嵌入)等降维算法对所述动态脑功能融合嵌入矩阵和重构脑结构连接矩阵进行可视化,得到各自对应的直观表示图,进而使得能够学习到二者之间转换的正确性,从而能够保证静态脑功能网络和动态脑功能融合网络之间转换的准确性。
本申请实施例还提供了一种可以由客户端设备执行的脑功能与脑结构的映射方法,参见图3,具体包括如下内容:
步骤210:获取目标个体的FMRI数据和DWI数据。
步骤220:将所述FMRI数据和DWI数据输入前述实施例提及的脑功能与脑结构的映射模型训练方法训练得到的脑功能与脑结构的映射模型,输出得到所述目标个体的脑功能和脑结构之间的映射关系。
具体来说,客户端设备首先获取目标个体的FMRI数据和DWI数据;然后将FMRI数据和DWI数据输入前述实施例提及的脑功能与脑结构的映射模型训练方法训练得到的脑功能与脑结构的映射模型,输出得到目标个体的脑功能和脑结构之间的映射关系,从而能够有效提升脑功能与脑结构映射的全面性,以及增强映射关系的可解释性,进而能够有效提升神经疾病诊断的准确性。
从软件层面来说,本申请还提供一种用于执行所述的脑功能与脑结构的映射模型训练方法中全部或部分内的脑功能与脑结构的映射模型训练装置,参见图2,所述的脑功能与脑结构的映射模型训练装置具体包含有如下内容:
动态脑功能融合模块10,用于基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络。
动态脑功能误差计算模块20,用于将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差。
行为表征误差计算模块30,用于基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差。
脑结构网络误差计算模块40,用于将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差。
映射模块50,用于基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系。
模型训练模块60,用于根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型。
本申请提供的脑功能与脑结构的映射模型训练装置的实施例具体可以用于执行上述实施例中的脑功能与脑结构的映射模型训练方法的实施例的处理流程,其功能在此不再赘述,可以参照上述的脑功能与脑结构的映射模型训练方法实施例的详细描述。
本申请提供一种脑功能与脑结构的映射模型训练装置,该装置执行的方法包括:构建动态脑功能融合网络;基于动态脑功能融合网络得到动态脑功能融合嵌入矩阵和对应的重构矩阵;将动态脑功能融合嵌入矩阵映射为预测行为表征;基于动态脑功能融合嵌入矩阵得到重构脑结构网络;根据重构矩阵、动态脑功能融合网络、预测行为表征、原始行为表征、原始脑结构网络和重构脑结构网络计算误差;计算原始脑结构网络和动态脑功能融合网络之间的目标映射关系;基于上述数据进行模型训练,得到脑功能与脑结构的映射模型。本申请能够有效提升脑功能与脑结构映射的全面性,以及增强映射关系的可解释性,进而能够有效提升神经疾病诊断的准确性。
本申请实施例还提供了一种电子设备,例如中心服务器,该电子设备可以包括处理器、存储器、接收器及发送器,处理器用于执行上述实施例提及的脑功能与脑结构的映射模型训练方法或脑功能与脑结构的映射方法,其中处理器和存储器可以通过总线或者其他方式连接,以通过总线连接为例。该接收器可通过有线或无线方式与处理器、存储器连接。
处理器可以为中央处理器(Central Processing Unit,CPU)。处理器还可以为其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-ProgrammableGate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等芯片,或者上述各类芯片的组合。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块,如本申请实施例中的脑功能与脑结构的映射模型训练方法或脑功能与脑结构的映射方法对应的程序指令/模块。处理器通过运行存储在存储器中的非暂态软件程序、指令以及模块,从而执行处理器的各种功能应用以及数据处理,即实现上述方法实施例中的脑功能与脑结构的映射模型训练方法或脑功能与脑结构的映射方法。
存储器可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储处理器所创建的数据等。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器中,当被所述处理器执行时,执行实施例中的脑功能与脑结构的映射模型训练方法或脑功能与脑结构的映射方法。
在本申请的一些实施例中,用户设备可以包括处理器、存储器和收发单元,该收发单元可包括接收器和发送器,处理器、存储器、接收器和发送器可通过总线系统连接,存储器用于存储计算机指令,处理器用于执行存储器中存储的计算机指令,以控制收发单元收发信号。
作为一种实现方式,本申请中接收器和发送器的功能可以考虑通过收发电路或者收发的专用芯片来实现,处理器可以考虑通过专用处理芯片、处理电路或通用芯片实现。
作为另一种实现方式,可以考虑使用通用计算机的方式来实现本申请实施例提供的服务器。即将实现处理器,接收器和发送器功能的程序代码存储在存储器中,通用处理器通过执行存储器中的代码来实现处理器,接收器和发送器的功能。
本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时以实现前述的脑功能与脑结构的映射模型训练方法或脑功能与脑结构的映射方法的步骤。该计算机可读存储介质可以是有形存储介质,诸如随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、软盘、硬盘、可移动存储盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质。
本领域普通技术人员应该可以明白,结合本文中所公开的实施方式描述的各示例性的组成部分、系统和方法,能够以硬件、软件或者二者的结合来实现。具体究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。
需要明确的是,本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本申请的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本申请的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
本申请中,针对一个实施方式描述和/或例示的特征,可以在一个或更多个其它实施方式中以相同方式或以类似方式使用,和/或与其他实施方式的特征相结合或代替其他实施方式的特征。
以上所述仅为本申请的优选实施例,并不用于限制本申请,对于本领域的技术人员来说,本申请实施例可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (9)

1.一种脑功能与脑结构的映射模型训练方法,其特征在于,包括:
基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络;
将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差;
基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差;
将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差;
基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系;
根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型;
其中,所述基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络,包括:
基于多头自注意力模块将各个所述动态脑功能连接矩阵表示为一注意力矩阵;
基于聚类读出函数和各个所述动态脑功能连接矩阵的时间位置信息将各个所述注意力矩阵压缩为一动态脑功能表示图;
基于所述静态脑功能网络和动态脑功能表示图得到权重分布函数;
基于所述动态脑功能表示图和权重分布函数,得到所述动态脑功能融合网络。
2.根据权利要求1所述的脑功能与脑结构的映射模型训练方法,其特征在于,所述原始脑训练数据包括:健康个体的FMRI数据、DWI数据和行为表征数据;
相对应的,在所述基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络之前,还包括:
基于所述FMRI数据、DWI数据和行为表征数据得到所述静态脑功能网络、各个所述动态脑功能连接矩阵、所述原始脑结构网络和所述原始行为表征。
3.根据权利要求2所述的脑功能与脑结构的映射模型训练方法,其特征在于,所述基于所述FMRI数据、DWI数据和行为表征数据得到所述静态脑功能网络、各个所述动态脑功能连接矩阵、所述原始脑结构网络和所述原始行为表征,包括:
基于所述FMRI数据得到所述静态脑功能网络和各个所述动态脑功能连接矩阵;
基于DWI数据得到所述原始脑结构网络;
对所述行为表征数据进行缺失值处理、归一化和平滑处理后得到所述原始行为表征。
4.根据权利要求1所述的脑功能与脑结构的映射模型训练方法,其特征在于,所述将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络,包括:
将所述动态脑功能融合嵌入矩阵输入对齐解码器中的第一全连接层,得到重构脑结构嵌入矩阵;
将所述重构脑结构嵌入矩阵输入对齐解码器中的第二全连接层,得到重构脑结构网络。
5.根据权利要求1所述的脑功能与脑结构的映射模型训练方法,其特征在于,在所述基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系之前,还包括:
基于降维算法对所述动态脑功能融合嵌入矩阵和重构脑结构连接矩阵进行可视化,得到各自对应的直观表示图。
6.一种脑功能与脑结构的映射方法,其特征在于,包括:
获取目标个体的FMRI数据和DWI数据;
将所述FMRI数据和DWI数据输入权利要求1-5任一项所述的脑功能与脑结构的映射模型训练方法训练得到的脑功能与脑结构的映射模型,输出得到所述目标个体的脑功能和脑结构之间的映射关系。
7.一种脑功能与脑结构的映射模型训练装置,其特征在于,包括:
动态脑功能融合模块,用于基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络;
动态脑功能误差计算模块,用于将所述动态脑功能融合网络输入图卷积网络层,得到动态脑功能融合嵌入矩阵;基于全连接层得到所述动态脑功能融合嵌入矩阵对应的重构矩阵;并计算所述重构矩阵和动态脑功能融合网络的第一均方误差;
行为表征误差计算模块,用于基于人工神经网络将所述动态脑功能融合嵌入矩阵映射为预测行为表征;并计算所述预测行为表征和预先获取的原始行为表征之间的第二均方误差;
脑结构网络误差计算模块,用于将所述动态脑功能融合嵌入矩阵输入对齐解码器,得到重构脑结构网络;并计算预先构建的原始脑结构网络和重构脑结构网络之间的第三均方误差;
映射模块,用于基于所述第一均方误差、第二均方误差和第三均方误差得到所述原始脑结构网络和动态脑功能融合网络之间的目标映射关系;
模型训练模块,用于根据原始脑训练数据,以及各个健康个体各自对应的所述目标映射关系训练预设的映射模型,并基于所述第一均方误差、第二均方误差和第三均方误差迭代训练该映射模型,以得到用于映射脑结构和脑功能的脑功能与脑结构的映射模型;
其中,所述基于预先构建的静态脑功能网络和各个动态脑功能连接矩阵得到动态脑功能融合网络,包括:
基于多头自注意力模块将各个所述动态脑功能连接矩阵表示为一注意力矩阵;
基于聚类读出函数和各个所述动态脑功能连接矩阵的时间位置信息将各个所述注意力矩阵压缩为一动态脑功能表示图;
基于所述静态脑功能网络和动态脑功能表示图得到权重分布函数;
基于所述动态脑功能表示图和权重分布函数,得到所述动态脑功能融合网络。
8.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述的脑功能与脑结构的映射模型训练方法,或者,实现如权利要求6所述的脑功能与脑结构的映射方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至5任一项所述的脑功能与脑结构的映射模型训练方法,或者,实现如权利要求6所述的脑功能与脑结构的映射方法。
CN202311725952.5A 2023-12-15 2023-12-15 脑功能与脑结构的映射模型训练方法、装置及映射方法 Active CN117408322B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311725952.5A CN117408322B (zh) 2023-12-15 2023-12-15 脑功能与脑结构的映射模型训练方法、装置及映射方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311725952.5A CN117408322B (zh) 2023-12-15 2023-12-15 脑功能与脑结构的映射模型训练方法、装置及映射方法

Publications (2)

Publication Number Publication Date
CN117408322A CN117408322A (zh) 2024-01-16
CN117408322B true CN117408322B (zh) 2024-04-16

Family

ID=89487538

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311725952.5A Active CN117408322B (zh) 2023-12-15 2023-12-15 脑功能与脑结构的映射模型训练方法、装置及映射方法

Country Status (1)

Country Link
CN (1) CN117408322B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111728590A (zh) * 2020-06-30 2020-10-02 中国人民解放军国防科技大学 基于动态功能连接的个体认知能力预测方法和系统
CN113255728A (zh) * 2021-04-26 2021-08-13 浙江工业大学 一种基于图嵌入和多模态脑网络的抑郁症分类方法
CN114242236A (zh) * 2021-12-18 2022-03-25 深圳先进技术研究院 结构-功能脑网络双向映射模型构建方法及脑网络双向映射模型
CN115272295A (zh) * 2022-09-05 2022-11-01 北京信息科技大学 基于时域-空域联合状态的动态脑功能网络分析方法及系统
CN115937129A (zh) * 2022-12-01 2023-04-07 北京邮电大学 基于多模态磁共振影像的左右半脑关系的处理方法及装置
CN116807447A (zh) * 2023-08-31 2023-09-29 北京智精灵科技有限公司 动态脑网络的脑龄预测建模方法、认知提升方法及系统
CN117058514A (zh) * 2023-10-12 2023-11-14 之江实验室 基于图神经网络的多模态脑影像数据融合解码方法和装置
CN117114076A (zh) * 2023-07-18 2023-11-24 西北工业大学 一种基于自监督Graph-Transformer的多模态大脑网络重要区域识别方法
WO2023239647A2 (en) * 2022-06-06 2023-12-14 Horizon Neurosciences Llc Systems and methods to measure, predict and optimize brain function

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111728590A (zh) * 2020-06-30 2020-10-02 中国人民解放军国防科技大学 基于动态功能连接的个体认知能力预测方法和系统
CN113255728A (zh) * 2021-04-26 2021-08-13 浙江工业大学 一种基于图嵌入和多模态脑网络的抑郁症分类方法
CN114242236A (zh) * 2021-12-18 2022-03-25 深圳先进技术研究院 结构-功能脑网络双向映射模型构建方法及脑网络双向映射模型
WO2023239647A2 (en) * 2022-06-06 2023-12-14 Horizon Neurosciences Llc Systems and methods to measure, predict and optimize brain function
CN115272295A (zh) * 2022-09-05 2022-11-01 北京信息科技大学 基于时域-空域联合状态的动态脑功能网络分析方法及系统
CN115937129A (zh) * 2022-12-01 2023-04-07 北京邮电大学 基于多模态磁共振影像的左右半脑关系的处理方法及装置
CN117114076A (zh) * 2023-07-18 2023-11-24 西北工业大学 一种基于自监督Graph-Transformer的多模态大脑网络重要区域识别方法
CN116807447A (zh) * 2023-08-31 2023-09-29 北京智精灵科技有限公司 动态脑网络的脑龄预测建模方法、认知提升方法及系统
CN117058514A (zh) * 2023-10-12 2023-11-14 之江实验室 基于图神经网络的多模态脑影像数据融合解码方法和装置

Also Published As

Publication number Publication date
CN117408322A (zh) 2024-01-16

Similar Documents

Publication Publication Date Title
CN110598714B (zh) 一种软骨图像分割方法、装置、可读存储介质及终端设备
US20230342918A1 (en) Image-driven brain atlas construction method, apparatus, device and storage medium
CN110570426A (zh) 使用深度学习的图像联合配准和分割
CN111462264B (zh) 医学图像重建方法、医学图像重建网络训练方法和装置
WO2023044605A1 (zh) 极端环境下脑结构的三维重建方法、装置及可读存储介质
CN115272295A (zh) 基于时域-空域联合状态的动态脑功能网络分析方法及系统
US20220351863A1 (en) Method and System for Disease Quantification of Anatomical Structures
CN113706558A (zh) 图像分割方法、装置及计算机设备
US20230032472A1 (en) Method and apparatus for reconstructing medical image
CN113920243A (zh) 极端环境下脑结构的三维重建方法、装置及可读存储介质
CN117408322B (zh) 脑功能与脑结构的映射模型训练方法、装置及映射方法
CN114298997A (zh) 一种伪造图片检测方法、装置及存储介质
CN114005514A (zh) 医学影像诊断方法、系统及装置
CN113822323A (zh) 脑部扫描图像的识别处理方法、装置、设备及存储介质
CN112348811A (zh) 深度学习图像的配准方法、装置、电子设备及存储介质
CN115409843B (zh) 基于尺度均衡耦合卷积架构的脑神经影像特征提取方法
CN113724185A (zh) 用于图像分类的模型处理方法、装置及存储介质
CN116091786B (zh) 猪只估重的全息体尺自编码方法、系统、设备及存储介质
CN115937129B (zh) 基于多模态磁共振影像的左右半脑关系的处理方法及装置
CN111209946A (zh) 三维图像处理方法、图像处理模型训练方法及介质
CN115861248A (zh) 医学图像分割方法、医学模型训练方法、装置和存储介质
CN116958154A (zh) 图像分割方法和装置、存储介质及电子设备
CN114241198A (zh) 获取局部影像组学特征的方法、装置、设备以及存储介质
JP2022191762A (ja) 統合装置、学習装置、および統合方法
CN113792740A (zh) 眼底彩照的动静脉分割方法、系统、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant