发明内容
本申请实施例提供了一种脑部扫描图像的识别处理方法、装置、设备及存储介质,可以提高模型对脑部扫描图像中的脑中线的识别准确性,该技术方案如下。
一方面,提供了一种脑部扫描图像的识别处理方法,所述方法包括:
获取脑部扫描图像样本,以及中线标注信息;所述中线标注信息用于指示所述脑部扫描图像样本中被标注出的脑中线;
将所述脑部扫描图像样本输入第一图像识别模型,获得所述脑中线识别模型中的配准模型分支输出的配准矫正后的所述脑部扫描图像样本,以及,获得所述脑中线识别模型中的识别模型分支输出的中线预测信息;所述中线预测信息用于指示所述脑部扫描图像样本中被预测出的脑中线;所述配准模型分支和所述识别模型分支共享所述第一图像识别模型中的部分网络;
基于配准矫正后的所述脑部扫描图像样本、标准脑部扫描图像、所述中线预测信息以及所述中线标注信息,获取损失函数值;
基于所述损失函数值对所述第一图像识别模型进行训练;
训练完成后的所述第一图像识别模型用于生成第二图像识别模型,所述第二图像识别模型用于对输入的目标脑部扫描图像进行处理,以输出所述目标脑部扫描图像的脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线。
又一方面,提供了一种脑部扫描图像的识别处理方法,所述方法包括:
获取目标脑部扫描图像;
通过第二图像识别模型中的特征提取分支对所述目标脑部扫描图像进行特征提取,获得图像特征;
通过所述第二图像识别模型中的脑分割分支对所述图像特征进行处理,获得概率分布信息,所述概率分布信息用于指示所述目标脑部扫描图像中的左右半脑的概率分布;
通过所述第二图像识别模型中的中线检测分支对所述概率分布信息进行中线检测,获得脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线;
其中,所述第二图像识别模型是基于训练完成的第一图像识别模型生成的;训练所述第一图像识别模型的损失函数值是基于配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息获取的;配准矫正后的所述脑部扫描图像样本是所述脑中线识别模型中的配准模型分支输出的,所述中线预测信息是所述第一图像识别模型中的识别模型分支输出的;所述配模型准分支和所述识别模型分支共享所述第一图像识别模型中的部分网络。
再一方面,提供了一种脑部扫描图像的识别处理装置,所述装置包括:
训练数据获取模块,用于获取脑部扫描图像样本,以及中线标注信息;所述中线标注信息用于指示所述脑部扫描图像样本中被标注出的脑中线;
模型处理模块,用于将所述脑部扫描图像样本输入第一图像识别模型,获得所述脑中线识别模型中的配准模型分支输出的配准矫正后的所述脑部扫描图像样本,以及,获得所述脑中线识别模型中的识别模型分支输出的中线预测信息;所述中线预测信息用于指示所述脑部扫描图像样本中被预测出的脑中线;所述配准模型分支和所述识别模型分支共享所述第一图像识别模型中的部分网络;
损失函数获取模块,用于基于配准矫正后的所述脑部扫描图像样本、标准脑部扫描图像、所述中线预测信息以及所述中线标注信息,获取损失函数值;
训练模块,用于基于所述损失函数值对所述第一图像识别模型进行训练;
训练完成后的所述第一图像识别模型用于生成第二图像识别模型,所述第二图像识别模型用于对输入的目标脑部扫描图像进行处理,以输出所述目标脑部扫描图像的脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线。
在一种可能的实现方式中,所述配准模型分支包括特征提取分支、配准分支,所述识别模型分支包括所述特征提取分支、脑分割分支、中线检测分支;
所述模型处理模块,用于,
通过所述特征提取分支对所述脑部扫描图像样本进行特征提取,获得图像样本特征;
通过所述配准分支对所述图像样本特征进行处理,获得样本配准参数;
通过所述脑分割分支对所述图像样本特征进行处理,获得预测概率分布信息,所述预测概率分布信息用于指示所述脑部扫描图像样本中预测出的左右半脑的概率分布;
基于所述脑部扫描图像样本,以及所述预测概率分布信息,获取去除颅骨后的所述脑部扫描图像样本;
基于所述样本配准参数对去除颅骨后的所述脑部扫描图像样本进行矫正,获得配准矫正后的所述脑部扫描图像样本;
通过所述中线检测分支对所述预测概率分布信息进行中线检测,获得所述中线预测信息。
在一种可能的实现方式中,在通过所述中线检测分支对所述预测概率分布信息进行中线检测,获得所述中线预测信息时,所述模型处理模块,用于通过所述中线检测分支对所述预测概率分布信息所指示的左脑二值图和右脑二值图进行三维卷积操作,获得所述中线预测信息。
在一种可能的实现方式中,所述损失函数获取模块,包括:
配准损失获取子模块,用于基于配准矫正后的所述脑部扫描图像样本以及所述标准脑部扫描图像,获取所述损失函数值中的配准损失函数值;
分割损失获取子模块,用于基于所述中线标注信息、所述脑部扫描图像样本、以及所述预测概率分布信息,获取所述损失函数值中的分割损失函数值;
检测损失获取子模块,用于基于所述中线预测信息以及所述中线标注信息,获取所述损失函数值中的检测损失函数值。
在一种可能的实现方式中,所述配准损失获取子模块,用于,
通过局部的归一化互相关损失函数对配准矫正后的所述脑部扫描图像样本以及所述标准脑部扫描图像进行处理,获得互相关损失函数值;
基于所述互相关损失函数值,获取所述配准损失函数值。
在一种可能的实现方式中,响应于配准方式为非刚性配准,所述样本配准参数包括三维形变场;
在基于所述互相关损失函数值,获取所述配准损失函数值时,所述配准损失获取子模块,用于,
对所述三维形变场进行各向异性的形变场平滑损失处理,获得配准平滑损失函数值;
基于所述互相关损失函数值以及所述配准平滑损失函数值,获取所述配准损失函数值。
在一种可能的实现方式中,所述分割损失获取子模块,用于,
基于所述中线标注信息以及所述脑部扫描图像样本,获取所述预测概率分布信息的权重图;
基于所述权重图,以及所述预测概率分布信息进行交叉熵损失计算,获得所述分割损失函数值。
在一种可能的实现方式中,所述检测损失获取子模块,用于,
基于所述中线预测信息以及所述中线标注信息进行损失计算,获得中线预测损失函数值;
基于所述中线预测信息进行平滑损失计算,获得中线平滑损失函数值;
基于所述中线预测损失函数值以及所述中线平滑损失函数值,获取所述检测损失函数值。
在一种可能的实现方式中,所述训练模块,用于,
基于所述配准损失函数值,对所述特征提取分支以及所述配准分支的参数进行更新;
基于所述分割损失函数值,对所述特征提取分支以及所述脑分割分支的参数进行更新;
基于所述检测损失函数值,对所述中线检测分支的参数进行更新。
在一种可能的实现方式中,所述装置还包括:
模型生成模块,用于响应于所述第一图像识别模型训练完成,基于所述特征提取分支、所述脑分割分支、以及所述中线检测分支生成所述第二图像识别模型。
又一方面,提供了一种脑部扫描图像的识别处理装置,所述装置包括:
图像获取模块,用于获取目标脑部扫描图像;
特征提取模块,用于通过第二图像识别模型中的特征提取分支对所述目标脑部扫描图像进行特征提取,获得图像特征;
脑分割模块,用于通过所述第二图像识别模型中的脑分割分支对所述图像特征进行处理,获得概率分布信息,所述概率分布信息用于指示所述目标脑部扫描图像中的左右半脑的概率分布;
中线检测模块,用于通过所述第二图像识别模型中的中线检测分支对所述概率分布信息进行中线检测,获得脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线;
其中,所述第二图像识别模型是基于训练完成的第一图像识别模型生成的;训练所述第一图像识别模型的损失函数值是基于配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息获取的;配准矫正后的所述脑部扫描图像样本是所述脑中线识别模型中的配准模型分支输出的,所述中线预测信息是所述第一图像识别模型中的识别模型分支输出的;所述配准模型分支和所述识别模型分支共享所述第一图像识别模型中的部分网络。
再一方面,提供了一种计算机设备,所述计算机设备包含处理器和存储器,所述存储器中存储有至少一条计算机指令,所述至少一条计算机指令由所述处理器加载并执行以实现上述的脑部扫描图像的识别处理方法。
又一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条计算机指令,所述至少一条计算机指令由处理器加载并执行以实现上述的脑部扫描图像的识别处理方法。
又一方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述脑部扫描图像的识别处理方法。
本申请实施例提供的技术方案带来的有益效果至少包括:
在训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在对本申请所示的各个实施例进行说明之前,首先对本申请涉及到的几个概念进行介绍。
1)AI(Artificial Intelligence,人工智能)
AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
2)计算机视觉技术(Computer Vision,CV)
计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、光学字符识别(OpticalCharacter Recognition,OCR)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
3)ML(Machine Learning,机器学习)
机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
4)医疗云
医疗云(Medical cloud),是指在云计算、移动技术、多媒体、无线通信、大数据、以及物联网等新技术基础上,结合医疗技术,使用“云计算”来创建医疗健康服务云平台,实现了医疗资源的共享和医疗范围的扩大。因为云计算技术的运用于结合,医疗云提高医疗机构的效率,方便居民就医。像现在医院的预约挂号、电子病历、医保等都是云计算与医疗领域结合的产物,医疗云还具有数据安全、信息共享、动态扩展、布局全局的优势。
请参考图1,其示出了本申请各个实施例涉及的一种脑中线识别系统的系统构成图。如图1所示,该系统包括医疗图像采集设备120、终端140、以及服务器160;可选的,该系统还可以包括数据库180。
医疗图像采集设备120可以是用于采集脑部扫描图像的医学扫描设备,比如电子计算机断层扫描(Computed Tomography,CT)设备、核磁共振成像(Magnetic ResonanceImaging,MRI)设备等等。相应的,脑部扫描图像是指包含脑部的三维扫描图像,比如脑部CT图像、脑部MRI图像等等。
医疗图像采集设备120可以包含图像输出接口,比如通用串行总线(UniversalSerial Bus,USB)接口、高清多媒体接口(High Definition Multimedia Interface,HDMI)接口或者以太网接口等等;或者,上述图像输出接口也可以是无线接口,比如无线局域网(Wireless Local Area Network,WLAN)接口、蓝牙接口等等。
相应的,根据上述图像输出接口的类型的不同,操作人员将脑部扫描图像导出的方式也可以有多种,比如,通过有线或者短距离无线方式将脑部扫描图像导入至终端140,或者,也可以通过局域网或者互联网将脑部扫描图像导入至终端140或者服务器160。
终端140可以是具有一定的处理能力以及界面展示功能的终端设备,比如,终端140可以是手机、平板电脑、电子书阅读器、智能眼镜、膝上型便携计算机和台式计算机等等。
终端140可以包括开发人员使用的终端,以及医疗人员使用的终端。
当终端140实现为开发人员使用的终端时,开发人员可以通过终端140开发用于对脑部扫描图像中的脑中线进行识别的机器学习模型,并将机器学习模型部署到服务器160或者医疗人员使用的终端中。
当终端140实现为医疗人员使用的终端时,终端140中可以安装有获取脑部扫描图像的脑中线识别结果并呈现的应用程序,终端140获取到医疗图像采集设备120采集到的脑部扫描图像后,可以通过上述应用程序获取对脑部扫描图像进行处理得到的处理结果,并对处理结果进行呈现,以便医生进行病理诊断、手术导航等操作。
在图1所示的系统中,终端140和医疗图像采集设备120是物理上分离的实体设备。可选的,在另一种可能的实现方式中,当终端140实现为医疗人员使用的终端时,终端140和医疗图像采集设备120也可以集成为单个实体设备;比如,该终端140可以是医学三维图像采集功能的终端设备。
其中,服务器160可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
其中,上述服务器160可以是为终端140中安装的应用程序提供后台服务的服务器,该后台服务器可以是应用程序的版本管理、对应用程序获取到的脑部扫描图像进行后台处理并返回处理结果、对开发人员开发的机器学习模型进行后台训练等等。
上述数据库180可以是Redis数据库,或者,也可以是其它类型数据库。其中,数据库180用于存储各类数据。
可选的,终端140与服务器160之间通过通信网络相连。可选的,医疗图像采集设备120与服务器160之间通过通信网络相连。可选的,该通信网络是有线网络或无线网络。
可选的,该系统还可以包括管理设备(图1未示出),该管理设备与服务器160之间通过通信网络相连。可选的,通信网络是有线网络或无线网络。
图2是根据一示例性实施例示出的一种脑部扫描图像的识别处理方法的流程示意图。该方法可以由计算机设备执行,比如,该计算机设备可以是服务器,或者,该计算机设备也可以是终端,或者,该计算机设备可以包括服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器160,该终端可以是上述图1所示的实施例中由开发人员使用的终端140。该计算机设备可以实现为进行模型训练的模型训练设备。如图2所示,该脑部扫描图像的识别处理方法可以包括如下步骤。
步骤201,获取脑部扫描图像样本,以及中线标注信息;该中线标注信息用于指示该脑部扫描图像样本中被标注出的脑中线。
其中,脑部扫描图像样本是预先已经标注好中线信息的脑部扫描图像。
其中,在单帧的脑部扫描图像中,脑中线为一条曲线,在三维的脑部扫描图像中,脑中线为一个曲面。
步骤202,将该脑部扫描图像样本输入第一图像识别模型,获得该脑中线识别模型中的配准模型分支输出的配准矫正后的该脑部扫描图像样本,以及,获得该脑中线识别模型中的识别模型分支输出的中线预测信息;该中线预测信息用于指示该脑部扫描图像样本中被预测出的脑中线;该配准模型分支和该识别模型分支共享该第一图像识别模型中的部分网络。
在本申请实施例中,第一图像识别模型可以具有两个并行的输出端口,对于输入的脑部扫描图像样本,第一图像识别模型可以同步输出两个结果,一个是对脑部扫描图像样本进行配准处理后得到的,配准矫正后的脑部扫描图像样本;另一个是从原始的脑部扫描图像样本中预测出的脑中线。
其中,上述对脑部扫描图像样本进行配准,是指对脑部扫描图像样本进行缩放和旋转等操作,以将脑部扫描图像样本向标准脑部扫描图像的尺寸和方向进行矫正的过程。
在本申请实施例中,上述第一图像识别模型中可以包含两个分支,其中一个分支用于对原始的脑部扫描图像样本进行配准,得到配准矫正后的脑部扫描图像样本;另一个分支用于对原始的脑部扫描图像样本进行特征提取,并根据提取到的特征进行脑中线预测,也就是说,在第一图像识别模型中,用于预测脑中线的模型部分是一个端到端的模型分支。
其中,上述两个分支可以共享部分模型网络,比如共享特征提取部分的模型网络。
步骤203,基于配准矫正后的该脑部扫描图像样本、标准脑部扫描图像、该中线预测信息以及该中线标注信息,获取损失函数值。
步骤204,基于该损失函数值对该第一图像识别模型进行训练;训练完成后的该第一图像识别模型用于生成第二图像识别模型,该第二图像识别模型用于对输入的目标脑部扫描图像进行处理,以输出该目标脑部扫描图像的脑中线信息,该脑中线信息用于指示该目标脑部扫描图像中的脑中线。
在本申请实施例中,上述第二图像识别模型是一个端到端的模型,也就是说,该第二图像识别模型可以从原始的目标脑部扫描图像中提取特征,并基于提取到的特征直接进行脑中线预测,在此过程中,不需要对原始的目标脑部扫描图像进行配准,而由于在模型训练过程中,引入了配准过程的训练,并且,配准过程和脑中线识别过程共享部分模型网络,因此,脑中线识别部分的网络也能够学习到图像配准相关的信息,因此,训练得到的端到端模型不需要对模型进行配准,即可以达到与预先经过配准相似的效果,同时又会因为配准过程而导致信息损失,从而能够提高模型对脑中线识别的准确性。
综上所述,本申请实施例所示的方案,在训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
基于上述图2所示的实施例所示的方案训练得到第一图像识别模型后,基于该第一图像识别模型生成的第二图像识别模型,可以应用于各种对脑部扫描图像进行处理并对其中的脑中线进行识别的场景。比如,第二图像处理模型可以应用于在疾病诊断辅助场景中识别脑中线,以辅助医疗人员对脑部健康状态进行诊断,或者,在脑部手术过程中识别脑中线,以对脑部手术进行手术导航。其中,第二图像处理模型用于脑中线识别的过程可以参考下述实施例。
图3是根据一示例性实施例示出的一种脑部扫描图像的识别处理方法的流程示意图。该方法可以由计算机设备执行,比如,该计算机设备可以是服务器,或者,该计算机设备也可以是终端,或者,该计算机设备可以包括服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器160,该终端可以是上述图1所示的实施例中由医疗人员使用的终端140。该计算机设备可以实现为进行脑中线识别的模型应用设备。如图3所示,该脑部扫描图像的识别处理方法可以包括如下步骤。
步骤301,获取目标脑部扫描图像。
在脑中线识别的应用过程中,计算机设备可以获取用户选择或者上传的目标脑部扫描图像。
步骤302,通过第二图像识别模型中的特征提取分支对该目标脑部扫描图像进行特征提取,获得图像特征。
步骤303,通过该第二图像识别模型中的脑分割分支对该图像特征进行处理,获得概率分布信息,该概率分布信息用于指示该目标脑部扫描图像中的左右半脑的概率分布。
步骤304,通过该第二图像识别模型中的中线检测分支对该概率分布信息进行中线检测,获得脑中线信息,该脑中线信息用于指示该目标脑部扫描图像中的脑中线。
在本申请实施例中,第二图像识别模型可以是一个端到端的脑中线识别模型。该脑中线识别模型中包含依次相连的特征提取分支、脑分割分支以及中线检测分支,其中,特征提取分支用于对输入的目标脑部扫描图像进行特征提取,脑分割分支用于根据目标脑部扫描图像的特征进行左右脑概率预测,比如,预测目标脑部扫描图像中每个像素点属于左脑、右脑、或者背景(既不属于左脑,也不属于右脑)的概率,而中线检测分支则根据概率预测的结果检测脑中线后输出。
其中,该第二图像识别模型是基于训练完成的第一图像识别模型生成的;训练该第一图像识别模型的损失函数值是基于配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息获取的;配准矫正后的该脑部扫描图像样本是该脑中线识别模型中的配准模型分支输出的,该中线预测信息是该第一图像识别模型中的识别模型分支输出的;该配准模型分支和该识别模型分支共享该第一图像识别模型中的部分网络。第二图像识别模型的训练过程可以参考图2所示实施例中的描述,此处不再赘述。
综上所述,本申请实施例所示的方案,第二图像识别模型是基于第一图像识别模型生成的,而在第一图像识别模型的训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
本申请涉及到的脑部扫描图像的识别处理方案可以分为两个阶段,分别为模型训练阶段和模型应用阶段。请参考图4,其是根据一示例性实施例示出的一种脑部扫描图像的识别处理框架图。如图4所示,该脑部扫描图像的识别处理过程如下。
计算机设备预先获取脑部扫描图像样本401、中线标注信息402、标准脑部扫描图像403。其中,中线标注信息402指示脑部扫描图像样本401中的脑中线的位置。
在模型训练阶段,计算机设备将脑部扫描图像样本401输入到第一图像识别模型404,第一图像识别模型404分别对脑部扫描图像样本401进行配准和脑中线识别,并分别输出配准矫正后的脑部扫描图像样本405,以及,预测出的中线预测信息406;其中,中线预测信息406指示脑部扫描图像样本401中预测出的脑中线的位置;然后,通过中线标注信息402、标准脑部扫描图像403、配准矫正后的脑部扫描图像样本405,以及,预测出的中线预测信息406,计算获得损失函数值,并通过损失函数值对第一图像识别模型404进行训练。重复上述训练过程,直至第一图像识别模型404训练完成(比如达到收敛条件)。
在第一图像识别模型404训练完成后,计算机设备可以自动的,或者在开发人员的操作下,基于第一图像识别模型404生成第二图像识别模型407,并对第二图像识别模型407进行部署。
在模型应用阶段,计算机设备将目标脑部扫描图像408输入至第二图像识别模型407,由第二图像识别模型407输出脑中线信息409,然后,计算机设备可以根据该脑中线信息409输出能够指示目标脑部扫描图像中的脑中线的识别结果图像410,以便医疗人员根据识别结果图像410做出相应的决策/判断。
图5是根据一示例性实施例示出的一种脑部扫描图像的识别处理方法的流程示意图。该方法可以由计算机设备执行,比如,该计算机设备可以是服务器,或者,该计算机设备也可以是终端,或者,该计算机设备可以包括服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器160,该终端可以是上述图1所示的实施例中的终端140。如图5所示,该脑部扫描图像的识别处理方法可以包括如下步骤。
步骤501,获取脑部扫描图像样本,以及中线标注信息;该中线标注信息用于指示该脑部扫描图像样本中被标注出的脑中线。
上述脑部扫描图像样本可以是模型训练人员/开发人员预先收集的脑部扫描图像,或者,也可以是公开的医疗领域数据集中的脑部扫描图像。模型训练人员/开发人员/专业的医疗人员可以对上述脑部扫描图像样本进行标注,确定脑部扫描图像样本中的脑中线位置,以得到中线标注信息。
在一种可能的实现方式中,上述中线标注信息中可以包含脑部扫描图像样本中的脑中线的位置,比如,包含脑中线在脑部扫描图像样本中的像素坐标。
步骤502,将该脑部扫描图像样本输入第一图像识别模型,获得该脑中线识别模型中的配准模型分支输出的配准矫正后的该脑部扫描图像样本,以及,获得该脑中线识别模型中的识别模型分支输出的中线预测信息。
其中,该中线预测信息用于指示该脑部扫描图像样本中被预测出的脑中线;该配准模型分支和该识别模型分支共享该第一图像识别模型中的部分网络。
在获取到脑部扫描图像样本,以及中线标注信息后,计算机设备即可以对第一图像识别模型进行训练。在一种可能的实现方式中,第一图像识别模型中的配准模型分支可以包括特征提取分支和配准分支,第一图像识别模型中的识别模型分支可以包括该特征提取分支、脑分割分支以及中线检测分支;也就是说,配准模型分支和识别模型分支可以共享特征提取分支。
其中,配准模型分支和识别模型分支共享特征提取分支,可以是指配准模型分支和识别模型分支各自具有一个特征提取分支,且两个特征提取分支的结构和参数都相同;或者,配准模型分支和识别模型分支共享特征提取分支,也可以是指配准模型分支和识别模型分支共同使用同一个特征提取分支,也就是说,该特征提取分支输出的特征将会被分别输入配准分支和脑分割分支。
上述步骤502可以包括如下子步骤:
S502a,通过特征提取分支对该脑部扫描图像样本进行特征提取,获得图像样本特征。
其中,特征提取分支可以包括一层或者多层卷积层,用于对输入的脑部扫描图像样本逐层进行特征提取,例如,特征提取分支中的第一个卷积层对脑部扫描图像样本的原始数据进行卷积处理,获得第一个卷积层输出的特征图,然后该特征图将被输入特征提取分支中的第二个卷积层(该特征图可以直接输入第二个卷积层,也可以经过某些处理,比如,池化处理之后再输入第二个卷积层),通过第二个卷积层对该特征图进行处理,获得第二个卷积层输出的特征图,该第二个卷积层输出的特征图进一步输入第三个卷积层,以此类推,直至特征提取分支的最后一个网络层输出上述图像样本特征。
S502b,通过该配准分支对该图像样本特征进行处理,获得样本配准参数。
在本申请实施例中,上述配准分支可以通过对图像样本特征进行处理,得到用于对脑部扫描图像样本进行配准所使用的样本配准参数。
S502c,通过该脑分割分支对该图像样本特征进行处理,获得预测概率分布信息,该预测概率分布信息用于指示该脑部扫描图像样本中预测出的左右半脑的概率分布。
其中,脑分割分支也可以是一个包含一层或者多层卷积层的卷积神经网络。比如,脑分割分支可以对输入的图像样本特征,依次通过多个卷积层进行处理,最后再通过激活层输出预测概率分布信息。
S502d,基于该脑部扫描图像样本,以及该预测概率分布信息,获取去除颅骨后的该脑部扫描图像样本。
在本申请实施例中,计算机设备可以基于预测概率分布信息,将脑部扫描图像样本中,属于背景部分的概率大于概率阈值的像素去除,得到去除颅骨后的该脑部扫描图像样本。
S502e,基于该样本配准参数对去除颅骨后的该脑部扫描图像样本进行矫正,获得配准矫正后的该脑部扫描图像样本。
在本申请实施例中,计算机设备可以通过样本配准参数,对去除颅骨后的该脑部扫描图像样本进行缩放、旋转等操作,得到配准矫正后的脑部扫描图像样本。
S502f,通过该中线检测分支对该预测概率分布信息进行中线检测,获得该中线预测信息。
其中,计算机设备可以根据脑部扫描图像样本中各个像素点属于左脑/右脑的概率,检测出脑部扫描图像样本的脑中线,得到上述中线预测信息。
请参考图6,其示出了本申请实施例涉及的一种模型架构图。结合图6所示,本申请实施例涉及的第一图像识别模型的模型网络包含三个部分。其中,特征提取分支601部分为特征的编码器,输入为脑部扫描图像样本605,脑分割分支603部分为特征解码器,用于输出半脑分割的概率图606,中线检测分支604用于通过概率图606输出脑中线607。编码器和解码器通过跳跃连接结果,组成一个类U型网络(U-Net)的分割网络。配准分支602部分的输入为编码特征,输出为形变场或者仿射矩阵,其中,当采用非刚体形变时,配准分支602输出三维形变场G∈RH×w×D×3,当采用刚体形变时,配准分支602输出仿射矩阵A∈R3×4,输入图像(输入模型的原始图像,即605)经过变化(通过三维形变场/仿射矩阵对去颅骨后的脑部图像进行刚体/非刚体形变)后,输出矫正后的脑部扫描图像608(即配准矫正后的该脑部扫描图像样本)。
在一种可能的实现方式中,该通过该中线检测分支对该预测概率分布信息进行中线检测,获得该中线预测信息,包括:
通过该中线检测分支对该预测概率分布信息所指示的左脑二值图和右脑二值图进行三维卷积操作,获得该中线预测信息。
在传统算法中,由左右半脑概率生成中线的过程一般作为模型的后处理选项,并没有集成到分割网络中,而在本方案中,可以卷积网络实现中线预测。比如,可以采用三维(3-Dimensional,3D)Sobel算子,Ks获得左右半脑的边界梯度。在执行时,可以通过三维卷积实现。中线的生成公式如下:
ml=Conv3d(brainl)*Conv3d(brainr)
Conv3d,全称是3d convolution,即三维卷积操作,这里的卷积核可以是Sobel算子的卷积核,brainl为左脑的二值图,brainr为右脑的二值图;计算图像梯度也是通过卷积运算的方式,比如,通过拉普拉斯卷积核进行图像梯度的计算。请参考图7,其示出了本申请实施例涉及的脑中线检测的示意图。
计算机设备后续可以基于配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息,获取用于对第一图像识别模型进行训练的损失函数值。
在本申请实施例中,上述用于对第一图像识别模型进行训练的损失函数值,可以包括模型中配准部分对应的损失、脑分割部分的损失、以及基于脑分割结果进行中线检测部分的损失,这三部分的损失可以参考后续步骤503至步骤505。
步骤503,基于配准矫正后的该脑部扫描图像样本以及该标准脑部扫描图像,获取该损失函数值中的配准损失函数值。
如图6所示,在本申请实施例中,对于矫正后的脑部扫描图像608,计算机设备可以通过标准脑部扫描图像609对其进行损失函数计算,得到图像配准过程中的损失,即上述配准损失函数值。
在一种可能的实现方式中,该基于配准矫正后的该脑部扫描图像样本以及该标准脑部扫描图像,获取该损失函数值中的配准损失函数值,包括:
通过局部的归一化互相关损失函数对配准矫正后的该脑部扫描图像样本以及该标准脑部扫描图像进行处理,获得互相关损失函数值;
基于该互相关损失函数值,获取该配准损失函数值。
在一种可能的实现方式中,响应于配准方式为非刚性配准,该样本配准参数包括三维形变场;
该基于该互相关损失函数值,获取该配准损失函数值,包括:
对该三维形变场进行各向异性的形变场平滑损失处理,获得配准平滑损失函数值;
基于该互相关损失函数值以及该配准平滑损失函数值,获取该配准损失函数值。
比如,在本申请实施例中,计算机设备可以将互相关损失函数值,以及配准平滑损失函数值相加,得到配准损失函数值。
在本申请实施例中,配准的目标函数(损失函数),可以为局部的归一化互相关损失(Local Normalized Cross Correlation,LNCC),公式如:
其中,I和J是输入图像(I和J,一个是矫正后的脑部扫描图像608,另一个是标准脑部扫描图像609);Ω是所有滑动窗口的集合;w是Q的一个元素,代表一个局部窗口;p是窗口w内任意一点;I
p指P点的像素值;
是窗口w的所有像素的均值;
是窗口内任意一点与局部的亮度差,在三维空间中为9×9×9的块(patch);在计算时,可以采用滑动窗口的方式选取patch,采用卷积的操作可以使得计算更快,其中,NCC越小,表示图像越相似。
此外,若采用非刚体配准的方式,则还要对形变场施加平滑约束,使得形变更为平滑。其中,各向异性的形变场平滑损失如下:
其中
和
是各向异性参数,用于加权沿着不同轴的形变。U是三维形变场U∈R
HXWXDX3,P是指局部的窗口,U(P)是指在P点取一个大小为W×W×W的patch。总的配准损失如下:
lreg=-llncc+lsmooth (3)
步骤504,基于该中线标注信息、该脑部扫描图像样本、以及该预测概率分布信息,获取该损失函数值中的分割损失函数值。
在一种可能的实现方式中,该基于该中线标注信息、该脑部扫描图像样本、以及该预测概率分布信息,获取该损失函数值中的分割损失函数值,包括:
基于该中线标注信息以及该脑部扫描图像样本,获取该预测概率分布信息的权重图;
基于该权重图,以及该预测概率分布信息进行交叉熵损失计算,获得该分割损失函数值。
在本申请实施例中,分割网络可以输出三通道的概率图,分别为背景、左脑、右脑;也就是说,在上述概率图中,对于输入图像中的每个像素点对应有3个概率,分别为该像素点是背景的概率、该像素点是左脑的概率、以及该像素点是右脑的概率。对于半脑分割任务,在一个示例性的方案中,可以采用DistanceMap Weighted Cross Entropy Loss(距离图加权交叉熵损失)进行损失计算。例如,首先计算大脑内所有点到中线的最近距离,大脑外的点设置为c=200mm距离,得到的距离-权重示意图可以如图8所示。
其中距离图需要通过以下公式转化为权重图,用于交叉熵的权重。
W=exp((c-D)/c)(4)
上面两个公式中,公式4中的c为constant常数,这里取200mm,即人头的一半宽度,d为点到中线的距离,D代表所有的距离组成的矩阵。
公式5中的c是class,代表类别;N为所有点的个数;gi为指示函数(indicatorfunction),当i=c时,gi等于1,否则等于0。Pi指类别i的概率值;大写W为权重矩阵,小写w表示到一个点的距离。
在本申请实施例中,在损失函数中引入距离图作为权重,可以使得网络关注中线检测,提升中线附近分割精确度,和传统的直接分割中线方法相比,距离图(distance map)更为平滑,可以提升训练效果。
步骤505,基于该中线预测信息以及该中线标注信息,获取该损失函数值中的检测损失函数值。
在一种可能的实现方式中,该基于该中线预测信息以及该中线标注信息,获取该损失函数值中的检测损失函数值,包括:
基于该中线预测信息以及该中线标注信息进行损失计算,获得中线预测损失函数值;
基于该中线预测信息进行平滑损失计算,获得中线平滑损失函数值;
基于该中线预测损失函数值以及该中线平滑损失函数值,获取该检测损失函数值。
在得到半脑的分割结果后,需要将半脑分割转化为中线检测。为了对中线施加曲面平滑约束,需要将二值的分割概率图转化为中线坐标,如图6所示,本申请实施例采用类似Argmax的方式,由于Argmax在数学上不可以微分,因此,在本申请实施例中采用了替代的方案Soft-Argmax计算中线预测损失函数值,公式如下:
上述公式6中,i、j指当前元素位于一维向量中的坐标,β指常数,因为Soft-Argmax类似非极大抑制,可以扩大极大值和极小值的差距。X代表权重,xi代表第i个元素的权重。
计算机设备在损失函数计算过程中,在得到中线三维坐标后,可以施加曲面的平滑约束。曲面约束公式如下:
其中,u是指所有点构成的表面(Surface),Surface可以是一个H×W的矩阵表达,每个元素相当于对应的点距离底面的高度。
为了更近一步提升中线检测的效果,本申请实施例对中线检测结果也做了监督,方案中我们采用均方差作为目标函数。公式如下:
y和
分别为中线金标准(即中线标注信息)和预测结果。通过中线的金标准,可以获取掩模(Mask)上每个不等于0的点的坐标。
步骤506,基于损失函数值对第一图像识别模型进行训练。
在一种可能的实现方式中,该基于该损失函数值对该第一图像识别模型进行训练,包括:
基于该配准损失函数值,对该特征提取分支以及该配准分支的参数进行更新;
基于该分割损失函数值,对该特征提取分支以及该脑分割分支的参数进行更新;
基于该检测损失函数值,对该中线检测分支的参数进行更新。
由于本申请实施例中涉及的模型网络是多任务的分割-配准网络,网络的损失函数包括多项,总体的损失函数如下:
l=lsurface+lregion+lreq+lsmooth (9)
其中,上述lreg用于训练配准分支部分,lsurface+lsmooth用于训练中线检测部分,lregion用于训练半脑分割部分。
步骤507,响应于该第一图像识别模型训练完成,基于该特征提取分支、该脑分割分支、以及该中线检测分支生成该第二图像识别模型。
其中,该第二图像识别模型用于对输入的目标脑部扫描图像进行处理,以输出目标脑部扫描图像的脑中线信息,脑中线信息用于指示目标脑部扫描图像中的脑中线。
如图6所示的结构,在推理应用阶段,可以舍弃配准分支,只保留识别模型分支进行脑中线识别,相对于完整运行第一图像识别模型来说,可以显著减少推理时间。
在一种可能的实现方式中,计算机设备可以将该目标脑部扫描图像输入该第二图像识别模型,获得该第二图像识别模型输出的脑中线的位置信息;并基于该脑中线的位置信息,输出脑中线识别图像,该脑中线识别图像用于指示该目标脑部扫描图像中的脑中线。其中,第二图像识别模型对目标脑部扫描图像进行处理,以输出脑中线信息的过程,与第一图像识别模型对脑部扫描图像样本进行处理,以输出中线预测信息的过程类似,此处不再赘述。
综上所述,本申请实施例所示的方案,在第一图像识别模型的训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
在基于深度学习的脑中线分割任务中,本申请上述实施例涉及的方案在设计分割网络时,添加了非刚体或者刚体配准的方式,将脑部扫描图像配准到标准人脑(在成对图像中,刚体配准是指将一个图像经过旋转平移缩放和另外一个模板图像对齐),使得网络可以学习中线的局部形变特征。本申请上述实施例涉及的训练网络结合了分割和配准两个任务,可以端到端的训练,提升中线分割效果。在离线推理时,可以将配准分支剪裁,达到更快的推理速度。除此之外,为了解决分割时,局部形变过大,本申请上述实施例还设计了三维曲面平滑损失作为目标函数,使得分割的中线更为平滑。此外,中线作为左右半脑的分界线,本申请上述实施例采用了一个可微分的中线边界检测模块,将半脑分割结果转化为中线分割,整个模块可以即插即用,可以端到端的训练脑中线识别网络模型。本申请上述实施例的方案结合了区域的半脑分割,以及曲面的中线检测,可以更好的提取全局对称特征和局部的纹理特征。
如图6的模型结构所示,本申请上述实施例涉及的模型网络主要包含一个类似U-Net的分割网络,比如3DU-Net、3DFCN(Fully Convolution Network,全卷积网络)等,以及一个配准分支,其中配准分支用于帮助网络学习脑部扫描图像的矫正对齐。在训练时,采用端到端的方式训练模型,模型作为一个多任务的卷积神经网络执行配准和脑中线检测任务。而在推理时,为了达到更快的速度,采用网络剪裁的方式,去除配准分支,模型网络只需要输出脑中线检测的结果。
在临床中,三维的脑中线具有更高的精确度,对于衡量病情发展具有重要意义,实际的三维脑中线在空间是一个平滑的曲面,本申请上述实施例涉及的脑中线识别网络在施加曲面的平滑约束后,输出的脑中线的可视化效果更好。
请参考图9,其是根据一示例性实施例示出的一种用于人脑图像的脑中线识别模型的训练及应用框架图。如图9所示,用于人脑图像的脑中线识别模型的训练及应用过程可以如下:
首先,开发人员准备脑部扫描图像样本91a,并对脑部扫描图像样本91a进行标注,得到表示脑部扫描图像样本91a中真实的脑中线的中线标注信息91b,此外,开发人员还准备用于配准的标准脑部扫描图像91c。然后,将脑部扫描图像样本91a、中线标注信息91b以及标准脑部扫描图像91c作为训练数据,输入至模型训练设备中。
在模型训练阶段,模型训练设备将脑部扫描图像样本91a输入第一图像识别模型92,通过第一图像识别模型92中的编码器进行处理,得到编码特征,该编码特征一方面经过第一图像识别模型92中解码器进行解码,得到左右脑的预测概率分布信息94,另一方面经过第一图像识别模型92中的配准分支进行处理,得到样本配准参数95;后续,预测概率分布信息94经过第一图像识别模型92中的中线检测分支进行处理,得到中线预测信息96;同时,通过预测概率分布信息94和脑部扫描图像样本91a可以得到去除颅骨后的脑部扫描图像样本91d,该去除颅骨后的脑部扫描图像样本91d经过样本配准参数95进行校正后,得到配准校正后的脑部扫描图像样本91e。
模型训练设备通过上述配准校正后的脑部扫描图像样本91e以及标准脑部扫描图像91c,可以计算得到配准损失函数值(当非刚性配准时,包含配准的平滑损失),并通过配准损失函数值对编码器和配准分支进行参数更新。计算机设备通过上述中线标注信息91b指示的左右脑,以及预测概率分布信息94,可以计算的到分割损失函数值,并通过分割损失函数值对编码器和解码器进行参数更新。此外,计算机设备还通过中线预测信息96和中线标注信息91b计算得到检测损失函数值(可选包含中线的平滑损失),并通过检测损失函数值对中线检测分支进行参数更新。
在模型训练结束后,开发人员通过第一图像识别模型92中的编码器、解码器以及中线检测分支,可以构建出第二图像识别模型97,并将其部署到模型应用设备中。
在脑中线识别应用阶段,模型应用设备可以接收输入的目标脑部扫描图像98,并将目标脑部扫描图像98输入第二图像识别模型97,由第二图像识别模型97输出对应的脑中线信息99,并基于脑中线信息99输出包含识别出的脑中线的脑部扫描图像910。
其中,本申请上述实施例所示的方案可以结合区块链来实现或者执行。比如,上述各个实施例中的部分或者全部步骤可以在区块链系统执行;或者,上述各个实施例中的各个步骤执行所需要的数据或者生成的数据,可以存储在区块链系统中;例如,上述模型训练使用的训练样本,以及模型应用过程中的目标脑部扫描图像等模型输入数据,可以由计算机设备从区块链系统中获取;再例如,上述模型训练后得到的模型的参数(包括第一图像识别模型的参数和第二图像识别模型的参数),可以存储在区块链系统中。
图10是根据一示例性实施例示出的一种脑部扫描图像的识别处理装置的结构方框图。该装置可以实现图2或图5所示实施例提供的方法中的全部或部分步骤,该脑部扫描图像的识别处理装置包括:
训练数据获取模块1001,用于获取脑部扫描图像样本,以及中线标注信息;所述中线标注信息用于指示所述脑部扫描图像样本中被标注出的脑中线;
模型处理模块1002,用于将所述脑部扫描图像样本输入第一图像识别模型,获得所述脑中线识别模型中的配准模型分支输出的配准矫正后的所述脑部扫描图像样本,以及,获得所述脑中线识别模型中的识别模型分支输出的中线预测信息;所述中线预测信息用于指示所述脑部扫描图像样本中被预测出的脑中线;所述配准模型分支和所述识别模型分支共享所述第一图像识别模型中的部分网络;
损失函数获取模块1003,用于基于配准矫正后的所述脑部扫描图像样本、标准脑部扫描图像、所述中线预测信息以及所述中线标注信息,获取损失函数值;
训练模块1004,用于基于损失函数值对所述第一图像识别模型进行训练;
训练完成后的所述第一图像识别模型用于生成第二图像识别模型,所述第二图像识别模型用于对输入的目标脑部扫描图像进行处理,以输出所述目标脑部扫描图像的脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线。
在一种可能的实现方式中,所述配准模型分支包括特征提取分支、配准分支,所述识别模型分支包括所述特征提取分支、脑分割分支、中线检测分支;
所述模型处理模块1002,用于,
通过所述特征提取分支对所述脑部扫描图像样本进行特征提取,获得图像样本特征;
通过所述配准分支对所述图像样本特征进行处理,获得样本配准参数;
通过所述脑分割分支对所述图像样本特征进行处理,获得预测概率分布信息,所述预测概率分布信息用于指示所述脑部扫描图像样本中预测出的左右半脑的概率分布;
基于所述脑部扫描图像样本,以及所述预测概率分布信息,获取去除颅骨后的所述脑部扫描图像样本;
基于所述样本配准参数对去除颅骨后的所述脑部扫描图像样本进行矫正,获得配准矫正后的所述脑部扫描图像样本;
通过所述中线检测分支对所述预测概率分布信息进行中线检测,获得所述中线预测信息。
在一种可能的实现方式中,在通过所述中线检测分支对所述预测概率分布信息进行中线检测,获得所述中线预测信息时,所述模型处理模块1002,用于通过所述中线检测分支对所述预测概率分布信息所指示的左脑二值图和右脑二值图进行三维卷积操作,获得所述中线预测信息。
在一种可能的实现方式中,所述损失函数获取模块1003,包括:
配准损失获取子模块,用于基于配准矫正后的所述脑部扫描图像样本以及所述标准脑部扫描图像,获取所述损失函数值中的配准损失函数值;
分割损失获取子模块,用于基于所述中线标注信息、所述脑部扫描图像样本、以及所述预测概率分布信息,获取所述损失函数值中的分割损失函数值;
检测损失获取子模块,用于基于所述中线预测信息以及所述中线标注信息,获取所述损失函数值中的检测损失函数值。
在一种可能的实现方式中,所述配准损失获取子模块,用于,
通过局部的归一化互相关损失函数对配准矫正后的所述脑部扫描图像样本以及所述标准脑部扫描图像进行处理,获得互相关损失函数值;
基于所述互相关损失函数值,获取所述配准损失函数值。
在一种可能的实现方式中,响应于配准方式为非刚性配准,所述样本配准参数包括三维形变场;
在基于所述互相关损失函数值,获取所述配准损失函数值时,所述配准损失获取子模块,用于,
对所述三维形变场进行各向异性的形变场平滑损失处理,获得配准平滑损失函数值;
基于所述互相关损失函数值以及所述配准平滑损失函数值,获取所述配准损失函数值。
在一种可能的实现方式中,所述分割损失获取子模块,用于,
基于所述中线标注信息以及所述脑部扫描图像样本,获取所述预测概率分布信息的权重图;
基于所述权重图,以及所述预测概率分布信息进行交叉熵损失计算,获得所述分割损失函数值。
在一种可能的实现方式中,所述检测损失获取子模块,用于,
基于所述中线预测信息以及所述中线标注信息进行损失计算,获得中线预测损失函数值;
基于所述中线预测信息进行平滑损失计算,获得中线平滑损失函数值;
基于所述中线预测损失函数值以及所述中线平滑损失函数值,获取所述检测损失函数值。
在一种可能的实现方式中,所述训练模块1004,用于,
基于所述配准损失函数值,对所述特征提取分支以及所述配准分支的参数进行更新;
基于所述分割损失函数值,对所述特征提取分支以及所述脑分割分支的参数进行更新;
基于所述检测损失函数值,对所述中线检测分支的参数进行更新。
在一种可能的实现方式中,所述装置还包括:
模型生成模块,用于响应于所述第一图像识别模型训练完成,基于所述特征提取分支、所述脑分割分支、以及所述中线检测分支生成所述第二图像识别模型。
综上所述,本申请实施例所示的方案,在训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
图11是根据一示例性实施例示出的一种脑部扫描图像的识别处理装置的结构方框图。该脑部扫描图像的识别处理装置可以实现图3所示实施例提供的方法中的全部或部分步骤,该脑部扫描图像的识别处理装置包括:
图像获取模块1101,用于获取目标脑部扫描图像;
特征提取模块1102,用于通过第二图像识别模型中的特征提取分支对所述目标脑部扫描图像进行特征提取,获得图像特征;
脑分割模块1103,用于通过所述第二图像识别模型中的脑分割分支对所述图像特征进行处理,获得概率分布信息,所述概率分布信息用于指示所述目标脑部扫描图像中的左右半脑的概率分布;
中线检测模块1104,用于通过所述第二图像识别模型中的中线检测分支对所述概率分布信息进行中线检测,获得脑中线信息,所述脑中线信息用于指示所述目标脑部扫描图像中的脑中线;
其中,所述第二图像识别模型是基于训练完成的第一图像识别模型生成的;训练所述第一图像识别模型的损失函数值是基于配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息获取的;配准矫正后的所述脑部扫描图像样本是所述脑中线识别模型中的配准模型分支输出的,所述中线预测信息是所述第一图像识别模型中的识别模型分支输出的;所述配准模型分支和所述识别模型分支共享所述第一图像识别模型中的部分网络。
综上所述,本申请实施例所示的方案,第二图像识别模型是基于第一图像识别模型生成的,而在第一图像识别模型的训练过程中,第一图像识别模型对输入的脑部扫描图像样本同时执行配准和脑中线识别,并且同时使用配准矫正后的脑部扫描图像样本、标准脑部扫描图像、中线预测信息以及中线标注信息对第一图像识别模型进行训练,也就是说,在训练用于脑中线识别的端到端模型的同时,还考虑了脑部扫描图像配准对于脑中线识别的影响,使得后续基于训练完成的第一图像识别模型生成的端到端的第二图像识别模型,能够对未配准的脑部扫描图像直接识别脑中线,避免脑部扫描图像配准导致的信息损失,从而提高对脑部扫描图像中的脑中线进行识别的准确性。
图12是根据一示例性实施例示出的一种计算机设备的结构示意图。该计算机设备可以实现为上述各个方法实施例中用于训练第一图像识别模型的计算机设备,或者,可以实现为上述各个方法实施例中用于通过第二图像识别模型进行脑中线识别的计算机设备。所述计算机设备1200包括中央处理单元(CPU,Central Processing Unit)1201、包括随机存取存储器(Random Access Memory,RAM)1202和只读存储器(Read-Only Memory,ROM)1203的系统存储器1204,以及连接系统存储器1204和中央处理单元1201的系统总线1205。所述计算机设备1200还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统1206,和用于存储操作系统1213、应用程序1214和其他程序模块1215的大容量存储设备1207。
所述大容量存储设备1207通过连接到系统总线1205的大容量存储控制器(未示出)连接到中央处理单元1201。所述大容量存储设备1207及其相关联的计算机可读介质为计算机设备1200提供非易失性存储。也就是说,所述大容量存储设备1207可以包括诸如硬盘或者光盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、闪存或其他固态存储其技术,CD-ROM、或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器1204和大容量存储设备1207可以统称为存储器。
计算机设备1200可以通过连接在所述系统总线1205上的网络接口单元1211连接到互联网或者其它网络设备。
所述存储器还包括一个或者一个以上的程序,所述一个或者一个以上程序存储于存储器中,中央处理器1201通过执行该一个或一个以上程序来实现图2、图3或图5任一所示的方法的全部或者部分步骤。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括计算机程序(指令)的存储器,上述程序(指令)可由计算机设备的处理器执行以完成本申请各个实施例所示的方法。例如,所述非临时性计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact Disc Read-Only Memory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各个实施例所示的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。