CN110490881A - 医学影像分割方法、装置、计算机设备及可读存储介质 - Google Patents
医学影像分割方法、装置、计算机设备及可读存储介质 Download PDFInfo
- Publication number
- CN110490881A CN110490881A CN201910764981.XA CN201910764981A CN110490881A CN 110490881 A CN110490881 A CN 110490881A CN 201910764981 A CN201910764981 A CN 201910764981A CN 110490881 A CN110490881 A CN 110490881A
- Authority
- CN
- China
- Prior art keywords
- medical image
- image
- information
- light stream
- motion information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000003860 storage Methods 0.000 title claims abstract description 21
- 230000011218 segmentation Effects 0.000 claims abstract description 200
- 230000033001 locomotion Effects 0.000 claims abstract description 185
- 238000000605 extraction Methods 0.000 claims abstract description 20
- 238000012549 training Methods 0.000 claims description 39
- 239000003814 drug Substances 0.000 claims description 29
- 238000012545 processing Methods 0.000 claims description 25
- 238000003709 image segmentation Methods 0.000 claims description 23
- 238000005192 partition Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 18
- 238000009795 derivation Methods 0.000 claims description 16
- 230000004927 fusion Effects 0.000 claims description 13
- 230000009466 transformation Effects 0.000 claims description 13
- 238000005520 cutting process Methods 0.000 claims description 10
- 238000006243 chemical reaction Methods 0.000 claims description 8
- 238000005070 sampling Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 2
- 230000004069 differentiation Effects 0.000 claims description 2
- 238000002059 diagnostic imaging Methods 0.000 abstract description 16
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 210000000056 organ Anatomy 0.000 description 36
- 238000010586 diagram Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 14
- 210000004185 liver Anatomy 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000013508 migration Methods 0.000 description 6
- 230000005012 migration Effects 0.000 description 6
- 206010047571 Visual impairment Diseases 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 5
- 235000013399 edible fruits Nutrition 0.000 description 5
- 230000002452 interceptive effect Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 238000002591 computed tomography Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 210000004204 blood vessel Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 210000002837 heart atrium Anatomy 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000002595 magnetic resonance imaging Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 238000005481 NMR spectroscopy Methods 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 241000949477 Toona ciliata Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001746 atrial effect Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000000747 cardiac effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 208000030533 eye disease Diseases 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30048—Heart; Cardiac
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30056—Liver; Hepatic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30084—Kidney; Renal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本申请实施例公开了一种医学影像分割方法、装置、计算机设备及可读存储介质,涉及人工智能的计算机视觉技术;具体地可以获取第一医学影像以及已标注目标对象区域的第二医学影像;分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。该方案可以大大提升医疗影像的分割精准性和效率。
Description
技术领域
本发明涉及人工智能技术领域,具体涉及一种医学影像分割方法、装置、计算机设备及可读存储介质。
背景技术
随着人工智能(AI,Artificial Intelligence)的发展,AI在医疗领域上的应用也越来越为广泛,特别是在医学影像的分割上。例如,以肝脏的分割为例,具体可以利用标注肝脏的样本影像训练一个可以卷积神经网络,然后,将待分割的三维(3D,3Dimension)肝脏影像,如肝脏的电子计算机断层扫描(CT,Computed Tomography)影像输入至训练后的卷积神经网络进行分割,得到器官分割结果,比如得到肝脏区域,等等。
然而,目前的AI分割方式非常依赖器官标注的准确性,并且需要获取大量标注器官的医学影像样本对网络训练,因此,器官分割非常耗时,效率较低,分割的精准性也较低。
发明内容
本申请实施例提供一种医学影像分割方法、装置、计算机设备及可读存储介质,可以提高分割的效率和精准性。
本申请实施例提供一种医学影像分割方法,包括:
获取第一医学影像以及已标注目标对象区域的第二医学影像;
分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;
根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;
根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
相应的,本申请实施例还提供一种医学影像分割装置,包括:
获取单元,用于获取第一医学影像以及已标注目标对象区域的第二医学影像;
特征提取单元,用于分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;
光流单元,用于根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;
分割单元,用于根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
在一实施例中,所述分割单元,包括:
重建子单元,用于根据所述光流运动信息、已标注目标对象区域进行目标对象重建,得到重建后目标对象区域;
分割子单元,用于将重建后目标对象区域作为所述第一医学影像的分割结果。
在一实施例中,所述重建子单元,用于对所述光流运动信息进行三线性插值处理,得到处理后光流运动信息;基于处理后光流运动信息重建和已标注目标对象区域,进行目标对象区域重建,得到重建后目标对象区域。
在一实施例中,所述光流单元,包括:
关联子单元,用于对所述第一特征信息与所述第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息;
采样子单元,用于对像素位置对应关系信息进行上采样操作,得到所述第二医学影像到所述第一医学影像的光流运动信息。
在一实施例中,所述关联子单元,具体用于:
对第一医学影像的第一特征信息进行卷积操作,得到第一卷积特征信息;
对第二医学影像的第二特征信息进行卷积操作,得到第二卷积特征信息;
将所述第一卷积特征信息与所述第二卷积特征信息相互融合,得到第一融合特征信息;
将所述第一融合特征信息与所述第一卷积特征信息相互融合,得到第二医学影像与第一医学影像之间的像素位置对应关系信息。
在一实施例中,所述光流单元,具体用于:采用训练后第一生成对抗网络中的第一生成器,根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息。
在一实施例中,本申请医学影像分割装置还包括:
样本获取单元,用于获取第一样本医学影像以及已标注目标对象区域的第二样本医学影像;
第一样本光流单元,用于采用第一生成对抗网络中的第一生成器获取所述第二样本医学影像到所述第一样本医学影像的第一样本光流运动信息,
第一重建单元,用于采用所述第一生成对抗网络中第一重建模块,基于所述第一样本光流运动信息进行影像重建,得到所述第一样本医学影像对应的第一重建后医学影像、第一分割结果;
第二样本光流单元,用于采用第二生成对抗网络中第二生成器,获取所述第一重建后医学影像到所述第二样本医学影像的第二样本光流运动信息;
第二重建单元,用于采用第二生成对抗网络中第二重建模块,基于所述第二样本光流运动信息进行影像重建,得到所述第二样本医学影像对应的第二重建后医学影像、第二分割结果;
训练单元,用于根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,所述训练单元,可以包括:
重建损失获取子单元,用于根据第一重建后医学影像、第二重建后医学影像,获取在影像重建空间中的重建一致性损失;
分割损失获取子单元,用于根据第一分割结果、第二分割结果以及第二样本医学影像的目标对象标注结果,获取在分割空间中的分割一致性损失;
训练子单元,用于根据所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,所述重建一致性损失包括:影像重建一致性损失、轨迹一致性损失;所述重建损失获取子单元,可以具体用于:
根据第二重建后医学影像和所述第二样本医学影像,获取所述第二样本医学影像与第二重建后医学影像保持一致的影像重建一致性损失;
根据所述第一样本光流运动信息和第二样本光流运动信息,获取所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
在一实施例中,所述分割一致性损失包括影像分割一致性损失、掩膜数值损失、语义一致性损失;
所述分割损失获取子单元,用于:
根据所述第二分割结果和目标对象标注结果,获取目标对象标注结果与第二分割结果保持一致的影像分割一致性损失;
根据所述第一分割结果、所述第二分割结果和预设分割掩膜数值,分别获取所述第一分割结果、所述第二分割结果相对于预设分割掩膜数值的掩膜数值损失;
基于第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
在一实施例中,所述分割损失获取子单元,用于:
对第一分割结果中像素值沿着预设方向进行求导,得到预设方向的求导结果;
根据预设方向的求导结果和所述第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
在一实施例中,所述重建损失获取子单元,可以具体用于:
生成一个原始医学影像;
根据所述第一像素位置映射关系信息和第二样本光流运动信息,对所述参考医学影像进行变换,得到变换后医学影像;
获取所述变换后医学影像与原始医学影像之间的变换损失;
将所述变换损失作为所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
在一实施例中,还包括对抗损失获取单元;
所述对抗损失获取单元,用于采用第一生成对抗网络中判别器,对所述样本医学影像和所述第一重建后医学影像进行判别,得到判别结果;根据所述第一重建后医学影像、判别结果获取所述第一生成对抗网络的对抗损失
所述训练单元,用于根据所述对抗损失、所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
相应的,本申请还提供一种计算机设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述程序时实现本申请实施例提供的任一种医学影像分割方法中的步骤。
此外,本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现本申请实施例提供的任一种医学影像分割方法中的步骤。
本申请实施例可以获取第一医学影像以及已标注目标对象区域的第二医学影像;分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果,因此,该方案能够通过学习标注影像到未标注影像变换,将标注影像的对象如器官分割迁移到标注影像上,利用标注的医学影像对未标注的医学影像进行对象如器官分割,大大提升了医疗影像的分割精准性和效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的医疗影像分割方法的场景示意图;
图2a是本申请实施例提供医疗影像分割方法的流程图;
图2b是本申请实施例提供的生成器的框架示意图;
图2c是本申请实施例提供的Non-local Block的结构示意图;
图2d是本申请实施例提供的分割远离示意图;
图3a是本申请实施例提供的分割网络的架构图;
图3b是本申请实施例提供的训练方法流程示意图;
图3c是本申请实施例提供的光流运动信息一致性示意图;
图4a是本实施例提供的分割网络的另一架构图;
图4b是本申请实施例提供的医疗影像分割的另一流程示意图;
图5a是本申请实施例提供的医疗影像分割装置的结构示意图;
图5b是本申请实施例提供的医疗影像分割装置的另一结构示意图;
图5c是本申请实施例提供的医疗影像分割装置的另一结构示意图;
图5d是本申请实施例提供的医疗影像分割装置的另一结构示意图;
图5e是本申请实施例提供的医疗影像装置的另一结构示意图;
图5f是本申请实施例提供的医疗影像装置的另一结构示意图;
图6是本申请实施例提供的计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请实施例提供一种医学影像分割方法、装置、计算机设备和计算机可读存储介质。其中,该医学影像分割装置可以集成在计算机设备中,该计算机设备可以是服务器,也可以是终端等设备。
本申请实施例提供的医学影像分割方案涉及人工智能的计算机视觉技术(Computer Vision,CV)。可以通过人工智能的计算机视觉技术实现眼底图像分割,得到分割结果。
其中,计算机视觉技术(Computer Vision,CV)是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像分割、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
本申请实施例中,所谓影像分割,指的是把影像分成若干个特定的、具有独特性质的区域,并提出感兴趣目标的技术和过程。而在本申请实施例中,主要指的是对三维(3D,Three Dimensional)医学影像进行分割,并找出所需的目标对象如器官,例如可以从3D医学影像分割出肝脏区域、心脏区域、心房区域等等。分割出来的目标对象如器官后续可以供医护人员或其他医学专家进行分析,以便作出进一步的操作。
例如,参见图1,以该医学影像分割装置集成在计算设备中为例,该计算机设备可以获取第一医学影像以及已标注目标对象区域的第二医学影像;分别对第一医学影像和第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据第一特征信息和第二特征信息获取第二医学影像到第一医学影像的光流运动信息;根据光流运动信息、和已标注目标对象区域,对第一医学影像中的目标对象进行分割,得到第一医学影像的分割结果。比如,可以从未标注的心房影像中分割出心脏区域。
以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
本实施例将从医学影像分割装置的角度进行描述,该医学影像分割装置具体可以集成在计算机设备中,该计算机设备可以是服务器,也可以是终端等设备;其中,该终端可以包括平板电脑、笔记本电脑、个人计算(PC,Personal Computer)、微型处理盒子、或者其他设备等。
如图2a所示,该医学影像分割方法的具体流程可以如下:
201、获取第一医学影像以及已标注目标对象区域的第二医学影像。
其中,医学影像可以由各医学影像采集设备来对生物组织,如心脏或肝脏等进行影像采集后,提供给该医学影像分割装置。其中,该医学影像采集设备可以包括核磁共振成像仪(MRI,Magnetic Resonance Imaging)、计算机断层扫描设备(CT,ComputedTomography)、阴道镜或内窥镜等电子设备。
其中,第一医学影像为未标注目标对象的医学影像,为待分割的医学影像,可以由各医学影像采集设备采集得到。
其中,目标对象可以为生物器官比如肝脏、心脏、肿瘤等等。
其中,第二医学影像为已标注目标对象的医学影像,比如,标注了心脏区域的心脏影像等。
本申请实施例方法的目的在于利用已标注的第二医学影像从第一医学影像中分割出目标对象区域。
本申请实施例中第一和第二仅仅为了区分,不具有时序等方面的限制。
202、分别对第一医学影像和第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息。
比如,可以分别对第一医学影像和第二医学影像进行卷积操作,以提取第一医学影像的第一特征信息和第二医学影像的第二特征信息。
在一实施例中,为特征提取精度和效率,可以采用孪生(siamese network)的网络提取特征信息,例如,如图2b所示,可以采用孪生的卷积神经网络分别对第一医学影像和第二医学影像进行卷积操作,以提取第一、二医学影像特征。如对标注医学影像x和未标注影像y分解进行卷积操作,提取各自的特征图。
其中,卷积神经网络可以包括多个卷积层,每个卷积层由预设大小的卷积(如3*3*3的卷积)、批归一化层(Batch Normalization)和非线性激活层ReLu组成。也即,每个卷积层对其输入进行卷积、归一化、激活函数处理。
以第一医学影像为例,可以将第一医学影像输入至卷积神经网络的第一个卷积层,在第一个卷积层依次进行卷积、归一化、激活函数处理,输出特征信息,然后,将输出特征信息输入下一个卷积层进行处理,依次类推直到最后一个卷积层输出最终特征信息。其中,第一医学影像的第一特征信息即可以为卷积神经网络中最后一个卷积层输出的特征信息如特征图。
203、根据第一特征信息和第二特征信息获取第二医学影像到第一医学影像的光流运动信息。
其中,光流(optical flow)是空间运动物体在观察成像平面上的像素运动的瞬时速度,是利用图像序列中像素在时间域上的变化以及相邻图像之间的相关性来找到上一帧跟当前帧之间存在的对应关系,从而计算出相邻图像之间物体的运动信息的一种方法。一般而言,光流是由于场景中前景目标本身的移动、相机的运动,或者两者的共同运动所产生的
简单来说,光流是空间运动物体在观测成像平面上的像素运动的“瞬时速度”,光流的研究是利用图像序列中的像素强度数据的时域变化和相关性来确定各自像素位置的“运动”,研究光流场的目的就是为了从图片序列中近似得到不能直接得到的现实中的运动场。
其中,光流运动信息为第二医学影像中某个位置像素点运动到第一医学影像中目标位置的运动信息,包括运行方向、运动速度等运动参数。
例如,第t个医学影像中A像素点的位置是(x1,y1),那么在第t+1个医学影像的时候再找到A点,假如它的位置是(x2,y2),那么就能够确定A像素点的运动了:(ux,vy)=(x2,y2)-(x1,y1)。
在一实施例中,可以基于两张医学影像的特征信息来学习影像之间的像素位置关联信息;从中学习到光流运动信息。具体地步骤“根据第一特征信息和第二特征信息获取第二医学影像到第一医学影像的光流运动信息”,可以包括:
对第一特征信息与第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息;
对像素位置对应关系信息进行上采样操作,得到第二医学影像到第一医学影像的光流运动信息。
本申请实施例,为了能够获取医学影像之间的像素位置对应关系,可以将医学影像的特征信息进行关联或融合,以将两个影像进行关联,从而可以得到医学影像之间的像素位置对应关系信息。
其中,特征关联的方式可以有多种,比如,在一实施例中,步骤“对第一特征信息与第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息”,可以包括:
对第一医学影像的第一特征信息进行卷积操作,得到第一卷积特征信息;
对第二医学影像的第二特征信息进行卷积操作,得到第二卷积特征信息;
将第一卷积特征信息与第二卷积特征信息相互融合,得到第一融合特征信息;
将第一融合特征信息与第一卷积特征信息相互融合,得到第二医学影像与第一医学影像之间的像素位置对应关系信息。
在一实施例中,步骤“将第一卷积特征信息与第二卷积特征信息相互融合,得到第一融合特征信息”,包括:
第一卷积特征信息和第二卷积特征信息进行融合,得到融合后卷积特征信息;
将融合后卷积特征信息与第一卷积特征信息进行融合,得到第一融合特征信息;
在一实施例中,步骤“将第一卷积特征信息与第二卷积特征信息相互融合,得到第一融合特征信息”,包括:
对第一融合特征信息进行卷积操作,得到预定尺寸的卷积特征信息,第四卷积特征信息的尺寸与第一特征信息的尺寸相同;
将预定尺寸的卷积特征信息与第一特征信息进行融合,得到第二医学影像与第一医学影像之间的像素位置对应关系信息。
在一实施例中,为了精确或快速地得到影像间的像素位置关联信息,可以采用非局部操作(Non-local operation)获取医学影像的像素之间在时空上的关联信息。比如,参考图2b,可以采用非局部块(Non-local Block)进行非局部操作,学习像素级别的位置对应关系。
如图2c所示,为非局部块的结构示意图。假设标注医学影像的特征图为y,未标注医学影像的特征图为x’,其中,x’、y’的维度为T*H*W*1024,其中,T是对于视频帧数(对应本申请影像数量),特征图尺寸为T×H×W×1024也就是有1024个通道。
输入x’、y’的维度是T*H*W*1024,然后分别用数量为512,尺寸为1*1*1的卷积核进行卷积得到3条支路的输出,维度都是T*H*W*512,然后经过flat(平滑)和trans(变换)操作得到THW*512、512*THW和THW*512的输出,前两条支路的两个输出进行矩阵乘法得到THW*THW的输出,经过softmax(归一化函数)处理后再和第三条支路的输出做矩阵乘法得到THW*512维度的输出,将该输出reshape成T*H*W*512维度的输出后经过卷积核数量为1024,尺寸为1*1*1的卷积层并和原来y’的特征图T*H*W*1024做element-wise sum(元素求和)得到最后的输出结果,基于该输出结果便可以得到标注影像x与未标注影像y之间的像素位置对应关系信息。
参考图2b,在采用Non-local Block学习到标注影像x与未标注影像y之间的像素位置对应关系信息之后,可以在上采样层对像素位置对应关系信息进行上采样操作,得到光流运动信息Δp。
204、根据光流运动信息、和已标注目标对象区域,对第一医学影像中的目标对象进行分割,得到第一医学影像的分割结果。
在一实施例中,在得到光流运动信息Δp(如像素运动的方向速度等)之后,可以基于光流运动信息重建出目标对象区域,将重建的区域作为未标注影像分割结果。
比如,步骤204可以包括:根据光流运动信息、已标注目标对象区域进行目标对象区域重建(如迁移),得到重建后目标对象区域;将重建后目标对象区域作为第一医学影像的分割结果。本申请实施例中,目标对象区域重建可以包括目标对象区域迁移等。通过目标对象区域迁移以重建区域。
其中,重建方式的方式有多种,比如,可以根据光流运动信息对已标注目标对象区域中像素进行运动,得到运动后像素;根据运动后像素重建目标对象区域。例如,可以基于光流运动信息Δp,将标注器官区域内的像素在分割空间中迁移,形成迁移后区域,该区域作为未标注影像的器官分割区域。
为能够使得光流运动信息Δp应用到原始医学影像中(由于光流运动信息Δp获取可能是在下采样设置下进行的),以及提升重建速度;在一实施例中,可以对光流运动信息进行三线性插值(Trilinear Interpolation)处理,基于处理后光流运动信息重建出未标注的第一样本医学影像,得到第一重建后医学影像。也即,步骤“根据光流运动信息、和已标注目标对象区域,对第一医学影像中的目标对象进行分割,得到第一医学影像的分割结果”,可以包括:
对光流运动信息进行三线性插值处理,得到处理后光流运动信息;
基于处理后光流运动信息重建、和已标注目标对象区域,对第一医学影像中的目标对象进行分割,得到第一医学影像的分割结果。具体地,可以对光流运动信息进行三线性插值处理,得到处理后光流运动信息;基于处理后光流运动信息重建和已标注目标对象区域,进行目标对象区域重建,得到重建后目标对象区域;将重建后目标对象区域作为第一医学影像的分割结果。
比如,可以基于三线性插值的核F,在各个预设方向(如xyz轴方向)上对光流运动信息插值操作,得到处理后光流运动信息,该处理后光流运动信息即为三线性插值实现的光流运动信息。具体地,三线性插值过程可以从参考下面的实施例具体描述。
本申请实施例提供了一种基于迁移影像到影像映射到分割空间的方案。该方案将影像到影像的映射建模设置为像素级别的光流估计,通过学习像素的运动方向与大小等光流运动信息,将未标注影像的分割结果从标注影像中的标注结果中重建或迁移出来。整个方案思想如图2d所示。
如图2d所示以医学影像为心房影像为例,首选提供一张标注心脏区域的标注影像(Labeled)、和一张未标注影像(Unlabeled);然后,学习标注影像到未标注影像的光流运动信息Δp,通过标注的心脏区域和光流运动信息Δp重建(或迁移)心脏区域,该重建后心脏区域(或迁移后心脏区域)即为未标注影像的心脏分割结果。
由上可知,本申请实施例方案能够通过学习标注影像到未标注影像变换,将标注影像的对象分割如器官分割迁移到标注影像上,利用标注的医学影像对未标注的医学影像进行对象分割如器官分割,避免了传统方案中采用无大量标注数据对分割模型训练,只需提供一个标注影像和一个待分割影像,便可以实现对待分割影像进行分割,大大提升了医疗影像的分割精准性和效率。
本申请实施例提供的分割方案可以应用任何影像分割场景中,比如,可以应用在医学影像的标注场景中,由于目前像素/体素级别标注耗时、耗力,且需要医生的大力支持,使得获得大量标注变得非常困难。在这样的背景下,采用本申请实施例提供的方案医生只需精确标注一例数据,利用本申请实施例方案变可以标注剩余数据。对于医生来说,医生只需标注一例器官等目标对象,就可以在其他未标注数据上进行精准的目标对象如器官分割,从而大量节省医生的标注时间。
本申请实施例中的医学影像分割方法可以由AI的深度学习网络来实现,比如,在获取第一医学影像和第二医学影像之后,可以由深度学习的分割网络来实现目标对象如器官分割,具体地,分割网络可以执行上述步骤202-203等,具体地生成器的结构可以参考图2b。
其中,分割网络可以为经过大量标注数据集训练后的分割网络。具体的训练方式有多种,比如,可以基于大量已标注器官的医学影像数据集通过反向传播方式对分割网络进行训练;具体地,可以根据网络的目标对象分割结果与标注结果计算分割损失(如通过损失函数计算),基于分割损失对网络进行训练。
进一步考虑,由于医学影像数据集通常由不同的医学影像设备采集所得,因此不同数据集的域间差异较大,严重阻碍了深度网络的泛化性能;并且,传统训练方式会导致光流运动信息的学习精确性较差,导致分割精确性较低。
为了确保算法能在临床中真正起到辅助诊断的作用,还需要进一步提升模型的泛化性能和分割精准性。同时,有监督的训练方法需要提供额外的血管标注,十分耗时且昂贵,在眼部疾病诊断中进行大规模的血管分类、分割是不切实际的。因此,临床中还需要设计不需额外标注的无监督训练方法。
本申请实施例针对上述问题,提供了采用无监督领域自适应技术的分割网络训练方法,能够学习已有标注的数据集上的特征结构并将知识迁移到新数据集上,为没有标注的新数据集提供较为精确的目标对象分割如器官分割等,有效提升深度网络(如血分割网络)的在其他数据集上的泛化性能。
为了提升分割精准性,本申请实施例中无监督自适应的训练方法,可以通过对包含分割网络(即生成器)的生成对抗网络进行训练;然后,采用训练后生成对抗网络中的生成器,获取标注影像到未标注影像的光流运动信息,实现对无标注的医学影像进行分割等。
具体地,可以采用标注样本影像和未标注样本影像,对包含第一生成对抗网络和第二生成对抗网络的影像分割网络进行训练,其中,第一生成对抗网络包括第一对象分割网络(即第一生成器)和第一生成对抗网络包括第二对象分割网络(即第二生成器)。然后,在实际影像分割时,采用第一生成器学习光流运动信息。
参考图3a,提供了一种分割网络,该分割网络包括第一生成对抗网络和第二生成对抗网络。其中,第一生成对抗网络包括第一对象分割网络(即第一生成器GA)、判别器、第一重建模块、第二重建模块;第二生成对抗网络包括第二对象分割网络(即第二生成器GB)、第三重建模块和第四重建模块。
如图3b所示,一种网络的训练方法的具体流程如下:
301、获取第一样本医学影像、以及已标注目标对象区域的第二样本医学影像。
其中,第一样本医学影像y为未标注目标对象(如器官)区域的医学影像,可以通过医学影像采集设备采集;第二样本医学影像x为已标注目标对象(如器官)区域的医学影像,可以由医疗人员对医学影像进行目标对象如器官标注,得到。
302、采用第一生成对抗网络中的第一生成器获取第二样本医学影像到第一样本医学影像的第一样本光流运动信息。
比如,可以采用生成器GA,学习标注影像x与未标注影像y的像素交互关系,学习到标注影像x到未标注影像y的光流运动信息ΔpA
其中,第一生成器获取第一样本光流运动信息的具体过程可以参考上述实施例介绍的光流运动信息获取的过程。第一生成器的结构可以参考上述图2b。
303、采用第一生成对抗网络中第一重建模块,基于第一样本光流运动信息进行影像重建,得到第一样本医学影像对应的第一重建后医学影像、第一分割结果。
具体地,影像重建可以参考上述实施例的描述。
比如,根据第一样本光流运动信息ΔpA对已标注第二样本医学影像y中像素进行移动,以重建出未标注的第一样本医学影像,得到第一重建后医学影像根据第一样本光流运动信息ΔpA对已标注医学影像x中的目标对象标注区域xs像素进行移动,以重建出未标注影像的目标对象分割区域
为能够使得光流运动信息Δp应用到原始医学影像中(由于光流运动信息Δp获取可能是在下采样设置下进行的),以及提升重建速度,在一实施例中,可以对光流运动信息进行三线性插值(Trilinear Interpolation)处理,基于处理后光流运动信息重建出未标注的第一样本医学影像,得到第一重建后医学影像。
比如,可以基于三线性插值的核,在各个预设方向上对光流运动信息插值操作,得到处理后光流运动信息,该处理后光流运动信息即为三线性插值实现的光流运动信息。
由于ΔpA往往很小,本申请实施例使用三线性插值(Trilinear Interpolation)来实现它。针对原始影像中的每一个位置p0,其目标位置为p=p0+Δp,本申请实施例将这一过程表示为:
其中F是三线性插值的核,它在x-axis,y-axis,z-axis上同时操作。表示如下:
F(q,p)=f(qx,px)·f(qy,py)·f(qz,pz)
这里令f(a,b)=max(0,1-|a-b|)。由于F(q,p)大部分元素都为0,其计算速度非常快。
在本申请实施例中,可以在每次重建影像(如重建未标注影像、或重建已标注影像)时,可以对学习到的光流运动信息Δp进行三线性插值处理,基于处理后信息重建影像,以提升重建速度和效率。
同样,在本申请实施例中,可以在每次重建分割对象区域(如重建未标注影像的分割对象区域、或重建已标注影像的分割对象区域)时,可以对学习到的光流运动信息Δp进行三线性插值处理,然后,基于处理后信息重建分割对象区域,提升重建速度和效率。
304、采用第二生成对抗网络中第二生成器,获取第一重建后医学影像到第二样本医学影像的第二样本光流运动信息。
同样,第二生成器获取光流运动信息的方式、以及生成器的结构可以参考上述实施例的介绍。
比如,可以采用生成器GA,学习标注影像x与重建影像的像素交互关系,学习到重建影像到标注影像x的光流运动信息ΔpB。
305、采用第二生成对抗网络中第二重建模块,基于第二样本光流运动信息进行影像重建,得到第二样本医学影像对应的第二重建后医学影像、第二分割结果。
比如,根据第二样本光流运动信息ΔpB对第一重建后医学影像中像素进行移动,以重建出已标注影像x,得到第二重建后医学影像根据第一样本光流运动信息ΔpB对重建的目标对象分割区域的像素进行移动,以重建出标注影像x的目标对象分割区域
306、根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
理论上讲,生成器GA可以捕获从标注影像x到未标注影像y的光流运动信息ΔpA。但由于从X→Y的方式有千万种可能,为了保证这种映射的唯一性,本申请实施例希望通过学习重建影像与标注影像x的数据关系,将标注影像重建出来。类似地,在得到重建的未标注影像后,可以利用生成器GB学习重建影像与标注影像x的像素交互关系,学习到光流运动信息ΔpB。通过光流运动信息ΔpB,重建出标注影像为
具体地,影像重建过程,用如下公式表示:
同样,本申请实施例还可以将光流运动信息应用在分割空间,得到重建未标注影像的分割以及重建标注影像的分割公式表达如下:
本申请实施例,通过多次影像重建、分割空间的分割结果重建,训练网络,可以提升GA学习光流运动信息的准确性。在训练的过程中,为了提升影像重建和分割重建的准确性,进而提升训练后生成器的捕获运动信息的准确性,可以通过构建影像重建空间中的重建一致性损失、确保影像重建的准确性,通过构建分割空间中的分割一致性损失以确保影像分割的准确性。
比如,在一实施例中,步骤“根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对第一生成对抗网络进行训练,得到训练后第一生成对抗网络”,可以包括:
S1、根据第一重建后医学影像、第二重建后医学影像,获取在影像重建空间中的重建一致性损失。
其中,重建一致性损失包括影像重建过程中的影像重建一致性损失、光流运动信息的轨迹一致性损失等损失中的至少一个。
比如,参考图3a,经过标注影像x到重建未标注影像再到重建标注影像(即),本申请实施例希望重建出的标注影像与原始标注影像x一致;因此,构建了影像重建一致性损失。
具体地,可以根据第二重建后医学影像和第二样本医学影像,获取第二样本医学影像与第二重建后医学影像保持一致的影像一致性损失。例如,参考图3a,可以基于一致性损失函数计算重建标注影像与标注影像x之间的影像重建一致性损失。
又比如,参考图3a,为了约束与的光流运动信息,本申请实施例希望ΔpA与ΔpB之间在像素级别呈现轨迹一致性。因此,构建了确保ΔpA与ΔpB之间保持轨迹一致的轨迹一致性损失Ltra。
根据第一样本光流运动信息和第二样本光流运动信息,获取第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。比如,根据预设轨迹一致性损失函数,计算ΔpA与ΔpB之间的轨迹一致性损失Ltra。
在一实施例中,为精确和方便计算轨迹一致性损失可以生成一个影像,然后,将两个光流运动信息施加在该影像上进行影像变换,计算变换后的影像与原始影像的变换损失,基于该损失得到轨迹一致性损失。具体地,步骤“根据第一样本光流运动信息和第二样本光流运动信息,获取第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失”,可以包括:
生成一个原始医学影像;
根据第一像素位置映射关系信息和第二样本光流运动信息,对参考医学影像进行变换,得到变换后医学影像;
获取变换后医学影像与原始医学影像之间的变换损失;
将变换损失作为第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
如图3c所示。为了实现ΔpA与ΔpB之间在像素级别呈现轨迹一致性这一约束信息,随机构建一个生成一个影像rh*w*c~N(0,I),本申请实施例将光流运动信息ΔpA与ΔpB施加在上面,希望经过这一对变换后,重建出的影像与原始影像r呈现出一致性。
此外,在一些实施例中,还可以构建出其他保持影像构建一致性的损失,以提升影像重建的准确性,进而提升分割准确性。
S2、根据第一分割结果、第二分割结果以及第二第二样本医学影像的目标对象标注结果,获取在分割空间中的分割一致性损失。
其中,分割一致性损失为在分割空间中重建的目标对象分割结果与标注的目标对象分割结果保持一致的损失,其中,重建的目标对象分割结果与标注的分割结果,可以是在影像分割、掩膜数值、语义等方面达到一致。也即,分割一致性损失包括影像分割一致性损失、掩膜数值损失、语义一致性损失等损失。
例如,参考图3a,为使在分割空间达到一致性使得xs与保持一致,可以设计,影像分割一致性损失。具体地,可以根据第二分割结果和目标对象标注结果,获取目标对象标注结果与第二分割结果保持一致的影像分割一致性损失。比如,可以根据计算xs与之间的差异,进而得到影像分割一致性损失。
又比如,为了保证将光流信息用在分割空间里得到的分割掩膜数值接近预设分割掩膜数值如{0,1},可以引入掩膜数值损失,以鼓励得到的分割结果的风格掩膜数值接近于预设分割掩膜数值如0或1。在一实施例中,由于分割掩膜数值接近0或1,隐藏,掩膜数值损失可以称为哈希损失(hash loss)
其中,分割掩膜数值可以包括分割结果的像素值,如器官分割图像的像素值等。
在一实施例中,为保证基于光流运动信息重建的分割掩膜如与原始分割xs大小上呈现一致,因此,还可以对在上做了约束,具体地,构建第一分割结果、第二分割结果与目标对象标注结果大小一致的约束条件,得到掩膜数值损失对应的约束条件;在训练时,可以根据掩膜数值损失、及其对应的约束条件对网络进行训练。
在一实施例中,还希望学习到的分割结果如分割掩膜在影像上也表达出语义一致性。比如,对于学习到分割掩膜中各像素数值保持一致,这样在观察是可以容易识别到目标对象分割区域如器官区域。为此,本申请实施例引入了语义一致性损失,具体地,可以基于第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。在一实施例中,语义一致性可以看成外观平滑,因此语义一致性损失也可称为外观平滑损失(Apperance smooth loss)
在一实施例中,为了保持语义一致,为此,需要确保观察到目标对象区域如器官内部的数值分布具有一致性。因此,可以对分割结果影像中像素值进行求导,从而计算出确保分割结果影像中目标对象区域的数值分布一致性的损失。
比如,对第一分割结果中像素值沿着预设方向进行求导,得到预设方向的求导结果;根据预设方向的求导结果和第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
例如,对于分割掩膜可以从x-axis,y-axis,z-axis分别求导,得到Δyx-axis,Δyy-axis,Δyz-axis,基于求导结果计算出外观平滑损失。
应当理解的是:本申请实施例在分割空间中的分割一致性损失、在影像重建空间中的重建一致性损失不仅限于上述介绍的几种,还可以根据需求设计其他类型的重建一致性损失或者分割一致性损失。
S3、根据重建一致性损失、分割一致性损失,对第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,为了提升网络的分割准确性,对于第一生成对抗网络还可以采用生成对抗训练方式来训练;比如,本申请实施例方法还可以包括:
采用第一生成对抗网络中判别器,对样本医学影像和第一重建后医学影像进行判别,得到判别结果;
根据第一重建后医学影像、判别结果获取第一生成对抗网络的对抗损失;
此时,本申请实施例,可以根据对抗损失、重建一致性损失、分割一致性损失,对第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,对抗损失可以包括极大化对抗损失、极小化对抗损失;具体地可以根据第一重建后医学影像与第一样本医学影像计算重建损失,根据判断结果计算判别损失,根据重建损失和判别损失计算构建生成对抗网络的极小化对抗损失、极大化对抗损失。此时,本申请实施例可以基于极小化对抗损失和极大化对抗损失,重建一致性损失、分割一致性损失对第一生成对抗网络进行迭代训练,得到训练后生成对抗网络。
例如,参考图3a,生成器GA希望精确学习标注影像到未标注影像之间的光流运动信息,而判别器D希望区分重建影像与真实未标注影像y。这样生成器GA与判别器D之间就形成了一种对抗,生成器GA希望以最小损失重建而判别器希望以最大损失去区分。因此,可以最大损失、最小损失去训练网络。
由上可知,本申请实施例提出采用无监督生成对抗训练方式对影像分割网络进行训练,可以有效提升模型在其他数据集上的泛化性能、并且还可以使得生成器可以精确地学习到光流运动信息,提升影像分割的精准性。
比如,在通过上述对第一生成对抗网络训练后,便可以采用第一生成对抗网络中的生成器精确地学习到标注影像到未标注影像的光流运动信息,从而可以基于光流运动信息对未标注影像中的目标对象进行分割,大大提升了分割精准性。
根据前面实施例所描述的方法,以下将举例作进一步详细说明。
在本实施例中,将以该医学影像分割装置具体集成在计算机设备为例进行说明。
(一)分割网络的训练。
根据上述图3a的描述,如图4a提出了一种分割网络的架构示意图,包括第一生成器GA、GB、多个Warp(重建)模块等。
(1)、首选,计算机设备获取标注了目标对象如器官的标注影像x,以及未标注的未标注影像y。参考图4a,约定x∈Rh*w*c是一张带有标注的医学影像,xs∈Rh*w*c是其对应标注,h,w,c分别是医学影像在冠状、矢状和轴向方向的维度。约定数据集是一个大量无标注的医学影像数据集。
采用图4a所示的网络中第一生成器学习标注影像x与未标注影像y的像素交互关系,从而学习到光流运动信息ΔpA∈Rh*w*c*3,然而,通过Warp基于通过光流运动信息ΔpA,重建出未标注影像为通过Warp基于通过光流运动信息ΔpA,重建出未标注影像的分割影像为
在得到重建的未标注影像后,可以利用生成器GB学习重建影像与标注影像x的像素交互关系,学习到光流运动信息ΔpB。通过Warp基于光流运动信息ΔpB,重建出标注影像为通过Warp基于光流运动信息ΔpB重建出标注影像x的分割影像
(2)、计算机设备基于重建结果计算出损失
比如,根据预设的损失函数和重建结果等计算出损失。在上述实施例介绍的影像重建空间的重建一致性损失、分割空间中的分割一致性损失,本申请实施例引入了如下损失和损失函数:
(2.1)、对抗损失
为了使重建的影像与目标域充分接近,本申请实施例引入对抗损失(AdversarialLoss)。具体公式表达如下:
这里生成器GA希望精确学习标注影像到未标注影像之间的光流运动信息,而判别器D希望区分重建影像与真实未标注影像y。这样生成器GA与判别器D之间就形成了一种对抗,生成器GA希望以最小损失重建而判别器希望以最大损失去区分,即
(2.2)、循环一致性损失
经过标注影像x到重建未标注影像再到重建标注影像(即),希望重建出的标注影像与原始标注影像x一致。此外同样希望在分割空间达到一致性引入循环一致损失如下
(2.2)、轨迹一致性损失
此外,为约束与的光流运动信息,本申请实施例希望ΔpA与ΔpB之间在像素级别呈现轨迹一致性,如图3c所示。为了实现这一约束信息,可以随机构建一个生成一个影像rh*w*c~N(0,I),本申请实施例将光流运动信息ΔpA与ΔpB施加在上面,本申请实施例希望经过这一对变换后,重建出的影像与原始影像r呈现出一致性。整个过程用如下公式表示。
r~N(0,I)
(2.3)、正则损失
为了保证将光流信息用在分割空间里得到的分割掩膜数值属于{0,1},本申请实施例引入哈希损失,以鼓励其尽量接近于0,1。此外,本申请实施例希望学习到的分割掩膜与原始分割xs大小上呈现一致,本申请实施例在上做了约束。整个公式表达如下。
此外本申请实施例希望学习到的分割掩膜在影像上也表达出语义一致性。为此,本申请实施例观察到器官内部的数值分布具有一致性,本申请实施例对影像沿x-axis,y-axis,z-axis分别求导,得到Δyx-axis,Δyy-axis,Δyz-axis。本申请实施例希望分割掩膜与影像在器官微分上呈现一致性。为此,本申请实施例设计了如下损失:
(3)、计算机设备通过上述计算的损失对网络训练,得到训练后第一生成对抗网。
(二)通过训练后第一生成对抗网络中的生成器便可以实现对待分割的医疗影像中的目标对象如器官进行分割。
如图4b所示,以目标对象为器官为例,一种医疗影像分割方法,具体流程如下:
401、计算机设备获取标注医学影像和未标注医学影像。
其中,标注医学影像为已标注了目标器官的医学影像,该未标注医学影像可以来自于未标注影像数据集等。
402、计算设备采用生成器分别对标注医学影像和未标注医学影像进行特征提取,得到未标注医学影像的第一特征信息和标注医学影像的第二特征信息。
例如,参考图2b,生成器可以通过多个卷积层对标注医学影像和未标注医学影像进行特征提取。具体特征提取过程参考上述实施例的描述。
403、计算设备采用生成器基于第一特征信息和第二特征信息获取标注医学影像到未标注医学影像的光流运动信息。
具体地,生成器学习光流运动信息的具体过程可以参考上述实施例的描述,比如,进行非局部操作等。例如,参考图2b所示的过程。
404、计算机设备采用重建模块根据光流运动信息、已标注器官区域进行目标器官区域重建,得到重建后目标器官区域。
例如,可以基于光流运动信息Δp,将标注器官区域内的像素在分割空间中移动,形成重建后目标器官区域,该区域可以作为未标注影像的器官分割区域。
405、计算机设备将重建后目标器官区域作为未标注医学影像的器官分割结果。
由上可知,本申请实施例方案能够通过学习标注影像到未标注影像变换,将标注影像的对象分割如器官分割迁移到标注影像上,利用标注的医学影像对未标注的医学影像进行对象分割如器官分割,避免了传统方案中采用无大量标注数据对分割模型训练,只需提供一个标注影像和一个待分割影像,便可以实现对待分割影像进行分割,大大提升了医疗影像的分割精准性和效率。
为了更好地实施以上方法,本申请实施例还提供一种医学影像分割装置,该医学影像分割装置可以集成在计算机设备,比如服务器或终端等设备中。
例如,如图5a所示,该医学影像分割装置可以包括获取单元501、特征提取单元502、光流单元503和选分割单元504等,如下:
获取单元501,用于获取第一医学影像以及已标注目标对象区域的第二医学影像;
特征提取单元502,用于分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;
光流单元503,用于根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;
分割单元504,用于根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
在一实施例中,参考图5b,所述分割单元504,包括:
重建子单元5041,用于根据所述光流运动信息、已标注目标对象区域进行目标对象区域重建,得到重建后目标对象区域;
分割子单元5042,用于将重建后目标对象区域作为所述第一医学影像的分割结果。
在一实施例中,所述重建子单元5041,用于对所述光流运动信息进行三线性插值处理,得到处理后光流运动信息;基于处理后光流运动信息重建和已标注目标对象区域,进行目标对象区域重建,得到重建后目标对象区域。
在一实施例中,参考图5c,所述光流单元503,可以包括:
关联子单元5031,用于对所述第一特征信息与所述第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息;
采样子单元5032,用于对像素位置对应关系信息进行上采样操作,得到所述第二医学影像到所述第一医学影像的光流运动信息。
在一实施例中,所述关联子单元5031,可以具体用于:
对第一医学影像的第一特征信息进行卷积操作,得到第一卷积特征信息;
对第二医学影像的第二特征信息进行卷积操作,得到第二卷积特征信息;
将所述第一卷积特征信息与所述第二卷积特征信息相互融合,得到第一融合特征信息;
将所述第一融合特征信息与所述第一卷积特征信息相互融合,得到第二医学影像与第一医学影像之间的像素位置对应关系信息。
在一实施例中,所述光流单元503,具体用于:采用训练后第一生成对抗网络中的第一生成器,根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息。
在一实施例中,参考图5d,本申请医学影像分割装置还包括:
样本获取单元505,用于获取第一样本医学影像以及已标注目标对象区域的第二样本医学影像;
第一样本光流单元506,用于采用第一生成对抗网络中的第一生成器获取所述第二样本医学影像到所述第一样本医学影像的第一样本光流运动信息,
第一重建单元507,用于采用所述第一生成对抗网络中第一重建模块,基于所述第一样本光流运动信息进行影像重建,得到所述第一样本医学影像对应的第一重建后医学影像、第一分割结果;
第二样本光流单元508,用于采用第二生成对抗网络中第二生成器,获取所述第一重建后医学影像到所述第二样本医学影像的第二样本光流运动信息;
第二重建单元509,用于采用第二生成对抗网络中第二重建模块,基于所述第二样本光流运动信息进行影像重建,得到所述第二样本医学影像对应的第二重建后医学影像、第二分割结果;
训练单元510,用于根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,参考图5e,所述训练单元510,可以包括:
重建损失获取子单元5101,用于根据第一重建后医学影像、第二重建后医学影像,获取在影像重建空间中的重建一致性损失;
分割损失获取子单元5102,用于根据第一分割结果、第二分割结果以及第二样本医学影像的目标对象标注结果,获取在分割空间中的分割一致性损失;
训练子单元,用于根据所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
在一实施例中,所述重建一致性损失包括:影像重建一致性损失、轨迹一致性损失;所述重建损失获取子单元5101,可以具体用于:
根据第二重建后医学影像和所述第二样本医学影像,获取所述第二样本医学影像与第二重建后医学影像保持一致的影像重建一致性损失;
根据所述第一样本光流运动信息和第二样本光流运动信息,获取所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
在一实施例中,所述分割一致性损失包括影像分割一致性损失、掩膜数值损失、语义一致性损失;
所述分割损失获取子单元5102,用于:
根据所述第二分割结果和目标对象标注结果,获取目标对象标注结果与第二分割结果保持一致的影像分割一致性损失;
根据所述第一分割结果、所述第二分割结果和预设分割掩膜数值,分别获取所述第一分割结果、所述第二分割结果相对于预设分割掩膜数值的掩膜数值损失;
基于第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
在一实施例中,所述分割损失获取子单元5102,用于:
对第一分割结果中像素值沿着预设方向进行求导,得到预设方向的求导结果;
根据预设方向的求导结果和所述第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
在一实施例中,所述重建损失获取子单元5101,可以具体用于:
生成一个原始医学影像;
根据所述第一像素位置映射关系信息和第二样本光流运动信息,对所述参考医学影像进行变换,得到变换后医学影像;
获取所述变换后医学影像与原始医学影像之间的变换损失;
将所述变换损失作为所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
在一实施例中,参考图5f,医学影像分割装置还包括对抗损失获取单元511;
所述对抗损失获取单元511,用于采用第一生成对抗网络中判别器,对所述样本医学影像和所述第一重建后医学影像进行判别,得到判别结果;根据所述第一重建后医学影像、判别结果获取所述第一生成对抗网络的对抗损失
所述训练单元512,用于根据所述对抗损失、所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
具体实施时,以上各个单元可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单元的具体实施可参见前面的方法实施例,在此不再赘述。
由上可知,本申请实施例可以通过获取单元501获取第一医学影像以及已标注目标对象区域的第二医学影像;由特征提取单元502分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;由光流单元503根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;由分割单元504根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。。该方案能够通过学习标注影像到未标注影像变换,将标注影像的对象如器官分割迁移到标注影像上,利用标注的医学影像对未标注的医学影像进行对象如器官分割,大大提升了医疗影像的分割精准性和效率
本申请实施例还提供一种计算机设备,如图6所示,其示出了本申请实施例所涉及的计算机设备的结构示意图,具体来讲:
该计算机设备可以包括一个或者一个以上处理核心的处理器601、一个或一个以上计算机可读存储介质的存储器602、电源603和输入单元604等部件。本领域技术人员可以理解,图6中示出的计算机设备结构并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器601是该计算机设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器602内的软件程序和/或模块,以及调用存储在存储器602内的数据,执行计算机设备的各种功能和处理数据,从而对计算机设备进行整体监控。可选的,处理器601可包括一个或多个处理核心;优选的,处理器601可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器601中。
存储器602可用于存储软件程序以及模块,处理器601通过运行存储在存储器602的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器602可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、影像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器602还可以包括存储器控制器,以提供处理器601对存储器602的访问。
计算机设备还包括给各个部件供电的电源603,优选的,电源603可以通过电源管理系统与处理器601逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源603还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该计算机设备还可包括输入单元604,该输入单元604可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,计算机设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,计算机设备中的处理器601会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器602中,并由处理器601来运行存储在存储器602中的应用程序,从而实现各种功能,如下:
获取第一医学影像以及已标注目标对象区域的第二医学影像;分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
以上各个操作具体可参见前面的实施例,在此不作赘述。
由上可知,本实施例的计算机设备在第一医学影像以及已标注目标对象区域的第二医学影像之后;分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果,因此,该方案能够通过学习标注影像到未标注影像变换,将标注影像的对象如器官分割迁移到标注影像上,利用标注的医学影像对未标注的医学影像进行对象如器官分割,大大提升了医疗影像的分割精准性和效率。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种计算机可读存储介质,其中存储有计算机程序,该计算机程序能够被处理器进行加载,以执行本申请实施例所提供的任一种医学影像分割方法中的步骤。例如,该计算机程序可以执行如下步骤:
获取第一医学影像以及已标注目标对象区域的第二医学影像;分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该计算机可读存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该计算机可读存储介质中所存储的指令,可以执行本申请实施例所提供的任一种医学影像分割方法中的步骤,因此,可以实现本申请实施例所提供的任一种医学影像分割方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种医学影像分割方法、装置、计算机设备和计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (16)
1.一种医学影像分割方法,其特征在于,包括:
获取第一医学影像以及已标注目标对象区域的第二医学影像;
分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;
根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;
根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
2.如权利要求1所述的医学影像分割方法,其特征在于,根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果,包括:
根据所述光流运动信息、已标注目标对象区域进行目标对象区域重建,得到重建后目标对象区域;
将重建后目标对象区域作为所述第一医学影像的分割结果。
3.如权利要求2所述的医学影像分割方法,其特征在于,根据所述光流运动信息、已标注目标对象区域进行目标对象区域重建,包括:
对所述光流运动信息进行三线性插值处理,得到处理后光流运动信息;
基于处理后光流运动信息和已标注目标对象区域,进行目标对象区域重建,得到重建后目标对象区域。
4.如权利要求1所述的医学影像分割方法,其特征在于,根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息,包括:
对所述第一特征信息与所述第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息;
对像素位置对应关系信息进行上采样操作,得到所述第二医学影像到所述第一医学影像的光流运动信息。
5.如权利要求4所述的医学影像分割方法,其特征在于,对所述第一特征信息与所述第二特征信息进行关联,得到第二医学影像与第一医学影像之间的像素位置对应关系信息,包括:
对第一医学影像的第一特征信息进行卷积操作,得到第一卷积特征信息;
对第二医学影像的第二特征信息进行卷积操作,得到第二卷积特征信息;
将所述第一卷积特征信息与所述第二卷积特征信息相互融合,得到第一融合特征信息;
将所述第一融合特征信息与所述第一卷积特征信息相互融合,得到第二医学影像与第一医学影像之间的像素位置对应关系信息。
6.如权利要求1所述的医学影像分割方法,其特征在于,根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的像素位置映射关系信息,包括:
采用训练后第一生成对抗网络中的第一生成器,根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息。
7.如权利要求6所述的医学影像分割方法,其特征在于,还包括:
获取第一样本医学影像以及已标注目标对象区域的第二样本医学影像;
采用第一生成对抗网络中的第一生成器获取所述第二样本医学影像到所述第一样本医学影像的第一样本光流运动信息,
采用所述第一生成对抗网络中第一重建模块,基于所述第一样本光流运动信息进行影像重建,得到所述第一样本医学影像对应的第一重建后医学影像、第一分割结果;
采用第二生成对抗网络中第二生成器,获取所述第一重建后医学影像到所述第二样本医学影像的第二样本光流运动信息;
采用第二生成对抗网络中第二重建模块,基于所述第二样本光流运动信息进行影像重建,得到所述第二样本医学影像对应的第二重建后医学影像、第二分割结果;
根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
8.如权利要求7所述的医学影像分割方法,其特征在于,根据第一重建后医学影像、第一分割结果、第二重建后医学影像、第二分割结果,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络,包括:
根据第一重建后医学影像、第二重建后医学影像,获取在影像重建空间中的重建一致性损失;
根据第一分割结果、第二分割结果以及第二样本医学影像的目标对象标注结果,获取在分割空间中的分割一致性损失;
根据所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
9.如权利要求8所述的医学影像分割方法,其特征在于,所述重建一致性损失包括:影像重建一致性损失、轨迹一致性损失;
根据第一重建后医学影像、第二重建后医学影像,获取在影像重建空间中的重建一致性损失,包括:
根据第二重建后医学影像和所述第二样本医学影像,获取所述第二样本医学影像与第二重建后医学影像保持一致的影像重建一致性损失;
根据所述第一样本光流运动信息和第二样本光流运动信息,获取所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
10.如权利要求8所述的医学影像分割方法,其特征在于,所述分割一致性损失包括影像分割一致性损失、掩膜数值损失、语义一致性损失;
根据第一分割结果、第二分割结果以及第二样本医学影像的目标对象标注结果,获取在分割空间中的分割一致性损失,包括:
根据所述第二分割结果和目标对象标注结果,获取目标对象标注结果与第二分割结果保持一致的影像分割一致性损失;
根据所述第一分割结果、所述第二分割结果和预设分割掩膜数值,分别获取所述第一分割结果、所述第二分割结果相对于预设分割掩膜数值的掩膜数值损失;
基于第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
11.如权利要求10所述的医学影像分割方法,其特征在于,基于第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失,包括:
对第一分割结果中像素值沿着预设方向进行求导,得到预设方向的求导结果;
根据预设方向的求导结果和所述第一分割结果,构建第一分割结果在影像上保持语义一致性的语义一致性损失。
12.如权利要求9所述的医学影像分割方法,其特征在于,根据所述第一样本光流运动信息和第二样本光流运动信息,获取所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失,包括:
生成一个原始医学影像;
根据所述第一像素位置映射关系信息和第二样本光流运动信息,对所述参考医学影像进行变换,得到变换后医学影像;
获取所述变换后医学影像与原始医学影像之间的变换损失;
将所述变换损失作为所述第一样本光流运动信息与第二样本光流运动信息呈现轨迹一致的轨迹一致性损失。
13.如权利要求8所述的医学影像分割方法,其特征在于,所述方法还包括:
采用第一生成对抗网络中判别器,对所述样本医学影像和所述第一重建后医学影像进行判别,得到判别结果;
根据所述第一重建后医学影像、判别结果获取所述第一生成对抗网络的对抗损失;
根据所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络,包括:
根据所述对抗损失、所述重建一致性损失、分割一致性损失,对所述第一生成对抗网络进行训练,得到训练后第一生成对抗网络。
14.一种医学影像分割装置,其特征在于,包括:
获取单元,用于获取第一医学影像以及已标注目标对象区域的第二医学影像;
特征提取单元,用于分别对所述第一医学影像和所述第二医学影像进行特征提取,得到第一医学影像的第一特征信息和第二医学影像的第二特征信息;
光流单元,用于根据所述第一特征信息和所述第二特征信息获取所述第二医学影像到所述第一医学影像的光流运动信息;
分割单元,用于根据所述光流运动信息、和已标注目标对象区域,对所述第一医学影像中的目标对象进行分割,得到所述第一医学影像的分割结果。
15.一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-13任一项所述方法的步骤。
16.一种计算机设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述程序时实现如权利要求1-13任一项所述方法的步骤。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910764981.XA CN110490881A (zh) | 2019-08-19 | 2019-08-19 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
EP20854167.2A EP3923238A4 (en) | 2019-08-19 | 2020-07-29 | MEDICAL IMAGE SEGMENTATION METHOD AND DEVICE, COMPUTER DEVICE, AND READABLE INFORMATION MEDIA |
PCT/CN2020/105409 WO2021031815A1 (zh) | 2019-08-19 | 2020-07-29 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
JP2021561990A JP7242122B2 (ja) | 2019-08-19 | 2020-07-29 | 医学映像分割方法、装置、コンピュータデバイスおよびコンピュータプログラム |
US17/514,467 US11922638B2 (en) | 2019-08-19 | 2021-10-29 | Medical image segmentation method and apparatus, computer device, and readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910764981.XA CN110490881A (zh) | 2019-08-19 | 2019-08-19 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110490881A true CN110490881A (zh) | 2019-11-22 |
Family
ID=68552010
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910764981.XA Pending CN110490881A (zh) | 2019-08-19 | 2019-08-19 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11922638B2 (zh) |
EP (1) | EP3923238A4 (zh) |
JP (1) | JP7242122B2 (zh) |
CN (1) | CN110490881A (zh) |
WO (1) | WO2021031815A1 (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111127532A (zh) * | 2019-12-31 | 2020-05-08 | 成都信息工程大学 | 基于深度学习特征光流的医学图像形变配准方法及系统 |
CN111317468A (zh) * | 2020-02-27 | 2020-06-23 | 腾讯科技(深圳)有限公司 | 脑电信号分类方法、装置、计算机设备和存储介质 |
CN111369542A (zh) * | 2020-03-06 | 2020-07-03 | 上海联影智能医疗科技有限公司 | 血管标记方法、图像处理系统和存储介质 |
CN111598904A (zh) * | 2020-05-21 | 2020-08-28 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置、设备及存储介质 |
CN111612068A (zh) * | 2020-05-21 | 2020-09-01 | 腾讯科技(深圳)有限公司 | 图像标注方法、装置、计算机设备及存储介质 |
CN112150478A (zh) * | 2020-08-31 | 2020-12-29 | 温州医科大学 | 一种构建半监督图像分割框架的方法及系统 |
WO2021031815A1 (zh) * | 2019-08-19 | 2021-02-25 | 腾讯科技(深圳)有限公司 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
CN112597328A (zh) * | 2020-12-28 | 2021-04-02 | 推想医疗科技股份有限公司 | 标注方法、装置、设备及介质 |
CN113362332A (zh) * | 2021-06-08 | 2021-09-07 | 南京信息工程大学 | Oct影像下冠状动脉管腔轮廓的深度网络分割方法 |
CN113421231A (zh) * | 2021-06-08 | 2021-09-21 | 杭州海康威视数字技术股份有限公司 | 一种出血点检测方法、装置及系统 |
CN113450579A (zh) * | 2021-08-30 | 2021-09-28 | 腾讯科技(深圳)有限公司 | 速度信息的获取方法、装置、设备及介质 |
TWI755214B (zh) * | 2020-12-22 | 2022-02-11 | 鴻海精密工業股份有限公司 | 區分物件的方法、電腦裝置及儲存介質 |
US11282197B2 (en) | 2020-02-13 | 2022-03-22 | National Central University | System for analyzing brain tissue components based on computed tomography image and operation method thereof |
CN114463320A (zh) * | 2022-02-17 | 2022-05-10 | 厦门大学 | 一种磁共振成像脑胶质瘤idh基因预测方法及系统 |
CN116942317A (zh) * | 2023-09-21 | 2023-10-27 | 中南大学 | 一种手术导航定位系统 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11455531B2 (en) * | 2019-10-15 | 2022-09-27 | Siemens Aktiengesellschaft | Trustworthy predictions using deep neural networks based on adversarial calibration |
CN110751702B (zh) * | 2019-10-29 | 2023-06-16 | 上海联影医疗科技股份有限公司 | 图像重建方法、系统、装置及存储介质 |
US20240153038A1 (en) * | 2021-07-15 | 2024-05-09 | Boe Technology Group Co., Ltd. | Image processing method and device, and training method of image processing model and training method thereof |
CN115631196B (zh) * | 2022-12-20 | 2023-03-10 | 杭州太美星程医药科技有限公司 | 图像分割方法、模型的训练方法、装置、设备和存储介质 |
US11926335B1 (en) * | 2023-06-26 | 2024-03-12 | Plusai, Inc. | Intention prediction in symmetric scenarios |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7522749B2 (en) * | 2005-04-08 | 2009-04-21 | Microsoft Corporation | Simultaneous optical flow estimation and image segmentation |
WO2007099525A2 (en) * | 2006-03-03 | 2007-09-07 | Medic Vision - Brain Technologies Ltd. | System and method of automatic prioritization and analysis of medical images |
US7961925B2 (en) * | 2006-11-14 | 2011-06-14 | Siemens Aktiengesellschaft | Method and system for dual energy image registration |
US9305358B2 (en) * | 2013-07-01 | 2016-04-05 | Kabushiki Kaisha Toshiba | Medical image processing |
CN103871076B (zh) * | 2014-02-27 | 2017-07-28 | 西安电子科技大学 | 基于光流法和超像素分割的运动目标提取方法 |
JP6223899B2 (ja) | 2014-04-24 | 2017-11-01 | 株式会社東芝 | 動きベクトル検出装置、距離検出装置および動きベクトル検出方法 |
CN109492608B (zh) * | 2018-11-27 | 2019-11-05 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置、计算机设备及存储介质 |
CN110490881A (zh) * | 2019-08-19 | 2019-11-22 | 腾讯科技(深圳)有限公司 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
-
2019
- 2019-08-19 CN CN201910764981.XA patent/CN110490881A/zh active Pending
-
2020
- 2020-07-29 WO PCT/CN2020/105409 patent/WO2021031815A1/zh unknown
- 2020-07-29 EP EP20854167.2A patent/EP3923238A4/en active Pending
- 2020-07-29 JP JP2021561990A patent/JP7242122B2/ja active Active
-
2021
- 2021-10-29 US US17/514,467 patent/US11922638B2/en active Active
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021031815A1 (zh) * | 2019-08-19 | 2021-02-25 | 腾讯科技(深圳)有限公司 | 医学影像分割方法、装置、计算机设备及可读存储介质 |
US11922638B2 (en) | 2019-08-19 | 2024-03-05 | Tencent Technology (Shenzhen) Company Limited | Medical image segmentation method and apparatus, computer device, and readable storage medium |
CN111127532A (zh) * | 2019-12-31 | 2020-05-08 | 成都信息工程大学 | 基于深度学习特征光流的医学图像形变配准方法及系统 |
US11282197B2 (en) | 2020-02-13 | 2022-03-22 | National Central University | System for analyzing brain tissue components based on computed tomography image and operation method thereof |
TWI767188B (zh) * | 2020-02-13 | 2022-06-11 | 國立中央大學 | 基於電腦斷層成像分析腦組織成分的系統及其運作方法 |
CN111317468A (zh) * | 2020-02-27 | 2020-06-23 | 腾讯科技(深圳)有限公司 | 脑电信号分类方法、装置、计算机设备和存储介质 |
CN111317468B (zh) * | 2020-02-27 | 2024-04-19 | 腾讯科技(深圳)有限公司 | 脑电信号分类方法、装置、计算机设备和存储介质 |
CN111369542A (zh) * | 2020-03-06 | 2020-07-03 | 上海联影智能医疗科技有限公司 | 血管标记方法、图像处理系统和存储介质 |
CN111598904A (zh) * | 2020-05-21 | 2020-08-28 | 腾讯科技(深圳)有限公司 | 图像分割方法、装置、设备及存储介质 |
CN111612068A (zh) * | 2020-05-21 | 2020-09-01 | 腾讯科技(深圳)有限公司 | 图像标注方法、装置、计算机设备及存储介质 |
CN111612068B (zh) * | 2020-05-21 | 2023-01-06 | 腾讯科技(深圳)有限公司 | 图像标注方法、装置、计算机设备及存储介质 |
CN112150478A (zh) * | 2020-08-31 | 2020-12-29 | 温州医科大学 | 一种构建半监督图像分割框架的方法及系统 |
TWI755214B (zh) * | 2020-12-22 | 2022-02-11 | 鴻海精密工業股份有限公司 | 區分物件的方法、電腦裝置及儲存介質 |
CN112597328A (zh) * | 2020-12-28 | 2021-04-02 | 推想医疗科技股份有限公司 | 标注方法、装置、设备及介质 |
CN113421231A (zh) * | 2021-06-08 | 2021-09-21 | 杭州海康威视数字技术股份有限公司 | 一种出血点检测方法、装置及系统 |
CN113362332A (zh) * | 2021-06-08 | 2021-09-07 | 南京信息工程大学 | Oct影像下冠状动脉管腔轮廓的深度网络分割方法 |
CN113450579B (zh) * | 2021-08-30 | 2021-12-14 | 腾讯科技(深圳)有限公司 | 速度信息的获取方法、装置、设备及介质 |
CN113450579A (zh) * | 2021-08-30 | 2021-09-28 | 腾讯科技(深圳)有限公司 | 速度信息的获取方法、装置、设备及介质 |
CN114463320A (zh) * | 2022-02-17 | 2022-05-10 | 厦门大学 | 一种磁共振成像脑胶质瘤idh基因预测方法及系统 |
CN114463320B (zh) * | 2022-02-17 | 2024-01-26 | 厦门大学 | 一种磁共振成像脑胶质瘤idh基因预测方法及系统 |
CN116942317A (zh) * | 2023-09-21 | 2023-10-27 | 中南大学 | 一种手术导航定位系统 |
CN116942317B (zh) * | 2023-09-21 | 2023-12-26 | 中南大学 | 一种手术导航定位系统 |
Also Published As
Publication number | Publication date |
---|---|
US11922638B2 (en) | 2024-03-05 |
EP3923238A1 (en) | 2021-12-15 |
JP7242122B2 (ja) | 2023-03-20 |
EP3923238A4 (en) | 2022-06-22 |
JP2022529682A (ja) | 2022-06-23 |
US20220051416A1 (en) | 2022-02-17 |
WO2021031815A1 (zh) | 2021-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110490881A (zh) | 医学影像分割方法、装置、计算机设备及可读存储介质 | |
Tome et al. | Selfpose: 3d egocentric pose estimation from a headset mounted camera | |
CN109872328A (zh) | 一种脑部图像分割方法、装置和存储介质 | |
Zhao et al. | Mt-uda: Towards unsupervised cross-modality medical image segmentation with limited source labels | |
CN113496507A (zh) | 一种人体三维模型重建方法 | |
CN110390674A (zh) | 图像处理方法、装置、存储介质、设备以及系统 | |
Havaei et al. | Conditional generation of medical images via disentangled adversarial inference | |
CN108596256A (zh) | 一种基于rgb-d物体识别分类器构造方法 | |
Wang et al. | ParallelNet: Multiple backbone network for detection tasks on thigh bone fracture | |
Huang et al. | A review of 3D human body pose estimation and mesh recovery | |
Zeng et al. | Adaptive medical image deep color perception algorithm | |
Li et al. | Automatic dental plaque segmentation based on local-to-global features fused self-attention network | |
Mamdouh et al. | A New Model for Image Segmentation Based on Deep Learning. | |
Ganatra | A comprehensive study of applying object detection methods for medical image analysis | |
Li et al. | Learning disentangled representation for one-shot progressive face swapping | |
Zhan et al. | Uniclam: Contrastive representation learning with adversarial masking for unified and interpretable medical vision question answering | |
Amara et al. | Augmented reality for covid-19 aid diagnosis: Ct-scan segmentation based deep learning | |
Zhang et al. | G-Heart: A GPU-based System for Electrophysiological Simulation and Multi-modality Cardiac Visualization. | |
CN109685843A (zh) | 一种基于头颅ct影像的核心梗死体积的测量方法及系统 | |
CN108573514A (zh) | 一种图像的三维融合方法及装置、计算机存储介质 | |
Ma et al. | [Retracted] Image Segmentation Technology Based on Attention Mechanism and ENet | |
Huang et al. | Detail-preserving controllable deformation from sparse examples | |
Liang et al. | Facial skin beautification using region-aware mask | |
Suthar et al. | A review of generative adversarial-based networks of machine learning/artificial intelligence in healthcare | |
Zhang et al. | Consecutive knowledge meta-adaptation learning for unsupervised medical diagnosis |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |