CN113298831B - 图像分割方法、装置、电子设备及存储介质 - Google Patents
图像分割方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113298831B CN113298831B CN202110737464.0A CN202110737464A CN113298831B CN 113298831 B CN113298831 B CN 113298831B CN 202110737464 A CN202110737464 A CN 202110737464A CN 113298831 B CN113298831 B CN 113298831B
- Authority
- CN
- China
- Prior art keywords
- image sequence
- region
- reference image
- segmented
- segmentation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000003709 image segmentation Methods 0.000 title claims abstract description 45
- 230000011218 segmentation Effects 0.000 claims abstract description 293
- 238000001514 detection method Methods 0.000 claims abstract description 57
- 210000004204 blood vessel Anatomy 0.000 claims description 124
- 230000002792 vascular Effects 0.000 claims description 25
- 238000004422 calculation algorithm Methods 0.000 claims description 15
- 238000005457 optimization Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 abstract description 15
- 238000003745 diagnosis Methods 0.000 abstract description 6
- 230000006870 function Effects 0.000 description 21
- 238000012549 training Methods 0.000 description 14
- 238000007917 intracranial administration Methods 0.000 description 13
- 238000004458 analytical method Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 230000009466 transformation Effects 0.000 description 8
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 8
- 210000001715 carotid artery Anatomy 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 230000003902 lesion Effects 0.000 description 5
- 238000002595 magnetic resonance imaging Methods 0.000 description 5
- 238000011524 similarity measure Methods 0.000 description 5
- 208000037260 Atherosclerotic Plaque Diseases 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000002308 calcification Effects 0.000 description 3
- 208000026106 cerebrovascular disease Diseases 0.000 description 3
- 150000002632 lipids Chemical class 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000001373 regressive effect Effects 0.000 description 3
- 208000032843 Hemorrhage Diseases 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 2
- 208000025865 Ulcer Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000002757 inflammatory effect Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000000302 ischemic effect Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 231100000397 ulcer Toxicity 0.000 description 2
- 201000001320 Atherosclerosis Diseases 0.000 description 1
- 238000002583 angiography Methods 0.000 description 1
- 210000002376 aorta thoracic Anatomy 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000002939 conjugate gradient method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000001338 necrotic effect Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000002945 steepest descent method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Epidemiology (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Public Health (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种图像分割方法、装置、电子设备及存储介质。该方法包括:将基准图像序列的感兴趣区域输入至区域检测模型,得到基准图像序列的待分割区域,并将待分割区域输入至区域分割模型,得到基准图像序列的区域分割结果,进而基于基准图像序列的区域分割结果,以及预先得到的基准图像序列和待配准图像序列的序列配准关系,确定待配准图像序列的区域分割结果,从而得到目标对象的各图像序列的区域分割结果,实现了待分割区域的快速、自动定位,并且,提高了多图像序列的分割效率以及分割准确性。同时,得到的多图像序列的区域分割结果还可用于进行病灶相关参数的定量计算,辅助医生进行快速诊断。
Description
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及一种图像分割方法、装置、电子设备及存储介质。
背景技术
近年来,脑血管病已经成为我国致死率排名第一的疾病,其中,缺血性脑血管病占据着较高比例。具体的,头颈部血管的动脉粥样硬化斑块是造成缺血性脑血管病的重要病因之一,对动脉粥样硬化斑块的易损性的判断有助于医生尽早对疾病的发展进行判断和干预。示例性的,可以根据采集得到的多序列磁共振的血管壁影像,区分斑块的各种成分如:脂质坏死核、出血、钙化、疏松基质和纤维帽等,对成分的准确划分有助于斑块的分型和易损性判断。
然而,目前相关的研究大部分集中于颈动脉的血管壁分析,但是在颅内血管中动脉粥样硬化同样会发生,对颅内血管进行血管壁分析同样重要。因此,能同时对颈部和颅内血管进行血管壁分析的应用是非常有意义的。
现有技术中,多采用手动或交互式的方式来分割管腔管壁和斑块,然而,手动或交互式的方式的处理过程繁琐、效率低下。或者,结合形状约束的主动轮廓方法以及在图像信号中添加距离特征的方法自动分割管腔管壁和斑块,然而,该方法对于弱边界和不连续边界的分割准确度较低。
因此,现有技术存在分割效率低下,且分割不准确的技术问题;并且,对于血管的病灶部位的定位,上述方法也都只能在人工的参与下确定,无法实现快速、自动的定位到病灶坐标。
发明内容
本发明实施例提供了一种图像分割方法、装置、电子设备及存储介质,以实现快速、自动定位到病灶部位,并且,提高图像效率以及分割的准确性。
第一方面,本发明实施例提供了一种图像分割方法,包括:
获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
可选的,所述待分割区域包括所述目标对象的目标分割血管,所述区域分割结果包括所述目标分割血管的管腔管壁分割结果和斑块分割结果;
所述将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果,包括:
将所述基准图像序列的待分割区域分别输入至预先训练的区域分割模型的管腔管壁分割子模型以及斑块分割子模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果;或者,
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果。
可选的,所述确定所述基准图像序列的感兴趣区域,包括:
获取所述基准图像序列的血管中心线,基于所述血管中心线确定所述基准图像序列的感兴趣区域;或者,
获取用户预设的截取参数,基于所述截取参数确定所述基准图像序列的感兴趣区域。
可选的,所述获取所述基准图像序列的血管中心线,包括:
获取所述基准图像序列的血管上端点和血管下端点;
基于预设优化算法连接所述血管上端点和所述血管下端点,得到所述基准图像序列的血管中心线。
可选的,所述获取所述基准图像序列的血管上端点和血管下端点,包括:
基于区域生长算法得到所述基准图像序列的血管分割信息,基于所述血管分割信息确定所述基准图像序列的血管上端点和血管下端点;或者,
接收用户输入的端点参数,基于所述端点参数确定所述基准图像序列的血管上端点和血管下端点。
可选的,所述方法还包括:
获取所述基准图像和所述至少一个待配准序列的全局配准关系;
基于所述基准图像序列的待分割区域以及所述全局配准关系,确定所述至少一个待配准图像序列的待分割区域。
可选的,所述方法还包括:
基于所述基准图像序列的待分割区域和所述待配准图像序列的待分割区域进行配准,获取所述基准图像序列与所述待配准图像序列的局部配准关系;
根据所述基准图像序列的区域分割结果和所述局部配准关系,确定所述至少一个待配准图像序列的区域分割结果。
第二方面,本发明实施例还提供了一种图像分割装置,该装置包括:
图像序列获取模块,用于获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
区域检测模块,用于确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
基准序列分割模块,用于将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
待配准序列分割模块,用于基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
第三方面,本发明实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例提供的图像分割方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例提供的图像分割方法。
上述发明中的实施例具有如下优点或有益效果:
本发明实施例提供的图像分割方法,将基准图像序列的感兴趣区域输入至区域检测模型,得到基准图像序列的待分割区域,并将待分割区域输入至区域分割模型,得到基准图像序列的区域分割结果,进而基于基准图像序列的区域分割结果,以及预先得到的基准图像序列和待配准图像序列的序列配准关系,确定待配准图像序列的区域分割结果,从而得到目标对象的各图像序列的区域分割结果,实现了待分割区域的快速、自动定位,并且,提高了多图像序列所包含的组织或成分的分割效率以及分割准确性。同时,本发明实施例所得到的多图像序列的区域分割结果还可用于进行病灶相关参数的定量计算,辅助医生进行快速诊断,适用于对颈部和颅内血管进行血管壁分析。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1A为本发明实施例一所提供的一种图像分割方法的流程示意图;
图1B为本发明实施例一所提供的一种区域检测模型的结构示意图;
图2为本发明实施例二所提供的一种图像分割方法的流程示意图;
图3为本发明实施例三所提供的一种图像分割方法的流程示意图;
图4为本发明实施例四所提供的一种图像分割方法的流程示意图;
图5为本发明实施例五所提供的一种图像分割装置的结构示意图;
图6为本发明实施例六所提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1A为本发明实施例一提供的一种图像分割方法的流程示意图,本实施例可适用于确定目标对象扫描得到的各图像序列的区域分割结果的情况,该方法可以由图像分割装置来执行,该装置可以由硬件和/或软件来实现,该方法具体包括如下步骤:
在对本实施例提供的一种图像分割方法进行详细介绍之前,先对本实施例提供的一种图像分割方法的应用场景进行示例性说明。示例性的,该方法可以应用于扫描颈动脉或颅内血管所得的多个MRI(Magnetic Resonance Imaging,磁共振成像)图像序列,以分割出颈动脉或颅内血管的动脉粥样硬化斑块;或者,还可应用于扫描溃疡部位或肿瘤组织所得的多个MRI图像序列,以分割出溃疡部位或肿瘤组织;或者,还可应用于扫描畸变部位或炎症组织所得的多个MRI图像序列,以分割畸变部位或炎症组织,等。下面结合图1A,对本实施例提供的图像分割方法进行详细说明。
S110、获取与目标对象对应的待分割的至少两个图像序列,其中,至少两个图像序列包括基准图像序列以及至少一个待配准图像序列。
其中,目标对象可以是扫描对象,如,头部。具体的,目标对象对应的待分割的图像序列可以是在设定序列下扫描目标对象采集到的MRI图像序列。例如,待分割的至少两个图像序列可以包括T1加权像(T1-weighted imaging,T1WI)、T2加权像(T2-weightedimaging,T2WI)、质子密度加权像、压水序列像、压脂序列像以及T1增强图像中的至少两个。
需要说明的是,待分割的至少两个图像序列可以仅包含3D序列,也可以仅包含2D序列,或者,既包含3D序列又包含2D序列。
在本实施例中,可以将任一待分割的图像序列确定为基准图像序列,将除基准图像序列之外的其它序列作为待配准图像序列。示例性的,基准图像序列为TI加权像;待配准图像序列包括为质子密度加权像。当然,本申请对待配准图像序列的数量不进行限定,其基于针对目标对象扫描到的图像序列的数量确定。
S120、确定基准图像序列的感兴趣区域,将感兴趣区域输入至预先训练的区域检测模型,得到基准图像序列的待分割区域。
其中,基准图像序列的感兴趣区域可以是基准图像序列中包含病灶部位的区域,也可以是包含需要进行分割的组织的区域,还可以是基准图像序列图像本身。感兴趣区域可以是长宽高分别为x、y、z的长方体,即3D区域;也可以是长宽分别为x、y的长方形,即2D区域。在本实施例中,基准图像序列的感兴趣区域的数量可以是一个,也可以是多个。
在一种实施方式中,确定基准图像序列的感兴趣区域,可以是通过人工截取的方式获得。在另一种实施方式中,确定基准图像序列的感兴趣区域,还可以是设置滑动窗口,在基准图像序列中通过滑动窗口遍历选取局部区域,将选取到的局部区域输入至区域检测模型,若区域检测模型输出该局部区域的待分割区域,则该局部区域为感兴趣区域,若区域检测模型未输出该局部区域的待分割区域,或.输出该局部区域的待分割区域为空,则重复通过滑动窗口选取下一局部区域,并将选取到的局部区域输入至区域检测模型的步骤,直至确定出基准图像序列的感兴趣区域。
或者,在另外一种实施方式中,确定基准图像序列的感兴趣区域,还可以是将基准图像序列输入至预先训练的区域检测模型,以使区域检测模型确定基准图像序列的感兴趣区域,并基于确定的感兴趣区域输出基准图像序列的待分割区域。即,区域检测模型还具备提取基准图像序列的感兴趣区域的功能,直接将基准图像序列输入至区域检测模型,区域检测模型提取基准图像序列的感兴趣区域并分割出待分割区域。
具体的,在确定出基准图像序列的感兴趣区域后,将该感兴趣区域输入至预先训练的区域检测模型,以得到区域检测模型输出的基准图像序列的待分割区域。其中,基准图像序列的待分割区域可以是基准图像序列中的病灶区域,也可以是基准图像序列中需要进行分割的组织的所在区域。
具体的,预先训练的区域检测模型还可以输出感兴趣区域中各像素点为待分割区域的概率值,如感兴趣区域的大小为48*48,则区域检测模型输出48*48个概率值,并且,区域检测模型还可以根据预设分割阈值判断各像素点是否为待分割区域的像素点,并进行关键点的输出。其中,关键点可以是概率值超过预设分割阈值的像素点。进一步的,区域检测模型可以根据输出的关键点确定基准图像序列的待分割区域,并输出该待分割区域。即,待分割区域的大小、位置均可以由区域检测模型根据各像素点的概率值判断得出。
在一种具体的实施方式中,区域检测模型为全卷积神经网络模型。在构建区域检测模型时,区域检测网络由多个特征提取模块(Convolutional-BatchNor malizaton-Rectified LinearUnit,CBR)模块、最大池化(Max pooling,MP)模块和输出前处理模块组成。其中,CBR模块包括卷积层、归一化单元和线性修正单元;输出前处理模块包括阈值处理和关键点输出。可选的,阈值处理可以是根据预设分割阈值对各像素点进行判断,关键点输出可以是输出超过预设分割阈值的像素点。
如图1B所示,展示了一种区域检测模型的结构示意图;以输入大小为24*24*24*1的3D感兴趣区域图像为例,对区域检测模型的结构进行说明。具体的,24*24*24*1的感兴趣区域图像经过CBR模块的处理,得到22*22*22*16的特征图,再经过CBR模块以及MR模块的处理,得到10*10*10*16的特征图,再次经过CBR模块的处理,得到8*8*8*32的特征图,再次经过CBR模块以及MR模块的处理,得到3*3*3*32的特征图,再次经过CBR模块的处理,得到1*1*1*64的特征图,最后经过输出前处理模块OutBlock的处理,输出待分割区域。
示例性的,区域检测模型的训练过程如下:将训练所需的样本数据输入至区域检测模型,其中,样本数据包括样本感兴趣区域以及样本标签(样本标签为样本感兴趣区域对应的待分割区域);根据区域检测模型输出的预测结果和样本标签计算损失函数;基于损失函数的计算结果对区域检测模型的网络参数进行反向调整,直至其满足收敛条件。其中,收敛条件可以是模型的输出精度满足设定阈值,或者,损失函数的计算结果小于设定数值。
可选的,区域检测模型可以用回归的高斯核(预测结果)与金标准(样本标签)计算损失函数。示例性的,训练时所计算的损失函数可以是soft dice loss,也可以是均方差(Mean Square Error,MSE),当然,还可以是其它损失函数,如focal loss、weighted loss、cross entropy loss等,本申请对此不作限定。具体的,当损失函数采用soft dice loss时,损失函数的计算满足如下公式:
当然,在完成区域检测模型的训练后,还可以对该区域检测模型进行测试。具体的,在模型的测试阶段,区域检测模型仍然对输入的感兴趣区域进行相同的CBR、CBR+MP和OutBlock操作,并对回归的高斯核进行阈值判断,判断其是否为待分割区域的点,并输出待分割区域的坐标。
S130、将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的区域分割结果。
具体的,在得到基准图像序列的待分割区域之后,将其输入至预先训练的区域分割模型,得到区域分割模型输出的基准图像序列的区域分割结果。其中,基准图像序列的待分割区域可以是基准图像序列中的病灶区域,也可以是基准图像序列中需要进行分割的组织的所在区域;基准图像序列的区域分割结果可以是待分割区域所包含的某个特定成分的分割结果,或所有成分的分割结果,也可以是待分割区域所包含的某个特定组织的分割结果,或所有组织的分割结果。
示例性的,若待分割区域包含两种组织,如水和脂肪,通过将待分割区域输入至预先训练得到的区域分割模型,可以得到区域分割模型输出水的分割结果,或者,得到域分割模型输出脂肪的分割结果,或者,得到区域分割模型同时输出水和脂肪的分割结果。
当然,在另一种实施方式中,还可以基于待分割区域所包含的成分,预先训练分割各成分所对应的区域分割模型,以基于各成分对应的区域分割模型,输出待分割区域中该成分的区域分割结果。沿用上例,可以针对水训练得到第一区域分割模型,针对脂肪训练得到第二区域分割模型,通过将待分割区域输入至第一区域分割模型、第二区域分割模型,分别得到基准图像序列中水和脂肪的区域分割结果。
在本实施例中,预先训练的区域分割模型可以是2D V-net网络模型。区域分割模型由编码路径和解码路径构成。编码路径的每个步骤都包括一系列的卷积层、批量标准化、下采样卷积层和参数线性回归单元组成;与编码路径相似,解码路径的每个步骤包括一系列的卷积层、上采样和参数线性回归单元组成。
示例性的,区域分割模型的训练过程如下:将训练所需的样本数据输入至区域分割模型,其中,样本数据包括样本待分割区域以及样本标签(样本标签为样本待分割区域对应的区域分割结果);根据区域分割模型输出的预测结果和样本标签计算损失函数;基于损失函数的计算结果对区域分割模型的网络参数进行反向调整,直至其满足收敛条件。其中,收敛条件可以是模型的输出精度满足设定阈值,或者,损失函数的计算结果小于设定数值;损失函数可以是Dice loss、MSE、Focal loss等。在区域分割模型训练完成后,区域分割模型的测试阶段可以让样本待分割区域以及样本标签输入至训练好的区域分割模型,得到区域分割模型输出的测试结果,以基于测试结果和样本标签计算训练好的模型的预测精度。
需要说明的是,若针对待分割区域所包含的不同成分,均预先训练各成分对应的区域分割模型将其分割出来,如水成分的分割对应第一区域分割模型,脂肪成分的分割对应第二区域分割模型,则可以调整上述训练过程中的样本数据,以根据不同的样本数据训练出相应的区域分割模型。具体的,训练第一区域分割模型的样本数据包括样本待分割区域以及样本标签(样本标签为样本待分割区域对应的水成分分割结果);训练第二区域分割模型的样本数据包括样本待分割区域以及样本标签(样本标签为样本待分割区域对应的脂肪成分分割结果)。
S140、基于基准图像序列的区域分割结果、基准图像序列与至少一个待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
其中,序列配准关系可以是基准图像序列和待配准图像序列之间的空间变换配准关系。具体的,待配准图像序列可以基于序列配准关系进行空间变换,使得变换后的待配准图像序列与基准图像序列空间位置无限对齐。
可选的,可以对基准图像序列与待配准图像序列进行空间配准,得到基准图像序列与待配准图像序列的序列配准关系;还可以分别从基准图像序列和待配准图像序列选取局部区域,对选取得到的两局部区域进行空间配准,得到基准图像序列与待配准图像序列的序列配准关系。
需要说明的是,在基准图像序列与待配准图像序列中选取局部区域,以基于局部区域进行空间配准的方式,可以提高配准的效率与配准的精度。示例性的,选取的局部区域可以是基准图像序列与待配准图像序列的感兴趣区域,或者,还可以是基准图像序列与待配准图像序列的边缘信息(梯度值较大的区域),或者,还可以是基准图像序列与待配准图像序列的待分割区域,等。
具体的,对基准图像序列与待配准图像序列进行空间配准,包括:通过不断调整待配准图像序列的空间位置,直至基准图像序列与调整后的待配准图像序列的相似性测度的计算值最大,得到待配准图像序列与基准图像序列的序列配准关系。换言之,对基准图像序列与待配准图像序列进行空间配准,可以理解为寻找两者最佳空间变换的优化问题,空间边换的调整对应着相似性测度的变化,通过迭代的方式使用最速下降法来不断求得相似性测度最大的值,也就是不断调整空间变换以获得最优变换的过程。
示例性的,相似性测度可以是互信息。互信息的计算满足如下公式:
其中,A可以是待配准图像序列/基准图像序列,B可以是基准图像序列/待配准图像序列,pAB(a,b)为待配准图像序列与基准图像序列的联合分布,pA(a)、pB(b)分别为A、B的边缘分布,I(A,B)为A、B的互信息。
当然,相似性测度还可以是待配准图像序列与基准图像序列的汉明距离、欧式距离、信息熵、杰卡德相似系数、夹角余弦、切比雪夫距离等,本实施例对此不进行限定。
具体的,针对每一个待配准图像序列,均需计算其与基准图像序列之间的序列配准关系;在得到每一个待配准图像序列与基准图像序列之间的序列配准关系后,根据基准图像序列的区域分割结果以及序列配准关系,即可得到每一个待配准图像序列的区域分割结果。示例性的,可以是基于序列配准关系对待配准图像序列进行空间变换,在变换后根据基准图像序列的区域分割结果得到待配准图像序列的区域分割结果。
需要说明的是,在得到基准图像序列的区域分割结果以及各待配准图像序列的区域分割结果后,即目标对象对应的待分割的各图像序列的区域分割结果,可选的,本实施例提出的图像分割方法还包括:基于各图像序列的区域分割结果进行相关参数的定量计算。其中,相关参数可以是区域分割结果中已分割成分的参数。
示例性的,在分割颈动脉或颅内血管的动脉粥样硬化斑块、血管管腔管壁的应用场景中,区域分割结果可以是血管管腔管壁以及斑块,或者,血管管腔管壁、斑块以及斑块成分(纤维帽,钙化,脂质等)。相关参数可以是血管参数或斑块参数,其中,血管参数包括但不限于管腔直径、管壁直径、管壁厚度、管腔管壁面积、标准化管壁指数、重构系数;斑块参数包括但不限于斑块面积、斑块体积、成分占比、强化程度。
在本实施例中,通过对各图像序列的区域分割结果进行相关参数的定量计算,得到区域分割结果中各成分的分析结果,该分析结果可用于辅助医生进行快速诊断,提高了医生的诊断效率。并且,本实施例的图像分割方法还可同时适用于颈部和颅内血管进行血管壁分析,相比于现有技术仅可以实现对颈动脉的血管分析,本实施例提供的图像分割方法,不仅可以对颈部血管进行血管壁分析,还可以对颅内血管进行血管壁分析,提高了血管壁分析的适用范围。
本实施例的技术方案,将基准图像序列的感兴趣区域输入至区域检测模型,得到基准图像序列的待分割区域,并将待分割区域输入至区域分割模型,得到基准图像序列的区域分割结果,进而基于基准图像序列的区域分割结果,以及预先得到的基准图像序列和待配准图像序列的序列配准关系,确定待配准图像序列的区域分割结果,从而得到目标对象的各图像序列的区域分割结果,实现了待分割区域的快速、自动定位,并且,提高了多图像序列所包含的组织或成分的分割效率以及分割准确性。同时,本发明实施例所得到的多图像序列的区域分割结果还可用于进行相关参数的定量计算,辅助医生进行快速诊断。
实施例二
图2为本发明实施例二提供的一种图像分割方法的流程示意图,本实施例在上述各实施例的基础上,可选的,待分割区域包括目标对象的目标分割血管,区域分割结果包括目标分割血管的管腔管壁分割结果和斑块分割结果;将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的区域分割结果,包括:将基准图像序列的待分割区域分别输入至预先训练的区域分割模型的管腔管壁分割子模型以及斑块分割子模型,得到所述基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果;或者,将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果。
其中与上述各实施例相同或相应的术语的解释在此不再赘述。参见图2,本实施例提供的图像分割方法包括如下步骤:
S210、获取与目标对象对应的待分割的至少两个图像序列,其中,至少两个图像序列包括基准图像序列以及至少一个待配准图像序列。
S220、确定基准图像序列的感兴趣区域,将感兴趣区域输入至预先训练的区域检测模型,得到基准图像序列的待分割区域,其中,待分割区域包括目标对象的目标分割血管。
具体的,在本实施例中,待分割区域包括目标对象的目标分割血管,如,目标对象的颈动脉血管,或目标对象的颅内血管。即,本实施例可以针对颈动脉血管或颅内血管进行分割,得到颈动脉血管或颅内血管所包含的组织的分割结果,如血管管腔管壁、斑块的分割结果。
S230、将基准图像序列的待分割区域分别输入至预先训练的区域分割模型的管腔管壁分割子模型以及斑块分割子模型,得到所述基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果;或者,将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果。
其中,区域分割结果包括目标分割血管的管腔管壁分割结果和目标分割血管的斑块分割结果。区域分割结果包括管腔管壁分割结果和斑块分割结果时,可以针对管腔管壁分割结果和斑块分割结果进行定量计算。
在一种实施方式中,区域分割模型包括管腔管壁子模型和斑块分割子模型,将基准图像序列的待分割区域分别输入至区域分割模型的管腔管壁分割子模型以及斑块分割子模型,可以得到管腔管壁分割子模型输出的目标分割血管的管腔管壁分割结果,以及斑块分割子模型输出的目标分割血管的斑块分割结果。
在另一种实施方式中,区域分割模型本身具有多标签分割功能,可以将基准图像序列的待分割区域输入至区域分割模型,得到区域分割模型同时输出的管腔管壁分割结果和斑块分割结果,或者,得到区域分割模型先输出的管腔管壁分割结果和后输出的斑块分割结果,等。
具体的,区域分割模型、管腔管壁子分割模型和斑块子分割模型可以是V-net网络模型。管腔管壁分割子模型和斑块分割子模型的训练过程可以参见上述实施例中的描述,在此不再进行赘述。需要说明的是,管腔管壁分割子模型和斑块分割子模型的训练分别采用不同的样本数据,具体的,管腔管壁分割子模型的样本数据包括样本待分割区域以及样本标签(样本标签为样本待分割区域对应的管腔管壁分割结果);斑块分割子模型的样本数据包括样本待分割区域以及样本标签(样本标签为样本待分割区域对应的斑块分割结果)。
在一种实施方式中,将基准图像序列的待分割区域输入至预先训练的斑块分割子模型,得到基准图像序列的目标分割血管的斑块分割结果,包括:将基准图像序列的待分割区域输入至预先训练的斑块分割子模型,得到基准图像序列的目标分割血管的斑块分割结果以及斑块的各成分的分割结果。
即,在该可选的实施方式中,训练出的斑块分割子模型不仅可以输出目标分割血管中斑块分割结果,还可以输出斑块的各成分的分割结果。其中,斑块的成分可以是诸如纤维帽、出血、钙化、疏松基质、脂质等成分。可选的,训练出的斑块分割子模型还可以输出斑块的各成分的参考信息,其中,各成分的参考信息可以是各成分的成分标识或成分所占比例。
在本实施例中,斑块分割子模型既可以将斑块作为一个整体,在待分割区域中将其分割出来;还可以对斑块的组成成分进行划分,在分割出斑块的同时,将斑块所包含的各成分也一并分割出来,并输出各成分对应的标签。
S240、基于基准图像序列的区域分割结果、基准图像序列与至少一个待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
本实施例的技术方案,可以通过管腔管壁分割子模型和斑块分割子模型,得到基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果,或者直接通过区域分割模型得到基准图像序列的目标分割血管的管腔管壁分割结果和斑块分割结果,在实现目标分割血管的快速定位的同时,实现了颈动脉血管或颅内血管的管腔管壁、斑块的自动分割,提高了血管管腔管壁和斑块分割的效率以及准确率。
实施例三
图3为本发明实施例三提供的一种图像分割方法的流程示意图,本实施例在上述各实施例的基础上,可选的,确定基准图像序列的感兴趣区域,包括:获取基准图像序列的血管中心线,基于血管中心线确定基准图像序列的感兴趣区域;或者,获取用户预设的截取参数,基于截取参数确定基准图像序列的感兴趣区域。
其中与上述各实施例相同或相应的术语的解释在此不再赘述。参见图3,本实施例提供的图像分割方法包括如下步骤:
S310、获取与目标对象对应的待分割的至少两个图像序列,其中,至少两个图像序列包括基准图像序列以及至少一个待配准图像序列。
S320、获取基准图像序列的血管中心线,基于血管中心线确定基准图像序列的感兴趣区域;或者,获取用户预设的截取参数,基于截取参数确定基准图像序列的感兴趣区域。
其中,基准图像序列以及待配准图像序列可以是包含颈动脉血管或颅内血管的图像序列。在本实施例中,感兴趣区域可以是人工选取的,也可以是自动获取的。
下面对自动获取感兴趣区域的方案进行介绍。在一种实施方式中,基于血管中心线确定基准图像序列的感兴趣区域,包括:将包含血管中心线的区域确定为基准图像序列的感兴趣区域。在另一种实施方式中,基于血管中心线确定基准图像序列的感兴趣区域,包括:沿着血管中心线选取局部区域作为感兴趣区域。具体的,沿着血管中心线选取局部区域作为感兴趣区域,包括:基于血管中心点作切线,按照垂直于所述切线的方向截取3D或2D的感兴趣区域。其中,血管中心点可以是血管中心线上的任一点。
在人工选取感兴趣区域的方案中,用户传入的截取参数包括但不限于图像分辨率以及滑动步长。可以根据用户预设的截取参数,遍历基准图像序列直至选取出感兴趣区域。
需要说明的是,若基准图像序列为2D序列,则可以不提取基准图像序列的血管中心线,直接在2D基准图像序列上以遍历的方式获取感兴趣区域。
可选的,若选取的感兴趣区域不具备对应的待分割区域,则可以基于本实施例提供的方法重复选取感兴趣区域,直至确定出待分割区域位置;或者,该选取的感兴趣区域的待分割区域已分割完成,则也可以基于本实施例提供的方法重复选取感兴趣区域,以对下一感兴趣区域的待分割区域进行分割。
在本实施例中,基准图像序列的血管中心线可以是根据人工传入的参数确定的,也可以是自动对基准图像序列进行分析后确定的。
在后一种方式中,可选的,获取基准图像序列的血管中心线,包括:获取基准图像序列的血管上端点和血管下端点;基于预设优化算法连接血管上端点和血管下端点,得到基准图像序列的血管中心线。
其中,血管上端点、血管下端点可以分别是基准图像序列所包含的血管的上端点以及下端点。血管上端点和血管下端电可以是根据人工传入的参数确定的,也可以是自动对基准图像序列进行分析后确定的。
即,可选的,获取基准图像序列的血管上端点和血管下端点,包括:基于区域生长算法得到基准图像序列的血管分割信息,基于血管分割信息确定基准图像序列的血管上端点和血管下端点;或者,接收用户输入的端点参数,基于端点参数确定基准图像序列的血管上端点和血管下端点。
在自动获取血管上端点和血管下端点的方案中,示例性的,基于区域生长算法得到基准图像序列的血管分割信息,包括:计算基准图像序列的全局阈值和种子点,基于全局阈值和种子点进行区域生长算法的计算,根据区域生长算法的计算结果获取基准图像序列的血管分割信息。其中,全局阈值可以是基准图像序列的灰度全局阈值(代表同一类图像信息灰度值的差值);种子点可以是人工设置的,也可以是自动将图像序列的左上角的第一个像素点确定为第一个种子点,在扩张的过程中第一个不符合生长合并规则的位置作为下一次生长的种子,即,首次选定,后期自适应确定。
在得到血管分割信息后,在一种实施方式中,基于血管分割信息确定基准图像序列的血管上端点和血管下端点,包括:利用水平集方法计算距离场,通过主动脉弓的定位的方式获取血管下端点,通过坐标点的高度分量确定血管上端点。
在获取用户传入的血管上端点和血管下端点的方案中,通过用户交互式传入的两个端点的端点参数,确定血管上端点和血管下端点。
在一个具体的实施方式中,可以是通过上述自动获取血管上端点和血管下端点的方案,得到MRA(Magnetic Resonance Angiography,磁共振血管造影)图像序列的血管中心线,通过MRA图像序列与其它图像序列的序列配准关系,得到其它图像序列的血管中心线。示例性的,获取T1增强图像序列的血管中心线,并基于T1加权图像序列和T1增强图像序列的序列配准关系,得到T1加权图像序列的血管中心线。还可以是通过上述获取手动传入的血管上端点和血管下端点的方案,得到MRA图像序列、T1加权图像序列、T2加权图像序列等图像序列的血管中心线。
在该可选的实施方式中,基于区域生长算法获取基准图像序列的血管上端点和血管下端点,或基于用户传入的端点参数获取基准图像序列的血管上端点和血管下端点,实现了血管上端点和血管下端点的定位,进而实现了血管中心线的准确获取,进一步的,实现了包含血管中心线的感兴趣区域的准确确定。
在得到基准图像序列的血管上端点和血管下端点后,可以通过水平集计算距离场,并基于预设优化算法连接血管上端点和血管下端点,得到基准图像序列的血管中心线。其中,预设优化算法可以是最速梯度下降法、牛顿法、拟牛顿法或共轭梯度法等。
在该可选的实施方式中,获取基准图像序列的血管上端点和血管下端点,并根据预设优化算法连接血管上端点和血管下端点,得到基准图像序列中的血管中心线,实现了血管中心线的准确获取,进一步的,实现了包含血管中心线的感兴趣区域的准确确定。
S330、将感兴趣区域输入至预先训练的区域检测模型,得到基准图像序列的待分割区域,其中,待分割区域包括目标对象的目标分割血管。
在本实施例中,确定出的感兴趣区域包括目标对象的目标分割血管,通过将该感兴趣区域输入至预先训练的区域检测模型,可以得到该区域检测模型输出的包含有目标分割血管的待分割区域。
S340、将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的区域分割结果。
S350、基于基准图像序列的区域分割结果、基准图像序列与至少一个待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
本实施例的技术方案,通过血管中心线选取感兴趣区域,或通过用户传入的外部参数选取感兴趣区域,使得可以从选取到的感兴趣区域中检测出包含有目标对象的目标分割血管的待分割区域,进而实现对目标对象的目标分割血管所包含成分或组织的准确分割,便于辅助医生快速判断血管的病变区域以及病变程度。
实施例四
图4为本发明实施例四提供的一种图像分割方法的流程示意图,本实施例在上述各实施例的基础上,可选的,所述图像分割方法还包括:获取基准图像和至少一个待配准序列的全局配准关系;基于基准图像序列的待分割区域以及全局配准关系,确定至少一个待配准图像序列的待分割区域。
其中与上述各实施例相同或相应的术语的解释在此不再赘述。参见图4,本实施例提供的图像分割方法包括如下步骤:
S410、获取与目标对象对应的待分割的至少两个图像序列,其中,至少两个图像序列包括基准图像序列以及至少一个待配准图像序列。
S420、确定基准图像序列的感兴趣区域,将基准图像序列的感兴趣区域输入至预先训练的区域检测模型,得到基准图像序列的待分割区域。
S430、获取基准图像和至少一个待配准序列的全局配准关系;基于基准图像序列的待分割区域以及全局配准关系,确定至少一个待配准图像序列的待分割区域。
其中,基准图像和各待配准序列的全局配准关系可以通过对基准图像序列和待配准图像序列进行空间配准得到。具体的,在得到基准图像和各待配准序列的全局配准关系之后,可以根据基准图像序列的待分割区域和全局配准关系,确定出各待配准图像序列的待分割区域。
S440、将基准图像序列的待分割区域输入至预先训练的区域分割模型,得到基准图像序列的区域分割结果。
S450、基于基准图像序列的区域分割结果、基准图像序列与至少一个待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
可选的,所述方法还包括:基于基准图像序列的待分割区域和待配准图像序列的待分割区域进行配准,获取基准图像序列与待配准图像序列的局部配准关系;根据基准图像序列的区域分割结果和局部配准关系,确定至少一个待配准图像序列的区域分割结果。
即,在该可选的实施方式中,可以通过二次配准的方式,确定出至少一个待配准图像序列的区域分割结果。具体的,先通过全局配准所得到的全局配准关系,确定出待配准图像序列的待分割区域,再通过待分割区域局部配准所得到的局部配准关系,确定出待配准图像序列的区域分割结果。
当然,在另一种实施方式中,还可以通过将待配准图像序列输入至区域检测模型,得到待配准图像序列的待分割区域。
需要说明的是,在该可选的实施方式中,基于基准图像序列的待分割区域和待配准图像序列的待分割区域进行配准,获取基准图像序列与待配准图像序列的局部配准关系,可以是直接基于基准图像序列的待分割区域和待配准图像序列的待分割区域确定出局部配准关系,还可以是基于基准图像序列的待分割区域的局部区域和待配准图像序列的待分割区域的局部区域,确定出局部配准关系。
例如,待分割区域的局部区域可以是待分割区域的中心区域,中心区域的大小可以基于预设的图像分辨率确定;或者,还可以是待分割区域中的病变部位。
在该可选的实施方式中,通过两次配准确定出待配准图像序列的区域分割结果的好处在于:通过多次配准提高待配准图像序列与基准图像序列之间的配准精度,进而提高待配准图像序列的区域分割结果的准确度。
本实施例的技术方案,通过基准图像和至少一个待配准序列的全局配准关系,得到至少一个待配准图像序列的待分割区域,提高了多图像序列的配准精度,进一步的,提高了多图像序列的分割结果的精度,使得多图像序列的分析结果更加准确。
实施例五
图5为本发明实施例五提供的一种图像分割装置的结构示意图,本实施例可适用于确定目标对象扫描得到的各图像序列的区域分割结果的情况,该装置具体包括:图像序列获取模块510、区域检测模块520、基准序列分割模块530以及待配准序列分割模块540。
图像序列获取模块510,用于获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
区域检测模块520,用于确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
基准序列分割模块530,用于将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
待配准序列分割模块540,用于基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
可选的,所述待分割区域包括所述目标对象的目标分割血管,所述区域分割结果包括所述目标分割血管的管腔管壁分割结果和斑块分割结果;所述基准序列分割模块530具体用于:
将所述基准图像序列的待分割区域分别输入至预先训练的区域分割模型的管腔管壁分割子模型以及斑块分割子模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果;或者,
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果。
可选的,所述区域检测模块520包括感兴趣区域确定单元和感兴趣区域检测单元,其中,感兴趣区域确定单元用于确定所述基准图像序列的感兴趣区域,感兴趣区域检测单元用于将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域。
可选的,感兴趣区域确定单元包括第一确定子单元或第二确定子单元,其中,第一确定子单元用于获取所述基准图像序列的血管中心线,基于所述血管中心线确定所述基准图像序列的感兴趣区域;第二确定子单元用于获取用户预设的截取参数,基于所述截取参数确定所述基准图像序列的感兴趣区域。
可选的,第一确定子单元包括端点获取子单元、端点连接子单元以及区域确定子单元,其中,端点获取子单元用于获取所述基准图像序列的血管上端点和血管下端点;端点连接子单元用于基于预设优化算法连接所述血管上端点和所述血管下端点,得到所述基准图像序列的血管中心线;区域确定子单元用于基于所述血管中心线确定所述基准图像序列的感兴趣区域。
可选的,端点获取子单元具体用于:
基于区域生长算法得到所述基准图像序列的血管分割信息,基于所述血管分割信息确定所述基准图像序列的血管上端点和血管下端点;或者,
接收用户输入的端点参数,基于所述端点参数确定所述基准图像序列的血管上端点和血管下端点。
可选的,所述图像分割装置还包括全局配准模块,所述全局配准模块用于:
获取所述基准图像和所述至少一个待配准序列的全局配准关系;
基于所述基准图像序列的待分割区域以及所述全局配准关系,确定所述至少一个待配准图像序列的待分割区域。
可选的,所述图像分割装置还包括二次配准模块,所述二次配准模块用于:
基于所述基准图像序列的待分割区域和所述待配准图像序列的待分割区域进行配准,获取所述基准图像序列与所述待配准图像序列的局部配准关系;
根据所述基准图像序列的区域分割结果和所述局部配准关系,确定所述至少一个待配准图像序列的区域分割结果。
在本实施例中,通过区域检测模块将基准图像序列的感兴趣区域输入至区域检测模型,得到基准图像序列的待分割区域,并通过基准序列分割模块将待分割区域输入至区域分割模型,得到基准图像序列的区域分割结果,进而通过待配准序列分割模块,基于基准图像序列的区域分割结果,以及预先得到的基准图像序列和待配准图像序列的序列配准关系,确定待配准图像序列的区域分割结果,从而得到目标对象的各图像序列的区域分割结果,实现了待分割区域的快速、自动定位,并且,提高了多图像序列所包含的组织或成分的分割效率以及分割准确性。同时,本发明实施例所得到的多图像序列的区域分割结果还可用于进行病灶相关参数的定量计算,辅助医生进行快速诊断。
本发明实施例所提供的图像分割装置可执行本发明任意实施例所提供的图像分割方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述系统所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明实施例的保护范围。
实施例六
图6是本发明实施例六提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施方式的示例性电子设备12的框图。图6显示的电子设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。设备12典型的是承担图像分割功能的电子设备。
如图6所示,电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,存储器28,连接不同组件(包括存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture,ISA)总线,微通道体系结构(Micro Channel Architecture,MCA)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
电子设备12典型地包括多种计算机可读介质。这些介质可以是任何能够被电子设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器28可以包括易失性存储器形式的计算机装置可读介质,例如随机存取存储器(Random Access Memory,RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机存储介质。仅作为举例,存储装置34可以用于读写不可移动的、非易失性磁介质(图6未显示,通常称为“硬盘驱动器”)。尽管图6中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory,CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品40,该程序产品40具有一组程序模块42,这些程序模块被配置以执行本发明各实施例的功能。程序产品40,可以存储在例如存储器28中,这样的程序模块42包括但不限于一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、鼠标、摄像头等和显示器)通信,还可与一个或者多个使得用户能与该电子设备12交互的设备通信,和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网WideArea Network,WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与电子设备12的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks,RAID)装置、磁带驱动器以及数据备份存储装置等。
处理器16通过运行存储在存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明上述实施例所提供的图像分割方法,包括:
获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
当然,本领域技术人员可以理解,处理器还可以实现本发明任意实施例所提供的图像分割方法的技术方案。
实施例七
本发明实施例七还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所提供的图像分割方法步骤,该方法包括:
获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种图像分割方法,其特征在于,包括:
获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
2.根据权利要求1所述的方法,其特征在于,所述待分割区域包括所述目标对象的目标分割血管,所述区域分割结果包括所述目标分割血管的管腔管壁分割结果和斑块分割结果;
所述将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果,包括:
将所述基准图像序列的待分割区域分别输入至预先训练的区域分割模型的管腔管壁分割子模型以及斑块分割子模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果;或者,
将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的所述目标分割血管的管腔管壁分割结果和斑块分割结果。
3.根据权利要求2所述的方法,其特征在于,所述确定所述基准图像序列的感兴趣区域,包括:
获取所述基准图像序列的血管中心线,基于所述血管中心线确定所述基准图像序列的感兴趣区域;或者,
获取用户预设的截取参数,基于所述截取参数确定所述基准图像序列的感兴趣区域。
4.根据权利要求3所述的方法,其特征在于,所述获取所述基准图像序列的血管中心线,包括:
获取所述基准图像序列的血管上端点和血管下端点;
基于预设优化算法连接所述血管上端点和所述血管下端点,得到所述基准图像序列的血管中心线。
5.根据权利要求4所述的方法,其特征在于,所述获取所述基准图像序列的血管上端点和血管下端点,包括:
基于区域生长算法得到所述基准图像序列的血管分割信息,基于所述血管分割信息确定所述基准图像序列的血管上端点和血管下端点;或者,
接收用户输入的端点参数,基于所述端点参数确定所述基准图像序列的血管上端点和血管下端点。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述基准图像和所述至少一个待配准序列的全局配准关系;
基于所述基准图像序列的待分割区域以及所述全局配准关系,确定所述至少一个待配准图像序列的待分割区域。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
基于所述基准图像序列的待分割区域和所述待配准图像序列的待分割区域进行配准,获取所述基准图像序列与所述待配准图像序列的局部配准关系;
根据所述基准图像序列的区域分割结果和所述局部配准关系,确定所述至少一个待配准图像序列的区域分割结果。
8.一种图像分割装置,其特征在于,包括:
图像序列获取模块,用于获取与目标对象对应的待分割的至少两个图像序列,其中,所述至少两个图像序列包括基准图像序列以及至少一个待配准图像序列;
区域检测模块,用于确定所述基准图像序列的感兴趣区域,将所述感兴趣区域输入至预先训练的区域检测模型,得到所述基准图像序列的待分割区域;
基准序列分割模块,用于将所述基准图像序列的待分割区域输入至预先训练的区域分割模型,得到所述基准图像序列的区域分割结果;
待配准序列分割模块,用于基于所述基准图像序列的区域分割结果、所述基准图像序列与至少一个所述待配准图像序列的序列配准关系,确定至少一个待配准图像序列的区域分割结果。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的图像分割方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的图像分割方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110737464.0A CN113298831B (zh) | 2021-06-30 | 2021-06-30 | 图像分割方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110737464.0A CN113298831B (zh) | 2021-06-30 | 2021-06-30 | 图像分割方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113298831A CN113298831A (zh) | 2021-08-24 |
CN113298831B true CN113298831B (zh) | 2022-03-29 |
Family
ID=77330250
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110737464.0A Active CN113298831B (zh) | 2021-06-30 | 2021-06-30 | 图像分割方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113298831B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113808179B (zh) * | 2021-08-31 | 2023-03-31 | 数坤(北京)网络科技股份有限公司 | 一种图像的配准方法、装置及可读存储介质 |
CN114332120A (zh) * | 2021-12-24 | 2022-04-12 | 上海商汤智能科技有限公司 | 图像分割方法、装置、设备及存储介质 |
CN114882017B (zh) * | 2022-06-30 | 2022-10-28 | 中国科学院大学 | 基于颅内动脉图像的薄纤维帽斑块检测的方法及装置 |
CN116664644B (zh) * | 2023-07-28 | 2023-11-28 | 北京清影华康科技有限公司 | 一种基于磁共振图像的血管中心线配准方法及装置 |
CN116934741B (zh) * | 2023-09-11 | 2023-12-26 | 首都医科大学附属北京天坛医院 | 一站式血管壁的成分和定量参数获取方法和装置 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104835112A (zh) * | 2015-05-07 | 2015-08-12 | 厦门大学 | 一种肝脏多相期ct图像融合方法 |
CN109658401A (zh) * | 2018-12-14 | 2019-04-19 | 上海商汤智能科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN110148192A (zh) * | 2019-04-18 | 2019-08-20 | 上海联影智能医疗科技有限公司 | 医学影像成像方法、装置、计算机设备和存储介质 |
CN110570426A (zh) * | 2018-06-06 | 2019-12-13 | 国际商业机器公司 | 使用深度学习的图像联合配准和分割 |
CN110853082A (zh) * | 2019-10-21 | 2020-02-28 | 科大讯飞股份有限公司 | 医学图像配准方法、装置、电子设备及计算机存储介质 |
CN111091567A (zh) * | 2020-03-23 | 2020-05-01 | 南京景三医疗科技有限公司 | 医学图像配准方法、医疗设备及存储介质 |
CN111325714A (zh) * | 2020-01-21 | 2020-06-23 | 上海联影智能医疗科技有限公司 | 感兴趣区域的处理方法、计算机设备和可读存储介质 |
CN111445449A (zh) * | 2020-03-19 | 2020-07-24 | 上海联影智能医疗科技有限公司 | 感兴趣区域的分类方法、装置、计算机设备和存储介质 |
CN112150419A (zh) * | 2020-09-10 | 2020-12-29 | 东软医疗系统股份有限公司 | 图像处理方法、装置及电子设备 |
CN112348861A (zh) * | 2020-11-02 | 2021-02-09 | 上海联影医疗科技股份有限公司 | 图像处理方法、装置、设备及存储介质 |
CN112614143A (zh) * | 2020-12-30 | 2021-04-06 | 深圳市联影高端医疗装备创新研究院 | 一种图像分割方法、装置、电子设备及存储介质 |
CN112767420A (zh) * | 2021-02-26 | 2021-05-07 | 中国人民解放军总医院 | 基于人工智能的核磁影像分割方法、装置、设备和介质 |
-
2021
- 2021-06-30 CN CN202110737464.0A patent/CN113298831B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104835112A (zh) * | 2015-05-07 | 2015-08-12 | 厦门大学 | 一种肝脏多相期ct图像融合方法 |
CN110570426A (zh) * | 2018-06-06 | 2019-12-13 | 国际商业机器公司 | 使用深度学习的图像联合配准和分割 |
CN109658401A (zh) * | 2018-12-14 | 2019-04-19 | 上海商汤智能科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN110148192A (zh) * | 2019-04-18 | 2019-08-20 | 上海联影智能医疗科技有限公司 | 医学影像成像方法、装置、计算机设备和存储介质 |
CN110853082A (zh) * | 2019-10-21 | 2020-02-28 | 科大讯飞股份有限公司 | 医学图像配准方法、装置、电子设备及计算机存储介质 |
CN111325714A (zh) * | 2020-01-21 | 2020-06-23 | 上海联影智能医疗科技有限公司 | 感兴趣区域的处理方法、计算机设备和可读存储介质 |
CN111445449A (zh) * | 2020-03-19 | 2020-07-24 | 上海联影智能医疗科技有限公司 | 感兴趣区域的分类方法、装置、计算机设备和存储介质 |
CN111091567A (zh) * | 2020-03-23 | 2020-05-01 | 南京景三医疗科技有限公司 | 医学图像配准方法、医疗设备及存储介质 |
CN112150419A (zh) * | 2020-09-10 | 2020-12-29 | 东软医疗系统股份有限公司 | 图像处理方法、装置及电子设备 |
CN112348861A (zh) * | 2020-11-02 | 2021-02-09 | 上海联影医疗科技股份有限公司 | 图像处理方法、装置、设备及存储介质 |
CN112614143A (zh) * | 2020-12-30 | 2021-04-06 | 深圳市联影高端医疗装备创新研究院 | 一种图像分割方法、装置、电子设备及存储介质 |
CN112767420A (zh) * | 2021-02-26 | 2021-05-07 | 中国人民解放军总医院 | 基于人工智能的核磁影像分割方法、装置、设备和介质 |
Non-Patent Citations (3)
Title |
---|
MRI图像脑肿瘤分割与EEG脑癫痫检测的研究;李小兵;《中国优秀博硕士学位论文全文数据库(博士)信息科技辑》;20100915;论文全文 * |
基于机器学习和图集的婴幼儿脑MR图像分割算法;邹伟建;《中国优秀博硕士学位论文全文数据库(硕士)医药卫生科技辑》;20190615;论文全文 * |
基于模糊C均值聚类的脑部MR图像分割算法研究;沈晓;《中国优秀博硕士学位论文全文数据库(硕士)医药卫生科技辑》;20200215;论文全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113298831A (zh) | 2021-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113298831B (zh) | 图像分割方法、装置、电子设备及存储介质 | |
WO2021203795A1 (zh) | 一种基于显著性密集连接扩张卷积网络的胰腺ct自动分割方法 | |
CN113496495B (zh) | 可缺失输入的医学图像分割模型建立方法及分割方法 | |
Oghli et al. | Automatic fetal biometry prediction using a novel deep convolutional network architecture | |
CN111429452A (zh) | 基于UNet卷积神经网络的膀胱超声图像分割方法及装置 | |
CN113077479A (zh) | 急性缺血性脑卒中病灶自动分割方法、系统、终端及介质 | |
WO2022100065A1 (zh) | 图像配准方法、装置、电子设备及存储介质 | |
CN113298856B (zh) | 一种图像配准方法、装置、设备和介质 | |
CN110619635B (zh) | 基于深度学习的肝细胞癌磁共振图像分割系统和方法 | |
CN112396605B (zh) | 网络训练方法及装置、图像识别方法和电子设备 | |
CN110648331B (zh) | 用于医学图像分割的检测方法、医学图像分割方法及装置 | |
CN110956634A (zh) | 一种基于深度学习的脑微出血自动检测方法及系统 | |
CN110189258A (zh) | 基于mri多模态序列的颈动脉管腔和管壁自动分割方法 | |
CN114037714A (zh) | 一种面向前列腺系统穿刺的3d mr与trus图像分割方法 | |
CN115409859A (zh) | 冠状动脉血管图像分割方法及装置、存储介质和终端 | |
CN115512110A (zh) | 一种涉及跨模态注意力机制的医学图像肿瘤分割方法 | |
CN116152266A (zh) | 一种穿刺针超声图像的分割方法、装置和系统 | |
CN111192320B (zh) | 一种位置信息确定方法、装置、设备和存储介质 | |
CN114511581B (zh) | 一种多任务多分辨率协作的食管癌病变分割方法及装置 | |
CN116258685A (zh) | 全局和局部特征同时提取与融合的多器官分割方法及装置 | |
CN115311193A (zh) | 一种基于双重注意力机制的异常脑图像分割方法及系统 | |
CN112950734B (zh) | 冠脉重建方法、装置、电子设备和存储介质 | |
CN113192031A (zh) | 血管分析方法、装置、计算机设备和存储介质 | |
US20230115927A1 (en) | Systems and methods for plaque identification, plaque composition analysis, and plaque stability detection | |
CN116416221A (zh) | 一种超声图像分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |