CN116342628B - 病理图像分割方法、装置和计算机设备 - Google Patents

病理图像分割方法、装置和计算机设备 Download PDF

Info

Publication number
CN116342628B
CN116342628B CN202310633451.8A CN202310633451A CN116342628B CN 116342628 B CN116342628 B CN 116342628B CN 202310633451 A CN202310633451 A CN 202310633451A CN 116342628 B CN116342628 B CN 116342628B
Authority
CN
China
Prior art keywords
segmentation
result
information
target
segmented
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310633451.8A
Other languages
English (en)
Other versions
CN116342628A (zh
Inventor
李劲松
付苗苗
胡佩君
周天舒
田雨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Lab
Original Assignee
Zhejiang Lab
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Lab filed Critical Zhejiang Lab
Priority to CN202310633451.8A priority Critical patent/CN116342628B/zh
Publication of CN116342628A publication Critical patent/CN116342628A/zh
Application granted granted Critical
Publication of CN116342628B publication Critical patent/CN116342628B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • G06N3/0455Auto-encoder networks; Encoder-decoder networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请涉及一种病理图像分割方法、装置和计算机设备。所述方法包括:获取预设的待分割染色病理图像;其中,待分割染色病理图像携带有针对目标区域的第一颜色特征信息;根据待分割染色病理图像以及第一颜色特征信息,得到染剂引导信息;将待分割染色病理图像输入至预先训练的目标图像分割模型,得到待分割染色病理图像对应的初始特征提取信息,并将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息;将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到针对待分割染色病理图像中目标区域的目标分割结果。采用本方法能够解决对于病理图像或对于其他图像分割的准确性低的问题。

Description

病理图像分割方法、装置和计算机设备
技术领域
本申请涉及图像处理技术领域,特别是涉及一种病理图像分割方法、装置和计算机设备。
背景技术
随着癌症的发病率和死亡率逐渐增加,癌症诊断和预测的发展迫在眉睫。对于癌症的诊断和预测中,一般是根据细胞核的相关信息来评估疾病的状态和性质进而给出诊断方案,因此细胞核的分割对于癌症的诊治中起着举足轻重的作用。而现如今,对于细胞核图像的分析方法一方面是基于人工诊断的方法,另一方面是基于计算机化的图像分析方法,其中人工诊断的方法费时费力且主观性较强,因此越来越多的专家和学者对计算机化的细胞核图片分割方法进行研究,目前的方法分为基于机器学习的细胞核图像分割方法和基于深度学习的细胞核图像分割方法。
基于机器学习的细胞核分割方法主要有阈值分割法、分水岭法和聚类法等,而深度学习的细胞分割方法主要为U-net网络或基于U-net网络的基础上改进的网络。其中,基于机器学习的细胞核图像分割方法准确度较低,因为该方法对于参数设置的依赖性较高,不同的参数对应不同的细胞核结构和图像特征的提取,因而该特点降低了基于机器学习方法对细胞核图像分割的普适性;而基于深度学习的算法依赖于大量的训练样本,而人工获取病理图的标签存在误差,且成本高,使得有限的数据集难以发挥最大的作用,使得网络预测的目标图像区域不是最接近真实的目标图像区域,从而导致对病理图像的分割准确性较低。
目前针对病理图像分割的准确度低的问题,尚未提出有效的解决方案。
发明内容
基于此,有必要针对上述技术问题,提供一种病理图像分割方法、装置和计算机设备。
第一方面,本申请提供了一种病理图像分割方法。该方法包括:
获取预设的待分割染色病理图像;其中,待分割染色病理图像携带有针对目标区域的第一颜色特征信息;根据待分割染色病理图像以及第一颜色特征信息,得到染剂引导信息;将待分割染色病理图像输入至预先训练的目标图像分割模型,得到待分割染色病理图像对应的初始特征提取信息,并将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息;将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到针对待分割染色病理图像中目标区域的目标分割结果。
在一个实施例中,上述目标图像分割模型包括初步分割网络和第一修正引导模块;将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息,包括:
将染剂引导信息和待分割染色病理图像输入至第一修正引导模块加强对于目标区域的关注,得到区域特征加强信息,并利用第一修正引导模块将区域特征加强信息和待分割染色病理图像进行融合处理得到染剂分割引导信息;将染剂分割引导信息和基于初步分割网络得到的初始特征提取信息进行拼接处理,得到拼接特征信息。
在一个实施例中,上述方法还包括:
对待分割染色病理图像进行矩阵分解处理,得到第一颜色特征信息,基于第一颜色特征信息为待分割染色病理图像中目标区域分配第一权重值,得到染剂引导信息;将染剂引导信息对应的第一权重值与待分割染色病理图像进行相乘处理,得到区域特征加强信息。
在一个实施例中,初步分割网络包括第一编码器和第一解码器;第一编码器包括至少一层初步分割下采样层以及至少一层编码卷积层,第一解码器还包括至少一层初步分割上采样层、至少一层解码卷积层以及特征卷积层;方法还包括:
将染剂引导信息输入至第一修正引导模块,针对第一权重值进行至少一次卷积操作,得到第二权重值,并根据第二权重值得到至少一个染剂采样引导矩阵;将待分割染色病理图像输入至编码卷积层中进行采样处理得到初步特征提取结果,将初步特征提取结果输入至初步分割下采样层中进行采样处理,得到初步分割采样结果,并将染剂采样引导矩阵对应的第二权重值与初步分割采样结果进行加权融合处理,得到第一修正采样结果,并输入至解码卷积层进行解码处理,并输入至初步分割上采样层进行上采样处理,得到初始特征提取信息,其中,第一修正采样结果包括目标区域的边缘损失特征,其中,染剂采样引导矩阵的数量与初步分割下采样层的数量相等。
在一个实施例中,编码卷积层还包括卷积激励模块以及卷积模块;将待分割染色病理图像输入至编码卷积层中进行采样处理,得到初步分割采样结果,包括:
将待分割染色病理图像输入至编码卷积层,通过编码卷积层中的卷积模块进行计算,得到第一初始采样结果,再将第一初始采样结果输入至编码卷积层中的卷积激励模块中进行特征提取处理得到初步特征提取结果,将初步特征提取结果输入至初步分割下采样层中进行采样处理,得到初步分割采样结果。
在一个实施例中,目标图像分割模型还包括再分割网络以及第二修正引导模块,得到针对所述待分割染色病理图像中目标区域的目标分割结果之后,上述方法包括:
获取待分割染色病理图像的预设格式的颜色空间引导信息;将颜色空间引导信息和目标分割结果输入至再分割网络进行再分割处理,并输出再分割预测信息;将颜色空间引导信息和目标分割结果输入至第二修正引导模块进行融合处理得到颜色空间分割引导信息;将颜色空间分割引导信息与再分割预测信息进行融合处理,得到对应于目标区域的再分割结果。
在一个实施例中,再分割网络包括第二编码器和第二解码器,再分割网络包括至少一层再分割下采样层,将目标分割结果输入至再分割网络进行再分割处理,并输出再分割预测结果,包括:
将空间引导信息输入至第二修正引导模块进行至少一次卷积操作,得到空间采样引导信息;将目标分割结果输入至再分割下采样层中进行采样处理,得到再分割采样结果,将目标分割结果、再分割采样结果以及空间采样引导信息进行加权融合处理,得到第二修正采样结果,将第二修正采样结果通过第二解码器进行解码,得到再分割预测结果。
在一个实施例中,将目标分割结果输入至再分割下采样层中进行采样处理,得到再分割采样结果,包括:
将目标分割结果输入至第一个再分割下采样层,输出第一再分割下采样结果,以及将目标分割结果按照预设比例缩小处理得到的第一尺寸分割结果;将第一尺寸分割结果和第一再分割下采样结果进行融合处理,得到第一再分割融合结果,将第一再分割融合结果输入至当前的再分割下采样层,输出当前再分割下采样结果,以及将第一尺寸分割结果按照预设比例缩小处理后得到的第二尺寸分割结果;将第二尺寸分割结果和当前再分割下采样结果输入至下一个再分割下采样层,直至所有再分割下采样层遍历完毕,并输出再分割采样结果。
在一个实施例中,目标图像分割模型还包括重叠细胞检测模型以及重叠细胞分层模型,得到针对待分割染色病理图像中目标区域的目标分割结果之后,上述方法还包括:
将目标分割结果输入至重叠细胞检测模型中进行区域检测处理,得到对应于目标分割结果的细胞连通区域以及细胞闭包区域,以及细胞连通区域和细胞闭包区域之间的重叠信息;当检测到重叠信息小于预设重叠阈值时,基于重叠信息确定目标分割结果中的至少一个目标重叠区域;将目标重叠区域输入至重叠细胞分层模型进行区域分层处理,得到对应于目标重叠区域的至少两个目标区域;基于目标区域中的像素点进行边界转换判断,并基于边界转换判断结果确定所有像素点中的目标像素点;其中,边界转换判断为,若检测到目标区域中的当前像素点的值与当前像素点的邻点像素值相同,且均为预设像素值,则判断当前像素点为目标像素点;从目标区域中删除所述目标像素点,并保留除目标像素点外的剩余像素点,基于剩余像素点得到对应于目标区域的目标区域输出边界,根据目标区域输出边界得到针对待分割染色病理图像中目标区域的最终边界分割结果。
在一个实施例中,将目标重叠区域输入至重叠细胞分层模型进行区域分层处理之前,上述方法还包括:
获取预设的重叠区域训练集,重叠区域训练集包括至少两个待训练重叠区域,重叠区域训练集还携带有重叠区域标签,重叠区域标签由目标编码向量组成;将重叠区域训练集输入至初始重叠细胞分层模型进行训练,得到针对待训练重叠区域的预测编码向量,根据预测编码向量、待训练重叠区域和待训练重叠区域数量,计算得到第一损失函数结果;将预测编码向量与目标编码向量进行数值比对,得到第二损失函数结果;基于第一损失函数结果和第二损失函数结果得到分层损失函数结果,将分层损失函数结果的梯度反向传输至重叠细胞分层模型进行迭代训练,生成训练完备的重叠细胞分层模型。
在一个实施例中,上述方法还包括:
获取预设的病理图像训练集,病理图像训练集携带有细胞核区域特征标签;将病理图像训练集输入至初始神经网络模型进行训练,得到训练病理图像预测结果,根据训练病理图像预测结果与细胞核区域特征标签计算损失函数结果,并将损失函数结果的梯度反向传输至初始神经网络模型进行迭代训练,生成训练完备的目标图像分割模型。
第二方面,本申请还提供了一种病理图像分割装置,该装置包括:
获取模块,用于获取预设的待分割染色病理图像;其中,待分割染色病理图像携带有针对目标区域的第一颜色特征信息;
计算模块,用于根据待分割病理图像以及第一颜色特征信息,得到染剂引导信息;将待分割染色病理图像输入至预先训练的目标图像分割模型,得到待分割染色病理图像对应的初始特征提取信息,并将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息;
生成模块,用于将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到针对待分割染色病理图像中目标区域的目标分割结果。
第三方面,本申请还提供了一种计算机设备,该计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取预设的待分割染色病理图像;其中,待分割染色病理图像携带有针对目标区域的第一颜色特征信息;
根据待分割病理图像以及第一颜色特征信息,得到染剂引导信息;
将待分割染色病理图像输入至预先训练的目标图像分割模型,得到待分割染色病理图像对应的初始特征提取信息,并将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息;将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到针对待分割染色病理图像中目标区域的目标分割结果。
上述基于病理图像分割方法、装置和计算机设备,首先根据获取到的待分割染色病理图像以及待分割染色病理图像的第一颜色特征信息,得到染剂引导信息;而后将待分割染色病理图像输入至预先训练的目标图像分割模型,得到初始特征提取信息,将染剂引导信息和初始特征提取信息拼接后输入至特征卷积层进行特征提取处理,得到目标分割结果。本申请可以根据经过染色后的待分割染色病理图像对初始特征提取信息进行修正,进一步地,根据待分割染色病理图像以及第一颜色特征信息,可以获取至少一个引导信息,本申请解决了对于病理图像或对于其他图像分割的准确性低的问题,实现了高效准确地的完成图像的分割。
附图说明
图1为一个实施例中图像分割方法的应用环境图;
图2为一个实施例中图像分割方法的流程示意图;
图3为一个实施例中图像分割方法中第一修正引导模块的结构示意图;
图4为一个实施例中图像分割方法中初步分割网络的结构示意图;
图5为另一个实施例图像分割方法中空洞空间卷积池化金字塔的结构示意图;
图6为一个实施例中图像分割方法中卷积激励模块的结构示意图;
图7为一个实施例中图像分割方法中第二修正引导模块的结构示意图;
图8为一个实施例中图像分割方法中再分割网络的结构示意图;
图9为一个优选实施例中图像分割方法中流程示意图;
图10为一个优选实施例中图像分割方法的结构示意图;
图11为一个实施例中图像分割装置的结构框图;
图12为一个实施例中图像分割的存储计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的病理图像分割方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104进行通信。数据存储系统可以存储服务器104需要处理的数据。数据存储系统可以集成在服务器104上,也可以放在云上或其他网络服务器上。终端102获取预设的待分割染色病理图像,并基于该待分割染色病理图像以及待分割染色病理图像的第一颜色特征信息得到染剂引导信息,将待分割染色病理图像输入至训练完备的目标图像分割模型中得到初始特征提取信息,并将染剂引导信息与初始特征提取信息进行拼接处理,得到拼接特征信息,将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到待分割染色病理图像中目标区域的目标分割结果。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种病理图像分割方法,本实施例以该方法应用于终端进行举例说明,可以理解的是,该方法也可应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。图1是根据本申请实施例的图像分割方法的流程图,包括以下步骤:
步骤S210,获取预设的待分割染色病理图像;其中,待分割染色病理图像携带有针对目标区域的第一颜色特征信息。
具体地,获取待分割染色病理图像,其中该待分割染色病理图像为,先获取到病理图像,而后对病理图像进行染色,该染色处理的方法可以有多种,本申请以H&E染色(hematoxylin-eosin staining,苏木精-伊红染色)为例,其他类似于H&E染色的方法均可,染色后获取对应于上述病理图像的待分割染色病理图像,上述过程可以通过显微镜完成。而后可以将待分割染色病理图像剪裁至预设大小,如可以将切片剪裁至1000×1000,其中呈碱性的苏木精染剂将细胞核和细胞质的核酸染成蓝紫色,呈酸性的伊红染剂将细胞质染成粉色,即苏木精的主染色区域为细胞核和细胞质中的核酸,伊红染剂的主染色区域为细胞质,待分割染色病理图像中单个像素上包含多种染剂,在通过H&E染色后,单个像素上包含苏木精染剂和伊红染剂,需要在每个像素上对染剂进行分离,上述第一颜色特征信息即为苏木精染剂在各个像素上所占的百分比,其中,第一颜色特征信息中像素百分比比值较高的为苏木精主染色区域,即目标区域细胞核。
步骤S220,根据待分割染色病理图像以及第一颜色特征信息,得到染剂引导信息。
具体地,该染剂引导信息为根据待分割染色病理图像以及苏木精染剂对应的第一颜色特征信息在每个像素上对染剂进行分离得到的,其包括苏木精染剂在像素上所占的百分比,具体地,可以通过非负矩阵分解并采用最小均方差以及稀疏约束的方法实现上述步骤,以获取染剂颜色对应的矩阵W=(w1,w2)其中,w1为苏木精对应的颜色矩阵,w2即为伊红对应的颜色矩阵,苏木精对应的颜色矩阵即为上述染剂引导信息,且w1∈R1000×1000。染剂引导信息中的值越大,说明对应区域为细胞核的概率越大,因此该染剂引导信息可以更好的将苏木精主染色区域(细胞核和细胞质的核酸)与伊红染色区域(细胞质)分开,可以使网络更加关注细胞核区域,其中,染剂引导信息为在各个像素点苏木精的染色比例。
步骤S230,将待分割染色病理图像输入至预先训练的目标图像分割模型,得到待分割染色病理图像对应的初始特征提取信息,并将染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息。
具体地,将待分割染色病理图像输入至预先训练的目标图像分割模型。其中,该目标图像分割模型,用于输出对应于目标区域的目标分割结果,由编码器以及解码器构成,其中编码器包括至少一个下采样层,解码器包括至少一个上采样层。将待分割染色病理图像输出后获取到对应的初始特征提取信息,该初始特征提取信息可以为上述解码器中任意一个上采样层的输出,将初始特征提取信息与染剂引导信息进行拼接处理,得到拼接特征信息,其中,拼接方法可以用如concat的形式进行拼接,在一些实施例中也可以用如add的形式进行相加。将初始特征提取信息和染剂引导信息拼接后,得到的拼接特征信息包括了部分在下采样时损失掉的边缘信息,以便后续操作可以更易学习到目标信息。
步骤S240,将拼接特征信息输入至目标图像分割模型中的特征卷积层进行特征提取处理,得到针对待分割染色病理图像中目标区域的目标分割结果。
具体地,将拼接特征信息输入至特征卷积层进行特征提取处理,上述特征卷积层用于基于拼接特征信息进一步提取目标信息,其中,该特征卷积层可以为解码器中最后一层上采样层,进而基于拼接特征信息得到待分割染色病理图像中目标区域的目标分割结果。
通过步骤S210至步骤S240,基于染剂引导信息对经过目标图像分割模型输出的初始特征提取信息进行拼接处理,得到拼接特征信息,相当于通过染剂引导信息对目标图像分割模型的特征提取结果做了修正处理,进而可以更为准确的学习到目标区域的特征,进一步地,在对于细胞核病理图像的分割中,与预先进行的染剂处理结果相结合,可以更好的使网络保持关注细胞和区域,并且与传统的基于神经网络的分割方法相比,本申请中的染剂引导信息更易获得,提升了运算速度,减少了冗余的计算量。
在一个实施例中,目标图像分割模型包括初步分割网络和第一修正引导模块;将所述染剂引导信息和初始特征提取信息进行拼接处理,得到拼接特征信息,包括:
将染剂引导信息和待分割染色病理图像输入至第一修正引导模块加强对于目标区域的关注,得到区域特征加强信息,并利用第一修正引导模块将区域特征加强信息和待分割染色病理图像进行融合处理得到染剂分割引导信息;
将染剂分割引导信息和基于所述初步分割网络得到的初始特征提取信息进行拼接处理,得到拼接特征信息。
具体地,将染剂引导信息和待分割染色病理图像输入至第一修正引导模块后加强对目标区域的关注,即加强了苏木精区域即细胞核区域的值,使得后续特征提取处理时可以更加强对目标区域的关注,其中,第一修正引导模块用来实现获取区域特征加强信息,即将染剂引导信息与待分割染色病理图像进行类似于相乘的运算,并将区域特征加强信息和待分割染色病理图像进行融合处理,融合处理的结果即为染剂分割引导信息,上述融合处理可以为区域特征加强信息和待分割染色病理图像进行相加。由此可知,本申请中通过第一修正引导模块得到的染剂分割引导信息可以对初始特征提取信息进行修正,得到的拼接特征信息以便使后续的特征提取操作能更准确的提取到目标区域的特征。
在一个实施例中,上述方法还包括:
对待分割染色病理图像进行矩阵分解处理,得到第一颜色特征信息,基于第一颜色特征信息为待分割染色病理图像中目标区域分配第一权重值,得到染剂引导信息;将染剂引导信息对应的第一权重值与待分割染色病理图像进行相乘处理,得到区域特征加强信息。
具体地,上述待分割染色病理图像还携带有第二颜色特征信息,第一颜色特征信息为苏木精染剂在像素上的百分比,第二颜色特征信息为伊红染剂在像素上的百分比,对于待分割染色病理图像,包括但不限于通过非负矩阵分解采用最小均方差以及稀疏约束获取染剂颜色对应的矩阵W=(w1,w2),w1其中为苏木精染剂对应的颜色矩阵,w2为伊红染剂对应的颜色矩阵,且w1即为上述染剂引导信息,w1∈R1000×1000,根据该比例关系以及w1获取到目标区域即细胞核区域的第一权重值,该第一权重值即为上述的染剂引导信息,将染剂引导信息与待分割染色病理图像相乘即可得到区域特征加强信息。进一步地,上述对于染剂的分解是基于下方公式进而做尺寸变换完成的:
其中,A是每种波长的光的吸收光谱矩阵,考虑到本申请使用的是RGB色彩空间以及两种染剂,因此设置A∈R3×2,D是每种染剂的密度图,因为是苏木精伊红染色的组织病理图像,因此D∈R2×s,s是图像的大小,即总像素数,求解出上述的D即可分离苏木精染剂以及映红染剂,α是权重值,该权重值可以由用户根据实际情况进行调整,V是图像的像素值矩阵,j为对矩阵取值的设置,但由于A是未知的,因此本申请中使用非负矩阵分解的方法来估计两个矩阵,非负矩阵分解采用最小均方误差进行约束,并加上稀疏约束,以迭代的方式,每次固定住一个矩阵,优化另一个矩阵,最终损失函数收敛即可完成分解,对D做尺寸转换为W∈R2×h×w。由此可知,对待分割染色病理图像进行矩阵分解或其他标准化方式,可以更好的获取不同染剂间的比例关系,网络可以更好的分辨目标区域,基于该比例关系可以使后续的特征学习和提取步骤更准确地选中目标区域,实现对于目标区域的精准分割,进一步地,上述方法简便易行而且十分灵活,用其他可以区分目标区域和非目标区域的染剂也可以实现上述效果,通过矩阵分解可以自主选中需要的目标区域。
在一个实施例中,初步分割网络包括第一编码器和第一解码器;第一编码器包括至少一层初步分割下采样层以及至少一层编码卷积层,第一解码器还包括至少一层初步分割上采样层、至少一层解码卷积层以及特征卷积层;方法还包括:
将染剂引导信息输入至第一修正引导模块,针对第一权重值进行至少一次卷积操作,得到第二权重值,并根据第二权重值得到至少一个染剂采样引导矩阵;将待分割染色病理图像输入至编码卷积层中进行采样处理得到初步特征提取结果,将初步特征提取结果输入至初步分割下采样层中进行采样处理,得到初步分割采样结果,并将染剂采样引导矩阵对应的第二权重值与初步分割采样结果进行加权融合处理,得到第一修正采样结果,并输入至解码卷积层进行解码处理,并输入至初步分割上采样层进行上采样处理,得到初始特征提取信息,其中,第一修正采样结果包括目标区域的边缘损失特征,其中,染剂采样引导矩阵的数量与初步分割下采样层的数量相等。
具体地,图3为第一修正引导模块示意图,其中,M1为染剂引导信息,X为待分割染色病理图像,M11、M21、M31以及M41均为上述染剂采样引导矩阵,将M11至M41进行如图示意的面积的层层缩小,并经过CBA模块分别得到M11、M21、M31以及M41,S1为染剂分割引导矩阵,CBA包括卷积层、批标准归一化层以及激活层,进一步地,第一修正引导模块用于基于染剂引导信息和待分割染色病理图像进行特征提取,该特征提取可以通过至少一个卷积层来实现。以图3为例,染剂引导信息与待分割染色病理图像相乘后得到上述区域特征加强信息,将该区域特征加强信息与待分割染色病理图像相加即可得到上述染剂分割引导矩阵;将染剂引导信息经过两个CBA层即可得到染剂采样引导矩阵。图4为初步分割网络结构示意图,其中空心箭头可以指代Conv2D卷积层,空心箭头右侧的实心箭头可以指代conv2d_block卷积块,该卷积块的结构如图6所示,由下采样层之前的特征图指向上采样层之后的特征图的箭头意为跳跃连接,与第一层上采样层相连的黑色箭头意为空洞空间卷积池化金字塔,该空洞空间卷积池化金字塔结构如图5所示,解码器中由上一层上采样层指向下一层上采样层的箭头意为反卷积,以图4结构为例,该网络由第一编码器和第一解码器组成,第一编码器有四个下采样层以及对应四层编码卷积层,第一编码器也可以替换为类似于Darkent_53这种提取能力较强的网络,第一编码器方式可以为最大池化、平均池化等,第一解码器有四个上采样层以及对应的四层解码卷积层,方式为反卷积,其中,最后一层解码卷积层包括上述特征卷积层。由图4可知,在第一编码器中,编码卷积层的输入为上一层编码卷积层的输出、上一层编码卷积层第一次卷积的输出以及对应的染剂采样引导矩阵的融合并进行下采样后的结果,当编码卷积层中不止包括两次卷积时,编码卷积层的输入可以由相关技术人员进行调整,具体地,当染剂采样引导矩阵有四个、且第一编码器有四个下采样层以及四个编码卷积层时,将四个染剂采样引导矩阵和四个下采样层一一匹配,进一步地,在根据实际情况调整初步分割网络的网络结构时,将第一修正引导模块的结构也对应进行调整,以保证第一编码器和染剂采样引导矩阵的输出可以一一对应。同时在第一个上采样层之前添加了ASPP(空洞空间卷积池化金字塔),图5为ASPP结构示意图,用于在解码前充分融合改层图像特征的不同感受野以及不同尺度的信息,根据图5可知,卷积核可以设置为3×3,Rate,即扩张率可以为6、12、18、24等,第一编码器输出的结果即为上述第一编码修正结果,将该第一编码修正结果通过ASPP输入至初步分割上采样层进行解码,即可得到初始特征提取信息。进一步地,将染剂分割引导矩阵通过跳跃连接的方式与倒数第二个上采样层后的输出融合,可以较好地保持关注苏木精染色区域的信息,将苏木精染色区域与伊红染色区域分开,并将染剂采样引导矩阵与初步分割网络的两次下采样后的输出进行加权操作并融合,可以减少下采样过程造成的边缘重点区域损失。
在一个实施例中,编码卷积层还包括卷积激励模块以及卷积模块;将待分割染色病理图像输入至编码卷积层中进行采样处理,得到初步分割采样结果,包括:
将待分割染色病理图像输入至编码卷积层,通过编码卷积层中的卷积模块进行计算,得到第一初始采样结果,再将第一初始采样结果输入至编码卷积层中的卷积激励模块中进行特征提取处理得到初步特征提取结果,将初步特征提取结果输入至初步分割下采样层中进行采样处理,得到初步分割采样结果。
具体地,图6为卷积激励模块结构示意图,卷积激励模块包括但不限于由CBA模块以及挤压激励模块构成,CBA意为至少包括卷积层、批标准归一化层以及激活层的模块,SE意为挤压激励模块,该挤压激励模块可以有效地提取有用的特征并抑制用处不大的特征,本申请中的编码器以及解码器中基于该卷积激励模块可以更高效准确地实现对于目标区域的分割。
在一个实施例中,目标图像分割模型还包括再分割网络以及第二修正引导模块,得到针对待分割染色病理图像中目标区域的目标分割结果之后,上述方法包括:
获取待分割染色病理图像的预设格式的颜色空间引导信息;将颜色空间引导信息和目标分割结果输入至再分割网络进行再分割处理,并输出再分割预测信息;将颜色空间引导信息和目标分割结果输入至第二修正引导模块进行融合处理得到颜色空间分割引导信息;将颜色空间分割引导信息与再分割预测信息进行融合处理,得到对应于目标区域的再分割结果。
具体地,获取待分割染色病理图像的预设格式的颜色空间引导信息,可以根据用户所需的染色结果选择对应的颜色空间引导信息,例如当苏木精-伊红染色且目标区域为细胞核区域时,则可将RGB格式的病理图像转换为YUV形式的图像,YUV色彩空间将图像的颜色和亮度分类开来,在一定程度上避免了不同程度的光照对于颜色数据的影响,Y通道表示亮度信息,U、V通道分别是蓝色和红色通道,U通道数值越高,颜色就越接近蓝色,V通道数值越高,越接近红色,U通道也是YUV颜色空间下色度信息即蓝色分量与亮度的差值,该差值越大,颜色越接近蓝色,由于经过H&E染色后呈碱性的苏木精将细胞核和细胞质的核酸染成蓝紫色,呈酸性的伊红将细胞质染色为粉色,但细胞核的区域的蓝紫色更深,因此U通道数值更高,将U通道信息作为颜色空间引导信息可实现有效的细胞核分割,可以更好的将细胞核区域和细胞质分开来。其中具体的,RGB图像转换为YUV形式的图像转换公式如下:
进一步地,可以对待分割染色病理图像以及该颜色空间引导信息做归一化处理,例如将像素值除以255,使其范围为[0,1]。上述再分割预测信息可以为再分割网络其中一个上采样层的输出,一般设置为倒数第二个上采样层的输出,将颜色空间分割引导信息以及再分割预测信息进行融合处理,得到对应于目标区域的再分割结果。由此可以看出,基于颜色空间引导信息和目标分割结果得到的颜色空间分割引导信息进一步与再分割预测信息进行融合处理,通过再分割网络中的卷积层对融合处理的结果进行特征提取处理,可以补充在输出再分割结果前将下采样过程中损失的特征,以使输出结果更为准确,进一步地,相比于现有的图像分割网络结构,本申请中的网络结构可以基于引导模块输出的特征信息更为高效的补充并修正编码及解码时的特征损失。
在一个实施例中,再分割网络包括第二编码器和第二解码器,再分割网络包括至少一层再分割下采样层,将目标分割结果输入至再分割网络进行再分割处理,并输出再分割预测结果,包括:
将颜色空间引导信息输入至第二修正引导模块进行至少一次卷积操作,得到颜色空间采样引导信息;
将目标分割结果输入至再分割下采样层中进行采样处理,得到再分割采样结果,将目标分割结果、再分割采样结果以及颜色空间采样引导信息进行加权融合处理,得到第二修正采样结果,将第二修正采样结果通过第二解码器进行解码,得到再分割预测结果。
具体地,图7为上述第二修正引导模块结构示意图,其中M2为上述颜色空间引导信息,O为初步分割网络的输出结果,即目标分割结果,M22为颜色空间采样引导信息,S2为颜色空间分割引导信息,将颜色空间引导信息与目标分割结果相乘并融合后生成颜色空间分割引导信息,该颜色空间分割引导信息经过跳跃连接的方式与再分割预测信息进行融合处理得到对应于目标区域的再分割结果,这样可以较好地保持关注蓝紫色更深的细胞核的信息;将颜色空间引导信息经过至少一次卷积操作,即图中的CBA模块,从而得到颜色空间采样引导信息。图8为上述再分割网络的结构示意图,由图可知,图8结构与图4结构类似,其中×1/2意为将输入的尺寸resize至原图的1/2,上述再分割网络由编码器和解码器构成,编码器有四个下采样层,通过动态卷积实现,解码器有四个上采样层,方式为反卷积,第二编码器中引入了多尺寸输入、多尺寸特征融合以及动态卷积,即,考虑到细胞核属于小目标,随着四次下采样特征损失对小目标分割影响较大,且浅层特征对位置信息提取很重要,因此,在上一次下采样之后的输出融合了目标分割结果的信息,并且在此之后的下采样层都融合了上一层病理图的特征,进一步地,在获取到再分割采样结果后,将目标分割结果、再分割采样结果以及颜色空间采样引导信息进行加权融合处理,得到第二修正采样结果,并将第二修正采样结果输入至第二解码器进行解码,得到再分割预测结果。另外,动态卷积在不改变网络宽度和深度的前提下提升网络性能,相比于静态卷积,动态卷积具有更强的特征表达能力,提前初始化好k个卷积和参数,每个卷积核的权重都由上层特征图决定,因此简单高效,且可以更加灵活的学习特征,需要说明的是,上述初步分割网络中的第一编码器也可以引入动态卷积。
在一个实施例中,将目标分割结果输入至再分割下采样层中进行采样处理,得到再分割采样结果,包括:
将目标分割结果输入至第一个再分割下采样层,输出第一再分割下采样结果,以及将目标分割结果按照预设比例缩小处理得到的第一尺寸分割结果;
将第一尺寸分割结果和第一再分割下采样结果进行融合处理,得到第一再分割融合结果,将第一再分割融合结果输入至当前的再分割下采样层,输出当前再分割下采样结果,以及将第一尺寸分割结果按照预设比例缩小处理后得到的第二尺寸分割结果;
将第二尺寸分割结果和当前再分割下采样结果输入至下一个再分割下采样层,直至所有再分割下采样层遍历完毕,并输出第一再分割采样结果。
具体地,根据图8可知,当前的再分割下采样层的输入为第一尺寸分割结果以及第一再分割下采样结果,第一尺寸分割结果为将上一再分割下采样层的输入按预设比例缩小处理得到的结果,其中该按照预设比例缩小可以为将上一再分割下采样层的输入通过resize的方法缩小至原先的1/2,进一步地,也可以选择将第一尺寸分割结果进行特征提取处理,使其可以更好地与第一再分割下采样结果融合。当第一尺寸分割结果和第一再分割下采样结果进行融合得到第一再分割融合结果,并将第一再分割融合结果输入至当前的再分割下采样层后,输出当前再分割下采样结果以及,将第一尺寸分割结果按照上述预设的比例方法缩小,处理后得到第二尺寸分割结果,按照上述方法直至所有在分割下采样层遍历完毕,输出第一再分割采样结果,其中,再融合分割结果为第一尺寸分割结果与第一再分割下采样结果融合后得到的特征信息。通过上述方法,在再分割网络的编码器中充分融合了上一层的特征信息,进一步地避免了在下采样时出现的对于小区域目标的学习和提取不完整的问题,在不增加网络深度和宽度的情况下,尽可能的减小了下采样过程造成的边缘重点区域的损失。
在其中一个实施例中,目标图像分割模型还包括重叠细胞检测模型以及重叠细胞分层模型,得到针对待分割染色病理图像中目标区域的目标分割结果之后,方法还包括:
将目标分割结果输入至重叠细胞检测模型中进行区域检测处理,得到对应于目标分割结果的细胞连通区域以及细胞闭包区域,以及细胞连通区域和细胞闭包区域之间的重叠信息;
当检测到重叠信息小于预设重叠阈值时,基于重叠信息确定目标分割结果中的至少一个目标重叠区域;
将目标重叠区域输入至重叠细胞分层模型进行区域分层处理,得到对应于目标重叠区域的至少两个目标区域;
基于目标区域中的像素点进行边界转换判断,并基于边界转换判断结果确定所有像素点中的目标像素点;其中,边界转换判断为,若检测到目标区域中的当前像素点的值与当前像素点的邻点像素值相同,且均为预设像素值,则判断当前像素点为目标像素点;
从目标区域中删除目标像素点,并保留除目标像素点外的剩余像素点,基于剩余像素点得到对应于目标区域的目标区域输出边界,根据目标区域输出边界得到针对待分割染色病理图像中目标区域的最终边界分割结果。
具体地,将目标分割结果输入至重叠细胞检测模型进行重叠细胞检测,若检测到目标分割结果中的细胞区域中,图像中的连通区域面积与对应的闭包区域的面积的比例小于预设的阈值时,则判定该区域为重叠的细胞核,即为上述至少一个目标重叠区域。在获取到目标重叠区域后,将目标重叠区域输入至重叠细胞分层模型进行区域分层处理,重叠细胞分层模型为多通道输出,对于重叠区域的分离结果可以基于该由用户设置的多通道直接输出,得到对应于目标重叠区域的至少两个目标区域,其中,该重叠细胞分层模型可以由U-net和全连接层组成,用于多个目标重叠区域进行多通道输出,由于考虑到在多数情况下,每个细胞至多能同时与三个细胞重叠,因此设置的输出组数为4,在具体使用时,输出组数可以根据具体情况调整,输出的大小可以为1000×1000×4。在获取到目标区域后对目标区域进行区域至边界的转换,将每个目标区域的边界结果相加,得到最终的边界分割结果,其中具体的,边界转换可以采用掏空内点法,对于二值图像,若原图中有一点为白,且它的八个相邻的点也为白,则把该点删去,即为上文所阐述的,若检测到目标区域中的当前像素点值与当前像素点的邻点像素值相同,即为上述所记载,该点与其周围八个相邻的像素点的值均为白,则判断该点为目标像素点,遍历所有像素点,查找出所有目标像素点,并将目标像素点删除,保留除目标像素点外的剩余像素点,即可根据该剩余像素点得到目标区域的输出边界。通过上述方法,可以区分开重叠的目标细胞核区域,并将它们进行多通道输出,清晰高效的实现对于上述再分割网络输出结果的重叠区域的区分,进一步地,将区域转换为边界也使对于目标区域的识别更加清晰,基于二值图像像素的图像转换也大大减少了冗余的计算量。
在一个实施例中,将目标重叠区域输入至重叠细胞分层模型进行区域分层处理之前,方法还包括:
获取预设的重叠区域训练集,重叠区域训练集包括至少两个目标重叠区域,重叠区域训练集还携带有重叠区域标签,重叠区域标签由目标编码向量组成;
将重叠区域训练集输入至初始重叠细胞分层模型进行训练,得到针对待训练重叠区域的预测编码向量,根据预测编码向量、待训练重叠区域和待训练重叠区域数量,计算得到第一损失函数结果;
将预测编码向量与目标编码向量进行数值比对,得到第二损失函数结果;
基于第一损失函数结果和第二损失函数得到分层损失函数结果,将分层损失函数结果的梯度反向传输至重叠细胞分层模型进行迭代训练,生成训练完备的重叠细胞分层模型。
具体地,重叠细胞分层模型将相邻的目标区域细胞核推入正交空间,而不相邻的细胞核可以保持在同一层中,该功能通过第一损失函数结果控制,如下公式所示:
其中,Laj表示分离相邻细胞的损失,即分离目标重叠区域的损失,ui表示来自上述 重叠细胞分层模型输出的某个连通区域的编码向量,其中每个连通区域代表一个细胞,uj 表示ui的相邻的细胞的区域的编码向量,表示转置,T为总的连通区域的个数,Oi表示第i 个细胞核,Adj(Oi)表示第i个细胞的相邻的细胞核,则相邻的细胞分布在不同的层上时,两 者的向量为正交向量,两者的向量乘积为0,此时损失最小,进一步地,连通区域是将上述重 叠细胞分层模型输出的区域像素值通过连通组件标记算法获得的。上述预测编码向量与目 标编码向量均为向量矩阵的形式,将预测编码向量与目标编码向量进行数值比对,得到第 二损失函数结果,该比对方法为:
其中,分了训练重叠细胞分层模型,需要实现生成4层区域分割标签,假设标签为G∈{0,1}h×w×4为分层模型输出的4个二值分割结果,其中bp是分组模型输出像素p的编码向量,输出的预测编码向量和目标编码向量相同时,第二损失函数结果最小。综上,重叠细胞分组模型的总体损失为Lg=Laj+Lol。由此可以看出,第一步对重叠细胞分层的训练可以基于正交计算的可以快速的分离相邻的重叠区域,在第一步区分重叠区域完成后,再通过第二损失函数进一步完成对预测编码向量以及目标编码向量的数值比对,得到对于预测结果的评估,通过以上两个步骤产生的损失函数结果可以更为准确地得到最终的训练结果,相比于现有技术中的基于一个损失函数结果进行迭代训练,本申请中通过两个损失函数的结合对模型进行训练可以得到更为准确的结果。
在一个实施例中,上述方法还包括:
获取预设的病理图像训练集,病理图像训练集携带有细胞核区域特征标签;
将病理图像训练集输入至初始神经网络模型进行训练,得到训练病理图像预测结果,根据训练病理图像预测结果与细胞核区域特征标签计算损失函数结果,并将损失函数结果的梯度反向传输至初始神经网络模型进行迭代训练,生成训练完备的目标图像分割模型。
具体地,上述细胞核区域特征标签指对于病理图像训练集目标区域的标注结果,将带有标注结果的病理图像训练集输入至预设的初始神经网络模型进行训练,优化器可以采用adam、sgdm等优化器。得到训练病理图像预测结果后,评估细胞核区域特征标签以及训练病理图像预测结果之间共同具有的特征是否一致,来评估两个集合中不同元素占所有元素的比例来衡量两个集合的区分度,如下述公式所示,其中LR指的是目标区域,即细胞核的损失:
其中,intersection 表示预测的细胞核区域与真实的细胞核区域的交集,即细胞核区域特征标签和训练病理图像预测结果的交集,如下方公式所示;sum-intersection表示预测的细胞核区域与真实的细胞核区域的并集,其中sum如下方公式所示:
其中,xi是第i个像素的预测概率,而yi是对应的标签,N是像素点的总数。
由此可知,通过上述方法对预设的初始神经网络模型的训练,可以得到更为准确的目标图像分割模型,进一步地,上述优化器类型和数值的选择可以根据实际需求进行调整,以便使该训练方法可以适用于更多的应用环境。
本实施例还提供了一种基于病理图像分割方法的具体实施例,如图9所示,图9是一个优选实施例中图像分割方法的流程示意图,图10是该优选实施例的结构示意图。
其中具体的,图9中病理图像(X0,Y)中X0为待分割染色病理图像,Y为人工标注训练集的细胞核区域标签,引导地图M1为染剂引导信息,引导地图M20为基于U通道值的引导地图,将M20进行归一化处理即为颜色空间引导信息M2。图10中的AT1为第一修正引导模块,AT2为第二修正引导模块。
首先,采集待分割病理图像并进行染色,得到待分割染色病理图像,该染色的方法可以为苏木精-伊红染色等,将待分割染色病理图像切片裁剪到1000×1000。在待分割染色病理图像上,每个像素点包含多种染剂,需要在每个像素点上对染剂进行分离,通过非负矩阵分解采用最小均方差以及稀疏约束获取目标染剂颜色对应的矩阵,即获取到染剂引导信息。进一步地,获取待分割染色病理图像的YUV色彩空间下的U通道值作为引导地图,即颜色空间引导信息。YUV色彩空间将图像的颜色和亮度区分开,由于本申请中目标区域为已被苏木精-伊红染色染为蓝紫色的细胞和区域,所以选择反映蓝色的U通道作为颜色空间引导信息。而后将颜色空间引导信息与待分割染色病理图像做归一化处理,将图像的像素值除以255,以使其范围为[0,1]。
其次,获取第一引导模块以及目标图像分割模型中的初步分割网络,其中,第一引导模块的输入包括待分割染色病理图像以及染剂引导信息,根据第一引导模块的结构设计,染剂引导信息与待分割染色病理图像进行相乘得到区域特征加强信息,并将区域特征加强信息与待分割染色病理图像进行相加处理得到染剂分割引导信息;将染剂引导信息基于第一引导模块中预设的卷积模块进行至少一次卷积操作,得到染剂采样引导信息。将待分割染色病理图像输入至初步分割网络中,该网络由四个下采样层以及四个编码卷积层构成的编码器,以及四个上采样层和四个解码卷积层构成的解码器组成,下采样层方式可以为最大池化,上采样层方式可以为反卷积,其中具体的,上述卷积层还包括至少两个卷积模块,该卷积模块可以为由两个卷积层以及挤压激励模块构成的卷积激励模块。编码卷积层的输入为上一层编码卷积层的输出、上一层编码卷积层第一次卷积的输出以及对应的染剂采样引导矩阵的融合并进行下采样后的结果,需要强调的是,每一次编码卷积层的输入为上一个编码卷积层的输出、上一个编码卷积层倒数第二次经过卷积模块的输出以及染剂采样引导信息的融合并下采样后的结果。同时,在第一个上采样层之前添加了ASPP模块,这样可以在解码前充分融合该层图像特征的不同感受野以及不同尺度的信息。在经过解码器后输出初始特征提取信息,初始特征提取信息是倒数第二层解码器的输出,将初始特征提取信息与染剂分割引导信息拼接处理得到拼接特征信息,将拼接特征信息输入至特征卷积层进行特征提取处理,得到目标分割结果,该特征卷积层可以为最后一层上采样层。
再次,获取目标分割结果之后,将目标分割结果输入至目标图像分割模型中的再分割网络进行再分割处理。具体地,目标图像分割模型还包括第二引导模块,第二引导模块的输入包括目标分割结果以及颜色空间引导信息,根据第二引导模块的结构设计,将颜色空间引导信息与目标分割结果进行相乘,并将相乘结果与目标分割结果相加,得到颜色空间分割引导信息;将颜色空间引导信息基于第二引导模块中预设的卷积模块进行至少一次卷积操作,得到颜色空间采样引导信息。将目标分割结果输入至再分割网络中,该网络同上述初步分割网络,由四个下采样层与四个编码卷积层构成的编码器,以及四个上采样层与四个解码卷积层构成的解码器组成,下采样层方式可以为最大池化或动态卷积,上采样层方式可以为反卷积,且下采样层和上采样层的构成,与初步分割网络下采样层和上采样层的构成相同。不同的是,下采样层的输入为上一个下采样层的输出、上一个下采样层的输入并经过面积调整至原先的1/2组成,其中上一个下采样层经过1/2resize的输入可以再经过一次预设的卷积激励模块。需要强调的是,在第三次下采样时,第三次编码卷积层的输入为上一个编码卷积层的输出、上一个编码卷积层输入并经过一次预设的卷积激励模块以及空间采样引导信息进行融合并下采样得到第二修正采样结果,将第二修正采样结果输入至第二解码器进行解码,得到再分割预测结果,其中,在再分割网络中也在第一个上采样层前添加了ASPP模块。将再分割预测结果与空间分割引导信息进行特征拼接处理,得到特征拼接信息,并将特征拼接信息输入至最后一层解码卷积层进行特征提取处理,得到再分割预测结果。将再分割预测结果输入至训练完备的重叠细胞检测模型中进行区域检测处理,该再分割预测结果包括多个目标重叠区域,对于多个目标重叠区域的连通区域和闭包区域之间面积的比例来判断该再分割预测结果中包含的至少两个重叠的细胞核部分,得到对应于目标重叠区域的至少两个目标区域,基于细胞核的区域像素点的邻点的像素值进行边界转换判断,通过掏空内点法完成目标区域中区域到边界的转换,得到最终边界分割结果。
最后,将再分割预测结果与训练集中标注的细胞核区域特征标签,按照预设的最小化损失函数进行训练,来判断共有的特征是否一致,以此评估两个集合中不同元素占所有元素的比例来衡量两个集合的区分度,以此得到损失函数结果,并将损失函数结果的梯度反向传输至预设的神经网络模型进行迭代训练,得到训练完备的目标图像分割模型。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的基于颜色空间引导的图像分割方法的图像分割装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个图像分割装置实施例中的具体限定可以参见上文中对于图像分割方法的限定,在此不再赘述。
在一个实施例中,如图11所示,提供了一种病理图像分割装置,包括:获取模块111、计算模块112和生成模块113,其中:
获取模块111,用于获取预设的待分割染色病理图像;其中,所述待分割染色病理图像携带有针对目标区域的第一颜色特征信息。
计算模块112,用于根据所述待分割病理图像以及所述第一颜色特征信息,得到染剂引导信息;将所述待分割染色病理图像输入至预先训练的目标图像分割模型,得到所述待分割染色病理图像对应的初始特征提取信息,并将所述染剂引导信息和所述初始特征提取信息进行拼接处理,得到拼接特征信息。
生成模块113,用于将所述拼接特征信息输入至所述目标图像分割模型中的特征卷积层进行特征提取处理,得到针对所述待分割染色病理图像中所述目标区域的目标分割结果。
具体地,获取模块111获取到预设的待分割染色病理图像,以苏木精-伊红染色为例,该待分割染色病理图像携带有对应于苏木精主染色区域的第一颜色特征信息以及对应于伊红主染色区域的第二颜色特征信息。将待分割染色病理图像输入至计算模块112,计算模块112基于预设的待分割染色病理图像以及第一颜色特征信息获取染剂引导信息,并将待分割染色病理图像输入至预先训练的目标图像分割模型中,得到初始特征提取信息,该初始特征提取信息可以为初步分割网络倒数第二层上采样层输出的结果,将初始特征提取信息与染剂引导信息中的染剂分割引导信息进行拼接,得到拼接特征信息。将拼接特征信息输入至特征卷积层进行特征提取处理,该特征卷积层可以为初步分割网络中最后一层上采样层,得到上述针对目标区域的目标分割结果。
通过上述的图像分割装置,其一,引导模块输出的结果分别在下采样过程以及上采样过程对特征学习过程进行修正,可以更准确地实现对于目标区域特征的提取;其二,通过预先对于待分割病理图像的染色可以使得图像分割网络更准确的识别到目标区域,例如通过苏木精-伊红染色对应的染剂引导信息引导初步分割网络进行细胞核分割,可以有效地将伊红主染色区域和苏木精主染色区域区分开;其三,通过引导模块的引入可以高效快捷的实现对于上采样过程和下采样过程的修正,使得本网络可以高效、准确地完成目标区域的分割。
上述图像分割装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图12所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种干扰信号消减方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图12中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本领域的技术人员应该明白,以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (13)

1.一种病理图像分割方法,其特征在于,所述方法包括:
获取预设的待分割染色病理图像;其中,所述待分割染色病理图像携带有针对目标区域的第一颜色特征信息,所述待分割染色病理图像为基于苏木精染剂以及伊红染剂进行染色处理的图像;
根据所述待分割染色病理图像以及所述第一颜色特征信息,得到染剂引导信息,包括:根据所述待分割染色病理图像以及所述第一颜色特征信息在每个像素上对染剂进行分离,得到所述苏木精染剂对应的颜色矩阵以及所述伊红染剂对应的颜色矩阵,其中,所述苏木精染剂对应的颜色矩阵为所述染剂引导信息;
将所述待分割染色病理图像输入至预先训练的目标图像分割模型,得到所述待分割染色病理图像对应的初始特征提取信息,并将所述染剂引导信息和所述初始特征提取信息进行拼接处理,得到拼接特征信息;
将所述拼接特征信息输入至所述目标图像分割模型中的特征卷积层进行特征提取处理,得到针对所述待分割染色病理图像中所述目标区域的目标分割结果。
2.根据权利要求1所述的方法,其特征在于,所述目标图像分割模型包括初步分割网络和第一修正引导模块;所述将所述染剂引导信息和所述初始特征提取信息进行拼接处理,得到拼接特征信息,包括:
将所述染剂引导信息和所述待分割染色病理图像输入至所述第一修正引导模块进行融合处理,得到区域特征加强信息,并利用所述第一修正引导模块将所述区域特征加强信息和所述待分割染色病理图像进行融合处理得到染剂分割引导信息;
将所述染剂分割引导信息和基于所述初步分割网络得到的所述初始特征提取信息进行拼接处理,得到所述拼接特征信息。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
对所述待分割染色病理图像进行矩阵分解处理,得到所述第一颜色特征信息,基于所述第一颜色特征信息为所述待分割染色病理图像中所述目标区域分配第一权重值,得到所述染剂引导信息;
将所述染剂引导信息对应的所述第一权重值与所述待分割染色病理图像进行相乘处理,得到所述区域特征加强信息。
4.根据权利要求3所述的方法,其特征在于,所述初步分割网络包括第一编码器和第一解码器;所述第一编码器包括至少一层初步分割下采样层以及至少一层编码卷积层,所述第一解码器还包括至少一层初步分割上采样层、至少一层解码卷积层以及所述特征卷积层;所述方法还包括:
将所述染剂引导信息输入至所述第一修正引导模块,针对所述第一权重值进行至少一次卷积操作,得到第二权重值,并根据所述第二权重值得到至少一个染剂采样引导矩阵;
将所述待分割染色病理图像输入至所述编码卷积层中进行采样处理得到初步特征提取结果,将所述初步特征提取结果输入至所述初步分割下采样层中进行采样处理,得到初步分割采样结果,并将所述染剂采样引导矩阵对应的所述第二权重值与所述初步分割采样结果进行加权融合处理,得到第一修正采样结果,并输入至所述解码卷积层进行解码处理,并输入至所述初步分割上采样层进行上采样处理,得到所述初始特征提取信息,其中,所述第一修正采样结果包括所述目标区域的边缘损失特征,其中,所述染剂采样引导矩阵的数量与所述初步分割下采样层的数量相等。
5.根据权利要求4所述的方法,其特征在于,所述编码卷积层还包括卷积激励模块以及卷积模块;所述将所述待分割染色病理图像输入至所述编码卷积层中进行采样处理,得到初步分割采样结果,包括:
将所述待分割染色病理图像输入至所述编码卷积层,通过所述编码卷积层中的所述卷积模块进行计算,得到第一初始采样结果,再将所述第一初始采样结果输入至所述编码卷积层中的所述卷积激励模块中进行特征提取处理得到所述初步特征提取结果,将所述初步特征提取结果输入至所述初步分割下采样层中进行采样处理,得到所述初步分割采样结果。
6.根据权利要求1所述的方法,其特征在于,所述目标图像分割模型还包括再分割网络以及第二修正引导模块,所述得到针对所述待分割染色病理图像中所述目标区域的目标分割结果之后,所述方法包括:
获取所述待分割染色病理图像的预设格式的颜色空间引导信息;
将所述颜色空间引导信息和所述目标分割结果输入至所述再分割网络进行再分割处理,并输出再分割预测信息;
将所述颜色空间引导信息和所述目标分割结果输入至所述第二修正引导模块进行融合处理得到颜色空间分割引导信息;
将所述颜色空间分割引导信息与所述再分割预测信息进行融合处理,得到对应于所述目标区域的再分割结果。
7.根据权利要求6所述的方法,其特征在于,所述再分割网络包括第二编码器和第二解码器,所述再分割网络包括至少一层再分割下采样层,所述将所述目标分割结果输入至所述再分割网络进行再分割处理,并输出再分割预测结果,包括:
将所述颜色空间引导信息输入至所述第二修正引导模块进行至少一次卷积操作,得到颜色空间采样引导信息;
将所述目标分割结果输入至所述再分割下采样层中进行采样处理,得到再分割采样结果,将所述目标分割结果、所述再分割采样结果以及所述颜色空间采样引导信息进行加权融合处理,得到第二修正采样结果,将所述第二修正采样结果通过所述第二解码器进行解码,得到所述再分割预测结果。
8.根据权利要求7所述的方法,其特征在于,所述将所述目标分割结果输入至所述再分割下采样层中进行采样处理,得到再分割采样结果,包括:
将所述目标分割结果输入至第一个再分割下采样层,输出第一再分割下采样结果,以及将所述目标分割结果按照预设比例缩小处理得到的第一尺寸分割结果;
将所述第一尺寸分割结果和所述第一再分割下采样结果进行融合处理,得到第一再分割融合结果,将所述第一再分割融合结果输入至当前的再分割下采样层,输出当前再分割下采样结果,以及将所述第一尺寸分割结果按照所述预设比例缩小处理后得到的第二尺寸分割结果;
将所述第二尺寸分割结果和所述当前再分割下采样结果输入至下一个再分割下采样层,直至所有所述再分割下采样层遍历完毕,并输出所述再分割采样结果。
9.根据权利要求1所述的方法,其特征在于,所述目标图像分割模型还包括重叠细胞检测模型以及重叠细胞分层模型,所述得到针对所述待分割染色病理图像中所述目标区域的目标分割结果之后,所述方法还包括:
将所述目标分割结果输入至所述重叠细胞检测模型中进行区域检测处理,得到对应于所述目标分割结果的细胞连通区域以及细胞闭包区域,以及所述细胞连通区域和所述细胞闭包区域之间的重叠信息;
当检测到所述重叠信息小于预设重叠阈值时,基于所述重叠信息确定所述目标分割结果中的至少一个目标重叠区域;
将所述目标重叠区域输入至所述重叠细胞分层模型进行区域分层处理,得到对应于所述目标重叠区域的至少两个所述目标区域;
基于所述目标区域中的像素点进行边界转换判断,并基于边界转换判断结果确定所有所述像素点中的目标像素点;其中,所述边界转换判断为,若检测到所述目标区域中的当前像素点的值与所述当前像素点的邻点像素点的值相同,且均为预设像素值,则判断所述当前像素点为所述目标像素点;
从所述目标区域中删除所述目标像素点,并保留除所述目标像素点外的剩余像素点,基于所述剩余像素点得到对应于所述目标区域的目标区域输出边界,根据所述目标区域输出边界得到针对所述待分割染色病理图像中所述目标区域的最终边界分割结果。
10.根据权利要求9所述的方法,其特征在于,所述将所述目标重叠区域输入至所述重叠细胞分层模型进行区域分层处理之前,所述方法还包括:
获取预设的重叠区域训练集,所述重叠区域训练集包括至少两个待训练重叠区域,所述重叠区域训练集还携带有重叠区域标签,所述重叠区域标签由目标编码向量组成;
将所述重叠区域训练集输入至初始重叠细胞分层模型进行训练,得到针对所述待训练重叠区域的预测编码向量,根据所述预测编码向量、所述待训练重叠区域和待训练重叠区域数量,计算得到第一损失函数结果;
将所述预测编码向量与目标编码向量进行数值比对,得到第二损失函数结果;
基于所述第一损失函数结果和所述第二损失函数结果得到分层损失函数结果,将所述分层损失函数结果的梯度反向传输至所述重叠细胞分层模型进行迭代训练,生成训练完备的所述重叠细胞分层模型。
11.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取预设的病理图像训练集,所述病理图像训练集携带有细胞核区域特征标签;
将所述病理图像训练集输入至初始神经网络模型进行训练,得到训练病理图像预测结果,根据所述训练病理图像预测结果与所述细胞核区域特征标签计算损失函数结果,并将所述损失函数结果的梯度反向传输至所述初始神经网络模型进行迭代训练,生成训练完备的所述目标图像分割模型。
12.一种病理图像分割装置,其特征在于,所述装置包括:
获取模块,用于获取预设的待分割染色病理图像;其中,所述待分割染色病理图像携带有针对目标区域的第一颜色特征信息,所述待分割染色病理图像为基于苏木精染剂以及伊红染剂进行染色处理的图像;
计算模块,用于根据所述待分割染色病理图像以及所述第一颜色特征信息,得到染剂引导信息;将所述待分割染色病理图像输入至预先训练的目标图像分割模型,得到所述待分割染色病理图像对应的初始特征提取信息,并将所述染剂引导信息和所述初始特征提取信息进行拼接处理,得到拼接特征信息,包括:根据所述待分割染色病理图像以及所述第一颜色特征信息在每个像素上对染剂进行分离,得到所述苏木精染剂对应的颜色矩阵以及所述伊红染剂对应的颜色矩阵,其中,所述苏木精染剂对应的颜色矩阵为所述染剂引导信息;
生成模块,用于将所述拼接特征信息输入至所述目标图像分割模型中的特征卷积层进行特征提取处理,得到针对所述待分割染色病理图像中所述目标区域的目标分割结果。
13.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至权利要求11中任一项所述的方法的步骤。
CN202310633451.8A 2023-05-31 2023-05-31 病理图像分割方法、装置和计算机设备 Active CN116342628B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310633451.8A CN116342628B (zh) 2023-05-31 2023-05-31 病理图像分割方法、装置和计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310633451.8A CN116342628B (zh) 2023-05-31 2023-05-31 病理图像分割方法、装置和计算机设备

Publications (2)

Publication Number Publication Date
CN116342628A CN116342628A (zh) 2023-06-27
CN116342628B true CN116342628B (zh) 2023-08-08

Family

ID=86886238

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310633451.8A Active CN116342628B (zh) 2023-05-31 2023-05-31 病理图像分割方法、装置和计算机设备

Country Status (1)

Country Link
CN (1) CN116342628B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116797794B (zh) * 2023-07-10 2024-06-18 北京透彻未来科技有限公司 基于深度学习的肠癌病理分型系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345601A (zh) * 2018-09-21 2019-02-15 合肥工业大学 基于低秩嵌入非负矩阵分解的病理图像颜色标准化的方法
CN113393443A (zh) * 2021-06-17 2021-09-14 华南理工大学 一种he病理图像细胞核分割方法及系统
WO2022110396A1 (zh) * 2020-11-30 2022-06-02 广州金域医学检验中心有限公司 数字病理切片目标区域的识别方法、系统、设备及介质
CN114693600A (zh) * 2022-02-28 2022-07-01 中南大学 一种对组织病理图像进行细胞核分割的半监督学习方法
CN114821067A (zh) * 2022-05-24 2022-07-29 西安电子科技大学 基于点标注数据的病理图像分割方法
CN115954100A (zh) * 2022-12-15 2023-04-11 东北林业大学 胃癌病理图像智能辅助诊断系统
WO2023077816A1 (zh) * 2021-11-03 2023-05-11 中国华能集团清洁能源技术研究院有限公司 边界优化的遥感图像语义分割方法、装置、设备及介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345601A (zh) * 2018-09-21 2019-02-15 合肥工业大学 基于低秩嵌入非负矩阵分解的病理图像颜色标准化的方法
WO2022110396A1 (zh) * 2020-11-30 2022-06-02 广州金域医学检验中心有限公司 数字病理切片目标区域的识别方法、系统、设备及介质
CN113393443A (zh) * 2021-06-17 2021-09-14 华南理工大学 一种he病理图像细胞核分割方法及系统
WO2023077816A1 (zh) * 2021-11-03 2023-05-11 中国华能集团清洁能源技术研究院有限公司 边界优化的遥感图像语义分割方法、装置、设备及介质
CN114693600A (zh) * 2022-02-28 2022-07-01 中南大学 一种对组织病理图像进行细胞核分割的半监督学习方法
CN114821067A (zh) * 2022-05-24 2022-07-29 西安电子科技大学 基于点标注数据的病理图像分割方法
CN115954100A (zh) * 2022-12-15 2023-04-11 东北林业大学 胃癌病理图像智能辅助诊断系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吴宇雳 ; 李渊强 ; .基于卷积神经网络的病理细胞核分割.重庆工商大学学报(自然科学版).2019,(第03期),全文. *

Also Published As

Publication number Publication date
CN116342628A (zh) 2023-06-27

Similar Documents

Publication Publication Date Title
CN115063796B (zh) 基于信号点内容约束的细胞分类方法和装置
CN116342628B (zh) 病理图像分割方法、装置和计算机设备
CN114463637B (zh) 一种基于深度学习的冬小麦遥感识别分析方法和系统
CN113298058A (zh) 基于无人机高光谱图像的水质预测反演方法及系统
CN112001399B (zh) 基于局部特征显著化的图像场景分类方法和装置
CN114511710A (zh) 一种基于卷积神经网络的图像目标检测方法
CN111079807A (zh) 一种地物分类方法及装置
CN114898357B (zh) 缺陷识别方法、装置、电子设备及计算机可读存储介质
CN110838094A (zh) 病理切片染色风格转换方法和电子设备
CN116757979A (zh) 胚胎图像融合方法、装置、电子设备及存储介质
CN117197462A (zh) 基于多尺度特征融合和对齐的轻量地基云分割方法及系统
CN113111708B (zh) 车辆匹配样本生成方法、装置、计算机设备和存储介质
CN117884379A (zh) 一种矿石分选方法及系统
CN117197456A (zh) 一种面向he染色的病理图像细胞核同时分割分类方法
CN115376195B (zh) 训练多尺度网络模型的方法及人脸关键点检测方法
CN110796716A (zh) 一种基于多重残差网络和正则化迁移学习的图像着色方法
CN114463772B (zh) 基于深度学习的交通标志检测与识别方法及系统
CN113111709B (zh) 车辆匹配模型生成方法、装置、计算机设备和存储介质
CN113011468B (zh) 图像特征提取方法及装置
CN113222887A (zh) 基于深度学习的纳米铁标记神经干细胞示踪的方法
CN113139617A (zh) 一种输电线路自主定位方法、装置及终端设备
CN118015261B (zh) 一种基于多尺度特征复用的遥感图像目标检测方法
CN113435284B (zh) 基于动态过滤与多方向关注融合的灾后道路提取方法
CN118247513B (zh) 光伏板组件分割方法、装置、电子设备和介质
CN117393043B (zh) 一种甲状腺乳头状瘤braf基因突变检测装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant