CN112734764A - 一种基于对抗网络的无监督医学图像分割方法 - Google Patents

一种基于对抗网络的无监督医学图像分割方法 Download PDF

Info

Publication number
CN112734764A
CN112734764A CN202110344122.2A CN202110344122A CN112734764A CN 112734764 A CN112734764 A CN 112734764A CN 202110344122 A CN202110344122 A CN 202110344122A CN 112734764 A CN112734764 A CN 112734764A
Authority
CN
China
Prior art keywords
training
binary mask
mask
image
auxiliary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110344122.2A
Other languages
English (en)
Inventor
王国泰
王璐
郭栋
张少霆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202110344122.2A priority Critical patent/CN112734764A/zh
Publication of CN112734764A publication Critical patent/CN112734764A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及的是一种基于对抗网络的无监督医学图像分割方法,属于医疗保健信息学,特别是医学图像分割技术领域。本发明是通过以下技术方案实现的:首先根据形状先验信息随机生成或者利用第三方数据集得到一组辅助掩码,将辅助掩码与未标注的训练图像送入循环一致性对抗网络中生成二元掩码,并利用基于变分自编码的判别器和基于判别器反馈的生成器校正模块提高二元掩码质量。得到训练图像的二元掩码后,利用噪声加权Dice损失函数进行迭代式训练,得到最终的高精度分割模型。本发明能解决卷积神经网络在医学图像分割的训练过程中需要大量人工标注的问题,克服无监督分割方法性能低、鲁棒性差等问题,有效地提高了无监督医学图像分割算法的性能。

Description

一种基于对抗网络的无监督医学图像分割方法
技术领域
本发明属于医疗保健信息学,特别是医学图像分割技术领域。
背景技术
医学图像的精确分割是一个非常具有挑战性的任务。医学图像存在不同软组织之间对比度低、边界模糊等情况,且不同的成像模态具有巨大差异,不同中心的图像在对比度、分辨率上存在较大不同,使得到精确的分割结果十分困难。传统的图像分割方法如水平集、区域增长算法、边缘检测算法等无需标注图像进行训练,属于无监督的分割算法,它们依赖于人工设计的特征和参数,容易出现过分割和欠分割的情况,在具有复杂病变的情况下难以获得鲁棒的结果。
近年来,深度学习与卷积神经网络在医学图像分割任务中已经取得了很大的成就,在诸多器官的分割中超越了传统分割算法的性能。它们的成功很大程度上取决于大量手工标注的图像用于训练。但是,在医学图像的分割任务中,大量的手工标注是不容易获得的,因为所需要提供的像素级标注是很非常耗时的,并且依赖于具有领域知识的专家来标注,从而导致获得高质量的标注数据十分昂贵,需要大量的人力和时间,这已经成为深度学习算法发展的主要障碍。为了解决这个问题,基于标注高效性的深度学习技术,例如弱标注或者无标注学习技术越来越受到人们的重视。
对目前已有的基于标注高效性学习的图像分割算法进行研究发现,尽管这些方法可以有效减少训练图像的标注量,它们在医学图像的分割中仍然难以取得好的性能。这里主要存在着三个问题:首先,目前虽然存在很多标注高效性学习的方法,例如弱监督学习、半监督学习和交互式标注工具等,它们仍然需要大量的人工参与。弱监督学习方法需要人工给定一个边界框、稀疏的像素级标注如涂鸦等,或者图片级的标注;半监督学习需要给出一部分标注好的图片,而交互式标注工具需要人工提供交互。它们虽然在一定程度上克服了对大规模图像进行完全手工标注的难题,但是仍需要许多的人工参与。其次,目前存在的标注高效性学习方法的性能仍跟有监督的医学图像分割方法差距较大,这限制了其在实际场景中的应用,使其无法真正解决对大规模人工标注的依赖问题。第三,目前存在的无监督学习方法都存在很多局限性,例如一些无监督域学习方法可以将一个给定标注的数据集或者模态(源域)转换成需要分割的图像或模态的形式(目标域)来解决目标域没有标注的问题,但是它们仍然需要源域的标注。一些传统的无监督方法例如随机霍夫变换和基于纹理的椭圆检测可用于分割超声图像中椭圆形的胎儿头部,但是它们的鲁棒性较低,无法处理具有弱边界信息的图像。一些基于深度学习的无监督方法性能仍然较差,且只能关注到局部信息,无法从整体语义中分割出精确的结果。
发明内容
本发明的目的在于克服医学图像分割中现有的深度学习算法依赖大量人工标注进行训练的不足, 针对基于标注高效性学习的医学图像分割方法中的问题,提出一种基于对抗网络的无监督医学图像分割方法。在形状先验信息的约束下,使算法无需对训练数据进行标注即可获得更好的分割性能。同时,本发明克服目前无监督分割方法中普遍性能偏低,步骤复杂等问题,使深度学习模型能够在关注局部细节的同时,可更有效地关注全局的语义信息,以保证分割结果的完整性。
本发明采用一种基于对抗性学习和形状先验信息的无监督医学图像分割方法来 解决目前医学图像分割方法中存在的问题,本发明首先根据特定的组织器官形状建立一组 辅助掩码,这组辅助掩码是由形状建模或者其他公共数据集得到的。其次,设计一种改进的 循环一致性对抗网络,学习辅助掩码中的形状约束信息,并自动生成训练图像中分割目标 器官的二元掩码。为了提高二元掩码的质量,提出一种基于变分自编码器的判别器
Figure 641032DEST_PATH_IMAGE001
和 利用判别器的反馈来校正二元掩码生成器的模块。最后学习二元掩码中的信息并对二元掩 码进行修正,以得到最终的精确分割模型。采用基于二元掩码质量的样本筛选模块和根据 噪声加权的损失函数解决二元掩码中噪声较大的问题。
本发明的技术方案为一种基于对抗网络的无监督医学图像分割方法,该方法包括:
步骤1:获取辅助掩码;
对于给定的未标注训练集,利用待分割目标的形状先验信息或公共数据集获取该分割目标的一组辅助掩码,该辅助掩码与训练集中的图像不存在一一对应关系;
步骤2:生成二元掩码;
在辅助掩码和未标注训练集基础上,训练一个包含生成器、变分自编码器和判别器的对抗网络,利用变分自编码器对生成器产生的结果进行约束,并将判别器的输出作为反馈,对生成器进行校正;训练完成后,采用含判别器反馈的生成器为每一个训练图像生成二元掩码;
步骤3:基于二元掩码质量的样本筛选;
通过对训练图像二元掩码进行质量评估,设置质量阈值,以该阈值为界将二元掩码训练图像分为低质量二元掩码训练图像和高质量二元掩码的训练图像,然后去除低质量二元掩码训练图像,保留高质量二元掩码的训练图像;
步骤4:基于二元掩码的噪声鲁棒性学习;
基于筛选出来的训练图像及其对应的二元掩码,克服二元掩码中噪声的影响,训练一个最终的分割模型。
进一步的,所述步骤1的具体方法为:
对于轮廓清晰的分割目标,利用形状先验信息生成一组随机的目标掩码作为辅助掩码;
对于不同的分割目标,根据目标的实际形状分布对辅助掩码的大小、长宽比和旋转角度进行约束;
对于难以用参数模型描述形状的目标,直接利用一组从公共数据集获得的掩码作为辅助掩码。
进一步的,所述步骤2中对抗网络的训练的方法为:
步骤2.1:随机选择一张医学图像
Figure 857250DEST_PATH_IMAGE002
,从所有辅助掩码中随机选择一个辅助掩码
Figure 926706DEST_PATH_IMAGE003
, 利用一个二元掩码生成器
Figure 279190DEST_PATH_IMAGE004
Figure 159421DEST_PATH_IMAGE002
转换成与之相对应的二元掩码
Figure 784306DEST_PATH_IMAGE005
=
Figure 204923DEST_PATH_IMAGE006
步骤2.2:使用图像生成器
Figure 615176DEST_PATH_IMAGE007
将二元掩码转换回一张伪医学图像
Figure 463046DEST_PATH_IMAGE008
,原则上
Figure 575228DEST_PATH_IMAGE002
Figure 799536DEST_PATH_IMAGE008
为完全一样的内容,因此存在循环一致性约束:
Figure 64295DEST_PATH_IMAGE009
公式1
其中
Figure 348646DEST_PATH_IMAGE010
代表
Figure 948123DEST_PATH_IMAGE002
的分布,
Figure 710543DEST_PATH_IMAGE011
表示离散变量为
Figure 829809DEST_PATH_IMAGE002
时的数学期望,
Figure 285061DEST_PATH_IMAGE012
表示L1范 数;然后训练判别器
Figure 371834DEST_PATH_IMAGE013
来评估
Figure 937945DEST_PATH_IMAGE005
的质量,判别器
Figure 911717DEST_PATH_IMAGE013
随机地接收辅助掩码
Figure 537871DEST_PATH_IMAGE003
或二元掩码
Figure 111940DEST_PATH_IMAGE005
作 为输入,要求判别器
Figure 216162DEST_PATH_IMAGE013
能识别出该输入为真或假,对应的对抗约束为:
Figure 310020DEST_PATH_IMAGE014
公式2
图像生成器
Figure 294026DEST_PATH_IMAGE007
将辅助掩码
Figure 902862DEST_PATH_IMAGE003
转换成相对应的伪医学图像
Figure 14037DEST_PATH_IMAGE015
,然后伪医学图像
Figure 24718DEST_PATH_IMAGE015
再 由二元掩码生成器
Figure 179625DEST_PATH_IMAGE004
转换回辅助掩码
Figure 275757DEST_PATH_IMAGE003
Figure 659465DEST_PATH_IMAGE016
表示离散变量为
Figure 790232DEST_PATH_IMAGE003
时的数学期望;
步骤2.3:采用预训练的变分自编码器将辅助掩码
Figure 116040DEST_PATH_IMAGE003
和二元掩码
Figure 637151DEST_PATH_IMAGE005
分别转换为低维 隐含向量
Figure 886867DEST_PATH_IMAGE017
Figure 59091DEST_PATH_IMAGE018
,然后使用判别器
Figure 368850DEST_PATH_IMAGE019
来判别
Figure 377257DEST_PATH_IMAGE017
Figure 430664DEST_PATH_IMAGE018
的真假,基于变分自编码器的对抗约 束为:
Figure 457395DEST_PATH_IMAGE020
公式3
其中,
Figure 938054DEST_PATH_IMAGE021
表示离散变量为
Figure 168179DEST_PATH_IMAGE018
时的数学期望,
Figure 25276DEST_PATH_IMAGE022
表示离散变量为
Figure 906513DEST_PATH_IMAGE017
时的 数学期望;所述变分自编码器的结构由一个编码器和一个解码器组成,编码器将一个输入 辅助掩码转换为服从高斯分布的低维隐含向量,解码器将该低维隐含向量重新变换为一个 掩码图像。
进一步的,所述步骤2中含判别器反馈的对抗网络为:
将判别器
Figure 495758DEST_PATH_IMAGE013
的反馈信息送入到生成器
Figure 541074DEST_PATH_IMAGE004
的解码器的输入中,构成循环连接;设
Figure 123234DEST_PATH_IMAGE023
代表总循环连接次数,由于第1轮中对抗网络先得到一个结果,暂时没有判别器的反馈;在 接下来的几轮循环中,将判别器
Figure 672027DEST_PATH_IMAGE013
的其中一层的特征图作为第
Figure 697752DEST_PATH_IMAGE024
轮循环的反馈信息:
Figure 964785DEST_PATH_IMAGE025
公式4
其中
Figure 85057DEST_PATH_IMAGE026
Figure 753936DEST_PATH_IMAGE027
表示维度,C、h、 w分别表示通道数、特征图的长、特征图的宽,
Figure 950562DEST_PATH_IMAGE028
是二元掩码在第
Figure 439312DEST_PATH_IMAGE029
轮的结果,然后利用一个最大池化层和通道注意力层得到注意力系数 向量,对于生成器
Figure 628854DEST_PATH_IMAGE004
的解码器中第
Figure 152239DEST_PATH_IMAGE030
个尺度上的第
Figure 254187DEST_PATH_IMAGE029
轮特征图,其注意力系数向量为:
Figure 495812DEST_PATH_IMAGE031
公式5
其中
Figure 223466DEST_PATH_IMAGE032
代表线性整流层,
Figure 601358DEST_PATH_IMAGE033
Figure 139786DEST_PATH_IMAGE034
是卷积核大小为1×1的卷积 层,
Figure 603129DEST_PATH_IMAGE035
是一个通道压缩系数;第
Figure 134473DEST_PATH_IMAGE036
轮循环中,对抗网络在第
Figure 632451DEST_PATH_IMAGE030
个尺度上校正前特征图
Figure 76201DEST_PATH_IMAGE037
和校正后特征图
Figure 292419DEST_PATH_IMAGE038
之间的关系为:
Figure 361875DEST_PATH_IMAGE039
公式6
Figure 652042DEST_PATH_IMAGE040
表示解码器中第
Figure 329011DEST_PATH_IMAGE030
个尺度上的特征图在第
Figure 953896DEST_PATH_IMAGE029
轮循环的注意力系数向量;由对抗 网络得到的新二元掩码为:
Figure 640093DEST_PATH_IMAGE041
公式7 。
进一步的,所述步骤3的具体方法为:
判别器
Figure 784766DEST_PATH_IMAGE042
的输出是一个矩阵,其中每个元素代表二元掩码图像对应块的质量,因 此将矩阵元素的平均值作为表征二元掩码整体质量好坏的指数;带有二元掩码的训练集表 示为:
Figure 85166DEST_PATH_IMAGE043
公式8
其中
Figure 10397DEST_PATH_IMAGE044
分别表示第
Figure 172388DEST_PATH_IMAGE045
个训练集图像、相对应的二元掩码、质量分数;经过筛 选后的训练集表示为:
Figure 499464DEST_PATH_IMAGE046
公式9
其中
Figure 970766DEST_PATH_IMAGE047
是一个二元掩码质量分数的阈值。
进一步的,所述步骤4的方法为:
在筛选出来的
Figure 55396DEST_PATH_IMAGE048
基础上,使用迭代训练来学习一个最终的分割模型;每轮训练包 括两个阶段:第一个阶段通过二元掩码的学习来更新分割模型,第二个阶段利用当前的分 割模型预测训练图像的新二元掩码;在分割模型更新步骤中, 采用如下噪声加权损失函数 进行训练:
Figure 83395DEST_PATH_IMAGE049
公式10
其中
Figure 451929DEST_PATH_IMAGE050
Figure 907181DEST_PATH_IMAGE051
Figure 744687DEST_PATH_IMAGE052
分别代表分割模型对像素
Figure 310797DEST_PATH_IMAGE045
的预测结果和二元掩码相应的 值,
Figure 533837DEST_PATH_IMAGE053
代表像素
Figure 97674DEST_PATH_IMAGE045
的权重,其定义如下:
Figure 219213DEST_PATH_IMAGE054
公式11。
与现有技术相比,本发明具有以下优点:
(1)本发明提出了一个基于形状先验信息与对抗学习的无监督医学图像分割方法,通过先验形状模型或第三方数据库得到辅助掩码,无需采集与训练集中图像一一对应的人工标注。在辅助掩码的基础上,利用对抗学习生成高质量的二元掩码进行分割模型的学习,从而避免人工标注。
(2)传统的对抗网络中,判别器不能对生成器的输出的局部细节进行好坏判定,且无法直接对生成器进行反馈。本发明在通过变分自编码判别器和判别器引导的生成器使得二元掩码生成器可以产生质量更好的二元掩码,进而有助于高精度分割模型的训练。
(3)本发明克服了二元掩码中噪声的影响。针对传统的神经网络训练流程中损失函数无法很好的处理标签中的噪声问题,本发明提出了基于二元掩码质量的样本筛选方法和噪声加权损失函数。通过迭代训练,使得模型的训练过程对噪声具有很好的鲁棒性,从而在训练图像无人工标注的情况下得到高性能的医学图像分割模型。
附图说明
图1为本发明的流程图。
图2为本发明提出的二元掩码生成器的网络结构图、基于判别器反馈的生成器校正模块、变分自编码器和判别器的结构图。
图3为本发明方法分割视盘结果图和现有技术分割视盘结果图的对比示意图;其中(a)为Joshi等人的无监督方法的分割视盘结果图;(b)为Moria等人无监督方法的分割视盘结果图;(c)为本发明的无监督方法分割视盘的结果图;(d)为在人工标注上训练的神经网络的视盘分割结果图;
图4为本发明方法分割胎儿头部结果图和现有技术分割胎儿头部结果图的对比示意图;其中(a)为Joshi等人的无监督方法的分割胎儿头部结果图;(b)为Moria等人无监督方法的分割胎儿头部结果图;(c)为本发明的无监督方法分割胎儿头部结果图;(d)为在人工标注上训练的神经网络的胎儿头部分割结果图。
图5为本发明方法与现有技术在分割肝脏区域的对比结果图;其中(a)为Moria等人无监督方法的分割肝脏的结果图;(b)为本发明的无监督方法分割肝脏的结果图;(c)为在人工标注上训练的神经网络的分割肝脏结果图。
图6为本发明方法与现有技术在分割肺部区域的对比结果图;其中(a)为Moria等人采用无监督方法的分割肺部的结果图;(b)为本发明的无监督方法分割肺部的结果图;(c)为在人工标注上训练的神经网络的分割肺部结果图。
具体实施方式
结合本发明的内容,提供以下在超声波图像中胎儿头部分割、眼底图像中视盘分割、X射线图像中肺部分割以及腹部CT图像中肝脏分割实施例,本实施例在CPU为Intel(R)Core(TM) i7-6850K 3.60GHz, GPU为Nvidia GTX1080Ti, 内存为32.0GB的计算机中实现,编程语言为Python。
图1中(a)部分展示了不配对图像和辅助掩码,(b)展示了用于无监督学习的改进的循环一致性对抗网络,(c)展示了二元掩码,(d)展示了部分展示了利用二元掩码学习的过程。
步骤1、获取辅助掩码
在超声波图像中胎儿头部分割和眼底图像中视盘分割的情况中,由于胎儿头部和视盘都是类似椭圆的形状,生成一组随机的椭圆作为辅助掩码。针对不同的实际分割目标,本发明根据目标的先验形状分布对辅助掩码的大小,长宽比和旋转角度等形状参数进行约束。以胎儿头部为例,随机生成椭圆的短轴为25mm-105mm,短轴与长轴的比例为1.2-1.8,旋转角度为0-380度。然后根据超声波图片的像素大小对生成的椭圆栅格化成二值图像。
对于X光图像中的肺部和CT图像中的肝脏,由于其形状复杂, 很难建立精确的参数模型,本发明直接利用一组从其他来源如公共数据集中获得的掩码作为辅助掩码。
步骤2、二元掩码的生成过程
图2展示了二元掩码生成器的网络结构图、基于判别器反馈的生成器校正模块、变分自编码器和判别器的结构图,如下结合图2进行详细介绍。
首先从医学图像域中随机选择一张医学图像
Figure 775965DEST_PATH_IMAGE002
,从辅助掩码中随机选择一个辅助 掩码
Figure 932140DEST_PATH_IMAGE003
,利用一个二元掩码生成器
Figure 666878DEST_PATH_IMAGE004
Figure 462665DEST_PATH_IMAGE002
转换成与之相对应的二元掩码
Figure 370578DEST_PATH_IMAGE005
=
Figure 318942DEST_PATH_IMAGE006
。其次,使 用一个图像生成器
Figure 286898DEST_PATH_IMAGE007
将二元掩码转换回一张伪医学图像
Figure 569981DEST_PATH_IMAGE008
,原则上
Figure 281585DEST_PATH_IMAGE002
Figure 350035DEST_PATH_IMAGE008
应该是完全一样 的内容,因此存在循环一致性约束:
Figure 488892DEST_PATH_IMAGE055
公式1
其中
Figure 993692DEST_PATH_IMAGE010
代表
Figure 508987DEST_PATH_IMAGE002
的分布。在这里使用一个判别器
Figure 431944DEST_PATH_IMAGE013
来评估
Figure 741702DEST_PATH_IMAGE005
的质量,
Figure 757235DEST_PATH_IMAGE013
随机地接 受一幅真实掩码
Figure 810642DEST_PATH_IMAGE003
或者一幅二元掩码
Figure 588105DEST_PATH_IMAGE005
=
Figure 68765DEST_PATH_IMAGE006
作为输入,要求它能识别出该输入为真或是 假,对应的对抗约束为:
Figure 813736DEST_PATH_IMAGE014
公式2
相应地,图像生成器
Figure 342937DEST_PATH_IMAGE007
将一个辅助掩码
Figure 302803DEST_PATH_IMAGE003
转换成相对应的伪医学图像
Figure 141315DEST_PATH_IMAGE015
,然后这 个伪医学图像被二元掩码生成器
Figure 921052DEST_PATH_IMAGE004
转换回辅助掩码
Figure 253945DEST_PATH_IMAGE056
此外,采用预训练的变分自编码器VAE将二维真实分割掩码
Figure 68317DEST_PATH_IMAGE003
和二元掩码
Figure 77730DEST_PATH_IMAGE005
分别转 换为低维隐含向量
Figure 344763DEST_PATH_IMAGE017
Figure 481347DEST_PATH_IMAGE018
来表示,然后使用一个判别器
Figure 150225DEST_PATH_IMAGE019
来判别
Figure 330540DEST_PATH_IMAGE017
Figure 22552DEST_PATH_IMAGE018
的真假,基于 VAE的对抗约束为:
Figure 25143DEST_PATH_IMAGE020
公式3
在这里,VAE的结构由一个编码器和一个解码器组成,编码器将一个输入掩码转换 为服从高斯分布的低维隐含向量,解码器将该低维隐含向量重新变换为一个掩码图像。利 用辅助掩码,采用L1范数作为损失函数对VAE进行预训练。判别器
Figure 735479DEST_PATH_IMAGE019
由三个线性层和一个 线性整流层(ReLU)组成。
步骤3、基于判别器反馈的生成器校正
利用一个基于判别器反馈的生成器校正模块来提高二元掩码的生成质量。这个模 块将判别器
Figure 899744DEST_PATH_IMAGE013
的反馈信息送入到生成器
Figure 79053DEST_PATH_IMAGE004
的解码器的输入中,从而构成循环连接。设
Figure 619756DEST_PATH_IMAGE023
代 表总循环连接次数,在本次实验中设为4。由于第1轮中生成器先得到一个结果,暂时没有判 别器的反馈。在接下来的几轮循环中,将判别器
Figure 184598DEST_PATH_IMAGE013
的倒数第二层的特征图作为第
Figure 785344DEST_PATH_IMAGE029
轮的反 馈信息:
Figure 186369DEST_PATH_IMAGE025
公式4
其中
Figure 530763DEST_PATH_IMAGE026
,C,h, w分别表示通道数,特征图的长和宽。
Figure 950112DEST_PATH_IMAGE028
是二元掩码在第
Figure 721759DEST_PATH_IMAGE029
轮的结果。然后利用一个最大池化层 (P) 和通道注意力层(SE)得到注意力系数向量。成 器解码器中第
Figure 610080DEST_PATH_IMAGE030
个尺度上在第
Figure 679536DEST_PATH_IMAGE029
轮的特征图,其注意力系数向量为:
Figure 32020DEST_PATH_IMAGE031
公式5
其中
Figure 912252DEST_PATH_IMAGE032
代表线性整流层,
Figure 350186DEST_PATH_IMAGE033
Figure 223333DEST_PATH_IMAGE034
是卷积核大小为1×1的卷积 层,
Figure 430324DEST_PATH_IMAGE035
是一个通道压缩系数,在本次实验中设置为4。第
Figure 481456DEST_PATH_IMAGE036
轮循环中,生成器在尺度
Figure 406687DEST_PATH_IMAGE030
上校 正前后的特征图
Figure 817945DEST_PATH_IMAGE037
Figure 145022DEST_PATH_IMAGE038
之间的关系为:
Figure 101476DEST_PATH_IMAGE039
公式6
由生成器得到的新的掩码为
Figure 700954DEST_PATH_IMAGE041
公式7
步骤4、基于噪声鲁棒性迭代训练的学习
在上述步骤的基础上,得到了每一幅训练图像对应的二元掩码。由于这些二元掩码是有噪声的、不准确的。使用所提出的基于噪声鲁棒性迭代训练的学习过程,分为两个模块:
第一个模块是基于二元掩码质量的样本筛选,用于自动保留高质量的二元掩码, 舍弃低质量的二元掩码。步骤2中二元掩码判别器
Figure 728953DEST_PATH_IMAGE042
的输出是一个矩阵,其中每个元素代 表二元掩码图像对应块的质量,因此可将矩阵的元素的平均值作为一个表征二元掩码整体 质量好坏的指数。带有二元掩码的训练集可以表示为:
Figure 848218DEST_PATH_IMAGE043
公式8
其中
Figure 303470DEST_PATH_IMAGE057
分别表示第i个训练集图像,相对应的二元掩码和质量分数。经过筛选 后的训练集可表示为:
Figure 124665DEST_PATH_IMAGE046
公式9
其中
Figure 690775DEST_PATH_IMAGE047
是一个二元掩码质量分数的阈值。 在本次实验中设为
Figure 930127DEST_PATH_IMAGE058
中所有二元掩码的 质量指数的第百分之七十五分位数。
在筛选出来的
Figure 556280DEST_PATH_IMAGE048
基础上,使用迭代训练来学习一个最终的分割模型。每轮训练包 括两个阶段:第一个阶段通过二元掩码的学习来更新分割模型,第二个阶段利用当前的分 割模型预测训练图像的新的二元掩码。在分割模型更新步骤中, 采用所提出的噪声加权 Dice损失函数进行训练:
Figure 864771DEST_PATH_IMAGE049
公式10
其中
Figure 234572DEST_PATH_IMAGE050
Figure 328430DEST_PATH_IMAGE051
Figure 125485DEST_PATH_IMAGE052
分别代表分割模型对像素
Figure 921271DEST_PATH_IMAGE045
的预测结果和二元掩码相应的 值,
Figure 829185DEST_PATH_IMAGE053
代表像素
Figure 777549DEST_PATH_IMAGE045
的权重,其定义如下:
Figure 745505DEST_PATH_IMAGE054
公式11。
本实施例的实施流程如图1所示;
1、首先利用Numpy(一个科学运算库)和OpenCV(一个计算机视觉和机器学习库)完成本发明提出的辅助掩码的建立。对于胎儿头部和视盘,根据椭圆形状模型和胎儿头部、视盘大小的先验知识,设置椭圆参数范围,随机生成辅助掩码;对于肺部图像,采用公开数据集MCXS中的肺部掩码作为辅助掩码;对于肝脏图像,采用公开数据集CHAOS 2019中磁共振图像的肝脏掩码作为辅助掩码。对训练数据进行尺寸变换,裁剪等数据预处理。
2、利用Pytorch(一个机器学习库)搭建本发明提出的改进的循环一致性对抗网络,将未配对的待分割的医学图像和辅助掩码输入网络中,利用对抗损失函数,循环一致性损失函数以及本发明提出的基于变分自编码器的对抗损失函数使用Adam优化器优化网络参数。对训练集数据循环训练,并利用判别器的反馈对生成器进行校正,直至生成器收敛。该训练阶段结束后,利用生成器生成每一个训练图像的二元掩码,并使用基于二元掩码质量的样本筛选方法,舍弃低质量的二元掩码。
3、进一步利用Pytorch搭建最终分割网络模型,将经过筛选后的训练集图像输入网络中进行迭代式学习。该过程中使用本发明提出的噪声加权Dice损失函数,使用Adam优化器优化网络参数。对训练集数据循环训练,交替更新分割模型和利用现有的分割模型预测训练图像的新二元掩码,直到模型收敛,从而得到最终的图像分割模型。
图3和图4是本发明和现有技术对视盘分割,胎儿头部分割的结果对比图;可以看到对于大多数器官本发明得到的分割线和标准线较为接近。从分割结果图中能明显看到本发明提出的无监督分割方法优于其他无监督分割方法,且本发明提出的方法与利用人工标注训练的分割结果接近或者无明显差异。
图5和图6是本发明方法与现有技术在分割肝脏和肺部区域的对比结果图; 从图5和图6的分割结果可以看到本发明的方法得到的分割线和标准线较为接近。从分割结果图中能明显看到本发明提出的无监督分割方法优于现有的无监督分割方法,且本发明提出的方法与利用人工标注训练的分割结果接近或者无明显差异。

Claims (6)

1.一种基于对抗网络的无监督医学图像分割方法,其特征在于,该方法包括:
步骤1:获取辅助掩码;
对于给定的未标注训练集,利用待分割目标的形状先验信息或公共数据集获取该分割目标的一组辅助掩码,该辅助掩码与训练集中的图像不存在一一对应关系;
步骤2:生成二元掩码;
在辅助掩码和未标注训练集基础上,训练一个包含生成器、变分自编码器和判别器的对抗网络,利用变分自编码器对生成器产生的结果进行约束,并将判别器的输出作为反馈,对生成器进行校正;训练完成后,采用含判别器反馈的生成器为每一个训练图像生成二元掩码;
步骤3:基于二元掩码质量的样本筛选;
通过对训练图像二元掩码进行质量评估,设置质量阈值,以该阈值为界将二元掩码训练图像分为低质量二元掩码训练图像和高质量二元掩码的训练图像,然后去除低质量二元掩码训练图像,保留高质量二元掩码的训练图像;
步骤4:基于二元掩码的噪声鲁棒性学习;
基于筛选出来的训练图像及其对应的二元掩码,克服二元掩码中噪声的影响,训练一个最终的分割模型。
2.如权利要求1所述的一种基于对抗网络的无监督医学图像分割方法,其特征在于,所述步骤1的具体方法为:
对于轮廓清晰的分割目标,利用形状先验信息生成一组随机的目标掩码作为辅助掩码;
对于不同的分割目标,根据目标的实际形状分布对辅助掩码的大小、长宽比和旋转角度进行约束;
对于难以用参数模型描述形状的目标,直接利用一组从公共数据集获得的掩码作为辅助掩码。
3.如权利要求1所述的一种基于对抗网络的无监督医学图像分割方法,其特征在于,所述步骤2中对抗网络的训练的方法为:
步骤2.1:随机选择一张医学图像
Figure 169354DEST_PATH_IMAGE001
,从所有辅助掩码中随机选择一个辅助掩码
Figure 289756DEST_PATH_IMAGE002
,利用 一个二元掩码生成器
Figure 335073DEST_PATH_IMAGE003
Figure 933544DEST_PATH_IMAGE001
转换成与之相对应的二元掩码
Figure 888862DEST_PATH_IMAGE004
=
Figure 413122DEST_PATH_IMAGE005
步骤2.2:使用图像生成器
Figure 211314DEST_PATH_IMAGE006
将二元掩码转换回一张伪医学图像
Figure 551159DEST_PATH_IMAGE007
,原则上
Figure 423300DEST_PATH_IMAGE001
Figure 682243DEST_PATH_IMAGE007
为完 全一样的内容,因此存在循环一致性约束:
Figure 843098DEST_PATH_IMAGE008
公式1
其中
Figure 284837DEST_PATH_IMAGE009
代表
Figure 73801DEST_PATH_IMAGE001
的分布,
Figure 706908DEST_PATH_IMAGE010
表示离散变量为
Figure 89479DEST_PATH_IMAGE001
时的数学期望,
Figure 567864DEST_PATH_IMAGE011
表示L1范数;然 后训练判别器
Figure 476915DEST_PATH_IMAGE012
来评估
Figure 717141DEST_PATH_IMAGE004
的质量,判别器
Figure 649325DEST_PATH_IMAGE012
随机地接收辅助掩码
Figure 993718DEST_PATH_IMAGE002
或二元掩码
Figure 694958DEST_PATH_IMAGE004
作为输 入,要求判别器
Figure 607551DEST_PATH_IMAGE012
能识别出该输入为真或假,对应的对抗约束为:
Figure 89347DEST_PATH_IMAGE013
公式2
图像生成器
Figure 411001DEST_PATH_IMAGE006
将辅助掩码
Figure 170009DEST_PATH_IMAGE002
转换成相对应的伪医学图像
Figure 315820DEST_PATH_IMAGE014
,然后伪医学图像
Figure 19334DEST_PATH_IMAGE014
再由二 元掩码生成器
Figure 643213DEST_PATH_IMAGE003
转换回辅助掩码
Figure 755263DEST_PATH_IMAGE002
Figure 399871DEST_PATH_IMAGE015
表示离散变量为
Figure 528364DEST_PATH_IMAGE002
时的数学期望;
步骤2.3:采用预训练的变分自编码器将辅助掩码
Figure 893618DEST_PATH_IMAGE002
和二元掩码
Figure 158377DEST_PATH_IMAGE004
分别转换为低维隐含 向量
Figure 708307DEST_PATH_IMAGE016
Figure 825561DEST_PATH_IMAGE017
,然后使用判别器
Figure 260084DEST_PATH_IMAGE018
来判别
Figure 707246DEST_PATH_IMAGE016
Figure 100181DEST_PATH_IMAGE017
的真假,基于变分自编码器的对抗约束 为:
Figure 140950DEST_PATH_IMAGE019
公式3
其中,
Figure 408858DEST_PATH_IMAGE020
表示离散变量为
Figure 241685DEST_PATH_IMAGE017
时的数学期望,
Figure 743204DEST_PATH_IMAGE021
表示离散变量为
Figure 333586DEST_PATH_IMAGE016
时的数学 期望;所述变分自编码器的结构由一个编码器和一个解码器组成,编码器将一个输入辅助 掩码转换为服从高斯分布的低维隐含向量,解码器将该低维隐含向量重新变换为一个掩码 图像。
4.如权利要求3所述的一种基于对抗网络的无监督医学图像分割方法,其特征在于,所述步骤2中含判别器反馈的对抗网络为:
将判别器
Figure 968966DEST_PATH_IMAGE012
的反馈信息送入到生成器
Figure 266087DEST_PATH_IMAGE003
的解码器的输入中,构成循环连接;设
Figure 490570DEST_PATH_IMAGE022
代表 总循环连接次数,由于第1轮中对抗网络先得到一个结果,暂时没有判别器的反馈;在接下 来的几轮循环中,将判别器
Figure 630565DEST_PATH_IMAGE012
的其中一层的特征图作为第
Figure 7319DEST_PATH_IMAGE023
轮循环的反馈信息:
Figure 158946DEST_PATH_IMAGE024
公式4
其中
Figure 330165DEST_PATH_IMAGE025
Figure 957455DEST_PATH_IMAGE026
表示维度,C、h、 w分别表示通道数、特征图的长、特征图的宽,
Figure 308540DEST_PATH_IMAGE027
是二元掩码在第
Figure 376990DEST_PATH_IMAGE028
轮的结果,然后利用一个最大池化层和通道注意力层得到注意力系数向 量,对于生成器
Figure 781426DEST_PATH_IMAGE003
的解码器中第
Figure 568117DEST_PATH_IMAGE029
个尺度上的第
Figure 224357DEST_PATH_IMAGE028
轮特征图,其注意力系数向量为:
Figure 475210DEST_PATH_IMAGE030
公式5
其中
Figure 489696DEST_PATH_IMAGE031
代表线性整流层,
Figure 701365DEST_PATH_IMAGE032
Figure 285930DEST_PATH_IMAGE033
是卷积核大小为1×1的卷积层,
Figure 328973DEST_PATH_IMAGE034
是一个通道压缩系数;第
Figure 950578DEST_PATH_IMAGE035
轮循环中,对抗网络在第
Figure 944817DEST_PATH_IMAGE029
个尺度上校正前特征图
Figure 333073DEST_PATH_IMAGE036
和校 正后特征图
Figure 168305DEST_PATH_IMAGE037
之间的关系为:
Figure 23128DEST_PATH_IMAGE038
公式6
Figure 334024DEST_PATH_IMAGE039
表示解码器中第
Figure 135758DEST_PATH_IMAGE029
个尺度上的特征图在第
Figure 389278DEST_PATH_IMAGE028
轮循环的注意力系数向量;由对抗网络得 到的新二元掩码为:
Figure 742899DEST_PATH_IMAGE040
公式7 。
5.如权利要求4所述的一种基于对抗网络的无监督医学图像分割方法,其特征在于,所述步骤3的具体方法为:
判别器
Figure 213194DEST_PATH_IMAGE041
的输出是一个矩阵,其中每个元素代表二元掩码图像对应块的质量,因此将 矩阵元素的平均值作为表征二元掩码整体质量好坏的指数;带有二元掩码的训练集表示 为:
Figure 553040DEST_PATH_IMAGE042
公式8
其中
Figure 159602DEST_PATH_IMAGE043
分别表示第
Figure 949703DEST_PATH_IMAGE044
个训练集图像、相对应的二元掩码、质量分数;经过筛选后 的训练集表示为:
Figure 343513DEST_PATH_IMAGE045
公式9
其中
Figure 283787DEST_PATH_IMAGE046
是一个二元掩码质量分数的阈值。
6.如权利要求5所述的一种基于对抗网络的无监督医学图像分割方法,其特征在于,所述步骤4的方法为:
在筛选出来的
Figure 72752DEST_PATH_IMAGE047
基础上,使用迭代训练来学习一个最终的分割模型;每轮训练包括两个 阶段:第一个阶段通过二元掩码的学习来更新分割模型,第二个阶段利用当前的分割模型 预测训练图像的新二元掩码;在分割模型更新步骤中, 采用如下噪声加权损失函数进行训 练:
Figure 909121DEST_PATH_IMAGE048
公式10
其中
Figure 88430DEST_PATH_IMAGE049
Figure 894711DEST_PATH_IMAGE050
Figure 242910DEST_PATH_IMAGE051
分别代表分割模型对像素
Figure 984601DEST_PATH_IMAGE044
的预测结果和二元掩码相应的值,
Figure 979101DEST_PATH_IMAGE052
代表像素
Figure 261178DEST_PATH_IMAGE044
的权重,其定义如下:
Figure 900101DEST_PATH_IMAGE053
公式11。
CN202110344122.2A 2021-03-31 2021-03-31 一种基于对抗网络的无监督医学图像分割方法 Pending CN112734764A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110344122.2A CN112734764A (zh) 2021-03-31 2021-03-31 一种基于对抗网络的无监督医学图像分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110344122.2A CN112734764A (zh) 2021-03-31 2021-03-31 一种基于对抗网络的无监督医学图像分割方法

Publications (1)

Publication Number Publication Date
CN112734764A true CN112734764A (zh) 2021-04-30

Family

ID=75596173

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110344122.2A Pending CN112734764A (zh) 2021-03-31 2021-03-31 一种基于对抗网络的无监督医学图像分割方法

Country Status (1)

Country Link
CN (1) CN112734764A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113592771A (zh) * 2021-06-24 2021-11-02 深圳大学 一种图像分割方法
CN113643311A (zh) * 2021-06-28 2021-11-12 清华大学 一种对边界误差鲁棒的图像分割方法和装置
CN114006752A (zh) * 2021-10-29 2022-02-01 中电福富信息科技有限公司 基于gan压缩算法的dga域名威胁检测系统及其训练方法
CN114140368A (zh) * 2021-12-03 2022-03-04 天津大学 一种基于生成式对抗网络的多模态医学图像合成方法
CN114240950A (zh) * 2021-11-23 2022-03-25 电子科技大学 一种基于深度神经网络的脑部肿瘤图像生成和分割方法
CN114240955A (zh) * 2021-12-22 2022-03-25 电子科技大学 一种半监督的跨领域自适应的图像分割方法
CN114463332A (zh) * 2022-04-13 2022-05-10 北京航空航天大学 用于跨数据源医学图像分割的无监督域适应方法及系统
CN114897914A (zh) * 2022-03-16 2022-08-12 华东师范大学 基于对抗训练的半监督ct图像分割方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106570874A (zh) * 2016-11-10 2017-04-19 宁波大学 一种结合图像局部约束与对象全局约束的图像标记方法
CN107909621A (zh) * 2017-11-16 2018-04-13 深圳市唯特视科技有限公司 一种基于双生成对抗网络的医学图像合成方法
CN109934843A (zh) * 2019-01-28 2019-06-25 北京华捷艾米科技有限公司 一种实时的轮廓精细化抠像方法及存储介质
CN110580501A (zh) * 2019-08-20 2019-12-17 天津大学 一种基于变分自编码对抗网络的零样本图像分类方法
EP3611699A1 (en) * 2018-08-14 2020-02-19 Siemens Healthcare GmbH Image segmentation using deep learning techniques
CN111402257A (zh) * 2020-03-11 2020-07-10 华侨大学 一种基于多任务协同跨域迁移的医学图像自动分割方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106570874A (zh) * 2016-11-10 2017-04-19 宁波大学 一种结合图像局部约束与对象全局约束的图像标记方法
CN107909621A (zh) * 2017-11-16 2018-04-13 深圳市唯特视科技有限公司 一种基于双生成对抗网络的医学图像合成方法
EP3611699A1 (en) * 2018-08-14 2020-02-19 Siemens Healthcare GmbH Image segmentation using deep learning techniques
CN109934843A (zh) * 2019-01-28 2019-06-25 北京华捷艾米科技有限公司 一种实时的轮廓精细化抠像方法及存储介质
CN110580501A (zh) * 2019-08-20 2019-12-17 天津大学 一种基于变分自编码对抗网络的零样本图像分类方法
CN111402257A (zh) * 2020-03-11 2020-07-10 华侨大学 一种基于多任务协同跨域迁移的医学图像自动分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
LU WANG等: "Annotation-Efficient Learning for Medical Image Segmentation based on Noisy Pseudo Labels and Adversarial Learning", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113592771A (zh) * 2021-06-24 2021-11-02 深圳大学 一种图像分割方法
CN113592771B (zh) * 2021-06-24 2023-12-15 深圳大学 一种图像分割方法
CN113643311A (zh) * 2021-06-28 2021-11-12 清华大学 一种对边界误差鲁棒的图像分割方法和装置
CN113643311B (zh) * 2021-06-28 2024-04-09 清华大学 一种对边界误差鲁棒的图像分割方法和装置
CN114006752A (zh) * 2021-10-29 2022-02-01 中电福富信息科技有限公司 基于gan压缩算法的dga域名威胁检测系统及其训练方法
CN114240950A (zh) * 2021-11-23 2022-03-25 电子科技大学 一种基于深度神经网络的脑部肿瘤图像生成和分割方法
CN114240950B (zh) * 2021-11-23 2023-04-07 电子科技大学 一种基于深度神经网络的脑部肿瘤图像生成和分割方法
CN114140368A (zh) * 2021-12-03 2022-03-04 天津大学 一种基于生成式对抗网络的多模态医学图像合成方法
CN114140368B (zh) * 2021-12-03 2024-04-23 天津大学 一种基于生成式对抗网络的多模态医学图像合成方法
CN114240955B (zh) * 2021-12-22 2023-04-07 电子科技大学 一种半监督的跨领域自适应的图像分割方法
CN114240955A (zh) * 2021-12-22 2022-03-25 电子科技大学 一种半监督的跨领域自适应的图像分割方法
CN114897914A (zh) * 2022-03-16 2022-08-12 华东师范大学 基于对抗训练的半监督ct图像分割方法
CN114463332B (zh) * 2022-04-13 2022-06-10 北京航空航天大学 用于跨数据源医学图像分割的无监督域适应方法及系统
CN114463332A (zh) * 2022-04-13 2022-05-10 北京航空航天大学 用于跨数据源医学图像分割的无监督域适应方法及系统

Similar Documents

Publication Publication Date Title
CN112734764A (zh) 一种基于对抗网络的无监督医学图像分割方法
CN110443143B (zh) 多分支卷积神经网络融合的遥感图像场景分类方法
CN110503654B (zh) 一种基于生成对抗网络的医学图像分割方法、系统及电子设备
CN111612754B (zh) 基于多模态图像融合的mri肿瘤优化分割方法及系统
US9330336B2 (en) Systems, methods, and media for on-line boosting of a classifier
Li et al. Automated measurement network for accurate segmentation and parameter modification in fetal head ultrasound images
CN113705371B (zh) 一种水上视觉场景分割方法及装置
CN110648331B (zh) 用于医学图像分割的检测方法、医学图像分割方法及装置
CN111126155B (zh) 一种基于语义约束生成对抗网络的行人再识别方法
CN114663426A (zh) 一种基于关键骨区定位的骨龄评估方法
CN114626476A (zh) 基于Transformer与部件特征融合的鸟类细粒度图像识别方法及装置
CN105426836A (zh) 一种基于分部式模型和稀疏成分分析的单样本人脸识别方法
CN114066871A (zh) 一种新冠肺炎病灶区域分割模型训练的方法
CN117522891A (zh) 一种3d医学图像分割系统及方法
CN112819832A (zh) 基于激光点云的城市场景语义分割细粒度边界提取方法
CN111798463A (zh) 一种头颈部ct图像中多器官自动分割方法
CN116433679A (zh) 一种基于空间位置结构先验的内耳迷路多级标注伪标签生成与分割方法
CN114066887B (zh) 大米垩白区域检测方法、装置、设备及存储介质
Boutin et al. Diffusion models as artists: are we closing the gap between humans and machines?
CN116310335A (zh) 一种基于Vision Transformer的翼状胬肉病灶区域的分割方法
CN115761226A (zh) 一种口腔影像分割识别方法、装置、电子设备和存储介质
CN112784800B (zh) 一种基于神经网络和形状约束的人脸关键点检测方法
CN115239943A (zh) 图像矫正模型的训练方法及切片图像的色彩矫正方法
CN115578400A (zh) 图像处理方法、图像分割网络的训练方法及装置
Yang et al. Rdhcformer: Fusing resdcn and transformers for fetal head circumference automatic measurement in 2d ultrasound images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210430

RJ01 Rejection of invention patent application after publication