CN115619641B - 基于ffdm的乳腺影像处理方法、系统、终端和介质 - Google Patents

基于ffdm的乳腺影像处理方法、系统、终端和介质 Download PDF

Info

Publication number
CN115619641B
CN115619641B CN202211302398.5A CN202211302398A CN115619641B CN 115619641 B CN115619641 B CN 115619641B CN 202211302398 A CN202211302398 A CN 202211302398A CN 115619641 B CN115619641 B CN 115619641B
Authority
CN
China
Prior art keywords
data set
ffdm
image
countermeasure network
mammary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211302398.5A
Other languages
English (en)
Other versions
CN115619641A (zh
Inventor
张亚琴
陶雨溪
韩佳悦
陈铭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fifth Affiliated Hospital of Sun Yat Sen University
Original Assignee
Fifth Affiliated Hospital of Sun Yat Sen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fifth Affiliated Hospital of Sun Yat Sen University filed Critical Fifth Affiliated Hospital of Sun Yat Sen University
Priority to CN202211302398.5A priority Critical patent/CN115619641B/zh
Publication of CN115619641A publication Critical patent/CN115619641A/zh
Application granted granted Critical
Publication of CN115619641B publication Critical patent/CN115619641B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于FFDM的乳腺影像处理方法、系统、终端和介质,方法包括:根据第一乳腺X线数据集和第二乳腺X线数据集构建第一数据集和第二数据集;第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;通过第一数据集训练预设的生成式对抗网络;通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。相比于现有技术,采用了生成式对抗网络,在进行乳腺癌筛查过程中不需要额外进行标记;基于DFM的第二数据集生成相对更高分辨率的FFDM目标乳腺X线数据集,提高了影像的质量,使生成的影像与真实影像更为相近。

Description

基于FFDM的乳腺影像处理方法、系统、终端和介质
技术领域
本发明涉及乳腺图像处理领域,尤其涉及一种基于FFDM的乳腺影像处理方法、系统、终端设备和计算机可读存储介质。
背景技术
全视野数字乳房X光片(FFDM)是近些年发展起来的一种新图像,逐渐取代了数字化屏幕-胶片乳房X线摄影(DFM),成为了乳腺癌筛查的主要技术。但是大多数的乳房X线摄影的数据集仍以DFM的形式进行存储。
现有技术在进行乳腺癌筛查的过程中,一种是直接拍摄FFDM,另一种方法时基于DFM生成高分辨率的FFDM,前者在应用于计算机辅助诊断系统中时由于缺乏相应的标记数据,注释良好的医学图像难以获取,开发相应的用于乳腺癌筛查的深度学习算法难度较大,而后者会受到整体网络容量和GPU内存的限制,生成的FFDM图像质量较差,甚至于会无法生成。
发明内容
本发明提供了一种基于FFDM的乳腺影像处理方法、系统、终端设备和计算机可读存储介质,采用生成式对抗网络并利用DFM生成FFDM影像,在进行乳腺癌筛查过程中不需要额外进行标记,解决了如何提高目标影像学数据质量的技术问题。
为了解决上述技术问题,本发明实施例提供了一种基于FFDM的乳腺影像处理方法,包括:
从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;
通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;
通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。
在所述通过所述第一数据集训练预设的生成式对抗网络之前,还包括:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
作为优选方案,所述通过所述第一数据集训练预设的生成式对抗网络,包括:
所述生成式对抗网络包括生成器和鉴别器;
对所述生成器和所述鉴别器分别进行训练,具体地:
通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,并获得经过降采样的影像的对应梯度图;
直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
作为优选方案,所述乳腺影像处理方法还包括:
根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样,并基于所述第三数据集中的若干第二影像构建预设像素大小的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
相应的,本发明实施例还提供了一种基于FFDM的乳腺影像处理系统,包括数据集构建模块、训练模块和目标影像生成模块;其中,
所述数据集构建模块,用于从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;
所述训练模块,用于通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;
所述目标影像生成模块,用于通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。
所述乳腺影像处理系统还包括预处理模块,所述预处理模块用于在所述通过所述第一数据集训练预设的生成式对抗网络之前:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
作为优选方案,所述训练模块通过所述第一数据集训练预设的生成式对抗网络,包括:
所述生成式对抗网络包括生成器和鉴别器;
对所述生成器和所述鉴别器分别进行训练,具体地:
所述训练模块通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,并获得经过降采样的影像的对应梯度图;
直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
作为优选方案,所述乳腺影像处理系统还包括检测模块,所述检测模块用于:
根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样,并基于所述第三数据集中的若干第二影像构建预设像素大小的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
相应的,本发明实施例还提供了一种终端设备,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器执行所述计算机程序时实现所述的一种基于FFDM的乳腺影像处理方法。
相应的,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行所述的一种基于FFDM的乳腺影像处理方法。
相比于现有技术,本发明实施例具有如下有益效果:
本发明实施例提供了一种基于FFDM的乳腺影像处理方法、系统、终端设备和计算机可读存储介质,所述乳腺影像处理方法包括:从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。相比于现有技术,采用了生成式对抗网络,在进行乳腺癌筛查过程中不需要额外进行标记,可以更易于应有到现有的FFDM计算机辅助诊断系统;基于DFM的第二数据集生成相对更高分辨率的FFDM目标乳腺X线数据集,相比现有技术提高了目标乳腺X线数据集的质量,使生成的影像与真实影像更为相近,缩小了DFM和FFDM之间的质量差距。
进一步地,在用于训练的第一数据集中FFDM数据量较小的情况下(或与现有技术相比,在采用相同的训练数据集的情况下进行对比),保留了输入数据的图像分辨率和细节,并由生成式对抗网络生成高分辨率的FFDM,能够有效提高基于FFDM的乳腺癌筛查的性能,提高对钙化部检测、肿块分割或病灶检测的准确性。
附图说明
图1:为本发明基于FFDM的乳腺影像处理方法的一种实施例的流程示意图。
图2:为本发明提供的一种生成式对抗网络的架构示意图。
图3:为本发明提供的一种生成器的架构示意图。
图4:为本发明提供的一种鉴别器的架构示意图。
图5:为本发明提供的DFM和合成FFDM(SFFDM)的一种视觉比较示意图。
图6:为本发明提供的DFM和合成FFDM(SFFDM)的另一种视觉比较示意图。
图7:为本发明基于FFDM的乳腺影像处理系统的一种实施例的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一:
乳腺癌已成为女性癌症死亡的主要原因之一,因此,早期筛查并发现乳腺癌至关重要,可以大幅提高女性患者的生存率。
根据相关技术记载,乳腺X线筛查是早期诊断乳腺癌的有效方法之一。其中包括数字化屏片乳腺摄影(DFM)和全场数字乳腺摄影(FFDM)两种主要的技术。
在一些方面,FFDM已成为了乳腺癌筛查的标准程序,但是DFM在过去得到了广泛的应用和深入的研究,在FFDM中应用经过充分研究的DFM技术,可以开发更好的乳腺癌筛查系统。而FFDM和DFM主要的差异在于视觉差异。
随着深度学习算法的快速发展,基于深度学习的计算机辅助诊断(CAD)系统在自动乳腺癌筛查中得到了广泛的应用。但是,由于现有的FFDM缺乏标记数据,注释良好的医学图像难以获取,基于深度学习的CAD系统的应用受到了限制。现有技术难以获取大规模的公共的FFDM数据集,大多数的FFDM CAD系统是基于有限的内部数据集构建的,因此经过处理获得的目标乳腺X线影像的质量较差。目前,具有注释的大规模DFM数据集是公开的,而如何基于现有的DFM数据集以及有限的FFDM数据集获得目标乳腺X线影像,或构建性能良好的FFDM CAD系统是一个重大挑战。
针对上述一个或多个技术问题,请参照图1,图1为本发明实施例提供的一种基于FFDM的乳腺影像处理方法,包括步骤S1至步骤S3,其中,
步骤S1,从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集。
在本实施例中,所述第一乳腺X线数据集和所述第二乳腺X线数据集均为公共数据集。其中,所述第一乳腺X线数据集为CBIS-DDSM数据集,包括753例钙化病例和891例经过验证的含病理信息的肿块病例,共产生3568个DFM。而所述第二乳腺X线数据集为Inbreast数据集,共包含410个FFDM,带有肿块、钙化、不对称和畸变的注释。从所述第一乳腺X线数据集和所述第二乳腺X线数据集中随机选择1784个DFM和205个FFDM构建第一数据集,并从所述第一乳腺X线数据集中根据未被选取的剩余数据集(即剩余的DFM)构建第二数据集,从所述第二乳腺X线数据集中根据未被选取的剩余数据集(即剩余的FFDM)构建第三数据集。
需要说明的是,CBIS-DDSM即DDSM的策展乳腺成像子集,是用于筛查乳房X线摄影的数字数据库(DDSM)的更新和标准化版本。虽然DDSM是一个包含2620项乳房X线检查的大规模筛查乳房X线数据集,但可以从DDSM中选择一个相对较大的子集,使得CBIS-DDSM仍然是一个大规模的DFM数据集。CBIS-DDSM数据集包括3568个DFM,具有经验证的病理信息。
将所有的乳房X线照片(第一数据集、第二数据集和第三数据集)重新采样到100μm×100μm的各向同性像素分辨率。需要说明的是,对于各向同性像素分辨率,以放射影像数据为例,例如CT、MR、PET这样的断层扫描数据中,x,y,z三个扫描方向的像素间距(pixelspacing)并不是一致的。CT图像根据DICOM标准定义,x方向对应人体左右方向;y方向对应人体前(胸)后(背)方向;z方向对应人体上下(头脚)方向。x、y方向的像素间距较小、分辨率较高,例如0.5mm左右;z方向的像素间距(也可以理解为层间距)相对大一些,例如1至3mm。因此,本实施例为了便于后续进行处理,例如卷积等,会将所有的乳房X线照片通过图像插值把像素间距调整为各向同性(isotropic),即xyz三个方向的像素间距一致。
进一步地,在步骤S2之前,所述基于FFDM的乳腺影像处理方法还包括,对所述第一数据集进行预处理,具体地:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
优选地,斑片(patches)的像素大小为256×256像素。对于背景类别,其被定义为来自影像背景裁剪的类别;乳房区域类别:不包含影像背景裁剪的类别;边界类别可以配置为除所述背景类别和乳房区域类别的类别。在构建输入对时,从两个目标域(DFM和FFDM)中随机选取一对相同类别的图像,并采用带约束的配对(PWC)训练策略。相比于一些实施例采用循环GAN网络,背景类别的斑片最终可以与乳房区域类别的斑片配对作为输入,导致将噪声引入了训练阶段。而本实施例采用PWC训练策略和生成式对抗网络,相比循环GAN网络可以有效地对斑片进行配对,消除模型中的噪声输入。
步骤S2,通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构。
在本实施例中,进一步地,所述生成式对抗网络包括生成器和鉴别器,具体的架构可以参照图2。对所述生成器和所述鉴别器分别进行训练,直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
其中,通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,获得经过降采样的影像的对应梯度图。
具体地,生成器采用了与U-Net一样的网络架构,请参照图3。生成器由收缩路径(左侧)和扩展路径(右侧)组成。首先,将输入对送入卷积块以提取低层的特征图;然后通过残差块提取更高级别的特征图;之后对高级别的特征图进行降采样,然后送入下一层。收缩路径和扩展路径遵循卷积网络的架构。本实施例的生成器的架构,残差连接应用于每一层,以将收缩路径中每一层的特征与扩展路径中的特征连接起来。
而在鉴别器方面,其网络架构可以参照图4。本实施例的鉴别器包括多尺度DNN架构,其输入和输出,可以更好地实现对真实图像和合成图像的细微差异的区分。在训练时,首先通过滤波器例如Sobel,计算输入图像的梯度图,然后将输入图像及其对应的梯度图整合起来并馈送到鉴别器的第一层;其次对输入图像进行降采样,并计算其对应的梯度图,将降采样图像及其对应的梯度图的串联通过第二层进行馈送。
作为本实施方式的一种举例,将输入图像表示为X,其对应的梯度图表示为X′,鉴别器的第l层的输入可以表示为Xl
Figure GDA0004206944380000091
/>
其中,采用因子2(l-1)表示X降采样。
在本实施例中,引入梯度图可以增强弱边缘,以保留小尺度的结构。例如合成FFDM(即SFFDM)中的细微微钙化。带有乳房区域边界分割任务的签名鉴别器(signingdisriminators)有助于实施例的鉴别器更好地区分合成乳房X线照片和真实乳房X线照片。因此,本实施例的鉴别器输出的是双通道图,其中第一通道是预测图,第二通道是降采样分割图,用于指示输入图像的乳房区域。图4中,将II表示为矩阵,其每个元素的值为1,具有相同大小的下采样分割图,ml为第l层的下采样分段图,以及,[·,·]表示为串联操作。鉴别器第l层的输出
Figure GDA0004206944380000092
为:
Figure GDA0004206944380000093
其中,i为神经网络第l层中的第i个节点,II为神经网络的链接矩阵。基于本实施例的实施方式,通过强制鉴别器执行乳房分割任务,引导生成器学习乳房区域内外的差异。
在一些实施例中,生成式对抗网络GAN的损耗函数可以为:将X表示为第一乳腺X线数据集中DFM的选定斑片,Y表示为第二乳腺X线数据集中FFDM的选定斑片。结合图2至图4,G:DFM→FFDM和F:FFDM→DFM作为生成器,DX作为多尺度鉴别器来区分真实和合成的DFM,DY作为多尺度鉴别器来区分实际和合成的FFDM,并定义X的标志估计值
Figure GDA0004206944380000101
和Y的标志估计值/>
Figure GDA0004206944380000102
DX的损失函数LGrad(DX)可以表示为:
Figure GDA0004206944380000103
其中,
Figure GDA0004206944380000104
表示多尺度鉴别器DX的第l层,同时可以得到:
Figure GDA0004206944380000105
而DY的损失函数可以表示为:
Figure GDA0004206944380000106
其中,
Figure GDA0004206944380000107
为多尺度鉴别器DY的第l层,同时可以得到:
Figure GDA0004206944380000108
反向传播发生器G的损耗函数L(G)遵循周期GAN,可以表示为:
Figure GDA0004206944380000109
其中,Lcyc指循环(cyc)网络的损失函数,LGAN指GAN网络的损失函数,λ为用于平衡LGAN和Lcyc的超参数,并且:
Figure GDA00042069443800001010
/>
Lcyc(G,F,X)=||F(G(X))-X||1
类似地,反向传播器F的损耗函数,可以表示为:
Figure GDA00042069443800001011
Figure GDA0004206944380000111
Lcyc(F,G,Y)=||G(F(Y))-Y||1
本实施例在训练过程中,每一次迭代都先固定生成器并更新鉴别器,然后固定鉴别器并更新生成器。优选地,设置超参数λ=10,使用批次大小为16的解算器(例如,Adam解算器)实际在训练中可以从最初状态开始训练,学习率可以为0.0005,在前段例如前80个阶段保持相同的学习率,并在接下来的120个阶段中根据实际训练的需要线性衰减,衰减至0。利用生成式对抗网络的容量捕获用于图像翻译的详细信息。为了获得更好的容量,可以将原始U-NET中的卷积块替换为剩余块,并采用多尺度鉴别器。除了修改的网络结构外,还可以修改生成式对抗网络的损失函数,以捕捉筛查乳房X线摄影中细微的梯度变化,同时增强弱边缘以保持小规模结构。
步骤S3,通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。
在本实施例中,获得的目标乳腺X线数据集相比所述第二乳腺X线数据集具有更高的影像分辨率。
进一步地,本实施例生成的目标乳腺X线数据集为合成FFDM(SFFDM)影像,可以应用于乳腺癌筛查。作为本实施例的一种举例,可以对待分析乳腺影像中感兴趣区域(ROI)的分析和判读,具体针对病灶,例如可以执行肿块分割任务和钙化检测任务。
优选地,根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样(降采样到400μm),并基于所述第三数据集中的若干第二影像构建预设像素大小(224×224像素大小)的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
通过实验可以发现,包含80%以上背景的补丁均被删除。含有钙化的斑块被贴上标签1,否则,标签为0。从而,将目标斑块分为了两类,实现了钙化检测任务的目标。而在分割任务中,可以使用包括U-Net模型等在内的架构,此外还有Vgg-16等在内的架构可以用于钙化检测任务。
针对第三数据集可以进行五倍交叉验证。在第三数据集上可以训练U-Net和Vgg-16模型(表示为基线模型)。设置批次大小为8、学习率为0.0001的解算器(例如,Adam解算器)来训练基线U-Net。使用批次大小为16、学习率为0.0005的解算器(例如,Adam解算器)来训练基线Vgg-16。
为验证生成式对抗网络的有效性,可以针对基于第二数据集生成的FFDM训练另一个U-Net模型和另一个Vgg-16模型。类似地,对于分割任务,将样本减少到400μm,并将生成的100μm的FFDM平铺成224×224像素大小的斑块,用于钙化检测任务。
然后在第三数据集对应的训练集上对两个模型进行微调,使用批次大小为8、学习率为0.0001的Adam solver(27)来训练微调的U网络(U-Net)。使用批次大小为16且学习率为0.0005的解算器(例如,Adam解算器)来训练微调Vgg-16。将两个微调模型的学习率设置为0.000005,并对其进行了200个阶段的微调。
实际影像的效果参照图5和图6。高分辨率DFM和相应的高分辨率FFDM的示例如图5所示,图5展示了从DFM中裁剪的两个斑片。在视觉的比较中,FFDM相对于DFM增强了乳腺组织。此外,在左侧DFM中几乎看不到乳房区域边界,而在右侧的FFDM中边界完整且清晰,可以协助定位乳头位置。
图6显示了从FFDM中相同位置裁剪的相应斑片。第一列第一行中的DFM贴片显示出明显的密度,而第二列第一行的SFFDM贴片则显示出密度是由重叠的组织引起的。此外,在第一列第二行的DFM补片中几乎看不到乳头,而在第二列第二行的DFM补片中的FFDM补片中发现乳头。
实际应用中,可以采用骰子系数来评估分割任务。具体地,骰子分数dice可以表示为:
Figure GDA0004206944380000131
其中,A表示基本真理,B表示预测。
对于钙化检测任务,可以通过算子特征(ROC)曲线(AUC)下的面积来评估模型分类的功能。
表1表明了本实施例的生成式对抗网络在第三数据集上执行肿块分割任务、钙化检测任务的有效性。
表1分割任务和钙化检测任务的有效性
分割任务的骰子得分 钙化检测任务的AUC
基线模型 0.7012±0.0102 0.8227±0.0113
微调后的模型 0.7523±0.0098 0.8641±0.0125
p-值 <10-10 <10-10
表1的第一列显示了分割任务的平均骰子分数(average dice score),其标准差为五倍;表1的第二列显示了钙化检测任务的平均AUC(标准差为5倍)。在FFDM上预训练并在第三数据集的训练集上微调的模型显著(p<10-10)优于基线模型。
为了定量评估本实施例生成式对抗网络的有用性,当只有少量带注释的FFDM可用时,可以利用本实施例生成式对抗网络生成的合成FFDM(SFFDM)来提高基于深度学习的模型的性能。例如,执行肿块分割任务和微钙化检测任务。在小型FFDM数据集上训练基线模型。为了进行比较,微调模型首先在合成FFDM(SFFDM)上训练,然后在小型FFDM数据集上微调。相比于医学成像的迁移学习(例如,vanilla transfer learning)不同,后者通常在ImageNet数据集上预训练模型,并在目标数据集上进行微调,导致自然图像和医学图像之间存在较大的域差距。
相应的,参照图7,本发明实施例还提供了一种基于FFDM的乳腺影像处理系统,包括数据集构建模块101、训练模块102和目标影像生成模块103;其中,
所述数据集构建模块101,用于从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;
所述训练模块102,用于通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;
所述目标影像生成模块103,用于通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。
作为进一步优选方案,所述乳腺影像处理系统还包括预处理模块,所述预处理模块用于在所述通过所述第一数据集训练预设的生成式对抗网络之前:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
作为进一步优选方案,所述训练模块102通过所述第一数据集训练预设的生成式对抗网络,包括:
所述生成式对抗网络包括生成器和鉴别器;
对所述生成器和所述鉴别器分别进行训练,具体地:
所述训练模块102通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,并获得经过降采样的影像的对应梯度图;
直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
作为进一步优选方案,所述乳腺影像处理系统还包括检测模块,所述检测模块用于:
根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样,并基于所述第三数据集中的若干第二影像构建预设像素大小的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
相应的,本发明实施例还提供了一种终端设备,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器执行所述计算机程序时实现所述的一种基于FFDM的乳腺影像处理方法。
所述处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器是所述终端的控制中心,利用各种接口和线路连接整个终端的各个部分。
所述存储器可用于存储所述计算机程序,所述处理器通过运行或执行存储在所述存储器内的计算机程序,以及调用存储在存储器内的数据,实现所述终端的各种功能。所述存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
相应的,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行所述的一种基于FFDM的乳腺影像处理方法。
其中,所述基于FFDM的乳腺影像处理系统/终端设备集成的模块如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。
相比于现有技术,本发明实施例具有如下有益效果:
本发明实施例提供了一种基于FFDM的乳腺影像处理方法、系统、终端设备和计算机可读存储介质,所述乳腺影像处理方法包括:从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像。相比于现有技术,采用了生成式对抗网络,在进行乳腺癌筛查过程中不需要额外进行标记,可以更易于应有到现有的FFDM计算机辅助诊断系统;基于DFM的第二数据集生成相对更高分辨率的FFDM目标乳腺X线数据集,相比现有技术提高了目标乳腺X线数据集的质量,使生成的影像与真实影像更为相近,缩小了DFM和FFDM之间的质量差距。
进一步地,在用于训练的第一数据集中FFDM数据量较小的情况下(或与现有技术相比,在采用相同的训练数据集的情况下进行对比),保留了输入数据的图像分辨率和细节,并由生成式对抗网络生成高分辨率的合成FFDM(SFFDM),能够有效提高基于FFDM的乳腺癌筛查的性能,提高对钙化部检测、肿块分割或病灶检测的准确性。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步的详细说明,应当理解,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围。特别指出,对于本领域技术人员来说,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于FFDM的乳腺影像处理方法,其特征在于,包括:
从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;
通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;
通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像;
在所述通过所述第一数据集训练预设的生成式对抗网络之前,还包括:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
2.如权利要求1所述的一种基于FFDM的乳腺影像处理方法,其特征在于,所述通过所述第一数据集训练预设的生成式对抗网络,包括:
所述生成式对抗网络包括生成器和鉴别器;
对所述生成器和所述鉴别器分别进行训练,具体地:
通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,并获得经过降采样的影像的对应梯度图;
直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
3.如权利要求1所述的一种基于FFDM的乳腺影像处理方法,其特征在于,所述乳腺影像处理方法还包括:
根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样,并基于所述第三数据集中的若干第二影像构建预设像素大小的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
4.一种基于FFDM的乳腺影像处理系统,其特征在于,包括数据集构建模块、训练模块和目标影像生成模块;其中,
所述数据集构建模块,用于从第一乳腺X线数据集和第二乳腺X线数据集中选取第一数据集,并根据所述第一乳腺X线数据集中未被选取的剩余数据集构建第二数据集;其中,所述第一乳腺X线数据集为DFM数据集,第二乳腺X线数据集为FFDM数据集;
所述训练模块,用于通过所述第一数据集训练预设的生成式对抗网络;其中,所述生成式对抗网络的生成器包括U-Net生成器;所述生成式对抗网络的鉴别器包括多尺度DNN架构;
所述目标影像生成模块,用于通过训练好的生成式对抗网络,基于所述第二数据集生成目标乳腺X线数据集;其中,所述目标乳腺X线数据集为FFDM影像;
所述乳腺影像处理系统还包括预处理模块,所述预处理模块用于在所述通过所述第一数据集训练预设的生成式对抗网络之前:
通过滑窗对所述第一数据集中的DFM影像和FFDM影像进行裁剪,获得若干DFM斑片和若干FFDM斑片;
通过阈值法提取所述第一数据集的背景,并根据所述背景的比例,确定各斑片的类别;所述斑片的类别包括乳房区域类别、边界类别和背景类别;
随机选取相同类别的DFM斑片和FFDM斑片构建若干输入对,获得经过预处理的所述第一数据集;其中,所述输入对用于训练所述生成式对抗网络。
5.如权利要求4所述的一种基于FFDM的乳腺影像处理系统,其特征在于,所述训练模块通过所述第一数据集训练预设的生成式对抗网络,包括:
所述生成式对抗网络包括生成器和鉴别器;
对所述生成器和所述鉴别器分别进行训练,具体地:
所述训练模块通过所述生成器从所述输入对中提取特征图,并对所述特征图进行降采样;通过所述鉴别器得到所述第一数据集的梯度图,对所述第一数据集进行降采样,并获得经过降采样的影像的对应梯度图;
直到所述生成式对抗网络满足预设的收敛要求,获得训练好的生成式对抗网络。
6.如权利要求4所述的一种基于FFDM的乳腺影像处理系统,其特征在于,所述乳腺影像处理系统还包括检测模块,所述检测模块用于:
根据所述第二乳腺X线数据集中未被选取的剩余数据集构建第三数据集;
对所述第三数据集中的若干第一影像进行降采样,并基于所述第三数据集中的若干第二影像构建预设像素大小的影像块;
根据经过降采样的第一影像,分割出所述目标乳腺X线数据集的肿块,实现肿块检测;根据所述影像块,分割出所述目标乳腺X线数据集的钙化部,实现钙化检测。
7.一种终端设备,其特征在于,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至3中任意一项所述的一种基于FFDM的乳腺影像处理方法。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如权利要求1至3中任意一项所述的一种基于FFDM的乳腺影像处理方法。
CN202211302398.5A 2022-10-24 2022-10-24 基于ffdm的乳腺影像处理方法、系统、终端和介质 Active CN115619641B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211302398.5A CN115619641B (zh) 2022-10-24 2022-10-24 基于ffdm的乳腺影像处理方法、系统、终端和介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211302398.5A CN115619641B (zh) 2022-10-24 2022-10-24 基于ffdm的乳腺影像处理方法、系统、终端和介质

Publications (2)

Publication Number Publication Date
CN115619641A CN115619641A (zh) 2023-01-17
CN115619641B true CN115619641B (zh) 2023-06-02

Family

ID=84864483

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211302398.5A Active CN115619641B (zh) 2022-10-24 2022-10-24 基于ffdm的乳腺影像处理方法、系统、终端和介质

Country Status (1)

Country Link
CN (1) CN115619641B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108268870A (zh) * 2018-01-29 2018-07-10 重庆理工大学 基于对抗学习的多尺度特征融合超声图像语义分割方法
CN114581701A (zh) * 2022-02-24 2022-06-03 杭州电子科技大学 一种t2加权影像特征生成动态增强影像特征的方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109191424B (zh) * 2018-07-23 2022-04-22 哈尔滨工业大学(深圳) 一种乳腺肿块检测与分类系统、计算机可读存储介质
US10898149B2 (en) * 2018-12-11 2021-01-26 International Business Machines Corporation Standardizing breast density assessments
US11580646B2 (en) * 2021-03-26 2023-02-14 Nanjing University Of Posts And Telecommunications Medical image segmentation method based on U-Net
CN113393938B (zh) * 2021-07-13 2022-09-13 华南理工大学 一种融合影像和临床特征信息的乳腺癌风险预测系统
CN114972322A (zh) * 2022-06-24 2022-08-30 浙江树人学院 联合ffdm图像与dbt图像的乳腺微钙化簇检测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108268870A (zh) * 2018-01-29 2018-07-10 重庆理工大学 基于对抗学习的多尺度特征融合超声图像语义分割方法
CN114581701A (zh) * 2022-02-24 2022-06-03 杭州电子科技大学 一种t2加权影像特征生成动态增强影像特征的方法

Also Published As

Publication number Publication date
CN115619641A (zh) 2023-01-17

Similar Documents

Publication Publication Date Title
Shamshad et al. Transformers in medical imaging: A survey
Bai et al. Applying deep learning in digital breast tomosynthesis for automatic breast cancer detection: A review
Aldoj et al. Automatic prostate and prostate zones segmentation of magnetic resonance images using DenseNet-like U-net
Priego-Torres et al. Automatic segmentation of whole-slide H&E stained breast histopathology images using a deep convolutional neural network architecture
Ben-Cohen et al. Fully convolutional network and sparsity-based dictionary learning for liver lesion detection in CT examinations
US20170042495A1 (en) Medical image information system, medical image information processing method, and program
JP4785371B2 (ja) 動的制約を用いる多次元構造の抽出方法及びシステム
US9129391B2 (en) Semi-automated preoperative resection planning
CN112529834A (zh) 病理图像模式在3d图像数据中的空间分布
US10140715B2 (en) Method and system for computing digital tomosynthesis images
Dutande et al. Deep residual separable convolutional neural network for lung tumor segmentation
EP4141790A1 (en) Method, device and system for automated segmentation of prostate in medical images for tumor detection
Hsiao et al. A deep learning-based precision and automatic kidney segmentation system using efficient feature pyramid networks in computed tomography images
CN110738633B (zh) 一种机体组织的三维图像处理方法及相关设备
Tummala et al. Liver tumor segmentation from computed tomography images using multiscale residual dilated encoder‐decoder network
Le Van et al. Detecting lumbar implant and diagnosing scoliosis from vietnamese X-ray imaging using the pre-trained api models and transfer learning
Mridha et al. A comprehensive survey on the progress, process, and challenges of lung cancer detection and classification
Mahmood et al. Recent advancements and future prospects in active deep learning for medical image segmentation and classification
Zhou et al. Rib fracture detection with dual-attention enhanced U-Net
Xu et al. Improved cascade R-CNN for medical images of pulmonary nodules detection combining dilated HRNet
CN113348485A (zh) 异常检测方法、异常检测程序、异常检测装置、服务器装置以及信息处理方法
Zhou et al. Improved breast lesion detection in mammogram images using a deep neural network
CN115619641B (zh) 基于ffdm的乳腺影像处理方法、系统、终端和介质
Maram et al. Brain tumour detection on brats 2020 using u-net
Zhou et al. Generating Full-Field Digital Mammogram From Digitized Screen-Film Mammogram for Breast Cancer Screening With High-Resolution Generative Adversarial Network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant