CN112215829A - 一种髋关节标准切面的定位方法和计算机设备 - Google Patents
一种髋关节标准切面的定位方法和计算机设备 Download PDFInfo
- Publication number
- CN112215829A CN112215829A CN202011131477.5A CN202011131477A CN112215829A CN 112215829 A CN112215829 A CN 112215829A CN 202011131477 A CN202011131477 A CN 202011131477A CN 112215829 A CN112215829 A CN 112215829A
- Authority
- CN
- China
- Prior art keywords
- hip joint
- positioning
- training
- joint video
- image frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30008—Bone
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种髋关节标准切面的定位方法和计算机设备,髋关节标准切面的定位方法包括:获取待处理的髋关节视频,其中,髋关节视频包括多个图像帧;将髋关节视频输入定位模型,通过定位模型确定定位参数;根据定位参数,在髋关节视频中确定目标图像帧,并将目标图像帧作为髋关节视频对应的标准切面。本发明不需要计算髋关节视频中每一张图像帧的标准化程度,而是直接处理髋关节视频,步骤简单,速度快,由于定位模型的学习对象是髋关节视频,可以学习到髋关节视频中各图像帧之间的关系,提高了定位标准切面的准确度。
Description
技术领域
本申请涉及医学图像技术领域,特别是涉及一种髋关节标准切面的定位方法和计算机设备。
背景技术
发育性髋关节发育不良(developmental dysplasia of the hip,DDH)是儿童最常见的髋关节疾病。目前,髋关节超声检查已经成为新生儿髋关节检查的重要手段,在髋关节超声诊断中,首先要选取一张标准切面,基于标准切面判断髋关节发育情况。
现有技术中,可以通过神经网络学习每一张髋关节切面的标准化程度,进而通过标准化程度确定标准的髋关节切面,这样,计算每张髋关节切面的标准化程度,计算过程复杂,耗时长。
因此,现有技术有待改进。
发明内容
本发明提供了一种髋关节标准切面的定位方法和计算机设备,本发明中直接处理髋关节视频,步骤简单,速度快,定位模型可以学习到髋关节视频中各图像帧之间的关系,提高了定位标准切面的准确度。
第一方面,本发明实施例提供了髋关节标准切面的定位方法,包括:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
在进一步的实现方式中,所述定位参数包括定位坐标。
在进一步的实现方式中,所述根据所述定位参数,在所述髋关节视频中确定目标图像帧,具体包括:
根据所述定位坐标确定所述目标图像帧,其中,所述目标图像帧包括所述定位坐标。
在进一步的实现方式中,所述定位模型的训练过程包括:
将第一训练集中的训练髋关节视频输入第一预设网络,通过所述第一预设网络确定所述训练髋关节视频对应的预测坐标,其中,所述第一训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实坐标;
根据所述训练髋关节视频对应的真实坐标和预测坐标对所述第一预设网络进行训练,并继续执行所述将第一训练集中的训练髋关节视频输入第一预设网络的步骤,直至满足第一预设训练条件,以得到所述定位模型。
在进一步的实现方式中,所述定位参数包括三维特征数据,其中,所述三维特征数据包括多个二维特征数据,所述多个二维特征数据与所述多个图像帧一一对应。
在进一步的实现方式中,所述根据所述定位参数,在所述髋关节视频中确定目标图像帧,具体包括:
根据预设值和所述多个二维特征数据确定若干候选掩码数据;
根据若干候选掩码数据确定目标掩码数据,并将所述目标掩码数据对应的图像帧作为目标图像帧。
在进一步的实现方式中,每个二维特征数据包括多个特征值,所述多个特征值与该二维特征数据对应的图像帧包括的多个像素点一一对应;所述根据预设值和所述多个二维特征数据确定若干候选掩码数据,具体包括:
对于每个二维特征数据,若该二维特征数据包括的所有特征值均大于所述预设值,则将该二维特征数据作为候选掩码数据。
在进一步的实现方式中,所述定位模型的训练过程包括:
将第二训练集中的训练髋关节视频输入第二预设网络,通过所述第二预设网络确定所述训练髋关节视频对应的预测三维特征数据,其中,所述第二训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实索引数据;
根据所述训练髋关节视频对应的真实索引数据和预测三维特征数据对所述第二预设网络进行训练,并继续执行所述将第二训练集中的训练髋关节视频输入第二预设网络的步骤,直至满足第二预设训练条件,以得到所述定位模型。
第二方面,本发明提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
第三方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
与现有技术相比,本发明实施例具有以下优点:
在本发明实施例中,获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。在本发明中,直接将髋关节视频输入定位模型,通过定位模型确定髋关节视频对应的定位参数,进而确定髋关节视频对应的标准切面,本发明不需要计算髋关节视频中每一张图像帧的标准化程度,而是直接处理髋关节视频,步骤简单,速度快,由于定位模型的学习对象是髋关节视频,可以学习到髋关节视频中各图像帧之间的关系,提高了定位标准切面的准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种髋关节标准切面的定位方法的流程示意图;
图2为本发明实施例中3D卷积模块的结构示意图;
图3为本发明实施例中3D卷积模块、线性整流层和仿射变换层之间跳跃连接的结构示意图;
图4为本发明实施例中定位模型的训练过程的示意图;
图5为本发明实施例中另一种定位模型的训练过程的示意图;
图6为本发明实施例中计算机设备的内部结构图。
具体实施方式
为了使本发明的目的、技术方案及效果更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
发明人经过研究发现,发育性髋关节发育不良(developmental dysplasia ofthe hip,DDH)是儿童最常见的髋关节疾病,是一种与出生有关的髋关节发育性病变,也是导致儿童骨骼关节畸形的主要原因。而开展新生儿普查工作时早起发现和预防本病的重要做事,已被列入2002年我国公布的提高人口素质,减少出生缺陷及残疾的计划中。由于0-6个月的婴儿股骨头骨骺尚未骨化,超声检查可清晰显示尚未骨化的股骨头,髋臼软骨,盂唇等结构,具有准确性高,无放射损伤,允许重复操作,可以跟踪观察等优点。
髋关节超声检查已经成为新生儿髋关节检查的重要手段,被认为是婴儿发育性髋脱位诊断和随访最有效的方法之一。在实际的髋关节超声诊断中,获取的切面是否标准会对实际的诊断结果产生很大的影响,不标准的切面往往会造成医生诊断的偏差或是误诊。
目前,对髋关节超声标准切面定位方法主要是获取超声视频对应的多张二维图像,通过深度学习对二维图像的组织结构进行分析,再利用分析数据计算出每张图像标准化的程度,以此找到标准切面。此过程太过复杂和繁琐,对数据标注的要求较高,费时费力。
为了解决上述问题,在本发明实施例中,获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
现有技术中学习的是每张图像帧的孤立信息,无法学习到图像帧与图像帧之间的信息,导致得到的标准切面准确度不高,并且,计算每张图像帧的标准化程度,计算过程复杂,耗时长。在本发明中,直接将髋关节视频输入定位模型,通过定位模型确定髋关节视频对应的定位参数,进而确定髋关节视频对应的标准切面,本发明不需要计算髋关节视频中每一张图像帧的标准化程度,而是直接处理髋关节视频,步骤简单,速度快,由于定位模型的学习对象是髋关节视频,可以学习到髋关节视频中各图像帧之间的关系,提高了定位标准切面的准确度。
本实施例提供了一种髋关节标准切面的定位方法和计算机设备,所述髋关节标准切面的定位方法可以应用到终端设备中,所述终端设备可以获取髋关节视频,并通过所述髋关节标准切面的定位方法对获取的髋关节视频进行处理,终端设备可以以各种形式来实现,例如,PC机、电脑、服务器等。另外,该方法所实现的功能可以通过终端设备中的处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该终端设备至少包括处理器和存储介质。
下面结合附图,通过对实施例的描述,对发明内容作进一步说明。
参阅图1,本实施例提供了一种髋关节标准切面的定位方法,包括:
S1、获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧。
在本发明实施例中,所述髋关节视频可以是超声设备采集的被检测对象的髋关节视频,所述髋关节视频还可以是从数据库中获取的髋关节视频。所述髋关节视频中包括多张按照时间顺序排列的图像帧,每个图像帧均对应髋关节的一个切面。
S2、将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数。
在本发明实施例中,将所述髋关节视频转换为三维数据,所谓三维数据中的三维是指:图像帧的长m、图像帧的宽n和图像帧的序号h。髋关节视频对应的三维数据的尺寸为m*n*h,其中,m*n是图像帧对应的分辨率,h是髋关节视频中包括的图像帧的数量。例如,髋关节视频包括20个图像帧,每个图像帧的分辨率为680*420,则该髋关节视频对应的三维数据的尺寸为680*420*20。
在一种实现方式中,所述定位参数包括定位坐标,与此对应的,所述定位模型为回归模型,所述定位模型包括三维特征提取模块和全连接模块。当所述定位模型包括三维特征提取模块和全连接模块时,所述将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数,具体包括:
将所述髋关节视频对应的三维数据输入三维特征提取模块,以得到所述髋关节视频对应的三维特征图;将所述三维特征图输入全连接模块,通过所述全连接模块确定定位坐标。
在本发明实施例中,通过所述三维特征提取模块提取所述髋关节视频对应的三维特征,以得到髋关节视频对应的三维特征图。具体的,所述三维特征提取模块可以通过3D卷积实现,例如,通过一个尺度为3*3*3的3D卷积核提取所述髋关节视频对应的三维特征。
在本发明实施例中,可以通过图2中的3D卷积模块实现提取髋关节视频对应的三维特征,内部使用跳跃连接来方式过深的网络造成的梯度消失的问题,跳跃连接如图3所示,其中,3Dconv为3D卷积模块,relu是线性整流层,bn是仿射变换层。
在本发明实施例中,所述定位参数还包括默认的定位法向量。在本发明实施例中,预先设定一个三维坐标系,髋关节视频中每个图像帧的每个像素点均有对应的三维坐标。设定三维坐标系包括:设定空间中的一个点为原点,以及设定三个方向轴,三个方向轴中的任意两个方向轴垂直。其中,三个方向轴的中一个方向轴为时间轴,髋关节视频中的每个图像帧均垂直于时间轴,也就是说,所述定位法向量为平行与时间轴的向量。
例如,定位坐标可以通过(x,y,z)表示,其中,x、y和z分别是三维坐标系中各个方向轴上的取值;定位法向量可以通过(a,b,c)表示,其中,a、b和c分别是三维坐标系各个方向轴上的取值。
所述三维特征图经过全连接层映射成指定长度的向量,该长度为参数长度。所述参数长度由定位参数确定,当定位坐标和定位法向量均为三维坐标时,所述全连接层输出的向量的参数长度为6,向量的前三位为定位坐标,向量的后三位为定位法向量。定位法向量是默认的,当时间轴为c时,默认的定位法向量为(0,0,1)。
在一种实现方式中,可以先对髋关节视频对应的三维数据进行预处理,将预处理后的结果输入定位模型。预处理的过程,可以包括:对髋关节视频对应的三维数据中的每个二维数据进行零均值化,或者直方图均值化,或者归一化等。在本发明实施例中,预处理的过程不限于以上列举的方法。对髋关节视频对应的三维数据进行预处理可以满足对图像帧之间差异较大的数据的适用性。
S3、根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
在本发明实施例中,当所述定位参数包括定位坐标和定位法向量时,步骤S3包括:
S31A、根据所述定位坐标确定所述目标图像帧,其中,所述目标图像帧包括所述定位坐标。
在本发明实施例中,所述目标图像帧包括所述定位坐标。由于髋关节视频中每个图像帧均是按照时间轴方向排列,通过定位坐标中的时间轴坐标可以确定目标图像帧。进而,读取所述定位坐标中时间轴方向所对应的数值,将读取的该数值作为目标图像帧对应的索引值。所述索引值是图像帧在髋关节视频中的索引值,例如,一个图像帧在髋关节视频中是第5帧,则该图像帧对应的索引值为5。
例如,全连接层输出的一个定位参数为(1,5,8,0,0,1),其中,(1,5,8)是定位坐标,(0,0,1)是定位法向量,读取定位坐标中(1,5,8)时间轴方向所对应的数值为8,可以确定目标图像帧为髋关节视频中是第8帧。
如果若干候选图像帧中有包括所述定位坐标的图像帧,则将该图像帧作为目标图像帧。在具体实施时,有可能候选图像帧中的每个候选图像帧均不包括所述定位坐标,则可以选择若干候选图像帧中的任意一个候选图像帧作为目标图像帧。将确定的目标图像帧作为髋关节视频对应的标准切面。
在本发明实施例中,当所述定位模型包括三维特征提取模块和全连接模块时,所述定位参数包括定位坐标,所述定位模型是根据第一训练集对第一预设模型训练得到的。
具体的,参见图4,当所述定位模型包括三维特征提取模块和全连接模块时,所述定位模型的训练过程包括:
K1、将第一训练集中的训练髋关节视频输入第一预设网络,通过所述第一预设网络确定所述训练髋关节视频对应的预测坐标,其中,所述第一训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实坐标。
在本发明实施例中,所述第一训练集中包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实坐标,每个训练髋关节视频中均包括多个图像帧,多个图像帧中包括一个真实标准切面对应的标准图像帧,对于一个训练髋关节视频,所述真实坐标是该训练髋关节视频中的标准图像帧对应的真实坐标。
在本发明实施例中,将训练髋关节视频输入第一预设网络,通过所述第一预设网络确定所述训练髋关节视频对应的预测坐标和预测法向量的过程,与前文中通过所述定位模型确定定位坐标的过程相同,因此,对于“将训练髋关节视频输入第一预设网络,通过所述第一预设网络确定所述训练髋关节视频对应的预测坐标”的具体过程,可以参见前文中对于:通过所述定位模型确定定位坐标的说明。
K2、根据所述训练髋关节视频对应的真实坐标和预测坐标对所述第一预设网络进行训练,并继续执行所述将第一训练集中的训练髋关节视频输入第一预设网络的步骤,直至满足第一预设训练条件,以得到所述定位模型。
在本发明实施例中,对所述第一预设网络进行训练指的是对第一预设网络的网络参数进行修正;根据真实坐标和预测坐标计算第一损失函数值,根据第一损失函数值修改第一预设网络的网络参数;并继续执行将第一训练集中的训练髋关节视频输入第一预设网络的步骤,直至满足第一预设训练条件,以得到所述定位模型。所述第一损失函数值可以是均方误差(Mean Square Error,MSE)。
在本发明实施例中,所述第一预设条件包括损失函数值满足预设要求或者训练次数达到预设次数。所述预设要求可以是根据定位模型的精度来确定,这里不做详细说明,所述预设次数可以为第一预设网络的最大训练次数,例如,4000次等。由此,在计算得到第一损失函数值后,判断所述第一损失函数值是否满足预设要求;若第一损失函数值满足预设要求,则结束训练;若第一损失函数值不满足预设要求,则判断所述第一预设网络的训练次数是否达到预测次数,若未达到预设次数,则根据所述第一损失函数值对所述第一预设网络的网络参数进行修正;若达到预设次数,则结束训练。这样通过第一损失函数值和训练次数来判断第一预设网络训练是否结束,可以避免因第一损失函数值无法达到预设要求而造成预设网络模型的训练进入死循环。
进一步,由于对第一预设网络的网络参数进行修改是在第一预设网络的训练情况未满足预设条件,从而在根据第一损失函数值对所述第一预设网络的网络参数进行修正后,需要继续对第一预设网络进行训练,即继续执行将第一训练集中的将训练髋关节视频输入第一预设网络的步骤。其中,继续执行将第一训练集中的将训练髋关节视频输入第一预设网络中的训练髋关节视频可以是从未作为输入项输入过第一预设网络的髋关节视频。例如,第一训练集中的所有训练髋关节视频具有唯一标识(例如,编号),第一次训练输入第一预设网络的训练髋关节视频的标识与第二次训练输入第一预设网络的训练髋关节视频的标识不同。当然,在实际应用中,由于第一训练集中的训练髋关节视频的数量有限,为了提高定位模型的训练效果,可以依次将第一训练集中的训练髋关节视频输入至第一预设网络以对第一预设网络进行训练,当第一训练集中的所有训练髋关节视频均输入第一预设网络后,可以继续执行依次将第一训练集中的训练髋关节视频输入至第一预设网络的操作。在本实施例中,不对“继续执行所述将第一训练集中的将训练髋关节视频输入第一预设网络的步骤”的具体实现方式进行限定。
在一种实现方式中,考虑到第一训练集中可能存在数据量不足的问题,在对预设网络模型进行训练之前,可以对第一训练集进行数据增强处理,例如,通过对训练髋关节视频中的图像帧进行平移、旋转、镜像、缩放等处理,增加第一训练集中训练髋关节视频的数量。
在另一种实现方式中,所述定位参数包括三维特征数据,其中,所述三维特征数据包括多个二维特征数据,所述多个二维特征数据与多个图像帧一一对应。每个二维特征数据均包括多个特征值,每个特征值均与图像帧中的一个像素点相对应。与此相应的,所述定位模块包括三维特征提取模块和全卷积层。进而,将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数,具体包括:
将所述髋关节视频对应的三维数据输入三维特征提取模块,以得到所述髋关节视频对应的三维特征图;将所述三维特征图输入所述全卷层,通过所述全卷层确定所述三维特征图对应的三维特征数据,其中,所述三维特征数据包括多个特征值,每个特征值对应髋关节视频中一个图像帧的一个像素点。
在本发明实施例中,通过所述三维特征提取模块提取所述髋关节视频对应的三维特征,以得到髋关节视频对应的三维特征图。具体的,所述三维特征提取模块可以通过3D卷积实现,例如,通过一个尺度为3*3*3的3D卷积核提取所述髋关节视频对应的三维特征。
在本发明实施例中,可以通过图2中的3D卷积模块实现提取髋关节视频对应的三维特征,内部使用跳跃连接来方式过深的网络造成的梯度消失的问题,跳跃连接如图3所示,其中,3Dconv为3D卷积模块,relu是线性整流层,bn是仿射变换层。
在一种实现方式中,可以先对髋关节视频对应的三维数据进行预处理,将预处理后的结果输入定位模型。预处理的过程,可以包括:对髋关节视频对应的三维数据中的每个二维数据进行零均值化,或者直方图均值化,或者归一化等。在本发明实施例中,预处理的过程不限于以上列举的方法。对髋关节视频对应的三维数据进行预处理可以满足对图像帧之间差异较大的数据的适用性。
在本发明实施例中,当所述定位参数包括三维特征数据时,步骤S3包括:
S31B、根据预设值和所述多个二维特征数据确定若干候选掩码数据。
在本发明实施例中,所述三维特征数据包括多个二维特征数据,所述多个二维特征数据与髋关节视频包括的多个图像帧一一对应。每个二维特征数据均包括多个特征值,每个特征值均与图像帧中的一个像素点相对应,也就是说,每个二维特征数据包括该二维特征数据对应的图像帧中每个像素点的特征值。
在本发明实施例中,每个候选掩码数据中的特征值均大于所述预设值。具体的,步骤S31B包括:
S31B1、对于每个二维特征数据,若该二维特征数据包括的所有特征值均大于所述预设值,则将该二维特征数据作为所述候选掩码数据。
在本发明实施例中,对于每个二维特征数据,获取该二维特征数据中的所有特征值,比较获取到的每个特征是否均大于预设值,若是,则将该二维特征数据作为候选掩码数据。
在一种实现方式中,可以对每个二维特征数据进行二值化处理,进而根据二值化处理的结果确定候选掩码数据。
具体的,对于三维特征数据中的每个特征值,若该特征值大于预设值,则确定该特征值对应的掩码值为第一数值,若该特征至小于预设值,则确定该特征值对应的掩码值为第二数值;根据确定得到的所有掩码值确定三维掩码数据。所述三维掩码数据包括多个二维掩码数据。所述候选掩码数据中的掩码值均为第一数值。
在本发明实施例中,所述第一数值可以为1,所述第二数值可以为0,也就是说,根据预设值对所述三维特征数据做二值化处理,将大于预设值的特征值所对应的掩码值设为1,将小于预设值的特征值所对应的掩码值设为0。也就是说,所述候选掩码数据中包括的掩码值均为1。
S32B、根据若干候选掩码数据确定目标掩码数据,并将所述目标掩码数据对应的图像帧作为目标图像帧。
当所述候选掩码数据有多个时,在一个示例中,目标掩码数据可以是若干个候选掩码数据中的任意一个。
在另一个示例中,获取每个候选掩码数据各自分别对应的索引值,所述索引值是候选掩码数据对应的图像帧在髋关节视频中的索引值,例如,一个图像帧在髋关节视频中是第5帧,则该图像帧对应的索引值为5,该图像帧对应的候选掩码数据所对应的索引值为5。
根据获取到的所有索引值确定中心索引值,将中心索引值对应的候选掩码数据作为目标掩码数据。所述根据获取到的所有索引值确定中心索引值,具体包括:将获取的各索引值按照从小到大的顺序排列,将排列在中心的索引值作为中心索引值。
例如,获取到的各索引值包括:12、13、15、17、20、21和23,则17为中心索引值,17对应的候选掩码数据是目标掩码数据。
在本发明实施例中,当所述定位模块包括三维特征提取模块和全卷积层,所述定位参数包括三维特征数据时,所述定位模型是根据第二训练集对第二预设模型训练得到的。
具体的,参见图5,当所述定位模块包括三维特征提取模块和全卷积层时,所述定位模型的训练过程包括:
M1、将第二训练集中的训练髋关节视频输入第二预设网络,通过所述第二预设网络确定所述训练髋关节视频对应的预测三维特征数据,其中,所述第二训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实索引数据。
在本发明实施例中,所述第二训练集中包括多个训练髋关节视频,每个训练髋关节视频中均包括多个图像帧,多个图像帧中包括一个真实标准切面对应的标准图像帧。将训练髋关节视频输入第二预设网络,通过所述第二预设网络确定所述训练髋关节视频对应的预测三维特征数据的过程,与前文中通过所述定位模型确定三维特征数据的过程相同,因此,对于“将第二训练集中的训练髋关节视频输入第二预设网络,通过所述第二预设网络确定所述训练髋关节视频对应的预测三维特征数据”的具体过程,可以参见前文中对于通过所述定位模型确定三维特征数据的说明。
在本发明实施例中,所述真实索引数据用于反映该训练髋关节视频中真实标准切面的索引值。所述真实索引数据的尺寸与训练髋关节视频对应的三维数据的尺寸相同,当训练髋关节视频对应的三维数据的尺寸为m*n*h时,真实索引数据的尺寸同样为m*n*h,真实索引数据包括多个二维索引数据,每个二维索引数据对应训练髋关节视频中的一个图像帧,其中,标准图像帧对应的二维索引数据中的数值均为1,非标准图像帧对应的二维索引数据中的数据均为0。
在本发明实施例中,通过所述第二预设网络确定得到得预测三维特征数据的尺寸与所述真实索引数据的尺寸相同,也就是说,当真实索引数据的尺寸为m*n*h时,所述预测三维特征数据的尺寸也为m*n*h。
M2、根据所述训练髋关节视频对应的真实索引数据和预测三维特征数据对所述第二预设网络进行训练,并继续执行所述将第二训练集中的训练髋关节视频输入第二预设网络的步骤,直至满足第二预设训练条件,以得到所述定位模型。
在本发明实施例中,所述对所述第二预设网络进行训练指的是对第二预设网络的网络参数进行修正;根据真实索引数据和预测三维特征数据计算第二损失函数值,根据第二损失函数值修改第二预设网络的网络参数;并继续执行将第二训练集中的训练髋关节视频输入第二预设网络的步骤,直至满足第二预设训练条件,以得到所述定位模型。所述第二损失函数值可以是均方误差(Mean Square Error,MSE)
在本发明实施例中,所述第二预设条件包括损失函数值满足预设要求或者训练次数达到预设次数。所述预设要求可以是根据定位模型的精度来确定,这里不做详细说明,所述预设次数可以为第二预设网络的最大训练次数,例如,4000次等。由此,在计算得到第二损失函数值后,判断所述第二损失函数值是否满足预设要求;若第二损失函数值满足预设要求,则结束训练;若第二损失函数值不满足预设要求,则判断所述第二预设网络的训练次数是否达到预测次数,若未达到预设次数,则根据所述第二损失函数值对所述第二预设网络的网络参数进行修正;若达到预设次数,则结束训练。这样通过第二损失函数值和训练次数来判断第二预设网络训练是否结束,可以避免因第二损失函数值无法达到预设要求而造成预设网络模型的训练进入死循环。
在一种实现方式中,考虑到第二训练集中可能存在数据量不足的问题,在对预设网络模型进行训练之前,可以对第二训练集进行数据增强处理,例如,通过对训练髋关节视频中的图像帧进行平移、旋转、镜像、缩放等处理,增加第二训练集中训练髋关节视频的数量。
在本发明实施例中,获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
现有技术中学习的是每张图像帧的孤立信息,无法学习到图像帧与图像帧之间的信息,导致得到的标准切面准确度不高,并且,计算每张图像帧的标准化程度,计算过程复杂,耗时长。
在本发明中,直接将髋关节视频输入定位模型,通过定位模型确定髋关节视频对应的定位参数,进而确定髋关节视频对应的标准切面,本发明不需要计算髋关节视频中每一张图像帧的标准化程度,而是直接处理髋关节视频,步骤简单,速度快,由于定位模型的学习对象是髋关节视频,可以学习到髋关节视频中各图像帧之间的关系,提高了定位标准切面的准确度。
在一个实施例中,本发明提供了一种计算机设备,该设备可以是终端,内部结构如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络模型接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络模型接口用于与外部的终端通过网络模型连接通信。该计算机程序被处理器执行时以实现了一种髋关节标准切面的定位方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图6所示的仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本发明实施例提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种髋关节标准切面的定位方法,其特征在于,包括:
获取待处理的髋关节视频,其中,所述髋关节视频包括多个图像帧;
将所述髋关节视频输入定位模型,通过所述定位模型确定定位参数;
根据所述定位参数,在所述髋关节视频中确定目标图像帧,并将所述目标图像帧作为所述髋关节视频对应的标准切面。
2.根据权利要求1所述的髋关节切面的定位方法,其特征在于,所述定位参数包括定位坐标。
3.根据权利要求2所述的髋关节切面的定位方法,其特征在于,所述根据所述定位参数,在所述髋关节视频中确定目标图像帧,具体包括:
根据所述定位坐标确定所述目标图像帧,其中,所述目标图像帧包括所述定位坐标。
4.根据权利要求2或3所述的髋关节切面的定位方法,其特征在于,所述定位模型的训练过程包括:
将第一训练集中的训练髋关节视频输入第一预设网络,通过所述第一预设网络确定所述训练髋关节视频对应的预测坐标,其中,所述第一训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实坐标;
根据所述训练髋关节视频对应的真实坐标和预测坐标对所述第一预设网络进行训练,并继续执行所述将第一训练集中的训练髋关节视频输入第一预设网络的步骤,直至满足第一预设训练条件,以得到所述定位模型。
5.根据权利要求1所述的髋关节切面的定位方法,其特征在于,所述定位参数包括三维特征数据,其中,所述三维特征数据包括多个二维特征数据,所述多个二维特征数据与所述多个图像帧一一对应。
6.根据权利要求5所述的髋关节切面的定位方法,其特征在于,所述根据所述定位参数,在所述髋关节视频中确定目标图像帧,具体包括:
根据预设值和所述多个二维特征数据确定若干候选掩码数据;
根据若干候选掩码数据确定目标掩码数据,并将所述目标掩码数据对应的图像帧作为目标图像帧。
7.根据权利要求6所述的髋关节切面的定位方法,其特征在于,每个二维特征数据包括多个特征值,所述多个特征值与该二维特征数据对应的图像帧包括的多个像素点一一对应;所述根据预设值和所述多个二维特征数据确定若干候选掩码数据,具体包括:
对于每个二维特征数据,若该二维特征数据包括的所有特征值均大于所述预设值,则将该二维特征数据作为候选掩码数据。
8.根据权利要求5至7中任意一项所述的髋关节切面的定位方法,其特征在于,所述定位模型的训练过程包括:
将第二训练集中的训练髋关节视频输入第二预设网络,通过所述第二预设网络确定所述训练髋关节视频对应的预测三维特征数据,其中,所述第二训练集包括多个训练髋关节视频,以及每个训练髋关节视频对应的真实索引数据;
根据所述训练髋关节视频对应的真实索引数据和预测三维特征数据对所述第二预设网络进行训练,并继续执行所述将第二训练集中的训练髋关节视频输入第二预设网络的步骤,直至满足第二预设训练条件,以得到所述定位模型。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至8中任意一项所述的髋关节标准切面的定位方法中的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任意一项所述的髋关节标准切面的定位方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011131477.5A CN112215829B (zh) | 2020-10-21 | 2020-10-21 | 一种髋关节标准切面的定位方法和计算机设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011131477.5A CN112215829B (zh) | 2020-10-21 | 2020-10-21 | 一种髋关节标准切面的定位方法和计算机设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112215829A true CN112215829A (zh) | 2021-01-12 |
CN112215829B CN112215829B (zh) | 2021-12-14 |
Family
ID=74056242
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011131477.5A Active CN112215829B (zh) | 2020-10-21 | 2020-10-21 | 一种髋关节标准切面的定位方法和计算机设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112215829B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115239720A (zh) * | 2022-09-22 | 2022-10-25 | 安徽省儿童医院(安徽省新华医院、安徽省儿科医学研究所、复旦大学附属儿科医院安徽医院) | 基于经典Graf的DDH超声影像人工智能诊断系统及方法 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1593063A (zh) * | 2001-08-03 | 2005-03-09 | 皇家菲利浦电子股份有限公司 | 在基于对象的视频编码中的自动掩码选择 |
CN103927559A (zh) * | 2014-04-17 | 2014-07-16 | 深圳大学 | 超声图像胎儿颜面部标准切面自动识别方法及系统 |
US20140358151A1 (en) * | 2013-06-03 | 2014-12-04 | Stephen B. Murphy | Method and apparatus for performing anterior hip surgery |
CN104382616A (zh) * | 2014-09-28 | 2015-03-04 | 安华亿能医疗影像科技(北京)有限公司 | 颈动脉三维图像构建装置 |
WO2019127621A1 (zh) * | 2017-12-28 | 2019-07-04 | 深圳先进技术研究院 | 超声成像方法、系统和设备 |
CN110135329A (zh) * | 2019-05-13 | 2019-08-16 | 腾讯科技(深圳)有限公司 | 从视频中提取姿势的方法、装置、设备及存储介质 |
US20190262081A1 (en) * | 2013-03-14 | 2019-08-29 | Biomet Manufacturing, Llc | Method for implanting a hip prosthesis and related system |
CN110197531A (zh) * | 2019-05-14 | 2019-09-03 | 武汉奥贝赛维数码科技有限公司 | 基于深度学习的角色骨骼点映射技术 |
CN110652317A (zh) * | 2019-09-24 | 2020-01-07 | 深圳度影医疗科技有限公司 | 一种产前胎儿超声容积图像中标准切面的自动定位方法 |
CN110675310A (zh) * | 2019-07-02 | 2020-01-10 | 北京达佳互联信息技术有限公司 | 视频处理方法、装置、电子设备及存储介质 |
CN110742654A (zh) * | 2019-11-05 | 2020-02-04 | 深圳度影医疗科技有限公司 | 一种基于三维超声图像的标准切面的定位和测量方法 |
CN111340775A (zh) * | 2020-02-25 | 2020-06-26 | 湖南大学 | 超声标准切面获取的并行方法、装置和计算机设备 |
CN111768379A (zh) * | 2020-06-29 | 2020-10-13 | 深圳度影医疗科技有限公司 | 一种子宫三维超声图像的标准切面检测方法 |
-
2020
- 2020-10-21 CN CN202011131477.5A patent/CN112215829B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1593063A (zh) * | 2001-08-03 | 2005-03-09 | 皇家菲利浦电子股份有限公司 | 在基于对象的视频编码中的自动掩码选择 |
US20190262081A1 (en) * | 2013-03-14 | 2019-08-29 | Biomet Manufacturing, Llc | Method for implanting a hip prosthesis and related system |
US20140358151A1 (en) * | 2013-06-03 | 2014-12-04 | Stephen B. Murphy | Method and apparatus for performing anterior hip surgery |
CN103927559A (zh) * | 2014-04-17 | 2014-07-16 | 深圳大学 | 超声图像胎儿颜面部标准切面自动识别方法及系统 |
CN104382616A (zh) * | 2014-09-28 | 2015-03-04 | 安华亿能医疗影像科技(北京)有限公司 | 颈动脉三维图像构建装置 |
WO2019127621A1 (zh) * | 2017-12-28 | 2019-07-04 | 深圳先进技术研究院 | 超声成像方法、系统和设备 |
CN110135329A (zh) * | 2019-05-13 | 2019-08-16 | 腾讯科技(深圳)有限公司 | 从视频中提取姿势的方法、装置、设备及存储介质 |
CN110197531A (zh) * | 2019-05-14 | 2019-09-03 | 武汉奥贝赛维数码科技有限公司 | 基于深度学习的角色骨骼点映射技术 |
CN110675310A (zh) * | 2019-07-02 | 2020-01-10 | 北京达佳互联信息技术有限公司 | 视频处理方法、装置、电子设备及存储介质 |
CN110652317A (zh) * | 2019-09-24 | 2020-01-07 | 深圳度影医疗科技有限公司 | 一种产前胎儿超声容积图像中标准切面的自动定位方法 |
CN110742654A (zh) * | 2019-11-05 | 2020-02-04 | 深圳度影医疗科技有限公司 | 一种基于三维超声图像的标准切面的定位和测量方法 |
CN111340775A (zh) * | 2020-02-25 | 2020-06-26 | 湖南大学 | 超声标准切面获取的并行方法、装置和计算机设备 |
CN111768379A (zh) * | 2020-06-29 | 2020-10-13 | 深圳度影医疗科技有限公司 | 一种子宫三维超声图像的标准切面检测方法 |
Non-Patent Citations (5)
Title |
---|
BAIYING LEI等: "Automatic recognition of fetal standard plane in ultrasound image", 《2014 IEEE 11TH INTERNATIONAL SYMPOSIUM ON BIOMEDICAL IMAGING (ISBI)》 * |
HAO CHEN等: "Standard Plane Localization in Fetal Ultrasound via Domain Transferred Deep Neural Networks", 《IEEE JOURNAL OF BIOMEDICAL AND HEALTH INFORMATICS》 * |
张鹏杰: "三维超声应用于发育性髋关节发育不良的可行性及可重复性研究", 《中国优秀硕士论文全文数据库医药卫生科技辑》 * |
胎儿超声图像中标准切面自动定位方法研究: "胡鹏辉", 《中国优秀硕士论文全文数据库医药卫生科技辑》 * |
胡荣慧: "髋关节三维可视化研究及临床应用", 《中国优秀博士论文全文数据库医药卫生科技辑》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115239720A (zh) * | 2022-09-22 | 2022-10-25 | 安徽省儿童医院(安徽省新华医院、安徽省儿科医学研究所、复旦大学附属儿科医院安徽医院) | 基于经典Graf的DDH超声影像人工智能诊断系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112215829B (zh) | 2021-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108648172B (zh) | 一种基于3D-Unet的CT图肺结节检测系统 | |
CN110060237B (zh) | 一种故障检测方法、装置、设备及系统 | |
WO2018108129A1 (zh) | 用于识别物体类别的方法及装置、电子设备 | |
CN110674804A (zh) | 文本图像的检测方法、装置、计算机设备和存储介质 | |
CN111931931B (zh) | 一种针对病理全场图像的深度神经网络训练方法、装置 | |
JP2023520846A (ja) | 人工知能に基づく画像処理方法、画像処理装置、コンピュータプログラム及びコンピュータ機器 | |
CN110197491B (zh) | 图像分割方法、装置、设备和存储介质 | |
US20180204090A1 (en) | Coarse-to-fine search method and image processing device | |
CN108830782B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN113077479A (zh) | 急性缺血性脑卒中病灶自动分割方法、系统、终端及介质 | |
CN113284149A (zh) | Covid-19胸部ct图像识别方法、装置及电子设备 | |
CN112102294A (zh) | 生成对抗网络的训练方法及装置、图像配准方法及装置 | |
CN110570425B (zh) | 一种基于深度强化学习算法的肺结节分析方法及装置 | |
CN114758249A (zh) | 基于野外夜间环境的目标物监测方法、装置、设备及介质 | |
CN111507288A (zh) | 图像检测方法、装置、计算机设备和存储介质 | |
CN114937025A (zh) | 图像分割方法、模型训练方法、装置、设备及介质 | |
CN112215829B (zh) | 一种髋关节标准切面的定位方法和计算机设备 | |
CN116309459A (zh) | 基于改进网络的肺结节检测方法、装置、设备和存储介质 | |
CN114757908A (zh) | 基于ct影像的图像处理方法、装置、设备及存储介质 | |
CN110992310A (zh) | 一种确定纵隔淋巴结所在分区的方法及装置 | |
Li et al. | Automatic bone age assessment of adolescents based on weakly-supervised deep convolutional neural networks | |
CN112884721B (zh) | 一种异常检测方法、系统及计算机可读存储介质 | |
CN107590806B (zh) | 一种基于大脑医学成像的检测方法和系统 | |
CN114066905A (zh) | 一种基于深度学习的医学图像分割方法、系统、装置 | |
CN112750110A (zh) | 基于神经网络对肺部病灶区进行评估的评估系统和相关产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |