CN112419377A - 配准图像确定方法及配准图像确定装置 - Google Patents
配准图像确定方法及配准图像确定装置 Download PDFInfo
- Publication number
- CN112419377A CN112419377A CN202011311388.9A CN202011311388A CN112419377A CN 112419377 A CN112419377 A CN 112419377A CN 202011311388 A CN202011311388 A CN 202011311388A CN 112419377 A CN112419377 A CN 112419377A
- Authority
- CN
- China
- Prior art keywords
- registered
- image
- determining
- registration
- field function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/344—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/15—Correlation function computation including computation of convolution operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Pure & Applied Mathematics (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请提供了一种配准图像确定方法及配准图像确定装置,该方法包括:基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系;基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。本申请的技术方案,优化了传统算法中的流配准方法,在速度上进行正则化,进而实现了在保证配准速度的前提下进行大形变非线性配准的目的。
Description
技术领域
本申请涉及医学图像配准技术领域,具体涉及一种配准图像确定方法及配准图像确定装置。
背景技术
流配准方法作为传统算法配准中的一种,虽然能处理大形变的非线性配准问题,但是流配准方法处理速度慢,并且处理过程中的特征为人为规定的能量特征,其效果远不如深度学习算法中自动提取的特征。而深度学习方法配准中的弹性配准由于位移场受到正则项限制,也导致弹性配准没办法解决大形变的非线性配准问题。
基于此,如何既能解决大形变的非线性配准问题,又能实现快速配准成为亟待解决的技术问题。
发明内容
有鉴于此,本申请实施例提供了一种配准图像确定方法及配准图像确定装置,能够减少配准时间的同时,实现大形变非线性的图像配准。
第一方面,本申请的实施例提供了一种配准图像确定方法,该方法包括:基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系;基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
在本申请某些实施例中,基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,包括:将目标图像和待配准图像输入到速度场函数确定模型,以确定速度场函数集合。
在本申请某些实施例中,将目标图像和待配准图像输入到速度场函数确定模型,以确定速度场函数集合,包括:基于速度场函数确定模型确定多个待配准像素单元各自对应的速度函数;基于速度场函数确定模型,利用多个待配准像素单元各自对应的速度函数分别拟合生成多个待配准像素单元各自对应的速度场函数;基于多个待配准像素单元各自对应的速度场函数生成速度场函数集合。
在本申请某些实施例中,基于所述速度场函数确定模型,利用多个待配准像素单元各自对应的速度函数分别拟合生成多个待配准像素单元各自对应的速度场函数,包括:针对多个待配准像素单元中的每个待配准像素单元,将待配准像素单元对应的速度函数展开为时间的多项式;预测时间的多项式对应的阶层系数;基于时间的多项式对应的阶层系数确定待配准像素单元对应的速度场函数。
在本申请某些实施例中,预测时间的多项式对应的阶层系数,包括:基于速度场函数与待配准像素单元的空间位置,进行卷积操作,预测时间的多项式的阶层系数。
在本申请某些实施例中,将待配准像素单元对应的速度函数展开为时间的多项式,包括:根据泰勒公式将待配准像素单元对应的速度函数展开生成时间的多项式。
在本申请某些实施例中,在将目标图像和待配准图像输入到速度场函数确定模型,以确定速度场函数集合之前,还包括:将待配准样本图像和目标样本图像输入到初始网络模型,以得到待配准样本图像中的待配准样本像素单元集合对应的速度场函数集合;基于相似度损失和正则化损失训练初始网络模型,以确定速度场函数确定模型。
在本申请某些实施例中,基于速度场函数集合和目标图像,确定待配准图像对应的配准图像,包括:对速度场函数集合中包括的多个速度场函数分别进行积分计算,以确定多个速度场函数各自对应的位移场函数;基于多个速度场函数各自对应的位移场函数和目标图像,确定配准图像。
在本申请某些实施例中,基于多个速度场函数各自对应的位移场函数和目标图像,确定配准图像,包括:针对多个待配准像素单元中的每个待配准像素单元,基于待配准像素单元对应的位移场函数确定待配准像素单元在目标图像中的配准像素单元;基于多个待配准像素单元各自对应的配准像素单元确定配准图像。
第二方面,本申请的实施例提供了一种配准图像确定装置,该装置包括:第一确定模块,用于基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系;第二确定模块,用于基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
第三方面,本申请的实施例提供了一种计算可读存储介质,存储介质存储有计算机程序,计算机程序用于执行上述第一方面所述的配准图像确定方法。
第四方面,本申请的实施例提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器,其中,处理器用于执行上述第一方面所述的配准图像确定方法。
本申请实施例提供了一种配准图像确定方法,通过确定待配准图像中的待配准像素单元集合对应的速度场函数集合,并基于速度场函数集合和目标图像确定待配准图像对应的配准图像的方式,即保证了配准速度,又实现了大形变非线性配准的目的。
附图说明
图1是本申请一示例性实施例提供的配准图像确定方法的流程示意图。
图2是本申请一示例性实施例提供的配准图像确定方法的配准过程的示意图。
图3是本申请一示例性实施例提供的配准图像确定方法的生成速度场函数集合的流程示意图。
图4是本申请一示例性实施例提供的配准图像确定方法的训练网络模型的流程示意图。
图5是本申请一示例性实施例提供的配准图像确定方法的获取多项式系数的示意图。
图6是本申请一示例性实施例提供的配准图像确定方法的确定配准图像的流程示意图。
图7是本申请一示例性实施例提供的配准图像确定装置的结构示意图。
图8是本申请一示例性实施例提供的用于确定配准图像的电子设备的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
目前,针对医学图像进行图像配准的方法主要分为两大类,传统算法配准和深度学习方法配准。深度学习方法中以刚性配准方法和弹性配准方法为主。其中,弹性配准由于正则项限制位移场会使整体位移不会过大,这虽然防止了过拟合,但是也导致弹性配准没办法解决大形变的非线性配准问题。因此,一般会采用先进行刚性配准,在配准图像基本准确地前提下再进行弹性配准,但这种方法却增加了配准时间。
流配准作为传统算法配准中的一种,虽然能处理大形变的非线性配准问题,但介于流配准处理速度慢,处理过程中的特征为人为规定的能量特征,因此,其效果远不如深度学习算法中自动提取的特征。
针对上述技术问题,本申请的基本构思是提出一种配准图像确定方法及配准图像确定装置、计算机可读存储介质及电子设备。该配准图像确定方法包括:基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系;基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
本申请实施例通过确定待配准图像中的待配准像素单元集合对应的速度场函数集合,并基于速度场函数集合和目标图像确定待配准图像对应的配准图像的方式,即保证了配准速度,又实现了大形变非线性配准的目的。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
图1是本申请一示例性实施例提供的配准图像确定方法的流程示意图。示例性地,图1所示的方法由计算设备(例如服务器)来执行。如图1所示,该配准图像确定方法包括如下内容。
110:基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合。
在一实施例中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系。换言之,每个待配准像素单元均对应有一速度场函数。
示例性地,目标图像和待配准图像均为医学图像,例如可以均为计算机断层扫描摄影(Computed Tomography,CT)图像。此外,目标图像和待配准图像亦可以是驾驶领域等其他领域的普通图像。
在一示例中,目标图像和待配准图像可以为同一测试体同一部位的不同类型的图像。例如,目标图像为计算机断层扫描摄影CT图像,待配准图像为核磁共振成像(MagneticResonance Imaging,MRI)图像;或者目标图像为MRI图像,待配准图像为CT图像;或者目标图像为CT图像,待配准图像为计算机X线摄影(Computed Radiography,CR)图像。本申请实施例对目标图像和待配准图像具体是何图像不作具体限定。
示例性地,获得速度场函数集合可以首先基于目标图像和待配准图像,经过卷积神经网络进行特征提取。并基于提取的特征确定待配准图像中的待配准像素单元集合对应的速度场函数集合。换言之,基于预设的卷积神经网络模型确定速度场函数集合。该速度场函数集合可以包括多个速度场函数。其中多个速度场函数与多个待配准像素单元存在一一对应关系。
应当理解,经过卷积神经网络进行特征提取的特征点并非是像素单元。特征点只是处理图像时提取的特征点,而像素单元可以为单一像素点,也可以是多个像素点形成的像素块。因此,每个像素单元都需要预测多个速度场函数的系数,以获得对应的速度场函数。
在一示例中,本申请实施例将卷积神经网络选择为U-Net结构。
在一示例中,特征提取可以在卷积神经网络的自行设定下,对目标图像和待配准图像进行下采样和上采样的操作。通过利用卷积神经网络进行下采样操作,待配准像素单元集合和目标图像对应的像素单元集合的尺寸不断变小,可以提取图像的深层特征。下采样得到的特征经过上采样也可以获得尺寸与原始的目标图像和待配准图像尺寸一致的特征集合。此外,该示例可以重复操作,其中,下采样的程度由卷积神经网络自行设定的阈值决定(即,缩小比例),例如1/16或1/32。
速度场函数获得的方式可以基于训练好的模型获得,例如速度场函数确定模型。也可以直接进行计算获得,本申请实施例对此不作具体限定。
在一实施例中,速度场函数集合可以基于速度场函数确定模型获得。具体描述详情请参见图3实施例的记载,在此不再赘述。
120:基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
在一示例中,可以对每个待配准像素单元对应的速度场函数进行预定范围的积分,获得位移场函数。基于对位移场函数的求解,确定该待配准图像中的待配准像素单元对应于目标图像中的配准像素单元需要移动的移动值,进而对每个待配准像素单元进行移动赋值,以获得配准图像。
预定范围可以为单位时间(即0-1),本申请实施例对此不作具体限定,可依据实际情况进行设定。
优选地,预定范围为单位时间,即在0-1范围内进行积分,以此便于计算,减少了计算的时间。
基于对多个速度场函数进行积分可以获得多个位移场函数。多个位移场函数可以构成位移场函数集合。位移场函数的获得可以基于位移场函数确定模型获得,也可以直接基于积分计算获得,本申请实施例对位移场函数确定的方式不作具体限定。
应当理解,位移场函数确定模型和速度场函数确定模型可以是单独的两个训练模型,也可以是存在一个大模型下的两个呈递进关系的模型(例如速度场函数确定模型的结果输入至位移场函数确定模型),本申请实施例对此不作具体限定。
移动赋值的过程可以是待配准图像中的待配准像素单元的位置坐标加/减移动值(例如,x方向偏移量和y方向偏移量),从而获得配准图像。
在一示例中,参见图2,待配准像素单元(例如图2中待配准图像201内部的点A)的位置加/减x偏移量与y偏移量获得的新的像素单元(例如图2中201内部的点B),然后基于多个待配准像素单元移动获得的新的像素单元,生成对应的配准图像202。其中,应当理解202中A点的像素单元对应于201中B点的像素单元,即将201中B点像素单元对应的像素值赋值在202中的A点。
需要说明的是,x偏移量与y偏移量可以为正整数,也可以为非正整数,本申请实施例对此不作具体限定。当x偏移量与y偏移量为正整数时,点B可以为图像上的真实像素点,当x偏移量与y偏移量为非正整数时,点B可可以基于邻近点插值方式得到。
应当理解,上述配准过程可以是对图像进行部分配准(比如对图像中的局部区域进行配准),也可以是对图像进行全部配准,本申请实施例对配准的范围不作具体限定。
示例性地,上述配准过程获得的配准图像的尺寸,为目标图像和待配准图像输入时的原尺寸大小。
由此可知,本申请实施例通过确定待配准图像中的待配准像素单元集合对应的速度场函数集合,并基于速度场函数集合和目标图像确定待配准图像对应的配准图像的方式,即保证了配准速度,又实现了大形变非线性配准的目的。尤其采用速度场函数模型确定速度场函数集合时,本申请实施例能够将深度学习方法与传统算法中流配准方法相结合,解决了传统算法中的特征限制和时间限制,实现了应用深度学习方法解决大形变非线性配准的目的。
在本申请一实施例中,基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,包括:将目标图像和待配准图像输入到速度场函数确定模型,以确定速度场函数集合。
具体地,可以将目标图像和待配准图像输入训练好的速度场函数确定模型。在速度场函数确定模型内,进行每个待配准像素单元对应的速度场函数的分解和拟合,以确定每个待配准像素单元对应的速度场函数。基于多个待配准像素单元各自对应的速度场函数生成速度场函数集合。
应当理解,对速度场函数确定模型的生成及训练的过程,详情请参见图4的记载,为避免重复在此不再赘述。
由此可知,本申请实施例将流配准方法与深度学习相结合,在速度场函数确定模型内进行速度场函数的分解和拟合,优化了传统的流配准方法。
需要说明的是,本申请上述实施例中提及的目标图像和待配准图像既可以是二维图像,也可以是三维图像,本申请实施例对此不作具体限定。
图3是本申请一示例性实施例提供的配准图像确定方法的生成速度场函数集合的流程示意图。图3是上述实施例的例子,相同之处不再赘述,此处着重描述不同之处。如图3所示,该生成速度场函数集合的方法包括如下内容。
310:基于速度场函数确定模型确定多个待配准像素单元各自对应的速度函数。
具体地,基于速度场函数确定模型确定每个待配准像素单元各自对应的速度函数v(t)。
320:基于速度场函数确定模型,利用多个待配准像素单元各自对应的速度函数分别拟合生成多个待配准像素单元各自对应的速度场函数。
具体地,对比于弹性配准的深度学习方法其预测拟合的位移场函数d(x),多了一个时间项t。因此,为了拟合关于时间t的速度场函数,可以利用近似的方式。
在一示例中,基于训练好的速度场函数确定模型,将速度函数v(t)展开为关于t的多项式。即,直接利用速度场函数确定模型将速度函数v(t)展开为关于t的多项式。具体描述详情请参见下述实施例的记载,为避免重复,在此不再赘述。
330:基于多个待配准像素单元各自对应的速度场函数生成速度场函数集合。
具体地,速度场函数集合是由多个速度场函数组合而成的,也就是由多个待配准像素单元各自对应的速度场函数构建的。
由此可知,本申请实施例应用速度场函数确定模型内进行速度场函数的分解和拟合,将流配准方法与深度学习方法相结合,优化了传统的流配准方法。
在本申请一实施例中,利用多个待配准像素单元各自对应的速度函数分别拟合生成多个待配准像素单元各自对应的速度场函数,包括:针对多个待配准像素单元中的每个待配准像素单元,将待配准像素单元对应的速度函数展开为时间的多项式;预测时间的多项式对应的阶层系数;基于时间的多项式对应的阶层系数确定待配准像素单元对应的速度场函数。
具体地,针对每个待配准像素单元对应的速度函数均展开为时间的多项式。本申请实施例对速度函数展开为时间的多项式的方式不作具体限定。
在一示例中,可以利用泰勒公式将速度函数展开为时间t的多项式。将速度场函数用关于t的n次函数表示。
预测时间t的多项式对应的阶层系数可以将系数问题转换为回归问题,利用卷积等操作求解回归问题的结果,该结果为各个阶层系数,其中具体描述详情请参见下述实施例的记载,在此不再赘述。
将求解的阶层系数带入时间的多项式即为待配准像素单元对应的速度场函数,完成对速度场函数的获取。
由此可知,本申请实施例能够借助速度场函数确定模型进行速度场函数的分解和拟合,通过待配准像素单元对应的速度函数确定该待配准像素单元对应的速度场函数,进而基于拟合的速度场函数进行配准的配准过程,避免了人工的参与,提高了配准效率。
在本申请一实施例中,将待配准像素单元对应的速度函数展开为时间的多项式,包括:根据泰勒公式将待配准像素单元对应的速度函数展开生成时间的多项式。
具体地,拟合速度场函数v(x,t)可以使用卷积神经网络预测。其中x表示空间位置(例如,坐标的x方向、y方向和z方向),t表示时间。对比于弹性配准的深度学习方法其预测拟合的位移场函数d(x),多了一个时间项t。因此,为了拟合关于时间t的速度场函数,可以考虑利用近似的方式,基于泰勒公式将v(t)展开为关于时间t的多项式,预测每一项的系数,近似得到v(x,t)函数,如下述公式(1)所示。
v(x,t)=v(x,0)+v'(x,0)×t+v”(x,0)/2!×t2+......+vn(x,0)/n!×tn (1)
在公式(1)中,v(t)为速度函数,x表示空间位置,t表示时间,n为正整数。此时,可以将速度场函数v(x,t)用关于t的n次函数表示,因此只需要应用速度场函数确定模型预测各个阶层的系数,即v(x,t),v‘(x,0),v”(x,0),......,vn(x,0)的系数即可。
由此可知,本申请实施例根据泰勒公式展开生成时间的多项式,以此生成速度场函数。
在本申请一实施例中,预测时间的多项式对应的阶层系数,包括:基于速度场函数与待配准像素单元的空间位置,进行卷积操作,预测时间的多项式的阶层系数。
具体地,当速度场用关于t的n次函数表示时,此时只需要让网络模型预测各个阶层的系数,即可获得速度场函数。因此,该系数求解的问题可以被分解为n个回归问题。即回归问题求解的结果即为速度场函数各个阶层的系数。
空间位置可以基于目标图像和待配准图像的图像维度决定。该空间位置可以包括待配准像素单元的大小和方向(即角度)。例如,以目标图像和待配准图像是二维图像为例,则空间位置可以利用坐标轴中的x、y表示。或者若目标图像和待配准图像为三维图像,则空间位置可以利用坐标轴中的x、y、z表示。
待配准像素单元的空间位置可以理解为在待配准图像任意位置处建立一个坐标系(例如,以二维图像为例,将待配准图像的顶角为原点,两条直角边为x轴和y轴)待配准像素单元在坐标中的位置坐标,可以表示该待配准像素单元的位置和方向。
在一示例中,回归问题的个数可以利用目标图像和待配准图像的图像维度(例如二维或三维)与速度场函数的项数来确定。具体地,回归问题的个数可以为图像维度与速度场函数项数的乘积。例如,以二维图像为例,考虑到速度空间位置包含大小和方向(即角度)两个因素,则该求解系数的问题可以分解为2n个回归问题(例如n个x方向的回归问题和n各y方向的回归问题)。而三维图像基于上述计算方式可知,该求解系数的问题可以分解为3n(例如n个x方向的回归问题、n个y方向的回归问题和n个z方向的回归问题)个回归问题。
应当理解,每个参数回归包括大小和角度两个变量。对于速度的回归不仅可以是大小和方向,也可以回归x方向速度和y方向速度。该方法不仅适用于二维图像,三维图像也同样适用。当该方法应用于三维图像时,需要更改的为最后回归的数值有三个,x方向速度,y方向速度和z方向速度或者速度大小和对应的两个关于速度的角度。
回归问题的求解可以基于深度学习的方式求解,例如,利用卷积操作实现。也可以采用其他求解方式,本申请实施例对求解回归问题的方式不作具体限定。
在一示例中,参见图5,以二维图像为例,输入为两通道图像,一通道为目标图像501,另一通道为待配准图像502。经过U-Net结构503,进行特征提取(其中待配准图像基于特征提取,确定待配准像素单元集合),然后经过n个不同的1×1卷积504,得到n组2n个回归问题的结果505,分别代表vn(x,0)的大小和方向。其中,可以经过n个不同的1×1卷积,也可以经过n个不同的3×3卷积,本申请实施例对此不作具体限定。选择1×1卷积计算方便,可以减少计算时间。
示例性地,U-Net结构网络结构可以替换,具有相同效果的网络结构都可以进行替换,本申请实施例对网络结构不作具体限定。
由此可知,本申请实施例将求解系数的问题,转换为求解回归问题的结果,并在网络模型内执行上述操作,优化了传统算法中的流配准方法,减少了人工的参与,也减少了计算的时间。
图4是本申请一示例性实施例提供的配准图像确定方法的训练网络模型的流程示意图。图4为上述实施例的例子,相同之处不再赘述,此处着重描述不同之处。该训练网络模型的方法包括如下内容。
410:将待配准样本图像和目标样本图像输入到初始网络模型,以得到待配准样本图像中的待配准样本像素单元集合对应的速度场函数集合。
具体地,该初始网络模型可以是基于样本图像(即待配准样本图像和目标样本图像)反复训练获得的。
待配准样本图像和目标样本图像可以理解为带有标签信息的样本图像。例如带有“待配准图像”标签信息的图像为待配准样本图像。例如带有“目标图像”标签信息的图像为目标样本图像。该标签信息可以人工标定,也可以是通过其他算法自动标定,本申请实施例对标签信息的具体形式及标定方式不作具体限定。
420:基于相似度损失和正则化损失训练初始网络模型,以确定速度场函数确定模型。
在一实施例中,相似度损失基于待配准样本图像和待配准样本图像对应的配准图像之间的相似度确定,配准图像基于速度场函数集合确定,正则化损失基于待配准样本像素单元的正则函数确定。
具体地,在训练过程中还需要计算网络的损失函数进行反向回传来训练整个初始网络模型,直至达到所需要的模型。整个初始网络模型的损失函数可以包括相似度损失和正则化损失。
相似度损失用来衡量配准变换后的图像与目标图像的相似程度。相似度损失可以为图像灰度的均方差(mean squared voxel difference),交叉互相关(cross-correlation),或互信息(mutual information)等,本申请实施例对此不作具体限定。用于衡量配准后图像与目标图像的相似程度,相似程度越大越好。
正则化损失来限制回归参数(v)大小防止过拟合。正则化损失为L(v(x,t),v‘(x,0),v”(x,0),......,vn(x,0)),即对每一项速度预测(大小)的正则函数。正则函数可以选择欧式距离或马式距离,本申请实施例对此不作具体限定。正则函数值越小越好,代表速度和其变化较小较均匀。
应当理解,相似性损失和正则化损失可以有多种选择,并不指定是哪一种具体的损失,其效果相似即可。
还应当理解,一个包含有速度场函数确定模型的网络模型下的各个模型可以是相连的,用同一个损失函数进行更新(例如上述实施例提到的速度场函数确定模型和位移场函数确定模型用同一个损失函数进行更新)。该损失函数可以是交叉熵损失函数或其他合适的损失函数,本申请实施例对此不作具体限定。
由此可知,本申请实施例通过应用损失函数进行模型的反向训练,在满足端到端的同时,优化了网络模型对速度场函数的求取,及速度大小的正则限制。
图6是本申请一示例性实施例提供的配准图像确定方法的确定配准图像的流程示意图。图6为图1实施例的例子,相同之处不再赘述,此处着重描述不同之处。该确定配准图像的方法包括如下内容。
610:对速度场函数集合中包括的多个速度场函数分别进行积分计算,以确定多个速度场函数各自对应的位移场函数。
具体地,位移场函数d(x)可以基于每个速度场函数进行预定范围内的积分来获得。多个位移场函数可以构成位移场函数集合。
预定范围可以为单位时间(即0-1),本申请实施例对此不作具体限定,可依据实际情况进行设定。
在一实施例中,位移场函数可以基于位移场函数确定模型获取。
应当理解,位移场函数的求解过程可以是基于位移场函数确定模型获得,也可以直接基于积分计算获得,本申请实施例对位移场函数确定的方式不作具体限定。
620:基于多个速度场函数各自对应的位移场函数和目标图像,确定配准图像。
具体地,位移场函数d(x)可以表示为每个像素单元最终的移动情况。预定范围为单位时间,如下述公式(2)所示。
在公式(2)中,v(t)为速度函数,x表示空间位置,t表示时间,n为正整数。
配准图像可以基于对位移场函数的求解获得该待配准图像需要移动的移动值,进而对每个待配准像素单元进行移动赋值,以获得配准图像。
由此可知,本申请实施例通过对速度场函数进行单位时间内的积分,在方便运算的同时,也加快了配准图像的速度,减少了配准时间。
根据本申请一实施例,基于多个速度场函数各自对应的位移场函数和目标图像,确定配准图像,包括:针对多个待配准像素单元中的每个待配准像素单元,基于待配准像素单元对应的位移场函数确定待配准像素单元在目标图像中的配准像素单元;基于多个待配准像素单元各自对应的配准像素单元确定配准图像。
具体地,基于待配准像素单元对应的位移场函数,确定待配准像素单元在目标图像中的配准像素单元,从而确定待配准像素单元的移动值(相当于是偏移量,例如x方向偏移量或y方向偏移量)。该待配准像素单元根据确定的移动值进行移动,获得新的像素单元,即获得配准图像中的像素单元。
在一示例中,该确定配准图像的过程(参见图2)可以是对于待配准图像201中的待配准像素单元(例如,图2中201内部的点A),进行像素单元的位置加/减x偏移量与y偏移量位置获得的新的像素单元(例如,图2中201内部的点B),然后基于多个待配准像素单元移动获得的新的像素单元,生成对应的配准图像202。其中,应当理解202中A点的像素单元对应于201中B点的像素单元,即将201中B点像素单元对应的像素值赋值在202中的A点。
由此可知,本申请实施例通过对每个待配准像素单元进行移动赋值,提高了配准的精度。
图7是本申请一示例性实施例提供的配准图像确定装置的结构示意图。如图7所示,该配准图像确定装置700包括:第一确定模块710和第二确定模块720。
第一确定模块710,用于基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系。第二确定模块720,用于基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
本申请实施例通过确定待配准图像中的待配准像素单元集合对应的速度场函数集合,并基于速度场函数集合和目标图像确定待配准图像对应的配准图像的方式,即保证了配准速度,又实现了大形变非线性配准的目的。
根据本申请一实施例,第一确定模块710,用于将目标图像和待配准图像输入到速度场函数确定模型,以确定速度场函数集合。
根据本申请一实施例,第一确定模块710,用于基于速度场函数确定模型确定多个待配准像素单元各自对应的速度函数;基于速度场函数确定模型,利用多个待配准像素单元各自对应的速度函数分别拟合生成多个待配准像素单元各自对应的速度场函数;基于多个待配准像素单元各自对应的速度场函数生成速度场函数集合。
根据本申请一实施例,第一确定模块710,用于针对多个待配准像素单元中的每个待配准像素单元,将待配准像素单元对应的速度函数展开为时间的多项式;预测时间的多项式对应的阶层系数;基于时间的多项式对应的阶层系数确定待配准像素单元对应的速度场函数。
根据本申请一实施例,第一确定模块710,用于基于速度场函数与待配准像素单元的空间位置,进行卷积操作,预测时间的多项式的阶层系数。
根据本申请一实施例,第一确定模块710,用于根据泰勒公式将待配准像素单元对应的速度函数展开生成时间的多项式。
根据本申请一实施例,第一确定模块710,用于将待配准样本图像和目标样本图像输入到初始网络模型,以得到待配准样本图像中的待配准样本像素单元对应的速度场函数集合;基于相似度损失和正则化损失训练初始网络模型,以确定速度场函数确定模型。
根据本申请一实施例,第二确定模块720,用于对速度场函数集合中包括的多个速度场函数分别进行积分计算,以确定多个速度场函数各自对应的位移场函数;基于多个速度场函数各自对应的位移场函数和目标图像,确定配准图像。
根据本申请一实施例,第二确定模块720,还用于针对多个待配准像素单元中的每个待配准像素单元,基于待配准像素单元对应的位移场函数确定待配准像素单元在目标图像中的配准像素单元;基于多个待配准像素单元各自对应的配准像素单元确定配准图像。
应当理解,上述实施例中的第一确定模块710和第二确定模块720的具体工作过程和功能可以参考上述图1至图6实施例提供的配准图像确定方法中的描述,为了避免重复,在此不再赘述。
图8是本申请一示例性实施例提供的用于确定配准图像的电子设备的框图。
参照图8,电子设备800包括处理组件810,其进一步包括一个或多个处理器,以及由存储器820所代表的存储器资源,用于存储可由处理组件810执行的指令,例如应用程序。存储器820中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件810被配置为执行指令,以执行上述配准图像确定方法。
电子设备800还可以包括一个电源组件被配置为执行电子设备800的电源管理,一个有线或无线网络接口被配置为将电子设备800连接到网络,和一个输入输出(I/O)接口。可以基于存储在存储器820的操作系统操作电子设备800,例如Windows Server,Mac OS X,Unix,Linux,FreeBSD或类似。
一种非临时性计算机可读存储介质,当存储介质中的指令由上述电子设备800的处理器执行时,使得上述电子设备800能够执行一种配准图像确定方法,包括:基于目标图像和待配准图像,确定待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,待配准像素单元集合包括多个待配准像素单元,速度场函数集合包括多个速度场函数,多个待配准像素单元和多个速度场函数存在一一对应关系;基于速度场函数集合和目标图像,确定待配准图像对应的配准图像。
上述所有可选技术方案,可采用任意结合形成本申请的可选实施例,在此不再一一赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序校验码的介质。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换等,均应包含在本申请的保护范围之内。
Claims (12)
1.一种配准图像确定方法,其特征在于,包括:
基于目标图像和待配准图像,确定所述待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,所述待配准像素单元集合包括多个待配准像素单元,所述速度场函数集合包括多个速度场函数,所述多个待配准像素单元和所述多个速度场函数存在一一对应关系;
基于所述速度场函数集合和所述目标图像,确定所述待配准图像对应的配准图像。
2.根据权利要求1所述的配准图像确定方法,其特征在于,所述基于目标图像和待配准图像,确定所述待配准图像中的待配准像素单元集合对应的速度场函数集合,包括:
将所述目标图像和所述待配准图像输入到速度场函数确定模型,以确定所述速度场函数集合。
3.根据权利要求2所述的配准图像确定方法,其特征在于,所述将所述目标图像和所述待配准图像输入到速度场函数确定模型,以确定所述速度场函数集合,包括:
基于所述速度场函数确定模型确定所述多个待配准像素单元各自对应的速度函数;
基于所述速度场函数确定模型,利用所述多个待配准像素单元各自对应的速度函数分别拟合生成所述多个待配准像素单元各自对应的速度场函数;
基于所述多个待配准像素单元各自对应的速度场函数生成所述速度场函数集合。
4.根据权利要求3所述的配准图像确定方法,其特征在于,所述利用所述多个待配准像素单元各自对应的速度函数分别拟合生成所述多个待配准像素单元各自对应的速度场函数,包括:
针对所述多个待配准像素单元中的每个待配准像素单元,将所述待配准像素单元对应的速度函数展开为时间的多项式;
预测所述时间的多项式对应的阶层系数;
基于所述时间的多项式对应的阶层系数确定所述待配准像素单元对应的速度场函数。
5.根据权利要求4所述的配准图像确定方法,其特征在于,所述预测所述时间的多项式对应的阶层系数,包括:
基于所述速度场函数与所述待配准像素单元的空间位置,进行卷积操作,预测所述时间的多项式的阶层系数。
6.根据权利要求4所述的配准图像确定方法,其特征在于,所述将所述待配准像素单元对应的速度函数展开为时间的多项式,包括:
根据泰勒公式将所述待配准像素单元对应的速度函数展开生成所述时间的多项式。
7.根据权利要求2至6任一项所述的配准图像确定方法,其特征在于,在将所述目标图像和所述待配准图像输入到速度场函数确定模型,以确定所述速度场函数集合之前,还包括:
将待配准样本图像和目标样本图像输入到初始网络模型,以得到所述待配准样本图像中的待配准样本像素单元集合对应的速度场函数集合;
基于相似度损失和正则化损失训练所述初始网络模型,以确定所述速度场函数确定模型。
8.根据权利要求1至6任一项所述的配准图像确定方法,其特征在于,所述基于所述速度场函数集合和所述目标图像,确定所述待配准图像对应的配准图像,包括:
对所述速度场函数集合中包括的多个速度场函数分别进行积分计算,以确定多个速度场函数各自对应的位移场函数;
基于所述多个速度场函数各自对应的位移场函数和所述目标图像,确定所述配准图像。
9.根据权利要求8所述的配准图像确定方法,其特征在于,所述基于多个速度场函数各自对应的位移场函数和所述目标图像,确定所述配准图像,包括:
针对所述多个待配准像素单元中的每个待配准像素单元,基于所述待配准像素单元对应的位移场函数确定所述待配准像素单元在所述目标图像中的配准像素单元;
基于所述多个待配准像素单元各自对应的配准像素单元确定所述配准图像。
10.一种配准图像确定装置,其特征在于,包括:
第一确定模块,用于基于目标图像和待配准图像,确定所述待配准图像中的待配准像素单元集合对应的速度场函数集合,其中,所述待配准像素单元集合包括多个待配准像素单元,所述速度场函数集合包括多个速度场函数,所述多个待配准像素单元和所述多个速度场函数存在一一对应关系;
第二确定模块,用于基于所述速度场函数集合和所述目标图像,确定所述待配准图像对应的配准图像。
11.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1至9中任一项所述的配准图像确定方法。
12.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器,
其中,所述处理器用于执行上述权利要求1至9中任一项所述的配准图像确定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011311388.9A CN112419377B (zh) | 2020-11-20 | 2020-11-20 | 配准图像确定方法及配准图像确定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011311388.9A CN112419377B (zh) | 2020-11-20 | 2020-11-20 | 配准图像确定方法及配准图像确定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112419377A true CN112419377A (zh) | 2021-02-26 |
CN112419377B CN112419377B (zh) | 2021-10-08 |
Family
ID=74777090
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011311388.9A Active CN112419377B (zh) | 2020-11-20 | 2020-11-20 | 配准图像确定方法及配准图像确定装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112419377B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113506331A (zh) * | 2021-06-29 | 2021-10-15 | 武汉联影智融医疗科技有限公司 | 组织器官的配准方法、装置、计算机设备和存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106530341A (zh) * | 2016-11-01 | 2017-03-22 | 成都理工大学 | 一种保持局部拓扑不变性的点配准算法 |
CN107037428A (zh) * | 2017-03-27 | 2017-08-11 | 中国科学院遥感与数字地球研究所 | 一种提高星载双站差分InSAR提取形变精度的方法 |
CN107123133A (zh) * | 2017-05-02 | 2017-09-01 | 中国石油大学(华东) | 非特征的3d图像快速刚性配准方法 |
US20180137617A1 (en) * | 2016-11-16 | 2018-05-17 | Sony Corporation | Inter-patient brain registration |
CN108717705A (zh) * | 2018-03-29 | 2018-10-30 | 南京理工大学 | 基于静止矢量场的微分同胚图像配准方法 |
CN109215064A (zh) * | 2018-08-03 | 2019-01-15 | 华南理工大学 | 一种基于超像素向导的医学图像配准方法 |
CN111091589A (zh) * | 2019-11-25 | 2020-05-01 | 北京理工大学 | 基于多尺度监督学习的超声和核磁图像配准方法及装置 |
US10762648B2 (en) * | 2016-01-29 | 2020-09-01 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, image processing system, and program |
CN111724423A (zh) * | 2020-06-03 | 2020-09-29 | 西安交通大学 | 基于流体散度损失的微分同胚的非刚体配准方法 |
-
2020
- 2020-11-20 CN CN202011311388.9A patent/CN112419377B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10762648B2 (en) * | 2016-01-29 | 2020-09-01 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, image processing system, and program |
CN106530341A (zh) * | 2016-11-01 | 2017-03-22 | 成都理工大学 | 一种保持局部拓扑不变性的点配准算法 |
US20180137617A1 (en) * | 2016-11-16 | 2018-05-17 | Sony Corporation | Inter-patient brain registration |
CN107037428A (zh) * | 2017-03-27 | 2017-08-11 | 中国科学院遥感与数字地球研究所 | 一种提高星载双站差分InSAR提取形变精度的方法 |
CN107123133A (zh) * | 2017-05-02 | 2017-09-01 | 中国石油大学(华东) | 非特征的3d图像快速刚性配准方法 |
CN108717705A (zh) * | 2018-03-29 | 2018-10-30 | 南京理工大学 | 基于静止矢量场的微分同胚图像配准方法 |
CN109215064A (zh) * | 2018-08-03 | 2019-01-15 | 华南理工大学 | 一种基于超像素向导的医学图像配准方法 |
CN111091589A (zh) * | 2019-11-25 | 2020-05-01 | 北京理工大学 | 基于多尺度监督学习的超声和核磁图像配准方法及装置 |
CN111724423A (zh) * | 2020-06-03 | 2020-09-29 | 西安交通大学 | 基于流体散度损失的微分同胚的非刚体配准方法 |
Non-Patent Citations (3)
Title |
---|
AKSHAY PAI等: "Kernel Bundle Diffeomorphic Image Registration Using Stationary Velocity Fields and Wendland Basis Functions", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 * |
闫德勤 等: "大形变微分同胚图像配准快速算法", 《自动化学报》 * |
马圆圆: "医学图像非刚性配准技术的研究及其在4D重离子放射治疗计划设计中的应用", 《中国博士学位论文全文数据库》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113506331A (zh) * | 2021-06-29 | 2021-10-15 | 武汉联影智融医疗科技有限公司 | 组织器官的配准方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112419377B (zh) | 2021-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107516330B (zh) | 模型生成方法、图像处理方法及医学成像设备 | |
US20180372852A1 (en) | Method and apparatus for calibration between laser radar and camera, device and storage medium | |
US20210350560A1 (en) | Depth estimation | |
Hanson | Introduction to Bayesian image analysis | |
US11810301B2 (en) | System and method for image segmentation using a joint deep learning model | |
CN112102294B (zh) | 生成对抗网络的训练方法及装置、图像配准方法及装置 | |
US11037030B1 (en) | System and method for direct learning from raw tomographic data | |
CN110766768A (zh) | 一种磁共振图像重建方法、装置、设备和介质 | |
US20240070972A1 (en) | Rendering new images of scenes using geometry-aware neural networks conditioned on latent variables | |
WO2018044378A1 (en) | Quantifying gas leak rates using frame images acquired by a camera | |
CN112419377B (zh) | 配准图像确定方法及配准图像确定装置 | |
Hjouj et al. | Computed tomography reconstruction using only one projection angle | |
US20160189339A1 (en) | Adaptive 3d registration | |
Jiang et al. | Probabilistic triangulation for uncalibrated multi-view 3d human pose estimation | |
Riis et al. | Computed tomography with view angle estimation using uncertainty quantification | |
Joyce et al. | Point spread function estimation in X-ray imaging with partially collapsed Gibbs sampling | |
Lai et al. | An efficient implementation of a census-based stereo matching and its applications in medical imaging | |
CN114511666A (zh) | 一种模型生成方法、图像重建方法、装置、设备和介质 | |
Baum et al. | Extended object tracking based on combined set-theoretic and stochastic fusion | |
Peng et al. | Instance-based generative biological shape modeling | |
CN114445513A (zh) | 一种不确定度约束的高能闪光x射线图像线性重建方法 | |
CN114972118A (zh) | 检查图像的降噪方法、装置、可读介质和电子设备 | |
CN114612572A (zh) | 一种基于深度学习的激光雷达与相机外参标定方法及装置 | |
CN103534610B (zh) | 平滑化方法以及平滑化装置 | |
CN114787867A (zh) | 用于医学图像配准的器官变形补偿 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |