CN108921794B - 扫描成像模式下的动态图像重建方法及装置 - Google Patents
扫描成像模式下的动态图像重建方法及装置 Download PDFInfo
- Publication number
- CN108921794B CN108921794B CN201810458217.5A CN201810458217A CN108921794B CN 108921794 B CN108921794 B CN 108921794B CN 201810458217 A CN201810458217 A CN 201810458217A CN 108921794 B CN108921794 B CN 108921794B
- Authority
- CN
- China
- Prior art keywords
- image
- scanning
- equation
- deformation
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 154
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000033001 locomotion Effects 0.000 claims abstract description 87
- 239000000243 solution Substances 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 9
- 239000011159 matrix material Substances 0.000 claims description 6
- 230000003068 static effect Effects 0.000 claims description 5
- 239000007983 Tris buffer Substances 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 238000009795 derivation Methods 0.000 claims 1
- 238000005259 measurement Methods 0.000 abstract description 10
- 239000000463 material Substances 0.000 description 7
- 238000012634 optical imaging Methods 0.000 description 6
- 238000006073 displacement reaction Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000004621 scanning probe microscopy Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000009661 fatigue test Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 238000001878 scanning electron micrograph Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000009864 tensile test Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种扫描成像模式下的动态图像重建方法及装置,其中,方法包括以下步骤:通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型;获取扫描方程和运动或变形方程的参数信息;根据参数信息和动态物体的扫描成像模型得到动态物体的扫描成像公式,并通过代数‑插值法对畸变图像进行重建,以得到最终重建图像。该方法基于扫描方程、运动或变形方程以及小变形下图像强度不变假设,建立了动态物体的扫描成像理论,通过对动态物体扫描成像理论的逆求解,从而可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
Description
技术领域
本发明涉及扫描显微成像和图像处理技术领域,特别涉及一种扫描成像模式下的动态图像重建方法及装置。
背景技术
目前,运动和变形造成的模糊或畸变图像的恢复和重建都集中在光学图像上,且已发展了丰富的恢复和重建方法。例如,在一般的光学图像恢复方法中包括逆滤波、维纳滤波、平滑约束最小二乘滤波和最大熵恢复等。所有这些方法都是基于成像系统的线性空间不变性前提,因而在图像空间为均匀模糊。但是,当成像系统是扫描成像系统时,由于每次成像只能成像一个点,导致图像模糊在空间上是序列化且不均匀的,即空间上每一点的模糊方程是不同的。对于这类空间上非均匀的模糊,目前的研究仅只是关注于相机抖动和散焦,常采用空间变化的点扩散函数和投影运动路径模糊模型来恢复图像。
对于目前广泛应用的扫描成像模式中由于物体运动和变形所产生的扫描图像的模糊的研究很少,仅有的几个例子如,模糊SEM(scanning electron microscope,扫描电子显微镜)图像的模糊边缘获得了MEMS(Micro-Electro-Mechanical System,)器件的振动幅度信息,但是其所建立的模型不能给出图像的模糊机理和过程,更无法恢复和重建MEMS器件清晰的全场SEM扫描图像。旋转泵和涡轮泵振动对SEM图像的影响,并使用带通滤波器恢复模糊图像,而没有考虑扫描成像模式实际上在空间上是不均匀的。使用数字图像相关校正SEM的漂移和空间失真,但无法对运动和动态变形的模糊图像进行处理。通过频闪扫描电子显微镜避免了图像模糊,测试了MEMS机械性能,但是依然不能实现运动和连续变形物体的连续清晰成像。
发明内容
本申请是基于发明人对以下问题的认识和发现作出的:
光学成像是并行成像,它可以瞬间将物体的像成在像平面。通过适当的记录介质,人们能够记录从静态到每秒几百万帧数字图像。对于光学成像,即使是瞬态或超高速事件也可有合适的光学系统予以成像和记录。然而,正如众所周知的事实,对于光学成像其空间分辨率受限于光学系统衍射的极限,对于可见光来说这一数值在0.2微米左右。显然对于特征尺度为微米至纳米尺度的材料、结构或器件的成像和测量来说,这样的空间分辨显然是不能接受的。随着扫描电子显微镜(SEM)、TEM(Transmission electron microscope,透射电子显微镜)和AFM(Atomic Force Microscope,原子力扫描显微镜)等扫描显微类技术的发展,其所具有的高空间分辨成像能力使得人们可以分辨到亚原子尺度。尤其是对于静态扫描显微成像,人们能从微米尺度一直到亚原子尺度对材料进行高分辨、精细表征。
但是,几十年来围绕扫描显微成像一个重要的议题,就是如何实现运动和变形物体的扫描成像。尽管人们可以通过高速帧扫描,实现动态物体成像,但是由于扫描成像的序列扫描特性,每一个像素点的图像不处于同一时刻,即所谓的非并行成像。这对于利用扫描成像模式对运动和变形的物体成像或测量动态物体表面的运动和变形来说,必然造成图像运动模糊或者畸变,并导致各点位移在时间尺度发生滞后效应,进而导致位移表征混乱。显然在扫描模式下,1)、扫描成像只能获得运动或变形物体的模糊或者畸变图像;2)、直接使用这些模糊或者畸变的扫描图像测量物体表面的运动和变形参数如位移时,将导致时间尺度上位移的延迟和扭曲,进而对物体表面的位移和变形给出不准确的甚至失败的表征。因此,在扫描成像模式下研究运动和变形物体的扫描成像机理及动态模糊图像恢复是非常重要的课题。
现有的方法均未考虑到扫描成像下的动态图像恢复问题,即未能从扫描成像的基本机理出发对动态物体在扫描模式下的图像模糊和畸变进行分析,并建立真正的物理模型进而提出动态物体在扫描模式下图像模糊或者畸变的恢复方法。显然,如果可以建立物理机理明晰的扫描成像模型,描述扫描模式下的动态物体成像过程,就能够通过这个模型的逆求解过程实现动态图像的恢复。而这一研究可将目前广泛使用的SEM、AFM、TEM等扫描成像仪器的应用扩展到动态成像和运动变形量的定量测量中,具有重要的理论和工程应用价值。
综上所述,现有的图像恢复方法主要针对于光学成像系统,在扫描成像模式下缺乏相应的动态图像的成像机制和恢复模型和方法。需要研究和开发出一种确实可行的针对扫描成像模式的成像模型和动态模糊图像的恢复方法。
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种扫描成像模式下的动态图像重建方法,该方法可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
本发明的另一个目的在于提出一种扫描成像模式下的动态图像重建装置。
为达到上述目的,本发明一方面实施例提出了一种扫描成像模式下的动态图像重建方法,包括以下步骤:通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型;获取所述扫描方程和所述运动或变形方程的参数信息;根据所述参数信息和所述动态物体的扫描成像模型得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。
本发明实施例的扫描成像模式下的动态图像重建方法,基于扫描方程、运动或变形方程以及小变形下图像强度不变假设,建立了动态物体的扫描成像理论,通过对动态物体扫描成像理论的逆求解,从而可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
另外,根据本发明上述实施例的扫描成像模式下的动态图像重建方法还可以具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型,进一步包括:对于扫描成像系统使得扫描模式为光栅扫描模式,并且时间和扫描的位置之间关系为:
其中,tD为扫描驻留时间,tS为驻留完移动到下一个像素需要的时间,tJ为扫描完一行后从前一行末尾移动到下一行初始的时间,tR为扫描完一整行所需要的时间,且扫描得到图像为P·Q的尺寸,P为列数,Q为行数,则所述图像的像素坐标x、y满足1≤x≤P、1≤y≤Q;对于物体上的点(X,Y)在t时刻移动到了(x,y)位置,通过运动或变形方程表示如下:
x=x(X,Y,t)
y=y(X,Y,t),
其中,(X,Y)是拉格朗日坐标,(x,y)是欧拉坐标,且所述拉格朗日坐标与所述欧拉坐标一一对应,以将运动或者变形方程改写为:
X=X(x,y,t)
Y=Y(x,y,t),
在小变形条件下图像强度不变,且在物体发生微小的变形时,物体表面的成像特征不发生改变,表面成像特征随着物质点的运动而运动,其中,由所述小变形条件下图像强度不变假设引出方程如下:
g(x,y)=f(X,Y),
其中,g(x,y)为动态物体扫描生成的畸变图像函数,f(X,Y)为静止物体的图像函数;将所述扫描方程和所述运动或变形方程代入所述小变形条件下图像强度不变假设,以得到动态物体的扫描成像公式如下:
g(x,y)=f(X(x,y,t),Y(x,y,t))
=f(X(x,y,(x-1)(tS+tD)+(y-1)tR),Y(x,y,(x-1)(tS+tD)+(y-1)tR))。
进一步地,在本发明的一个实施例中,所述通过代数-插值法对畸变图像进行重建,进一步包括:通过代数法求解法得到所述重建图像f1;然后通过插值法得到所述复原图像f2;将所述重建图像f1中无法求解的点或者求解奇异的点用所述复原图像f2中的数值填补,以得到所述最终重建图像f。
进一步地,在本发明的一个实施例中,所述通过代数法求解法得到所述重建图像f1,进一步包括:通过代数求解法以将所述扫描成像模型进行离散化,其中,离散化过程包括:
其中,(X,Y)和(x,y)为整数,且单位为像素,δ(X(x,y,τ)-α,Y(x,y,τ)-β)为二维狄拉克函数,h(x,y,α,β)为非均匀点扩散函数,H为离散化后的点扩散矩阵,且将所述重建图像f1和畸变图像g离散后形成矩阵相乘形式,并给予所述重建图像f1边界条件,以及采用最小二乘法求解代数方程得到所述重建图像f1。
进一步地,在本发明的一个实施例中,所述然后通过插值法得到所述复原图像f2,进一步包括:
通过插值法在物体运动速度较慢时,通过所述扫描成像公式进行插值,以得到所述重建图像,插值过程包括:通过(x,y)和所述运动或变形方程求解出(X,Y)如下:
X=X(x,y,(x-1)(tS+tD)+(y-1)tR)
Y=Y(x,y,(x-1)(tS+tD)+(y-1)tR),
将求解得到的(X,Y)代入所述小变形条件下图像强度不变假设得到f如下:
f(X,Y)=g(x,y),
通过双三次插值,将f(X,Y)进行全场插值,以得到复原图像f2
进一步地,在本发明的一个实施例中,所述扫描方程为:
t(x,y)=(x-1)(tS+tD)+(y-1)tR
=(x-1)t′D+(y-1)tR,
tR=P(tD+tS)+tJ,
其中,其中tD是扫描驻留时间,tS是驻留完移动到下一个像素需要的时间,tJ是扫描完一行后从前一行末尾移动到下一行初始的时间,tR是扫描完一整行所需要的时间。若扫描得到的图像是P·Q的尺寸,其中P是列数,Q是行数,则图像的像素坐标x、y需要满足1≤x≤P、1≤y≤Q。
进一步地,在本发明的一个实施例中,所述运动或变形方程为:
x=x(X,Y,t)
y=y(X,Y,t),
其中,(X,Y)是拉格朗日坐标,固定在物体上,代表物体初始位置,(x,y)是欧拉坐标,固定在图像上,代表物体运动或变形后位置,t为时间。
进一步地,在本发明的一个实施例中,所述小变形条件下图像强度不变假设为:
g(x,y)=f(X,Y),
其中,g(x,y)是动态物体扫描生成的畸变图像函数,f(X,Y)是静止物体的图像函数。
为达到上述目的,本发明另一方面实施例提出了一种扫描成像模式下的动态图像重建装置,包括:建模模块,用于通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型;获取模块,用于获取所述扫描方程和所述运动或变形方程的参数信息;重建模块,用于根据所述参数信息和所述动态物体的扫描成像模型得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。
本发明实施例的扫描成像模式下的动态图像重建装置,基于扫描方程、运动或变形方程以及小变形下图像强度不变假设,建立了动态物体的扫描成像理论,通过对动态物体扫描成像理论的逆求解,从而可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为根据本发明一个实施例的扫描成像模式下的动态图像重建方法的流程图;
图2为根据本发明一个实施例的扫描成像模式下的动态图像复原流程图;
图3为根据本发明一个实施例的动态扫描成像模型示意图;
图4为根据本发明一个实施例的SEM畸变模糊图像与其恢复图像的示意图;
图5为根据本发明一个实施例的扫描成像模式下的动态图像重建装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的扫描成像模式下的动态图像重建方法及装置,首先将参照附图描述根据本发明实施例提出的扫描成像模式下的动态图像重建方法。
图1是本发明一个实施例的扫描成像模式下的动态图像重建方法的流程图。
如图1所示,该扫描成像模式下的动态图像重建方法包括以下步骤:
在步骤S101中,通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型。
可以理解的是,如图2所示,首先建立动态扫描成像模型。
进一步地,在本发明的一个实施例中,扫描方程为:
t(x,y)=(x-1)(tS+tD)+(y-1)tR
=(x-1)t′D+(y-1)tR,
tR=P(tD+tS)+tJ,
其中,其中tD是扫描驻留时间,tS是驻留完移动到下一个像素需要的时间,tJ是扫描完一行后从前一行末尾移动到下一行初始的时间,tR是扫描完一整行所需要的时间。若扫描得到的图像是P·Q的尺寸,其中P是列数,Q是行数,则图像的像素坐标x、y需要满足1≤x≤P、1≤y≤Q。
进一步地,在本发明的一个实施例中,述运动或变形方程为:
x=x(X,Y,t)
y=y(X,Y,t),
其中,(X,Y)是拉格朗日坐标,固定在物体上,代表物体初始位置,(x,y)是欧拉坐标,固定在图像上,代表物体运动或变形后位置,t为时间。
进一步地,在本发明的一个实施例中,小变形条件下图像强度不变假设为:
g(x,y)=f(X,Y),
其中,g(x,y)是动态物体扫描生成的畸变图像函数,f(X,Y)是静止物体的图像函数。
具体而言,如图3所示,定义物体表面成像特征为o(X,Y),物体经过运动或变形后得到动态物体表面成像特征M(x,y,t),经过扫描成像后得到畸变模糊图像g(x,y),最后建立畸变模糊图像g(x,y)和恢复图像f(X,Y)之间的关系式。
本发明实施例所提供的动态扫描成像建模方法如下:
通过扫描方程、运动或变形方程、小变形强度不变假设,建立动态物体的扫描成像模型。扫描方程如下:
t(x,y)=(x-1)(tS+tD)+(y-1)tR
=(x-1)t′D+(y-1)tR
tR=P(tD+tS)+tJ
其中tD是扫描驻留时间,tS是驻留完移动到下一个像素需要的时间,tJ是扫描完一行后从前一行末尾移动到下一行初始的时间,tR是扫描完一整行所需要的时间。若扫描得到的图像是P·Q的尺寸,其中P是列数,Q是行数,则图像的像素坐标x、y需要满足1≤x≤P、1≤y≤Q。
运动或变形方程如下:
x=x(X,Y,t)
y=y(X,Y,t)
其中(X,Y)是拉格朗日坐标,固定在物体上;(x,y)是欧拉坐标,固定在图像上。
小变形条件下图像强度不变假设如下:
g(x,y)=f(X,Y)
其中g(x,y)是动态物体扫描生成的畸变图像函数,f(X,Y)是静止物体的图像函数。将扫描方程和运动或变形方程代入小变形条件下图像强度不变假设,可得到动态物体的扫描成像模型如下:
g(x,y)=f(X(x,y,t),Y(x,y,t))
=f(X(x,y,(x-1)(tS+tD)+(y-1)tR),Y(x,y,(x-1)(tS+tD)+(y-1)tR))。
进一步地,在本发明的一个实施例中,通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型,进一步包括:对于扫描成像系统使得扫描模式为光栅扫描模式,并且时间和扫描的位置之间关系为:
其中,tD为扫描驻留时间,tS为驻留完移动到下一个像素需要的时间,tJ为扫描完一行后从前一行末尾移动到下一行初始的时间,tR为扫描完一整行所需要的时间,且扫描得到图像为P·Q的尺寸,P为列数,Q为行数,则图像的像素坐标x、y满足1≤x≤P、1≤y≤Q;对于物体上的点(X,Y)在t时刻移动到了(x,y)位置,通过运动或变形方程表示如下:
x=x(X,Y,t)
y=y(X,Y,t),
其中,(X,Y)是拉格朗日坐标,(x,y)是欧拉坐标,且拉格朗日坐标与欧拉坐标一一对应,以将运动或者变形方程改写为:
X=X(x,y,t)
Y=Y(x,y,t),
在小变形条件下图像强度不变,且在物体发生微小的变形时,物体表面的成像特征不发生改变,表面成像特征随着物质点的运动而运动,其中,由小变形条件下图像强度不变假设引出方程如下:
g(x,y)=f(X,Y),
其中,g(x,y)为动态物体扫描生成的畸变图像函数,f(X,Y)为静止物体的图像函数;将扫描方程和运动或变形方程代入小变形条件下图像强度不变假设,以得到动态物体的扫描成像公式如下:
g(x,y)=f(X(x,y,t),Y(x,y,t))
=f(X(x,y,(x-1)(tS+tD)+(y-1)tR),Y(x,y,(x-1)(tS+tD)+(y-1)tR))。
具体而言,通过扫描方程、运动或变形方程、小变形强度不变假设建立动态物体的扫描成像模型具体过程如下:
对于扫描成像系统,扫描模式为光栅扫描模式,即从上到下、从左到右一行接一行地扫描,则时间和扫描的位置有如下关系成立:
t(x,y)=(x-1)(tS+tD)+(y-1)tR
=(x-1)t′D+(y-1)tR
tR=P(tD+tS)+tJ
其中tD是扫描驻留时间,tS是驻留完移动到下一个像素需要的时间,tJ是扫描完一行后从前一行末尾移动到下一行初始的时间,tR是扫描完一整行所需要的时间。若扫描得到的图像是P·Q的尺寸,其中P是列数,Q是行数,则图像的像素坐标x、y需要满足1≤x≤P、1≤y≤Q。
对于物体上的点(X,Y)在t时刻移动到了(x,y)位置,通过运动或变形方程表示如下:
x=x(X,Y,t)
y=y(X,Y,t)
其中(X,Y)是拉格朗日坐标,固定在物体上,代表物体初始位置;(x,y)是欧拉坐标,固定在图像上,代表物体运动或变形后位置。由于实际过程中物质点不可能重合,所以在任一时刻t下,(X,Y)和(x,y)是一一对应的,即可以将运动或者变形方程改写为如下形式:
X=X(x,y,t)
Y=Y(x,y,t)
小变形条件下图像强度不变假设是本方法的基本假设,在物体发生微小的变形时,物体表面的成像特征不发生改变,表面成像特征随着物质点的运动而运动。物体表面成像特征指系统采集到的物体表面有效成像信息,例如对于光学成像系统是物体表面反射率,对于SEM是物体表面的二次电子发射率,对于AFM是物体表面的有效相互作用距离。由小变形条件下图像强度不变假设引出方程如下:
g(x,y)=f(X,Y)
其中,g(x,y)是动态物体扫描生成的畸变图像函数,f(X,Y)是静止物体的图像函数。将扫描方程和运动或变形方程代入小变形条件下图像强度不变假设可以得到动态物体的扫描成像公式如下:
g(x,y)=f(X(x,y,t),Y(x,y,t))
=f(X(x,y,(x-1)(tS+tD)+(y-1)tR),Y(x,y,(x-1)(tS+tD)+(y-1)tR))。
在步骤S102中,获取扫描方程和运动或变形方程的参数信息。
可以理解的是,如图2所示,获取物体的运动或变形信息。
具体而言,获取扫描方程的参数信息如下:扫描方程的参数包括tD、tS、tJ、tR以及扫描得到的图像的尺寸P·Q,其中P是列数,Q是行数。此类参数可以通过扫描成像系统的系统参数直接获取。获取运动或变形方程的参数信息如下:运动或变形方程的参数指x=x(X,Y,t),y=y(X,Y,t)方程的确切表达式中的参数,也可以通过其他测量手段得到。
举例而言,如图4所示,扫描方程的参数由成像所用的SEM仪器提供。一个典型的实验例是将带缺口的拉伸试件放入SEM中进行正弦拉伸加载下的疲劳实验,其运动方程如下:
x=X+(εxX+Ax)sin(ωt+θ)
y=Y+(εyY+Ay)sin(ωt+θ)
其中εx是x方向的应变,εy是y方向的应变,ν是材料的泊松比,Ax是x方向的振幅,Ay是y方向的振幅,ω是振动角频率,θ是初始相位角。已知拉伸机是沿y方向拉伸,所以εx=νεy=0.29εy,Ax=0;通过拉伸实验机给出的载荷可以计算出εy=0.0023;拉伸实验时设置的频率加载频率为f=0.25Hz。其余参数将通过图像恢复方法进行拟合。
在步骤S103中,根据参数信息和动态物体的扫描成像模型得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。
可以理解的是,将获取的扫描方程、运动或变形方程的参数代入步骤S101中的公式,得到动态物体的扫描成像公式,采用代数-插值法对畸变图像进行重建。
进一步地,在本发明的一个实施例中,通过代数-插值法对畸变图像进行重建,进一步包括:通过代数法求解法得到重建图像f1;然后通过插值法得到复原图像f2;将重建图像f1中无法求解的点或者求解奇异的点用复原图像f2中的数值填补,以得到最终重建图像f。
进一步地,在本发明的一个实施例中,通过代数法求解法得到重建图像f1,进一步包括:通过代数求解法以将扫描成像模型进行离散化,其中,离散化过程包括:
其中,(X,Y)和(x,y)为整数,且单位为像素,δ(X(x,y,τ)-α,Y(x,y,τ)-β)为二维狄拉克函数,h(x,y,α,β)为非均匀点扩散函数,H为离散化后的点扩散矩阵,且将重建图像f1和畸变图像g离散后形成矩阵相乘形式,并给予重建图像f1边界条件,以及采用最小二乘法求解代数方程得到重建图像f1。
进一步地,在本发明的一个实施例中,然后通过插值法得到复原图像f2,进一步包括:通过插值法在物体运动速度较慢时,通过扫描成像公式进行插值,以得到重建图像,插值过程包括:通过(x,y)和运动或变形方程求解出(X,Y)如下:
X=X(x,y,(x-1)(tS+tD)+(y-1)tR)
Y=Y(x,y,(x-1)(tS+tD)+(y-1)tR),
将求解得到的(X,Y)代入小变形条件下图像强度不变假设得到f如下:
f(X,Y)=g(x,y),
通过双三次插值,将f(X,Y)进行全场插值,以得到复原图像f2。
进一步地,如图3所示,图3(a)和图3(c)是不同扫描速度下的畸变图像,图3(b)和图3(d)分别是通过代数-插值法恢复后的图像
综上,本发明实施例具有更强的普适性,能够将光学成像模式和扫描成像模式都包含于本方法内,且通过构建的动态扫描成像模型可以衍生出不同的图像恢复方法,并建立了动态物体在扫描成像系统中产生畸变和模糊理论方程,解决了扫描成像模式下由于运动和变形导致的畸变模糊图像的恢复问题,使得SEM、AFM、TEM等扫描成像系统能够克服动态物体成像时的畸变和模糊问题,得到恢复的扫描显微图像。这一研究为扩展扫描图像的应用领域,为微纳米尺度下材料的结构的运动和变形分析提供了新的途径。
根据本发明实施例提出的扫描成像模式下的动态图像重建方法,基于扫描方程、运动或变形方程以及小变形下图像强度不变假设,建立了动态物体的扫描成像理论,通过对动态物体扫描成像理论的逆求解,从而可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
其次参照附图描述根据本发明实施例提出的扫描成像模式下的动态图像重建装置。
图5是本发明一个实施例的扫描成像模式下的动态图像重建装置的结构示意图。
如图5所示,该扫描成像模式下的动态图像重建装置10包括:建模模块100、获取模块200和重建模块300。
其中,建模模块100用于通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型。获取模块200用于获取扫描方程和运动或变形方程的参数信息。重建模块300用于根据参数信息和动态物体的扫描成像模型得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。本发明实施例的装置10可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
需要说明的是,前述对扫描成像模式下的动态图像重建方法实施例的解释说明也适用于该实施例的扫描成像模式下的动态图像重建装置,此处不再赘述。
根据本发明实施例提出的扫描成像模式下的动态图像重建装置,基于扫描方程、运动或变形方程以及小变形下图像强度不变假设,建立了动态物体的扫描成像理论,通过对动态物体扫描成像理论的逆求解,从而可在扫描成像模式下实现运动或变形物体的清晰成像及其运动或变形测量。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (8)
1.一种扫描成像模式下的动态图像重建方法,其特征在于,包括以下步骤:
通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型,其中,对于扫描成像系统使得扫描模式为光栅扫描模式,并且时间和扫描的位置之间关系为:tR=P(tD+tS)+tJ,其中,tD为扫描驻留时间,tS为驻留完移动到下一个像素需要的时间,tJ为扫描完一行后从前一行末尾移动到下一行初始的时间,tR为扫描完一整行所需要的时间,且扫描得到图像为P·Q的尺寸,P为列数,Q为行数,则所述图像的像素坐标x、y满足1≤x≤P、1≤y≤Q;对于物体上的点(X,Y)在t时刻移动到了(x,y)位置,通过运动或变形方程表示如下:其中,(X,Y)是拉格朗日坐标,固定在物体上,代表物体初始位置,(x,y)是欧拉坐标,固定在图像上,代表物体运动或变形后位置,t为时间,且所述拉格朗日坐标与所述欧拉坐标一一对应,以将运动或者变形方程改写为:在小变形条件下图像强度不变,且在物体发生微小的变形时,物体表面的成像特征不发生改变,表面成像特征随着物质点的运动而运动,其中,由所述小变形条件下图像强度不变假设引出方程如下:g(x,y)=f(X,Y),其中,g(x,y)为动态物体扫描生成的畸变图像函数,f(X,Y)为静止物体的图像函数;将所述扫描方程和所述运动或变形方程代入所述小变形条件下图像强度不变假设,以得到动态物体的扫描成像公式如下:
获取所述扫描方程和所述运动或变形方程的参数信息;以及
根据所述参数信息,将扫描方程、运动或变形方程代入小变形条件下图像强度不变假设得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。
2.根据权利要求1所述的扫描成像模式下的动态图像重建方法,其特征在于,所述通过代数-插值法对畸变图像进行重建,进一步包括:
通过代数法求解法得到所述重建图像f1;
然后通过插值法得到所述复原图像f2;以及
将所述重建图像f1中无法求解的点或者求解奇异的点用所述复原图像f2中的数值填补,以得到所述最终重建图像f。
7.根据权利要求1所述的扫描成像模式下的动态图像重建方法,其特征在于,所述小变形条件下图像强度不变假设为:
g(x,y)=f(X,Y),
其中,g(x,y)是动态物体扫描生成的畸变图像函数,f(X,Y)是静止物体的图像函数。
8.一种扫描成像模式下的动态图像重建装置,其特征在于,包括:
建模模块,用于通过扫描方程、运动或变形方程与小变形条件下图像强度不变假设建立动态物体的扫描成像模型,其中,对于扫描成像系统使得扫描模式为光栅扫描模式,并且时间和扫描的位置之间关系为:tR=P(tD+tS)+tJ,其中,tD为扫描驻留时间,tS为驻留完移动到下一个像素需要的时间,tJ为扫描完一行后从前一行末尾移动到下一行初始的时间,tR为扫描完一整行所需要的时间,且扫描得到图像为P·Q的尺寸,P为列数,Q为行数,则所述图像的像素坐标x、y满足1≤x≤P、1≤y≤Q;对于物体上的点(X,Y)在t时刻移动到了(x,y)位置,通过运动或变形方程表示如下:其中,(X,Y)是拉格朗日坐标,固定在物体上,代表物体初始位置,(x,y)是欧拉坐标,固定在图像上,代表物体运动或变形后位置,t为时间,且所述拉格朗日坐标与所述欧拉坐标一一对应,以将运动或者变形方程改写为:在小变形条件下图像强度不变,且在物体发生微小的变形时,物体表面的成像特征不发生改变,表面成像特征随着物质点的运动而运动,其中,由所述小变形条件下图像强度不变假设引出方程如下:g(x,y)=f(X,Y),其中,g(x,y)为动态物体扫描生成的畸变图像函数,f(X,Y)为静止物体的图像函数;将所述扫描方程和所述运动或变形方程代入所述小变形条件下图像强度不变假设,以得到动态物体的扫描成像公式如下:
获取模块,用于获取所述扫描方程和所述运动或变形方程的参数信息;以及
重建模块,用于根据所述参数信息,将扫描方程、运动或变形方程代入小变形条件下图像强度不变假设得到动态物体的扫描成像公式,并通过代数-插值法对畸变图像进行重建,以得到最终重建图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810458217.5A CN108921794B (zh) | 2018-05-14 | 2018-05-14 | 扫描成像模式下的动态图像重建方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810458217.5A CN108921794B (zh) | 2018-05-14 | 2018-05-14 | 扫描成像模式下的动态图像重建方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108921794A CN108921794A (zh) | 2018-11-30 |
CN108921794B true CN108921794B (zh) | 2020-09-18 |
Family
ID=64402497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810458217.5A Active CN108921794B (zh) | 2018-05-14 | 2018-05-14 | 扫描成像模式下的动态图像重建方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108921794B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7077260B2 (ja) | 2019-03-22 | 2022-05-30 | 株式会社日立ハイテク | 電子ビーム装置及び画像処理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1384196A1 (en) * | 2001-03-28 | 2004-01-28 | Visiongate, Inc. | Apparatus and method for imaging small objects in a flow stream using optical tomography |
CN102155909A (zh) * | 2010-12-17 | 2011-08-17 | 华中科技大学 | 基于扫描电镜的纳米尺度三维形貌测量方法 |
-
2018
- 2018-05-14 CN CN201810458217.5A patent/CN108921794B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1384196A1 (en) * | 2001-03-28 | 2004-01-28 | Visiongate, Inc. | Apparatus and method for imaging small objects in a flow stream using optical tomography |
CN102155909A (zh) * | 2010-12-17 | 2011-08-17 | 华中科技大学 | 基于扫描电镜的纳米尺度三维形貌测量方法 |
Non-Patent Citations (6)
Title |
---|
Improvements to the analytical linescan model for SEM metrology;Mack;《Proceedings of SPIE 》;20160331;全文 * |
Scanning system stability for improving SEM image;Seung Jac Kim;《Journal of the korean society of machine tool engineers》;20091031;第18卷(第5期);全文 * |
SEM图像的畸变参数分析与矫正;李喜德等;《北京力学第二十二界学术年会会议论文集》;20161231;全文 * |
一种基于梯度信息的SEM图像重建方法;毛项迪;《计算机科学》;20160228;第43卷(第2期);全文 * |
微操作成像系统中体视显微镜的参数标定;王跃宗等;《机械工程学报》;20030930;第39卷(第9期);全文 * |
扫描电子显微镜校准方法;张欣宇等;《计测技术》;20150611;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN108921794A (zh) | 2018-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6253280B2 (ja) | 撮像装置およびその制御方法 | |
Maraghechi et al. | Correction of scanning electron microscope imaging artifacts in a novel digital image correlation framework | |
JP6813162B2 (ja) | モアレ法による高速変位・ひずみ分布測定方法及び測定装置 | |
RU2010152658A (ru) | Обработка данных изображения | |
KR20170022736A (ko) | 딕셔너리 학습 기반 해상도 향상 장치 및 방법 | |
CN108288250A (zh) | 基于tgv正则化的红外遥感图像超分辨率重建方法 | |
CN108921794B (zh) | 扫描成像模式下的动态图像重建方法及装置 | |
JP5098369B2 (ja) | 距離画像生成装置、距離画像生成方法及びプログラム | |
Hardeep et al. | A survey on techniques and challenges in image super resolution reconstruction | |
JP2007205875A (ja) | 赤外線熱弾性応力計測における位置補正法 | |
CN111696044A (zh) | 一种大场景动态视觉观测方法及装置 | |
Hansen et al. | Super resolution digital image correlation (SR-DIC): an alternative to image stitching at high magnifications | |
Zang et al. | Phase-based vibration frequency measurement from videos recorded by unstable cameras | |
CN105225211A (zh) | 一种基于振动提高视频分辨率的方法 | |
Zamani et al. | Multiple-frames super-resolution for closed circuit television forensics | |
KR20190139306A (ko) | 이미지 시리즈 정렬 시스템 및 방법 | |
Xie et al. | Scanning imaging restoration of moving or dynamically deforming objects | |
Cortijo et al. | Bayesian super-resolution of text image sequences from low resolution observations | |
JP4405407B2 (ja) | 欠陥検査装置 | |
KR100916615B1 (ko) | 롤투롤 공정에서의 웹 주름 측정 시스템 | |
JP2018013416A (ja) | Mtf測定装置及びそのプログラム | |
Yousef et al. | Mathematical model development of super-resolution image Wiener restoration | |
CN102509277A (zh) | 光电混合联合变换相关的实时运动模糊图像复原方法 | |
Yoo et al. | Bayesian approach for automatic joint parameter estimation in 3D image reconstruction from multi-focus microscope | |
Chen et al. | Fast image super-resolution for a dual-resolution camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |