CN105589188B - 一种结构光照明显微镜的成像方法及装置 - Google Patents
一种结构光照明显微镜的成像方法及装置 Download PDFInfo
- Publication number
- CN105589188B CN105589188B CN201610136330.2A CN201610136330A CN105589188B CN 105589188 B CN105589188 B CN 105589188B CN 201610136330 A CN201610136330 A CN 201610136330A CN 105589188 B CN105589188 B CN 105589188B
- Authority
- CN
- China
- Prior art keywords
- spatial frequency
- original
- image
- structured illumination
- frequency spectrum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000005286 illumination Methods 0.000 title claims abstract description 152
- 238000003384 imaging method Methods 0.000 title claims abstract description 70
- 238000000034 method Methods 0.000 claims abstract description 43
- 125000004122 cyclic group Chemical group 0.000 claims abstract description 10
- 238000001228 spectrum Methods 0.000 claims description 84
- 230000009467 reduction Effects 0.000 claims description 35
- 230000004048 modification Effects 0.000 claims description 16
- 238000012986 modification Methods 0.000 claims description 16
- 230000008859 change Effects 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 238000011946 reduction process Methods 0.000 claims description 4
- 230000003595 spectral effect Effects 0.000 claims description 4
- 230000002123 temporal effect Effects 0.000 abstract description 9
- 230000003287 optical effect Effects 0.000 description 15
- 230000008569 process Effects 0.000 description 8
- 230000010354 integration Effects 0.000 description 5
- 239000000203 mixture Substances 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 3
- 238000000386 microscopy Methods 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011068 loading method Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000010870 STED microscopy Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 230000021615 conjugation Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 230000003760 hair shine Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000002186 photoactivation Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
Landscapes
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Microscoopes, Condenser (AREA)
Abstract
本发明提供一种结构光照明显微镜的成像方法及装置,所述方法包括:按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;将所述原始图像序列中的每张原始图像与其之后的N‑1张原始图像进行图像重构,得到所述待成像样品的超分辨图像。上述方法及装置可得到待成像样品随时间变化的超分辨图像序列,且每两张超分辨图像的时间间隔与拍摄每两张原始图像的时间间隔相等,与现有技术的结构光照明显微镜成像方法相比,本发明的时间分辨率得到了极大的提高。
Description
技术领域
本发明涉及光学显微镜技术领域,尤其涉及一种结构光照明显微镜的成像方法及装置。
背景技术
现代的生命科学研究中,显微镜是必不可少的研究工具。然而由于光的衍射,传统的光学显微镜存在分辨率的极限,这个分辨率的极限可以由瑞利判据(Rayleighcriterion)给出:R=0.61λ/NA,其中λ是光的波长,NA是显微物镜的数值孔径。近年来,出现了各种用于提高光学显微镜分辨率的方法,结构光照明显微镜(Structured IlluminationMicroscope,SIM)就是其中之一。与其他的方法相比,如:随机光学重构显微镜(StochasticOptical Reconstruction Microscopy,STORM),光激活定位显微镜(Photo ActivatedLocalization Microscopy,PALM),受激发射损耗显微镜(Stimulated EmissionDepletion Microscopy,STED),SIM的图像重构过程中所需的原始图像数量最少,合成每帧超分辨图像所需采集数据的时间最短,此外SIM的原始图像采集是宽场成像,成像速度受视场大小影响不大。故SIM是各种超分辨成像方法中最适合观察活细胞或宽视场中快速成像的方法。
现有的结构光照明显微镜的基本结构如图1所示,采用相干或非相干的准直宽光束作为光源1,入射光经过光线调制器件2,被调制后经过由透镜3、二向色分束器8及物镜9组成的成像系统,然后调制出的图案投影在照明样品10上,并在照明样品10所在的平面上形成周期性的光强分布。在使用相干光源的情况下,也可以选择性的加入由透镜4、空间滤波器5及透镜6组成的空间滤波系统,以滤除零级衍射分量,滤波后的光继续通过由二向色分束器8及物镜9组成的成像系统,在照明样品10所在的平面处干涉生成结构光照明图案。被照明的样品的光通过由物镜9、镜筒透镜11组成的显微系统后被探测器13采集。
现有技术中,通过结构光照明显微镜随时间推移生成SIM序列(time-lapse SIM),其成像过程如下:
在一组结构光照明图案下,每张结构光照明图案都拍摄一张原始图像,对这一组原始图像进行图像重构得到一张SIM超分辨图像。下一张SIM超分辨图像使用下一组结构光照明下的原始图像重构得到。重复上述过程,获得多个SIM超分辨图像,构成SIM超分辨图像的时间序列。
最早的SIM中,用于调制结构光分布的器件为光栅。不同结构光照明图案的调制与切换是通过平移或旋转光栅实现的。由于系统中存在机械运动的部分,其成像速度相对较慢。之后的SIM普遍采用空间光调制器(Spatial Light Modulator,SLM)以及数字微镜器件(Digital Micro-mirror Device,DMD)这两种光电器件调制结构光照明图案。由于SLM和DMD响应速度快,再加上高灵敏度的探测器如电子倍增CCD(EMCCD)、科学级CMOS(sCMOS)能够大幅的缩短曝光时间,这些都为SIM的高速成像提供了有利条件。
若要再进一步提升SIM的成像速度,需要通过增大照明光强缩短曝光时间,从而提高成像的时间分辨率。然而在荧光成像中,照明光强的增强会加速荧光分子的光漂白效应,缩短总体的观察时间,这在活细胞成像中是很不利的,需要折中考虑。故在现有光电器件响应速度和探测器灵敏度的条件下,SIM的时间分辨率很难有大幅的提升。
发明内容
本发明提供一种结构光照明显微镜的成像方法及装置,以解决现有技术中结构光照明显微镜成像的时间分辨率难以进一步提升的技术问题。
为此目的,第一方面,本发明提供一种结构光照明显微镜的成像方法,包括:
按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;
获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;
将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
可选地,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列,具体包括:
计算所述原始图像序列中每N张原始图像中混叠的各空间频谱分量,得到多个空间频谱分量组,所述N张原始图像由所述原始图像序列中的每张原始图像与其之后的N-1张原始图像组成;
根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,得到空间频率还原的各空间频谱分量;
将每个空间频谱分量组中空间频率还原的各空间频谱分量与空间频率未改变的各空间频谱分量进行加权叠加,得到所述待成像样品的超分辨图像序列。
可选地,所述根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,得到空间频率还原的各空间频谱分量,具体包括:
根据所述预设的N张结构光照明图案的空间频率,确定每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率改变量;
根据所述空间频率改变量,确定各空间频谱分量组中每个空间频率改变量在空间域内对应的指数函数;
在空间域内,将每个空间频谱分量组中空间频率改变的各空间频谱分量与自身的空间频率改变量对应的指数函数相乘,得到空间频率还原的各空间频谱分量。
可选地,所述拍摄待成像样品在每张结构光照明图案下的原始图像,具体包括:
间隔预设时间拍摄待成像样品在每张结构光照明图案下的原始图像。
可选地,在计算所述原始图像序列中N张原始图像中混叠的各空间频谱分量,得到多个空间频谱分量组之后,所述方法还包括:
对每个空间频谱分量组中的各空间频谱分量进行反卷积,得到反卷积后的各空间频谱分量组;
相应地,所述根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,具体包括:
根据所述预设的N张结构光照明图案的空间频率,将每个反卷积后的空间频谱分量组中空间频率改变的各空间频率谱分量的空间频率还原。
可选地,在所述周期性循环预设的N张结构光照明图案之前,所述方法还包括:
采用光线调制器件调制所述结构光照明显微镜的入射光;
对调制后的入射光进行投影,得到所述预设的N张结构光照明图案。
可选地,在所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构之前,所述方法还包括:
对所述待成像样品在每张结构光照明图案下的原始图像进行降噪处理,得到降噪后的原始图像序列;
相应地,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,具体包括:
将所述降噪后的原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构;或
在所述得到所述待成像样品的超分辨图像序列之后,所述方法还包括:
对所述超分辨图像序列中的每张超分辨图像进行降噪,得到降噪后的超分辨图像序列。
可选地,在所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构之前,所述方法还包括:
对所述原始图像序列中的每张原始图像进行图像内插处理,得到像素扩展的各原始图像;
相应地,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,具体包括:
将所述原始图像序列中的每张像素扩展的原始图像与其之后的N-1张像素扩展的原始图像进行图像重构。
可选地,按照预设顺序循环切换预设的N张结构光照明图案之前,所述方法还包括:
获取结构光照明显微镜成像的所述预设的N张结构光照明图案;
所述结构光照明图案由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后投影成像得到;或由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后进行高通空间滤波并投影成像得到。
可选地,所述结构光照明图案包含一个或多个非零空间频率。
第二方面,本发明提供一种结构光照明显微镜的成像装置,其特征在于,包括:
图案切换单元,用于按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;
原始图像获取单元,用于获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;
图像重构单元,用于将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
由上述技术方案可知,本发明的结构光照明显微镜的成像方法及装置,可得到待成像样品随时间变化的超分辨图像序列,且每两张超分辨图像的时间间隔与拍摄每两张原始图像的时间间隔相等,与现有技术的结构光照明显微镜成像方法相比,本发明的成像方法及装置的时间分辨率得到了极大的提高。
附图说明
图1为现有的结构光照明显微镜的结构示意图;
图2为本发明一实施例提供的结构光照明显微镜的成像方法的流程示意图;
图3为本发明一实施例提供的结构光照明显微镜的成像方法与现有成像方法的对比示意图;
图4为本发明一实施例提供的一个非零空间频率的结构光照明图案光强分布的示意图;
图5为本发明一实施例提供的多个非零空间频率的结构光照明图案光强分布的示意图;
图6为本发明一实施例提供的结构光照明显微镜的成像装置的结构示意图。
具体实施方式
下面结合附图和实施例,对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明,但不用来限制本发明的范围。
图2示出了本发明一实施例提供的结构光照明显微镜的成像方法的流程示意图。如图2所示,本实施例的结构光照明显微镜的成像方法包括步骤S21至S23。
S21、按照预设顺序循环切换预设的N张结构光照明图案。
其中,N为预设常数。
将预设的N张结构光照明图案设为一组,按固定的顺序循环切换这一组结构光照明图案。
举例来说,假如N=5,则一组结构光照明图案中包括5张结构光照明图案,分别为ab c d e。结构光照明图案的循环切换就在上述a b cd e中进行,第一组的5张结构光照明图案的顺序可任意设定,但要求每个结构光照明图案都包括在内,即第一组的结构光照明图案的顺序可以为a b c d e、d a c e b、e c a b d等。如果第一组的结构光照明图案的顺序为e d c b a,那么接下来的结构光照明图案的顺序都与第一组的结构光照明图案的顺序相同,即在用户观察过程中,结构光照明图案的切换顺序为e d c b a e d c b a e dc b a……
S22、获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列。
每张结构光照明图案照明待成像样品时,都拍摄一张待成像样品的原始图像,在用户需要的观察时间内,得到待成像样品的原始图像序列。
举例来说,结构光照明图案的顺序为e d c b a e d c b a e d c b a……那么得到的待成像样品的原始图像序列应为E D C B A E D C B A E D C B A……
上述待成像样品的原始图像,按照拍摄的时间顺序组成原始图像序列。
S23、将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
拍摄得到的待成像样品的原始图像序列中的第一幅原始图像与其之后的N-1幅原始图像,经过图像重构得到一张SIM超分辨图像。之后的每一幅原始图像,都与其之后的N-1幅原始图像经过图像重构得到一张SIM超分辨图像。所有的SIM超分辨图像按时间排列组成超分辨图像序列。
举例来说,当N=5时,待成像样品的第一张原始图像E与之后的4张原始图像D C BA重构得到第一张SIM超分辨图像。然后,第二张原始图像D与其之后的4张原始图像组成一组,进行重构得到第二张SIM超分辨图像。即,原始图像E D C B A重构得到第一张SIM超分辨图像S(1),原始图像D C B A E重构得到第二张SIM超分辨图像S(2),原始图像C B A E D重构得到第三张SIM超分辨图像S(3)……重构得到的SIM超分辨图像按顺序排列成超分辨时间序列S(1)S(2)S(3)S(4)……
可以理解的是,对原始图像的重构过程可以是在拍摄完待成像样品的原始图像序列之后进行,也可与拍摄待成像样品的原始图像同时进行。
可以理解的是,本实施例的结构光照明显微镜的成像方法,不仅能用于结构光照明显微镜SIM中,也能用于以下技术:非线性结构光照明显微镜NL-SIM、全内反射荧光结构光照明显微镜TIRF-SIM、三维超分辨成像的结构光照明显微镜3D-SIM、光片显微镜与结构光照明显微镜的结合Lattice-lightsheet-SIM。此外,在其他SIM衍生出的显微镜技术中都适用。
本实施例的结构光照明显微镜的成像方法,可得到待成像样品随时间变化的超分辨图像序列,时间分辨率得到了极大的提高。
在本发明一个优选的实施例中,步骤S23具体包括图2中未示出的子步骤S231至S233。
S231、计算所述原始图像序列中每N张原始图像中混叠的各空间频谱分量,得到多个空间频谱分量组。
其中,所述N张原始图像由所述原始图像序列中的每张原始图像与其之后的N-1张原始图像组成。
每N张原始图像可计算得到一组空间频谱分量,如上一实施例所述,原始图像序列中可得到多个N张原始图像,因此,可得到多个空间频谱分量组。
每个空间频谱分量组中包含一些空间频率发生改变的空间频谱分量,也包含一些频率未改变的空间频谱分量。
S232、根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,得到空间频率还原的各空间频谱分量。
根据预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原到其本来的空间频率处,以正确的再现待成像样品。
S233、将每个空间频谱分量组中空间频率还原的各空间频谱分量与空间频率未改变的各空间频谱分量进行加权叠加,得到所述待成像样品的超分辨图像序列。
本实施例的结构光照明显微镜的成像方法,可以准确的得到待成像样品的超分辨图像序列,获取更精细的待测样品的变化过程,提高了结构光照明显微镜SIM的时间分辨率。
在本发明一个优选的实施例中,步骤S232具体包括图2中未示出的子步骤S2321至S2323:
S2321、根据所述预设的N张结构光照明图案的空间频率,确定每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率改变量。
在将空间频率改变的空间频谱分量的空间频率还原之前,要先确定空间频谱分量的空间频率改变量。
根据预设的N张结构光照明图案的空间频率,确定各空间频率改变量。
S2322、根据所述空间频率改变量,确定各空间频谱分量组中每个空间频率改变量在空间域内对应的指数函数。
不同的空间频率改变量对应不同的指数函数,根据空间频率改变量确定每个空间频谱分量对应的指数函数,才能正确的还原各空间频率改变的空间频谱分量。
S2323、在空间域内,将每个空间频谱分量组中空间频率改变的各空间频谱分量与自身的空间频率改变量对应的指数函数相乘,得到空间频率还原的各空间频谱分量。
将每个空间频谱分量组中空间频率改变的各空间频谱分量与自身的空间频率改变量对应的指数函数相乘,能够实现频率改变的空间频谱分量的空间频率的还原。
本实施例的结构光照明显微镜的成像方法,通过对各空间频谱分量的空间频率的还原,能够准确地得到各原始图像对应的超分辨图像。
在本发明一个优选的实施例中,步骤S22具体包括图2中未示出的以下步骤:
间隔预设时间拍摄待成像样品在每张结构光照明图案下的原始图像。
为尽可能保证重构结果在时间轴上是均匀的采样过程,重构每张超分辨图像所用的一组原始图像中,连续拍摄的两张原始图像的时间间隔,应基本一致。
可以理解的是上述时间间隔,为两张原始图像积分开始的时刻的间隔。
连续拍摄的两张原始图像的时间间隔相等时,可最大程度的接近待成像样品的真实情况,提高重构得到的超分辨图像的精确度。
如果连续拍摄的两张原始图像的时间间隔平均值为t,则其时间间隔最小要大于等于0.5t,其时间间隔最大要小于等于2t。
与现有的结构光照明显微镜的成像方法相比,本实施例的具体成像过程如图3所示。
拍摄得到的待成像样品的原始图像序列包括:原始图像1、原始图像2……原始图像n。
现有的结构光照明显微镜的成像方法,采用1-5张原始图像作为一组,6-10张原始图像作为另一组,每一组原始图像进行重构得到一张SIM超分辨图像。连续重构得到的每两张SIM超分辨图像之间的时间间隔是5t。
而本实施例的结构光照明显微镜的成像方法,采用1-5张原始图像作为一组,2-6张原始图像作为另一组,3-7张原始图像作为下一组,每一组原始图像进行重构得到一张SIM超分辨图像。连续重构得到的每两张SIM超分辨图像之间的时间间隔是t。与拍摄原始图像的时间间隔相等。
本实施例的结构光照明显微镜的成像方法,可有效缩短结构光照明显微镜的超分辨成像时间间隔,有效的提高了结构光照明显微镜成像的时间分辨率。
在本发明一个优选的实施例中,在步骤S231之后,上述方法还包括图2中未示出的以下步骤:
对每个空间频谱分量组中的各空间频谱分量进行反卷积,得到反卷积后的各空间频谱分量组。
为提升带成像样品的原始图像的对比度,可以在对原始图像进行图像重构之前、或是在图像重构的过程中加入反卷积的处理,补偿由成像过程中空间频率域内的高频信息衰减造成的原始图像对比度的下降。
SIM成像方法中常用的反卷积处理是维纳滤波:F(f)/(OTF+c),即将待成像样品的原始图像的空间频谱分量F(f)与光学传递函数OTF与常数c之和作商。其中光学传递函数OTF可以通过理论计算得到,可以通过实际测量得到,也可以使用相关反卷积软件迭代计算获得。其中c为一个经验常数,根据实际滤波效果可以调整。
迭代反卷积、盲解卷积等反卷积算法都可以应用于SIM成像方法。
相应地,步骤S232具体包括:
根据所述预设的N张结构光照明图案的空间频率,将每个反卷积后的空间频谱分量组中空间频率改变的各空间频率谱分量的空间频率还原。
本实施例的结构光照明显微镜的成像方法,可有效提高待成像样品的对比度。
在本发明一个优选的实施例中,在步骤S23之前,上述方法还包括图2中未示出的以下步骤:
对所述待成像样品在每张结构光照明图案下的原始图像进行降噪处理,得到降噪后的原始图像序列。
对原始图像进行降噪处理,可有效的提高原始图像的信噪比。
相应地,步骤S23具体包括:
将所述降噪后的原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构。
或在步骤S23之后,上述方法还包括:
对所述超分辨图像序列中的每张超分辨图像进行降噪,得到降噪后的超分辨图像序列。
本实施例的结构光照明显微镜的成像方法,通过对原始图像或重构得到的超分辨图像进行降噪,从而有效提高原始图像或超分辨图像的信噪比。
在本发明一个优选的实施例中,在步骤S23之前,上述方法还包括图2中未示出的以下步骤:
对所述原始图像序列中的每张原始图像进行图像内插处理,得到像素扩展的各原始图像。
有的时候图像的像素代表的实际尺寸过大,不足以表示超分辨重构之后的结果,因此采用图像内插处理。
本实施例的图像内插,是指采用插值法或其他类似的算法,扩展表示整幅图像所用的像素数,例如将N×N像素的图像插值得到(2N-1)×(2N-1)像素的图像。
相应地,步骤S13具体包括:
将所述原始图像序列中的每张像素扩展的原始图像与其之后的N-1张像素扩展的原始图像进行图像重构。
本实施例的结构光照明显微镜的成像方法,经过图像内插的处理,可以使得相邻像素所表示的实际尺寸更小,这样能够表现精细的重构结果。
在本发明一个优选的实施例中,在步骤S21之前,上述方法还包括图2中未示出的步骤S20:
S20、获取结构光照明显微镜成像的所述预设的N张结构光照明图案。
其中,所述结构光照明图案由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后投影成像得到;或由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后进行高通空间滤波并投影成像得到。
本实施例中,可采用空间光调制器SLM、数字微镜器件DMD和光栅中的任意一种器件,调制入射光的空间分布,通过直接投影成像或高通空间滤波处理之后再成像的方式得到预设的结构光照明图案。
本实施例的结构光照明显微镜的成像方法,可通过多种方式获得结构光照明图案,提高了此成像方法的普适性。
在本发明一个优选的实施例中,所述结构光照明图案在所述待成像样品所在的平面内,光强成周期性分布。
每张结构光照明图案可以含有一个或多个非零空间频率,其中单一非零空间频率的结构光照明图案通常为一系列平行的正弦曲线,具体如图4所示。多个非零空间频率的结构光照明图案通常为不同方向正弦条纹叠加或相乘的结果,具体如图5所示。
可以理解的是,在待成像样品的实际加载的结构光照明图案,其空间频谱中,每个空间频率处是有一定宽度的窄峰。
在本发明一个优选的实施例中,采用图1所示的结构光照明显微镜为例来说,光纤耦合输出激光器、准直器与扩束器组成光源模块1,得到准直的宽光束,并将其作为入射光。入射光按实际需求入射到光线调制器件2的表面,经光线调制器件2调制后得到结构光照明图案。透过光线调制器件2的出射光经过透镜3在二向色分束镜处8发生反射,并通过物镜9照明待成像样品10。
本实施例中,采用DMD作为入射光的调制器件。
本实施例中,透镜3的像方焦面与物镜9的后焦面重合,透镜3的物方焦面与DMD所在的平面重合,待成像样品10置于物镜前焦面上,DMD与待成像样品10所在的平面是共轭的,DMD上加载的图像可以经过投影成像在待成像样品10上,实现结构光的照明。
本实施例中,待成像样品10的成像光路为现有的显微镜光路,在此不赘述。
本实施例中,为保证成像速度,采用EMCCD作为探测器13。使用计算机同时控制DMD加载图像的切换以及EMCCD的探测,并实现后续的超分辨图像重构。
在本实施例的实施过程中,根据具体照明光强以及待成像样品的运动速度等信息选取EMCCD的拍摄积分时间以及拍摄间隔时间。
使用五张图4或图5所示的二维结构光照明图案,每拍摄一张图像,在x和y方向平移DMD加载的图像,以改变结构光的相位,各结构光照明图案在x和y方向的相位分别为(0,0),(π/5,π/5),(2π/5,2π/5),(3π/5,3π/5),(4π/5,4π/5)。
由于DMD切换时间在毫秒以下,其所消耗的时间可以忽略。成像的主要耗时为EMCCD拍摄的积分时间和原始图像之间拍摄的时间间隔。设每张原始图像积分的时间为20ms,积分结束以后,间隔10ms,切换DMD加载图案(结构光照明图案),开始采集下一张原始图像。经计算可知,采用现有的成像方法,每隔150ms,即每采集五张原始图像,才可获得一张SIM图像,而样品在这150ms内的运动过程是无法获知的。
采用本实施例的成像方法,每隔30ms,即每采集一张原始图像都可以进行一次图像重构,获得一张SIM超分辨图像,可以获取更短时间内待测样品的运动信息。
因此,本实施例的结构光照明显微镜的成像方法,与现有的成像方法相比,获得SIM图像的时间间隔明显缩短,显著提升了SIM成像的时间分辨率。
图6示出了本发明一实施例提供的结构光照明显微镜的成像装置的结构示意图。如图6所示,本实施例的结构光照明显微镜的成像装置包括:图案切换单元601、原始图像获取单元602和图像重构单元603。
图案切换单元601,用于按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;
原始图像获取单元602,用于获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;
图像重构单元603,用于将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
本实施例的结构光照明显微镜的成像装置,能够有效提高结构光照明显微镜的超分辨图像的时间分辨率。
本领域普通技术人员可以理解:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明权利要求所限定的范围。
Claims (10)
1.一种结构光照明显微镜的成像方法,其特征在于,包括:
按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;
获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;
将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
2.根据权利要求1所述的方法,其特征在于,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列,具体包括:
计算所述原始图像序列中每N张原始图像中混叠的各空间频谱分量,得到多个空间频谱分量组,所述N张原始图像由所述原始图像序列中的每张原始图像与其之后的N-1张原始图像组成;
根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,得到空间频率还原的各空间频谱分量;
将每个空间频谱分量组中空间频率还原的各空间频谱分量与空间频率未改变的各空间频谱分量进行加权叠加,得到所述待成像样品的超分辨图像序列。
3.根据权利要求2所述的方法,其特征在于,所述根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,得到空间频率还原的各空间频谱分量,具体包括:
根据所述预设的N张结构光照明图案的空间频率,确定每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率改变量;
根据所述空间频率改变量,确定各空间频谱分量组中每个空间频率改变量在空间域内对应的指数函数;
在空间域内,将每个空间频谱分量组中空间频率改变的各空间频谱分量与自身的空间频率改变量对应的指数函数相乘,得到空间频率还原的各空间频谱分量。
4.根据权利要求1所述的方法,其特征在于,所述获取待成像样品在每张结构光照明图案下的原始图像,具体包括:
间隔预设时间拍摄待成像样品在每张结构光照明图案下的原始图像。
5.根据权利要求2所述的方法,其特征在于,在计算所述原始图像序列中每N张原始图像中混叠的各空间频谱分量,得到多个空间频谱分量组之后,所述方法还包括:
对每个空间频谱分量组中的各空间频谱分量进行反卷积,得到反卷积后的各空间频谱分量组;
相应地,所述根据所述预设的N张结构光照明图案的空间频率,将每个空间频谱分量组中空间频率改变的各空间频谱分量的空间频率还原,具体包括:
根据所述预设的N张结构光照明图案的空间频率,将每个反卷积后的空间频谱分量组中空间频率改变的各空间频率谱分量的空间频率还原。
6.根据权利要求1所述的方法,其特征在于,在所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构之前,所述方法还包括:
对所述待成像样品在每张结构光照明图案下的原始图像进行降噪处理,得到降噪后的原始图像序列;
相应地,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,具体包括:
将所述降噪后的原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构;或
在所述得到所述待成像样品的超分辨图像序列之后,所述方法还包括:
对所述超分辨图像序列中的每张超分辨图像进行降噪,得到降噪后的超分辨图像序列。
7.根据权利要求1所述的方法,其特征在于,在所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构之前,所述方法还包括:
对所述原始图像序列中的每张原始图像进行图像内插处理,得到像素扩展的各原始图像;
相应地,所述将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,具体包括:
将所述每张像素扩展的原始图像与其之后的N-1张像素扩展的原始图像进行图像重构。
8.根据权利要求1所述的方法,其特征在于,按照预设顺序循环切换预设的N张结构光照明图案之前,所述方法还包括:
获取结构光照明显微镜成像的所述预设的N张结构光照明图案;
所述结构光照明图案由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后投影成像得到;或由所述结构光照明显微镜的照明光路中设置的光线调制器件对入射光进行调制后进行高通空间滤波并投影成像得到。
9.根据权利要求1至8任一项所述的方法,其特征在于,所述结构光照明图案包含一个或多个非零空间频率。
10.一种结构光照明显微镜的成像装置,其特征在于,包括:
图案切换单元,用于按照预设顺序循环切换预设的N张结构光照明图案,N为预设常数;
原始图像获取单元,用于获取待成像样品在每张结构光照明图案下的原始图像,得到所述待成像样品的原始图像序列;
图像重构单元,用于将所述原始图像序列中的每张原始图像与其之后的N-1张原始图像进行图像重构,得到所述待成像样品的超分辨图像序列。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610136330.2A CN105589188B (zh) | 2016-03-10 | 2016-03-10 | 一种结构光照明显微镜的成像方法及装置 |
PCT/CN2016/112637 WO2017152702A1 (zh) | 2016-03-10 | 2016-12-28 | 一种结构光照明显微镜的成像方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610136330.2A CN105589188B (zh) | 2016-03-10 | 2016-03-10 | 一种结构光照明显微镜的成像方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105589188A CN105589188A (zh) | 2016-05-18 |
CN105589188B true CN105589188B (zh) | 2018-01-16 |
Family
ID=55928890
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610136330.2A Expired - Fee Related CN105589188B (zh) | 2016-03-10 | 2016-03-10 | 一种结构光照明显微镜的成像方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN105589188B (zh) |
WO (1) | WO2017152702A1 (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105589188B (zh) * | 2016-03-10 | 2018-01-16 | 清华大学 | 一种结构光照明显微镜的成像方法及装置 |
CN106770095A (zh) * | 2016-11-30 | 2017-05-31 | 浙江大学 | 一种基于非线性光斑调制的超分辨显微成像方法和装置 |
CN108305213B (zh) * | 2017-01-13 | 2020-12-25 | 中国科学技术大学 | 图像重建方法、系统及结构照明显微镜 |
CN106770147B (zh) * | 2017-03-15 | 2019-07-19 | 北京大学 | 一种结构光照明超分辨显微成像方法 |
CN107180411B (zh) * | 2017-05-19 | 2021-05-18 | 中国科学院苏州生物医学工程技术研究所 | 一种图像重构方法及系统 |
CN109724951A (zh) * | 2017-10-27 | 2019-05-07 | 黄晓淳 | 一种动态超分辨荧光成像技术 |
CN108038824B (zh) * | 2017-12-11 | 2020-07-03 | 北京大学 | 一种基于结构光照明的荧光偶极子定向方法 |
CN109146790B (zh) * | 2018-08-27 | 2022-10-11 | 深圳大学 | 一种图像重构方法、装置、电子设备和存储介质 |
EP3734345B1 (en) | 2019-04-30 | 2023-08-02 | Leica Microsystems CMS GmbH | Image processing device, system, and method for improving signal-to-noise of microscopy images |
CN110223238B (zh) * | 2019-04-30 | 2021-04-27 | 北京理工大学 | 编码光照成像重构方法及装置 |
CN110308125B (zh) * | 2019-07-11 | 2020-11-03 | 清华大学 | 三维显微层析计算摄像方法及装置 |
CN111308682B (zh) * | 2019-11-18 | 2022-05-17 | 天津大学 | 基于结构光照明的超分辨重构方法 |
CN114341622A (zh) * | 2020-03-09 | 2022-04-12 | 深圳华大生命科学研究院 | 超分辨成像系统与方法、生物样品识别系统与方法、核酸测序成像系统与方法及核酸识别系统与方法 |
CN111458318B (zh) * | 2020-05-12 | 2021-06-22 | 西安交通大学 | 利用正方晶格结构光照明的超分辨成像方法及系统 |
CN112508791B (zh) * | 2020-12-18 | 2022-11-04 | 中国工程物理研究院激光聚变研究中心 | 一种初始相位提取方法、装置、电子设备及存储介质 |
CN116402678B (zh) * | 2022-12-19 | 2023-10-20 | 中国科学院苏州生物医学工程技术研究所 | 超分辨结构光照明显微镜的频谱优化直接重建方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101661159A (zh) * | 2008-08-25 | 2010-03-03 | 麦克奥迪实业集团有限公司 | 一种基于二维调制技术的切层图像获取方法 |
CN102540446A (zh) * | 2011-12-28 | 2012-07-04 | 中国科学院西安光学精密机械研究所 | 一种基于数字微镜器件的高速结构照明光学显微系统及方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102006044229B4 (de) * | 2006-09-20 | 2023-09-28 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zur Bildverarbeitung mit höheren Harmonischen eines Beleuchtungsgitters |
CN105589188B (zh) * | 2016-03-10 | 2018-01-16 | 清华大学 | 一种结构光照明显微镜的成像方法及装置 |
-
2016
- 2016-03-10 CN CN201610136330.2A patent/CN105589188B/zh not_active Expired - Fee Related
- 2016-12-28 WO PCT/CN2016/112637 patent/WO2017152702A1/zh active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101661159A (zh) * | 2008-08-25 | 2010-03-03 | 麦克奥迪实业集团有限公司 | 一种基于二维调制技术的切层图像获取方法 |
CN102540446A (zh) * | 2011-12-28 | 2012-07-04 | 中国科学院西安光学精密机械研究所 | 一种基于数字微镜器件的高速结构照明光学显微系统及方法 |
Non-Patent Citations (2)
Title |
---|
亚像元光谱图重建算法;杨怀栋等;《光谱学与光谱分析》;20091230;第29卷(第12期);3169-3172 * |
结构光照明荧光显微成像系统研究;吴美瑞;《中国科学院大学硕士学位论文》;20150515;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN105589188A (zh) | 2016-05-18 |
WO2017152702A1 (zh) | 2017-09-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105589188B (zh) | 一种结构光照明显微镜的成像方法及装置 | |
Wu et al. | Imaging biological tissue with high-throughput single-pixel compressive holography | |
US10606055B2 (en) | Aperture scanning Fourier ptychographic imaging | |
Chen et al. | Superresolution structured illumination microscopy reconstruction algorithms: a review | |
JP5738765B2 (ja) | 構造化照明を備えた顕微鏡法のための改良された方法および装置 | |
US11022731B2 (en) | Optical phase retrieval systems using color-multiplexed illumination | |
Zuo et al. | Programmable aperture microscopy: A computational method for multi-modal phase contrast and light field imaging | |
Cossairt et al. | When does computational imaging improve performance? | |
US11175489B2 (en) | Smart coded access optical sensor | |
US11368608B2 (en) | Compressed sensing based object imaging system and imaging method therefor | |
CN111855621A (zh) | 动态高速高灵敏度成像装置及成像方法 | |
EP2780755A2 (en) | Method and system for transmitting light | |
Rodríguez et al. | Dual-mode optical microscope based on single-pixel imaging | |
JP6770951B2 (ja) | 結果画像を生成する方法及び光学装置 | |
CN111077121A (zh) | 空域中直接重构结构光照明超分辨图像的快速方法及系统 | |
US12094081B2 (en) | Method for super-resolution evaluation of microscope images illuminated in a structured manner and microscope having structured illumination | |
RU2747129C1 (ru) | Способ и устройство для реконструкции изображения, а также устройство для формирования изображения в микроскопе | |
CN108665411A (zh) | 一种图像重建的方法和系统 | |
CN109712072A (zh) | 基于全内反射的条纹照明傅里叶域迭代更新超分辨显微成像方法 | |
JP2020190557A (ja) | 時間分解ハイパースペクトル単一画素撮像 | |
Heintzmann | Structured illumination methods | |
CN114967092B (zh) | 基于压缩感知的超高速结构光照明超分辨显微成像装置 | |
CN108469685A (zh) | 一种超分辨率关联成像系统及成像方法 | |
CN113534434B (zh) | 一种基于led阵列的光谱显微成像装置及其实现方法 | |
Hai et al. | Single viewpoint tomography using point spread functions of tilted pseudo-nondiffracting beams in interferenceless coded aperture correlation holography with nonlinear reconstruction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180116 Termination date: 20210310 |
|
CF01 | Termination of patent right due to non-payment of annual fee |