CN110487762A - 基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 - Google Patents
基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 Download PDFInfo
- Publication number
- CN110487762A CN110487762A CN201910803024.3A CN201910803024A CN110487762A CN 110487762 A CN110487762 A CN 110487762A CN 201910803024 A CN201910803024 A CN 201910803024A CN 110487762 A CN110487762 A CN 110487762A
- Authority
- CN
- China
- Prior art keywords
- bezier
- fluorescence signal
- resolution
- super
- laser beam
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 72
- 238000005286 illumination Methods 0.000 title claims abstract description 65
- 230000003287 optical effect Effects 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims abstract description 18
- 241001269238 Data Species 0.000 claims description 36
- 239000011159 matrix material Substances 0.000 claims description 14
- 230000003321 amplification Effects 0.000 claims description 12
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 12
- 238000001914 filtration Methods 0.000 claims description 5
- 239000004744 fabric Substances 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 claims description 2
- 230000005284 excitation Effects 0.000 abstract description 7
- 239000011324 bead Substances 0.000 description 7
- 239000003446 ligand Substances 0.000 description 6
- 150000003839 salts Chemical class 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000000737 periodic effect Effects 0.000 description 4
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 235000015170 shellfish Nutrition 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 241000276498 Pollachius virens Species 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000571 coke Substances 0.000 description 1
- 230000021615 conjugation Effects 0.000 description 1
- 238000007334 copolymerization reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000399 optical microscopy Methods 0.000 description 1
- 230000032696 parturition Effects 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2823—Imaging spectrometer
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/44—Raman spectrometry; Scattering spectrometry ; Fluorescence spectrometry
- G01J3/4406—Fluorescence spectrometry
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N2021/178—Methods for obtaining spatial resolution of the property being measured
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N2021/6417—Spectrofluorimetric devices
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Microscoopes, Condenser (AREA)
Abstract
本发明提供了基于多焦点光照明的超分辨贝塞尔显微成像装置及方法,所述装置包括:激光光源,扩束准直反射组件;根据导入的等间隔切换的照明模式激发样品面产生高斯分布的荧光信号的高斯荧光产生组件;将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,获得图像数据的贝塞尔荧光产生组件;对图像数据进行图像重构,获得超分辨率的样品二维信息图像的控制终端。本申请通过多个聚焦点同时激发样品,提高了显微成像装置的成像范围,减少样品采集时间,将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并对采集的贝塞尔分布荧光信号的图像数据进行图像重构,能够实现提高信噪比的同时实现大工作距离下超分辨成像。
Description
技术领域
本发明属于光学显微技术领域,尤其涉及的是基于多焦点光照明的超分辨贝塞尔显微成像装置及方法。
背景技术
激光扫描共聚焦显微镜是研究生物细微结构的有效技术手段,其在生物医学领域得到广泛应用。在共聚焦显微系统中,通过一对共轭的精密针孔和单聚焦点的剃刀扫描方式,使得系统可以抑制来自非聚焦面的杂散光,过滤掉焦平面以外的信息,获得很高的图像对比度。虽然共聚焦显微可以实现超分辨成像,其分辨率受到针孔大小的影响,针孔越小,分辨率越高,但是,能够采集到的信号光也越弱,直接导致提升分辨率的同时降低样品图像的信噪比。
图像扫描显微镜具有许多优点,可以提高分辨率的同时获得较高的信噪比,但是,分辨率只能在某个焦面得到提升,随着工作距离的增加,分辨率会有所下降,这样在探测厚样品时,就不能得到一致的分辨率。而宽场照明下贝塞尔显微系统能够实现大工作距离下超分辨的目标,但其由于贝塞尔斑旁瓣的原因信噪比较低。
因此,现有技术有待于进一步的改进。
发明内容
鉴于上述现有技术中的不足之处,本发明的目的在于提供基于多焦点光照明的超分辨贝塞尔显微成像装置及方法,克服现有技术中激光扫描共聚焦显微镜提升分辨率的同时会降低样品图像的信噪比,图像扫描显微镜不能得到一致的分辨率,而宽场照明下贝塞尔显微系统由于贝塞尔斑旁瓣的原因信噪比较低的缺陷。
本发明所公开的第一实施例为基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,包括:激光光源;
扩束准直反射组件,用于接收所述激光光源发出的激光光束,并对所述激光光束进行扩束准直并反射;
高斯荧光产生组件,用于接收所述扩束准直反射模块反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行投射,产生高斯分布的荧光信号;
贝塞尔荧光产生组件,用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;
控制终端,用于接收所述若干副图像数据,并对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述贝塞尔荧光产生组件包括:
第一透镜,用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号调制为平面波形式的荧光信号;
轴棱锥,用于接收所述平面波形式的荧光信号,将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号;
第二透镜,用于接收所述贝塞尔分布的荧光信号,将所述贝塞尔分布的荧光信号放大成像;
探测器,用于采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述第一透镜与所述高斯荧光产生组件成像面的距离为所述第一透镜的焦距。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述高斯荧光产生组件包括:
数字微镜元件,用于接收所述扩束准直反射模块反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行反射;
4f系统,用于接收所述数字微镜元件反射的激光光束,并对所述激光光束中的杂散光进行过滤;
透镜和物镜,用于接收滤除杂散光的激光光束,并对所述激光光束进行投射;
样品面,用于接收所述透镜和物镜投射的激光光束,以激发表面产生高斯分布的荧光信号。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述扩束准直反射组件包括:
第六透镜和第七透镜,用于接收激光光源发出的激光光束,并对所述激光光束进行扩束准直;
反射镜,用于接收扩束准直后的激光光束,并将所述扩束准直后的激光光束反射至所述数字微镜元件。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述数字微镜元件与所述探测器数据连接;当所述数字微镜元件切换照明模式时,所述探测器同步采集所述图像数据。
所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其中,所述数字微镜元件接收到的所述激光光束的入射角与水平面的夹角为24°。
一种基于多焦点光照明的超分辨贝塞尔显微成像方法,其中,所述方法包括:
产生激光光束,并对所述激光光束进行扩束准直并反射;
根据导入的等间隔切换的照明模式对所述扩束准直并反射后的激光光束进行投射,产生高斯分布的荧光信号;
将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;
对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像。
所述的基于多焦点光照明的超分辨贝塞尔显微成像方法,其中,所述将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据的步骤具体包括:
将所述高斯分布的荧光信号调制为平面波形式的荧光信号;
将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号;
将所述贝塞尔分布的荧光信号放大成像;
采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据。
所述的基于多焦点光照明的超分辨贝塞尔显微成像方法,其中,所述对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像的步骤包括:
根据所述图像数据尺寸生成预设倍数尺寸的零矩阵I0;
读取所述图像数据中的第n幅图,对所述第n幅图中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据;
对所述亚区域的贝塞尔点进行高斯拟合,生成中心位置与贝塞尔点相同的高斯分布的数字针孔;
对针孔后的贝塞尔点进行反卷积,使其转换为高斯点,并对反卷积之后的高斯点进行定位,计算其在In上的坐标位置(x,y),将高斯点的强度分布复制到I0的(ax,ay)位置上,其中a为预设倍数;
读取图像数据中的第n+1幅图并进行亚区域截取以及数据处理,直到所有图像数据处理完成,将I0的图像尺寸缩小为1/a得到超分辨率的样品二维信息图像。
有益效果,本发明提供了基于多焦点光照明的超分辨贝塞尔显微成像装置及方法,通过多个聚焦点同时激发样品,提高了显微成像装置的成像范围,减少样品采集时间,通过贝塞尔荧光产生组件将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并通过控制终端对采集到的贝塞尔分布的荧光信号的图像数据进行图像重构,能够实现提高信噪比的同时实现大工作距离下超分辨成像,空间横向分辨率相比宽场显微成像分辨率高。
附图说明
图1是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置的结构示意图;
图2a是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置中照明模式的原理图;
图2b是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置中样品面被激发产生的高斯分布荧光信号的点阵图;
图2c是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置中产生的贝塞尔分布荧光信号的点阵图;
图3a和图3b是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置中有贝塞尔荧光产生组件和没有贝塞尔荧光产生组件的200nm荧光珠图像;
图3c和图3d是本发明图3a和图3b中标记的荧光珠的高斯拟合曲线;
图4是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像装置获取的若干点阵图像数据;
图5a和图5b是本发明图4获取的若干点阵图像进行图像重构的高斯滤波图像集像素重定位图像;
图6是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像方法较佳实施例流程图;
图7是本发明所提供的基于多焦点光照明的超分辨贝塞尔显微成像方法具体实施例流程图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
由于现有技术中激光扫描共聚焦显微镜提升分辨率的同时会降低样品图像的信噪比,图像扫描显微镜不能得到一致的分辨率,而宽场照明下贝塞尔显微系统由于贝塞尔斑旁瓣的原因信噪比较低。为了解决上述问题,本发明提供了基于多焦点光照明的超分辨贝塞尔显微成像装置及方法,如图1所示。本发明的装置包括:激光光源10;用于接收所述激光光源10发出的激光光束,并对所述激光光束进行扩束准直并反射的扩束准直反射组件20;用于接收所述扩束准直反射组件20反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行投射,产生高斯分布的荧光信号的高斯荧光产生组件30;用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据的贝塞尔荧光产生组件40;以及用于接收所述若干副图像数据,并对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像的控制终端50。本发明通过多个聚焦点同时激发样品,提高了图像扫描显微系统的成像范围,减少样品采集时间,通过贝塞尔荧光产生组件40将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并通过控制终端50对采集到的贝塞尔分布的荧光信号的图像数据进行图像重构,可以实现大工作距离下厚样品二维的高分辨率快速成像,空间横向分辨率相比宽场显微成像分辨率高。
在一具体实施方式中,所述贝塞尔荧光产生组件40包括:用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号调制为平面波形式的荧光信号的第一透镜41;用于接收所述平面波形式的荧光信号,将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号的轴棱锥42;用于接收所述贝塞尔分布的荧光信号,将所述贝塞尔分布的荧光信号放大成像的第二透镜43;用于采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据的探测器44。如图3a、图3b、图3c和图3d所示,为本发明装置中有贝塞尔荧光产生组件40与没有贝塞尔荧光产生组件40的200nm荧光珠图像,经荧光珠的平均计算比较,有贝塞尔荧光产生组件40相较于没有贝塞尔荧光产生组件40,半高宽约减少0.5个像素,分辨率约提高了50nm左右。
具体实施例中,高斯荧光产生组件30产生的高斯荧光信号经过第一透镜41透射后,将所述高斯分布的荧光信号调制为平面波形式。与所述第一透镜41相邻设置有轴棱锥42,平面波形式形式的荧光信号经过轴棱锥42后将产生一个无衍射区,无衍射区域的光束是自由空间标量波动方程的一组特解,即无衍射区域内的光束是贝塞尔光束,其在垂直传输方向的截面上光强分布呈现为一个中心亮斑和诸多同心圆环,光强由内及外递减,并且光强分布不随传输距离发生变化,因此可以实现长工作距离下厚样品的高分辨率成像。随后第一透镜41和轴棱锥42产生的贝塞尔尔分布的荧光信号经过第二透镜43放大后,由探测器44采集放大后的贝塞尔分布的荧光信号获得若干副图像数据,如图4所示。本发明的装置因轴棱锥42后会有一个无衍射后有一个无衍射距离,在无衍射距离内成像,分辨率不会下降,克服了现有图像扫描显微镜不能得到一致的分辨率的问题。且仅通过轴棱锥和若干透镜就可以实现大工作距离及高分辨率,装置简单,操作方便。
在一具体实施方式中,所述高斯荧光产生组件30包括:用于接收所述扩束准直反射组件20反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行反射的数字微镜元件31;用于接收所述数字微镜元件31反射的激光光束,并对所述激光光束中的杂散光进行过滤的4f系统32;用于接收滤除杂散光的激光光束,并对所述激光光束进行投射的第三透镜33和物镜34;用于接收所述透镜33和物镜34投射的激光光束,以激发表面产生高斯分布的荧光信号的样品面35。
具体实施时,本实施例中所述数字微镜元件31接收扩束准直反射组件20反射的激光光束,所述数字微镜元件31接收到的激光光束的入射角与水平面的夹角为24°,按照这一特定角度入射,出射光才能够恰好垂直于数字微镜元件31面射出,获得最佳的效果,错误的入射角度会导致最终激发模式产生畸变。所述数字微镜元件31还与控制终端50数据连接,所述控制终端50用于将一系列照明模式导入数字微镜元件31的内存中,数字微镜元件31按照载入图片的顺序切换显示模式将激光光束投射到4f系统32上,随后激光光束依次经过第三透镜33和物镜34后,投射到样品面35上使得样品面35上产生周期性排列的点阵,并随着模式切换进行移动,当所有预加载的照明模式切换一遍后,所述样品面35上的样品被全部激发,从而产生高斯分布的荧光信号。本发明的照明模式如图2a所示,所述照明模式为一系列的黑白点阵图像,黑色方块代表像素,当数字微镜元件31开始按照载入图片的顺序切换显示模式时,像素的位置会随箭头的轨迹进行变化,每次位移一个像素并等间隔切换,使样品面35上产生周期性排列的点阵图像如图2b所示,经过贝塞尔荧光产生组件40后的点阵图像如图2c所示。通过预先加载的照明模式激发样品,提高了图像扫描显微系统的成像范围,减少样品采集时间。
具体实施时,所述4f系统32包括第四透镜321、光阑322和第五透镜323。数字微镜元件31位于第四透镜321前焦面的位置,光阑322位于第四透镜321的后焦平面位置,用来遮挡多余衍射级的反射光,第四透镜321的后焦面与第五透镜323前焦面重合。第五透镜323的后焦面与第三透镜33的前焦面重合。
具体实施时,所述高斯荧光产生组件30还包括管镜37和双色片36。数字微镜元件31反射的激光光束通过4f系统成像在第五透镜323的后焦面上,通过第三透镜33和物镜34成像在样品面35上,样品面35被调制后的光激发后,产生周期性点阵排列的荧光信号通过物镜34和管镜37进一步放大后成像。所述第一透镜41与所述高斯荧光产生组件30成像面的距离为所述第一透镜41的焦距,以便于后续步骤中第一透镜41将高斯分布的荧光信号调制为平面波形式。
具体实施时,数字微镜元件31是等间隔切换照明模式,为了使探测器44能够精确采集数字微镜元件31切换照明模式时的每一副图像数据,本实施例中所述数字微镜元件31与所述探测器44数据连接,数字微镜元件31切换照明模式时,会向探测器44发出触发信号,探测器44在接收到触发信号后同步对图像数据进行采集,获得一系列的图像数据I1,I2…In,如图4所示,此时n=418。
具体实施时,探测器44采集到的是激光光束激发样品表面获得的若干张图像数据,还需要进一步对获得的图像数据进行图像重构,获得超分辨率的样品二维信息图像。本实施例中控制终端50与探测器44数据连接,探测器44将获取到的若干张图像数据传输至控制终端50进行图像重构。具体地,控制终端50根据采集到的图像数据尺寸通过bilinear插值的方法生成预定倍数的矩阵I0;然后对图像数据In进行去噪,对图像数据In中的所有的贝塞尔点进行定位并截取,获得一系列亚区域图像数据S1,S2…Sn;对亚区域Sn中的贝塞尔点进行高斯拟合,生成针孔后的贝塞尔点;对针孔后的贝塞尔点进行反卷积,将针孔后的贝塞尔点转换成高斯点,如图5a所示为图4的点阵图像重构的高斯滤波图像;对反卷积后的高斯点进行定位,确定其在In上的位置坐标(x,y),并将反卷积后的高斯点的强度分布复制到I0的(ax,ay)位置上,如图5b为图4的点阵图像重构时的像素重定位图像;之后重复上述过程,继续读取图像数据中的第n+1幅图并进行亚区域截取以及数据处理,直到所有图像数据处理完成,将I0的图像尺寸缩小为1/a得到超分辨率的样品二维信息图像。本发明通过控制终端50对获取到的图像数据进行重构,能够实现提高信噪比的同时实现大工作距离下超分辨成像。
在一具体实施方式中,所述扩束准直反射组件20包括:第六透镜21、第七透镜22和反射镜23。其中第六透镜21的后焦面与第七透镜22的前焦面重合。第六透镜21和第七透镜22对激光光源10发出的激光光束进行扩束准直后,激光光束入射至反射镜23,反射镜23将光线以一定角度传至数字微镜元件31的正中心。优选地,本实施例中反射镜23以与水平面呈-24°照射到数字微镜元件31上。
此外,本发明还提供了一种上述基于多焦点光照明的超分辨贝塞尔显微成像装置的成像方法,如图6所示,其包括以下步骤:
S1、产生激光光束,并对所述激光光束进行扩束准直并反射;
S2、根据导入的等间隔切换的照明模式对所述扩束准直并反射后的激光光束进行投射,产生高斯分布的荧光信号;
S3、将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;
S4、对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像。
具体实施时,激光光源产生的激光光束经过第六透镜和第七透镜扩束准直后,由反射镜以与水平面呈-24°照射到数字微镜元件上。激光光束经过数字微镜元件反射后,进入4f系统中被傅里叶面上的光阑滤掉多余衍射级的光,再由透镜和物镜投射到样品面上。由于数字微镜元件的内存中预先存储了一系列照明模式,当数字微镜元件按照载入的图像等间隔切换照明模式时,样品面上产生周期性排列的点阵并随着照明模式进行切换,当所有预加载的照明模式切换一遍后,样品面被全部激发,产生高斯分布的荧光信号。进一步将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;对采集到的图像数据进行图像重构,即获得超分辨率的样品二维信息图像。
在一具体实施方式中,所述步骤S3具体包括步骤:
S31、将所述高斯分布的荧光信号调制为平面波形式的荧光信号;
S32、将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号;
S33、将所述贝塞尔分布的荧光信号放大成像;
S34、采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据。
具体实施时,本实施例中,高斯分布的荧光信号经过第一透镜后,将高斯分布的荧光信号调制为平面波形式的荧光信号;平面波形式的荧光信号入射到轴棱锥后产生无衍射区域,无衍射区域内的光束就是贝塞尔光束,且其在垂直传输方向的截面上光强分布呈现为一个中心亮斑和诸多同心圆环,光强由内及外递减,并且光强分布不随传输距离发生变化。随后第二透镜接收贝塞尔分布的荧光信号,将贝塞尔分布的荧光信号放大成像,并由探测器采集放大成像后的贝塞尔分布的荧光信号获得若干副图像数据I1,I2…In。
在一具体实施方式中,所述步骤S4具体包括步骤:
S41、根据所述图像数据尺寸生成预设倍数尺寸的零矩阵I0;
S42、读取所述图像数据中的第n幅图,对所述第n幅图中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据;
S43、对所述亚区域的贝塞尔点进行高斯拟合,生成中心位置与贝塞尔点相同的高斯分布的数字针孔;
S44、对针孔后的贝塞尔点进行反卷积,使其转换为高斯点,并对反卷积之后的高斯点进行定位,计算其在In上的坐标位置(x,y),将高斯点的强度分布复制到I0的(ax,ay)位置上,其中a为预设倍数;
S45、读取图像数据中的第n+1幅图并进行亚区域截取以及数据处理,直到所有图像数据处理完成,将I0的图像尺寸缩小为1/a得到超分辨率的样品二维信息图像。
本实施例中探测器与控制终端连接,探测器采集到若干副图像数据后,将若干副图像数据传输至控制终端。控制终端接收若干副图像数据,根据采集到的所述图像数据尺寸,通过bilinear插值法生成预设倍数尺寸的零矩阵I0,从而增加每个荧光点所占的像素个数,提高中心位置的定位精度。本实施例中预定倍数可以根据用户需要进行设定,例如2倍、3倍或者n倍,但生产倍数越高,控制终端程序运算时间越长,内存需求越高,优选地,本实施例中预定倍数为2倍。
具体实施时,本实施例中生成预定倍数矩阵I0后,进一步对前述步骤中获得的若干副图像数据中的所有贝塞尔点进行定位并截取出来。因为每个荧光点在图像中的相应位置是一个类高斯的分布,其激发点的中心为该区域的极大值,在定位时,寻找图像数据中的区域极大值的位置即可对贝塞尔点进行定位。然后根据定位出的贝塞尔点坐标,将原始数据中荧光点周围的灰度值截取出来,获得一系列亚区域数据S1,S2…Sn。
进一步地,本实施例中在获取到一系列亚区域数据后,对亚区域Sn中的贝塞尔点进行高斯拟合。高斯拟合的具体步骤为:找到亚区域Sn中的极大值点的位置,作为高斯拟合时高斯点的粗略坐标;然后使用粗略的坐标作为最小二乘法的初始值,并根据点的大小选取一个合适的标准差范围作为标准差的上下界,对贝塞尔点进行拟合,得到贝塞尔点的j个强度峰的坐标(xn,1,yn,1),(xn,2,yn,2),(xn,3,yn,3),…,(xn,j,yn,j)。根据公式 生成高斯分布的数字针孔并与贝塞尔点相乘,因为高斯分布的数字针孔能够代替传统的光学针孔,相乘时可以将激发的贝塞尔点周围多余的荧光强度滤除掉。其中c是高斯针孔的标准差,需要根据系统的参数来设定。如本发明中,采用100nm的荧光珠来测系统的点扩散函数,通过荧光珠的实验数据,测出点扩散函数的半高全宽(FWHM),而标准差c=FWHM/2.35。
具体实施时,在获得针孔后的贝塞尔点后,通过Richardson-Lucy反卷积算法对针孔后的贝塞尔点进行反卷积操作,所述反卷积操作借助现有软件ImageJ自带的软件包进行操作,反卷积使用的点函数为理论点扩散函数,其中高斯点的半高宽和距离可以通过对100nm的荧光珠宽场成像并相位调制获得。针孔后的贝塞尔点进行反卷积后转换为高斯点,对反卷积后的高斯点进行定位,定位方法与前述步骤中提到的贝塞尔点的定位方法相同,在此不做赘述。通过对反卷积后的高斯点进行定位,确定其在In上的位置坐标(x,y),将高斯点的强度分布复制到I0的(ax,ay)位置上;之后重复上述过程,继续读取图像数据中的第n+1幅图并进行亚区域截取以及数据处理,直到所有图像数据处理完成,将I0的图像尺寸缩小为1/a得到超分辨率的样品二维信息图像。本申请通过多个聚焦点同时激发样品,提高了图像扫描显微系统的成像范围,减少样品采集时间,并且通过轴棱锥和若干透镜对样品发出的荧光信号,可实现长工作距离及高分辨率,装置简单,操作方便。
为了更好地理解本发明的技术,本发明还提供一种具体的应用实施例,如图7中所示,具体包括如下步骤:
步骤701、生成尺寸为采集数据的二倍的零矩阵T0;
步骤702、读取采集到的图像堆栈中的第n幅图Tn,进行去噪处理;
步骤703、对Tn中的贝塞尔点进行定位,并将这些点从图像Tn中截取出来,获得一系列亚区域图像数据;
步骤704、通过高斯拟合获得亚区域中贝塞尔点峰值的精确位置,并附上高斯分布数字针孔进行滤波;
步骤705、使用RL算法对附加针孔后的贝塞尔点进行反卷积,将其变为普通的高斯点;
步骤706、计算反卷积后的高斯点在Tn中的位置坐标,将高斯点的强度分布复制到T0的(2*x,2*y)的位置上;
步骤707、判断采集到的图像数据是否处理完毕,若是,则执行步骤708;若否,则执行步骤709;
步骤708、将T0的图像尺寸缩小到原来的二分之一,得到超分辨率的样品二维信息图像;
步骤709、将n+1,并重复执行步骤702~707。
综上所述,本发明提供了基于多焦点光照明的超分辨贝塞尔显微成像装置及方法,所述装置包括:激光光源;对激光光束进行扩束准直并反射的扩束准直反射组件;根据导入的等间隔切换的照明模式对样品面进行激发产生高斯分布的荧光信号的高斯荧光产生组件;将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,获得图像数据的贝塞尔荧光产生组件;对图像数据进行图像重构,获得超分辨率的样品二维信息图像的控制终端。本申请通过多个聚焦点同时激发样品,提高了显微成像装置的成像范围,减少样品采集时间,通过贝塞尔荧光产生组件将高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并通过控制终端对采集到的贝塞尔分布的荧光信号的图像数据进行图像重构,能够实现提高信噪比的同时实现大工作距离下超分辨成像。
应当理解的是,本发明的系统应用不限于上述的举例,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,所有这些改进和变换都应属于本发明所附权利要求的保护范围。
Claims (10)
1.基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,包括:激光光源;
扩束准直反射组件,用于接收所述激光光源发出的激光光束,并对所述激光光束进行扩束准直并反射;
高斯荧光产生组件,用于接收所述扩束准直反射模块反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行投射,产生高斯分布的荧光信号;
贝塞尔荧光产生组件,用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;
控制终端,用于接收所述若干副图像数据,并对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像。
2.根据权利要求1所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述贝塞尔荧光产生组件包括:
第一透镜,用于接收所述高斯分布的荧光信号,将所述高斯分布的荧光信号调制为平面波形式的荧光信号;
轴棱锥,用于接收所述平面波形式的荧光信号,将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号;
第二透镜,用于接收所述贝塞尔分布的荧光信号,将所述贝塞尔分布的荧光信号放大成像;
探测器,用于采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据。
3.根据权利要求2所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述第一透镜与所述高斯荧光产生组件成像面的距离为所述第一透镜的焦距。
4.根据权利要求2所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述高斯荧光产生组件包括:
数字微镜元件,用于接收所述扩束准直反射模块反射的激光光束,并根据导入的等间隔切换的照明模式对所述激光光束进行反射;
4f系统,用于接收所述数字微镜元件反射的激光光束,并对所述激光光束中的杂散光进行过滤;
透镜和物镜,用于接收滤除杂散光的激光光束,并对所述激光光束进行投射;
样品面,用于接收所述透镜和物镜投射的激光光束,以激发表面产生高斯分布的荧光信号。
5.根据权利要求4所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述扩束准直反射组件包括:
第六透镜和第七透镜,用于接收激光光源发出的激光光束,并对所述激光光束进行扩束准直;
反射镜,用于接收扩束准直后的激光光束,并将所述扩束准直后的激光光束反射至所述数字微镜元件。
6.根据权利要求4所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述数字微镜元件与所述探测器数据连接;当所述数字微镜元件切换照明模式时,所述探测器同步采集所述图像数据。
7.根据权利要求4所述的基于多焦点光照明的超分辨贝塞尔显微成像装置,其特征在于,所述数字微镜元件接收到的所述激光光束的入射角与水平面的夹角为24°。
8.一种基于多焦点光照明的超分辨贝塞尔显微成像方法,其特征在于,所述方法包括:
产生激光光束,并对所述激光光束进行扩束准直并反射;
根据导入的等间隔切换的照明模式对所述扩束准直并反射后的激光光束进行投射,产生高斯分布的荧光信号;
将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据;
对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像。
9.根据权利要求8所述的基于多焦点光照明的超分辨贝塞尔显微成像方法,其特征在于,所述将所述高斯分布的荧光信号转换为贝塞尔分布的荧光信号,并采集所述贝塞尔分布的荧光信号获得若干副图像数据的步骤具体包括:
将所述高斯分布的荧光信号调制为平面波形式的荧光信号;
将所述平面波形式的荧光信号转换为贝塞尔分布的荧光信号;
将所述贝塞尔分布的荧光信号放大成像;
采集放大成像后的所述贝塞尔分布的荧光信号获得若干副图像数据。
10.根据权利要求8所述的基于多焦点光照明的超分辨贝塞尔显微成像方法,其特征在于,所述对所述若干副图像数据中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据,对所述亚区域进行图像重构,获得超分辨率的样品二维信息图像的步骤包括:
根据所述图像数据尺寸生成预设倍数尺寸的零矩阵I0;
读取所述图像数据中的第n幅图,对所述第n幅图中的贝塞尔点进行定位并截取,获得若干个亚区域图像数据;
对所述亚区域的贝塞尔点进行高斯拟合,生成中心位置与贝塞尔点相同的高斯分布的数字针孔;
对针孔后的贝塞尔点进行反卷积,使其转换为高斯点,并对反卷积之后的高斯点进行定位,计算其在In上的坐标位置(x,y),将高斯点的强度分布复制到I0的(ax,ay)位置上,其中a为预设倍数;
读取图像数据中的第n+1幅图并进行亚区域截取以及数据处理,直到所有图像数据处理完成,将I0的图像尺寸缩小为1/a得到超分辨率的样品二维信息图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910803024.3A CN110487762B (zh) | 2019-08-28 | 2019-08-28 | 基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910803024.3A CN110487762B (zh) | 2019-08-28 | 2019-08-28 | 基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110487762A true CN110487762A (zh) | 2019-11-22 |
CN110487762B CN110487762B (zh) | 2022-05-10 |
Family
ID=68554809
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910803024.3A Active CN110487762B (zh) | 2019-08-28 | 2019-08-28 | 基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110487762B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110967823A (zh) * | 2019-12-16 | 2020-04-07 | 北京仿真中心 | 数字微镜阵列dmd扩束装置 |
CN111307772A (zh) * | 2020-03-12 | 2020-06-19 | 北京大学 | 基于微镜阵列的单物镜光片荧光显微成像装置及方法 |
CN112453960A (zh) * | 2020-11-24 | 2021-03-09 | 中国石油天然气集团有限公司 | 一种控制大型金属箱体式工件底面加工平面度的方法 |
CN112557359A (zh) * | 2020-11-30 | 2021-03-26 | 深圳大学 | 基于空间光调制器的双光子多焦点显微成像系统及方法 |
CN113625439A (zh) * | 2021-08-16 | 2021-11-09 | 深圳大学 | 平场照明的数字扫描结构光超分辨显微成像系统及方法 |
CN113670865A (zh) * | 2020-05-13 | 2021-11-19 | 深圳华大智造科技有限公司 | 分辨率板、分辨率评估方法及相关设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105182523A (zh) * | 2015-09-23 | 2015-12-23 | 北京大学 | 一种基于一阶贝塞尔光束的sted超分辨显微镜及调节方法 |
CN107329275A (zh) * | 2017-08-30 | 2017-11-07 | 苏州大学 | 一种产生高质量准贝塞尔阵列光束的方法及系统 |
CN108303402A (zh) * | 2017-12-26 | 2018-07-20 | 华中科技大学 | 一种大视场无衍射贝塞尔光片显微扫描成像方法及系统 |
CN108982452A (zh) * | 2018-07-26 | 2018-12-11 | 深圳大学 | 基于双螺旋点扩散函数的多焦点扫描三维成像方法及系统 |
-
2019
- 2019-08-28 CN CN201910803024.3A patent/CN110487762B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105182523A (zh) * | 2015-09-23 | 2015-12-23 | 北京大学 | 一种基于一阶贝塞尔光束的sted超分辨显微镜及调节方法 |
US20180246308A1 (en) * | 2015-09-23 | 2018-08-30 | Peking University | STED super-resolution microscope and adjusting method based on a first-order Bessel beam |
CN107329275A (zh) * | 2017-08-30 | 2017-11-07 | 苏州大学 | 一种产生高质量准贝塞尔阵列光束的方法及系统 |
CN108303402A (zh) * | 2017-12-26 | 2018-07-20 | 华中科技大学 | 一种大视场无衍射贝塞尔光片显微扫描成像方法及系统 |
CN108982452A (zh) * | 2018-07-26 | 2018-12-11 | 深圳大学 | 基于双螺旋点扩散函数的多焦点扫描三维成像方法及系统 |
Non-Patent Citations (2)
Title |
---|
LOUIS THIBON ET AL: "Resolution enhancement in confocal microscopy using Bessel-Gauss beams", 《OPTICS EXPRESS》 * |
WENTAO YU ET AL: "Super-resolution Deep Imaging with Gauss-Bessel STED Microscopy", 《LASER & ELECTRO-OPTICS》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110967823A (zh) * | 2019-12-16 | 2020-04-07 | 北京仿真中心 | 数字微镜阵列dmd扩束装置 |
CN110967823B (zh) * | 2019-12-16 | 2022-03-04 | 北京仿真中心 | 数字微镜阵列dmd扩束装置 |
CN111307772A (zh) * | 2020-03-12 | 2020-06-19 | 北京大学 | 基于微镜阵列的单物镜光片荧光显微成像装置及方法 |
CN113670865A (zh) * | 2020-05-13 | 2021-11-19 | 深圳华大智造科技有限公司 | 分辨率板、分辨率评估方法及相关设备 |
CN113670865B (zh) * | 2020-05-13 | 2024-05-10 | 深圳华大智造科技股份有限公司 | 分辨率板、分辨率评估方法及相关设备 |
CN112453960A (zh) * | 2020-11-24 | 2021-03-09 | 中国石油天然气集团有限公司 | 一种控制大型金属箱体式工件底面加工平面度的方法 |
CN112453960B (zh) * | 2020-11-24 | 2024-04-30 | 中国石油天然气集团有限公司 | 一种控制大型金属箱体式工件底面加工平面度的方法 |
CN112557359A (zh) * | 2020-11-30 | 2021-03-26 | 深圳大学 | 基于空间光调制器的双光子多焦点显微成像系统及方法 |
CN112557359B (zh) * | 2020-11-30 | 2023-06-06 | 深圳大学 | 基于空间光调制器的双光子多焦点显微成像系统及方法 |
CN113625439A (zh) * | 2021-08-16 | 2021-11-09 | 深圳大学 | 平场照明的数字扫描结构光超分辨显微成像系统及方法 |
CN113625439B (zh) * | 2021-08-16 | 2023-06-06 | 深圳大学 | 平场照明的数字扫描结构光超分辨显微成像系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110487762B (zh) | 2022-05-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110487762A (zh) | 基于多焦点光照明的超分辨贝塞尔显微成像装置及方法 | |
US10606055B2 (en) | Aperture scanning Fourier ptychographic imaging | |
CN108982452B (zh) | 基于双螺旋点扩散函数的多焦点扫描三维成像方法及系统 | |
US8730573B2 (en) | Adaptive optics microscopy with phase control of beamlets of a light beam | |
US6909105B1 (en) | Method and device for representing an object | |
CN101793829B (zh) | 一种荧光显微成像方法及系统 | |
US9279972B2 (en) | Spatial frequency swept interference illumination | |
US20150264250A1 (en) | Free orientation fourier camera | |
CN112557359B (zh) | 基于空间光调制器的双光子多焦点显微成像系统及方法 | |
CN109477954A (zh) | 具有相位调制元件的scape显微术和图像重构 | |
CN111971606B (zh) | 具有高空间分辨率的时间分辨成像方法 | |
CN108181235B (zh) | 一种基于均匀结构光照明的sted并行显微成像系统 | |
CN108121059B (zh) | 一种基于结构光照明的sted并行显微成像系统 | |
CN111024659B (zh) | 一种基于并行探测的多图像重建显微成像方法和装置 | |
US10746657B2 (en) | Method for accelerated high-resolution scanning microscopy | |
WO2019076192A1 (zh) | 图像重建方法、装置及显微成像装置 | |
US11686933B2 (en) | Imaging via diffuser modulation by translating a sample | |
JP3837495B2 (ja) | 光イメージングシステム | |
CA3065917A1 (en) | Super-resolution line scanning confocal microscopy with pupil filtering | |
CN110567959B (zh) | 一种自适应像差校正图像扫描显微成像方法 | |
CN109358004B (zh) | 双波长差分非标记显微成像的方法和装置 | |
CA3035876A1 (en) | Line scan photon reassignment microscopy systems | |
CN113433681B (zh) | 结构光照明显微成像系统、方法 | |
US11156818B2 (en) | Flexible light sheet generation by field synthesis | |
CN220626208U (zh) | 一种寻址扫描超分辨显微成像系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |