CN104181686A - 基于fpm的光场显微方法 - Google Patents

基于fpm的光场显微方法 Download PDF

Info

Publication number
CN104181686A
CN104181686A CN201410421367.0A CN201410421367A CN104181686A CN 104181686 A CN104181686 A CN 104181686A CN 201410421367 A CN201410421367 A CN 201410421367A CN 104181686 A CN104181686 A CN 104181686A
Authority
CN
China
Prior art keywords
light field
fpm
image
lenticule
led
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410421367.0A
Other languages
English (en)
Other versions
CN104181686B (zh
Inventor
张永兵
蒋伟鑫
戴琼海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen International Graduate School of Tsinghua University
Original Assignee
Shenzhen Graduate School Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Graduate School Tsinghua University filed Critical Shenzhen Graduate School Tsinghua University
Priority to CN201410421367.0A priority Critical patent/CN104181686B/zh
Publication of CN104181686A publication Critical patent/CN104181686A/zh
Application granted granted Critical
Publication of CN104181686B publication Critical patent/CN104181686B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

一种基于FPM的光场显微方法,包括以下步骤:搭建基于FPM的光场显微平台;用基于FPM的光场显微平台采集高分辨率广视野的图像;对得到的高分辨率广视野图像进行视角分离;利用视角分离的结果重聚焦获得想要得到的结果。本发明使用基于FPM算法的光场显微镜来采集光场信息,提高了光场显微镜中每一个微透镜成像的分辨率,提高了角度分辨率,从而丰富了采集到的光场信息,使得物体能重建更好的三维结构。

Description

基于FPM的光场显微方法
技术领域
本发明属于显微成像、计算机视觉、计算机图形学领域,尤其是立体图形学领域,特别涉及利用FPM算法捕获重建显微光场的技术。
技术背景
Fourier ptychographic microscopy(FPM)是一种基于显微镜平台的图像超分辨率重建的方法,可以有效克服空间带宽积(space bandwidth product)受限的矛盾问题。常见的光学成像平台都会受到空间带宽积的限制,即如果我们观察的视野范围比较广,那么观测物体的放大倍数就会偏小;反之,如果我们观测物体的放大倍数比较大,那么视野的范围就会缩小。而FPM算法很好地解决了这一问题,让我们能够获取广视野、高分辨率的图像,由此,突破了光学成像系统的物理极限。
随着光学和计算摄像学的发展,人们已经不能满足只记录图像的强度信息,因此,基于全光函数的思想,人们设计出可以捕获包含入射光强度和角度信息的光场相机。基于这种光场相机,人们设计了光场显微镜用以捕获显微镜下的光场信息。光场显微镜的出现为物体的三维结构重建提供了新的思路。
发明内容
本发明的目的在于提供一种基于FPM的光场显微方法。
本发明基于FPM的光场显微方法包括以下步骤:
搭建基于FPM的光场显微平台;
用基于FPM的光场显微平台采集高分辨率广视野的图像;
对得到的高分辨率广视野图像进行视角分离;
利用视角分离的结果重聚焦获得想要得到的结果。
本发明使用基于FPM算法的光场显微镜来采集光场信息,提高了光场显微镜中每一个微透镜成像的分辨率,提高了角度分辨率,从而丰富了采集到的光场信息,使得物体能重建更好的三维结构。其算法鲁棒性强,基本自动化运行,需要很少的人工干预。
附图说明
图1为一些实施例基于FPM的光场显微方法的流程图;
图2为其光场显微镜的示意图;
图3为其光场显微镜的光路图;
图4为光场显微镜的工作流程图;
图5为其基于FPM图像超分辨率重建模块的结构图;
图6为其可编程LED阵列的示意图;
图7为FPM算法的流程图。
具体实施方式
下面结合附图和实施例对本发明进一步说明。
如图1所示,一些实施例基于FPM的光场显微方法包括以下步骤:
S1、搭建基于FPM的光场显微平台。这里所搭建的基于FPM的光场显微平台主要包含了两个模块:一个是光场信息采集模块,另一个是基于FPM的图像超分辨率重建模块。
光场信息采集模块也就是光场显微镜。光场显微镜的结构如图2所示,光路如图3所示,工作过程如图4所示。相比于普通的显微镜,光场显微镜在原来目镜的位置放置了一个微透镜阵列。
如图5所示,基于FPM的图像超分辨率重建模块包括显微镜和可编程LED阵列,可编程LED阵列作为显微镜的光源。这里的显微镜和上述的光场显微镜为同一个显微镜。如图6所示,较佳实施例中,LED阵列的规模为32X32,相邻两个LED之间的距离为4mm。LED阵列与载物台之间的距离一般选择7~8cm。
参照图1,搭建基于FPM的光场显微平台包括:选择合适的物镜,选择合适的微透镜阵列,校准光路,以及固定LED阵列。选择物镜、校准光路以及固定LED阵列为常规技术手段,这里不再赘述。微透镜阵列的选择如下:
每个微透镜的曲率为
N = M 2 NA
M表示物镜的放大倍数,NA为物镜的数值孔径;
每个微透镜所成像的分辨率为
N u * N v = W * H R obj
Nu*Nv表示微透镜成像的分辨率,W*H表示微透镜阵列的规模,Robj表示样本上两点间的最小距离,
R obj = 0.74 λ NA M
λ表示光线的波长。
S2、用基于FPM的光场显微镜采集高分辨率广视野的图像,具体包括以下步骤:
S2-1、确定样本正下方的LED(以下称作中心LED)的位置。一种方法是:固定一个曝光时间,LED阵列上的灯逐点发光,用成像传感器(如CCD传感器等)采集每一张图像。计算图像的亮度分布,估计中心LED的位置。
S2-2、确定LED阵列中各个LED对应的曝光时间。一种方法是:选定几个不同的曝光时间,LED阵列上的灯逐点发光,用成像传感器(如CCD传感器等)采集每一张图像,筛选每个LED对应的图像,确定每个LED对应需要的曝光时间。主要的原则是:1、曝光时间尽可能选择短的,但是一定保证基本保留了图像信息;2、与中心LED距离相同LED所需要的曝光时间应该一样。一些实施例中,最终确定的LED阵列中心14X14 LED对应的曝光时间如下:
30 30 30 30 30 30 30 30 30 30 30 30 30 30
30 30 30 30 30 30 30 30 30 30 30 30 30 30
30 30 30 30 30 30 30 30 30 30 30 30 30 30
30 30 30 30 30 10 10 10 10 30 30 30 30 30
30 30 30 30 10 5 5 5 5 10 30 30 30 30
30 30 30 10 5 1 1 1 1 5 10 30 30 30
30 30 30 10 5 1 1 1 1 5 10 30 30 30
30 30 30 10 5 1 1 1 1 5 10 30 30 30
30 30 30 10 5 1 1 1 1 5 10 30 30 30
30 30 30 30 10 5 5 5 5 10 30 30 30 30
30 30 30 30 30 10 10 10 10 30 30 30 30 30
30 30 30 30 30 30 30 30 30 30 30 30 30 30
30 30 30 30 30 30 30 30 30 30 30 30 30 30
30 30 30 30 30 30 30 30 30 30 30 30 30 30
S2-3、用计算机控制LED阵列中LED逐点发光,同时控制成像传感器选取对应的曝光时间来采集图像,得到低分辨率广视野图像。
S2-4、分别对各个微透镜所成的自图像进行FPM算法,获得与微透镜相同数量的高分辨率广视野图像;每个微透镜所成的自图像为不同LED光照下通过该微透镜所成的复数个低分辨率广视野图像。图7示出了一种FPM算法的流程。参照图7,应用FPM算法处理低分辨率图像恢复高分辨率图像的流程包括以下步骤:
i.对结果做初始猜测
ii.将初始猜测做傅里叶变换得到
iii.在傅里叶变换的结果中选取一块子区域
iv.将选取的子区域做傅里叶逆变换得到
v.用采集到的图像Im替换提取区域的幅值,得到
vi.将替换后的结果做傅里叶变换得到替换原子区域;
vii.依次选取各个子区域,重复步骤iii至步骤vi。
S3、对得到的高分辨率广视角的图像进行视角分离。视角分离可以采用现有的各种视角分离方法,如光场相机中使用的视角分离方法。一种方法包括以下步骤:a)确定每个微透镜对应成像传感器的区域;b)选择每个区域的对应点,分离各个视角的图像。
S4、利用视角分离的结果重聚焦获得想要得到的结果。重聚焦算法可以采用现有的各种重聚焦算法,如各种光场相机中使用的重聚焦算法。

Claims (6)

1.一种基于FPM的光场显微方法,其特征在于包括以下步骤:
搭建基于FPM的光场显微平台;
用基于FPM的光场显微平台采集高分辨率广视野的图像;
对得到的高分辨率广视野图像进行视角分离;
利用视角分离的结果重聚焦获得想要得到的结果。
2.根据权利要求1所述的基于FPM的光场显微方法,其特征在于,所述光场显微平台包括光场显微镜和基于FPM的图像超分辨率重建模块,光场显微镜设置有成像传感器,光场显微镜的目镜为微透镜阵列,所述基于FPM的图像超分辨率重建模块包括可编程LED阵列,该可编程LED阵列作为所述光场显微镜的光源。
3.根据权利要求2所述的基于FPM的光场显微方法,其特征在于,所述搭建基于FPM的光场显微平台包括:选择合适的物镜,选择合适的微透镜阵列,校准光路,以及固定LED阵列。
4.根据权利要求3所述的基于FPM的光场显微方法,其特征在于,微透镜阵列的每个微透镜的曲率为
N = M 2 NA
M表示物镜的放大倍数,NA为物镜的数值孔径;
每个微透镜所成像的分辨率为
N u * N v = W * H R obj
Nu*Nv表示微透镜成像的分辨率,W*H表示微透镜阵列的规模,Robj表示样本上两点间的最小距离,
R obj = 0.74 λ NA M
λ表示光线的波长。
5.根据权利要求1所述的基于FPM的光场显微方法,其特征在于,所述用基于FPM的光场显微平台采集高分辨率广视野的图像包括:
确定样本正下方的LED的位置;
确定LED阵列中各个LED对应的曝光时间;
控制LED阵列中LED逐点发光,同时控制成像传感器选取对应的曝光时间来采集图像,得到低分辨率广视野图像;
分别对各个微透镜所成的自图像进行FPM算法,获得与微透镜相同数量的高分辨率广视野图像;每个微透镜所成的自图像为不同LED光照下通过该微透镜所成的复数个低分辨率广视野图像。
6.根据权利要求1所述的基于FPM的光场显微方法,其特征在于,所述对得到的高分辨率广视野图像进行视角分离包括:确定每个微透镜对应成像传感器的区域;选择每个区域的对应点,分离各个视角的图像。
CN201410421367.0A 2014-08-25 2014-08-25 基于fpm的光场显微方法 Active CN104181686B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410421367.0A CN104181686B (zh) 2014-08-25 2014-08-25 基于fpm的光场显微方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410421367.0A CN104181686B (zh) 2014-08-25 2014-08-25 基于fpm的光场显微方法

Publications (2)

Publication Number Publication Date
CN104181686A true CN104181686A (zh) 2014-12-03
CN104181686B CN104181686B (zh) 2016-08-17

Family

ID=51962859

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410421367.0A Active CN104181686B (zh) 2014-08-25 2014-08-25 基于fpm的光场显微方法

Country Status (1)

Country Link
CN (1) CN104181686B (zh)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104849852A (zh) * 2015-05-07 2015-08-19 清华大学 基于相机阵列的光场显微成像系统及方法
CN105139361A (zh) * 2015-09-18 2015-12-09 清华大学深圳研究生院 一种基于非线性优化的fpm算法的图像超分辨率重建方法
CN105704371A (zh) * 2016-01-25 2016-06-22 深圳市未来媒体技术研究院 一种光场重聚焦方法
CN105976315A (zh) * 2016-04-26 2016-09-28 清华大学深圳研究生院 基于部分傅里叶空间的显微成像方法
CN106199941A (zh) * 2016-08-30 2016-12-07 浙江大学 一种移频光场显微镜以及三维超分辨微观显示方法
CN106443998A (zh) * 2016-11-04 2017-02-22 清华大学深圳研究生院 一种基于fpm算法的显微成像方法和系统
CN106707492A (zh) * 2017-01-13 2017-05-24 清华大学 基于空间光调制器的采集端频域拼贴显微系统
CN106767534A (zh) * 2016-12-30 2017-05-31 北京理工大学 基于fpm的立体显微系统和配套三维面形高分重构方法
CN107209362A (zh) * 2015-01-21 2017-09-26 加州理工学院 傅立叶重叠关联断层摄影
CN107219620A (zh) * 2017-05-27 2017-09-29 中国科学院光电技术研究所 一种单筒光场显微镜
CN107788947A (zh) * 2016-09-07 2018-03-13 爱博诺德(北京)医疗科技有限公司 眼科检查设备和方法
US10401609B2 (en) 2012-10-30 2019-09-03 California Institute Of Technology Embedded pupil function recovery for fourier ptychographic imaging devices
US10419665B2 (en) 2013-08-22 2019-09-17 California Institute Of Technology Variable-illumination fourier ptychographic imaging devices, systems, and methods
CN110568603A (zh) * 2019-08-12 2019-12-13 清华大学 基于fpm的显微成像系统
US10568507B2 (en) 2016-06-10 2020-02-25 California Institute Of Technology Pupil ptychography methods and systems
US10606055B2 (en) 2013-07-31 2020-03-31 California Institute Of Technology Aperture scanning Fourier ptychographic imaging
US10652444B2 (en) 2012-10-30 2020-05-12 California Institute Of Technology Multiplexed Fourier ptychography imaging systems and methods
US10679763B2 (en) 2012-10-30 2020-06-09 California Institute Of Technology Fourier ptychographic imaging systems, devices, and methods
CN111258046A (zh) * 2020-02-26 2020-06-09 清华大学 基于前置微透镜阵列的光场显微系统及方法
US10684458B2 (en) 2015-03-13 2020-06-16 California Institute Of Technology Correcting for aberrations in incoherent imaging systems using fourier ptychographic techniques
US10718934B2 (en) 2014-12-22 2020-07-21 California Institute Of Technology Epi-illumination Fourier ptychographic imaging for thick samples
US10732396B2 (en) 2015-01-26 2020-08-04 California Institute Of Technology Array level Fourier ptychographic imaging
US10754140B2 (en) 2017-11-03 2020-08-25 California Institute Of Technology Parallel imaging acquisition and restoration methods and systems
US11092795B2 (en) 2016-06-10 2021-08-17 California Institute Of Technology Systems and methods for coded-aperture-based correction of aberration obtained from Fourier ptychography
US11468557B2 (en) 2014-03-13 2022-10-11 California Institute Of Technology Free orientation fourier camera

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103499879A (zh) * 2013-10-16 2014-01-08 北京航空航天大学 一种超景深显微图像获取方法
CN103744172A (zh) * 2013-12-26 2014-04-23 麦克奥迪实业集团有限公司 一种具备空间光调制照明的共聚焦显微成像方法
US20140126691A1 (en) * 2012-10-30 2014-05-08 California Institute Of Technology Fourier Ptychographic X-ray Imaging Systems, Devices, and Methods

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140126691A1 (en) * 2012-10-30 2014-05-08 California Institute Of Technology Fourier Ptychographic X-ray Imaging Systems, Devices, and Methods
CN103499879A (zh) * 2013-10-16 2014-01-08 北京航空航天大学 一种超景深显微图像获取方法
CN103744172A (zh) * 2013-12-26 2014-04-23 麦克奥迪实业集团有限公司 一种具备空间光调制照明的共聚焦显微成像方法

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10679763B2 (en) 2012-10-30 2020-06-09 California Institute Of Technology Fourier ptychographic imaging systems, devices, and methods
US10652444B2 (en) 2012-10-30 2020-05-12 California Institute Of Technology Multiplexed Fourier ptychography imaging systems and methods
US10401609B2 (en) 2012-10-30 2019-09-03 California Institute Of Technology Embedded pupil function recovery for fourier ptychographic imaging devices
US10606055B2 (en) 2013-07-31 2020-03-31 California Institute Of Technology Aperture scanning Fourier ptychographic imaging
US10419665B2 (en) 2013-08-22 2019-09-17 California Institute Of Technology Variable-illumination fourier ptychographic imaging devices, systems, and methods
US11468557B2 (en) 2014-03-13 2022-10-11 California Institute Of Technology Free orientation fourier camera
US10718934B2 (en) 2014-12-22 2020-07-21 California Institute Of Technology Epi-illumination Fourier ptychographic imaging for thick samples
US10665001B2 (en) 2015-01-21 2020-05-26 California Institute Of Technology Fourier ptychographic tomography
CN107209362A (zh) * 2015-01-21 2017-09-26 加州理工学院 傅立叶重叠关联断层摄影
US10754138B2 (en) 2015-01-26 2020-08-25 California Institute Of Technology Multi-well fourier ptychographic and fluorescence imaging
US10732396B2 (en) 2015-01-26 2020-08-04 California Institute Of Technology Array level Fourier ptychographic imaging
US10684458B2 (en) 2015-03-13 2020-06-16 California Institute Of Technology Correcting for aberrations in incoherent imaging systems using fourier ptychographic techniques
CN104849852B (zh) * 2015-05-07 2017-03-08 清华大学 基于相机阵列的光场显微成像系统及方法
CN104849852A (zh) * 2015-05-07 2015-08-19 清华大学 基于相机阵列的光场显微成像系统及方法
CN105139361A (zh) * 2015-09-18 2015-12-09 清华大学深圳研究生院 一种基于非线性优化的fpm算法的图像超分辨率重建方法
CN105139361B (zh) * 2015-09-18 2017-12-19 清华大学深圳研究生院 一种基于非线性优化的fpm算法的图像超分辨率重建方法
CN105704371B (zh) * 2016-01-25 2019-04-26 深圳市未来媒体技术研究院 一种光场重聚焦方法
CN105704371A (zh) * 2016-01-25 2016-06-22 深圳市未来媒体技术研究院 一种光场重聚焦方法
CN105976315B (zh) * 2016-04-26 2019-04-09 清华大学深圳研究生院 基于部分傅里叶空间的显微成像方法
CN105976315A (zh) * 2016-04-26 2016-09-28 清华大学深圳研究生院 基于部分傅里叶空间的显微成像方法
US11092795B2 (en) 2016-06-10 2021-08-17 California Institute Of Technology Systems and methods for coded-aperture-based correction of aberration obtained from Fourier ptychography
US10568507B2 (en) 2016-06-10 2020-02-25 California Institute Of Technology Pupil ptychography methods and systems
CN106199941A (zh) * 2016-08-30 2016-12-07 浙江大学 一种移频光场显微镜以及三维超分辨微观显示方法
CN107788947A (zh) * 2016-09-07 2018-03-13 爱博诺德(北京)医疗科技有限公司 眼科检查设备和方法
CN106443998A (zh) * 2016-11-04 2017-02-22 清华大学深圳研究生院 一种基于fpm算法的显微成像方法和系统
CN106443998B (zh) * 2016-11-04 2022-06-10 清华大学深圳研究生院 一种基于fpm算法的显微成像方法和系统
CN106767534A (zh) * 2016-12-30 2017-05-31 北京理工大学 基于fpm的立体显微系统和配套三维面形高分重构方法
CN106767534B (zh) * 2016-12-30 2018-12-11 北京理工大学 基于fpm的立体显微系统和配套三维面形高分重构方法
CN106707492B (zh) * 2017-01-13 2019-07-26 清华大学 基于空间光调制器的采集端频域拼贴显微系统
CN106707492A (zh) * 2017-01-13 2017-05-24 清华大学 基于空间光调制器的采集端频域拼贴显微系统
CN107219620A (zh) * 2017-05-27 2017-09-29 中国科学院光电技术研究所 一种单筒光场显微镜
US10754140B2 (en) 2017-11-03 2020-08-25 California Institute Of Technology Parallel imaging acquisition and restoration methods and systems
CN110568603A (zh) * 2019-08-12 2019-12-13 清华大学 基于fpm的显微成像系统
CN111258046A (zh) * 2020-02-26 2020-06-09 清华大学 基于前置微透镜阵列的光场显微系统及方法

Also Published As

Publication number Publication date
CN104181686B (zh) 2016-08-17

Similar Documents

Publication Publication Date Title
CN104181686B (zh) 基于fpm的光场显微方法
Guo et al. Fourier light-field microscopy
EP3516625B1 (en) A device and method for obtaining distance information from views
US7723662B2 (en) Microscopy arrangements and approaches
CN109615651B (zh) 基于光场显微系统的三维显微成像方法及系统
CN102314683B (zh) 一种非平面图像传感器的计算成像方法和成像装置
US9088729B2 (en) Imaging apparatus and method of controlling same
CN109413407B (zh) 高空间分辨率光场采集装置与图像生成方法
JP4806630B2 (ja) 多軸統合を用いて三次元対象物の光学的画像データを取得する方法
JP2013542468A (ja) 走査型投影レンズレス顕微鏡システム
WO2012020835A1 (en) Display
CN109313807A (zh) 使用光场相机的三维重建方法
Martins et al. R2OBBIE-3D, a fast robotic high-resolution system for quantitative phenotyping of surface geometry and colour-texture
CN108537862A (zh) 一种自适应降噪的傅里叶衍射扫描显微镜成像方法
CN110363734B (zh) 厚样本显微荧光图像重构方法及系统
RU2580870C2 (ru) Система получения изображения высокого разрешения
CN207081880U (zh) 光学显微成像设备
CN108648144B (zh) 一种基于深度学习算法的fpm高分辨率彩色图像重建方法
US20230292016A1 (en) Meta-lens enabled light-field camera with extreme depth-of-field
Zhang et al. High-quality panchromatic image acquisition method for snapshot hyperspectral imaging Fourier transform spectrometer
CN107037576B (zh) 光学显微成像设备及其成像方法
CN107563991A (zh) 零件表面断裂激光光条的提取与匹配方法
CN110243827A (zh) 一种适用于光透明样本的快速三维成像方法
CN108873302B (zh) 一种光场显微图像的自动校正和重新聚焦方法
CN110388882B (zh) 具等向性转换函数之量化微分相位衬度显微系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 518055 Guangdong city of Shenzhen province Nanshan District Xili of Tsinghua

Patentee after: Shenzhen International Graduate School of Tsinghua University

Address before: 518055 Guangdong city of Shenzhen province Nanshan District Xili of Tsinghua

Patentee before: GRADUATE SCHOOL AT SHENZHEN, TSINGHUA University