CN106842535B - 基于光流的相位显微成像系统及其方法 - Google Patents

基于光流的相位显微成像系统及其方法 Download PDF

Info

Publication number
CN106842535B
CN106842535B CN201710024959.2A CN201710024959A CN106842535B CN 106842535 B CN106842535 B CN 106842535B CN 201710024959 A CN201710024959 A CN 201710024959A CN 106842535 B CN106842535 B CN 106842535B
Authority
CN
China
Prior art keywords
phase
module
micro
light
reference pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201710024959.2A
Other languages
English (en)
Other versions
CN106842535A (zh
Inventor
戴琼海
张明捷
吴嘉敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201710024959.2A priority Critical patent/CN106842535B/zh
Priority to US15/581,731 priority patent/US10353189B2/en
Publication of CN106842535A publication Critical patent/CN106842535A/zh
Application granted granted Critical
Publication of CN106842535B publication Critical patent/CN106842535B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/32Micromanipulators structurally combined with microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/086Condensers for transillumination only
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/14Condensers affording illumination for phase-contrast observation

Abstract

本发明公开了一种基于光流的相位显微成像系统及其方法,该系统包括:光源产生模块,用于产生入射的平行光以照射参考图案;相位调制模块,用于对经过所述参考图案的光进行相位调制;显微成像模块,用于对经过所述参考图案经的出射光线得到参考图像,还用于对经过所述参考图案的光进行相位调制后的出射光线得到动态视频;控制模块,用于根据所述参考图像和所述动态视频得到动态的所述相位调制模块的相位信息。本发明具有如下优点:通过拍摄不含有样本的参考图像以及含有样本的动态视频,即可精确、高分辨率且较快速地对显微样本的动态相位信息进行采集。

Description

基于光流的相位显微成像系统及其方法
技术领域
本发明涉及显微成像技术、计算机视觉和计算摄像学技术领域,特别涉及一种基于光流的相位显微成像系统及其方法。
背景技术
物体的相位在光学领域内是一个重要的信息,它可以提供物体的形状以及密度等信息,光线在穿过无色透明的物体时,并没有引起强度上的变化,却往往带来了相位上的变化。因此相位成像技术可以通过对相位信息的采集,恢复重构出透明物体的结构或者折射率,从而使无色透明的样本物体变得清晰可见,具有广泛的应用,是近年来的一个研究热点。
近年来,各种相位显微成像技术被相继提出,其大致可以分为:干涉相位显微成像技术、非相干相位显微技术等。其中,干涉相位显微成像技术一般需要高度相干的光源,即需要较为复杂的干涉装置,且限制了成像系统的空间分辨率和测量精度。
非相干相位显微技术并不通过干涉,而是根据多张采集图像的强度信息,恢复出相位信息,其常用的方法为光强传输方程法,这种方法可以避免使用复杂的干涉装置,但是它往往需要拍摄多张不同的散焦图像,对其动态拍摄提出了挑战,而单张恢复的方法又往往牺牲了成像系统的空间分辨率。
因此,如何能够快速且高分辨率地对动态相位显微信息进行采集,仍然是一个亟待解决并有重大意义的难题。
发明内容
本发明旨在至少解决上述技术问题之一。
为此,本发明的一个目的在于提出一种基于光流的相位显微成像系统,该系统能够精确高分辨率且较快速地对显微样本进行动态采集,并且简单易行
为了实现上述目的,本发明的实施例公开了一种基于光流的相位显微成像系统,包括:光源产生模块,所述光源产生模块用于产生入射的平行光以照射参考图案;相位调制模块,所述相位调制模块用于对经过所述参考图案的光进行相位调制;显微成像模块,所述显微成像模块用于对经过所述参考图案经的出射光线得到参考图像,所述显微成像模块还用于对经过所述参考图案的光进行相位调制后的出射光线得到动态视频;控制模块,所述控制模块用于控制所述光源产生模块、所述相位调制模块和所述显微成像模块,以根据所述参考图像和所述动态视频得到动态的所述相位调制模块的相位信息。
根据本发明实施例的基于光流的相位显微成像系统,通过拍摄不含有样本的参考图像以及含有样本的动态视频,即可精确、高分辨率且较快速地对显微样本的动态相位信息进行采集。
另外,根据本发明上述实施例的基于光流的相位显微成像系统,还可以具有如下附加的技术特征:
进一步地,所述参考图案用于对所述光源产生模块产生的平行光进行强度调制编码,所述相位调制模块用于将带有所述参考图案的平行光进行相位编码。
进一步地,所述显微成像模块包括依次设置的显微镜和相机,所述显微镜设置在所述相机和所述相位调制模块之间。
进一步地,所述显微成像模块的对焦位置靠近所述参考图案设置。
进一步地,所述参考图案和所述相位调制模块分别设在第一移动承载台上和第二移动承载台上。
本发明另一方面实施例提出了一种相位显微成像的方法,包括上述的基于光流的相位显微成像系统,所述方法包括以下步骤:S1:通过所述光源产生模块产生的平行光照射所述参考图案,并经过所述显微成像模块获得参考图像;S2:通过所述光源产生模块产生的平行光照射所述参考图案,并经过所述相位调制模块调制后通过所述显微成像模块获得带有扭曲的动态视频;S3:根据所述动态视频的视频帧和所述参考图像的每个像素之间的匹配关系,并根据建立的光路模型,重构还原出动态的所述相位调制模块的相位信息。
根据本发明实施例的基于光流的相位显微成像的方法,可以使用基于光流的相位显微成像系统,拍摄获得不含有样本的参考图像以及含有样本的动态视频,从而从中恢复出显微样本的高分辨率动态相位视频。
另外,根据本发明上述实施例的基于光流的相位显微成像方法,还可以具有以下附加的技术特征:
进一步地,所述步骤S3进一步包括:S301:使用光流算法计算所述动态视频的每帧图像与所述参考图像每个像素点的扭曲值;S302:根据每个像素点的扭曲值和系统光路模型重构还原出动态的所述相位调制模块的相位信息。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
图1是本发明实施例的基于光流的相位显微成像系统的结构框图;
图2是本发明一个实施例的基于光流的相位显微成像系统的结构示意图;
图3是本发明实施例的基于光流的相位显微成像方法的流程图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
参照下面的描述和附图,将清楚本发明的实施例的这些和其他方面。在这些描述和附图中,具体公开了本发明的实施例中的一些特定实施方式,来表示实施本发明的实施例的原理的一些方式,但是应当理解,本发明的实施例的范围不受此限制。相反,本发明的实施例包括落入所附加权利要求书的精神和内涵范围内的所有变化、修改和等同物。
以下结合附图描述本发明。
图1是本发明实施例的基于光流的相位显微成像系统的结构框图。如图1所示,根据本发明实施例的基于光流的相位显微成像系统,包括:光源产生模块110、相位调制模块120、显微成像模块130和控制模块140。
其中,光源产生模块110用于产生入射的平行光以照射参考图案。在本发明的一个实施例中,通过缩小显微镜光源中的孔径光圈,为系统提供输入近似的平行光。在本发明的另一个实施例中,通过4f系统进行实现。
在本发明的一个实施例中,参考图案可以将光源产生模块提供的平行光进行强度调制编码,使其带有丰富的纹理信息。
相位调制模块120用于对经过参考图案的光进行相位调制。在本发明的一个实施例中,相位调制模块120将带有参考图案的平行光进行相位编码,使其带有所需采集的样本的相位信息。
在本发明的一个实施例中,参考图案和相位调制模块120分别设在第一移动承载台上和第二移动承载台上,参考图案以及相位调制模块120在各个方向进行移动。
显微成像模块130用于对经过参考图案经的出射光线得到参考图像,还用于对经过参考图案的光进行相位调制后的出射光线得到动态视频。在本发明的一个实施例中,显微成像模块130包括依次设置的显微镜和相机,显微镜设置在相机和相位调制模块120之间。其中,显微镜用于将参考图案以及相位调制模块120放大成像于相机;相机用于对输出的光线进行动态成像。
在本发明的一个实施例中,显微成像模块130的对焦位置靠近参考图案设置,以在保证参考图案与相位调制模块之间的距离的情况下,拍摄获得较为清晰的动态扭曲变化的参考图案。
控制模块140用于控制光源产生模块110、相位调制模块120和显微成像模块130,以根据参考图像和动态视频得到动态的相位调制模块120的相位信息。
根据本发明实施例的基于光流的相位显微成像系统,通过拍摄不含有样本的参考图像以及含有样本的动态视频,即可精确、高分辨率且较快速地对显微样本的动态相位信息进行采集。
本发明还公开了一种基于光流的相位显微成像方法,包括上述实施例的基于光流的相位显微成像系统,如图3所示,方法包括以下步骤:
S1:通过光源产生模块110产生的平行光照射参考图案,并经过显微成像模块130获得参考图像。
具体地,如图2所示,图2中直线光线为视野内无样本时,一像素点对应的光路图,由于光路中不存在进行相位调制的相位调制模块,因此拍摄获得的图像即为被参考图案强度调整后无扭曲的参考图像。该步骤为采集前的预先准备工作,拍摄时相机的对焦位置保持在参考图案附近。
S2:通过光源产生模块110产生的平行光照射参考图案,并经过相位调制模块120调制后通过显微成像模块130获得带有扭曲的动态视频。
具体地,图2中折线光线为视野有目标样本时,一像素点对应的光路图,光路中既经过了参考图案进行了强度调制,也经过了相位调制模块120进行了相位调制,因此拍摄获得的视频图像即为经过相位调制的扭曲图像,只与参考图像相差一个所需采集的相位信息。该步骤中采集系统的器件空间分布位置以及器件参数均不能发生改变,且除了相位调制模块120,均需与步骤S1中的位置与参数保持一致。
S3:根据动态视频的视频帧和参考图像的每个像素之间的匹配关系,并根据建立的光路模型,重构还原出动态的相位调制模块的相位信息。
在本发明的一个实施例中,步骤S3进一步包括:
S301:使用光流算法计算动态视频的每帧图像与参考图像每个像素点的扭曲值。
具体地,由于拍摄采集每帧视频图像与参考图像时,光照基本没有发生变化,且两者之间的扭曲变化并不大,因此可以使用光流算法对其匹配对应关系进行求解,问题的优化目标函数为:
J(w(x,t))=Ed(w(x,t))+αEm(w(x,t))
其中,J(s(x),w(x,t))为最小化的优化目标函数,Ed(w(x,t))为优化目标函数的数据项,Em(w(x,t))为扭曲的正则化项。进一步地,优化目标函数的数据项为:
其中,T为求解的视频帧数,表示像素坐标x的取值范围,I(x,t)为t时刻下模糊扭曲的视频帧图像,0时刻对应参考图像,w(x,t)=[u(x,t),v(x,t)]为t时刻散焦扭曲视频帧与清晰无扭曲图像之间的扭曲大小,为凸的近似L1范数先验,ε为一个人为给定很小的正数。
优化目标函数的扭曲的正则化项为:
S302:根据每个像素点的扭曲值和系统光路模型重构还原出动态的相位调制模块的相位信息。
另外,本发明实施例的基于光流的相位显微成像系统及其方法的其它构成以及作用对于本领域的技术人员而言都是已知的,为了减少冗余,不做赘述。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同限定。

Claims (6)

1.一种基于光流的相位显微成像系统,其特征在于,包括:
光源产生模块,所述光源产生模块用于产生入射的平行光以照射参考图案;
相位调制模块,所述相位调制模块用于对经过所述参考图案的光进行相位调制;
显微成像模块,所述显微成像模块用于对经过所述参考图案的出射光线得到参考图像,所述显微成像模块还用于对经过所述参考图案的光进行相位调制后的出射光线得到动态视频;
控制模块,所述控制模块用于控制所述光源产生模块、所述相位调制模块和所述显微成像模块,以根据所述参考图像和所述动态视频得到动态的所述相位调制模块的相位信息;
其中,所述参考图案用于对所述光源产生模块产生的平行光进行强度调制编码,所述相位调制模块用于将带有所述参考图案的平行光进行相位编码。
2.根据权利要求1所述的基于光流的相位显微成像系统,其特征在于,所述显微成像模块包括依次设置的显微镜和相机,所述显微镜设置在所述相机和所述相位调制模块之间。
3.根据权利要求1所述的基于光流的相位显微成像系统,其特征在于,所述显微成像模块的对焦位置靠近所述参考图案设置。
4.根据权利要求1所述的基于光流的相位显微成像系统,其特征在于,所述参考图案和所述相位调制模块分别设在第一移动承载台上和第二移动承载台上。
5.一种基于光流的相位显微成像方法,其特征在于,包括如权利要求1-4任一项所述的基于光流的相位显微成像系统,所述方法包括以下步骤:
S1:通过所述光源产生模块产生的平行光照射所述参考图案,并经过所述显微成像模块获得参考图像;
S2:通过所述光源产生模块产生的平行光照射所述参考图案,并经过所述相位调制模块调制后通过所述显微成像模块获得带有扭曲的动态视频;
S3:根据所述动态视频的视频帧和所述参考图像的每个像素之间的匹配关系,并根据建立的光路模型,重构还原出动态的所述相位调制模块的相位信息。
6.根据权利要求5所述的基于光流的相位显微成像方法,其特征在于,所述步骤S3进一步包括:
S301:使用光流算法计算所述动态视频的每帧图像与所述参考图像每个像素点的扭曲值;
S302:根据每个像素点的扭曲值和系统光路模型重构还原出动态的所述相位调制模块的相位信息。
CN201710024959.2A 2017-01-13 2017-01-13 基于光流的相位显微成像系统及其方法 Expired - Fee Related CN106842535B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710024959.2A CN106842535B (zh) 2017-01-13 2017-01-13 基于光流的相位显微成像系统及其方法
US15/581,731 US10353189B2 (en) 2017-01-13 2017-04-28 Phase microscopy system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710024959.2A CN106842535B (zh) 2017-01-13 2017-01-13 基于光流的相位显微成像系统及其方法

Publications (2)

Publication Number Publication Date
CN106842535A CN106842535A (zh) 2017-06-13
CN106842535B true CN106842535B (zh) 2019-10-29

Family

ID=59124615

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710024959.2A Expired - Fee Related CN106842535B (zh) 2017-01-13 2017-01-13 基于光流的相位显微成像系统及其方法

Country Status (2)

Country Link
US (1) US10353189B2 (zh)
CN (1) CN106842535B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024020406A1 (en) * 2022-07-18 2024-01-25 Syncell (Taiwan) Inc. Method of standardizing image pixel values in a microscope-based system

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101779155A (zh) * 2007-08-16 2010-07-14 皇家飞利浦电子股份有限公司 对样本成像的方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3511554A (en) * 1966-04-29 1970-05-12 American Optical Corp Holographic microscope
US5995645A (en) * 1993-08-18 1999-11-30 Applied Spectral Imaging Ltd. Method of cancer cell detection
US5831736A (en) * 1996-08-29 1998-11-03 Washington University Method and apparatus for generating a three-dimensional topographical image of a microscopic specimen
US6614520B1 (en) * 1997-12-18 2003-09-02 Kla-Tencor Corporation Method for inspecting a reticle
US6606159B1 (en) * 1999-08-02 2003-08-12 Zetetic Institute Optical storage system based on scanning interferometric near-field confocal microscopy
US6825960B2 (en) * 2002-01-15 2004-11-30 Inphase Technologies, Inc. System and method for bitwise readout holographic ROM
US10194100B2 (en) * 2006-10-06 2019-01-29 California Institute Of Technology Glare suppression through fog by optical phase conjugation assisted active cancellation
US8184298B2 (en) * 2008-05-21 2012-05-22 The Board Of Trustees Of The University Of Illinois Spatial light interference microscopy and fourier transform light scattering for cell and tissue characterization
CN102802529B (zh) * 2009-06-16 2015-09-16 皇家飞利浦电子股份有限公司 用于微分相衬成像的校正方法
US9069175B2 (en) * 2011-04-08 2015-06-30 Kairos Instruments, Llc Adaptive phase contrast microscope
JP6394850B2 (ja) * 2013-09-20 2018-09-26 大学共同利用機関法人自然科学研究機構 補償光学系及び光学装置
FR3013128B1 (fr) * 2013-11-13 2016-01-01 Univ Aix Marseille Dispositif et methode de mise au point tridimensionnelle pour microscope
WO2015134924A1 (en) * 2014-03-07 2015-09-11 The Regents Of The University Of California Partially coherent phase recovery
US10073025B2 (en) * 2014-03-24 2018-09-11 Colorado State University Research Foundation Method and device for incoherent imaging with coherent diffractive reconstruction
CN109507155B (zh) * 2015-01-26 2021-08-24 加州理工学院 阵列级傅立叶重叠关联成像

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101779155A (zh) * 2007-08-16 2010-07-14 皇家飞利浦电子股份有限公司 对样本成像的方法

Also Published As

Publication number Publication date
CN106842535A (zh) 2017-06-13
US20180203221A1 (en) 2018-07-19
US10353189B2 (en) 2019-07-16

Similar Documents

Publication Publication Date Title
CN106371201A (zh) 基于计算鬼成像的傅里叶重叠关联成像系统及方法
US8098275B2 (en) Three-dimensional imaging system using optical pulses, non-linear optical mixers and holographic calibration
CN109413407B (zh) 高空间分辨率光场采集装置与图像生成方法
CN112525107B (zh) 一种基于事件相机的结构光三维测量方法
CN106772974B (zh) 快速三维折射率显微成像的系统和方法
CN103308452B (zh) 一种基于景深融合的光学投影断层成像图像获取方法
CN107219619A (zh) 三维折射率层析显微成像系统及其方法
CN100449459C (zh) 一种单摄像机虚拟鼠标系统的校准方法
US20070076090A1 (en) Device for generating three dimensional surface models of moving objects
CN108088386A (zh) 一种微纳米量级的二元面结构光检测方法及系统
CN108020509A (zh) 一种光学投影层析成像的方法及其装置
CN101422035A (zh) 光源推定装置、光源推定系统与光源推定方法以及图像高分辨率化装置与图像高分辨率化方法
CN109063748A (zh) 基于数据增强的目标检测方法
CN102519391B (zh) 基于弱饱和二维图像的物体表面三维立体图像重建方法
CN113175899B (zh) 相机与振镜结合的变视线系统三维成像模型及其标定方法
CN106707492B (zh) 基于空间光调制器的采集端频域拼贴显微系统
CN103209307A (zh) 编码重聚焦计算摄像方法及装置
CN110431465A (zh) 用于拍摄和呈现样品的三维图像的显微镜装置
CN103744172A (zh) 一种具备空间光调制照明的共聚焦显微成像方法
CN107845145B (zh) 一种电子显微场景下的三维重构系统及方法
KR101399274B1 (ko) 다중 패턴 빔을 이용하는 3차원 촬영 장치 및 방법
CN106842535B (zh) 基于光流的相位显微成像系统及其方法
CN108169172A (zh) 三维折射率显微成像系统及方法
CN106327435B (zh) 图像复原成像系统及复原系统、图像获得方法及复原方法
CN113436130A (zh) 一种非结构光场智能感知系统与装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20191029

CF01 Termination of patent right due to non-payment of annual fee