CN102792151A - 用于2d和3d成像的超分辨率光流体显微镜 - Google Patents

用于2d和3d成像的超分辨率光流体显微镜 Download PDF

Info

Publication number
CN102792151A
CN102792151A CN2011800122516A CN201180012251A CN102792151A CN 102792151 A CN102792151 A CN 102792151A CN 2011800122516 A CN2011800122516 A CN 2011800122516A CN 201180012251 A CN201180012251 A CN 201180012251A CN 102792151 A CN102792151 A CN 102792151A
Authority
CN
China
Prior art keywords
super
image
fluid passage
resolution
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011800122516A
Other languages
English (en)
Other versions
CN102792151B (zh
Inventor
郑国安
杨昌辉
塞缪尔·杨
李承亚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
California Institute of Technology CalTech
Original Assignee
California Institute of Technology CalTech
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by California Institute of Technology CalTech filed Critical California Institute of Technology CalTech
Publication of CN102792151A publication Critical patent/CN102792151A/zh
Application granted granted Critical
Publication of CN102792151B publication Critical patent/CN102792151B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Electro-optical investigation, e.g. flow cytometers
    • G01N15/1468Electro-optical investigation, e.g. flow cytometers with spatial resolution of the texture or inner structure of the particle
    • G01N15/147Electro-optical investigation, e.g. flow cytometers with spatial resolution of the texture or inner structure of the particle the analysis being performed on a sample stream
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Electro-optical investigation, e.g. flow cytometers
    • G01N15/1484Electro-optical investigation, e.g. flow cytometers microstructural devices
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0008Microscopes having a simple construction, e.g. portable microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4053Super resolution, i.e. output image resolution higher than sensor resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene

Landscapes

  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Biochemistry (AREA)
  • Dispersion Chemistry (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Microscoopes, Condenser (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

一种超分辨率光流体显微镜设备,其包括限定具有纵轴的流体通道并且包括邻近流体通道的表层的主体。表层具有二维光探测器阵列,该阵列被配置为接收通过流体通道的光,并且在对象移动通过流体通道时采样亚像素移位的投影帧序列。所述超分辨率光流体显微镜设备还包括与二维光探测器阵列电子通信的处理器。处理器被配置为使用超分辨率算法,并且基于亚像素移位的投影帧序列和对象的运动矢量产生对象的高分辨率图像。

Description

用于2D和3D成像的超分辨率光流体显微镜
相关申请的交叉引用
本文是于2010年3月23日提交的美国临时专利申请第61/316,762号,标题为“用于2D和3D成像的超分辨率光流体显微镜”的非临时申请,并且要求其优先权。该临时申请的全部内容基于所有目的据此以引用方式并入。
本非临时申请涉及到以下共同待决且一般转让的专利申请,其全部内容基于所有目的据此以引用方式并入:
于2009年3月4日提交的美国专利申请第12/398,050号,标题为“使用光电传感器阵列的光流体显微镜设备”。
发明背景
本发明的实施方式一般涉及到光流体显微镜设备(OFM)以及OFM系统。更具体地,某些实施方式涉及到用于亚像素分辨率、二维和三维成像的超分辨率光流体显微镜(SROFM)。
生物医学成像工具的小型化具有极大地改变医疗诊断方法和科学研究方法的潜力。更具体地,便携的、低成本显微镜可以明显地拓展不太昂贵的健康护理诊断,并且提供用于检查和自动表征大量细胞的方法,如Psaltis,D.等人在自然(Nature)(2006)442卷27页s.1.的“通过微流体和光学的融合而发展的光流体技术(Developing optofluidic technologythrough the fusion of microfluidics and optics)”中所讨论的,其全部内容基于所有目的据此以引用方式并入。
常规的光学显微镜具有庞大的镜片,并且被证实是昂贵且难以小型化的。近来在微流体技术上的发展提供了光流体显微镜(OFM),其被证实是具有由微流体提供的高吞吐量的低成本的便携式设备。常规OFM的实施例可以从Cui,Xiquan等人在国家科学院会议记录(Proceedings of theNational Academy of Science)(2008)105卷10670页的“用于秀丽隐杆线虫的无透镜高分辨率芯片光流体显微镜(Lensless high-resolution on-chipoptofluidic microscopes for Caenorhabditis elegans and cell imaging)”中找到,其全部内容基于所有目的据此以引用方式并入。然而,常规OFM依赖于孔径阵列或者光传感器阵列,所述阵列斜对地延伸穿过流体通道,以在对象移动穿过阵列时获得图像。因此,常规OFM中的获取时间依赖于对象多久移动穿过阵列。并且,在许多常规的OFM中,图像分辨率是被限制的。
发明简述
本发明的实施方式涉及到用于超分辨率(例如,亚像素分辨率)的、二维和三维成像的SROFM。SROFM包括流体通道和二维光探测器。光探测器以亚像素采样速率采样数据,从而在成像对象移动通过流体通道时捕获投影图像的亚像素移位的帧的序列。可以使用亚像素移位的帧的序列和对象的运动矢量并使用超分辨率算法产生超分辨率的二维图像。可以基于入射光的不同角度,用断层摄影算法从亚像素移位的帧的多个(复合)序列计算超分辨率的三维图像。
一个实施方式针对具有限定具有纵轴的流体通道的主体的SROFM。该主体包括邻近流体通道的表层。表层具有二维光探测器阵列,该阵列被配置为接收通过流体通道的光,并且在对象移动通过流体通道时,采样亚像素移位的投影帧序列。SROFM还包括与二维光探测器阵列进行电子通信的处理器。处理器被配置为使用超分辨率算法,并且基于亚像素移位的投影帧序列和对象的运动矢量产生对象的高分辨率图像。
另一个实施方式针对包括限定具有纵轴的流体通道的主体的SROFM。该主体包括邻近流体通道的表层。SROFM还包括表层中的二维光探测器阵列。二维光探测器阵列被配置为在对象通过流体通道时,接收不同波长的光,并且被配置为采样与不同波长相关联的多个亚像素移位的投影帧序列。在某些情况下,SROFM还具有与二维光探测器阵列电子通信的处理器。处理器被配置为使用超分辨率算法,并且基于多个亚像素移位的投影帧序列和运动矢量产生与不同波长相关联的多个高分辨率图像。在这些实例的一个实例中,处理器还被配置为基于不同波长组合多个高分辨率图像,从而形成对象的彩色高分辨率图像。在这种情况下,处理器还被配置为使用图像识别算法来基于对象的彩色高分辨率图像诊断健康状态或者疾病。
另一个实施方式针对包括限定具有纵轴的流体通道的主体的SROFM。该主体包括邻近流体通道的表层。SROFM还包括表层中的二维光探测器阵列。二维光探测器阵列被配置为在对象通过流体通道时,接收不同入射角的光,并且被配置为采样与不同入射角相关联的多个亚像素移位的投影帧序列。
另一个实施方式针对包括限定具有纵轴的流体通道的主体的移动SROFM。该主体包括邻近流体通道的表层。表层具有光探测器,该光探测器被配置为接收通过流体通道的光,并且在对象移动通过流体通道时,采样亚像素移位的投影帧序列。SROFM还包括具有处理器和显示器的移动通信设备(例如,智能手机)。处理器与光探测器电子通信。处理器被配置为使用超分辨率算法,并且基于亚像素移位的投影帧序列和运动矢量产生对象的高分辨率图像。处理器还被配置为在移动通信设备的显示器上显示高分辨率图像。
另一个实施方式针对使用超分辨率光流体显微镜设备生成对象的高分辨率图像的方法,该超分辨率光流体显微镜设备具有限定流体通道的主体,并且该主体包括邻近流体通道的表层,该表层具有二维光探测器阵列。所述方法包括照亮流体通道。所述方法还包括在对象移动通过流体通道时,通过二维光探测器阵列采样亚像素移位的投影帧序列。所述方法还包括通过处理器使用超分辨率算法基于亚像素移位的投影帧序列和运动矢量来重建高分辨率图像。
另一个实施方式针对使用超分辨率光流体显微镜设备生成对象的三维高分辨率图像的方法,该超分辨率光流体显微镜设备具有限定流体通道的主体,并且该主体包括邻近流体通道的表层,该表层具有二维光探测器阵列。所述方法包括在不同的采样时间用不同入射角的光照亮流体通道。所述方法还包括在对象移动通过流体通道时,通过二维光探测器阵列采样多个亚像素移位的投影帧序列,每个序列与不同的入射角相关联。所述方法还包括通过处理器使用超分辨率算法并基于多个亚像素移位的投影帧序列和运动矢量来重建与不同的入射角相关联的高分辨率图像。所述方法还包括通过所述处理器使用断层摄影算法且基于与不同的入射角相关联的多个超分辨率图像计算三维高分辨率图像。
本发明的这些和其它的实施方式在下面被进一步详细地描述。
附图简述
图1是根据本发明的实施方式的SROFM的组件和部分组件的示意图。
图2(a)是根据本发明的实施方式的SROFM的组件的示意图,该SROFM包括直接与互补金属氧化物半导体(CMOS)传感器连接的微塑的PDMS微流体芯片。
图2(b)是根据本发明的实施方式的接近四分之一比例的微流体芯片形式的SROFM的主体的相片。
图2(c)是根据本发明的实施方式的图2(a)的SROFM的部分的图像。
图3是根据本发明的实施方式的基于智能手机的SROFM的一系列图像。
图4(a)是根据本发明的实施方式的基于在第一采样时间捕捉的通过CMOS芯片产生的第一帧的第一低分辨率(LR)图像。
图4(b)是根据本发明的实施方式的基于在第二采样时间捕捉的通过图4(a)的CMOS芯片产生的第二帧的第二低分辨率(LR)图像。
图4(c)是根据本发明的实施方式的基于图4(a)的第一帧和图4(b)的第二帧重建的高分辨率(HR)图像,并且使用超分辨率(SR)算法重建。
图5是由本发明的实施方式的SROFM产生的图像与由具有20×物镜的常规显微镜产生的图像的比较。
图6(a)是根据本发明的实施方式的增强因子为10的0.5μm微球体的重建的高分辨率图像以及0.5μm微球体的对应的根据重建的HR图像的强度分布图。
图6(b)是根据本发明的实施方式的增强因子为13的0.5μm微球体的重建的HR图像以及0.5μm微球体的对应的根据重建的HR图像的强度分布图。
图7包括根据本发明的实施方式的用SROFM使用RGB照明两个感染疟疾的染色的红细胞获取的图像。
图8包括根据本发明的实施方式的用SROFM基于不同入射角的光获取的小眼虫的图像。
图9是根据本发明的实施方式的光探测器上的来自三个不同的入射角θ1、θ2和θ3的三个投影的示意图。
图10(a)是根据本发明的实施方式的基于疟疾诊断的SROFM的示意图。
图10(b)包括根据本发明的实施方式的由图10(a)的SROFM获取的感染疟疾的红细胞的重建的HR图像。
图10(c)包括根据本发明的实施方式的由图10(a)的SROFM获取的非感染的红细胞的重建的HR图像。
图11是根据本发明的实施方式的SROFM的操作的流程图。
图12是根据本发明的实施方式的可能存在于SROFM中的子系统的方框图。
发明详述
以下将参考附图来描述本发明的实施方式。一些实施方式包括具有限定流体通道和带有光检测元件的二维阵列(例如,CMOS传感器阵列)的光探测器的主体(例如,微流体芯片)的SROFM。光探测器以亚像素采样速率采样光数据,从而在成像对象移动通过流体通道时捕获亚像素移位的快照投影(帧)的序列。处理器确定对象的运动矢量。随后,处理器根据亚像素移位的帧序列和运动矢量并使用超分辨率算法(SR算法)重建对象的超分辨率(SR)二维图像。所述处理器还可以通过使用计算的断层摄影法将来自不同的入射角的多个重建的HR图像(视角)组合来确定对象的SR三维的图像。
帧之间的对象的亚像素移位是由流体通道范围内的微流体流和/或用于控制流体流或者微粒传输的任意技术半控制的。这种半控制的帧之间的亚像素移动允许在不需要庞大的控制器和致动器下对微观对象进行更精确的运动矢量估算以及HR图像的重建。
本发明的实施方式提供了一个或者多个技术优势。一个普遍的优势是SROFM在时域使用高采样速率(例如,亚像素采样速率)以弥补投影图像的空间域中的亚奈奎斯特(sub-Nyquist)采样速率,组合用光流体显微镜进行超分辨率成像中完成的工作以提供分辨率明显增强的简单的,低成本的,高吞吐量的显微镜设备。一个更具体的优势是实施方式的SROFM可以容易被小型化。SROFM可以容易地被小型化,因为它不需要其它微扫描方案所需要的庞大的镜片、运动控制器或者致动器,或者机载照明源。另外地,多数SROFM可以是微流体芯片的形式。小型化的SROFM可以提供便携的、不昂贵的并且轻便的成像系统,该系统可以满足许多生物学研究、即时分析和现场诊断的需要。小型化的SROFM还可以为农村欠发达的人群带来不太昂贵的健康护理诊断,在农村,使用昂贵的常规显微镜和技术人员成本过高。另一个优势是从常规的OFM设计中去除了孔径阵列。SROFM去除了对孔径阵列的需要,这样可以简化SROMFM的制造,并因此减小成本。另一个优势是SROFM具有穿过光探测器的流体标本的微流体流,其允许操作在亚像素移位中成像的对象,并且消除了对其它超分辨设备中所需要的精密扫描装备的需要。另一个优势是SROFM通过亚像素移位用二维阵列得到快照帧。可以在短距离内获得许多帧,因此HR图像可以在无需对象通过整个阵列的情况下获得。因此,获取时间被减少,这样可以提高吞吐率。减小获取时间还可以减少成像对象的曝光时间,这样可以减小损伤对象的风险。其它优势在IIB部分中提出。
I.SPOFM
图1是根据本发明的实施方式的SROFM 10的组件和部分组件的示意图。SROFM 10包括限定或者包括流体通道112的主体110。在许多实施方式中,主体110的部分可以是微流体芯片的形式。在图1中,主体110包括流体通道112的直部。流体通道112包括在流体通道112的相对侧上的第一表面112(a)和第二表面112(b)。第一表面112(a)与内部表面相对应,该内部表面可以在流体通道112的底部/顶部。第二表面112(b)与流体通道112的第一表面112(a)的相对侧的内部表面相对应。流体通道112还包括两个相对的侧表面,第一侧表面112(c)和第二侧表面112(d)。另外地,主体110包括第一表层120和相对的第二表层130。第一表层120包括光检测元件124的二维阵列(二维光探测器阵列)形式的光探测器122。在图1中,待成像的对象150被示出移动通过由来自照明源(未示出)的入射光140照明的流体通道112。在操作中,SROFM 10直接将对象150成像到光探测器122上。
SROFM 10还包括主机200(例如,智能手机),该主机200具有处理器210、与处理器210电子通信的计算机可读介质(CRM)220以及与处理器210电子通信的显示器230。CRM 220包括运动估算算法的代码222和SR算法的代码224。在其它实施方式中,CRM 220可以包括其它代码(例如,断层摄影算法的代码)。
SROFM 10还包括x轴、y轴和z轴。x轴顺着流体通道112的纵轴。x轴和y轴位于第一表层120的内部表面的平面内。z轴正交于该平面。
在许多示出的实施例中,例如图1中所示出的一个实施例中,SROFM10包括多层主体110,该多层主体110包括或者限定流体通道112。在许多实施方式中,多层主体110是微流体芯片。在图1中,多层主体110包括第一表层120,其是流体通道112的内部的表层。第一表层120的内部表面与流体通道112的第一表面112(a)一致。第一表层120位于邻近流体通道112。光探测器122位于多层主体110的第一表层120上或者其内。主体多层110还包括第二表层130,其是流体通道112的另一个内部表层。第二表层130的内部表面与流体通道112的第二表面112(b)一致。第二表层130也位于邻近流体通道112。尽管阐述的实施例示出是多层结构的主体110,其它实施方式可以包括是单层结构的主体110。
实施方式的多层主体110的层可以由任意合适的材料(例如,聚二甲硅氧烷(PDMS))或者由任意合适厚度的材料的组合制成,并且可以包括合适的设备(例如,光探测器122)。在一个示范性的实施方式中,多层主体110由直接连接到CMOS传感器的微塑聚二甲硅氧烷(PDMS)微流体芯片构成。在某些情况下,多层主体110可以使用标准的半导体和微/纳米制造工序来制造。
尽管阐述的实施方式示出了多层主体110中的某些层,其它实施方式可以集成、省略、或者增加一个或者多个层,或者改变多层主体110中一个或者多个层的位置。例如,一个实施方式的多层主体110可以包括覆盖第一表层120的透明保护层,从而将光检测元件124与移动通过SROFM 10的流体通道112的流体和对象150隔离开来。
在图1中,流体通道112包括第一表面112(a)和相对的第二表面112(b)。流体通道112还包括第一侧表面112(c)和相对的第二侧表面112(d)。流体通道112还具有沿着x轴的纵轴。尽管在图1示出单个流体通道112,其它实施方式可以包括另外的用于并行处理的流体通道112。
流体通道112的尺寸可以是任意合适的尺寸。例如,流体通道112的宽度和/或高度可以均小于大约10微米、5微米或者1微米。
在一些实施方式中,流体通道112的尺寸(几何形状)被调整大小,从而提高或者最优化图像质量。由于通过待成像的对象150的光140的散射角,如果待成像的对象150从光探测器122的第一表面112偏离,投影图像质量可能降低。出于该原因,对象150的厚度越小,则图像的质量可以更好,尤其对于在真核细胞的尺寸范围的对象而言。在这些实施方式中,通道高度可以基于由SROFM 10成像的对象150的尺寸来调整大小,从而使对象150接近第一表面112(a)流动。因此,通道高度被调整到正好些微地大于待成像的对象150的尺寸。例如,通道高度可以是10微米,其中,为了保持对象150接近第一表层120,待成像的对象150是8微米,这可以帮助提高由SROFM 10产生的图像的质量。
流体通道112可以具有任意合适的形状(例如,线形的、U形的、S形的、大体圆形的等等)。在非线形的流体通道112中,流体通道112可以由一系列直部114和/或弯部116组成(如图2(c)中所示)。例如,流体通道112可以是U形,其在转角处带有两个弯部116,且在边沿和弯部116之间带有三个直部114。图2(c)中示出了阐述的U形流体通道112的实施例。图1是示出了图2(c)中示出的U形流体通道112的直部114的实施例。
在实施方式中,流体通道112可以包括携带具有一个或者多个待成像的对象150的流体标本的流体流,所述流体流在流体通道112的纵轴的一般方向通过流体通道112。控制流体流和/或微粒传输的任意合适的技术可以被用于将对象150移动通过流体通道112。一些传统技术包括压力驱动流动、电动传输、通过电润湿的离散液滴易位、或者热毛细管技术。其它技术可以包括重力驱动流动、水力聚焦、介电电泳、和光学镊除(tweezing)。任意合适的控制设备可以被用于控制流体通过流体通道112的流动和/或对象150通过流体通道112的移动。一些合适的控制设备的实施例包括微型泵、直流(DC)电动设备、介电电泳电极、和/或水力聚焦通道。
流体通道112还包括连接到部分(通常是流体通道112的相对端部)的入口160和出口170。入口160可以指流体标本可以被导入流体通道112中的端口。出口490可以指具有待成像的对象的流体标本可以退出流体通道112的端口。阐述的入口160和出口170的实施例可以在图2中找到。
一个或者多个照明源提供入射光140到流体通道112。照明源可以是SROFM 10的组件,或者可以独立于SROFM 10。在许多实施方式中,SROFM 10不需要专门的照明源,这使得其是用于低成本、轻便的显微镜的合适的解决方案。照明源可以是任意合适的设备或者其它光源,例如环境光线。合适的照明源是天然的和可商业购买的。例如,带有具有0.3ms(毫秒)曝光时间的光探测器122的SROFM 10可以使用典型的室内灯的照明源(300~500lux(勒克斯))。甚至更短的曝光时间可以被用于在日光照明源(~10000lux)下成像。在另一个实施例中,照明源可以是常规的LED灯(大约2瓦特),其光强度可与环境室内灯相比,在80流明的量级。因为在许多实施方式中,图像质量不依靠于使用的照明类型,SROFM 10能够实现为低成本、基于手机(例如,基于智能手机)或者基于USB的轻便的小型化显微镜,因为不需要特定的扫描结构或者协同的照明方案或者机载照明源。
照明源可以提供任意合适波长、强度、偏振、相位、和/或入射角的光。在一个实施方式中,照明源可以在采样期间的不同时间提供n个不同波长λ1、…、λn的光140。可以使用任意合适数量的波长(例如,n=1、2、3、4、5、…、20)。例如,照明源可以提供对应于红色、绿色、蓝色三个波长λ1、λ2和λ3的RGB照明。同样的,照明源可以被放置在任意合适的位置以提供可以通过对象150并且提供期望的入射角θ1、…、θn(其中n=1、2、3、4、5等等)的入射光140。
任意合适的对象150、对象150的任意合适的部分、或者任意合适数量的对象150可以由SROFM 10成像。合适的对象150可以是生物的或者无机的实体。生物实体的实施例包括全部细胞;细胞成分;微生物,例如,细菌或者病毒;细胞成分,例如,蛋白质等等。无机实体也可以通过本发明的实施方式成像。
SROFM 10还包括在第一表面112(a)的平面具有局部x轴和y轴的光探测器122(例如,光电传感器)。光探测器122涉及到能够基于由光探测器122接收的光生成一个或者多个带有光数据的信号的任意合适的设备。带有光数据的信号可以是来自光电效应的电流的形式。光探测器122包括光检测元件124的二维阵列形式(如图1中所示出的)的离散的光检测元件124(像素)。光检测元件124位于主体110的第一表层120上或者内部。
在一些实施方式中,光检测元件124的二维阵列定向为相对于流体通道112纵轴的角度为α(如图1中所示出的)。通过以某一角度定向二维阵列,与流体流通常沿着流体通道112的纵轴一起移动的对象150还在光检测元件124的二维阵列的局部轴的x’方向和y’方向平移。在这些实施方式中,流体通道112可以在制造期间以角度α放置在光探测器122上,以便以这样的方式定向光检测元件124。
可以使用任意合适的角度α。在某些情况下,使用的角度α被确定为允许SROFM 10在x′和y′两个方向的特定的亚像素平移产生LR图像,这将适用于精确的运动矢量估算和HR图像数据重建。在某些情况下,使用的角度α被确定为通过使用在所关注的成像区域中的二维阵列的较少的像素行来最大化帧采样速率。在一个实施例中,从10到30度的角度α被确定以提供沿着y方向的足够的位移以用于HR图像数据重建,并且还通过使用在所关注的成像区域中的较少的像素行来最大化帧采样速率。在一个实施方式中,关注的成像区域大约为250微米*2.5毫米。
可以使用任意合适的光探测器122。一些具有光检测元件124的二维阵列的合适的光探测器122的实施例包括电荷耦合器件(CCD)阵列、CMOS阵列、雪崩光电二极管(APD)阵列、光电二极管(PD)阵列、以及光电倍增管(PMT)阵列。这些光探测器122以及其它器件可商业购买到。
可以使用任意合适类型的光探测器122。一些合适类型的光探测器122的实施例包括单色探测器、多色探测器(例如,RGB探测器)等等。
光检测元件124可以具有任意合适的尺寸(例如,1-10微米)以及任意合适的形状(例如,圆形、矩形、正方形等等)。例如,CMOS或者CCD光检测元件220(a)可以是1-10微米,而APD或者PMT光检测元件220(a)可以大到1-4毫米。
在一些实施方式中,光探测器122可以被设计以提高SROFM 10的图像质量。由于通过待成像的对象150的光140的散射角,如果待成像的对象150从光探测器122的第一表面112偏离,投影图像质量可能被降低。出于该原因,对象150的厚度越小,则图像的质量可以更好,尤其是在真核細胞的尺寸范围内的对象150。在这些实施方式中,为了减小每个像素的接受角以及对象150和第一表层120(即,主动感应层)之间的距离,光探测器122可以被设计为没有滤色镜和微透镜层。选择性地,如果光探测器122(例如,CMOS传感器)被预制有滤色镜和微透镜层,为了减小每个像素的接受角以及对象150和第一表层120之间的距离,这些组件可以在制造后被移除。
光数据涉及到与由光检测元件124接收的光相关的任意合适的信息。例如,光数据可以包括关于接收的光的特性的信息,例如光的强度、光的波长、光的频率、光的偏振、光的相位、光的自旋角动量和/或其它与由光检测元件124接收的光有关的光的特性。光数据还可以包括将光检测元件124安置在二维阵列中的位置、光被接收的时间(采样时间)、或者其它与接收的光相关的信息。在许多实施方式中,每个光检测元件124可以基于由光检测元件124接收的光产生带有光数据的信号。
帧涉及到通过光探测器122的二维阵列中一个或者多个光检测元件124在特定的采样时间采样(快照)的光(图像)数据。采样时间涉及到对应一个或者多个光检测元件124采样与接收的光相关联的光数据的特定的时间。光探测器122在采样过程期间采样一个或者多个帧。
每个帧可以通过二维阵列(Anm)中的任意合适数量的光检测元件124以及二维阵列(Anm)中的光检测元件124的组合被采样。例如,在4×4二维阵列(An=4,m=4)中,A11、A13、A31和A33像素可以与第一帧(F1)相关,A12、A14、A32和A34像素可以与第二帧(F2)相关,A21、A23、A41和A43像素可以与第三帧(F3)相关,而A22、A24、A42和A44像素可以与第四帧(F4)相关。可以为随后采样的帧重复该系列。
在实施方式中,光探测器122在对应的n个采样时间的序列(t1、t2、t3、…、tn)采样n个帧(F1、F2、F3、…、Fn)的序列。采样时间基于采样速率。通常地,采样速率是常数,并且可以被描述为每秒采样的帧数,常规光探测器122的典型采样速率是100到500fps。
在大多数实施方式中,一个或者多个光检测元件124在n个采样时间(t1、t2、t3、…、tn)的序列采样亚像素移位的帧(SPF1、SPF2、SPF3、…、SPFn)的序列。亚像素移位的帧的序列是在基于亚像素采样速率的采样时间采样的帧序列。亚像素采样速率指的是在对象150移动单个光检测元件的距离(像素尺寸)时,多于一个单帧被采样的采样速率。在这些实施方式中,待成像的对象150在所采样的邻近的帧(Fi和Fi+1)之间移动一个亚像素移位。亚像素移位指的是小于一个像素尺寸的平移移动。对应的N大于亚像素采样速率的N。例如,如果光检测元件122是Δx为5.2微米的正方形像素(像素尺寸为5.2微米),对象的速率V是10.4微米/秒,且在每个像素上采样的帧数N是100(即,亚像素采样适用),亚像素采样速率S=100×10.4微米/秒/5.2微米=200帧/每秒。在大多数实例中,SROFM 10使用的N是非整数值(例如,N=1.2、1.5、1.6、2.5、5.2、10.5等等)的亚像素采样速率。
由实施方式的光探测器122采样的每个帧包括可以被用于在采样时间期间显示在流体通道122的成像区域(例如,通过对象的光可以由光探测器接收的区域)中的对象的二维LR图像的快照图像数据。在一些实施方式中,LR图像可以是黑白图像。在其它的实施方式中,LR图像可以是彩色图像。快照图像的分辨率通常被捕获快照图像的光探测器122的光检测元件124的尺寸(例如,像素尺寸)所限制。例如,Aptina
Figure BDA00002095631200131
MT9M001C12STM CMOS传感器芯片具有5.2微米的像素尺寸,且来自该CMOS芯片的快照图像大约为5.2微米。
对应于n个采样时间(t1、t2、t3、…、tn)的序列的由实施方式的光探测器122采样的n个帧(F1、F2、F3、…、Fn)的每个序列包括可以被用于显示n个LR图像(LR图像1、LR图像2、LR图像3、…、LR图像n)的序列的图像数据。同样的,可以被用于显示n个亚像素移位的图像(SPS图像1、SPS图像2、SPS图像3、…、SPS图像n)的序列的n个亚像素移位的帧(SPF1、SPF2、SPF3、…、SPFn)的每个序列指的是在n个采样时间(t1、t2、t3、…、tn)的序列基于亚像素采样速率采样的n个亚像素移位的帧产生的LR图像。亚像素移位的图像是在对象150移动(移位)一个亚像素移位时,该对象150的LR图像。
在许多实施方式中,基于n个帧(例如,亚像素移位的帧的序列)的采样序列确定一个或者多个对象150的运动矢量。运动矢量指的是由SROFM 10成像的对象150的平移运动和/或旋转运动。通常地,运动矢量根据对象在光检测元件124的二维阵列的局部x′轴和y′轴的移动和/或转动而被确定。
在一些实施方式中,运动矢量可以使用基于n个帧(例如,亚像素移位的帧的序列)的序列的运动估算算法来确定。运动矢量估算算法指的是用于基于n个帧的序列确定待成像的对象150的运动矢量的合适的算法。运动矢量估算算法的实施例是亚像素移位运动估算算法。在IIA部分中描述了一些示范性的运动估算算法和其它确定运动矢量的方法的细节。
在许多实施方式中,HR图像数据以及由此对应的对象150的HR图像可以根据亚像素移位的帧的序列和对象的运动矢量使用SR算法来被重建。HR图像指的是基于HR图像数据的高分辨率图像(例如,亚像素分辨率图像),所述hR图像数据根据亚像素移位的帧的序列和运动矢量重建。通过SROFM 10的实施方式获取的HR图像的分辨率的实施例大约为0.50微米。SR算法涉及到成像处理技术,其根据低分辨率帧的序列为单个HR图像重建图像数据。SR算法的实施例是移位叠加像素SR算法。在IIA部分中描述了一些示范性的SR算法的细节。
在实施方式中,一个或者多个来自照明源的光140的特性可以在待成像的对象150移动通过流体通道112的成像区域时发生变化。在这些实施方式中,光140可以在不同的采样时间具有不同的特性。作为实例,来自不同入射角的光140可以在不同的采样时间照明流体通道112。在某些情况下,由照明源提供的光140可以在一系列不同的入射角中被顺序地循环。例如,在t1,光140可以具有入射角θ1;在t2,光140可以具有入射角θ2;在t3,光140可以具有入射角θ3;在t4,光140可以具有入射角θ1;在t5,光140可以具有入射角θ2等等。作为另一个实施例,不同波长的光140可以在不同的采样时间照明流体通道112。在某些情况下,如以上关于一系列入射角所描述的,光140可以在一系列不同的波长中被顺序地循环。任意合适数量的不同的入射角、波长和/或其它光特性可以被改变(n=l、2、3、4、5等等)。任意合适数量的照明源可以被用于在不同的采样时间提供光140的一个或者多个特性。
图1的SROFM 10还包括被通信耦合到光探测器122的主机200。主机200包括被耦合到CRM 220的处理器210(例如,微处理器)。选择性地,主机200可以是独立的设备。主机200可以是任意合适的计算设备,例如,智能手机。
处理器230执行储存在CRM 220上的代码,以执行SROFM 10的一些功能,例如转译在来自光探测器122的一个或者多个信号中接收的n个帧的序列(例如,亚像素移位的帧的序列)、生成n个帧的序列、生成重建的HR图像数据并根据n个帧的序列生成对应的图像、生成SR彩色图像数据并基于帧的序列生成对应的SR彩色图像、生成三维图像数据并基于帧的序列生成三维图像等等。
处理器210(例如,微处理器)可以从光探测器122接收一个或者多个带有与由光检测元件124接收的光相关联的光数据的信号。例如,处理器210可以接收一个或者多个带有光数据的信号,所述光数据为在对应的n个采样时间(t1、t2、t3、…、tn)的序列采样的n个帧的序列(例如,亚像素移位的帧的序列)形式。可以显示与帧相关联的一个或者多个LR图像。
在许多实施方式中,采样时间基于亚像素采样速率。在这些实施方式中,处理器210可以接收一个或者多个带有光数据的信号,所述光数据为在对应的n个采样时间(t1、t2、t3、…、tn)的序列采样的亚像素移位的帧的序列的形式。可以显示与亚像素移位的帧相关联的一个或者多个LR图像。
处理器210还可以基于n个帧的序列(例如,亚像素移位的帧的序列)确定一个或者多个对象150的运动矢量。处理器210还可以使用SR算法且基于帧的序列(例如,亚像素移位的帧的序列)和确定的运动矢量来重建对象150的HR图像数据和HR图像。在某些情况下,对象150的重建的HR图像是高分辨率的黑白图像。在其它情况中,对象150的重建的HR图像是高分辨率的彩色图像。
在一些实施方式中,可以在不同的采样时间使用不同波长的光,以在光探测器122产生帧的多个序列。帧的每个序列是与不同波长或者色彩的光相关联的。处理器210可以基于与对应的波长相关联的帧的每个序列产生HR图像数据和HR图像。例如,三个波长的光(例如,分别为红色、绿色、蓝色(RGB)的光的波长)可以被用于产生帧的三个序列,每个帧与不同波长的光相关联。处理器210可以结合出自不同波长的光的图像数据以产生多波长或者多色彩的图像数据(例如,RGB彩色图像数据)。多波长或者多色彩的图像数据可以被用于在显示器230上产生多波长或者多色彩图像。
在一些实施方式中,可以在不同的采样时间使用不同入射角的光,以产生光数据的帧的多个序列。帧的每个序列是与不同的入射角和被成像的对象150的不同视角相关联的。处理器210可以产生对应于每个入射角的HR图像数据和HR图像。在某些情况下,处理器210可以基于与不同入射角相关联的帧的多个序列,使用断层摄影算法产生对象150的SR三维图像数据和SR三维图像。任意合适的断层摄影算法可以被用于计算来自不同入射角的光140的投影图像的三维图像数据和图像。一些合适的断层摄影算法的实施例包括滤波反投影法和迭代重建法。
实施方式的CRM(例如,存储器)220储存用于执行一些SROFM 10的功能的代码。代码可由处理器210来执行。
实施方式的CRM 220可以包括:a)运动矢量估算算法(图1中所示出的)的代码222,b)SR算法(图1中所示出的)的代码224,c)断层摄影算法的代码,d)转译在来自光探测器122的一个或者多个信号中接收的光数据(例如,帧的序列)的代码,e)显示基于帧中的图像数据的LR图像的代码,f)根据帧的序列生成SR二维图像数据(彩色或者黑白)的代码,g)根据与不同的入射角相关联的多个SR二维图像生成SR三维图像数据的代码,h)显示SR二维和/或三维图像的代码,i)和/或任意其它用于执行SROFM 10的功能的合适的代码。CRM 220还可以包括用于执行可以由本领域中那些普通的技能人员创建的任意信号处理或者其它软件相关的功能的代码。代码可以是任意合适的编程语言,包括C、C++、Pascal等等。
在图1中,CRM 220包括运动估算算法的代码222和像素SR算法的代码224。尽管在图1中CRM 220包括了某些代码,其它代码也可以被包含在CRM 220中或者其它实施方式中。例如,图1中的CRM 220也可以包括断层摄影算法的代码。
SROFM 10还包括与处理器210通信的显示器230,以接收图像数据和提供输出例如图像到SROFM 10的用户。可以使用任意合适的显示器。例如,显示器230可以是彩色显示器或者黑白显示器。另外地,显示器230可以是二维显示器或者三维显示器。在一个实施方式中,显示器230能够显示对象150的多个视角。
可以在不偏离本公开内容的范围下对SROFM 10进行改进。添加或者省略。另外地,根据特定的需要,SROFM 10的组件可以被集成或者被分离开。例如,在一些实施方式中,处理器210或者其它合适的处理器可以被集成到光探测器122中,从而光探测器122执行处理器210的一个或者多个功能。作为另一个实施例,处理器210和CRM 220可以是与SROFM10独立并且与SROFM 10通信的计算机组件。在另一个实施例中,处理器210或者其它合适的处理器可以被集成到显示器230中,从而显示器230在一些实施方式中执行处理器210的一个或者多个功能。
A.芯片上设计
在许多实施方式中,SROFM 10的主体110的至少一部分是具有一个或者多个流体通道112的微流体芯片(例如,微塑PDMS微流体芯片)的形式。在制造期间,微流体芯片可以和光探测器122(例如,CMOS传感器)被放置在第一表层120(例如,PDMS层)的顶部。在带有多个流体通道112的实施方式中,SROFM 10可以执行并行处理。
图2(a)是根据本发明的实施方式的SROFM 10的组件的示意图,该SROFM 10包括直接与CMOS传感器连接的微塑PDMS微流体芯片。在图2(a)中,SROFM 10包括具有微塑PDMS微流体芯片的主体110,该芯片的流体通道112的直部114(图2(c)中所示出的)直接连接到光探测器122(例如,CMOS传感器)。流体通道112包括连接到流体通道112的相对端部的入口160和出口170。光探测器112包括二维阵列形式的光检测元件124。尽管阐述的实施方式示出了单个流体通道112,但其它的流体通道112可以被包含在其它实施方式中以执行并行处理。
在图2(a)中,被成像的对象150移动通过微流体芯片中的流体通道112。在图解中,照明源(例如,环境光线)从微流体芯片的外部提供光140到流体通道112,从而在光探测器122(例如,CMOS传感器阵列)上创建投影图像。
图2(b)是根据本发明的实施方式的接近四分之一比例的微流体芯片形式的SROFM 10的主体110的相片。在图2(b)中,微流体芯片包括连接在光探测器122(例如,CMOS传感器)上的流体通道112。微流体芯片包括在流体通道112的相对端部上具有入口160和出口170的流体通道112。
图2(c)是根据本发明的实施方式的图2(a)的SROFM 10的一部分的图像。在图2(c)中,SROFM 10包括主体110中的U形流体通道112,以及入口160和出口170在相对的端部上。U形流体通道112包括三个直部114和两个弯部116。
B.基于智能手机的SPOFM
在一些实施方式中,SROFM 10可以包括智能手机或者其它移动通信设备形式的主机200,形成基于智能手机的SROFM 10。该基于智能手机的SROFM 10可以是轻便的、即时且现场诊断的设备。在某些情况下,使用远程医学系统,该基于智能手机的SROFM 10可以用于远程诊断,其中从患者端捕捉的图像被传输到中心位置。在中心位置的医生可以基于传输的图像进行诊断。在其它的实例中,基于图像识别的自动诊断系统可以在基于智能手机的SROFM 10上实现,例如,作为基于智能手机的应用软件实现。
尽管在图1中的主机200是智能手机,在其它实施方式中主机200可以包括另一个移动通信设备,例如另一个手机或者无线电话、个人数字助理、便携式计算机等等。在一个实施方式中,SROFM 10可以包括基于USB的移动通信设备的主机200,从而形成基于USB的轻便的小型显微镜,其还可以在相同的诊断系统中被用作轻便的、即时和现场诊断的设备。在某些情况下,移动通信设备可以是照明源。
图3是根据本发明的实施方式的基于智能手机的SROFM 10的一系列图像。在图3中,智能手机(即,主机200)具有处理器210(未示出)、包括图像处理软件的CRM 220(未示出)和USB接口240。图像处理软件包括运动矢量估算算法的代码222和SR算法的代码224。在某些情况下,图像处理软件可以是智能手机应用软件的形式。
在图3中,USB接口240被连接到适配器250,用于将主机200中的处理器210电子耦合到SROFM 10的主体110中的光探测器122。在图3中,主体110是微流体芯片的形式。在本实施方式中,智能手机控制光探测器122并用SR算法根据由光探测器122捕获的LR帧来生成HR图像。智能手机的用户可以使用触摸屏和智能手机上的其它控制区域(例如,按键)控制SROFM 10的图像获取。
SROFM 10的基于智能手机的实施方式可以提供一个或者多个技术优势。一个优势可以是,基于智能手机的SROFM 10是带有微流体芯片的高速紧凑的且简单的设计,其可以在半导体代工厂使用标准半导体方法来制造。缺少繁多的光学组件和包含平面设计格式是能够与半导体产业性能兼容的。另一个优势可以是低成本。采用通过半导体代工厂制造商的规模经济,SROFM 10中的微流体芯片可以花费低至$1来制造,并且可以在光探测器122的顶部上包含数百个并排的流体通道112来执行并行的图像获取过程。另一个优势可以是高吞吐量。通过同一微流体芯片中的多个流体通道112的并行处理允许升高整体吞吐量。考虑到它们的花费和尺寸优势,多个微流体芯片可以并行操作来进一步增加吞吐量。另一个优势可以易于样本定位和自动的成像实现。不同于其它显微方法,流体样本穿过光探测器122的流动保证了由SROFM 10对关注的每个生物体的检测。SROFM 10的流体通道性质还意味着从不需要进行视角寻找。另一个优势可以是消除了显微镜滑动分析步骤。SROFM 10的平台非常适于分析流体样本。通过删去人工密集和依赖技能的滑动分析,SROFM 10表现了更合理并且简单的用于流体样本的显微镜分析方法。事实上,SROFM 10表现出流式细胞仪和显微镜成像的优势的芯片级融合。另一个优势可以是由基于智能手机的SROFM 10进行的自动图像分析和处理。因为基于智能手机的SROFM10不需要寻找视角和调整显微镜焦点,其允许自动拒绝为明显真实的底片的对象图像并且明显地减少临床医生将需要检查原始数据处理的图像数量。另一个优势可以是去除对沉重装置的需要。基于智能手机的SROFM 10可以消除对常规显微镜的需求,并且使用磁性免疫体来处理样品,这将消除对离心分离机的需要。另一个优势可以是迅速的诊断结果。在某些情况下,在基于智能手机的SROFM 10中,诊断的时间可以从实际时间(用于处理样本的10分钟以及随后微观观察的15分钟)减小到小于1分钟来完成诊断过程。
II.SROFM图像处理
A.对超分辨率(SR)的介绍
在一些常规的成像系统中,光探测器不足够密集以满足Nyquist(奈奎斯特)标准。由这些光探测器捕捉的图像具有低分辨率,其分辨率由于混叠效应而降低。这种低分辨率系统的一个实施例是常规的带有CMOS传感器的成像设备。由于噪声约束,CMOS像素尺寸被限制在被成像的对象150(例如,生物细胞)所期望的特征的尺度的几倍到较大倍数的量级之间。该巨大的像素尺寸导致低分辨率,由于CMOS传感器以远低于样本的空间Nyquist速率进行采样,从而产生像素图像。其它类型的光探测器可以给予较好的分辨率,但是不接近实现CMOS传感器的规模经济,CMOS传感器不贵而且普通。
在这些系统中,SR(即,超分辨率)技术可以在某些情况下被使用,从而帮助减少混叠效应并提高图像分辨率。超分辨率是给予可以根据低分辨率帧的序列重建单个HR图像的成像处理技术的一个通用名。SR技术的实施例可以在IEEE信号处理杂志(IEEE Signal Processing Magazine)(2003)21-36页的Park、Sung Cheol等人的“超分辨率图像重建:技术概述(Super-resolution image reconstruction:a technical overview)”中查找到,其全部内容基于所有目的据此以引用方式并入。SR技术的一般原理包括取得低分辨率的帧序列,其中目标对象以低于Nyquist速率被采样,其中后续帧包含亚像素平移的移位。换言之,低分辨率帧的序列以亚像素采样速率被采样。用于从旋转和平移的帧序列重建HR图像的技术的实施例可以在光学工程(Optical Engineering)(1997)的Hardie、Russell C等人的“从旋转和平移的帧的序列的高分辨率图像重建及其在红外线成像系统的应用(High resolution image reconstruction from a sequence of rotated andtranslated frames and its application to an infrared imaging system)”中查找到,其全部内容基于所有目的据此以引用方式并入。如果知道了平移的移位,则可以根据低分辨率序列建立矩阵方程系统以求出亚像素值从而产生单个重建的HR图像。通常地,理论上甚至可以从明显地摧毁、模糊、转译以及旋转的LR图像序列复原原始的HR图像;分辨率仅仅受到衍射极限和噪声的限制,如IEEE信号处理杂志(IEEE Signal Processing Magazine)(2003)21-36页中Park、Sung Cheol等人的“超分辨率图像重建:技术概述(Super-resolution image reconstruction:a technical overview)”中所描述的。
一些常规SR算法的实施例可以在光学工程(Optical Engineering)(1995)34卷3130页的Gillette,J.等人的“使用亚像素技术的显眼的红外线成像器中的混叠减少(Aliasing reduction in staring infrared imagersutilizing subpixel techniques)”;IEEE图像处理会报(IEEE Transactions onImage Processing)(2004)13卷1327-1344页的Farsiu,S等人的“快速且鲁棒的多帧超分辨率(Fast and robust multiframe super-resolution)”;光学快报(Optics Express)(2010)18卷11181-11191页的Bishara,W等人的“使用像素超分辨率的宽广视场的无透镜芯片上的显微镜(Lensfreeon-chip microscopy over a wide field-of-view using pixel super-resolution)”;应用光学(Applied Optics)(2006)45卷1203-1214页的Shi,J等人的“用于微扫描成像系统的小核超分辨率解决方法(Small-kernel superresolutionmethods for microscanning imaging systems)”中找到,这些文献的全部内容基于所有目的据此以引用方式并入。这些SR算法的HR图像复原依赖于LR图像之间的相对的亚像素运动,并且在这种情况下,每个帧提供了唯一的对着镜头的注视。
常规的SR算法使用非控制的和控制的SR微扫描方案。在非控制的SR微扫描方案中,在图像采集期间,照相机可以被固定以注视移动对象或者照相机可以被固定在移动平台上(例如,将照相机持在手中)以注视固定的对象。非控制的SR微扫描方案的实施例在光学工程(OpticalEngineering)(1995)34卷3130页的Gillette,J.等人的“使用亚像素技术的显眼的红外线成像器中的混叠减少(Aliasing reduction in staring infraredimagers utilizing subpixel techniques)”中找到。还可以引入控制器和致动器以精确地控制LR图像序列的相对的亚像素运动,并且这被称为控制的SR微扫描。控制的SR微扫描方案的实施例可以在光学工程(OpticalEngineering)(1995)34卷3130页的Gillette,J.等人的“使用亚像素技术的显眼的红外线成像器中的混叠减少(Aliasing reduction in staring infraredimagers utilizing subpixel techniques)”中找到、光学快报(Optics Express)(2010)18卷11181-11191页的Bishara,W等人的“使用像素超分辨率的宽广视场的无透镜芯片上显微镜(Lensfree on-chip microscopy over a widefield-of-view using pixel super-resolution)”和应用光学(Applied Optics)(2006)45卷1203-1214页的Shi,J等人的“用于微扫描成像系统的小核超分辨率解决方法(Small-kernel superresolution methods for microscanningimaging systems)”中找到。
SROFM 10使用基于将流体通道112与光检测元件124(例如,CMOS传感器)的二维阵列相集成的半控制的SR微扫描方案。通常地,由SROFM10采样的帧之间的微观对象的亚像素移动可以被视为半控制的,因为微观对象的移动是基于可控制的流体流以及可控制的微粒传输,这部分由于被流体通道112的几何形状所限制。例如,流体通道112的高度可以被设计为保持对象150在光探测器122的第一表层120附近,这样可以提高由SROFM 10捕获的微观对象的图像质量。SROFM 10的半控制的SR微扫描方案允许根据由光探测器(包括稀疏光探测器)采样的LR帧的序列重建微观对象150的HR图像。
在SROFM 10使用的半控制的方案中,被成像的对象150流过光检测元件124的二维阵列上的流体通道112。光探测器122在对象150的每个亚像素移动时记录一帧。单独地,每个帧可以被用于产生LR图像,其中分辨率被限制到光检测元件124的尺寸(即,像素尺寸),并且光检测元件124较大。在对象150移动穿过光探测器122时,对象150的LR帧的序列被记录并随后被用于使用SR算法重建对象150的反混叠HR图像。在SROFM 10中使用的半控制的SR微扫描方案的一些细节可以在芯片实验室(Lab Chip)(2010)10卷3125-3129页的Zheng,G等人的“用于芯片上细胞成像的亚像素解析的光流体显微镜(Sub-pixel resolvingoptofluidic microscope for on-chip cell imaging)”中找到,其全部内容基于所有目的据此以引用方式并入。
许多SR算法的HR图像复原主要依赖于对LR图像中对象的精确的亚像素移位(总体被称为LR图像序列的运动矢量)的了解。然而,对于常规的非控制的SR微扫描情况,其难以精确地估算这类亚像素运动;因此,其对SR算法的性能有实际限制。对SR算法性能上的限制的实施例可以在IEEE会报-图样分析和机器智能(IEEE Transactions on Pattern Analysis andMachine Intelligence)(2004)83-97页的Lin,Z和Shum,H等人的“在局部转译下基于重建的超分辨率算法的基本限制(Fundamental limits ofreconstruction-based superresolution algorithms under local translation)”中找到,其全部内容基于所有目的据此以引用方式并入。对于常规的控制的微扫描情况,经常涉及到昂贵的运动控制器和致动器。另外地,亚像素限制内的精确的逐步扫描可能是耗时的。
在由SROFM 10使用的半控制的SR微扫描方案中,运动矢量可以容易且精确地确定,允许高质量HR图像复原。在SROFM 10中,通过分析穿过LR图像序列的对象的近似位置来确定运动矢量。在SROFM 10中运动矢量易于被分析,因为在流体通道112内的流速是高度稳定的(即,低雷诺数)。对于以恒速移动的对象,运动矢量可以根据序列中第一图像和最后图像中对象150的位置来计算出。然而,在许多实例中,由于对象自身的几何形状、微流体通道112中的缺陷和/或流速变化的缘故,对象150的运动不是恒速的或者不是纯粹的平移。为了补偿这种变速运动,运动矢量估算算法可以用于根据LR图像的序列精确地估算运动矢量。一些这类运动估算算法的实施例可以在芯片圈(Lap Chip)(2010)10卷的Zheng,G等人的“用于芯片上细胞成像的亚像素解析的光流体显微镜的补充信息(Supplementary Information for:Sub-pixel resolving optofluidic microscopefor on-chip cell imaging)”中找到,其全部内容基于所有目的据此以引用方式并入。
在一个运动矢量估算算法中,首先去掉每个LR图像的背景,因此对比度增强。LR图像中的高度分散的对象显得比背景暗,因此该信息可以用于确定每个LR帧内的对象的位置。为了做到这点,使用由图像直方图的熵计算出的单个阈值来二值化图像。二值化图像的实施例可以从Kapur,J等人在计算机视觉、制图和图像处理(Computer vision,graphics,and imageprocessing)(1985),29,273-285页所发表内容中找到。这些根据LR图像序列的每个二值化图像的几何质心随后被计算,并且质心的整个阵列被低通滤波以说明样本的平稳的流动模式和来自二值化及计算每个单独的LR图像的质心的量化误差两者。
对于具有低对比度或者亮点的样本,运动矢量以类似方式计算,除了以两个阈值来二值化图像外。计算背景噪声电平,并且通过将在噪声电平以上或者以下一定量的任意像素转换为0,而使其余像素为1,从而二值化图像。同样的,为了避免由于对象150的几何形状造成的误差,算法使用对象150的边界框的像素坐标,并低通滤波数据以获得亚像素移位值。对于小于像素尺寸的对象150(例如,微球体),难以区别由对象150的阴影得到的像素响应与传感器的背景噪声。在这种情况下,通过观察对象150的期望路径(平行于通道壁)上的像素的闪烁来获取运动矢量。根据原始数据,获取期望对象流过的像素坐标。该路径可以是平行于通道壁的流体通道112内的像素的任意线路,因为对象150紧随该溶液的层流。算法提取路径上的像素响应的时间变化,其示出了在对象150移动穿过每个像素时像素的闪烁,并且根据斜率计算运动矢量(Δx/Δf,Δy/Δf)。
B.使用SPOFM的一些技术优势
比起常规的SR微扫描方案,由SROFM 10使用的半控制的微扫描方案可以提供一个或者多个技术优势。比起常规的非控制的SR微扫描方案的优势可以是,不同于常规的非控制的SR微扫描方案,在本方案中对象的运动可以由微流体通道中的压力驱动流或者其它流体流或者微粒传输技术来控制。比起常规的控制的SR微扫描方案的优势是本方案运用流体流的运动阻尼效应,其可以导致更精确的亚像素运动矢量估算。比起常规的控制的SR微扫描方案的另一个优势是本方案不牵涉使用昂贵的运动控制器和致动器。
比起常规的OFM设备,SROFM 10也可以提供一个或者多个技术优势。一个优势可以是:因为SROFM 10不依赖于移动穿过孔径阵列或者光电传感器阵列来获得图像,因此用于捕获对象图像的时间可以比常规的OFM短100倍,且SROFM 10的吞吐量可以比常规OFM大大约100倍。另一个优势可以是SROFM 10的分辨率极限大约为0.5微米,这高于常规OFM的0.85微米。另一个优势可以是:因为SROFM 10可以纠正对象的转动影响,SROFM 10的图像成品率几乎是100%,这比常规OFM高大约10倍(常规OFM的成品率受到对象旋转的限制,其成品率大约为10%)。另一个优势可以是,SROFM可以成像在流体通道中转动的对象,这对于常规OFM来说是困难的。SROFM 10的另一个优势是其可以产生对象的三维图像。常规的OFM设备的实施例可以在国家科学院会议记录(Proceedings of the National Academy of Sciences)(2008)105卷10670页的Cui,X等人的“用于秀丽隐杆线虫的无透镜高分辨率芯片光流体显微镜(Lensless high-resolution on-chip optofluidic microscopes for Caenorhabditiselegans and cell imaging)”中找到。
另外地,SROFM 10比起常规的高分辨率显微镜提供了许多优势。例如,SROFM 10去除了对常规的高分辨率显微镜的巨大的、笨重的或者昂贵的光学组件的需求。SROFM 10可以用简单的、廉价的设计来获得HR图像,该设计将流体通道112结合在光探测器122上,并带有可以根据以亚像素采样速率捕捉的LR帧的序列产生HR图像数据的基于软件的信号处理组件(例如,处理器210)。光探测器122在时域以高采样速率(例如,亚像素采样速率)对帧进行采样以补偿在空间域对投影图像的低采样,因为空间分辨率是受到像素尺寸限制的。
C.SROFM的SR成像
通常地,SROFM 10在时域使用高采样速率(例如,亚像素采样速率)以弥补投影图像的空间域中的亚奈奎斯特速率采样,组合用光流体显微镜进行超分辨率成像中所做的工作以提供分辨率明显增强的简单的,低成本的,高吞吐量的显微镜设备。
SROFM 10具有携带被成像的对象150通过流体通道112并穿过光探测器122(例如,CMOS传感器阵列)的流体流。提供到流体通道112的光140在光探测器122(例如,CMOS传感器阵列)上创建投影图像。z在对象150移动通过流体通道112时,光探测器122以亚像素采样速率采样亚像素移位的LR帧的序列。亚像素移位指的是被成像的对象150小于光检测元件124尺寸(像素)的移动。
通常地,光检测元件124的二维阵列被定向为相对于流体通道112的纵轴的角度为α(如图1中所示出的)。通过以某一角度定向二维阵列,与流体流一起大致沿着流体通道112的纵轴移动的对象150在光检测元件124的二维阵列的局部轴的x’方向和y’方向平移。尽管可以使用任意角度,该角度通常在10到30度的范围内以保证沿着y′方向的足够位移以用于使用SR算法进行HR图像重建,并且通过在关注的成像区域中使用较少的像素行来最大化帧采样速率。
基于亚像素移位的帧的序列的原始图象示出了根据光探测器122的像素尺寸而被像素化的对象150的直接投影。因为亚像素移位的帧能够以较高的帧采样速率(例如,亚像素采样速率)被获取,成像的对象150在序列内的后续帧之间具有亚像素移位(移位),这允许使用SR算法来复原(重建)平滑处理的重建的HR图像。基于由光探测器122捕捉的亚像素移位的帧的序列的原始图像的分辨率通常基于像素尺寸。例如,Aptina
Figure BDA00002095631200261
MT9M001C12STM CMOS芯片具有5.2微米的像素尺寸,且由该传感器芯片产生的投影图像大约为5.2微米。
亚像素移位的LR(二次采样的)帧的序列以足够高的速率被捕捉,以致多个帧在像素长度的对象移动之间被捕捉。二次采样的低分辨率的帧的序列可以被用于使用SR技术(算法)产生投影的高分辨率二维图像。投影的HR图像可以进一步用光学系统的点扩散函数展开,以复原对象150的聚焦图像。
根据在移动通过流体通道112的流体流中的对象150的光探测器122上的直接投影的亚像素移位的帧的序列,SROFM 10可以使用任意合适的SR算法来重建一个或者多个HR图像。在该HR图像重建中使用的亚像素移位的帧的序列在邻近的帧中具有亚像素移位来为HR图像提供新的信息。当带有对象150的流体样本流动通过光检测元件124(例如,CMOS图像传感器)的二维阵列上的流体通道112(例如,PDMS微流体通道)的时候,通过获取帧的序列,在采样时间之间可以容易地保持亚像素移位。
图4(a)是根据本发明的实施方式的基于在第一采样时间捕捉的通过Aptina Inc.
Figure BDA00002095631200271
CMOS芯片产生的第一帧的第一LR图像。图4(b)是根据本发明的实施方式的基于在第二采样时间捕捉的通过图4(a)的Aptina Inc.
Figure BDA00002095631200272
芯片产生的第二帧的第二LR图像。图4(c)是根据本发明的实施方式的基于图4(a)的第一帧和图4(b)的第二帧的重建的HR图像,并且使用SR算法重建。增强因子(分辨率提高量)8被应用到重建中,并且因此,图像的单个像素是5.2/8=0.65微米。
此外,该超分辨率成像概念可以被延伸到二维以外。使用不同入射角的光从而产生多个投影的计算的断层摄影可以用于创建对象150的图像的三维重建。使用计算的断层摄影以产生对象的三维图像的实施例可以在生物医学光学杂志(Journal of Biomedical Optics)(2009)14卷的Miao,Qin等人的“使用光学投影断层摄影显微镜的等角高分辨率的双模式三维成像单个细胞(Dual-modal three-dimensional imaging of single cells withisometric high resolution using an optical projection tomographymicroscope)”中找到,其全部内容基于所有目的据此以引用方式并入。SROFM 10可以使用任意合适的层析成象重建算法来重建对象150的三维图像。
D.SROFM的一般操作
在SROFM 10的一般操作期间,带有被成像的对象150的流体标本移动通过流体通道112并穿过光探测器122的光检测元件124的二维阵列。来自一个或者多个照明源的光140被提供到流体通道112。光探测器122以亚像素采样速率采样亚像素移位的帧的序列。处理器210使用运动估算算法来估算对象150的运动矢量。处理器210基于运动矢量和亚像素移位的帧的序列重建对象150的一个或者多个HR图像。
在一些实施方式中,包含足够浓度的对象150的流体标本通过入口160被导入流体通道112中。可以使用任意用于流体流或者微粒传输的技术。例如,流体流可以通过毛细管作用以及入口160和出口170之间的压力差而被引入,传送对象150通过光探测器122(例如,CMOS传感器)的光检测元件124的二维阵列上的成像区域。在某些情况下,流体通道112被调整大小以将被成像的对象保持在靠近光探测器122的第一表面112(a)的成像区域中。
在对象移动通过流体通道112时,来自一个或者多个照明源的光140照明流体通道112以在光探测器122上生成投影。光探测器122以亚像素帧采样速率捕捉LR帧的序列。LR图像的序列可以用LR帧的序列来产生。
可以使用任何将产生用于使用SR算法重建HR图像数据和对应的HR图像的合适的LR帧的序列的流速、亚像素帧采样速率和视场(FOV)。在一个实施例中,对象150以200μm/s的流动速度、500fps的亚像素帧采样速率和250μm×3mm的视场(FOV)被成像。流体标本的流速以及因此我们的吞吐量,可以在FOV较小且亚像素帧采样速率较高的情况下被进一步增大。在一个实施例中,50LR帧(50LR图像)足以产生分辨率增强因子为7的HR图像,这意味着使用最大亚像素帧采样速率50000fps,和50μm×100μm的FOV,对象150的连续流能够以1000图像/秒的速率被成像,其中每个图像可能包括多个对象150(例如,细胞)。SROFM 10中的吞吐量的极限是光探测器122的帧采样速率。因此,为了增加SROFM 10的吞吐量,可以使用具有高速快门的光探测器。一些高速全域快门CMOS图像传感器的实施例是Aptina MT9M001和Aptina MT9T001CMOS传感器。一些高速快门光探测器(例如,Aptina MT9M001和Aptina MT9T001)可以具有十倍于其它光探测器(例如,Aptina MT9V403)的帧采样速度。这些高速快门光探测器122的较高的帧采样速率以及和微流体系统的集成可以允许以高分辨率的成像性能对生物样本和其它流体样本进行高吞吐量的芯片上扫描。
当使用多帧像素SR技术时,对象150的运动矢量的精确测定对于高质量的复原是重要的。在SROFM 10中,亚像素移位可以通过检查对象在LR帧的序列中的移动来确定。对于以恒速移动的对象,运动矢量可以根据对象150在第一LR图像和最后LR图像中的位置来计算出。然而,在许多实例中,由于对象自身的几何形状、微流体通道112中的缺陷和/或流速变化的缘故,运动不是恒速的或者不是纯粹的平移。为了补偿这种变速运动,SROFM 10使用运动矢量估算算法来根据LR帧的序列估算运动矢量。一些这类运动估算算法的实施例可以在芯片圈(Lap Chip)(2010)10卷的Zheng,G等人的“对用于芯片上细胞成像的亚像素解析的光流体显微镜的补充信息(Supplementary Information for:Sub-pixel resolvingoptofluidic microscope for on-chip cell imaging)”中找到。在以上的IIA部分中描述了一些这类运动估算算法的细节。
一旦由SROFM 10捕获了帧的序列,处理器210可以根据LR帧的序列确定被成像的对象的运动矢量。使用帧的序列和确定的运动矢量,处理器210可以使用SR算法来获得对象150的一个或者多个图像。可以使用的SR算法的实施例是移位叠加重建算法,其可以在IEEE图像处理会报(IEEE Transactions on Image Processing)(2004)13卷1327-1344页的Farsiu,S等人的“快速且鲁棒的多帧超分辨率(Fast and robust multiframesuper-resolution)”、或者IEEE图像处理会报(IEEE Transactions on ImageProcessing)(2001)10卷1187-1193页的Elad M和Hel-Or,Y的“用于纯平移运动和公共空间不变模糊的快速超分辨率重建算法(A fastsuper-resolution reconstruction algorithm for pure translational motion andcommon space-invariant blur)”中找到,其全部内容基于所有目的据此以引用方式并入。
来自光探测器122的原始LR图像(例如,帧)可以被认为是最初图像的采样频率对应于像素尺寸的二次采样(即,混叠)版本。在每个帧,对象150从之前的帧移位一小段亚像素位移,该亚像素位移可以根据对象穿过LR图像的序列的速度(例如,运动矢量)来估算出。
在使用移位叠加SR算法的重建过程中,形成增强因子为n的HR图像网格,其中HR图像网格的每个n×n的像素区域与LR帧网格的1×l的像素区域相对应。随后,HR图像网格用基于LR帧的序列的对应的LR像素值填充。n×n网格内的像素的映射根据已知的每个图像的估算的亚像素移位来确定。换言之,每个LR图像从其最初位置移动对象的相对的亚像素移位,并随后被叠加在一起以形成HR图像。最后,使用维纳(wiener)解卷积方法的去模糊被用于去除最终图像中的模糊和噪声。
图5示出了由本发明的实施方式的SROFM 10产生的图像与由具有20×物镜的常规显微镜产生的图像的比较。图5(a)、(d)、(g)、(j)、(m)和(p)是从根据本发明的实施方式的SROFM 10获取的微观对象的原始LR图像。图5(b)、(e)、(h)、(k)、(n)和(q)是从根据本发明的实施方式的SROFM 10获取的微观对象的HR图像。根据40到50LR帧的序列重建HR图像。图5(c)、(f)、(i)、(l)、(o)和(r)是从20×物镜的常规显微镜获取的微观对象的图像。图5(a)、5(b)和5(c)中所示出的微观对象是原生生物小眼虫(d~15μm)。图5(d)、5(e)和5(f)中所示出的微观对象是15μm微球体。图5(g)、5(h)和5(i)中所示出的微观对象是侵袭内阿米巴囊肿(Entamoeba invadens cyst)(d~25μm)。图5(j)、5(k)和5(l)中所示出的微观对象是侵袭性内阿米巴囊肿(d~25μm)。图5(m)、5(n)和5(o)中所示出的微观对象是侵袭性内阿米巴囊肿(d~25μm)。图5(p)、5(q)和5(r)中所示出的微观对象是老鼠红细胞(d~5μm)。在SROFM 10中使用的光探测器的像素尺寸以及由此LR图像的分辨率极限,对于眼虫属和微球体是5.2μm,对于内阿米巴属和老鼠红细胞是3.2μm。以分辨率增强因子10来获取HR图像。注意到每个单独的LR图像包括非常少的除了对象的位置和粗略尺寸之外的空间信息。由SROFM 10获取的示出在图5(b)、(e)、(h)、(k)、(n)和(q)中的图像比得上图5(c)、(f)、(i)、(l)、(o)和(r)中所示出的用具有20×物镜的常规显微镜捕捉的图像。
为了确立在增加分辨率增强因子和分辨率极限上分辨率增强的程度,通过实施方式的SROFM 10成像0.5μm微球体的溶液的流体标本。图6(a)是根据本发明的实施方式的增强因子为10的0.5μm微球体的重建的HR图像以及对应的根据重建的HR图像的0.5μm微球体的强度分布图。图6(b)示出了根据本发明的实施方式的增强因子为13的0.5μm微球体的重建的HR图像以及对应的根据重建的HR图像的0.5μm微球体的强度分布图。这些微球体的中心能够以0.80μm和0.65μm的半高全宽被清晰地分辨和识别。图6(a)和图6(b)中的强度分布图的FWHM分别是0.8μm和0.66μm。基于增强因子为13的第二数据集暗示该实施方式的SROFM 10分辨率极限为0.75μm(只要邻近的颗粒相距3个或者更多个SR像素,则其可以被分辨)。可以用近场扫描光学显微镜(NSOM)测量带有不同的样本层(sample-to-floor)间隔的分辨率极限的更详细研究。
E.操作方案
在许多实施方式中,流体标本在光探测器(例如,高速CMOS传感器)的正上方(几微米)流动,照明源140在顶部。在被成像的对象移动通过流体通道112时,光探测器122采样亚像素移位的帧的序列,该序列可以被用于产生“像素化的”LR图像的序列。处理器210可以使用SR技术来组合两个或者更多的亚像素移位的帧,从而产生HR图像的较小的序列。这类SR技术的实施例可以在视觉通信和图像表示杂志(Journal of VisualCommunication and Image Representation)(1998年3月)第1期的Schultz,Richard等人的“用于超分辨率图像序列增强的亚像素运动估算(Subpixelmotion estimation for super-resolution image sequence enhancement)”中找到,其全部内容基于所有目的据此以引用方式并入。
SROFM 10的一般操作原理包括以低于Nyquist速率采样亚像素移位的帧的序列,并且其后续帧包含稍微的亚像素平移的移位。如果平移的移位是已知的,则根据亚像素移位的帧可以建立矩阵方程的系统,从而求出亚像素值以产生用于一个或者多个HR图像的HR图像数据。通常地,最初的HR图像可以在理论上被复原,即使该帧序列与明显损毁、模糊、平移和旋转的LR图像相关联。实施方式的HR图像的分辨率仅受到衍射极限和噪声的限制。
SROFM 10的实施方式可以使用不同的操作方案。以下描述了实施方式的SROFM 10使用的一些操作方案的实施例。
方案1-单色二维SPOFM
在第一方案,实施方式的SROFM 10可以根据由单色光探测器122捕获的亚像素移位的帧的序列和运动矢量重建对象150的一个或者多个SR单色的二维图像。运动矢量描述了对象150的平移移位,并且可以使用运动估算算法来估算。每个亚像素移位的帧对应于一个LR投影图像。
针对SROFM 10的情况,仅有已知的平移移位,系统的空间不变点扩散函数H也是已知的。因此可以应用更有效且计算效率高的SR技术,例如在IEEE图像处理会报(IEEE Transactions on Image Processing)(2001)10卷1187-1193页的Elad M和Hel-Or,Y的“用于纯平移运动和公共空间不变模糊的快速超分辨率重建算法(A fast super-resolution reconstructionalgorithm for pure translational motion and common space-invariant blur)”中所描述的SR技术,其全部内容基于所有目的据此以引用方式并入。
SROFM 10的期望输出是对象150的最初(高分辨率)图像的图像数据X。对于对象的最初(高分辨率)图像的图像数据X,对象的LR帧的序列:
{Yk=DkHFkX+Vk}          (式1)
可以获得,其中F是平移移位、H是光学系统的点扩散函数、Dk是最初图像数据的减采样、而Vk是自相关为Wk=E{VkVk T}的白噪声。
因此,通过最小化最小二乘误差,可以根据N个LR帧的序列获取计算的HR图像数据如下:
X ^ = ArgMin X { Σ k = 1 N [ Y k - D k HF k X ] T W k 1 [ Y k - D k HF k X ] } (式2)
该优化可以用封闭式公式计算来简单地完成。该优化的最终结果是根据由光探测器122捕获的LR帧产生的对象150的准确对焦的HR图像的图像数据。
方案2-彩色二维SROFM
在第二方案中,SROFM 10包括彩色光探测器112(例如,彩色CMOS传感器),其可以捕获亚像素移位的彩色帧的序列,该序列可以用于显示彩色LR图像的序列。处理器210可以根据亚像素移位的彩色帧的序列和运动矢量,使用任何合适的彩色SR技术产生一个或者多个SR彩色图像数据和图像。例如,最简单的技术包括单独地在每个色彩分量上使用单色的SR技术。而另一个实施例中,可以使用更复杂的SR技术,其包括变换到不同的色彩空间,例如,在威利期刊(Wiley Periodicals)(2004)的Farsiu,Sina等人的“超分辨率的优势及挑战(Advances and challenges insuper-resolution)”中找到的SR技术。
方案3-计算的彩色二维SROFM
在第三方案中,不同波长的光可以用于在不同的时间点照明样本,生成LR帧的几个序列,每个序列使用不同的波长或者色彩的光。产生的HR图像可以随后被组合以计算被成像的对象的彩色HR图像数据和图像。光的波长可以被选定以覆盖最宽的可见色彩范围。
在该方案中,不同波长的光或者不同色彩的光在一系列采样时间期间顺序地照明流体标本。通过依次提供不同波长或者色彩的光,光探测器122可以采样LR帧的序列,每个序列与不同的波长或者色彩相关联。在一个实施方式中,不同的照明源可以被用于产生不同波长或者色彩的光。在操作期间,照明源在采样期间可以接连地(顺序地)被打开和关闭。当照明源被打开时采样的帧的序列可以被用于使用SR算法重建与对应的照明源相关的波长或者色彩的HR图像。这样,SROFM可以重建每个波长或者色彩的HR图像数据和HR图像。SROFM 10可以组合不同波长或者色彩的重建的HR图像以获得多色彩的HR图像。
在一个实施方式中,SROFM 10可以在一系列采样时间期间使用RGB照明来顺序地照明流体标本。RGB照明指的是使用三个照明源(例如,LED):红色光源、绿色光源和蓝色光源。在操作中,三个照明源在采样期间可以被接连地(顺序地)打开或者关闭。在该实施例中,每三个采样时间,光探测器122将采样来自三个照明源中的一个的光投影的一帧。与特定的色彩相关的帧的序列可以在该色彩的照明源打开时被采样。每个帧的序列可以被用于使用SR算法重建与对应的照明源相关的色彩的SR彩色图像和图像数据。这样,SROFM 10可以重建SR红色图像、SR绿色图像和SR蓝色图像。SROFM 10可以组合这三个重建的HR图像以获得多色彩HR图像。
例如,使用RGB照明的SROFM 10可以被用于重建感染疟疾的染色红细胞的彩色HR图像。图7是根据本发明的实施方式的使用RGB照明感染疟疾的两个染色的红细胞用SROFM获取的图像。图7(A)示出了染色的红细胞的LR图像。图7(B)、7(C)和7(D)示出了用三个LED照明源顺序地获取的三个HR图像(红色-B、绿色-C和蓝色-D)。SROFM 10可以组合每个染色的红细胞的三个HR图像(红色-B、绿色-C和蓝色-D)以产生一个彩色HR图像。
方案4-用于三维显示器的SROFM
在第四方案中,SR成像概念被延伸到在三维显示器230上的三维成像。在该方案中,对象150以n个不同的入射角θ1、…θn被成像以获得二维HR图像和对应的图像数据。可以使用任意数量n的入射角(例如,2、3、4等等)。在某些情况下,不同的入射角的n个二维HR图像中的两个或者更多可以被组合以形成三维HR图像。在该方案中,由SROFM 10产生的二维HR图像和/或三维HR图像可以在三维显示器(例如,三维监视器)上显示。
在一种情况中,一个或者多个照明源在采样期间提供来自不同的入射角的光140。在一个实施例中,一个或者多个照明源可以从一个帧到下一个邻近的帧在不同入射角的光之间循环,从而创建投影的LR图像的一个或者多个序列。如果使用多于一个的具有多于一个入射角的照明源,照明源在采样期间可以接连地(顺序地)被打开和关闭。通过从多个入射角顺序地提供光,光探测器122可以采样多个LR帧的序列,每个序列与不同的入射角相关。在另一个实施例中,一个或者多个照明源可以在第一系列的采样时间期间提供第一入射角的光,并随后在第二系列的采样时间期间提供第二入射角的光等等,直到对应于n个不同的入射角的帧的n个序列被采样。
在第二种情况中,被成像的对象150可以在帧的不同序列的采样之间旋转。
在帧的序列被采样后,SROFM 10可以使用SR算法来重建不同入射角的二维HR图像数据和图像。根据与对应的入射角相关的帧的序列,重建每个二维HR图像数据或者图像。SROFM 10可以组合不同入射角的二维HR图像以产生三维HR图像。
图8具有根据本发明的实施方式,基于不同入射角的光,用SROFM 10获取的小眼虫的图像。图8(a)是根据本发明的实施方式的由SROFM 10采样的小眼虫的第一LR帧。该第一LR帧是与左侧投影相关的帧的序列中的第一个。图8(b)是根据本发明的实施方式,由SROFM 10获取的小眼虫的重建的左侧投影SR二维图像。图8(c)是根据本发明的实施方式,由SROFM 10获取的小眼虫的重建的右侧投影SR二维图像。图8(d)是根据本发明的实施方式的由SROFM 10获取的小眼虫的三维HR图像。图8(d)中所示出的三维HR图像是通过将图8(b)中所示出的重建的左侧投影SR二维图像与图8(c)中所示出的重建的右侧投影SR二维图像组合所产生的红色-蓝绿色立体图像。图8(e)是根据图8(b)和8(c)插入的图像,以示出图8(b)和8(c)中使用的多个视角。
方案5-使用计算的断层摄影的三维SROFM
在第五方案中,SR成像概念被延伸到使用计算的断层摄影的三维成像。在该方案中,入射光140可以被调整到n个不同的入射角θ1、…θn。每个入射角提供对象150的不同的投影和视角。光探测器122在每个入射角采样帧的一个系列。
在该第五方案中,一个或者多个照明源可以被用于从不同的入射角提供入射光140。在一些实施方式中,一个或者多个照明源可以从一个帧到下一个帧在不同入射角的光之间循环,从而由光探测器122获取投影的LR帧的不同序列。如果使用多个照明源,照明源在采样期间可以接连地(顺序地)被打开和关闭。在获得相同对象150的不同角度的两个HR图像的最简单情况的一个示范性实施方式中,两个不同的投影照明源可以交替地用于邻近的帧,从而创建两个LR帧序列。在其它实施方式中,一个或者多个照明源可以在第一系列采样时间期间提供第一入射角的光,并随后在第二系列采样时间期间提供第二入射角的光等等,直到对应于n个不同的入射角的帧的n个序列被采样。
图9是根据本发明的实施方式的来自三个不同的入射角θ1、θ2和θ3在光探测器上的三个投影的示意图。改变来自照明源的光140的入射角提供了对象150的不同视角。图9示出了分别对应于三个不同入射角θ1、θ2和θ3的视角1、视角2和视角3的三个不同视角的示意图。在图9中,θ1=0度,并且在负z轴的方向。
在其它实施方式中,被成像的对象150可以在帧的不同序列的采样之间旋转。在这些实施方式中,照明源保持静止。
在对于每个入射角采样帧的一个系列后,SROFM 10可以产生不同的入射角的二维HR图像。随后,SROFM 10可以根据两个或者更多产生的二维HR图像使用断层摄影算法产生三维HR图像。
IV.诊断应用
在诊断应用中,SROFM 10的实施方式可以被用于诊断健康状态和疾病,例如疟疾、镰状细胞性贫血、细菌感染等等。在这些应用中,SROFM10可以使用其彩色能力以用于染色的对象,例如,细胞和细菌体及其它微生物的SR彩色成像。在一个这类实施方式中,例如,可以使用三个照明源:红色照明源、绿色照明源和蓝色照明源。这些照明源在某些情况下可以由LED提供。在操作中,三个照明源在采样期间被接连地(顺序地)打开。当特定的照明源被打开时采样的帧的序列可以被用于重建对应色彩的HR图像。这样,SROFM 10可以重建每个色彩:红色、绿色和蓝色的HR图像。例如,在每三个采样时间采样的帧的序列可以被用于重建每个对应色彩的HR图像。SROFM 10可以组合这三个HR图像以获得染色对象的最终的彩色HR图像。在另一个实施方式中,彩色光探测器可以被用于产生彩色HR图像。
使用由SROFM 10获取的染色对象的重建的SR彩色图像,用户或者处理器210可以通过识别细胞的典型形态或者色彩,或者病原体来诊断健康状态和疾病。例如,处理器210可以使用图像识别算法的代码以典型形态或者色彩来识别病原体或者细胞。处理器210可以随后基于该识别来诊断健康状态和疾病。
疟疾是可以用SROFM 10来诊断的疾病的一个实施例。疟疾每年都会造成数百万人死亡,据估算,每年有4亿到6亿起病例。开发廉价的疟疾诊断技术是与该流行病战斗的决定性一步,尤其在发展中国家。
用于基于成像的疟疾诊断的常规方法包括在载玻片上准备一薄层血液,其在样本收集和成像之间通常要花费10到15分钟。由于SROFM 10使用液体形式的样本(即,流体标本),该准备步骤可以被明显地简化为将一滴血液混合到准备好的试剂溶液中这么简单,该试剂溶液包括阻凝剂和染色溶液。
在用于疟疾诊断的SROFM 10的诊断方案中,使用用甲苯胺蓝染色的疟原虫的溶解的染色方案来制备流体标本。该染色仅突出深紫色的寄生虫,而将红细胞染成浅桃色。这样,血细胞中的寄生虫可以被识别,并且可以确诊患者有寄生虫血症。试剂混合物可以被进一步优化,从而为寄生虫的识别提供足够的血细胞浓度和高对比度的染色。
在一个这类用于诊断疟疾的应用中,SROFM 10使用其彩色能力用于染色的红细胞的SR成像,从而确定该红细胞是否具有导致感染疟疾的寄生虫。在这些实施方式中,使用三个照明源:红色照明源、绿色照明源和蓝色照明源。这些照明源在某些情况下可以由LED提供。在操作中,三个照明源在采样期间被接连地(顺序地)打开。当特定的照明源被打开时采样的帧的序列可以被用于重建对应色彩的HR图像。这样,SROFM 10可以重建每个色彩:红色、绿色和蓝色的HR图像。例如,在每三个采样时间采样的帧的序列可以被用于重建每个对应色彩的HR图像。SROFM 10可以组合这三个HR图像以获得染色的红细胞的最终的彩色HR图像。
图10(a)是根据本发明的实施方式的基于疟疾诊断的SROFM 10的示意图。在图10(a)中,SROFM 10包括主体110,该主体110具有直接耦合到光探测器122(例如,CMOS传感器)的微塑PDMS微流体芯片。流体通道112包括连接到流体通道112的相对端部的入口160和出口170。光探测器112包括二维阵列形式的光检测元件124。在图10(a)中,被成像的红细胞移动通过微流体芯片中的流体通道112。
在本实施方式中,红色、绿色和蓝色照明源(例如,FED)提供光140(具有与红色、绿色、蓝色相关的波长的光)到流体通道112,以在光探测器上创造投影图像。这三个照明源在采样期间被接连地(顺序地)打开,并且因此,SROFM 10可以重建每种色彩(红色、绿色、蓝色)的HR图像。SROFM 10可以组合这三个HR图像以获得染色的红细胞的最终的彩色图像。
为了使用基于疟疾诊断的SROFM 10用于疟疾诊断,一滴血液样本混合物可以被注入到SROFM 10中,并流过流体通道112。在一个实施方式中,在基于疟疾诊断的SROFM 10中具有被成像的对象150的流体标本的体积在流速为0.5-1mm/sec下大约是1-2微升。在某些情况下,流动是由毛细管效应与SROFM 10的入口160和出口170之间的压力差所引导的。在一种情况中,SROFM 10可以提供流速为1mm/sec的血液样本滴流的方案。在该速率下,实现的吞吐量将达到每分钟5000个细胞,其对应于10分钟内0.002%寄生虫血症的检出率。当前商用试剂盒的范围为20分钟内0.002%~0.1%寄生虫血症。
图10(b)示出了根据本发明的实施方式的由图10(a)的SROFM获取的感染疟疾的红细胞的重建的HR图像。图10(c)示出根据本发明的实施方式的由图10(a)的SROFM获取的非感染的红细胞的重建的HR图像。图10(b)中的红细胞图像的紫色(暗)区域指示出导致感染疟疾的寄生虫。使用由SROFM 10获取的重建的HR图像,用户或者处理器210可以识别红细胞内的寄生虫,并区别感染的红细胞和非感染的红细胞。在某些情况下,用户可以基于结果诊断疟疾。选择性地,处理器210可以使用包括图像识别算法的疟疾诊断算法的代码来识别寄生虫、区别感染的红细胞和非感染的红细胞和/或诊断疟疾。
V.成像过程的流程图
图11是根据本发明的实施方式的SROFM 10的操作的流程图。在步骤410中,被成像的对象150的流体标本被导入到流体通道112中。在一个实施方式中,流体标本可以通过流体通道112中的入口160(图2(a)中示出的)被导入。如果多于一个对象150被成像,流体标本可以包含足够浓度的目标对象150。
携带带有被成像的对象150的流体标本的流体流通过流体通道112,并从流体通道纵轴的一般方向穿过光检测元件124的二维阵列。流体流和/或微粒传输的任意合适的技术可以被用于将对象150移动通过流体通道112。一些传统技术包括压力驱动流动、电动传输、通过电润湿的离散液滴易位、或者热毛细管技术。其它技术可以包括重力驱动流动、水力聚焦、介电电泳、和光学镊除(tweezing)。在一个实施方式中,流体流可以通过毛细管作用以及入口160和出口170之间的压力差而被引导,传送对象150通过光探测器(例如,CMOS传感器)的光检测元件124的二维阵列上的成像区域。
在一些实施方式中,控制设备可以被用于控制流体通过流体通道112的流动和/或对象150通过流体通道112的移动。一些合适的控制设备的实施例包括微型泵、直流(DC)电动设备、介电电泳电极、和/或水力聚焦通道。
在某些情况下,流体通道112的通道高度被调整大小以保持被成像的对象150接近第一表层120,这可以帮助提高由SROFM 10产生的图像质量。
在步骤420中,一个或者多个照明源提供入射光140以照明流体通道112。在一些实施方式中,多个入射角和/或多个波长的入射光140可以由一个或者多个照明源来提供。
例如,在三维成像实施方式中,照明源可以在不同的采样时间提供不同入射角的光,以产生对应于每个入射角的不同的帧的序列。改变入射角提供了被成像的对象的不同视角。在图10中示出了基于三个不同入射角θ1、θ2和θ3的对象150的三个不同视角的实施例。在某些情况下,提供不同入射角的光的照明源在采样期间可以接连地(顺序地)被打开和关闭。在其它实例中,照明源可以在第一系列采样时间期间提供第一入射角的光,并随后在第二系列采样时间期间提供第二入射角的光等等,直到对应于n个不同入射角的帧的n个序列被采样。选择性地,在照明源保持静止的时候,被成像的对象150可以在帧的不同序列的采样之间旋转。
在一些实施方式中,在采样期间,照明源可以在不同的时间提供n个不同波长为λ1、…、λn的光140,以获得对应于每个波长的帧的序列。可以使用任意合适数量的波长(例如,n=1、2、3、4、5、…、20)。在一个实施方式中,使用RGB照明的SROFM 10在不同的采样时间提供对应于红色、绿色、蓝色的三个波长为λ1、λ2和λ3的入射光140。在某些情况下,照明源在采样期间可以从一帧接到邻近的一帧顺序地被打开和关闭。在其它实例中,照明源可以在第一系列采样时间期间提供第一波长的光,并随后在第二系列采样时间期间提供第二波长的光等等,直到对应于n个不同波长的帧的n个序列被采样。
在步骤430中,光探测器122在被成像的对象150和流体流一起移动通过流体通道112时,采样亚像素移位的帧的一个或者多个序列。每个帧包括可以用于显示对象150的二维LR图像的二维光数据。可以使用任何将产生用于使用SR算法重建HR图像的合适的亚像素移位的帧的序列的流速、亚像素采样速率和视场(FOV)。在一个实施例中,对象150以200μm/s的流速,光探测器122具有的500fps的亚像素采样速率和250μm×3mm的视场(FOV)被成像。流体标本的流速以及因此吞吐量,可以在FOV较小且亚像素采样速率较高的情况下增大。在一个实施例中,50LR帧足以产生分辨率增强因子为7的重建的HR图像,这表明在Aptina
Figure BDA00002095631200401
MT9M001C12STM CMOS传感器的最大帧采样速率为50000fps,而FOV为50μm×100μm的情况下,对象150的连续流能够以1000图像/秒的速率被成像,其中每个图像可能包括多个对象150。
在许多实施方式中,由光探测器122捕获的帧之间的对象150的半控制的亚像素移动可以允许根据由包括稀疏分布的光探测器的光探测器122采样的LR帧的序列精确重建微观对象的HR图像。亚像素移动可以通过流体通道122的几何形状、控制流体流和/或控制对象的移动来进行半控制。
在步骤440中,处理器210使用计算被成像的对象的运动矢量的任意合适的方法。在许多实施方式中,运动矢量可以被容易地分析和精确地确定,因为在使用SROFM 10的半控制的SR微扫描方案下,在流体通道112内的流速是高度稳定的(即,低雷诺数)。对于以恒速移动的对象,运动矢量可以根据对象150在第一帧和最后一帧中的位置来计算出。在对象150的变速运动的实例中,可以使用运动矢量估算算法。
在一个运动矢量估算算法中,首先减去每个LR帧的背景并因此对比度增强。LR帧中的高度分散对象显得比背景暗,因此该信息可以被用于确定每个LR帧内的对象的位置。为了做到这点,使用由图像直方图的熵计算出的单个阈值来二值化帧。二值化帧的实施例可以在Kapur,J等人在计算机视觉、制图和图像处理(Computer vision,graphics,and imageprocessing)(1985),29期,273-285页所发表的内容中找到。这些根据LR帧序列的二值化的帧中的每个帧的几何质心随后被计算,并且质心的整个阵列被低通滤波以说明流体标本的平稳的流动模式和来自二值化和计算每个单独的LR帧的质心的量化误差两者。
对于具有低对比度或者亮点的样本,以类似方式计算运动矢量,除了以两个阈值二值化帧之外。计算背景噪声电平,并且通过将在噪声电平以上或者以下一定量的任意像素转换为0而其余像素转换为1来二值化帧。同样的,为了避免由于对象150的几何形状造成的误差,算法使用对象150的边界框的像素坐标,并低通滤波数据以获得亚像素移位值。对于小于像素尺寸的对象150(例如,微球体),难以区别由对象150的阴影得到的像素响应与光探测器的背景噪声。在这种情况下,通过观察对象150的期望路径(平行于通道壁)上的像素的闪烁来获取运动矢量。根据原始数据,获取期望对象150流过的像素坐标。该路径可以是平行于通道壁的流体通道112内的像素的任意线路,因为对象150紧随溶液的层流。算法提取路径上的像素响应的时间变化(该时间变化示出了在对象150移动穿过每个像素时像素的闪烁),并且根据斜率计算运动矢量(Δx/Δf,Δy/Δf)。
在步骤450中,处理器210根据每个帧的序列和对应的运动矢量,使用恰当的SR算法来重建一个或者多个二维的重建的HR图像。每个帧可以被认为是最初图像的采样速率对应于像素尺寸的二次采样。如果光探测器122是单色光探测器,从该重建得到的图像是黑白图像。如果光探测器122是彩色光探测器(例如,彩色CMOS传感器),从该重建得到的图像是彩色图像。
在一个实施方式中,移位叠加的SR算法被用于根据亚像素移位的帧的序列重建HR图像。在本实施方式中,形成增强因子为n的HR图像网格,其中HR图像网格的每个n×n的像素区域与LR帧网格的1×l的像素区域相对应。随后,HR图像网格用基于LR帧的序列的对应的LR像素值填充。n×n网格内的像素的映射根据已知的每个图像的估算的亚像素移位来确定,每个图像的亚像素移位根据使用运动矢量估算算法估算的运动矢量来进行估算。换言之,每个帧从其最初位置移动对象的相对的亚像素移位,并随后被叠加在一起以形成HR图像。最后,使用维纳(wiener)解卷积方法的去模糊被用于除去最终HR图像中的模糊和噪声。
在一个实施方式中,在采样期间,一个或者多个照明源在不同的时间提供n个不同波长λ1、…、λn的光140,以获得对应于每个波长的帧的序列,处理器210可以基于帧的每个序列和运动矢量,使用恰当的SR算法来重建对应于每个波长或者颜色的HR图像。SROFM 10可以组合不同波长或者色彩的HR图像以获得计算的多色彩HR图像。例如,使用RGB照明的SROFM 10可以被用于构建计算的多色彩(RGB)HR图像。
在使用计算的断层摄影的三维成像实施方式中,一个或者多个照明源在不同采样时间提供不同入射角θ1…θn的光以产生对应于每个入射角的帧的序列,使用帧的序列和运动矢量,处理器210可以使用恰当的SR算法来重建对应于每个入射角的HR图像。处理器210可以根据两个或者更多基于不同的入射角产生的二维HR图像使用断层摄影算法产生三维HR图像。
在步骤460中,处理器210可以将一个或者多个图像显示到合适的显示器230(例如,二维显示器(彩色或者黑白)、三维显示器(彩色或者黑白))上。任意由SROFM 10产生的合适图像可以被显示。一些合适的图像的实施例包括:根据LR帧的序列的一个或者多个LR图像可以被显示、一个或者多个入射角的一个或者多个二维黑白HR图像、基于使用彩色光探测器的一个或者多个二维彩色HR图像、基于多个波长的入射光的一个或者多个二维多色彩HR图像、基于将两个或者更多入射角的二维SR图像组合在三维显示器上的一个或者多个三维HR图像、和/或根据两个或者更多二维图像使用断层摄影算法计算的一个或者多个三维HR图像。
VI.子系统
图12是根据本发明的实施方式的可能在SROFM 10中出现的子系统的方框图。例如,SROFM 10包括用于处理光数据和用于生成对象130的二维和三维HR图像的处理器210。在某些情况下,处理器210可以是光探测器122的组件。
在附图中先前描述的不同的组件可以使用一个或者多个子系统进行操作,以便于在此描述的功能。图中的任意组件可以使用任意合适数量的子系统以便于在此描述的功能。这类子系统和/或组件的实施例在图12中示出。图12中所示出的子系统通过系统总线675相互连接。示出了额外的子系统,例如,打印机674、键盘678、硬盘679(或者其它包括计算机可读介质的存储器)、被耦合到显示适配器682的显示器230和其它子系统。被耦合到I/O控制器671的外设和输入/输出(I/O)设备可以通过许多本领域中已知的方法例如,串口677连接到计算机系统。例如,串口677或者外部接口681可以被用于将计算机装置连接到广域网,例如因特网;鼠标输入设备;或者扫描仪。通过系统总线的互连允许处理器210与每个子系统进行通信,并控制来自系统存储器640或者硬盘679的指令的执行以及子系统之间的信息交换。系统存储器640和/或硬盘679可以包含计算机可读介质220。任意这些元件可以被呈现在之前描述的特征中。根据本发明实施方式的计算机可读介质220可以包括用于执行任意以上描述的功能的代码。
在一些实施方式中,输出设备,例如打印机674或者SROFM 10的显示器230可以输出不同形式的数据。例如,SROFM 10可以输出对象130的二维图像或者三维图像或者其它分析结果。
应该理解以上描述的本发明能够使用计算机软件以模块化的或者集成方式的控制逻辑的形式来实施。基于在此提供的公开内容和教导,本领域中的普通技术人员将了解并认识到使用硬件以及硬件和软件的组合来执行本发明的其他方式和/或方法。
任意在本申请中描述的软件组件或者功能可以被实施为由处理器执行的使用任意合适的计算机语言的软件代码,该计算机语言例如,使用例如,常规的或者面向对象的技术的Java、C++或者Perl。软件代码可以被储存为计算机可读介质上的一系列指令或者命令,该计算机可读介质例如,随机存取存储器(RAM);只读存储器(ROM);磁性介质,例如,硬盘驱动器或者软盘;或者光学介质,例如CD-ROM。任意这些计算机可读介质可以位于单个计算装置上或者内部,并且可以出现在系统或者网络内的不同计算装置上或者内部。
“一(a)”、“一(an)”或者“所述(the)”的描述意为“一个或者多个”,除非具体阐述具有相反的含义。
以上的描述是出于阐述并且不加以限制的目的。根据对本公开内容的回顾,本公开内容的许多变体对于本领域中那些技术人员将变得很明显。因此,本公开内容的范围应该不是参考以上的描述来确定,而是应该参考待审的权利要求连同其全部范围或者等价物来确定。
在不偏离本公开内容的范围的情况下,任意实施方式的一个或者多个特征能够与任意其它实施方式的一个或者多个特征相结合。另外地,可以在不偏离本公开内容的范围的情况下,对SROFM 10进行改进、添加或者省略。在不偏离本公开内容的范围的情况下,任意实施方式的组件可以根据特定的需要而被集成或者分离开。
所有专利、专利申请、出版物和以上提到的描述,其全部内容基于所有目的据此以引用方式并入。没有内容被承认是现有技术。

Claims (33)

1.一种超分辨率光流体显微镜设备,包括:
主体,其限定具有纵轴的流体通道,所述主体包括邻近所述流体通道的表层,所述表层具有二维光探测器阵列,所述二维光探测器阵列被配置为接收通过所述流体通道的光,并且在对象移动通过所述流体通道时采样亚像素移位的投影帧序列;以及
处理器,其与所述二维光探测器阵列电子通信,并且所述处理器被配置为使用超分辨率算法并且基于所述亚像素移位的投影帧序列和所述对象的运动矢量产生所述对象的高分辨率图像。
2.如权利要求1所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为使用运动矢量估算算法并基于所述亚像素移位的投影帧序列来估算所述对象的运动矢量。
3.如权利要求1所述的超分辨率光流体显微镜设备,其中所述流体通道和所述二维光探测器阵列被设计为保持所述对象在所述亚像素移位的投影帧序列中的邻近帧之间的亚像素移位中的半控制的移动。
4.如权利要求1所述的超分辨率光流体显微镜设备,其中所述二维光探测器阵列被放置成与所述流体通道的纵轴呈一个角度。
5.如权利要求1所述的超分辨率光流体显微镜设备,其中所述亚像素移位的投影帧以亚像素采样速率被采样。
6.如权利要求1所述的超分辨率光流体显微镜设备,还包括:
入口,其被配置为接收带有所述对象的流体标本到所述流体通道中;以及
出口,其出自所述流体通道。
7.如权利要求1所述的超分辨率光流体显微镜设备,其中所述二维光探测器阵列是彩色传感器阵列,并且其中所述高分辨率图像是彩色图像。
8.如权利要求1所述的超分辨率光流体显微镜设备,其中所述二维光探测器阵列是CMOS传感器阵列。
9.一种超分辨率光流体显微镜设备,包括:
主体,其限定具有纵轴的流体通道,所述主体包括邻近所述流体通道的表层;以及
二维光探测器阵列,其在所述表层中,所述二维光探测器阵列被配置为在对象通过所述流体通道时接收不同波长的光,并且被配置为采样与不同波长相关联的多个亚像素移位的投影帧序列。
10.如权利要求9所述的超分辨率光流体显微镜设备,还包括与所述二维光探测器阵列电子通信的处理器,所述处理器被配置为使用超分辨率算法并且基于多个亚像素移位的投影帧序列和运动矢量产生与所述不同波长相关联的多个高分辨率图像。
11.如权利要求10所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为组合基于不同波长的所述多个高分辨率图像,从而形成所述对象的彩色高分辨率图像。
12.如权利要求11所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为使用图像识别算法基于所述对象的所述彩色高分辨率图像来诊断健康状态或者疾病。
13.如权利要求10所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为使用运动矢量估算算法并基于至少一个亚像素移位的投影帧序列来估算所述对象的运动矢量。
14.如权利要求9所述的超分辨率光流体显微镜设备,其中所述二维光探测器阵列被放置成与所述流体通道的纵轴呈一个角度。
15.如权利要求9所述的超分辨率光流体显微镜设备,其中所述不同的波长包括与蓝色、红色和绿色相关联的三个波长。
16.如权利要求9所述的超分辨率光流体显微镜设备,其中所述不同波长的光由多个照明源顺序地提供。
17.如权利要求9所述的超分辨率光流体显微镜设备,其中所述不同波长的光被顺序地提供。
18.如权利要求9所述的超分辨率光流体显微镜设备,其中所述不同波长的光由多个照明源提供。
19.一种超分辨率光流体显微镜设备,包括:
主体,其限定具有纵轴的流体通道,所述主体包括邻近所述流体通道的表层;以及
二维光探测器阵列,其在所述表层中,所述二维光探测器阵列被配置为在对象通过所述流体通道时接收不同入射角的光,并且被配置为采样与不同入射角相关联的多个亚像素移位的投影帧序列。
20.如权利要求19所述的超分辨率光流体显微镜设备,还包括与所述二维光探测器阵列电子通信的处理器,所述处理器被配置为使用超分辨率算法并且基于所述多个亚像素移位的投影帧序列和运动矢量产生与所述不同入射角相关联的多个高分辨率图像。
21.如权利要求19所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为组合基于不同入射角的所述多个高分辨率图像,从而形成所述对象的三维高分辨率图像。
22.如权利要求19所述的超分辨率光流体显微镜设备,其中使用断层摄影算法组合所述多个高分辨率图像。
23.如权利要求20所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为使用运动矢量估算算法并基于至少一个亚像素移位的投影帧序列来估算所述对象的运动矢量。
24.如权利要求19所述的超分辨率光流体显微镜设备,其中所述二维光探测器阵列被放置成与所述流体通道的纵轴呈一个角度。
25.如权利要求19所述的超分辨率光流体显微镜设备,其中所述不同入射角的光被顺序地提供。
26.一种超分辨率光流体显微镜设备,包括:
主体,其限定具有纵轴的流体通道,并且所述主体包括邻近所述流体通道的表层,所述表层具有光探测器,所述光探测器被配置为接收通过所述流体通道的光,并且在对象移动通过所述流体通道时采样亚像素移位的投影帧序列;以及
移动通信设备,其具有处理器和显示器,所述处理器与所述光探测器电子通信,所述处理器被配置为使用超分辨率算法并且基于所述亚像素移位的投影帧序列和运动矢量产生所述对象的高分辨率图像,所述处理器还被配置为在所述显示器上显示所述高分辨率图像。
27.如权利要求26所述的超分辨率光流体显微镜设备,其中所述移动通信设备是智能手机。
28.如权利要求26所述的超分辨率光流体显微镜设备,其中所述处理器还被配置为使用运动矢量估算算法并基于所述亚像素移位的投影帧序列来估算所述对象的运动矢量。
29.一种使用超分辨率光流体显微镜设备生成对象的高分辨率图像的方法,所述超分辨率光流体显微镜设备具有限定流体通道并且包括邻近所述流体通道的表层的主体,所述表层具有二维光探测器阵列,所述方法包括:
照亮所述流体通道;
在对象移动通过所述流体通道时,通过所述二维光探测器阵列采样亚像素移位的投影帧序列;以及
通过处理器使用超分辨率算法并基于所述亚像素移位的投影帧序列和运动矢量来重建所述高分辨率图像。
30.如权利要求29所述的生成对象的高分辨率图像的方法,还包括使用运动矢量估算算法并基于所述亚像素移位的图像的序列来估算所述对象的运动矢量。
31.如权利要求29所述的生成对象的高分辨率图像的方法,还包括将带有所述对象的流体标本导入所述流体通道中。
32.一种使用超分辨率光流体显微镜设备生成对象的三维高分辨率图像的方法,该超分辨率光流体显微镜设备具有限定流体通道并且包括邻近所述流体通道的表层的主体,所述表层具有二维光探测器阵列,所述方法包括:
在不同的采样时间用不同入射角的光照亮所述流体通道;
在对象移动通过所述流体通道时,通过二维光探测器阵列采样多个亚像素移位的投影帧序列,每个序列与不同的入射角相关联;
通过处理器使用超分辨率算法并基于所述多个亚像素移位的投影帧序列和运动矢量来重建与不同入射角相关联的多个高分辨率图像;以及
通过所述处理器使用断层摄影算法且基于与不同入射角相关联的所述多个超分辨率图像来计算所述三维高分辨率图像。
33.如权利要求32所述的生成对象的三维高分辨率图像的方法,还包括使用运动矢量估算算法并基于至少一个亚像素移位的图像的序列来估算所述对象的运动矢量。
CN201180012251.6A 2010-03-23 2011-03-23 用于2d和3d成像的超分辨率光流体显微镜 Active CN102792151B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US31676210P 2010-03-23 2010-03-23
US61/316,762 2010-03-23
PCT/US2011/029542 WO2011119678A2 (en) 2010-03-23 2011-03-23 Super resolution optofluidic microscopes for 2d and 3d imaging

Publications (2)

Publication Number Publication Date
CN102792151A true CN102792151A (zh) 2012-11-21
CN102792151B CN102792151B (zh) 2015-11-25

Family

ID=44655966

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180012251.6A Active CN102792151B (zh) 2010-03-23 2011-03-23 用于2d和3d成像的超分辨率光流体显微镜

Country Status (4)

Country Link
US (1) US9743020B2 (zh)
EP (1) EP2550522B1 (zh)
CN (1) CN102792151B (zh)
WO (1) WO2011119678A2 (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015157978A1 (zh) * 2014-04-17 2015-10-22 深圳迈瑞生物医疗电子股份有限公司 粒子分析仪及其分析操作结果回退方法和装置
CN105319699A (zh) * 2014-07-31 2016-02-10 株式会社东芝 利用显微拍摄装置的观察方法
CN105510283A (zh) * 2014-10-14 2016-04-20 全视技术有限公司 具样品加热能力的高通量荧光成像系统与装置以及相关方法
CN106483276A (zh) * 2016-09-29 2017-03-08 大连理工大学 一种基于智能手机的光流控血液细胞显微成像系统
CN106525826A (zh) * 2016-10-20 2017-03-22 太原理工大学 基于颜色主波长和补色波长的分子智能手机速测方法
CN109477783A (zh) * 2016-07-04 2019-03-15 弗劳恩霍夫应用研究促进协会 用于借助于动态光散射确定悬浮在液体和流动介质中的颗粒的平均颗粒大小的方法及其设备
CN109580457A (zh) * 2018-11-01 2019-04-05 南京理工大学 基于led阵列编码照明的三维衍射层析显微成像方法
CN111405183A (zh) * 2020-03-27 2020-07-10 西安理工大学 一种集成在图像传感器中提高细胞分辨率的系统与方法
CN111722392A (zh) * 2020-07-22 2020-09-29 南京大学 一种基于超构透镜阵列的大视场集成显微成像装置
CN111766692A (zh) * 2020-06-18 2020-10-13 苏州大学 自动补液微球超分辨显微成像系统
TWI783896B (zh) * 2022-04-08 2022-11-11 國立清華大學 用於輕元素薄膜的三維影像重建方法及系統
US11631708B2 (en) 2018-09-28 2023-04-18 Semiconductor Energy Laboratory Co., Ltd. Image processing method, program, and imaging device

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110187701A1 (en) * 2007-06-27 2011-08-04 Thomson Licensing 3D Projection System with Non-Integer Flash Rate
US8767216B2 (en) * 2009-10-13 2014-07-01 California Institute Of Technology Holographically illuminated imaging devices
EP2494400B1 (en) 2009-10-28 2021-12-08 Alentic Microscience Inc. Microscopy imaging
US9075225B2 (en) 2009-10-28 2015-07-07 Alentic Microscience Inc. Microscopy imaging
US9357202B2 (en) * 2010-02-23 2016-05-31 California Institute Of Technology High resolution imaging devices with wide field and extended focus
WO2011119678A2 (en) 2010-03-23 2011-09-29 California Institute Of Technology Super resolution optofluidic microscopes for 2d and 3d imaging
US8536545B2 (en) 2010-09-09 2013-09-17 California Institute Of Technology Delayed emission detection devices and methods
WO2012058233A2 (en) 2010-10-26 2012-05-03 California Institute Of Technology Scanning projective lensless microscope system
US9569664B2 (en) 2010-10-26 2017-02-14 California Institute Of Technology Methods for rapid distinction between debris and growing cells
US9643184B2 (en) 2010-10-26 2017-05-09 California Institute Of Technology e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images
US9522396B2 (en) * 2010-12-29 2016-12-20 S.D. Sight Diagnostics Ltd. Apparatus and method for automatic detection of pathogens
EP3926376A1 (en) * 2011-03-03 2021-12-22 California Institute of Technology E-petri dishes, devices, and systems
WO2012119094A2 (en) 2011-03-03 2012-09-07 California Institute Of Technology Light guided pixel
US9086536B2 (en) 2011-03-09 2015-07-21 California Institute Of Technology Talbot imaging devices and systems
US9469871B2 (en) 2011-04-14 2016-10-18 Corporos Inc. Methods and apparatus for point-of-care nucleic acid amplification and detection
WO2012145566A2 (en) 2011-04-20 2012-10-26 California Institute Of Technology Talbot-illuminated imaging devices, systems, and methods for focal plane tuning
US9354159B2 (en) 2012-05-02 2016-05-31 Nanoscopia (Cayman), Inc. Opto-fluidic system with coated fluid channels
JP5977591B2 (ja) * 2012-06-20 2016-08-24 オリンパス株式会社 画像処理装置及びそれを備えた撮像装置、画像処理方法、並びに画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
US10502666B2 (en) 2013-02-06 2019-12-10 Alentic Microscience Inc. Sample processing improvements for quantitative microscopy
US20140274747A1 (en) 2013-03-15 2014-09-18 Illumina, Inc. Super resolution imaging
EA201591800A1 (ru) * 2013-03-15 2016-04-29 Ричард Гарри Тернер Система и способы обнаружения частиц и растворимых химических структурных элементов in vitro в физиологических текучих средах
US9193998B2 (en) * 2013-03-15 2015-11-24 Illumina, Inc. Super resolution imaging
US9435993B2 (en) 2013-03-24 2016-09-06 Bruker Nano, Inc. Three dimensional microscopy imaging
CN105308949B (zh) * 2013-06-06 2018-11-09 松下知识产权经营株式会社 图像获取装置、图像获取方法以及记录介质
JP2016531282A (ja) 2013-06-26 2016-10-06 アレンティック マイクロサイエンス インコーポレイテッド 顕微鏡法に関するサンプル処理の改善
US9536304B2 (en) * 2013-08-30 2017-01-03 Dairy Quality Inc. Determining pathogens based on an image of somatic cells in a fluid sample
US9445713B2 (en) 2013-09-05 2016-09-20 Cellscope, Inc. Apparatuses and methods for mobile imaging and analysis
US9270919B2 (en) * 2013-09-24 2016-02-23 Karl Storz Imaging, Inc. Simultaneous display of two or more different sequentially processed images
JP6394960B2 (ja) * 2014-04-25 2018-09-26 パナソニックIpマネジメント株式会社 画像形成装置および画像形成方法
US10036881B2 (en) * 2014-05-23 2018-07-31 Pathonomic Digital microscope system for a mobile device
DE102014214750B3 (de) * 2014-07-28 2015-06-11 Reimar Lenz Bildaufnahmesystem mit schnell vibrierendem Global-Shutter-CMOS-Sensor
US9574989B2 (en) * 2014-08-08 2017-02-21 Omnivision Technologies, Inc. Lens-free imaging system and method for detecting particles in sample deposited on image sensor
CN105794195B (zh) * 2014-10-27 2020-02-07 松下知识产权经营株式会社 图像形成系统、图像形成方法以及拍摄元件
AU2016330950A1 (en) * 2015-10-01 2018-04-19 The Regents Of The University Of Michigan Assay plate and uses thereof
US10730044B2 (en) 2015-10-01 2020-08-04 The Regents Of The University Of Michigan Assay plate and uses thereof
JP6767689B2 (ja) * 2016-01-06 2020-10-14 パナソニックIpマネジメント株式会社 画像生成システム及び画像生成方法
EP3408653B1 (en) * 2016-01-28 2024-01-17 Siemens Healthcare Diagnostics Inc. Methods and apparatus adapted to quantify a specimen from multiple lateral views
EP3239689B1 (en) * 2016-04-26 2021-10-06 Atten2 Advanced Monitoring Technologies S.L. Fluid monitoring system
US10366480B2 (en) * 2016-07-01 2019-07-30 Analytical Mechanics Associates, Inc. Super-resolution systems and methods
CN109923579B (zh) * 2016-09-28 2024-01-26 港大科桥有限公司 扫描成像中像素分辨率的恢复
WO2018064660A1 (en) * 2016-09-30 2018-04-05 University Of Utah Research Foundation Lensless imaging device
CN110366678B (zh) 2016-12-27 2023-02-17 密歇根大学董事会 基于激光发射的显微镜
JP6786039B2 (ja) * 2017-03-03 2020-11-18 国立大学法人 熊本大学 光学測定システム、光学セル及び光学測定方法
US10585270B2 (en) * 2017-10-25 2020-03-10 University Of Vermont And State Agricultural College Reflected image macroscopy system
US10533984B2 (en) 2017-12-05 2020-01-14 International Business Machines Corporation Distinguishing fluids based upon determination and analysis of digital image color space characteristics
EP3762758A2 (en) * 2018-03-07 2021-01-13 Wöhler, Christian Imaging apparatuses, systems and methods
US11356593B2 (en) 2019-05-08 2022-06-07 University Of Connecticut Methods and systems for single frame autofocusing based on color- multiplexed illumination
WO2020242485A1 (en) * 2019-05-30 2020-12-03 Hewlett-Packard Development Company, L.P. Particle imaging
CN111223177B (zh) * 2019-12-18 2020-12-04 北京城市网邻信息技术有限公司 三维空间的三维模型的构建方法和装置、存储介质
CN116679461B (zh) * 2022-09-29 2024-01-05 华为技术有限公司 图像传感器、成像装置及方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030012277A1 (en) * 2001-07-04 2003-01-16 Matsushita Electric Industrial Co., Ltd. Image signal coding method, image signal coding apparatus and storage medium
US6944322B2 (en) * 2001-03-28 2005-09-13 Visiongate, Inc. Optical tomography of small objects using parallel ray illumination and post-specimen optical magnification
US20070207061A1 (en) * 2004-06-04 2007-09-06 California Institute Of Technology Optofluidic microscope device
US20080214412A1 (en) * 1998-08-28 2008-09-04 Stahler Cord F Method and device for preparing and/or analyzing biochemical reaction carriers
US20090225319A1 (en) * 2008-03-04 2009-09-10 California Institute Of Technology Methods of using optofluidic microscope devices
US20090276188A1 (en) * 2008-05-05 2009-11-05 California Institute Of Technology Quantitative differential interference contrast (dic) microscopy and photography based on wavefront sensors

Family Cites Families (153)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3736432A (en) 1971-03-22 1973-05-29 Varian Associates Bacterial colony counting method and apparatus
US4438330A (en) 1982-03-01 1984-03-20 Itek Corporation Wavefront sensor employing a modulation reticle
US4692027A (en) 1985-07-03 1987-09-08 Itek Corporation Spatial processing for single or dual shear wavefront sensor
US4737621A (en) 1985-12-06 1988-04-12 Adaptive Optics Assoc., Inc. Integrated adaptive optical wavefront sensing and compensating system
FR2602241A1 (fr) 1986-07-30 1988-02-05 Jouan Boite pour l'observation au microscope de cultures cellulaires vivantes
US5225057A (en) 1988-02-08 1993-07-06 Optical Coating Laboratory, Inc. Process for depositing optical films on both planar and non-planar substrates
GB8920571D0 (en) * 1989-09-12 1989-10-25 Carr Robert J G Examination of objects of macromolecular size
US4981362A (en) * 1989-10-16 1991-01-01 Xerox Corporation Particle concentration measuring method and device
GB8927754D0 (en) 1989-12-08 1990-02-14 Image Research Ltd Improvements in and relating to light transfer systems and improved cell investigation techniques arising therefrom
US5798262A (en) * 1991-02-22 1998-08-25 Applied Spectral Imaging Ltd. Method for chromosomes classification
US5196350A (en) 1991-05-29 1993-03-23 Omnigene, Inc. Ligand assay using interference modulation
US6058209A (en) 1991-09-27 2000-05-02 E. I. Du Pont De Nemours And Company Method for resolving redundant identifications of an object
US5495337A (en) * 1991-11-06 1996-02-27 Machine Vision Products, Inc. Method of visualizing minute particles
EP0625569B1 (en) 1992-08-27 1998-02-11 Iul, S.A. Contrast chamber for spotlighting bacterial colonies with respect to the culture medium thereof
US5420959A (en) 1992-12-17 1995-05-30 Nanoptics Incorporated High efficiency, high resolution, real-time radiographic imaging system
EP0627643B1 (en) 1993-06-03 1999-05-06 Hamamatsu Photonics K.K. Laser scanning optical system using axicon
US5349191A (en) * 1993-11-03 1994-09-20 Triumf Gamma ray detector for three-dimensional position encoding
US5795755A (en) * 1994-07-05 1998-08-18 Lemelson; Jerome H. Method of implanting living cells by laser poration at selected sites
GB9418981D0 (en) 1994-09-21 1994-11-09 Univ Glasgow Apparatus and method for carrying out analysis of samples
JPH0943439A (ja) 1995-07-26 1997-02-14 Hamamatsu Photonics Kk ファイバー光学プレート
US6556299B1 (en) * 1996-07-10 2003-04-29 Packard Instrument Company, Inc. Imaging system for fluorescence assays
US6753131B1 (en) 1996-07-22 2004-06-22 President And Fellows Of Harvard College Transparent elastomeric, contact-mode photolithography mask, sensor, and wavefront engineering element
AU5895898A (en) * 1996-12-20 1998-07-17 Gamera Bioscience Corporation An affinity binding-based system for detecting particulates in a fluid
GB9710062D0 (en) * 1997-05-16 1997-07-09 British Tech Group Optical devices and methods of fabrication thereof
US5973316A (en) * 1997-07-08 1999-10-26 Nec Research Institute, Inc. Sub-wavelength aperture arrays with enhanced light transmission
JPH11166935A (ja) * 1997-09-25 1999-06-22 Canon Inc 光検出または照射用の光プローブと該プローブを備えた近視野光学顕微鏡、及該光プローブの製造方法とその製造に用いる基板
US6147798A (en) 1997-10-24 2000-11-14 Atto Instruments, Llc. Microscope attachment for high precision and efficient imaging
US6194718B1 (en) 1998-09-23 2001-02-27 Applied Materials, Inc. Method for reducing aliasing effects in scanning beam microscopy
EP1147398B1 (en) 1999-01-29 2004-06-09 June Iris Medford Optical coherence microscope and method for rapid 3d-in-vivo visualization of biological functions
JP3688160B2 (ja) * 1999-09-17 2005-08-24 株式会社日立製作所 走査電子顕微鏡
JP2003524779A (ja) 2000-01-20 2003-08-19 レーザー− ウント メディツィン−テヒノロギー ゲゼルシャフト ミット ベシュレンクテル ハフツング ベルリン 近接場光学方法で生物対象を分析する装置
US6917726B2 (en) * 2001-09-27 2005-07-12 Cornell Research Foundation, Inc. Zero-mode clad waveguides for performing spectroscopy with confined effective observation volumes
US7978329B2 (en) * 2000-08-02 2011-07-12 Honeywell International Inc. Portable scattering and fluorescence cytometer
US7641856B2 (en) * 2004-05-14 2010-01-05 Honeywell International Inc. Portable sample analyzer with removable cartridge
US6597438B1 (en) 2000-08-02 2003-07-22 Honeywell International Inc. Portable flow cytometry
US7630063B2 (en) * 2000-08-02 2009-12-08 Honeywell International Inc. Miniaturized cytometer for detecting multiple species in a sample
US7142296B2 (en) * 2000-10-30 2006-11-28 Sru Biosystems, Inc. Method and apparatus for detecting biomolecular interactions
EP1410044A2 (en) 2000-11-08 2004-04-21 Burstein Technologies, Inc. Interactive system for analyzing biological samples and processing related information and the use thereof
US7418118B2 (en) 2000-11-10 2008-08-26 Furnas Steven J Method and apparatus for diagnosing pathogenic or allergenic microorganisms or microparticles at a remote location
JP2002196248A (ja) 2000-12-27 2002-07-12 Runakkusu Kk テレビ撮像装置
JP4057422B2 (ja) * 2001-01-25 2008-03-05 プレシジョン・システム・サイエンス株式会社 微小物識別装置およびその識別方法
US6418968B1 (en) * 2001-04-20 2002-07-16 Nanostream, Inc. Porous microfluidic valves
US6519313B2 (en) 2001-05-30 2003-02-11 General Electric Company High-Z cast reflector compositions and method of manufacture
US7381375B2 (en) * 2001-10-26 2008-06-03 Millipore Corporation Assay systems with adjustable fluid communication
DE10156506C1 (de) 2001-11-16 2003-05-22 Leica Microsystems Verfahren zur Erzeugung eines mehrfarbigen Bildes und Mikroskop
JP2003207454A (ja) 2002-01-15 2003-07-25 Minolta Co Ltd 透過光検出装置
US7312085B2 (en) * 2002-04-01 2007-12-25 Fluidigm Corporation Microfluidic particle-analysis systems
US6858436B2 (en) * 2002-04-30 2005-02-22 Motorola, Inc. Near-field transform spectroscopy
DE10225838B4 (de) 2002-06-11 2021-10-21 Leica Microsystems Cms Gmbh Verfahren zur Scanmikroskopie, Scanmikroskop und Vorrichtung zum Codieren eines Beleuchtungslichtstrahles
AUPS309002A0 (en) 2002-06-20 2002-07-11 Vision Biosystems Limited A covertile for a substrate
DE10228374A1 (de) 2002-06-25 2004-01-15 Leica Microsystems Heidelberg Gmbh Verfahren zur Mikroskopie und Mikroskop
DE20214835U1 (de) 2002-07-30 2003-01-02 Leica Microsystems Trägervorrichtung für ein biologisches, mittels Laser-Mikrodissektion schneidbares Präparat
DE10235914B4 (de) * 2002-08-06 2020-12-31 Leica Microsystems Cms Gmbh Lichtquelle zur Beleuchtung mikroskopischer Objekte und Scanmikroskopsystem
DE10240720A1 (de) 2002-09-04 2004-03-25 Carl Zeiss Jena Gmbh Kamera-Adapter für optische Geräte, insbesondere Mikroskope
GB0224067D0 (en) 2002-10-16 2002-11-27 Perkinelmer Uk Ltd Improvements in and relating to imaging
DE60202374T2 (de) * 2002-10-25 2005-12-08 Evotec Technologies Gmbh Methode und Vorrichtung zur Aufnahme dreidimensionaler Abbildungen von schwebend gehaltenen Mikroobjekten unter Verwendung hochauflösender Mikroskopie
JP2004191087A (ja) * 2002-12-09 2004-07-08 Nidec Copal Corp 光学式エンコーダ
EP1439566B1 (en) * 2003-01-17 2019-08-28 ICT, Integrated Circuit Testing Gesellschaft für Halbleiterprüftechnik mbH Charged particle beam apparatus and method for operating the same
US20040146965A1 (en) 2003-01-29 2004-07-29 Hach Company Petri dish
US7369234B2 (en) 2003-02-03 2008-05-06 Rudolph Technologies, Inc. Method of performing optical measurement on a sample
US6943881B2 (en) 2003-06-04 2005-09-13 Tomophase Corporation Measurements of optical inhomogeneity and other properties in substances using propagation modes of light
DE602004026724D1 (de) 2003-06-13 2010-06-02 Univ Pittsburgh Überwachung von immunologischen, hämatologischen und entzündlichen erkrankungen
GB0314444D0 (en) 2003-06-20 2003-07-23 Univ Heriot Watt Novel wavefront sensor
US6998600B2 (en) * 2003-06-30 2006-02-14 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Multifrequency ultra-high resolution miniature scanning microscope using microchannel and solid-state sensor technologies and method for scanning samples
US7477775B2 (en) * 2003-07-18 2009-01-13 Olympus Corporation Microscope system
US7692773B2 (en) * 2003-08-05 2010-04-06 Luminex Corporation Light emitting diode based measurement systems
US7323681B1 (en) 2003-09-11 2008-01-29 Applera Corporation Image enhancement by sub-pixel imaging
DE10347326B4 (de) * 2003-10-11 2022-08-04 Leica Microsystems Cms Gmbh Anordnung mit einem Mikroskop und einem Modul
US8066955B2 (en) * 2003-10-17 2011-11-29 James M. Pinchot Processing apparatus fabrication
AU2003286084A1 (en) * 2003-12-23 2005-07-14 Carag Ag Method for isolating cells from mammary secretion
US7250598B2 (en) 2004-01-02 2007-07-31 Hollingsworth Russell E Plasmon enhanced near-field optical probes
WO2005078083A1 (en) * 2004-02-04 2005-08-25 California Institute Of Technology Ultra-smooth microfabricated pores on a planar substrate for integrated patch-clamping
US7271885B2 (en) * 2004-03-25 2007-09-18 Perkinelmer Las, Inc. Plasmon resonance measuring method and apparatus
US7773227B2 (en) 2004-06-04 2010-08-10 California Institute Of Technology Optofluidic microscope device featuring a body comprising a fluid channel and having light transmissive regions
WO2005121863A1 (en) 2004-06-11 2005-12-22 Nicholas Etienne Ross Automated diagnosis of malaria and other infections
JP2006023221A (ja) 2004-07-09 2006-01-26 Tokyo Seimitsu Co Ltd 外観検査装置及び投影方法
CN1271444C (zh) 2004-09-29 2006-08-23 清华大学 基于超声马达的微型光学传输和扫描装置
US8498681B2 (en) 2004-10-05 2013-07-30 Tomophase Corporation Cross-sectional mapping of spectral absorbance features
US7253947B2 (en) 2004-10-07 2007-08-07 New York University Portable automated confocal microscope
US20060092503A1 (en) 2004-10-26 2006-05-04 University Of Maryland, Baltimore Portable microscope with detachable portion
JP4504417B2 (ja) * 2005-01-31 2010-07-14 オリンパス株式会社 画像処理装置、顕微鏡システム、及び領域特定プログラム
EP2594983A1 (en) 2005-02-21 2013-05-22 Olympus Corporation Low-light specimen image pickup unit and low-light specimen image pickup apparatus
US7830561B2 (en) 2005-03-16 2010-11-09 The Trustees Of Columbia University In The City Of New York Lensless imaging with controllable apertures
EP2562266B1 (en) 2005-03-30 2016-02-24 Olympus Corporation Predetermined site luminescence measuring method, predetermined site luminescence measuring apparatus, expression amount measuring method, and measuring apparatus
EP1866616B1 (en) 2005-04-05 2013-01-16 The Board Of Trustees Of The Leland Stanford Junior University Optical image processing using minimum phase functions
US20060227328A1 (en) * 2005-04-08 2006-10-12 Vanwiggeren Gregory D Light-sensing system that uses light guides
US20070046924A1 (en) 2005-08-30 2007-03-01 Chang Nelson L A Projecting light patterns encoding correspondence information
US7304731B2 (en) 2005-09-02 2007-12-04 Kla-Tencor Technologies Corp. Systems and methods for providing illumination of a specimen for inspection
JP2008052227A (ja) 2005-09-15 2008-03-06 Olympus Corp 観察装置
EP1936422A4 (en) 2005-10-13 2013-01-16 Nikon Corp MICROSCOPE
US8400710B2 (en) 2005-11-30 2013-03-19 Nikon Corporation Observing device
US7463369B2 (en) 2006-03-29 2008-12-09 Kla-Tencor Technologies Corp. Systems and methods for measuring one or more characteristics of patterned features on a specimen
JP4999046B2 (ja) * 2006-04-05 2012-08-15 Hoya株式会社 共焦点内視鏡システム
US7768654B2 (en) * 2006-05-02 2010-08-03 California Institute Of Technology On-chip phase microscope/beam profiler based on differential interference contrast and/or surface plasmon assisted interference
CN101438147B (zh) 2006-05-31 2011-09-28 奥林巴斯株式会社 生物试样摄像方法及生物试样摄像装置
US7705331B1 (en) 2006-06-29 2010-04-27 Kla-Tencor Technologies Corp. Methods and systems for providing illumination of a specimen for a process performed on the specimen
WO2008048612A2 (en) 2006-10-17 2008-04-24 Hnuphotonics Miniature microscope camera
JP4893275B2 (ja) 2006-11-30 2012-03-07 株式会社ニコン 顕微鏡装置
US7719685B2 (en) * 2006-11-30 2010-05-18 Chian Chiu Li Near-field optical apparatus and method using photodetector array
US20080174862A1 (en) 2007-01-22 2008-07-24 Focht Daniel C Specimen Holder For Microscopy
EP2267403A3 (de) 2007-02-21 2011-04-20 Agfa HealthCare N.V. System und Verfahren zur optischen Kohärenztomographie
EP1962080B1 (de) 2007-02-21 2011-06-01 Agfa HealthCare N.V. System zur optischen Kohärenztomographie
WO2008103430A2 (en) 2007-02-22 2008-08-28 The University Of North Carolina At Chapel Hill Methods and systems for multiforce high throughput screening
US7633631B2 (en) * 2007-04-04 2009-12-15 Nikon Corporation Three-dimensional microscope and method for obtaining three-dimensional image
DE102007018048A1 (de) 2007-04-13 2008-10-16 Michael Schwertner Verfahren und Anordnung zur optischen Abbildung mit Tiefendiskriminierung
US8624968B1 (en) 2007-04-25 2014-01-07 Stc.Unm Lens-less digital microscope
US8964020B2 (en) 2007-04-25 2015-02-24 Stc.Unm Solid-state microscope for selectively imaging a sample
US8194124B2 (en) 2007-10-09 2012-06-05 Nanyang Technological University In-line digital holographic microscope and a method of in-line digital holographic microscopy
EP2206008B1 (en) 2007-11-02 2015-01-21 Wavefront Analysis Inc. Light microscope with novel digital method to achieve super-resolution
JP5298507B2 (ja) 2007-11-12 2013-09-25 セイコーエプソン株式会社 画像表示装置及び画像表示方法
US7816641B2 (en) * 2007-12-28 2010-10-19 Candela Microsystems (S) Pte. Ltd. Light guide array for an image sensor
JP5090188B2 (ja) 2008-01-10 2012-12-05 オリンパス株式会社 顕微鏡装置
US20090225309A1 (en) 2008-03-04 2009-09-10 Demou Zoe N Time-lapse analysis chamber for laser capture microdissection applications
US8325349B2 (en) * 2008-03-04 2012-12-04 California Institute Of Technology Focal plane adjustment by back propagation in optofluidic microscope devices
US8314933B2 (en) * 2008-03-04 2012-11-20 California Institute Of Technology Optofluidic microscope device with photosensor array
TW200940684A (en) 2008-03-10 2009-10-01 Nikon Corp Fluorescent film, film-forming method therefor, multilayer dielectric film, optical element, optical system, imaging unit, instrument for measuring optical characteristics, method of measuring optical characteristics, exposure apparatus, exposure met
WO2009120336A1 (en) 2008-03-26 2009-10-01 Yale University Optical system that selectively provides either of a collimated light beam or a convergent light beam
JP2010020151A (ja) 2008-07-11 2010-01-28 Nikon Corp 観察装置
NL2003263A (en) * 2008-08-20 2010-03-10 Asml Holding Nv Particle detection on an object surface.
WO2010042217A1 (en) 2008-10-09 2010-04-15 Sti Medical Systems, Llc Process for preserving three dimensional orientation to allow registering histopathological diagnoses of tissue
JP5692068B2 (ja) 2009-05-27 2015-04-01 株式会社ニコン 顕微鏡システム
US8416400B2 (en) 2009-06-03 2013-04-09 California Institute Of Technology Wavefront imaging sensor
US7923799B2 (en) * 2009-06-09 2011-04-12 Aptina Imaging Corporation Image sensors with light guides
EP2442722B1 (en) 2009-06-16 2017-03-29 Koninklijke Philips N.V. Correction method for differential phase contrast imaging
JP5385028B2 (ja) 2009-07-06 2014-01-08 オリンパス株式会社 顕微鏡装置
WO2011028628A2 (en) 2009-08-26 2011-03-10 Tomophase Corporation Optical tissue imaging based on optical frequency domain imaging
JP5439096B2 (ja) 2009-09-08 2014-03-12 株式会社日立ハイテクノロジーズ 細菌分類装置および細菌検査前処理装置
JP5639654B2 (ja) 2009-10-20 2014-12-10 ザ リージェンツ オブ ザ ユニバーシティ オブ カリフォルニア オンチップでの非干渉性のレンズフリーのホログラフィおよび顕微鏡法
EP2315065B1 (en) 2009-10-26 2015-05-13 Olympus Corporation Microscope
US20110098950A1 (en) 2009-10-28 2011-04-28 Symphony Acoustics, Inc. Infrasound Sensor
US9109194B2 (en) 2009-11-05 2015-08-18 Hitachi High-Technologies Corporation Device for harvesting bacterial colony and method therefor
JP5638793B2 (ja) 2009-12-03 2014-12-10 オリンパス株式会社 顕微鏡装置
US8355133B2 (en) 2009-12-30 2013-01-15 Maven Technologies, Llc Biological testing with sawtooth-shaped prisms
WO2011089911A1 (ja) 2010-01-25 2011-07-28 株式会社日立ハイテクノロジーズ 荷電粒子線顕微鏡及びそれを用いた測定方法
US9357202B2 (en) 2010-02-23 2016-05-31 California Institute Of Technology High resolution imaging devices with wide field and extended focus
US20110266181A1 (en) 2010-03-04 2011-11-03 Sloan-Kettering Institute For Cancer Research Microscope slide holder and method of use
WO2011119678A2 (en) 2010-03-23 2011-09-29 California Institute Of Technology Super resolution optofluidic microscopes for 2d and 3d imaging
WO2011139641A2 (en) 2010-05-03 2011-11-10 The Regents Of The University Of California Wide-field lensless fluorescent imaging on a chip
WO2012058233A2 (en) 2010-10-26 2012-05-03 California Institute Of Technology Scanning projective lensless microscope system
US9569664B2 (en) * 2010-10-26 2017-02-14 California Institute Of Technology Methods for rapid distinction between debris and growing cells
US9643184B2 (en) * 2010-10-26 2017-05-09 California Institute Of Technology e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images
EP2656066A4 (en) 2010-12-21 2017-11-08 The Regents of The University of California Compact wide-field fluorescent imaging on a mobile device
WO2012094523A2 (en) 2011-01-06 2012-07-12 The Regents Of The University Of California Lens-free tomographic imaging devices and methods
EP3926376A1 (en) 2011-03-03 2021-12-22 California Institute of Technology E-petri dishes, devices, and systems
WO2012119094A2 (en) 2011-03-03 2012-09-07 California Institute Of Technology Light guided pixel
US9086536B2 (en) 2011-03-09 2015-07-21 California Institute Of Technology Talbot imaging devices and systems
US8866063B2 (en) 2011-03-31 2014-10-21 The Regents Of The University Of California Lens-free wide-field super-resolution imaging device
WO2012145566A2 (en) 2011-04-20 2012-10-26 California Institute Of Technology Talbot-illuminated imaging devices, systems, and methods for focal plane tuning
EP2604342B1 (de) 2011-12-12 2014-06-25 ibidi GmbH Probenkammer mit Trennplatte
US8837045B2 (en) 2012-09-21 2014-09-16 The Board Of Trustees Of The University Of Illinois Diffraction phase microscopy with white light
EP2657792B1 (en) 2012-04-24 2017-11-15 Imec Device and method for holographic reflection imaging
US9105102B1 (en) 2013-10-01 2015-08-11 The United States Of America As Represented By The Secretary Of The Navy Method for processing radiographic images of rapidly moving objects such as shaped charge jet particles
JP5804138B1 (ja) 2014-05-21 2015-11-04 カシオ計算機株式会社 検出装置、検出方法及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080214412A1 (en) * 1998-08-28 2008-09-04 Stahler Cord F Method and device for preparing and/or analyzing biochemical reaction carriers
US6944322B2 (en) * 2001-03-28 2005-09-13 Visiongate, Inc. Optical tomography of small objects using parallel ray illumination and post-specimen optical magnification
US20030012277A1 (en) * 2001-07-04 2003-01-16 Matsushita Electric Industrial Co., Ltd. Image signal coding method, image signal coding apparatus and storage medium
US20070207061A1 (en) * 2004-06-04 2007-09-06 California Institute Of Technology Optofluidic microscope device
US20090225319A1 (en) * 2008-03-04 2009-09-10 California Institute Of Technology Methods of using optofluidic microscope devices
US20090276188A1 (en) * 2008-05-05 2009-11-05 California Institute Of Technology Quantitative differential interference contrast (dic) microscopy and photography based on wavefront sensors

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SANGJUN MOON等: ""Integrating microfluidics and lensless imaging for poiint-of-care testing"", 《BIOSENSORS AND BIOELECTRONICS》 *

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015157978A1 (zh) * 2014-04-17 2015-10-22 深圳迈瑞生物医疗电子股份有限公司 粒子分析仪及其分析操作结果回退方法和装置
CN106170687A (zh) * 2014-04-17 2016-11-30 深圳迈瑞生物医疗电子股份有限公司 粒子分析仪及其分析操作结果回退方法和装置
CN106170687B (zh) * 2014-04-17 2019-10-15 深圳迈瑞生物医疗电子股份有限公司 粒子分析仪及其分析操作结果回退方法和装置
CN105319699A (zh) * 2014-07-31 2016-02-10 株式会社东芝 利用显微拍摄装置的观察方法
CN109061869B (zh) * 2014-07-31 2021-09-03 株式会社东芝 利用显微拍摄装置的观察方法
CN109061869A (zh) * 2014-07-31 2018-12-21 株式会社东芝 利用显微拍摄装置的观察方法
US10254527B2 (en) 2014-07-31 2019-04-09 Kabushiki Kaisha Toshiba Observation method using microscopic imaging device
CN105319699B (zh) * 2014-07-31 2019-04-26 株式会社东芝 利用显微拍摄装置的观察方法
CN105510283A (zh) * 2014-10-14 2016-04-20 全视技术有限公司 具样品加热能力的高通量荧光成像系统与装置以及相关方法
CN105510283B (zh) * 2014-10-14 2021-03-16 豪威科技股份有限公司 具样品加热能力的高通量荧光成像系统与装置以及相关方法
CN109477783A (zh) * 2016-07-04 2019-03-15 弗劳恩霍夫应用研究促进协会 用于借助于动态光散射确定悬浮在液体和流动介质中的颗粒的平均颗粒大小的方法及其设备
CN106483276A (zh) * 2016-09-29 2017-03-08 大连理工大学 一种基于智能手机的光流控血液细胞显微成像系统
CN106525826B (zh) * 2016-10-20 2020-01-03 太原理工大学 基于颜色主波长和补色波长的分子智能手机速测方法
CN106525826A (zh) * 2016-10-20 2017-03-22 太原理工大学 基于颜色主波长和补色波长的分子智能手机速测方法
US11631708B2 (en) 2018-09-28 2023-04-18 Semiconductor Energy Laboratory Co., Ltd. Image processing method, program, and imaging device
CN109580457A (zh) * 2018-11-01 2019-04-05 南京理工大学 基于led阵列编码照明的三维衍射层析显微成像方法
CN109580457B (zh) * 2018-11-01 2021-05-04 南京理工大学 基于led阵列编码照明的三维衍射层析显微成像方法
US11781966B2 (en) 2018-11-01 2023-10-10 Nanjing University Of Science And Technology 3D diffraction tomography microscopy imaging method based on LED array coded illumination
CN111405183A (zh) * 2020-03-27 2020-07-10 西安理工大学 一种集成在图像传感器中提高细胞分辨率的系统与方法
CN111405183B (zh) * 2020-03-27 2021-11-16 西安理工大学 一种集成在图像传感器中提高细胞分辨率的系统与方法
CN111766692A (zh) * 2020-06-18 2020-10-13 苏州大学 自动补液微球超分辨显微成像系统
CN111766692B (zh) * 2020-06-18 2022-07-19 苏州大学 自动补液微球超分辨显微成像系统
CN111722392A (zh) * 2020-07-22 2020-09-29 南京大学 一种基于超构透镜阵列的大视场集成显微成像装置
CN111722392B (zh) * 2020-07-22 2021-06-08 南京大学 一种基于超构透镜阵列的大视场集成显微成像装置
TWI783896B (zh) * 2022-04-08 2022-11-11 國立清華大學 用於輕元素薄膜的三維影像重建方法及系統

Also Published As

Publication number Publication date
EP2550522A4 (en) 2014-07-23
WO2011119678A3 (en) 2012-02-02
CN102792151B (zh) 2015-11-25
US9743020B2 (en) 2017-08-22
US20110234757A1 (en) 2011-09-29
WO2011119678A2 (en) 2011-09-29
EP2550522B1 (en) 2016-11-02
EP2550522A2 (en) 2013-01-30

Similar Documents

Publication Publication Date Title
CN102792151A (zh) 用于2d和3d成像的超分辨率光流体显微镜
Wu et al. Lensless digital holographic microscopy and its applications in biomedicine and environmental monitoring
US9426429B2 (en) Scanning projective lensless microscope system
Ozcan et al. Lensless imaging and sensing
US9643184B2 (en) e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images
US9569664B2 (en) Methods for rapid distinction between debris and growing cells
Han et al. Imaging technologies for flow cytometry
US9007433B2 (en) Incoherent lensfree cell holography and microscopy on a chip
EP2681757B1 (en) Imaging system and method of generating a sub-pixel resolution image
Imanbekova et al. Lensless, reflection-based dark-field microscopy (RDFM) on a CMOS chip
Zhang et al. Super-resolution generative adversarial network (SRGAN) enabled on-chip contact microscopy
Dai et al. Recent advances in computational photography
Hu et al. Emerging theories and technologies on computational imaging
Hsu et al. Digital imaging in hematology
Zheng et al. Subpixel resolving optofluidic microscope based on super resolution algorithm
Mandracchia et al. Sub-diffraction-limit optofluidic scanning microscopy
Mandracchia et al. Resolution doubling in optofluidics and sample-scanning fluorescence microscopy
Lee Bright-Field and Fluorescence Chip-Scale Microscopy for Biological Imaging
Microscopy Technology Development Group Available Technologies Contact Our Team
Böke et al. Imaging flow cytometry for modern particle analysis
Anthony Super-resolution Hyperspectral Microscopy and Image Analysis.
Pégard et al. 3D microfluidic microscopy using a tilted channel
Zhu et al. A Wireless-and-Lensless Microscope for In-Situ, High-resolution Imaging of Ultra-large-scale Cell Culture
Lu et al. Microfluidic structured illumination microscopy
Ling Ultra Large Field-of-view Fluorescent Biomedical Scanner Imaging System

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant