CN103154662A - 扫描投影无透镜显微镜系统 - Google Patents
扫描投影无透镜显微镜系统 Download PDFInfo
- Publication number
- CN103154662A CN103154662A CN2011800486391A CN201180048639A CN103154662A CN 103154662 A CN103154662 A CN 103154662A CN 2011800486391 A CN2011800486391 A CN 2011800486391A CN 201180048639 A CN201180048639 A CN 201180048639A CN 103154662 A CN103154662 A CN 103154662A
- Authority
- CN
- China
- Prior art keywords
- scanning
- image
- detector
- sub
- photo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000005286 illumination Methods 0.000 claims abstract description 73
- 230000033001 locomotion Effects 0.000 claims abstract description 52
- 239000013598 vector Substances 0.000 claims abstract description 50
- 230000003287 optical effect Effects 0.000 claims description 150
- 238000000034 method Methods 0.000 claims description 52
- 238000006073 displacement reaction Methods 0.000 claims description 40
- 210000004276 hyalin Anatomy 0.000 claims description 35
- 238000005070 sampling Methods 0.000 claims description 30
- 238000005267 amalgamation Methods 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 description 60
- 210000004027 cell Anatomy 0.000 description 25
- 238000001514 detection method Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 17
- 230000006870 function Effects 0.000 description 15
- 230000000875 corresponding effect Effects 0.000 description 14
- 239000012530 fluid Substances 0.000 description 14
- 238000005516 engineering process Methods 0.000 description 12
- 230000008859 change Effects 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000000386 microscopy Methods 0.000 description 7
- 239000004005 microsphere Substances 0.000 description 7
- 238000013519 translation Methods 0.000 description 7
- 238000001093 holography Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 238000009877 rendering Methods 0.000 description 5
- 238000003325 tomography Methods 0.000 description 5
- 230000003321 amplification Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000004113 cell culture Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000004043 dyeing Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 241000244203 Caenorhabditis elegans Species 0.000 description 2
- 244000097202 Rathbunia alamosensis Species 0.000 description 2
- 235000009776 Rathbunia alamosensis Nutrition 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 210000003850 cellular structure Anatomy 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 238000002161 passivation Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 238000010408 sweeping Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000004304 visual acuity Effects 0.000 description 2
- 241000894006 Bacteria Species 0.000 description 1
- 101100117236 Drosophila melanogaster speck gene Proteins 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000001464 adherent effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 239000004205 dimethyl polysiloxane Substances 0.000 description 1
- 235000013870 dimethyl polysiloxane Nutrition 0.000 description 1
- 239000003623 enhancer Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 210000005061 intracellular organelle Anatomy 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 210000004962 mammalian cell Anatomy 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 244000005700 microbiome Species 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003472 neutralizing effect Effects 0.000 description 1
- CXQXSVUQTKDNFP-UHFFFAOYSA-N octamethyltrisiloxane Chemical compound C[Si](C)(C)O[Si](C)(C)O[Si](C)(C)C CXQXSVUQTKDNFP-UHFFFAOYSA-N 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 238000004987 plasma desorption mass spectroscopy Methods 0.000 description 1
- 238000009832 plasma treatment Methods 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 229920000435 poly(dimethylsiloxane) Polymers 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 102000004169 proteins and genes Human genes 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001235 sensitizing effect Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/0008—Microscopes having a simple construction, e.g. portable microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03H—HOLOGRAPHIC PROCESSES OR APPARATUS
- G03H1/00—Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
- G03H1/04—Processes or apparatus for producing holograms
- G03H1/0443—Digital holography, i.e. recording holograms with digital recording means
- G03H2001/0447—In-line recording arrangement
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Microscoopes, Condenser (AREA)
Abstract
扫描投影无透镜显微镜设备包括试样表面、具有光元件的扫描照明源、在试样表面外部的光探测器、和处理器。扫描照明源将光元件扫描到多个扫描位置以对试样表面上的物体提供照明。光探测器对相应于多个扫描位置的一系列亚像素移动投影物体图像采样。处理器基于该系列亚像素移动投影图像和在所关注的平面处的投影的运动矢量来构建物体的高分辨率图像。
Description
相关申请的交叉引用
本申请是下列专利申请的非临时申请并要求其优先权:2010年10月26日提交的标题为“Scanning Projective Microscopy System for2D and3DImaging”的美国临时专利申请号61/406,916和2011年5月4日提交的标题为“ePetri:An On-Chip Cell Imaging Platform based on Sub-PixelPerspective Sweeping Microscopy”的美国临时专利申请号61/482,531。这些临时申请为了所有的目的特此通过引用被全部并入。
这个非临时申请与为了所有的目的特此通过引用被全部并入的下面的共同未决和共同转让的专利申请有关:
●2009年3月4日提交的标题为“Optofluidic Microscope Device withPhotosensor Array”的美国专利申请号12/398,050。
●2011年3月23日提交的标题为“Super Resolution OptofluidicMicroscopes for2D and3D Imaging”的美国专利申请号13/069,651。
发明背景
本发明的实施方式通常涉及高分辨率(HR)(例如,亚像素分辨率)显微镜设备和其它HR成像设备。更具体地,某些实施方式涉及用于二维(2D)单色HR成像、2D HR彩色成像、三维(3D)单色HR成像和/或3D彩色HR成像的扫描投影无透镜显微镜(SPLM)设备、SPLM系统和SPLM方法。
生物医学成像工具的小型化有可能极大地改变医疗诊断和科学研究的方法。更具体地,紧凑的低成本显微镜可明显扩展负担得起的保健诊断并提供用于检查和自动表征大量细胞的手段,如在为了所有的目的特此通过引用被全部并入的Psaltis,D.等人的“Developing optofluidic technologythrough the fusion of microfluidics and optics”(Nature,Vol.442,pp.381-386(2006))中讨论的。常规光学显微镜具有笨重的光学器件,且证明是昂贵的和难以小型化。
互补金属氧化物半导体(CMOS)成像传感器技术中的快速进步和商业化导致廉价和高像素密度成像传感器芯片的广泛可得到性。在过去的几年中,这些成像传感器芯片使新的显微镜实现的发展成为可能,所述显微镜实现比具有笨重的光学器件的常规显微镜设计明显更紧凑和更不昂贵。光流体显微镜和数字同轴全息显微镜是这些新发展的两个例子。光流体显微镜技术的一些例子可在Heng,X.等人的“Optofluidic microscopy—methodfor implementing a high resolution optical microscope on a chip”(Lab Chip,Vol.6,pp.1274-1276)、Cui,Xiquan等人的“Lensless high-resolution on-chipoptofluidic microscopes for Caenorhabditis elegans and cell imaging”(Proceedings of the National Academy of Science,Vol.105,p.10670(2008))和Zheng,G.、Lee,SA.、Yang,S.、Yang,C.的“Sub-pixel resolving optofluidicmicroscope for on-chip cell imaging.Lab Chip”(Lab Chip,Vol.10,pp.3125-3129(2010))(“Zheng”)中找到,这些文献为了所有的目的特此通过引用被全部并入。数字同轴全息显微镜的一些例子可在Repetto,L.、Piano,E.、Pontiggia,C.的“Lensless digital holographic microscope withlight-emitting diode illumination”(Opt.Lett.,Vol.29,pp.1132-1134(2004))(“Repetto”)、Mudanyali,O.等人的“Compact,light-weight and cost-effectivemicroscope based on lensless incoherent holography for telemedicineapplications”(Lab Chip,Vol.10,pp.1417-1428(2010))(“Mudanyali”)、Xu,W.、Jericho,M.、Meinertzhagen,I.、Kreuzer,H.的“Digital in-line holographyfor biological applications”(Proc Natl Acad Sci USA,Vol.98,pp.11301-11305(2001))(“Xu”)、Garcia-Sucerquia,J.等人的“Digital in-lineholographic microscopy”(Appl.Opt.,Vol.45,pp.836-850(2006))(“Garcia-Sucerquia”)、Malek M.、Allano,D.、Coetmellec,S.、Lebrun,D.的“Digital in-line holography:Influence of the shadow density on particle fieldextraction”(Opt.Express,Vol.12,pp.2270-2279(2004))(“Malek”)、Isikman,S.O.等人的“Lens-free optical tomographic microscope with a large imagingvolume on a chip”(Proc Natl Acad Sci USA,Vol.108,pp.7296-7301(2011))中找到,这些文献为了所有的目的特此通过引用被全部并入。
光流体和同轴全息显微镜技术都被设计成在没有透镜的情况下操作,且因此巧妙地避开其光学限制,例如像差和色度。这两种技术都适合于使可分散的样本例如血液、流体细胞培养物以及细胞或有机体的其它悬浮液成像。然而,这些都不能对融合性细胞培养物或对其中细胞在相当大的长度标度上被连续地连接的任何样本很好地起作用。
在光流体显微镜设备的情况下,成像需要试样的流体(例如,微流体)流越过整个扫描区域。粘附的、融合性的或邻接布置的试样通常与在流体模式中的成像不相容。此外,视场可能被流体通道的几何结构限制。
在数字同轴全息显微镜中,在受控光照明下目标的干涉强度分布被测量,且接着图像重建算法被应用以再现目标的显微图像。算法的两个例子可在Liu,G.、Scott,P.的“Phase retrieval and twin-image elimination or in-lineFresnel holograms”(J Opt Soc Am A,Vol.4,pp.159-165(1987))(“Liu”)、Fienup,JR.的“Reconstruction of an object from the modulus of its Fouriertransform”(Opt Lett,Vol.3,pp.27-29(1978))(“Fienup”)、Koren,G.、Polack,F.、Joyeux,D.的“Iterative algorithms for twin-image elimination in in-lineholography using finite-support constraints”(J Opt Soc Am A,Vol.10,pp.423-433(1993))中找到,这些文献为了所有的目的特此通过引用被全部并入。图像质量关键取决于目标的大小、散射特性和测量过程的信噪比(SNR),测量过程在Mudanyali和Garcia-Sucerquia、Malek、Fienup中以及也在Lai,S.、King,B.、Neifeld,MA的“Wave front reconstruction by meansof phase-shifting digital in-line holography”(Opt Commun.,Vol.173,pp.155-160(2000))(“Lai”)和Rodenburg,J.、Hurst,A.、Cullis,A.的“Transmission microscopy without lenses for objects of unlimited size”(Ultramicroscopy,Vol.107,pp.227-231(2007))(“Rodenburg”)中被描述,这些文献为了所有的目的特此通过引用被全部并入。该方法对充分隔离的目标例如稀释的血液涂片载玻片很好地起作用。然而,这样的方法看来好像并不适用于在具有亚微米分辨率的总邻接区域覆盖中占据多于0.1mm2的目标,如在Repetto、Madanyali、Xu、Garcia-Sucerquia中以及也在Biener,G.等人的“Combined reflection and transmission microscope for telemedicineapplications in field settings”(Lab Chip,Vol.11,pp.2738-2743(2011))中找到的,该文献为了所有的目的特此通过引用被全部并入。
对这个限制的原因是公知的:在强度记录过程期间相位信息的遗失。为了恢复相位信息,必须在迭代相位恢复算法中使用物体支持,该算法涉及在成像域(其中强度数据被应用)和物体域(其中先验的物体约束条件被应用)之间来回的光场传播,如在Liu中讨论的。当测试物体是真实的或非负的时,容易应用强大的非负性支持约束以从所记录的衍射强度提取相位信息,如在Liu中讨论的。然而,对于数字同轴全息,物体域中的光场是复数取值的,且因此相位恢复只在物体的支持被足够隔离(即,稀疏约束)或边缘被清晰地界定(真实边界)时是可能的,如在Rodenburg和Fienup中和也在Denis,L.、Lorenz,D.、Thiebaut,E.、Fournier,C、Trede,D.的“Inline hologram reconstruction with sparsity constraints”(Opt Lett,Vol.34,pp.3475-3477(2009))、Zhang,F、Pedrini,G.、Osten,W.的“Phase retrievalof arbitrary complex-valued fields through aperture-plane modulation”(PhysRev A,Vol.75,p.043805(2007))中讨论的,这些文献为了所有的目的特此通过引用被全部并入。此外,技术的干涉性质暗示基于相干的噪声源例如散斑和交叉干涉将存在且将需要被处理,如在Garcia-Sucerquia和Malek中以及也在Xu,L.、Miao,J.、Asundi,A.的“Properties of digital holographybased on in-line configuration”(Opt Eng,Vol.39,pp.3214-3219(2000))中讨论的,这些文献为了所有的目的特此通过引用被全部并入。用于减轻数字同轴全息显微镜中的问题的方法在Lai、Rodenburg中和Mico,V.、Garcia,J.、Zalevsky,Z.、Javidi,B.的“Phase-Shifting Gabor Holographic Microscopy”(J Disp Technol,Vol.6,pp.484-489(2010))中被报告,这些文献为了所有的目的特此通过引用被全部并入。基于这些减轻方法的所产生的图像具有可能从干涉产生的假象,且是可识别地不同的,并由于基于相干的噪声源而具有比使用常规显微镜获取的图像低的质量。
本发明的简要概述
本发明的实施方式涉及用于产生HR(例如,亚像素分辨率)单色2D图像、HR单色3D图像、HR彩色2D图像和/或HR彩色3D图像的SPLM设备、SPLM系统和方法。SPLM设备包括用于正被成像的物体的试样表面、扫描照明源、具有感测表面的光探测器(例如,CMOS成像传感器)、和处理器。扫描照明源将光元件(例如,一组像素)扫掠到物体之上的不同的位置以从不同的角度提供照明。该照明在光探测器的感测表面上产生物体的亚像素移动投影。光探测器记录物体的一个或多个系列的亚像素移动低分辨率(LR)投影图像。处理器可使用超分辨率算法来基于一系列亚像素移动LR投影图像构建物体的HR图像。
一个实施方式目的在于SPLM设备,其包括试样表面、包括光元件的扫描照明源、在试样表面外部的光探测器、和处理器。扫描照明源将光元件扫描到多个扫描位置以从对试样表面上的试样的不同的照明角度提供照明。光探测器对试样的一系列亚像素移动投影图像采样。该系列亚像素移动投影图像相应于多个扫描位置。处理器可基于该系列亚像素移动投影图像和投影的运动矢量来构建试样的高分辨率图像。
另一实施方式目的在于包括SPLM设备和处理器的SPLM系统。SPLM设备包括试样表面、包括光元件的扫描照明源、在试样表面外部的光探测器、和处理器。扫描照明源将光元件扫描到多个扫描位置以从对试样表面上的试样的不同的照明角度提供照明。光探测器对试样的一系列亚像素移动投影图像采样。该系列亚像素移动投影图像相应于多个扫描位置。处理器可基于该系列亚像素移动投影图像和投影的运动矢量来构建试样的高分辨率图像。
另一实施方式目的在于使用SPLM设备来产生物体的高分辨率图像的方法,SPLM设备具有试样表面、照明显示器、在试样表面外部的光探测器、和处理器。该方法在试样表面上接收物体。该方法还顺序地照亮在多个扫描位置处的照明显示器的一个或多个像素以从对物体的不同的照明角度提供照明。该方法还捕获与多个扫描位置相关的一系列亚像素移动投影图像。该方法还确定在平面处的亚像素移动投影图像的运动矢量并基于该系列亚像素移动投影图像和运动矢量来构建物体的高分辨率图像。
下面进一步详细地描述本发明的这些和其它实施方式。
附图的简要说明
图1是根据本发明的实施方式的SROFM的部件和部分部件的示意图。
图2是根据本发明的实施方式的SPLM设备的部件和部分部件的透视图的图。
图3(a)、3(b)和3(c)是根据本发明的实施方式的在成像过程的扫描周期期间SPLM设备的部件和部分部件的透视图的图。
图4(a)和图4(b)是示出根据本发明的实施方式的照明显示器上的扫描图案的图示。
图5(a)是根据本发明的实施方式的在单次采样时间由SPLM系统的光探测器捕获的LR投影图像。
图5(b)是根据本发明的实施方式的SPLM系统所重建的HR图像。
图6(a)是根据本发明的实施方式的在单次采样时间由SPLM系统的光探测器捕获的Hela细胞试样的一部分的LR投影图像。
图6(b)是根据本发明的实施方式的SPLM系统所重建的HR图像。
图7(a)是根据本发明的实施方式的SPLM系统所构建的融合性Hela细胞试样的彩色HR图像的大视场。
图7(b1)是根据本发明的实施方式的由SPLM系统的光探测器捕获的来自图7(a)的小区域的LR投影图像。
图7(c1)是根据本发明的实施方式的由SPLM系统的光探测器捕获的来自图7(b1)的小区域的LR投影图像。
图7(b2)是根据本发明的实施方式的由SPLM系统构建的来自图7(a)的同一小区域的重构的HR图像。
图7(c2)是根据本发明的实施方式的由SPLM系统构建的来自图7(b2)的小区域的重构的HR图像。
图7(d)是使用具有40X,NA=0.66物镜的显微镜的类似细胞的常规显微镜图像。
图8(a)是根据本发明的实施方式的如SPLM系统所构建的具有500nm微球体(polysciences)的试样的HR图像。
图8(b)是根据本发明的实施方式的如SPLM系统所构建的图7的染色HeLa细胞试样的放大的小特征的HR图像。
图9是根据本发明的实施方式的SPLM设备的示例性操作的流程图。
图10是根据本发明的实施方式的在光探测器上的从三个不同的照明角度θ1、θ2和θ3的三个投影的示意图。
图11是根据本发明的实施方式的可存在于SPLM系统中的子系统的方框图。
本发明的详细描述
下面参考附图描述本发明的实施方式。一些实施方式包括SPLM设备,其具有带有正被成像的物体的试样表面、扫描照明源(例如,智能电话)、具有感测表面的光探测器(例如,CMOS成像传感器)、在感测表面和试样表面之间的薄透明层、和处理器。在扫描周期期间,扫描照明源使光元件(例如,LCD的一个或多个像素)扫描(或扫掠)或以另外方式平移到不同的扫描位置以从不同的照明角度照亮物体。例如,LCD上的不同组的像素可被顺序地照亮。来自光元件的照明在光探测器的感测表面上产生物体的亚像素移动投影。光探测器在扫描周期期间的不同时间记录与光元件的位置相关的一系列亚像素移动LR投影图像。使用适当的超分辨率(SR)算法,处理器可基于该系列亚像素移动LR投影图像和投影的运动矢量构建物体的HR图像。在不同的成像方案下,SPLM设备可产生HR单色2D图像、HR单色3D图像、HR彩色2D图像和/或HR彩色3D图像。在数字聚焦方案中,SPLM设备可通过使用在穿过物体的平面处的运动矢量将物体的HR图像聚焦在该平面处以构建HR图像。
本发明的实施方式提供一个或多个技术优点。在实施方式的SPLM系统中,在与物体和感测表面之间的距离比较,扫描照明源位于离感测源的更大距离处。因此,光元件的小平移相应于感测表面上的投影的较大平移。使用这个几何结构,扫描照明源可容易和准确地控制并维持投影的亚像素位移。这可提供优于其它系统例如现有的微扫描系统的优点,所述微扫描系统使用执行器和控制器来控制物体或托住物体的平台的亚像素运动。实施方式的另一优点是,该方法可提供对融合性样本和其它样本(其中,物体(例如细胞)在相当大的长度上被邻接地连接)的高分辨率成像的自主的、有成本效益的高质量显微镜解决方案。
I.扫描投影无透镜显微镜(SPLM)系统
图1是根据本发明的实施方式的SPLM系统10的部件和部分部件的示意图。SPLM系统10包括SPLM设备100和主机计算机200。
SPLM设备100包括用于接纳试样(例如,融合性样本)的试样表面140。SPLM系统10可对试样150的至少一部分成像。在所示例子中,具有五个物体152(例如,细胞)的试样150位于试样表面140上。虽然示出了五个物体152,试样150可具有任何适当数量(例如,1、2、10、100、1000等)的物体152或物体152的部分。
SPLM设备100还包括具有第一处理器112、第一计算机可读介质(CRM)114和照明显示器116(例如,LCD、发光二极管(LED)显示器等)的扫描照明源110。第一处理器112与照明显示器116并与第一CRM114进行电子通信。照明显示器116包括能够产生照明118(例如,非相干光)的光元件117(例如,LCD或LED显示器的一个或多个像素)。照明显示器116还包括显示表面119。在所示例子中,光元件117位于显示表面119处。在其它实施方式中,透明层可位于显示表面119和光元件117之间。此外,在一些实施方式中,透明层可位于显示表面119外部。扫描照明源110还包括x轴、y轴(未示出)和z轴。x轴和y轴位于显示表面119处的平面中。z轴与该平面正交。
扫描照明源110可将光元件117扫描(扫掠)或以另外方式平移到整个显示表面119上的不同扫描位置,以便从不同的照明角度向试样150提供照明118。移动照明118的光元件117(源)在感测表面162上产生试样150的移动投影170(如图3所示)。在图1中,在成像过程的扫描周期期间的时间t,示出了在扫描位置处的光元件117。每个扫描周期可以指时间间隔,在该时间间隔期间,扫描照明源110在那个特定的扫描周期中将光元件117扫描或以另外方式平移到扫描位置。成像过程可以指时间间隔,在该时间间隔期间,SPLM系统10的一个或多个操作基于在一个或多个扫描周期期间收集的光数据产生HR图像。在实施方式中,光元件117可在扫描周期期间移动到在显示表面119上的扫描位置的二维阵列(n x m)中的n x m个扫描位置(xi=1到n,yi=1到m)。
SPLM设备100还包括用于捕获投影图像的光探测器160。光探测器160包括具有感测区域164的感测表面162。感测表面162位于离显示表面119的距离d处。光探测器160还包括位于试样表面140和感测表面162之间的透明层165(例如,薄透明钝化层)。在扫描周期期间,来自光元件117的照明118在感测表面162上产生试样150的投影170(图3中示出)。光探测器160可在扫描周期期间对试样150的一个或多个系列的亚像素偏移LR投影图像采样(捕获)。每个亚像素移动LR投影图像可以指从该系列中的相邻LR投影图像移动一段亚像素距离的LR投影图像。系列中的相邻LR投影图像可以指在距离上接近的两个LR投影图像。在一些情况下,相邻LR投影图像也可以是在扫描周期期间在时间上被顺序地捕获的投影图像。
如虚线所示的,光探测器160可以可选地与第一处理器112电通信用于使通过光探测器160的采样与通过扫描照明源110的扫描同步。光探测器160还包括x’轴、y’轴(未示出)和z’轴。x’轴和y’轴位于光探测器160的感测表面162处的平面中。z’轴与该平面正交。
SPLM系统10还包括主机计算机200,其具有第二处理器210、与第二处理器210电通信的第二CRM220和与第二处理器210电通信的图像显示器230。第二处理器210可从光探测器150接收与一个或多个系列的亚像素移动LR投影图像相关的数据。第二处理器210还可基于该数据确定在感测表面162处的投影170的运动矢量。第二处理器210可接着基于一个或多个系列的亚像素移动LR投影图像的运动矢量和数据使用适当的超分辨率算法(SR算法)来产生试样150的一个或多个HR(例如,亚像素分辨率)图像。第二处理器210与第二处理器210电通信以显示HR图像和/或其它图像。
在图1的SPLM系统10的示例性成像过程中,扫描照明源110将光元件117扫描或以另外方式平移到在显示表面119上的具有坐标(Xi=1到n,Yj=1到m)的n x m个扫描位置的二维(n x m)阵列。扫描照明源110根据扫描图案将光元件117扫描(扫掠)或以另外方式平移到扫描位置。来自在不同的扫描位置处的光元件117的照明118在光探测器160的感测表面162上产生试样150的移动投影170。在扫描期间,光探测器160捕获在感测区域164处的一个或多个系列的亚像素移动LR投影图像。第二处理器210从光探测器160接收所述系列中的至少一个的数据。第二处理器210可从该数据确定在感测表面162处的亚像素移动投影170的运动矢量。第二处理器210还可使用适当的超分辨率算法利用来自试样150的一系列亚像素移动LR投影图像中的至少一个的数据和/或所确定的运动矢量来构建试样150的一个或多个HR图像。
图2是根据本发明的实施方式的SPLM设备100的部件和部分部件的透视图的图。SPLM设备100包括以移动通信设备(例如,蜂窝电话、平板电脑等)的形式的扫描照明源110和以光探测元件166(例如,CMOS成像传感器)的二维阵列的形式的光探测器160。光探测器160具有感测表面162和薄透明层165。包括单个物体152(例如,细胞)的试样150位于试样表面140(未示出)上。薄透明层165位于感测表面162和试样表面140之间。在本例中,扫描照明设备110包括以LCD的形式的照明显示器116(未示出)。LCD包括发光元件(例如,像素)的二维阵列。所扫描的光元件117是以根据扫描图案提供照明118的LCD116上的连续的发光元件集合的形式。每个集合可包括一个或多个发光元件。连续的发光元件集合在显示表面119上的(xi=1到n,yj=1到m)处的n x m个扫描位置的二维(n x m)阵列处提供照明118。在图2中,在扫描周期中在单个扫描位置处示出光元件117。来自光元件117的照明118在光探测器160的感测表面162上产生物体152的单个投影170。
图3(a)、3(b)和3(c)是根据本发明的实施方式的在成像过程的扫描周期期间SPLM设备100的部件和部分部件的透视图的图。SPLM设备100包括提供照明118的扫描照明源110和以光探测元件166的二维阵列的形式的光探测器160。光探测器160具有感测表面162和薄透明层162。包括单个物体152(例如,细胞)的试样150位于试样表面140(未示出)上。薄透明层165位于感测表面162和试样表面140之间。SPLM设备10还包括x轴、y轴和z轴。x轴和y轴位于光探测器160的感测表面162处的平面中。z轴与该平面正交。光元件(未示出)117提供照明118并在光探测器160上产生光斑。
在图3(a)、3(b)和3(c)中,光元件117(未示出)在时间t=ta、tb和tc(a>b>c)分别位于沿着x’轴的三个扫描位置处。照明118被示为来自三个不同的扫描位置以在感测表面162上分别产生三个移动投影170(a)、170(b)和170(c)。由于光元件117的某些位移,物体的投影(阴影)可在光探测器阵列的光探测元件166(例如,传感器像素)上以亚像素(即,小于像素尺寸)增量移动。在时间t=t1、t2和t3,光探测器160捕获分别相应于三个投影170(a)、170(b)和170(c)的一系列三个LR投影图像。可在时间ta和tb之间以及在时间tb和tc之间的扫描时间捕获任何适当数量的亚像素移动投影。可基于来自一系列亚像素移动LR投影图像的数据确定在感测表面162处的投影170(a)、170(b)和170(c)的运动矢量。可使用适当的SR算法并基于来自光探测器160所捕获的一系列亚像素移动LR投影图像的数据来构建物体152的HR图像。
任何适当的试样150可由SPLM系统10或SPLM设备100成像。在大部分情况下,试样150在扫描周期期间是静止的。适当试样150的例子是具有一个或多个物体152(例如,细胞)的融合性样本(例如,融合性细胞培养物)。适当试样150的另一例子是物体152被邻接地连接的样本。正被成像的试样150可包括任何适当类型的物体150并可包括任何适当数量(例如,1、10、100、1000等)的物体150或物体150的部分。适当类型的物体150可以是生物或无机实体。生物实体的例子包括全细胞、细胞成分、微生物例如细菌或病毒、细胞成分例如蛋白质等。无机实体也可通过本发明的实施方式成像。
如本文使用的,扫描照明源110可以指能够将光元件117扫描或以另外方式平移到n个扫描位置处以在光探测器160的感测表面162处产生正被成像的试样150的亚像素移动投影170的任何适当的设备或设备的组合。可使用任何数量n的扫描位置(n=1、2、3、4、5、10、20、100等)。通过移动光元件117,扫描照明设备110改变提供给试样150的照明118的照明角度。在实施方式中,扫描照明源110将光元件117移动到扫描位置,其在感测表面或所关注的其它平面的法线周围的X/Y中产生小范围的照明角度(例如,+/-2度)。
适当扫描照明设备110的例子是移动通信设备(例如,蜂窝电话、平板电脑等)。适当的扫描照明源110是在市场上可买到的。在图2和4中示出了以智能电话的形式的适当扫描照明设备110的所示例子。适当扫描照明设备110的另一例子可以是使用空间光调制器来扫描照明的层析成像相位显微镜。
在实施方式中,扫描照明源110可包括用于扫描光元件117以在感测表面162处产生亚像素移动投影170的照明显示器116。照明显示器116可以指能够将光元件117平移到越过显示表面119的至少一部分的扫描位置的任何适当的显示器。适当的照明显示器116是在市场上可买到的。适当的照明显示器116的一些例子包括单色、彩色或灰度级LCD、LED显示器(例如,显示面板)、电视屏幕、LCD矩阵等。在这些实施方式中,照明显示器116可包括发光元件(例如,像素)的二维阵列。发光元件的阵列可具有任何适当的维度(例如,1000x1000、1000x4000、3000x5000等)。显示表面119可以指提供照明118的照明显示器116的表面。例如,扫描照明源110可以是如图2和4所示的具有以LCD屏幕的形式的照明显示器116的智能电话的形式。在其它实施方式中,扫描照明源110可包括能够扫描光元件117以在感测表面162处产生亚像素移动投影170的另一设备或设备的组合。
在一些实施方式中,扫描照明源110在扫描期间可保持在相对于光探测器160和透明层165的固定位置处。在这些实施方式中,SPLM100可包括一个或多个适当的结构(例如,平台、框架等)以将扫描照明源110和光探测器160保持在固定位置上。在一些情况下,例如图1的所示例子,扫描照明源110可被保持,使得显示表面119保持大致平行于光探测器160的感测表面162且在扫描期间在离感测表面162的距离d处。在这些情况下,照明显示器116可以以垂直于显示表面119的角度提供照明118。在其它情况下,扫描照明源110可被保持,使得显示表面119可与法线成一角度倾斜。在这个角度处,待捕获的从更极端的照明角度的投影170在一些情况下导致更完整的3D重建。在一个实施方式中,扫描照明源110可包括执行器和控制器或以与法线成一角度重新定位照明显示器116(例如,LCD阵列)的其它机构。
光元件117可以指能够提供照明118的适当设备。由光元件117产生的照明118的特性可具有任何适当的值。照明118的一些特性包括强度、波长、频率、偏振、相位、自旋角动量和与光元件117所产生的照明118相关的其它特性。在实施方式中,照明118是非相关光。
在具有以发光部件(例如,像素)的二维阵列的形式的照明显示器116的实施方式中,在特定的扫描时间t的光元件117可以是在二维阵列(例如,LCD阵列)中的一组适当数量(例如,1、5、10、100等)的被照亮的发光部件(例如,LCD灯/像素)。每个发光部件可具有被表示为(xi,yj)的扫描位置,其中i=1...N且j=1...N。光元件117可以是在扫描周期中的扫描时间在阵列中的被照亮的像素。在这种情况下,光元件117的扫描位置可以指这组被照亮的发光元件的中心的坐标。在这些实施方式中,在照明显示器116上的顺序地照亮的发光部件组可在扫描周期期间在不同的扫描位置处产生发光元件117。
发光元件117的特性(例如,尺寸、照明118的特性、形状等)可具有任何适当的值。在实施方式中,光元件117的一个或多个特性可在扫描周期中在不同的扫描位置处改变。在其它实施方式中,光元件117的特性在扫描周期期间可以是不变的。光元件117的适当形状的一些例子是矩形、圆形、斑点、条纹等。在具有以发光元件的二维阵列的形式的照明显示器116的实施方式中,可通过改变在形成光元件117的发光部件(例如,像素)的集合中的发光部件的数量来改变光元件117的特性。例如,可通过改变发光部件(例如,像素)的数量来改变由光元件117产生的照明118的强度。在实施方式中,由光元件117产生的照明118的一个或多个特性可在不同的扫描位置处改变。
在实施方式中,可通过改变光元件117的尺寸来控制由光元件117产生的照明118的强度。在一个实施方式中,光元件117的尺寸可在不同的扫描位置处改变以在感测表面162的平面处的单个点处产生大约在相同的强度的光。在这个实施方式中,在扫描位置处的光元件117的尺寸S可与从扫描位置到适当的位置例如a)扫描位置的阵列的中心或b)照明显示器116的中心例如在智能电话上的LCD的中心的距离L成比例。例如,在扫描位置处的光元件117的尺寸S可被定义为:S=S中心x(1+L),其中S中 心是在扫描位置的阵列的中心处的光元件117的尺寸。以这种方式,在与显示表面119上的扫描位置的中心正交的感测表面162处的位置处接收的光强度在一些情况下可保持大约不变。作为另一例子,在扫描周期中在扫描位置处的光元件117的尺寸S可被定义为:S=SA x(1+A),其中SA是在照明设备116的位置A处的光元件117的尺寸,A是从扫描位置到位置A的距离。
在一个实施方式中,光元件117可在扫描周期期间的不同的扫描时间提供n个不同的波长λ1…λn的照明118。在一些例子中,当光元件117在扫描周期中在扫描位置中移动时,照明118可以顺序地循环过一系列不同的波长。在一个例子中,光元件117可提供分别相应于红色、绿色和蓝色的三个波长λ1、λ2和λ3的RGB照明。光元件117可在扫描周期的扫描时间期间提供三个波长λ1、λ2和λ3的照明118。在一种情况下,在扫描时间t1,照明118可具有λ1的波长,在t2,照明118可具有λ2的波长,在t3,照明118可具有λ3的波长,在t4,照明118可具有λ1的波长,在t5,照明118可具有λ2的波长,等等。
扫描位置可以指光元件117的中心。可在扫描周期中使用任何适当数量(例如,1、100、1000等)的扫描位置。作为一个组,在扫描周期中的扫描位置可覆盖任何适当的区域。在具有显示表面119的实施方式中,扫描位置可覆盖整个显示表面119或可覆盖显示表面119的一部分。
为了移动在感测表面162处的试样152的投影170,扫描照明源110可将光元件117平移到不同的扫描位置,产生不同的扫描角度。在一些实施方式中,为了产生在感测表面162处的试样152的一系列亚像素移动投影170,扫描照明源110可将光元件117移动到设计成产生亚像素移动投影170的多个扫描位置。在这种情况下,在多个扫描位置中的相邻扫描位置相应于在该系列投影图像中的相邻投影图像170的亚像素位移。相邻扫描位置可以指在距离上接近的两个扫描位置。在一些情况下,相邻扫描位置也可以是在具有在扫描周期期间的连续扫描时间的时间上是连续的。
扫描位置可形成任何适当的布置(例如,阵列、圆形、正方形、三角形等)。在实施方式中,扫描位置可以是扫描位置的阵列(例如,一维阵列、二维阵列或一维和二维阵列的组合)的形式。在这些实施方式中,扫描位置的阵列可具有任何适当的维度(例如,1x100、1x10、100x100、3000x20、400x300等)。例如,扫描位置可布置在(xi=1到n,yj=1到m)处的n x m个扫描位置的二维(n x m)阵列中。
在具有以发光元件(例如,像素)的二维阵列的形式的照明设备116(例如,LCD显示器)的实施方式中,光元件117的扫描位置可以指在二维阵列中的被相继照亮的发光元件。在这些实施方式中,光元件117的扫描位置可位于显示表面119处。例如,扫描位置可以是显示表面119上的(xi=1到n,yj=1到m)处的n x m个扫描位置的二维(n x m)阵列的形式。
在实施方式中,扫描照明源110根据扫描图案在扫描周期期间扫描光元件117。扫描图案可以指在扫描周期期间的不同时间的扫描位置(即,光元件117的位置)和在扫描周期中在每个扫描位置处的光元件117的特性(例如,尺寸、形状等)的描述。例如,扫描图案可包括扫描位置的二维阵列和光元件117以不变的速率顺序地穿过每行移动的描述。在另一例子中,扫描图案可包括扫描位置的二维阵列和光元件117以不变的速率顺序地穿过每列移动的描述。作为另一例子,扫描图案可包括扫描位置的二维阵列和元件随机地穿过阵列移动的描述。扫描图案还可包括在相继的LR图像之间的期望亚像素位移的量。扫描图案还可包括期望的LR投影图像和/或HR图像的总数量。扫描图案可被存储为在第一CRM114或第二CRM220上的代码。在具有以例如图4中的智能电话的形式的扫描照明源110的实施方式中,扫描图案可以是存储在智能电话的存储器中的应用(App)。
在实施方式例如图1的所示例子中,SPLM设备100还包括位于试样表面140和感测表面162之间的透明层165。透明层165可分离试样150与光探测器160的光敏感区。透明层165可由任何适当的材料例如聚二甲硅氧烷(PDMS)制成。透明层165可具有任何适当的厚度(例如,在几百纳米到微米的范围内的厚度)。在一些情况下,透明层165可以是放置在光探测器160上的层。例如,透明层165可以是涂覆或沉积在成像传感器芯片的顶部上的钝化层。在其它情况下,透明层165可与光探测器160分离。在其它实施方式中,SPLM设备100没有透明层165,且感测表面162与试样表面140重合。
在相邻投影170之间的距离与透明层165的厚度和光元件117的倾斜/位移幅度成比例。光元件117的倾斜/位移幅度可以指相邻扫描位置之间的距离或照明角度变化。在一些实施方式中,在扫描周期的多个扫描位置中的相邻扫描位置之间的距离可设计成产生亚像素移动投影170。在这些情况下,可基于透明层165的厚度和相邻透镜170之间的所需递增的亚像素位移来确定在相邻扫描位置之间的距离。
在实施方式中,可确定在多个扫描位置中的相邻扫描位置之间的距离以产生在一系列投影图像中的相邻投影170之间的亚像素位移。在这些实施方式中,在多个扫描位置中的相邻扫描位置之间的所确定的距离直接相应于在感测表面162处的投影170的亚像素位移。在这些实施方式中,多个扫描位置直接相应于一系列亚像素移动投影图像。
在实施方式中,在相邻扫描位置之间的距离可以是适当的值。在一些情况下,在给定扫描周期中的相邻扫描位置之间的距离可以是不变的。在其它情况下,它可改变。
扫描率可以指在每单位时间扫描周期中在连续的扫描位置之间移动的速率。采样率可以指每单位时间例如每秒帧由光探测器160捕获的投影图像(帧)的速率。采样/扫描率在一些实施方式中可以是不变的而在其它实施方式中可以改变。在实施方式中,扫描率和采样率是同步的。
图4(a)和图4(b)是示出根据本发明的实施方式的在照明设备116上的扫描图案的图。在本例中,扫描照明源110是以智能电话的形式,而照明显示器116是以智能电话的LCD屏幕的形式。LCD屏幕包括640x640像素尺寸的像素的二维阵列。在扫描期间,智能电话可位于在光探测器160(例如,图像传感器芯片)之上的适当的距离d处。照明显示器116的显示表面119和光探测器160的感测表面162可保持大约平行。智能电话可被定位成使得照明显示器116的显示表面119的中心在光探测器160的感测表面162的感测区域164之上。照明显示器116包括x轴和y轴。x轴和y轴位于照明显示器116的显示表面119处的平面中。
图4(a)示出在照明显示器116上的光元件117,其包括以直径大约1cm的亮圆斑点的形式的一组大约640个像素。光元件117在扫描周期期间的扫描时间被示为在扫描位置处。光元件117可位于照明显示器116的显示表面119处。
在图4(b)中,扫描图案的图包括在扫描周期期间光元件117的扫描位置(步长)的15x15阵列。扫描位置被示为在沿着照明显示器116的显示表面119的平面中的x轴和y轴的位置处。在所示例子中,扫描图案包括在x方向上的15个扫描位置和在y方向上的15个扫描位置。在本例中,光探测器160可基于扫描图案中的225个扫描位置来捕获225个LR投影图像。扫描位置的阵列可居中地位于照明显示器116内。图4(b)中的箭头指定在扫描周期期间扫描位置的顺序。在这种情况下,光元件117顺序地穿过在扫描图案中的扫描位置的二维阵列的每行移动。如果光元件117在远离显示表面119的中心移动时保持不变的尺寸,由于大的入射角,从光探测器160(例如,图像传感器芯片)读出的强度将降低。为了维持更恒定的强度读出,在一个实施方式中,当光元件117远离照明显示器116(例如,智能电话屏幕)的中心移动时,光元件117的尺寸(例如,亮斑尺寸)可线性地增加。
返回到图1,扫描照明源110包括与照明显示器116电通信的第一处理器112和与第一处理器112电通信的第一CRM114。第一处理器112(例如,微处理器)可执行存储在第一CRM114(例如,存储器)上的代码以执行扫描照明源110的一些功能。例如,第一处理器112可执行具有存储在第一CRM114上的扫描图案的代码。CRM114可包括例如具有扫描图案的代码、用于扫描光元件117的其它代码、以及用于扫描照明源110的其它功能的其它代码。第一CRM114还可包括用于执行可由本领域中的普通技术人员创建的信号处理或其它软件相关的功能中的任一个的代码。代码可以是用任何适当的编程语言,包括C、C++、Pascal等。
在实施方式中,光探测器160可与扫描照明源110的第一处理器112电通信以使光探测器160的采样与位于扫描位置处的光元件117同步。在这些实施方式中,光探测器160的采样率可与扫描照明源110的扫描率同步以捕获在每个扫描位置处的至少一个投影图像170。在一个实施方式中,电子开始采样信号可从扫描照明源110发送到光探测器160以当光元件117在扫描位置时捕获LR投影图像。
SPLM设备100还包括光探测器160(例如,CMOS成像传感器)。光探测器160可以指能够捕获投影图像170并产生具有与所捕获的投影图像160相关的数据和与成像相关的其它数据的一个或多个信号的任何适当的设备或设备的组合。具有数据的信号可以是来自光电效应的电流的形式。
光探测器160包括感测表面162。感测表面162可以指光探测器160的活性感测层。感测表面162包括感测区域164。感测区域164指在扫描周期期间主动捕获投影170的感测表面162的适当区域。在一些情况下,感测表面162的整个区域是感测区域164。在实施方式中,正被成像的试样150可位于接近感测区域162的试样表面140的区域中。光探测器160还包括在感测表面162的平面处的局部x’轴和y’轴。
在实施方式中,光探测器160包括以光探测元件166的二维阵列的形式的分立光探测元件166(例如,像素),如图2和3所示。光探测元件166可位于感测表面162处的光探测器160的表面层上或内。虽然如图2和3所示,光探测元件166的二维阵列被定向成使得x’轴平行于照明设备116的x轴,在其它实施方式中二维阵列可定向为成任何适当的角度。
可使用任何适当的光探测器160。具有光探测元件166的二维阵列的适当光探测器160的一些例子包括电荷耦合器件(CCD)阵列、CMOS成像传感器阵列、雪崩光电二极管(APD)阵列、光电二极管(PD)阵列和光电倍增管(PMT)阵列。这些光探测器160和其它器件是在市场上可买到的。此外,光探测器160可以是单色探测器或彩色探测器(例如,RGB探测器)。
光探测元件166可具有任何适当的尺寸(例如,1-10微米)和任何适当的形状(例如,圆形、矩形、正方形等)。例如,CMOS或CCD光探测元件166可以是1-10微米,且APD或PMT光探测元件166可以大至1-4mm。
由于穿过正被成像的试样150的光118的散射角,如果试样150定位成远离光探测器160的感测表面162,投影图像质量可能降低。在实施方式中,光探测器160没有滤色器和微透镜层,以便减小每个光探测元件的接受角以及物体152和感测表面120(即,活性感测层)之间的距离。如果光探测器160(例如,CMOS成像传感器芯片)被预先制造有滤色器和微透镜层,这些部件可被移除,以减小每个像素的接受角以及物体152和表面层之间的距离。
在实施方式中,可在制造期间将透明层165放置在光探测器160上。半导体和/或微米/纳米制造程序可用于将透明层165放置在光探测器160上。在一些情况下,在滤色器和微透镜层被移除之后,透明层165可放置在光探测器160上。在一种情况下,可通过氧等离子体处理预先制造的成像传感器一段时间(例如,在80W下10分钟)来移除滤色器和微透镜。透明层165可在滤色器和微透镜层的移除之后放置在成像传感器上,或可放置在具有该层的光探测器上。在一种情况下,透明层165可通过以1:10混合碱基与固化剂来被制备,然后被旋涂在3英寸的硅晶片上,接着是在80摄氏度下烘焙。
光数据可以指与光探测器160的光探测元件166所捕获的一个或多个投影170有关的任何适当的信息。例如,光数据可包括关于所接收的投影光的特性的信息,例如光的强度、光的波长、光的一个或多个频率、光的偏振、光的相位、光的自旋角动量和/或与光探测元件166所接收的光相关的其它光特性。光数据还可包括接收光探测元件166的位置、光被接收的时间(采样时间或扫描时间)、或与所接收的投影170有关的其它信息。在实施方式中,每个光探测元件166可基于与投影170相关的并被光探测元件166接收的光来产生具有光数据的信号。
LR投影图像(帧)可以指在扫描周期期间出现的采样时间由光探测器160采样(捕获)的快照图像。在实施方式中,光探测器160在每个扫描时间捕获LR投影图像。由光探测器160采样的每个LR投影图像可用于显示2D LR投影图像。在具有彩色光探测器160的实施方式中,LR投影图像可以是彩色图像。在具有单色光探测器160的实施方式中,LR投影图像可以是黑白图像。
每个系列的亚像素移动LR投影图像可以指在n个采样时间采样的n个LR投影图像,其中在时间上相邻的投影图像分隔开小于一个像素尺寸(即,亚像素位移)。在扫描周期期间,可在n个连续的采样时间(t1...tn)捕获n个LR投影图像(I1...In)。可在扫描周期期间捕获任何适当数量n(例如,1、3、5、10、100等)的LR投影图像。此外,可在扫描周期期间由光探测器160捕获任何适当数量(例如,1、3、5、10、100等)的系列的亚像素移动LR投影图像。如果多个系列被捕获,则这些系列可包括不同组的LR投影图像,或这些系列可重叠,共享的一个或多个LR投影图像。在一个例子中,可在9个连续的采样时间(t1、t2、t3、t4、t5、t6、t7、t8、t9)捕获9个LR图像(I1、I2、I3、I4、I5、I6、I7、I8、I9)。在上述例子的重叠情况中,系列可以是:1)I1、I2、I6和I8以及2)I6、I7、I8和I9。在非重叠的情况中,系列可以是:1)I1、I2、I3和I4以及2)I5、I6、I7和I8。在其它例子中,一系列亚像素移动LR投影图像可基于不连续的采样时间。例如,可在9个连续的采样时间(t1、t2、t3、t4、t5、t6、t7、t8、t9)捕获9个LR图像(I1、I2、I3、I4、I5、I6、I7、I8、I9),且该系列投影图像可以是(I6、I2、I9和I1)。
在实施方式中,光探测器160可在扫描周期期间的每个扫描时间捕获LR投影图像。例如,光探测器160可捕获与在图4(b)所示的扫描图案中的每个扫描位置相关的LR投影图像。在本例中,当光元件117顺序地穿过在扫描图案中的扫描位置的二维阵列的每行移动时,光探测器160可在每个扫描时间捕获LR投影图像。如果在每行中的扫描位置与亚像素移动投影170相关,则光探测器160可在扫描周期期间捕获15个系列的亚像素移动投影图像。在这种情况下,每个系列与扫描图案中的一行扫描位置相关。
运动矢量可以指在一系列LR投影图像中的投影图像的平移运动,其被共同称为该系列LR投影图像的运动矢量。运动矢量基于在平面处的投影图像移动的量。可从光探测器160所捕获的相关投影图像计算一系列亚像素移动LR投影图像的运动矢量。可以在任何感兴趣的平面计算所述运动矢量。例如,可在感测表面162处的平面处确定运动矢量。在本例中,按照在光探测器160的感测表面162处的局部x’轴和y’轴确定运动矢量。作为另一例子,可在穿过正被检查的物体152的其它平面处计算运动矢量。穿过物体152的平面在一些情况下可平行于感测表面162的平面。
在实施方式中,可基于与一系列亚像素移动LR投影图像相关的数据和该系列中的亚像素移动LR投影的运动矢量使用适当的超分辨率(SR)算法来构建试样150的HR图像。SPLM系统10的实施方式可得到的图像分辨率的例子可以是大约0.66微米。
SR算法可以指从一系列亚像素移动LR投影图像构建HR图像(例如,亚像素分辨率图像)的图像处理技术。任何适当的SR算法可由SPLM系统10的实施方式使用。适当的SR算法的例子是移动和相加像素SR算法。适当的SR算法的一些例子可在Lange,D.、Storment,C.W.,、Conley,C.A.和Kovacs,G.T.A.的“A microfluidic shadow imaging system for the study ofthe nematode Caenorhabditis elegans in space”(Sensors and Actuators BChemical,Vol.107,pp.904-914(2005))(“Lange”)、Wei,L.、Knoll,T.和Thielecke,H.的“On-chip integrated lensless microscopy module for opticalmonitoring of adherent growing mammalian cells”(Engineering in Medicineand Biology Society(EMBC),2010Annual International Conference of theIEEE,pp.1012-1015(2010))(“Wei”)、Milanfar,P.的“Super-ResolutionImaging”(CRC Press,2010)(“Milanfar”)、以及Hardie,R.、Barnard,K.和Armstrong,E.的“Joint MAP registration and high-resolution imageestimation using a sequence of undersampled images”(IEEE Transactions onImage Processing6,pp.1621-1633(1997))(“Hardie”)中找到,这些文献为了所有的目的特此通过引用被全部并入。适当的超级算法的例子是在章节V中描述的通用像素超分辨率模型和解。
图1的SPLM系统10还包括通信地耦合到光探测器160的主机计算机200。主机计算机200包括第二处理器210(微处理器)、第二CRM220和图像显示器230。图像显示器230和第二CRM220通信地耦合到第二处理器210。可选地,主机计算机200可以是与SPLM系统10分离的设备。主机计算机200可以是任何适当的计算设备(例如,智能电话、膝上型计算、平板电脑等)。
第二处理器230执行存储在第二CRM220上的代码以执行SPLM10的一些功能,例如:解释来自在来自光探测器160的一个或多个信号中捕获和传递的一个或多个系列的亚像素移动LR投影图像的数据,确定一系列亚像素移动LR投影图像的运动矢量,从与一系列亚像素移动LR投影图像相关的数据构建2D HR图像,从一系列亚像素移动LR投影图像相关的数据构建3D HR图像,在图像显示器230上显示一个或多个HR图像,等等。
第二处理器210可从光探测器122接收具有光数据和其它数据的一个或多个信号。例如,处理器210可接收具有光数据的一个或多个信号,光数据与在相应系列的n个扫描时间(t1,t2,t3,...tn)处采样的一个或多个系列的亚像素移动LR投影图像相关。第二处理器210也可基于该系列亚像素移动LR投影图像确定运动矢量。第二处理器210也可基于所确定的运动矢量和与至少一个系列的亚像素移动LR投影图像相关的数据来构建HR图像和相关图像数据。在一些情况下,物体150的所构建的HR图像是黑白2D/3D图像。在其它情况下,物体150的所构建的HR图像是彩色2D/3D图像。
在一个实施方式中,可通过在不同的采样时间使用照明118的不同波长在光探测器160处产生多个系列的亚像素移动LR投影图像来产生HR彩色图像。每个系列与不同的波长相关。第二处理器210可基于与不同的波长相关的不同系列产生HR彩色图像和相关图像数据。例如,光的三个波长(例如,与红色、绿色、蓝色(RGB)相关的波长)可由光元件117顺序地产生以产生与光的三个波长相关的三个系列的亚像素移动投影图像。处理器210可组合来自与不同的波长相关的系列的图像数据以产生多波长或彩色图像数据(例如,RGB彩色图像数据)。多波长或彩色HR图像数据可用于在图像显示器230上产生多波长或彩色HR图像。
第二CRM(例如,存储器)220可存储用于执行SPLM系统10的一些功能的代码。代码可由第二处理器210执行。例如,实施方式的第二CRM220可包括:a)使用SR算法的代码,b)使用断层摄影算法的代码,c)用于解释在来自光探测器122的一个或多个信号中接收的光数据的代码,d)用于产生3D HR图像的代码,e)用于构建彩色亚像素图像的代码,f)用于显示SR二维和/或三维图像的代码,g)和/或用于执行SPLM系统10的功能的任何其它适当的代码。第二CRM220还可包括用于执行可由本领域中的普通技术人员创建的信号处理或其它软件相关的功能中的任一个的代码。代码可以用任何适当的编程语言,包括C、C++、Pascal等。
SPLM系统10还包括通信地耦合到处理器210的图像显示器230,以接收数据并向SPLM系统10的用户提供输出例如HR图像。可使用任何适当的显示器。例如,图像显示器230可以是彩色显示器或黑白显示器。此外,图像显示器230可以是二维显示器或三维显示器。在一个实施方式中,图像显示器230可能能够显示物体150的多个视图。
可对SPLM系统10或SPLM设备100进行修改、添加或省略,而不偏离本公开的范围。此外,可根据特定的需要来合并或分离SPLM10或SPLM设备100的部件。例如,在一些实施方式中,第二处理器210可合并到光探测器160中,使得光探测器160执行第二处理器160的一个或多个功能。作为另一例子,第二处理器160、第二CRM220和图像显示器230可以是与SPLM系统10分离并与SPLM系统10通信的计算机的部件。作为另一例子,第二处理器160、第二CRM220和/或图像显示器230可合并到SPLM设备100的部分中。例如,图像显示器230可以是照明显示器116的部分,第一处理器112和第二处理器210可合并成单个处理器,和/或第二CRM114和CRM220可合并成单个CRM。
II.扫描投影无透镜显微镜的原理和分辨率
尼奎斯特标准考虑事项规定来自图像传感器(例如,CMOS图像传感器)的原始投影(阴影)图像分辨率可能不比像素尺寸的两倍更好。实施方式的SPLM系统10使用在时域中的高采样率来使在投影图像的空间域中采样的亚尼奎斯特速率偏移,组合在超分辨率成像中完成的工作与高级传感器(例如CMOS)技术,以产生具有明显的分辨率增强的低成本HR显微镜设备。
在实施方式中,SPLM设备100包括在光探测器160和正被成像的物体152之间的薄透明层165。透明层165分离物体152(例如,细胞)与光探测器160(例如,传感器芯片)的实际光敏感区。在扫描期间,扫描照明源110将光元件117移动/扫描到扫描位置以从试样150之上的不同的照明角度提供照明118(例如,非相干光)。光探测器160获取一个或多个系列的LR投影图像。由于照明118的移动,投影图像越过光探测元件166(例如,传感器像素)移动,如图3所示。阴影位移的量与透明层165的厚度和光元件117的倾斜/位移幅度成比例。只要在每个系列的LR投影图像中的每个原始投影图像之间的位移小于光探测元件的物理尺寸(例如,像素尺寸),来自多个亚像素移动LR阴影图像的信息就可用于使用适当的超分辨率算法创建单个HR图像。
在以前的超分辨率微扫描系统中,试样被安装到镜台,且镜台以亚像素增量被扫描。在这个以前的方法中,需要在确切的亚像素步骤中准确地控制镜台的位置。一般,控制器和执行器用于控制镜台的所需精确位置。高精度意味着这些系统需要设置和对齐的高成本。
在以前的超分辨率光流体系统中,光流体学被并入以用高吞吐量方式从LR投影图像产生HR图像。在这个系统中,光流体样本输送方案用于捕获在整个CMOS成像传感器(像素)阵列中平移的一系列样本图像。系统使用超分辨率处理技术来从该系列LR投影图像实现HR图像,如在为了所有的目的特此通过引用被全部并入的美国专利申请号13/069,651中描述的和在Zheng中描述的。该方法依赖于当物体(例如,细胞)越过光探测器(例如,CMOS成像传感器阵列)流经流体通道时捕获物体的一系列LR投影图像。然而,在这个系统中成像需要试样越过扫描区域的流体(例如,微流体)流动。附着的、融合性的或邻接布置的试样完全与以流体模式的成像不相容。例如,为了使物体流过流体通道,物体不能附到图像像素的表面(即,在物体和图像像素之间有距离)。这样的距离导致物体的模糊图像。此外,视场可能被流体通道的几何结构限制。
在SPLM系统10中,SPLM设备100使用扫描照明源110来在试样150之上扫描光元件117。在这个方法中,可能不需要精确对齐。扫描照明源110位于比物体152离感测表面162大得多的距离处。因此,光元件117的小位移相应于在感测表面162上的投影170的较大位移。扫描照明源110可直接以在扫描照明源110处的光元件117的更可控的较大位移来控制在感测表面162处的投影的亚像素位移。以这种方式,扫描照明源110可以比以前的系统例如微扫描系统、光流体系统等容易和准确地将投影位移保持在亚像素值处。而且,在不需要机械扫描或微流体流动的情况下,扫描的速度可快得多。扫描照明源110能以高达kHz区的范围的速度扫描光。这比现有的机械微扫描方案高两个数量级。此外,SPLM设备100的成本可能低得多,因为它使用扫描照明源110例如LED屏幕或LED矩阵。
图5(a)是根据本发明的实施方式的由SPLM系统10的光探测器160在单个采样时间捕获的LR投影图像。在本例中,正由SPLM系统10成像的试样150包括一组3um微球体。图5(b)是根据本发明的实施方式的由SPLM系统10重建的HR图像。SPLM系统10基于来自包括图5(a)所示的LR投影图像的一系列亚像素移动LR投影图像的数据来重建HR图像。
图6(a)是根据本发明的实施方式的在单个采样时间由SPLM系统10的光探测器160捕获的HeLa细胞试样的一部分的LR投影图像。图6(b)是根据本发明的实施方式的由SPLM系统10重建的HR图像。SPLM系统10基于来自包括图6(a)所示的LR投影图像的一系列225个亚像素移动LR投影图像的数据来重建HR图像。
图7(a)是根据本发明的实施方式的由SPLM系统10构建的融合性Hela细胞试样150的大视场彩色HR图像。用姬姆萨染料给试样150染色。在重建期间,在LR投影图像水平(2.2μm)处的每个像素被增强成在重建的HR图像中的13*13像素块。彩色HR图像包含大约8.45x108个像素。感测区域164(图像区域)是6mm x4mm。对每个彩色照明118,使用扫描位置的15x15阵列。根据本发明的实施方式,图7(b1)是来自图7(a)的小区域的LR投影图像,而图7(c1)是来自图7(b1)的小区域的LR投影图像,这些LR投影图像由SPLM系统10的光探测器160捕获。根据本发明的实施方式,图7(b2)是来自图7(a)的同一小区域的重建的HR图像,而图7(c2)是来自图7(b2)的小区域的重建的HR图像,这些重建的HR图像由SPLM系统10构建。图7(d)是使用具有40X、NA=0.66的物镜的显微镜的类似细胞的常规显微图像。从在图7(b2)和图(c2)中的重建的HR图像中,可辨别在HeLa细胞内的细胞器,例如多个核颗粒(由红箭头指示)和细胞核。重建的HR图像也准确地相应于从类似的细胞获取的常规显微图像。
图8(a)是根据本发明的实施方式的由SPLM系统10构建的具有500nm微球体(Polysciences)的试样150的HR图像。用于构建HR图像的成像过程与用于构建图7中的HR图像的成像过程相同。对于单个500nm微球体,微球体的发亮中心如图8(a)所示的被清楚地分辨,半最大值全宽度(FWHM)为690nm。图8(b)是根据本发明的实施方式的如SPLM系统10构造的图7的染色HeLa细胞试样150的放大的小特征的HR图像。
因为在一些情况下可基于给定显微镜分辨两个紧密间隔开的特征点的能力来定义显微镜分辨率,两个紧密间隔开的微球体的情况可被分析以建立实施方式的SPLM系统10的分辨率。图8(a)示出具有660nm的中心间距离的两个密集的500nm微球体的重建的图像。在图8(a)中的数据迹线显示在两个峰值之间的谷,并因此在一些实施方式中确认分辨率可以是660nm或更好。为了进一步验证这点,图8(b)示出图7的染色HeLa细胞试样的放大的小特征,且该特征的FWHM被估计为大约710nm。
III.概念
在实施方式例如图1所示的例子中,试样150放置在试样表面140上,试样表面140稍微在感测表面162的活性感测区域164之上。扫描照明设备110(例如,移动通信设备)的照明显示器116(例如,单色或彩色LCD)位于离感测表面162的一段距离d(例如,大约5-10mm)处。照明显示器117的光元件117(例如,一个或多个发光元件(例如,像素))提供照明118(例如,非相干光)。照明118在光探测器162上产生投影170(阴影)。光探测器160可捕获LR投影图像。给出光探测元件166(如图2所示)的尺寸限制(例如,像素尺寸限制),可最好地实现这个LR投影图像,但是“是低分辨率的”,因为试样150的特征尺寸可以比光探测元件166的尺寸(例如,像素尺寸)小得多。
在实施方式中,为了提高分辨率,捕获一系列亚像素移动LR投影图像,照明显示器116(例如,LCD)上的发光元件(例如,像素)为所述图像提供照明118。这些LR投影图像中的每个是试样150的亚像素移动投影图像。该系列亚像素移动LR投影图像可基于在扫描周期期间光元件117的扫描位置。对于已知的亚像素移位,这些亚像素移动LR投影图像可用于使用像素超分辨率技术创建HR(例如,亚像素分辨率)2D图像。该HR图像可进一步使用像素的点扩展函数和光学系统被去卷积以恢复试样的聚焦图像。SPLM系统10结合像素超分辨率图像处理技术进行光元件117的可能的精确扫描。
此外,这个成像概念可扩展而超出二维。使用光的不同入射角来产生多次投影的计算机断层摄影术可用于创建物体的三维重建。使用断层摄影术来产生3D图像的例子可在Miao、J.R.R.Qin、Tourovskaia、Anna、Meyer、Michael G.、Neumann、Thomas、Nelson、Alan C和Seibel,Eric J.的“Dual-modal three-dimensional imaging of single cells with isometric highresolution using an optical projection tomography microscope”(J.Biomed.,Opt.,Vol.14,064034(12月21日,2009))中找到,该文献为了所有的目的特此通过引用被全部并入。在我们的方案中,在整个照明显示器119(例如,LC)上移动光元件117(例如,像素组)可提供3D成像所必需的不同的入射光角度。
IV.操作原理
在一个操作中,试样150稍微放置在光探测器160(例如,CMOS成像传感器阵列)的感测表面162(例如,外表面)之上(例如,在几百纳米到微米的范围内)。照明显示器(例如,LCD)上的单独的发光元件166或小组的发光元件166(例如,像素)被连续地照亮以照亮离开一段距离(例如,5mm-10mm)的试样150,允许光探测器160记录一个或多个系列的亚像素移动LR投影图像,其是“像素化的(pixilated)”。可使用超分辨率技术来处理一个或多个系列的亚像素移动LR投影图像以组合很多LR投影图像来创建较小系列的HR图像。超分辨率技术的例子可在Richard,L.M.、Shultz,R.、Stevenson、Robert L.的“Subpixel motion estimation forsuperresolution image sequence enhancement”(Journal of VisualCommunication and Image Representation(1998))中找到,该文献为了所有目的特此通过引用全部并入本文。
超分辨率或超分辨率技术指用于成像处理的很多有希望的新技术的通用名,其可涉及从一系列较低分辨率图像创建单个HR图像。一些超分辨率技术可在Park、Sung Cheol、Park和Min Kyu、Kang、Moon Gi的“Super-resolution image reconstruction:a technical overview”(IEEE SignalProcessing Magazine,pp.21-36(2003年5月)(“Park”)中找到,该文献为了所有的目的特此通过引用全部并入本文。一般原理涉及获取一系列LR投影图像,其中目标以低于尼奎斯特速率的速率被采样,但对此,随后的帧涉及轻微的亚像素平移位移。该原理可在Russell,K.J.B.、Hardie,C、Bognar,John G.、Armstrong和Ernest E.、Watson,Edward A.的“Highresolution image reconstruction from a sequence of rotated and translatedframes and its application to an infrared imaging system”(Optical Engineering(1997))中找到,该文献为了所有的目的特此通过引用全部并入本文。如果这个平移位移是已知的,则矩阵方程的系统可从低分辨率系列建立以求出亚像素值来创建单个HR图像。通常,原始HR图像可在理论上甚至从明显毁损的、模糊的、平移的和旋转的低分辨率图像系列恢复;分辨率仅由衍射限制和噪声限制,如在Park中描述的。
图9是根据本发明的实施方式的SPLM设备100的示例性操作的流程图。SPLM100包括用于在正被成像的整个物体152上移动或以另外方式扫描光元件117的扫描照明源110。SPLM100还包括试样表面140、具有感测表面162的光探测器160、在感测表面162和试样表面140之间的薄透明层165、以及处理器(第一处理器112和/或第二处理器210)。扫描照明源110位于离感测表面162一段距离d处。该示例性操作包括具有单个扫描周期的成像过程。其它实施方式可以有具有多个扫描周期的成像过程。
在步骤310中,物体152放置在SPLM100的试样表面140上。物体152可定位成接近光探测器160的活性层处的感测表面162的感测区域164。
在步骤320中,处理器确定扫描图案。扫描图案的例子在图4(a)和4(b)中示出。扫描图案可包括在扫描周期期间的不同时间的扫描位置和在不同的扫描位置处的光元件117的特性((例如,所使用的光的波长、光元件的尺寸和形状、光元件的强度)、在相继的LR投影图像之间的期望亚像素位移的量、在扫描中和/或该系列LR投影图像中的期望LR投影图像总数量、在成像过程中的期望HR图像的总数量、以及与SPLM系统10的操作有关的其它适当的信息。处理器可从CRM(第一CRM114或第二CRM220)取回预定的扫描图案,或处理器可基于来自SPLM系统10的用户的输入确定扫描图案。例如,用户可提供信息例如光元件的特性、在相继的LR投影图像之间的期望亚像素位移的量、期望HR图像的总数量和其它适当的输入。
可确定在扫描图案中的扫描位置以产生在感测表面162处的一系列亚像素移动投影。投影170的位移与透明层165的厚度和倾斜/位移幅度(即,相邻扫描位置之间的距离或照明角度变化)成比例。可基于透明层165的厚度和所需的亚像素位移值来确定将导致投影170的亚像素位移的在相邻扫描位置之间的光元件170的平移的量。在扫描图案中的扫描位置可基于相邻扫描位置之间的光元件170的平移的量。
在步骤330中,扫描照明源110根据扫描图案扫描光元件117并修改光元件117的特性。在一个实施方式中,扫描照明源110(例如,智能电话)具有以LCD的形式的照明显示器116。在本例中,扫描图案包括扫描位置的二维阵列和与扫描位置相关的扫描时间。在扫描期间,光元件117可以是LCD中的一组发光部件(例如,像素),其顺序地被照亮以穿过扫描位置的二维阵列的每行来移动光元件117。光元件117的特性可在不同的位置变化。例如,光元件117的尺寸(发光部件的数量)可改变以大致维持在感测表面162处的位置处的相同强度水平。
在一个实施方式中,光元件117可在扫描周期期间的不同时间提供n个不同波长λ1...λn的照明118以得到每个波长的一系列投影图像。可使用任何适当数量的波长(例如,n=1、2、3、4、5...20)。在一个实施方式中,光元件117可在不同的采样时间提供相应于红色、绿色、蓝色的三个波长的λ1、λ2和λ3的照明118。在一些情况下,从一个扫描位置到相邻的扫描位置的照明118可具有不同的波长。在其它情况下,照明118可在第一系列扫描位置期间具有第一波长,并接着在第二系列扫描位置期间提供第二波长的照明118,依此类推,直到相应于n个不同波长的n个系列的投影图像被捕获。
在步骤340中,当光元件117平移到不同的扫描位置时,光探测器160捕获物体152的一个或多个系列的亚像素移动LR图像。对每个扫描位置,光探测器160捕获LR投影图像。
任何适当数量的图像(例如,3、5、10、50、100等)可以在每个系列中。在一个例子中,扫描位置可以是扫描位置的二维阵列的形式,其中扫描位置的每行/列可产生一行亚像素移动投影170。在这个例子中,当光元件117越过扫描位置的二维阵列中的每行/列移动时,一系列亚像素LR图像可被捕获。
在步骤350中,处理器使用适当的方法来确定在感测表面162处的投影170的运动矢量。在一些情况下,处理器也可确定在穿过物体152的其它平行平面处的投影170的运动矢量。可使用确定运动矢量的任何适当的方法。在一个例子中,可基于相邻扫描位置之间的距离和透明层165的厚度来确定在感测表面162处的投影的运动矢量。在另一例子中,可基于相邻扫描位置之间的距离和透明层165的厚度以及在平行于感测表面162的平面和感测表面162之间的距离来确定该平面处的投影的运动矢量。
在步骤360中,处理器使用适当的SR算法来从来自一系列亚像素移动LR投影图像的数据和相应的运动矢量构建物体152的HR图像。例如,处理器可通过使用在穿过物体152的平面处的运动矢量来在该平面处构建物体152的2D图像。在一个例子中,处理器可通过堆叠基于在不同平面处的运动矢量构建的2D HR图像来产生3D HR图像。如果光探测器160是单色光探测器,则HR图像将是单色HR图像(黑白HR图像)。如果光探测器122是彩色光探测器(例如,彩色CMOS成像传感器),则从这个重建产生的图像是彩色图像。
在一个实施方式中,移动和相加SR算法可用于使用来自一系列亚像素移动LR投影图像的数据构建HR图像。在本实施方式中,HR图像网格形成有n的增强因子,其中HR图像网格的每个n x n像素区域相应于LR帧网格的1x1像素区域。接着,HR图像网格填充有来自该系列亚像素移动LR投影图像的相应像素值。从每个图像的已知的估计的亚像素位移、从所确定的运动矢量确定在n x n网格内的像素的映射。换句话说,每个LR投影图像从其原始位置移动了物体152的相对亚像素位移,并接着加在一起以形成HR图像。最后,使用wiener去卷积方法的去模糊可用于移除最终的HR图像中的模糊和噪声。
在一个实施方式中,光元件117可在扫描周期期间的不同时间提供n个不同波长λ1...λn的照明118以得到每个波长的一系列投影图像。在这个实施方式中,处理器可使用适当的SR算法来基于每个系列的亚像素移动LR投影图像和运动矢量来重建每个波长或颜色的HR图像。SPLM设备100可组合不同波长或颜色的HR图像以得到计算出的彩色HR图像。例如,使用RGB照明形式的SPLM设备100可用于构建所计算的彩色(RGB)HR图像。
在步骤370中,处理器可向适当的图像显示器230(例如,二维显示器(彩色或单色)、三维显示器(彩色或单色))显示一个或多个HR图像。可显示由SPLM设备10产生的任何适当的图像。适当图像的一些例子包括:LR投影图像、2D黑白HR图像、2D彩色HR图像、3D黑白HR图像和/或3D彩色图像。
V.超分辨率模型和解
SPLM系统10的实施方式使用SR算法来重建HR图像。SR算法的一个例子是在本章节中描述的通用像素超分辨率模型和解。该通用像素超分辨率模型和解具有简单、快速和非迭代方法,其在最大似然意义上维持估计最优性。这个超分辨率模型和解的一些细节可在Hardie,Elad,M.和Hel-Or,Y.的“A fast super-resolution reconstruction algorithm or puretranslational motion and common space-invariant blur”(IEEE Transactionson Image Processing,Vol.10,pp.1187-1193(2001))(“Elad”)、Farsiu,Sina等人的“Fast and robust multiframe super resolution”(IEEE Trans ImageProcess,vol.13,pp.1327-1344(2004))以及Farsiu S等人的“Multiframedemosaicing and super-resolution of color images”的(IEEE Trans ImageProcess,vol.15,pp.141-159(2006))中找到,这些文献为了所有目的特此通过引用被全部并入。
在扫描周期中,一系列N个捕获的LR投影图像Yk(k=1,2…N)可用于重建改进的HR图像X。图像可由字典顺序列矢量表示。LR投影图像可通过下列方程建模:
Yk=DHFk X+Vk(k=1,2…N) (方程1)
矩阵Fk代表图像X的亚像素移动操作。矩阵H是光探测器160(例如,CMOS图像传感器)的像素转移函数。矩阵D代表小数化操作,其表示在所测量的图像中的观察到的像素的数量的减少。Vk表示具有零平均数和自相关矩阵的高斯加法测量噪声:
X的最大似然估计可被描述为下面的表达式:
其中,
R可以是对角矩阵,且该方法的计算复杂度可以是:O(n*log(n))。
VI.不同的方案
A.方案1-2D单色SPLM系统
在第一方案中,实施方式的SPLM系统10可设计成使用适当的SR算法基于一系列LR投影图像和运动矢量来产生试样150的2D单色HR图像。对于这种情况,只有已知的平移位移和系统的空间不变点扩展函数H,其也是已知的。因此,可应用更有效和在计算上高效的超分辨率技术,例如在Elad中提出的下列内容。对于作为SPLM系统10的期望输出的试样150的原始HR图像X,样本的低分辨率图像系列:
(方程5)
可使用在Elad中描述的迭代方法来计算地完成这个优化。这个优化的最终结果可以是从光探测器160(例如,CMOS图像传感器)所捕获的原始LR投影图像产生的试样的焦点对准的HR图像或一系列HR图像。
在实施方式中,SPLM系统10可包括以像素阵列(例如,矩形像素阵列)的形式的照明显示器116。例如,照明显示器116可以是LCD的矩形像素阵列。在这些实施方式中,在一系列相继的LR投影图像之间的亚像素位移可通过特征亚像素间隔a相关,特征亚像素间隔a与照明扫描系列、探测器阵列像素尺寸、以及试样150与源/探测器之间的距离有关。试样150和照明设备110之间的距离可以是透明层140的顶部与显示表面119之间的距离d。试样150和光探测器160之间的距离可以是透明层165的厚度。
对于具有照明显示器116的SPLM系统10(显示表面119平行于光探测器160的感测表面162和试样表面140),试样表面140的平面上的点到探测平面(即,感测表面162的平面)上的投影将以与sinθ有关的增量移动。角θ是从光元件117(例如,LDC上的一组照明像素的中心)到试样150的点的线相对于试样表面平面法线矢量的角。对于小角,亚像素位移可近似为相等的,且对LR系列的运动矢量的解可通过a的简单一维优化来找到。在照明(LCD)平面和探测器平面平行的情况下,亚像素位移应是“确切地”相等的。
B.方案2-2D彩色SPLM系统
在第二方案中,实施方式的SPLM系统10可设计成使用适当的SR算法基于由彩色光探测器160捕获的一系列LR彩色投影图像来产生试样150的2D彩色HR图像。在这个方案中,SPLM系统10包括可捕获一系列亚像素移动彩色LR投影图像的彩色光探测器112(例如,彩色CMOS传感器)。处理器210可使用适当的彩色超分辨率技术以该系列亚像素移动彩色LR投影图像来产生一个或多个SR彩色图像。最简单的技术涉及对每个颜色分量独立地使用单色超分辨率技术。在另一例子中,可使用涉及转换到不同的颜色空间的更复杂的超分辨率技术,如在Farsiu,Sina等人的“Advances and challenges in super-resolution”(Wiley Periodicals(2004))中找到的技术,该文献为了所有目的特此通过引用被全部并入。
C.方案3-2D计算彩色SPLM系统
在第三方案中,实施方式的SPLM系统10可设计成使用适当的SR算法基于由多个系列的LR帧来产生试样150的2D彩色HR图像,每个系列与照明118的不同波长或颜色相关。SPLM系统10可基于与不同的波长/颜色相关的每个系列构建2D彩色HR图像。SPLM系统10可组合与不同的波长相关的2D彩色HR图像以产生试样150的2D多颜色HR图像。这些实施方式的SPLM系统10包括扫描照明源100,其具有彩色照明显示器116(例如,彩色LCD)或可产生彩色照明118的另一设备。可使用任何适当的波长和任何数量的波长。在一个例子中,可选择覆盖最宽的可见颜色范围的光的波长。在一些情况下,使用不同的波长/颜色的单独扫描可用于捕获LR投影图像的单独RGB系列。在其它情况下,光元件117可在单次扫描中在不同的波长/颜色之间连续地交替。
在一个实施方式中,SPLM系统10可包括具有RGB照明显示器116(例如,RGB LCD)的扫描照明源100。在这个实施方式中,单独的红色、绿色和蓝色(RGB)扫描可用于捕获LR投影图像的单独RGB系列(即,红色系列、绿色系列和蓝色系列)。这个实施方式的SPLM系统10可基于每个系列产生HR RGB图像。SPLM系统10可基于每个系列组合2D彩色HR图像以产生RGB图像。
D.方案4-具有3D显示器的3D SPLM系统
在第四方案中,实施方式的SPLM系统10可设计成在3D显示器230上进行3D成像。在这个方案中,SPLM系统10可在n个不同的入射角处产生2D HR图像以基于光元件117的不同位置产生物体152的不同视图。
在这个方案中,扫描照明源110将光元件117扫描到从在所关注的n个不同的入射角中的每个周围的范围中的照明角产生照明118的位置。例如,如果从30度看的物体152的视图是期望的,则扫描照明源110可扫描光元件117以从在X/Y中的30+/-2度的范围内的照明角度产生照明118。作为另一例子,如果从-30度看的物体152的视图是期望的,则扫描照明源110可扫描光元件117以从在X/Y中的-30+/-2度的范围内的照明角度产生照明118。单个HR图像的“角度”扫描范围相对于用于得到3D成像的不同视图的大角位移可以是不变的和小的(在本例中是4度)。仍然从由LR图像系列重建来得到每个HR图像,LR图像系列通过扫描照明而被捕获,但以大得多的角度。
从不同的入射角的2D HR图像可组合并显示在3D显示器230(例如,3D监视器)上,或作为旋转gif或视频文件。这可通过使用照明LCD的不同区域来实现以产生样本的高分辨率投影图像,但从不同的角度。
在平行于感测表面的平面处的视图可能被期望的成像方案中,扫描照明源110可将光元件117扫描到从在感测表面的法线周围的范围中的照明角度产生照明118的位置。例如,扫描照明源110可扫描光元件117以从在X/Y中的+/-2度的范围内的照明角度产生照明118。
D.方案5-3D聚焦SPLM系统
在第五方案中,实施方式的SPLM系统10可设计成将2D HR图像“聚焦”在穿过试样150的所关注的不同平面处。SPLM系统10也可将“聚焦的”2D HR图像堆叠在不同的平面处以产生3D HR图像。对于三维试样,SPLM系统10可基于与不同的亚像素位移相关的不同运动矢量从亚像素移动LR图像的系列构建HR图像,以便在三维样本内实现在不同平面处的“聚焦”。
在这个方案下,SPLM系统10可基于所捕获的一系列亚像素移动LR投影图像和在平面处的所确定的运动矢量来在平面处构建每个聚焦的2D图像。例如,SPLM系统10可在平面处创建试样150的切片的2D HR图像。在本例中,SPLM系统10确定该平面处的LR投影图像的运动矢量。SPLM系统10基于在所关注的平面处的确定的运动矢量和光探测器160所捕获的一系列亚像素移动LR投影图像构建聚焦的2D HD图像。SPLM系统10还可通过使用多个运动矢量和同一系列的亚像素移动LR投影图像构建HR图像来重新聚焦在多个平面处。
因为重建的图像的聚焦的质量取决于LR投影图像的亚像素位移的正确估计,且这些亚像素位移取决于在光探测器160和照明平面之间的试样150的距离,使用重建步骤中的不同亚像素位移(即,运动矢量)可允许重新聚焦到光探测器160之上的特定试样平面。这有效地允许单个扩展扫描系列的LR投影图像不仅提供具有从不同角度的投影图像的三维数据(以前的方案),而且聚焦到特定的三维平面。
在一个实施方式中,扫描照明设备110扫掠光元件117以产生在照明角的宽范围之间的照明118,以便产生扩展扫描系列的LR投影图像。图10是根据本发明的实施方式的在光探测器160上的从三个宽范围的入射角θ1、θ2和θ3的三个投影的示意图。改变来自光元件117的光118的照明角度可产生与物体152的不同视图:视图1、视图2和视图3相关的一系列三个投影。在图10中,θ1=0度,且在负z轴的方向上。光探测器160可捕获与移动的投影相关的一系列LR投影图像。光探测器160也可捕获与宽范围的入射角之间的照明扫掠相关的多个系列的亚像素LR投影图像。这个扩展扫描系列的LR投影图像可用于产生具有从不同视角的投影图像的3D数据(以前的方案),但也提供到特定的3D平面的聚焦。
VI.子系统
图11是根据本发明的实施方式的可存在于SPLM系统10中的子系统的方框图。例如,SPLM系统10包括处理器410。处理器410可包括第一处理器112和/或第二处理器210。在一些情况下,处理器410可以是光探测器122的部件。在一些情况下,处理器410可以是扫描照明源100的部件。
以前在附图中描述的各种部件可使用一个或多个子系统来操作以便于本文所述的功能。附图中的任何部件可使用任何适当数量的子系统来便于本文所述的功能。这样的子系统和/或部件的例子在图11中示出。图11所示的子系统经由系统总线425互连。示出了额外的子系统,例如打印机430、键盘432、固定磁盘434(或包括计算机可读介质的其它存储器)、耦合到显示器适配器438的显示器436、以及其它部件。显示器436可包括照明显示器116和/或图像显示器230。耦合到I/O控制器440的外围和输入/输出设备(I/O)可通过本领域中已知的任何数量的装置例如串行端口442连接到计算机系统。例如,串行端口442或外部接口444可用于将计算机装置连接到广域网例如互联网、鼠标输入设备或扫描仪。经由系统总线的互连允许处理器410与每个子系统通信并控制来自系统存储器446或固定磁盘434的指令的执行以及子系统之间的信息的交换。系统存储器446和/或固定磁盘434可包括第一CRM114和/或第二CRM220。这些元件中的任一个可存在于以前描述的特征中。
在一些实施方式中,输出设备例如SPLM系统10的打印机430或显示器436可输出各种形式的数据。例如,SPLM系统10可输出2D/3D HR彩色/单色图形、与这些图像相关的数据、或与SPLM系统10所执行的分析相关的其它数据。
应理解,可使用计算机软件以模块化或集成的方式以控制逻辑的形式实现如上所述的本发明。基于本文提供的公开和教导,本领域中的普通技术人员将知道和认识到使用硬件以及硬件和软件的组合来实现本发明的其它方式和/或方法。
在本申请中描述的软件部件或功能中的任一个可被实现为由处理器使用任何适当的计算机语言例如Java、C++或Perl使用例如常规或面向对象的技术来执行的软件代码。软件代码可被存储为在CRM例如随机存取存储器(RAM)、只读存储器(ROM)、磁性介质例如硬盘驱动器或软盘或光学介质例如CD-ROM上的一系列指令或命令。任何这样的CRM可存在于单个计算装置上或内,或可存在于系统或网络内的不同计算装置上或内。
“a”、“an”或“the”的陈述用来意指“一个或多个”,除非特别相反地指示。
上面的描述是例证性的而不是限制性的。当查看本公开时,本公开的很多变化对本领域中的技术人员将是明显的。因此,本公开的范围不应参考上面的描述来确定,而替代地应参考待定的权利要求连同其完整的范围或等效形式来确定。
来自任何实施方式的一个或多个特征可与任何其它实施方式的一个或多个特征组合,而不偏离本公开的范围。此外,可对任何实施方式进行修改、添加或省略,而不偏离本公开的范围。可根据特定的需要来集成或分离任何实施方式的部件,而不偏离本公开的范围。
上面提到的所有专利、专利申请、申请和描述为了所有的目的特此通过引用被全部并入。没有一个被承认是现有技术。
Claims (17)
1.一种扫描投影无透镜显微镜设备,包括:
试样表面;
包括光元件的扫描照明源,所述扫描照明源配置成将所述光元件扫描到多个扫描位置以向所述试样表面上的试样提供照明;
在所述试样表面外部的光探测器,所述光探测器配置成对相应于所述多个扫描位置的一系列亚像素移动投影图像采样;以及
处理器,其配置成基于所述一系列亚像素移动投影图像和运动矢量来构建所述试样的高分辨率图像。
2.如权利要求1所述的扫描投影无透镜显微镜设备,还包括位于所述试样表面和所述光探测器之间的透明层。
3.如权利要求1所述的扫描投影无透镜显微镜设备,其中所述照明是非相干光。
4.如权利要求1所述的扫描投影无透镜显微镜设备,
其中所述扫描照明源还包括像素的二维阵列,以及
其中所述光元件是以像素的所述二维阵列的顺序地照亮的像素组的形式。
5.如权利要求4所述的扫描投影无透镜显微镜设备,其中所述二维阵列是LCD。
6.如权利要求1所述的扫描投影无透镜显微镜设备,其中所述照明的强度在不同的扫描位置处变化。
7.如权利要求1所述的扫描投影无透镜显微镜设备,其中来自在每个扫描位置处的所述光元件的照明的强度基于该扫描位置和扫描位置阵列的中心之间的距离。
8.如权利要求1所述的扫描投影无透镜显微镜设备,其中在每个扫描位置处的所述光元件的尺寸基于该扫描位置和扫描位置阵列的中心之间的距离。
9.如权利要求1所述的扫描投影无透镜显微镜设备,其中所述试样是融合性试样。
10.如权利要求1所述的扫描投影无透镜显微镜设备,
其中所述光探测器是彩色传感器阵列,以及
其中所述高分辨率图像是彩色图像。
11.如权利要求1所述的扫描投影无透镜显微镜设备,
其中所述光元件配置成在不同的扫描位置处产生多个波长的照明;
其中所述光探测器还配置成对多个系列的亚像素投影图像采样,每个系列与所述多个波长中的不同波长相关,以及
其中所述处理器还配置成基于所述多个系列的亚像素投影图像产生多个高分辨率图像,以及组合所述多个高分辨率图像以产生彩色高分辨率图像。
12.如权利要求1所述的扫描投影无透镜显微镜设备,其中所述处理器还配置成确定在所关注的平面处的多个亚像素移动投影的运动矢量。
13.如权利要求1所述的扫描投影无透镜显微镜设备,
其中所述运动矢量与穿过所述试样的聚焦平面相关,
其中所述高分辨率图像被聚焦在所述聚焦平面处。
14.如权利要求1所述的扫描投影无透镜显微镜设备,其中在所述多个扫描位置中的相邻扫描位置之间的距离相应于在所述一系列亚像素移动投影图像中的亚像素位移。
15.一种扫描投影显微镜系统,包括:
扫描投影无透镜显微镜设备,其包括:
试样表面;
包括光元件的扫描照明源,所述扫描照明源配置成将所述光元件扫描到多个扫描位置以向所述试样表面上的试样提供照明;以及
在所述试样表面外部的光探测器,所述光探测器配置成对相应于所述多个扫描位置的一系列亚像素移动投影图像采样;以及
处理器,其配置成基于所述一系列亚像素移动投影图像和运动矢量来构建所述试样的高分辨率图像。
16.如权利要求15所述的扫描投影无透镜显微镜系统,还包括与所述处理器电通信的显示器,所述显示器配置成显示所述高分辨率图像。
17.一种使用扫描投影无透镜显微镜设备来产生物体的高分辨率图像的方法,所述扫描投影无透镜显微镜设备具有试样表面、照明显示器、在试样表面外部的光探测器、和处理器,所述方法包括:
在所述试样表面上接收所述物体;
顺序地照亮在多个扫描位置处的所述照明显示器的一个或多个像素以从对所述物体的不同的照明角度提供照明;
捕获与所述多个扫描位置相关的一系列亚像素移动投影图像;
确定在一平面处的所述亚像素移动投影图像的运动矢量;以及
基于所述一系列亚像素移动投影图像和所述运动矢量来构建所述物体的高分辨率图像。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US40691610P | 2010-10-26 | 2010-10-26 | |
US61/406,916 | 2010-10-26 | ||
US201161482531P | 2011-05-04 | 2011-05-04 | |
US61/482,531 | 2011-05-04 | ||
PCT/US2011/057735 WO2012058233A2 (en) | 2010-10-26 | 2011-10-25 | Scanning projective lensless microscope system |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103154662A true CN103154662A (zh) | 2013-06-12 |
Family
ID=45972704
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011800486391A Pending CN103154662A (zh) | 2010-10-26 | 2011-10-25 | 扫描投影无透镜显微镜系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9426429B2 (zh) |
EP (1) | EP2633267A4 (zh) |
JP (1) | JP2013542468A (zh) |
CN (1) | CN103154662A (zh) |
WO (1) | WO2012058233A2 (zh) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105319699A (zh) * | 2014-07-31 | 2016-02-10 | 株式会社东芝 | 利用显微拍摄装置的观察方法 |
CN106157243A (zh) * | 2016-06-06 | 2016-11-23 | 南昌航空大学 | 基于压缩感知的淡水藻类全息图像增强与重建方法 |
US9574989B2 (en) | 2014-08-08 | 2017-02-21 | Omnivision Technologies, Inc. | Lens-free imaging system and method for detecting particles in sample deposited on image sensor |
CN107077722A (zh) * | 2014-08-29 | 2017-08-18 | 卡尔蔡司显微镜有限责任公司 | 图像捕获装置及图像捕获方法 |
CN107111125A (zh) * | 2014-12-04 | 2017-08-29 | 加州理工学院 | 多路复用傅立叶重叠关联成像的系统和方法 |
CN107113370A (zh) * | 2014-08-29 | 2017-08-29 | 卡尔蔡司显微镜有限责任公司 | 图像捕获装置及图像捕获方法 |
CN107204030A (zh) * | 2016-03-18 | 2017-09-26 | 松下知识产权经营株式会社 | 图像生成装置、图像生成方法及程序 |
CN107690595A (zh) * | 2015-05-13 | 2018-02-13 | 卡尔蔡司显微镜有限责任公司 | 用于借助以不同的照明角度进行照明来图像记录的设备和方法 |
TWI670680B (zh) * | 2016-09-28 | 2019-09-01 | 香港商港大科橋有限公司 | 像素解析度在掃描成像中的恢復的方法和系統 |
US10401609B2 (en) | 2012-10-30 | 2019-09-03 | California Institute Of Technology | Embedded pupil function recovery for fourier ptychographic imaging devices |
US10419665B2 (en) | 2013-08-22 | 2019-09-17 | California Institute Of Technology | Variable-illumination fourier ptychographic imaging devices, systems, and methods |
US10568507B2 (en) | 2016-06-10 | 2020-02-25 | California Institute Of Technology | Pupil ptychography methods and systems |
US10606055B2 (en) | 2013-07-31 | 2020-03-31 | California Institute Of Technology | Aperture scanning Fourier ptychographic imaging |
US10652444B2 (en) | 2012-10-30 | 2020-05-12 | California Institute Of Technology | Multiplexed Fourier ptychography imaging systems and methods |
US10665001B2 (en) | 2015-01-21 | 2020-05-26 | California Institute Of Technology | Fourier ptychographic tomography |
US10679763B2 (en) | 2012-10-30 | 2020-06-09 | California Institute Of Technology | Fourier ptychographic imaging systems, devices, and methods |
US10684458B2 (en) | 2015-03-13 | 2020-06-16 | California Institute Of Technology | Correcting for aberrations in incoherent imaging systems using fourier ptychographic techniques |
CN111381355A (zh) * | 2018-12-29 | 2020-07-07 | 南京培轩雅谱光电科技有限公司 | 光学成像装置和方法 |
US10718934B2 (en) | 2014-12-22 | 2020-07-21 | California Institute Of Technology | Epi-illumination Fourier ptychographic imaging for thick samples |
US10732396B2 (en) | 2015-01-26 | 2020-08-04 | California Institute Of Technology | Array level Fourier ptychographic imaging |
US10754140B2 (en) | 2017-11-03 | 2020-08-25 | California Institute Of Technology | Parallel imaging acquisition and restoration methods and systems |
US11092795B2 (en) | 2016-06-10 | 2021-08-17 | California Institute Of Technology | Systems and methods for coded-aperture-based correction of aberration obtained from Fourier ptychography |
US11468557B2 (en) | 2014-03-13 | 2022-10-11 | California Institute Of Technology | Free orientation fourier camera |
Families Citing this family (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9594239B1 (en) * | 2009-06-16 | 2017-03-14 | Lester F. Ludwig | Optical tomography for microscopy, cell cytometry, microplate array instrumentation, crystallography, and other applications |
US10498939B2 (en) * | 2009-06-16 | 2019-12-03 | Nri R&D Patent Licensing, Llc | Small-profile lensless optical microscopy imaging and tomography instruments and elements for low cost and integrated microscopy |
US8767216B2 (en) * | 2009-10-13 | 2014-07-01 | California Institute Of Technology | Holographically illuminated imaging devices |
WO2011106327A2 (en) * | 2010-02-23 | 2011-09-01 | California Institute Of Technology | High resolution imaging devices with wide field and extended focus |
WO2011119678A2 (en) | 2010-03-23 | 2011-09-29 | California Institute Of Technology | Super resolution optofluidic microscopes for 2d and 3d imaging |
US8536545B2 (en) | 2010-09-09 | 2013-09-17 | California Institute Of Technology | Delayed emission detection devices and methods |
US20130201297A1 (en) * | 2012-02-07 | 2013-08-08 | Alcatel-Lucent Usa Inc. | Lensless compressive image acquisition |
US9344736B2 (en) | 2010-09-30 | 2016-05-17 | Alcatel Lucent | Systems and methods for compressive sense imaging |
US9643184B2 (en) | 2010-10-26 | 2017-05-09 | California Institute Of Technology | e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images |
US9569664B2 (en) | 2010-10-26 | 2017-02-14 | California Institute Of Technology | Methods for rapid distinction between debris and growing cells |
JP2013542468A (ja) | 2010-10-26 | 2013-11-21 | カリフォルニア インスティチュート オブ テクノロジー | 走査型投影レンズレス顕微鏡システム |
US9767341B2 (en) * | 2010-12-14 | 2017-09-19 | The Regents Of The University Of California | Method and device for holographic opto-fluidic microscopy |
EP2681757B1 (en) * | 2011-03-03 | 2021-06-30 | California Institute of Technology | Imaging system and method of generating a sub-pixel resolution image |
CN103534627A (zh) | 2011-03-03 | 2014-01-22 | 加州理工学院 | 光导像素 |
WO2012122398A2 (en) | 2011-03-09 | 2012-09-13 | California Institute Of Technology | Talbot imaging devices and systems |
WO2012145566A2 (en) | 2011-04-20 | 2012-10-26 | California Institute Of Technology | Talbot-illuminated imaging devices, systems, and methods for focal plane tuning |
WO2013070287A1 (en) | 2011-11-07 | 2013-05-16 | The Regents Of The University Of California | Maskless imaging of dense samples using multi-height lensfree microscope |
NL2009367C2 (en) * | 2012-08-27 | 2014-03-03 | Stichting Vu Vumc | Microscopic imaging apparatus and method to detect a microscopic image. |
EP2917719B1 (en) * | 2012-11-09 | 2024-04-17 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Receptacle and system for optically analyzing a sample without optical lenses |
EP2932229A2 (en) * | 2012-12-17 | 2015-10-21 | National Taiwan University | Sampling assembly, microscope module, and microscope apparatus |
SG10201707599WA (en) * | 2013-03-15 | 2017-10-30 | Richard Harry Turner | A System And Methods For The In Vitro Detection Of Particles And Soluble Chemical Entities In Body Fluids |
CN105247852B (zh) * | 2013-06-07 | 2019-03-08 | 松下知识产权经营株式会社 | 图像获取装置、图像获取方法以及记录介质 |
JP6146265B2 (ja) * | 2013-11-07 | 2017-06-14 | ソニー株式会社 | 顕微鏡システムおよびオートフォーカス方法 |
JP2015125177A (ja) * | 2013-12-25 | 2015-07-06 | ソニー株式会社 | 顕微鏡システムおよびその画像データ転送方法 |
JP6171970B2 (ja) | 2014-02-10 | 2017-08-02 | ソニー株式会社 | レーザ走査型顕微鏡装置および制御方法 |
US9413987B2 (en) | 2014-03-13 | 2016-08-09 | Qualcomm Incorporated | Facet shape and distribution pattern for lensless imaging |
DE102014205535A1 (de) * | 2014-03-25 | 2015-10-01 | Siemens Aktiengesellschaft | Vorrichtung und in-vitro Verfahren zur markierungsfreien Darstellung und Analyse von Zellen und Kristallen in einer biologischen Probe |
DE102014109687B4 (de) * | 2014-07-10 | 2020-03-19 | Carl Zeiss Microscopy Gmbh | Positionsbestimmung eines Objekts im Strahlengang einer optischen Vorrichtung |
US10317597B2 (en) * | 2014-08-26 | 2019-06-11 | The Board Of Trustees Of The Leland Stanford Junior University | Light-field microscopy with phase masking |
EP3214831B1 (en) * | 2014-10-27 | 2019-11-06 | Panasonic Intellectual Property Management Co., Ltd. | Image formation system, image formation method, imaging element, and program |
MX2017010941A (es) * | 2015-02-27 | 2018-01-16 | Brigham & Womens Hospital Inc | Sistemas de formacion de imagen y metodos de uso de los mismos. |
CN107203034B (zh) * | 2016-03-18 | 2021-02-26 | 松下知识产权经营株式会社 | 图像生成装置、图像生成方法以及记录介质 |
CN107205113B (zh) * | 2016-03-18 | 2020-10-16 | 松下知识产权经营株式会社 | 图像生成装置、图像生成方法及计算机可读存储介质 |
ES2903348T3 (es) * | 2016-04-26 | 2022-04-01 | Atten2 Advanced Monitoring Tech S L | Sistema de monitorización de fluido |
DE102016116311A1 (de) | 2016-05-02 | 2017-11-02 | Carl Zeiss Microscopy Gmbh | Winkelselektive Beleuchtung |
JP6817566B2 (ja) * | 2016-07-22 | 2021-01-20 | パナソニックIpマネジメント株式会社 | 画像生成装置及び画像生成方法 |
US11373278B2 (en) * | 2016-09-30 | 2022-06-28 | University Of Utah Research Foundation | Lensless imaging device |
US10217190B2 (en) * | 2016-12-27 | 2019-02-26 | Kla-Tencor Corporation | System and method for reconstructing high-resolution point spread functions from low-resolution inspection images |
JP7129730B2 (ja) * | 2018-05-31 | 2022-09-02 | ソル・インコーポレイテッド | 映像基盤の大面積試料分析装置、媒質の特性差を用いた映像基盤の試料分析装置及びこれを用いて試料を測定して分析する方法 |
WO2020139430A1 (en) * | 2018-09-28 | 2020-07-02 | Arizona Board Of Regents On Behalf Of The University Of Arizona | Quantitative large area binding sensor for detecting biomarkers |
WO2020140004A1 (en) * | 2018-12-27 | 2020-07-02 | The Government Of The United States Of America, As Represented By The Secretary Of The Navy | Apparatuses and methods for imaging incoherently illuminated objects |
TR201913661A2 (tr) * | 2019-09-10 | 2021-03-22 | Izmir Biyotip Ve Genom Merkezi | Taşinabi̇li̇r bi̇r görüntüleme ci̇hazina entegre edi̇lmi̇ş taşinabi̇li̇r bi̇r i̇nkübatör platformu |
CN112327473A (zh) * | 2021-01-07 | 2021-02-05 | 南京理工大学智能计算成像研究院有限公司 | 无透镜显微成像系统及基于平均投影迭代的图像重构方法 |
EP4116754A1 (en) * | 2021-07-06 | 2023-01-11 | Universitat de Barcelona | Method for obtaining a microscopic digital image and corresponding device |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080056610A1 (en) * | 2005-01-31 | 2008-03-06 | Yamato Kanda | Image Processor, Microscope System, and Area Specifying Program |
CN101655463A (zh) * | 2008-08-20 | 2010-02-24 | Asml控股股份有限公司 | 物体表面上的颗粒检测 |
Family Cites Families (101)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3736432A (en) | 1971-03-22 | 1973-05-29 | Varian Associates | Bacterial colony counting method and apparatus |
FR2602241A1 (fr) | 1986-07-30 | 1988-02-05 | Jouan | Boite pour l'observation au microscope de cultures cellulaires vivantes |
US5225057A (en) | 1988-02-08 | 1993-07-06 | Optical Coating Laboratory, Inc. | Process for depositing optical films on both planar and non-planar substrates |
GB8927754D0 (en) | 1989-12-08 | 1990-02-14 | Image Research Ltd | Improvements in and relating to light transfer systems and improved cell investigation techniques arising therefrom |
US6058209A (en) | 1991-09-27 | 2000-05-02 | E. I. Du Pont De Nemours And Company | Method for resolving redundant identifications of an object |
US5495337A (en) * | 1991-11-06 | 1996-02-27 | Machine Vision Products, Inc. | Method of visualizing minute particles |
WO1994005770A1 (es) | 1992-08-27 | 1994-03-17 | Iul, S.A. | Camara de contraste para realzar colonias bacterianas respecto a la base de cultivo de las mismas |
US5420959A (en) | 1992-12-17 | 1995-05-30 | Nanoptics Incorporated | High efficiency, high resolution, real-time radiographic imaging system |
DE69418248T2 (de) * | 1993-06-03 | 1999-10-14 | Hamamatsu Photonics Kk | Optisches Laser-Abtastsystem mit Axikon |
US5349191A (en) | 1993-11-03 | 1994-09-20 | Triumf | Gamma ray detector for three-dimensional position encoding |
GB9418981D0 (en) | 1994-09-21 | 1994-11-09 | Univ Glasgow | Apparatus and method for carrying out analysis of samples |
JPH0943439A (ja) | 1995-07-26 | 1997-02-14 | Hamamatsu Photonics Kk | ファイバー光学プレート |
US6392241B1 (en) | 1996-07-10 | 2002-05-21 | Packard Instrument Company, Inc. | Fiber optic coupling device for detecting fluorescence samples |
JPH11166935A (ja) | 1997-09-25 | 1999-06-22 | Canon Inc | 光検出または照射用の光プローブと該プローブを備えた近視野光学顕微鏡、及該光プローブの製造方法とその製造に用いる基板 |
US6147798A (en) * | 1997-10-24 | 2000-11-14 | Atto Instruments, Llc. | Microscope attachment for high precision and efficient imaging |
DE19940751A1 (de) | 1998-08-28 | 2000-03-02 | Febit Ferrarius Biotech Gmbh | Lichtemissions-Detektionseinrichtung |
US6194718B1 (en) | 1998-09-23 | 2001-02-27 | Applied Materials, Inc. | Method for reducing aliasing effects in scanning beam microscopy |
CA2361195A1 (en) | 1999-01-29 | 2000-08-03 | June Miris Medford | Optical coherence microscope and methods of use for rapid in vivo three-dimensional visualization of biological function |
JP3688160B2 (ja) | 1999-09-17 | 2005-08-24 | 株式会社日立製作所 | 走査電子顕微鏡 |
US7142296B2 (en) | 2000-10-30 | 2006-11-28 | Sru Biosystems, Inc. | Method and apparatus for detecting biomolecular interactions |
EP1410044A2 (en) | 2000-11-08 | 2004-04-21 | Burstein Technologies, Inc. | Interactive system for analyzing biological samples and processing related information and the use thereof |
US7418118B2 (en) | 2000-11-10 | 2008-08-26 | Furnas Steven J | Method and apparatus for diagnosing pathogenic or allergenic microorganisms or microparticles at a remote location |
JP2002196248A (ja) | 2000-12-27 | 2002-07-12 | Runakkusu Kk | テレビ撮像装置 |
US6944322B2 (en) | 2001-03-28 | 2005-09-13 | Visiongate, Inc. | Optical tomography of small objects using parallel ray illumination and post-specimen optical magnification |
US6519313B2 (en) | 2001-05-30 | 2003-02-11 | General Electric Company | High-Z cast reflector compositions and method of manufacture |
JP2003018604A (ja) | 2001-07-04 | 2003-01-17 | Matsushita Electric Ind Co Ltd | 画像信号符号化方法、画像信号符号化装置および記録媒体 |
DE20214835U1 (de) | 2002-07-30 | 2003-01-02 | Leica Microsystems | Trägervorrichtung für ein biologisches, mittels Laser-Mikrodissektion schneidbares Präparat |
DE10235914B4 (de) | 2002-08-06 | 2020-12-31 | Leica Microsystems Cms Gmbh | Lichtquelle zur Beleuchtung mikroskopischer Objekte und Scanmikroskopsystem |
DE10240720A1 (de) * | 2002-09-04 | 2004-03-25 | Carl Zeiss Jena Gmbh | Kamera-Adapter für optische Geräte, insbesondere Mikroskope |
GB0224067D0 (en) * | 2002-10-16 | 2002-11-27 | Perkinelmer Uk Ltd | Improvements in and relating to imaging |
JP2004191087A (ja) | 2002-12-09 | 2004-07-08 | Nidec Copal Corp | 光学式エンコーダ |
US20040146965A1 (en) | 2003-01-29 | 2004-07-29 | Hach Company | Petri dish |
US7369234B2 (en) | 2003-02-03 | 2008-05-06 | Rudolph Technologies, Inc. | Method of performing optical measurement on a sample |
US6943881B2 (en) | 2003-06-04 | 2005-09-13 | Tomophase Corporation | Measurements of optical inhomogeneity and other properties in substances using propagation modes of light |
US6998600B2 (en) * | 2003-06-30 | 2006-02-14 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Multifrequency ultra-high resolution miniature scanning microscope using microchannel and solid-state sensor technologies and method for scanning samples |
US7477775B2 (en) * | 2003-07-18 | 2009-01-13 | Olympus Corporation | Microscope system |
DE10347326B4 (de) * | 2003-10-11 | 2022-08-04 | Leica Microsystems Cms Gmbh | Anordnung mit einem Mikroskop und einem Modul |
US8066955B2 (en) | 2003-10-17 | 2011-11-29 | James M. Pinchot | Processing apparatus fabrication |
US7250598B2 (en) | 2004-01-02 | 2007-07-31 | Hollingsworth Russell E | Plasmon enhanced near-field optical probes |
US7751048B2 (en) | 2004-06-04 | 2010-07-06 | California Institute Of Technology | Optofluidic microscope device |
JP2006023221A (ja) | 2004-07-09 | 2006-01-26 | Tokyo Seimitsu Co Ltd | 外観検査装置及び投影方法 |
US8498681B2 (en) | 2004-10-05 | 2013-07-30 | Tomophase Corporation | Cross-sectional mapping of spectral absorbance features |
US7253947B2 (en) | 2004-10-07 | 2007-08-07 | New York University | Portable automated confocal microscope |
US20060092503A1 (en) | 2004-10-26 | 2006-05-04 | University Of Maryland, Baltimore | Portable microscope with detachable portion |
US7630065B2 (en) | 2005-02-21 | 2009-12-08 | Olympus Corporation | Low-light specimen image pickup unit and low-light specimen image pickup apparatus |
US7830561B2 (en) * | 2005-03-16 | 2010-11-09 | The Trustees Of Columbia University In The City Of New York | Lensless imaging with controllable apertures |
EP2562266B1 (en) | 2005-03-30 | 2016-02-24 | Olympus Corporation | Predetermined site luminescence measuring method, predetermined site luminescence measuring apparatus, expression amount measuring method, and measuring apparatus |
EP1866616B1 (en) | 2005-04-05 | 2013-01-16 | The Board Of Trustees Of The Leland Stanford Junior University | Optical image processing using minimum phase functions |
US20060227328A1 (en) | 2005-04-08 | 2006-10-12 | Vanwiggeren Gregory D | Light-sensing system that uses light guides |
US20070046924A1 (en) * | 2005-08-30 | 2007-03-01 | Chang Nelson L A | Projecting light patterns encoding correspondence information |
US7304731B2 (en) | 2005-09-02 | 2007-12-04 | Kla-Tencor Technologies Corp. | Systems and methods for providing illumination of a specimen for inspection |
JP2008052227A (ja) | 2005-09-15 | 2008-03-06 | Olympus Corp | 観察装置 |
US8081378B2 (en) | 2005-10-13 | 2011-12-20 | Nikon Corporation | Microscope |
KR20080075123A (ko) * | 2005-11-30 | 2008-08-14 | 가부시키가이샤 니콘 | 관찰장치 |
US7463369B2 (en) * | 2006-03-29 | 2008-12-09 | Kla-Tencor Technologies Corp. | Systems and methods for measuring one or more characteristics of patterned features on a specimen |
JP4999046B2 (ja) * | 2006-04-05 | 2012-08-15 | Hoya株式会社 | 共焦点内視鏡システム |
EP2023127B1 (en) | 2006-05-31 | 2017-12-20 | Olympus Corporation | Biological specimen imaging method and biological specimen imaging apparatus |
US7705331B1 (en) * | 2006-06-29 | 2010-04-27 | Kla-Tencor Technologies Corp. | Methods and systems for providing illumination of a specimen for a process performed on the specimen |
WO2008048612A2 (en) | 2006-10-17 | 2008-04-24 | Hnuphotonics | Miniature microscope camera |
JP4893275B2 (ja) | 2006-11-30 | 2012-03-07 | 株式会社ニコン | 顕微鏡装置 |
US7719685B2 (en) | 2006-11-30 | 2010-05-18 | Chian Chiu Li | Near-field optical apparatus and method using photodetector array |
US20080174862A1 (en) | 2007-01-22 | 2008-07-24 | Focht Daniel C | Specimen Holder For Microscopy |
EP1962050B1 (de) | 2007-02-21 | 2015-12-23 | Agfa HealthCare N.V. | System und Verfahren zur optischen Kohärenztomographie sowie Verfahren zur Kalibrierung eines solchen Systems |
ES2525113T3 (es) | 2007-02-21 | 2014-12-18 | Agfa Healthcare N.V. | Sistema para tomografía de coherencia óptica |
US7633631B2 (en) * | 2007-04-04 | 2009-12-15 | Nikon Corporation | Three-dimensional microscope and method for obtaining three-dimensional image |
DE102007018048A1 (de) | 2007-04-13 | 2008-10-16 | Michael Schwertner | Verfahren und Anordnung zur optischen Abbildung mit Tiefendiskriminierung |
US8964020B2 (en) * | 2007-04-25 | 2015-02-24 | Stc.Unm | Solid-state microscope for selectively imaging a sample |
US8194124B2 (en) * | 2007-10-09 | 2012-06-05 | Nanyang Technological University | In-line digital holographic microscope and a method of in-line digital holographic microscopy |
WO2010050909A1 (en) * | 2007-11-02 | 2010-05-06 | Gerchberg, Louise | Light microscope with novel digital method to achieve super-resolution |
JP5298507B2 (ja) * | 2007-11-12 | 2013-09-25 | セイコーエプソン株式会社 | 画像表示装置及び画像表示方法 |
US7816641B2 (en) | 2007-12-28 | 2010-10-19 | Candela Microsystems (S) Pte. Ltd. | Light guide array for an image sensor |
JP5090188B2 (ja) | 2008-01-10 | 2012-12-05 | オリンパス株式会社 | 顕微鏡装置 |
JP2011513752A (ja) | 2008-03-04 | 2011-04-28 | カリフォルニア インスティテュート オブ テクノロジー | 光学流体顕微鏡装置を用いた方法 |
US20090225309A1 (en) | 2008-03-04 | 2009-09-10 | Demou Zoe N | Time-lapse analysis chamber for laser capture microdissection applications |
TW200940684A (en) | 2008-03-10 | 2009-10-01 | Nikon Corp | Fluorescent film, film-forming method therefor, multilayer dielectric film, optical element, optical system, imaging unit, instrument for measuring optical characteristics, method of measuring optical characteristics, exposure apparatus, exposure met |
EP2257845B1 (en) * | 2008-03-26 | 2019-01-16 | Yale University | Optical system that selectively provides either of a collimated light beam or a convergent light beam |
US8039776B2 (en) | 2008-05-05 | 2011-10-18 | California Institute Of Technology | Quantitative differential interference contrast (DIC) microscopy and photography based on wavefront sensors |
JP2010020151A (ja) | 2008-07-11 | 2010-01-28 | Nikon Corp | 観察装置 |
CN102449528B (zh) | 2009-05-27 | 2014-04-16 | 株式会社尼康 | 显微镜系统 |
US7923799B2 (en) | 2009-06-09 | 2011-04-12 | Aptina Imaging Corporation | Image sensors with light guides |
JP5385028B2 (ja) | 2009-07-06 | 2014-01-08 | オリンパス株式会社 | 顕微鏡装置 |
EP2470886A4 (en) | 2009-08-26 | 2016-11-02 | Tomophase Inc | TISSUE OPTICAL IMAGING BASED ON OPTICAL IMAGING IN THE FIELD OF FREQUENCIES |
JP5439096B2 (ja) | 2009-09-08 | 2014-03-12 | 株式会社日立ハイテクノロジーズ | 細菌分類装置および細菌検査前処理装置 |
ES2623375T3 (es) | 2009-10-20 | 2017-07-11 | The Regents Of The University Of California | Holografía y microscopia celular incoherente sin lente en un chip |
EP2315065B1 (en) | 2009-10-26 | 2015-05-13 | Olympus Corporation | Microscope |
US20110098950A1 (en) | 2009-10-28 | 2011-04-28 | Symphony Acoustics, Inc. | Infrasound Sensor |
WO2011055791A1 (ja) | 2009-11-05 | 2011-05-12 | 株式会社日立ハイテクノロジーズ | 細菌コロニー釣菌装置及びその方法 |
JP5638793B2 (ja) | 2009-12-03 | 2014-12-10 | オリンパス株式会社 | 顕微鏡装置 |
US20110266181A1 (en) | 2010-03-04 | 2011-11-03 | Sloan-Kettering Institute For Cancer Research | Microscope slide holder and method of use |
WO2011119678A2 (en) | 2010-03-23 | 2011-09-29 | California Institute Of Technology | Super resolution optofluidic microscopes for 2d and 3d imaging |
EP2567218A4 (en) | 2010-05-03 | 2017-11-08 | The Regents of The University of California | Wide-field lensless fluorescent imaging on a chip |
US9643184B2 (en) | 2010-10-26 | 2017-05-09 | California Institute Of Technology | e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images |
JP2013542468A (ja) | 2010-10-26 | 2013-11-21 | カリフォルニア インスティチュート オブ テクノロジー | 走査型投影レンズレス顕微鏡システム |
US9569664B2 (en) | 2010-10-26 | 2017-02-14 | California Institute Of Technology | Methods for rapid distinction between debris and growing cells |
EP2656066A4 (en) | 2010-12-21 | 2017-11-08 | The Regents of The University of California | Compact wide-field fluorescent imaging on a mobile device |
US9605941B2 (en) | 2011-01-06 | 2017-03-28 | The Regents Of The University Of California | Lens-free tomographic imaging devices and methods |
EP2681757B1 (en) | 2011-03-03 | 2021-06-30 | California Institute of Technology | Imaging system and method of generating a sub-pixel resolution image |
CN103534627A (zh) | 2011-03-03 | 2014-01-22 | 加州理工学院 | 光导像素 |
WO2012122398A2 (en) | 2011-03-09 | 2012-09-13 | California Institute Of Technology | Talbot imaging devices and systems |
US8866063B2 (en) | 2011-03-31 | 2014-10-21 | The Regents Of The University Of California | Lens-free wide-field super-resolution imaging device |
US8837045B2 (en) | 2012-09-21 | 2014-09-16 | The Board Of Trustees Of The University Of Illinois | Diffraction phase microscopy with white light |
-
2011
- 2011-10-25 JP JP2013536747A patent/JP2013542468A/ja active Pending
- 2011-10-25 US US13/281,287 patent/US9426429B2/en active Active
- 2011-10-25 EP EP11836959.4A patent/EP2633267A4/en not_active Withdrawn
- 2011-10-25 WO PCT/US2011/057735 patent/WO2012058233A2/en active Application Filing
- 2011-10-25 CN CN2011800486391A patent/CN103154662A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080056610A1 (en) * | 2005-01-31 | 2008-03-06 | Yamato Kanda | Image Processor, Microscope System, and Area Specifying Program |
CN101655463A (zh) * | 2008-08-20 | 2010-02-24 | Asml控股股份有限公司 | 物体表面上的颗粒检测 |
Non-Patent Citations (3)
Title |
---|
TING-WEI SU ET AL: "Multi-angle lensless digital holography for depth resolved imaging on a chip", 《OPTICS EXPRESS》, vol. 18, no. 9, 23 April 2010 (2010-04-23), pages 9690 - 9711, XP009148104, DOI: doi:10.1364/OE.18.009690 * |
WAHEB BISHARA: "Lensfree on-chip microscopy over a wide field-of-view using pixel super-resolution", 《OPTICS EXPRESS》, vol. 18, no. 11, 24 May 2010 (2010-05-24), pages 11181 - 11191, XP055066800 * |
XIN HENG ET AL: "Optofluidic microscope: a novel high resolution microscope-on-chip system", 《LEOS SUMMER TOPICAL MEETINGS》, 17 July 2006 (2006-07-17), pages 15 - 16, XP010940078 * |
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10401609B2 (en) | 2012-10-30 | 2019-09-03 | California Institute Of Technology | Embedded pupil function recovery for fourier ptychographic imaging devices |
US10652444B2 (en) | 2012-10-30 | 2020-05-12 | California Institute Of Technology | Multiplexed Fourier ptychography imaging systems and methods |
US10679763B2 (en) | 2012-10-30 | 2020-06-09 | California Institute Of Technology | Fourier ptychographic imaging systems, devices, and methods |
US10606055B2 (en) | 2013-07-31 | 2020-03-31 | California Institute Of Technology | Aperture scanning Fourier ptychographic imaging |
US10419665B2 (en) | 2013-08-22 | 2019-09-17 | California Institute Of Technology | Variable-illumination fourier ptychographic imaging devices, systems, and methods |
US11468557B2 (en) | 2014-03-13 | 2022-10-11 | California Institute Of Technology | Free orientation fourier camera |
CN105319699A (zh) * | 2014-07-31 | 2016-02-10 | 株式会社东芝 | 利用显微拍摄装置的观察方法 |
CN105319699B (zh) * | 2014-07-31 | 2019-04-26 | 株式会社东芝 | 利用显微拍摄装置的观察方法 |
US10254527B2 (en) | 2014-07-31 | 2019-04-09 | Kabushiki Kaisha Toshiba | Observation method using microscopic imaging device |
TWI582409B (zh) * | 2014-08-08 | 2017-05-11 | 豪威科技股份有限公司 | 用於檢測置於影像感測器上之樣品中顆粒之無透鏡成像系統與方法 |
US9574989B2 (en) | 2014-08-08 | 2017-02-21 | Omnivision Technologies, Inc. | Lens-free imaging system and method for detecting particles in sample deposited on image sensor |
CN107077722B (zh) * | 2014-08-29 | 2020-12-11 | 卡尔蔡司显微镜有限责任公司 | 图像记录设备及用于记录图像的方法 |
CN107113370A (zh) * | 2014-08-29 | 2017-08-29 | 卡尔蔡司显微镜有限责任公司 | 图像捕获装置及图像捕获方法 |
CN107077722A (zh) * | 2014-08-29 | 2017-08-18 | 卡尔蔡司显微镜有限责任公司 | 图像捕获装置及图像捕获方法 |
CN107113370B (zh) * | 2014-08-29 | 2020-06-23 | 卡尔蔡司显微镜有限责任公司 | 图像记录设备及记录图像方法 |
CN107111125B (zh) * | 2014-12-04 | 2020-12-01 | 加州理工学院 | 多路复用傅立叶重叠关联成像的系统和方法 |
CN107111125A (zh) * | 2014-12-04 | 2017-08-29 | 加州理工学院 | 多路复用傅立叶重叠关联成像的系统和方法 |
US10718934B2 (en) | 2014-12-22 | 2020-07-21 | California Institute Of Technology | Epi-illumination Fourier ptychographic imaging for thick samples |
US10665001B2 (en) | 2015-01-21 | 2020-05-26 | California Institute Of Technology | Fourier ptychographic tomography |
US10732396B2 (en) | 2015-01-26 | 2020-08-04 | California Institute Of Technology | Array level Fourier ptychographic imaging |
US10754138B2 (en) | 2015-01-26 | 2020-08-25 | California Institute Of Technology | Multi-well fourier ptychographic and fluorescence imaging |
US10684458B2 (en) | 2015-03-13 | 2020-06-16 | California Institute Of Technology | Correcting for aberrations in incoherent imaging systems using fourier ptychographic techniques |
CN107690595B (zh) * | 2015-05-13 | 2021-03-09 | 卡尔蔡司显微镜有限责任公司 | 用于借助以不同的照明角度进行照明来图像记录的设备和方法 |
CN107690595A (zh) * | 2015-05-13 | 2018-02-13 | 卡尔蔡司显微镜有限责任公司 | 用于借助以不同的照明角度进行照明来图像记录的设备和方法 |
CN107204030A (zh) * | 2016-03-18 | 2017-09-26 | 松下知识产权经营株式会社 | 图像生成装置、图像生成方法及程序 |
CN107204030B (zh) * | 2016-03-18 | 2022-12-27 | 松下知识产权经营株式会社 | 图像生成装置、图像生成方法及记录介质 |
CN106157243B (zh) * | 2016-06-06 | 2019-01-15 | 南昌航空大学 | 基于压缩感知的淡水藻类全息图像增强与重建方法 |
CN106157243A (zh) * | 2016-06-06 | 2016-11-23 | 南昌航空大学 | 基于压缩感知的淡水藻类全息图像增强与重建方法 |
US10568507B2 (en) | 2016-06-10 | 2020-02-25 | California Institute Of Technology | Pupil ptychography methods and systems |
US11092795B2 (en) | 2016-06-10 | 2021-08-17 | California Institute Of Technology | Systems and methods for coded-aperture-based correction of aberration obtained from Fourier ptychography |
TWI670680B (zh) * | 2016-09-28 | 2019-09-01 | 香港商港大科橋有限公司 | 像素解析度在掃描成像中的恢復的方法和系統 |
US10754140B2 (en) | 2017-11-03 | 2020-08-25 | California Institute Of Technology | Parallel imaging acquisition and restoration methods and systems |
CN111381355A (zh) * | 2018-12-29 | 2020-07-07 | 南京培轩雅谱光电科技有限公司 | 光学成像装置和方法 |
Also Published As
Publication number | Publication date |
---|---|
US20120098950A1 (en) | 2012-04-26 |
US9426429B2 (en) | 2016-08-23 |
JP2013542468A (ja) | 2013-11-21 |
WO2012058233A2 (en) | 2012-05-03 |
WO2012058233A3 (en) | 2012-06-28 |
EP2633267A2 (en) | 2013-09-04 |
EP2633267A4 (en) | 2014-07-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103154662A (zh) | 扫描投影无透镜显微镜系统 | |
CN103262203B (zh) | E-petri培养皿、设备和系统 | |
US10419665B2 (en) | Variable-illumination fourier ptychographic imaging devices, systems, and methods | |
Luo et al. | Synthetic aperture-based on-chip microscopy | |
US9643184B2 (en) | e-Petri dishes, devices, and systems having a light detector for sampling a sequence of sub-pixel shifted projection images | |
US20220254538A1 (en) | Fourier ptychographic imaging systems, devices, and methods | |
US9569664B2 (en) | Methods for rapid distinction between debris and growing cells | |
McLeod et al. | Unconventional methods of imaging: computational microscopy and compact implementations | |
CN102792151B (zh) | 用于2d和3d成像的超分辨率光流体显微镜 | |
Xu et al. | Tracking particles in four dimensions with in-line holographic microscopy | |
Liang | Punching holes in light: recent progress in single-shot coded-aperture optical imaging | |
Yilmaz et al. | Speckle correlation resolution enhancement of wide-field fluorescence imaging | |
CN105659143B (zh) | 孔径扫描傅立叶重叠关联成像 | |
Greenbaum et al. | Maskless imaging of dense samples using pixel super-resolution based multi-height lensfree on-chip microscopy | |
Chen et al. | Superresolution structured illumination microscopy reconstruction algorithms: a review | |
US20120228475A1 (en) | Talbot Imaging Devices and Systems | |
CN103534627A (zh) | 光导像素 | |
Zhang et al. | Super-resolution generative adversarial network (SRGAN) enabled on-chip contact microscopy | |
Taddese et al. | Optimizing sample illumination scanning for reflection and 4Pi tomographic diffractive microscopy | |
Wang et al. | Quantitative real-time phase microscopy for extended depth-of-field imaging based on the 3D single-shot differential phase contrast (ssDPC) imaging method | |
Mo et al. | Lensless light field imaging with angular resolution improvement | |
Ihrke | An equivalent F-number for light field systems: light efficiency, signal-to-noise ratio, and depth of field | |
Kuniyoshi et al. | Visibility enhancement by integrating refocusing and direct-global separation with contact imaging | |
Lu et al. | Holographic lensless quantitative phase imaging microscope | |
Li et al. | Light field Fourier ptychographic microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20130612 |