CN111183385B - 实时自动聚焦扫描 - Google Patents
实时自动聚焦扫描 Download PDFInfo
- Publication number
- CN111183385B CN111183385B CN201880062657.7A CN201880062657A CN111183385B CN 111183385 B CN111183385 B CN 111183385B CN 201880062657 A CN201880062657 A CN 201880062657A CN 111183385 B CN111183385 B CN 111183385B
- Authority
- CN
- China
- Prior art keywords
- sample
- value
- objective
- objective lens
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 claims abstract description 25
- 239000000872 buffer Substances 0.000 claims description 171
- 238000000034 method Methods 0.000 claims description 22
- 230000003287 optical effect Effects 0.000 claims description 22
- 230000000977 initiatory effect Effects 0.000 claims description 2
- 238000003491 array Methods 0.000 description 20
- 230000015654 memory Effects 0.000 description 16
- 230000008569 process Effects 0.000 description 15
- 230000033001 locomotion Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 238000005286 illumination Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 9
- 239000011521 glass Substances 0.000 description 8
- 238000012545 processing Methods 0.000 description 6
- 230000007170 pathology Effects 0.000 description 5
- 239000000463 material Substances 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000000386 microscopy Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000000799 fluorescence microscopy Methods 0.000 description 2
- 238000000399 optical microscopy Methods 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 241000894006 Bacteria Species 0.000 description 1
- 102000004506 Blood Proteins Human genes 0.000 description 1
- 108010017384 Blood Proteins Proteins 0.000 description 1
- 241000222120 Candida <Saccharomycetales> Species 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 239000012620 biological material Substances 0.000 description 1
- 238000001574 biopsy Methods 0.000 description 1
- 210000001185 bone marrow Anatomy 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 210000000349 chromosome Anatomy 0.000 description 1
- 239000002299 complementary DNA Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013481 data capture Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 238000002493 microarray Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005424 photoluminescence Methods 0.000 description 1
- 238000004393 prognosis Methods 0.000 description 1
- 102000004169 proteins and genes Human genes 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 210000002700 urine Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/24—Base structure
- G02B21/241—Devices for focusing
- G02B21/244—Devices for focusing using image analysis techniques
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/006—Optical details of the image generation focusing arrangements; selection of the plane to be imaged
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/008—Details of detection or image processing, including general computer control
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/711—Time delay and integration [TDI] registers; TDI shift registers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
- G06T2207/10061—Microscopic image from scanning electron microscope
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Automatic Focus Adjustment (AREA)
- Microscoopes, Condenser (AREA)
- Eye Examination Apparatus (AREA)
Abstract
本文涉及实时自动聚焦。在一个实施方案中,一种扫描设备包括成像传感器、聚焦传感器、物镜和被配置成分析由所述成像传感器和聚焦传感器捕获的图像数据并移动所述物镜的处理器。通过为样品上的点和样品上的多个区域中的每一个区域确定所述物镜的真Z值,来实现样品扫描期间的实时自动聚焦。所述真Z值和/或由此计算的表面用于确定所述样品的未扫描区域的预测Z值。在未扫描区域开始处,所述物镜被调整到所述预测Z值。在扫描所述区域之后,为所述区域确定真Z值,并将所述真Z值与所述预测Z值进行比较。如果比较结果超过预定阈值,则启动对所述区域的重新扫描。
Description
相关申请的交叉引用
本申请要求2017年9月29日提交的美国临时专利申请号62/566,155的优先权,该申请通过引用结合于此,如同完整阐述一样。
本申请涉及2016年9月23日提交并作为国际专利公开号WO/2017/053891公开的国际专利申请号PCT/US2016/053581,其通过引用结合于此,如同完整阐述一样。
背景技术
技术领域
本公开总体上涉及数字病理学,并且更具体地涉及数字载片扫描设备的实时自动聚焦。
相关技术
数字病理学是通过计算机技术实现的基于图像的信息环境,所述计算机技术允许管理从物理载片生成的信息。数字病理学部分地通过虚拟显微术实现,虚拟显微术是扫描物理玻璃载片上的样本并产生可在计算机监测器上存储、查看、管理和分析的数字载片图像的实践。利用对整个玻璃载片成像的能力,数字病理学领域得到了飞速发展,并且目前被认为是诊断医学在实现更好、更快和更便宜的重大疾病(例如癌症)诊断、预后和预测方面最有希望的途径之一。
数字病理学行业的主要目标是减少扫描时间。通过在实际扫描期间切换到实时聚焦,可以实现减少的扫描时间。为了在实际扫描期间使用实时聚焦获得高质量的聚焦图像数据,扫描装置必须能够确定物镜的下一个Z值(例如,物镜与样本之间的距离)。因此,需要一种系统和方法来克服在上述常规系统中发现的这些重大问题。
发明内容
在一个实施方案中,扫描设备包括成像传感器、聚焦传感器、和被配置成分析由成像传感器和聚焦传感器捕获的图像数据的处理器。聚焦传感器的各个像素沿着光路的位置对于所捕获的每一行图像数据而言是变化的,并且成像传感器的各个像素沿着光路的位置对于所捕获的每一行图像数据而言都是相同的。
首先,处理器可以选择样品上的微距焦点,并通过改变物镜和样品之间的相对距离在多个图像平面处扫描包括微距焦点的单个视场。这可以通过在光路中上下移动物镜来实现。分析每个图像平面上的图像数据,以确定具有最高对比度的图像平面。使成像传感器的像素置于最高对比度图像平面处的物镜位置被称为“真Z”,并且也可以被称为物镜离样品的距离(例如,物镜的高度),其中该距离与物镜沿着光路的可能位置范围有关。在确定了微距焦点的真Z值之后,确定样品表面上的最大距离,并且沿着横跨样品上的最大距离的线扫描一系列区域。
该系列区域中的每个区域优选地是成像传感器和聚焦传感器在样品上的一组连续的视场。在一个实施方案中,一组连续的视场可以包括1,000个视场,其中每个单独的视场表示一条扫描线,并且该组视场被称为“缓冲区”。术语“缓冲区”不与任何特定数量的扫描线或任何特定物理存储段相关联,因此,缓冲区的大小可以根据例如物理存储段或扫描设备的速度而变化,其中速度可以由载物台速度或图像数据捕获速度来限定。
在一个实施方案中,沿着表示样品上的最大距离的线扫描多个参考缓冲区,并且通过计算参考缓冲区中所有扫描线上的每个像素的来自聚焦传感器的对比度值和来自成像传感器的对比度值的比率,为每个参考缓冲区确定真Z值,以确定参考缓冲区的平均对比度比率向量。平均对比度比率向量包括参考缓冲区中每个像素列的平均对比度比率值。然后分析平均对比度比率向量,以确定所有像素列上的单个峰值对比度比率值,并且对应于单个峰值对比度比率值的像素位置被转换成参考缓冲区的真Z值。
在一个实施方案中,在确定了微距焦点和多个参考缓冲区的真Z值之后,成像扫描从样品的一个边缘处的第一条带开始。第一条带被分成用于扫描的多个图像缓冲区。当扫描第一条带的每个图像缓冲区时,使用微距焦点、多个参考缓冲区和图像缓冲区当中最接近的真Z值(在样品上的X-Y距离)。此外,处理器开始使用微距焦点和参考缓冲区的真Z值以及在扫描相应图像缓冲区之后为每个图像缓冲区计算的真Z值来计算全局样品表面。当扫描额外条带时,如上所述确定每个图像缓冲区的真Z值,并使用所述真Z值来优化全局表面。
除了全局表面之外,也使用来自附近图像缓冲区和参考缓冲区的真Z值来计算一个或多个局部样品表面。在一个实施方案中,局部表面被限制为包括来自附近缓冲区的真Z值,所述附近缓冲区在围绕下一个要扫描的图像缓冲区的2毫米L形区域内。当扫描下一个图像缓冲区时,使用局部表面(如果可用)来确定在扫描下一个图像缓冲区开始时定位物镜的预测Z值。在一个实施方案中,使用局部表面的斜率、微距焦点、多个参考缓冲区、图像缓冲区当中最接近的真Z值以及到下一个图像缓冲区的起点的距离(例如,1,000行=0.25毫米)来确定下一个图像缓冲区的预测Z值。物镜被移动到预测Z值,使得当扫描下一图像缓冲区的第一扫描线时,物镜处于预测Z值。在扫描每个图像缓冲区之后,确定相应缓冲区的真Z值,并将用于扫描的预测Z值与真Z值进行比较。在一个实施方案中,如果真Z值和预测Z值之间的差值的绝对值大于0.9微米,则处理器通过应用重新条带化逻辑来至少重新扫描相应的图像缓冲区。或者,可以重新扫描围绕相应图像缓冲区的整个条带或多个图像缓冲区。
在一个实施方案中,公开了一种数字扫描设备,其包括:位于物镜的光路中的聚焦传感器和成像传感器;处理器,其被配置为在扫描样品期间通过以下方式调整所述物镜的高度:选择样品上的微距焦点,其中所述微距焦点在所述样品的边缘的预定范围内,并且在所述样品上的最大长度的相同预定范围内;在对应于物镜的多个高度位置的多个图像平面处扫描包括微距焦点的单个图像数据视场;确定所述多个图像平面中的每一个的对比度值;识别对应于具有最高对比度值的图像平面的第一真Z值(Z1);沿着所述样品上的最大长度扫描多个图像数据缓冲区,其中每个图像数据缓冲区包括多个扫描线并且每个扫描线包括多个像素,使得每个缓冲区包括与所述多个扫描线的数量相等数量的像素行和与所述多个像素的数量相等数量的像素列,通过以下方式确定每个缓冲区的对比度比率值:确定选定缓冲区中每个像素的对比度比率值;确定所述选定缓冲区中每列像素的平均对比度比率值;以及基于所述选定缓冲区中每列像素的平均对比度比率值来确定所述选定缓冲区的对比度比率值;识别对应于每个缓冲区的每个对比度比率值的多个额外真Z值(Z2-Zn);将真Z值(Z1-Zn)与包括微距焦点的相应缓冲区或视场的对应X-Y位置信息一起存储;确定所述样品的要进行图像扫描的下一部分的X-Y位置;基于所确定的X-Y位置和所存储的X-Y位置的比较来识别最接近的真Z值;调整物镜的高度位置,以在所述样品的要进行图像扫描的下一部分的开始位置处到达对应于最接近的真Z值的图像平面。该过程还可以被配置为:确定样品的第一部分的后Z值,其中样品的第一部分近来以真Z值被扫描;将样品的第一部分的后Z值与扫描样品的第一部分时的真Z值进行比较;如果后Z值和真Z值之间的差值大于预定值,则启动对样品的第一部分的重新扫描。
在一个实施方案中,公开了一种方法,其包括:选择样品上的微距焦点,其中所述微距焦点在所述样品的边缘的预定范围内,并且在所述样品上的最大长度的相同预定范围内;在对应于物镜的多个高度位置的多个图像平面处扫描包括微距焦点的单个图像数据视场;确定所述多个图像平面中的每一个的对比度值;识别对应于具有最高对比度值的图像平面的第一真Z值(Z1);沿着所述样品上的最大长度扫描多个图像数据缓冲区,其中每个图像数据缓冲区包括多个扫描线并且每个扫描线包括多个像素,使得每个缓冲区包括与所述多个扫描线的数量相等数量的像素行和与所述多个像素的数量相等数量的像素列,通过以下方式确定每个缓冲区的对比度比率值:确定选定缓冲区中每个像素的对比度比率值;确定所述选定缓冲区中每列像素的平均对比度比率值;以及基于所述选定缓冲区中每列像素的平均对比度比率值来确定所述选定缓冲区的对比度比率值;识别对应于每个缓冲区的每个对比度比率值的多个额外真Z值(Z2-Zn);将真Z值(Z1-Zn)与包括微距焦点的相应缓冲区或视场的对应X-Y位置信息一起存储;确定所述样品的要进行图像扫描的下一部分的X-Y位置;基于所确定的X-Y位置和所存储的X-Y位置的比较来识别最接近的真Z值;调整物镜的高度位置,以在所述样品的要进行图像扫描的下一部分的开始位置处到达对应于最接近的真Z值的图像平面。该方法还可以包括:确定样品的第一部分的后Z值,其中样品的第一部分近来以真Z值被扫描;将样品的第一部分的后Z值与扫描样品的第一部分时的真Z值进行比较;如果后Z值和真Z值之间的差值大于预定值,则启动对样品的第一部分的重新扫描。
在审阅了以下详细说明和附图之后,本发明的其他特征和优点对于本领域普通技术人员来说将变得更加显而易见。
附图说明
通过审阅以下详细说明和附图,将理解本发明的结构和操作,在附图中,相似的附图标记是指相似的部件,并且其中:
图1是示出根据一个实施方案的用于数字扫描设备中的实时自动聚焦的示例性初始化过程的流程图;
图2是示出根据一个实施方案的使用实时自动聚焦来扫描样品的示例性过程的流程图;
图3是示出根据一个实施方案的使用实时自动聚焦来验证已经扫描的图像数据的示例性过程的流程图;
图4A至图4F是示出根据一个实施方案的具有样品的示例性载片和用于实时自动聚焦的过程的框图;
图5A是示出可结合本文描述的实施方案使用的示例性处理器使能装置的框图;
图5B是示出根据一个实施方案的具有单个线性阵列的示例性线扫描相机的框图;
图5C是示出根据一个实施方案的具有三个线性阵列的示例性线扫描相机的框图;并且
图5D是示出根据一个实施方案的具有多个线性阵列的示例性线扫描相机的框图。
具体实施方式
本文公开的某些实施方案提供了一种扫描工作流来实现实时自动聚焦。例如,本文公开的一种方法允许通过确定在样品上的微距点处物镜的真Z值并确定针对样品上的多个参考缓冲区(即,连续区域)中的每一个参考缓冲区的物镜的真Z值来启动实时自动聚焦扫描。真Z值用于计算样品的全局和局部表面。真Z值和由此计算的表面用于确定样品的未扫描图像缓冲区(即,连续区域)的预测Z值。在扫描期间,物镜可以被移动(例如,向上或向下),使得它在未扫描图像缓冲区的开始(例如,第一扫描线)处到达预测Z值。在扫描每个图像缓冲区之后,为各个图像缓冲区确定真Z值,并将所述真Z值与各个图像缓冲区的预测Z值进行比较。如果该区域的预测Z值和真Z值之间的差值超过预定阈值,则启动对相应图像缓冲区的重新扫描。
在阅读了该说明之后,对于本领域技术人员来说,如何在各种替代实施方案和替代应用中实现本发明将变得显而易见。然而,尽管本文将描述本发明的各种实施方案,但是应当理解,这些实施方案仅通过示例的方式而非限制的方式呈现。因此,对各种替代实施方案的详细说明不应被解释为限制所附权利要求书中阐述的本发明的范围或广度。
在一个实施方案中,本文描述的数字扫描设备可以利用国际专利公开号WO/2017/053891中描述的成像传感器和聚焦传感器的配置。例如,国际专利公开号WO/2017/053891中描述的成像传感器20和聚焦传感器30可以分别用作在此描述的成像传感器和聚焦传感器。
图1是示出根据一个实施方案的用于数字扫描设备中的实时自动聚焦的示例性初始化过程的流程图。示出的过程可以由例如参照图5A至图5D描述的那些数字扫描设备系统的数字扫描设备系统来执行。最初,在步骤10中,选择微距焦点的位置。微距焦点的位置优选地在样品的边缘的预定范围内,并且还优选地在样品的表面上的最长距离的相同预定范围内。在一个实施方案中,预定范围由聚焦传感器相对于光路的垂直范围确定。
一旦确定了微距焦点的位置,便在所有可用的图像平面处扫描包括微距焦点的样品视场,如步骤20中所示。可用图像平面的全集由物镜和样品之间的一组可能的相对距离决定。在一个简单的实施方案中,通过调整物镜沿光轴的位置来进行对焦调整,因此通过最近和最远的物镜位置以及这些最近和最远位置之间的递增物镜位置来确定可用的图像平面。
接下来,在步骤30中,确定微距焦点的真Z值。如前所述,真Z值表示物镜离样品的距离(这里也称为“高度”,因为物镜通常位于样品上方),其中该距离与物镜沿光路的可能位置范围有关。通过在光路中上下移动物镜获取表示聚深的多个图像平面中的每一个的图像数据来确定真Z值。或者,可以使用倾斜聚焦传感器同时获取多个图像平面的图像数据。在任一情况下,分析每个图像平面处的图像数据,以确定具有最高对比度的图像平面。使最高对比度图像平面置于成像传感器的像素处的物镜位置被称为真Z值。
接下来,在步骤40中,确定样品上的最大长度。该步骤可以在选择微距焦点的过程期间发生,使得微距焦点在样品的边缘的预定距离内,并且也在表示样品上的最大长度的线的预定距离内。一旦确定了表示样品上的最大长度的线,则在步骤50中,沿着最大长度扫描多个参考缓冲区,并且在步骤60中,为每个参考缓冲区计算真Z值。在一个实施方案中,多个参考缓冲区沿着样品上的最大长度形成完整的连续区域。在替代实施方案中,沿着样品上的最大长度的参考缓冲区可以彼此完全或部分地断开。
在扫描每个参考缓冲区之后,确定缓冲区的真Z值。如上所述,在一个实施方案中,确定单个视场的真Z值包括分析由聚焦传感器和成像传感器中的每个像素提供的原始亮度信息,并计算每个像素的对比度比率值。因为聚焦传感器的每个像素相对于光路处于不同的图像平面,所以具有最高对比度比率值的像素的相应图像平面被确定为最高对比度图像平面,并且相应地,将成像传感器的所有像素定位在最高对比度图像平面上的物镜高度被确定为微距焦点的真Z值。
当确定包括多条扫描线的缓冲区的真Z值时,遵循类似的过程。例如,缓冲区包括多条扫描线,并且每条扫描线具有多个像素。例如,缓冲区可以具有4096个像素列,并且缓冲区中的行数等于缓冲区中的扫描线数。当确定缓冲区的真Z值时,对每个像素列中的对比度比率值求平均,以生成与缓冲区中的4096个像素列相对应的4096个平均对比度比率值的向量。然后,以与单个视场相同的方式分析平均对比度比率向量,以确定缓冲区的真Z值。在为每个参考缓冲区确定真Z值之后,将该缓冲区的真Z值连同X-Y位置信息一起存储在存储器中。应该理解的是,X-Y位置信息指示缓冲区在样品、载片或载物台的平面内的位置。
图2是示出根据一个实施方案的使用实时自动聚焦来扫描样品的示例性过程的流程图。示出的过程可以由例如参照图5A至图5D描述的那些数字扫描设备系统的数字扫描设备系统来执行。在步骤90和100中,视需要,基于可用的真Z值及其相对应的X-Y位置信息,初始计算和/或更新全局样品表面和局部样品表面。全局样品表面基于所有可用的真Z值,局部表面仅基于附近可用的真Z值,其中“附近”与下一个要扫描的受试图像缓冲区有关(例如,邻近)。
在步骤110中,确定要扫描的下一个图像缓冲区(这里称为“受试图像缓冲区”)。然后,在步骤120中,为受试图像缓冲区识别样品的表面上的X-Y距离中最接近的真Z值。接下来,在步骤130中,计算受试图像缓冲区的预测Z值。在一个实施方案中,预测Z值等于最接近的真Z值。可选地,可以基于最接近的真Z值和来自已经为受试图像缓冲区确定的局部表面的信息来计算预测Z值。作为另一种选择,预测Z值可以基于最接近的真Z值和来自已经为样品确定的全局表面的信息来计算。作为另一种选择,可以基于最接近的真Z值和来自已经为受试图像缓冲区确定的局部表面的信息以及来自已经为样品确定的全局表面的信息来计算预测Z值。一旦已经计算出预测Z值,便在步骤140中,用对应于预测Z值的起始物镜高度扫描受试图像缓冲区。如步骤150中所确定的,如果对于样品有更多的图像缓冲区要扫描(即,在步骤150中,“是”),则该过程循环回到步骤110,在该步骤中,识别下一个要扫描的图像缓冲区。如果对样品的扫描完成(即在步骤150中,“否”),则该过程结束,如步骤160所示。
图3是示出根据一个实施方案的使用实时自动聚焦来验证已经扫描的图像数据的示例性过程的流程图。示出的过程可以由例如参照图5A至图5D描述的那些数字扫描设备系统的数字扫描设备系统来执行。首先,在步骤170中,在扫描了第一图像缓冲区之后,分析第一图像缓冲区的图像数据,以确定第一图像缓冲区的真Z值。接下来,在步骤180中,将第一图像缓冲区的真Z值与第一图像缓冲区的预测Z值进行比较。如果第一图像缓冲区的真Z值和第一图像缓冲区的预测Z值之间的差值超过预定阈值,则如步骤190所示,将第一图像缓冲区识别为需要重新扫描。在一个实施方案中,如果整个样品中一定百分比的图像缓冲区被识别为需要重新扫描,则启动对整个样品的重新扫描。可选地,可以仅对真Z值和预测Z值之间的差值超过预定阈值的那些图像缓冲区启动重新扫描。在一个实施方案中,预定阈值是0.5微米。在替代实施方案中,预定阈值是0.9微米。
图4A至图4F是示出根据一个实施方案的在描述用于实时自动聚焦的过程时使用的具有样品210的示例性载片200的框图,样品210具有间隙220。从图4A开始,示出了支撑样品210的载片200。在所示实施方案中,样品210具有间隙220。当对样品210进行图像扫描时,首先选择微距焦点300。在一个实施方案中,所选微距焦点300的位置在样品210的边缘的特定范围内。该范围被限定为半径310。此外,在该实施方案中,所选微距焦点300的位置在沿着样品320上的最大长度延伸的线320的相同范围(即半径310)内。因此,选择微距焦点300,使得样品210的边缘和沿着样品上的最大长度的线320距微距焦点300都在预定半径310内。在一个实施方案中,半径310的长度由聚焦传感器垂直于光路的范围确定。
一旦选择了微距焦点300,便对包括微距焦点300的视场进行扫描,并且为微距焦点300确定真Z值。接下来,沿着样品320上的最大长度扫描一系列参考缓冲区330,并为每个参考缓冲区330确定真Z值。注意,参考缓冲区可以如图所示在样本的整个长度上是连续的,也可以是非连续的。微距焦点300和每个参考缓冲区330的真Z值及其相对应的X-Y位置信息被存储在存储器中。
转向图4B至图4F,对整个样品210进行图像扫描。图像扫描通常从样品210的一侧开始。第一图像缓冲区A被识别为接下来要扫描的受试缓冲区,并且为受试图像缓冲区A确定预测Z值。在该示例性实施方案中,受试图像缓冲区A没有局部表面可用,因此,将最接近的真Z值400(在这种情况下,微距焦点300的真Z值)确定为受试图像缓冲区A的预测Z值。替代地,受试图像缓冲区A的预测Z值可以基于最接近的真Z值400和关于基于所有可用真Z值计算的全局表面的信息来计算。一旦为受试图像缓冲区A确定了预测Z值,便将物镜的高度调整到预测Z值,将载物台定位在用于扫描受试图像缓冲区A的起始位置,然后相对于物镜而移动载物台以扫描受试图像缓冲区A。
在扫描受试图像缓冲区A期间,基于最接近的真Z值410确定受试图像缓冲区B的预测Z值,并且将物镜的高度调整到受试图像缓冲区B的预测Z值,使得当图像传感器扫描受试图像缓冲区B的第一扫描线时,物镜处于预测Z值的对应高度。如前所述,还可以基于关于局部表面的信息(例如,关于图像缓冲区A的信息)和/或全局表面的信息来确定预测Z值。
在扫描受试图像缓冲区A之后,确定受试图像缓冲区A的真Z值,并且将图像缓冲区A的真Z值与图像缓冲区A的预测Z值进行比较。在一个实施方案中,如果受试图像缓冲区A的真Z值和受试图像缓冲区A的预测Z值之间的差值超过预定阈值,则将受试图像缓冲区A标定为要进行重新扫描。
图像缓冲区的扫描以这种方式继续。转到图4D,受试图像缓冲区C的最接近的真Z值420是先前扫描的图像缓冲区(N1或N2)的真Z值,而不是微距焦点310或任何参考缓冲区330的真Z值。这是因为相较于受试图像缓冲区C与微距焦点310或任何参考缓冲区330的靠近程度,受试图像缓冲区C更靠近先前扫描的图像缓冲区(N1或N2)。在一个实施方案中,先前扫描的图像缓冲区N1的真Z值被用作受试图像缓冲区C的最接近的真Z值420,因为当为受试图像缓冲区C确定最接近的真Z值420时,图像缓冲区N2正在被扫描。在替代实施方案中,先前扫描的图像缓冲区N2的真Z值被用作受试图像缓冲区C的最接近的真Z值420,因为相较于受试图像缓冲区C与图像缓冲区N1的靠近程度,受试图像缓冲区C更靠近图像缓冲区N2。
类似地,转向图4E,最接近的真Z值430是先前扫描的图像缓冲区的真Z值,而不是微距焦点310的真Z值或参考缓冲区330的真Z值,因为先前扫描的图像缓冲区更靠近受试图像缓冲区D。转向图4F中的另一个示例,受试图像缓冲区E的最接近的真Z值440是参考缓冲区330的真Z值,而不是微距焦点310的真Z值或先前扫描的缓冲区的真Z值,因为受试图像缓冲区E更靠近特定的参考缓冲区330。如前所述,每个预测Z值可以基于与关于最接近的Z值、局部表面和全局表面的任何单个信息或信息组合有关的信息来确定。
图5A是示出可结合本文描述的各种实施方案使用的示例性处理器使能装置550的框图。如技术人员将理解的,也可以使用装置550的替代形式。在所示实施方案中,装置550被呈现为数字成像装置(这里也称为扫描仪系统、扫描系统、扫描设备、数字扫描设备、数字载片扫描设备等),其包括:一个或多个处理器555;一个或多个存储器565;一个或多个运动控制器570;一个或多个接口系统575;一个或多个可移动载物台580,每个可移动载物台支撑具有一个或多个样品590的一个或多个玻璃载片585;对样品进行照明的一个或多个照明系统595;一个或多个物镜600,每个物镜限定沿着光轴行进的光路605;一个或多个物镜定位器630;一个或多个可选的落射照明系统635(例如,包括在荧光扫描仪系统中);一个或多个聚焦光学器件610;一个或多个线扫描相机615和/或一个或多个额外相机620(例如,线扫描相机或面扫描相机),每个所述相机在样品590(例如,对应于样品210)和/或玻璃载片585(例如,对应于载片200)上限定单独的视场625。扫描仪系统550的各种元件经由一个或多个通信总线560通信耦合。尽管扫描仪系统550的各种元件中的每一个都可以有一个或多个,但是为了简单起见,除非需要以复数形式描述以传达适当的信息,否则这些元件在此将以单数形式描述。
一个或多个处理器555可以包括例如能够并行处理指令的中央处理单元(CPU)和单独的图形处理单元(GPU),或者一个或多个处理器555可以包括能够并行处理指令的多核处理器。还可以提供额外的单独处理器来控制特定部件或执行特定功能,例如图像处理。例如,额外处理器可以包括:管理数据输入的辅助处理器,执行浮点数学运算的辅助处理器,具有适于快速执行信号处理算法的架构的专用处理器(例如,数字信号处理器),从属于主处理器的从处理器(例如,后端处理器),用于控制线扫描相机615、载物台580、物镜225和/或显示器(未示出)的额外处理器。这种额外处理器可以是单独的离散处理器,或者可以与处理器555集成。
存储器565为可由处理器555执行的程序提供数据和指令的存储。存储器565可以包括存储数据和指令的一个或多个易失性和/或非易失性计算机可读存储介质,例如包括随机存取存储器、只读存储器、硬盘驱动器、可移动存储驱动器等。处理器555被配置成执行存储在存储器565中的指令,并经由通信总线560与扫描仪系统550的各种元件通信,以实现扫描仪系统550的整体功能。
一个或多个通信总线560可以包括被配置为传送模拟电信号的通信总线560,并且可以包括被配置为传送数字数据的通信总线560。因此,经由一个或多个通信总线560来自处理器555、运动控制器570和/或接口系统575的通信可以包括电信号和数字数据两者。处理器555、运动控制器570和/或接口系统575也可以被配置成经由无线通信链路与扫描系统550的各种元件中的一个或多个进行通信。
运动控制系统570被配置成精确控制和协调载物台580(例如,在X-Y平面内)和/或物镜600(例如,经由物镜定位器630,沿着与X-Y平面正交的Z轴)的X、Y和/或Z运动。运动控制系统570还被配置成控制扫描仪系统550中任何其他运动零件的移动。例如,在荧光扫描仪实施方案中,运动控制系统570被配置为协调落射照明系统635中的滤光器等的移动。
接口系统575允许扫描仪系统550与其他系统和人类操作员相互联系。例如,接口系统575可以包括用户界面,以直接向操作员提供信息和/或允许操作员直接输入。接口系统575还被配置成便于扫描系统550和直接连接的一个或多个外部装置(例如,打印机、可移动存储介质)或经由网络(未示出)连接到扫描仪系统550的外部装置(诸如图像服务器系统、操作员站、用户站和管理服务器系统)之间的通信和数据传送。
照明系统595被配置成对样品590的一部分进行照明。照明系统可以包括例如光源和照明光学器件。光源可以包括可变亮度卤素光源,其具有凹面反射镜以最大化光输出并具有KG-1滤光器以抑制热量。光源也可以包括任何类型的弧光灯、激光器或其他光源。在一个实施方案中,照明系统595以透射模式对样品590进行照明,使得线扫描相机615和/或相机620感测透射通过样品590的光能。可选地或组合地,照明系统595也可以被配置成以反射模式对样品590进行照明,使得线扫描相机615和/或相机620感测从样品590反射的光能。照明系统595可以被配置成适合于以任何已知的光学显微术模式检查显微样品590。
在一个实施方案中,扫描仪系统550可选地包括落射照明系统635,以优化用于荧光扫描的扫描仪系统550。荧光扫描是对包括荧光分子的样品590的扫描,荧光分子是能够吸收特定波长的光(激励)的光子敏感分子。这些光子敏感分子还发射更高波长的光(发射)。因为这种光致发光现象的效率非常低,所以发射的光量通常非常低。这种少量的发射光通常会阻碍用于扫描和数字化样品590的常规技术(例如,透射模式显微术)。有利地,在扫描仪系统550的可选荧光扫描仪系统实施方案中,使用包括多个线性传感器阵列的线扫描相机615(例如,时间延迟积分(“TDI”)线扫描相机)会增加线扫描相机对光的敏感度,方式如下:将样品590的相同区域暴露给线扫描相机615的多个线性传感器阵列中的每一个。这在用低发射光扫描微弱荧光样品时特别有用。
因此,在荧光扫描仪系统实施方案中,线扫描相机615优选地为单色TDI线扫描相机。有利地,单色图像在荧光显微术中是理想的,因为它们提供了来自样品上存在的各种通道的实际信号的更精确的表示。如本领域技术人员将理解的,荧光样品590可以用发射不同波长(也被称为“通道”)的光的多种荧光染料来标记。
此外,因为各种荧光样品的低端和高端信号水平呈现了供线扫描相机615感测的宽波长谱,所以期望线扫描相机615能够感测的低端和高端信号水平有类似宽度。因此,在荧光扫描仪实施方案中,荧光扫描系统550中使用的线扫描相机615是单色10位64线性阵列TDI线扫描相机。应当注意,可以采用线扫描相机615的各种位深度来与扫描系统550的荧光扫描仪实施方案一起使用。
可移动载物台580被配置为在处理器555或运动控制器570的控制下进行精确的X-Y移动。可移动载物台还可以被配置为在处理器555或运动控制器570的控制下进行Z移动。可移动载物台被配置为在线扫描相机615和/或面扫描相机捕获图像数据期间将样品定位在期望的位置。可移动载物台还被配置为在扫描方向上将样品590加速到基本恒定的速度,然后在线扫描相机615捕获图像数据期间保持基本恒定的速度。在一个实施方案中,扫描仪系统550可以采用高精度且紧密协调的X-Y网格来帮助将样品590定位在可移动载物台580上。在一个实施方案中,可移动载物台580是基于线性马达的X-Y载物台,其中在X轴和Y轴上都采用高精度编码器。例如,非常精确的纳米编码器可以用在沿扫描方向的轴线上和沿垂直于扫描方向的方向并且与扫描方向在同一平面上的轴线上。载物台还被配置成支撑玻璃载片585,样品590被放置在该玻璃载片上。
样品590(例如,对应于样品210)可以是可以通过光学显微术来检查的任何东西。例如,玻璃显微镜载片585(例如,对应于载片200)经常被用作样本的观察基底,所述样本包括组织和细胞、染色体、DNA、蛋白质、血液、骨髓、尿液、细菌、念珠、活体组织检查材料或任何其他类型的死的或活的、染色或未染色的、标记或未标记的生物材料或物质。样品590也可以是任何类型的DNA或与DNA相关的材料的阵列,例如沉积在任何类型的载片或其他基底上的cDNA或RNA或蛋白质,包括通常称为微阵列的任何和所有样品。样品590可以是微量滴定板(例如,96孔板)。样品590的其他示例包括集成电路板、电泳记录、培养皿、薄膜、半导体材料、法医材料或加工件。
物镜600安装在物镜定位器630上,在一个实施方案中,物镜定位器采用非常精确的线性马达来沿着由物镜600限定的光轴移动物镜600。例如,物镜定位器630的线性马达可以包括50纳米的编码器。在处理器555的控制下,使用运动控制器570以闭环方式协调和控制载物台580和物镜600沿X、Y和/或Z轴的相对位置,所述处理器采用存储器565来存储信息和指令,包括用于整个扫描系统550操作的计算机可执行的经编程步骤。
在一个实施方案中,物镜600是具有对应于期望的最高空间分辨率的数值孔径的平面全消色差(“APO”)无限校正物镜,其中物镜600适用于透射模式照明显微术、反射模式照明显微术和/或落射照明模式荧光显微术(例如,Olympus 40X,0.75NA或20X,0.75NA)。有利的是,物镜600能够校正色差和球面像差。因为物镜600被无限校正,所以聚焦光学器件610可以被放置在物镜600上方的光路605中,其中穿过物镜600的光束变成准直光束。聚焦光学器件610将物镜600捕获的光信号聚焦到线扫描相机615和/或面扫描相机620的光响应元件上,并且可以包括光学部件,例如滤光器、放大率变换器透镜和/或类似物。物镜600与聚焦光学器件610结合来为扫描系统550提供总放大率。在一个实施方案中,聚焦光学器件610可以包含管状透镜和可选的2倍放大率变换器。有利的是,2倍放大率变换器允许原生20倍物镜600以40倍放大率扫描样品590。
线扫描相机615包括图片元素(像素)的至少一个线性阵列。线扫描相机可以是单色的或彩色的。彩色线扫描相机通常具有至少三个线性阵列,而单色线扫描相机可以具有单个线性阵列或多个线性阵列。也可以使用任何类型的单个或多个线性阵列,无论是被封装为相机的一部分还是定制集成到成像电子模块中。例如,也可以使用3线性阵列(“红绿蓝”或“RGB”)彩色线扫描相机或96线性阵列单色TDI。TDI线扫描相机通常通过对来自样本的先前成像区域的亮度数据求和而产生与积分级数的平方根成比例的信噪比(“SNR”)增加,来在输出信号中提供显著更好的信噪比。TDI线扫描相机包括多个线性阵列。例如,TDI线扫描相机有24个、32个、48个、64个、96个、甚至更多个线性阵列。扫描仪系统550还支持以各种格式制造的线性阵列,包括一些具有512个像素的线性阵列、一些具有1024个像素的线性阵列、以及其他具有多达4096个像素的线性阵列。类似地,具有各种像素大小的线性阵列也可以用在扫描仪系统550中。选择任何类型的线扫描相机615的主要要求是载物台580的运动可以与线扫描相机615的线速率同步,使得载物台580可以在样品590的数字图像捕获期间相对于线扫描相机615运动。
由线扫描相机615生成的图像数据存储在存储器565的一部分中,并由处理器555处理,以生成样品590的至少一部分的连续数字图像。连续数字图像可以由处理器555进一步处理,并且修改后的连续数字图像也可以存储在存储器565中。
在具有两个或更多线扫描相机615的实施方案中,线扫描相机615中的至少一个可以被配置为用作聚焦传感器,该聚焦传感器与其他线扫描相机615中被配置为用作成像传感器的至少一个线扫描相机结合操作。聚焦传感器可以逻辑上定位在与成像传感器相同的光轴上,或者聚焦传感器可以相对于扫描仪系统550的扫描方向逻辑上定位在成像传感器之前或之后。在其中至少一个线扫描相机615用作聚焦传感器的实施方案中,由聚焦传感器生成的图像数据被存储在存储器565的一部分中,并由一个或多个处理器555处理以生成聚焦信息,从而允许扫描仪系统550调整样品590和物镜600之间的相对距离,以在扫描期间保持聚焦在样品上。另外,在一个实施方案中,用作聚焦传感器的至少一个线扫描相机615可以被定向成使得聚焦传感器的多个单独像素中的每一个沿着光路605位于不同的逻辑高度。
在操作中,扫描仪系统550的各种部件和存储在存储器565中的经编程模块能够自动扫描和数字化放置在玻璃载片585上的样品590。玻璃载片585被牢固地放置在扫描仪系统550的可移动载物台580上,以用于扫描样品590。在处理器555的控制下,可移动载物台580将样品590加速至基本恒定的速度,以供线扫描相机615感测,其中载物台的速度与线扫描相机615的线速率同步。在扫描图像数据条带之后,可移动载物台580减速并使样品590基本上完全停止。然后,可移动载物台580垂直于扫描方向移动,以定位样品590,以用于扫描后续的图像数据条带(例如,相邻条带)。随后扫描额外的条带,直到样品590的整个部分或整个样品590被扫描。
例如,在样品590的数字扫描期间,样品590的连续数字图像作为多个连续视场而被获取,这些视场被组合在一起以形成图像条带。多个相邻的图像条带类似地组合在一起,以形成一部分或整个样品590的连续数字图像。对样品590的扫描可以包括获取竖直图像条带或水平图像条带。对样品590的扫描可以是从上到下、从下到上或者两者兼有(双向的),并且可以从样品上的任何点开始。可选地,对样品590的扫描可以是从左到右、从右到左或者两者兼有(双向的),并且可以从样品上的任何点开始。此外,没有必要以相邻或连续方式获取图像条带。此外,样品590的所得图像可以是整个样品590的图像,或者只是样品590的一部分的图像。
在一个实施方案中,计算机可执行指令(例如,经编程模块和软件)存储在存储器565中,并且当被执行时,使得扫描系统550能够执行本文描述的各种功能。在本说明书中,术语“计算机可读存储介质”用来指用于存储计算机可执行指令和向扫描系统550提供计算机可执行指令以供处理器555执行的任何介质。这些介质的示例包括存储器565和直接或间接(例如经由网络(未示出))与扫描系统550通信耦合的任何可移动或外部存储介质(未示出)。
图5B示出了具有单个线性阵列640的线扫描相机,其可以被实现为电荷耦合装置(“CCD”)阵列。单个线性阵列640包括多个单独的像素645。在所示实施方案中,单个线性阵列640具有4096个像素。在替代实施方案中,线性阵列640可以具有更多或更少的像素。例如,线性阵列的常见格式包括512个、1024个和4096个像素。像素645以线性方式排列,以限定线性阵列640的视场625。视场625的大小根据扫描仪系统550的放大率而变化。
图5C示出了具有三个线性阵列的线扫描相机,每个线性阵列可以被实现为CCD阵列。三个线性阵列组合以形成彩色阵列650。在一个实施方案中,彩色阵列650中的每个单独的线性阵列检测不同的颜色亮度,例如红色、绿色或蓝色。来自彩色阵列650中的每个单独线性阵列的彩色图像数据被组合以形成彩色图像数据的单个视场625。
图5D示出了具有多个线性阵列的线扫描相机,每个线性阵列可以被实现为CCD阵列。多个线性阵列组合以形成TDI阵列655。有利的是,TDI线扫描相机可以通过对来自样本的先前成像区域的亮度数据求和而产生与线性阵列(也称为积分级)的数量的平方根成比例的信噪比增加,来在其输出信号中提供显著更好的信噪比。TDI线扫描相机可以包括更多种线性阵列数量。例如,TDI线扫描相机的常见格式包括24个、32个、48个、64个、96个、120个、甚至更多个线性阵列。
提供对所公开的实施方案的上述描述是为了使本领域的任何技术人员能够做出或使用本发明。对这些实施方案的各种修改对于本领域技术人员来说将是显而易见的,并且在不脱离本发明的精神或范围的情况下,本文描述的总体原理可以应用于其他实施方案。因此,应该理解,本文给出的描述和附图表示本发明的当前优选实施方案,因此表示本发明广泛涵盖的主题。还应当理解,本发明的范围完全囊括对本领域技术人员来说显而易见的其他实施方案,并且本发明的范围因此不受限制。
Claims (12)
1.一种数字扫描设备,其包括:
物镜;
聚焦传感器和成像传感器,其位于所述物镜的光路中,以感测所述物镜的视场;和
至少一个处理器,其被配置为:
选择样品上的微距焦点,其中所述微距焦点在所述样品的边缘和所述样品上的线两者的预定距离内,
使用所述聚焦传感器扫描包括所述微距焦点的单个视场,以获取图像数据,所述图像数据包括在对应于所述物镜距所述样品的多个距离位置的多个图像平面处的所述微距焦点,
确定所述多个图像平面中的每一个的对比度值,
识别指示所述物镜与所述样品的距离的物镜距离值Z1,所述物镜距离值Z1对应于具有所确定的对比度值中的最高对比度值的多个图像平面之一,
沿着所述样品上的所述线扫描多个区域,以获取图像数据的多个缓冲区,其中每个缓冲区包括多个扫描线并且每个扫描线包括多个像素,使得每个缓冲区包括与所述多个扫描线的数量相等数量的像素行和与每个扫描线内的所述多个像素的数量相等数量的像素列,
确定所述多个缓冲区中的每一个的对比度比率值,其中所述确定包括计算相应缓冲区的每个像素的比率,
识别对应于针对所述多个缓冲区所确定的对比度比率值的多个额外物镜距离值Z2-Zn,其中对于所述多个缓冲区中的相应一个缓冲区,物镜距离值Z2-Zn中的每一个指示所述物镜与所述样品的距离,在所述距离处所述成像传感器的所述图像平面具有峰值对比度,其中n为大于2的正整数,
将物镜距离值Z1-Zn与相应的位置信息一起存储,其中物镜距离值Z1的位置信息指示所述微距焦点的位置,并且其中物镜距离值Z2-Zn中的每一个的位置信息指示所述多个缓冲区中的相应一个的位置,
确定所述样品的要扫描的区域的位置,
基于针对物镜距离值Z1-Zn所确定的位置和所存储的位置信息来识别物镜距离值Z1-Zn中与所述样品的所述区域最接近的物镜距离值,
至少部分地基于物镜距离值中的所述最接近的物镜距离值来确定所述样品的所述区域的预测物镜距离值,以及
在开始扫描所述样品的所述区域时,基于所述预测物镜距离值来调整所述物镜与所述样品之间的距离。
2.如权利要求1所述的数字扫描设备,其中确定所述多个缓冲区中的每一个的对比度比率值包括确定所述缓冲区中的每列像素的平均对比度比率值,以及基于所述缓冲区中的每列像素的所述平均对比度比率值来确定所述缓冲区的对比度比率值。
3.如任一前述权利要求所述的数字扫描设备,其中所述至少一个处理器还被配置成在扫描所述样品的所述区域之后:
确定所述样品的所述区域的物镜距离值Znew;
确定所述样品的所述区域的物镜距离值Znew与所述样品的所述区域的所述预测物镜距离值之间的差值;并且
当所述差值超过预定阈值时,启动对所述样品的所述区域的重新扫描。
4.如权利要求3所述的数字扫描设备,其中所述至少一个处理器还被配置为在扫描所述样品的多个被扫描区域之后,如果对于预定百分比的所述多个被扫描区域,所述物镜距离值与所述预测物镜距离值之间的差值超过所述预定阈值,则启动对整个样品的重新扫描。
5.如权利要求4所述的数字扫描设备,其中所述预定阈值在0.5微米至0.9微米的范围内。
6.如权利要求5所述的数字扫描设备,其中所述至少一个处理器还被配置为使用所有所述物镜距离值Z1-Zn来计算全局样品表面,并且其中所述样品的所述区域的所述预测物镜距离值至少部分地基于所述最接近的物镜距离值和所述全局样品表面。
7.如权利要求6所述的数字扫描设备,其中所述至少一个处理器还被配置为在扫描所述样品的所述区域之后,使用所述样品的所述被扫描区域的所述物镜距离值Znew来重新计算所述全局样品表面。
8.如权利要求7所述的数字扫描设备,其中随着新的物镜距离值被计算和存储,所述全局表面被持续更新,以反映所述样品的所有所存储的物镜距离值。
9.如权利要求8所述的数字扫描设备,其中所述至少一个处理器还被配置为使用对应于与所述样品的要扫描的所述区域相邻的区域的缓冲区的物镜距离值的子集来计算局部样品表面,并且其中所述样品的所述区域的所述预测物镜距离值至少部分地基于所述最接近的物镜距离值和所述局部样品表面。
10.如权利要求9所述的数字扫描设备,其中所述局部样品表面是L形的。
11.如权利要求10所述的数字扫描设备,其中沿着所述样品上的所述线扫描的所述多个区域共同形成所述样品的在所述样品上延伸的连续部分。
12.一种用于对数字扫描设备进行聚焦的方法,所述数字扫描设备包括物镜、位于所述物镜的光路中以感测所述物镜的视场的聚焦传感器和成像传感器、和至少一个处理器,所述方法包括通过所述数字扫描设备的所述至少一个处理器:
选择样品上的微距焦点,其中所述微距焦点在所述样品的边缘和所述样品上的线两者的预定距离内;
使用所述聚焦传感器扫描包括所述微距焦点的单个视场,以获取图像数据,所述图像数据包括在对应于所述物镜距所述样品的多个距离位置的多个图像平面处的所述微距焦点;
确定所述多个图像平面中的每一个的对比度值;
识别指示所述物镜与所述样品的距离的物镜距离值Z1,所述物镜距离值Z1对应于具有所确定的对比度值中的最高对比度值的多个图像平面之一;
沿着所述样品上的所述线扫描多个区域,以获取图像数据的多个缓冲区,其中每个缓冲区包括多个扫描线并且每个扫描线包括多个像素,使得每个缓冲区包括与所述多个扫描线的数量相等数量的像素行和与每个扫描线内的所述多个像素的数量相等数量的像素列;
确定所述多个缓冲区中的每一个的对比度比率值,其中所述确定包括计算相应缓冲区的每个像素的比率;
识别对应于针对所述多个缓冲区所确定的对比度比率值的多个额外物镜距离值Z2-Zn,其中对于所述多个缓冲区中的相应一个缓冲区,物镜距离值Z2-Zn中的每一个指示所述物镜与所述样品的距离,在所述距离处所述成像传感器的所述图像平面具有峰值对比度,其中n为大于2的正整数;
将物镜距离值Z1-Zn与相应的位置信息一起存储,其中物镜距离值Z1的位置信息指示所述微距焦点的位置,并且其中物镜距离值Z2-Zn中的每一个的位置信息指示所述多个缓冲区中的相应一个的位置;
确定所述样品的要扫描的区域的位置;
基于针对所述物镜距离值Z1-Zn所确定的位置和所存储的位置信息来识别所述物镜距离值Z1-Zn中与所述样品的所述区域最接近的物镜距离值;
至少部分地基于物镜距离值Z1-Zn中的所述最接近的物镜距离值来确定所述样品的所述区域的预测物镜距离值;以及
在开始扫描所述样品的所述区域时,基于所述预测物镜距离值来调整所述物镜与所述样品之间的距离。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210276132.1A CN114779459A (zh) | 2017-09-29 | 2018-09-28 | 实时自动聚焦扫描 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762566155P | 2017-09-29 | 2017-09-29 | |
US62/566,155 | 2017-09-29 | ||
PCT/US2018/053637 WO2019068043A1 (en) | 2017-09-29 | 2018-09-28 | AUTOMATIC FOCUS SCAN IN REAL TIME |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210276132.1A Division CN114779459A (zh) | 2017-09-29 | 2018-09-28 | 实时自动聚焦扫描 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111183385A CN111183385A (zh) | 2020-05-19 |
CN111183385B true CN111183385B (zh) | 2022-04-08 |
Family
ID=65896064
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210276132.1A Pending CN114779459A (zh) | 2017-09-29 | 2018-09-28 | 实时自动聚焦扫描 |
CN201880062657.7A Active CN111183385B (zh) | 2017-09-29 | 2018-09-28 | 实时自动聚焦扫描 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210276132.1A Pending CN114779459A (zh) | 2017-09-29 | 2018-09-28 | 实时自动聚焦扫描 |
Country Status (9)
Country | Link |
---|---|
US (4) | US10481377B2 (zh) |
EP (2) | EP4254037A3 (zh) |
JP (1) | JP6899963B2 (zh) |
KR (2) | KR102523559B1 (zh) |
CN (2) | CN114779459A (zh) |
AU (2) | AU2018339011B2 (zh) |
CA (1) | CA3075288C (zh) |
ES (1) | ES2959361T3 (zh) |
WO (1) | WO2019068043A1 (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102523559B1 (ko) | 2017-09-29 | 2023-04-19 | 라이카 바이오시스템즈 이미징 인크. | 디지털 스캐닝 장치 |
ES2928577T3 (es) * | 2017-09-29 | 2022-11-21 | Leica Biosystems Imaging Inc | Barrido en Z fijo bidimensional y tridimensional |
CN110456969B (zh) * | 2019-07-10 | 2022-09-27 | 努比亚技术有限公司 | 一种长截图实现方法、终端及计算机可读存储介质 |
US11704003B2 (en) | 2019-08-06 | 2023-07-18 | Leica Biosystems Imaging, Inc. | Graphical user interface for slide-scanner control |
ES2977199T3 (es) | 2019-08-06 | 2024-08-20 | Leica Biosystems Imaging Inc | Enfoque en tiempo real en un sistema de escaneo de portaobjetos |
IL293254A (en) * | 2019-11-25 | 2022-07-01 | Hologic Inc | Method and system for digital imaging |
GB2595873B (en) * | 2020-06-09 | 2023-01-25 | Ffei Ltd | A method for analysing scanning efficacy |
CN115943286B (zh) * | 2020-07-30 | 2024-02-20 | 科磊股份有限公司 | 用于扫描计量工具的自适应对焦系统 |
CN114114663B (zh) * | 2021-02-25 | 2023-11-21 | 广东粤港澳大湾区黄埔材料研究院 | 一种显微镜的锁焦探测系统和方法 |
CN113358056B (zh) * | 2021-05-31 | 2023-06-27 | 深圳中科飞测科技股份有限公司 | 工件表面形貌的扫描方法、扫描系统及存储介质 |
CN115415547B (zh) * | 2022-11-07 | 2023-03-24 | 北京清研智束科技有限公司 | 电子束扫描方法、装置、设备及介质 |
CN117665032B (zh) * | 2024-02-01 | 2024-05-14 | 国仪量子技术(合肥)股份有限公司 | 扫描方法、装置、系统、存储介质和电子设备 |
Citations (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5604344A (en) * | 1994-10-10 | 1997-02-18 | Nova Measuring Instruments Ltd. | Autofocussing microscope having a pattern imaging system |
CN1176396A (zh) * | 1996-05-20 | 1998-03-18 | 株式会社三丰 | 自动聚焦装置 |
JPH11231228A (ja) * | 1998-02-12 | 1999-08-27 | Nikon Corp | 顕微鏡システム |
CN1595167A (zh) * | 2003-09-12 | 2005-03-16 | 徕卡显微系统努斯洛克有限公司 | 用于明确组织贮存盒和样品载片配置的系统和方法 |
CN101098407A (zh) * | 2006-06-30 | 2008-01-02 | 索尼株式会社 | 自聚焦装置、图像捕获装置和自聚焦方法 |
WO2008007725A1 (fr) * | 2006-07-12 | 2008-01-17 | Toyo Boseki Kabushiki Kaisha | Analyseur et son utilisation |
CN100442099C (zh) * | 1999-09-24 | 2008-12-10 | 奥林巴斯光学工业株式会社 | 显微镜图象传送系统和显微镜图象传送方法 |
CN101339347A (zh) * | 2007-07-06 | 2009-01-07 | 鸿富锦精密工业(深圳)有限公司 | 自动对焦系统及自动对焦方法 |
JP2011090221A (ja) * | 2009-10-23 | 2011-05-06 | Sony Corp | 顕微鏡、合焦位置検出方法及び合焦位置検出プログラム |
CN102460263A (zh) * | 2009-04-13 | 2012-05-16 | 通用电气公司 | 用于增强的预测自动聚焦的系统和方法 |
CN102597842A (zh) * | 2009-10-23 | 2012-07-18 | 索尼公司 | 聚焦装置、聚焦方法、聚焦程序和显微镜 |
CN102782559A (zh) * | 2009-12-31 | 2012-11-14 | 雅培照护点公司 | 用于快速聚焦形成生物样本的图像的方法及装置 |
CN103323939A (zh) * | 2012-03-20 | 2013-09-25 | 麦克奥迪实业集团有限公司 | 数字切片实时扫描自动聚焦系统及方法 |
WO2013165576A1 (en) * | 2012-05-02 | 2013-11-07 | Aperio Technologies, Inc. | Real-time focusing in line scan imaging |
CN103460684A (zh) * | 2011-03-30 | 2013-12-18 | 佳能株式会社 | 图像处理设备、成像系统和图像处理系统 |
CN103635848A (zh) * | 2010-10-26 | 2014-03-12 | 考利达基因组股份有限公司 | 用于通过子像素对准使高密度生化阵列成像的方法和系统 |
CN103765277A (zh) * | 2011-09-09 | 2014-04-30 | 文塔纳医疗系统公司 | 使用误差信号的聚焦和成像系统以及技术 |
CN104049351A (zh) * | 2013-03-13 | 2014-09-17 | 索尼公司 | 数字显微镜设备、用于数字显微镜设备的成像方法及程序 |
CN105093479A (zh) * | 2014-04-30 | 2015-11-25 | 西门子医疗保健诊断公司 | 用于显微镜的自动对焦方法和装置 |
CN105143953A (zh) * | 2013-04-26 | 2015-12-09 | 浜松光子学株式会社 | 图像取得装置、制作试样的焦点图的方法以及系统 |
WO2017002458A1 (ja) * | 2015-06-30 | 2017-01-05 | 富士フイルム株式会社 | 位相差顕微鏡および撮像方法 |
WO2017053891A1 (en) * | 2015-09-24 | 2017-03-30 | Leica Biosystems Imaging, Inc. | Real-time focusing in line scan imaging |
WO2017097950A1 (en) * | 2015-12-09 | 2017-06-15 | Ventana Medical Systems, Inc. | An image scanning apparatus and methods of operating an image scanning apparatus |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6711283B1 (en) | 2000-05-03 | 2004-03-23 | Aperio Technologies, Inc. | Fully automatic rapid microscope slide scanner |
US7518652B2 (en) * | 2000-05-03 | 2009-04-14 | Aperio Technologies, Inc. | Method and apparatus for pre-focus in a linear array based slide scanner |
US7120286B2 (en) | 2001-11-21 | 2006-10-10 | Mitutoyo Corporation | Method and apparatus for three dimensional edge tracing with Z height adjustment |
JP2006501469A (ja) | 2002-09-30 | 2006-01-12 | アプライド マテリアルズ イスラエル リミテッド | 斜めのビュー角度をもつ検査システム |
US7570795B2 (en) | 2006-07-18 | 2009-08-04 | Mitutoyo Corporation | Multi-region autofocus tool and mode |
US8089947B2 (en) | 2007-08-31 | 2012-01-03 | Intel Corporation | Spatial reuse in directional antenna systems |
WO2010048584A2 (en) * | 2008-10-24 | 2010-04-29 | Aperio Technologies, Inc. | Whole slide fluorescence scanner |
CN101762232B (zh) | 2008-12-23 | 2012-01-25 | 鸿富锦精密工业(深圳)有限公司 | 多重表面对焦系统及方法 |
US9767342B2 (en) | 2009-05-22 | 2017-09-19 | Affymetrix, Inc. | Methods and devices for reading microarrays |
DE102009044983A1 (de) * | 2009-09-24 | 2011-03-31 | Carl Zeiss Microimaging Gmbh | Mikroskop |
DE102009044987A1 (de) * | 2009-09-24 | 2011-03-31 | Carl Zeiss Microimaging Gmbh | Mikroskop |
US8111905B2 (en) | 2009-10-29 | 2012-02-07 | Mitutoyo Corporation | Autofocus video tool and method for precise dimensional inspection |
US8396269B2 (en) * | 2010-04-08 | 2013-03-12 | Digital Pathco LLC | Image quality assessment including comparison of overlapped margins |
JP5576739B2 (ja) | 2010-08-04 | 2014-08-20 | オリンパス株式会社 | 画像処理装置、画像処理方法、撮像装置及びプログラム |
US9041791B2 (en) | 2011-02-01 | 2015-05-26 | Roche Diagnostics Hematology, Inc. | Fast auto-focus in imaging |
CN103852878B (zh) * | 2014-01-08 | 2016-05-25 | 麦克奥迪实业集团有限公司 | 一种具有实时聚焦的显微切片快速数字扫描装置及其方法 |
US10274715B2 (en) | 2014-08-06 | 2019-04-30 | Cellomics, Inc. | Image-based laser autofocus system |
WO2016120441A2 (en) * | 2015-01-30 | 2016-08-04 | Ventana Medical Systems, Inc. | Quality metrics for automatic evaluation of dual ish images |
WO2017049226A1 (en) * | 2015-09-16 | 2017-03-23 | Leica Biosystems Imaging, Inc. | Automated stain finding in pathology bright-field images |
KR102523559B1 (ko) | 2017-09-29 | 2023-04-19 | 라이카 바이오시스템즈 이미징 인크. | 디지털 스캐닝 장치 |
-
2018
- 2018-09-28 KR KR1020227020389A patent/KR102523559B1/ko active IP Right Grant
- 2018-09-28 AU AU2018339011A patent/AU2018339011B2/en active Active
- 2018-09-28 EP EP23192058.8A patent/EP4254037A3/en active Pending
- 2018-09-28 EP EP18860797.2A patent/EP3625600B1/en active Active
- 2018-09-28 CN CN202210276132.1A patent/CN114779459A/zh active Pending
- 2018-09-28 KR KR1020207008599A patent/KR102411099B1/ko active IP Right Grant
- 2018-09-28 CA CA3075288A patent/CA3075288C/en active Active
- 2018-09-28 CN CN201880062657.7A patent/CN111183385B/zh active Active
- 2018-09-28 JP JP2020517496A patent/JP6899963B2/ja active Active
- 2018-09-28 ES ES18860797T patent/ES2959361T3/es active Active
- 2018-09-28 WO PCT/US2018/053637 patent/WO2019068043A1/en unknown
- 2018-09-28 US US16/147,465 patent/US10481377B2/en active Active
-
2019
- 2019-11-05 US US16/674,742 patent/US10852523B2/en active Active
-
2020
- 2020-11-25 US US17/105,251 patent/US11422351B2/en active Active
-
2022
- 2022-07-21 US US17/814,180 patent/US12078790B2/en active Active
-
2024
- 2024-01-29 AU AU2024200522A patent/AU2024200522A1/en active Pending
Patent Citations (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5604344A (en) * | 1994-10-10 | 1997-02-18 | Nova Measuring Instruments Ltd. | Autofocussing microscope having a pattern imaging system |
CN1176396A (zh) * | 1996-05-20 | 1998-03-18 | 株式会社三丰 | 自动聚焦装置 |
JPH11231228A (ja) * | 1998-02-12 | 1999-08-27 | Nikon Corp | 顕微鏡システム |
CN100442099C (zh) * | 1999-09-24 | 2008-12-10 | 奥林巴斯光学工业株式会社 | 显微镜图象传送系统和显微镜图象传送方法 |
CN1595167A (zh) * | 2003-09-12 | 2005-03-16 | 徕卡显微系统努斯洛克有限公司 | 用于明确组织贮存盒和样品载片配置的系统和方法 |
CN101098407A (zh) * | 2006-06-30 | 2008-01-02 | 索尼株式会社 | 自聚焦装置、图像捕获装置和自聚焦方法 |
WO2008007725A1 (fr) * | 2006-07-12 | 2008-01-17 | Toyo Boseki Kabushiki Kaisha | Analyseur et son utilisation |
CN101339347A (zh) * | 2007-07-06 | 2009-01-07 | 鸿富锦精密工业(深圳)有限公司 | 自动对焦系统及自动对焦方法 |
CN102460263A (zh) * | 2009-04-13 | 2012-05-16 | 通用电气公司 | 用于增强的预测自动聚焦的系统和方法 |
CN102597842A (zh) * | 2009-10-23 | 2012-07-18 | 索尼公司 | 聚焦装置、聚焦方法、聚焦程序和显微镜 |
JP2011090221A (ja) * | 2009-10-23 | 2011-05-06 | Sony Corp | 顕微鏡、合焦位置検出方法及び合焦位置検出プログラム |
CN102782559A (zh) * | 2009-12-31 | 2012-11-14 | 雅培照护点公司 | 用于快速聚焦形成生物样本的图像的方法及装置 |
CN103635848A (zh) * | 2010-10-26 | 2014-03-12 | 考利达基因组股份有限公司 | 用于通过子像素对准使高密度生化阵列成像的方法和系统 |
CN103460684A (zh) * | 2011-03-30 | 2013-12-18 | 佳能株式会社 | 图像处理设备、成像系统和图像处理系统 |
CN103765277A (zh) * | 2011-09-09 | 2014-04-30 | 文塔纳医疗系统公司 | 使用误差信号的聚焦和成像系统以及技术 |
CN103323939A (zh) * | 2012-03-20 | 2013-09-25 | 麦克奥迪实业集团有限公司 | 数字切片实时扫描自动聚焦系统及方法 |
WO2013165576A1 (en) * | 2012-05-02 | 2013-11-07 | Aperio Technologies, Inc. | Real-time focusing in line scan imaging |
CN104049351A (zh) * | 2013-03-13 | 2014-09-17 | 索尼公司 | 数字显微镜设备、用于数字显微镜设备的成像方法及程序 |
CN105143953A (zh) * | 2013-04-26 | 2015-12-09 | 浜松光子学株式会社 | 图像取得装置、制作试样的焦点图的方法以及系统 |
CN105093479A (zh) * | 2014-04-30 | 2015-11-25 | 西门子医疗保健诊断公司 | 用于显微镜的自动对焦方法和装置 |
WO2017002458A1 (ja) * | 2015-06-30 | 2017-01-05 | 富士フイルム株式会社 | 位相差顕微鏡および撮像方法 |
WO2017053891A1 (en) * | 2015-09-24 | 2017-03-30 | Leica Biosystems Imaging, Inc. | Real-time focusing in line scan imaging |
WO2017097950A1 (en) * | 2015-12-09 | 2017-06-15 | Ventana Medical Systems, Inc. | An image scanning apparatus and methods of operating an image scanning apparatus |
Non-Patent Citations (3)
Title |
---|
"Autofocus methods of whole slide imaging systems and the introduction of a second-generation independent dual sensor scanning method";Montalto M C等;《Journal of Pathology Informatics》;20111019;第2卷(第1期);全文 * |
"Implementation of Whole Slide Imaging for Clinical Purposes: Issues to Consider From the Perspective of Early Adopters";Evans A J 等;《Archives of Pathology & Laboratory Medicine》;20170701;全文 * |
"利用对比度最大化实现SAR图像自聚焦";武昕伟, 朱兆达;《现代雷达》;20021231;全文 * |
Also Published As
Publication number | Publication date |
---|---|
EP4254037A2 (en) | 2023-10-04 |
EP3625600B1 (en) | 2023-08-23 |
ES2959361T3 (es) | 2024-02-23 |
US10481377B2 (en) | 2019-11-19 |
CA3075288C (en) | 2022-08-30 |
JP6899963B2 (ja) | 2021-07-07 |
AU2018339011B2 (en) | 2023-11-02 |
AU2018339011A1 (en) | 2020-01-23 |
US11422351B2 (en) | 2022-08-23 |
EP3625600A4 (en) | 2021-01-27 |
KR102523559B1 (ko) | 2023-04-19 |
JP2020535477A (ja) | 2020-12-03 |
EP4254037A3 (en) | 2023-12-27 |
CN114779459A (zh) | 2022-07-22 |
KR102411099B1 (ko) | 2022-06-22 |
US20190101739A1 (en) | 2019-04-04 |
KR20220092999A (ko) | 2022-07-04 |
WO2019068043A1 (en) | 2019-04-04 |
CN111183385A (zh) | 2020-05-19 |
AU2024200522A1 (en) | 2024-02-15 |
KR20200041982A (ko) | 2020-04-22 |
US20200064612A1 (en) | 2020-02-27 |
US12078790B2 (en) | 2024-09-03 |
US20210103134A1 (en) | 2021-04-08 |
US10852523B2 (en) | 2020-12-01 |
EP3625600A1 (en) | 2020-03-25 |
US20220357565A1 (en) | 2022-11-10 |
CA3075288A1 (en) | 2019-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111183385B (zh) | 实时自动聚焦扫描 | |
CN111149037B (zh) | 实时自动对焦聚焦算法 | |
JP6940696B2 (ja) | 二次元および三次元の固定式z走査 | |
EP3625611B1 (en) | Dual processor image processing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |