CN117881994A - 用于利用并行成像系统提供实时样本监测信息的系统和方法 - Google Patents
用于利用并行成像系统提供实时样本监测信息的系统和方法 Download PDFInfo
- Publication number
- CN117881994A CN117881994A CN202280059038.9A CN202280059038A CN117881994A CN 117881994 A CN117881994 A CN 117881994A CN 202280059038 A CN202280059038 A CN 202280059038A CN 117881994 A CN117881994 A CN 117881994A
- Authority
- CN
- China
- Prior art keywords
- sample
- micro
- images
- optical elements
- array
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 158
- 238000003384 imaging method Methods 0.000 title claims description 124
- 238000012544 monitoring process Methods 0.000 title claims description 20
- 230000033001 locomotion Effects 0.000 claims description 76
- 230000003287 optical effect Effects 0.000 claims description 56
- 238000012545 processing Methods 0.000 claims description 28
- 230000004044 response Effects 0.000 claims description 8
- 238000010226 confocal imaging Methods 0.000 claims description 6
- 230000000977 initiatory effect Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 4
- 230000003111 delayed effect Effects 0.000 claims description 2
- 238000007490 hematoxylin and eosin (H&E) staining Methods 0.000 claims description 2
- 238000000879 optical micrograph Methods 0.000 claims description 2
- 239000000523 sample Substances 0.000 description 342
- 230000015654 memory Effects 0.000 description 37
- 238000003860 storage Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 19
- 238000005286 illumination Methods 0.000 description 13
- 238000011105 stabilization Methods 0.000 description 12
- 238000004422 calculation algorithm Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 11
- 239000011295 pitch Substances 0.000 description 11
- 230000006641 stabilisation Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 239000000758 substrate Substances 0.000 description 8
- 238000004590 computer program Methods 0.000 description 5
- 238000001356 surgical procedure Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 206010028980 Neoplasm Diseases 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 201000011510 cancer Diseases 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000004020 luminiscence type Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000010186 staining Methods 0.000 description 2
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical compound [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 1
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N Silicium dioxide Chemical compound O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 239000012472 biological sample Substances 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 229910052804 chromium Inorganic materials 0.000 description 1
- 239000011651 chromium Substances 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 239000000109 continuous material Substances 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 239000005350 fused silica glass Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 230000003121 nonmonotonic effect Effects 0.000 description 1
- 238000012335 pathological evaluation Methods 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Landscapes
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
在一些实施方案中,一种方法在不扫描微型光学元件阵列的情况下提供实时取景模式,其中生成并任选地显示连续图像,所述连续图像包括图像像素,所述图像像素代表针对样本中的不同的空间上相异的位置从阵列中的微型光学元件接收到的样本光。图像可具有有用的尺寸和分辨率以获得指示实时样本状态的信息。当样本足够(自)稳定时,可启动通过扫描微型光学元件阵列进行的全图像获取。在一些实施方案中,一种方法在不扫描微型光学元件阵列的情况下提供包括稳定指数的图像。可针对从一个或多个微型光学元件接收到的样本光确定(例如,计算)稳定指数,所述稳定指数表示根据经验得出的对稳定程度的定量评估,所述一个或多个微型光学元件各自由图像中的一个或多个图像像素代表。
Description
优先权申请
本申请要求2021年8月4日提交的美国临时专利申请号63/229,258和2021年8月11日提交的美国临时专利申请号63/232,120的权益,所述专利申请中的每一者的公开内容特此以引用的方式整体并入本文。
技术领域
本公开总体涉及使用并行成像系统来向用户提供实时样本监测信息(例如关于样本定位、运动和/或稳定性)的系统和方法。
背景技术
常规上,在外科手术期间切除的组织在术后进行评估,其中一旦组织被固定就执行病理评估。这种过程提供了高质量评估,但需要大量时间来固定组织并获得病理评估。因此,直到外科手术完成之后很长时间才能知晓有关样本的重要信息。最近,已经开发出能够对新切除的组织样本进行成像的并行成像系统。美国专利号10,094,784和10,539,776中公开了此类成像系统的示例,所述专利中的每一者以引用的方式整体并入本文。即使利用可快速对组织成像的并行成像系统,新切除的组织也可能很难成像,因为它不是固定的,并且因此即使在很短的时间尺度内也容易移动(例如,松动)。处理这种样本运动的一种选择是在成像之前简单地等待一段时间,以允许样本在其位置上达到平衡。然而,相对于并行成像系统可对样本成像的时间量来说,这样做明显减缓了成像过程。
发明内容
使用成像系统来快速为用户提供样本监测信息(诸如样本定位和(自)稳定)可明显减少产生样本的高质量图像所需的时间量。例如,可使用一旦达到足够(自)稳定就能够立即成像的成像系统来实时地监测样本,而不用估计允许样本(自)稳定的适当时间量。足够性可由成像系统自动地确定,或者由随后提供输入以开始成像的用户确定。虽然某些方法可用于提供测试图像,例如通过以较低分辨率扫描或对着部分扫描图案扫描以生成部分图像,但测试图像本身可能(不期望地)需要相当长的时间来获取。(在2021年2月12日提交的美国专利申请号17/174,919中公开了用于获取测试扫描的方法的示例,所述专利申请的公开内容特此以引用的方式整体并入本文。)本公开进一步通过提供在不扫描任何物镜(例如,微型光学元件阵列)或样本的情况下快速获取图像的方法来改进此类“测试图像”方法。固定的微型光学元件阵列使得来自样本的光(例如,荧光)能够被快速收集,然后从微型光学元件阵列接收(例如,在检测器处)以实时地形成图像。此类图像可能具有相对较低的分辨率(与通过扫描实现的全分辨率图像相比),但仍然可为用户提供有价值的样本信息。所述信息可用于对例如样本定位、运动和/或稳定性进行实时评估,这有助于随后产生更高质量的全分辨率图像(例如,通过对着扫描图案扫描微型光学元件阵列)而不会出现不当延迟,其中至少部分由于样本运动伪影减少或消除,全分辨率图像的质量更高。替代地或另外地,所述信息可向用户提供实时反馈以帮助用户(重新)定位样本,从而更快地获得质量更好的一个或多个图像。
一般来说,当作为临床程序的一部分对切除的组织样本的表面进行成像(例如,用于术中切缘评估)时,期望最大化样本的成像区域的尺寸,以最小化未对受到高度临床关注的区域成像的风险(例如,错过阳性切缘)。这可通过对样本的不同面(例如,顺序地)进行成像,而且通过确保对于给定样本面的给定图像,该样本面的较大部分焦点对准并由此通过成像系统成像来实现。还期望避免样本运动引起的伪影的存在,所述伪影可能会干扰(例如,用户或图像处理或识别算法)对图像的解释,并且因此,知晓样本在成像之前是否经历样本运动或是否不稳定是重要的。
本文公开的系统和方法通过利用并行成像系统(例如,使用收集和透射样本光的微型光学元件阵列)在不扫描(例如,阵列或样本)的情况下对样本进行成像来利用快速图像生成和显示,以使得能够对样本当前状态进行快速初步评估。快速初步评估可用于通过避免在样本足够稳定之前启动成像来实现最大化焦点对准的样本区域以及减少全图像中的样本运动伪影的上述愿望。当微型光学元件阵列在成像期间固定时,可减少成像时间,因为消除了在扫描图案中的多个位置处单独收集光所需的时间。未经扫描的成像可能会导致分辨率相对较低的图像,例如其中相邻图像像素对应于针对样本中的不同位置从阵列中的微型光学元件接收到的样本光,所述不同位置隔开对应于微型光学元件的间距的距离。也就是说,在一些实施方案中,可通过重建过程来获得未经过扫描就获得的图像,所述重建过程为每个图像像素分配对应于由阵列中的一个微型光学元件收集的光的值(例如,强度值)。(其他实施方案可使用其他方法,例如利用检测器直接成像(这消除了对重建过程的需求)或间接成像。)然而,即使在低分辨率下,此类图像也可为用户或图像处理或识别算法提供有用的信息。能够实时地生成并在一些实施方案中显示此类图像使得用户或图像处理或识别算法能够快速确定例如样本何时有尽可能最大的区域焦点对准和/或样本在启动高分辨率图像的获取之前何时(自)稳定到足够的程度,以便产生没有或基本上没有干扰运动伪影的图像。
在一些实施方案中,本公开的方法向用户和/或图像处理或识别算法提供实时取景模式。在一些实施方案中,在不扫描(例如,微型光学元件阵列)的情况下,生成连续图像并任选地向用户显示所述连续图像,所述连续图像包括图像像素,所述图像像素代表针对样本中的不同的空间上相异的位置从阵列中的微型光学元件接收到的样本光。由于微型光学元件阵列在一个或多个空间维度上可能相对较大并且包括大量微型光学元件,因此图像可具有有用的尺寸和分辨率以获得指示样本的实时状态的样本信息。以此方式,可获得并监测样本的当前样本信息。用户可基于实时取景模式而在(例如,样本盘的)安装表面上调整样本,以更改其位置或增加其焦点对准的区域。用户还可确定样本已经足够(自)稳定,并且因此启动通过扫描微型光学元件阵列来进行的全图像获取。在一些实施方案中,通过图像处理或识别算法确定(自)稳定,然后自动地启动通过扫描进行的成像。
在一些实施方案中,本公开的方法向用户和/或图像处理或识别算法提供包括稳定指数的图像。可针对从一个或多个微型光学元件接收到的样本光确定(例如,计算)稳定指数,所述稳定指数表示根据经验得出的对稳定程度的定量评估,所述一个或多个微型光学元件由图像中的一个或多个图像像素(例如,每个图像像素或图像像素区域)代表。一个或多个图像像素的稳定指数可反映对于一个或多个图像像素,在某一时间段内样本光强度变化了多少。较高的稳定指数值可指示更多的波动,并且因此意味着实时发生了更多的样本运动。图像可包括多个区域中的每一个的稳定指数的指示,每个区域对应于阵列中的微型光学元件的群组。稳定指数值随着时间的推移而降低可指示样本越来越接近(自)稳定。虽然实时取景模式可能会有所帮助,但用户可能很难仅仅基于样本光强度的表示(即使是实时的)就判断样本主动稳定(例如,松弛或以其他方式移动)的程度。实时取景模式可被呈现为具有稳定指数覆盖以例如向用户提供附加信息,这有助于更快速且更容易地了解样本是否(自)稳定。
在一些实施方案中,一种方法涉及向用户提供实时样本监测信息。所述方法可包括由计算装置的处理器在不扫描微型光学元件阵列或样本的情况下至少部分地基于从所述阵列中的微型光学元件(例如,折射透镜、菲涅耳波带片、反射物镜和梯度折射率(GRIN)透镜)接收到的样本光(例如,荧光)而实时地生成(例如,并显示)所述样本的一个或多个图像(例如,视频帧)。在一些实施方案中,成像系统包括所述微型光学元件阵列,并且在生成(例如,并显示)所述一个或多个图像时,不移动(例如,扫描)所述成像系统的任何部分。
在一些实施方案中,对于所述一个或多个图像中的每一个,所述图像中的相邻像素代表针对所述样本中的不同位置从所述微型光学元件中的微型光学元件接收到的所述样本光(例如,荧光)的部分,所述不同位置隔开所述阵列的特性距离(例如,对应于所述微型元件阵列的间距)(例如,所述微型光学元件中的相邻微型光学元件的光点尺寸中心的间隔)。在一些实施方案中,所述一个或多个图像中的每一个的图像像素对应于从所述阵列中的微型光学元件接收到的样本光(例如,荧光)。
在一些实施方案中,所述阵列在所述生成(例如,以及所述显示)期间保持在固定位置。在一些实施方案中,所述样本在所述生成期间不受干扰(例如,不受操纵)。
在一些实施方案中,所述图像像素单独对应于从所述阵列中的相应微型光学元件接收到的样本光(例如,荧光)。在一些实施方案中,所述图像像素中的每一个对应于从所述阵列中的所述微型光学元件中的一个接收到的样本光(例如,并且其中所述阵列中的所述微型光学元件中的每一个对应于所述图像像素中的唯一一个)(例如,其中所述图像像素中的每一个对应于从所述阵列中的所述微型光学元件中的相应一个接收到的样本光)。
在一些实施方案中,所述方法包括(例如,由所述处理器自动地)确定在所述一个或多个图像中的一个或多个中是否呈现气泡。在一些实施方案中,确定是否呈现气泡包括由所述处理器自动地确定(例如,在例如至少1s、至少2s或至少5s的时间段内)在所述一个或多个图像中的所述一个或多个中是否存在具有零像素值的大于阈值区域的图像像素区域(例如,对应于所述阵列中不超过50、不超过25、不超过10或不超过5个微型光学元件的群组的尺寸)。在一些实施方案中,确定是否呈现气泡包括由所述处理器自动地确定(例如,在例如至少1s、至少2s或至少5s的时间段内)在所述一个或多个图像中的所述一个或多个中是否存在具有零像素值的图像像素区域的由具有非零像素值的图像像素限定的周界。在一些实施方案中,所述方法包括响应于确定在所述一个或多个图像中的所述一个或多个中没有呈现气泡而(例如,通过对所述样本进行加权和/或重新定位)调整所述样本。
在一些实施方案中,所述方法包括(例如,由所述处理器自动地)确定所述样本在所述一个或多个图像中的一个或多个中是否具有焦点对准的足够大的区域。在一些实施方案中,确定所述样本是否具有所述焦点对准的足够大的区域包括由所述处理器自动地确定具有非零像素值的图像像素区域是否高于预定阈值(例如,由所述用户例如基于样本尺寸而设定)。在一些实施方案中,确定所述样本是否具有所述焦点对准的足够大的区域包括由所述处理器自动地确定具有非零像素值的所述图像像素中的多个图像像素的凸包在某一时间段(例如,至少1s、至少2s或至少5s)内是否变化不超过10%(例如,不超过5%或不超过1%)。在一些实施方案中,所述方法包括响应于确定所述样本在所述一个或多个图像中的所述一个或多个中是否具有所述焦点对准的足够大的区域而(例如,通过对所述样本进行加权和/或重新定位)调整所述样本。
在一些实施方案中,所述方法包括响应于所述一个或多个图像而在所述生成(例如,以及所述显示)期间调整所述样本。
在一些实施方案中,所述样本在所述生成(例如,以及所述显示)期间能够由用户触及[例如,所述样本设置在成像期间允许(例如,横向)样本触及的样本盘上]。
在一些实施方案中,所述方法包括基于所述一个或多个图像[例如,基于确定所述一个或多个图像中的一个或多个足以指示所述样本已经稳定(例如,自稳定)]而启动所述样本的成像,其中对所述样本进行成像包括扫描所述微型光学元件阵列。在一些实施方案中,所述方法包括响应于确定所述一个或多个图像中的一个或多个足以指示所述样本已经稳定(例如,自稳定)而由所述处理器自动地启动所述成像。在一些实施方案中,确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定是由所述处理器自动地进行。在一些实施方案中,确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定包括由所述处理器确定在所述一个或多个图像中的所述一个或多个中没有呈现气泡。在一些实施方案中,确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定包括由所述处理器确定所述样本在所述一个或多个图像中的所述一个或多个中具有焦点对准的足够大的区域。
在一些实施方案中,所述一个或多个图像是灰度图像。在一些实施方案中,所述一个或多个图像是假彩色图像(例如,其中所述图像中的像素以紫色/粉色色度显示,例如模仿苏木精和伊红染色的光学显微镜图像)。在一些实施方案中,所述图像像素的色调、饱和度、亮度或其组合(例如,灰度值)对应于接收到的所述样本光的相对强度。
在一些实施方案中,所述方法包括由所述处理器基于比较在观察时段内从所述微型光学元件接收到的所述样本光而针对所述阵列中的(例如,所有)所述微型光学元件的至少一部分中的每一个确定所述样本光的稳定指数,其中所述一个或多个图像包括所述稳定指数的图形指示(例如,图标、阴影、图形或颜色)。在一些实施方案中,所述稳定指数在所述观察时段内是动态的。在一些实施方案中,所述稳定指数在所述观察时间段内基于从所述微型光学元件接收到的所述样本光的变化而变化。
在一些实施方案中,所述方法包括由所述处理器通过比较在计算时段(例如,所述计算时段为所述观察时段的子集)内从所述微型光学元件接收到的所述样本光的强度的变化而确定所述稳定指数。在一些实施方案中,比较所述样本光的强度的所述变化包括由所述处理器确定在所述计算时段(例如,例如由用户设定的预定数量的检测器帧)内从所述微型光学元件中的每一个接收到的所述样本光的最小强度和最大强度。在一些实施方案中,所述最小强度和所述最大强度各自根据所述计算时段内所述微型光学元件的加权平均值(例如,指数加权平均值)(例如,加权时间平均值)(例如,其中一个或多个加权参数由用户设定)(例如,其中所述加权平均值是使用在超过一个连续时段内从所述微型光学元件接收到的样本光的强度来计算)来确定。在一些实施方案中,所述稳定指数是所述最大强度与所述最小强度之间的差值。
在一些实施方案中,所述一个或多个图像中的每一个包括区域,每个区域包括对应于所述区域的每一个微型光学元件的所述稳定指数的图形指示(例如,图标、阴影、图形或颜色)。在一些实施方案中,所述区域各自对应于至少9个微型光学元件(例如,至少16个微型光学元件、至少25个微型光学元件、至少49个微型光学元件或至少64个微型光学元件)的相应群组。在一些实施方案中,所述方法包括:由所述处理器针对所述区域中的每一个确定对应于所述区域的所述微型光学元件的所述稳定指数的平均值;以及由所述处理器基于所述平均值而生成所述区域的所述图形指示。在一些实施方案中,生成所述图形指示包括由所述处理器确定所述平均值是否超过一个或多个阈值(例如,多个阈值)(例如,由所述处理器接收作为来自所述用户的输入),使得所述图形指示指示所述一个或多个阈值是否被所述平均值超过(例如,基于透明度、亮度、饱和度、色调或其组合)。
在一些实施方案中,所述一个或多个图像中的一个或多个包括部分地基于所述观察时段期间从所述阵列中的微型光学元件接收到的第一样本光(例如,荧光)的与所述稳定指数的所述图形指示组合的图像像素。在一些实施方案中,所述一个或多个图像中的所述一个或多个中的所述稳定指数的所述图形指示是基于所述第一样本光以及在所述第一样本光之前接收的第二样本光。
在一些实施方案中,所述一个或多个图像中的每一个的至少一部分包括区域,每个区域包括所述区域的稳定指数的相应图形指示(例如,图标、阴影、图形或颜色)。在一些实施方案中,所述方法包括由所述处理器基于所述一个或多个图像中的在所述一个或多个图像中的一个之前的一个或多个而确定所述一个或多个图像中的所述一个的所述稳定指数。
在一些实施方案中,所述一个或多个图像中的每一个的至少一部分包括区域,每个区域包括针对所述区域的所述样本的运动的相应图形指示。
在一些实施方案中,所述图形指示是所述区域内的颜色(例如,绿色或黄色或红色)(例如,其中对于所述区域,所述图形指示是基于透明度、亮度、饱和度、色调或其组合)。
在一些实施方案中,所述图形指示覆盖在对应于从所述阵列中的微型光学元件接收到的样本光(例如,荧光)的图像像素上。
在一些实施方案中,所述方法包括在生成所述一个或多个图像时由所述处理器显示所述一个或多个图像。在一些实施方案中,所述方法包括在某一时间段内重复地收集从所述微型光学元件接收到的所述样本光,使得以每秒至少4个图像(例如,每秒至少10个图像、每秒至少20个图像)的速率生成并显示所述一个或多个图像。
在一些实施方案中,实时地执行所述生成(例如,以及所述显示),使得所述生成(例如,以及所述显示)仅延迟处理所需的时间(例如,没有时间偏移)。
在一些实施方案中,所述一个或多个图像中的每一个中的图像像素对应于在不超过0.25s(例如,不超过0.1s、不超过0.05s、不超过0.025s、不超过0.01s或不超过0.005s)的时间段内从所述微型光学元件接收到的样本光。在一些实施方案中,所述时间段不超过0.005s。
在一些实施方案中,所述样本是新切除的组织样本(例如,所述组织样本已经利用染色剂进行荧光标记)。
在一些实施方案中,所述方法包括在检测器处接收所述样本光,其中生成(例如,并显示)所述一个或多个图像包括由所述处理器处理来自所述检测器的信号。在一些实施方案中,在显示器上(例如,经由一个或多个图形用户界面)显示所述一个或多个图像。在一些实施方案中,所述显示器、所述处理器和所述微型光学元件阵列被包括在成像系统中(例如,移动成像系统)(例如,位于医院房间,例如手术室内)。
在一些实施方案中,所述阵列的所述微型光学元件具有不超过10μm(例如,不超过5μm、不超过2μm或不超过1μm)的横向光学分辨率。
在一些实施方案中,一种成像系统包括(例如)处理器和一个或多个非暂时性计算机可读介质(例如,以及显示器和/或微型光学元件阵列),所述一个或多个介质上存储有指令,所述指令在由所述处理器执行时使所述处理器执行如本文所公开的方法。
在一些实施方案中,一种方法涉及向用户提供实时样本监测信息。所述方法可包括至少部分地基于从微型光学元件阵列中的微型光学元件(例如,折射透镜、菲涅耳波带片、反射物镜和梯度折射率(GRIN)透镜)接收到的样本光(例如,荧光)而实时地生成(例如,并显示)样本的一个或多个图像(例如,视频帧)。在一些实施方案中,对于所述一个或多个图像中的每一个,所述图像中的相邻像素代表针对所述样本中的不同位置从所述微型光学元件中的微型光学元件接收到的所述样本光(例如,荧光)的部分,所述不同位置隔开所述阵列的特性距离(例如,对应于所述微型光学元件阵列的间距)(例如,所述微型光学元件中的相邻微型光学元件的光点尺寸中心的间隔)。在一些实施方案中,在所述生成(例如,以及所述显示)期间不对(i)所述阵列和(ii)所述样本中的任一者进行扫描。
在本说明书中(包括在此发明内容部分中)描述的特征中的任何两个或更多个特征可组合来形成本说明书中未具体明确描述的实施方式。
本说明书中描述的方法、系统和技术的至少部分可通过在一个或多个处理装置上执行存储在一个或多个非暂时性机器可读存储介质上的指令来控制。非暂时性机器可读存储介质的示例包括只读存储器、光盘驱动器、存储盘驱动器和随机存取存储器。本说明书中描述的方法、系统和技术的至少部分可使用由一个或多个处理装置和存储器构成的计算系统来控制,所述存储器存储指令,所述指令可由所述一个或多个处理装置执行来执行各种控制操作。
定义
为了更易于理解本公开,下面定义了本文使用的某些术语。可在整个说明书中阐述以下术语和其他术语的附加定义。
在本申请中,除非另外从上下文中显而易见或另有明确陈述,否则(i)术语“一”可理解为意指“至少一个”;(ii)术语“或”可理解为意指“和/或”;(iii)术语“包含”和“包括”可理解为涵盖逐项列出的部件或步骤,无论是自身呈现还是与一个或多个附加部件或步骤一起呈现;(iv)术语“约”和“大约”可理解为准许标准变化,如相关领域的普通技术人员将理解的;并且(v)在提供范围的情况下,包括端点。在某些实施方案中,除非另有陈述或另外从上下文中显而易见(除了此类数字可能超过可能的值的100%的情况),否则术语“大约”或“约”是指属于所陈述的参考值在任一方向(大于或小于方向)的25%、20%、19%、18%、17%、16%、15%、14%、13%、12%、11%、10%、9%、8%、7%、6%、5%、4%、3%、2%、1%或更低以内的值的范围。
图像:如本文所用,例如,如在被切除的组织(或其他样本)的二维或三维图像中,术语“图像”包括任何视觉表示,诸如照片、视频帧、流式视频,以及照片、视频帧或流式视频的任何电子、数字或数学模拟。在一些实施方案中,通过本文公开的方法生成和/或显示的一个或多个图像可像视频一样顺序地显示,从而具有一定的帧率,即使所述帧率低于标准视频格式的帧率(例如,30或60Hz)。在某些实施方案中,本文描述的任何系统或设备包括用于显示图像或由处理器产生的任何其他结果的显示器。在某些实施方案中,本文描述的任何方法包括显示图像或由所述方法产生的任何其他结果的步骤。在某些实施方案中,本文描述的任何系统或设备将图像输出到远程接收装置[例如,云服务器、远程监视器或医院信息系统(例如,图片存档与通信系统(PACS))]或输出到可连接到所述系统或所述设备的外部存储装置。在一些实施方案中,使用荧光成像系统、冷光成像系统和/或反射成像系统来产生图像。在一些实施方案中,图像是二维(2D)图像。在一些实施方案中,图像是三维(3D)图像。在一些实施方案中,图像是重建图像。在一些实施方案中,图像是共焦图像。图像(例如,3D图像)可为单个图像或一组图像。在一些实施方案中,通过图像(例如,全图像或测试图像)中的一个或多个样本运动伪影的存在来反映是否已经发生样本运动。一个或多个样本运动伪影可能能够通过由成像系统执行的图像处理来检测。在一些实施方案中,确定是否存在一个或多个样本运动伪影是确定(例如,决定)是否已经发生样本运动。
用户:如本文所用,用户是使用本文公开的成像系统的任何人。用户可为(例如)但不限于外科医生、外科工作人员(例如,手术室中的护士或执业医生)、实验室技术人员、科学家或病理学家。应当理解,当动作被描述为由外科医生执行时,在一些实施方案中,不是外科医生的用户执行等同的功能。
实时:如本文所用,可“实时”地生成和/或显示图像。一般来说,实时发生的动作不会故意延迟地发生。可能需要一定量的时间来处理信号(例如,来自检测器)和/或收集光(例如,照亮样本并从中接收反向发射样本光)。例如,在一些实施方案中,图像生成包括:通过包括微型光学元件阵列的光学模块提供照明光,通过光学模块收集来自样本的反向发射样本光,在检测器处接收样本光,以及处理来自检测器的信号以确定图像中的每个图像像素的像素值(例如,灰度值),每个图像像素是基于阵列中的微型光学元件中的每一个的样本光的强度而生成。因此,可生成并显示图像的“帧率”可能受到这种处理和/或收集时间的限制。例如,有效帧率可为每秒至少4帧(图像)(例如,每秒至少10帧、每秒至少15帧、每秒至少20帧或每秒至少30帧)。
样本:如本文所用,“样本”可为期望进行表征的任何材料。在一些实施方案中,样本是生物样本。在一些实施方案中,样本是组织,诸如人体组织。在一些实施方案中,组织是新鲜的(例如,未固定的)。在一些实施方案中,组织是新切除的。例如,可在外科手术期间切除组织样本,并且任选地在术中使用本文公开的方法来成像。类似地,“样本光”是来自样本的光。样本光可为例如反射光、折射光、衍射光或反向发射光。在一些实施方案中,样本光是荧光。作为荧光的样本光可为来自样本的反向发射光,所述反向发射光是从通过染色剂(例如,所述染色剂选择性地对样本内感兴趣的特征进行染色)施加到样本的一个或多个荧光标记发射。
稳定:如本文所用,“稳定”是指(例如,在某一时间段内)样本移动的减少(例如,消除)。稳定可为自稳定,例如由样本松弛引起。除非另外在上下文中显而易见,否则对前面没有“自”或“(自)”的“稳定”的提及应被理解为指示涵盖所讨论的稳定是自稳定的实施方案。也可使用由用户操纵的工具来实现稳定,诸如镊子或样本称量工具。一旦任何剩余样本运动低于可检测阈值,可能就已经达到稳定(例如,其中样本运动仅发生比从微型光学元件阵列接收样本光的采样时段长得多的时间尺度)。因此,稳定指数可表示根据经验得出的对在特定时间或特定时间段内存在的稳定程度的定量评估,例如通过从阵列中的微型光学元件接收到的样本光的强度的变化来确定。因此,较高的稳定指数值可指示相对更多的样本运动,如从接收到的样本光的强度的较大变化推测的。
附图说明
专利或申请文件含有至少一幅以彩色呈现的附图。在请求并支付必要费用之后,将由专利局提供具有彩色附图的本专利或专利申请公布的副本。
附图在本文中出于说明目的而呈现,而非用于限制。通过参考以下结合附图进行的描述,本公开的前述和其他目标、方面、特征和优点将变得更为显而易见并且可被更好地理解,在附图中:
图1A和图1B是表示根据本公开的说明性实施方案的说明性矩形光学芯片的平面图,所述矩形光学芯片包括设置成方形点阵的微透镜阵列;
图1C是根据本公开的说明性实施方案的图1A和图1B所示的光学芯片的一部分的横截面;
图2A是根据本公开的说明性实施方案的示出对组织样本的照明的说明性成像系统的示意图;
图2B是根据本公开的说明性实施方案的根据图2A的说明性成像系统的示意图,其示出了检测器对来自样本的反向发射光的检测;
图3A至图3C是根据本公开的说明性实施方案的用于使用固定微型光学元件阵列来确定样本是否已经移动的方法的过程图;
图4A至图4D是根据本公开的说明性实施方案的用于在不扫描的情况下实时地生成并任选地显示图像的方法的过程图;
图4E是根据本公开的说明性实施方案的用于计算稳定指数的方法的图示;
图5A至图5D是示出根据本公开的说明性实施方案使用实时取景模式来监测随着时间的推移焦点对准的样本区域的图像,所述样本区域由于用户重新定位而增大;
图6A至图6E是示出根据本公开的说明性实施方案使用实时取景模式来为样本监测气泡的存在的图像,所述气泡由于用户重新定位而收缩;
图7A至图7D是示出根据本公开的说明性实施方案使用具有半透明稳定指数视图覆盖的实时取景模式来监测随时间变化的样本运动和稳定性(由于样本松弛,这将随着时间的推移而变少)的图像;
图7E示出了根据本公开的说明性实施方案的没有稳定指数模式覆盖的样本的实时取景模式;
图8A是根据本公开的说明性实施方案的图形用户界面的示例屏幕截图,所述屏幕截图示出了具有稳定指数覆盖的实时取景模式图像和汇总统计;
图8B是根据本公开的说明性实施方案的图形用户界面的示例屏幕截图,所述屏幕截图示出了具有稳定指数覆盖的实时取景模式图像和时间分辨的汇总统计;
图8C是根据本公开的说明性实施方案的图形用户界面的示例屏幕截图,所述屏幕截图示出了具有稳定指数覆盖的实时取景模式灰度图像以及用户可选择的稳定指数加权参数和阈值化;
图8D是根据本公开的说明性实施方案的图形用户界面的示例屏幕截图,所述屏幕截图示出了具有稳定指数覆盖的假彩色(模仿组织学染色)实时取景模式图像以及用户可选择的稳定指数加权参数和阈值化;
图9是根据本公开的说明性实施方案的用于本文描述的方法和系统中的示例网络环境的框图;并且
图10是用于本公开的说明性实施方案中的示例计算装置和示例移动计算装置的框图。
具体实施方式
可设想本公开的系统、装置、方法和过程涵盖使用来自本文描述的实施方案的信息而作出的变化和变更。本文描述的系统、装置、方法和过程的变更和/或修改可由相关领域的普通技术人员执行。
在整个说明书中,在物品、装置和系统被描述为具有、包括或包含特定部件的情况下,或者在过程和方法被描述为具有、包括或包含特定步骤的情况下,可设想另外存在基本上由所叙述的部件组成或者由所叙述的部件组成的根据本公开的某些实施方案的物品、装置和系统,并且存在基本上由所叙述的处理步骤组成或者由所叙述的处理步骤组成的根据本公开的某些实施方案的过程和方法。
应当理解,只要不丧失可操作性,步骤的顺序或执行某些动作的顺序并不重要。此外,两个或更多个步骤或动作可同时进行。
提供标题是为了方便读者,而不意图对所要求保护的主题进行限制。
微型光学元件阵列和成像系统的示例
在一些实施方案中,用于在扫描或不扫描(例如,取决于所获取的图像类型)的情况下成像的成像系统包括微型光学元件阵列,所述微型光学元件阵列可包括折射透镜、菲涅耳波带片、反射物镜和梯度折射率(GRIN)透镜中的一者或多者。可在成像期间例如通过包括致动器的扫描级对着扫描图案扫描微型光学元件阵列。扫描图案可具有对应于微型光学元件阵列中的微型光学元件的单位单元的尺寸的尺寸(例如,是大致相等尺寸的正方形)。以这种方式,微型光学元件阵列中的每个微型光学元件可扫描对应于其单位单元的区域,以便产生尺寸与微型光学元件阵列相对应的图像(例如,具有相同数量级的尺寸)。扫描图案可包括在成像期间顺序地移动到达的一系列顺序位置(例如,设置成阵列,诸如规则阵列)。定义扫描图案的顺序位置阵列通常可为M x N阵列,其中M=N或M≠N。可通过微型光学元件阵列在一系列(例如,阵列)中的顺序位置的子集(例如,全部)处向样本提供照明光。例如,当成像系统是诸如共焦显微镜的荧光显微镜时,可利用微型光学元件阵列在一系列(例如,阵列)中的顺序位置的子集(例如,全部)处从样本收集反向发射光。
在一些实施方案中,成像系统设置在手术室中并且在外科手术(例如,诊断程序或治疗被诊断疾病)期间使用。在一些实施方案中,在术中使用系统和/或执行方法。
微型光学元件阵列可设置在光学芯片的表面上。例如,微型光学元件可设置在光学芯片的基板的表面上。在一些实施方案中,光学芯片包括微型光学元件阵列,所述微型光学元件阵列围绕阵列的周边附接到固持器(例如,不设置在基板上)。一般来说,光学芯片的外周界可具有任何形状。在一些实施方案中,光学芯片是矩形(例如,正方形或非正方形)。例如,在一些实施方案中,微型光学元件阵列与光学芯片的基板是一体的。微型光学元件阵列可为非一体的,而是附接到光学芯片的基板。微型光学元件阵列可包括至少25,000个微透镜(例如,具有在200μm与300μm之间的曲率半径(ROC))。可在光学芯片上在阵列中的微型光学元件之间提供吸收层和/或反射层(例如,充当孔口)。光学芯片可由熔融石英制成。微型光学元件可以规则阵列布置在光学芯片上(例如,方形点阵)。在一些实施方案中,微型光学元件阵列的间距为100μm至500μm(例如,200μm至300μm)。在一些实施方案中,光学芯片具有不规则的微型光学元件阵列,例如,在x方向和y方向上具有不同的间距。在一些实施方案中,光学芯片具有用于高分辨率成像和更有效的背景抑制的高数值孔径。
在一些实施方案中,微型光学元件阵列不是光学芯片的一部分。例如,在一些实施方案中,微型光学元件阵列是离散物镜的阵列,所述离散物镜例如安装在固定的相对位置(例如,彼此安装或安装到物理支撑件)。
在一些实施方案中,微型光学元件阵列是规则阵列,并且阵列中的微型光学元件在第一方向上的间距等于阵列中的微型光学元件在垂直于第一方向的第二方向上的间距。例如,微型光学元件可布置成方形点阵。在一些实施方案中,微型光学元件阵列的每个微型光学元件具有至少一个凸表面。例如,每个微型光学元件可为平凸透镜或双凸透镜。每个微型光学元件的凸表面可具有通过旋转圆锥截面获得的形状(例如,具有在200μm与300μm之间的曲率半径)。在一些实施方案中,微型光学元件阵列中的每个微型光学元件将光聚焦到小于阵列的间距(例如,间距)的区域(光点)上。在一些实施方案中,微型光学元件阵列中的微型光学元件共同聚焦到共同聚焦平面上。例如,微型光学元件阵列的每个元件可聚焦到共同聚焦平面上的单个点上。
图1A和图1B示意性地示出了包括微型光学元件阵列102的说明性光学芯片100的两个视图,所述光学芯片可用于本文公开的系统中和/或执行本文公开的方法。图1A示出了整个光学芯片100的平面图(图1A中未示出单独的微型光学元件和任选的反射层/吸收层)。光学芯片100具有矩形横截面,其具有尺寸W和L(即,其中W≠L)。在一些实施方案中,W=L。光学芯片100具有高平行度,其中光学芯片100的边缘的平行度优于约±0.250mrad(例如,不大于或约±0.125mrad)。图5B示出了包括微型光学元件阵列102的一部分的光学芯片100的一部分。设置在光学芯片100的表面上的微型光学元件阵列可包括至少1,000个微型光学元件、至少5,000个微型光学元件、至少10,000个微型光学元件、至少20,000个微型光学元件、至少30,000个微型光学元件、至少50,000个微型光学元件、至少60,000个微型光学元件、或至少100,000个微型光学元件。微型光学元件阵列102相对于光学芯片100的边缘高度平行。阵列102相对于光学芯片的边缘的平行度优于约±0.250mrad(例如,不大于或约±0.125mrad)。阵列102是规则阵列。在一些实施方案中,微型光学元件阵列是不规则的。虚线框112a示出了阵列102中的微型光学元件的单位单元的示例。虚线框112b示出了以不同于虚线框112a的原点绘制的阵列102中的微型光学元件的单位单元的示例。一般而言,对原点的选择是任意的。阵列102的每个微型光学元件中的十字准线指示微型光学元件的相应中心。
图1C示出了说明性光学芯片100的一部分的横截面图。光学芯片100包括基板106和微型光学元件阵列。每个微型光学元件102是凸微透镜。凸微透镜102与基板106是一体的,使得基板106和微透镜102一起是一种连续材料。例如,它们可在制造期间同时形成。如图所示,可将光学芯片100的厚度(H)取为微型光学元件的顶部与基板的相对表面之间的距离。光学芯片的厚度可小于2.0mm(例如,小于1.5mm或约1.5mm)。光学芯片可具有小于20μm(例如,小于15μm、小于10μm或小于5μm)的总厚度变化和/或总平坦度偏差。光学芯片100涂覆有铬反射层104。反射层104设置在微型光学元件102之间的透镜间区域中。应当理解,如图1A和图1B所示,设置在透镜间区域中的反射层可部分地延伸到在透镜周边附近的一个或多个透镜上。如果反射层104部分地延伸到微型光学元件的周边附近的微型光学元件之上,则微型光学元件直径110大于由反射层104形成的反射层孔口108。
图2A是说明性成像系统200的示意图,其示出了在照射组织样本期间说明性系统的光学器件的行为。成像系统200可包括本文阐述的特征和/或可用于执行本文公开的方法。图2B是示意性说明性成像系统200,其示出了检测器对来自样本的反向发射光的检测。现在参考图2A,提供波长在450nm与490nm之间的光的激光器218向聚焦透镜216提供照明光束。照明光束通过聚焦透镜216和第一孔口214,之后被二向色镜214引导。二向色镜将照明光束反射到准直透镜202上。照明光束被准直透镜202准直,并且准直后的照明光束传播到光学芯片222。光学芯片包括微型光学元件阵列。微型光学元件阵列中的微型光学元件可为折射透镜、菲涅耳波带片、反射物镜、GRIN透镜或微透镜。在某些实施方案中,光学芯片包括折射微透镜阵列。微型光学元件将来自准直后的照明光束的光通过成像窗口聚焦到样本上。在这种情况下,样本228设置在一次性样本固持器226上,所述一次性样本固持器直接安装到成像窗口224上。在一些实施方案中,在成像期间将样本设置在成像窗口上(例如,设置在样本盘上)(例如,不接触成像窗口)。在一些实施方案中,不存在样本固持器226并且在成像期间将样本直接安装在透明成像窗口上。使用样本盘可减少或消除在更换样本时清洁(例如,消毒)透明成像窗口的需求。图25示出了安装在透明成像窗口2502上的样本盘2504,其中样本2520设置在所述透明成像窗口中,作为可与样本盘2502一起使用和/或与所述样本盘一起使用的成像系统2500的示例。成像系统200可被类似地修改或设计。
再次参考图2A,光学芯片222连接到扫描级220的支撑件。扫描级220在成像期间使用连接到支撑件的控制器和致动器沿着扫描图案移动光学芯片222。光学芯片222的每个微型光学元件在样本之上或之中的共同聚焦(成像)平面上成像期间从样本之上或之中的准直后的照明光束产生光的紧密焦点(例如,小光点,例如,唯一点)。光学芯片222移动经过的扫描图案可为一维或二维的。
图2B是说明性成像系统200的示意图,其示出了图2A所示的光学器件在检测期间的行为。来自通过光学芯片222中的微型光学元件阵列聚焦到样本228上的准直后的照明光束的光在样本228中产生光(例如,荧光或冷光),所述光通过成像窗口224朝向光学芯片222反向发射。然后,反向发射光被光学芯片222中的阵列中的微型光学元件收集并且被引向检测器212。反向发射光通过二向色镜204,因为所述反向发射光在所述镜的透射带内。然后,反向发射光通过第二孔口206并且被成像透镜208准直。准直后的反向发射光通过发射滤光片210,然后传递到检测器212上。检测器212是CMOS相机,其包括检测器元件(例如,相机中的像素)阵列,每个检测器元件接收来自光学芯片222中的光学元件阵列中的微型光学元件的反向发射光。不透明的外壳可设置在通过滤光片210的反向发射光的光学路径周围,以便阻挡环境(例如,杂散)光入射到检测器212上。
在一些实施方案中,微型光学元件阵列的图像由检测器(例如,诸如CMOS或CCD相机的检测器元件阵列)捕获。检测器的帧可被处理来生成样本的图像,其中每个图像像素代表来自阵列中的唯一且不同的微型光学元件的信号。在这些图像中,两个相邻像素表示从样本中两个点收集到的强度,所述两个点隔开对应于微型元件阵列的间距的距离。
在一些实施方案中,成像系统可被设计和校准,使得一个微型光学元件恰好在一个检测器元件上成像。在一些此类实施方案中,未经进一步处理的检测器帧已经构成样本的图像,其中一个像素代表来自阵列中的唯一且不同的微型光学元件的信号。
在一些实施方案中,一个微型光学元件在多个检测器元件上(例如,在>4、>9、>16、>25、>100个检测器元件上)成像。在一些此类实施方案中,由唯一微型光学元件收集的强度可根据这个微型光学元件在其上成像的多个检测器元件的值来计算(例如,通过对检测器元件值求和或插值),以便重建图像,其中每个图像像素代表来自阵列中唯一且不同的微型光学元件的信号。
成像系统可用于对在外科手术(例如,癌症外科手术)期间切除的新鲜组织进行手术室内成像。在一些实施方案中,成像系统可操作来在少于10分钟(例如,少于5分钟、少于3分钟或少于2分钟)的时间内对样本的一部分进行成像。在一些实施方案中,系统可操作来在少于2分钟(例如,少于90秒或少于1分钟)的时间内对样本的一部分进行成像。在一些实施方案中,样本的所述部分的面积为至少10cm2(例如,至少12cm2、至少15cm2或至少17cm2)。在一些实施方案中,样本的体积不超过10cm x 10cm x 10cm,并且所述系统被配置为在不超过45分钟(例如,不超过30分钟)的成像时间内对样本的整个外表面进行成像。
可用于执行本文公开的方法的成像系统通常是点扫描成像系统。也就是说,在一些实施方案中,微型光学元件阵列中的每个微型光学元件对唯一点(例如,与小视场相对比)进行成像。在一些实施方案中,成像系统是共焦成像系统(例如,共焦显微镜)。作为示例,共焦成像系统通过对着扫描图案扫描微型光学元件阵列(例如,包括在光学芯片中)来实现对样本的高分辨率成像。在扫描之前可使用实时取景模式和/或稳定指数模式来确定样本信息,诸如样本自稳定性的定性评估,以便进一步提高扫描期间的图像质量(例如,由于在自稳定之前很有可能出现和/或出现的更大幅度的样本运动伪影减少),如下文进一步讨论的。
一般而言,成像系统可使用任何合适的方法来在扫描或不扫描的情况下从由微型光学元件阵列收集的光(例如,反向发射样本光)生成图像。在一些实施方案中,成像系统通过以横向扫描模式(例如,2D扫描模式)扫描微型光学元件阵列来生成图像以对样本进行表征,例如,如美国专利号10,094,784中公开的实施方案所描述。在成像期间,当样本和微型光学元件阵列处于相对运动时,检测器和样本可保持在固定的相对位置。重建过程可用于使用从在横向扫描模式下每个位置处收集的光推导的信息和微型光学元件阵列的已知位置信息来重建图像。当执行样本监测以确定是否发生样本运动时,即使微型光学元件阵列没有进行扫描(保持固定),也可使用类似的重建过程。也就是说,成像系统可被构造为在样本运动监测期间应用与后续成像期间使用的重建过程类似的重建过程。在一些实施方案中,重建过程为一个图像像素分配对应于由阵列中的一个微型光学元件收集的光的值(例如,强度值)。然而,这种重建过程对于实践本文公开的实施方案来说不是必要的,这与这种重建过程是否用于后续成像无关。例如,在一些实施方案中,使用来自检测器的直接成像来执行样本运动监测。也可使用其他间接成像方法。
在美国专利号10,094,784和10,539,776中讨论了可根据本公开的某些实施方案使用(例如,执行)的成像系统(例如,共焦显微镜),所述专利中的每一者特此整体并入本文。可在本公开的某些实施方案中使用的样本盘在美国专利号10,928,621中进行了讨论,所述专利的公开内容特此以引用的方式整体并入本文。样本可在成像之前染色。例如,样本可使用2020年3月2日提交的美国专利申请号16/806,555中公开的染色剂溶液来染色,所述专利申请的公开内容特此以引用的方式整体并入本文。
利用固定微型光学元件阵列进行样本监测
对于例如包括微型光学元件阵列的并行成像系统,可在不移动光学元件(也不移动样本)的情况下完成较大样本区域的成像。可检测从阵列中的微型光学元件接收到的样本光的强度,以生成图像,所述图像包括单独对应于微型光学元件的图像像素。每个图像像素可代表来自多个检测器元件的信号,这取决于成像系统中检测器元件与微型光学元件的比率。显著移动的样本(例如,与图像分辨率和/或成像速率相比)的随时间变化的强度波动将大于没有显著移动的样本(例如,与图像分辨率和/或成像速率相比)的强度波动。可基于例如图像(例如,对于给定的样本类型)中相邻像素之间的典型强度变化而设定阈值量,低于所述阈值量时,图像像素的强度波动将指示没有发生样本运动(例如,与图像分辨率和/或成像速率相比)。典型的强度变化可为已知的和/或基于图像参数(例如,分辨率)和/或样本特性而确定。阈值量可为预定的或在监测期间确定,例如确定为初始时段内的强度波动的百分比。
此类变化还可用于确定(例如,设定)样本光的强度,在所述强度下或低于所述强度时,图像中对应的图像像素的像素值(例如,灰度图像中的灰度值)将被设定为零。也就是说,对于某些微型光学元件仅接收到最小强度的样本光时,所述强度可能不足以与背景区分开,以至于分配零像素值。样本光的强度可类似地被阈值化以根据图像像素的不同色调、亮度、饱和度或其组合(例如,灰度中的不同灰度值)将小范围的强度分组。例如,检测器信号可针对所确定的平均强度变化进行归一化或基线化。在一些实施方案(诸如共焦成像系统的实施方式)中,成像系统中的光学器件利用一个或多个孔口消除了失焦背景强度。
图3A至图3C是用于确定样本是否已经移动的方法300的过程图。在步骤302中,在微型光学元件保持在固定位置时,监测单独对应于微型光学元件阵列中的微型光学元件的图像像素。图像像素的强度是基于已经通过对应的微型光学元件收集的由检测器接收到的反向发射光的量。在步骤304中,确定是否已经发生样本运动,在此示例中,这至少部分是基于图像像素的强度波动在某一时间段内是否没有超过阈值量而确定。在一些实施方案中,同时监测多个图像像素(例如,每个图像像素对应于微型光学元件阵列中的相应的微型光学元件,例如其中相应的微型光学元件是阵列中的微型光学元件的至少四分之一、至少二分之一或全部)以确定是否已经发生样本运动。确定是否已经发生样本运动可至少部分地基于每个相应图像像素的波动没有超过阈值量;相应图像像素的平均强度波动没有超过阈值量;或者相应图像像素的平均强度的波动没有超过阈值量。所述时间段可对应于要获取的全图像的获取时间。在任选的步骤306中,在确定图像像素的强度的波动在所述时间段内没有超过阈值量之后(例如,自动地)获取样本的图像。在任选的步骤308中,基于步骤304中的确定而(例如,自动地)向用户通知(例如,经由图形用户界面,例如,弹出通知)是否已经发生样本运动。系统可通知用户样本的稳定状态,以支持用户决定何时最佳地启动图像获取。在一些实施方案中,可经由当样本运动满足预定规则时(例如,当样本运动已经变得足够小而不会在要获取的全图像中产生可见的运动伪影时)自动触发的单个事件来通知用户。在一些实施方案中,经由连续更新的指示符(例如,图形或文本指示符)向用户连续地通知样本运动的当前状态,所述指示符可缩减为整个样本的单个标量(例如,在图形的情况下的单个颜色或符号,或在文本的情况下的单个值(例如,度量))。在一些实施方案中,经由连续更新的指示符阵列向用户连续地通知样本运动的当前状态,所述指示符阵列局部地表示样本运动的状态(例如,显示为样本的彩色编码微型图)。
在方法300的一些实施方案中,如图3B所示,在步骤310中,使用强度来确定样本在某一时间段内是否已经局部移动超过阈值量。在步骤312中,告知用户样本已经移动超过阈值量。在步骤314中,在用户明确请求之后获取图像。在处于高时间压力的应用上下文中,用户可能想要被授权在他认为适当的任何时刻(例如,基于样本运动的当前状态的连续通知)启动获取的能力。
图3C示出了方法300的附加说明性过程流。
在一些实施方案中,在确定一个或多个图像像素的强度在某一时间段内没有波动超过阈值量之后(例如,自动地,例如,在没有用户输入的情况下)获取样本的图像。在一些实施方案中,阈值量是预定(例如,预定义)阈值量,并且所述方法包括基于在开始监测之前要获取的图像的分辨率(例如,选定分辨率)来预先确定所述阈值量。在一些实施方案中,阈值量是预定(例如,预定义)阈值量,并且所述方法包括基于样本的一个或多个特性而预先确定所述阈值量。在一些实施方案中,阈值量不超过20%或不超过10%。一般来说,随着样本运动减慢或停止,强度波动将减少,因为相邻像素之间通常没有明显的强度不连续性,并且由于样本运动而导致的像素漂移会减慢。在一些实施方案中,使用不超过20%或不超过10%的绝对阈值量可能就足以减少或消除随后获取的图像中的明显的样本运动伪影。在一些实施方案中,时间段为至少2s且不超过90s或至少0.1s且不超过2s(例如,至少0.25s且不超过1s)。在一些实施方案中,时间段为至少5s且不超过30s。
监测图像像素的强度可包括对在单独的短时段内接收到的反向发射光进行离散测量。例如,第一时间处的强度可基于在第一短时段(例如,不超过十毫秒、不超过五毫秒、不超过三毫秒、不超过两毫秒、或少于一毫秒)内通过微型光学元件在检测器(例如,CCD或CMOS相机)处接收到的反向发射光,并且第二时间处的强度可基于在第二短时段内通过微型光学元件在检测器处接收到的反向发射光,所述第二短时段是与第一短时段相等的时长。在第一短时段与第二短时段之间可存在延迟时段(例如,至少1ms且不超过1s或不超过100ms)。与简单地等待足够的时间以确保样本稳定(例如,平衡)相比,较长的延迟时段通常意味着方法对移动更为敏感,但这也减少了实际或潜在的时间节省。另外,较长的延迟时段可能会导致用户在查看监测的图形输出(如果提供的话)时感到困惑。因此,在一些实施方案中,延迟时段是在在0.25s-0.75s的范围内(例如,约0.5s)。在一些实施方案中,延迟时段不超过5s(例如,不超过3s、不超过2s或不超过1s)。
确定样本是否已经移动可包括处理(例如,比较)第一时间处的强度与第二时间处的强度。在一些实施方案中,需要仔细选择延迟时段。如果延迟时段过短,则在此时间尺度上可能感知不到样本的小幅运动,但仍会导致之后获取的全图像中的可见的运动伪影。另一方面,如果延迟时段过长,则在观察时段早期已经发生的样本运动将导致认为样本仍然在运动中,即使在此期间它可能已经稳定,从而导致浪费时间。通过选择允许向用户提供“实时”帧率的图像的延迟时段,用户可观察所述图像所发生的波动,以确定样本是否正在稳定或已经稳定。强度随时间的波动可基于在监测期间在一组时间处进行的对强度的离散测量。
可简单地通过在相隔延迟时段的两个时刻取得像素的强度差的绝对值来计算强度波动。这种方法仅提供稀疏采样,并且因此可能对在两个采样时刻之间已经发生的强度波动不敏感(例如,强度可能已经改变并返回到差不多相同的值)。通过在多个时刻记录图像像素值(表示微型光学元件的样本光强度)并通过取得在某一时间段内记录的最大值与最小值之间的强度差,可更灵敏地计算强度波动。这种强度波动度量还可通过将其除以在最大值与最小值之间经过的时间来归一化。通过在多个时刻记录像素值并通过取得在某一时间段内记录的所有连续值之间的累积强度绝对差,可更灵敏地计算强度波动。这种强度波动度量可通过将其除以计算所述强度波动所经过的延迟时段来归一化。这种方法的优点是对导致图像像素值(表示微型光学元件的样本光强度)随时间非单调变化的样本运动更为敏感。然而,它的缺点是对强度信号中的噪声也更为敏感。因此,在以此方式计算强度波动之前,可能需要例如利用移动平均滤波器来使强度信号平滑。例如,对于相隔约1-5ms连续记录的强度值,对至少25个值进行平均(例如,利用移动窗口滤波器)可能是期望的。
当监测单个图像像素的像素值时,根据样本的性质,比较有可能的是,在像素中不存在足够的空间频率调制和/或对比度的组织结构来提供对样本运动的足够敏感性。因此,在评估是否已经发生样本运动或正在发生样本运动时,考虑多个图像像素可能是有利的。例如,可针对由多个图像像素构成的区域计算唯一强度波动量度(例如,可对一个图像像素区域的每个像素的强度波动求平均值以给出这些像素的平均强度波动)。这些区域可由各向同性分组的图像像素(例如,分组的2x2图像像素、3x3图像像素、4x4图像像素、6x6图像像素、8x8图像像素、16x16图像像素)或各向异性分组的图像像素(例如,1x2图像像素、3x4图像像素、6x8图像像素、1x12图像像素)构成。由于样本运动有时局限于相对较小的区域,因此在给定区域中将过多图像像素组合在一起可能会适得其反,尤其是在像素定位成彼此相对远离的情况下。
实时取景模式
在一些实施方案中,一种方法向用户提供实时样本监测信息。在一些实施方案中,这种方法包括实时地生成并任选地也显示一个或多个图像,其中图像是在不扫描微型光学元件阵列或样本的情况下基于从阵列中的微型光学元件接收到的样本光而生成。因此,一旦接收到光就可生成图像,因为在能够生成图像之前不需要从扫描图案中的多个位置接收光。这种方法可大幅减少接收足够信号来生成图像所需的时间。
在某些实施方案中,可在<250毫秒(ms)的曝光时间内在检测器处从微型光学元件接收强度足以生成有用图像的光,从而使得可被生成并向用户显示的图像的帧率能够达到每秒至少4帧。(对于一些用户来说,需要每秒至少4帧的帧率才能实时地对样本位置、运动和/或稳定性的变化进行响应。)更短的曝光时间(例如,<10ms、<5ms或<2ms)可实现更高的帧率,从而以对例如样本运动更敏感的方式向用户提供信息。更短的曝光时间还意味着每个图像对应于更即时的“快照”,使得此类图像的比较可对可能发生的样本运动提供更灵敏的评估。当微型光学元件在曝光时间期间保持在固定位置时从所述微型光学元件接收到的样本光可在检测器(例如,CMOS或CCD相机)处进行检测。可在曝光时间内实时地生成图像,所述图像包括图像像素,所述图像像素表示在对应于阵列中的特定微型光学元件的检测器元件处接收到的样本光的相对强度(“实时取景”模式的示例)。当样本和微型光学元件阵列在成像期间固定时,阵列中的每个微型光学元件将对样本中的不同(例如,相异)位置进行成像,其中不同位置在空间上隔开微型光学元件阵列的特性距离(例如,阵列中微型光学元件的间距)。当然,如果样本在运动中(例如,由于自然松弛),给定图像像素可代表样本随时间变化的位置,从而可能导致给定图像像素的强度在连续图像之间出现波动。
在一些实施方案中,成像系统可被设计和校准,使得一个微型光学元件恰好在一个检测器元件上成像(例如,在不扫描时)。在一些此类实施方案中,检测器帧(未经进一步处理)已经构成样本的图像,其中一个像素代表来自微型光学元件阵列中的唯一且不同的微型光学元件的信号。在一些实施方案中,一个微型光学元件在多个检测器元件上(例如,在>4、>9、>16、>25、>100个检测器元件上)成像。例如,微型光学元件阵列可具有大约数万个微型光学元件,而对应尺寸的检测器可包括数百万或数千万个检测器元件(例如,10+兆像素相机)。在一些此类实施方案中,由唯一微型光学元件收集的强度可根据这个微型光学元件在其上成像的多个检测器元件的值来计算(例如,通过对检测器元件值求和或插值),以便生成图像,其中一个图像像素代表来自唯一且不同的微型光学元件的信号,如根据多个检测器元件所确定。图像像素可表示在对应于特定微型光学元件的检测器元件处接收到的样本光的强度的总和或平均值。
一般而言,微型光学元件的较高的光学分辨率会使实时取景模式更为灵敏。在一些实施方案中,微型光学元件的光学分辨率优选地基本上等于(例如,相差10%以内)或小于样本结构(例如,组织样本微结构),例如优选地具有<10μm、<5μm、<2μm或<1μm的横向点扩散函数。在较小的光学分辨率下,在不扫描时生成的图像中的图像像素的空间分辨率会增强,这往往会更清楚地显示发生的运动或稳定,并且在实时取景模式下观察时使用户更好地理解样本的当前状态。
图4A至图4C示出了用于生成并任选地显示一个或多个图像以向用户提供实时样本监测信息的示例方法400。在步骤402中,从微型光学元件阵列接收样本光。参考图4B,步骤402可包括以下各者:子步骤402a:使用包括微型光学元件阵列的光学模块用照明光照射样本;步骤402b:在某一时间段内在检测器处从微型光学元件阵列(例如,通过光学模块)接收来自样本的样本光;以及步骤402c:处理来自检测器的信号以确定收集时段内样本光的强度(例如,在给定曝光时间下捕获的检测器帧)。返回参考图4A,在步骤404中,基于从微型光学元件接收到的样本光而实时地生成一个或多个图像。例如,可在步骤404中生成一个或多个图像,同时对来自新时间段的新样本光执行子步骤402a-402c,使得(几乎)连续地接收并处理样本光。图4C示出了步骤404的示例子例程,包括生成每个图像中的各个图像像素的子步骤404a,图像像素中的每一个表示在检测器处(例如,在一个或多个相应的检测器元件处)从微型光学元件中的一个接收到的样本光的强度。返回参考图4A,在步骤406中,任选地显示一个或多个图像。步骤406可与步骤402和/或步骤404同时发生。在步骤408中,基于一个或多个图像中的一个或多个而(例如,自动地)启动包括扫描微型光学元件阵列的成像。例如,如果图像中的一个或多个指示(例如,向用户指示或如通过图像处理或识别算法所确定)样本足够稳定(例如,在某一时间段内),则可启动通过扫描进行的成像。基于稳定指数(例如,如后续段落中所讨论的),某一足够大的区域焦点对准(例如,没有明显变化,诸如在某一时间段内变化不超过10%),和/或不含任何气泡(例如,在某一时间段内),样本可被定量确定为足够稳定。
生成一个或多个图像可包括计算返回高于预定强度阈值的样本光的微型光学元件的绝对数量和/或比例。如果微型光学元件返回低于阈值的样本光,则对应的图像像素可具有零像素值。如果它返回高于阈值的样本光,则对应的图像像素可具有非零像素值。检测图像中对应于背景的区域(例如,样本区域不焦点对准的图像区域)(例如,利用基于拉普拉斯算子的算子)并计算未面向背景的微型光学元件的绝对数量和/或比例可为确定和显示样本面的成像表面的尺寸的一部分。在一些实施方案中,微型光学元件可不返回样本光或者返回低于检测器的检测阈值的样本光,使得对应的图像像素具有零像素值。
图5A至图5D示出了根据本文公开的方法实现的样本的实时取景模式的示例使用。在此示例中,利用实时取景模式监测焦点对准的样本区域。每个图像像素表示在图像生成之前的短时间段(例如,1-3ms)内针对样本中的不同位置从阵列中的单个微型光学元件接收到的光的强度。由虚线轮廓限定的区域示出了在t0处所述区域中所有图像像素都为零像素值(表示没有收集到样本光,并且因此在对应于图像的该区域的样本区域中没有接收到样本光)(在图5A中示出)。图像像素的零像素值可指示样本在对应于这些图像像素的区域中没有焦点对准(例如,在对应的检测器元件处原本检测到的光已经被孔口滤除)。在随后的连续时间(在图5B至图5D中示出)处,焦点对准的区域增加,从而导致由虚线轮廓限定的区域中有越来越多的区域随着时间的推移而被填充。因此,随着时间的推移,图像像素的越来越大的区域具有非零像素值,并且具有非零像素值的图像像素的凸包以越来越慢的速率增长。基于具有非零像素值的图像像素区域和/或凸包的变化率,样本可被认为在一个或多个图像中具有焦点对准的足够大的区域(例如,以保证启动通过扫描进行的成像)。图5A至图5D的在时间序列内示出的焦点对准的增加的区域可能是用户调整(例如,操纵)样本以将其重新定位成有区域焦点对准的结果。图5A至图5D是包括图像像素的灰度图像,所述图像像素表示针对样本中的不同位置从微型光学元件接收到的样本光的一系列强度。
图6A至图6E示出了根据本文公开的方法实现的样本的实时取景模式的示例使用。在此示例中,监测实时取景模式以确定样本中是否存在气泡。每个图像像素表示在图像生成之前的短时间段内针对样本中的不同位置从阵列中的单个微型光学元件接收到的光的强度。由虚线轮廓限定的区域示出了在t0处所述区域中所有图像像素都为零像素值(表示没有收集到样本光,并且因此在对应于图像的该区域的样本区域中没有接收到样本光)(在图6A中示出)。此类具有零像素值的图像像素(例如,至少部分地)被具有非零像素值的图像像素包围指示存在气泡。在图6A中,存在两个气泡,每个气泡由突出显示具有零像素值的图像像素区域的周界的白色轮廓线指示,所述周界由具有非零像素值的图像像素限定(例如,其中周界上至少70%的图像像素具有非零像素值)。可应用图像处理或识别算法来自动地确定任何此类区域是否存在于图像中或随着时间的推移而存在(例如,在多个图像中)。随着时间的推移,如图6B至图6E所示,实时取景模式示出了被主要(例如,至少70%)包括具有非零像素值的图像像素的周界包围的具有零像素值的图像像素区域的移位、收缩和最终消失。一旦实时取景显示没有剩余气泡,用户就可认为样本已准备好通过扫描进行成像,或者所述用户尤其要求在通过扫描进行成像之前不存在气泡。在一些实施方案中,处理器可自动地确定(例如,使用图像处理或识别算法)不存在气泡。区域阈值(例如,由用户设定)可用于将气泡与样本的永远不会产生具有非零像素值的图像像素(例如,没有被荧光标记)的区域区分开。图6A至图6E是包括图像像素的灰度图像,所述图像像素表示针对样本中的不同位置从微型光学元件接收到的样本光的一系列强度。
具有稳定指数的图像
如前面段落中所公开的,实时取景模式允许用户看到实时样本信息,所述实时样本信息可用于监测样本定位以及样本运动和(自)稳定性,以及样本的其他特性。一般来说,在实时取景模式下,移动较多的样本(无论是由于松弛还是由于其他机制)看起来会在某一时间段内出现图像像素的强度的更多波动。有经验的用户可能能够确定此类波动何时足够小,以便指示随后通过对着扫描图案扫描微型光学元件阵列而获取的全图像将具有足够高的质量(例如,完全不含样本运动伪影)而变得有用(例如,用于确定图像中是否存在一个或多个特征,诸如指示癌症的特征)。然而,没有经验的用户或甚至一些有经验的用户可能尚未或无法培养这项技能。因此,在某些实施方案中,有利的是,呈现某一时间段内对样本稳定性的定量评估:稳定指数。
一个或多个稳定指数可通过图像上的图形指示(例如,图标、阴影、图形或颜色)呈现给用户。可将阈值化应用于不同图像像素区域的所计算的稳定指数,以允许图像被加上阴影或着色以便于用户解释(例如,使用空、黄色、红色或空、黄色、橙色、红色颜色方案)。使用一个或多个稳定指数的图形指示,用户可能能够容易地解释图像以决定何时启动成像。也可由处理器使用一个或多个图像的稳定指数值来自动地作出这种决策。
可计算许多不同的稳定指数,并且利用图形指示将其呈现给用户,以提供对样本稳定性的定量评估。在一些实施方案中,计算每个图像的总体稳定指数。在一些实施方案中,针对图像中的图像像素的子集中的每一个(例如,图像像素区域中的每个图像像素)计算稳定指数。在一些实施方案中,对于阵列中的微型光学元件的至少一部分,通过比较在某一时间段内从微型光学元件接收到的样本光的强度的变化来确定稳定指数。由于从微型光学元件接收到的样本光的强度可能在某一时间段内不均匀地变化,并且由于来自用于确定稳定指数的样本光的信号可能在不同情况下对应于不同时间段(例如,使用固定持续时间的移动时间段),因此稳定指数可为动态的/随时间变化(例如,在连续图像之间变化)。
参考图4A,在一些实施方案中,在不扫描的情况下基于从阵列中的微型光学元件接收到的样本光而生成一个或多个图像的步骤404可包括执行图4D所示的子例程以计算稳定指数。在步骤404a中,利用微型光学元件阵列在多个离散时段(例如,一个时段结束即另一个时段开始的连续时段)内收集样本光。在步骤404b中,在检测器处从微型光学元件阵列接收所收集的样本光。在步骤404c中,处理来自检测器的信号以针对每个微型光学元件确定每个时段的强度。也就是说,使用微型光学元件阵列捕获一系列检测器帧,每个时段捕获一帧。在步骤404d中,使用检测器帧确定强度的加权平均值(例如,指数移动平均值)。等式1和2给出了计算指数移动平均值的示例。
I’(m,t)=I(m,1),对于t=1(即,对于第一帧)(等式1)
I’(m,t)=α*I(m,t)+(1-α)*I’(m,t-1),对于t>1(即,对于每个后续帧)(等式2)
α是用户设定的在0与1之间的参数,例如0.1。用于确定加权平均值和/或稳定指数的检测器帧的数量也可为用户可设定的参数N。在步骤404e中,在某一时间段(例如,最后N个检测器帧)内针对每个微型光学元件m计算最小(I’min(m))和最大(I’max(m))加权平均强度。然后,在步骤404f中,可将稳定指数实时地确定为I’max(m)与I’min(m)之间的差值(S=I’max(m)-I’min(m))。图4E提供了这种计算的视觉演示。
虽然在前一个段落中详细阐述了稳定指数的一个具体示例,但可使用不同的公式来确定强度的变化,所述不同的公式包括差值、比率、下限和上限中的一者或多者。诸如加权指数平均值的加权时间平均值可用于计算稳定指数。此外,所确定的稳定指数对应于阵列中的单个微型光学元件,例如是针对单个图像像素。为图像像素中的每一个提供单独的稳定指数并不会使图像解释(例如,由用户进行)比正常的实时取景模式更为容易。因此,在一些实施方案中,确定图像像素区域(对应于微型光学元件群组)的稳定指数。然后可将易于解释的图形指示(例如,图标、阴影、图形或颜色)包括在图像中,从而指示对应于该区域的微型光学元件的稳定指数。群组可具有至少9个微型光学元件(例如,至少16个微型光学元件、至少25个微型光学元件、至少49个微型光学元件或至少64个微型光学元件)。所述指示可基于例如从群组中的微型光学元件接收到的样本光的最小、最大或平均稳定指数。
图7A至图7D示出了针对样本生成并向用户显示的具有半透明稳定指数覆盖的图像的示例,其中稳定指数的指示是针对图像像素区域。稳定指数覆盖在实时取景模式上,但在一些实施方案中,图像仅包括所计算的稳定指数的指示(而没有任何实时取景模式)。在图7A中(在任意指定的t0处),大部分样本在运动中(稳定性较低),如由大部分图像像素区域由于高稳定指数值而具有半透明红色覆盖(并因此指示相对较大的样本运动)所证实,这通过针对这些位置确定在某一时间段内接收到的样本光的强度的变化来计算。在高运动区域的周边是一些具有适量样本运动的小区域,如由半透明黄色覆盖所指示。具有黄色指示的图像像素区域对应于具有相对更高稳定性并因此具有比具有红色指示的图像像素区域更低的稳定指数值的样本区域。在图7B(在t1处)、图7C(在t2处)和图7D(在t3处)的连续图像中,样本越来越稳定,从而导致样本中越来越多的区域的稳定指数值越来越低,并且因此导致越来越少的图像像素区域覆盖有红色和黄色指示(越来越少的微型光学元件群组接收到明显变化的样本光-指示样本运动减少)。即使用户在实时取景模式下无法确定图像像素的像素值波动是否随着时间的推移而明显减小,图7A至图7D中的图形指示也很容易解释。在t3处或之后不久的样本可在存在很少(如果有的话)样本运动伪影的情况下通过扫描微型光学元件阵列来成像。图7E示出了没有稳定指数模式覆盖的样本的实时取景模式(例如,紧接在通过扫描微型光学元件阵列进行成像之前)。
显示图像
在一些实施方案中,在生成图像时,实时地显示所述图像。在一些实施方案中,图像由图像处理或识别算法自动地处理,并且因此,也可不单独地显示,至少不实时地显示。显示的图像可在一个或多个图形用户界面中显示。一个或多个图形用户界面可允许更改图像的用户输入。例如,用户可能能够显示或隐藏稳定指数视图(例如,覆盖),显示或隐藏图像的一个或多个稳定指数的汇总统计,或者显示或隐藏实时取景模式。
在一些实施方案中,当定位样本时,可能优选隐藏稳定指数视图(例如,覆盖)。在定位期间,样本会显著移动,这将导致样本的较大区域上(例如,整个样本上)出现非常高的稳定指数值。因此,稳定指数视图在该时间期间不会提供有用的信息,并且实际上可能会干扰正在尝试确定如何定位样本的用户。因此,计算装置(例如,包括在成像系统中)可在样本定位时段期间(例如,由于用户输入)隐藏稳定指数视图,然后接着启用稳定指数视图(例如,由于进一步的用户输入)以便在定位完成之后跟踪样本稳定性。一旦一个或多个图像稳定指数指示已经达到足够稳定,就可(例如,自动地)启动使用(例如,微型光学元件阵列的)扫描图案的图像获取。
可提供一个或多个图形用户界面(例如,用于向用户实时地显示生成的图像)以允许用户提供各种输入。在一些实施方案中,图形用户界面允许用户提供用于计算图像像素的稳定指数的参数(例如,用于加权平均值的加权参数)。在一些实施方案中,图形用户界面允许用户提供输入以对来自实时取景模式或稳定指数视图(例如,覆盖在实时取景模式上)的一个或多个图像标记位置和/或取向信息。在一些实施方案中,图形用户界面允许用户提供用于对稳定指数进行阈值化的输入(例如,充当阈值的特定稳定指数阈值、分组尺寸或指示特性(例如,颜色和/或透明度))。在一些实施方案中,图形用户界面允许用户调整实时地生成和/或显示的图像的亮度和/或对比度。在一些实施方案中,图形用户界面允许用户在实时取景模式的灰度视图与假彩色视图(例如,模仿组织学染色样本,例如,显示紫色阴影)之间进行选择(例如,切换)。
图8A至图8D示出了图形用户界面的示例,每个图形用户界面包括具有稳定指数覆盖的样本的实时取景模式。在图8A的图形用户界面中,图像802是表示从阵列中的微型光学元件接收到的样本光的荧光强度的灰度图像。一些图像像素较亮,而一些图像像素较暗,从而显示强度在用于收集样本光的曝光时间内的变化。图像802还包括稳定指数覆盖,其示出在生成和显示图像时发生了一些样本运动,主要是在图像的右侧上。用户界面804显示有关图像802的汇总统计。汇总统计包括成像样本区域的百分比(焦点对准的可用于利用固定的微型光学元件阵列成像的总区域的百分比)、临界运动区域的百分比(其中当前样本运动较大–对应于高稳定指数值),以及显著运动区域的百分比(其中样本运动明显,但远不如临界运动区域中的样本运动–对应于中等稳定指数值)。界面806允许用户对图像802标记位置和/或取向信息并且通过启动微型光学元件阵列的扫描来开始全图像获取。例如,用户可查看图像802并且确定由稳定指数覆盖指示的样本运动量足够小,以至于可生成高质量的全扫描图像,并且因此可点击“获取”按钮来启动扫描。
图8B与图8A类似,不同的是汇总统计是以时间分辨率示出,因此用户可容易地观察到成像样本区域的百分比、临界运动区域的百分比和显著运动区域的百分比的趋势。这些统计中变化较小或最小的较长时段将指示更好的样本稳定性。在一些实施方案中,优选的是,在开始通过扫描进行全成像之前,临界运动区域的百分比和/或显著运动区域的百分比趋向于零或在接近零的小数值(例如,1%至5%)内。
图8C与图8A和图8B类似,不同的是提供界面808、810来使得用户能够输入用于生成图像802的参数。界面808包括与图像802所示的稳定指数覆盖相关联的参数的输入以及显示/隐藏界面的按钮。可由用户改变的参数包括稳定指数的指示的透明度(例如,可由用户更改所述透明度以使底层实时取景模式更容易或更难看到)、分组(例如,指示区域对应于多大的微型光学元件群组,当前设定为4x4),以及稳定指数的决定用哪个颜色(空、黄色或红色)对每个(4x4)区域加上阴影/着色的阈值。界面810包括用于计算各个区域的稳定指数值的参数,包括加权参数以及在上面确定最小和最大强度的检测器帧的数量。
图8D与图8C类似,不同的是图像802不是灰度图像,而是图像802中包括的实时取景模式的图像像素具有模仿组织学染色的假彩色(在这种情况下是紫色)的图像。
在不扫描的情况下根据从微型光学元件阵列接收到的样本光生成的图像可包括图像像素,每个图像像素代表阵列中的相应微型光学元件。因此,由于阵列中的微型光学元件的数量相对于典型的图像分辨率可能较低,因此图像可能具有相对较低的分辨率。可利用具有较高的最大分辨率的(例如,成像系统的)显示器(例如,其可为1080p或4K监视器)向用户显示图像。因此,为了使图像在显示器上具有合理的物理尺寸,可使用多个显示器像素来显示单个图像像素。只要使用均匀缩放,就不会出现图像失真。作为缩放的替代或补充,可使用插值来在高分辨率显示器上显示图像。
计算机系统、计算装置和网络实施方式
上文参考由计算装置在本地执行的计算描述了本文公开的系统和方法的说明性实施方案。然而,还设想了通过网络执行的计算。图9示出了用于在本文描述的方法和系统中的说明性网络环境900。在简要概述中,现在参考图9,示出并描述了说明性云计算环境900的框图。云计算环境900可包括一个或多个资源提供者902a、902b、902c(统称为902)。每个资源提供者902可包括计算资源。在一些实施方式中,计算资源可包括用于处理数据的任何硬件和/或软件。例如,计算资源可包括能够执行算法、计算机程序和/或计算机应用程序的硬件和/或软件。在一些实施方式中,说明性计算资源可包括具有存储和检索能力的应用服务器和/或数据库。每个资源提供者902可连接到云计算环境900中的任何其他资源提供者902。在一些实施方式中,资源提供者902可通过计算机网络908进行连接。每个资源提供者902可通过计算机网络908连接到一个或多个计算装置904a、904b、904c(统称为904)。
云计算环境900可包括资源管理器906。资源管理器906可通过计算机网络908连接到资源提供者902和计算装置904。在一些实施方式中,资源管理器906可促进一个或多个资源提供者902向一个或多个计算装置904提供计算资源。资源管理器906可从特定计算装置904接收对计算资源的请求。资源管理器906可识别能够提供由计算装置904请求的计算资源的一个或多个资源提供者902。资源管理器906可选择资源提供者902来提供计算资源。资源管理器906可促进资源提供者902与特定计算装置904之间的连接。在一些实施方式中,资源管理器906可在特定资源提供者902与特定计算装置904之间建立连接。在一些实施方式中,资源管理器906可将特定计算装置904重定向到具有请求的计算资源的特定资源提供者902。
图10示出了可用于本公开中描述的方法和系统中的计算装置1000和移动计算装置1050的示例。计算装置1000意图表示各种形式的数字计算机,诸如膝上型电脑、台式计算机、工作站、个人数字助理、服务器、刀片服务器、主机和其他适当的计算机。移动计算装置1050意图表示各种形式的移动装置,诸如个人数字助理、蜂窝电话、智能电话和其他类似的计算装置。此处示出的部件、它们的连接和关系以及它们的功能仅打算作为示例,而不打算进行限制。
计算装置1000包括处理器1002、存储器1004、存储装置1006、连接到存储器1004和多个高速扩展端口1010的高速接口1008,以及连接到低速扩展端口1014和存储装置1006的低速接口1012。处理器1002、存储器1004、存储装置1006、高速接口1008、高速扩展端口1010和低速接口1012中的每一者使用各种总线进行互连,并且可安装在共同主板上或在适当时以其他方式安装。处理器1002可处理用于在计算装置1000内执行的指令(包括存储在存储器1004中或存储装置1006上的指令),以在外部输入/输出装置(诸如耦合到高速接口1008的显示器1016)上显示GUI的图形信息。在其他实施方式中,可在适当时将多个处理器和/或多个总线连同多个存储器和多种类型的存储器一起使用。另外,可连接多个计算装置,其中每个装置提供必要操作的部分(例如,作为服务器组、一组刀片服务器或多处理器系统)。另外,可连接多个计算装置,其中每个装置提供必要操作的部分(例如,作为服务器组、一组刀片服务器或多处理器系统)。因此,如本文所用的术语,在多个功能被描述为由“处理器”执行的情况下,这涵盖其中多个功能由任何数量的计算装置(例如,一个或多个计算装置)的任何数量的处理器(例如,一个或多个处理器)执行的实施方案。另外,在功能被描述为由“处理器”执行的情况下,这涵盖其中所述功能由任何数量的计算装置(例如,一个或多个计算装置)(例如,在分布式计算系统中)的任何数量的处理器(例如,一个或多个处理器)执行的实施方案。
存储器1004存储计算装置1000内的信息。在一些实施方式中,存储器1004是一个或多个易失性存储器单元。在一些实施方式中,存储器1004是一个或多个非易失性存储器单元。存储器1004也可为另一种形式的计算机可读介质,诸如磁盘或光盘。
存储装置1006能够为计算装置1000提供大容量存储。在一些实施方式中,存储装置1006可为或含有计算机可读介质,诸如软盘装置、硬盘装置、光盘装置或磁带装置、闪存存储器或其他类似的固态存储器装置,或者装置阵列,包括在存储区域网络或其他配置中的装置。指令可存储在信息载体中。指令在由一个或多个处理装置(例如,处理器1002)执行时执行一种或多种方法,诸如上文描述的那些方法。指令还可由一个或多个存储装置存储,诸如计算机或机器可读介质(例如,存储器1004、存储装置1006或处理器1002上的存储器)。
高速接口1008管理计算装置1000的带宽密集型操作,而低速接口1012管理较低带宽密集型操作。功能的这种分配只是示例。在一些实施方式中,高速接口1008耦合到存储器1004、显示器1016(例如,通过图形处理器或加速器)并且耦合到可接受各种扩展卡(未示出)的高速扩展端口1010。在实施方式中,低速接口1012耦合到存储装置1006和低速扩展端口1014。可包括各种通信端口(例如,USB、以太网、无线以太网)的低速扩展端口1014可例如通过网络适配器耦合到一个或多个输入/输出装置,诸如键盘、定点装置、扫描仪或联网装置(诸如交换机或路由器)。
计算装置1000可以许多不同形式实施,如图所示。例如,它可被实施为标准服务器1020或在一组此类服务器中多次实施。此外,它可被实施在个人计算机中,诸如膝上型计算机1022。它也可被实施为机架服务器系统1024的一部分。替代地,来自计算装置1000的部件可与移动装置(未示出)(诸如移动计算装置1050)中的其他部件组合。此类装置中的每一者可含有计算装置1000和移动计算装置1050中的一者或多者,并且整个系统可由彼此通信的多个计算装置组成。
移动计算装置1050包括处理器1052、存储器1064、输入/输出装置(诸如显示器1054)、通信接口1066和收发器1068,以及其他部件。移动计算装置1050还可设有存储装置,诸如微驱动器或其他装置,以提供附加存储。处理器1052、存储器1064、显示器1054、通信接口1066和收发器1068中的每一者使用各种总线进行互连,并且部件中的若干部件可安装在共同主板上或在适当时以其他方式安装。
处理器1052可执行移动计算装置1050内的指令,包括存储在存储器1064中的指令。处理器1052可被实施为芯片的芯片组,所述芯片包括单独的多个模拟数字处理器。处理器1052可提供例如移动计算装置1050的其他部件的协调,诸如用户界面的控制、由移动计算装置1050进行的应用程序运行和由移动计算装置1050进行的无线通信。
处理器1052可通过控制接口1058和耦合到显示器1054的显示器接口1056与用户通信。显示器1054可为例如TFT(薄膜晶体管液晶显示器)显示器或OLED(有机发光二极管)显示器,或其他合适的显示器技术。显示器接口1056可包括用于驱动显示器1054以向用户呈现图形和其他信息的适当电路。控制接口1058可从用户接收命令并且将它们转换以提交给处理器1052。此外,外部接口1062可提供与处理器1052的通信,以便实现移动计算装置1050与其他装置的近区域通信。外部接口1062在一些实施方式中可提供例如有线通信,或在其他实施方式中可提供无线通信,并且也可使用多个接口。
存储器1064存储移动计算装置1050内的信息。存储器1064可被实施为一个或多个计算机可读介质、一个或多个易失性存储器单元或一个或多个非易失性存储器单元中的一者或多者。还可提供扩展存储器1074并且通过扩展接口1072将其连接到移动计算装置1050,所述扩展接口可包括例如SIMM(单列直插式存储器模块)卡接口。扩展存储器1074可为移动计算装置1050提供额外的存储空间,或者也可为移动计算装置1050存储应用程序或其他信息。具体地,扩展存储器1074可包括执行或补充上文描述的过程的指令,并且还可包括安全信息。因此,例如,扩展存储器1074可被提供为移动计算装置1050的安全模块,并且可被编程有准许安全使用移动计算装置1050的指令。此外,可经由SIMM卡提供安全应用程序以及附加信息,诸如以不可破解的方式将识别信息置于SIMM卡上。
存储器可包括例如闪存存储器和/或NVRAM存储器(非易失性随机存取存储器),如下文所讨论。在一些实施方式中,指令存储在信息载体中,并且指令在由一个或多个处理装置(例如,处理器1052)执行时执行一种或多种方法,诸如上文描述的那些方法。指令还可由一个或多个存储装置存储,诸如一个或多个计算机或机器可读介质(例如,存储器1064、扩展存储器1074或处理器1052上的存储器)。在一些实施方式中,可例如通过收发器1068或外部接口1062在传播信号中接收指令。
移动计算装置1050可通过通信接口1066无线地通信,所述通信接口在必要时可包括数字信号处理电路。通信接口1066可在各种模式或协议下提供通信,所述模式或协议诸如为GSM语音呼叫(全球移动通信系统)、SMS(短消息服务)、EMS(增强型消息服务)或MMS消息(多媒体消息服务)、CDMA(码分多址)、TDMA(时分多址)、PDC(个人数字蜂窝)、WCDMA(宽带码分多址)、CDMA2000或GPRS(通用分组无线电服务)等。例如,这种通信可使用射频通过收发器1068来进行。此外,可能进行短距离通信,诸如使用Wi-FiTM或其他这样的收发器(未示出)。此外,GPS(全球定位系统)接收器模块1070可向移动计算装置1050提供附加的导航和位置相关无线数据,所述无线数据可由在移动计算装置1050上运行的应用程序在适当时使用。
移动计算装置1050还可使用音频编解码器1060进行可听通信,所述音频编解码器可从用户接收口头信息并且将其转换为可用的数字信息。音频编解码器1060同样可为用户生成可听声音,诸如通过扬声器,例如在移动计算装置1050的听筒中。这种声音可包括来自语音电话呼叫的声音,可包括记录的声音(例如,语音消息、音乐文件等),并且还可包括由在移动计算装置1050上运行的应用程序生成的声音。
移动计算装置1050可以许多不同形式实施,如图所示。例如,它可被实施为蜂窝电话1080。它也可被实施为智能电话1082、个人数字助理或其他类似的移动装置的一部分。
此处描述的系统和技术的各种实施方式可在数字电子电路、集成电路、专门设计的ASIC(专用集成电路)、计算机硬件、固件、软件和/或其组合中实现。这些不同的实施方式可包括能够在可编程系统上执行和/或解释的一个或多个计算机程序中的实施方式,所述可编程系统包括:可为专用或通用的至少一个可编程处理器,所述至少一个可编程处理器被耦合以从存储系统、至少一个输入装置和至少一个输出装置接收数据和指令并且向所述存储系统、至少一个输入装置和至少一个输出装置传输数据和指令。
这些计算机程序(也被称为程序、软件、软件应用程序或代码)包括用于可编程处理器的机器指令,并且可以高级程序语言和/或面向对象的编程语言实施,和/或以汇编语言/机器语言实施。如本文所用,术语机器可读介质和计算机可读介质是指用于向可编程处理器提供机器指令和/或数据的任何计算机程序产品、设备和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括接收机器指令作为机器可读信号的机器可读介质。术语机器可读信号是指用于向可编程处理器提供机器指令和/或数据的任何信号。
为了提供与用户的交互,此处描述的系统和技术可被实施在计算机上,所述计算机具有用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或LCD(液晶显示器)监视器)以及用户可用来将输入提供到计算机的键盘和定点装置(例如,鼠标或轨迹球)。其他种类的装置也可用于提供与用户的互动;例如,提供给用户的反馈可为任何形式的感官反馈(例如,视觉反馈、听觉反馈或触觉反馈);并且来自用户的输入可以任何形式接收,包括声音、语音或触觉输入。
可在计算系统中实施此处描述的系统和技术,所述计算系统包括后端部件(例如,数据服务器),或包括中间件部件(例如,应用服务器),或包括前端部件(例如,具有图形用户界面或网络浏览器的客户端计算机,客户可通过它们与此处描述的系统和技术的实施方式互动),或此类后端、中间件或前端部件的任何组合。系统的部件可通过任何数字数据通信形式或介质(例如,通信网络)互连。通信网络的示例包括局域网(LAN)、广域网(WAN)和互联网。
计算系统可包括客户端和服务器。客户端和服务器通常彼此远离并且典型地通过通信网络进行交互。客户端和服务器的关系借助于相应计算机上运行且彼此具有客户端-服务器关系的计算机程序来产生。
上文描述了本公开的某些实施方案。然而,明确指出,本公开不限于那些实施方案,而是对本公开中明确描述的内容的添加和修改也意图包括在本公开的范围内。此外,应当理解,本公开中描述的各种实施方案的特征不是相互排斥的,并且在不脱离本公开的精神和范围的情况下,可以各种组合和排列存在,即使这些组合或排列未曾表达出来。已经具体参考本公开的某些实施方案详细描述了本公开,但应当理解,在所要求保护的本发明的精神和范围内可实现变化和修改。
Claims (59)
1.一种向用户提供实时样本监测信息的方法,所述方法包括:
由计算装置的处理器在不扫描微型光学元件阵列或样本的情况下至少部分地基于从所述阵列中的微型光学元件(例如,折射透镜、菲涅耳波带片、反射物镜和梯度折射率(GRIN)透镜)接收到的样本光(例如,荧光)而实时地生成(例如,并显示)所述样本的一个或多个图像(例如,视频帧)[例如,其中成像系统包括所述微型光学元件阵列,并且在生成(例如,并显示)所述一个或多个图像时不移动(例如,扫描)所述成像系统的任何部分]。
2.如权利要求1所述的方法,其中对于所述一个或多个图像中的每一个,所述图像中的相邻像素代表针对所述样本中的不同位置从所述微型光学元件中的微型光学元件接收到的所述样本光(例如,荧光)的部分,所述不同位置隔开所述阵列的特性距离(例如,对应于所述微型元件阵列的间距)(例如,所述微型光学元件中的相邻微型光学元件的光点尺寸中心的间隔)。
3.如权利要求1或权利要求2所述的方法,其中所述阵列在所述生成(例如,以及所述显示)期间保持在固定位置。
4.如前述权利要求中任一项所述的方法,其中所述样本在所述生成期间不受干扰。
5.如前述权利要求中任一项所述的方法,其中所述一个或多个图像中的每一个的图像像素对应于从所述阵列中的微型光学元件接收到的样本光(例如,荧光)。
6.如权利要求2-5中任一项所述的方法,其中所述图像像素单独对应于从所述阵列中的相应微型光学元件接收到的样本光(例如,荧光)。
7.如权利要求2-6中任一项所述的方法,其中所述图像像素中的每一个对应于从所述阵列中的所述微型光学元件中的一个接收到的样本光(例如,并且其中所述阵列中的所述微型光学元件中的每一个对应于所述图像像素中的唯一一个)(例如,其中所述图像像素中的每一个对应于从所述阵列中的所述微型光学元件中的相应一个接收到的样本光)。
8.如前述权利要求中任一项所述的方法,所述方法包括(例如,由所述处理器自动地)确定在所述一个或多个图像中的一个或多个中是否呈现气泡。
9.如权利要求8所述的方法,其中确定是否呈现气泡包括由所述处理器自动地确定(例如,在例如至少1s、至少2s或至少5s的时间段内)在所述一个或多个图像中的所述一个或多个中是否存在具有零像素值的大于阈值区域的图像像素区域(例如,对应于所述阵列中不超过50、不超过25、不超过10或不超过5个微型光学元件的群组的尺寸)。
10.如权利要求8或权利要求9所述的方法,其中确定是否呈现气泡包括由所述处理器自动地确定(例如,在例如至少1s、至少2s或至少5s的时间段内)在所述一个或多个图像中的所述一个或多个中是否存在具有零像素值的图像像素区域的由具有非零像素值的图像像素限定的周界。
11.如权利要求8-10中任一项所述的方法,所述方法包括响应于确定在所述一个或多个图像中的所述一个或多个中没有呈现气泡而(例如,通过对所述样本进行加权和/或重新定位)调整所述样本。
12.如前述权利要求中任一项所述的方法,所述方法包括(例如,由所述处理器自动地)确定所述样本在所述一个或多个图像中的一个或多个中是否具有焦点对准的足够大的区域。
13.如权利要求12所述的方法,其中确定所述样本是否具有所述焦点对准的足够大的区域包括由所述处理器自动地确定具有非零像素值的图像像素区域是否高于预定阈值(例如,由所述用户例如基于样本尺寸而设定)。
14.如权利要求12或权利要求13所述的方法,其中确定所述样本是否具有所述焦点对准的足够大的区域包括由所述处理器自动地确定具有非零像素值的所述图像像素中的多个图像像素的凸包在某一时间段(例如,至少1s、至少2s或至少5s)内是否变化不超过10%(例如,不超过5%或不超过1%)。
15.如权利要求12-14中任一项所述的方法,所述方法包括响应于确定所述样本在所述一个或多个图像中的所述一个或多个中是否具有所述焦点对准的足够大的区域而(例如,通过对所述样本进行加权和/或重新定位)调整所述样本。
16.如前述权利要求中任一项所述的方法,所述方法包括响应于所述一个或多个图像而在所述生成(例如,以及所述显示)期间调整所述样本。
17.如前述权利要求中任一项所述的方法,其中所述样本在所述生成(例如,以及所述显示)期间能够由用户触及[例如,所述样本设置在成像期间允许(例如,横向)样本触及的样本盘上]。
18.如前述权利要求中任一项所述的方法,所述方法包括基于所述一个或多个图像[例如,基于确定所述一个或多个图像中的一个或多个足以指示所述样本已经稳定(例如,自稳定)]而启动所述样本的成像,其中对所述样本进行成像包括扫描所述微型光学元件阵列。
19.如权利要求18所述的方法,所述方法包括响应于确定所述一个或多个图像中的一个或多个足以指示所述样本已经稳定(例如,自稳定)而由所述处理器自动地启动所述成像。
20.如权利要求19所述的方法,其中确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定是由所述处理器自动地进行。
21.如权利要求20所述的方法,其中确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定包括由所述处理器确定在所述一个或多个图像中的所述一个或多个中没有呈现气泡。
22.如权利要求20或权利要求21所述的方法,其中确定所述一个或多个图像中的所述一个或多个足以指示所述样本已经稳定包括由所述处理器确定所述样本在所述一个或多个图像中的所述一个或多个中具有焦点对准的足够大的区域。
23.如前述权利要求中任一项所述的方法,其中所述一个或多个图像是灰度图像。
24.如权利要求1-22中任一项所述的方法,其中所述一个或多个图像是假彩色图像(例如,其中所述图像中的像素以紫色/粉色色度显示,例如模仿苏木精和伊红染色的光学显微镜图像)。
25.如权利要求2-24中任一项所述的方法,其中所述图像像素的色调、饱和度、亮度或其组合(例如,灰度值)对应于接收到的所述样本光的相对强度。
26.如前述权利要求中任一项所述的方法,所述方法包括由所述处理器基于比较在观察时段内从所述微型光学元件接收到的所述样本光而针对所述阵列中的(例如,所有)所述微型光学元件的至少一部分中的每一个确定所述样本光的稳定指数,其中所述一个或多个图像包括所述稳定指数的图形指示(例如,图标、阴影、图形或颜色)。
27.如权利要求26所述的方法,其中所述稳定指数在所述观察时段内是动态的。
28.如权利要求26或权利要求27所述的方法,其中所述稳定指数在所述观察时间段内基于从所述微型光学元件接收到的所述样本光的变化而变化。
29.如权利要求26-28中任一项所述的方法,所述方法包括由所述处理器通过比较在计算时段(例如,所述计算时段为所述观察时段的子集)内从所述微型光学元件接收到的所述样本光的强度的变化而确定所述稳定指数。
30.如权利要求29所述的方法,其中比较所述样本光的强度的所述变化包括由所述处理器确定在所述计算时段(例如,例如由用户设定的预定数量的检测器帧)内从所述微型光学元件中的每一个接收到的所述样本光的最小强度和最大强度。
31.如权利要求30所述的方法,其中所述最小强度和所述最大强度各自根据所述计算时段内所述微型光学元件的加权平均值(例如,指数加权平均值)(例如,加权时间平均值)(例如,其中一个或多个加权参数由用户设定)(例如,其中所述加权平均值是使用在超过一个连续时段内从所述微型光学元件接收到的样本光的强度来计算)来确定。
32.如权利要求30或权利要求31所述的方法,其中所述稳定指数是所述最大强度与所述最小强度之间的差值。
33.如前述权利要求中任一项所述的方法,其中所述一个或多个图像中的每一个包括区域,每个区域包括对应于所述区域的每一个微型光学元件的所述稳定指数的图形指示(例如,图标、阴影、图形或颜色)。
34.如权利要求33所述的方法,其中所述区域各自对应于至少9个微型光学元件(例如,至少16个微型光学元件、至少25个微型光学元件、至少49个微型光学元件或至少64个微型光学元件)的相应群组。
35.如权利要求33或权利要求34所述的方法,所述方法包括:
由所述处理器针对所述区域中的每一个确定对应于所述区域的所述微型光学元件的所述稳定指数的平均值;以及
由所述处理器基于所述平均值而生成所述区域的所述图形指示。
36.如权利要求35所述的方法,其中生成所述图形指示包括由所述处理器确定所述平均值是否超过一个或多个阈值(例如,多个阈值)(例如,由所述处理器接收作为来自所述用户的输入),使得所述图形指示指示所述一个或多个阈值是否被所述平均值超过(例如,基于透明度、亮度、饱和度、色调或其组合)。
37.如权利要求26-36中任一项所述的方法,其中所述一个或多个图像中的一个或多个包括部分地基于所述观察时段期间从所述阵列中的微型光学元件接收到的第一样本光(例如,荧光)的与所述稳定指数的所述图形指示组合的图像像素。
38.如权利要求37所述的方法,其中所述一个或多个图像中的所述一个或多个中的所述稳定指数的所述图形指示是基于所述第一样本光以及在所述第一样本光之前接收的第二样本光。
39.如前述权利要求中任一项所述的方法,其中所述一个或多个图像中的每一个的至少一部分包括区域,每个区域包括所述区域的稳定指数的相应图形指示(例如,图标、阴影、图形或颜色)。
40.如权利要求39所述的方法,所述方法包括由所述处理器基于所述一个或多个图像中的在所述一个或多个图像中的一个之前的一个或多个而确定所述一个或多个图像中的所述一个的所述稳定指数。
41.如前述权利要求中任一项所述的方法,其中所述一个或多个图像中的每一个的至少一部分包括区域,每个区域包括针对所述区域的所述样本的运动的相应图形指示。
42.如权利要求26-41中任一项所述的方法,其中所述图形指示是所述区域内的颜色(例如,绿色或黄色或红色)(例如,其中对于所述区域,所述图形指示是基于透明度、亮度、饱和度、色调或其组合)。
43.如权利要求26-42中任一项所述的方法,其中所述图形指示覆盖在对应于从所述阵列中的微型光学元件接收到的样本光(例如,荧光)的图像像素上。
44.如前述权利要求中任一项所述的方法,所述方法包括在生成所述一个或多个图像时由所述处理器显示所述一个或多个图像。
45.如权利要求44所述的方法,所述方法包括在某一时间段内重复地收集从所述微型光学元件接收到的所述样本光,使得以每秒至少4个图像(例如,每秒至少10个图像、每秒至少20个图像)的速率生成并显示所述一个或多个图像。
46.如前述权利要求中任一项所述的方法,其中实时地执行所述生成(例如,以及所述显示),使得所述生成(例如,以及所述显示)仅延迟处理所需的时间(例如,没有时间偏移)。
47.如前述权利要求中任一项所述的方法,其中所述一个或多个图像中的每一个中的图像像素对应于在不超过0.25s(例如,不超过0.1s、不超过0.05s、不超过0.025s、不超过0.01s或不超过0.005s)的时间段内从所述微型光学元件接收到的样本光。
48.如权利要求47所述的方法,其中所述时间段不超过0.005s。
49.如前述权利要求中任一项所述的方法,其中所述样本是新切除的组织样本(例如,所述组织样本已经利用染色剂进行荧光标记)。
50.如前述权利要求中任一项所述的方法,所述方法包括在检测器处接收所述样本光,其中生成(例如,并显示)所述一个或多个图像包括由所述处理器处理来自所述检测器的信号。
51.如前述权利要求中任一项所述的方法,其中在显示器上(例如,经由一个或多个图形用户界面)显示所述一个或多个图像。
52.如权利要求51所述的方法,其中所述显示器、所述处理器和所述微型光学元件阵列被包括在成像系统中(例如,移动成像系统)(例如,位于医院房间,例如手术室内)。
53.如前述权利要求中任一项所述的方法,其中所述阵列的所述微型光学元件具有不超过10μm(例如,不超过5μm、不超过2μm或不超过1μm)的横向光学分辨率。
54.如前述权利要求中任一项所述的方法,其中所述微型光学元件阵列被包括在点扫描成像系统(例如,共焦成像系统)中(例如,包括一个或多个孔口以在从所述微型光学元件阵列接收到失焦光时过滤所述失焦光)。
55.一种成像系统,所述成像系统包括(例如)处理器和一个或多个非暂时性计算机可读介质(例如,以及显示器和/或微型光学元件阵列),所述一个或多个介质上存储有指令,所述指令在由所述处理器执行时使所述处理器执行如权利要求1-10、12-14和17-53中任一项所述的方法。
56.一种向用户提供实时样本监测信息的方法,所述方法包括:
至少部分地基于从微型光学元件阵列中的微型光学元件(例如,折射透镜、菲涅耳波带片、反射物镜和梯度折射率(GRIN)透镜)接收到的样本光(例如,荧光)而实时地生成(例如,并显示)样本的一个或多个图像(例如,视频帧),
其中对于所述一个或多个图像中的每一个,所述图像中的相邻像素代表针对所述样本中的不同位置从所述微型光学元件中的微型光学元件接收到的所述样本光(例如,荧光)的部分,所述不同位置隔开所述阵列的特性距离(例如,对应于所述微型光学元件阵列的间距)(例如,所述微型光学元件中的相邻微型光学元件的光点尺寸中心的间隔)。
57.如权利要求56所述的方法,其中在所述生成(例如,以及所述显示)期间不对(i)所述阵列和(ii)所述样本中的任一者进行扫描。
58.如权利要求56或权利要求57所述的方法,其中所述微型光学元件阵列被包括在点扫描成像系统(例如,共焦成像系统)中(例如,包括一个或多个孔口以在从所述微型光学元件阵列接收到失焦光时过滤所述失焦光)。
59.如权利要求55所述的成像系统,其中所述成像系统是点扫描成像系统(例如,共焦成像系统)(例如,包括一个或多个孔口以在从所述微型光学元件阵列接收到失焦光时过滤所述失焦光)。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US63/229,258 | 2021-08-04 | ||
US202163232120P | 2021-08-11 | 2021-08-11 | |
US63/232,120 | 2021-08-11 | ||
PCT/EP2022/071873 WO2023012241A1 (en) | 2021-08-04 | 2022-08-03 | Systems and methods for providing live sample monitoring information with parallel imaging systems |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117881994A true CN117881994A (zh) | 2024-04-12 |
Family
ID=90583338
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280059038.9A Pending CN117881994A (zh) | 2021-08-04 | 2022-08-03 | 用于利用并行成像系统提供实时样本监测信息的系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117881994A (zh) |
-
2022
- 2022-08-03 CN CN202280059038.9A patent/CN117881994A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6947841B2 (ja) | 病理学用の拡張現実顕微鏡 | |
EP3776458B1 (en) | Augmented reality microscope for pathology with overlay of quantitative biomarker data | |
JP6900581B1 (ja) | 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測 | |
US9013570B2 (en) | Microscope and area determination method | |
US20230085827A1 (en) | Single-shot autofocusing of microscopy images using deep learning | |
US11328185B2 (en) | Noninvasive, label-free, in vivo flow cytometry using speckle correlation technique | |
US11318471B2 (en) | Method and system for optofluidic stretching of biological cells and soft particles | |
WO2017150194A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20220334371A1 (en) | Intelligent automated imaging system | |
US20090010504A1 (en) | Confocal Microscope Apparatus | |
WO2018140773A1 (en) | Widefield, high-speed optical sectioning | |
FR3015222B1 (fr) | Procede de traitement d'images medicales par suivi de regard | |
WO2014070082A1 (en) | Quantitative phase microscopy for label-free high-contrast cell imaging | |
JP2015057682A (ja) | 画像生成装置および画像生成方法 | |
WO2018061429A1 (ja) | 撮影画像評価装置および方法並びにプログラム | |
JP2022001983A (ja) | 画像処理方法、プログラムおよび記録媒体 | |
CN117881994A (zh) | 用于利用并行成像系统提供实时样本监测信息的系统和方法 | |
US20200074628A1 (en) | Image processing apparatus, imaging system, image processing method and computer readable recoding medium | |
US11050931B2 (en) | Control device and control method | |
US20230058111A1 (en) | Systems and methods for providing live sample monitoring information with parallel imaging systems | |
JP2012198139A (ja) | 画像処理プログラム、画像処理装置、計測解析装置及び画像処理方法 | |
JP2016192923A (ja) | 判定装置、判定システム、判定プログラム、細胞の製造方法、及び細胞 | |
EP4249850A1 (en) | Controller for an imaging system, system and corresponding method | |
US20210248746A1 (en) | Systems and methods for imaging samples with reduced sample motion artifacts | |
JP6534294B2 (ja) | 撮像装置および方法並びに撮像制御プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination |