本申请要求于2018年8月16日提交的美国临时专利申请第62/719,129号和于2018年8月16日提交的美国临时专利申请第62/764,886号的优先权权益,其内容通过引用整体并入本文。本文提及的任何出版物或专利文献的全部公开内容通过引用整体并入。
示例性实施例的详细说明
以下详细描述通过示例而非限制的方式示出了本发明的一些实施例。本文使用的章节标题和副标题仅用于组织目的,而不应被解释为以任何方式限制所描述的主题。章节标题和/或字幕下的内容不限于章节标题和/或字幕,而是适用于本发明的整个描述。
任何出版物的引用是由于其公开早于申请日,不应被解读为承认本发明的权利要求因在先发明而无权先于这些出版物。此外,所提供的公开日期可以不同于实际的公开日期,实际的公开日期可能需要被独立地确认。
在用于测定样品中的分析物的基于图像的测定中,成像器用于创建在样品保持器中的样品的图像,并且所述图像用于确定所述分析物或所述样品的性质以用于测定。
然而,许多因子可能使图像失真(即,不同于真实样品或在非理想条件下的图像)。图像失真可导致分析物性质的确定不准确。例如,一个事实是聚焦不良,因为生物样品本身不具有在聚焦中优选的尖锐边缘。当聚焦差时,对象尺寸将不同于真实对象尺寸,并且其它对象(例如,血细胞)可能变得无法识别。另一个示例是透镜可能不是完美的,导致样品的不同位置具有不同程度的失真。另一个示例是样品保持器不在光学成像系统的同一平面中,导致在一个区域中的良好聚焦和在另一个区域中的不良聚焦。
本发明涉及在基于图像的测定中能够从失真图像获得“真实”图像的装置和方法,因此改善了测定的准确度。
本发明的一个方面是使用具有平行于相邻表面的光学可观察平坦表面的监测标记的装置和方法。
本发明的另一方面是使用QMAX卡来使至少一部分样品在QMAX卡的样品保持区域中形成均匀厚度层并使用卡上的监测标记来改善测定准确度的装置和方法。
本发明的另一方面是在基于图像的测定中使用监测标记以及计算成像、人工智能和/或机器学习的装置和方法。
除非另外定义,否则本文使用的所有技术和科学术语具有与本公开所属领域的普通技术人员通常理解的相同含义。尽管与本文所述类似或等同的任何方法和材料也可用于实践或测试本教导,但现在描述一些示例性方法和材料。
术语“横向尺寸”是指被成像的薄样品层的平面中的线性尺寸。
术语“真实横向尺寸(TLD)”和“视场(FoV)”是可互换的。
术语“样品中的微特征”可指样品中的分析物、微结构和/或物质的微变化。分析物是指颗粒、细胞、大分子,例如蛋白质、核酸和其它部分。微结构可以指不同材料的微尺度差异。微变化是指样品局部性质的微尺度变化。微变化的示例是局部光学指数和/或局部质量的变化。细胞的示例是血细胞,例如白血细胞、红血细胞和血小板。
如本文所用,术语“样品”涉及含有一种或多种感兴趣的分析物或实体的材料或材料混合物。在某些实施例中,样品是来自受试者的体液样品。在一些情况下,可以提供固体或半固体样品。该样品可以包括从受试者收集的组织和/或细胞。样品可以是生物样品。生物样品的示例可以包括但不限于血液、血清、血浆、鼻拭子、鼻咽洗液、唾液、尿液、胃液、脊髓液、泪液、粪便、粘液、汗液、耳垢、油脂、腺体分泌物、脑脊髓液、组织、精液、阴道分泌物、源自肿瘤组织的间质液、眼液、脊髓液、咽喉拭子、呼出的冷凝物(例如呼吸)、毛发、指甲、皮肤、活组织检查、胎盘液、羊水、脐带血、淋巴液、腔液、痰液、脓液、微生物群、胎粪、母乳和/或其它排泄物。样品可包括鼻咽洗液。鼻拭子、咽喉拭子、粪便样品、毛发、指甲、耳垢、呼吸和其它固体、半固体或气体样品可在其分析之前在提取缓冲液中处理(例如固定或可变量的时间)。如果需要,提取缓冲液或其等分试样然后可以类似于其它流体样品进行处理。受试者的组织样品的示例可包括但不限于结缔组织、肌肉组织、神经组织、上皮组织、软骨、癌样品或骨。在具体的实施例中,可以从受试者例如人获得样品,并且可以在用于受试者测定之前对其进行处理。例如,在分析之前,可以在使用之前从组织样品中提取蛋白质/核酸,其方法是已知的。在特定实施例中,样品可以是临床样品,例如,从患者收集的样品。样品还可以是食物、环境等的样品。一些样品具有可变形但不可自由流动的形状(例如,痰液)。
术语“分析物”是指适合于在本发明中测试的任何物质。分析物包括但不限于原子、分子(例如,蛋白质、肽、DNA、RNA、核酸或其它分子)、细胞、组织、病毒、细菌和具有不同形状的纳米颗粒。生物标记物是分析物。
如本文所用,术语“确定”、“测量”和“评估”以及“测定”可互换使用,并且包括定量和定性确定。
如本文所用,术语“发光的标签”是指当在外部激发下时能够发射光的标签。这可以是发光的。荧光标签(其包括染料分子或量子点)和发光标签(例如,电致或化学发光标签)是发光的标签的类型。外部激发是荧光的光(光子)、电致发光的电流和化学发光的化学反应。外部激发可以是上述的组合。
短语“经标记的分析物”是指用发光的标签可检测地标记的分析物,使得可通过评估标签的存在来检测分析物。被标记的分析物可被直接标记(即,分析物本身可直接缀合至标签,例如通过强键,例如共价键或非共价键),或者被标记的分析物可被间接标记(即,分析物被直接标记的第二捕获剂结合)。
关于核酸,术语“杂交”和“结合”可互换使用。
术语“杂交”是指一个或多个多核苷酸反应形成通过核苷酸残基碱基之间的氢键稳定的复合物的反应。氢键可以通过沃森-克里克碱基配对、Hoogstein结合或以任何其他序列特异性方式发生。所述复合物可包含形成双链体结构的两条链、形成多链复合物的三条或更多条链、单一自杂交链或这些的任何组合。
如本领域技术人员已知的,杂交可以在各种严格性的条件下进行。合适的杂交条件使得捕获序列和目标核酸之间的识别相互作用是足够特异性和足够稳定的。提高杂交反应严格性的条件是本领域公知和公开的。参见,例如Green等人(2012),见下文。
术语“间隔件”和“光学校准标记”以及“光学校准标记”和“柱”是可互换的。
术语“测定”是指在但不限于实验室、医学、药理学、环境生物学、保健和分子生物学中的研究(分析)程序-用于但不限于定性地评估或定量地测量目标实体(即分析物)的存在、量、浓度或功能活性。该分析物可以是药物、生物化学物质,或生物体或有机样品(例如人血液)中的细胞。
术语“基于图像的测定”是指利用由成像器拍摄的样品的图像的测定程序,其中样品可以是但不限于医学、生物和化学样品。
术语“成像器”是指能够拍摄对象图像的任何装置。其包括但不限于显微镜中的相机、智能电话或可在各种波长下拍摄图像的特殊装置。
术语“样品特征”是指代表潜在感兴趣的条件的样品的一些性质。在某些实施例中,样品特征是出现在样品的图像中并且可以通过机器学习模型或一些其他算法来分割和分类的特征。样品特征的示例包括但不限于样品中的分析物类型,例如红细胞、白细胞和肿瘤细胞,并且其包括分析物形状、计数、尺寸、体积、浓度等。
术语“样品中的缺陷”是指不应在理想样品条件下存在或不应在样品中考虑的异物和伪影。它们可以来自但不限于污染物,例如灰尘、气泡等,以及来自外围对象,包括样品中的结构对象,例如样品保持装置中的监测标记(例如柱)。样品中的缺陷可以具有显著的尺寸并且在样品中占据显著量的体积以用于测定,例如气泡,其中它们可以在样品中以不同的形状、尺寸、量和浓度出现,并且它们也随样品的不同而具有样品依赖性。
术语分析物的“形态特征”是指分析物的外观(例如形状、颜色、尺寸等)和结构。
术语“单应变换”是指由射影空间的同构引起的一类共线变换。它在图像处理领域是已知的,并且应用于相机模型中以表征真实世界中的图像平面和对应的物理平面。
术语“机器学习”是指人工智能领域中的算法、系统和设备,其通常使用统计技术和人工神经网络来向计算机提供从数据“学习”(即,逐步改善对特定任务的性能)而不被明确编程的能力。
术语“人工神经网络”是指由生物网络启发的分层连接系统,其可以通过考虑示例“学习”以执行任务,通常不用任何任务专用规则来编程。
术语“卷积神经网络”是指一类最常应用于分析视觉图像的多层前馈人工神经网络。
术语“深度学习”是指从具有一定深度网络结构的数据中学习的人工智能(AI)中的一大类机器学习方法。
术语“机器学习模型”是指从数据的机器学习中的训练过程构建的训练的计算模型。训练的机器学习模型在推断阶段由计算机应用,该计算机给予计算机执行特定任务(例如,检测和分类对象)的能力。机器学习模型的示例包括ResNet、DenseNet等,由于其分层网络结构的深度,其也被称为“深度学习模型”。
术语“图像分割”是指将数字图像划分成多个图像补丁段(像素组,通常具有覆盖由它们的段边界轮廓包围的图像段的一组位图掩模)的图像分析过程。图像分割可以通过图像处理中的图像分割算法来实现,例如watershed、grabcut、均值偏移等,并且它也可以通过专用机器学习算法来实现,例如MaskRCNN等。
A.固相表面上的监测标记
A1-1.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触包含微特征的样品的样品接触区域;以及
(b)一个或多个监测标记,其中所述监测标记:
i.由与样品不同的材料制成;
ii.在测定微结构期间位于样品内部,其中样品在样品接触区域上形成厚度小于200um的薄层;
iii.具有约1um(微米)或更大的横向线性尺寸,以及
iv.具有至少一个300um或更小的横向线性尺寸;以及
其中在该测定过程中,该成像器对至少一个监测标记进行成像
其中在测定所述分析物期间使用;并且监测标记的几何参数(例如形状和尺寸)和/或监测标记之间的间距是(a)在分析物测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数。
A1-2.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
固相表面,其包含用于接触包含微特征的样品的样品接触区域;以及
一个或多个监测标记,其中每个监测标记包含来自固相表面的突出或沟槽,其中:
i.突出或沟槽包括基本上平行于相邻表面的平坦表面,该相邻表面是固相表面的与突出或沟槽相邻的部分;
ii.平坦表面与相邻表面之间的距离为约200微米(um)或更小;
iii.平坦表面,具有(a)线性尺寸为至少约1um或更大,和(b)至少一个线性尺寸150um或更小的区域;
iv.至少一个监测标记的平坦表面由在测定微特征时使用的成像器成像;以及
v.平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距是(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数。
B.QMAX卡上的监测标记
A2-1.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板、间隔件和一个或多个监测标记,其中:
i.第一板和第二板可相对于彼此移动成不同的构造;
ii.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含微特征的样品的样品接触区域;
iii.第一板和第二板中的一个或两个包含永久固定在相应板的内表面上的间隔件,
iv.间隔件具有等于或小于200微米的基本上均匀的高度和固定间隔距离(ISD);
v.监测标记采用与样品不同的材料制成;
vi.在测定微结构期间监测标记位于样品内部,其中样品在样品接触区域上形成厚度小于200um的薄层;以及
vii.监测标记具有约1um(微米)或更大的横向线性尺寸,并且具有至少一个300um或更小的横向线性尺寸;
其中在该测定过程中,该成像器对至少一个监测标记进行成像
其中在测定微特征的过程中使用;并且平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数;
其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在一个或两个板上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(i)与间隔件不同的结构,或(ii)用作间隔件的相同结构。
A2-2.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板、间隔件和一个或多个监测标记,其中:
i.第一板和第二板可相对于彼此移动成不同的构造;
ii.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含微特征的样品的样品接触区域;
iii.一个或两个第一板和第二板包含永久固定在相应板的内表面上的间隔件;
iv.间隔件具有等于或小于200微米的基本上均匀的高度和固定间隔距离(ISD);
v.每个监测标记在一个或两个样品接触区域上包含突出或沟槽;
vi.突出或沟槽包括基本上平行于相邻表面的平坦表面,该相邻表面是固相表面的与突出或沟槽相邻的部分;
vii.平坦表面与相邻表面之间的距离为约200微米(um)或更小;
viii.平坦表面,具有(a)线性尺寸为至少约1um或更大,和(b)至少一个线性尺寸150um或更小的区域;
ix.至少一个监测标记的平坦表面由在测定微特征时使用的成像器成像;以及
x.平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数。
其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在一个或两个板上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(i)与间隔件不同的结构,或(ii)用作间隔件的相同结构。
A3.一种用于基于图像的测定的装置,包含:
如任一前述装置实施例的装置,其中所述装置具有至少五个监测标记,其中所述监测标记中的至少三个未在线性线上对准。
A4.一种用于使用成像器测定样品中的分析物的装置,该系统包含:
(a)如任一前述装置实施例的装置;以及
(b)成像器,用于测定含有分析物的样品。
A5.一种用于执行基于成像的测定的系统,该系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于测定含有分析物的样品;以及
(c)利用该装置的监测标记来确定与分析物相关的特性的算法。
在一些实施例中,配置薄层的厚度,使得分析物在样品保持器中形成单层。术语“单层”是指在样品保持器内部的薄样品层中,在垂直于样品层平面的方向上,在两种相邻分析物之间基本上没有重叠。
C.具有计算成像人工智能和/或机器学习的监测标记
本发明的另一方面是利用具有计算成像、人工智能和/或机器学习的样品保持装置的柱或监测标记。它具有根据测量形成图像的过程,使用算法来处理图像并将图像中的对象映射到它们在真实世界中的实际尺寸。在本发明中应用机器学习(ML)来学习由ML模型捕获的,从由成像器拍摄的样品的图像构建和训练的样品中的对象的显著特征。在本发明的推断过程中构建并应用智能决策逻辑,以根据ML模型中嵌入的知识对样品中的目标对象进行检测和分类。
图9示出了本发明中用于TLD(真实横向尺寸)/FoV(视场)估计的过程100的框图。在过程100的各种实现中,动作可被去除、组合或分解成子动作。该过程在动作模块101处开始,其中该过程捕获用于测定的样品的图像,其中该图像是由该样品保持装置上方的成像器例如QMAX卡拍摄的,其具有柱或监测标记以及在QMAX卡上的监测标记的前面部分中描述的结构。来自动作模块101的捕获到的图像作为输入被馈送给动作模块102,在动作模块102中,用于测定的图像被处理和搜索以检测和定位柱或监测标记的中心。在典型的实现中,过程102具有预先训练的机器学习模型M_柱,以检测用于测定的图像中的柱或监测标记。
如上所述,本发明中的柱或监测标记具有已知的形状和尺寸,通过高精度纳米压印制造工艺制造。此外,这些柱或监测标记以预定义的周期性图案分布在样品保持装置中,并且在它们之间具有已知的间距。本发明中的这些特征对于过程100变得关键,因为柱或监测标记小,约~30微米,在样品保持装置中被样品包围,并且在样品中的颗粒之间经受强光散射和衍射。此外,它们通常不在成像器的焦点上,因为成像器聚焦在用于基于图像的测定的样品中的分析物上,而不在样品保持器的结构上。因此,即使使用机器学习模型进行检测,也会发生误差,在其中,一些柱没有被检测到、被错误地检测到,或者被检测到错误的或不准确的中心位置,使得直接使用检测到的柱和中心位置变得不可靠,并且引入了用于TLD/FoV估计的误差。
如图9中所说明,动作模块103在过程100中从动作模块102取得所检测的柱及其中心,且其基于本发明中所描述的柱或监测标记的特性来执行后误差校正和估计细化。特别地,被检测的柱应当以预定义的已知周期性图案对准,并且两个相邻柱中心之间的距离应当经受已知的间距等。动作模块103所采取的动作是消除错误检测,将检测到的柱对准在制造已知的设计图案中,使用它们的分布的周期性来发现其他,并且根据已知的周期性和它们之间的间距来调整柱中心的位置。由本发明中的动作模块102和103采取的动作的组合使得柱或监测标记检测对于TLD/FoV估计的精度是鲁棒的。
在过程100的动作模块103中,其基于来自动作模块102和103的检测到的柱中心估计单应变换。在图像处理领域中,单应变换是已知的,其中由成像器在样品上拍摄的图像通过在正拍摄的图像中的对象和在其上成像的真实世界中的实际对象之间的透视投影来建模。该透视投影可以通过以下描述的变换矩阵H描述的单应变换(又名透视变换)来表征:
由x′=Hx,表示,其中H是3×3非奇异同质矩阵,其将由成像器拍摄的图像中的对象映射到正被成像的实际样品计划中的对象,根据该矩阵,由成像器拍摄的图像中的对象的长度或面积被映射到其在真实世界中的实际尺寸,并且通过该矩阵,对象的TLD/FoV及其在图像中的实际尺寸可以被确定。
然而,为了确定变换矩阵H,需要知道与H从成像器拍摄的图像到被成像的实际样品计划的映射相对应的至少4对点。并且这4对点用作锚,其结合由成像器拍摄的图像和通过它们之间的单应变换成像的实际样品计划,并且其需要至少4个非共线的柱中心以使得H矩阵非奇异。通过动作模块102中的动作,并通过应用动作模块103中的柱或监测标记的结构特征,可以检测4个以上的非共线柱中心点,并基于样品保持装置中的柱或监测标记的结构特征确定它们在实际图像平面中的对应位置。这样,过程100的动作模块104基于来自动作模块103的检测到的柱中心来估计用于TLD/FoV估计的单应变换矩阵H。此外,在动作模块104中,其在随后的基于图像的测定过程中使用所估计的变换矩阵H进行TLD/FoV估计。
在本发明中,从训练数据构建用于柱或监测标记检测的专用机器学习模型。在本发明的一些实施例中,柱和监测标记检测直接在用于测定的图像上执行。图10示出了用于在用于测定的原始输入图像上构建用于柱或监测标记检测的机器学习模型的过程200的框图。该过程开始于动作模块201,其中该过程从训练数据库DB0中的成像器获得用于测定的一组图像。这些图像通过在样品保持装置(例如QMAX卡)中对样品拍摄图像来收集。在动作模块202中,从DB0获取每个训练图像,并标记每个图像中的柱或监测标记。将标记的图像保存在第二训练数据库DB1中进行机器学习模型训练。该训练数据集DB1专门用于训练机器学习模型以检测柱或监测标记,其不同于用于检测样品中的分析物的典型训练数据库。
在动作模块203中,从动作模块202取得新的训练数据库DB1,并选择深度神经网络形式的机器学习模型结构,以针对训练数据库DB1训练该模型。在本发明的一些实施例中,使用RetinaNet的机器学习模型,并且在一些其他实施例中,选择Fast-RCNN的机器学习模型。使用用于柱或监测标记检测的训练数据库DB1,使用Tensorflow和PyTourch来训练机器学习模型。过程200以动作模块205结束,在其中验证并保存从动作模块204获得的机器学习模型以用于测定应用。
图11是为用于柱和监测标记检测的基于图像变换的机器学习方法创建专门训练数据库的框图。过程300以动作模块301开始,动作模块301获取由成像器拍摄的用于测定的图像组成的训练图像数据库DB1A。在动作模块302中,针对柱或监测标记对来自DB1A的图像进行标记。DB1A中的标记图像是动作模块303的输入,其中通过沿着标记柱或监测标记的轮廓用白色掩模覆盖标记柱或监测标记来对标记图像进行变换。来自动作模块303的变换后的图像是对动作模块304的输入,其中通过将黑色掩模应用于图像中未被来自动作模块303的白色掩模覆盖的区域来进一步变换图像。在本发明中,对于柱使用白色掩模并且对于未被白色掩模覆盖的区域使用黑色掩模具有两个优点。一种是最大化柱和其它区域之间的对比度,第二种是抑制背景中的噪声,使得随后对柱或监测标记及其中心的检测更鲁棒。在动作模块304中,由302和303变换的图像被验证并被保存在新的目标图像训练数据库DB2A中,以在柱或检测标记检测中训练图像变换模型。
图12示出了构建用于柱和监测标记检测的基于图像变换的机器学习模型的框图。过程400以动作模块401开始。动作模块401装载由成像器拍摄的图像组成的训练图像数据库DB1A以进行测定。动作模块402装载通过使用先前描述的过程300对DB1A中的图像进行变换而获得的目标图像训练数据库DB2A。在动作模块403中,其将来自动作模块402的训练图像数据库DB1A和成对目标图像训练数据库DB2A作为训练目标。其选择机器学习框架来训练机器学习模型,该机器学习模型将成像器拍摄的用于测定的原始图像变换成目标图像训练数据库中的白柱或监测掩模以及黑背景的新图像。在本发明的一些实施例中,选择像素到像素(PP)变换的机器学习框架,而在本发明的一些其他实施例中,使用CycleGAN的机器学习框架。动作模块403使用来自过程300的训练图像数据库DB1A和成对目标图像变换数据库DB2A训练机器学习模型TModel。在本发明的实施例中,柱和监测标记检测包含以下动作:
1.将用于测定的图像作为输入;
2.应用图像变换模型TModel对输入图像进行变换,以对具有覆盖柱或监测标记的白色掩模的图像进行测定,并且用本文所述的黑色掩模覆盖其余区域;
3.检测变换后的图像中的柱或监测标记;
4.将检测到的柱或监测标记中心重新映射回原始输入图像;
5.使用来自样品保持装置中的预先设计的柱或监测标记结构的约束,对检测到的柱或监测标记相对于原始输入图像的位置进行误差校正;
6.根据样品保持装置中已知分布结构的约束,确定检测柱或监测标记的中心并细化其在样品图像中的位置;以及
7.基于检测到的柱或监测标记中心估计样品的图像上的全纯变换,以确定用于后续基于图像的测定的TLD/FoV。
图17是由用于测定红细胞的成像器拍摄的样品的实际图像。明显的是,样品的图像中的噪声水平相当高,并且在样品的图像中,在样品保持器中的监测结构(例如柱或监测标记)上的焦点较差,因为在基于图像的测定中,焦点是在分析物上,而不是在预转介(prereferal)上。这使得样品图像中的柱或监测标记的检测和定位具有挑战性。图18示出了在使用在此描述的系统和方法基于变换的图像测定红细胞中来自样品的图像的监测标记的柱的检测结果。
在本发明的一些实施例中,用于测定的图像被划分成不相交的补丁,并且如果在补丁中存在至少4个检测到的非共线柱中心,则针对每个图像补丁估计补丁依赖性全纯变换。否则,利用由图像中所有检测到的柱中心估计的全纯变换来确定基于图像的测定中的TLD/FoV。
使用感兴趣区域选择、体积估计和缺陷去除的微选择性图像测定
本文所述的TLD/FoV估计方法为基于图像的测定中的其它应用开辟了可能性。在本发明的一些实施例中,其用于去除在基于图像的测定中的缺陷,例如气泡、灰尘等。取决于环境、测定操作和用于测定的样品类型,样品中可能出现气泡和灰尘。为了更好地测定准确度,应从样品中去除用于测定的样品中的这些缺陷。然而,一旦这些缺陷发生并被捕获在样品保持装置的闭合空间中,这可能是极其困难的。而且,在许多情况下,该装置是压力密封的,不应该再次打开。
图15描绘了样品中出现气泡和灰尘的情况。在本发明的一些实施例中,其执行微选择性图像测定,包含:
1.将用于测定的样品的图像作为输入;
2.从(1)估计样品图像的TLD/FoV,以估计面积、尺寸和随后的样品体积;
3.通过训练的机器学习模型检测所述样品的图像中的缺陷,例如气泡、灰尘等,以用于对所述样品的图像中的这些缺陷进行测定和分割;
4.估计样品图像中分割缺陷的总面积,并通过使用来自(2)的估计TLD/FoV计算它们的实际面积大小,其利用样品保持装置的柱和监测标记;
5.根据来自(4)的面积估计和样品保持装置中的样品的已知高度,估计用于测定的样品的图像中与检测到的缺陷的总表面区域相对应的样品的实际体积;
6.去除样品的图像中的检测到的缺陷的表面区域以用于测定,并且通过从(5)减去缺陷体积估计来更新样品的总体积,缺陷体积估计对应于样品的图像中的检测到的缺陷的表面区域下的总体积;以及
7.使用来自(6)的更新的样品体积对更新的样品图像中的选定区域执行基于图像的测定。
在本发明的一些实施例中,从样品的图像中去除的区域大于具有余量Δ的检测到的缺陷的区域,并且因此,在基于图像的测定中根据放大的缺陷区域实际上去除了较大的体积。该操作的一个益处是进一步减少缺陷对测定结果的负面影响,因为分析物可以附着到缺陷上并且可以影响分析物分布的局部均匀性。
如本文所述,本发明关键使用了样品保持装置例如QMAX卡的结构,以及其中的柱或监测标记。特别地,由成像器在样品保持装置(例如QMAX卡)上拍摄的样品的图像是伪3D图像,因为样品保持装置中的样品的高度是先验已知的且是均匀的。这样,一旦可以获得其在原始样品计划中的实际面积大小,就可以确定与样品的图像中的对象的表面区域相对应的样品体积。
为了获得原始样品计划中的实际面积的估计,利用样品保持装置中的柱或监测标记的结构来进行更可靠的TLD/FoV估计。这导致了在基于图像的测定中微选择性图像测定的范例,通过该范例,测定过程可以从由成像器拍摄的样品的图像中选择特定的区域/体积用于测定。
例如,在本发明的一些实施例中,它选择分析物不形成簇的特定区域,选定区域的样品体积由样品的图像和样品保持装置中样品的均匀高度确定。
在一些实施例中,其基于更少的缺陷、更好的信噪比、聚焦条件等来选择样品的图像中的区域,以获得更好的测定准确度。用于FoV估计的基于机器学习的柱和监测标记检测以及基于机器学习的缺陷检测和分割的组合以减少样品中的变化,使得本发明中描述的方法在基于图像的测定中灵活且有弹性。
使用监测标记监测测定操作
在一些实施例中,样品的厚度被配置为薄的厚度,使得感兴趣的对象(例如,细胞)形成单层(即,对象之间在垂直于样品层的方向上没有明显的重叠)。
同样地,一种使用成像器确定QMAX卡的制造质量的方法,包含:
(a)获得如任一前述实施例的装置,其中所述装置包含两个可移动板、间隔件和一个或多个监测标记,其中所述监测标记在所述样品接触区域中;
(b)获得成像器;
(c)在(a)的装置的样品接触区域中沉积样品,并迫使两个板进入闭合构造;
(d)使用成像器拍摄薄样品层的一个或多个图像;以及
(e)使用监测标记的图像确定QMAX卡的制造质量。
此外,一种使用成像器确定QMAX卡的制造质量的方法,所述方法包含:
(a)获得先前实施例中的装置,其中所述装置具有两个可移动板、间隔件和一个或多个监测标记,其中所述监测标记在所述样品接触区域中;
(b)获得成像器;
(c)在(a)的装置的样品接触区域中沉积样品,并迫使两个板进入闭合构造;
(d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记;以及
(e)使用监测标记的图像确定QMAX卡的制造质量。
如任一前述实施例的方法,其中确定所述制造质量包含测量一个或多个监测标记的特性(例如,长度、宽度、间距、厚边),并且将所测量的特性与参考值进行比较以确定所述QMAX卡的制造质量。
如任一前述实施例的方法,其中确定所述制造质量包含测量一个或多个第一监测标记的第一特性(例如,量、长度、宽度、间距、厚边),以及将所述测量的第一特性与一个或多个第二监测标记的第二特性(例如,数目、长度、宽度、间距、厚边)进行比较以确定所述QMAX卡的制造质量。
如任一前述实施例的方法,其中在使用如任一前述实施例的装置分析样品期间执行测定。
本发明的一个方面是为了使用具有两个可移动板的QMAX卡进行测定,可以使用放置在薄样品内的监测标记来监测QMAX卡的操作条件。操作条件可包括样品装载是否正确,两板是否正确闭合,两板之间的间隙是否与预定值相同或近似相同。
在一些实施例中,对于QMAX卡,其包含两个可移动板并且在闭合构造中在两个板之间具有预定间隙,通过在闭合构造中拍摄监测标记的图像来监测基于QMAX卡的测定的操作条件。例如,如果两个板没有正确闭合,则监测标记将在图像中与两个板正确闭合的情况不同地出现。被样品包围(正确闭合)的监测标记将具有与未被样品包围(未正确闭合)的监测标记不同的外观。因此,其可以提供关于样品装载条件的信息。一种用于使用监测标记来监测装置的操作条件的装置,包含第一板、第二板、间隔件和一个或多个监测标记,其中:
i.第一板和第二板可相对于彼此移动成不同的构造;
ii.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触被分析的样品的样品接触区域;
iii.一个或两个第一板和第二板包含永久固定在相应板的内表面上的间隔件;
iv.监测标记具有(a)预定和已知,以及(b)可由成像器观察的尺寸中的至少一个;
v.监测标记是具有至少一个300um或更小的横向线性尺寸的微结构;以及
vi.监测标记位于样品内部;
其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在一个或两个板上;
其中另一个构造是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加不精确按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中,在使这两个板达到闭合构造中使用了力之后,对该监测标记进行成像以确定(i)这两个板是否已经达到预期的闭合构造,由此将该样品厚度调节为大致预定的厚度,和/或(ii)确定样品是否已经根据需要装载。
在一些实施例中,监测标记的图像被用于确定这两个板是否已经达到预期的闭合构造,其中样品被调节成具有大约预定厚度的厚度。
在一些实施例中,监测标记的图像用于确定样品是否已经根据需要装载。
在一些实施例中,对该监测标记成像以确定这两个板是否已经达到其中将该样品厚度调节为预定厚度的预期闭合构造,并且确定样品是否已经根据需要装载。
在一些实施例中,间隔件用作监测标记。
在一些实施例中,系统包含设备和计算装置以及非暂时性计算机可读介质,非暂时性计算机可读介质具有在被执行时执行测定中的确定过程的指令。
在一些实施例中,具有指令的非瞬态计算机可读介质,这些指令在被执行时执行一种方法,该方法包含使用薄样品层的一个或多个图像以及监测标记来确定(i)这两个板是否已经达到预期的闭合构造,由此将该样品厚度调节为大致预定厚度,或(ii)样品是否已经根据需要装载。
在一些实施例中,系统包含非瞬态计算机可读介质,该非瞬态计算机可读介质具有在被执行时执行本公开的任何方法的指令。
W-1.一种用于使用监测标记来监测装置的操作条件的方法,该方法包括:
a)获得如任一前述实施例的装置,其中所述装置包含两个可移动板、间隔件和一个或多个监测标记,其中所述监测标记在所述样品接触区域中;
b)获得成像器;
c)在(a)的装置的样品接触区域中沉积样品,并迫使两个板进入闭合构造;
d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记;以及
e)使用监测标记的图像来确定(i)这两个板是否已经达到预期的闭合构造,由此将该样品厚度调节为大致预定厚度,或(ii)样品是否已经根据需要装载。
一些示例
单板
AA-1.1一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触厚度为200um或更小的薄样品的样品接触区域,并且包含或疑似包含微特征;以及
(b)一个或多个标记,其中所述标记:
I.具有尖锐边缘,其(i)具有预定且已知的形状和尺寸,并且(ii)可由成像微特征的成像器观察到;
II.是至少一个横向线性尺寸为300um或更小的微结构;以及
III.位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
AA-1.2一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触厚度为200um或更小的薄样品的样品接触区域,并且包含或疑似包括微特征;以及
(b)一个或多个标记,其中所述标记:
i.包含来自固相表面的突出或沟槽
ii.具有尖锐边缘,其(i)具有预定且已知的形状和尺寸,并且(ii)可由成像微特征的成像器观察到;
iii.是至少一个横向线性尺寸为300um或更小的微结构;以及
iv.位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
具有恒定间距的两个板
AA-2.1一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板和一个或多个监测标记,其中:
i.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含或疑似包含微特征的样品的样品接触区域;
ii.样品的至少一部分被该第一和第二板限定成具有200um或更小的基本上恒定的厚度的薄层;
iii.监测标记具有尖锐边缘,其(a)具有预定且已知的形状和尺寸,并且(b)可由成像微特征的成像器观察到;
iv.监测标记是至少一个横向线性尺寸为300um或更小的微结构;以及
v.监测标记位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
两个可移动版
AA-3一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
a.第一板、第二板、间隔件和一个或多个监测标记,其中:
ii.第一板和第二板可相对于彼此移动成不同的构造;
iii.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含或疑似包含微特征的样品的样品接触区域;
iv.第一板和第二板中的一个或两个包含永久固定在相应板的内表面上的间隔件,
v.监测标记具有尖锐边缘,其(a)具有预定且已知的形状和尺寸,并且(b)可由成像微特征的成像器观察到;
vi.监测标记是至少一个横向线性尺寸为300um或更小的微结构;以及
vii.监测标记位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像;
其中一个构造是开放构造,在开放构造中两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在一个或两个板上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加不精确按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(i)与间隔件不同的结构,或(ii)用作间隔件的相同结构。
使用具有微标记的样品保持器的图像拍摄改善
BB-1.一种用于改善样品中微特征的图像拍摄的设备,所述设备包含:
(c)如任一前述装置实施例的装置;以及
(d)成像器,用于测定包含或疑似包含微特征的样品;
其中所述成像器拍摄图像,并且其中至少一个图像包含样品的一部分和所述监测两者。
CB-2.一种用于改善样品中微特征的图像拍摄的系统,所述系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于测定包含或疑似包含微特征的样品;以及
(c)算法,其利用标记作为参数与成像处理方法一起调整成像器对下一图像的设置。
C.使用具有微标记的样品保持器的成像分析
CC-1一种用于改善对样品中的微特征的图像的分析的设备,所述设备包含:
(a)如任一前述装置实施例的装置;
(b)计算装置,用于接收包含或疑似包含微特征的标记和样品的图像;并且
其中计算装置运行算法,其利用作为参数标记与成像处理方法一起改善图像中的图像质量。
CC-2.一种用于改善对样品中的微特征的图像的分析的系统,所述系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于通过拍摄样品和标记的一个或多个图像来测定包含或疑似包含微特征的样品;以及
(c)算法,其利用标记作为参数与成像处理方法一起改善在(c)中拍摄的至少一个图像的图像质量。
CC-3一种用于测定样品中的微特征的计算机程序产品,所述程序包含应用并适用于至少一个图像的计算机程序代码:
(a)接收样品和监测标记的图像,其中将样品装入任一前述装置权利要求的装置中,其中图像由成像器拍摄;以及
(b)对所述图像进行处理和分析,以计算所述微特征的量,其中所述分析使用基于机器学习的检测模型和由所述监测标记的图像提供的信息。
CC-4一种用于分析样品中的微特征的计算装置,计算装置包含操作本发明的任一实施例中的算法的计算装置。
CC-5如任一前述实施例的方法、装置、计算机程序产品或系统,其中图像质量的改善包含选自由以下各项组成的组中的至少一个:去噪、图像归一化、图像锐化、图像缩放、对准、超分辨率、去模糊及其任何组合。
CC-6如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述成像处理方法包含选自由以下各项组成的组中的至少一个:基于直方图的运算、基于数学的运算、基于卷积的运算、平滑运算、基于导数的运算、基于形态的运算、阴影校正、图像增强和/或恢复、分割、特征提取和/或匹配、对象检测和/或分类和/或定位、图像理解及其任何组合。
CC-6.1如任一前述实施例的方法、装置、计算机程序产品或系统,其中基于直方图的运算包含选自由以下各项组成的组中的至少一个:对比度拉伸、均衡、最小滤波、中值滤波、最大滤波及其任何组合。
CC-6.2如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于数学的运算包含选自由以下各项组成的组中的至少一个:二进制运算(例如,NOT、OR、AND、XOR和SUB)、基于算术的运算(例如,ADD、SUB、MUL、DIV、LOG、EXP、SQRT、TRIG和INVERT)及其任何组合。
CC-6.3如任一前述实施例的方法、装置、计算机程序产品或系统,其中基于卷积的运算包含选自由以下各项组成的组中的至少一个:空间域中的运算、傅立叶变换、DCT、整数变换、频域中的运算及其任何组合。
CC-6.4如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述平滑运算包含选自由以下各项组成的组中的至少一个:线性滤波、均匀滤波、三角形滤波、高斯滤波、非线性滤波、中间滤波、kuwahara滤波及其任何组合。
CC-6.5如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于导数的运算选自由以下各项组成的组中的至少一个:一阶导数运算、梯度滤波、基本导数滤波、Prewitt梯度滤波、Sobel梯度滤波、备选梯度滤波、高斯梯度滤波、二阶导数滤波、基本二阶导数滤波、频域Laplacian、高斯二阶导数滤波、备选Laplacian滤波、梯度方向二阶导数(SDGD)滤波、三阶导数滤波、高阶导数滤波(例如,大于三阶导数的滤波)及其任何组合。
CC-6.6如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于形态的运算包含选自由以下各项组成的组中的至少一个:膨胀、侵蚀、布尔卷积、开和/或闭、命中和未命中操作、轮廓、骨架、传播、灰度值形态处理、灰度级膨胀、灰度级侵蚀、灰度级开、灰度级闭、形态平滑、形态梯度、形态Laplacian及其任何组合。
CC-6.7如任一前述实施例的方法、装置、计算机程序产品或系统,其中图像增强和/或恢复包含选自由以下各项组成的组中的至少一个:锐化、去锐化、噪声抑制、失真抑制及其任何组合。
CC-6.8如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述分割包含选自由以下各项组成的组中的至少一个:阈值化、固定阈值化、直方图导出阈值化、Isodata算法、背景对称性算法、三角形算法、边缘找寻、基于梯度的过程、基于零交叉的过程、基于PLUS的过程、二元数学形态学、椒盐过滤、分离具有孔的对象、填充对象中的孔、去除边界触摸对象、外骨架、触摸对象、灰度值数学形态学、Top-hat变换、阈值化、局部对比度拉伸及其任何组合。
CC-6.9如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述特征提取和/或匹配包含选自由以下各项组成的组中的至少一个:独立成分分析、等距映射、核主成分分析、潜在语义分析、偏最小二乘、主成分分析、多因子降维、非线性降维、多线性主成分分析、多线性子空间学习、半定嵌入、自动编码器及其任何组。
A.具有微标记的样品保持器
单板
AA-1.1一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触厚度为200um或更小的薄样品的样品接触区域,并且包含或疑似包含微特征;以及
(b)一个或多个标记,其中所述标记:
i.具有尖锐边缘,其(i)具有预定且已知的形状和尺寸,并且(ii)可由成像微特征的成像器观察到;
ii.是至少一个横向线性尺寸为300um或更小的微结构;以及
iii.位于样品内部;并且
其中所述标记中的至少一个在测定期间由成像器成像。
AA-1.2一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触厚度为200um或更小的薄样品的样品接触区域,并且包含或疑似包括微特征;以及
(b)一个或多个标记,其中所述标记:
i.包含来自固相表面的突出或沟槽
ii.具有尖锐边缘,其(i)具有预定且已知的形状和尺寸,并且(ii)可由成像微特征的成像器观察到;
iii.是至少一个横向线性尺寸为300um或更小的微结构;以及
iv.位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
具有恒定间距的两个板
AA-2.1一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板和一个或多个监测标记,其中:
i.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含或疑似包含微特征的样品的样品接触区域;
ii.样品的至少一部分被该第一和第二板限定成具有200um或更小的基本上恒定的厚度的薄层;
iii.监测标记具有尖锐边缘,其(a)具有预定且已知的形状和尺寸,并且(b)可由成像微特征的成像器观察到;
iv.监测标记是至少一个横向线性尺寸为300um或更小的微结构;以及
v.监测标记位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
两个可移动版
AA-3一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板、间隔件和一个或多个监测标记,其中:
I.第一板和第二板可相对于彼此移动成不同的构造;
i.第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含或疑似包含微特征的样品的样品接触区域;
ii.第一板和第二板中的一个或两个包含永久固定在相应板的内表面上的间隔件,
iii.监测标记具有尖锐边缘,其(a)具有预定且已知的形状和尺寸,并且(b)可由成像微特征的成像器观察到;
iv.监测标记是至少一个横向线性尺寸为300um或更小的微结构;以及
v.监测标记位于样品内部;
其中所述标记中的至少一个在测定期间由成像器成像。
其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在板中的一个或两个上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加不精确按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(a)与间隔件不同的结构,或(b)用作间隔件的相同结构。
B.使用具有微标记的样品保持器的图像拍摄改善
BB-1.一种用于改善样品中微特征的图像拍摄的设备,所述设备包含:
(e)如任一前述装置实施例的装置;以及
(f)成像器,用于测定包含或疑似包含微特征的样品;并且
其中所述成像器拍摄图像,其中至少一个图像包含样品的一部分和所述监测两者。
CB-2.一种用于改善样品中微特征的图像拍摄的系统,所述系统包含:
i.如任一前述装置实施例的装置;
ii.成像器,用于测定包含或疑似包含微特征的样品;以及
iii.具有指令的非瞬态计算机可读介质,这些指令在被执行时利用标记作为参数与成像处理方法一起调整对下一个图像的成像器的设置。
C.使用具有微标记的样品保持器的成像分析
CC-1一种用于改善对样品中的微特征的图像的分析的设备,所述设备包含:
a)如任一前述装置实施例的装置;以及
b)计算装置,用于接收包含或疑似包含微特征的标记和样品的图像;
其中计算装置运行算法,其利用作为参数标记与成像处理方法一起改善图像中的图像质量。
CC-2.一种用于改善对样品中的微特征的图像的分析的系统,所述系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于通过拍摄样品和标记的一个或多个图像来测定包含或疑似包含微特征的样品;以及
(c)具有指令的非瞬态计算机可读介质,这些指令在被执行时利用标记作为参数与成像处理方法一起改善在(c)中拍摄的至少一个图像的图像质量。
CC-3一种用于测定样品中的微特征的计算机程序产品,所述程序包含应用并适用于至少一个图像的计算机程序代码装置:
(a)接收样品和监测标记的图像,其中将样品装入任一前述装置权利要求的装置中,并且其中图像由成像器拍摄;以及
(b)对所述图像进行处理和分析,以计算所述微特征的量,其中所述分析使用基于机器学习的检测模型和由所述监测标记的图像提供的信息。
CC-4一种用于分析样品中的微特征的计算装置,计算装置包含操作本发明的任一实施例中的算法的计算装置。
CC-5如任一前述实施例的方法、装置、计算机程序产品或系统,其中图像质量的改善包含选自由以下各项组成的组中的至少一个:去噪、图像归一化、图像锐化、图像缩放、对准(例如,对面部检测)、超分辨率、去模糊及其任何组合。
CC-6如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述成像处理方法包含选自由以下各项组成的组中的至少一个:基于直方图的运算、基于数学的运算、基于卷积的运算、平滑运算、基于导数的运算、基于形态的运算、阴影校正、图像增强和/或恢复、分割、特征提取和/或匹配、对象检测和/或分类和/或定位、图像理解及其任何组合。
CC-6.1如任一前述实施例的方法、装置、计算机程序产品或系统,其中基于直方图的运算包含选自由以下各项组成的组中的至少一个:对比度拉伸、均衡、最小滤波、中值滤波、最大滤波及其任何组合。
CC-6.2如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于数学的运算包含选自由以下各项组成的组中的至少一个:二进制运算(例如,NOT、OR、AND、XOR和SUB)、基于算术的运算(例如,ADD、SUB、MUL、DIV、LOG、EXP、SQRT、TRIG和INVERT)及其任何组合。
CC-6.3如任一前述实施例的方法、装置、计算机程序产品或系统,其中基于卷积的运算包含选自由以下各项组成的组中的至少一个:空间域中的运算、傅立叶变换、DCT、整数变换、频域中的运算及其任何组合。
CC-6.4如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述平滑运算包含选自由以下各项组成的组中的至少一个:线性滤波、均匀滤波、三角形滤波、高斯滤波、非线性滤波、中间滤波、kuwahara-滤波及其任何组合。
CC-6.5如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于导数的运算选自由以下各项组成的组中的至少一个:一阶导数运算、梯度滤波、基本导数滤波、Prewitt梯度滤波、Sobel梯度滤波、备选梯度滤波、高斯梯度滤波、二阶导数滤波、基本二阶导数滤波、频域Laplacian、高斯二阶导数滤波、备选Laplacian滤波、梯度方向二阶导数(SDGD)滤波、三阶导数滤波、高阶导数滤波(例如,大于三阶导数的滤波)及其任何组合。
CC-6.6如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述基于形态的运算包含选自由以下各项组成的组中的至少一个:膨胀、侵蚀、布尔卷积、开和/或闭、命中和未命中操作、轮廓、骨架、传播、灰度值形态处理、灰度级膨胀、灰度级侵蚀、灰度级开、灰度级闭、形态平滑、形态梯度、形态Laplacian及其任何组合。
CC-6.7如任一前述实施例的方法、装置、计算机程序产品或系统,其中图像增强和/或恢复包含选自由以下各项组成的组中的至少一个:锐化、噪声抑制、失真抑制及其任何组合。
CC-6.8如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述分割包含选自由以下各项组成的组中的至少一个:阈值化、固定阈值化、直方图导出阈值化、ISO数据算法、背景对称性算法、三角形算法、边缘找寻、基于梯度的过程、基于零交叉的过程、基于PLUS的过程、二元数学形态学、椒盐过滤、分离具有孔的对象、填充对象中的孔、去除边界触摸对象、外骨架、触摸对象、灰度值数学形态学、Top-hat变换、阈值化、局部对比度拉伸及其任何组合。
CC-6.9如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述特征提取和/或匹配包含选自由以下各项组成的组中的至少一个:独立成分分析、等距映射、核主成分分析、潜在语义分析、偏最小二乘、主成分分析、多因子降维、非线性降维、多线性主成分分析、多线性子空间学习、半定嵌入、自动编码器及其任何组。
T1.一种用于从失真图像确定样品保持器上的样品的真实横向尺寸(TLD)的方法,所述方法包含:
(a)获得如任一前述实施例的装置,其中所述装置在所述样品接触区域中包含一个或多个监测标记;
(b)获得成像器、计算硬件和包含算法的非暂时性计算机可读介质;
(c)在(a)的装置的样品接触区域中沉积包含微特征的薄样品层;
(d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记,其中成像器位于薄样品层的上方;以及
(e)使用算法确定样品的真实横向尺寸;
其中
(i)该算法是在计算机系统上执行的计算机代码;以及
(ii)该算法使用监测标记的图像作为参数。
T2.如任一前述实施例的方法、装置、计算机程序产品或系统,其中每个监测标记包含来自固相表面的突出或沟槽。
T3.如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述微结构不具有尖锐边缘。
T4.如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述样品包含选自由以下各项组成的组:生物样品、化学样品和不具有尖锐边缘的样品。
T5.如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述监测标记与成像处理方法一起在算法中用作参数,其(i)调节图像调节图像,(ii)处理样品的图像,(iii)确定与微特征相关的性质,或(iv)上述的任何组合。
T6.如任一前述实施例的方法、装置、计算机程序产品或系统,其中间隔件具有等于或小于200微米的基本上均匀的高度和固定间隔距离(ISD);
AA.一种用于改善样品薄层的成像的方法和装置。
AA1.一种用于改善样品薄层的成像的方法,所述方法包含:
(a)获得标记样品保持器,其中所述样品包含所述样品接触区中的一个或多个监测标记;
(b)获得成像器、计算硬件和包含算法的非暂时性计算机可读介质;
(c)在(a)的装置的样品接触区域中沉积包含微特征的薄样品层;
(d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记,其中成像器位于薄样品层的上方;以及
(e)使用算法确定样品的真实横向尺寸;
其中:
(i)该算法是在计算机系统上执行的计算机代码;以及
(ii)该算法使用监测标记的图像作为参数。
A-1
T1.一种用于从失真图像确定样品保持器上的样品的真实横向尺寸(TLD)的方法,所述方法包含:
i.获得如任一前述实施例的装置,其中所述装置在所述样品接触区域中包含一个或多个监测标记;
ii.获得成像器、计算硬件和包含算法的非暂时性计算机可读介质;
iii.在(a)的装置的样品接触区域中沉积包含微特征的薄样品层;
iv.使用成像器拍摄薄样品层的一个或多个图像以及监测标记,其中成像器位于薄样品层的上方;以及
v.使用算法确定样品的真实横向尺寸;
其中
(a)该算法是在计算机系统上执行的计算机代码;并且
(b)该算法使用监测标记的图像作为参数。
NN1.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
(a)固相表面,其包含用于接触包含微特征的样品的样品接触区域;以及
(b)一个或多个监测标记,其中所述监测标记:
i.由与样品不同的材料制成;
ii.在测定微结构期间位于样品内部,其中样品在样品接触区域上形成厚度小于200um的薄层;
iii.具有约1um(微米)或更大的横向线性尺寸,以及
iv.具有至少一个300um或更小的横向线性尺寸;以及
其中在该测定过程中,该成像器对至少一个监测标记进行成像
其中在测定所述分析物期间使用;并且监测标记的几何参数(例如形状和尺寸)和/或监测标记之间的间距是(a)预先确定的和在分析物测定之前是已知的,并且(b)用作确定与微特征相关的特性的算法中的参数。
NN2.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
固相表面,其包含用于接触包含微特征的样品的样品接触区域;以及
一个或多个监测标记,其中每个监测标记包含来自固相表面的突出或沟槽,其中:
(a)突出或沟槽包括基本上平行于相邻表面的平坦表面,该相邻表面是固相表面的与突出或沟槽相邻的部分;
(b)平坦表面与相邻表面之间的距离为约200微米(um)或更小;
(c)平坦表面,具有(a)线性尺寸为至少约1um或更大,和(b)至少一个线性尺寸150um或更小的区域;
(d)至少一个监测标记的平坦表面由在测定微特征时使用的成像器成像;以及
(e)平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数。
NN3.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板、间隔件和一个或多个监测标记,其中:
(a)第一板和第二板可相对于彼此移动成不同的构造;
(b)第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含微特征的样品的样品接触区域;
(c)第一板和第二板中的一个或两个包含永久固定在相应板的内表面上的间隔件,
(d)间隔件具有等于或小于200微米的基本上均匀的高度和固定间隔距离(ISD);
(e)监测标记采用与样品不同的材料制成;
(f)在测定微结构期间监测标记位于样品内部,其中样品在样品接触区域上形成厚度小于200um的薄层;以及
(g)监测标记具有约1um(微米)或更大的横向线性尺寸,并且具有至少一个300um或更小的横向线性尺寸;
其中在该测定过程中,该成像器对至少一个监测标记进行成像
其中在测定微特征的过程中使用;并且平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数;
其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在板中的一个或两个上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加不精确按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(i)与间隔件不同的结构,或(ii)用作间隔件的相同结构。
NN4.一种用于使用成像器测定样品中的微特征的装置,所述装置包含:
第一板、第二板、间隔件和一个或多个监测标记,其中:
(a)第一板和第二板可相对于彼此移动成不同的构造;
(b)第一板和第二板中的每一个包含内表面,所述内表面包含用于接触包含微特征的样品的样品接触区域;
(c)第一板和第二板中的一个或两个包含永久固定在相应板的内表面上的间隔件,
(d)间隔件具有等于或小于200微米的基本上均匀的高度和固定间隔距离(ISD);
(e)每个监测标记在一个或两个样品接触区域上包含突出或沟槽;
(f)突出或沟槽包括基本上平行于相邻表面的平坦表面,该相邻表面是固相表面的与突出或沟槽相邻的部分;
(g)平坦表面与相邻表面之间的距离为约200微米(um)或更小;
(h)平坦表面,具有(a)线性尺寸为至少约1um或更大,和(b)至少一个线性尺寸150um或更小的区域;
(i)至少一个监测标记的平坦表面由在测定微特征时使用的成像器成像;以及
(j)平坦表面的形状、平坦表面的尺寸、平坦表面与相邻表面之间的距离,和/或监测标记之间的间距(a)在微特征的测定之前预定和已知,以及(b)在确定与微特征相关的特性的算法中用作参数。
a.其中一个构造是开放构造,在开放构造中:两个板是部分或完全分开的,板之间的间距不由间隔件调节,并且样品沉积在板中的一个或两个上;
其中构造中的另一个是闭合构造,闭合构造是在样品沉积在开放构造并且通过在受力区域上施加不精确按压力迫使板达到闭合构造之后配置的;并且在闭合构造中:样品的至少一部分被两个板压缩成厚度非常均匀的层并且相对于板基本上是停滞的,其中层的均匀厚度是由两个板的样品接触区域限定的并且是由板和间隔件调节的;以及
其中监测标记是(i)与间隔件不同的结构,或(ii)用作间隔件的相同结构。
NN5.一种用于基于成像的测定的装置,包含:
如任一前述装置实施例的装置,其中所述装置具有未在线性线上对准的至少四个监测标记。
NN6.一种用于使用成像器测定样品中的微特征的设备,所述系统包含:
(a)如任一前述装置实施例的装置;以及
(b)成像器,用于测定包含微特征的样品。
NN7.一种用于执行基于成像的测定的系统,该系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于测定包含微特征的样品;以及
(c)包含指令的非瞬态计算机可读介质,这些指令在被执行时利用装置的监测标记来确定与微特征相关的特性。
NN8.一种使用成像器测定样品中的微特征的系统,所述系统包含:
(a)如任一前述装置实施例的装置;
(b)成像器,用于测定包含微特征的样品;以及
(c)包含指令的非瞬态计算机可读介质,这些指令在被执行时利用装置的监测标记来测定与微特征相关的特性,其中这些指令包含机器学习。
NN9.一种使用成像器测定样品中的微特征的方法,包含:
(a)获得如任一前述实施例的装置、设备或系统;
(b)获得样品并将所述样品沉积在(a)中的装置、设备或系统中的样品接触区域上,其中所述样品包含微特征;以及
(c)测定微特征。
NN10.一种使用成像器测定样品中的微特征的方法,包含:
(a)获得如任一前述实施例的装置、设备或系统;
(b)获得样品并将所述样品沉积在(a)中的装置、设备或系统中的样品接触区域上,其中所述样品包含微特征;
(c)测定所述微特征,其中所述测定包含使用机器学习的步骤。
T1.一种用于从失真图像确定样品保持器上的样品的真实横向尺寸(TLD)的方法,所述方法包含:
(a)获得如任一前述实施例的装置,其中所述装置在所述样品接触区域中包含一个或多个监测标记;
(b)获得成像器、计算硬件和包含算法的非暂时性计算机可读介质;
(c)在(a)的装置的样品接触区域中沉积包含微特征的薄样品层;
(d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记,其中成像器位于薄样品层的上方;以及
(e)使用算法确定样品的真实横向尺寸;
其中
(i)该算法是在计算机系统上执行的计算机代码;以及
(ii)该算法使用监测标记的图像作为参数。
T2.一种用于从失真图像确定样品保持器上的样品的真实横向尺寸(TLD)的方法,所述方法包含:
(a)获得如任一前述实施例的装置,其中所述装置在所述样品接触区域中包含一个或多个监测标记;
(b)获得成像器、计算硬件和包含算法的非暂时性计算机可读介质;
(c)在(a)的装置的样品接触区域中沉积包含微特征的薄样品层;
(d)使用成像器拍摄薄样品层的一个或多个图像以及监测标记,其中成像器位于薄样品层的上方;以及
(e)使用所述算法通过物理度量(例如,微米)确定真实世界中的成像样品的真实横向尺寸和坐标;
其中
(i)该算法是在计算机系统上执行的计算机代码;以及
(ii)该算法使用监测标记的图像作为参数。
T3.如任一前述实施例的装置、方法或系统,其中来自样品的微特征和监测标记设置在样品保持装置内。
T4.如任一前述实施例的装置、方法或系统,其中所述确定包含在由所述成像器拍摄的所述样品的图像中检测和定位所述监测标记。
T5.如任一前述实施例的装置、方法或系统,其中所述确定包含基于从由所述成像器拍摄的所述样品的图像检测到的所述监测标记产生监测标记网格。
T6.如任一前述实施例的装置、方法或系统,其中所述确定包含从所生成的监测标记网格计算单应变换。
T7.如任一前述实施例的装置、方法或系统,其中所述确定包含从所述单应变换估计所述TLD,以及确定在所述基于图像的测定中所检测的微特征的面积、尺寸和浓度。
T8.如任一前述实施例的方法、装置或系统,其中所述TLD估计基于由所述成像器拍摄的样品图像中的区域,包含:
(a)获得样品;
(b)将样品装载到样品保持装置中,例如QMAX装置,其中存在监测标记,其中所述监测标记未浸没在所述样品中且位于所述装置中,其可在所述基于图像的测定中通过成像器从顶部成像;
(c)拍摄包括微特征和监测标记的样品装载装置中的样品的图像;
(d)检测成像器拍摄的样品图像中的监测标记;
(e)将样品图像划分成非重叠区域;
(f)为每个非重叠区域生成基于区域的标记网格,其中在局部区域中检测到多于4个非共线监测标记;
(g)基于从由所述成像器拍摄的所述样品图像中检测到的所述监测标记,为不在(f)中的所有其他区域生成标记网格;
(h)基于由(f)生成的其自己的基于区域的标记网格来计算(f)中的每个区域的区域特定单应变换;
(i)基于在(g)中生成的标记网格来计算不是在(f)中的所有其他区域的单应变换;
(j)基于(g)的基于区域的单应变换,在(f)中估计每个区域的基于区域的TLD;
(k)基于(i)的单应变换来估计(f)中未包括的其他区域的TLD;以及
(l)应用来自(j)和(k)的估计的TLD以确定在基于图像的测定中在每个图像分区中成像的微特征的面积和浓度。
T9.如任一前述实施例的方法、装置或系统,其中所述样品保持装置中的所述监测标记根据具有定义的间距周期的周期性图案分布。
T10.如任一前述实施例的方法、装置或系统,其中检测所述监测标记并将其作为可检测锚用于校准和改善基于图像的测定中的测量准确度。
T11.如任一前述实施例的方法、装置或系统,其中由成像器拍摄的样品图像中的监测标记的检测利用样品保持装置中的监测标记分布的周期性用于误差校正和/或检测的可靠性。
T12.如任一前述实施例的方法、装置或系统,其中在基于图像的测定中所述监测标记的检测、识别、面积和/或形状轮廓估计是通过机器学习(ML)进行的,该机器学习具有基于ML的监测标记检测模型和在基于图像的测定中从所述装置上的成像器拍摄的图像构建或训练的设备。
T13.如任一前述实施例的方法、装置或系统,其中在基于图像的测定中所述监测标记的检测、识别、面积和/或形状轮廓估计是通过图像处理或与机器学习相结合的图像处理。
T14.如任一前述实施例的方法、装置或系统,其中将所检测的监测标记应用于基于图像的测定中的TLD估计以校准所述系统和/或提高基于成像的测定中的测量准确度。
T15.如任一前述实施例的方法、装置或系统,其中在基于图像的测定中应用所检测的监测标记而不限于微特征尺寸、体积和/或浓度估计以校准所述系统和/或改善测量准确度。
T16.如任一前述实施例的方法、装置或系统,其中将监测标记的检测和/或TLD估计应用于基于图像的测定中的故障检测,包括但不限于检测样品保持装置中的缺陷、样品保持装置在成像器中的错位和/或成像器的聚焦故障。
T17.如任一前述实施例的方法、装置或系统,其中所述监测标记被检测为锚,以应用于系统中来估计基于图像的测定中对象的面积,包含:
i.将所述样品装载至样品保持装置,所述样品保持装置具有在基于图像的测定中位于所述装置中的监测标记;
ii.拍摄包括微特征和监测标记的样品保持装置中的样品的图像;以及
iii.检测由样品保持装置上的成像器拍摄的样品的图像中的监测标记,确定TLD并在基于图像的测定中计算面积估计,以确定从图像中的像素到其在真实世界中的微米的物理尺寸的成像对象的尺寸。
T18.如任一前述实施例的方法、装置或系统,其中该系统包含:
i.检测数字图像中的监测标记;
ii.生成监测标记网格;
iii.基于监测标记网格计算图像变换;以及
iv.在基于图像的测定中估计样品的图像中的对象的面积及其在真实世界中的物理尺寸。
T19.如任一前述实施例的方法、装置或系统,其中使用从检测到的监测标记生成的监测标记网格来计算单应变换以估计TLD、由成像器拍摄的样品的图像中的对象的面积,以及真实世界中的对象的物理尺寸。
T20.如任一前述实施例的方法、装置或系统,其中该方法包含:
i.将成像器在基于图像的测定中拍摄的样品的图像划分成不重叠的区域;
ii.检测图像中的局部监测标记;
iii.如果在该区域中检测到多于4个的非共线监测标记,则为该区域生成基于区域的标记网格;
iv.基于在由成像器拍摄的样品的图像中检测到的监测标记,为所有其他区域生成标记网格;
v.从(iii)中为每个区域生成的基于区域的标记网格计算基于区域的单应变换;
vi.基于在(iv)中生成的标记网格来计算不是在(iii)中的所有其他区域的单应变换;以及
vii.基于从(v)和(vi)产生的单应变换估计每个区域的TLD,然后在基于图像的测定中确定每个区域的样品的图像中的对象的面积和它们在真实世界中的尺寸。
T21.如任一前述实施例的方法、装置或系统,其中所述测定是医学、诊断、化学或生物测试。
T22.如任一前述实施例的方法、装置或系统,其中所述微特征是细胞。
T23.如任一前述实施例的方法、装置或系统,其中所述微特征是血细胞。
T24.如任一前述实施例的方法、装置或系统,其中所述微特征是蛋白质、肽、DNA、RNA、核酸、小分子、细胞或纳米颗粒。
T25.如任一前述实施例的方法、装置或系统,其中所述微构件包含标签。
T26.如任一前述实施例的方法、装置或系统,其中所述算法包含计算机程序产品,所述计算机程序产品包含计算机程序代码装置,其在至少一个图像中适于:
(a)接收样品的图像,其中所述样品被装载到QMAX装置中,并且所述图像由连接到所述QMAX装置的成像器拍摄,其中所述图像包括所述样品和监测标记两者;以及
(b)利用检测模型对所述图像进行分析,并生成所述图像的二维数据阵列,其中所述二维数据阵列包括所述图像中每个位置的所述微特征的概率数据,所述检测模型通过训练过程建立,所述训练过程包含:
i.将注释的数据集送入卷积神经网络,其中注释的数据集来自与测试样品类型相同且针对相同微特征的样品;以及
ii.通过卷积训练和建立检测模型;以及
(c)分析二维数据阵列以通过以下来检测局部信号峰值:
i.信号列表过程,或
ii.局部搜索过程;以及
(d)基于局部信号峰值信息计算微特征的量。
T27.如任一前述实施例的方法、装置或系统,其中所述算法包含计算机程序产品,所述计算机程序产品包含计算机程序代码装置,其在至少一个图像中应用于和适于:
(a)表示样品中的对象与由样品保持装置上的成像器拍摄的样品的图像中的所述对象的像素等值线图之间的推断模式,
(b)在样品的图像中数字地重构从推断模式检测到的至少一个对象的图像,并且生成包围由推断模块识别的对象的轮廓掩模,其中所述对象处于焦点中,
(c)为样品图像的选定部分中的至少一个对象识别样品图像的至少一部分,以及
(d)从所述至少一个部分计算对象的至少一个特征以识别由成像器拍摄的样品的图像的选定部分中的对象,
(e)从样品的图像的选定部分计算选定部分中的检测对象的计数及其浓度,
当所述程序在计算装置上运行时,或者在通过网络连接的计算云中运行时。
T28.如任一前述实施例的方法、装置或系统,其中所述算法包含计算机程序产品,所述计算机程序产品包含计算机程序代码装置,其在至少一个图像中适于:
(a)接收样品的图像,其中所述样品被装载到QMAX装置中,并且所述图像由连接到所述QMAX装置的成像器拍摄,其中所述图像包括所述样品和监测标记两者;以及
(b)分析所述图像以计算所述微特征的量,其中所述分析使用基于机器学习的检测模型和由所述监测标记的图像提供的信息。
如任一前述实施例的方法、装置或系统还包含计算机可读存储介质或存储器存储单元,其包含如任一前述实施例的计算机程序。
如任一前述实施例的方法、装置或系统还包括计算装置或移动设备,其包含如任一前述实施例的计算装置。
如任一前述实施例的方法、装置或系统还包括计算装置或移动设备,其包含如任一前述实施例的计算机程序产品。
如任一前述实施例的方法、装置或系统还包括计算装置或移动设备,其包含如任一前述实施例的计算机可读存储介质或存储单元。
一种用于分析样品的系统,包含:
第一板、第二板、表面放大层、捕获剂,其中
(a)第一板和第二板可相对于彼此移动成为不同的构造,并且在其各自的内表面上具有用于接触含有目标分析物的样品的样品接触区域;
(b)表面放大层在一个样品接触区域上,
(c)捕获剂固定在表面放大层上,其中所述捕获剂特异性结合所述目标分析物,
其中当所述表面放大层与所述表面放大层邻近时,所述表面放大层放大来自所述目标分析物或附着到所述目标分析物的标签的光学信号,所述光学信号比当所述表面放大层相距微米或更远时的光学信号强得多,
其中一个构造是开放构造,其中两个板的内表面之间的平均间距为至少200um;并且
其中另一个构造为闭合构造,其中样品的至少一部分位于所述两个板之间并且所述板的内表面之间的平均间距小于200um。
一种用于分析样品的系统,包含:
第一板、第二板、表面放大层、捕获剂,其中
(a)第一板和第二板可相对于彼此移动成为不同的构造,并且在其各自的内表面上具有用于接触含有目标分析物的样品的样品接触区域;
(b)表面放大层在一个样品接触区域上,
(c)捕获剂固定在表面放大层上,其中所述捕获剂特异性结合所述目标分析物,
其中当所述表面放大层与所述表面放大层邻近时,所述表面放大层放大来自附着到所述目标分析物的标签的光学信号,所述光学信号比当所述表面放大层相距微米或更远时的光学信号强得多,
其中一个构造是开放构造,其中两个板的内表面之间的平均间距为至少200um;
其中另一个构造为闭合构造,其中样品的至少一部分位于所述两个板之间并且所述板的内表面之间的平均间距小于200um;
其中在闭合构造中的样品的厚度、在闭合构造中溶解在样品中的标签的浓度和表面放大层的放大因子被配置为使得在闭合构造中直接或间接结合至捕获剂的任何标签可见,而不洗去未结合的标签。
一种包含如任一前述实施例的装置和用于读取装置的读取器的设备。
使用如任一前述实施例的装置的均相测定法,其中处于闭合构造的样品的厚度、标签的浓度和放大表面的放大因子被配置为使结合在放大表面上的标签可见,而不洗去未结合的标签。
如任一前述实施例的方法,其中该方法通过以下执行:
获得如任一前述实施例的装置;
当板处于开放构造时将样品沉积在一个或两个板上;
将板闭合到闭合构造;以及
用读取装置读取样品接触区域以产生信号的图像。
如任一前述实施例的装置或方法,其中结合至放大表面的标签在少于60秒内是可见的。
如任一前述实施例的装置或方法,其中方法是均相测定,其中在不使用洗涤步骤去除未结合至所述放大表面的任何生物材料或标签的情况下读取所述信号。
如任一前述实施例的装置或方法,其中通过像素化读取方法读取结合至放大表面的标签。
如任一前述实施例的装置或方法,其中通过集总读取方法读取结合至放大表面的标签。
如任一前述实施例的装置或方法,其中测定具有0.1nM或更小的检测灵敏度。
如任一前述实施例的装置或方法,其中在读取之前通过海绵去除未结合至放大表面的方法生物材料或标签。
如任一前述实施例的装置或方法,其中信号放大层包含D2PA。
如任一前述实施例的装置或方法,其中信号放大层包含金属材料层。
如任一前述实施例的装置或方法,其中信号放大层包含连续金属膜,该连续金属膜由选自由以下各项组成的组的材料制成:金、银、铜、铝、其合金及其组合。
如任一前述实施例的装置或方法,其中不同金属层局部增强或用作反射器,或两者,以增强光信号。
如任一前述实施例的装置或方法,其中信号放大层包含金属材料层和在金属材料层顶部上的介电材料,其中捕获剂在介电材料上。
如任一前述实施例的装置或方法,其中金属材料层为均匀金属层、纳米结构金属层或组合。
如任一前述实施例的装置或方法,其中通过等离子体增强放大信号。
如任一前述实施例的装置或方法,其中测定包含通过拉曼散射检测标签。
如任一前述实施例的装置或方法,其中捕获剂是抗体。
如任一前述实施例的装置或方法,其中捕获剂是多核苷酸。
如任一前述实施例的装置或方法,其中装置进一步包含固定在一个板上的间隔件,其中间隔件在闭合构造中调节第一板与第二板之间的间距。
如任一前述实施例的装置或方法,其中调节表面放大层的放大因子以使得来自直接或间接结合至捕获剂的单个标签的光学信号可见。
如任一前述实施例的装置或方法,其中调节表面放大层的放大因子以使得来自直接或间接结合至捕获剂的单个标签的光学信号可见,其中单独计数结合至捕获剂的可见单个标签。
如任一前述实施例的装置或方法,其中处于闭合构造的第一板与第二板之间的间距被配置为使目标分析物与捕获剂的饱和结合时间为300秒或更短。
如任一前述实施例的装置或方法,其中处于闭合构造的第一板与第二板之间的间距被配置为使目标分析物与捕获剂的饱和结合时间为60秒或更短。
如任一前述实施例的装置或方法,其中调节表面放大层的放大因子以使得来自单个标签的光信号可见。
如任一前述实施例的装置或方法,其中捕获剂是核酸。
如任一前述实施例的装置或方法,其中捕获剂是蛋白质。
如任一前述实施例的装置或方法,其中捕获剂是抗体。
如任一前述实施例的装置或方法,其中第二板的样品接触区域具有试剂储存位点,并且在闭合构造中储存位点大约在第一板上的结合位点上方。
如任一前述实施例的装置或方法,其中试剂储存位点包含结合至目标分析物的检测剂。
如任一前述实施例的装置或方法,其中检测剂包含标签。
如任一前述实施例的装置或方法,其中捕获剂和检测剂都结合至目标分析物以形成包含标签的夹心。
如任一前述实施例的装置或方法,其中信号放大层包含金属材料层。
如任一前述实施例的装置或方法,其中信号放大层包含金属材料层和在金属材料层顶部上的介电材料,其中捕获剂在介电材料上。
如任一前述实施例的装置或方法,其中金属材料层为均匀金属层、纳米结构金属层或组合。
如任一前述实施例的装置或方法,其中放大层包含金属材料层和在金属材料层的顶部上的介电材料,其中捕获剂在介电材料上,且介电材料层具有的厚度为0.5nm、1nm、5nm、10nm、20nm、50nm、00nm、200nm、500nm、1000nm、2um、3um、5um、10um、20um、30um、50um、100um、200um、500um,或在任何两个值之间的范围内。
如任一前述实施例的装置或方法,其中方法进一步包含量化图像的区域中的信号以提供对样品中的一种或多种分析物的量的估计。
如任一前述实施例的装置或方法,其中方法包含识别和计数在图像区域中分析物与捕获剂之间的单独结合事件,从而提供对样品中一种或多种分析物的量的估计。
如任一前述实施例的装置或方法,其中识别和计数步骤包含:(1)确定背景信号的局部强度(2)确定一个标签、两个标签、三个标签、四个或多个标签的局部信号强度;(3)确定成像区域内标签总数。
如任一前述实施例的装置或方法,其中所述识别和计数步骤包含:(1)确定背景信号的局部谱(2)确定一个标签、两个标签、三个标签、四个或多个标签的局部信号谱;(3)确定成像区域内标签总数。
如任一前述实施例的装置或方法,其中识别和计数步骤包含:(1)确定背景信号的局部拉曼特征(2)确定一个标签、两个标签、三个标签、四个或多个标签的局部信号拉曼特征;(3)确定成像区域内标签总数。
如任一前述实施例的装置或方法,其中所述识别和计数步骤包含确定所述局部强度、光谱和拉曼特征中的一个或多个。
如任一前述实施例的装置或方法,其中方法包含量化所述图像的区域中的集总信号,从而提供对所述样品中一种或多种分析物的量的估计。
如任一前述实施例的装置或方法,其中所述第二板的所述样品接触区域具有试剂储存位点,并且在闭合构造中所述储存位点大约在第一板上的结合位点上方。
如任一前述实施例的装置或方法,其中所述方法还包含用检测剂标记所述目标分析物的步骤。
如任一前述实施例的装置或方法,其中所述检测剂包含标签。
如任一前述实施例的装置或方法,其中所述捕获剂和检测剂都结合至所述目标分析物以形成夹心。
如任一前述实施例的装置或方法,其中所述方法进一步包含在由该读取装置成像的区域中测量样品的体积。
如任一前述实施例的装置或方法,其中所述目标分析物是蛋白质、肽、DNA、RNA、核酸、小分子、细胞或纳米颗粒。
如任一前述实施例的装置或方法,其中图像示出信号的位置、局部强度和局部谱。
如任一前述实施例的装置或方法,其中信号是选自由以下各项组成的组的发光信号:荧光、电致发光、化学发光和电化学发光信号。
如任一前述实施例的装置或方法,其中信号是拉曼散射信号。
如任一前述实施例的装置或方法,其中所述信号是由于板与读取装置之间的局部电相互作用、局部机械相互作用、局部生物相互作用或局部光学相互作用而产生的力。
如任一前述实施例的方法或装置,其中间隔件具有柱状形状和几乎均匀的横截面。
如任一前述实施例的方法或装置,其中间隔距离(SD)等于或小于约120um(微米)。
如任一前述实施例的方法或装置,其中间隔距离(SD)等于或小于约100um(微米)。
如任一前述实施例的方法或装置,其中间隔距离(ISD)的四次方除以柔性板的厚度(h)和杨氏模量(E)(ISD4/(hE))为5×106um3/GPa或更小。
如任一前述实施例的方法或装置,其中间隔距离(ISD)的四次方除以柔性板的厚度(h)和杨氏模量(E)(ISD4/(hE))为5×105um3/GPa或更小。
如任一前述实施例的方法或装置,其中所述间隔件具有柱状形状,基本上平顶表面,预定的基本上均匀的高度和预定的恒定间隔距离,所述间隔距离比所述分析物的尺寸大至少约2倍,其中所述间隔件的杨氏模量乘以间隔件的填充因子等于或大于2MPa,其中填充因子是间隔件接触区域与总板区域的比例,且其中对于每一间隔件,间隔件的横向尺寸与其高度的比例至少为1(1)。
如任一前述实施例的方法或装置,其中所述间隔件具有柱状形状,基本上平顶表面,预定的基本上均匀的高度和预定的恒定间隔距离,所述间隔距离比所述分析物的尺寸大至少约2倍,其中所述间隔件的杨氏模量乘以间隔件的填充因子等于或大于2MPa,其中填充因子是间隔件接触区域与总板区域的比例,且其中对于每一间隔件,间隔件的横向尺寸与其高度的比例至少为1(1),其中间隔距离(ISD)的四次方除以柔性板的厚度(h)和杨氏模量(E)(ISD4/(hE))为5x106um3/GPa或更小。
如任一前述实施例的方法或装置,其中所述间隔件的间隔距离与所述间隔件的平均宽度的比例为2或更大,且所述间隔件的填充因子乘以所述间隔件的杨氏模量为2MPa或更大。
如任一前述实施例的方法或装置,其中分析物是蛋白质、肽、核酸、合成化合物或无机化合物。
如任一前述实施例的方法或装置,其中样品是生物样品,生物样品选自羊水、房水、玻璃体液、血液(例如,全血、分馏的血液、血浆或血清)、母乳、脑脊髓液(CSF)、耳垢(耳屎)、乳糜、食糜、内淋巴、外淋巴、粪便、呼吸、胃酸、胃液、淋巴液、粘液(包括鼻引流液和痰液)、心包液、腹膜液、胸膜液、脓液、风湿液、唾液、呼出的冷凝物、皮脂、精液、痰液、汗液、滑液、泪液、呕吐物和尿液。
如任一前述实施例的方法或装置,其中所述间隔件具有柱状形状,并且所述柱的宽度与高度的比例等于或大于1。
如任一前述实施例的方法或装置,其中沉积在板中的一个或两个上的样品具有未知体积。
如任一前述实施例的方法或装置,其中所述间隔件具有柱状形状,且所述柱具有基本上均匀的横截面。
如任一前述实施例的方法或装置,其中所述样品用于检测、纯化和量化与某些疾病的阶段相关的化合物或生物分子。
如任一前述实施例的方法或装置,其中样品与传染性和寄生虫病、损伤、心血管疾病、癌症、精神障碍、神经精神障碍、肺病、肾病以及其他和器质性疾病有关。
如任一前述实施例的方法或装置,其中所述样品涉及微生物的检测、纯化和量化。
如任一前述实施例的方法或装置,其中样品涉及来自环境(例如,水、土壤或生物样品)的病毒、真菌和细菌。
如任一前述实施例的方法或装置,其中样品涉及对食品安全或国家安全造成危害的化合物或生物样品(例如,有毒废物、炭疽)的检测、量化。
如任一前述实施例的方法或装置,其中样品与医学或生理监测中的生命参数的量化相关。
如任一前述实施例的方法或装置,其中样品与葡萄糖、血液、氧水平、总血细胞计数相关。
如任一前述实施例的方法或装置,其中样品与来自生物样品的特异性DNA或RNA的检测和量化相关。
如任一前述实施例的方法或装置,其中样品与用于基因组分析的染色体和线粒体中DNA的遗传序列的测序和比较相关。
如任一前述实施例的方法或装置,其中样品涉及例如在药物合成或纯化期间检测反应产物。
如任一前述实施例的方法或装置,其中样品是细胞、组织、体液和粪便。
如任一前述实施例的方法或装置,其中样品是人、兽医、农业、食品、环境和药物测试领域中的样品。
如任一前述实施例的方法或装置,其中样品是选自毛发、指甲、耳蜡、呼吸、结缔组织、肌肉组织、神经组织、上皮组织、软骨、癌样品或骨的生物样品。
如任一前述实施例的方法或装置,其中间隔距离在5um到120um的范围内。
如任一前述实施例的方法或装置,其中间隔距离在120um到200um的范围内。
如任一前述实施例的方法或装置,其中所述柔性板的厚度在20um到250um的范围内和杨氏模量在0.1到5GPa的范围内。
如任一前述实施例的方法或装置,其中对于柔性板,柔性板的厚度乘以柔性板的杨氏模量在60到750GPa-um的范围内。
如任一前述实施例的方法或装置,其中均匀厚度样品层在至少1mm2的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层在至少3mm2的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层在至少5mm2的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层在至少10mm2的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层在至少20mm2的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层在20mm2至100mm2的范围内的横向区域上是均匀的。
如任一前述实施例的方法或装置,其中均匀厚度样品层具有高达+/-5%或更好的厚度均匀性。
如任一前述实施例的方法或装置,其中均匀厚度样品层具有高达+/-10%或更好的厚度均匀性。
如任一前述实施例的方法或装置,其中均匀厚度样品层具有高达+/-20%或更好的厚度均匀性。
如任一前述实施例的方法或装置,其中均匀厚度样品层具有高达+/-30%或更好的厚度均匀性。
如任一前述实施例的方法、装置、计算机程序产品或系统具有五个或多个监测标记,其中监测标记中的至少三个不是直线的。
如任一前述实施例的方法、装置、计算机程序产品或系统,其中所述板中的每一个在其各自的外表面上包含受力区域,该受力区域用于施加不精确按压力,该按压力迫使板在一起;
如任一前述实施例的方法、装置、计算机程序产品或系统,其中一个或两个板是柔性的;
如任一前述实施例的方法、装置、计算机程序产品或系统,其中间隔距离(IDS)的四次方除以所述柔性板的厚度(h)和杨氏模量(E)(ISD4/(hE))为5x106 um3/GPa或更小。
如任一前述实施例的方法、装置、计算机程序产品或系统,其中间隔件中的至少一个在样品接触区域内;
如任一前述实施例的方法、装置、计算机程序产品或系统,其中脂肪限定分析物(fat specification of analyte)
如任一前述实施例的方法、装置、计算机程序产品或系统,其中脂肪限定算法(fatspecification of algorithms)
如任一前述实施例的方法、装置、计算机程序产品或系统,其中脂肪压印力和手按压力(fat specification of algorithms)
如任一前述实施例的装置、系统或方法,其中所述算法存储在非暂时性计算机可读媒体上,且其中所述算法包含指令,所述指令在被执行时执行利用所述装置的监测标记来确定对应于所述分析物的性质的方法。
标记的一些示例
在本发明中,在一些实施例中,标记具有与间隔件相同的形状。
在一些实施例中,标记是周期性的或非周期性的。
在一些实施例中,两个标记之间的距离是预定的和已知的,但是板上的绝对坐标是未知的。
在一些实施例中,标记具有预定的和已知的形状。
在一些实施例中,标记被配置为在板中具有分布,使得不管板的位置如何,在成像光学器件的视场中总是存在标记。
在一些实施例中,标记被配置为在板中具有分布,使得不管板的位置如何,在成像光学器件的视场中总是存在标记,并且标记的数量足以用于局部光学信息。
在一些实施例中,标记用于控制样品局部区域的光学性质,而区域尺寸为1um^2、5um^2、10um^2、20um^2、50um^2、100um^2、200um^2、500um^2、1000um^2、2000um^2、5000um^2、10000um^2、100000um^2、500000um^2,或在任何两个值之间的范围内。
“有限成像光学器件”的使用
在本发明中,在一些实施例中,用于对测定进行成像的光学系统具有“有限成像光学器件”。有限成像光学器件的一些实施例包括但不限于:
1.一种有限成像光学系统,包含:
成像透镜;
成像传感器;
其中所述成像传感器是智能手机的相机的一部分;
其中所述成像透镜中的至少一个是智能手机的相机的一部分;
2.如任一前述实施例的有限成像光学系统,其中:所述物理光学分辨率小于1um、2um、3um、5um、10um、50um,或在任何两个值之间的范围内。
3.如任一前述实施例的有限成像光学系统,其中:所述每物理光学分辨率小于1um、2um、3um、5um、10um、50um,或在任何两个值之间的范围内。
4.如任一前述实施例的有限成像光学系统,其中:所述优选的每物理光学分辨率在约1um与3um之间;
5.如任一前述实施例的有限成像光学系统,其中:所述数值孔径小于0.1、0.15、0.2、0.2、0.25、0.3、0.35、0.4、0.45、0.5,或在任何两个值之间的范围内。
6.如任一前述实施例的有限成像光学系统,其中:所述优选数值孔径在0.2与0.25之间。
7.如任一前述实施例的有限成像光学系统,其中:所述工作距离为0.2mm、0.5mm、1mm、2mm、5mm、10mm、20mm,或在任何两个值之间的范围内。
8.如任一前述实施例的有限成像光学系统,其中:所述工作距离为0.2mm、0.5mm、1mm、2mm、5mm、10mm、20mm,或在任何两个值之间的范围内。
9.如任一前述实施例的有限成像光学系统,其中:所述优选工作距离在0.5mm至1mm之间。
10.如任一前述实施例的有限成像光学系统,其中:所述焦深为100nm、500nm、1um、2um、10um、100um、1mm,或在任何两个值之间的范围内。
11.如任一前述实施例的有限成像光学系统,其中:所述焦深为100nm、500nm、1um、2um、10um、100um、1mm,或在任何两个值之间的范围内。
12.如任一前述实施例的有限成像光学系统,其中:所述图像传感器是智能手机相机模块的一部分。
13.如任一前述实施例的有限成像光学系统,其中:图像传感器的对角线长度小于1英寸、1/2英寸、1/3英寸、1/4英寸,或在任何两个值之间的范围内;
14.如任一前述实施例的有限成像光学系统,其中:所述成像透镜包含至少两个透镜,并且一个透镜是智能手机的相机模块的一部分。
15.如任一前述实施例的有限成像光学系统,其中:至少一个外透镜与智能手机的内透镜配对。
16.如任一前述实施例的有限成像光学系统,其中:所述外透镜的光轴与所述智能手机的所述内透镜对准,所述对准公差小于0.1mm、0.2mm、0.5mm、1mm,或在任何两个值之间的范围内。
17.如任一前述实施例的有限成像光学系统,其中:所述外透镜的高度小于2mm、5mm、10mm、15mm、20m,或在任何两个值之间的范围内。
18.如任一前述实施例的有限成像光学系统,其中:所述外透镜的优选高度在3mm至8mm之间。
19.如任一前述实施例的有限成像光学系统,其中:所述外透镜的优选高度在3mm至8mm之间。
20.如任一前述实施例的有限成像光学系统,其中:所述外透镜的直径小于2mm、4mm、8mm、10mm、15mm、20mm,或在任何两个值之间的范围内。
21.如任一前述实施例的有限成像光学系统,其中:所述每物理光学放大率小于0.1X、0.5X、1X、2X、4X、5X、10X,或在任何两个值之间的范围内。
22.如任一前述实施例的有限成像光学系统,其中:所述优选每物理光学放大率小于0.1X、0.5X、1X、2X、4X、5X、10X,或在任何两个值之间的范围内。
“有限样品操作”的使用
在本发明中,在一些实施例中,用于对测定进行成像的样品定位系统具有“有限样品操作”。有限样品操作的一些实施例包括但不限于:
有限样品操作系统的描述:
1.有限样品操作系统,包含:
样品保持器;
其中样品保持器具有用于接收样品卡的插座。
2.如任一前述实施例的有限样品操作系统,其中:在沿着所述光轴的方向上定位样品的准确度比0.1um、1um、10um、100um、1mm差,或在任何两个值之间的范围内。
3.如任一前述实施例的有限样品操作系统,其中:在沿着所述光轴的方向上定位样品的优选准确度在50um与200um之间。
4.如任一前述实施例的有限样品操作系统,其中:将样品定位在垂直于所述光轴的平面中的准确度比0.01um、0.1um、1um、10um、100um、1mm差,或在任何两个值之间的范围内。
5.如任一前述实施例的有限样品操作系统,其中:将样品定位在垂直于所述光轴的平面中的优选准确度在100um与1mm之间。
6.如任一前述实施例的有限样品操作系统,其中,定位样品卡的水平误差比0.01度、0.1度、0.5度、1度、10度差,或在任何两个值之间的范围内。
7.如任一前述实施例的有限样品操作系统,其中,定位样品卡的优选水平误差在0.5度至10度之间。
8.如任一前述实施例的有限样品操作系统,其中,定位样品卡的优选水平误差在0.5度至10度之间。
监测标记的尖锐边缘
术语“尖锐的光学边缘”是指由具有以下性质的特定光学系统拍摄的图像中的对象的边缘或边界:在图像中的对象的边缘或边界处,光强度(包括但不限于R、G、B、灰色、色调、亮度)相对于位置急剧变化。例如,定量地,如图19中所示,在边界处,其中归一化强度从90%减小到10%的距离(X90%)应当小于由这样的光学系统在图像中的对象的长度的5%。换句话说,边界梯度=90%/X90%>1800%/对象长度。尖锐边缘的示例是具有平坦顶部和接近90度侧壁的柱状间隔件的边缘。没有尖锐边缘的对象的示例是球体。
利用监测标记的TLD和体积估计的示例
图7-A示出了在本发明的一些实施例中使用的样品保持装置QMAX装置及其监测标记、柱的实施例。QMAX装置中的柱使得样品保持装置的两个平行板之间的间隙均匀。该间隙是狭窄的并且与分析物的尺寸相关,其中分析物在该间隙中形成单层。此外,QMAX装置中的监测标记是柱的特殊形式,因此它们不会被样品浸没,并且可以在基于图像的测定中通过成像器与样品一起成像。
利用监测标记的TLD(真实横向尺寸)估计的示例
在本发明的一些实施例中用于TLD和真实体积估计。监测标记(柱)用作可检测锚。然而,在基于图像的测定中以适合于TLD估计的准确度检测监测标记是困难的。这是因为这些监测标记被样品保持装置内的分析物渗透和包围。它们在图像中由于透镜的失真,样品中微对象的光衍射、微水平的缺陷、聚焦的不对准、样品图像中的噪声等而发生失真和模糊。如果成像器是来自商品装置的相机(例如,来自智能电话的相机),则变得更加困难,因为这些相机一旦离开制造就没有由专用硬件校准。
在本发明中,在机器学习框架中制定作为用于TLD估计的可检测锚的监测标记的检测和定位,并且构建/训练专用机器学习模型以在显微成像中检测它们。此外,在本发明的一些实施例中,监测标记的分布被有意地设置为周期性的并且以预定的图案分布。这使得本发明的方法更鲁棒和可靠。
本发明实施例包含:
(1)将样品装载到样品保持装置中,例如QMAX装置,其中存在未浸没在所述样品中且可由成像器成像的装置中存在具有已知构造的监测标记;
(2)拍摄包括分析物和监测标记的样品保持装置中的样品的图像;
(3)构建和训练机器学习(ML)模型以检测样品的图像中的监测标记;
(4)使用来自(3)所述ML检测模型从样品的图像中检测并定位样品保持装置中的监测标记;
(5)根据(4)中检测到的监测标记生成标记网格;
(6)基于所生成的监测标记网格计算单应变换;
(7)根据来自(6)的单应变换估计并保存样品图像的真实横向尺寸;以及
(8)在随后的基于图像的测定中应用来自(7)的估计的TLD以确定分析物的面积、尺寸、体积和浓度。
在本发明的一些实施例中,在基于图像的测定中采用基于区域的TLD估计和校准。其包含:
(1)将该样品装载到样品保持装置中,例如QMAX装置,其中在所述装置中存在监测标记-未浸没在所述样品中且能够在所述基于图像的测定中通过成像器成像;
(2)拍摄包括分析物和监测标记的样品保持装置中的样品的图像;
(3)构建和训练机器学习(ML)模型,用于从由成像器拍摄的样品的图像中检测监测标记;
(4)将成像器拍摄的样品图像划分成非重叠区域;
(5)使用(3)的ML模型从由成像器拍摄的样品的图像中检测并定位监测标记;
(6)为在所述局部区域中检测到多于4个非共线监测标记的每个区域生成基于区域的标记网格;
(7)基于从由所述成像器拍摄的所述样品的图像中检测到的监测标记,为未在(6)中的所有区域生成标记网格;
(8)基于在(6)中生成的其自身的基于区域的标记网格,为在(6)中的每个区域计算区域特定单应变换;
(9)基于在(7)中生成的标记网格为所有其他区域计算单应变换;
(10)基于在(8)中生成的基于区域的单应变换来估计(6)中的每个区域的基于区域的TLD;
(11)基于来自(9)的单应变换来估计其他区域的TLD;以及
(12)在随后的基于图像的测定中,在分区上保存并应用来自(10)和(11)的估计TLD
当监测标记以预定义的周期性图案分布时,例如在QMAX装置中,它们以一定的间距周期性地出现和分布,结果,在上述过程中,监测标记的检测变得更加鲁棒和可靠。这是因为,如果检测到的位置和构造不遵循预定义的周期性图案,则利用周期性,可以仅从少量检测到的监测标记中识别和确定所有监测标记,并且可以校正和消除检测错误。
术语“监测标记(monitoring mark)”、“监测标记(monitor mark)”和“标记”在本发明的描述中是可以互换的。
术语“成像器”和“相机”在本发明的描述中是可以互换的。
术语“去噪”是指从接收信号中去除噪声的过程。一个示例是去除样品的图像中的噪声,因为来自成像器/相机的图像可以从各种源拾取噪声,包括但不限于白噪声、盐和胡椒噪声、高斯噪声等。去噪方法包括但不限于:线性和非线性滤波、小波变换、统计方法、深度学习等。
术语“图像归一化”是指改变经处理的图像中的像素强度值的范围的算法、方法和设备。例如,它包括但不限于通过直方图拉伸来增加对比度、从每个图像中减去平均像素值等。
在本发明的一些实施例中,设计了方法和算法以利用例如样品保持装置(例如QMAX设备)中的监测标记。这包括但不限于成像装置中的以下参数的估计和调整:
1.快门速度,
2.ISO,
3.聚焦(透镜位置),
4.曝光补偿,
5.白平衡:温度、色彩,以及
6.缩放(比例因子)。
与标记一起使用的图像处理/分析算法的示例
在本发明的一些实施例中,使用本发明中的监测标记来应用和增强图像处理/分析。它们包括但不限于以下图像处理算法和方法:
1.基于直方图的运算包括但不限于:
a.对比拉伸;
b.均衡;
c.最小滤波;
d.中值滤波;以及
e.最大滤波。
2.基于数学的运算包括但不限于:
a.二进制运算:NOT、OR、AND、XOR、SUB等,以及
b.基于算术的运算:ADD、SUB、MUL、DIV、LOG、EXP、SQRT、TRIG、INVERT等。
3.在空间和频率域中的基于卷积的运算包括但不限于傅立叶变换、DCT、整数变换、小波变换等。
4.平滑运算包括但不限于:
a.线性滤波:均匀滤波、三角形滤波、高斯滤波等,以及
b.非线性滤波:中值滤波、kuwahara滤波等。
5.基于导数的运算包括但不限于:
a.一阶导数:梯度滤波、基本导数滤波、Prewitt梯度滤波、Sobel梯度滤波、备选梯度滤波、高斯梯度滤波等;
b.二阶导数:基本二阶导数滤波、频域Laplacian、高斯二阶导数滤波、备选Laplacian滤波、梯度方向二阶导数(SDGD)滤波等,以及
c.具有更高阶导数的其它滤波等。
6.基于形态的运算包括但不限于:
a.膨胀和侵蚀;
b.布尔卷积;
c.开和闭;
d.命中和未命中操作;
e.分割和轮廓;
f.骨架;
g.传播;
h.灰度值形态处理:灰度级膨胀、灰度级腐蚀、灰度级开、灰度级闭等;以及i.形态平滑、形态梯度,形态Laplacian等。
图像处理/分析技术的其他示例
在本发明的一些实施例中,图像处理/分析算法与监测标记一起使用并由监测标记增强。它们包括但不限于以下:
1.图像增强和恢复包括但不限于
a.锐化和非锐化,
b.噪声抑制,以及
c.失真抑制。
2.图像分割包括但不限于:
a.阈值-固定阈值、直方图导出阈值、Isodata算法、背景对称算法、三角形算法等;
b.边缘找寻-基于梯度的过程、基于零交叉的过程、基于PLUS的过程等;
c.二元数学形态学-椒盐滤波、分离具有孔的对象、填充对象中的孔、去除边界触摸对象、外骨架,触摸对象等;以及
d.灰度值数学形态学-top-hat变换、自适应阈值化、局部对比度拉伸等。
3.特征提取和匹配包括但不限于:
a.独立成分分析;
b.等距映射;
c.主成分分析和核主成分分析;
d.潜在语义分析;
e.最小二乘和偏最小二乘;
f.多因子降维和非线性降维;
g.多线性主成分分析;
h.多线性子空间学习;
i.半定嵌入;以及
j.自动编码器/解码器。
4.目标检测、分类和定位
5.图像理解
示例E1.使用监测标记的显微成像的改善
本发明中使用监测标记来改善显微成像中的聚焦。特别地,具有尖锐边缘的监测标记将为焦点评估算法提供可检测(可见特征)以分析特定聚焦设置的聚焦条件,特别是在低光照环境和显微成像中。在基于图像的测定的实施例中,焦点评估算法是自动聚焦实现中的核心部分。
对于一些诊断应用(例如,比色法、基于吸收的血红蛋白测试,以及对于具有非常低细胞浓度的样品的CBC),由样品的图像中的分析物提供的可检测特征通常不足以使焦点评估算法准确且平滑地运行。监测具有尖锐边缘的标记,例如QMAX装置中的监测标记,为焦点评估程序提供额外的可检测特征,以实现基于图像的测定中所需的准确度和可靠性。
对于一些诊断应用,样品中的分析物分布不均匀。单纯依靠由分析物提供的特征往往会产生一些不公平的聚焦设置,这给予一些局部高浓度区域聚焦的高权重,而低分析物浓度区域偏离目标。在本发明的一些实施例中,通过根据具有强边缘并且以精确处理的周期性图案均匀分布的监测标记的信息的聚焦调整来控制该效果。
此外,每个成像器具有部分地由其成像器传感器中的像素数量限制的成像分辨率,该成像分辨率从一百万到数百万像素变化。对于一些显微成像应用,分析物在样品中具有小的或微小的尺寸,例如人血液中血小板的尺寸为约1.4um。当目标探测程序需要一定数目的像素时,除了FOV的可用尺寸之外,图像传感器中有限的分辨率对装置在基于图像的测定中的能力提出了重大约束。
单图像超分辨率(SISR)是使用图像处理和/或机器学习技术来将原始源图像上采样到更高的分辨率并且尽可能地去除由插值引起的模糊,使得对象检测程序也可以在新生成的图像上运行的技术。这将显着地减少上述约束,并且使得能够实现一些其它不可能的应用。具有已知形状和结构的监测标记(例如QMAX卡中的监测标记)可用作本地参考来评估SISR算法,以避免使用大多数现有技术算法所产生的过锐化效应。
在本发明的一些实施例中,执行图像融合以打破基于图像的测定中的物理SNR(信噪比)限制。
信噪比测量在显微成像中由成像器拍摄的样品的图像的质量。由于成本、技术、制造等原因,成像装置存在实际限制。在一些情况下,例如在移动保健中,应用需要比常规成像装置能够提供的SNR更高的SNR。在本发明的一些实施例中,拍摄并处理多个图像(具有相同和/或不同的成像设置,例如,用于将以不同焦深聚焦的多个图像合并为一个超聚焦图像的3D融合的实施例)以生成具有较高SNR的输出图像,从而使得这些应用成为可能。
然而,由一个成像器或多个成像器拍摄的图像趋于具有由物理限制和实现约束引起的一些缺点和缺陷。在基于图像的测定中,由于样品中的分析物具有微小的尺寸并且经常没有明显的边缘特征,因此在样品的显微成像中这种情况变得严重。在本发明的一些实施例中,在样品保持装置(例如QMAX卡)中的监测标记用于增强的解决方案。
一个这样的实施例是处理由成像器拍摄的样品的图像中的失真。如果已知失真参数,情况相对简单(大多数制造为它们的透镜给出曲线/表格以描述比例失真,其它失真可在定义良好的实验中测量)。然而,当失真参数是未知的时(它可以随聚焦位置甚至随样品而改变),利用监测标记,新的算法可以使用样品保持装置(例如,QMAX卡)的有规律地甚至周期性地放置的监测标记来迭代地估计失真参数,而不需要单个坐标参考。
其它示例
在本发明中,在一些实施例中,样品保持装置具有平坦表面,该平坦表面具有用于在基于图像的测定中分析微特征的一些特殊监测标记。一些示例性实施例列出如下:
基于图像的测定中样品的显微图像的真实横向尺寸(TLD)估计。真实横向尺寸(TLD)确定真实世界中成像分析物的物理尺寸,并且还确定与基于图像的测定中的浓度估计相关的真实世界中样品的图像坐标。监测标记可用作可检测锚,以确定TLD并改善基于图像的测定的准确度。在本发明的实施例中,使用机器学习模型来检测监测标记,从其中导出样品的图像的TLD/FoV。此外,如果监测标记在样品保持装置的平坦表面上具有周期性分布图案,则监测标记和基于每个样品的TLD/FoV估计的检测在基于图像的测定中可以变得更可靠和鲁棒。
使用所测量的分析物化合物在特定光波长或多个光波长下的响应来分析所述分析物,以预测所述分析物浓度。未浸没在样品中的监测标记可用于确定对应于零浓度的背景的光吸收-以通过光吸收确定分析物浓度,并且该方法用于本发明中的HgB测试。此外,每个监测标记可以作为背景吸收的独立检测器,以使浓度估计鲁棒和可靠。
聚焦于基于图像的测定的显微图像。可以使用均匀分布的监测标记来改善聚焦准确度。(a)它可用于为没有/少于必要特征的样品提供最小量的视觉特征,以进行可靠的聚焦。由于监测标记的边缘内容,这可以在弱光下执行。(b)它可用于在样品中的特征分布不均匀时提供视觉特征,以使聚焦判定公平。(c)它可提供对样品的含量没有/有较少/不同影响的局部照明条件的参考,以调整焦点评估算法中的权重。
监测标记可用作检测和/或校正图像缺点的参考,图像缺点由但不限于:不均匀分布的照明、各种类型的图像失真、噪声和有缺点的图像预处理操作引起。例如,如图18所示,当3D世界中的直线在样品的图像中被映射成曲线时,标记的位置可用于检测和/或校正比例失真。可以基于在此描述的样品保持装置的监测标记的位置变化来估计整个图像的比例分布参数。并且通过基于假定的比例失真参数的失真消除对再现图像中的水平/垂直线进行线性测试,可以迭代地估计比例失真参数的值。
机器学习(ML)计算的示例
使用机器学习的一种方式是在处理的推断过程中使用训练的机器学习模型来执行检测样品的图像中的分析物并计算覆盖它们的位置的边界框。使用机器学习方法来检测和定位样品图像中的分析物的另一种方式是构建和训练检测和分割模型,其涉及在像素水平上注释样品图像中的分析物。在该方法中,在基于图像的测定中,可以使用覆盖样品图像中的分析物的紧密二元像素掩模来检测和定位样品图像中的分析物。
在测定人血液中的血红蛋白时,在给定的窄带波长下拍摄图像,然后分析通过分析物区域和参考区域的平均能量。基于给定波长下分析物的已知吸收速率和分析物样品区域的高度,可以估计浓度。然而,该测量具有噪声。为了消除噪声,可以使用不同波长的光拍摄多个图像并且使用机器学习回归来实现更准确和鲁棒的估计。基于机器学习的推断取样品的多个输入图像,在不同波长下采集,并输出单个浓度值。
E.机器学习算法
E-1.用于测定和成像的QMAX装置
根据本发明,公开了一种用于生物分析物检测和定位的装置,包含QMAX装、成像器和计算单元。在QMAX装置上疑似有生物样品。通过本公开获得包含在样品中的分析物的计数和位置。
根据本发明,成像器捕获生物样品的图像。将图像提交给计算单元。计算单元可以物理上直接连接到成像器,通过网络连接,或者直接通过图像传输。
E-2.工作流
所公开的分析物检测和定位采用机器学习深度学习。机器学习算法是能够从数据中学习的算法。机器学习的更严格定义是“如果其在T中的任务处的性能如由P所测量的那样随着经验E而改进的话,计算机程序被说成从关于某类任务T和性能测量P的经验E学习。”它探索能够学习和预测数据的算法的研究和构造-这种算法通过根据样品输入构建模型,通过进行数据驱动的预测或决策来克服以下严格静态的程序指令。
深度学习是一种基于一组试图对数据中的高级抽象建模的算法的特定类型的机器学习。在简单的情况下,可能存在两组神经元:接收输入信号的神经元和发送输出信号的神经元。当输入层接收到输入时,它将输入的修改版本传递给下一层。在深度网络中,在输入和输出之间存在许多层(并且这些层不由神经元构成,但是这可以帮助将其考虑为那样的方式),从而允许算法使用由多个线性和非线性变换组成的多个处理层。
所公开的分析物检测和定位工作流程包括两个阶段,训练和预测,如图6-A所示。我们在以下段落中描述训练和预测阶段。
训练
在训练阶段,将带有注释的训练数据馈入卷积神经网络。卷积神经网络是一种专门用于处理数据的神经网络,具有已知的格状拓扑。示例包括时间序列数据和图像数据,时间序列数据可以被认为是以规则的时间间隔进行采样的1D网格,图像数据可以被认为是像素的2D网格。卷积网络在实际应用中非常成功。名称“卷积神经网络”表示该网络采用称为卷积的数学运算。卷积是一种专用的线性运算。卷积网络仅仅是神经网络,其使用卷积来代替其至少一层中的一般矩阵乘法。
为待检测的分析物注释训练数据。注释指示在训练数据中是否存在分析物。注释可以以完全含有分析物或分析物中心位置的边界框的形式进行。在后一种情况下,中心位置进一步转化为覆盖分析物的圆圈。
当训练数据大的时候,它提出了两个挑战:注释(通常由人工完成)耗时,并且训练在计算上是昂贵的。为了克服这些挑战,可以将训练数据分割成小尺寸的补丁,然后注释并训练这些补丁或这些补丁的一部分。
注释的训练数据被馈送到卷积神经网络用于模型训练。输出是可用于对图像进行像素级预测的模型。我们使用带有全卷积网络(FCN)的Caffe库。也可以使用其它卷积神经网络结构,例如TensorFlow。
训练阶段产生将在预测阶段中使用的模型。该模型可在输入图像的预测阶段重复使用。因此,计算单元只需要访问所产生的模型。它不需要访问训练数据,也不必在计算单元上运行训练阶段。
预测
在预测阶段,对输入图像应用检测分量,其后是定位部件。预测阶段的输出是包含在样品中的分析物的计数,以及每个分析物的位置。
在检测部件中,输入图像与从训练阶段生成的模型一起被馈送到卷积神经网络。检测级的输出是热图形式的像素级预测。热图可以具有与输入图像相同的尺寸,或者它可以是输入图像的按比例缩小的版本。热图中的每一个像素具有从0到1的值,其可以被认为是像素是否属于分析物的概率(可信度)。数值越高,它属于分析物的机会就越大。
该热图是该定位部件的输入。我们公开了一种定位分析物中心的算法。主要思想是根据热图迭代地检测局部峰值。发现峰后,计算围绕峰但具有较小值的局部区域。我们从热图中去除这个区域并且从剩余像素中找到下一个峰。重复该过程,仅从热图中去除所有像素。
定位算法的一个实施例是将热图值从最高值到最低值排序成一维有序列表。然后挑选具有最高值的像素,将该像素连同其相邻者一起从列表中除去。重复该过程以挑选列表中具有最高值的像素,直到从列表中除去了所有像素。
算法全局搜索(热图)
Input:
heatmap
Output:
loci
loci←{}
sort(heatmap)
while(heatmap is not empty){
s←pop(heatmap)
D←{disk center as s with radius R}
heatmap=heatmap\D//remove D from the heatmap
add s to loci
}
排序后,热图为一维有序列表,其中热图值从高到低排序。每个热图值与其对应的像素坐标相关联。热图中的第一项是具有最高值的项,即弹出(热图)函数的输出。创建一个盘,其中中心是具有最高热图值的盘的像素坐标。然后从热图中除去像素坐标位于盘内的所有热图值。该算法反复弹出当前热图中的最高值,除去其周围的盘,直到项目被从热图中除去。
在有序列表热图中,每个项目都知道继续进行项目和以下项目。从有序列表中移除项目时,我们进行以下更改,如图6-B所示:
·假设去除项目是xr,其进行项目是xp,其后续项目是xf。
·对于进行项目xp,将其后续项目重新定义为去除项目中的后续项目。因此,xp的后续项目现在是xf。
·对于去除项目xr,取消定义其进行项目和后续项目,从有序列表中将其去除。
·对于后续项目xf,将其进行项目重新定义为去除项目中的进行项目。因此,xf的进行项目现在是xp。
从有序列表中除去所有项目后,定位算法结束。集合基因座中元素的数目将是分析物的计数,位置信息是集合基因座中每个s的像素坐标。
另一个实施例搜索局部峰值,该局部峰值不是具有最高热图值的局部峰值所必需的。为了检测每个局部峰值,我们从随机起始点开始,并搜索局部最大值。发现峰后,计算围绕峰但具有较小值的局部区域。我们从热图中去除这个区域并且从剩余像素中找到下一个峰值。重复该过程,仅从热图中去除所有像素。
算法局部搜索(s,热图)
Input:
s:starting location(x,y)
heatmap
Output:
s:location of local peak.
We only consider pixels of value>0.
Algorithm Cover(s,heatmap)
Input:
s:location of local peak.
heatmap:
Output:
cover:a set of pixels covered by peak:
这是一种从s开始的宽度优先搜索算法,具有一个改变的访问点条件:仅在热图[p]>0且热图[p]<=热图[q]的情况下添加当前位置q的相邻者p以进行覆盖。因此,覆盖中的每一个像素具有通向局部峰值s的非下降路径。
算法定位(热图)
Input:
heatmap
Output:
loci
loci←{}
pixels←{all pixels from heatmap}
while pixels is not empty{
s←any pixel from pixels
s←LocalSearch(s,heatmap)//s is now local peak
probe local region of radius R surrounding s for better local peak
r←Cover(s,heatmap)
pixels←pixels\r//remove all pixels in cover
add s to loci.
E-3.本发明的示例
EA1.一种用于数据分析的深度学习方法,包含:
(f)接收测试样品的图像,其中所述样品被装载到QMAX装置中,并且所述图像由连接到所述QMAX装置的成像器拍摄,其中所述图像包括来自所述测试样品中的分析物的可检测信号;
(g)利用检测模型对所述图像进行分析,并生成所述图像的二维数据阵列,其中所述二维数据阵列包括所述图像中每个位置的所述分析物的概率数据,所述检测模型通过训练过程建立,所述训练过程包含:
iii.将注释的数据集送入卷积神经网络,其中注释的数据集来自与测试样品类型相同且针对相同分析物的样品;以及
iv.通过卷积训练和建立检测模型;以及
(h)分析二维数据阵列以通过以下来检测局部信号峰值:
iii.信号列表进程,或
iv.局部搜索过程;以及
(i)基于局部信号峰信息计算分析物的量。
EB1.一种用于数据分析的系统,包含:
QMAX装置、成像器和计算单元,其中:
(a)QMAX装置配置为将至少部分测试样品压缩成高度均匀厚度的层;
(b)成像器被配置为用于在该均匀厚度的层处产生该样品的图像,其中该图像包括来自该测试样品中的分析物的可检测信号;
(c)计算单元被配置为:
i.从成像器接收图像;
ii.利用检测模型对所述图像进行分析,并生成所述图像的二维数据阵列,其中所述二维数据阵列包括所述图像中每个位置的所述分析物的概率数据,所述检测模型通过训练过程建立,所述训练过程包含:
将注释的数据集送入卷积神经网络,其中注释的数据集来自与测试样品类型相同且针对相同分析物的样品;以及
通过卷积训练和建立检测模型;以及
iii.(C)利用信号列表过程或局部搜索过程对二维数据阵列进行分析以检测局部信号峰值;以及
iv.基于局部信号峰信息计算分析物的量。
EA2.根据实施例EA1的方法,其中所述信号列表过程包含:
i.从二维数据阵列中迭代检测局部峰值建立信号列表,计算检测到的局部峰值周围的局部区域,将检测到的峰值和局部区域数据依次去除到信号列表中;以及
ii.依次重复地从信号列表中去除最高信号以及从最高信号周围去除信号,从而检测本地信号峰值。
EA3.如任一实施例EA实施例的方法,其中所述局部搜索过程包含:
i.从随机点开始在二维数据阵列中寻找局部最大值;
ii.计算围绕峰但具有较小值的局部区域;
iii.从二维数据阵列中去除局部最大值和周围较小值;以及
iv.重复步骤i-iii以检测局部信号峰值。
EA4.如任一前述EA实施例的方法,其中经注释的数据集在注释之前被分区。
EB2.如实施例EB1的系统,其中成像器包含相机。
EB3.如实施例EB2的系统,其中相机是移动通信装置的一部分。
EB4.如任一前述EB实施例的系统,其中计算单元是移动通信设备的一部分。
识别误差风险以改善测量可靠性的示例
在一些实施例中,提供了用于改善测定的可靠性的方法,所述方法包含:
(a)将样品在QMAX卡上成像;
(b)分析误差风险因子;以及
(c)如果误差风险因子高于阈值,则拒绝卡报告卡的测量结果;
其中误差风险因子是以下因子中的一个或其任何组合。这些因子是,但不限于,(1)血液的边缘,(2)血液中的气泡,(3)太小的血液体积或太大的血液体积,(4)间隔件下面的血细胞,(5)聚集的血细胞,(6)裂解的血细胞,(7)样品的过度曝光图像,(8)样品曝光不足图像,(8)样品聚焦不良,(9)光学系统误差,如错误杠杆位置,(10)卡未闭合,(11)为无间隔件卡的错误卡(12)卡中的灰尘,(13)卡中的油,(14)卡的聚焦平面之外的脏污,(15)卡不在读取器内部的正确位置,(16)卡空,(17)卡中的制造错误,(18)用于其他应用的错误卡,(19)干血,(20)过期卡,(21)血细胞分布的大变化,(22)没有血液样品或没有目标血液样品以及其他。
在一些实施例中,误差风险分析器能够在装置中的生物和化学应用中检测、区分、分类、修改和/或校正以下情况:(1)在样品边缘,(2)样品中的气泡,(3)太小的样品体积或太大的样品体积,(4)间隔件下面的样品,(5)聚集的样品,(6)裂解的样品,(7)样品的过度曝光图像,(8)样品曝光不足图像,(8)样品聚焦不良,(9)光学系统误差,如错误杠杆,(10)卡未闭合,(11)为无间隔件卡的错误卡(12)卡中的灰尘,(13)卡中的油,(14)卡的聚焦平面之外的脏污,(15)卡不在读取器内部的正确位置,(16)卡空,(17)卡中的制造错误,(18)用于其他应用的错误卡,(19)干样品,(20)过期卡,(21)血细胞分布的大变化,(22)错误样品以及其他。
其中所述阈值是从组测试确定的。
其中该阈值是从机器学习确定的。
其中所述监测标记用作比较以识别所述误差风险因子。
其中使用所述监测标记作为比较来评估所述误差风险因子的阈值。
更多示例
示例A1是一种使用设备来改善基于成像的测定的方法。方法可包括接收样品保持器的样品图像,所述样品保持器包含集成在所述样品保持器的至少一个板的接触表面上的多个监测结构,其中所述多个监测结构根据图案放置,并且其中所述接触表面接触含有多个分析物的样品;使用机器学习模型检测所述样品图像中的所述多个监测结构;任选地使用与所述多个监测结构相关联的预定结构特性对所检测到的所述多个监测结构执行误差校正;基于检测到的多个监测结构确定与样品图像相关联的真实横向尺寸值;基于所述真实横向尺寸值确定所述样品图像中的所述检测到的多个监测结构的位置与所述多个监测结构在与所述样品保持器相关联的实际图像平面中的预定分布图案之间的单应变换;基于单应变换,将包含多种分析物的样品图像变换为实际图像平面中的对应透视图;以及计算与所述样品图像中的所述多种分析物中的至少一种相关联的至少一种形态特性。
在示例A2中,示例A1的方法还可以包括检测所述多个监测结构中的每一个的中心;以及基于包含至少4个非共线点的多个监测结构的检测到的中心来确定单应变换。
在示例A3中,示例A1的方法可以进一步提供将该样品图像划分成非重叠图像补丁,这些非重叠图像补丁中的每一个包含该多个监测结构的至少4个非共线检测中心,其中估计并应用补丁特定的单应变换以补偿所述图像补丁,并且对于其他图像补丁,基于整个图像中的多个监测结构的检测到的中心来估计并应用全局单应变换。
在示例A4中,示例A1的方法还可以提供监测结构是柱或监测标记。在一些实现中,柱可以是基本上垂直于样品保持器的至少一个板的一个或两个接触表面集成的纳米结构。在其他实现中,这些监测标记是该一个或两个接触表面上的标记区域。这些标记区域可以在该一个或两个接触表面上具有与未标记区域不同的光学特性(例如,透明度)。例如,标记区域可以是涂覆或雕刻纳米材料薄层的表面区域,而未标记区域未被任何纳米材料覆盖。
在示例A5中,示例A1的方法还可以提供:使用经标记的训练图像集来训练机器学习模型,并且其中,机器学习模型可以是其参数使用经标记的训练图像集来训练的RetinerNet或卷积神经网络(CNN)。
在示例A6中,示例A1的方法还可以提供:预定结构特性包含与多个监测结构相关联的周期性、形状或尺寸中的至少一个。监测结构可以按照有组织的图案布置。该周期性可以指测量单元内的监测结构的数量(例如,诸如英寸或毫米的线性测量,或者诸如平方英寸或平方毫米的面积测量)。该形状可以指每个监测结构的几何构造。监测结构可以是横截面为三角形、矩形、方形、圆形、多边形或任何合适的二维形状的圆柱形结构。该尺寸可以是指监测结构的横截面面积。在一种实现中,监测结构可以具有基本相同的形状和尺寸。在另一实现中,监测结构可以具有各种形状和尺寸,而不同监测结构的位置在样品保持器的制造期间是预定的。
在示例A7中,示例A1的方法可以进一步提供该至少一种形态特性包含该多种分析物之一的尺寸或长度中的至少一种。尺寸可以是面积测量。长度可以是沿着轴线的线性测量。例如,对于圆形,长度可以是直径;对于矩形,长度可以是高度、宽度或对角线长度。
示例A8是在基于图像的测定中的方法微选择性图像测定(MSIA)。该方法包括捕获用于在该样品保持装置中进行测定的样品的图像,其中该样品保持装置可以是如示例A1中所描述的样品保持器,并且该样品保持装置中的包含已知均匀高度和分析物的样品在感兴趣的区域中形成单层;估计所述样品的图像的TLD或FoV以确定所述基于图像的测定中的面积、尺寸和体积的估计;通过训练的机器学习模型检测所述样品的图像中的包括气泡或灰尘在内的缺陷以对所述样品的图像中的这些缺陷进行测定和分割;使用来自(b)的估计的TLD/FoV估计样品图像中分割缺陷的总面积并计算它们的实际面积尺寸;根据来自(d)的面积估计和样品保持装置中的样品的已知高度,估计用于测定的样品的图像中与检测到的缺陷的总表面区域相对应的样品的实际体积;从与检测到的缺陷的表面区域下的总体积相对应的(e)中减去缺陷体积估计,去除用于测定的样品的图像中检测到的缺陷的表面面积,并更新剩余样品的总体积;以及对来自(f)的更新的样品图像的选定区域和更新的样品体积执行基于图像的测定以用于微选择性图像测定。
在示例A9中,示例A8的方法可以进一步提供微选择性图像测定(MSIA)利用A4的样品保持装置中的监测结构来估计该样品的图像的TLD/FoV并且通过A1的实施例将该样品的图像映射至其实际尺寸。
在示例A10中,示例A8的方法可以进一步提供微选择性图像测定(MSIA)是基于其他选择标准,包括:a)样品中的缺陷的分布,包括气泡和灰尘;b)用于测定的样品的图像中的柱和监测标记和其他伪影的位置;以及c)分析物在用于测定的样品的图像中的分布和条件,包括分析物成簇的条件和聚焦条件。
在示例A11中,示例A8的方法可以进一步提供微选择性图像测定(MSIA)从该样品的图像执行多目标测定,其中该多目标测定是基于具有由不同试剂或样品高度限定的区域的区域/区选择,用于从该样品的一个单一图像的多个测定应用。
在示例A12中,示例A8或A11中任一个的方法可进一步提供在由成像器捕获的经标记的训练图像样品上训练机器学习模型以用于基于图像的测定中的缺陷检测和分割。
在示例A13中,示例A8或A11中任一个的方法可进一步提供训练机器学习模型以检测样品图像中的分析物,并使用示例A1的方法和示例A8中所述的样品保持装置的结构确定检测的分析物的尺寸。
示例A14是一种使用柱监测基于图像的测定或使用用于测定的样品的图像中的柱或监测标记的图像监测基于图像的测定以确定图像保持装置的质量和样品制备的质量的方法,该方法包括检测对应于样品保持装置中的缺失的柱或破裂的柱的区域,其影响用于测定的有效样品体积;以及检测所述样品的图像中的气泡和灰尘,指示所述测定操作中的瑕疵或所述样品保持装置中的缺陷。
在示例A15中,示例A14的方法可以进一步包括使用所述样品的所述图像中的所述柱或监测标记的所述图像进行测定以在所述基于图像的测定中检测和调整所述成像器的操作,包括:聚焦、对比度拉伸、iso调整和滤波。
示例BA-1是一种智能测定监测方法,该方法包括由处理装置接收对沉积在样品卡中的生物样品的第一信息和多个监测标记的第二信息进行编码的图像;由处理装置对图像执行第一机器学习模型来确定与多个监测标记相关联的几何特征的测量;由处理装置确定几何特征的测量与提供有样品卡的几何特征的基准真值之间的变化;由所述处理装置基于所述变化校正对所述第一信息和所述第二信息进行编码的图像;以及由处理装置使用所述经校正的图像来确定生物样品的生物特性。
在示例BA-2中,示例BA-1的方法可以进一步提供该样品卡包含第一板、基本上垂直于所述第一板的表面集成的多个柱,和能够包围所述第一板以形成其中沉积所述生物样品的薄层的第二板。
在示例BA-3中,示例BA-1或BA-2中的任一个的方法可进一步提供多个监测标记对应于多个柱。
在示例BA-4中,示例BA-3的方法还可以提供所述多个柱中的至少两个由真实横向尺寸(TLD)分开,并且其中由所述处理装置对图像执行第一机器学习模型来确定与多个监测标记相关联的几何特征的测量包含由所述处理装置对所述图像执行所述第一机器学习模型来确定所述TLD。
示例BB-1是一种图像系统,该图像系统包括样品卡,该样品卡包含第一板、基本上垂直于所述第一板的表面集成的多个柱,和能够包围所述第一板以形成其中沉积所述生物样品的薄层的第二板;以及计算装置,包含:处理装置,通信地耦合到光学传感器,以从所述光学传感器接收对沉积在所述样品卡中的生物样品的第一信息和多个监测标记的第二信息进行编码的图像,使用所述图像上的第一机器学习模型来确定与所述多个监测标记相关联的几何特征的测量,确定几何特征的测量与提供有样品卡的几何特征的基准真值之间的变化,基于所述变化校正对所述第一信息和所述第二信息进行编码的图像,并且基于经校正的图像确定生物样品的生物特性。
示例DA-1是一种用于测量薄层样品卡中的样品的体积的方法,该方法包括由图像系统的处理装置接收包含样品和监测标准的样品卡的图像,其中所述监测标准包含与所述样品的第一板垂直集成的多个柱,并且所述多个柱中的每一个具有基本相同的高度(H);由所述处理装置使用机器学习模型确定多个非样品子区域,其中多个非样品子区域对应于柱、气泡或杂质元素中的至少一个;由所述处理装置通过从图像中去除多个非样品子区域来计算样品所占据的面积;由所述处理装置基于所述计算的面积和高度(H)计算所述样品的体积;以及由所述处理装置基于所述体积确定所述样品的生物特性。
A1:一种使用设备改善基于成像的测定的方法,包含:
a)接收样品保持器的样品图像,所述样品保持器包含集成在所述样品保持器的至少一个板的接触表面上的多个监测结构,其中所述多个监测结构根据图案放置,并且其中所述接触表面接触包含多个分析物的样品;
b)使用机器学习模型检测所述样品图像中的所述多个监测结构;
c)使用与所述多个监测结构相关联的预定结构特性对所检测到的所述多个监测结构执行误差校正;
d)基于检测到的多个监测结构确定与样品图像相关联的真实横向尺寸值;
e)基于所述真实横向尺寸值确定所述样品图像中的所述检测到的多个监测结构的位置与所述多个监测结构在与所述样品保持器相关联的实际图像平面中的预定分布图案之间的单应变换;
f)基于单应变换,将包含多种分析物的样品图像变换为实际图像平面中的对应透视图;以及
g)计算与所述样品图像中的所述多种分析物中的至少一种相关联的至少一种形态特性。
A2:如A1的方法,进一步包含:
检测所述多个监测结构中的每一个的中心;以及
基于包含至少4个非共线点的多个监测结构的检测到的中心来确定单应变换。
A3:如A1的方法,其中将该样品图像划分成非重叠图像补丁,这些非重叠图像补丁中的每一个包含该多个监测结构的至少4个非共线检测中心,其中估计并应用补丁特定的单应变换以补偿所述图像补丁,并且对于其他图像补丁,基于整个图像中的多个监测结构的检测到的中心来估计并应用全局单应变换。
D1:如A1的方法,其中所述监测结构是柱或监测标记。
D2:如A1的方法,其中使用经标记的训练图像集来训练机器学习模型,并且其中所述机器学习模型是其参数使用经标记的训练图像集来训练的RetinerNet。
D3:如A1的方法,其中预定结构特性包含与多个监测结构相关联的周期性、形状或尺寸中的至少一个。
D4:如A1的方法,其中该至少一种形态特性包含该多种分析物之一的尺寸或长度中的至少一种。
A4:一种在基于图像的测定中微选择性图像测定(MSIA)的方法,包含:
a)捕获用于在该样品保持装置中进行测定的样品的图像,其中该样品保持装置是如在A1(a)中,并且该样品保持装置中的包含已知均匀高度和分析物的样品在感兴趣的区域中形成单层;
b)根据(a)估计样品的图像的TLD/FoV以用于后续的基于图像的测定中的面积、尺寸和体积的估计;
c)通过训练的机器学习模型检测所述样品的图像中的包括气泡或灰尘在内的缺陷以用于对所述样品的图像中的这些缺陷进行检验和分割;
d)使用来自(b)的估计的TLD/FoV估计样品图像中分割缺陷的总面积并计算它们的实际面积尺寸;
e)根据来自(d)的面积估计和样品保持装置中的样品的已知高度,估计用于测定的样品的图像中与检测到的缺陷的总表面区域相对应的样品的实际体积;
f)从与检测到的缺陷的表面区域下的总体积相对应的(e)中减去缺陷体积估计,去除用于测定的样品的图像中检测到的缺陷的表面区域,并更新剩余样品的总体积;以及
g)对来自(f)的更新的样品图像的选定区域和更新的样品体积执行基于图像的测定以用于微选择性图像测定。
A5:如A4的方法,其中微选择性图像测定(MSIA)利用A4的样品保持装置中的监测结构来估计样品图像的TLD/FoV并且通过A1的实施例将样品图像映射至其实际尺寸。
A6:如A4的方法,其中微选择性图像测定(MSIA)是基于其他选择性标准,包括:
a)样品中的缺陷分布,包括气泡和灰尘;
b)用于测定的样品的图像中的柱和监测标记和其他伪影的位置;
c)分析物在用于测定的样品的图像中的分布和条件,包括分析物成簇的条件和聚焦条件。
A7:如A4的方法,其中微选择性图像测定(MSIA)从该样品的图像执行多目标测定,其中该多目标测定是基于具有由不同试剂或样品高度限定的区域的区域/区选择,用于从该样品的一个单一图像的多个测定应用。
A8:如A4或A7中任一项的方法,其中在由成像器捕获的经标记的训练图像样品上训练机器学习模型以用于基于图像的测定中的缺陷检测和分割。
A9:如A4或A7中任一项的方法,其中训练机器学习模型以检测样品图像中的分析物,并使用A1和A4中所述的样品保持装置的结构确定检测的分析物的尺寸。
A10:一种使用柱或监测标记监测基于图像的测定以确定图像保持装置的质量和样品制备的质量的方法,所述柱或监测标记使用用于测定的样品的图像中的柱或监测标记的图像,所述方法包括:
a)检测样品保持装置中影响用于测定的有效样品体积的缺失的柱或破裂的柱;
b)检测柱或监测标记上的对象或分析物,其影响样品保持装置中的样品的高度并因此影响用于测定的样品的有效体积;以及
c)检测样品图像中的气泡和灰尘,指示测定操作中的瑕疵或样品保持装置中的缺陷。
A12:如A10的方法,标记的所述图像进行测定以在所述基于图像的测定中检测和调整所述成像器的操作,包括:聚焦、对比度拉伸、iso调整和滤波。
定义
除非另外定义,否则本文使用的所有技术和科学术语具有与本公开所属领域的普通技术人员通常理解的相同含义。尽管与本文所述类似或等同的任何方法和材料也可用于实践或测试本教导,但现在描述一些示例性方法和材料。
“QMAX”(Q:量化;M:放大;A:加入试剂;X:加速;还称为自校准压缩开放流(SCOF))装置、测定、方法、试剂盒和系统描述于:2015年8月10日提交的美国临时专利申请第62/202,989号,2015年9月14日提交的美国临时专利申请第62/218,455号,2016年2月9日提交的美国临时专利申请第62/293,188号,2016年3月8日提交的美国临时专利申请第62/305,123号,以及2016年7月31日提交的美国临时专利申请第62/369,181号,2016年9月15日提交的美国临时专利申请第62/394,753号,2016年8月10日提交的PCT申请(指定美国)第PCT/US2016/045437号,2016年9月14日提交的PCT申请(指定美国)第PCT/US2016/051775号,2016年9月15日提交的PCT申请(指定美国)第PCT/US2016/051794号,以及2016年9月27日提交的PCT申请(指定美国)第PCT/US2016/054025号,所有这些公开内容在此通过引用整体并且用于所有目的并入本文。
如本文所用,术语“样品”涉及含有一种或多种感兴趣的分析物或实体的材料或材料混合物。在一些实施例中,样品可以获自生物样品,例如细胞、组织、体液和粪便。感兴趣的体液包括但不限于羊水、房水、玻璃体液、血液(例如、全血、分馏的血液、血浆、血清等)、母乳、脑脊髓液(CSF)、耳垢(耳屎)、乳糜、食糜、内淋巴、外淋巴、粪便、胃酸、胃液、淋巴液、粘液(包括鼻引流和痰)、心包液、腹膜液、胸膜液、脓液、发炎性分泌物、唾液、皮脂(皮肤油脂)、精液、痰、汗、滑液、泪液、呕吐物、尿以及呼出的冷凝物。在具体的实施例中,可以从受试者例如人获得样品,并且可以在用于受试者测定之前对其进行处理。例如,在分析之前,可以在使用之前从组织样品中提取蛋白质/核酸,其方法是已知的。在特定实施例中,样品可以是临床样品,例如,从患者收集的样品。
术语“分析物”是指具有不同形状的分子(例如蛋白质、肽、DNA、RNA、核酸或其它分子)、细胞、组织、病毒和纳米颗粒。在一些实施例中,如在此使用的“分析物”是适合于在本方法中测试的任何物质。
如本文所用,“诊断样品”是指来源于受试者的作为身体副产品例如体液的任何生物样品。诊断样品可以以液体形式直接从受试者获得,或者可以通过首先将身体副产品置于溶液例如缓冲液中来从受试者获得。示例性诊断样品包括但不限于唾液、血清、血液、痰、尿、汗、泪液、精液、粪便、呼吸、活组织检查、粘液等。
如本文所用,“环境样品”是指从环境获得的任何样品。环境样品可以包括来自河流、湖泊、池塘、海洋、冰川、冰山、雨、雪、污水、水库、自来水、饮用水等的液体样品;来自土壤、堆肥、砂、岩石、混凝土、木材、砖、污水等的固体样品;以及来自空气、水下热出口、工业废气、车辆废气等的气体样品。通常,在用本发明方法分析样品之前,将非液体形式的样品转化成液体形式。
如本文所用,“食物样品”是指适于动物消费(例如,人类消费)的任何样品。食物样品可以包括原料、熟食、食物的植物和动物来源、预处理的食物以及部分或完全加工的食物等。通常,在用本发明方法分析样品之前,将非液体形式的样品转化成液体形式。
如本文所用,术语“诊断”是指使用用于识别、预测感兴趣的疾病或状况的结果和/或预测感兴趣的疾病或状况的治疗响应的方法或分析物。诊断可包括预测患有疾病或状况的可能性或倾向,估计疾病或状况的严重程度,确定疾病或状况进展的风险,评估对治疗的临床反应和/或预测对治疗的反应。
本文所用的“生物标记”是在感兴趣的样品中发现的任何分子或化合物,并且已知其诊断或与该样品所来源的受试者中的感兴趣的疾病或状况的存在或倾向相关。生物标记包括但不限于已知与感兴趣的疾病或状况相关的多肽或其复合物(例如,抗原、抗体)、核酸(例如,DNA、miRNA、mRNA)、药物代谢物、脂质、碳水化合物、激素、维生素等。
本文所用的关于诊断健康状况的“状况”是指区别于其它生理状态的精神或身体的生理状态。在一些情况下,健康状况可能不被诊断为疾病。感兴趣的示例性健康状况包括但不限于营养健康;陈化;暴露于环境毒素、杀虫剂、除草剂、合成激素类似物;妊娠;绝经期;更年期;睡眠;应力;前驱糖尿病;锻炼;疲劳;化学平衡;等。
必须注意,如本文和所附权利要求中所使用的,单数形式“一”、“一个”和“该”包括复数指示对象,除非上下文另外明确指出,例如当使用词语“单个”时。例如,提及“分析物”包括单个分析物和多个分析物,提及“捕获剂”包括单个捕获剂和多个捕获剂,提及“检测剂”包括单个检测剂和多个检测剂,提及“试剂”包括单个试剂和多个试剂。
如在此使用的,术语“适配”和“配置”意味着元件、组件或其他主题被设计和/或旨在执行给定功能。因此,术语“适配”和“配置”的使用不应被解释为意味着给定的元件、组件或其他主题简单地“能够”执行给定的功能。类似地,被陈述为配置为执行特定功能的主题可以附加地或可选地描述为可操作以执行该功能。
如本文所用,关于多于一个实体的列表的短语“至少一个”和“一个或多个”是指实体列表中的任何一个或多个实体,并且不限于实体列表中具体列出的每个(each)和每个(every)实体中的至少一个。例如,“A和B中的至少一个”(或等效地,“A或B中的至少一个”,或等效地,“A和/或B中的至少一个”)可指单独的A、单独的B,或A和B的组合。
如这里所使用的,置于第一实体和第二实体之间的术语“和/或”是指(1)第一实体、(2)第二实体,以及(3)第一实体和第二实体中的一个。使用“和/或”列出的多个实体应当以相同的方式来解释,即如此结合的实体的“一个或多个”。除了由“和/或”子句具体标识的实体之外,可以可选地存在其他实体,无论其与具体标识的那些实体相关还是无关。
当本文提及数值范围时,本发明包括其中包括端点的实施例、其中排除两个端点的实施例、以及其中包括一个端点而排除另一个端点的实施例。应当假定包括两个端点,除非另有说明。此外,除非另有说明或本领域普通技术人员从上下文和理解中明显看出。