CN108369740B - 用于将一个数字图像的至少一部分与另一个数字图像的至少一部分对准的方法 - Google Patents

用于将一个数字图像的至少一部分与另一个数字图像的至少一部分对准的方法 Download PDF

Info

Publication number
CN108369740B
CN108369740B CN201680072170.8A CN201680072170A CN108369740B CN 108369740 B CN108369740 B CN 108369740B CN 201680072170 A CN201680072170 A CN 201680072170A CN 108369740 B CN108369740 B CN 108369740B
Authority
CN
China
Prior art keywords
digital image
fov
fci
image
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680072170.8A
Other languages
English (en)
Other versions
CN108369740A (zh
Inventor
吉多·舒斯特
托斯滕·泽尔法斯
托马斯·翁特雷尔
简·豪斯
迈科·洛赫尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qiagen GmbH
Original Assignee
Qiagen GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qiagen GmbH filed Critical Qiagen GmbH
Publication of CN108369740A publication Critical patent/CN108369740A/zh
Application granted granted Critical
Publication of CN108369740B publication Critical patent/CN108369740B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/32Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/20Linear translation of whole images or parts thereof, e.g. panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

本发明涉及一种用于将一个数字图像的至少一部分与另一个数字图像对准的方法和系统。具体地,本发明涉及一种用于将第二数字图像的至少一部分与第一数字图像的至少一部分对准的方法,所述方法包含以下步骤,优选按以下顺序:将第一数字图像的至少一部分分成多个区块t_fi={t_fi1,t_fi2,...,t_fin},其中n是正整数;将第二数字图像的至少一部分分成多个区块t_si={t_si1,t_si2,...,t_sin},其中多个区块t_si中的每个区块t_siν对应于多个区块t_fi中的一个相应区块t_fiν,其中ν∈{1,2,...n};通过计算每个区块t_fiν'与对应区块t_siν'之间的相关性来产生多个相关图像fci={fci_1,fci_2,...fci_n'},其中ν'∈{1,2,...n'≤n};为多个相关图像fci_ν'中的每一个确定全局最大相关值p_ν'的位置;以及计算多个第一偏移矢量fov={fov_1,fov_2,...,fov_n”},其中ν”∈{1,2,...n”≤n'}的偏移矢量fov_ν”表示通过考虑对应相关图像fci_ν”的中心位置和相应相关图像fci_ν”的全局最大相关值p_ν”的位置而计算的区块t_fiν”与对应区块t_siν”之间的偏移,其中ν”∈{1,2,...n”≤n'}。所述方法还包含通过施加对应的第一偏移矢量fov来将第二数字图像的至少一部分与第一数字图像的至少一部分对准。

Description

用于将一个数字图像的至少一部分与另一个数字图像的至少 一部分对准的方法
本发明涉及一种用于将一个数字图像的至少一部分与另一个数字图像对准的方法和系统。本发明特别涉及一种用于在通过检测来自样品探针的荧光信号而分析生物分子的测序装置中将一个数字图像的至少一部分与另一个数字图像对准的方法和系统。
生物技术、医学和相关技术领域基于对分子的分析。电子器件可以高的精度和特异性分析分子。特别是在过去的几年中,已经开发自动电子器件来用于通过常规方法分析大量样品。例如,使用现代DNA测序装置来常规分析大量DNA探针。蛋白质样品可以通过高通量筛选和相关方法来分析。通常,这些电子器件检测从样品探针发射的荧光信号。当分子如核酸或蛋白质已经用荧光化合物如染料标记时,这是可能的。
市售测序装置能够对用荧光染料标记的大量样品进行并行测序。最近开发的称为“下一代测序”(NGS)的方法已经彻底改变了测序。NGS允许对在流动池中或通过产生油水乳液在空间上分离的克隆扩增的或单个DNA分子进行大规模并行测序。NGS允许数千或甚至数百万至数十亿个测序反应同时进行。
在NGS中,测序通过聚合酶介导的核苷酸延伸的重复循环来进行,或在一种形式中通过寡核苷酸连接的迭代循环来进行。作为一种大规模并行过程,视平台而定,NGS在单次仪器运行中产生数百兆碱基至数千兆碱基的核苷酸序列输出。与常规方法相比,廉价地产生大量序列数据是主要优势。
用于NGS技术的NGS平台和常见应用/领域例如在Voelkerding等人,ClinicalChemistry 55:4 641-658,2009和Metzker,Nature Reviews/Genetics第11卷,2010年1月,第31-46页中进行了综述。
在NGS中,各种目标寡核苷酸共价连接到载体上。接着,用DNA聚合酶将用荧光染料标记的核苷酸连接到生长的寡核苷酸链上。当用不同的荧光染料标记四种核苷酸时,可以检测从探针发射的荧光信号,并且可以鉴定与寡核苷酸连接的核苷酸的类型。检测后,将荧光染料切割掉,并且进行下一个合成循环,其中新的标记的核苷酸被连接到生长的链上。通过进行多个循环,可以以逐步方式确定生长的寡核苷酸链的序列。工作步骤在自动化测序装置中进行。
US 2010/0323350 A1和WO 2009/117119 A1涉及使用例如通过合成方法从测序获得的数据来确定核苷酸序列中的核酸身份的方法和组合物。
WO 2008/097455 A1涉及一种用于激发和测量包含荧光材料如荧光标记、染料或颜料的样品上或样品中的荧光的成像系统,特别是涉及检测核酸上的荧光标记。此外,公开了一种器件,其被配置为使得可同时检测多种不同DNA模板中的荧光标记。
WO 2014/020137 A1涉及一种用于从测序文库富集目标序列来提供目标富集的测序文库的方法,其中该测序文库适合于大规模并行测序并且包含多个双链核酸分子。
从具有标记分子的样品探针发射的荧光信号很弱,但信号必须以高的精度和特异性检测。因此,这些方法需要精确的光学设备,特别是相机和扫描技术。
此外,为了例如在FASTQ中获得精确且可靠的测序结果,需要对测序装置的光学成像系统所捕获的数字图像进行广泛评估。
本发明的一个目的为提供一种用于将一个数字图像的至少一部分与另一个数字图像对准的方法和系统,特别是提供一种用于在通过检测来自样品探针的荧光信号而分析生物分子的测序装置中将一个数字图像的至少一部分与另一个数字图像对准的方法和系统。根据本发明的方法是用计算机实施的。然而,技术人员应了解,还存在实施根据本发明的方法的其它方式。
这个目的通过根据独立权利要求的方法和系统实现。从属专利权利要求是指优选实施方式。
按先后顺序捕获/获得用于分析测序装置中的生物分子的数字图像。在捕获步骤之间,视场或图像部分可以变化,例如由测序装置的流动池的移动引起,这导致数字图像偏移。
因此,这些偏移妨碍了对数字图像的全面比较和分析。因此,图像配准的目标是去除数字图像的偏移。
除了更为人所知为图像配准的图像的一般对准之外,该方法还必须能够补偿镜头失真来支持测序流水线的后续处理步骤。
使用计算机实施的方法而不是静态硬件或校准解决方案的优点之一是确保系统在长时间内具有高可靠性,例如通过固有地补偿机械组件的初期间隙(nascentbacklash)。例如,测序装置的老化必须得到补偿。此外,通过避免本来需要的校准和再校准,维护成本通常会降低。
本发明涉及一种用于将第二数字图像的至少一部分与第一数字图像的至少一部分对准的方法。所述方法包含将第一数字图像的至少一部分分成多个区块(tile)t_fi={t_fi1,t_fi2,...,t_fin}的步骤,其中n是正整数。所述方法还包含将第二数字图像的至少一部分分成多个区块t_si={t_si1,t_si2,...,t_sin}的步骤,其中多个区块t_si中的每个区块t_siν对应于多个区块t_fi中的一个相应区块t_fiν,其中ν∈{1,2,...n}。所述方法还包含通过计算每个区块t_fiν'与对应区块t_siν'之间的相关性来产生多个相关图像fci={fci_1,fci_2,...fci_n'}的步骤,其中ν'∈{1,2,...n'≤n}。所述方法还包含为多个相关图像fci_ν'中的每一个确定全局最大相关值p_ν'的位置的步骤。所述方法还包含以下步骤:计算多个第一偏移矢量fov={fov_1,fov_2,...,fov_n”},其中ν”∈{1,2,...n”≤n'}的偏移矢量fov_ν”表示通过考虑对应相关图像fci_ν”的中心位置和相应相关图像fci_ν”的全局最大相关值p_ν”的位置而计算的区块t_siν”与对应区块t_fiν”之间的偏移,其中ν”∈{1,2,...n”≤n'}。所述方法还包含通过施加对应的第一偏移矢量fov来将第二数字图像的至少一部分与第一数字图像的至少一部分对准。
优选地,按照如上所呈现的顺序执行根据本发明的方法的上述步骤。
多个区块t_fi和t_si可以分别完全覆盖第一和第二数字图像,其中,对准的步骤还包含通过施加对应的第一偏移矢量fov_ν”来变换区块t_siν”中的至少一个对象的位置或区块t_siν”。
或者,优选地,多个区块t_fi和t_si分别分布在第一和第二数字图像上来仅覆盖第一和第二数字图像的一部分。
多个区块t_fi和t_si可以具有相同尺寸并且分布在具有比区块尺寸大的单元尺寸的规则网格上。
所述方法还可以包含在计算偏移矢量fov之后,将偏移矢量fov_ν”分配给区块t_siν”的预定区域。
所述预定区域可以是区块t_siν”的中心。
所述方法还可以包含在计算偏移矢量fov之后,基于所分配的偏移矢量fov_ν”确定预定函数的参数的回归分析步骤,并且其中对准的步骤还可以包含通过施加所述函数来变换第二数字图像。
所述预定函数可以例如是三次多项式函数。
多个区块t_fi和t_si分别优选分布在第一和第二数字图像上而不重叠。
换言之,在本发明的可替选方面中,代替将整个第一和第二图像分成多个区块,优选使用仅覆盖图像区域的一小部分(例如,图像的10%)的稀疏区块,接着确定最优分析函数,所述函数将计算的每个区块的偏移矢量外推到R2中的每个点(R=实数集)中。
也就是说,优选使用适当分布在图像区域上的不重叠的区块集合来实现捕获平移、镜头失真和小角度旋转。例如,可以通过在规则网格上放置尺寸相同的区块来构建适当区块,所述规则网格的单元尺寸大于区块的尺寸。
此外,根据本发明的可替选方面,在第一步骤中,通过计算相关图像并从中心位置减去最大相关值的子像素精确位置来计算每个区块的偏移矢量。计算成本由相关图像的计算支配,并且限于图像区域的一小部分能够降低涉及的计算成本。
在第二步骤中,根据本发明的可替选方面,可以将每个偏移矢量分配给对应区块的中心位置。这产生了数据点集合S={(x1,y1,dx1,dy1),(x2,y2,dx2,dy2),...,(xn,yn,dxn,dyn)},其中xi和yi是第i个中心位置的坐标并且dxi和dyi是在坐标轴方向上的对应偏移。使用S中的数据点来鉴定适当函数f的最优参数,所述函数f满足对于{1,...,n}中的所有i,f(xi,yi)=(dxi+epsxi,dyi+epsyi),使得所有误差项epsxi和epsyi是最小的。例如,如上所述,在自动荧光显微成像的情况下,3次多项式是适当的。
多项式具有另一个益处,即其在系数方面是线性函数,所以可以施用线性最小二乘回归的有效方法来鉴定最优参数。
接着通过函数g(x,y)=(x,y)+f(x,y)给出图像坐标空间在参考空间上的期望映射。在给定映射g的情况下,通过简单地评估像素或对象位置处的g,可以以任意精确度和低计算成本将每个像素或对象与参考图像对准。
此外,根据本发明的可替选方面,可以实现用于储存所得映射的最小覆盖区(footprint)。如果是3次多项式,完全映射,则储存8个参数就足够了,这些参数在IEEE-754单精确度浮点格式中相当于32字节的存储。
优选地,如下计算fov_ν”:
fov_v”=(相关图像fci_v的中心位置)-(相关图像fci_v的p_v的峰值位置)。
优选地,根据本发明的方法包含以下步骤:在计算多个第一偏移矢量fov的步骤之后,通过施加对应的第一偏移矢量fov_ν”来变换区块t_siν”中至少一个对象的位置。仅变换区块t_siν”中至少一个对象的位置的优点之一是不必变换相应区块t_siν”的所有像素,这耗费较少的时间并且耗费较少的资源。
如果n'<n,则对于其中x>n'的t_fix和t_six不产生相关图像。因此,忽略具有最高指数(indices)的对应区块,并且不会产生相关图像。
如果忽略具有较低指数的区块,则必须考虑相关图像fci_x的对应t_fiy和t_siy将由函数y=C(x)给出,即t_fiC(x)、t_siC(x)。对于每个对应物和每个方向,都必须使用相应函数:
fci->t_fi,t_si;
fov->t_fi,t_si;
fov->fci。
也就是说,在将数字图像分成多个图区块之前,必须确定要忽略区块的信息。
优选地,n=n'=n”,并且ν'=ν'=ν”。优选地,第二数字图像的至少一部分的区块t_si的数量n和第一数字图像的至少一部分的区块t_fi的数量n与相关图像fci的数量n'相同,即n=n'。优选地,相关图像fci的数量n'与第一偏移矢量fov的数量n”相同,n'=n”。
术语“对象”涉及数字图像内的预定区域。预定区域可以通过评估数字图像的特定区域处的强度来确定。
优选地,至少一个对象是优选被配置为接收DNA和/或RNA的珠粒。
优选地,根据本发明的方法还包含以下步骤:
-通过计算第一数字图像的至少一部分与第二数字图像的至少一部分之间的相关性来产生相关图像sci;
-确定相关图像sci的全局最大相关值p_c的位置;
-通过考虑第一相关图像sci的中心位置和第一数字图像sci的全局最大相关值p_c的位置来计算第一数字图像的至少一部分与第二数字图像的至少一部分之间的偏移矢量sov。
优选地,根据本发明的方法还包含通过施加计算的偏移矢量sov来变换第二数字图像的至少一部分的步骤。优选地,根据本发明的方法还包含通过施加计算的偏移矢量sov来变换第二数字图像的步骤。优选地,在执行将第二数字图像的至少一部分分成多个区块t_si的步骤之前执行这些步骤。优选地,变换包括仿射变换,即平移。
优选地,所述变换涉及整个图像的完全移位,特别是整个图像的整数像素(integer pixel)移位。
本领域技术人员应了解本发明不限于特定的变换。
变换的选择通常与其它考虑相关以适当地对本发明实施特定变换。因此,认为每个可能的变换和特定实施方案的完整描述在本领域技术人员的公知常识范围内,并且在此处省略其描述。
优选地,所述变换通常通过将t_siν”中的每个像素映射到参考坐标系(由t_fiν”定义)来定义。也就是说,产生新的图像t_riν”,其中“r”表示配准(registred),其中每个像素(x,y)的强度对应于t_siν”中对应像素(x,y)+fov_ν”处的强度。
如果对象,即在t_siν”中的预定区域(目标区域)(x,y)将进行变换,则可以用与上述相同的方式执行变换,即通过施加fov_ν”在参考坐标系中移位。不属于所述预定区域的区域则被该变换忽略。
整数像素通常不通过所述变换映射到整数像素。技术人员应该清楚,可以使用内插法来处理非整数像素位置。
本发明通常涉及第一与第二数字图像之间的小移位。因此,由于出现变换所产生的空洞和重叠而引起的可能的“伪影(artefact)”不太明显并且可以忍受。如果仅对图像的预定区域进行变换,则这些伪影甚至更不明显。
然而,将某个区块的计算的偏移矢量分配给相应区块的中心并且使用常用内插法,可以产生连续不重叠的矢量场。因此,在这种情况下可以不存在伪影。
在整个图像被区块覆盖的情况下,可以在相邻区块之间使用双三次内插来获得每个像素位置的适当值。
优选地,仅在第二数字图像的至少一部分与第一数字图像的至少一部分之间的偏移超出预定限制时才执行变换第二数字图像的至少一部分的步骤。优选地,所述限制包含偏移矢量sov的长度。优选地,所述限制包含矢量分量中的至少一个。优选地,仅在矢量分量中的至少一个大于预定值时,更优选地,在矢量分量中的至少一个大于10个像素和/或相应区块t_siν的横向尺寸或相应区块t_t_siν的区块尺寸的10%时才执行变换第二数字图像的至少一部分的步骤。优选地,在考虑第二数字图像和第一数字图像的至少一部分的尺寸的情况下确定所述预定限制。
优选地,多个区块t_si中的每个区块t_siν在第一方向上具有相同长度l_1,并且在与第一方向垂直的第二方向上具有相同长度l_2,其中优选地,l_1=l_2,更优选地,其中l_1=l_2=128个像素。
优选地,多个区块t_fi中的每个区块t_fiν在第一方向上具有长度l_1,并且在第二方向上具有长度l_2。
优选地,第一和/或第二数字图像含有带有荧光化合物的至少一个对象,并且其中第一数字图像和/或第二数字图像在荧光化合物发射电磁辐射期间由光学成像系统获得。
优选地,第一数字图像和/或第二数字图像在反射式照明期间、优选在反射式白光照明期间由光学成像系统获得。
优选地,通过区块t_siν'与对应区块t_fiν'的相位相关(phase-correlation)或互相关(cross-correlation)来计算区块t_siν'与对应区块t_fiν'之间的相关性。
优选地,通过第一数字图像的至少一部分与第二数字图像的至少一部分的相位相关或互相关来计算第一数字图像的至少一部分与第二数字图像的至少一部分之间的相关性。
本发明还涉及一种用于将第二数字图像的至少一部分与第一数字图像的至少一部分对准的系统。
优选地,系统被配置成执行根据权利要求任一项所述的方法中的任一种的步骤。
根据本发明的系统包含第一单元,所述第一单元被配置成将第一数字图像的至少一部分分成多个区块t_fi={t_fi1,t_fi2,...,t_fin},其中n是正整数。
所述系统还包含第二单元,所述第二单元被配置成将第二数字图像的至少一部分分成多个区块t_si={t_si1,t_si2,...,t_sin},其中多个区块t_si中的每个区块t_siν对应于多个区块t_fi中的一个相应区块t_fiν,其中ν∈{1,2,...n}。
所述系统还包含第三单元,所述第三单元被配置成通过计算每个区块t_fiν'与对应区块t_siν'之间的相关性来产生多个相关图像fci={fci_1,fci_2,...fci_n'},其中ν'∈{1,2,...n'≤n}。
所述系统还包含第四单元,所述第四单元被配置成为多个相关图像fci_ν'中的每一个确定全局最大相关值p_ν'的位置。
所述系统还包含第五单元,所述第五单元被配置成计算多个第一偏移矢量fov={fov_1,fov_2,...,fov_n”},其中ν”∈{1,2,...n”≤n'}的偏移矢量fov_ν”表示通过考虑对应相关图像fci_ν”的中心位置和相应相关图像fci_ν”的全局最大相关值p_ν”的位置而计算的区块t_fiν”与对应区块t_siν”之间的偏移,其中ν”∈{1,2,...n”≤n'}。
优选地,所述系统还包含变换单元,所述变换单元被配置成在计算多个第一偏移矢量fov的步骤之后,通过施加对应的第一偏移矢量fov_ν”来变换区块t_siν”。
优选地,所述系统还包含变换单元,所述变换单元被配置成在计算多个第一偏移矢量fov的步骤之后,通过施加对应的第一偏移矢量fov_ν”来变换区块t_siν”中至少一个对象的位置。
优选地,所述系统还包含如下单元,所述单元被配置成通过计算第一数字图像的至少一部分与第二数字图像的至少一部分之间的相关性产生相关图像sci。
优选地,所述系统还包含如下单元,所述单元被配置成确定相关图像sci的全局最大相关值的位置。
优选地,所述系统还包含如下单元,所述单元被配置成通过考虑第一相关图像的中心位置和第一相关图像的全局最大相关值的位置来计算第一数字图像的至少一部分与第二数字图像的至少一部分之间的偏移矢量sov。
优选地,所述系统还包含如下单元,所述单元被配置成通过施加计算的偏移矢量sov来变换第二数字图像的至少一部分和/或第二数字图像。优选地,在执行将第二数字图像的至少一部分分成多个区块t_si的步骤之前执行这些步骤。
本发明还涉及一种计算机程序产品,其包含一个或多个计算机可读介质,所述计算机可读介质具有用于执行上述方法中的任一种的步骤的计算机可执行指令。
下文将参考优选示例性实施方式并且参考附图更详细地解释本发明,其中:
图1显示代表白光图像的第二数字图像的示例性草图以及代表荧光图像的第一数字图像的示例性草图;
图2a显示示例性白光图像;
图2b显示示例性荧光图像;
图3显示如图1所示的第二数字图像的草图与如图1所示的第一数字图像的草图之间的相关图像的示例性草图;
图4显示根据本发明的优选实施方式示例性地将如图1所示的第二数字图像的草图和如图1所示的第一数字图像的草图分成多个区块;
图5显示示例性草图,其中第一数字图像与第二数字图像之间的偏移大于预定值;
图6显示根据本发明的一个优选实施方式的示例性系统;并且
图7显示根据本发明的另一个优选实施方式的示例性系统。
图1的左侧显示代表所谓白光图像的第一数字图像的示例性草图,所述白光图像即在测序装置的流动池的一部分的反射式白光照明期间使用光学成像系统获得的数字图像。示例性白光图像如图2a所示。出于说明性目的,示例性白光图像为反色。
图1的右侧显示代表所谓荧光图像的第二数字图像的示例性草图,所述荧光图像即在荧光化合物发射期间获得的图像,其中荧光化合物连接到珠粒上,所述珠粒被配置成在表面上接收至少一个包含DNA或RNA的分子。这些珠粒可例如以商标Dynabeads购自例如Thermo Fisher Scientific Inc.,参见参考文献[1]。并且示例性荧光图像如图2b所示。出于说明性目的,示例性荧光图像为反色。
在图1中,珠粒以黑点形式显示。然而,技术人员应了解,珠粒的尺寸和珠粒的数量是出于说明的目的来选择的,并不反映其实际尺寸和数量。
从第一数字图像和第二数字图像的示例性草图中的圈出的珠粒可以看出,在图1中表示为“x”的方向上,第一数字图像和第二数字图像之间存在偏移。
图3显示如图1所示的第一数字图像的草图与如图1所示的第二数字图像的草图之间的相关图像的示例性草图。相关图像优选通过互相关来相关。可以看出,在相关图像中存在峰值P,即相关图像中在“x”方向上偏离中心C的全局最大相关值。相关图像中峰值P的从中心的偏离直接源于代表第一数字图像的草图与代表第二数字图像的草图之间的偏移。
图4显示根据本发明的一个优选实施方式示例性地将如图1所示的第二数字图像的草图和如图1所示的第二数字图像的草图分成多个区块。在优选实施方式中,第一数字图像被分成64个区块t_fi,并且第二数字图像被分成64个区块t_si。第一数字图像的64个区块t_fi中的每个区块t_fiν和第二数字图像的64个区块t_si中的每个区块t_siν在与如图4所示的“x”方向垂直的方向上具有长度l_1,并且在“x”方向上具有长度l_2,其中两个长度l_1和l_2相同。换言之,区块t_fiν和区块t_siν具有相同尺寸。
在这个实施方式中,在将两个图像分成区块之后,产生每个区块t_fiν和每个区块t_siν的相关图像fci_ν,从而产生64个相关图像fci。在这个实施方式中,通过互相关来计算相关图像fci。
产生相关图像之后,确定多个相关图像fci_ν中的每一个中的相应峰值(即相应的全局最大相关值)的位置。
在另一个步骤中,计算64对区块中每一对的区块t_fiν与对应区块t_siν之间的偏移矢量fov_ν。在考虑相应相关图像fci_ν的中心位置和相关图像fci_ν的全局最大相关值p_ν的位置的情况下执行计算。换言之,对于每对区块,可以如下计算偏移矢量fov_ν:
fov_ν=(相关图像fci_ν的中心位置)-(相关图像fci_ν的p_v的峰值位置)。
将两个图像分成多个区块的优点之一是适当地细分成区块固有地考虑了旋转位移,旋转位移例如可以由镜头失真引起。
在另一个步骤中,使用相应的偏移矢量fov_ν来变换珠粒位置,其中珠粒位于区块t_siν中。换言之,仅变换珠粒位置,而不是整个区块t_siν。仅变换珠粒位置而不是整个区块的优点之一是不必变换相应区块的所有像素,并且特别是不必变换整个第二数字图像,这耗费较少的时间并且需要较少的资源。技术人员应了解,不仅可以在相应区块t_siν中变换一个珠粒位置,而且可以在相应区块t_siν中变换多个珠粒位置,而不必变换相应区块的所有像素。此外,技术人员还应了解,可以变换每个区块t_siν中的至少一个珠粒位置,或可以仅变换一些区块t_si中的至少一个珠粒位置,而不必变换所有像素。
图5显示一个实施例,其中第一数字图像与第二数字图像之间的偏移大于预定值,根据这个优选实施方式,大于细分的块尺寸,即大于区块t_fiν和t_siν的长度l_1和/或l_2的一部分。在这种情况下,区块不会重叠,并且配准(registration)过程将失败。因此,在使用分成区块的如上述解释的对准方法之前执行全局配准。这种全局配准的优点之一是改善了对准方法的稳健性。
从第一数字图像和第二数字图像的圈出部分可以看出,如果直接将第一数字图像和第二数字图像分成多个区块t_fi/t_si,则第一数字图像与第二数字图像之间在“x”方向上的偏移大于区块t_fiν和t_siν的尺寸l_2。因此,区块t_fiν与区块t_siν之间不会有重叠,并且配准会失败。
在如图4所示的优选实施方式中所呈现的那样将第一数字图像和第二数字图像分成多个区块之前执行这个优选实施方式的前述方法步骤。
在第一步骤中,通过计算第一数字图像与第二数字图像之间的相关性来产生第一数字图像与第二数字图像之间的相关图像sci。在这个优选实施方式中,通过互相关产生相关图像。
在第二步骤中,确定相关图像sci的全局最大相关值即例如图3所示的相关图像的峰值的位置。
在第三步骤中,通过考虑第一相关图像的中心位置和第一相关图像的全局最大相关值的位置来计算第一数字图像与第二数字图像之间的偏移矢量sov。换言之,偏移矢量sov可以如下计算:
sov=(第一相关图像sci的中心位置)-(第一相关图像的峰值位置)。
如果判定第一数字图像与第二数字图像之间的偏移超出预定限制,则通过施加计算的偏移矢量sov来变换第二数字图像。技术人员应了解,上述平移通过仿射变换来执行。在这个优选实施方式中,所述限制包含矢量分量中的至少一个。在这个实施方式中,仅在矢量分量中的至少一个大于预定值,如相应区块t_siν的横向尺寸的10%或相应区块t_siν的横向尺寸的10%时,才通过施加计算的偏移矢量sov变换第二数字图像。仅在第一数字图像与第二数字图像之间的偏移超过预定限制时才变换第二数字图像的优点之一是,仅在偏移过高因此会导致配准过程失败时才需要执行耗时且耗资源的全局变换。
图6显示根据本发明的一个优选实施方式的示例性系统100。
通常,系统100被配置成执行如参考图4的实施方式中所呈现的方法步骤。
系统100包含第一单元101,所述第一单元101将第一数字图像分成多个区块t_fi。在第一单元101将第一数字图像分成多个区块t_fi之后,第二单元102将第二数字图像分成多个区块t_si。技术人员应了解,两个过程可以由第一单元101和第二单元102同时执行。作为替选性方案,技术人员还应了解,第二单元102可以在第一单元101将第一数字图像分成多个区块t_fi之前将第二数字图像分成多个区块t_si。由第一单元101执行的分割的结果呈现在图4的左侧。由第二单元102执行的分割的结果呈现在图4的右侧。
系统100还包含第三单元103,所述第三单元103通过计算每个区块t_siν与对应区块t_fiν之间的相关性来产生多个相关图像fci。
此外,系统100还包含第四单元104,所述第四单元104确定每个相关图像fci_ν的相关图像的峰值位置p_ν,即每个相关图像fci_ν的全局最大相关值的位置。
系统100还包含第五单元105,所述第五单元105通过考虑对应相关图像fci_ν的中心位置和峰值位置p_ν来计算每对t_fiν和t_siν的偏移矢量fov_ν。换言之,第五单元105被配置成通过使用参考图4的实施方式中所呈现的公式计算fov_ν。
图7显示根据本发明的另一个优选实施方式的示例性系统100。
系统100包含与根据参考图6的优选实施方式的系统100相同的单元。此外,系统100还包含单元101-1,所述单元101-1通过计算第一数字图像与第二数字图像之间的相关性产生相关图像sci。在单元101-1已经产生相关图像sci之后,单元101-2确定相关图像sci的全局最大相关值的位置。在单元101-2确定全局最大相关值即相关图像的峰值的位置之后,单元101-3通过考虑第一相关图像的中心位置sci和第一相关图像sci的全局最大相关值的位置来计算第一数字图像与第二数字图像之间的偏移矢量sov。如果第一数字图像与第二数字图像之间的偏移超出预定限制,则单元101-4通过将偏移矢量sov施加于第二数字图像来变换第二数字图像。在变换之后或如果由于第一数字图像与第二数字图像之间的偏移不超出预定限制而不需要变换,则第一至第五单元101至105执行参考图6的优选实施方式中所论述的方法步骤。
尽管已经在附图和前面的描述中详细说明和描述了本发明,但是所述说明和描述应被认为是说明性的或示例性的并且是非限制性的;因此本发明不限于所公开的实施方式。根据对附图、公开内容和权利要求书的研究,本领域技术人员可以通过实践要求保护的本发明来了解和实现所公开的实施方式的变化。在权利要求书中,词语“包含”不排除其它要素或步骤,并且不带具体数量的指称不排除多个并且可以表示“至少一个”。
参考文献
[1]-https://www.thermofisher.com/de/de/home/brands/product-brand/dynal.html

Claims (25)

1.一种用于将第二数字图像的至少一部分与第一数字图像的至少一部分对准的方法,所述方法包含以下步骤,按以下顺序:
a)将所述第一数字图像的至少一部分分成多个区块t_fi={t_fi1,t_fi2,...,t_fin},其中n是正整数;
b)将所述第二数字图像的至少一部分分成多个区块t_si={t_si1,t_si2,...,t_sin},其中所述多个区块t_si中的每个区块t_siν对应于所述多个区块t_fi中的一个相应区块t_fiν,其中ν∈{1,2,...n};
c)通过计算每个区块t_fiν'与对应区块t_siν'之间的相关性来产生多个相关图像fci={fci_1,fci_2,...fci_n'},其中ν'∈{1,2,...n'≤n};
d)为所述多个相关图像fci_ν'中的每一个确定全局最大相关值p_ν'的位置;
e)计算多个第一偏移矢量fov={fov_1,fov_2,...,fov_n”},其中ν”∈{1,2,...n”≤n'}的偏移矢量fov_ν”表示通过考虑对应相关图像fci_ν”的中心位置和相应相关图像fci_ν”的全局最大相关值p_ν”的位置而计算的区块t_siν”与对应区块t_fiν”之间的偏移,其中ν”∈{1,2,...n”≤n'};以及
f)通过施加对应的第一偏移矢量fov来将所述第二数字图像的至少一部分与所述第一数字图像的至少一部分对准。
2.根据权利要求1所述的方法,其中所述多个区块t_fi和t_si分别完全覆盖所述第一数字图像和第二数字图像,其中步骤f)还包含通过施加所述对应的第一偏移矢量fov_ν”来变换所述区块t_siν”中的至少一个对象的位置。
3.根据权利要求2所述的方法,其中所述至少一个对象是珠粒。
4.根据权利要求3所述的方法,其中所述珠粒被配置为接收DNA和/或RNA。
5.根据权利要求1所述的方法,其中所述多个区块t_fi和t_si分别分布在所述第一数字图像和第二数字图像上来仅覆盖所述第一数字图像和第二数字图像的一部分。
6.根据权利要求5所述的方法,其中所述多个区块t_fi和t_si具有相同尺寸并且分布在具有比所述区块的尺寸大的单元尺寸的规则网格上。
7.根据权利要求5所述的方法,所述方法还包含在步骤e)之后,将所述偏移矢量fov_ν”分配给所述区块t_siν”的预定区域。
8.根据权利要求7所述的方法,其中所述预定区域是所述区块t_siν”的中心。
9.根据权利要求5至8任一项所述的方法,其中所述方法还包含在步骤e)之后,基于所分配的偏移矢量fov_ν”确定预定函数的参数的回归分析步骤,并且其中步骤f)还包含通过施加所述函数来变换所述第二数字图像。
10.根据权利要求9所述的方法,其中所述预定函数是三次多项式函数。
11.根据权利要求2至8任一项所述的方法,其中所述多个区块t_fi和t_si分别分布在所述第一数字图像和第二数字图像上而不重叠。
12.根据权利要求1至8任一项所述的方法,其中n=n'=n”并且其中ν'=ν'=ν”。
13.根据权利要求1至8任一项所述的方法,所述方法还在步骤a)之前包含以下步骤:
a1)通过计算所述第一数字图像的至少一部分与所述第二数字图像的至少一部分之间的相关性来产生相关图像sci;
a2)确定所述相关图像sci的全局最大相关值p_c的位置;
a3)通过考虑第一相关图像sci的中心位置和第一相关图像sci的全局最大相关值p_ν的位置来计算所述第一数字图像的至少一部分与所述第二数字图像的至少一部分之间的偏移矢量sov。
14.根据权利要求13所述的方法,所述方法还在步骤a3)之后包含以下步骤:通过施加所计算的偏移矢量sov来变换所述第二数字图像的至少一部分。
15.根据权利要求1至8任一项所述的方法,其中所述多个区块t_si中的每个区块t_siν在第一方向上具有相同长度l_1,并且在与所述第一方向垂直的第二方向上具有相同长度l_2。
16.根据权利要求15所述的方法,其中l_1=l_2。
17.根据权利要求15所述的方法,其中l_1=l_2=128个像素。
18.根据权利要求15所述的方法,其中所述多个区块t_fi中的每个区块t_fiν在所述第一方向上具有所述长度l_1,并且在所述第二方向上具有所述长度l_2。
19.根据权利要求1至8任一项所述的方法,其中所述第一数字图像和/或所述第二数字图像含有带有荧光化合物的至少一个对象,并且其中所述第一数字图像和/或所述第二数字图像在所述荧光化合物发射电磁辐射期间由光学成像系统获得。
20.根据权利要求1至8任一项所述的方法,其中所述第一数字图像和/或所述第二数字图像在反射式照明期间由光学成像系统获得。
21.根据权利要求1至8任一项所述的方法,其中所述第一数字图像和/或所述第二数字图像在反射式白光照明期间由光学成像系统获得。
22.根据权利要求1至8任一项所述的方法,其中通过所述区块t_siν'与对应区块t_fiν'的相位相关或互相关来计算所述区块t_siν'与对应区块t_fiν'之间的相关性。
23.根据权利要求13所述的方法,其中通过所述第一数字图像的至少一部分与所述第二数字图像的至少一部分的相位相关或互相关来计算所述第一数字图像的至少一部分与所述第二数字图像的至少一部分之间的相关性。
24.一种用于将第二数字图像的至少一部分与第一数字图像的至少一部分对准的系统,所述系统被配置成执行根据前述权利要求任一项所述的方法的步骤,所述系统包含:
第一单元,其被配置成将所述第一数字图像的至少一部分分成多个区块t_fi={t_fi1,t_fi2,...,t_fin},其中n是正整数;
第二单元,其被配置成将所述第二数字图像的至少一部分分成多个区块t_si={t_si1,t_si2,...,t_sin},其中所述多个区块t_si中的每个区块t_siν对应于所述多个区块t_fi中的一个相应区块t_fiν,其中ν∈{1,2,...n};
第三单元,其被配置成通过计算每个区块t_fiν'与对应区块t_siν'之间的相关性来产生多个相关图像fci={fci_1,fci_2,...fci_n'},其中ν'∈{1,2,...n'≤n};
第四单元,其被配置成为所述多个相关图像fci_ν'中的每一个确定全局最大相关值p_ν'的位置;以及
第五单元,其被配置成计算多个第一偏移矢量fov={fov_1,fov_2,...,fov_n”},其中ν”∈{1,2,...n”≤n'}的偏移矢量fov_ν”表示通过考虑对应相关图像fci_ν”的中心位置和相应相关图像fci_ν”的全局最大相关值p_ν”的位置而计算的区块t_siν”与对应区块t_fiν”之间的偏移,其中ν”∈{1,2,...n”≤n'},其中所述第五单元还被配置成通过施加对应的第一偏移矢量fov将所述第二数字图像的至少一部分与所述第一数字图像的至少一部分对准。
25.一种计算机可读介质,所述计算机可读介质具有用于执行根据权利要求1至23任一项所述的方法的步骤的计算机可执行指令。
CN201680072170.8A 2015-12-10 2016-12-09 用于将一个数字图像的至少一部分与另一个数字图像的至少一部分对准的方法 Active CN108369740B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP15199409.2 2015-12-10
EP15199409 2015-12-10
PCT/EP2016/080509 WO2017098011A1 (en) 2015-12-10 2016-12-09 Method for aligning at least one part of one digital image to at least one part of another digital image

Publications (2)

Publication Number Publication Date
CN108369740A CN108369740A (zh) 2018-08-03
CN108369740B true CN108369740B (zh) 2022-06-21

Family

ID=55024757

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680072170.8A Active CN108369740B (zh) 2015-12-10 2016-12-09 用于将一个数字图像的至少一部分与另一个数字图像的至少一部分对准的方法

Country Status (5)

Country Link
US (1) US10991107B2 (zh)
EP (1) EP3387620B1 (zh)
JP (1) JP6832933B2 (zh)
CN (1) CN108369740B (zh)
WO (1) WO2017098011A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116543052B (zh) * 2023-06-15 2023-11-10 深圳荣耀智能机器有限公司 一种对位偏差处理方法和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6738532B1 (en) * 2000-08-30 2004-05-18 The Boeing Company Image registration using reduced resolution transform space
CN101221661A (zh) * 2008-01-29 2008-07-16 深圳市迅雷网络技术有限公司 一种图像配准方法及装置
CN103679748A (zh) * 2013-11-18 2014-03-26 北京空间机电研究所 一种红外遥感图像弱点目标提取装置及方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3927353B2 (ja) * 2000-06-15 2007-06-06 株式会社日立製作所 比較検査における画像の位置合せ方法、比較検査方法及び比較検査装置
US7085431B2 (en) * 2001-11-13 2006-08-01 Mitutoyo Corporation Systems and methods for reducing position errors in image correlation systems during intra-reference-image displacements
US20040013299A1 (en) * 2002-07-12 2004-01-22 The United States Of America Represented By The Secretary Of The Navy System and method for contrast enhanced registration with complex polynomial interpolation
GB2458855B (en) 2007-02-05 2011-06-08 Intelligent Bio Systems Inc A system for imaging treated bio-molecules in a flow-cell using a non-lasing light source
US8481259B2 (en) 2007-02-05 2013-07-09 Intelligent Bio-Systems, Inc. Methods and devices for sequencing nucleic acids in smaller batches
US8883999B2 (en) 2008-03-19 2014-11-11 Intelligent Bio Systems, Inc. Methods and solutions for inhibiting undesired cleaving of labels
US9212995B2 (en) * 2009-03-02 2015-12-15 Mbio Diagnostics, Inc. System and method for detecting multiple molecules in one assay
US8300971B2 (en) * 2009-04-17 2012-10-30 LevelSet Systems, Inc. Method and apparatus for image processing for massive parallel DNA sequencing
US11074495B2 (en) * 2013-02-28 2021-07-27 Z Advanced Computing, Inc. (Zac) System and method for extremely efficient image and pattern recognition and artificial intelligence platform
US20150197787A1 (en) 2012-08-02 2015-07-16 Qiagen Gmbh Recombinase mediated targeted dna enrichment for next generation sequencing
CN104732532B (zh) * 2015-03-11 2017-05-31 中国空间技术研究院 一种遥感卫星多光谱图像配准方法
EP3576868A4 (en) * 2017-02-01 2021-03-17 Illumina, Inc. SYSTEM AND METHOD WITH MARKS RESPONDING TO MULTIPLE EXCITATION FREQUENCIES

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6738532B1 (en) * 2000-08-30 2004-05-18 The Boeing Company Image registration using reduced resolution transform space
CN101221661A (zh) * 2008-01-29 2008-07-16 深圳市迅雷网络技术有限公司 一种图像配准方法及装置
CN103679748A (zh) * 2013-11-18 2014-03-26 北京空间机电研究所 一种红外遥感图像弱点目标提取装置及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
A Survey of Image Registration Techniques;LISA GOTTESFELD BROWN;《ACM Computing Surveys》;19921231;第24卷(第4期);第325-376页 *

Also Published As

Publication number Publication date
JP6832933B2 (ja) 2021-02-24
CN108369740A (zh) 2018-08-03
US10991107B2 (en) 2021-04-27
JP2018537786A (ja) 2018-12-20
US20200273183A1 (en) 2020-08-27
WO2017098011A1 (en) 2017-06-15
EP3387620C0 (en) 2023-11-01
EP3387620A1 (en) 2018-10-17
EP3387620B1 (en) 2023-11-01

Similar Documents

Publication Publication Date Title
CN103025927B (zh) 精确地比对与配准用于dna测序的阵列的方法及系统
CN108701350B (zh) 用于数字图像的背景补偿的系统、方法和计算机可读介质
EP4015645A1 (en) Base recognition method and system, computer program product, and sequencing system
US10878562B2 (en) Method for determining the overall brightness of at least one object in a digital image
CN113012757B (zh) 识别核酸中的碱基的方法和系统
CN108369740B (zh) 用于将一个数字图像的至少一部分与另一个数字图像的至少一部分对准的方法
US10614571B2 (en) Object classification in digital images
US10733707B2 (en) Method for determining the positions of a plurality of objects in a digital image
EP3513376B1 (en) Neighbor influence compensation
EP3843033B1 (en) Method for constructing sequencing template based on image, and base recognition method and device
WO2024000288A1 (zh) 图像拼接方法、基因测序系统及相应的基因测序仪

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant