CN113763377A - 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 - Google Patents
用于使用载片缩略图图像的感兴趣区域检测的系统和方法 Download PDFInfo
- Publication number
- CN113763377A CN113763377A CN202111098397.9A CN202111098397A CN113763377A CN 113763377 A CN113763377 A CN 113763377A CN 202111098397 A CN202111098397 A CN 202111098397A CN 113763377 A CN113763377 A CN 113763377A
- Authority
- CN
- China
- Prior art keywords
- tissue
- slide
- image
- digital image
- analysis system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 160
- 238000000034 method Methods 0.000 title claims abstract description 120
- 238000002493 microarray Methods 0.000 claims abstract description 9
- 238000010191 image analysis Methods 0.000 claims description 56
- 239000011521 glass Substances 0.000 claims description 43
- 230000000875 corresponding effect Effects 0.000 claims description 25
- 238000004458 analytical method Methods 0.000 claims description 11
- 230000000873 masking effect Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 5
- 230000002596 correlated effect Effects 0.000 claims description 4
- 238000003703 image analysis method Methods 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 abstract description 15
- 101001012157 Homo sapiens Receptor tyrosine-protein kinase erbB-2 Proteins 0.000 abstract description 9
- 102100030086 Receptor tyrosine-protein kinase erbB-2 Human genes 0.000 abstract description 9
- 238000000926 separation method Methods 0.000 abstract description 3
- 238000012545 processing Methods 0.000 description 18
- 239000000523 sample Substances 0.000 description 16
- 230000008569 process Effects 0.000 description 14
- 101100269850 Caenorhabditis elegans mask-1 gene Proteins 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 11
- 238000010186 staining Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 239000000090 biomarker Substances 0.000 description 8
- 230000005055 memory storage Effects 0.000 description 8
- 238000013459 approach Methods 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 230000007170 pathology Effects 0.000 description 5
- WZUVPPKBWHMQCE-UHFFFAOYSA-N Haematoxylin Chemical compound C12=CC(O)=C(O)C=C2CC2(O)C1C1=CC=C(O)C(O)=C1OC2 WZUVPPKBWHMQCE-UHFFFAOYSA-N 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 4
- 238000001574 biopsy Methods 0.000 description 4
- 238000007667 floating Methods 0.000 description 4
- 238000007429 general method Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 206010028980 Neoplasm Diseases 0.000 description 3
- 239000012491 analyte Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000003071 parasitic effect Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 208000034841 Thrombotic Microangiopathies Diseases 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000002547 anomalous effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 239000012472 biological sample Substances 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000004393 prognosis Methods 0.000 description 2
- 102000004169 proteins and genes Human genes 0.000 description 2
- 108090000623 proteins and genes Proteins 0.000 description 2
- 238000005406 washing Methods 0.000 description 2
- VYZAMTAEIAYCRO-UHFFFAOYSA-N Chromium Chemical compound [Cr] VYZAMTAEIAYCRO-UHFFFAOYSA-N 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 208000013715 atelosteogenesis type I Diseases 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004113 cell culture Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003153 chemical reaction reagent Substances 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001926 lymphatic effect Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000003068 molecular probe Substances 0.000 description 1
- 239000002547 new drug Substances 0.000 description 1
- 102000039446 nucleic acids Human genes 0.000 description 1
- 108020004707 nucleic acids Proteins 0.000 description 1
- 150000007523 nucleic acids Chemical class 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000001575 pathological effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000002792 vascular Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30072—Microarray; Biochip, DNA array; Well plate
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Microscoopes, Condenser (AREA)
Abstract
本主题公开内容提供用于为不同类型的输入载片确定感兴趣区域(AOI)的系统和方法。载片缩略图可被分配成五种不同类型中的一个,并且根据载片类型来执行用于AOI检测的分离算法。载片类型包括:ThinPrep(RTM)载片;组织微阵列(TMA)载片;具有4个芯的控制HER2载片;涂片载片;以及通用载片。基于用户输入来指定载片类型。为每种载片类型提供定制的AOI检测操作。如果用户输入不正确的载片类型,则操作包括检测不正确的输入并且执行适当的方法。每个AOI检测操作的结果提供作为其输出的在被检测为不属于组织的像素处具有零强度值并且向被检测为可能属于组织区的像素指定更高强度值的软加权图像。
Description
本申请是申请日为2016年1月29日,申请号为201680007777.8并且发明名称为“用于使用载片缩略图图像的感兴趣区域检测的系统和方法”申请的分案申请。
技术领域
本主题公开内容涉及数字病理学。更特别地,本主题公开内容涉及在含有用于生成整个载片扫描的组织活检的载玻片上的组织检测。
背景技术
在数字病理学领域中,可能利用一种或多种染色剂对诸如组织切片、血液、细胞培养物、等等之类的生物样品进行染色并且通过对被染色样品进行查看或成像来分析该生物样品。在结合附加的临床信息来观测被染色样品的过程中,实现各种各样的过程(包括疾病的诊断、响应于治疗的预后和/或预测性评估),并且帮助抵御疾病的新药物的开发。如在本文中所使用的,目标或目标对象是染色剂标识的样品的特征。目标或目标对象可能是蛋白质、蛋白质片段、核酸或抗体识别的感兴趣的其他对象、分子探针、或非特异性染色剂。具体识别的那些目标可在本主题公开内容中被称为生物标记。一些染色剂不会明确地将生物标记作为目标(例如常常被使用的复染剂苏木精)。尽管苏木精具有与其目标的固定关系,但是可以利用用户的染色剂选取来标识大多数生物标记。也就是说,可根据分析物的特定需要使用各种各样的染色剂来使特定生物标记可视化。在染色之后,分析物可以被成像以用于组织样品的内容的进一步分析。成像包括对含有被染色组织样品或活检的载玻片的扫描。染色是重要的,因为细胞/显微镜结构所需的染色剂是组织的病理状况的指示并且可以被用于医疗诊断。在手动模式中,经过训练的病理学家在显微镜下读取载玻片。在数字模式中,可以在计算机监视器上读取整个载片扫描,或者通过成像算法对整个载片扫描进行分析来在整个载片扫描中自动对被染色组织内容进行评分/分析。因此,对要被高效使用的数字病理学来说高品质扫描绝对是必要的。
为了进行高品质扫描,适当地检测玻璃上的组织是非常重要的。载玻片上的组织区被称为感兴趣区域(AOI)。该AOI检测可以从缩略图图像手动完成,这是载玻片的低分辨率捕获。然而,对于快速的批处理模式扫描,需要从载片缩略图图像自动提取AOI。不幸地是,在任何进一步分析之前获取缩略图图像的现有方法中的第一步骤被限于使用低分辨率缩略图相机,以及准确且精确AOI检测是极具挑战性的,特别地考虑到具有不同染色剂强度、形态学、组织结构等等的不同类型的载片的数据的可变性。对于多种多样的载片的单个AOI检测方法的使用使得解决AOI问题非常困难。
发明内容
该主题公开内容通过提供用于对各种不同类型的输入载片的AOI的准确确定的系统和计算机实施的方法来解决上文识别的问题。载片缩略图图像(或缩略图)可被指定为五种不同类型中的一个,并且可根据载片类型来执行用于AOI检测的分离算法,其目标是执行可以高效且准确地计算来自整个载片缩略图图像的AOI区的操作,因为单个通用的解决方案不能解释所有数据可变性。基于组织形态学、布局、组织在载片缩略图上的结构等等,每个缩略图可被划分配成5种类型中的一种。载片类型包括:具有单个盘结构的ThinPrep(RTM)载片(也被称为“细胞系载片”)(或任何其他类似被染色载片);具有网格结构的组织微阵列(TMA)载片;具有模糊组织的控制载片(用于控制HER2组织载片,存在特定数目的圆形芯,通常是4个);具有遍及载片散布的组织的涂片载片;以及默认或通用载片。控制载片是包括组织样本(其实际上应该被检查和分析)和控制组织样本(其通常被用于验证组织学技术和试剂反应)二者的载片类型。它包括在沿着直线的限定位置处实际上要被分析的组织样本的多个组织区(芯)。
在视觉上上不能被归类到前面4个类别中的任一个的任何载片可被视为通用载片。可基于用户输入来指定载片类型。定制的AOI检测操作被提供用于每个载片类型。此外,如果用户输入不正确的载片类型,则所公开的操作包括检测不正确的输入以及执行适当的方法。每个AOI检测操作的结果提供作为其输出的在被检测为不属于组织的像素处具有零强度值并且向被检测为可能属于组织区的像素指定更高强度值的软加权图像。所检测的组织区被称为感兴趣区域(AOI)。优化AOI检测是整个扫描过程中的重要步骤并且实现后续步骤(诸如基于指定给输出图像中的可能组织区的软加权的聚焦点分配)。更高权重的AOI区更可能被指定聚焦点。就精度和召回得分来说所述操作优于先前的方法,并且已经使用利用地面真实AOI数据来计算的得分来验证。
在一个示例性实施例中,该主题公开内容提供一种用于检测组织载片的缩略图图像上的感兴趣区域(AOI)的系统,其包括处理器以及耦合至该处理器的存储器,该存储器用于存储计算机可执行指令,其由所述处理器执行来实行包括以下各项的操作:接收包括缩略图图像和缩略图图像类型的输入;以及根据缩略图图像类型使用多种AOI检测方法中的一种来从缩略图图像确定感兴趣区域(AOI),其中当确定缩略图图像类型是不正确输入时,AOI的确定使用多种AOI检测方法中的另一种。
在另一示例性实施中,该主题公开内容提供一种用于检测组织载片的缩略图图像上的感兴趣区域(AOI)的系统,其包括处理器以及耦合至该处理器的存储器,该存储器用于存储计算机可执行指令,其由所述处理器执行来实行包括以下各项的操作:根据缩略图图像类型使用多种AOI检测方法中的一种来从缩略图图像确定感兴趣区域(AOI);以及输出描绘所检测的AOI的软加权图像,其中该缩略图图像类型表示ThinPrep(RTM)载片、组织微阵列载片、控制载片、涂片载片或通用载片中的一个。。
在又一示例性实施例中,该主题公开内容提供一种用于检测组织载片的缩略图图像上的感兴趣区域(AOI)的系统,其包括处理器以及耦合至该处理器的存储器,该存储器用于存储计算机可执行指令,其由所述处理器执行来实行包括以下各项的操作:接收包括缩略图图像和缩略图图像类型的输入;根据缩略图图像类型使用多种AOI检测方法中的一种来从缩略图图像确定感兴趣区域(AOI),该多种AOI检测方法包括ThinPrep(RTM)方法、组织微阵列方法、控制方法、涂片方法或通用方法;以及在确定缩略图图像类型是不正确输入时使用通用方法。
将在下面同义地使用表述AOI检测和组织区检测。
在另一方面中,本发明涉及一种被配置用于检测组织载片的数字图像中的组织区的图像分析系统。组织样本被安装在载片上。该图像分析系统包括处理器和存储介质。该存储介质包括多个特定载片类型的组织检测例程和通用组织检测例程。该图像分析系统被配置用于执行包括以下各项的方法:
-选择特定载片类型的组织检测例程中的一个;
-在执行所选特定载片类型的组织检测例程之前和/或同时检查所选特定载片类型的组织检测例程是否对应于数字图像中描绘的载片的组织载片类型;
-如果是的话,自动执行所选特定载片类型的组织检测例程以用于检测数字图像中的组织区;
-如果不是的话,自动执行通用组织检测例程以用于检测数字图像中的组织区。该通用组织检测例程在本文中也被称为“默认”组织检测例程、模块或算法。
附图说明
图1描绘根据本主题公开内容的示例性实施例的载片扫描过程的概述。
图2A-2C分别描绘根据本主题公开内容的示例性实施例的用于AOI检测的系统和用户界面。
图3A-3B描绘根据本主题公开内容的示例性实施例的用于ThinPrep(RTM)载片上的AOI检测的方法以及所述方法的结果。
图4A-4B描绘根据本主题公开内容的示例性实施例的用于组织微阵列(TMA)载片上的AOI检测的方法以及所述方法的结果。
图5A-5D描绘根据本主题公开内容的示例性实施例的用于控制载片上的AOI检测的方法以及所述方法的结果。
图6A-6B描绘根据本主题公开内容的示例性实施例的用于涂片载片上的AOI检测的方法以及所述方法的结果。
图7A-7C描绘根据本主题公开内容的示例性实施例的用于AOI检测的默认方法以及所述方法的结果。
图8描绘包括组织样本的载玻片的直方图,该直方图被用于计算多个阈值以及对应中间掩模。
具体实施方式
本主题公开内容提供用于对各种不同类型的输入载片的AOI的准确确定的系统、计算机实施的方法。本文中描述的AOI检测模块对载玻片上的优化组织检测是至关重要的,并且因此是自动化扫描系统的本质部分。一旦从整个载片获得数字扫描,用户就可读取扫描的图像以提出医疗诊断(数字读取),或者可以用图像分析算法来对图像(图像分析读取)进行自动分析和评分。因此,AOI模块是一个使能模块,在那里它实现载玻片的准确且具有时效性的扫描,并且因此它实现所有后续数字病理学应用。因为扫描是在数字病理学工作流程的开始执行,所以之后获取染色的组织活检载片,并且通过所公开的AOI检测来实现扫描。对于每一种载片类型(包括通用),可为组织确定(一个或多个)阈值的局部自适应确定,并且结果被并入“组织概率”图像中。也就是说,基于全局和局部约束来确定像素成为组织的概率。
一般来说,一旦用户选择一种载片类型,所公开的方法就包括自动执行内部验证来检查用户是否输入错误的载片类型(对应于错误选择的特定组织载片类型的组织检测算法),并且运行适当的组织检测算法。对于被用户标记为控制的载片,本文中公开的操作可确定该载片是否是具有沿着直线放置的4个芯的控制HER2的一个示例,并且如果不是的话,可调用用于AOI提取的通用组织查找器模块。对于被用户标记为TMA的载片,该方法可(基于训练TMA载片)确定载片是否是芯的单个矩形网格的一个示例,并且如果不是的话,所公开的方法调用用于AOI提取的通用组织查找器模式。对于ThinPrep(RTM)图像,可在单个芯的半径是已知的、已经凭经验确定的变化范围内的假设下捕获单个芯(AOI);并且在增强的灰度级图像的下采样版本的梯度幅值上执行的基于径向对称的投票被用来确定芯的中心以及其半径。可使用该方法来处理类似于ThinPrep(RTM)载片染色的其他载片。对于通常检测斑点或圆形对象的径向对称投票的描述,参见Parvin,Bahram等人的“Iterative votingfor inference of structural saliency and characterization of subcellularevents”,图像处理,IEEE Transactions on 16.3 (2007): 615-623,通过参考将其公开内容以其整体合并于此。对于模糊控制图像,操作自动确定它是类型“通用”(模糊载片)还是控制HER2(具有4个模糊芯),并且可以在假设它们的近似尺寸范围是已知的并且它们的中心近似地位于一条线中的情况下检测4个芯。该控制HER2方法使用径向对称,随后是基于高斯差分(DoG)的滤波,以便捕获芯中心的可能位置;然后基于芯中心位置如何对齐、基于各芯中心之间的距离、并且基于适应芯中心的最可能的线所形成的角度来使用凭经验确定的规则。对于TMA图像,在载片芯被定位在矩形网格中的情况下,该方法在假设对于TMA芯各个芯尺寸以及从一个芯到其最近芯的距离都非常相似的情况下检测所有相关组织区域。为了检测芯,使用与尺寸和形状有关的约束,并且一旦芯被检测,凭经验确定的规则就被用来基于距离约束确定在真正芯和异常芯之间进行确定。对于涂片载片,在假设涂片组织可以被遍布整个载玻片的情况下遍及载片的所有组织区可以被可靠地识别;在这里已经基于从缩略图图像的LUV色彩空间表示导出的亮度和彩色图像计算了下限阈值和上限阈值,其中L的逆被用作亮度图像并且U平方值的和V平方值的平方根被用作彩色图像;基于这些阈值和凭经验确定的面积约束来进行滞后阈值法。对于默认/通用图像,使用比玻璃更暗的阈值范围来适当地检测组织区,并且使用尺寸和距离约束来检测和丢弃某些较小的区。此外,一旦某一AOI检测模块被调用,并且用户可以在缩略图图像上看到所生成的AOI,用户就可添加额外的聚焦点,在罕见的情况下某一组织已经被算法丢失。在计算的AOI不足以捕获所有组织区域的罕见场景中,在用户认为必要的情况下,尤其在算法未能对组织区域这样做的情况下,可以使用GUI来放置附加的聚焦点。
缩略图图像可直接由图像扫描仪来提供或者可由图像分析系统从原始图像来计算。例如,图像扫描仪可包括用于获取缩略图图像的低分辨率相机和用于获取组织载片的高分辨率图像的高分辨率相机。缩略图图像可粗略包括1000 x 3000像素,由此缩略图图像中的一个像素可对应于组织载片的25.4 µm。“图像分析系统”可以是例如包括用于从载片扫描仪、相机、网络和/或存储介质接收图像数据的接口的数字数据处理设备(例如计算机)。
本文中描述的实施例仅仅是示例性的,并且尽管它们公开了使得本领域普通技术人员能够复制本文中描绘的结果的最佳模式,但是该专利申请的读者可能能够执行本文中公开的操作的变化,并且权利要求应该被解释为包括所公开的操作的所有变化和等同物,并且不唯一地限于所公开的实施例。
图1描绘根据本主题公开内容的示例性实施例的载片扫描过程的概述。一般来说,一个或多个染色的组织活检载片可被放在用于成像操作的扫描系统中。该系统可包括用于捕获载玻片的缩略图图像的装置101。该装置可包括针对目的而设计的相机。该图像可以是任何类型的,包括RGB图像。可在缩略图图像上执行处理操作102来生成包括描绘感兴趣区域(AOI)的软加权的图以用于进一步分析。本文中描述的实施例的目标在于针对用于最佳处理缩略图图像且准确地提供指示特定或目标组织结构的概率的AOI图的系统和计算机实施的方法。该AOI图可被用来基于该概率指定聚焦点103,并且针对每个聚焦点,各图块(tile)连同对于图块位置的各z层的集合被视为104围绕聚焦点,随后确定最佳z层105、各z层之间的2维内插106、以及使用内插的层来创建图像107。所得到的图像创建107实现其他分析步骤,诸如诊断预后等等。该过程根据被使用的成像系统可包括附加的或更少的步骤,并且意图被仅仅解释成提供上下文,不具有意图施加于本文中描述的各特征中的任一个的限制。
图2A描绘根据本主题公开内容的示例性实施例的用于AOI检测的系统200。系统200可包括用于来自一个或多个缩略图图像的AOI的检测的硬件和软件。例如,系统200可包括成像部件201,诸如安装在载片级或载片托盘上的相机,和/或具有显微镜和相机的整个载片扫描仪。成像部件201通常取决于被生成的图像的类型。在本实施例中,成像部件201至少包括用于生成载片的缩略图图像的相机。该载片可包括已经借助于染色分析物的应用的染色的样本,该染色分析物包含与用于亮场成像的显色染色相关联的一个或多个不同生物标记。组织区被染色并且AOI检测涉及拾取染色的组织区。染色的感兴趣区域可描绘期望的组织类型(诸如瘤、H&E载片中的淋巴区域等等)或者IHC染色载片中的高生物标记表示的热点(比如任何瘤、免疫或血管标记瘤标记、免疫标记等等)。图像可以以任何缩放级别被扫描、以任何格式被编码、或者可由成像部件201提供给存储器210以便根据存储在其上的逻辑模块被处理。存储器210存储由耦合至计算机225的处理器220执行的多个处理模块或逻辑指令。除了处理器220和存储器210之外,计算机225还可包括用户输入和输出设备(诸如键盘、鼠标、触控笔、显示器/触摸屏)、以及网络化元件。例如,可由用户输入、以及由从用于存储的网络服务器或数据库通过网络提供且稍后通过计算机225检索的输入来触发存储器210内处理模块的执行。系统200可包括整个载片图像查看器以促进整个载片扫描的查看。
如上文所述的,模块包括由处理器220执行的逻辑。如在本文中使用且遍及该公开内容使用的“逻辑”指的是具有可被应用以影响处理器的操作的指令信号和/或数据的形式的任何信息。软件是此类逻辑的一个示例。处理器的示例是计算机处理器(处理单元)、微处理器、数字信号处理器、控制器和微控制器等等。逻辑可由存储在计算机可读介质(诸如存储器210)上的信号来形成,在示例性实施例中该存储器210可以是随机存取存储器(RAM)、只读存储器(ROM)、可擦除/电可擦除可编程只读存储器(EPROM/EEPROM)、闪速存储器等等。逻辑还可包括数字和/或模拟硬件电路,例如包括逻辑和、或、异或、与非、或非以及其他逻辑操作的硬件电路。逻辑可由软件和硬件的组合来形成。在网络上,逻辑可被编程在服务器或服务器的复合体上。特定逻辑单元不限于网络上的单个逻辑位置。此外,不需要以任何特定顺序来执行各模块。当需要被执行时每个模块可调用另一模块。
输入检测模块可从成像部件201接收缩略图图像、以及识别载片类型的用户输入。该缩略图图像(或“缩略图”)可被分配成基于由用户输入的载片类型的类别,并且可根据该类别来执行用于AOI检测的分离算法213-217。可基于组织形态学、布局、组织在载片缩略图上的结构将每个缩略图划分成一种或多种类型。载片类型包括但不限于具有单个盘结构的ThinPrep(RTM)载片、具有网格结构的组织微阵列(TMA)载片;具有特定数目(通常4个)的圆形芯的具有模糊组织的控制载片;具有遍及载片散布的组织的涂片载片;以及默认或通用载片(其包括不适应于之前的类别中的任一个的所有载片)。作为一个示例,图2B描绘用于接收基于用户输入的载片类型的用户界面。用户可在查看载片缩略图时基于选择列表219输入正确的载片类型。例如,用户可在下面的载片类型之中选取:网格(指的是TMA载片,在这里组织芯存在于单个矩形网格中)、模糊的(控制载片通常是模糊的,并且归因于控制染色它们从来都没有被明确地染色并且这使得缩略图图像显得模糊)、圆的(在ThinPrep(RTM)载片中,这是存在于载片缩略图中的某一半径范围的单个圆形芯)、分散的(对于涂片,组织通常遍及整个载片散布并且不像其他载片类型那样限于某一区域)、以及默认(也被称为通用)。
针对这些载片类型中的每一个定制用于AOI检测的模块213-217中的每一个。例如,对于ThinPrep(RTM)载片,组织AOI通常是单个盘,并且因此在给定半径范围中的圆形查找器是一个有效工具。可使用特定模块来处理类似于ThinPrep(RTM)载片的其他载片(诸如在其中组织样本是圆形或近圆形形状)。类似地,控制HER2载片通常具有4个芯,其具有已知的近似半径范围和从底到顶强度上从更暗到更模糊的变化。在涂片载片中,组织散布并且占用整个缩略图图像的较大部分,并且AOI不会集中在更小、更紧凑的形状中,因为这是针对其他类型的情况。在TMA或网格载片中,通常在m x n网格中看到AOI,在该m x n网格中网格元素可以在尺寸上变化(与在其他非TMA缩略图图像中看到的斑点相比,各个TMA斑点可以在尺寸上更小得多),因此,对网格的了解会帮助对构成的斑点的预期尺寸加以限制,因此帮助清除异常斑点和形状。通用AOI检测模块217向不是明确/视觉上属于这4种载片类型的任何载片提供全方位操作。对于每个检测模块的所检测的组织区被称为感兴趣区域(AOI)。
每个AOI检测操作(其可由通用或特定组织载片类型的组织检测例程中的一个来执行)的结果被提供给软加权的图像输出模块218以生成软加权图像的输出,该软加权图像在被检测为不属于组织的像素处具有零强度值并且向被检测为可能属于组织区的像素指定更高强度值。在“软加权图像”中,每个像素都具有被指定的一个权重,在这里也被称为“软权重”。如在本文中使用的“软权重”是其值处在包括多于两个不同值(即不仅仅是“零”和“一”)的值范围中的权重。例如,该值范围可覆盖从0到255的所有整数或者可以是在0和1之间的浮点数。该权重指示处在组织区中而不是非组织区(例如玻璃区)中的像素的可能性。权重的值越大,像素处在组织区中的可能性越高。
调用软加权的图像输出模块218来为给定亮度和彩色图像以及对应于AOI的二元掩模(即表示组织区的掩模的未掩蔽区)计算软加权的图像。一般来说,色彩像素比玻璃更可能是组织;因此,色度(颜色)分量更高的地方的像素被更高地加权。更暗的像素(基于亮度)比更模糊的像素更可能是组织。该模块使用RGB图像(例如RGB缩略图图像)以及二元掩模M作为其输入,其中通过AOI检测模块213-217中的任一个来提供(即通过通用或特定组织载片类型的组织检测例程中的一个来提供)二元掩模M,并且提供具有例如在[0, 255]中的像素值的软加权图像SW的输出。
图像首先从RGB色彩空间转换到L, UV色彩空间(L=亮度,U和V是色彩通道)。使L’=max(L) – L,其中max(L)是在经过转换的数字图像中观测到的最大亮度值,并且L是当前变换的像素的亮度值;(更高的L’->更暗的区)。
根据UV=sqrt(U^2 + V^2) 来计算UV色彩空间(也被称为色度色彩空间)或合成UV色彩通道。
对于亮度图像,图像分析方法识别所有像素,其中M > 0(例如图像的区不会被所生成的掩模M掩蔽,并且为所识别的像素计算L’域中的较低阈值(L’low:被排序的L’值的5%的值)和较高阈值(L’high:95%的值)。
类似地,计算UV域中的较低阈值(UVlow:被排序的UV值的5%的值)和较高阈值(UVhigh:95%的值)。代替所述5%,还可使用在2-7%的范围中的值。代替所述95%,还可使用在90-98%的范围中的值。
使用L’low和L’high,从域L’计算加权L图像。在创建加权L图像时从L’到加权L的映射包括设置L’(x,y) <= L’low -> WeightedL(x,y) = 0,以及设置L’low < L’(x,y) <L’high -> WeightedL(x,y) = (L’(x,y) – L’low)/(L’high – L’low) ,以及设置L’(x,y) >L’high -> WeightedL(x,y) = 1。这意味着如果其原始L’值低于L’low阈值则加权L图像的像素具有“0”值,如果其原始L’值高于L’high阈值则加权L图像的像素具有“1”值,并且在所有其他情况下都具有值(L’(x,y) – L’low)/(L’high – L’low)。值(L’(x,y) – L’low)/(L’high –L’low)是经过归一化的逆色度值,在未被掩蔽的像素上执行归一化。
类似地,从UV图像计算加权UV。
图像分析系统使用UV’low和UV’high从UV’域计算加权UV图像。在创建加权UV图像时从UV’到加权UV的映射包括设置UV’(x,y) <= UV’low -> WeightedUV(x,y) = 0,以及设置UV’low < UV’(x,y) < UV’high -> Weighted UV (x,y) = (UV’(x,y) – UV’low)/( UV’high –UV’low),以及设置UV’(x,y) > UV’high -> Weighted UV (x,y) = 1。这意味着如果其原始UV’值低于UV’low阈值则加权UV图像的像素具有“0”值,如果其原始UV’值高于UV’high阈值则加权UV图像的像素具有“1”值,并且在所有其他情况下都具有值(UV’(x,y) – UV’low)/(UV’high – UV’low)。值(UV’(x,y) – UV’low)/( UV’high – UV’low)是经过归一化的逆亮度值,在未被掩蔽的像素上执行归一化。
然后,可通过合并加权L图像和加权UV图像来创建组合的加权图像W。例如,向加权图像W中的每个像素指定的权重将被计算为所述像素在加权L和加权UV图像中的权重的平均值。
然后,图像分析系统将加权图像W映射到软加权图像(其像素相应地具有被指定的权重),也被称为在0和1之间的“软权重”。
从(加权图像W、掩模图像M)到SW的映射包括根据s = (255 – 128)/(Wmax – Wmin)来计算标度因子s,其中Wmax是在加权图像W中的最大观测权重并且Wmin是在加权图像W中的最小观测权重,由此为数字图像的像素选择性地计算W中的max值和min值,在这里M > 0,并且设置M(x,y) = 0 -> SW(x,y) = 0,因此M(x,y) > 0 -> value = (W(x,y) – Wmin)*s +128; SW(x,y) = min(max(128,value), 255)。由此,255表示RGB图像的最大可能强度值并且128表示所述值的一半。软加权图像SW的像素在由掩模M掩蔽的(非组织)区处具有零强度并且在128-255的范围中具有“归一化的”强度值,由此从像素的权重导出强度值并且该强度值指示像素成为组织区像素的可能性。
优化AOI检测是整个扫描过程中的重要步骤并且使得能够实现后续步骤(诸如基于指定给输出图像中的可能组织区的软加权的聚焦点分配)。更高权重的AOI区更可能包含聚焦点。
如本文中使用的“聚焦点”是自动识别和/或由用户选择的数字图像中的一个点,因为据预测或假设要指示相关生物医学信息。在一些实施例中,聚焦点的自动或手动选择可触发扫描仪从包围所述聚焦点的区自动检索其他高分辨率图像数据。
然而,对于所获得的AOI不是精确的且系统200的扫描技术人员或其他操作员希望添加更多聚焦点来获得更好扫描的情况下,可经由用户界面来实现此类选项。例如,图2C描绘用于手动添加附加聚焦点的示例性界面。图2C的界面可被呈现在耦合至例如用于扫描组织载片的扫描仪的计算机上。此外,就精度和召回得分来说所述操作优于先前的方法,并且已经使用利用地面真实AOI数据来计算的得分来验证。例如基于510缩略图图像的训练集合来开发AOI检测模块213-217。AOI检测模块已使用特征的一些凭经验设置的参数,诸如最小连接部件尺寸、有效组织区距滑盖边沿的距离、可能的滑盖位置、区别有效组织区和暗笔颜色的色彩阈值,其中如本文中进一步描述的基于所观测的缩略图来设置该参数。
存储器210还存储误差校正模块212。在尝试发现处于输入载片类型的AOI并且碰到非预期结果时可执行误差校正模块212。误差校正模块212包括用来确定错误的载片类型已输入并不管输入如何来选择适当AOI检测模块的逻辑。例如,TMA AOI检测模块216可能期望看到单个矩形网格;然而,可能发生的是在同一缩略图中存在多个网格。在此类情况下,TMA AOI检测可仅捕获单个网格图案并且丢掉剩余部分。在这种情况下,通用AOI检测模块217可能更有助于确定载片中的所有适当AOI。如果用户将载片类型输入为“模糊”载片,则可执行通用AOI检测模块217。例如,用户可经由图形用户界面(GUI)(例如通过按压按钮或选择当前分析的图像是“模糊”图像的菜单条目)来指示。如在本文中使用的“模糊”图像是包括与玻璃的亮度相比不是非常暗的(即在组织和玻璃区之间具有低对比度)组织区的图像。在逆灰度级图像中,最亮部分是最密集的组织并且最暗部分是最不密集的组织,并且完全暗(被掩蔽)部分对应于玻璃。然而,术语“模糊”还可应用于控制图像,即具有四个芯的控制图像。因此,当“模糊”图像类型被作为输入来接收时,可执行控制AOI检测模块214,并且如果四个芯没有检测,则差错校正模块212作为代替调用通用AOI检测模块217。类似地,对于一些TMA图像,TMA AOI检测模块216可仅检索预期AOI数据的一小部分,由此触发在缩略图中可能存在多个网格的确定,以及由此通用AOI检测可能比TMA AOI检测更好的确定。下面参考表1来描述对于不正确输入的载片类型的这些和其他替代选择。
表1:差错校正模块212的操作(圆括号中为预期表现)。
表1中的每行都指示由用户输入的载片类型,并且每列都指示实际载片类型。每个单元都指示根据操作预期的表现级(差、中等、好等等)。对于涂片和ThinPrep(RTM)图像,不提供默认模式,即对于这些情况中的任一种都不存在到通用模式的分支。应该指出,通常优选的是捕获更多假的组织区而不是将潜在组织区遗漏掉,因为丢掉的检测将比错误检测受到更严重的惩罚。
图3A-3B描绘根据本主题公开内容的示例性实施例的用于ThinPrep(RTM)载片上的AOI检测的方法以及所述方法的结果。可由图1的子系统中描绘的模块的任何组合或者子系统和模块的任何其他组合来执行图3的方法。不需要按照所示的特定顺序来执行该方法中列出的步骤。在ThinPrep(RTM)载片中,感兴趣的区通常是圆形且更模糊的。因此,执行对比度拉伸(S331)来作为图像增强操作,以使得单个芯(感兴趣的区)能够变得更突出。像素的顶部几行可能被丢弃以移除标签(S332)。例如,凭经验的观测示具有标签文本或者是空白的。换言之,组织通常远处在顶部300行以下。接着,为了使得能够计算圆形芯的可能中心(S334)以及其半径二者,对缩略图图像进行下采样(S333)。例如,缩略图可能被下采样三次,每次都以因子2下采样。金字塔方法可能被用于更快的下采样。经过下采样的图像使得更易于/更快地计算圆形芯的可能位置(S334)。基于径向对称的投票可被用来发现最可能的芯中心C(S334)。径向对称操作可在三次下采样图像内使用[42, 55]的半径范围。这对应于输入图像中的单个组织芯的半径可能处在336个像素和440个像素之间的凭经验观测。然后将AOI区限定(S335)为在中心C处获得的盘(盘半径=其投票已在C处累积的所有点的平均半径)。最后,基于亮度和色彩特性来向AOI像素指定(S336)权重。
因此,由该方法使用的一般假设是在图像中存在单个芯,处在前面的300像素行中的组织内容被忽略或丢弃,并且单个芯的半径应该在336个像素和440个像素之间(基于凭经验/训练观测以及载片缩略图图像的实际尺寸)。图3B描绘图3A的方法的结果。利用对包括组织斑点或芯304的感兴趣区域作标记的矩形303来划定ThinPrep(RTM)载片的图像301。通过该方法来返回软加权的AOI图302(或掩模)。
图4A-4B描绘根据本主题公开内容的示例性实施例的用于组织微阵列(TMA)载片上的AOI检测的方法以及所述方法的结果。可由图1的子系统中描绘的模块的任何组合或者子系统和模块的任何其他组合来执行图4的方法。不需要按照所示的特定顺序来执行该方法中列出的步骤。总体来说,该方法类似于图7A中描述的“通用”方法。对于存在于缩略图中的各种斑点,确定不同的斑点是否构成网格。施加尺寸约束以丢弃非常小或非常大的斑点以防止成为潜在TMA斑点,并且形状约束被用来丢弃高度非圆形形状。可能存在TMA方法分支到通用方法的某些情况,诸如当在TMA网格中捕获如从软加权的前景图像获得的可能AOI区的仅一小部分时。
更具体地,本方法以从RGB缩略图图像获得灰度级图像开始(S441),并且基于训练数据来丢弃已知无关的图像的区(S442)。例如,可丢弃在缩略图图像底部处的黑色支撑标签。滑盖边缘可被检测,并且滑盖边缘之外的区可被丢弃。暗区可被检测,即在强度上<40个单位的具有灰色像素的那些(假设8比特缩略图图像),并且这些暗区可被丢弃以防止成为AOI的一部分。滑盖的典型宽度是约24mm,但是也可以使用明显更大或更小的滑盖。然而,本发明的实施例假设每个载片不存在多于一个滑盖。
除了这些区、边缘、笔标记之外,还可检测和丢弃暗符号。控制窗也被检测,如果其存在于载片上的话。如本文中使用的“控制窗”是组织载片上的一个区,其包括当组织样本在图像分析期间被检测和分析时经受相同染色和/清洗协议的具有已知特性的附加组织切片。控制窗中的组织通常充当用于评估组织载片清洗、染色和处理是否被正确地执行的参照图像。如果发现控制窗,则对应于控制窗边界的区可被丢弃。为了得到更清洁的AOI输出,100个像素的边界线内的区也可被丢弃以帮助避免更靠近边缘的寄生AOI区,并且基于TMA芯将不会处在那么靠近缩略图边界线的假设。
然后针对图像中的所有剩余有效图像区来计算(S443)直方图。基于图像直方图,阈值范围可被计算(S444)以执行自适应阈值法。该操作包括确定纯玻璃区(即在那里图像直方图峰值处于对应于玻璃的像素值处),以及计算比玻璃强度值更小的阈值范围RA。基于该图像直方图,进一步确定载片是否是足够模糊的(S445),并且如果是的话,自动创建阈值范围RB,在这里范围RB相比于范围RA更靠近玻璃强度值。基于阈值范围来创建(S447)掩模。
根据一些实施例,可如下计算阈值范围:
使引起直方图峰值的像素强度值为maxHistLocation(这可对应于玻璃)。
使灰度级图像中的最大强度值为max_grayscale_index。该值表示“glass_right_cutoff”值。
根据一些实施例,使用下面的操作来选取阈值的范围并将其存储在带有标签例如different_cutoffs的元素的矢量中:
使右间隙= max_grayscale_index – maxHistLocation。
使glass_left_cutoff = maxHistLocation – rightgap。
使interval_range_gap = max(1, round(rightgap/5)) 。
使min_rightgap =-rightgap。
使max_rightgap = min(rightgap – 1, round(rightgap * 0.75)。值0.75是通常在0.5-0.95的范围中(优先地在0.7-0.8的范围中)的预先定义的gap_cutoff_fraction值。
使different_cutoffs[0] = glass_left_cutoff – 2*rightgap。
使number_interval_terms=(max_rightgap-min_rightgap)/ interval_range_gap。
矢量different_cutoffs的大小是(number_interval_terms + 2)。
对于i = 0:number_interval_terms – 1:
different_cutoffs[i+1]=(glass_left_cutoff– rightgap) + interval_range_gap * i
different_cutoffs[number_interval_terms + 1] = glass_left_cutoff +max_rightgap。
图8描绘包括根据本发明的实施例可用于阈值范围以及对应的中间掩模的组织样本的载玻片的直方图。通常,由玻璃区造成的强度峰值mhl位于245周围并且通常落入235-250的范围内,并且mgs通常落入比mhl高0-15个单位的范围中但是被限于最大值255。基本思想是:在典型图像中,对应于玻璃的像素形成相当对称的峰值,在每一侧上仅仅3-10个单位(在255之外)宽。“右间隙(rightgap)”(mgs-mhl)是所观测的该峰值在右侧的宽度。“Glass_left_cutoff”是关于玻璃末端在该峰值左侧上的哪里的估计。在峰值强度上低于其的通常是组织。然而,特别地对于模糊组织载片,已经观测到单个阈值不总是能够正确地将组织与玻璃区分开。因此,本发明的实施例使用如图8中描绘的直方图中识别的值以便自动提取范围从非常可能是组织的像素强度一直到非常可能是玻璃的像素强度的阈值范围rts。在所描绘的示例中,阈值范围的范围从dco[0](即从位于从glco到左侧的两个右间隙的值)到靠近mhl的值。例如,位于靠近mhl的所述值可被计算为:
Dco[max-i]=different_cutoffs[number_interval_terms+1]= glass_left_cutoff + max_rightgap。仅仅将mhl选取为阈值范围rts中的最大阈值也是有可能的。根据实施例,包含在阈值范围rts中的阈值的数目(number_interval_terms)可被预先定义或者可被计算为跨越rts的值范围的导数。
rts阈值范围中的各阈值中的每一个都被应用于数字图像或其导数(例如灰度级图像)上以用于计算相应的掩模。所生成的掩模是迭代的并且被成对合并的以用于生成中间掩模并最终生成单个掩模M。由此,将每个掩模中的像素斑点的尺寸与凭经验确定的最小斑点面积相比较,并且检查该尺寸来得到所述斑点的邻近区中的其他斑点在对应其他掩模中的出现。
例如,可通过连接部件分析来识别全部所生成的掩模之一的第一mask1和第二mask2中的斑点。在mask2中的第i个斑点的例如50个像素的距离内mask1中存在未被掩蔽的像素的情况下(也可使用通常低于100个像素的其他距离阈值)且如果其总尺寸>=(minimum_area/2),则mask2中的该斑点被视为“真正斑点”并且其像素的未掩蔽状态被保持。如果在第i个斑点掩模中的像素的例如所述50个像素的距离内mask1中不存在未掩蔽像素(即mask2中的第i个斑点被相对隔离),则在斑点大于例如1.5* minimum_area的情况下mask2中的所述斑点的像素仅被保持为未掩蔽像素。仅在所述斑点或者足够大到超过第一凭经验导出的阈值(> 1.5* minimum_area)或者至少超过小于第一阈值的第二阈值(>0.5* minimum_area)并且其在其邻近区中(50个像素内)在mask1中具有至少一些未掩蔽像素的情况下,通过合并mask1和mask2而生成的中间掩模包括作为未掩蔽像素的mask2中的斑点的像素。已经凭经验将minimum_area的值确定为例如150个像素。
使用灰度级图像并且使用different_cutoffs来创建软加权的图像SW(具有在范围[0,1]中的值)。创建(S447)二元掩模(BWeff),在软加权的图像> 0的情况下其在所有像素处都是起作用的。对于二元掩模创建(S447),对于different_cutoffs中的所有阈值,创建二元掩模图像(掩模图像中的对应像素是在灰度级值<阈值的情况下的像素);产生二元掩模图像的矢量。使掩模图像的该矢量被称为掩模。假设掩模中存在N个元素,则创建掩模图像的另一矢量(被称为FinalMask),其具有(N-1)个元素。组合masks[i]和masks[i+1]以生成FinalMask[i]的函数可被称为CombineTwoMasks,并且它需要将斑点的最小尺寸作为输入。FinalMask中的所有二进制图像的二进制或操作产生BWeff。将grayscale、different_cutoffs、minimum_blob_size作为输入且返回SW、BWeff作为输出的函数被称为CreateWeightedImageMultipleCutoffs。
组合两个掩模的函数(被称为CombineTwoMasks)可包括如下操作:
使FinalMask = CombineTwoMasks(mask1, mask2, minimum_area) 。
初始化:FinalMask被制成与mask1和mask2相同的尺寸并且FinalMask中的所有像素被设置成0。
在mask2上执行连接部件(CC);使CC的数目成为M。
计算mask1上的距离变换;使距离变换矩阵成为Dist。
对于i = 1: M(在所有M个连接部件上的循环),考虑mask2中的第i个CC并且看在mask2中的第i个CC的50个像素的距离内mask1中是否存在起作用的像素(使用Dist的知识来完成);如果是的话,然后仅考虑该区是其总尺寸是否>= (minimum_area/2),并且将对应于第i个CC掩模的FinalMask中的所有像素设置成起作用。如果在第i个CC掩模中的像素的50个像素的距离内mask1中不存在起作用的像素(即mask2中的第i个CC被相对隔离),则仅在其足够大时考虑CC(即基于第i个CC的掩模的面积> (1.5*minimum_area))并且将对应于第i个CC掩模的FinalMask中的所有像素设置成起作用。因此,总结来说,CombineTwoMasks的角色是仅考虑mask2中的或者足够大(> 1.5*minimum_area)或者在一定程度上大(>0.5*minimum_area)且在足够靠近其(在50个像素内)的mask1中具有至少一些起作用像素的那些斑点。已经凭经验将minimum_area的值确定为150个像素。
一旦二元掩模BWeff被计算,就基于灰度级强度值来向像素指定软权重,其中根本的概念是更暗(灰度级强度值更低)的像素更可能是组织并且因此将接收更高的权重。软权重还实现随后操作中的有效斑点的随后确定(S449),因为软权重的和超过某一阈值的斑点可能被保留并且其他的被丢弃(S450)。例如,足够大或具有强的“更暗”前景的足够多像素的斑点可能是有效的,并且其他斑点被丢弃。为了映射软加权的图像,输入是灰度级图像,以及有效二元掩模图像BWeff、被称为different_cutoffs的阈值的矢量,并且输出是软加权的前景图像SW。为了确定有效二元掩模图像BWeff中的起作用像素(different_cutoffs矢量中的元素的总数是N):
使norm_value=(grayscale value– different_cutoffs[0]) / (different_cutoffs [N-1] – different_cutoffs[0])。
如果norm_value > 1,则norm_value = 1;否则如果norm_value < 0,则norm_value = 0。
SW中的对应浮点值= 1 – norm_value。
如果对应灰度级值< different_cutoffs[0],则SW中的对应浮点值= 1(如果像素是足够暗的,则被指定的软权重值= 1)。
如果对应灰度级值> different_cutoffs[N – 1],则SW中的对应浮点值= 0(如果像素是足够浅色的,则被指定的软权重值=0)。
根据实施例,通用组织区检测例程以及特定组织载片类型的组织区检测例程中的一个或多个被进一步配置用于根据组织样本的数字图像来计算(软)加权图像,由此得到组织样本的灰度级图像、掩模图像(BWeff)和软加权的前景图像(SW)。在SW中,我们使用对于直方图的21个非均匀间隔开的箱(bin)来考虑在0.001和1之间的所有像素。我们根据箱中数据的分布来决定载片是否足够模糊。如果图像是足够模糊的,则越高末端直方图箱中数据的分布将是足够低的;类似地,越低末端直方图箱中数据的分布将是足够高的。
可通过通用以及/或者特定组织载片类型的组织检测例程之一的子例程来实施直方图生成、阈值提取、掩模生成、掩模融合和/或(软)权重计算的上面提到的步骤。
一旦按照上述步骤生成二元掩模(S447),则可执行连接部件检测(S448)来看是否每个连接部件是可能的TMA芯。被检测的连接部件受制于如下关于有效尺寸、形状和距离(S449)的规则:
连接部件(CC)的宽度< (cols/6):(下面带有标签的缩略图图像的宽度=cols)
CC的高度< (rows/8) :(下面带有标签的缩略图图像的高度=rows)
CC的面积> 55个像素(小的废斑点可能被丢弃)
CC掩模的离心率>0.62(TMA芯被假设成圆形的)
在发现可能的TMA芯之后,确定CC的尺寸的分布以决定哪个TMA芯是足够适当的:
使MedianArea =在识别有效CC的先前步骤之后所有被保留的CC的中值。
保留面积>= MedianArea/2的以及面积<= 2*MedianArea的那些CC。
然后,检查所有有效CC的斑点间距离,并且使用下面的规则来决定斑点是被保留还是被丢弃。在规则中使用的术语可包括:
NN_dist_values[i] =在第i个斑点中心到最近TMA斑点的中心之间的距离。
radius_current_blob_plus_NN_blob[i] =第i个TMA斑点的半径+(最靠近第i个TMA斑点的斑点)的半径。
DistMedian =(NN_dist_values) 的中值。
MADvalue =(NN_dist_values) 的平均绝对偏差。
Sdeff = max(50, 2*MAD)。
斑点受制于的规则可被表示为:NN_dist_values[i] <= 1.3*(DistMedian + max(Sdeff, radius_current_blob_plus_NN_blob[i]) =>对于要成为有效TMA斑点的第i个斑点。当考虑TMA芯时,任何两个最靠近芯之间的距离在TMA中通常是类似的,因此在基于距离的规则中使用所有这些假设。
因此,图4A中的TMA算法基于以下假设:有效TMA芯足够小,有效TMA芯比某一阈值更大,以便丢弃基于小废物/污垢/灰尘的斑点,每个有效TMA芯是足够圆形的并且所以离心率应该更靠近1,以及所有有效TMA芯应该足够靠近且芯与最靠近芯的距离足够类似以使得当该距离约束被违反时从AOI丢弃这些芯。可进一步假设在被检测的滑盖外面不存在组织区。对于检测图像中的暗区的模块,假设笔标记、符号比组织区更暗。因此,40的灰度级值可被用来丢弃暗区。图4B示出图4A的方法的结果。利用对包括组织样本阵列404的感兴趣区域作标记的矩形403来划定TMA载片的图像401。通过该方法来返回软加权的AOI图402(或掩模)。
图5A-5B描绘根据本主题公开内容的示例性实施例的用于控制载片上的AOI检测的方法以及所述方法的结果。可由图1的子系统中描绘的模块的任何组合或者子系统和模块的任何其他组合来执行图5的方法。不需要按照所示的特定顺序来执行该方法中列出的步骤。该方法一般用来使用对灰度级图像的增强版本的径向对称操作来在控制载片上检测(被测组织的,而不是载片的控制窗中的控制组织的)4个组织切片芯,其中激励是投票将在4个芯的中心处累积。在投票图像上使用多级高斯差分(DOG)操作以检测芯中心。径向对称投票帮助投票的累积,并且当在投票图像上使用多级DoG时,它帮助更好地确定芯中心的地点。于是,分割技术可被应用于靠近发现芯中心的地方的区,因为斑点比其最接近的背景更暗且因此阈值法帮助分割出芯。尽管该方法针对“控制”载片,但是它可工作于通用模糊载片并且还工作于控制HER2(4芯)图像二者。如果缩略图不表示4芯控制HER2图像,则该方法可自动从通用方法分支出。
具体来说,该方法获得RGB缩略图的灰度级图像(S551),并且在该图像上执行径向对称投票(S552)和DOG(S553)以获得图像中的芯(S554)。如果图像看上去是通用组织载片,不具有特定安排,并且色彩上是非褐色的(控制载片是呈现控制色彩且控制染色组织没有明确地染色的地方的载片),则确定它不是4芯控制载片,并且方法分支到通用(S555)。通过针对所有被检测芯根据径向对称投票(S552)和DOG(S553)计算中间和最大投票(S552)来完成该确定,并且该确定基于(votes, DOG)的(平均值, 最大值)以及4芯载片具有对于(votes, DOG)的(平均值, 最大值)的更高值的假设。灰度级图像可被下采样两次以加速投票过程。对于投票,[13, 22]像素的半径范围可被用于两次下采样图像。对结果得到的投票矩阵执行DOG(S553),并且大于阈值的顶部10个DOG峰值被用作预期的芯中心位置。例如,基于所有检测到的芯中心,对于所有芯的DOG的平均值和最大值以及对于所有芯的投票的平均值和最大值可被计算,其中mean_DOG_all_cells_cutoff被设置成1.71,mean_DOG_all_cells_cutoff被设置成2,mean_votes_all_cells_cutoff被设置成1.6,mean_votes_all_cells_cutoff被设置成1.85,并且然后确定DOG/投票的平均值/最大值是否超过这些截止值。如果在4种状况之外,该状况满足2种或更多种情况,则可能决定该图像表示具有4个芯的控制载片。
给定期望的芯中心,基于Otsu阈值法的分割操作(S556)被执行以分割出前景斑点,这基于一般来说芯比其最接近的背景更暗的事实,这使得有可能基于强度提取出芯。一旦分割(S556)被执行,与半径范围[13, 22]不匹配(S557)的斑点可以被丢弃(S558)。预期斑点是圆形的,所以所计算的圆度特征< min_circularity (0.21)的斑点被丢弃,其中圆度被定义为(4*PI*面积/(周长*周长))。对于非圆形细长形状圆度为低并且对于近似圆形形状圆度接近1。
关于在有效半径范围[13,22]中的所有剩余芯,沿着直线放置的任何4个斑点连同假设在[38, 68]个像素范围(即在两个最靠近芯中心之间的范围)中的最靠近芯距离被检测(S559)。为了确定一些斑点是否沿着同一直线(S559),斑点可被视为线的距斑点中心的距离小于某一距离约束(23个像素)的一部分。如果在使用这些尺寸和距离约束之后,发现少于4个芯(S560),则尝试附加芯的检测(S561)以最终发现总共4个芯,如关于图5C-5D进一步描述的。
该方法通常假设:如果非4芯图像不具有5个或更多更小的芯,则4芯和非4芯控制图像可以被适当地分开。一些5芯图像可被分析为通用图像。每个芯的半径被假设成在缩略图图像中的范围[52, 88]个像素中。为了分割每个芯,假设它比其最接近的背景更暗。这使得有可能对缩略图图像的灰度级版本进行基于强度的阈值法。两个最靠近芯之间的距离(对于4芯控制HER2缩略图图像)被假设成在范围[152, 272]个像素中。图5B示出该方法的结果。利用对包括芯504的组织载片区作标记的矩形503来划定控制载片的缩略图图像501。通过该方法来返回软加权的AOI图502(或掩模)。图5C-5D描绘用于发现更多芯(S561)的装置。例如,对于每个检测到的芯504,预期芯被假设成基于箭头506远离的50个像素。更好的配置是具有更多数目的有效斑点的配置(即与尺寸和圆度约束相匹配的配置),并且如果两个配置都具有相同数目的有效斑点,则将所有有效芯上平均化的圆度特征与解决系(settle tie)相比较并且选择三个选项中的最好一个。在图5C中,仅发现2个斑点,所以该方法在3个备选配置中的任一个之间选择。在图5D中,仅发现3个斑点,所以该方法在2个备选配置中的最好一个之间选择。
图6A-6B描绘根据本主题公开内容的示例性实施例的用于涂片载片(例如包括血液样本的载片)上的AOI检测的方法。可由图1的子系统中描绘的模块的任何组合或者子系统和模块的任何其他组合来执行图6的方法。不需要按照所示的特定顺序来执行该方法中列出的步骤。一般来说,涂片方法考虑根据从RGB图像、L和sqrt(U^2 + V^2)导出的LUV图像计算的两个图像通道,在这里L是亮度通道并且U、V是色度通道。为L和sqrt(U^2 + V^2)图像二者计算中值和标准偏差。基于关于中值和标准偏差计算的更低和更高阈值,滞后阈值法操作被执行以返回对于L和sqt(U^2 + V^2)域的单独的AOI掩模,并且然后该掩模被组合。后处理操作可被执行以去掉尤其靠近载片缩略图底部的寄生区。
具体来说,可从RGB缩略图图像获得(S661)灰度级图像。生成(S662)对应于具有灰度级值< 40的像素的暗掩模。然后将RGB图像转换(S663)成L、UV子通道(L=亮度,U、V:色度)。L通道也被称为亮度图像。U通道和V通道是色彩通道。对于两个子通道(即对于亮度图像和对于色度图像)来计算(S664)阈值。
对于L通道,根据L’ = max(L) – L来计算逆通道L’,由此max(L)与在L通道图像中观测到的最大亮度值有关并且L是像素的亮度值。然后,为L’通道计算中值(MedianL)和平均绝对偏差(MADL)。
根据UV = sqrt(U^2 + V^2)来计算色度图像UV。
对于L’通道,根据thLlow = MedianL + MADL来计算更低阈值thLlow,并且根据thLhigh = MedianL + 2*MADL来计算更高阈值thLhigh。
类似的方法被用来计算关于UV通道的阈值。
根据UV = sqrt(U^2 + V^2)来计算色度图像UV。
根据UV’= max(UV) – UV来计算逆通道UV’,由此max(UV)与在UV图像中观测到的最大亮度值有关并且UV是所述图像中的像素的色度值。然后,为UV’通道计算中值(MedianUV)和平均绝对偏差(MADUV)。
对于色度UV通道,根据thUVlow = MedianUV + MADUV来计算更低阈值thUVlow,并且根据thUVhigh = MedianUV + 2*MADUV来计算更高阈值thUVhigh。
然后,对两个通道(L’, UV’)执行滞后阈值法(S665)。在L’通道上,使用thLlow和thLhigh并且使用例如150个像素的面积约束的滞后阈值法被用于获得L’域中的二元掩模(ML’)。
UV通道上的滞后阈值法使用例如150个像素的面积约束来获得UV域中的二元掩模(MU,V) 。
在滞后阈值法中“使用面积约束”意味着如果所述斑点至少和面积约束一样大则由滞后阈值法检测的任何像素斑点(作为具有满足下限阈值和上限阈值的值的一组邻近像素)仅在所生成的掩模中被保持为“未掩蔽”像素斑点。面积约束的尺寸通常在130个像素-170个像素的范围中,例如150个像素。
通过ML’和MUV (M(x,y) = 1如果ML’(x,y) = 1或MUV(x,y) = 1)的二进制或组合(S666)获得最终有效二元掩模M。
对根据亮度且根据色度图像分别生成的两个不同掩模执行滞后阈值法并且然后重组阈值掩模可增加特别对于涂片载片的组织与玻璃区检测的准确性。这是因为载玻片上的组织区通常由在整个载片上散布的细胞组成。通常所述细胞相对于载玻片具有低对比度。然而,在色度图像中表示的色彩分量可以充当特定载片区被组织覆盖的清楚指示符。
结果得到的组合可以是如本文中所述的软加权以生成最终掩模。此外,分析(S667)在缩略图图像底部处的各支撑标签之间中的区以确定邻接已经被检测的组织AOI区的支撑标签之间中的任何组织区是否需要被包括在掩模中。
该方法通常假设任何滑盖检测可导致丢弃涂片组织,所以滑盖外部的组织区被自动丢弃。这里的益处是如果组织不会延伸到载片/边沿,则滑盖边缘被忽略。此外,因为涂片组织可以位于支撑标签之间中,所以假设它是真正的组织,特别地如果它与在支撑标签外部的区中已经检测的组织连接的话。对于该方法,在发现AOI之后,基于涂片组织可能不是由固结的斑点组成而是可以存在位于突出涂片部分(其可以是在区域中足够小的)附近的组织块的假设,不丢弃较小的连接部件。因为丢失组织区比捕获寄生区更有风险,所以保守的方法包括将较小的连接部件保留在AOI中。图6B示出该方法的结果。利用对包括组织涂片604的感兴趣区域作标记的矩形603来划定涂片载片的缩略图图像601。通过该方法来返回软加权的AOI图602(或掩模)。
图7A-7C描绘根据本主题公开内容的示例性实施例的用于通用或错误识别的载片的AOI检测。可由图1的子系统中描绘的模块的任何组合或者子系统和模块的任何其他组合来执行图7的方法。不需要按照所示的特定顺序来执行该方法中列出的步骤。通常,该方法使用各种各样的阈值来提出预期发现组织区的更高概率的软加权的图像,并且基于靠近更暗组织区的模糊区比离真正组织区更远的模糊区更可能是组织区的假设,从模糊的伪像丢弃模糊图像区。
该方法以从RGB缩略图图像获得灰度级图像(S771)并且丢弃已知不感兴趣的区(S772)来开始。例如,在缩略图图像底部的黑色支撑标签以及滑盖的检测边缘外部的区被丢弃。具有< 40的灰度级值的暗区以及控制窗的边缘或边界外部的任何区(如果检测到任何区的话)被丢弃以防止成为AOI的一部分。为先前没有丢弃的所有图像区计算(S773)图像直方图,基于该图像直方图来获得对于玻璃的峰值并且将其用于计算对其执行自适应阈值法以检测预期组织区的阈值范围。这些操作S773-S776类似于由关于图4A描述的TMA方法执行的那些。然而,在该情况下,如果图像是模糊图像,则最明显斑点被保留(S777),即在这里属于该斑点的所有像素的软权重的和处于最大值。进一步地,当软权重足够高并且足够靠近最明显斑点时,靠近该最明显斑点的较小斑点被保留。连接部件被检测(S778),并且尺寸、距离和软权重约束应用于(S779-S780)保留和丢弃斑点。结果是AOI掩模。进一步地,当在可以触摸清零部分中的组织区的内部部分中存在适当的组织区时,100像素宽边界区中的像素被视为AOI掩模的一部分。基于尺寸、距离约束、到底部处暗支撑标签的接近度、软权重约束等等来丢弃(S780)小的斑点。
该默认或通用方法假设在被检测的滑盖外部不存在组织区,因为如果滑盖被不正确地检测(例如当在组织区中存在类似线的图案时),则它会冒错误滑盖外部的所有区清零的风险。进一步地,对于检测图像中的暗区的模块,直觉是笔标记、符号比组织区更暗。该方法进一步假设为40的灰度级值丢弃暗区。如果斑点< 150个像素则其被视为小的,并且如果斑点没有在离任何其他明显非小斑点的某一距离(< 150个像素)内则它被丢弃。具有>0.05的软权重且在最显著斑点的75个像素内的像素被视为AOI的一部分。
如上所述,已经使用根据在来自所有5个类别的每一个的至少30个载片处包含的510个训练载片估计的地面真实训练了这些AOI检测算法。在不同于训练集合的297个载片缩略图的测试集合上进一步测试了该算法。基于地面真实AOI数据,精度和召回得分被计算并且观测到对于所有5种载片类型,使用这些方法获得的基于精度-召回的得分显著优于现有技术方法。这些改进可能对本文中公开的若干特征有贡献,该若干特征包括但不限于自适应阈值法(其使用一系列阈值与通常在现有技术中完成的一个单个统计发现的阈值的关系),或者如在滞后阈值法的情况下的更低和更高阈值,对二元掩模执行连接部件检测以丢弃较小斑点,以及使用一系列阈值来移除对单个选取阈值的依赖性,以及考虑较小(仍显著)斑点与较大斑点(其是显著的,因为强度上的小变化可以分开更大的斑点并且更小的仍重要的斑点可以通过现有技术方法被丢弃)之间的距离。本文中公开的操作可被移植到硬件图形处理单元(GPU)中,从而实现多线程并行实施。
在另一方面中,本发明涉及一种被配置用于检测组织载片的数字图像中的组织区的图像分析系统。组织样本被安装在载片上。该图像分析系统包括处理器和存储介质。该存储介质包括多个特定载片类型的组织检测例程和通用组织检测例程。该图像分析系统被配置用于执行包括以下内容的方法:
-选择特定载片类型的组织检测例程中的一个;
-在执行所选特定载片类型的组织检测例程之前和/或同时检查所选特定载片类型的组织检测例程是否对应于数字图像中描绘的载片的组织载片类型;
-如果是的话,自动执行所选特定载片类型的组织检测例程以用于检测数字图像中的组织区;
-如果不是的话,自动执行通用组织检测例程以用于检测数字图像中的组织区。
所述特征可能是有利的,因为提供一种能够识别多个不同载片类型中的组织的全自动图像分析系统。在错的载片类型以及对应组织分析方法被用户选择或自动选择的情况下,系统可自动确定错的选择并且将执行已经表明对于所有或几乎所有类型的组织载片也有效的默认组织检测例程。在下面描述的实施例可以与上述实施例中的任一个自由组合。
根据实施例,该数字图像是缩略图图像。这可能是有益的,因为与“全尺寸的”组织载片图像相比缩略图具有更低的分辨率并且可因此被更有效地处理。
根据实施例,该图像分析系统包括用户界面。特定载片类型的组织检测例程的选择包括经由用户界面接收组织载片类型的用户选择;以及选择由用户选择的组织载片类型所指定的特定载片类型的组织检测例程中的一个。
根据实施例,该通用组织检测例程以及特定载片类型的组织检测例程(TMA例程)中的一个或多个包括用于生成选择性地掩蔽非组织区的二元掩模M的子例程。该子例程包括:
- 计算该数字图像的灰度级版本的直方图;
- 从直方图提取多个强度阈值;
- 在该数字图像上应用多个强度阈值以用于从数字图像生成多个中间掩模;
- 通过组合所有中间掩模来生成二元掩模M。
根据实施例,从直方图提取多个强度阈值包括:
- 识别max-grayscale-index(mgs),该max-grayscale-index是直方图中观测到的最大灰度级强度值;
- 识别max-histogram-location(mhl),该max-histogram-location是直方图中具有最高出现频率的灰度级强度值;
- 通过从max-grayscale-index(mgs)减去maximum-histogram-location(mhl)来计算rightgap;
- 根据glass-left-cutoff=max-histogram-location(mhl)-rightgap来计算glass-left-cutoff;
- 执行多个阈值的提取以使得该阈值中的最低一个(dco[0])是等于或大于glass_left_cutoff – rightgap的强度值并且以使得该阈值中的最高一个等于或小于glass_left_cutoff + rightgap。例如,最低阈值可以是等于或大于glass_left_cutoff –rightgap +1的强度值并且该阈值中的最高一个可以等于或小于glass_left_cutoff +rightgap -1。
所述特征可能是有利的,因为阈值是基于直方图的并且因此动态适应可以取决于许多不同因素(诸如光源、染色强度、组织分布、相机设置等等)的载片的组织和非组织区的模糊。因此,可实现不同组织载片的图像的更好的可比性以及组织检测的更好的整体准确性。
根据实施例,从直方图提取多个强度阈值包括:
- 根据irg=max(1, round(rightgap/constant))来计算interval-range-gap(irg),其中constant是在2和20之间(优先地在3和8之间)的预先定义的数值;
- 根据max_rightgap = min(rightgap – 1, round(rightgap * gap_cutoff_fraction)来计算max_rightgap值,其中gap_cutoff_fraction是在0.5-0.95(优先地在0.7-0.8)的范围中的预先定义的值;
- 根据number_interval_terms = ((max_rightgap + rightgap) / interval_range_gap)来计算number_interval_terms;以及
- 创建多个阈值以使得它们的数目与所计算的number_interval_terms是相同的。
所述特征可能是有利的,因为所生成的阈值的数目是基于直方图的并且因此动态适应可以取决于许多不同因素(诸如光源、染色强度、组织分布、相机设置等等)的载片的组织和非组织区的模糊和强度分布。已观测到在与玻璃有关的强度峰值非常窄的情况下,较小数目的阈值可能足以准确地将组织区与玻璃区分开。在与玻璃有关的强度峰值非常宽且相应地rightgap为大的情况下,可能优选的是计算较大数目的阈值以及对应的掩模。
根据实施例,将多个强度阈值应用于数字图像以用于生成多个中间掩模包括:
a)通过掩蔽数字图像中的其灰度级值低于多个阈值中的第一阈值的所有像素来创建第一中间掩模;
b)通过掩蔽数字图像中的其灰度级值低于多个阈值中的第二阈值的所有像素来创建第二中间掩模;该第二阈值可以例如是多个阈值中的下一最高阈值;
c)对第一掩模的未掩蔽像素执行连接部件分析以用于识别第一斑点;
d)对第二掩模的未掩蔽像素执行连接部件分析以用于识别第二斑点;
e)将第一和第二掩模合并成合并掩模,该合并包括:
- 掩蔽其尺寸低于绝对最小面积的所有第一斑点并且掩蔽其尺寸高于绝对最小面积但低于有条件的最小面积的所有第一斑点,并且这样在所述第一斑点周围的一预先定义邻近区域中没有第一斑点;
- 在已执行各第一斑点中的一个或多个的掩蔽之后,使第一和第二掩模的未掩蔽区联合以生成合并掩模的未掩蔽区,合并掩模的所有其他区是掩蔽区;
- 将合并掩模用作新的第一中间掩模,选择该阈值中的第三阈值以用于根据该第三阈值来计算新的第二中间掩模,重复步骤c)-e)直到多个阈值中的每一个都被选择为止,以及将最终生成的合并掩模输出为合并的二元掩模M。
如上所述的基于多阈值的多掩模合并可以是有利的,因为不同阈值能够捕捉非常不同强度级的组织的点或斑点。在一个掩模错过斑点的情况下,所述斑点可能会被基于较不严格阈值的掩模捕捉。进一步地,组合掩模的方式防止掩模被噪声污染,因为两个不同掩模的上下文信息被评估。如果掩模的未掩蔽像素斑点非常大或者在空间上接近在其他掩模中检测的斑点,则仅在掩模合并过程中保持所述斑点。如果组织区被分析,而不是如果玻璃区中的伪像被分析,则通常将进行这样的发现。以与上文所述的相同的方式来执行基于亮度的掩模与基于色度的掩模的合并,由此亮度掩模可能例如被用作第一掩模,色度掩模可能被用作第二掩模并且执行连接部件分析以用于分别检测亮度和色度通道中的未掩蔽区中的第一和第二斑点。
根据实施例,absolute-minimum-area在表示组织细胞的斑点的预期尺寸的100%-200%的范围中,conditional-minimum-area在表示组织细胞的斑点的预期尺寸的30%-70%的范围中。可通过在斑点周围的具有典型组织细胞的约1-3个直径的宽度(例如50个像素的宽度)的像素带来限定在斑点周围的预先定义的邻近区。
根据实施例,特定载片类型的组织检测例程包括TMA载片例程。该TMA载片例程被配置用于检测组织微阵列(TMA)载片中的组织区。该TMA载片例程被配置用于:
- 通过执行根据上述实施例的子例程来生成二元掩模M;
- 在数字图像上应用二元掩模(M)并且选择性地分析数字图像中的未掩蔽区以用于检测组织区的网格。如在本文中使用的“芯”是包含在载片上的单个组织样本或其一部分,其与载片上的其他组织区(其他“芯”)分隔开预先定义的最小距离,例如分隔开至少2mm或更多mm。
本发明的实施例利用多个阈值来用于中间掩模生成并且然后组合该掩模来用于生成最终掩模。该图像分析系统使用最终掩模来用于识别组织区。将多个不同阈值应用于掩模生成并且然后经由已经被观测的智能掩模掩蔽算法来组合掩模以在组织与玻璃的检测中提供更高的准确性。对于不同的组织载片类型来说,多个阈值被生成并且相应掩模被融合的方式可能略有不同,以进一步增加组织检测算法的准确性。
根据实施例,所选特定载片类型的组织检测例程是TMA载片例程并且该图像分析系统被进一步配置用于:
- 如果在数字图像的未掩蔽区中没有检测到组织区的网格,则确定所选TMA载片组织检测例程不对应于在数字图像中描绘的组织载片的组织载片类型;以及
- 终止TMA载片组织检测例程的执行并且开始通用组织检测例程的执行。
根据实施例,该特定载片类型的组织检测例程包括控制载片例程。该控制载片例程被配置用于检测控制载片中的组织区。控制载片是除了要被分析的组织之外还包括控制组织的载片。利用控制染色剂(即非特定生物标记染色剂)而不是利用特定生物标记染色剂来对控制组织以及要被分析的组织进行染色。归因于控制染色剂,控制组织切片以及实际上要被分析的组织切片绝不会被明确地染色并且通常比实验测试载片更模糊。该控制载片例程被配置用于:
- 通过执行对于二元掩模生成的上述实施例中的任一个的子例程来生成二元掩模M;
- 对数字图像应用二元掩模M;以及
- 选择性地分析数字图像中的未掩蔽区以用于检测以直线定位的许多组织区。
根据实施例,所选特定载片类型的组织检测例程是控制载片例程。在数字图像的未掩蔽区中没有检测到处于直线的组织区的数目的情况下,该图像分析系统确定所选控制载片组织检测例程不对应在数字图像中描绘的组织载片的组织载片类型并且终止控制载片组织检测例程的执行并且开始通用组织检测例程的执行。
根据实施例,特定载片类型的组织检测例程包括细胞系载片例程。该细胞系载片例程被配置用于检测细胞系载片中的组织区。细胞系载片是包括单个盘形组织样本的组织载片,该细胞系载片例程被配置用于:
- 将灰度级图像计算为数字图像的导数;根据一些实施例,例如借助于对比度拉伸该灰度级图像是“增强的”图像。根据实施例,(增强的)灰度级图像是在计算梯度幅值图像之前被下采样(以降低的分辨率存储)多次(例如利用因子2的三次);
- 将梯度幅值图像计算为灰度级图像的导数;
- 计算数字图像的直方图;
- 从直方图提取多个强度阈值;
- 在该数字图像上应用多个强度阈值以用于从数字图像生成多个中间掩模;
- 通过组合所有中间掩模来生成二元掩模(M);
- 对数字图像和梯度幅值图像应用二元掩模(M);以及
- 对梯度幅值图像中的未掩蔽区选择性地执行基于径向对称的投票以用于检测单个组织区的中心和半径。
根据实施例,所选特定载片类型的组织检测例程是细胞系载片例程并且该图像分析系统被进一步配置用于:
- 如没有检测到单个组织区或者如果检测到的半径或检测到的中心位置偏离针对细胞系载片类型而预期的半径或中心位置,则确定所选细胞系载片组织检测例程不对应于在数字图像中描绘的组织载片的组织载片类型;以及
- 终止细胞系载片组织检测例程的执行并且开始通用组织检测例程的执行。
根据实施例,该特定载片类型的组织检测例程包括涂片载片例程。该涂片载片例程被配置用于检测涂片载片中的组织区。涂片载片是一种在其上组织区遍及载片扩散的载片类型。该涂片载片例程被配置用于:
- 计算作为数字图像的导数的亮度图像,该亮度图像是数字图像的LUV色彩空间表示的L通道图像;
- 计算作为来自数字图像的导数的色度图像,该色度图像是数字图像的LUV色彩空间表示的U、V通道的导数;
- 对亮度图像的逆版本执行滞后阈值法以用于生成基于亮度的掩模;
- 对色度图像的逆版本执行滞后阈值法以用于生成基于色度的掩模;
- 组合基于亮度的掩模和基于色度的掩模以获得二元掩模(M);
- 对数字图像应用二元掩模;以及
- 选择性地分析数字图像中的未掩蔽区以用于检测扩散的组织区。
根据实施例,执行滞后阈值法包括:
- 对于其像素值满足在滞后阈值法期间应用的下限阈值和上限阈值的每个邻近像素集合,确定该像素集合是否至少覆盖凭经验确定的面积;例如该凭经验确定的面积可以对应于以给定分辨率在数字图像中描绘的组织细胞的典型数目的像素;
- 如果是的话(如果该像素集合至少覆盖所述面积),则生成使得所述像素集合未被掩蔽的二元掩模;将所述像素视为未掩蔽的像素意味着所述像素被视为组织区而掩蔽像素被视为非组织区(例如玻璃区);
- 如果不是的话,则生成使得所述像素集合被掩蔽的二元掩模。
将邻近像素集合进行比较可能具有使得比典型细胞更小的小散斑和噪声都被所生成的掩模滤除掉的优点。
根据实施例,该组织载片是载玻片,并且组织检测例程被配置用于生成选择性地掩蔽玻璃区的掩模,其中组织区是所述掩模中的未遮蔽区。
根据实施例,该子例程进一步包括当组合中间掩模来生成二元掩模时使用尺寸和距离约束来从中间掩模检测和丢弃较小的区。
根据实施例,通用以及特定组织载片类型的组织检测例程中的一个或多个进一步被配置用于从数字图像生成加权图像,该加权图像中的每个像素已被指定在包括多于两个不同值的值范围中的权重。该权重指示与属于玻璃相比所述像素属于组织区的可能性。这可能是有利的,因为掩模仅仅生成二元图像但是成为组织区而不是玻璃区的可能性可在零和1之间。对于一些像素,可能几乎不可能明确地决定它们是组织像素还是不是。通过指定可能具有多个可能值中的任一个的权重,有可能向用户显示某些预期组织区具有成为真正组织像素的高度可能性以及某些预期组织区具有成为组织区的更低可能性(但是然而被未掩蔽并因此被视为组织区)。
根据实施例,加权图像的生成使用数字图像以及二元掩模M作为输入。软加权图像在所有像素处具有零值(除了在二元掩模内部为非零的像素之外),并且根据与属于玻璃相比这些非零像素属于组织的更多还是更少可能性,这些非零像素被指定更高或更低的值。
根据实施例,加权图像的生成包括:
- 计算作为数字图像的导数的亮度图像,该亮度图像是数字图像的LUV色彩空间表示的L通道图像,或访问已经计算的亮度图像以用于生成二元掩模(M);
- 计算作为来自数字图像的导数的色度图像,该色度图像是数字图像的LUV色彩空间表示的U、V通道的导数,或访问已经计算的色度图像以用于生成二元掩模M;
- 利用二元掩模(M)来遮蔽亮度和/或色度,该二元掩模选择性地遮蔽非组织区;
- 生成作为亮度和/或色度图像的导数的加权图像SW,其中该加权图像中的每个像素已指定与亮度图像中的对应像素的色度呈正相关的和/或与亮度图像中的对应像素的暗度呈正相关的值。
总体来说,彩色的像素(其色彩信息被包含在色度图像中)以及更暗的像素(亮度图像)比玻璃更可能是组织;因此,具有高色度(色彩)分量和/或更暗像素(根据亮度)的像素具有更高的权重。
如已经针对本发明的实施例所描述的,由图像分析系统来执行色度UV和亮度L图像的计算。
根据实施例,该图像分析系统包括被配置用于显示可选择的GUI元件的图形用户界面。该GUI元件使得用户能够选择特定载片类型的或通用的组织检测例程中的一个。该特定载片类型的组织检测例程是TMA载片例程、控制载片例程、细胞系载片例程或涂片载片例程中的一个。另外或备选地,该图像分析系统显示所检测的组织区,其中所显示的组织区的像素的色彩和/或亮度取决于指定给各组织区像素中的每一个的权重[软权重]。另外或备选地,该GUI使得用户能够在所显示的(软加权)组织区的各区上添加额外聚焦点,额外聚焦点的添加触发扫描仪来更详细地扫描由聚焦点指示的区。
在另一方面中,本发明涉及一种用于检测组织载片的数字图像中的组织区的图像分析方法。组织样本被安装在载片上。在包括处理器和存储介质的图像分析系统中实施该方法。该方法包括:
-选择特定载片类型的组织检测例程中的一个;
-在执行所选特定载片类型的组织检测例程之前和/或同时检查所选特定载片类型的组织检测例程是否对应于数字图像中描绘的载片的组织载片类型;
-如果是的话,自动执行所选特定载片类型的组织检测例程以用于检测数字图像中的组织区;
-如果不是的话,自动执行通用组织检测例程以用于检测数字图像中的组织区。
在另一方面中,本发明涉及一种包括可由图像分析系统的处理器解释的指令的存储介质,当被处理器执行时该指令促使图像分析系统执行根据在根据本文中描述的实施例中的任一个的图像分析系统中实施的图像处理方法的方法。
计算机通常包括已知部件,诸如处理器、操作系统、系统存储器、存储器存储设备、输入输出控制器、输入输出设备和显示设备。相关领域中的普通技术人员还将理解的是存在计算机的许多可能的配置和部件,并且还可以包括高速缓存存储器、数据备份单元和许多其他设备。输入设备的示例包括键盘、光标控制设备(例如鼠标)、麦克风、扫描仪、等等。输出设备的示例包括显示设备(例如监视器或投影仪)、扬声器、打印机、网络卡等等。显示设备可包括提供视觉信息的显示设备,该信息通常可以被逻辑和/或物理地组织为像素阵列。还可包括界面控制器,其可包括用于提供输入和输出界面的各种各样已知的或将来的软件程序中的任一个。例如,界面可包括通常被称为“图形用户界面”(常常被称为GUI)的向用户提供一个或多个图形表示的界面。界面通常使得能够使用相关领域中的普通技术人员已知的选择或输入装置来接受用户输入。该界面还可以是触摸屏设备、在某些或备选实施例中,计算机上的应用程序可采用界面,其包括被称为“命令线界面”(也被称为CLI)的界面。CLI通常在应用程序和用户之间提供基于文本的交互。典型地,命令线界面通过显示设备呈现输出并且接收作为文本行的输入。例如,某些实施方式可包括被称为“shell”的那些,诸如相关领域中的普通技术人员已知的Unix Shell、或采用面向对象的类型的编程架构(诸如Microsoft .NET框架)的Microsoft Windows Powershell。
相关领域中的普通技术人员将会认识到,界面可包括一个或多个GUI、CLI或其组合。处理器可包括商业上可得到的处理器,诸如由英特尔公司制造的Celeron、Core或Pentium处理器,由太阳微系统制造的SPARC处理器,由AMD公司制造的Athlon、Sempron、Phenom或Opteron处理器,或者它可以是可用或将变得可用的其他处理器中的一个。处理器的一些实施例可包括被称为多核处理器以及/或者使得能够在单核或多核配置中采用并行处理技术的那些。例如,多核架构通常包括两个或更多个处理器“执行核”。在本示例中,每个执行核可作为实现多个线程的并行执行的一个独立的处理器来执行。此外,相关领域中的普通技术人员将会认识到处理器可被配置在通常被称为32或64位架构的那些配置中,或者现在已知或可在将来开发的其他架构配置中。
处理器通常执行操作系统,其可以是例如来自微软公司的Windows类型的操作系统;来自苹果计算机公司的Mac OS X操作系统;可从许多供应商得到的或被称为开源的Unix或Linux类型的操作系统;其外的或将来的操作系统;或其某一组合。操作系统以公知的方式与固件和硬件接合,并且促进处理器协调和执行可以各种各样编程语言书写的各种计算机程序的功能。通常与处理器协作的操作系统协调和执行计算机的其他部件的功能。操作系统还提供调度、输入输出控制、文件和数据管理、存储器管理、和通信控制以及相关服务,所有都根据已知技术。
系统存储器可包括可以被用来存储期望信息并且可以被计算机访问的各种各样已知或将来的存储器存储设备中的任一个。计算机可读存储介质可包括在用于信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的存储的任何方法或技术中实施的易失性和非易失性、可移除和非可移除介质。示例包括任何通常可用的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、数字多功能盘(DVD)、磁性介质(诸如常驻硬盘或带)、光学介质(诸如读取和写入压缩盘)、或其他存储器存储设备。存储器存储设备可包括各种各样已知或将来的设备中的任一个,包括压缩盘驱动器、磁带驱动器、可移除硬盘驱动器、USB或闪速驱动器、或软盘驱动器。这些类型的存储器存储设备通常相应地从程序存储介质读取和/或写入到程序存储介质,该程序存储介质诸如压缩盘、磁带、可移除硬盘、USB或闪速驱动器、或者软盘。这些程序存储介质中的任一个或现在使用中的或可随后开发的其他程序存储介质可被视为计算机程序产品。如将会认识到的,这些程序存储介质通常存储计算机软件程序和/或数据。计算机软件程序(也被称为计算机控制逻辑)通常被存储在系统存储器和/或与存储器存储设备结合使用的程序存储设备中。在一些实施例中,描述一种计算机程序产品,其包括将控制逻辑(计算机软件程序,包括程序代码)存储在其中的计算机可用介质。当被处理器执行时,该控制逻辑促使处理器执行本文中所述的功能。在其他实施例中,使用例如硬件状态机来主要在硬件中实施某些功能。对相关领域的技术人员来说,实施硬件状态机执行本文所述的功能的实施将是显而易见的。输入输出控制器可能包括用于接受和处理来自用户的信息的各种各样已知设备中的任一个,不管是人类还是机器,不管是本地还是远程。此类设备包括例如:调制解调器卡、无线卡、网络接口卡、声卡、或用于各种各样已知输入设备中的任一个的其他类型的控制器。输出控制器可包括用于向用户呈现信息的各种各样的已知显示设备中的任一个的控制器,不管是人类还是机器,不管是本地还是远程。在先前描述的实施例中,计算机的功能元件经由系统总线彼此通信。计算机的一些实施例可使用网络或其他类型的远程通信与某些功能元件通信。如对相关领域中的技术人员将显而易见的,如果仪器控制和/或数据处理应用程序以软件实施的话,该仪器控制和/或数据处理应用程序可被加载到系统存储器和/或存储器存储设备中并且从系统存储器和/或存储器存储设备来执行。仪器控制和/或数据处理应用程序中的所有或部分还可驻留在只读存储器或存储器存储设备的类似设备中,此类设备不要求通过输入输出控制器来首先加载该仪器控制和/或数据处理应用程序。相关领域中的技术人员将会理解,如对执行有利的,仪器控制和/或数据处理应用程序、或者其部分可以由处理器以已知方式加载到系统存储器、或者高速缓冲存储器、或者这二者中。而且,计算机可包括一个或多个库文件、实验数据文件、以及存储在系统存储器中的互联网客户端。例如,实验数据可能包括与一个或多个实验或分析物有关的数据(诸如检测到的信号值)、或者与一个或多个合成边测序(SBS)实验或过程相关联的其他值。另外,互联网客户端可包括使得能够使用网络来访问另一计算机上的远程服务的应用程序并且可例如包括一般被称为“网络浏览器”的那些。在本示例中,一些常采用的网络浏览器包括可从微软公司得到的MicrosoftInternet Explorer、可从Mozilla公司得到的Mozilla Firefox、来自苹果计算机公司的Safari、来自谷歌公司的Google Chrome、或者本领域中当前已知的或将来开发的其他类型的网络浏览器。而且,在一些或其他实施例中,互联网客户端可以包括专用软件应用程序或者可以是专用软件应用程序的一个元件,该专用软件应用程序使得能够经由网络(诸如对于生物应用程序的数据处理应用程序)访问远程信息。
网络可包括本领域普通技术人员公知的许多各种类型的网络中的一个或多个。例如,网络可包括局域网或广域网,其可采用通常被称为用于通信的TCP/IP协议组的那些。网络可包括含有通常被称为互联网的互连计算机网络的全球系统的网络,或者还可包括各种内联网架构。相关领域中的普通技术人员还将认识到处于联网环境中的一些用户可能较喜欢采用通常被称为“防火墙”(有时也被称为分组过滤器或边界保护设备)的那些来控制去到和来自硬件和/或软件系统的信息业务。例如,防火墙可包括硬件或软件元件或者其某一组合,并且通常被设计成实施由用户(诸如例如网络管理员等等)放在适当位置的安全策略。
已经给出了本主题公开内容的示例性实施例的前述公开内容以达到说明和描述的目的。不意图使其成为详尽的或者将本主题公开内容限于所公开的精确形式。根据上面的公开内容,本文中描述的实施例的许多变化和修改对本领域普通技术人员来说将是显而易见的。本主题公开内容的范围将仅由附于这里的权利要求以及其等同物来限定。
此外,在描述本主题公开内容的代表性实施例的过程中,说明书可能已经将本主题公开内容的方法和/或过程呈现为特定序列的步骤。然而,就该方法或过程不依赖于本文阐述的步骤的特定顺序来说,该方法或过程不应该限于所述步骤的特定顺序。如本领域普通技术人员将会认识到的,步骤的其他顺序是可能的。因此,在说明书中阐述的步骤的特定顺序不应该被解释为对权利要求的限制。此外,针对本主题公开内容的方法和/或过程的权利要求不应该限制为它们的以所写顺序的步骤的表现,并且本领域技术人员可以容易地认识到该顺序可以改变并且仍保持在本主题公开内容的精神和范围内。
Claims (23)
1.一种被配置用于检测组织载片的数字图像中的组织区的图像分析系统(220),其中组织样本被安装在组织载片上,该图像分析系统包括处理器(220)和存储介质,该存储介质包括多个特定载片类型的组织检测例程(213、214、215、216)和通用组织检测例程(217),该图像分析系统被配置用于执行包括以下各项的方法:
-选择特定载片类型的组织检测例程中的一个;
-在执行所选特定载片类型的组织检测例程之前和/或同时检查所选特定载片类型的组织检测例程是否对应于数字图像中描绘的载片的组织载片类型;
-如果是的话,自动执行所选特定载片类型的组织检测例程以用于检测数字图像中的组织区;
-如果不是的话,自动执行通用组织检测例程以用于检测数字图像中的组织区。
2.根据权利要求1所述的图像分析系统,其中该数字图像是缩略图图像。
3.根据前述权利要求中的任一项所述的图像分析系统,其中该图像分析系统包括用户界面,其中特定载片类型的组织检测例程的选择包括经由用户界面接收组织载片类型的用户选择;以及选择由用户选择的组织载片类型所指定的特定载片类型的组织检测例程中的一个。
4.根据前述权利要求中的任一项所述的图像分析系统,其中该通用组织检测例程以及特定载片类型的组织检测例程中的一个或多个包括用于生成选择性地掩蔽非组织区的二元掩模(M)的子例程,该子例程包括:
- 计算该数字图像的灰度级版本的直方图(800);
- 从直方图提取多个强度阈值(rts);
- 在该数字图像上应用多个强度阈值以用于从数字图像生成多个中间掩模;
- 通过组合所有中间掩模来生成二元掩模(M)。
5.根据权利要求4所述的图像分析系统,从直方图提取多个强度阈值包括:
- 识别max-grayscale-index(mgs),该max-grayscale-index是直方图中观测到的最大灰度级强度值;
- 识别max-histogram-location(mhl),该max-histogram-location是直方图中具有最高出现频率的灰度级强度值;
- 通过从max-grayscale-index(mgs)减去maximum-histogram-location(mhl)来计算rightgap;
- 根据glass-left-cutoff=max-histogram-location(mhl)-rightgap来计算glass-left-cutoff;
- 执行多个阈值的提取以使得该阈值中的最低一个(dco[0])是等于或大于glass_left_cutoff – rightgap的强度值并且以使得该阈值中的最高一个等于或小于glass_left_cutoff + rightgap。
6.根据权利要求5所述的图像分析系统,从直方图提取多个强度阈值包括:
- 根据irg=max(1, round(rightgap/constant))来计算interval-range-gap(irg),其中constant是在2和20之间,优先地在3和8之间的预先定义的数值;
- 根据max_rightgap = min(rightgap – 1, round(rightgap * gap_cutoff_fraction)来计算max_rightgap值,其中gap_cutoff_fraction是在0.5-0.95,优先地在0.7-0.8的范围中的预先定义的值;
- 根据number_interval_terms = ((max_rightgap + rightgap) / interval_range_gap)来计算number_interval_terms;以及
- 创建多个阈值以使得它们的数目与所计算的number_interval_terms是相同的。
7.根据权利要求4、5或6所述的图像分析系统,将多个强度阈值(rts)应用于数字图像以用于生成多个中间掩模包括:
a)通过掩蔽数字图像中的其灰度级值低于多个阈值中的第一阈值的所有像素来创建第一中间掩模;
b)通过掩蔽数字图像中的其灰度级值低于多个阈值中的第二阈值的所有像素来创建第二中间掩模;
c)对第一掩模的未掩蔽像素执行连接部件分析以用于识别第一斑点;
d)对第二掩模的未掩蔽像素执行连接部件分析以用于识别第二斑点;
e)将第一和第二掩模合并成合并掩模,该合并包括:
- 掩蔽其尺寸低于绝对最小面积的所有第一斑点并且掩蔽其尺寸高于绝对最小面积但低于有条件的最小面积的所有第一斑点,并且这样在所述第一斑点周围的一预先定义邻近区域中没有第一斑点;
- 在已执行各第一斑点中的一个或多个的掩蔽之后,使第一和第二掩模的未掩蔽区联合以生成合并掩模的未掩蔽区,合并掩模的所有其他区是掩蔽区;
(f) 将合并掩模用作新的第一中间掩模,选择该阈值中的第三阈值以用于根据该第三阈值来计算新的第二中间掩模,重复步骤c)-e)直到多个阈值中的每一个都被选择为止,以及将最终生成的合并掩模输出为合并的二元掩模(M)。
8.根据权利要求7所述的图像分析系统,该absolute-minimum-area在表示组织细胞的斑点的预期尺寸的100%-200%的范围中,conditional-minimum-area在表示组织细胞的斑点的预期尺寸的30%-70%的范围中。
9.根据前述权利要求中的任一项所述的图像分析系统,其中该特定载片类型的组织检测例程包括TMA载片例程,该TMA载片例程被配置用于检测组织微阵列(TMA)载片中的组织区,该TMA载片例程被配置用于:
- 通过执行根据权利要求4-8中的任一项的子例程来生成二元掩模(M);
- 在数字图像上应用二元掩模(M)并且选择性地分析数字图像中的未掩蔽区以用于检测组织区的网格。
10.根据权利要求9所述的图像分析系统,其中所选特定载片类型的组织检测例程是TMA载片例程并且该图像分析系统被进一步配置用于:
- 如果在数字图像的未掩蔽区中没有检测到组织区的网格,则确定所选TMA载片组织检测例程不对应于在数字图像中描绘的组织载片的组织载片类型;以及
- 终止TMA载片组织检测例程的执行并且开始通用组织检测例程的执行。
11.根据前述权利要求1-8中的任一项所述的图像分析系统,其中该特定载片类型的组织检测例程包括控制载片例程,该控制载片例程被配置用于检测控制载片中的组织区,该控制载片例程被配置用于:
- 通过执行权利要求4-8中的任一项的子例程来生成二元掩模(M);
- 对数字图像应用二元掩模(M);以及
- 选择性地分析数字图像中的未掩蔽区以用于检测以直线定位的许多组织区。
12.根据权利要求11所述的图像分析系统,其中所选特定载片类型的组织检测例程是控制载片例程,并且该图像分析系统进一步被配置用于:
- 如果在数字图像的未掩蔽区中没有检测到处于直线的组织区的数目,则确定所选控制载片组织检测例程不对应在数字图像中描绘的组织载片的组织载片类型;以及
- 终止控制载片组织检测例程的执行并且开始通用组织检测例程的执行。
13.根据前述权利要求1-8中的任一项所述的图像分析系统,其中该特定载片类型的组织检测例程包括细胞系载片例程,该细胞系载片例程被配置用于检测细胞系载片中的组织区,该细胞系载片是包括单个盘形组织样本的组织载片,该细胞系载片例程被配置用于:
- 将灰度级图像计算为数字图像的导数;
- 将梯度幅值图像计算为灰度级图像的导数;
- 计算数字图像的直方图(800);
- 从直方图提取多个强度阈值(rts);
- 在该数字图像上应用多个强度阈值以用于从数字图像生成多个中间掩模;
- 通过组合所有中间掩模来生成二元掩模(M);
- 对数字图像和梯度幅值图像应用二元掩模(M);以及
- 对梯度幅值图像中的未掩蔽区选择性地执行基于径向对称的投票以用于检测单个组织区的中心和半径。
14.根据权利要求13所述的图像分析系统,其中所选特定载片类型的组织检测例程是细胞系载片例程并且该图像分析系统被进一步配置用于:
- 如没有检测到单个组织区或者如果检测到的半径或检测到的中心位置偏离针对细胞系载片类型而预期的半径或中心位置,则确定所选细胞系载片组织检测例程不对应于在数字图像中描绘的组织载片的组织载片类型;以及
- 终止细胞系载片组织检测例程的执行并且开始通用组织检测例程的执行。
15.根据前述权利要求1-8中的任一项所述的图像分析系统,其中该特定载片类型的组织检测例程包括涂片载片例程,该涂片载片例程被配置用于检测涂片载片中的组织区,涂片载片是一种在其上组织区遍及载片扩散的载片类型,该涂片载片例程被配置用于:
- 计算作为数字图像的导数的亮度图像,该亮度图像是数字图像的LUV色彩空间表示的L通道图像;
- 计算作为来自数字图像的导数的色度图像,该色度图像是数字图像的LUV色彩空间表示的U、V通道的导数;
- 对亮度图像的逆版本执行滞后阈值法以用于生成基于亮度的掩模;
- 对色度图像的逆版本执行滞后阈值法以用于生成基于色度的掩模;
- 组合基于亮度的掩模和基于色度的掩模以获得二元掩模(M);
- 对数字图像应用二元掩模;以及
- 选择性地分析数字图像中的未掩蔽区以用于检测扩散的组织区。
16.根据权利要求15所述的图像分析系统,其中执行滞后阈值法包括:
- 对于其像素值满足在滞后阈值法期间应用的下限阈值和上限阈值的每个邻近像素集合,确定该像素集合是否至少覆盖凭经验确定的面积;
- 如果是的话,则生成使得所述像素集合未被掩蔽的二元掩模;
- 如果不是的话,则生成使得所述像素集合被掩蔽的二元掩模。
17.根据前述权利要求中的任一项所述的图像分析系统,其中该组织载片是载玻片,并且该组织检测例程被配置用于生成选择性地掩蔽玻璃区的掩模,其中组织区是所述掩模中的未遮蔽区。
18.根据前述权利要求4-17中的任一项所述的图像分析系统,进一步包括当组合中间掩模来生成二元掩模时使用尺寸和距离约束来从中间掩模检测和丢弃较小的区。
19.根据前述权利要求中的任一项所述的图像分析系统,该通用以及特定组织载片类型的组织检测例程中的一个或多个进一步被配置用于:
- 从数字图像生成加权图像,该加权图像中的每个像素已被指定在包括多于两个不同值的值范围中的权重,该权重指示与属于玻璃相比所述像素属于组织区的可能性。
20.根据权利要求19所述的图像分析系统,该加权图像的生成包括:
-计算作为数字图像的导数的亮度图像,该亮度图像是数字图像的LUV色彩空间表示的L通道图像,或访问已经计算的亮度图像以用于生成二元掩模(M);
- 计算作为来自数字图像的导数的色度图像,该色度图像是数字图像的LUV色彩空间表示的U、V通道的导数,或访问已经计算的色度图像以用于生成二元掩模(M);
- 利用二元掩模(M)来遮蔽亮度和/或色度,该二元掩模选择性地遮蔽非组织区;
- 生成作为亮度和/或色度图像的导数的加权图像(SW),其中该加权图像中的每个像素已指定与亮度图像中的对应像素的色度呈正相关的和/或与亮度图像中的对应像素的暗度呈正相关的值。
21.根据前述权利要求中的任一项所述的图像分析系统,该图像分析系统包括被配置用于以下各项的图形用户界面:
- 显示可选择的GUI元件(219);该GUI元件使得用户能够选择特定载片类型的或通用的组织检测例程中的一个;以及/或者
-显示所检测的组织区,其中所显示的组织区的像素的色彩和/或亮度取决于指定给各组织区像素中的每一个的权重;以及/或者
- 使得用户能够在所显示的组织区的各区上添加额外聚焦点,额外聚焦点的添加触发扫描仪来更详细地扫描由聚焦点指示的区。
22.一种用于检测组织载片的数字图像中的组织区的图像分析方法,其中组织样本被安装在载片上,在包括处理器和存储介质的图像分析系统中实施该方法,该方法包括:
-选择特定载片类型的组织检测例程中的一个;
-在执行所选特定载片类型的组织检测例程之前和/或同时检查所选特定载片类型的组织检测例程是否对应于数字图像中描绘的载片的组织载片类型;
-如果是的话,自动执行所选特定载片类型的组织检测例程以用于检测数字图像中的组织区;
-如果不是的话,自动执行通用组织检测例程以用于检测数字图像中的组织区。
23.一种包括可由图像分析系统的处理器(220)解释的指令的存储介质,当被处理器执行时该指令促使图像分析系统执行根据权利要求22所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562110473P | 2015-01-31 | 2015-01-31 | |
US62/110473 | 2015-01-31 | ||
CN201680007777.8A CN107209937B (zh) | 2015-01-31 | 2016-01-29 | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680007777.8A Division CN107209937B (zh) | 2015-01-31 | 2016-01-29 | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113763377A true CN113763377A (zh) | 2021-12-07 |
Family
ID=55353181
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680007777.8A Active CN107209937B (zh) | 2015-01-31 | 2016-01-29 | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 |
CN202111098397.9A Pending CN113763377A (zh) | 2015-01-31 | 2016-01-29 | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680007777.8A Active CN107209937B (zh) | 2015-01-31 | 2016-01-29 | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US10796429B2 (zh) |
EP (1) | EP3251088B1 (zh) |
JP (1) | JP6667541B2 (zh) |
CN (2) | CN107209937B (zh) |
AU (1) | AU2016211885A1 (zh) |
CA (1) | CA2970129C (zh) |
WO (1) | WO2016120463A1 (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10453195B2 (en) * | 2016-08-19 | 2019-10-22 | Optrascan, Inc. | Method of detecting tissue area of interest in digital pathology imaging by executing computer-executable instructions stored on a non-transitory computer-readable medium |
US10430943B2 (en) * | 2016-10-07 | 2019-10-01 | Sony Corporation | Automated nuclei area/number estimation for IHC image analysis |
TWI756365B (zh) * | 2017-02-15 | 2022-03-01 | 美商脫其泰有限責任公司 | 圖像分析系統及相關方法 |
JP7128203B2 (ja) | 2017-04-14 | 2022-08-30 | ヴェンタナ メディカル システムズ, インク. | スティッチングのための局所的タイルベースレジストレーションおよび大域的配置 |
CN107403181B (zh) * | 2017-06-01 | 2020-05-12 | 深圳信息职业技术学院 | 基于广式腊肠高光谱图像的瘦肉与肥肉自适应分离的方法 |
USD875753S1 (en) * | 2018-03-06 | 2020-02-18 | Ventana Medical Systems, Inc. | Display screen or portion thereof with graphical user interface for biological slide scanning |
CN108492246B (zh) * | 2018-03-12 | 2023-01-24 | 维沃移动通信有限公司 | 一种图像处理方法、装置及移动终端 |
US10956530B2 (en) | 2018-11-02 | 2021-03-23 | Walmart Apollo, Llc | Systems and methods for search modification |
EP3883450A4 (en) * | 2018-11-20 | 2022-08-24 | Leanap, Inc. | SAMPLE IMAGING AND IMAGE ARCHIVING FOR IMAGE COMPARISON |
JP7227389B2 (ja) | 2019-02-13 | 2023-02-21 | ベンタナ メディカル システムズ, インコーポレイテッド | マルチチャネル画像における自己蛍光の寄与を算出するシステムおよび方法 |
USD911370S1 (en) * | 2019-06-25 | 2021-02-23 | Walmart Apollo, Llc | Display screen with graphical user interface |
USD905726S1 (en) * | 2019-06-25 | 2020-12-22 | Walmart Apollo, Llc | Display screen with graphical user interface |
USD912078S1 (en) * | 2019-06-25 | 2021-03-02 | Walmart Apollo, Llc | Display screen with graphical user interface |
USD911369S1 (en) * | 2019-06-25 | 2021-02-23 | Walmart Apollo, Llc | Display screen with graphical user interface |
CN112330585B (zh) * | 2019-07-31 | 2024-07-02 | 北京金山云网络技术有限公司 | 图像质量的检测方法、装置及电子设备 |
CN110503114B (zh) * | 2019-08-29 | 2023-04-07 | 中国科学院深圳先进技术研究院 | 图像特征提取方法、装置、肿瘤识别系统及存储介质 |
EP4028989A1 (en) * | 2019-09-09 | 2022-07-20 | PAIGE.AI, Inc. | Systems and methods for processing images of slides for digital pathology |
CN111047587B (zh) * | 2019-12-27 | 2023-05-02 | 超越科技股份有限公司 | 图像的噪声估计方法、计算机设备和存储介质 |
CN111353551B (zh) * | 2020-03-13 | 2020-12-08 | 广东工业大学 | 一种面向产品装配工艺的非均匀样本均衡化方法及系统 |
USD957453S1 (en) * | 2020-05-22 | 2022-07-12 | Autel Intelligent Technology Corp., Ltd. | Display screen or portion thereof of a device with transitional graphical user interface |
USD982612S1 (en) * | 2020-11-19 | 2023-04-04 | Autel Intelligent Technology Corp., Ltd. | Display screen or portion thereof of a device with transitional graphical user interface |
CN113032919B (zh) * | 2021-03-12 | 2022-03-04 | 奥特斯科技(重庆)有限公司 | 部件承载件制造方法、处理系统、计算机程序和系统架构 |
CN114264378A (zh) * | 2021-12-20 | 2022-04-01 | 红原县雪月天佑农牧科技有限公司 | 一种牲畜智能管理系统及方法 |
US20230215052A1 (en) * | 2022-01-05 | 2023-07-06 | Kenneth Tang | Systems and methods for intelligently compressing whole slide images |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1751309A (zh) * | 2002-12-18 | 2006-03-22 | Ge医疗系统环球技术有限公司 | 结合体外测试数据的医学数据分析方法和设备 |
US20060127880A1 (en) * | 2004-12-15 | 2006-06-15 | Walter Harris | Computerized image capture of structures of interest within a tissue sample |
CN101859276A (zh) * | 2010-05-14 | 2010-10-13 | 东南大学 | 一种基于层次切片的回归测试用例选择方法 |
WO2011106440A1 (en) * | 2010-02-23 | 2011-09-01 | Loma Linda University Medical Center | Method of analyzing a medical image |
CN103930762A (zh) * | 2011-06-17 | 2014-07-16 | 罗氏血液诊断股份有限公司 | 用于样本显示与查看的系统和方法 |
WO2014181347A2 (en) * | 2013-04-23 | 2014-11-13 | Aditya Imaging Information Technologies | Method and system for processing a digital slide image of a stained tissue |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6868183B1 (en) * | 1999-04-01 | 2005-03-15 | Kabushiki Kaisha Toshiba | Image processing apparatus, image forming apparatus, and image processing method depending on the type of original image |
US7155043B2 (en) * | 2001-11-21 | 2006-12-26 | Confirma, Incorporated | User interface having analysis status indicators |
EP1534114A2 (en) * | 2002-06-18 | 2005-06-01 | Lifespan Biosciences, Inc. | Computerized image capture of structures of interest within a tissue sample |
CA2595248A1 (en) * | 2005-01-18 | 2006-07-27 | Trestle Corporation | System and method for creating variable quality images of a slide |
GB0508057D0 (en) * | 2005-04-21 | 2005-06-01 | Nokia Corp | Selection of a communication interface |
US8180126B2 (en) * | 2007-08-13 | 2012-05-15 | University Of Maryland, Baltimore | Detecting meniscal tears in non-invasive scans |
US9292729B2 (en) * | 2011-03-04 | 2016-03-22 | Lbt Innovations Limited | Method and software for analysing microbial growth |
KR20140120321A (ko) * | 2012-02-01 | 2014-10-13 | 벤타나 메디컬 시스템즈, 인코포레이티드 | 조직 샘플들에 있어서의 유전자들을 검출하는 시스템 |
AU2014237346B2 (en) * | 2013-03-15 | 2020-02-27 | Hologic, Inc. | System and method for reviewing and analyzing cytological specimens |
KR102120864B1 (ko) * | 2013-11-06 | 2020-06-10 | 삼성전자주식회사 | 영상 처리 방법 및 장치 |
-
2016
- 2016-01-29 AU AU2016211885A patent/AU2016211885A1/en not_active Abandoned
- 2016-01-29 EP EP16704150.8A patent/EP3251088B1/en active Active
- 2016-01-29 JP JP2017539655A patent/JP6667541B2/ja active Active
- 2016-01-29 CN CN201680007777.8A patent/CN107209937B/zh active Active
- 2016-01-29 WO PCT/EP2016/051967 patent/WO2016120463A1/en active Application Filing
- 2016-01-29 CA CA2970129A patent/CA2970129C/en active Active
- 2016-01-29 CN CN202111098397.9A patent/CN113763377A/zh active Pending
-
2017
- 2017-07-26 US US15/659,656 patent/US10796429B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1751309A (zh) * | 2002-12-18 | 2006-03-22 | Ge医疗系统环球技术有限公司 | 结合体外测试数据的医学数据分析方法和设备 |
US20060127880A1 (en) * | 2004-12-15 | 2006-06-15 | Walter Harris | Computerized image capture of structures of interest within a tissue sample |
WO2011106440A1 (en) * | 2010-02-23 | 2011-09-01 | Loma Linda University Medical Center | Method of analyzing a medical image |
CN101859276A (zh) * | 2010-05-14 | 2010-10-13 | 东南大学 | 一种基于层次切片的回归测试用例选择方法 |
CN103930762A (zh) * | 2011-06-17 | 2014-07-16 | 罗氏血液诊断股份有限公司 | 用于样本显示与查看的系统和方法 |
WO2014181347A2 (en) * | 2013-04-23 | 2014-11-13 | Aditya Imaging Information Technologies | Method and system for processing a digital slide image of a stained tissue |
Also Published As
Publication number | Publication date |
---|---|
JP6667541B2 (ja) | 2020-03-18 |
EP3251088B1 (en) | 2019-07-31 |
US10796429B2 (en) | 2020-10-06 |
EP3251088A1 (en) | 2017-12-06 |
US20180012355A1 (en) | 2018-01-11 |
JP2018511847A (ja) | 2018-04-26 |
CA2970129C (en) | 2023-04-11 |
AU2016211885A1 (en) | 2017-06-29 |
CN107209937A (zh) | 2017-09-26 |
CN107209937B (zh) | 2021-10-15 |
WO2016120463A1 (en) | 2016-08-04 |
CA2970129A1 (en) | 2016-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107209937B (zh) | 用于使用载片缩略图图像的感兴趣区域检测的系统和方法 | |
US11430131B2 (en) | Foreground segmentation and nucleus ranking for scoring dual ISH images | |
Zhang et al. | Automation‐assisted cervical cancer screening in manual liquid‐based cytology with hematoxylin and eosin staining | |
JP6588444B2 (ja) | 全スライド組織セグメント化のための適応分類 | |
EP3108446B1 (en) | Medical image analysis for identifying biomarker-positive tumor cells | |
CN111448569B (zh) | 存储和检索数字病理学分析结果的方法 | |
EP3624053B1 (en) | Image analysis device | |
CN112703531A (zh) | 生成组织图像的注释数据 | |
JP4864709B2 (ja) | 分散プロット分布を用いてスライドの染色品質を決定するシステム | |
GB2329014A (en) | Automated identification of tubercle bacilli | |
JP4897488B2 (ja) | 分散プロット分布を用いてスライドを分類するシステム | |
US20240233347A1 (en) | Machine-learning techniques for detecting artifact pixels in images | |
US20240371140A1 (en) | Method and device for recording training data | |
Zhang et al. | Multistage spatial property based segmentation for quantification of fluorescence distribution in cells | |
Linortner et al. | Scratch Assay Assessment Benchmark |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |