发明内容
本发明提供一种细胞显微图像中多通道荧光杂质的滤除方法和装置,用以解决现有技术中多通道荧光杂质影响细胞各通道下荧光信号点的判定,导致异常肿瘤细胞的识别准确性降低的缺陷。
本发明提供一种细胞显微图像中多通道荧光杂质的滤除方法,包括:
对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;
基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;
基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,所述基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
对所述任一细胞对应多个通道的多通道杂质热图进行弱杂质增强,降低同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异,得到所述任一细胞对应多个通道的弱杂质激活热图;
基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,所述基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
将所述任一细胞对应任一通道的弱杂质激活热图分别与其他通道的弱杂质激活热图进行融合,得到所述任一通道对应其他各通道的杂质增强热图;
基于tanh函数分别抑制所述任一通道对应其他各通道的杂质增强热图中正常信号点被预测为杂质的杂质概率,得到所述任一通道对应其他各通道的信号点抑制热图;
将所述任一通道的弱杂质激活热图与所述任一通道对应其他各通道的信号点抑制热图进行融合,得到所述任一通道的融合热图;
基于所述任一通道的融合热图进行多通道杂质检测,得到所述任一通道的多通道杂质掩膜。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,所述多通道杂质检测模型是基于样本细胞对应多个通道的样本通道图像以及多个通道分别对应的多通道杂质粗糙掩膜训练得到的;
其中,所述多个通道分别对应的多通道杂质粗糙掩膜是基于如下步骤确定的:
将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像;
基于所述融合通道图像中各像素的像素值,提取初始多通道杂质掩膜图;
去除所述初始多通道杂质掩膜图中的干扰区域后,得到所述样本细胞的初始杂质掩膜及其对应的边界框;
基于所述样本细胞的初始杂质掩膜对应的边界框,对多个通道的样本通道图像进行截取,得到多个通道的截取图像;
基于所述多个通道的截取图像中各像素的像素值,提取多个通道分别对应的多通道杂质粗糙掩膜。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,所述去除所述初始多通道杂质掩膜图中的干扰区域,具体包括:
获取所述样本细胞对应多个通道的样本信号点掩膜图;所述样本信号点掩膜图是基于对应通道的通道图像进行荧光信号点检测得到的;
将所述多个通道的样本信号点掩膜图进行图像或运算,得到或运算图像后,将所述或运算图像与所述初始多通道杂质掩膜图进行图像与运算,去除所述初始多通道杂质掩膜图中的干扰区域。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像,具体包括:
获取同一像素在多个通道的样本通道图像中的像素值的中值,作为所述同一像素的融合像素值;
基于各个像素的融合像素值,建立所述样本细胞的融合通道图像。
根据本发明提供的一种细胞显微图像中多通道荧光杂质的滤除方法,所述基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,具体包括:
获取所述任一细胞对应任一通道的信号点掩膜图中的各个信号点掩膜;
若任一信号点掩膜的中心点位于所述任一通道的多通道杂质掩膜内,或,任一信号点掩膜与所述任一通道的多通道杂质掩膜的交集面积与所述任一信号点掩膜的面积之间的比例大于等于预设阈值,则将所述任一信号点掩膜从所述任一通道的信号点掩膜图中滤除。
本发明还提供一种细胞显微图像中多通道荧光杂质的滤除装置,包括:
分割单元,用于对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;
多通道杂质检测单元,用于基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;
多通道杂质滤除单元,用于基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述细胞显微图像中多通道荧光杂质的滤除方法。
本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述细胞显微图像中多通道荧光杂质的滤除方法。
本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述细胞显微图像中多通道荧光杂质的滤除方法。
本发明提供的细胞显微图像中多通道荧光杂质的滤除方法和装置,基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到该细胞对应多个通道的多通道杂质热图后,利用多通道杂质出现在多个通道的通道图像中时,多通道杂质的亮度有强有弱,且多通道杂质在各通道图像中的位置基本一致的特性,基于该细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,整体提高模型对于该通道中各像素是否为多通道杂质像素的认知程度,得到多个通道的多通道杂质掩膜,以提升多通道杂质掩膜的检测精度;再基于多个通道的多通道杂质掩膜,将各通道的信号点掩膜图中实质为多通道杂质掩膜却被误识别为正常荧光信号点的部分滤除,从而提高显微图像中荧光信号点检测的准确性,保障异常肿瘤细胞识别的精度。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是本发明提供的细胞显微图像中多通道荧光杂质的滤除方法的流程示意图,如图1所示,该方法包括:
步骤110,对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图。
此处,可以利用图像分割方法,例如基于深度学习的图像分割模型或者传统图像处理算法,对细胞显微图像进行目标分割,得到细胞显微图像中的细胞掩膜。基于细胞显微图像中的细胞掩膜对多个通道下的细胞显微图像进行截取,从而获取单个细胞对应的多个通道下的通道图像。对单个细胞对应的多个通道下的通道图像分别进行荧光信号点检测,得到多个通道下的信号点掩膜图。
步骤120,基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率。
此处,可以预先训练多通道杂质检测模型以分割出多个通道下的多通道杂质掩膜。其中,多通道杂质在不同通道图像中信号强度有强有弱,因此其对应各通道的多通道杂质掩膜的轮廓和大小有所不同。因此,可以对各个通道下的通道图像分别进行多通道杂质分割,得到各个通道各自对应的多通道杂质掩膜。具体而言,基于多通道杂质检测模型中的多通道杂质提取网络,可以对任一细胞在多个通道下的通道图像分别进行多通道杂质提取,得到该细胞对应多个通道的多通道杂质热图。其中,任一通道的多通道杂质热图中包含该通道的通道图像中各个像素为多通道杂质像素的杂质概率。多通道杂质提取网络可以基于深度学习模型构建得到,例如可以采用Unet等编码器-解码器模型提取多个通道的多通道杂质热图。
然而,利用深度学习模型提取的多通道杂质热图中,各像素为多通道杂质像素的杂质概率会受到对应通道的通道图像中正常荧光信号点和部分细碎的杂点所干扰,因此直接根据多个通道的多通道杂质热图确定多通道杂质掩膜的准确性不足。对此,本发明实施例基于多通道杂质检测模型,根据任一细胞对应多个通道的多通道杂质热图的融合结果进行更精确的多通道杂质检测,得到多个通道的多通道杂质掩膜。其中,考虑到多通道杂质出现在多个通道的通道图像中时,多通道杂质的亮度虽有强有弱,但是多通道杂质在各通道图像中的位置基本一致。因此,即使部分通道的通道图像中该多通道杂质与正常荧光信号点或其他杂点之间的区别较小,从而导致该通道的多通道杂质热图的准确性不足,但融合其他通道中准确性较高的多通道杂质热图,可以整体提高模型对于该通道中各像素是否为多通道杂质像素的认知程度。
因此,在检测任一通道的多通道杂质掩膜时,可以在当前通道的多通道杂质热图基础上,结合其他通道的多通道杂质热图作为参考,从而检测出当前通道的多通道杂质掩膜,以提升多通道杂质掩膜的检测精度。
步骤130,基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
此处,根据多通道杂质检测模型检测的多个通道的多通道杂质掩膜,可以分别对对应通道的信号点掩膜图进行多通道杂质滤除。将各通道的信号点掩膜图中实质为多通道杂质掩膜却被误识别为正常荧光信号点的部分滤除,得到多个通道的精确信号点掩膜图,从而提高显微图像中荧光信号点检测的准确性,保障异常肿瘤细胞识别的精度。
本发明实施例提供的方法,基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到该细胞对应多个通道的多通道杂质热图后,利用多通道杂质出现在多个通道的通道图像中时,多通道杂质的亮度有强有弱,且多通道杂质在各通道图像中的位置基本一致的特性,基于该细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,整体提高模型对于该通道中各像素是否为多通道杂质像素的认知程度,得到多个通道的多通道杂质掩膜,以提升多通道杂质掩膜的检测精度;再基于多个通道的多通道杂质掩膜,将各通道的信号点掩膜图中实质为多通道杂质掩膜却被误识别为正常荧光信号点的部分滤除,从而提高显微图像中荧光信号点检测的准确性,保障异常肿瘤细胞识别的精度。
基于上述实施例,所述基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
对所述任一细胞对应多个通道的多通道杂质热图进行弱杂质增强,降低同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异,得到所述任一细胞对应多个通道的弱杂质激活热图;
基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜。
具体地,考虑到多通道杂质在多个通道中的亮度从强到弱,当多通道杂质在某一通道中的亮度较弱时,利用深度学习模型提取的多通道杂质热图中上述亮度较弱的多通道杂质对应的杂质概率相对较低。如此一来,由于上述亮度较弱的多通道杂质对应的杂质概率相对较低,在将多个通道的多通道杂质热图进行融合以检测多通道杂质掩膜时,该通道的多通道杂质热图易被其他通道的多通道杂质热图掩盖,使得模型对该通道的多通道杂质热图的关注度也相对较低,可能造成漏检的情形。
因此,为了提升多通道杂质掩膜检测的准确性,可以对任一细胞对应多个通道的多通道杂质热图分别进行弱杂质增强,即拉近同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异,得到该细胞对应多个通道的弱杂质激活热图。后续模型在根据多个通道的多通道杂质热图的融合结果进行当前通道的多通道杂质检测时,即使当前通道中多通道杂质的亮度较弱、多通道杂质热图中相应的杂质概率较低,通过拉近同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异,可以加强模型对当前通道的多通道杂质热图的关注,使得模型更平等地关注各个通道的多通道杂质热图,从而提升针对当前通道的多通道杂质掩膜检测的准确性。
此处,可以采用功率激活函数对多个通道的多通道杂质热图进行弱杂质增强,提高多通道杂质热图中亮度较弱的多通道杂质的强度,降低同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异。功率激活函数可以为y=x^(1/a),其中a>1,优选地a =2。
随后,基于该细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜。
基于上述任一实施例,所述基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
将所述任一细胞对应任一通道的弱杂质激活热图分别与其他通道的弱杂质激活热图进行融合,得到所述任一通道对应其他各通道的杂质增强热图;
基于tanh函数分别抑制所述任一通道对应其他各通道的杂质增强热图中正常信号点被预测为杂质的杂质概率,得到所述任一通道对应其他各通道的信号点抑制热图;
将所述任一通道的弱杂质激活热图与所述任一通道对应其他各通道的信号点抑制热图进行融合,得到所述任一通道的融合热图;
基于所述任一通道的融合热图进行多通道杂质检测,得到所述任一通道的多通道杂质掩膜。
具体地,部分通道中多通道杂质的亮度较弱、多通道杂质热图中的杂质概率较低,存在进行弱杂质增强后的杂质概率仍旧较低的可能性。因此,为了增强多通道杂质对应的杂质概率,以提升弱杂质的检测准确性,可以将该细胞对应当前通道的弱杂质激活热图分别与其他通道的弱杂质激活热图进行融合,得到当前通道对应其他各通道的杂质增强热图。以当前通道为绿色通道为例,可以将绿色通道的弱杂质激活热图分别与红色通道、蓝色通道和金色通道的弱杂质激活热图进行融合,从而得到分别对应红色通道、蓝色通道和金色通道的杂质增强热图。
上一步骤中将当前通道的弱杂质激活热图分别与其他通道的弱杂质激活热图进行了融合,一方面增强了多通道杂质,同时也增强了正常荧光信号点被预测为杂质的杂质概率,从而对后续的多通道杂质检测带来一定干扰。因此,为了抑制正常荧光信号点带来的干扰,可以将当前通道对应其他各通道的杂质增强热图输入至tanh函数层中进行处理,基于tanh函数分别抑制当前通道对应其他各通道的杂质增强热图中正常信号点被预测为杂质的杂质概率,得到当前通道对应其他各通道的信号点抑制热图。
此处,若某一区域为多通道杂质区域,在两个弱杂质激活热图中的杂质概率较高(至少相对于背景区域较高),则在融合得到的杂质增强热图中的杂质概率也较高,经由tanh函数进行抑制后杂质概率也能维持在一个较高水平;若某一区域为正常荧光信号点,该区域在一个通道图像中体现为正常荧光信号点,但在另一个通道图像中可能体现为背景区域(不同通道图像中正常荧光信号点不会重合),因此在两个弱杂质激活热图中的杂质概率至少有一个较低,在融合得到的杂质增强热图中的杂质概率也较低,经由tanh函数进行抑制后杂质概率可以维持在一个更低水平。
随后,将当前通道的弱杂质激活热图与当前通道对应其他各通道的信号点抑制热图进行融合,得到当前通道的融合热图。再基于当前通道的融合热图进行多通道杂质检测,可以获得当前通道的多通道杂质掩膜,如图2所示。
基于上述任一实施例,所述多通道杂质检测模型是基于样本细胞对应多个通道的样本通道图像以及多个通道分别对应的多通道杂质粗糙掩膜训练得到的;
其中,所述多个通道分别对应的多通道杂质粗糙掩膜是基于如下步骤确定的:
将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像;
基于所述融合通道图像中各像素的像素值,提取初始多通道杂质掩膜图;
去除所述初始多通道杂质掩膜图中的干扰区域后,得到所述样本细胞的初始杂质掩膜及其对应的边界框;
基于所述样本细胞的初始杂质掩膜对应的边界框,对多个通道的样本通道图像进行截取,得到多个通道的截取图像;
基于所述多个通道的截取图像中各像素的像素值,提取多个通道分别对应的多通道杂质粗糙掩膜。
具体地,多通道杂质检测模型在训练时通常需要大量的标注样本(标注出样本通道图像中的多通道杂质),因此需要耗费大量的标注成本,效率较低。对此,本发明实施例采用自监督学习的方式,以大幅减少对于多通道杂质的标注成本,同时保证多通道杂质的检测精度。具体而言,多通道杂质检测模型可以基于样本细胞对应多个通道的样本通道图像以及多个通道分别对应的多通道杂质粗糙掩膜训练得到。其中,多通道杂质粗糙掩膜可以通过图像处理方式自动获取。
此处,可以将样本细胞对应多个通道的样本通道图像进行融合,得到样本细胞的融合通道图像,以综合各个通道中的图像特征,并加强图像中的多通道杂质部分。再利用自适应阈值法,例如OTSU等算法,基于融合通道图像中各像素的像素值,提取初始多通道杂质掩膜图。此后,还可以对提取的初始多通道杂质掩膜进行开运算,以去除其中的细碎杂点。
为了提高多通道杂质粗糙掩膜的准确度,可以去除初始多通道杂质掩膜图中的干扰区域,从而获取样本细胞的初始杂质掩膜及其对应的边界框。其中,可以获取去除干扰区域后的初始多通道杂质掩膜图中面积大于一定阈值或亮度大于一定阈值的独立轮廓,作为样本细胞的初始杂质掩膜,以提高初始杂质掩膜的置信度。通常情况下通道图像中仅存在一个多通道杂质,此时还可以直接获取面积最大的独立轮廓作为样本细胞的初始杂质掩膜。
随后,考虑到多通道杂质在多个通道中轮廓大小存在一定差异,相应的多通道杂质粗糙掩膜也存在一定区别,因此,为了提升多通道杂质粗糙掩膜的准确度,可以基于样本细胞的初始杂质掩膜对应的边界框,对多个通道的样本通道图像进行截取,得到多个通道的截取图像。此后,再利用自适应阈值法,基于多个通道的截取图像中各像素的像素值,提取多个通道分别对应的多通道杂质粗糙掩膜。
此外,由于多通道杂质粗糙掩膜中仍存在一定的噪声,因此可以max projectionloss 和 average projection loss,以关注多通道杂质粗糙掩膜中的离群点并消除离群点造成的影响。其中,max projection loss和average projection loss如下式所示:
L max_proj =L(maxx(m), maxx(m*))+L(maxy(m), maxy(m*))
L avg_proj =L(avgx(m), avgx(m*))+L(avgy(m), avgy(m*))
其中,L max_proj 为max projection loss,L avg_proj 为average projection loss,L表示Dice Loss,m和m*分别表示多通道杂质检测模型输出的多通道杂质掩膜和多通道杂质粗糙掩膜,maxx和avgx表示沿着x轴取最大值和平均值,maxy和avgy表示沿着y轴取最大值和平均值。
基于上述任一实施例,所述去除所述初始多通道杂质掩膜图中的干扰区域,具体包括:
获取所述样本细胞对应多个通道的样本信号点掩膜图;所述样本信号点掩膜图是基于对应通道的通道图像进行荧光信号点检测得到的;
将所述多个通道的样本信号点掩膜图进行图像或运算,得到或运算图像后,将所述或运算图像与所述初始多通道杂质掩膜图进行图像与运算,去除所述初始多通道杂质掩膜图中的干扰区域。
具体地,为了尽可能降低正常荧光信号点在获取多通道杂质粗糙掩膜时产生的干扰,可以去除初始多通道杂质掩膜图中的干扰区域(即正常荧光信号点区域)。具体而言,可以获取样本细胞对应多个通道的样本信号点掩膜图。此处,样本信号点掩膜图是基于对应通道的通道图像进行荧光信号点检测得到的,其中包含正常荧光信号点,也可能包含被误认为正常荧光信号点的多通道杂质。将上述多个通道的样本信号点掩膜图进行图像或运算,得到或运算图像。其中,图像或运算可以将所有被检测为正常荧光信号点(实际上可能是正常荧光信号点或被误认为是正常荧光信号点的多通道杂质)的区域筛选出来。再将或运算图像与初始多通道杂质掩膜图进行图像与运算,可以去除初始多通道杂质掩膜图中的正常荧光信号点区域。
基于上述任一实施例,将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像,具体包括:
获取同一像素在多个通道的样本通道图像中的像素值的中值,作为所述同一像素的融合像素值;
基于各个像素的融合像素值,建立所述样本细胞的融合通道图像。
具体地,在本场景下,正常荧光信号点的亮度比背景的亮度强很多,多通道杂质出现在两个或以上的探针通道,亮度从强到弱,但一般都高于背景的亮度。利用图像层叠方法将多个通道的样本通道图像进行融合时,常用的层叠计算方法,例如极大值算法、极小值算法或均值算法,受亮度极值的影响较大。部分过大的极值或过小的极值,容易对上述算法的结果产生较大影响,可能会削弱多通道杂质的亮度或加强某些单通道杂质的亮度,从而影响后续的多通道杂质的识别。
对于多通道杂质而言,该杂质在不同通道亮度有强有弱,用中值算法能较好的保留多通道杂质的亮度,且较好的去除多通道杂质以外的区域,受到亮度极值的影响较小。其中,可以获取同一像素在多个通道的样本通道图像中的像素值的中值,作为上述同一像素的融合像素值,并基于各个像素的融合像素值,建立样本细胞的融合通道图像。如图3所示,最上方的四幅图为原始的样本通道图像,第二行和第三行为不同图像层叠方法融合得到的各通道的融合通道图像,可以发现,基于上述中值算法得到的融合通道图像效果最佳。
基于上述任一实施例,所述基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,具体包括:
获取所述任一细胞对应任一通道的信号点掩膜图中的各个信号点掩膜;
若任一信号点掩膜的中心点位于所述任一通道的多通道杂质掩膜内,或,任一信号点掩膜与所述任一通道的多通道杂质掩膜的交集面积与所述任一信号点掩膜的面积之间的比例大于等于预设阈值,则将所述任一信号点掩膜从所述任一通道的信号点掩膜图中滤除。
具体地,针对任一通道,为了滤除该通道的信号点掩膜图中被误认为正常荧光信号点的多通道杂质,可以获取该通道的信号点掩膜图中的各个信号点掩膜。若该通道中的任一信号点掩膜的中心点位于该通道的多通道杂质掩膜内,或者,任一信号点掩膜与该通道的多通道杂质掩膜的交集面积与该信号点掩膜的面积之间的比例大于等于预设阈值,表明该信号点掩膜与该通道的多通道杂质掩膜之间的重合度较高,可以认为该信号点掩膜为多通道杂质,因此可将该信号点掩膜从该通道的信号点掩膜图中滤除。
如图4所示,最上方为任一细胞对应多个通道的通道图像,中间一行为该细胞对应多个通道的信号点掩膜图,最后一行为基于上述方式识别出的为多通道杂质的信号点掩膜。
对多个通道的信号点掩膜图进行多通道杂质滤除后,可以重新计算每个细胞在多个通道下的正常荧光信号点数量,并基于该数量对每个细胞是否为异常肿瘤细胞进行判定,例如,若任一细胞在任意两个通道下的正常荧光信号点数量多于2个,则可以认为该细胞为异常肿瘤细胞。
下面对本发明提供的细胞显微图像中多通道荧光杂质的滤除装置进行描述,下文描述的细胞显微图像中多通道荧光杂质的滤除装置与上文描述的细胞显微图像中多通道荧光杂质的滤除方法可相互对应参照。
基于上述任一实施例,图5是本发明提供的细胞显微图像中多通道荧光杂质的滤除装置的结构示意图,如图5所示,该装置包括:分割单元510、多通道杂质检测单元520和多通道杂质滤除单元530。
其中,分割单元510用于对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;
多通道杂质检测单元520用于基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;
多通道杂质滤除单元530用于基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
本发明实施例提供的装置,基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到该细胞对应多个通道的多通道杂质热图后,利用多通道杂质出现在多个通道的通道图像中时,多通道杂质的亮度有强有弱,且多通道杂质在各通道图像中的位置基本一致的特性,基于该细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,整体提高模型对于该通道中各像素是否为多通道杂质像素的认知程度,得到多个通道的多通道杂质掩膜,以提升多通道杂质掩膜的检测精度;再基于多个通道的多通道杂质掩膜,将各通道的信号点掩膜图中实质为多通道杂质掩膜却被误识别为正常荧光信号点的部分滤除,从而提高显微图像中荧光信号点检测的准确性,保障异常肿瘤细胞识别的精度。
基于上述任一实施例,所述基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
对所述任一细胞对应多个通道的多通道杂质热图进行弱杂质增强,降低同一多通道杂质像素在不同多通道杂质热图中的杂质概率间的差异,得到所述任一细胞对应多个通道的弱杂质激活热图;
基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜。
基于上述任一实施例,所述基于所述任一细胞对应多个通道的弱杂质激活热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜,具体包括:
将所述任一细胞对应任一通道的弱杂质激活热图分别与其他通道的弱杂质激活热图进行融合,得到所述任一通道对应其他各通道的杂质增强热图;
基于tanh函数分别抑制所述任一通道对应其他各通道的杂质增强热图中正常信号点被预测为杂质的杂质概率,得到所述任一通道对应其他各通道的信号点抑制热图;
将所述任一通道的弱杂质激活热图与所述任一通道对应其他各通道的信号点抑制热图进行融合,得到所述任一通道的融合热图;
基于所述任一通道的融合热图进行多通道杂质检测,得到所述任一通道的多通道杂质掩膜。
基于上述任一实施例,所述多通道杂质检测模型是基于样本细胞对应多个通道的样本通道图像以及多个通道分别对应的多通道杂质粗糙掩膜训练得到的;
其中,所述多个通道分别对应的多通道杂质粗糙掩膜是基于如下步骤确定的:
将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像;
基于所述融合通道图像中各像素的像素值,提取初始多通道杂质掩膜图;
去除所述初始多通道杂质掩膜图中的干扰区域后,得到所述样本细胞的初始杂质掩膜及其对应的边界框;
基于所述样本细胞的初始杂质掩膜对应的边界框,对多个通道的样本通道图像进行截取,得到多个通道的截取图像;
基于所述多个通道的截取图像中各像素的像素值,提取多个通道分别对应的多通道杂质粗糙掩膜。
基于上述任一实施例,所述去除所述初始多通道杂质掩膜图中的干扰区域,具体包括:
获取所述样本细胞对应多个通道的样本信号点掩膜图;所述样本信号点掩膜图是基于对应通道的通道图像进行荧光信号点检测得到的;
将所述多个通道的样本信号点掩膜图进行图像或运算,得到或运算图像后,将所述或运算图像与所述初始多通道杂质掩膜图进行图像与运算,去除所述初始多通道杂质掩膜图中的干扰区域。
基于上述任一实施例,将所述样本细胞对应多个通道的样本通道图像进行融合,得到所述样本细胞的融合通道图像,具体包括:
获取同一像素在多个通道的样本通道图像中的像素值的中值,作为所述同一像素的融合像素值;
基于各个像素的融合像素值,建立所述样本细胞的融合通道图像。
基于上述任一实施例,所述基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,具体包括:
获取所述任一细胞对应任一通道的信号点掩膜图中的各个信号点掩膜;
若任一信号点掩膜的中心点位于所述任一通道的多通道杂质掩膜内,或,任一信号点掩膜与所述任一通道的多通道杂质掩膜的交集面积与所述任一信号点掩膜的面积之间的比例大于等于预设阈值,则将所述任一信号点掩膜从所述任一通道的信号点掩膜图中滤除。
图6是本发明提供的电子设备的结构示意图,如图6所示,该电子设备可以包括:处理器(processor)610、存储器(memory)620、通信接口(Communications Interface)630和通信总线640,其中,处理器610,存储器620,通信接口630通过通信总线640完成相互间的通信。处理器610可以调用存储器620中的逻辑指令,以执行细胞显微图像中多通道荧光杂质的滤除方法,该方法包括:对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
此外,上述的存储器620中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法所提供的细胞显微图像中多通道荧光杂质的滤除方法,该方法包括:对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各提供的细胞显微图像中多通道荧光杂质的滤除方法,该方法包括:对细胞显微图像进行细胞分割和荧光信号点检测,得到单一细胞对应多个通道的通道图像和信号点掩膜图;基于多通道杂质检测模型,对任一细胞对应多个通道的通道图像分别进行多通道杂质提取,得到所述任一细胞对应多个通道的多通道杂质热图,并基于所述任一细胞对应多个通道的多通道杂质热图的融合结果进行多通道杂质检测,得到多个通道的多通道杂质掩膜;所述多通道杂质热图中包含各个像素为多通道杂质像素的杂质概率;基于多个通道的多通道杂质掩膜,分别对多个通道的信号点掩膜图进行多通道杂质滤除,得到多个通道的精确信号点掩膜图。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。