CN113706449B - 基于病理图像的细胞分析方法、装置、设备及存储介质 - Google Patents

基于病理图像的细胞分析方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113706449B
CN113706449B CN202110511846.1A CN202110511846A CN113706449B CN 113706449 B CN113706449 B CN 113706449B CN 202110511846 A CN202110511846 A CN 202110511846A CN 113706449 B CN113706449 B CN 113706449B
Authority
CN
China
Prior art keywords
image
sample
probability distribution
cell
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110511846.1A
Other languages
English (en)
Other versions
CN113706449A (zh
Inventor
叶虎
马兆轩
肖凯文
蔡德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Healthcare Shenzhen Co Ltd
Original Assignee
Tencent Healthcare Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Healthcare Shenzhen Co Ltd filed Critical Tencent Healthcare Shenzhen Co Ltd
Priority to CN202110511846.1A priority Critical patent/CN113706449B/zh
Publication of CN113706449A publication Critical patent/CN113706449A/zh
Application granted granted Critical
Publication of CN113706449B publication Critical patent/CN113706449B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H70/00ICT specially adapted for the handling or processing of medical references
    • G16H70/60ICT specially adapted for the handling or processing of medical references relating to pathologies
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

本申请是关于一种基于病理图像的细胞分析方法、装置、设备及存储介质,涉及图像处理领域。所述方法包括:获取第一图像,对第一图像进行特征提取,获取第一图像对应的至少两种尺度的特征图;基于第一特征图,获取第一图像对应的第一概率分布;基于至少两种尺度的特征图,获取第一图像中的第一预测位置对应的第二概率分布;基于第一概率分布以及第二概率分布,确定第一预测位置的细胞对应的状态。通过上述方案,基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。

Description

基于病理图像的细胞分析方法、装置、设备及存储介质
技术领域
本申请涉及图像处理技术领域,特别涉及一种基于病理图像的细胞分析方法、装置、设备及存储介质。
背景技术
在医疗领域,当需要对细胞状态进行分析时,可以通过显微设备对细胞涂片进行观察,获取细胞状态的图像信息。
在相关技术中,在对细胞涂片进行识别时,通常是通过专业人员将细胞做成细胞涂片,并通过显微设备进行观察,具有丰富的经验专业人员,可以根据在显微设备下观察到的细胞的图像信息,确定细胞涂片中的细胞所对应的状态。
上述方案,通过专业人员对细胞涂片的图像进行识别确定细胞所处的状态,对专业人员的要求较高,通过人工对细胞图片进行识别,以确定细胞的状态的准确性较低。
发明内容
本申请实施例提供了一种基于病理图像的细胞分析方法、装置、设备及存储介质,可以提高确定细胞状态的准确性,该技术方案如下:
一方面,提供了一种基于病理图像的细胞分析方法,所述方法包括:
获取第一图像,所述第一图像是指定部位的细胞对应的病理图像;
对所述第一图像进行特征提取,获取所述第一图像对应的至少两种尺度的特征图;
基于第一特征图,获取所述第一图像对应的第一概率分布;所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率;所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
基于所述至少两种尺度的特征图,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;
基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
又一方面,提供了一种基于病理图像的细胞分析方法,所述方法包括:
获取第一样本图像,以及所述第一样本图像对应的标注信息;所述第一样本图像是指定部位的细胞对应的病理图像;所述第一样本图像对应的标注信息包括所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息;
基于所述第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一样本图像对应的至少两种尺度的样本特征图;
基于所述第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取所述第一样本图像对应的第一样本概率分布;所述第一样本概率分布用于指示所述第一样本图像中存在各个状态的细胞的概率;所述第一样本特征图是所述至少两种尺度的样本特征图中的一个样本特征图;
基于所述至少两种尺度的样本特征图,通过所述细胞分析模型中的检测分支进行处理,获取所述第一样本图像中的第一样本预测位置对应的第二样本概率分布;所述第二样本概率分布用于指示位于所述第一样本预测位置的细胞处于各种状态的概率;
基于所述第一样本图像对应的标注信息、所述第一样本预测位置、所述第一样本概率分布以及所述第二样本概率分布,对所述细胞分析模型进行参数更新;
其中,更新后的所述细胞分析模型,用于对输入的第一图像进行处理,获取所述第一图像对应的第一预测位置,以及所述第一预测位置的细胞状态。
再一方面,提供了一种基于病理图像的细胞分析装置,所述装置包括:
第一图像获取模块,用于获取第一图像,所述第一图像是指定部位的细胞对应的病理图像;
特征图获取模块,用于对所述第一图像进行特征提取,获取所述第一图像对应的至少两种尺度的特征图;
第一概率获取模块,用于基于第一特征图,获取所述第一图像对应的第一概率分布;所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率;所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
第二概率获取模块,用于基于所述至少两种尺度的特征图,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;
细胞状态确定模块,用于基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
在一种可能的实现方式中,所述细胞状态确定模块,还用于,
响应于所述第一概率分布中,对应于第一状态的概率大于第一概率阈值,且所述第二概率分布中,对应于所述第一状态的概率大于第二概率阈值,将所述第一预测位置的细胞的状态确定为所述第一状态。
在一种可能的实现方式中,所述特征图获取模块,包括:
特征图获取单元,用于基于所述第一图像,通过细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;
所述第一概率获取模块,包括:
第一概率获取单元,用于基于所述第一特征图,通过所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布;
所述第二概率获取模块,包括:
第二概率获取单元,用于基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;
其中,所述细胞分析模型,是以第一样本图像为样本,以所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息训练得到的机器学习模型。
在一种可能的实现方式中,所述分类分支包括特征提取层以及全连接层;
所述第一概率获取单元,包括:
分类特征图获取子单元,用于基于所述第一特征图,通过所述分类分支中的特征提取层进行特征提取,获取第一分类特征图;
分类向量获取子单元,用于基于所述第一分类特征图,通过所述分类分支中的全连接层进行数据处理,获取第一分类向量;
第一概率获取子单元,用于基于所述第一分类向量,确定所述第一图像对应的第一概率分布。
在一种可能的实现方式中,所述第一图像获取模块,包括:
第二图像获取单元,用于获取通过第一图像采集设备采集的第二图像;
像素预测单元,用于基于所述第二图像,通过像素预测模型进行处理,获取所述第二图像对应的物理像素大小;
图像缩放单元,用于基于所述第二图像对应的物理像素大小,对所述第二图像进行缩放处理,获取所述第一图像。
在一种可能的实现方式中,所述图像缩放单元,还用于,
基于所述第二图像对应的物理像素大小,以及第一指定像素大小,获取第一缩放比;所述第一指定像素大小用于指示所述细胞分析模型对应的像素大小;
基于所述第一缩放比,对所述第二图像进行缩放处理,获取所述第一图像。
在一种可能的实现方式中,所述装置还包括:
像素图像获取模块,用于获取通过第二图像采集设备采集的第二样本图像,以及所述第二样本图像对应的像素大小;
像素大小获取模块,用于基于所述第二样本图像,通过所述像素预测模型进行处理,获取所述第二样本图像对应的样本像素大小;
像素预测模型更新模块,用于基于所述第二样本图像对应的像素大小,以及所述第二样本图像对应的样本像素大小,对所述像素预测模型进行参数更新。
在一种可能的实现方式中,所述特征提取分支包括第一骨干分支以及第一提取分支;所述第一骨干分支包含至少一层骨干提取层;所述第一提取分支包含至少两层特征提取层;
所述特征图获取单元,还用于,
基于所述第一图像,通过至少一层所述骨干提取层进行特征提取,获取第一骨干特征图;
基于所述第一骨干特征图,通过至少两层所述特征提取层进行数据处理,获取所述第一图像对应的至少两种尺度的特征图。
在一种可能的实现方式中,所述细胞分析模型中包括至少两个检测分支;
所述装置还包括:
检测分支获取模块,用于基于所述第一概率分布,在所述至少两个检测分支中获取与所述第一图像对应的检测分支;
所述第二概率获取单元,还用于,
基于所述至少两种尺度的特征图,通过所述细胞分析模型中与所述第一图像对应的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布。
又一方面,提供了一种基于病理图像的细胞分析装置,所述装置包括:
第一样本图像获取模块,用于获取第一样本图像,以及所述第一样本图像对应的标注信息;所述第一样本图像是指定部位的细胞对应的病理图像;所述第一样本图像对应的标注信息包括所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息;
样本特征图获取模块,用于基于所述第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一样本图像对应的至少两种尺度的样本特征图;
第一样本概率获取模块,用于基于所述第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取所述第一样本图像对应的第一样本概率分布;所述第一样本概率分布用于指示所述第一样本图像中存在各个状态的细胞的概率;所述第一样本特征图是所述至少两种尺度的样本特征图中的一个样本特征图;
第二样本概率获取模块,用于基于所述至少两种尺度的样本特征图,通过所述细胞分析模型中的检测分支进行处理,获取所述第一样本图像中的第一样本预测位置对应的第二样本概率分布;所述第二样本概率分布用于指示位于所述第一样本预测位置的细胞处于各种状态的概率;
第一更新模块,用于基于所述第一样本图像对应的标注信息、所述第一样本预测位置、所述第一样本概率分布以及所述第二样本概率分布,对所述细胞分析模型进行参数更新;
其中,更新后的所述细胞分析模型,用于对输入的第一图像进行处理,获取所述第一图像对应的第一预测位置,以及所述第一预测位置的细胞状态。
在一种可能的实现方式中,所述第一样本图像获取模块,还包括:
第三样本图像获取单元,用于获取通过第一图像采集设备采集的第三样本图像;
样本物理像素获取单元,用于基于所述第三样本图像,通过像素预测模型进行处理,获取所述第三样本图像对应的物理像素大小;
样本图像缩放单元,用于基于所述第三样本图像对应的物理像素大小,对所述第三样本图像进行缩放处理,获取所述第一样本图像。
又一方面,提供了一种计算机设备,所述计算机设备包含处理器和存储器,所述存储器中存储有至少一条计算机指令,所述至少一条指令、所述至少一条计算机指令由所述处理器加载并执行以实现上述的基于病理图像的细胞分析方法。
再一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条计算机指令,所述至少一条指令、所述至少一条计算机指令由处理器加载并执行以实现上述的基于病理图像的细胞分析方法。
又一方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述的基于病理图像的细胞分析方法。
本申请实施例提供的技术方案带来的有益效果至少包括:
通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1示出了本申请各个实施例涉及的一种图像处理系统构成图;
图2是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图;
图3是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图;
图4是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图;
图5示出了本申请实施例涉及的一种不同尺度的样本特征图示意图;
图6示出了本申请实施例涉及的一种特征提取分支的模型示意图;
图7示出了本申请实施例的一种细胞分析模型的结构示意图;
图8示出了本申请实施例涉及的一种细胞图像识别架构图;
图9示出了本申请实施例涉及的一种病变细胞标注示意图;
图10示出了本申请实施例涉及的一种模型输出示意图;
图11是根据一示例性实施例提供的一种细胞状态确定方法的流程框图;
图12是根据一示例性实施例示出的一种基于病理图像的细胞分析装置的结构方框图;
图13是根据一示例性实施例示出的一种基于病理图像的细胞分析装置的结构方框图;
图14是根据一示例性实施例示出的一种计算机设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在对本申请所示的各个实施例进行说明之前,首先对本申请涉及到的几个概念进行介绍:
1)AI(Artificial Intelligence,人工智能)
AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获取最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
2)计算机视觉技术(Computer Vision,CV)
计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、OCR(Optical CharacterRecognition,光学字符识别)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
3)ML(Machine Learning,机器学习)
机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。
请参考图1,其示出了本申请各个实施例涉及的一种图像处理系统构成图。如图1所示,该系统包括显微镜120和终端140。可选的,该系统还包括服务器160和数据库180。
显微镜120可以是普通的光学显微镜,显微镜120的操作人员可以通过图像采集组件(比如照相机或者集成有摄像头的其它设备)采集显微镜120的目镜中的显微图像。
例如,上述显微镜120上可以集成有照相暗盒,显微镜120的操作人员可以通过安装在照相暗盒上的照相机拍摄显微镜120的目镜中的显微图像,然后通过照相机中集成的图像输出接口,将照相机拍摄的显微图像导入至终端140或者服务器160。
或者,上述显微镜120也可以是集成有图像采集组件的电子显微镜,该电子显微镜还对外提供图像输出接口,显微镜120的操作人员通过操作电子显微镜的图像采集功能采集显微镜120的目镜中的显微图像,并通过图像输出接口将显微图像导入至终端140。
其中,上述图像输出接口可以是有线接口,比如通用串行总线(Universal SerialBus,USB)接口、高清多媒体接口(High Definition Multimedia Interface,HDMI)接口或者以太网接口等等;或者,上述图像输出接口也可以是无线接口,比如无线局域网(Wireless Local Area Network,WLAN)接口、蓝牙接口等等。
相应的,根据上述图像输出接口的类型的不同,操作人员将照相机拍摄的显微图像导出的方式也可以有多种,比如,通过有线或者短距离无线方式将显微图像导入至终端140,或者,也可以通过局域网或者互联网将显微图像导入至终端140或者服务器160。
终端140中可以安装有获取显微图像的处理结果并呈现的应用程序,终端140获取到显微镜140的目镜中的显微图像后,可以通过上述应用程序获取对显微图像进行处理得到的处理结果,并对处理结果进行呈现,以便医生进行病理诊断等操作。
其中,终端140可以是具有一定的处理能力以及界面展示功能的终端设备,比如,终端140可以是手机、平板电脑、电子书阅读器、智能眼镜、膝上型便携计算机和台式计算机等等。
在图1所示的系统中,终端140和显微镜120是物理上分离的实体设备。可选的,在另一种可能的实现方式中,终端140和显微镜120也可以集成为单个实体设备;比如,显微镜120可以是具有终端140的计算和界面展示功能的智能显微镜,或者,显微镜120可以是具有终端140的计算能力的智能显微镜,该智能显微镜可以通过有线或无线接口输出图像处理结果。
图2是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图。该方法可以由计算机设备执行,该计算机设备可以是服务器或者终端,或者,该计算机设备也可以包含服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器120,终端可以是上述图1所示的实施例中的终端140。如图2所示,该细胞分析方法可以包括如下步骤:
步骤21,获取第一图像;该第一图像是指定部位的细胞对应的病理图像。
例如,当该细胞为动物细胞(或人体细胞)时,该第一图像可以是,通过显微镜等显微设备对某一动物(或人体)的指定部位的细胞,进行图像采集从而得到的显微图像。
步骤22,对该第一图像进行特征提取,获取该第一图像对应的至少两种尺度的特征图。
可选的,不同尺度的特征图的特征值的数量不同。
即不同尺度的特征图指的是,对第一图像通过特征提取,得到的不同特征值数量的特征图。
步骤23,基于第一特征图,获取该第一图像对应的第一概率分布。
其中,该第一概率分布用于指示该第一图像中存在各种状态的细胞的概率;该第一特征图是该至少两种尺度的特征图中的一个特征图。
在一种可能的实现方式中,当该细胞为动物或人体细胞时,该细胞的状态可以包括正常状态和异常状态。例如,该正常状态可以指的是健康状态,该异常状态可以指的是病变状态或感染状态。
步骤24,基于该至少两种尺度的特征图,获取该第一图像中的第一预测位置对应的第二概率分布。
其中,该第二概率分布用于指示位于该第一预测位置的细胞处于各种状态的概率。
可选的,该第一图像中的第一预测位置,是基于该至少两种尺度的特征图,获得的第一图像中的至少一个预测位置中的一个。
可选的,基于该至少两种尺度的特征图,获得该第一图像中第二预测位置对应的第三概率分布;该第二预测位置是该第一图像中的至少一个预测位置中的一个。
即基于该至少两种尺度的特征图,可以获取包含第一预测位置的至少一个预测位置,以及该至少一个预测位置对应的概率分布。
步骤25,基于该第一概率分布以及该第二概率分布,确定该第一预测位置的细胞对应的状态。
即通过上述基于病理图像的细胞分析方法,对获取到的第一图像进行图像处理,获得第一图像对应的第一概率分布,以及第一图像中的第一预测位置对应的第二概率分布,并通过第一概率分布以及第二概率分布,实现对细胞的状态分析,以确定该第一预测位置的细胞对应的状态。
综上所述,在本申请实施例所示的方案中,通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
其中,上述图2所示的方案可以通过细胞分析模型来实现,该细胞分析模型,可以是是以第一样本图像为样本,以第一样本图像中的细胞位置信息,以及与该细胞位置信息对应的细胞状态信息为标注信息训练后得到的。该细胞分析模型的训练过程可以如后续实施例所示。
图3是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图。该方法可以由计算机设备执行,该计算机设备可以是服务器或者终端,或者,该计算机设备也可以包含服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器120,终端可以是上述图1所示的实施例中的终端140。如图3所示,该细胞分析方法可以包括如下步骤:
步骤31,获取第一样本图像,以及该第一样本图像对应的标注信息。
其中,该第一样本图像是指定部位的细胞对应的显微图像;该第一样本图像对应的标注信息包括该第一样本图像对应的细胞位置信息以及与该细胞位置信息对应的细胞状态信息。
步骤32,基于该第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取该第一样本图像对应的至少两种尺度的样本特征图。
步骤33,基于该第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取该第一样本图像对应的第一样本概率分布。
其中,该第一样本概率分布用于指示该第一样本图像中存在各个状态的细胞的概率;该第一样本特征图是该至少两种尺度的样本特征图中,尺度最小的样本特征图。
步骤34,基于该至少两种尺度的样本特征图,通过该细胞分析模型中的检测分支进行处理,获取该第一样本图像中的第一样本预测位置,以及与该第一样本预测位置对应的第二样本概率分布。
其中,该第二样本概率分布用于指示位于该第一样本预测位置的细胞处于各种状态的概率。
步骤35,基于该第一样本图像对应的标注信息、该第一样本预测位置、该第一样本概率分布以及该第二样本概率分布,对该细胞分析模型进行参数更新。
其中,更新后的所述细胞分析模型,用于对输入的第一图像进行处理,获取所述第一图像对应的第一预测位置,以及所述第一预测位置的细胞状态。
综上所述,在本申请实施例所示的方案中,通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
本申请实施例中的细胞可以指的是动物细胞(或人体细胞),因此本申请实施例所示的基于病理图像的细胞分析方法,可以实现与对动物细胞(或人体细胞)进行状态识别,以获取病理图像中的细胞对应的状态。
例如,该细胞分析方法可以应用与对人体细胞的状态识别的医疗场景下,通过本申请实施例所示方法,可以根据输入的人体细胞的病理图像,确定病理图像中处于指定状态(例如多种病变状态中的至少一种)细胞的位置以及处于该病变状态的细胞的病变类型;或者,通过本申请实施例所示方法,可以根据人体细胞的病理图像,确定该病理图像中的处于指定状态的细胞(例如,当病理图片是基于人体血液采集到的显微图片时,该显微图片中的红细胞可以是处于第一状态的细胞;该显微图片中的白细胞可以是处于第二状态的细胞),此时通过本申请实施例所示的方法,可以实现对输入的病理图像中的细胞进行分类并计数。
且本申请实施例所示的基于病理图像的细胞分析方法,除了应用于医疗领域中对细胞的病变(或感染)状态进行检测外,还可以应用于实验测试场景。例如,当需要测试某一种化学物质的安全系数时,可以通过本申请实施例所示的方法,对在该化学物质影响下的细胞(例如动物细胞)对应的病理图像进行处理,以获得该病理图像中处于某状态的细胞的状态信息以及数量信息,从而实现获取该种化学物质的生理属性。
图4是根据一示例性实施例示出的一种基于病理图像的细胞分析方法的流程示意图。该方法可以由计算机设备执行,该计算机设备可以是服务器或者终端,或者,该计算机设备也可以包含服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器120,终端可以是上述图1所示的实施例中的终端140。如图4所示,该细胞分析方法的流程可以包括如下步骤:
步骤401,获取第一样本图像,以及该第一样本图像对应的标注信息。
其中,该第一样本图像对应的标注信息包括该第一样本图像对应的细胞位置信息以及与该细胞位置信息对应的细胞状态信息。
该第一样本图像是指定部位的细胞对应的病理图像,当该第一样本图像中存在细胞处于不同的细胞状态时,该第一样本图像对应的细胞位置信息用于指示该第一样本图像中,除了正常状态之外的其他状态的细胞位置。
例如,当该第一样本图像是指定部位的细胞对应的细胞图像时,且该指定部位的细胞中存在除了正常状态之外的其他状态的细胞(例如病变状态的细胞)时,该第一样本图像对应的细胞位置信息可以用于指示该处于病变状态的细胞的位置,该第一样本图像对应的细胞状态信息可以用于指示该细胞位置信息指示的细胞所处的状态(例如病变的类型)。
在一种可能的实现方式中,获取通过第一图像采集设备采集的第三样本图像;基于该第三样本图像,通过像素预测模型进行处理,获取该第三样本图像对应的物理像素大小;基于该第三样本图像对应的物理像素大小,对该第三样本图像进行缩放处理,获取该第一样本图像。
在通过第一样本图像实现对细胞分析模型进行训练之前,可以将输入该细胞分析模型的第一样本图像的物理像素大小调整为标准大小,以便该细胞分析模型可以准确地对输入的样本图像进行图像处理。
比如,当获取到该第三图像采集设备采集到的第三样本图像时,可以将该第三样本图像,输入像素预测模型,获取该像素预测模型输出的该第三样本图像对应的物理像素大小,并根据该第三样本图像对应的物理像素大小,对该第三样本图像进行缩放,得到适合用于对细胞分析模型进行训练的第一样本图像。
其中,该第三图像采集设备可以是具有图像数据采集功能的显微镜设备,也可以是WSI(Whole Slide Images,全切片扫描仪)。
在一种可能的实现方式中,基于该第三样本图像对应的物理像素大小,以及第一指定像素大小,获取第一样本缩放比;该第一指定像素大小用于指示该细胞分析模型对应的像素大小,基于该第一样本缩放比,对该第三样本图像进行缩放处理,获取该第一图像。
不同图像采集设备采集的图像的物理参数是不同的,这里主要是像素物理大小不同,一般单位像素大小为微米级别。图像的像素物理大小会直接到深度学习的效果,所以为了保证算法的稳定性,可以通过一个物理回归模型(即像素预测模型)来预测不同来源的图像的像素物理大小。
在一种可能的实现方式中,该像素预测模型主体结构采用resnet18,其中最后的分类器改为输出单个值的回归器来预测像素物理大小,模型输入大小为224×224×3。在预测阶段,直接从输入视野图像(如第三样本图像)的中间区域截取224×224大小区域,送入物理回归模型,预测出输入图像的物理像素大小p。假定输入图像的大小为H×W,目标像素物理大小为t,那么就需要将第三样本图像缩放到(H*p/t)x(W*p/t)大小,即通过缩放比例为p/t,对第三样本图像进行缩放,得到第一样本图像。
在一种可能的实现方式中,获取通过第二图像采集设备采集的第二样本图像,以及该第二样本图像对应的像素大小;基于该第二样本图像,通过该像素预测模型进行处理,获取该第二样本图像对应的样本像素大小;基于该第二样本图像对应的像素大小,以及该第二样本图像对应的样本像素大小,对该像素预测模型进行参数更新。
其中,该第二图像采集设备可以包含多种不同的显微设备,此时该第二样本图像可以是通过不同的显微设备采集到的指定部位的细胞对应的显微图像。
在一种可能的实现方式中,通过第二图像采集设备,获取至少一个初始训练图像;对至少一个该初始训练图像进行缩放处理,获取像素训练集;该像素训练集中包含至少两种不同物理像素的像素训练数据;该第二样本图像是该像素训练集中的一个。
即像素预测模型的训练数据可以来自不同相机采集的指定部位的细胞图像,通过对不同相机采集到的指定部位的细胞图像,进行不同范围的缩放来产生不同像素物理大小的图像,以作为该像素预测模型的训练数据。
步骤402,基于该第一样本图像,通过细胞分析模型的特征提取分支进行处理,获取该第一样本图像对应的至少两种尺度的样本特征图。
其中,通过该细胞分析模型中的特征提取分支,对该第一样本图像进行处理,可以获取该第一样本图像对应的至少两种尺度的样本特征图,该不同尺度的样本特征图的特征值与第一样本图像中对应的区域大小不同。例如,当存在第一尺度的样本特征图以及第二尺度的样本特征图,且该第一尺度小于第二尺度,此时该第一尺度的样本特征图中的特征值数量小于第二尺度的样本特征图中的特征值数量,且该第一尺度的样本特征图,以及该第二尺度的样本特征图均是基于该第一样本图像进行特征提取得到的,因此该第一尺度的样本特征图中特征值,代表了该第一样本图像中的较大的图像区域的特征;而第二尺度的样本特征图中的各个特征值,代表了该第一样本图像中较小的图像区域的特征。
请参考图5,其示出了本申请实施例涉及的一种不同尺度的样本特征图示意图。如图5中500部分所示,第一尺度的样本特征图501中的一个特征值,是基于第一样本图像502中的部分区域的图像特征,通过特征提取的方式得到的;如图5中510部分所示,第二尺度的样本特征图中的一个特征值,是基于第一样本图像502中的部分区域的图像特征,通过特征提取的方式得到的;其中,第一尺度的特征图大小小于第二尺度的特征图大小,且第一尺度的样本特征图中,特征值对应的图像区域,大于第二尺度的样本特征图中特征值对应的图像区域。
在一种可能的实现方式中,该特征提取分支包括第一骨干分支以及第一提取分支;该第一骨干分支包含至少一层骨干提取层;该第一提取分支包含至少一层特征提取层;基于该第一样本图像,通过第一骨干分支的至少一层骨干提取层进行特征提取,获取第一骨干样本特征图;基于该第一骨干样本特征图,通过该第一提取分支的至少一层特征提取层进行数据处理,获取该第一样本图像对应的至少两种尺度的样本特征图。
其中,该特征提取分支中包含有第一骨干分支以及第一提取分支,该第一骨干分支中的骨干提取层用于提取该第一样本图像中的图像特征。
在一种可能的实现方式中,该第一骨干分支可以包含至少一层卷积层。
当通过该第一骨干分支对该第一样本图像进行特征提取后,可以获取该第一骨干样本特征图,并通过第一提取分支的至少一层特征提取层进行数据处理,获取的该第一样本图像对应的至少两种尺度的样本特征图。
在一种可能的实现方式中,可以通过该第一提取分支的至少两层特征提取层分别对该第一骨干样本特征图进行数据处理,获取该第一样本图像对应的至少两种尺度的样本特征图。
例如,当该第一提取分支,包含并行的两层特征提取层时,且该并行的两层特征提取层中的卷积层的参数(例如卷积层大小、步长等)不同,此时通过分别通过并行的两层特征提取层,分别对该第一骨干样本特征图进行特征提取,获取的两个样本特征图的大小不同,因此该两个样本特征图的尺度不同。
在一种可能的实现方式中,该至少两个特征提取层包括第一提取层以及第二提取层;基于该第一骨干样本特征图,通过该第一提取层进行数据处理,获取该第一样本图像对应的第一尺度样本特征图;基于该第一尺度样本特征图,通过该第二提取层进行数据处理,获取该第一样本图像对应的第二尺度样本特征图。
当该至少两个特征提取层包括第一提取层以及第二提取层时,可以先通过第一提取层对该第一骨干样本特征图进行特征提取,获取该第一样本图像对应的第一尺度样本特征图,此时该第一尺度样本特征图的尺度小于第一骨干样本特征图;再通过该至少两个特征提取层中的第二提取层,对该第一尺度样本特征图进行特征提取,获取第二尺度样本特征图,此时该第二尺度样本特征图的尺度小于第一尺度样本特征图。
在一种可能的实现方式中,该至少两个特征提取层还可以包括第三提取层,该第三提取层用于对该第一提取层生成的第一尺度样本特征图进行特征提取,获取尺度小于该第一尺度样本特征图的样本特征图。也就是说,在该第一提取分支可以包含至少两个特征提取层,并根据该至少两个特征提取层,生成多种尺度的特征图。
在一种可能的实现方式中,对该第一骨干样本特征图进行至少一次上采样处理,获取至少一个样本上采样特征图。
除了对该第一骨干样本特征图通过特征提取层进行特征提取(即下采样处理)之外,还可以通过对该第一骨干样本特征图通过上采样处理,进行尺度的放大,获取不同尺度的样本特征图,且此时获取到的该至少一个样本上采样特征图的尺度大于该第一骨干样本特征图的尺度。
在一种可能的实现方式中,该第一骨干分支包含第一骨干提取层以及第二骨干提取层;基于该第一样本图像,通过该第二骨干提取层进行特征提取,获取第二骨干样本特征图;基于该第二骨干样本特征图;通过该第一骨干提取层进行特征提取,获取第一骨干样本特征图;对该第一骨干样本特征图进行上采样处理,获取第一样本上采样特征图;基于该第一样本上采样特征图,以及第一骨干样本特征图,获取第一样本融合特征图。
其中,由于该第一骨干样本特征图是通过第二骨干样本特征图进行特征提取得到的,且该第一样本上采样特征图是通过对该第一骨干样本特征图进行上采样得到的,即通过该第二骨干样本特征图得到该第一样本上采样特征图的过程中,经历了特征提取(即下采样)以及上采样的过程,且在该过程中,存在一定的特征损失,为了弥补下采样以及上采样过程中的特征损失,可以将该第二骨干样本特征图以及该第一样本上采样特征图进行融合,获取该第一样本融合特征图(即跳跃链接),并将该第一样本融合特征图作为与该第一骨干样本特征图不同尺度的特征图,提高了该第一样本融合特征图中保留的第一样本图像的图像特征的保留程度。
请参考图6,其示出了本申请实施例涉及的一种特征提取分支的模型示意图。如图6所示,当通过特征提取分支对该第一样本图像601进行处理时,可以将该第一样本图像601输入该第一骨干分支中的第二骨干提取层,获取该第二骨干样本特征图602,再将该第二骨干样本特征图输入第一骨干提取层,获取该第一骨干样本特征图603。
再将该第一骨干样本特征图603输入该第一提取分支,并通过至少一层特征提取层进行处理,获取该特征提取层输出的特征图604。
该特征提取分支,还可以对该第一骨干样本特征图603进行下采样处理,并通过与第二骨干样本特征图602进行跳跃链接,将该第二骨干样本特征图602中的特征传递至该第一提取分支中,获取该第一样本融合特征图605。
此时该特征提取分支可以获取第一骨干样本特征图603、特征提取层输出的特征图604以及第一样本融合特征图605三种尺度的样本特征图。
步骤403,基于该第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取该第一样本图像对应的第一样本概率分布。
其中,该第一样本概率分布用于指示该第一样本图像中存在各个状态的细胞的概率;该第一样本特征图是该至少两种尺度的样本特征图中的一个样本特征图。
在一种可能的实现方式中,该第一样本特征图是该至少两种尺度的样本特征图中,尺度最小的样本特征图。
在一种可能的实现方式中,该分类分支包括特征提取层以及全连接层;基于该第一样本特征图,通过该分类分支中的特征提取层进行特征提取;获取第一分类样本特征图;基于该第一分类样本特征图,通过该分类分支中的全连接层进行数据处理,获取该第一分类样本向量;基于该第一分类样本向量,确定该第一样本图像对应的第一样本概率分布。
其中,该分类分支用于对该第一样本特征图进行处理,以预测该第一样本图像中存在各种细胞对应的状态的概率分布。
在一种可能的实现方式中,该分类分支还包括sigmoid层,通过该sigmoid对该第一分类样本向量进行处理,确定该第一样本图像对应的第一样本概率分布。
其中,该sigmoid层用于隐层神经元输出,取值范围为(0,1),因此sigmoid层可以用于将向量值映射到(0,1)的区间,可以用来做二分类,以确定该第一样本图像中存在某一状态的细胞的概率。
步骤404,基于该至少两种尺度的样本特征图,通过该细胞分析模型中的检测分支进行处理,获取该第一样本图像中的第一样本预测位置对应的第二样本概率分布。
其中,该第二样本概率分布用于指示位于该第一样本预测位置的细胞,处于各个状态的概率。
在一种可能的实现方式中,该细胞分析模型中的检测分支是基于目标检测算法中的滑动窗口法构建的检测分支;或者,该细胞分析模型中的检测分支是基于目标检测算法中的选择性搜索法构建的检测分支。
在一种可能的实现方式中,该细胞分析模型中的检测分支对该至少两种尺度的样本特征图进行处理后,可以得到该第一样本图像对应的预测输出,该第一样本图像对应的预测输出,包括预测结果的置信概率、预测样本边框坐标以及该预测样本边框坐标对应的不同状态的概率值。
其中,根据该第一样本图像对应的预测输出中的预测样本边框坐标,构建该第一样本图像中的样本预测边框,该样本预测边框在第一样本图像中选中的位置即为该第一样本预测位置;该预测样本边框坐标对应的不同概率的概率值,即为与该第一样本位置对应的第二样本概率分布中的各个概率值,根据该预测样本边框坐标对应的不同概率的概率值,构建该第二样本概率分布。
在一种可能的实现方式中,该细胞分析模型中包含至少两个检测分支;基于该第一样本图像对应的标注信息,在该至少两个检测分支中获取与该第一样本图像对应的检测分支;基于该至少两种尺度的样本特征图,通过与该第一样本图像对应的检测分支进行处理,获取该第一样本图像中的第一样本预测位置对应的第二样本概率分布。
在一种可能的实现方式中,响应于该第一样本图像中的标注信息指示该第一样本图像中,处于第一状态的细胞对应的图像面积大于阈值,在该至少两个检测分支中,获取与该第一状态对应的检测分支。
当该第一样本图像中,处于第一状态的细胞对应的图像面积大于阈值时,也就是说,该第一样本图像中,处于第一状态的细胞对应的图像面积较大时,可以通过与该第一状态对应的检测分支对该第一样本图像对应的至少两种尺度的样本特征图进行处理。
在一种可能的实现方式中,通过该细胞分析模型中的检测分支,分别对该至少两种尺度的样本特征图进行处理,获取该至少两种尺度的样本特征图分别对应的子样本概率分布;基于该至少两种尺度的样本特征图分别对应的子样本概率分布,获取该第一样本图像中的第一预测位置对应的第二样本概率分布。
即通过该细胞分析模型中的检测分支,分别对两种尺度的样本特征图进行处理时,可以得到每种尺度的样本特征图对应的子样本概率分布,此时可以根据多种尺度的样本特征图对应的多个子样本概率分布,获取该第一样本图像中的第一预测位置对应的第二样本概率分布。例如,可以将多个子样本概率分布进行平均或加权平均,获取该第一样本图像中的第一预测位置对应的第二样本概率分布。
步骤405,基于该第一样本图像对应的标注信息、该第一样本预测位置、该第一样本概率分布以及该第二样本概率分布,对该细胞分析模型进行参数更新。
其中,更新后的该细胞分析模型,用于对输入的第一图像进行处理,获取该第一图像对应的第一预测位置,以及该第一预测位置的细胞对应的状态。
在一种可能的实现方式中,当通过第一样本图像对该细胞分析模型进行训练时,可以获取该第一样本图像对应的细胞位置信息、该细胞分析模型输出的第一样本预测位置获取第一损失函数值;根据该细胞位置信息对应的细胞状态信息、该细胞分析模型输出的与该第一样本预测位置信息对应的第二样本概率分布,获取第二损失函数值;再根据第一样本图像的标注信息中指示的,该第一样本图像中存在处于各种状态的细胞的信息,以及该细胞分析模型输出的,第一样本概率分布,获取第三损失函数值;
基于该第一损失函数值、第二损失函数值以及该第三损失函数值,对该细胞分析模型进行更新,更新后的细胞分析模型,即可以对第一样本图像进行目标检测,还考虑到了该第一样本图像的整体的细胞对应的状态情况,提高了对输入的细胞图像的识别效果。
在一种可能的实现方式中,当该细胞分析模型中包含至少两个检测分支,基于该第一损失函数值,第二损失函数值以及该第三损失函数值,对该细胞分析模型的特征提取分支、分类分支,以及与该第一样本图像对应的检测分支进行参数更新。
即当该第一样本图像中,对应第一状态的细胞的面积较大时,可以通过第一状态对应的检测分支,对该第一样本图像对应的样本特征图进行处理,并根据损失函数对该检测分支进行更新,此时更新后的检测分支,对该第一状态的细胞的识别能力较强。因此,该细胞分析模型中的各个检测分支,可以分别对应与各种类型的细胞进行训练,以获取针对某种类型的细胞具有较强的识别能力的检测分支。
请参考图7,其示出了本申请实施例的一种细胞分析模型的结构示意图。如图7所示,本申请采用基于RetinaNet的深度学习物体检测模型来开发算法,其中骨干网络(即第一骨干分支)采用resnet50。输入第一样本图像701后,通过卷积操作可以得到三个尺度不同的特征图,分别将该三个尺度不同的特征图702,输入经过特征金字塔(即第一提取分支),可以得到5个尺度不同的特征图,该5个尺度不同的特征图,分别送入检测模块来预测不处于正常状态的位置以及分类信息705。除了用于实现目标检测算法的检测分支704外,该细胞分析模型还增加了一个对整个视野分类的分类分支703,整个分类分支703用于对最小尺度的特征图进行数据处理,通过全局池化层和全连接层得到分类预测,整个分类分支用来预测输入视野图中是否含有某种状态的细胞,当需要对N个状态的细胞进行判定时,该分类分支的输出就是N个二分类。通过增加这样的一个全局分类分支,一方面可以辅助分类模型的训练,另外一方面在预测时会综合分类分支和检测模型来后处理得到最终的预测结果。
步骤406,获取第一图像。
其中,第一图像是指定部位的细胞对应的病理图像。
在一种可能的实现方式中,获取通过第一图像采集设备采集的第二图像;基于该第二图像,通过像素预测模型进行处理,获取该第二图像对应的物理像素大小;基于该第二图像对应的物理像素大小,对该第二图像进行缩放处理,获取该第一图像。
在通过细胞分析模型对该第一图像进行处理之前,需要将输入该细胞分析模型的第一图像的物理像素调整为标准大小,以便该细胞分析模型可以准确地对输入的第一图像进行图像处理,分析得到该第一图像中各个预测位置的细胞对应的状态。
当获取到第一图像采集设备采集到的第二图像时,可以将该第二图像输入香色预测模型,获取该像素预测模型输出的第二图像对应的物理像素大小,并根据该第二图像对应的物理像素大小,对该第二图像进行缩放,与该细胞分析模型的指定物理像素大小相同的第一图像。
由于该物理像素大小用于指示图像单位像素的物理大小,因此当该第一图像与该细胞分析模型的指定物理像素大小相同时,该第一图像的物理参数与细胞分析模型所要求的图像的物理参数一致,此时该细胞分析模型可以保证对该第一图像具有较好的识别效果。
在一种可能的实现方式中,基于该第二图像对应的物理像素大小,以及第一指定像素大小,获取第一缩放比;该第一指定像素大小用于指示该细胞分析模型对应的像素大小;基于该第一缩放比,对该第二图像进行缩放处理,获取该第一图像。
其中,当该像素预测模型输出的第二图像对应的物理像素大小,大于该第一指定像素大小时,此时需要将该第二图像进行放大得到第一图像,以便该细胞分析模型可以对输入的第一图像进行特征提取;当该像素预测模型输出的第二图像对应的物理像素大小,小于该第一指定像素大小时,此时需要将该第二图像进行缩小得到该第一图像,以便该细胞分析模型可以对输入的第一图像进行特征提取。
步骤407,基于该第一图像,通过细胞分析模型的特征提取分支进行处理,获取该第一图像对应的至少两种尺度的特征图。
其中,通过该细胞分析模型的特征提取分支,对该第一图像进行处理,可以获取该第一图像对应的至少两种尺度的特征图,该不同尺度的特征图的特征值与第一图像中对应的区域大小不同。例如,当存在第一尺度的特征图以及第二尺度的特征图,且该第一尺度小于第二尺度时,第一尺度的特征图中的特征值数量小于第二尺度的特征图中的特征值数量,且该第一尺度的特征图以及该第第二尺度的特征图均是基于该第一图像进行特征提取得到的,因此该第一尺度的特征图中的特征值,代表了该第一图像中的较大的图像区域的特征;第二尺度的特征图中的各个特征值,代表了该第一图像中较小的图像区域的特征。其中,该特征图中特征值与第一图像之间的对应关系与图5示出的样本特征图中特征值与第一样本图像之间的对应关系类型,此处不再赘述。
在一种可能的实现方式中,该特征提取分支包括第一骨干分支以及第一提取分支;该第一骨干分支包含至少一层骨干提取层;该第一提取分支包含至少一层特征提取层;基于该第一图像,通过第一骨干分支的至少一层骨干提取层进行特征提取,获取第一骨干特征图;基于该第一骨干特征图,通过该第一提取分支的至少一层特征提取层进行数据处理,获取该第一图像对应的至少两种尺度的特征图。
在一种可能的实现方式中,该至少两种尺度的特征图,包括该至少一层特征提取层输出的特征图,以及该第一骨干特征图。
其中,该特征提取分支中包含有第一骨干分支以及第一提取分支,该第一骨干分支中的骨干提取层用于提取该第一图像中的图像特征。
在一种可能的实现方式中,该第一骨干分支可以包含至少一层卷积层。
当通过该第一骨干分支对该第一图像进行特征提取后,可以获取该第一骨干特征图,并通过第一提取分支的至少一层特征提取层进行数据处理,获取的该第一图像对应的至少两种尺度的特征图。
在一种可能的实现方式中,可以通过该第一提取分支的至少两层特征提取层分别对该第一骨干特征图进行数据处理,获取该第一图像对应的至少两种尺度的特征图。
例如,当该第一提取分支,包含并行的两层特征提取层时,且该并行的两层特征提取层中的卷积层的参数(例如卷积层大小、步长等)不同,此时通过分别通过并行的两层特征提取层,分别对该第一骨干特征图进行特征提取,获取的两个特征图的大小不同,因此该两个特征图的尺度不同。
在一种可能的实现方式中,该至少两个特征提取层包括第一提取层以及第二提取层;基于该第一骨干特征图,通过该第一提取层进行数据处理,获取该第一图像对应的第一尺度特征图;基于该第一尺度特征图,通过该第二提取层进行数据处理,获取该第一图像对应的第二尺度特征图。
当该至少两个特征提取层包括第一提取层以及第二提取层时,可以先通过第一提取层对该第一骨干特征图进行特征提取,获取该第一图像对应的第一尺度特征图,此时该第一尺度特征图的尺度小于第一骨干特征图;再通过该至少两个特征提取层中的第二提取层,对该第一尺度特征图进行特征提取,获取第二尺度特征图,此时该第二尺度特征图的尺度小于第一尺度特征图。
在一种可能的实现方式中,该至少两个特征提取层还可以包括第三提取层,该第三提取层用于对该第一提取层生成的第一尺度特征图进行特征提取,获取尺度小于该第一尺度特征图的特征图。也就是说,在该第一提取分支可以包含至少两个特征提取层,并根据该至少两个特征提取层,生成多种尺度的特征图。
在一种可能的实现方式中,对该第一骨干特征图进行至少一次上采样处理,获取至少一个上采样特征图。
除了对该第一骨干特征图通过特征提取层进行特征提取(即下采样处理)之外,还可以通过对该第一骨干特征图通过上采样处理,进行尺度的放大,获取不同尺度的特征图,且此时获取到的该至少一个上采样特征图的尺度大于该第一骨干特征图的尺度。
在一种可能的实现方式中,该第一骨干分支包含第一骨干提取层以及第二骨干提取层;基于该第一图像,通过该第二骨干提取层进行特征提取,获取第二骨干特征图;基于该第二骨干特征图;通过该第一骨干提取层进行特征提取,获取第一骨干特征图;对该第一骨干特征图进行上采样处理,获取第一上采样特征图;基于该第一上采样特征图,以及第一骨干特征图,获取第一融合特征图。
其中,由于该第一骨干特征图是通过第二骨干特征图进行特征提取得到的,且该第一上采样特征图是通过对该第一骨干特征图进行上采样得到的,即通过该第二骨干特征图得到该第一上采样特征图的过程中,经历了特征提取(即下采样)以及上采样的过程,且在该过程中,存在一定的特征损失,为了弥补下采样以及上采样过程中的特征损失,可以将该第二骨干特征图以及该第一上采样特征图进行融合,获取该第一融合特征图(即跳跃链接),并将该第一融合特征图作为与该第一骨干特征图不同尺度的特征图,提高了该第一融合特征图中保留的第一图像的图像特征的保留程度。
步骤408,基于第一特征图,通过该细胞分析模型中的分类分支进行数据处理,获取该第一图像对应的第一概率分布。
其中,该第一概率分布用于指示该第一图像中分别存在各种状态的细胞的概率;该第一特征图是该至少两种尺度的特征图中的一个特征图。
在一种可能的实现方式中,该第一特征图是该至少两种尺度的特征图中,尺度最小的特征图。
在一种可能的实现方式中,该分类分支包括特征提取层以及全连接层;基于该第一特征图,通过该分类分支中的特征提取层进行特征提取,获取第一分类特征图;基于该第一分类特征图,通过该分类分支中的全连接层进行数据处理,获取该第一分类向量;基于该第一分类向量,确定该第一图像对应的第一概率分布。
在一种可能的实现方式中,该分类分支还包括sigmoid层,通过该sigmoid对该第一分类向量进行处理,确定该第一图像对应的第一概率分布。
其中,该sigmoid层用于隐层神经元输出,取值范围为(0,1),因此sigmoid层可以用于将向量值映射到(0,1)的区间,可以用来做二分类,以确定该第一图像中存在某一状态的细胞的概率。
步骤409,基于该至少两种尺度的特征图,通过该细胞分析模型中的检测分支进行处理,获取该第一图像中的第一预测位置,以及与该第一预测位置对应的第二概率分布。
该第二概率分布用于指示位于该第一预测位置的细胞,处于各个状态的概率。
在一种可能的实现方式中,该细胞分析模型中的检测分支是基于目标检测算法中的滑动窗口法构建的检测分支;或者,该细胞分析模型中的检测分支是基于目标检测算法中的选择性搜索法构建的检测分支。
在一种可能的实现方式中,该细胞分析模型中的检测分支对该至少两种尺度的特征图进行处理后,可以得到该第一图像对应的预测输出,该第一图像对应的预测输出,包括预测结果的置信概率、预测边框坐标以及该预测边框坐标对应的不同状态的概率值。
其中,根据该第一图像对应的预测输出中的预测边框坐标,构建该第一图像中的预测边框,该预测边框在第一图像中选中的位置即为该第一预测位置;该预测边框坐标对应的不同概率的概率值,即为与该第一位置对应的第二概率分布中的各个概率值,根据该预测边框坐标对应的不同概率的概率值,构建该第二概率分布。
在一种可能的实现方式中,该细胞分析模型中包含至少两个检测分支;基于该第一概率分布,在该至少两个检测分支中获取与该第一图像对应的检测分支;基于该至少两种尺度的特征图,通过与该第一图像对应的检测分支进行处理,获取该第一图像中的第一预测位置对应的第二概率分布。
在一种可能的实现方式中,响应于该第一概率分布指示该第一图像中,处于第一状态的细胞对应的概率大于阈值,在该至少两个检测分支中,获取与该第一状态对应的检测分支。
当该第一图像中,存在处于第一状态的细胞的概率大于阈值时,也就是说,该第一图像中,处于第一状态的细胞对应的几率较大时,可以通过与该第一状态对应的检测分支对该第一图像对应的至少两种尺度的特征图进行处理。
在一种可能的实现方式中,通过该细胞分析模型中的检测分支,分别对该至少两种尺度的特征图进行处理,获取该至少两种尺度的特征图分别对应的预测位置集合;该预测位置集合中包含至少一个预测位置;基于该至少两种尺度的特征图分别对应的预测位置集合,获取所述第一图像对应的各个预测位置,以及该各个预测位置对应的概率分布;该第一预测位置是该第一图像对应的各个预测位置中的一个。
即通过该细胞分析模型中的检测分支,可以分别对两种尺度的特征图进行处理。例如,该第一图像对应的第一尺度特征图以及该第一图像对应的第二尺度特征图为例,该细胞分析模型中的检测分支,可以对该第一尺度特征图进行处理,获得该第一尺度特征图对应的第一预测位置集合,以及该第一预测位置集合中的各个预测位置对应的概率分布;该细胞分析模型中的检测分支还可以对该第二尺度特征图进行处理,获得该第二尺度特征图对应的第二预测位置集合,以及该第二预测位置集合中的各个预测位置对应的概率分布。此时可以根据第一预测位置集合中的各个预测位置对应的概率分布,以及该第二预测位置集合中的各个预测位置对应的概率分布,获得该第一图像中的各个预测位置,以及第一图像中的各个预测位置对应的概率分布。
在一种可能的实现方式中,基于该至少两种尺度的特征图分别对应的预测位置集合,通过非极大值抑制算法进行处理,获取所述第一图像对应的各个预测位置,以及该各个预测位置对应的概率分布。
由于通过第一图像的至少两种尺度的特征图,获得各个尺度的特征图对应的预测位置集合时,预测位置有较大概率会出现重复,此时可以通过非极大值抑制算法,取出去除冗余的预测位置,保留其中预测结果最好的作为第一图像中的预测位置。
步骤410,基于该第一概率分布以及该第二概率分布,确定该第一预测位置的细胞状态。
其中,该细胞分析模型,是以第一样本图像为样本,以第一样本图像中的细胞位置信息,以及与该细胞位置信息对应的细胞状态信息为标注信息训练后得到的。
在一种可能的实现方式中,响应于该第一概率分布中,对应第一状态的概率大于第一概率阈值,且该第二概率分布中,对应第一状态的概率大于第二概率阈值,将该第一预测位置的细胞确定为第一状态。
即只有当第一图像对应的第一概率分布指示,该第一图像中存在第一状态的概率大于第一概率阈值,且该第二概率分布中,对应第一状态的概率大于第二概率阈值时,才将该第一预测位置的细胞确定为第一状态,提高了细胞状态确定的准确性。
请参考图8,其示出了本申请实施例涉及的一种细胞图像识别架构图。如图8所示,本申请实施例中,可以通过图像采集装置801采集视野图像802,这里的图像采集装置801可以是工业相机设备,也可以是扫描仪;采集的图像将输入即计算机设备,计算机设备(个人电脑或者终端手机和平板)运行了物理回归算法和病变位置检测和分类算法;视野图像802先送入物理回归模型803(即像素预测模型)来预测像素物理大小,然后对图像进行缩放,缩放后的视野图像804再送入病变位置检测和分类算法805(即细胞分析模型)得到输出结果;最后,计算机设备输出算法的预测图像,以提供给图像显示设备806,这里的图像显示设备806可以是计算机显示屏,也可以是其它移动终端(如平板电脑和手机)。
其中,以该细胞分析模型应用于对宫颈脱落细胞涂片图像进行识别为例,首先是获取宫颈脱落细胞涂片图像以及对应的病变标注信息,以用于模型的训练。图9示出了本申请实施例涉及的一种病变细胞标注示意图。如图9所示,当通过本申请实施例所示的方案确定病理图像中的异常状态的细胞位置以及各个异常状态的细胞对应的异常状态时,其中异常细胞的标注901采用矩阵框标注,标注信息包括处于异常状态细胞的位置,采用矩形框的中心点坐标(x,y)以及长和宽(h,w)来表征,另外还包括异常状态细胞对应的异常状态类型,例如,这里可以考虑11类异常状态,包含6类细胞病变状态:ASCUS(Atypical SquamousCells of Undetermined Significance,非典型鳞状细胞,不能明确意义),LSIL(LowSquamous Intraepithelial Lesion,低度鳞状上皮内病变),ASCH(Atypical SquamousCell-cannot exclude HISL,非典型鳞状细胞,倾向于高度病变),HSIL(High SquamousIntraepithelial Lesion,高度鳞状上皮内病变),SCC(Squamous Cell Carcinoma,鳞癌)和AdC(Adenocarcinoma,腺癌),AGC(Atypical Glandular Cells,非典型腺细胞);5类微生物感染状态:滴虫,念珠菌,疱疹病毒,放线菌,菌落变化,提示细菌性阴道病。其中带有标注的图像记为正样本,无标注的图像记为负样本,正负样本比例为1:4。
然后,将标注好的图像按照7:3的比例划分为训练集和验证集,并配置改进的RetinaNet模型的基本参数以及训练参数,其中num_classes=11,基于训练集对模型进行训练,选择在验证集效果最好的模型作为最终的病变细胞检测和分类算法,部署在计算机设备中。
在检测阶段,模型的分类分支和检测分支都有预测结果,具体到某一个类别,这里设定两个阈值t1和t2,只有当分类分支预测概率大于t1时,此时认为示意图中包含该类别的病变,同时预测框为检测分支中分类概率大于t2的检出。预测框然后通过NMS(Non-Maximum Suppression,非极大值抑制)算法去除重复框,图10示出了本申请实施例涉及的一种模型输出示意图。如图10所示,该模型输出的最终的结果是输出预测的病变位置1001,以及该病变位置1001对应的置信度。
综上所述,在本申请实施例所示的方案中,通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
图11是根据一示例性实施例提供的一种细胞分析方法的流程框图。如图11所示,该细胞分析方法包括细胞分析模型的训练以及应用过程,该细胞分析模型的训练以及应用流程可以由计算机设备执行,该计算机设备可以是服务器或者终端,或者,该计算机设备也可以包含服务器和终端,其中,该服务器可以是上述图1所示的实施例中的服务器120,终端可以是上述图1所示的实施例中的终端140。以该细胞分析方法用于对宫颈脱落细胞涂片图像进行图像处理为例,该细胞分析方法包括以下步骤。
如图11中的1110部分所示,可以先通过第二样本图像对像素预测模型进行训练,即将该第二样本图像输入该像素预测模型,获取该第二样本图像对应的预测像素大小,并根据该第二样本图像的实际像素大小以及预测像素大小,生成对应的损失函数值,并根据该损失函数值对该像素预测模型中的参数进行更新。训练好的像素预测模型,可以对输入的图像进行数据处理,获取该输入的图像的物理像素大小。
如图11中1120部分所示,通过训练完成后的像素预测模型,对采集到的第三样本图像进行处理,该第三样本图像可以是宫颈脱落细胞涂片图像,获取第三样本图像对应的图像像素大小,并根据该第三样本图像对应的图像像素大小,对该第三样本图像进行缩放,获取该第一样本图像。此时该第一样本图像是物理像素大小标准化的图像,可以通过该第一样本图像对该细胞分析模型进行训练。即可以将该第一样本图像输入该细胞分析模型,通过特征提取分支进行特征提取获取该第一样本图像对应的特征图,并根据该第一样本图像对应的特征图,通过分类分支进行处理,获取分类结果,该分类结果即第一样本图像对应的第一样本概率分布,该第一样本概率分布用于指示该第一样本图像中存在各种状态的细胞的概率,当该细胞为宫颈脱落细胞,该第一样本概率分布可以用于指示该宫颈脱落细胞处于各种病变状态或感染状态的概率。将该第一样本图像对应的特征图,通过检测分支通过目标检测算法进行检测,获取该目标检测结果,该目标检测结果即为第一样本图像中的第一预测位置,以及该第一预测位置对应的第二概率分布,此时可以根据该第一样本图像的目标检测结果、分类结果,以及该宫颈脱落细胞图像预先确定的标注信息,对该细胞分析模型进行更新。训练好的该细胞分析模型,可以对输入的宫颈脱落细胞图像进行处理,确定该宫颈脱落细胞图像中的异常(如病变或感染)位置。
如图11中1130部分所示,当获取到需要进行处理的第二图像(即需要识别的脱落细胞图像)时,可以将该第二图像输入训练好的像素预测模型,通过像素预测模型输出的该第二图像的物理像素大小,对该第二图像进行缩放处理,获取标准像素大小的第一图像。再将该第一图像输入训练好的细胞分析模型,经过细胞分析模型中的特征提取分支获取特征图后,分别通过分类分支以及检测分支,输出该第一图像对应的第一概率分布以及第一预测位置对应的第二概率分布,并根据该第一图像对应的第一概率分布,以及第一预测位置对应的第二概率分布,确定位于该第一预测位置的细胞对应的细胞状态(如异常或病变)。可选的,该检测分支还可以输出第二预测位置,以及该第二预测位置对应的概率分布,并根据第一图像对应的第一概率分布,以及第二预测位置对应的第二概率分布,确定该第二预测位置的细胞对应的细胞状态,该第二预测位置是该第一预测位置之外的位置,也就是说,通过该细胞分析模型,可以同时确定该第一图像中的多个位置的细胞,以及细胞对应的状态。
图12是根据一示例性实施例示出的一种基于病理图像的细胞分析装置的结构方框图。该应用服务请求装置可以实现由图2、图3与图4任一所示实施例提供的方法中的全部或部分步骤,该细胞分析装置包括:
第一图像获取模块1201,用于获取第一图像,所述第一图像是指定部位的细胞对应的病理图像;
特征图获取模块1202,用于对所述第一图像进行特征提取,获取所述第一图像对应的至少两种尺度的特征图;
第一概率获取模块1203,用于基于第一特征图,获取所述第一图像对应的第一概率分布;所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率;所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
第二概率获取模块1204,用于基于所述至少两种尺度的特征图,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;
细胞状态确定模块1205,用于基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
在一种可能的实现方式中,所述细胞状态确定模块1205,还用于,
响应于所述第一概率分布中,对应于第一状态的概率大于第一概率阈值,且所述第二概率分布中,对应于所述第一状态的概率大于第二概率阈值,将所述第一预测位置的细胞的状态确定为所述第一状态。
在一种可能的实现方式中,所述特征图获取模块1202,包括:
特征图获取单元,用于基于所述第一图像,通过细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;
所述第一概率获取模块1203,包括:
第一概率获取单元,用于基于所述第一特征图,通过所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布;
所述第二概率获取模块1204,包括:
第二概率获取单元,用于基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;
其中,所述细胞分析模型,是以第一样本图像为样本,以所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息训练得到的机器学习模型。
在一种可能的实现方式中,所述分类分支包括特征提取层以及全连接层;
所述第一概率获取单元,包括:
分类特征图获取子单元,用于基于所述第一特征图,通过所述分类分支中的特征提取层进行特征提取,获取第一分类特征图;
分类向量获取子单元,用于基于所述第一分类特征图,通过所述分类分支中的全连接层进行数据处理,获取第一分类向量;
第一概率获取子单元,用于基于所述第一分类向量,确定所述第一图像对应的第一概率分布。
在一种可能的实现方式中,所述第一图像获取模块1201,包括:
第二图像获取单元,用于获取通过第一图像采集设备采集的第二图像;
像素预测单元,用于基于所述第二图像,通过像素预测模型进行处理,获取所述第二图像对应的物理像素大小;
图像缩放单元,用于基于所述第二图像对应的物理像素大小,对所述第二图像进行缩放处理,获取所述第一图像。
在一种可能的实现方式中,所述图像缩放单元,还用于,
基于所述第二图像对应的物理像素大小,以及第一指定像素大小,获取第一缩放比;所述第一指定像素大小用于指示所述细胞分析模型对应的像素大小;
基于所述第一缩放比,对所述第二图像进行缩放处理,获取所述第一图像。
在一种可能的实现方式中,所述装置还包括:
像素图像获取模块,用于获取通过第二图像采集设备采集的第二样本图像,以及所述第二样本图像对应的像素大小;
像素大小获取模块,用于基于所述第二样本图像,通过所述像素预测模型进行处理,获取所述第二样本图像对应的样本像素大小;
像素预测模型更新模块,用于基于所述第二样本图像对应的像素大小,以及所述第二样本图像对应的样本像素大小,对所述像素预测模型进行参数更新。
在一种可能的实现方式中,所述特征提取分支包括第一骨干分支以及第一提取分支;所述第一骨干分支包含至少一层骨干提取层;所述第一提取分支包含至少两层特征提取层;
所述特征图获取单元,还用于,
基于所述第一图像,通过至少一层所述骨干提取层进行特征提取,获取第一骨干特征图;
基于所述第一骨干特征图,通过至少两层所述特征提取层进行数据处理,获取所述第一图像对应的至少两种尺度的特征图。
在一种可能的实现方式中,所述细胞分析模型中包括至少两个检测分支;
所述装置还包括:
检测分支获取模块,用于基于所述第一概率分布,在所述至少两个检测分支中获取与所述第一图像对应的检测分支;
所述第二概率获取单元,还用于,
基于所述至少两种尺度的特征图,通过所述细胞分析模型中与所述第一图像对应的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布。
综上所述,在本申请实施例所示的方案中,通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
图13是根据一示例性实施例示出的一种基于病理图像的细胞分析装置的结构方框图。该应用服务请求装置可以实现由图2、图3与图4任一所示实施例提供的方法中的全部或部分步骤,该细胞分析装置包括:
第一样本图像获取模块1301,用于获取第一样本图像,以及所述第一样本图像对应的标注信息;所述第一样本图像是指定部位的细胞对应的病理图像;所述第一样本图像对应的标注信息包括所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息;
样本特征图获取模块1302,用于基于所述第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一样本图像对应的至少两种尺度的样本特征图;
第一样本概率获取模块1303,用于基于所述第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取所述第一样本图像对应的第一样本概率分布;所述第一样本概率分布用于指示所述第一样本图像中存在各个状态的细胞的概率;所述第一样本特征图是所述至少两种尺度的样本特征图中的一个样本特征图;
第二样本概率获取模块1304,用于基于所述至少两种尺度的样本特征图,通过所述细胞分析模型中的检测分支进行处理,获取所述第一样本图像中的第一样本预测位置对应的第二样本概率分布;所述第二样本概率分布用于指示位于所述第一样本预测位置的细胞处于各种状态的概率;
第一更新模块1305,用于基于所述第一样本图像对应的标注信息、所述第一样本预测位置、所述第一样本概率分布以及所述第二样本概率分布,对所述细胞分析模型进行参数更新;
其中,更新后的所述细胞分析模型,用于对输入的第一图像进行处理,获取所述第一图像对应的第一预测位置,以及所述第一预测位置的细胞状态。
在一种可能的实现方式中,所述第一样本图像获取模块1301,还包括:
第三样本图像获取单元,用于获取通过第一图像采集设备采集的第三样本图像;
样本物理像素获取单元,用于基于所述第三样本图像,通过像素预测模型进行处理,获取所述第三样本图像对应的物理像素大小;
样本图像缩放单元,用于基于所述第三样本图像对应的物理像素大小,对所述第三样本图像进行缩放处理,获取所述第一样本图像。
综上所述,在本申请实施例所示的方案中,通过对第一图像的第一特征图进行处理,获取第一概率分布,且该第一概率分布指示该第一图像的整体区域中存在各种状态的细胞的概率;通过对至少两种尺度的特征图进行处理,获取第一预测区域以及与该第一预测区域对应的第二概率分布,且该第二概率分布指示该第一图像的第一预测区域内存在各种状态的细胞的概率,即第一概率分布用于指示第一图像的整体区域的细胞对应的状态,且第二概率分布用于指示第一图像的局部区域的细胞对应的状态,因此基于第一概率分布与该第二概率分布,确定第一预测位置的细胞对应的状态时,同时考虑了第一图像的整体特征与局部特征,提高了确定第一预测位置的细胞对应的状态的准确性。
图14是根据一示例性实施例示出的一种计算机设备的结构示意图。该计算机设备可以实现为服务器。该服务器可以为图1所示的服务器120。所述计算机设备1400包括中央处理单元1401、包括随机存取存储器(Random Access Memory,RAM)1402和只读存储器(Read-Only Memory,ROM)1403的系统存储器1404,以及连接系统存储器1404和中央处理单元1401的系统总线1405。所述计算机设备1400还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统1406,和用于存储操作系统1413、应用程序1414和其他程序模块1415的大容量存储设备1407。
所述大容量存储设备1407通过连接到系统总线1405的大容量存储控制器(未示出)连接到中央处理单元1401。所述大容量存储设备1407及其相关联的计算机可读介质为计算机设备1400提供非易失性存储。也就是说,所述大容量存储设备1407可以包括诸如硬盘或者光盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、闪存或其他固态存储其技术,CD-ROM、或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器1404和大容量存储设备1407可以统称为存储器。
计算机设备1400可以通过连接在所述系统总线1405上的网络接口单元1411连接到互联网或者其它网络设备。
所述存储器还包括一个或者一个以上的程序,所述一个或者一个以上程序存储于存储器中,中央处理器1401通过执行该一个或一个以上程序来实现图2、图3以及图4所示的方法的全部或者部分步骤。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括计算机程序(指令)的存储器,上述程序(指令)可由计算机设备的处理器执行以完成本申请各个实施例所示的方法。例如,所述非临时性计算机可读存储介质可以是ROM(Read-Only Memory,只读存储器)、RAM(Random Access Memory,随机存取存储器)、CD-ROM(Compact Disc Read-Only Memory,只读光盘)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各个实施例所示的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (14)

1.一种基于病理图像的细胞分析方法,其特征在于,所述方法包括:
获取第一图像,所述第一图像是指定部位的细胞对应的病理图像;
基于所述第一图像,通过细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;
基于第一特征图,通过所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布;所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率;所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;其中,所述细胞分析模型,是以第一样本图像为样本,以所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息训练得到的机器学习模型;
基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
2.根据权利要求1所述的方法,其特征在于,所述基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态,包括:
响应于所述第一概率分布中,对应于第一状态的概率大于第一概率阈值,且所述第二概率分布中,对应于所述第一状态的概率大于第二概率阈值,将所述第一预测位置的细胞的状态确定为所述第一状态。
3.根据权利要求1所述的方法,其特征在于,所述分类分支包括特征提取层以及全连接层;
所述基于第一特征图,通过所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布,包括:
基于所述第一特征图,通过所述分类分支中的特征提取层进行特征提取,获取第一分类特征图;
基于所述第一分类特征图,通过所述分类分支中的全连接层进行数据处理,获取第一分类向量;
基于所述第一分类向量,确定所述第一图像对应的第一概率分布。
4.根据权利要求1或2所述的方法,其特征在于,所述获取第一图像,包括:
获取通过第一图像采集设备采集的第二图像;
基于所述第二图像,通过像素预测模型进行处理,获取所述第二图像对应的物理像素大小;
基于所述第二图像对应的物理像素大小,对所述第二图像进行缩放处理,获取所述第一图像。
5.根据权利要求4所述的方法,其特征在于,所述基于所述第二图像对应的物理像素大小,对所述第二图像进行缩放处理,获取所述第一图像,包括:
基于所述第二图像对应的物理像素大小,以及第一指定像素大小,获取第一缩放比;所述第一指定像素大小用于指示所述细胞分析模型对应的像素大小;
基于所述第一缩放比,对所述第二图像进行缩放处理,获取所述第一图像。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
获取通过第二图像采集设备采集的第二样本图像,以及所述第二样本图像对应的像素大小;
基于所述第二样本图像,通过所述像素预测模型进行处理,获取所述第二样本图像对应的样本像素大小;
基于所述第二样本图像对应的像素大小,以及所述第二样本图像对应的样本像素大小,对所述像素预测模型进行参数更新。
7.根据权利要求1所述的方法,其特征在于,所述特征提取分支包括第一骨干分支以及第一提取分支;所述第一骨干分支包含至少一层骨干提取层;所述第一提取分支包含至少两层特征提取层;
所述基于所述第一图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图,包括:
基于所述第一图像,通过至少一层所述骨干提取层进行特征提取,获取第一骨干特征图;
基于所述第一骨干特征图,通过至少两层所述特征提取层进行数据处理,获取所述第一图像对应的至少两种尺度的特征图。
8.根据权利要求1所述的方法,其特征在于,所述细胞分析模型中包括至少两个检测分支;
所述基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布之前,还包括:
基于所述第一概率分布,在所述至少两个检测分支中获取与所述第一图像对应的检测分支;
所述基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布,包括:
基于所述至少两种尺度的特征图,通过所述细胞分析模型中与所述第一图像对应的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布。
9.一种基于病理图像的细胞分析方法,其特征在于,所述方法包括:
获取第一样本图像,以及所述第一样本图像对应的标注信息;所述第一样本图像是指定部位的细胞对应的病理图像;所述第一样本图像对应的标注信息包括所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息;
基于所述第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一样本图像对应的至少两种尺度的样本特征图;
基于第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取所述第一样本图像对应的第一样本概率分布;所述第一样本概率分布用于指示所述第一样本图像中存在各个状态的细胞的概率;所述第一样本特征图是所述至少两种尺度的样本特征图中的一个样本特征图;
基于所述至少两种尺度的样本特征图,通过所述细胞分析模型中的检测分支进行处理,获取所述第一样本图像中的第一样本预测位置对应的第二样本概率分布;所述第二样本概率分布用于指示位于所述第一样本预测位置的细胞处于各种状态的概率;
基于所述第一样本图像对应的标注信息、所述第一样本预测位置、所述第一样本概率分布以及所述第二样本概率分布,对所述细胞分析模型进行参数更新;
其中,更新后的所述细胞分析模型,用于,
基于第一图像,通过更新后的所述细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;所述第一图像是指定部位的细胞对应的病理图像;
基于第一特征图,通过更新后的所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布,所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率,所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
基于所述至少两种尺度的特征图,通过更新后的所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;
基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
10.根据权利要求9所述的方法,其特征在于,所述获取第一样本图像,还包括:
获取通过第一图像采集设备采集的第三样本图像;
基于所述第三样本图像,通过像素预测模型进行处理,获取所述第三样本图像对应的物理像素大小;
基于所述第三样本图像对应的物理像素大小,对所述第三样本图像进行缩放处理,获取所述第一样本图像。
11.一种基于病理图像的细胞分析装置,其特征在于,所述装置包括:
第一图像获取模块,用于获取第一图像,所述第一图像是指定部位的细胞对应的病理图像;
特征图获取模块,用于基于所述第一图像,通过细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;
第一概率获取模块,用于基于第一特征图,通过所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布;所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率;所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
第二概率获取模块,用于基于所述至少两种尺度的特征图,通过所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;其中,所述细胞分析模型,是以第一样本图像为样本,以所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息训练得到的机器学习模型;
细胞状态确定模块,用于基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
12.一种基于病理图像的细胞分析装置,其特征在于,所述装置包括:
第一样本图像获取模块,用于获取第一样本图像,以及所述第一样本图像对应的标注信息;所述第一样本图像是指定部位的细胞对应的病理图像;所述第一样本图像对应的标注信息包括所述第一样本图像对应的细胞位置信息以及与所述细胞位置信息对应的细胞状态信息;
样本特征图获取模块,用于基于所述第一样本图像,通过细胞分析模型的特征提取分支进行数据处理,获取所述第一样本图像对应的至少两种尺度的样本特征图;
第一样本概率获取模块,用于基于第一样本特征图,通过细胞分析模型中的分类分支进行处理,获取所述第一样本图像对应的第一样本概率分布;所述第一样本概率分布用于指示所述第一样本图像中存在各个状态的细胞的概率;所述第一样本特征图是所述至少两种尺度的样本特征图中的一个样本特征图;
第二样本概率获取模块,用于基于所述至少两种尺度的样本特征图,通过所述细胞分析模型中的检测分支进行处理,获取所述第一样本图像中的第一样本预测位置对应的第二样本概率分布;所述第二样本概率分布用于指示位于所述第一样本预测位置的细胞处于各种状态的概率;
第一更新模块,用于基于所述第一样本图像对应的标注信息、所述第一样本预测位置、所述第一样本概率分布以及所述第二样本概率分布,对所述细胞分析模型进行参数更新;
其中,更新后的所述细胞分析模型,用于,
基于第一图像,通过更新后的所述细胞分析模型中的特征提取分支进行数据处理,获取所述第一图像对应的至少两种尺度的特征图;所述第一图像是指定部位的细胞对应的病理图像;
基于第一特征图,通过更新后的所述细胞分析模型中的分类分支进行数据处理,获取所述第一图像对应的第一概率分布,所述第一概率分布用于指示所述第一图像中存在各种状态的细胞的概率,所述第一特征图是所述至少两种尺度的特征图中的一个特征图;
基于所述至少两种尺度的特征图,通过更新后的所述细胞分析模型中的检测分支进行数据处理,获取所述第一图像中的第一预测位置对应的第二概率分布;所述第二概率分布用于指示位于所述第一预测位置的细胞处于各种状态的概率;
基于所述第一概率分布以及所述第二概率分布,确定所述第一预测位置的细胞对应的状态。
13.一种计算机设备,其特征在于,所述计算机设备包含处理器和存储器,所述存储器中存储有至少一条计算机指令,所述至少一条计算机指令由所述处理器加载并执行以实现如权利要求1至10任一所述的基于病理图像的细胞分析方法。
14.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条计算机指令,至少一条计算机指令由处理器加载并执行以实现如权利要求1至10任一所述的基于病理图像的细胞分析方法。
CN202110511846.1A 2021-05-11 2021-05-11 基于病理图像的细胞分析方法、装置、设备及存储介质 Active CN113706449B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110511846.1A CN113706449B (zh) 2021-05-11 2021-05-11 基于病理图像的细胞分析方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110511846.1A CN113706449B (zh) 2021-05-11 2021-05-11 基于病理图像的细胞分析方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113706449A CN113706449A (zh) 2021-11-26
CN113706449B true CN113706449B (zh) 2022-07-29

Family

ID=78647966

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110511846.1A Active CN113706449B (zh) 2021-05-11 2021-05-11 基于病理图像的细胞分析方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113706449B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110175998A (zh) * 2019-05-30 2019-08-27 沈闯 基于多尺度深度学习的乳腺癌图像识别方法、装置及介质
CN110853030A (zh) * 2019-11-19 2020-02-28 长春理工大学 生物反应器病毒感染细胞质量评价方法
CN112330671A (zh) * 2020-11-30 2021-02-05 深圳市瑞图生物技术有限公司 细胞分布状态的分析方法、装置、计算机设备和存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111597922B (zh) * 2020-04-28 2024-05-28 腾讯医疗健康(深圳)有限公司 细胞图像的识别方法、系统、装置、设备及介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110175998A (zh) * 2019-05-30 2019-08-27 沈闯 基于多尺度深度学习的乳腺癌图像识别方法、装置及介质
CN110853030A (zh) * 2019-11-19 2020-02-28 长春理工大学 生物反应器病毒感染细胞质量评价方法
CN112330671A (zh) * 2020-11-30 2021-02-05 深圳市瑞图生物技术有限公司 细胞分布状态的分析方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN113706449A (zh) 2021-11-26

Similar Documents

Publication Publication Date Title
EP3961484A1 (en) Medical image segmentation method and device, electronic device and storage medium
CN110378381B (zh) 物体检测方法、装置和计算机存储介质
CN110148142B (zh) 图像分割模型的训练方法、装置、设备和存储介质
WO2020207377A1 (zh) 一种图像识别模型训练及图像识别方法、装置及系统
US11967069B2 (en) Pathological section image processing method and apparatus, system, and storage medium
CN110866908B (zh) 图像处理方法、装置、服务器及存储介质
CN111524137B (zh) 基于图像识别的细胞识别计数方法、装置和计算机设备
CN111260677B (zh) 基于显微图像的细胞分析方法、装置、设备及存储介质
CN111754396B (zh) 脸部图像处理方法、装置、计算机设备和存储介质
CN112801057B (zh) 图像处理方法、装置、计算机设备和存储介质
CN110796199B (zh) 一种图像处理方法、装置以及电子医疗设备
CN114445670B (zh) 图像处理模型的训练方法、装置、设备及存储介质
CN112581438B (zh) 切片图像识别方法、装置和存储介质及电子设备
CN108830149B (zh) 一种目标细菌的检测方法及终端设备
CN114037637B (zh) 一种图像数据增强方法、装置、计算机设备和存储介质
CN112884782B (zh) 生物对象分割方法、装置、计算机设备和存储介质
CN110570352A (zh) 图像标注方法、装置、系统及细胞标注方法
CN112419295A (zh) 医学图像处理方法、装置、计算机设备和存储介质
CN116580394A (zh) 一种基于多尺度融合和可变形自注意力的白细胞检测方法
CN114693624A (zh) 一种图像检测方法、装置、设备及可读存储介质
CN112703531A (zh) 生成组织图像的注释数据
CN114332854A (zh) 图像处理方法、装置、设备及存储介质
CN113706449B (zh) 基于病理图像的细胞分析方法、装置、设备及存储介质
CN115497092A (zh) 图像处理方法、装置及设备
CN115659221A (zh) 一种教学质量的评估方法、装置及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
TA01 Transfer of patent application right

Effective date of registration: 20211122

Address after: 518000 Room 201, building A, 1 front Bay Road, Shenzhen Qianhai cooperation zone, Shenzhen, Guangdong

Applicant after: Tencent Medical Health (Shenzhen) Co.,Ltd.

Address before: 518057 Tencent Building, No. 1 High-tech Zone, Nanshan District, Shenzhen City, Guangdong Province, 35 floors

Applicant before: TENCENT TECHNOLOGY (SHENZHEN) Co.,Ltd.

TA01 Transfer of patent application right
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant