CN114972222A - 细胞信息统计方法、装置、设备及计算机可读存储介质 - Google Patents
细胞信息统计方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN114972222A CN114972222A CN202210522470.9A CN202210522470A CN114972222A CN 114972222 A CN114972222 A CN 114972222A CN 202210522470 A CN202210522470 A CN 202210522470A CN 114972222 A CN114972222 A CN 114972222A
- Authority
- CN
- China
- Prior art keywords
- model
- cell
- image
- learning
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Geometry (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
本发明公开了一种细胞信息统计方法、装置、设备及计算机可读存储介质,方法包括:S1、获取待统计的细胞群的目标图像信息;S2、选择预建模型,并将目标图像信息输入预建模型,得到结果图像;S3、判别结果图像是否有区域存在缺陷特征,缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的若干项,若是,则执行步骤S4‑S6,否则执行步骤S6;S4、对存在缺陷特征的至少一处区域进行标注操作;S5、根据标注操作对预建模型进行再训练,并将目标图像信息输入再训练后的模型,以得到新的结果图像;S6、基于当前结果图像,对细胞进行计数。本发明采用深度学习结合半监督学习方法,仅需对结果不满意的区域进行少量标注即可达到预期的效果。
Description
技术领域
本申请涉及细胞图像分析领域,尤其涉及细胞信息统计方法、装置、设备及计算机可读存储介质。
背景技术
细胞计数是计算机视觉领域的研究热门,对细胞信息进行提取并统计是一项重要技术,也是医学图像处理的难题。目前通常是基于传统的深度学习方法来对细胞进行分割计数,传统的深度学习方法包括构建数据集、数据扩增、设计深度学习模型,再在数据集上训练直至模型收敛,得到一个基础模型。
这样的深度学习方法需要在构建数据集阶段收集大量的训练图片,并且需要一一标注,如果需要使得到的模型认识其他细胞系的细胞,则需要重新收集其他细胞系的大量训练图片并一一标注。
为了弥补目前深度学习模型的精度不足,目前通常采用荧光细胞图像或者染色细胞图像来增强细胞特征,但是荧光、染色不仅增加了成本,而且对细胞有毒害,并且预先对细胞进行荧光激发或染色需要耗费大量的时间,比如DAPI染色需要耗时70分钟左右,后期的图像处理步骤也变得繁琐。
目前通常使用传统的随机森林机器学习算法来对免染色或非荧光的细胞进行计数,但是这种算法准确率不够,需要用户进行大量标注才能够得到理想的结果。
发明内容
本发明的目的是提供一种仅需要少量标注即可实现细胞分割计数的图像处理算法,以此来实现细胞信息的统计。
为达到上述目的,本发明采用的技术方案如下:
一种细胞信息统计方法,用于对细胞群进行信息统计,包括以下步骤:
S1、获取待信息统计的细胞群的目标图像信息;
S2、选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像;
S3、判别所述结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项,若是,则执行步骤 S4-S6,否则执行步骤S6;
S4、对存在缺陷特征的至少一处区域进行标注操作;
S5、根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;
S6、基于当前结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
进一步地,在步骤S5之后,重复执行步骤S3至S5,直至达到预设的重复次数,或者直至所述结果图像中没有存在缺陷特征的区域,则执行步骤S6。
进一步地,所述预建模型通过以下步骤训练得到:
M1、获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
M2、设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
M3、使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
进一步地,步骤M3进一步包括:
M301、获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
M302、将其中的一样本图像输入基础模型,得到训练中结果图像;
M303、确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
M304、对存在缺陷特征的至少一处区域进行标注操作;
M305、根据所述标注操作对当前模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;
重复执行步骤M303至M305,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行步骤M306;
M306、将所述基础模型更新为当前模型;
M307、遍历所述样本图像集,将下一样本图像输入当前模型以得到当前训练中结果图像,并执行步骤M303至M306,直至其中的样本图像经历预设轮次的遍历后执行M308;
M308、保存当前模型,得到所述预建模型。
进一步地,步骤S5中根据所述标注操作对所述预建模型进行再训练的过程中,仅对进行标注操作的区域进行关注和学习,包括:根据标注操作提取特征,以对所述模型进行再训练。
进一步地,所述仅对进行标注操作的区域进行关注和学习包括:
划定进行标注操作的区域范围,使得所划定的范围包括标注操作所涉及的细胞;
生成所划定的区域范围的子图像,将该子图像及对应的标注操作信息作为深度学习样本输入待再训练的模型;
以对应的标注操作信息为学习目标,深度学习所述子图像的特征,以更新所述模型中的神经网络参数,得到再训练后的模型。
进一步地,在步骤M3之后还包括:
M4、获取其他细胞系的多张图像,并对其进行人工标注,得到其他细胞系的标注样本;
M5、将其他细胞系的标注样本输入所述预建模型,并使用半监督学习方法进行再训练,得到支持该其他细胞系的预建模型。
进一步地,所述标注操作包括人工标注形式的背景标注和/或细胞标注。
进一步地,步骤S2中从预建的模型数据库中选择其中一个预建模型,在步骤S6之前或之后还包括:
S7、保存当前的再训练的模型,并将其添加到所述模型数据库中。
可选地,步骤S1中的所述待信息统计的细胞群的目标图像信息为无染色无荧光细胞图像、染色细胞图像、荧光细胞图像、相衬图像、明场图像中的一种或多种。
根据本发明的另一方面,提供了一种细胞信息统计装置,用于对细胞群的细胞进行信息统计,包括以下模块:
待统计目标获取模块,其被配置为获取待信息统计的细胞群的目标图像信息;
预建模型调用模块,其被配置为选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像;
缺陷特征确定模块,其被配置为确定所述结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标注及再训练模块,其被配置为接收所述缺陷特征确定模块的确定结果,对存在缺陷特征的至少一处区域进行标注操作,再根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;
统计模块,其被配置为基于结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
进一步地,所述预建模型调用模块包括以下单元:
标注样本单元,其被配置为获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
基础模型单元,其被配置为设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
预建模型单元,其被配置为使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
进一步地,所述预建模型单元包括以下子单元:
样本图像集获取子单元,其被配置为获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
遍历子单元,其被配置为遍历所述样本图像集,每次将其中的一个样本图像发送至训练子单元;
训练子单元,其被配置为将接收到的样本图像输入基础模型,得到训练中结果图像;
缺陷判别子单元,其被配置为接收所述训练子单元得到的所述训练中结果图像,并判别所述训练中结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标记及再训练子单元,其被配置为对存在缺陷特征的至少一处区域进行标注操作;再根据所述标注操作对所述基础模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像,并将其发送至所述缺陷判别子单元;
模型更新子单元,其被配置为当所述缺陷判别子单元判别到无缺陷特征时,将所述基础模型更新为当前模型;且触发所述遍历子单元将下一个样本图像发送至所述训练子单元;
模型保存子单元,其被配置为响应于所述遍历子单元遍历过程结束,保存当前模型,得到所述预建模型。
根据本发明的另一方面,提供了一种电子设备,包括处理器和存储器,其中,所述存储器用于存储程序指令,所述处理器被配置为运行所述程序指令,所述程序指令被运行而执行如上所述的方法的步骤。
根据本发明的另一方面,提供了一种计算机可读存储介质,用于存储程序指令,所述程序指令被配置为调用而执行如上所述的方法的步骤。
根据本发明的再一方面,提供了一种计算机程序产品,包括被可读存储的计算机程序,所述计算机程序包括程序指令,当所述程序指令在计算机设备上运行时,计算机设备执行如上所述的方法的步骤。
根据本发明的又一方面,提供了一种模型训练方法,包括以下步骤:
M1、获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
M2、设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
M3、使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型;
其中,步骤M3进一步包括:
M301、获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
M302、将其中的一样本图像输入基础模型,得到训练中结果图像;
M303、确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
M304、对存在缺陷特征的至少一处区域进行标注操作;
M305、根据所述标注操作对当前模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;
重复执行步骤M303至M305,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行步骤M306;
M306、将所述基础模型更新为当前模型;
M307、遍历所述样本图像集,将下一样本图像输入当前模型以得到当前训练中结果图像,并执行步骤M303至M306,直至其中的样本图像经历预设轮次的遍历后执行M308;
M308、保存当前模型,得到所述预建模型。
本发明提供的技术方案带来的有益效果如下:
a.用户对预建模型输出结果不满意的情况下通过对结果图像进行标注并对模型进行再训练,以达到期望的效果,因此,对初始模型的精度要求较低,前期建立模型阶段无需大量标注过的训练样本;
b.通过深度学习得到的基础模型,结合少量的被标注的细胞系图片,通过半监督学习的方法可得到该细胞系的预建模型,不同细胞系的预建模型可以共享同一深度学习的基础模型,即同一基础模型结合不同细胞系图片可以得到对应支持不同细胞系的预建模型;
c.适用于大多数的细胞图像,包括染色细胞图像、荧光细胞图像、相衬图像、明场图像,甚至能够精确地分辨无染色无荧光细胞图像中的细胞;
d.半监督学习方法中仅对进行标注操作的区域进行关注和学习,相比于全监督学习方法具有算法更简便、再训练学习目的更明确的优点,用户针对自己不满意的图像缺陷区域进行标注及模型再训练,可以训练得到自己满意的模型,并且随着用户对越来越多的细胞图像进行识别,模型精度越来越高。
附图说明
为了更清楚地说明本申请实施例中的技术方案或常规的技术方案,下面将对实施例或常规技术方案描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明的一个示例性实施例提供的细胞信息统计方法基础流程示意图;
图2是本发明的一个示例性实施例提供的细胞信息统计方法的具体流程示意图;
图3是本发明的示例性实施例提供的预建模型的训练方法流程示意图;
图4是本发明的示例性实施例提供的使用半监督学习方法对所述基础模型进行再训练的方法流程示意图;
图5是本发明的示例性实施例提供的建立支持两个以上细胞系的预建模型的方法流程示意图;
图6是本发明的示例性实施例提供的仅对进行标注操作的区域进行关注和学习的方法流程示意图;
图7是本发明的示例性实施例提供的细胞信息统计装置的模块示意框图;
图8是本发明的示例性实施例提供的预建模型单元的子单元示意框图;
图9(a)是无染色无荧光细胞图像的原始图像;
图9(b)是本发明的示例性实施例提供的图9(a)输入预建模型后得到的结果图像;图9(c)是本发明的示例性实施例提供的对图9(b)中缺陷特征进行标注后的图像;
图10(a)是荧光细胞图像的原始图像;
图10(b)是本发明的示例性实施例提供的图10(a)输入预建模型后得到的结果图像;
图10(c)是本发明的示例性实施例提供的对图10(b)中缺陷特征进行标注后的图像;
图10(d)是本发明的示例性实施例提供的利用图10(c)对模型再训练后再输出的结果图像;
图11是执行本发明实施例所描述的方法的系统100的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、装置、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其他步骤或单元。
常规的利用图像分析法对细胞计数的方法中,需要对细胞进行染色或荧光激发,使其在图像中呈现特定的特征,以便于区分相邻的细胞。而本发明的目的在于提供一种改进的图像分析方法,即使是无染色无荧光细胞图像,也能够通过简单的操作准确地统计出图像中的细胞信息。由于无染色无荧光细胞图像是分析处理难度最大的图像类型,因此,本发明中适用于无染色无荧光细胞图像的细胞信息统计方法,对于其他类型比如染色细胞图像、荧光细胞图像、相衬图像、明场图像同样是适用的。
本发明用一种细胞系的图像数据来深度学习,训练得到基础模型;再基于这个基础模型,采用半监督学习的方法来训练得到预建模型,并且响应其他细胞系的支持需求,仅需要少量标注其他细胞系的图像作为半监督学习的训练样本即可,而无需重新建立基础模型。
在本发明的一个实施例中,提供了一种细胞信息统计方法,用于对细胞群进行信息统计,比如对细胞数量进行计数、对细胞大小进行分类计量或者对细胞形状进行分类统计等等。
本实施例中,需要预先建立一个或多个预建模型,组成模型数据库,根据待信息统计的细胞群来选择合适的预建模型,利用预建模型对细胞图像进行处理得到结果图像。如图3所示,数据库中的预建模型通过以下步骤训练得到:
M1、获取一个细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
M2、设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
M3、使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
具体如图4所示,步骤M3进一步包括:
M301、获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像。
与步骤M1中标注学习样本不同的是,这里的样本图像集中的样本图像可以不需要预先人工标注。比如样本图像集中有100张样本图像,分别编号为 0001至0100。
M302、将其中的一样本图像输入基础模型,得到训练中结果图像;
M303、确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
M304、对存在缺陷特征的至少一处区域进行标注操作;
M305、根据所述标注操作对当前模型进行再训练,具体为将样本图像和至少标注操作的局部区域图像(也可以是进行标注操作后的训练中结果图像) 输入当前模型以再训练得到新的模型,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;
重复执行步骤M303至M305,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行步骤M306;
M306、将所述基础模型更新为当前模型;
比如按照编号0001至0100的顺序依次利用单张样本图像使用半监督学习方法对基础模型进行再训练,至此完成对编号0001的样本图像训练完毕。
M307、遍历所述样本图像集,将下一样本图像输入当前模型以得到当前训练中结果图像,并执行步骤M303至M306,直至其中的样本图像经历预设轮次的遍历后执行M308;
比如按序遍历至编号为0002的样本图像,对其执行步骤M302至M306,然后对编号为0003的样本图像执行步骤M302至M306,直至遍历到编号为 0100的样本图像,对其执行步骤M302至M306。至此完成一轮次的遍历,本发明并不限定遍历的轮次数量,若不完全遍历样本图像集中的全部图像(比如跳过其中编号为0066的图像,或只遍历到编号为0098的图像),也应该视为本实施例的简单置换,同样落入本发明要求的保护范围。
M308、保存当前模型,得到所述预建模型。
按照预设的遍历规则完成遍历后,最终得到的模型即为预建模型。
在本发明的一个实施例中,还可以建立支持两个以上细胞系的预建模型,具体如图5所示:
在步骤M1中,假设获取的是第一细胞系的多张图像,那么相应的步骤 M308得到的是支持第一细胞系的预建模型;
在步骤M3之后还包括:
M4、获取其他细胞系(比如第二细胞系)的多张图像,并对其进行人工标注,得到其他细胞系的标注样本;
M5、将其他细胞系的标注样本输入所述预建模型,并使用半监督学习方法进行再训练,得到支持该其他细胞系的预建模型。
步骤M5的具体执行步骤如下:以相同于步骤M301或不同于步骤M301 的样本图像集,将第一张样本图像输入所述预建模型,得到训练中结果图像;
确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;对存在缺陷特征的至少一处区域进行标注操作;根据所述标注操作对所述基础模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;重复执行这个步骤,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行以下步骤:
将所述基础模型更新为当前模型,遍历样本图像集的下一张样本图像,将其输入当前模型以得到当前训练中结果图像,并执行上一段落的步骤,即每遍历一张样本图像,则更新保存一次当前模型,直至样本图像集中的样本图像经历预设轮次的遍历后,将最新的当前模型保存为同时支持第一细胞系和第二细胞系的预建模型。
若想其同时支持第三细胞系,则可以取第二细胞系的多张图像,执行步骤M4至M5,在此不再赘述。
也可以就不同的细胞系,分别执行步骤M1至M3,得到不同的预建模型,可以将这些预建模型保存得到预建模型数据库。
基于预建模型的建立,可以对细胞图像(甚至是无染色无荧光细胞图像) 进行识别以统计图像中的细胞信息(比如数量、大小或形状),如图1所示,细胞信息统计方法包括以下步骤:
S1、获取待信息统计的细胞群的目标图像信息。
待信息统计的细胞群往往不会是单个的细胞,而是呈多个细胞聚集的状态。可以利用显微镜对该细胞群进行图像采集,得到目标图像,如图9(a)所示的无染色无荧光细胞图像。
S2、选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像,如图9(b)所示。
具体地,从预建的模型数据库中选择其中一个预建模型,比如模型数据库中有支持细胞系a的预建模型A,支持细胞系b的预建模型B,支持细胞系 a、c的预建模型C,若所述待信息统计的细胞群属于细胞系a,则可以选择预建模型A;若该细胞群属于细胞系c,则可以选择预建模型C;若该细胞群属于细胞系b’,则选择与细胞系b’最相近的细胞系b对应的预建模型B。
S3、判别所述结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项,若是,则执行步骤 S4-S6,否则执行步骤S6;
若当前结果图像不存在缺陷特征,则直接执行S6,即基于当前没有缺陷特征的结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
若当前结果图像存在缺陷特征,则执行:S4、对存在缺陷特征的至少一处区域进行标注操作,如图9(c)中两处箭头所示(实际界面上可以不显示箭头);S5、根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;本实施例中,将步骤S1 中的目标图像和至少标注操作的局部区域图像(也可以是进行标注操作后的结果图像)输入所述预建模型以再训练得到新的模型;但是本发明并不限定输入的是步骤S1中的目标图像,在另一个实施例中,可以利用显微镜对该细胞群重新图像采集,得到当前新的目标图像。
对于目标图像是荧光细胞图像的情况,如图10(a)所示,将其输入预建模型得到如图10(b)所示的结果图像,结果图像上还显示了细胞数量,10(c)示出了对该结果图像进行标注,其中标注的点标识细胞,标注的线标识背景(非细胞),然后将标注操作和目标图像输入当前模型进行再训练得到再训练后的模型,再将目标图像输入再训练后的模型,得到图10(d)所示的新的结果图像,可以看到经过新的模型识别所得到的细胞数量的精确度提高了。
S6、基于当前结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
这里的执行步骤S4-S6包括多种情况:
情况一:无论步骤S5得到的新的结果图像是否还存在缺陷特征,都直接执行步骤S6;
情况二:如图2所示,在步骤S5之后,重复执行步骤S3至S5,直至所述结果图像中没有存在缺陷特征的区域,则执行步骤S6;
情况三:在步骤S5之后,重复执行步骤S3至S5,直至重复预设的次数,比如重复5次,之后无论步骤S5得到的新的结果图像是否还存在缺陷特征,都执行步骤S6。
具体地,步骤S5中根据所述标注操作对所述预建模型进行再训练的过程中,仅对进行标注操作的区域进行关注和学习,包括:根据标注操作提取特征,以对所述模型进行再训练。
“仅对进行标注操作的区域进行关注和学习”还同时为步骤M3、M305中特征,如图6所示,所述仅对进行标注操作的区域进行关注和学习包括:
划定进行标注操作的区域范围,使得所划定的范围包括标注操作所涉及的细胞;
生成所划定的区域范围的子图像,将该子图像及对应的标注操作信息作为深度学习样本输入待再训练的模型;
以对应的标注操作信息为学习目标,深度学习所述子图像的特征,以更新所述模型中的神经网络参数,得到再训练后的模型。
具体地,标注操作是针对图像中缺陷特征所作出的操作,标注操作具体包括人工标注形式的背景标注和/或细胞标注。比如,人工判别图像中某处区域的两个细胞发生了黏连,则可以采用背景标注,即在这两个细胞间划上背景标记线;若人工判别图像中某处的细胞被忽略了(将其误识别为背景),则可以采用细胞标注,即在这个细胞上划上细胞标记点。本实施例中,背景标注和细胞标注采用不同的颜色,以便于人工标注的时候区分标注类型,避免想细胞标注的时候而未察觉误用背景标注。
在本发明的一个实施例中,图像中若存在多处类型不同的缺陷特征,需要对不同类型的缺陷特征均进行标注;图像中若存在多处相同类型的缺陷特征,可以仅对其中一处缺陷特征进行标注,即不需要强求用户标注的太精细,只需要粗略标注那些明显不满意的地方即可,在每次标注后都能得到反馈,采用这种渐进式的交互方式,直至达到预期的效果。然后模型经过对标注的缺陷特征进行深度学习后,更新所述模型中的神经网络参数以得到再训练后的模型,将该图像再次输入再训练后的模型中,得到的结果图像若是不仅之前标注的缺陷特征消失,而且之前其他处相同类型的缺陷特征也消失,则验证此次深度学习的有效性为100%;若之前其他处相同类型的缺陷特征并未全部消失,则根据预设的标准得到此次深度学习的有效性,比如有少于十分之一的相同类型的缺陷特征未消失,则深度学习的有效性为90%;有大于五分之一的相同类型的缺陷特征未消失,则深度学习的有效性为不合格,对于不合格的情况,可以返回到该图像的初始状态,重新对其中一处或多处缺陷特征进行标注。
在步骤S6之前或之后还包括:
S7、保存当前的再训练的模型,并将其添加到所述模型数据库中。
以待统计的细胞群属于细胞系b’为例,在步骤S2中选择了相近的预建模型B,在步骤S6执行的时候,有根据标注操作对预建模型进行再训练的情况下,得到的再训练后的模型即可以作为支持细胞系b’的预建模型B’;若下一次要对细胞系b’进行信息统计时,可以直接选取预建模型B’。
或者,以待信息统计的细胞群属于细胞系a为例,在步骤S2中选择了预建模型A,后续有根据标注操作对预建模型进行再训练的情况下,得到的再训练后的模型即可以作为支持细胞系a的预建模型A的优化模型;若下一次要对细胞系a进行信息统计时,可以直接选取预建模型A的优化模型。随着模型的迭代更新,优化模型的学习能力逐步增强,可使下一次执行步骤S1至 S6的过程中,结果图像出现缺陷特征的数量逐步减少,进一步提升操作的简便性。
在本发明的一个实施例中,提供了相应的客户端,用户在客户端上进行细胞分割的操作如下:
用户加载细胞群的目标图像信息,选择并加载一个预建模型,运行得到一张结果图像,若用户满意,则不用执行后续步骤,以当前结果图像作为细胞分割结果,进行计数或者其他信息统计;
若用户不满意,则对不满意的区域进行标注,比如,在黏连的细胞之间标注背景,在消失的细胞处标注细胞;完成标注后,点击客户端的再训练按钮,然后客户端界面会显示新的结果图像,反复上述步骤,直至结果图像达到用户预期,否则就继续标注、再训练。最后以满意的结果图像作为细胞分割结果,进行计数或者其他信息统计。
细胞形态各异,不同的细胞在显微镜下面有不同的形态,另一方面,研究员可能对细胞下药或者改变培养液的操作可能会对细胞的形态产生影响,再者,不同的光强或曝光时间对成像有很大的影响,进而对算法结果有很大的影响。本发明实施例中,用户可以训练并保存自己的模型来满足自己的应用场景,通常一个用户仅针对特定几个细胞系感兴趣。他们可以保存自己的模型,允许用户在很短的时间内训练他们自己的模型,所以几乎可以满足所有用户的需求,并且使用模型对细胞图像识别的次数越多,在识别过程中用户通过对不满意的区域进行标注以强化模型的再训练,使得模型输出的结果越准确,最终达到很高的准确率。并且,不需要强求用户标注的太精细,只需要粗略标注那些明显不满意的地方即可,在每次标注后都能得到反馈,采用这种渐进式的交互方式,直至达到预期的效果。在对578张hela相差图的测试中,得到的验证结果为平均准确率达到94.42%,R2(从自变量预测的因变量的变化比例)达到0.9931。
在本发明的一个实施例中,提供了一种细胞信息统计装置,用于对细胞群的细胞进行信息统计,如图7所示,细胞信息统计装置包括以下模块:
待统计目标获取模块,其被配置为获取待信息统计的细胞群的目标图像信息;
预建模型调用模块,其被配置为选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像;
缺陷特征确定模块,其被配置为确定所述结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标注及再训练模块,其被配置为接收所述缺陷特征确定模块的确定结果,对存在缺陷特征的至少一处区域进行标注操作,再根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;
统计模块,其被配置为基于结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
如图7所示,所述预建模型调用模块包括以下单元:
标注样本单元,其被配置为获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
基础模型单元,其被配置为设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
预建模型单元,其被配置为使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
如图8所示,所述预建模型单元包括以下子单元:
样本图像集获取子单元,其被配置为获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
遍历子单元,其被配置为遍历所述样本图像集,每次将其中的一个样本图像发送至训练子单元;
训练子单元,其被配置为将接收到的样本图像输入基础模型,得到训练中结果图像;
缺陷判别子单元,其被配置为接收所述训练子单元得到的所述训练中结果图像,并判别所述训练中结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标记及再训练子单元,其被配置为对存在缺陷特征的至少一处区域进行标注操作;再根据所述标注操作对所述基础模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像,并将其发送至所述缺陷判别子单元;
模型更新子单元,其被配置为当所述缺陷判别子单元判别到无缺陷特征时,将所述基础模型更新为当前模型;且触发所述遍历子单元将下一个样本图像发送至所述训练子单元;
模型保存子单元,其被配置为响应于所述遍历子单元遍历过程结束,保存当前模型,得到所述预建模型。
在本发明的一个实施例中,提供了一种电子设备,包括处理器和存储器,其中,所述存储器用于存储程序指令,所述处理器被配置为运行所述程序指令,所述程序指令被运行而执行如上方法实施例所执行的步骤。
在本发明的一个实施例中,提供了一种计算机可读存储介质,用于存储程序指令,所述程序指令被配置为调用而执行如上方法实施例所执行的步骤。
在本发明的一个实施例中,提供了一种计算机程序产品,包括被可读存储的计算机程序,所述计算机程序包括程序指令,当所述程序指令在计算机设备上运行时,计算机设备执行如上方法实施例所执行的步骤。
需要说明的是,上述细胞信息统计装置、电子设备、计算机可读存储介质、计算机程序产品实施例与细胞信息统计方法实施例属于相同的发明构思,通过引用的方式将细胞信息统计方法实施例的全部内容并入细胞信息统计装置、电子设备、计算机可读存储介质、计算机程序产品实施例中。
一些实施例涉及一种包括应用于细胞信息统计方法、装置的显微镜。可选地,显微镜可以是执行如结合图1至图6中的一个或多个方法流程的系统的一部分或连接到该系统。图11示出被配置为执行本发明所描述的方法的系统100的示意图。系统100包括显微镜110和计算机系统120。显微镜110配置为拍摄图像,并连接到计算机系统120。计算机系统120被配置为执行本发明所描述的方法的至少一部分。计算机系统120可以被配置为执行机器学习算法。计算机系统120和显微镜110可以是单独的实体,但也可以集成到一个公用外壳中。计算机系统120可以是显微镜110的中央处理系统的一部分并且/或者,计算机系统120可以是显微镜110的子组件的一部分,例如显微镜110的传感器、执行器、照相机或照明单元等。
计算机系统120可以是具有一个或多个处理器和一个或多个存储装置的本地计算机装置(例如个人电脑、笔记本、平板电脑或移动电话),或者也可以是分布式计算机系统(例如,具有分布在各个位置、例如本地客户端和/ 或一个或多个远程服务器场所和/或数据中心的一个或多个处理器和一个或多个存储装置)。计算机系统120可以包括任何电路或电路的组合。在一个实施例中,计算机系统120可以包括一个或多个可以是任何类型的处理器。如本发明所使用的,处理器可以指任何类型的计算电路,例如但不限于微处理器、微控制器、复杂指令集计算(CISC)微处理器、精简指令集计算(RISC) 微处理器、超长长指令字(VLIW)微处理器、图形处理器、数字信号处理器 (DSP)、多核处理器、例如显微镜或显微镜组件(例如相机)的现场可编程门阵列(FPGA)或任何其他类型处理器或处理电路。可以包括在计算机系统 120中的其他类型的电路可以是定制电路、专用集成电路(ASlC)等,例如在移动电话、平板电脑、笔记本电脑、双向无线电和类似电子系统之类的无线装置中使用的一个或多个电路(例如通信电路)。计算机系统120可以包括一个或多个存储设备,其可以包括一个或多个适合特定应用的存储元件,例如形式为随机存取存储器(RAM)的主存储器、一个或多个硬盘驱动器和/ 或一个或多个处理可移除的媒体介质、例如光盘(CD)、闪存卡、数字视频磁盘(DVD)等的驱动器。计算机系统120还可以包括显示装置、一个或多个扬声器以及键盘和/或控制器,其可以包括鼠标、轨迹球、触摸屏、语音识别装置或允许系统用户将信息输入到计算机系统120或从计算机系统120接收信息的任何其它装置。
方法步骤中的一些或全部可以通过(或使用)硬件设备(例如,处理器、微处理器、可编程计算机或电子电路)来执行。在一些实施例中,这种设备可以执行最重要的方法步骤中的一个或多个。
取决于某些实施要求,本发明的实施例可以在硬件或软件中实施。可以使用存储在其上的电子可读控制信号的非暂时性存储介质(诸如数字存储介质、例如软盘、DVD、蓝光、CD、ROM、PROM和EPROM、EEPROM或 FLASH)进行该实施,该电子可读控制信号与可编程计算机系统协作(或能够协作),从而执行相应的方法。因此,数字存储介质可以是计算机可读的。
本发明的一些实施例包括具有电子可读控制信号的数据载体,该电子可读控制信号能够与可编程计算机系统协作,从而执行本发明描述的方法之一。
通常,本发明的实施例可以实施为具有程序代码的计算机程序产品,当计算机程序产品在计算机上运行时,该程序代码可运行,以用于执行所述方法之一。程序代码例如可以存储在机器可读载体上。
其他实施例包括存储在机器可读载体上的、用于执行本发明所述所述方法之一的计算机程序。
换而言之,本发明的实施例因此是一种计算机程序,其具有当计算机程序在计算机上运行时用于执行本发明所述方法之一的程序代码。
因此,本发明的又一实施例是一种存储介质(或数据载体或计算机可读介质),其包括存储在其上的计算机程序,该计算机程序用于在其由处理器执行时执行本发明所述方法之一。数据载体、数字存储介质或记录介质通常是有形的和/或非暂时性的。本发明的又一个实施例是如本发明所述的设备,其包括处理器和存储介质。
因此,本发明的又一实施例是表示用于执行本发明所述方法之一的计算机程序的数据流或信号序列。数据流或信号序列例如可以配置为经由数据通信连接、例如经由互联网来传输。
又一实施例包括处理装置、例如计算机或可编程逻辑装置,其配置为或适于执行本发明所述方法之一。
又一实施例包括一种计算机,该计算机上安装了用于执行本发明所述方法之一的计算机程序。
本发明的又一实施例包括一种设备或系统,其配置为将用于执行本发明所述方法之一的计算机程序(例如,以电子方式或光学方式)传送给接收器。接收器例如可以是计算机、移动装置、存储装置等。该设备或系统例如可以包括用于将计算机程序传输到接收器的文件服务器。
在一些实施例中,可编程逻辑器件(例如,现场可编程门阵列)可以用于执行本发明所述方法的一些或全部功能。在一些实施例中,现场可编程门阵列可以与微处理器协作,以便执行本发明所述方法之一。通常,该方法优选地由任何硬件设备执行。
实施例可以基于使用机器学习模型或机器学习算法。机器学习可以指代计算机系统可以用来执行特定任务而无需使用显式指令、而是依靠模型和推理的算法和统计模型。例如,在机器学习中,代替基于规则的数据转换,可以使用从对历史和/或训练数据的分析中推导出的数据转换。例如,可以使用机器学习模型或使用机器学习算法来分析图像的内容。为了使机器学习模型分析图像的内容,可以使用训练图像作为输入并且训练内容信息作为输出来训练机器学习模型。通过用大量的训练图像和/或训练序列(例如单词或句子)和相关的训练内容信息(例如标签或注释)训练机器学习模型,机器学习模型“学习”识别图像的内容,使得可以使用机器学习模型识别训练数据中未包含的图像内容。相同的原理同样也可以用于其他类型的传感器数据:通过使用训练传感器数据和期望输出来训练机器学习模型,机器学习模型可以“学习”传感器数据和输出之间的转换,其可以用于基于提供给机器学习模型的非训练传感器数据提供输出。所提供的数据(例如,传感器数据、元数据和/或图像数据)可以被预处理,以获得特征向量,该特征向量用作机器学习模型的输入。
可以使用训练输入数据来训练机器学习模型。上面指定的示例使用一种称为“指导学习”的训练方法。在指导学习中,使用多个训练样本来训练机器学习模型,其中每个样本可以包括多个输入数据值、以及多个期望的输出值,即每个训练样本与期望的输出值相关联。通过指定训练样本和期望的输出值,机器学习模型根据类似于在训练过程中提供的样本的输入样本“学习”要提供的输出值。除了指导学习之外,还可以使用半指导学习。在半指导学习中,一些训练样本缺少相应的期望输出值。指导学习可以基于指导学习算法(例如分类算法、回归算法或相似性学习算法)。当输出被限制为一组受限的值(分类变量)时,即输入归类为一组受限的值中的一个,可以使用分类算法。当输出可能具有任何数值(在一个范围内)时,可以使用回归算法。相似性学习算法可能与分类和回归算法都相似,但基于从使用测量两个对象之间相似或相关程度的相似度函数的示例的学习。除了指导学习或半指导学习之外,还可以使用无指导学习来训练机器学习模型。在无指导学习中,可以(仅)提供输入数据,并且无指导学习算法可以用来查找输入数据中的结构(例如,通过对输入数据进行分组或分簇,查找数据中的共通点)。分簇是将包含多个输入值的输入数据分配给子集(簇),使得同一簇中的输入值按照一个或多个(预定义)相似性标准而相似,而与包含在其他簇中的输入值不相似。
强化学习是第三组机器学习算法。换而言之,强化学习可用于训练机器学习模型。在强化学习中,训练了一个或多个软件执行者(称为“软件代理”), 以在环境中采取行动。基于所采取的行动,计算奖励。强化学习基于对一个或多个软件代理进行行动选择的训练,以使累积奖励增加,从而使软件代理在执行任务时变得更好(通过增加奖励来证明)。
此外,某些技术可以应用于一些机器学习算法。例如,可以使用特征学习。换而言之,可以使用特征学习来至少部分地训练机器学习模型,和/或机器学习算法可以包括特征学习组件。特征学习算法(可以称为表示学习算法) 可以将信息保留在其输入中,但也可以通过使其有用的方式对其进行转换,通常作为执行分类或预测之前的预处理步骤。特征学习例如可以基于主成分分析或集群分析。
在一些示例中,可以使用异常检测(即,孤立点检测),其目的是通过与大多数输入或训练数据明显不同来提供对引起怀疑的输入值的识别。换而言之,可以使用异常检测来至少部分地训练机器学习模型,和/或机器学习算法可以包括异常检测成分。
在一些示例中,机器学习算法可以将决策树用作预测模型。换而言之,机器学习模型可以基于决策树。在决策树中,关于项目的观察(例如一组输入值)可以由决策树的分支表示,并且与该项目相对应的输出值可以由决策树的叶子表示。决策树可以支持离散值和连续值作为输出值。如果使用离散值,则决策树可以表示为分类树,如果使用连续值,则决策树可以表示为回归树。
关联规则是可以在机器学习算法中使用的另一种技术。换而言之,机器学习模型可以基于一个或多个关联规则。通过识别大量数据中变量之间的关系来创建关联规则。机器学习算法可以识别和/或利用一个或多个关系规则,这些关系规则表示从数据中得出的知识。规则例如可以用于存储、操作或应用该知识。
机器学习算法通常基于机器学习模型。换而言之,术语“机器学习算法”可以表示可用于创建、训练或使用机器学习模型的指令集。术语“机器学习模型”可以表示代表所学知识的数据结构和/或规则集(例如,基于由机器学习算法所执行的训练)。在实施例中,机器学习算法的使用可以意味着潜在的机器学习模型(或多个潜在的机器学习模型)的使用。机器学习模型的使用可意味着机器学习模型和/或作为机器学习模型的数据结构/规则集由机器学习算法训练。
例如,机器学习模型可以是人工神经网络(ANN)。ANN是受生物神经网络启发的系统,诸如可以在视网膜或大脑中发现的系统。ANN包括多个互连的节点以及节点之间的多个连接、所谓的边。通常有三种类型的节点:接收输入值的输入节点、(仅)连接到其他节点的隐藏节点以及提供输出值的输出节点。每个节点可以代表一个人工神经元。每个边可以将信息从一个节点传输到另一节点。节点的输出可以定义为其输入(例如其输入之和)的(非线性)函数。可以基于提供输入的边或节点的“权重”在函数中使用节点的输入。节点和/或边的权重可以在学习过程中进行调整。换而言之,人工神经网络的训练可以包括调整人工神经网络的节点和/或边的权重,即对于给定输入实现期望的输出。
可选地,机器学习模型可以是支持向量机、随机森林模型或梯度提升模型。支持向量机(即支持向量网络)是具有相关学习算法的指导学习模型,其可用于分析数据(例如,在分类或回归分析中)。可以通过向输入提供属于两个类别之一的多个训练输入值来训练支持向量机。可以训练支持向量机,以将新的输入值分配给两个类别之一。可选地,机器学习模型可以是贝叶斯网络,其是概率有向非循环图形模型。贝叶斯网络可以使用有向无环图来表示一组随机变量及其条件依赖性。可选地,机器学习模型可以基于遗传算法,其是模仿自然选择过程的搜索算法和探索技术。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
如本发明所使用的,术语“和/或”包括一个或多个相关联的所列项目的任何和所有组合,并且可以缩写为“/”。
以上所述仅是本发明的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (17)
1.一种细胞信息统计方法,用于对细胞群进行信息统计,其特征在于,包括以下步骤:
S1、获取待信息统计的细胞群的目标图像信息;
S2、选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像;
S3、判别所述结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项,若是,则执行步骤S4-S6,否则执行步骤S6;
S4、对存在缺陷特征的至少一处区域进行标注操作;
S5、根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;
S6、基于当前结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
2.根据权利要求1所述的细胞信息统计方法,其特征在于,在步骤S5之后,重复执行步骤S3至S5,直至达到预设的重复次数,或者直至所述结果图像中没有存在缺陷特征的区域,则执行步骤S6。
3.根据权利要求1所述的细胞信息统计方法,其特征在于,所述预建模型通过以下步骤训练得到:
M1、获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
M2、设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
M3、使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
4.根据权利要求3所述的细胞信息统计方法,其特征在于,步骤M3进一步包括:
M301、获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
M302、将其中的一样本图像输入基础模型,得到训练中结果图像;
M303、确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
M304、对存在缺陷特征的至少一处区域进行标注操作;
M305、根据所述标注操作对当前模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;
重复执行步骤M303至M305,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行步骤M306;
M306、将所述基础模型更新为当前模型;
M307、遍历所述样本图像集,将下一样本图像输入当前模型以得到当前训练中结果图像,并执行步骤M303至M306,直至其中的样本图像经历预设轮次的遍历后执行M308;
M308、保存当前模型,得到所述预建模型。
5.根据权利要求1所述的细胞信息统计方法,其特征在于,步骤S5中根据所述标注操作对所述预建模型进行再训练的过程中,仅对进行标注操作的区域进行关注和学习,包括:根据标注操作提取特征,以对所述模型进行再训练。
6.根据权利要求3至5中任一项所述的细胞信息统计方法,其特征在于,所述仅对进行标注操作的区域进行关注和学习包括:
划定进行标注操作的区域范围,使得所划定的范围包括标注操作所涉及的细胞;
生成所划定的区域范围的子图像,将该子图像及对应的标注操作信息作为深度学习样本输入待再训练的模型;
以对应的标注操作信息为学习目标,深度学习所述子图像的特征,以更新所述模型中的神经网络参数,得到再训练后的模型。
7.根据权利要求3或4所述的细胞信息统计方法,其特征在于,在步骤M3之后还包括:
M4、获取其他细胞系的多张图像,并对其进行人工标注,得到其他细胞系的标注样本;
M5、将其他细胞系的标注样本输入所述预建模型,并使用半监督学习方法进行再训练,得到支持该其他细胞系的预建模型。
8.根据权利要求1至5中任一项所述的细胞信息统计方法,其特征在于,所述标注操作包括人工标注形式的背景标注和/或细胞标注。
9.根据权利要求1至5中任一项所述的细胞信息统计方法,其特征在于,步骤S2中从预建的模型数据库中选择其中一个预建模型,在步骤S6之前或之后还包括:
S7、保存当前的再训练的模型,并将其添加到所述模型数据库中。
10.根据权利要求1至5中任一项所述的细胞信息统计方法,其特征在于,步骤S1中的所述待信息统计的细胞群的目标图像信息为无染色无荧光细胞图像、染色细胞图像、荧光细胞图像、相衬图像、明场图像中的一种或多种。
11.一种细胞信息统计装置,用于对细胞群的细胞进行信息统计,其特征在于,包括以下模块:
待统计目标获取模块,其被配置为获取待信息统计的细胞群的目标图像信息;
预建模型调用模块,其被配置为选择预建模型,并将所述目标图像信息输入到所述预建模型,得到结果图像;
缺陷特征确定模块,其被配置为确定所述结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标注及再训练模块,其被配置为接收所述缺陷特征确定模块的确定结果,对存在缺陷特征的至少一处区域进行标注操作,再根据所述标注操作对所述预建模型进行再训练,并将所述目标图像信息输入再训练后的模型,以得到新的结果图像;
统计模块,其被配置为基于结果图像,对细胞信息进行统计,所述细胞信息包括细胞数量、细胞大小、细胞形状中的一种或多种。
12.根据权利要求11所述的细胞信息统计装置,其特征在于,所述预建模型调用模块包括以下单元:
标注样本单元,其被配置为获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
基础模型单元,其被配置为设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
预建模型单元,其被配置为使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型。
13.根据权利要求12所述的细胞信息统计装置,其特征在于,所述预建模型单元包括以下子单元:
样本图像集获取子单元,其被配置为获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
遍历子单元,其被配置为遍历所述样本图像集,每次将其中的一个样本图像发送至训练子单元;
训练子单元,其被配置为将接收到的样本图像输入基础模型,得到训练中结果图像;
缺陷判别子单元,其被配置为接收所述训练子单元得到的所述训练中结果图像,并判别所述训练中结果图像是否有区域存在缺陷特征,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
标记及再训练子单元,其被配置为对存在缺陷特征的至少一处区域进行标注操作;再根据所述标注操作对所述基础模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像,并将其发送至所述缺陷判别子单元;
模型更新子单元,其被配置为当所述缺陷判别子单元判别到无缺陷特征时,将所述基础模型更新为当前模型;且触发所述遍历子单元将下一个样本图像发送至所述训练子单元;
模型保存子单元,其被配置为响应于所述遍历子单元遍历过程结束,保存当前模型,得到所述预建模型。
14.一种电子设备,包括处理器和存储器,其中,所述存储器用于存储程序指令,所述处理器被配置为运行所述程序指令,其特征在于,所述程序指令被运行而执行如权利要求1至10中任一项所述的方法的步骤。
15.一种计算机可读存储介质,用于存储程序指令,其特征在于,所述程序指令被配置为调用而执行如权利要求1至10中任一项所述的方法的步骤。
16.一种计算机程序产品,包括被可读存储的计算机程序,所述计算机程序包括程序指令,其特征在于,当所述程序指令在计算机设备上运行时,计算机设备执行如权利要求1至10中任一项所述的方法的步骤。
17.一种模型训练方法,其特征在于,包括以下步骤:
M1、获取细胞系的多张图像,并对其进行人工标注,得到标注学习样本;
M2、设计深度学习模型,并利用所述标注学习样本对所述深度学习模型进行训练,得到基础模型;
M3、使用半监督学习方法对所述基础模型进行再训练,所述半监督学习方法采用仅对进行标注操作的区域进行关注和学习的方式,得到所述预建模型;
其中,步骤M3进一步包括:
M301、获取用于建立预建模型的样本图像集,所述样本图像集包括多张样本图像;
M302、将其中的一样本图像输入基础模型,得到训练中结果图像;
M303、确定所述训练中结果图像中存在缺陷特征的区域,所述缺陷特征包括细胞黏连、细胞至少局部消失、细胞异形中的一项或多项;
M304、对存在缺陷特征的至少一处区域进行标注操作;
M305、根据所述标注操作对当前模型进行再训练,再训练的过程中仅对进行标注操作的区域进行关注和学习,并基于再训练后的当前模型得到新的训练中结果图像;
重复执行步骤M303至M305,直至达到预设的重复次数,或者直至所述训练中结果图像中没有存在缺陷特征的区域,再执行步骤M306;
M306、将所述基础模型更新为当前模型;
M307、遍历所述样本图像集,将下一样本图像输入当前模型以得到当前训练中结果图像,并执行步骤M303至M306,直至其中的样本图像经历预设轮次的遍历后执行M308;
M308、保存当前模型,得到所述预建模型。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210522470.9A CN114972222A (zh) | 2022-05-13 | 2022-05-13 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
PCT/CN2023/093467 WO2023217222A1 (zh) | 2022-05-13 | 2023-05-11 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210522470.9A CN114972222A (zh) | 2022-05-13 | 2022-05-13 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114972222A true CN114972222A (zh) | 2022-08-30 |
Family
ID=82983656
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210522470.9A Pending CN114972222A (zh) | 2022-05-13 | 2022-05-13 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114972222A (zh) |
WO (1) | WO2023217222A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023217222A1 (zh) * | 2022-05-13 | 2023-11-16 | 徕卡显微系统科技(苏州)有限公司 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
EP4375883A1 (en) * | 2022-11-26 | 2024-05-29 | PreciPoint Group GmbH | Method for operating a distributed digital microscopy system and distributed digital microscopy system |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117497064A (zh) * | 2023-12-04 | 2024-02-02 | 电子科技大学 | 基于半监督学习的单细胞三维基因组数据分析方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10083340B2 (en) * | 2016-01-26 | 2018-09-25 | Ge Healthcare Bio-Sciences Corp. | Automated cell segmentation quality control |
CN110705403A (zh) * | 2019-09-19 | 2020-01-17 | 平安科技(深圳)有限公司 | 细胞分类方法、装置、介质及电子设备 |
CN111210024B (zh) * | 2020-01-14 | 2023-09-15 | 深圳供电局有限公司 | 模型训练方法、装置、计算机设备和存储介质 |
CN113674292B (zh) * | 2021-08-17 | 2023-08-01 | 厦门理工学院 | 一种基于部分实例标注的半监督骨髓瘤细胞实例分割方法 |
CN113570007B (zh) * | 2021-09-27 | 2022-02-15 | 深圳市信润富联数字科技有限公司 | 零件缺陷识别模型构建优化方法、装置、设备及存储介质 |
CN114972222A (zh) * | 2022-05-13 | 2022-08-30 | 徕卡显微系统科技(苏州)有限公司 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
-
2022
- 2022-05-13 CN CN202210522470.9A patent/CN114972222A/zh active Pending
-
2023
- 2023-05-11 WO PCT/CN2023/093467 patent/WO2023217222A1/zh unknown
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023217222A1 (zh) * | 2022-05-13 | 2023-11-16 | 徕卡显微系统科技(苏州)有限公司 | 细胞信息统计方法、装置、设备及计算机可读存储介质 |
EP4375883A1 (en) * | 2022-11-26 | 2024-05-29 | PreciPoint Group GmbH | Method for operating a distributed digital microscopy system and distributed digital microscopy system |
Also Published As
Publication number | Publication date |
---|---|
WO2023217222A1 (zh) | 2023-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Angermueller et al. | Deep learning for computational biology | |
CN114972222A (zh) | 细胞信息统计方法、装置、设备及计算机可读存储介质 | |
CN112632385A (zh) | 课程推荐方法、装置、计算机设备及介质 | |
CA3061717A1 (en) | System and method for a convolutional neural network for multi-label classification with partial annotations | |
CN109993102B (zh) | 相似人脸检索方法、装置及存储介质 | |
Kraus et al. | Computer vision for high content screening | |
CN110532398B (zh) | 基于多任务联合神经网络模型的家族图谱自动构建方法 | |
WO2023284465A1 (zh) | 图像检测方法、装置、计算机可读存储介质及计算机设备 | |
CN111241992B (zh) | 人脸识别模型构建方法、识别方法、装置、设备及存储介质 | |
CN111160959B (zh) | 一种用户点击转化预估方法及装置 | |
CN113761259A (zh) | 一种图像处理方法、装置以及计算机设备 | |
CN111813954A (zh) | 文本语句中两实体的关系确定方法、装置和电子设备 | |
CN105164672A (zh) | 内容分类 | |
KR20220001009A (ko) | 기술 단어 평가 방법 및 장치, 전자 기기, 컴퓨터 판독 가능 저장 매체 | |
US20210319269A1 (en) | Apparatus for determining a classifier for identifying objects in an image, an apparatus for identifying objects in an image and corresponding methods | |
Harris et al. | DeepAction: a MATLAB toolbox for automated classification of animal behavior in video | |
CN110275820B (zh) | 页面兼容性测试方法、系统及设备 | |
CN112084944A (zh) | 一种动态演化表情的识别方法与系统 | |
CN109657710B (zh) | 数据筛选方法、装置、服务器及存储介质 | |
CN114375477A (zh) | 用于处理生物学相关数据的系统和方法、用于控制显微镜的系统和方法及显微镜 | |
CN114391162A (zh) | 用于处理生物学相关数据的系统和方法及显微镜 | |
CN114375448A (zh) | 用于处理生物学相关数据的系统和方法、用于控制显微镜的系统和方法及显微镜 | |
CN110413995B (zh) | 一种基于双向mgu神经网络的关系抽取方法 | |
CN114298173A (zh) | 一种数据处理方法、装置及设备 | |
CN114022698A (zh) | 一种基于二叉树结构的多标签行为识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |