CN111539308A - 基于深度学习的胚胎质量综合评价装置 - Google Patents
基于深度学习的胚胎质量综合评价装置 Download PDFInfo
- Publication number
- CN111539308A CN111539308A CN202010314893.2A CN202010314893A CN111539308A CN 111539308 A CN111539308 A CN 111539308A CN 202010314893 A CN202010314893 A CN 202010314893A CN 111539308 A CN111539308 A CN 111539308A
- Authority
- CN
- China
- Prior art keywords
- blastomere
- cell
- embryo
- blastomeres
- embryo quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Biological Materials (AREA)
Abstract
本发明公开了一种基于深度学习的胚胎质量综合评价装置,包括计算机存储器、计算机处理器以及存储在计算机存储器中并可在计算机处理器上执行的计算机程序,计算机存储器中存有胚胎质量综合评价模型,计算机处理器执行计算机程序时实现以下步骤:接收胚胎图像;通过卵裂球目标检测模块识别并切分出卵裂球的区域图像;细胞计数模块对区域图像中的细胞进行计数,并获得该卵裂球的发育阶段;胚胎质量分析模块对区域图像中卵裂球的发育状况进行评分;预测模块中根据区域图像对卵裂球的着床可能性进行打分,综合发育状况的评分,得到卵裂球的着床成功率预测结果。该预测结果可以辅助医生对胚胎着床的成功率进行预测。
Description
技术领域
本发明涉及人工智能医疗器械领域,尤其涉及一种基于深度学习的胚胎质量综合评价装置。
背景技术
繁衍是生命延续的关键要素之一。近年来,生殖障碍发生率逐年上升对男、女的生活质量有着潜在而深远的影响,成为威胁人类健康的难题。自1978年7月25日,世界第一例试管婴儿Louis Brown在英国诞生,辅助生殖技术在全球得到广泛应用,成为帮助人类应对这一难题的有效方法。该技术把体外受精-胚胎移植作为输卵管疾病、男性因素、无排卵及不明原因的不孕症的治疗手段,主要步骤包括配子准备、体外受精、胚胎培养、胚胎移植、黄体支持等,其中体外受精和胚胎培养环节是受人为因素影响最大和最可控的环节。
在临床实践中,为了减少妊娠期并发症以及保障胎儿发育需求,推荐单胚胎移植。因此,在单胚胎移植标准下,移植胚胎的质量是决定生殖结局的一个关键因素。在胚胎移植前,需要先对胚胎质量进行评估,尽可能筛选质量最佳的胚胎进行移植。因此,有效的胚胎质量评估方法非常重要。现有胚胎质量评估方法以传统形态学评价方法为主,根据受精与胚胎分裂的规律,依赖胚胎学家在几个特定时间点,通过显微镜下观察胚胎形态,并根据欧洲生殖学会发布的《伊斯坦布尔共识》进行形态学特征评分和分级,得到胚胎质量评价结果。然而,该方法存在以下问题:
1.可靠性和一致性不足。由于个体差异,胚胎学家对评估标准的判断带有一定主观性,使人为评分存在不可避免的可靠性、一致性不足问题,会干扰胚胎质量判断。有调查显示,即使是同一标准下培训的胚胎学家,在胚胎形态良好时,评分一致性高,而胚胎形态差、变异较大时,评分一致性也会下降。
2.不可定量。即使胚胎评估标准中有明确的数字和等级,比如碎片面积>25%,由于碎片可能是散在分布的,“25%”难以用肉眼准确定量。
3.标准不一致。由于各个实验室培养体系、操作方法等不同,导致胚胎发育速度不一致,实际评价标准按《伊斯坦布尔共识》进行微调。
4.卵裂球个数识别困难。受精后具有2个到8-16个细胞的胚胎称为卵裂期胚胎,其中的每个细胞叫卵裂球。在特定时间点计算卵裂球个数可以评判胚胎的发育速度是否正常,是卵裂期胚胎质量评估标准的基础。但是人类胚胎分裂过程中存在的细胞分裂的产物、细胞碎片等遮挡卵裂球细胞,对识别细胞个数造成干扰。在卵裂球数量多、碎片多的情况下,胚胎学家无法很好地识别卵裂个数。
因此,高效准确的胚胎质量评估工具对实现准确可量化的自动化评价判断,对胚胎细胞准确计数,对形态学参数的准确测量,加强目前评估标准的可比性与准确度,以及提高胚胎质量评估准确性与减少人力成本具有重大意义。
发明内容
本发明提供了一种基于深度学习的胚胎质量综合评价装置,该装置通过胚胎多个因素对胚胎质量进行评估,该评估结果可以辅助医生对胚胎着床的成功率进行预测。
具体技术方案如下:
一种基于深度学习的胚胎质量综合评价装置,包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序;
所述计算机存储器中存有胚胎质量综合评价模型,所述的胚胎质量综合评价模型包括卵裂球目标检测模块、细胞计数模块、胚胎质量分析模块和预测模块;
所述计算机处理器执行所述计算机程序时实现以下步骤:
(1)接收胚胎图像;
(2)将胚胎图像输入到卵裂球目标检测模块中,识别并切分出胚胎图像中的卵裂球的区域图像;
(3)将卵裂球的区域图像输入到细胞计数模块,对区域图像中的细胞进行计数,并根据计数结果获得该区域图像中卵裂球的发育阶段;
(4)将卵裂球的区域图像及其对应的发育阶段输入到胚胎质量分析模块,对区域图像中卵裂球的发育状况进行评分;
(5)将卵裂球的区域图像及其对应的发育状况的评分输入到预测模块中,预测模块根据区域图像对卵裂球的着床可能性进行打分,综合发育状况的评分,得到卵裂球的着床成功率预测结果。
在本发明中,胚胎质量综合评价装置所接受的胚胎图像是处于卵裂期胚胎的图像。
所述的卵裂球目标检测模块中包含第一目标检测神经网络,通过目标检测神经网络定位胚胎图像中卵裂球区域的边框,切除背景,获得卵裂球的区域图像。
优选的,所述的第一目标检测神经网络为Faster RCNN。Faster RCNN首先使用卷积神经网络提取胚胎图像的特征图,通过区域提议网络获得多个提议区域,使用ROI-Align层对每个提议区域进行池化,最后通过全连接层进行边框回归和逻辑回归,得到卵裂球区域的边框。
所述的细胞计数模块包含层状分类神经网络,通过层状分类神经网络对卵裂球的区域图像的细胞进行计数;每层对区域图像中细胞个数进行二分类,直至区域图像被分至最细类别。
优选的,所述的层状分类神经网络通过以下过程对区域图像中的细胞进行计数和分类:
第一层将区域图像中的卵裂球分为二细胞类卵裂球和非二细胞类卵裂球;二细胞类卵裂球中只有两个细胞;
第二层将非二细胞类卵裂球分为四细胞类卵裂球和非四细胞类卵裂球;四细胞类卵裂球含有3或4个细胞;
第三层将非四细胞类卵裂球分为六细胞类卵裂球和非六细胞类卵裂球,六细胞类卵裂球含有5或6个细胞;
第四层将非六细胞类卵裂球分为八细胞类卵裂球和非八细胞类卵裂球;八细胞类卵裂球含有7或8个细胞;
第六次层将非八细胞类卵裂球分为十细胞类卵裂球和十二细胞类卵裂球;十细胞类卵裂球含有9或10个细胞,十二细胞类卵裂球含有11或12个细胞。
优选的,所述的层状分类神经网络为VGG-19或ResNet-101;
所述的胚胎质量分析模块包含第二目标检测神经网络,获取区域图像中以下4项特征:碎片含量、离心率、透明带厚度、细胞比例,并根据对应卵裂球的发育阶段对每项特征进行打分,将4项得分相加,即为卵裂球发育状况的评分。
所述的碎片含量为细胞碎片面积占卵裂球总面积的比例;所述的离心率为椭圆形卵裂球的离心率;所述的透明带厚度为卵裂球边界厚度;所述的细胞比例为卵裂球中细胞面积占卵裂球总面积的比例。
所述的胚胎质量分析模块获取区域图像中4项特征包括:
通过第二目标检测神经网络检测得到整个卵裂球的椭圆形区域、细胞和碎片区域;
对整个卵裂球的椭圆形区域使用hough变化进行椭圆拟合,卵裂球壁内侧和外侧将分别拟合出两个椭圆;计算外侧椭圆的长轴长度a和短轴长度b,计算内侧椭圆的长轴长度a1和短轴长度b1;则离心率卵裂球的边界厚度再根据区域图像的比例尺,求得透明带的真实厚度H。
值得注意的是,因为透明带和空隙的存在,θ+σ≠1。
对区域图像中卵裂球的发育状况进行评分包括:
碎片含量θ=0为25分,θ≥0.5为0分,其余值在(0,25)上均匀分布;
离心率e=0为25分,e≥0.4为0分,其余值在(0,25)上均匀分布;
边界厚度H=17.5μm为25分,其余值在[0,25)上服从正态分布;
细胞比例σ≤0.5为0分,σ≥0.85为25分,其余值在(0,25)上均匀分布;
将4得分相加,即为卵裂球发育状况的评分。
所述的预测模块包含未来发育预测单元和着床预测单元;
所述未来发育预测单元根据卵裂球不同发育阶段的发育状况,绘制该卵裂球的评分曲线,根据评分曲线计算卵裂球现阶段至着床阶段的拟合得分;
所述着床预测单元根据卵裂球的区域图像,通过卷积神经网络计算该卵裂球的着床概率,即为预测得分;
将拟合得分和预测得分按照预设的权重相加,得到胚胎质量的综合评分。根据评分-成功率对照表,可由胚胎质量的综合评分得到胚胎着床成功率的预测结果。
优选的,未来发育预测单元使用三次样条插值拟合卵裂球的评分曲线。
优选的,着床预测单元中的卷积神经网络为ResNet-101。
优选的,拟合得分的权重为0.7,预测得分的权重为0.3。
所述的胚胎质量综合评价模型的获得过程为:
构建训练集:用已经过临床实验获得着床结果的若干张胚胎图像作为训练集;
使用训练集对胚胎质量综合评价模型进行训练:使用训练集依次训练卵裂球目标检测模块、细胞计数模块、胚胎质量分析模块和预测模块;将当前模块训练至收敛到可靠结果后,将训练集中的所有样本输入当前模块,将输出结果保存,作为训练下一个模块的训练集。
优选的,所述的胚胎质量综合评价模型在线下训练完成,然后存储在胚胎质量综合评价装置中;
或,在线上训练完成,且每次应用时接收的胚胎图像作为训练样本,对胚胎质量综合评价模型做优化更新。
优选的,胚胎质量综合评价装置还包括显示模块,对得到卵裂球的着床成功率预测结果进行显示。
本发明的胚胎质量综合评价装置可以作为第三方可信软件部署在当今各医院的生殖实验室里,对电脑相连接的显微镜所观察的胚胎细胞进行质量评估。装置的神经网络均是基于pyTorch1.0而编程,对于实际的应用场景可以进行移植。
与现有技术相比,本发明的有益效果为:
(1)本发明的胚胎质量综合评价装置根据专业医生的打分标准,采用全面的更多指标进行分析综合来实现胚胎细胞质量评估的方法。传统针对胚胎质量的评估系统,大多都只基于某方面指标如胚胎细胞数量、胚胎透明带厚度等进行评估本方法则综合这些指标,再按照医生目前的评判方法,根据专业医生给出的评估标准,进行全面考量评估得出综合评价。
(2)本发明的胚胎质量综合评价装置的评估效率与精度更高,即在保证速度的前提下实现了高精度。本发明的胚胎质量综合评价装置采用了再医学上还未大量使用的基于深度学习的神经网络模型方法,实现了相关指标值的精确测量,提高了胚胎质量评估的可靠性和一致性。
(3)本发明的胚胎质量综合评价装置对于每次胚胎细胞的数据都进行了管理,并没有只是单次测量后丢弃。每次测量之后,都把相关的数据更新成了可以用的新的训练集,随着时间的递进,方法的准确率会越来越高。
(4)本发明的胚胎质量综合评价装置不会影响科研人员和医生的正常工作,可以替代重复的人类劳动,实现真正的全自动化。
附图说明
图1为胚胎质量综合评价模型的架构示意图;
图2为卵裂球目标检测模块的工作流程示意图;
图3为细胞计数模块的工作流程示意图,其中具体每个节点的网络见图5;
图4为卵裂球目标检测网络结构示意图;
图5为Resnet分类结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步详细描述,需要指出的是,以下所述实施例旨在便于对本发明的理解,而对其不起任何限定作用。
本实施例提供了一种基于深度学习的胚胎质量综合评价装置,包括计算机存储器、计算机处理器以及存储在计算机存储器中并可在计算机处理器上执行的计算机程序;计算机存储器中存有胚胎质量综合评价模型,胚胎质量综合评价模型通过以下步骤获得:
(1)构建模型
如图1所示,胚胎质量综合评价模型包括包括卵裂球目标检测模块、细胞计数模块、胚胎质量分析模块和预测模块四个模块。
(1-1)卵裂球目标检测模块的工作流程如图2所示,卵裂球目标检测模块通过Faster RCNN目标检测神经网络将胚胎图像中的卵裂球区域识别并切分出来。如图4所示,Faster RCNN目标检测神经网络首先使用卷积神经网络提取图像的特征图,然后通过区域提议网络获得多个提议区域,然后使用ROI-Align层对每个区域进行池化,最后通过全连接层进行边框回归和逻辑回归,得到最终的结果,即卵裂球区域的边框。将背景和杂质区域切掉,只留下卵裂球区域。考虑到一张图上可能有多个卵裂球的情况,将每个卵裂球区域单独保存,用于下一阶段。
(1-2)细胞计数模块的工作流程如图2所示,如图3所示,细胞计数模块通过层状分类神经网络(预先在ImageNet预训练过的卷积神经网络模型ResNet-101,ResNet-101的结构如图5所示)计算切分出来的卵裂球中细胞数量,按照不同的细胞数量将卵裂球分为不同的发育阶段。
本实施例构建了一个树状分类结构,将卵裂球区域图片通过网络多次分类,每次进行一个二分类,直到图片被分到最细的类别。
第一次分类,将图片分为二细胞类和非二细胞类,二细胞类中仅含只有两个细胞的卵裂球;
第二次分类,将非二细胞类图片分为四细胞类和非四细胞类,四细胞类卵裂球含有3到4个细胞;
第三次分类,将非四细胞类图片分为六细胞类和非六细胞类,六细胞类卵裂球含有5到6个细胞;
第四次分类,将非六细胞类图片分为八细胞类和非八细胞类,八细胞类卵裂球含有7到8个细胞;
第六次分类,将非八细胞类图片分为十细胞类和十二细胞类,十细胞类卵裂球含有9到10个细胞,十二细胞类卵裂球含有11到12个细胞。
(1-3)胚胎质量分析模块通过目标检测神经网络Faster-RCNN对切分出来的卵裂球进行精细的形态学分析,划分卵裂球的透明带、细胞、碎片等区域信息,并与其他方法结合对卵裂球进行形态学分析,得到胚胎碎片含量、离心率、透明带厚度、细胞比例等结果,根据结果进行打分。
该模块使用掩膜(mask)划分出卵裂球整体、卵裂球内部、卵裂球细胞区域、卵裂球碎片区域,获取卵裂球以下几个方面的信息:
(a)碎片含量:细胞碎片面积占卵裂球总面积的比例。通过计算卵裂球内碎片面积占比,分析卵裂球内胚胎的发育质量并打分。碎片面积越低,质量越高。当碎片含量为0时为满分25分,得分根据碎片含量升高而降低,超过0.5时得分为0。
使用Faster-RCNN对图片进行目标检测,检测得到整个卵裂球的椭圆形区域和碎片区域(非椭圆形区域),计算二者面积分别为S和s,则碎片含量为:
离心率:椭圆形卵裂球的离心率。用细胞的离心率代表细胞的均一程度,将细胞拟合成最近似的椭圆进行分析。离心率越低,质量越高。但离心率为0时为满分25分,得分根据离心率升高而降低,超过0.4为0分。
对上一步中卵裂球的椭圆形区域,使用hough变化进行椭圆拟合,卵裂球壁内侧和外侧将分别拟合出两个椭圆。对外侧的椭圆进行计算,得到椭圆的长轴长度a和短轴长度b。椭圆的离心率为:
边界(透明带)厚度:边界长度占椭圆形长轴的比例。随着胚胎发育,卵裂球内压力增大,透明带厚度下降,因此透明带厚度可用以评价整个卵裂球的发育情况。透明带根据卵裂球内部和外部区域拟合的长短轴进行计算,透明带厚度居中为满分25分,厚度升高或者降低,分数都将降低。
对上一步的椭圆拟合卵裂球内侧的椭圆进行计算,得到长轴长度a1和短轴长度b1,边界厚度比例近似为:
根据比例尺,求得边界真实厚度H。
细胞比例:卵裂球中细胞面积占卵裂球总面积的比例。随胚胎分裂,卵裂球里除开碎片以外的细胞区域的占比逐渐增加,可以把控整个卵裂球的发育情况。细胞比例高于0.85为满分25分,比例越低分数越低,比例低于0.5为0分。
使用Faster-RCNN对图片进行目标检测,检测出细胞群的面积s1,细胞比例为
注意:因为透明带和空隙的存在,θ+σ≠1。
胚胎质量分析模块根据这些信息和该阶段的标准,对卵裂球进行打分,并与该卵裂球上一次评估的结果进行对比,判断卵裂球的发育状况是否良好。
打分标准为:
碎片含量θ=0为25分,θ≥0.5为0分,其余值在(0,25)上均匀分布;
离心率e=0为25分,e≥0.4为0分,其余值在(0,25)上均匀分布;
边界厚度H=17.5μm为25分,其余值在[0,25)上服从正态分布;
细胞比例σ≤0.5为0分,σ≥0.85为25分,其余值在(0,25)上均匀分布;
以上四个方向的衡量针对于卵裂球的整体发育情况,目的是给出准确的数字化分析结果。四项分数相加,为细胞最后得分。
(1-4)预测模块对卵裂球着床可能性进行预测,并综合之前的胚胎质量评估得分,得到最终的成功率预测结果。预测模块的内部具体结构仍采用之前Resnet的网络结构,具体的使用方法如下所示。
根据卵裂球不同阶段的发育状况,以计数模块得到的细胞数量发育阶段为横坐标,该阶段对应的得分为纵坐标绘制该卵裂球得分曲线。使用三次样条插值拟合卵裂球发育曲线,计算曲线发育到着床阶段的得分,作为拟合得分,记为P;
即,将已有的得分数据拟合发育曲线,通过该卵裂球的前几次评估的各种特征,预测未来最有可能的发育情况。针对胚胎的发育状况,给出卵裂球培养建议。最后给出未来发育情况的评分。
将卵裂球图像传入以resnet-101为骨架,在ImageNet上预训练,通过在着床实验确认的卵裂球图像训练集微调的卷积神经网络,计算分类为可着床的概率,得到预测得分Q;
即,通过一个专门训练的神经网络给出着床可能性。
将两个得分按照预先需要的权重,得到卵裂球的最终得分M:
M=0.7P+0.3Q
根据评分-成功率对照表,得到成功率的预测结果,评分-成功率对照表如下。
表1评分-成功率对照表
评分 | <60分 | 60-70分 | 70-80分 | 80-90分 | 90-100分 |
成功率 | <10% | >30% | >50% | >70% | >90% |
(2)训练模型
使用端到端的训练方式,用已经过临床实验,获得着床结果的五千余张细胞图像进行训练。每一张图片将顺次通过模型中的四个神经网络。为了防止前一个神经网络的错误对后面的神经网络的影响,四个模型将顺序训练。当前一个模型收敛到可靠结果时,将训练集所有图片通过该神经网络,将其输出结果保存,作为训练下一个神经网络的训练集。
(2-1)在卵裂球目标检测模块中,目标检测神经网络Faster-RCNN将输入的胚胎图片转换成沿卵裂球外边缘裁剪的一组几乎无背景的小图片,每张图片中包含一个完整的卵裂球。这些图片将作为细胞计数神经网络的输入。
(2-2)细胞计数神经网络将输入的每张图片的卵裂球中的细胞数量计算出来,按照细胞数量,对卵裂球进行分类,并最终输出图片及其分类结果。每张图片都将单独作为胚胎质量分析的神经网络的输入。
(2-3)在对卵裂球进行精细形态学分析的目标检测神经网络中,输入的图片将根据其类别进行质量评估、打分,并将该图片及其每一项得分共同输出,作为着床预测神经网络的输入。
(2-4)着床预测的神经网络首先对图片的着床可能性进行打分,并综合上一步中的得分,输出最后的预测结果,即着床的成功率。
(3)验证模型
使用六百余张处于各阶段的、经过临床测试的、由专业医生标注的细胞图像进行验证。将图片顺次通过四个神经网络。
(3-1)在卵裂球定位神经网络中,验证过程选取结果中IOU(检测区域与实际区域交集的面积除以检测区域与实际区域并集的面积)>0.9的做为检测正确的结果,其他作为错误结果。最终该网络的正确率达95%。
(3-2)在细胞计数神经网络中,验证过程选取计数正确的为正确结果,其他作为错误结果。最终该网络的正确率达96%。
(3-3)在对卵裂球进行精细形态学分析的目标检测神经网络中,验证过程选取检测结果中IOU>0.9的作为检测正确结果,其他作为错误结果。最终该网络的正确率达93%。
(3-4)在着床预测的神经网络中,验证过程选取预测与临床试验结果相同的为正确结果,不同的为错误结果,最终该网络的正确率达91%。
因为本方法的最终目的在于预测着床结果,所以本方法的正确率即为最终着床预测的神经网络的正确率,即91%。
获得的胚胎质量综合评价模型存储在胚胎质量综合评价装置的存储器中,应用时,接收与胚胎质量综合评价装置相连的显微镜采集的胚胎图像,将胚胎图像输入到卵裂球目标检测模块中获得卵裂球区域图像;将卵裂球区域图像传递至细胞计数模块,细胞计数模块对卵裂球区域图像中的细胞进行计数,并根据计数结果获得该卵裂球图像中卵裂球的发育阶段,输出卵裂球区域图像及其对应的发育阶段,并传递至胚胎质量分析模块;胚胎质量分析模块通过卵裂球图像获得碎片含量、离心率、透明带厚度、细胞比例等信息,结合卵裂球对应的发育阶段标准对该卵裂球的质量进行评分,并将卵裂球区域图像和卵裂球的质量评分传递至预测模块;预测模块根据卵裂球区域图像对卵裂球的着床可能性进行打分,综合卵裂球的质量评分,得到卵裂球的着床成功率预测结果。
(4)优化模型
胚胎质量综合评价装置还包括显示模块和存储模块。
胚胎质量综合评价装置投入使用之后,每进行一次胚胎评估,评估结果将存入到存储模块的数据库中。当评估达指定次数之后,将使用已存入数据库的结果对模型进行微调,以根据实际情况,提高模型的正确率。
对于需要展示的信息在显示模块上输出,主要包括:细胞个数,细胞质量的评分,卵裂球未来发育趋势的曲线图以及当前卵裂球的着床成功可能性。
本发明的胚胎质量综合评价装置可以作为第三方可信软件部署在当今各医院的生殖实验室里,对电脑相连接的显微镜所观察的胚胎细胞进行质量评估。胚胎质量综合评价装置内的神经网络均是基于pyT0rch 1.0而编程,对于实际的应用场景可以进行移植,该框架有很好的移植性。
本发明的胚胎质量综合评价装置可以在实验室内的电脑条件高速运行,各个模块的运算时间都不会影响相关的医生和科研人员的正常工作,同时也不会对胚胎本身造成任何危害。对于实际应用场景,相继而来的胚胎细胞相关信息,本发明的胚胎质量综合评价装置都有专门的区域进行预装载,满足实际的需求。同时它也不会影响正在进行的计算。
以上所述的实施例对本发明的技术方案和有益效果进行了详细说明,应理解的是以上所述仅为本发明的具体实施例,并不用于限制本发明,凡在本发明的原则范围内所做的任何修改、补充和等同替换等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于深度学习的胚胎质量综合评价装置,包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序,其特征在于,所述计算机存储器中存有胚胎质量综合评价模型,所述的胚胎质量综合评价模型包括卵裂球目标检测模块、细胞计数模块、胚胎质量分析模块和预测模块;
所述计算机处理器执行所述计算机程序时实现以下步骤:
(1)接收胚胎图像;
(2)将胚胎图像输入到卵裂球目标检测模块中,识别并切分出胚胎图像中的卵裂球的区域图像;
(3)将卵裂球的区域图像输入到细胞计数模块,对区域图像中的细胞进行计数,并根据计数结果获得该区域图像中卵裂球的发育阶段;
(4)将卵裂球的区域图像及其对应的发育阶段输入到胚胎质量分析模块,对区域图像中卵裂球的发育状况进行评分;
(5)将卵裂球的区域图像及其对应的发育状况的评分输入到预测模块中,预测模块根据区域图像对卵裂球的着床可能性进行打分,综合发育状况的评分,得到卵裂球的着床成功率预测结果。
2.根据权利要求1所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的卵裂球目标检测模块中包含第一目标检测神经网络,所述的第一目标检测神经网络为Faster RCNN。
3.根据权利要求1所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的细胞计数模块包含层状分类神经网络,通过层状分类神经网络对卵裂球的区域图像的细胞进行计数;每层对区域图像中细胞个数进行二分类,直至区域图像被分至最细类别。
4.根据权利要求3所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的层状分类神经网络通过以下过程对区域图像中的细胞进行计数和分类:
第一层将区域图像中的卵裂球分为二细胞类卵裂球和非二细胞类卵裂球;二细胞类卵裂球中只有两个细胞;
第二层将非二细胞类卵裂球分为四细胞类卵裂球和非四细胞类卵裂球;四细胞类卵裂球含有3或4个细胞;
第三层将非四细胞类卵裂球分为六细胞类卵裂球和非六细胞类卵裂球,六细胞类卵裂球含有5或6个细胞;
第四层将非六细胞类卵裂球分为八细胞类卵裂球和非八细胞类卵裂球;八细胞类卵裂球含有7或8个细胞;
第六次层将非八细胞类卵裂球分为十细胞类卵裂球和十二细胞类卵裂球;十细胞类卵裂球含有9或10个细胞,十二细胞类卵裂球含有11或12个细胞。
5.根据权利要求1所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的胚胎质量分析模块包含第二目标检测神经网络,获取区域图像中以下4项特征:碎片含量、离心率、透明带厚度、细胞比例,并根据对应卵裂球的发育阶段对每项特征进行打分,将4项得分相加,即为卵裂球发育状况的评分。
7.根据权利要求6所述的基于深度学习的胚胎质量综合评价装置,其特征在于,对区域图像中卵裂球的发育状况进行评分包括:
碎片含量θ=0为25分,θ≥0.5为0分,其余值在(0,25)上均匀分布;
离心率e=0为25分,e≥0.4为0分,其余值在(0,25)上均匀分布;
边界厚度H=17.5μm为25分,其余值在[0,25)上服从正态分布;
细胞比例σ≤0.5为0分,σ≥0.85为25分,其余值在(0,25)上均匀分布;
将4得分相加,即为卵裂球发育状况的评分。
8.根据权利要求1所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的预测模块包含未来发育预测单元和着床预测单元;
所述未来发育预测单元根据卵裂球不同发育阶段的发育状况,绘制该卵裂球的评分曲线,根据评分曲线计算卵裂球现阶段至着床阶段的拟合得分;
所述着床预测单元根据卵裂球的区域图像,通过卷积神经网络计算该卵裂球的着床概率,即为预测得分;
将拟合得分和预测得分按照预设的权重相加,得到胚胎质量的综合评分。根据评分-成功率对照表,得到成功率的预测结果。
9.根据权利要求1所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的胚胎质量综合评价模型的获得过程为:
构建训练集:用已经过临床实验获得着床结果的若干张胚胎图像作为训练集;
使用训练集对胚胎质量综合评价模型进行训练:使用训练集依次训练卵裂球目标检测模块、细胞计数模块、胚胎质量分析模块和预测模块;将当前模块训练至收敛到可靠结果后,将训练集中的所有样本输入当前模块,将输出结果保存,作为训练下一个模块的训练集。
10.根据权利要求1或9所述的基于深度学习的胚胎质量综合评价装置,其特征在于,所述的胚胎质量综合评价模型在线下训练完成,然后存储在胚胎质量综合评价装置中;
或,在线上训练完成,且每次应用时接收的胚胎图像作为训练样本,对胚胎质量综合评价模型做优化更新。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010314893.2A CN111539308B (zh) | 2020-04-20 | 2020-04-20 | 基于深度学习的胚胎质量综合评价装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010314893.2A CN111539308B (zh) | 2020-04-20 | 2020-04-20 | 基于深度学习的胚胎质量综合评价装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111539308A true CN111539308A (zh) | 2020-08-14 |
CN111539308B CN111539308B (zh) | 2023-05-23 |
Family
ID=71978873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010314893.2A Active CN111539308B (zh) | 2020-04-20 | 2020-04-20 | 基于深度学习的胚胎质量综合评价装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111539308B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113378831A (zh) * | 2021-05-07 | 2021-09-10 | 太原理工大学 | 一种小鼠胚胎器官识别与评分方法与系统 |
CN115239715A (zh) * | 2022-09-22 | 2022-10-25 | 中南大学 | 一种囊胚发育结果预测方法、系统、设备及存储介质 |
CN115641364A (zh) * | 2022-12-22 | 2023-01-24 | 武汉互创联合科技有限公司 | 基于胚胎动力学参数的胚胎分裂周期智能预测系统及方法 |
CN116823831A (zh) * | 2023-08-29 | 2023-09-29 | 武汉互创联合科技有限公司 | 基于循环特征推理的胚胎图像碎片去除系统 |
CN116844143A (zh) * | 2023-09-01 | 2023-10-03 | 武汉互创联合科技有限公司 | 基于边缘增强的胚胎发育阶段预测与质量评估系统 |
CN117649660A (zh) * | 2024-01-29 | 2024-03-05 | 武汉互创联合科技有限公司 | 基于全局信息融合的细胞分裂均衡度评估方法及终端 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104232566A (zh) * | 2011-05-31 | 2014-12-24 | 尤尼森斯繁殖技术公司 | 基于卵裂球的卵裂和形态的胚胎质量评估 |
CN106399448A (zh) * | 2015-07-14 | 2017-02-15 | 南京大学医学院附属鼓楼医院 | 一种基于时间参数和卵裂模式组合的胚胎质量评估方法 |
US20190252043A1 (en) * | 2012-10-17 | 2019-08-15 | Celmatix Inc. | Systems and methods for determining the probability of a pregnancy at a selected point in time |
CN110363218A (zh) * | 2019-06-06 | 2019-10-22 | 张孝东 | 一种胚胎无创评估方法及装置 |
-
2020
- 2020-04-20 CN CN202010314893.2A patent/CN111539308B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104232566A (zh) * | 2011-05-31 | 2014-12-24 | 尤尼森斯繁殖技术公司 | 基于卵裂球的卵裂和形态的胚胎质量评估 |
US20190252043A1 (en) * | 2012-10-17 | 2019-08-15 | Celmatix Inc. | Systems and methods for determining the probability of a pregnancy at a selected point in time |
CN106399448A (zh) * | 2015-07-14 | 2017-02-15 | 南京大学医学院附属鼓楼医院 | 一种基于时间参数和卵裂模式组合的胚胎质量评估方法 |
CN110363218A (zh) * | 2019-06-06 | 2019-10-22 | 张孝东 | 一种胚胎无创评估方法及装置 |
Non-Patent Citations (2)
Title |
---|
SUJATA N PATIL.ET.: "Deep Learning Techniques for Automatic Classification and Analysis of Human in Vitro Fertilized (IVF) embryos" * |
叶志佳: "基于深度学习的胚胎评估系统研究与实现" * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113378831A (zh) * | 2021-05-07 | 2021-09-10 | 太原理工大学 | 一种小鼠胚胎器官识别与评分方法与系统 |
CN113378831B (zh) * | 2021-05-07 | 2022-05-10 | 太原理工大学 | 一种小鼠胚胎器官识别与评分方法与系统 |
CN115239715A (zh) * | 2022-09-22 | 2022-10-25 | 中南大学 | 一种囊胚发育结果预测方法、系统、设备及存储介质 |
CN115239715B (zh) * | 2022-09-22 | 2022-12-09 | 中南大学 | 一种囊胚发育结果预测方法、系统、设备及存储介质 |
CN115641364A (zh) * | 2022-12-22 | 2023-01-24 | 武汉互创联合科技有限公司 | 基于胚胎动力学参数的胚胎分裂周期智能预测系统及方法 |
CN116823831A (zh) * | 2023-08-29 | 2023-09-29 | 武汉互创联合科技有限公司 | 基于循环特征推理的胚胎图像碎片去除系统 |
CN116823831B (zh) * | 2023-08-29 | 2023-11-14 | 武汉互创联合科技有限公司 | 基于循环特征推理的胚胎图像碎片去除系统 |
CN116844143A (zh) * | 2023-09-01 | 2023-10-03 | 武汉互创联合科技有限公司 | 基于边缘增强的胚胎发育阶段预测与质量评估系统 |
CN116844143B (zh) * | 2023-09-01 | 2023-12-05 | 武汉互创联合科技有限公司 | 基于边缘增强的胚胎发育阶段预测与质量评估系统 |
CN117649660A (zh) * | 2024-01-29 | 2024-03-05 | 武汉互创联合科技有限公司 | 基于全局信息融合的细胞分裂均衡度评估方法及终端 |
CN117649660B (zh) * | 2024-01-29 | 2024-04-19 | 武汉互创联合科技有限公司 | 基于全局信息融合的细胞分裂均衡度评估方法及终端 |
Also Published As
Publication number | Publication date |
---|---|
CN111539308B (zh) | 2023-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111539308B (zh) | 基于深度学习的胚胎质量综合评价装置 | |
WO2020157761A1 (en) | Automated evaluation of embryo implantation potential | |
Riegler et al. | Artificial intelligence in the fertility clinic: status, pitfalls and possibilities | |
US20160169786A1 (en) | Automated flow cytometry analysis method and system | |
Santos Filho et al. | A review on automatic analysis of human embryo microscope images | |
TWI687937B (zh) | 染色體異常檢測模型之建立方法、染色體異常檢測系統及染色體異常檢測方法 | |
Yüzkat et al. | Multi-model CNN fusion for sperm morphology analysis | |
Leahy et al. | Automated measurements of key morphological features of human embryos for IVF | |
CN112365471B (zh) | 基于深度学习的宫颈癌细胞智能检测方法 | |
CN113393443A (zh) | 一种he病理图像细胞核分割方法及系统 | |
Khosravi et al. | Robust automated assessment of human blastocyst quality using deep learning | |
Lovell et al. | International contest on pattern recognition techniques for indirect immunofluorescence images analysis | |
CN114494197A (zh) | 一种复杂性小样本脑脊液细胞识别与分类方法 | |
WO2023121575A1 (en) | Determining the age and arrest status of embryos using a single deep learning model | |
CN116434841A (zh) | 基于多模态数据的胚胎评估方法及装置 | |
Ananth et al. | An Advanced Low-cost Blood Cancer Detection System. | |
CN114580501A (zh) | 骨髓细胞分类方法、系统、计算机设备及存储介质 | |
CN112767349B (zh) | 一种网织红细胞识别方法和系统 | |
Guahmich et al. | Improving outcomes of assisted reproductive technologies using artificial intelligence for sperm selection | |
Zhang et al. | Deep learning-based methods for classification of microsatellite instability in endometrial cancer from HE-stained pathological images | |
CN106960218B (zh) | 基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统 | |
TW201913565A (zh) | 胚胎影像評價方法及系統 | |
CN116189909B (zh) | 基于推举算法的临床医学判别方法及系统 | |
IVSHIN et al. | ARTIFICIAL INTELLIGENCE ON GUARD OF REPRODUCTIVE HEALTH. | |
CN116130105A (zh) | 一种基于神经网络的健康风险预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |