CN114359279B - 图像处理方法、装置、计算机设备及存储介质 - Google Patents

图像处理方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN114359279B
CN114359279B CN202210267537.9A CN202210267537A CN114359279B CN 114359279 B CN114359279 B CN 114359279B CN 202210267537 A CN202210267537 A CN 202210267537A CN 114359279 B CN114359279 B CN 114359279B
Authority
CN
China
Prior art keywords
image
microstructure
microvascular
feature
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210267537.9A
Other languages
English (en)
Other versions
CN114359279A (zh
Inventor
李�昊
胡珊
刘奇为
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan Endoangel Medical Technology Co Ltd
Original Assignee
Wuhan Endoangel Medical Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan Endoangel Medical Technology Co Ltd filed Critical Wuhan Endoangel Medical Technology Co Ltd
Priority to CN202210267537.9A priority Critical patent/CN114359279B/zh
Publication of CN114359279A publication Critical patent/CN114359279A/zh
Application granted granted Critical
Publication of CN114359279B publication Critical patent/CN114359279B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本申请实施例提供了一种图像处理方法、装置、计算机设备及存储介质,该方法先从胃黏膜放大图像中剪裁出清晰区域,对胃黏膜放大图像进行分割,得到微血管区域及微结构区域,在微血管区域、微结构区域上进行框选,得到对应的微血管图像和微结构图像,从微血管图像中获取多个微血管特征值,从微结构图像中获取多个微结构特征值,将微血管图像和微结构图像进行叠加处理,从叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值,从胃黏膜放大图像中获取多个叠加图特征值,该多个微血管特征值、微结构特征值、叠加图特征值、图像特征值用于进行分类,实现了多个不同类型的特征值的提取,使得特征值更加全面丰富,提高了图像处理效率。

Description

图像处理方法、装置、计算机设备及存储介质
技术领域
本申请涉及计算机技术领域,具体涉及一种图像处理方法、装置、计算机设备及存储介质。
背景技术
消化道肿瘤是最常见的恶性肿瘤之一。2015年,我国食管癌、胃癌、结直肠癌患病人数近150万,死亡人数大于100万,占癌症总死亡人数的1/3。其中胃癌是世界第五大最常见的癌症,其占癌症死亡原因的第三位。进展期胃癌术后五年生存率仅有30%,而胃早期癌症的五年生存率则高达90%。消化内镜检查是筛查和诊断消化道早期肿瘤最常用的强有力方法。放大胃镜与电子染色内镜联合应用,能够观察到普通胃镜无法观察的微小血管结构及黏膜表面微细结构,为内镜下诊断早期胃癌提供了条件,然而,这需要内镜医师具有强大的知识储备和丰富的经验,且不同的内镜医师识别结果可能不同,存在一定的主观性,因此,亟需提供一种高效准确的图像处理方法。
发明内容
本申请实施例提供一种图像处理方法、装置、计算机设备及存储介质,以解决人工检测存在的检测效率低的技术问题。
一方面,本申请提供一种图像处理方法,包括:
获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;
采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;
按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;
从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;
从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;
将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;
从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
一方面,本申请提供一种图像处理装置,包括:
剪裁模块,用于获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;
分割模块,用于采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;
框选模块,用于按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;
第一确定模块,用于从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;
第二确定模块,用于从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;
第三确定模块,用于将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;
第四确定模块,用于从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
一方面,本申请提供一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述图像处理方法中的步骤。
一方面,本申请提供一种计算机可读介质,存储有计算机程序,所述计算机程序被处理器执行时,实现上述图像处理方法中的步骤。
本申请实施例提供了一种图像处理方法、装置、计算机设备及存储介质,该方法先获取胃黏膜放大图像,从胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取清晰区域的边界坐标,然后,采用预设的图像分割模型对胃黏膜放大图像进行分割,得到微血管区域及微结构区域,接着,按照清晰区域的边界坐标对应的最小外接矩形分别在胃黏膜放大图像的微血管区域、微结构区域上进行框选,得到对应的微血管图像和微结构图像,继而从微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值,从微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值,最后,将微血管图像和微结构图像进行叠加处理,得到叠加图像,从叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值,从胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,该微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到胃黏膜放大图像的分类结果,实现了多个不同类型的特征值的提取,使得特征值更加全面丰富,且特征值的量化计算效率高,因此,基于多个叠加图特征值,微血管特征值、微结构特征值、图像特征值,大大提高了对胃黏膜放大图像的处理效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
其中:
图1为一个实施例中图像处理方法的流程图;
图2为一个实施例中胃黏膜放大图像和清晰区域的示意图,a为胃黏膜放大图像的示意图,b中的21为清晰区域的示意图;
图3为一个实施例中微血管区域、微结构区域的示意图,c为微血管区域的示意图,d为微结构区域的示意图;
图4为一个实施例中微血管图像、微结构图像的示意图,e为微血管图像的示意图,f为微结构图像的示意图;
图5为一个实施例中叠加图像的示意图;
图6为一个实施例中标注有最小外接矩形的对角位置的两个顶点的坐标的最小外接矩形的示意图;
图7为一个实施例中微结构图像中的一个孔洞的示意图;
图8为一个实施例中计算掩码图中像素值变化的示意图;
图9为一个实施例中Resnet50网络结构示意图;
图10为一个实施例中VGG16网络结构示意图;
图11为一个实施例中图像处理装置的结构框图;
图12为一个实施例中计算机设备的结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,在一个实施例中,提供了一种图像处理方法,该图像处理方法可以应用于终端,也可以应用于服务器,本实施例以应用于服务器举例说明。该图像处理方法具体包括以下步骤:
步骤102,获取胃黏膜放大图像,从胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取清晰区域的边界坐标。
其中,胃黏膜放大图像是指通过放大内镜输出的包含有胃黏膜部位的内镜图像,该内镜图像为RGB格式的图像。清晰区域是指胃黏膜放大图像中的清晰度满足预设条件的区域图像,其中,图像的清晰度是衡量图像质量优劣的重要指标。其中,胃黏膜放大图像中的清晰度可以通过计算图像的Laplacian梯度函数、方差函数、能量梯度函数等确定清晰度,然后将清晰度大于预设清晰度阈值的区域进行剪裁出清晰区域,也可以通过预设的清晰区域分割模型确定清晰区域,通过预先训练Unet网络,生成清晰区域分割模型,然后将胃黏膜放大图像输入清晰区域分割模型,以提取清晰区域,最后剪裁出该清晰区域,作为本实施例的优选,选取预设的清晰区域分割模型确定清晰区域的方式,以减少对胃黏膜放大图像计算的复杂度,提高清晰区域的提取效率。边界坐标是指清晰区域的多个边界点的坐标,具体地,在确定了清晰区域后,通过标准二维坐标系确定清晰区域的边界坐标。可以理解地,本实施例中通过获取清晰区域,使得清晰区域的质量更佳,有利于提高后续图像处理的准确度,同时通过获取清晰区域的边界坐标,以便后续根据边界坐标,提高对图像区域的精准定位。如图2所示,a为胃黏膜放大图像的示意图,b中的21为清晰区域的示意图。
步骤104,采用预设的图像分割模型对胃黏膜放大图像进行分割,得到微血管区域及微结构区域。
其中,微血管区域是指胃黏膜放大图像中的微血管部位图像,微结构区域是指胃黏膜放大图像中的微结构部位图像。预设的图像分割模型为预先设定的用于从图像中的识别出目标区域的机器学习模型,且该图像分割模型中包括两种图像分割模型,分别用于提取微血管区域和微结构区域。具体地,将胃黏膜放大图像分别作为两种图像分割模型的输入,该两种图像分割模型的输出分别为微血管区域及微结构区域。可以理解地,本实施例中通过提取微血管区域及微结构区域,以便后续基于该微血管区域及微结构区域获取各个局部区域对应的特征信息,提高特征信息的精细度。如图3所示,c为微血管区域的示意图,d为微结构区域的示意图。
步骤106,按照清晰区域的边界坐标对应的最小外接矩形分别在胃黏膜放大图像的微血管区域、微结构区域上进行框选,得到对应的微血管图像和微结构图像。
其中,微血管图像是指胃黏膜放大图像中包含有微血管区域且尺寸大小与清晰区域的边界坐标对应的最小外接矩形一致的图像,微结构图像是指胃黏膜放大图像中包含有微结构区域且尺寸大小与清晰区域的边界坐标对应的最小外接矩形一致的图像,具体地,根据边界坐标的中的最大横坐标、最大纵坐标、最小横坐标和最小纵坐标确定最小外接矩形。值得说明的是,本实施例中的边界坐标与胃黏膜放大图像的位置坐标是在同一个标准二维坐标系下确定的,因此,可以通过清晰区域的边界坐标对应的最小外接矩形在胃黏膜放大图像中框选出唯一确定的微血管图像和微结构图像,如图4所示,e为微血管图像的示意图,f为微结构图像的示意图。并且,由于清晰区域的边界坐标对应的最小外接矩形的区域面积大于清晰区域的面积,因此,微血管图像和微结构图像中还包含非清晰区域的信息,且微血管图像和微结构图像尺寸大小均为清晰区域的边界坐标对应的最小外接矩形。可以理解地,本实施例中,通过框选出微血管图像和微结构图像,使得微血管图像和微结构图像均为形状规则的最小外接矩形,相较于不规则的清晰区域,加快了后续对微血管图像和微结构图像的特征进行量化处理的计算速度,同时,微血管图像和微结构图像均包含了胃黏膜放大图像中的部分非清晰区域,相较于微血管区域和微结构区域,其包含了更丰富的信息,有利于提高微血管特征信息和微结构特征信息的准确性。
步骤108,从微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值。
其中,微血管特征是指微血管图像中微血管的不同类型的相关特征,例如,微血管直径比、微血管方向、微血管单位面积等,微血管特征值是指各个微血管特征对应的量化值。具体地,采用特征提取方法对微血管图像进行特征提取,得到多个微血管特征值,其中的特征提取方法可以是人工特征提取方法结合基于图像特征分析的算法如像素邻域均值计算、最大像素值提取等,计算得到多个微血管特征值。本实施例中,通过对多个不同类型的微血管特征进行特征提取,获取对应的微血管特征值,实现了对微血管图像的多个特征类型对应的微血管特征的量化计算,以便后续基于该多个微血管特征值进行精准直观的图像分析和处理。
步骤110,从微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值。
其中,微结构特征是指微结构图像中微结构的不同类型的相关特征,例如,微结构密度、微结构孔洞方向、微结构孔洞单位面积等,微结构特征值是指各个微结构特征对应的量化值。具体地,采用特征提取方法对微结构图像进行特征提取,得到多个微血管特征值,其中的特征提取方法可以是人工特征提取方法结合基于图像特征分析的算法如像素邻域均值计算、最大像素值提取等,计算得到多个微血管特征值。本实施例中,通过对多个不同类型的微结构特征进行特征提取,获取对应的微结构特征值,实现了对微结构图像的多个特征类型对应的微结构特征的量化计算,以便后续基于该多个微结构特征值进行精准直观的图像分析和处理。
步骤112,将微血管图像和微结构图像进行叠加处理,得到叠加图像,从叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值。
其中,叠加图像是指将微血管图像和微结构图像进行叠加后生成的图像,具体地,通过numpy工具包自带的np.logical_or()函数处理微血管图像和微结构图像,得到叠加图像,如图5所示,为叠加图像的示意图,图像特征是指叠加图像全局区域的不同类型的相关特征,例如,黑白交替值、伪血管密度、图像熵等,叠加图特征值是指各个图像特征对应的量化值。具体地,采用特征提取方法对胃黏膜放大图像进行特征提取,得到叠加图特征值,其中的特征提取方法可以是人工特征提取方法,也可以是深度学习的特征提取方法,具体可根据叠加图特征值需要的图像特征进行选取,此处不作限制。本实施例中,通过对胃黏膜放大图像进行特征提取,获取对应的叠加图特征值,实现了对胃黏膜放大图像的多个特征类型对应的图像特征的量化计算,以便后续基于该多个叠加图特征值进行精准直观的图像分析和处理。
步骤114,从胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到胃黏膜放大图像的分类结果。
其中,图像特征是指胃黏膜放大图像全局区域的不同类型的相关特征,例如,背景粘膜平整度、背景粘膜边界性等。具体地,采用特征提取方法对胃黏膜放大图像进行特征提取,得到图像特征值,其中的特征提取方法可以是人工特征提取方法,也可以是深度学习的特征提取方法,具体可根据图像特征值需要的图像特征进行选取,此处不作限制。本实施例中,通过对胃黏膜放大图像进行特征提取,获取对应的图像特征值,实现了对胃黏膜放大图像的多个特征类型对应的图像特征的量化计算,以便后续基于该多个图像特征值进行精准直观的图像分析和处理。步骤S108中的微血管特征值、步骤110中的微结构特征值、步骤112中的叠加图特征值和图像特征值用于输入已训练的机器学习分类器进行分类,得到胃黏膜放大图像的分类结果,由于本实施例中提取了多个不同类型的特征值,使得特征值更加全面丰富,且特征值的量化计算效率高,因此,基于多个图像特征值,叠加图特征值、微血管特征值、微结构特征值,大大提高了对胃黏膜放大图像的处理效率。
上述图像处理方法中,先获取胃黏膜放大图像,从胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取清晰区域的边界坐标,然后,采用预设的图像分割模型对胃黏膜放大图像进行分割,得到微血管区域及微结构区域,接着,按照清晰区域的边界坐标对应的最小外接矩形分别在胃黏膜放大图像的微血管区域、微结构区域上进行框选,得到对应的微血管图像和微结构图像,继而从微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值,从微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值,最后,将微血管图像和微结构图像进行叠加处理,得到叠加图像,从叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值,从胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,该微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到胃黏膜放大图像的分类结果,实现了多个不同类型的特征值的提取,使得特征值更加全面丰富,且特征值的量化计算效率高,因此,基于多个叠加图特征值,微血管特征值、微结构特征值、图像特征值,大大提高了对胃黏膜放大图像的处理效率。
在一个实施例中,微血管特征的特征类型包括微血管直径比、微血管方向及微血管单位面积;从微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值的步骤,包括:通过迭代算法提取微血管图像的中心线,基于中心线的各个像素值确定微血管直径比对应的微血管特征值;基于微血管图像确定微血管连通区域,从微血管连通区域提取单根微血管对应的子微血管图像,在微血管连通区域上对各个子微血管图像进行遍历,得到各个子微血管图像的连通域,作为微血管子连通域;基于微血管子连通域确定各自对应的最小外接矩形;获取子微血管图像的微血管数量,并基于最小外接矩形确定微血管方向对应的微血管特征值;计算各个子微血管图像的微血管面积,基于微血管面积和微血管数量,确定微血管单位面积对应的微血管特征值。
其中,迭代算法是一种用于获得图像骨架信息的算法,如Zhang-Suen细化算法,本 实施例中用于获取微血管图像的中心线,具体地,可以利用Zhang-Suen细化算法提取微血 管图像中的每根微血管的中心线。连通区域(Connected Component)是指图像中具有相同 像素值且位置相邻的前景像素点组成的图像区域(Region,Blob)。遍历中心线上的每个像 素点,并通过作法线的几何方法确定两个目标像素点,计算两个目标像素点的欧式距离即 为对应像素点的微血管直径
Figure 547161DEST_PATH_IMAGE001
Figure 995460DEST_PATH_IMAGE002
表示为第i根微血管中心线上的第j个像素点处的微血 管直径,对微血管直径采用k-means法进行聚类计算,求最大类直径平均值
Figure 571935DEST_PATH_IMAGE003
和最小 类直径平均值
Figure 701565DEST_PATH_IMAGE004
,则微血管直径比对应的微血管特征值即为
Figure 312675DEST_PATH_IMAGE005
。 根据微血管连通区域,在微血管连通区域上对各个子微血管图像进行遍历,得到各个子微 血管图像的连通域,作为微血管子连通域,然后,基于微血管子连通域,确定各自对应的最 小外接矩形,采用opencv自带的
Figure 869558DEST_PATH_IMAGE006
函数确定最小外接矩形的对角位置的两个顶 点的坐标,
Figure 933329DEST_PATH_IMAGE007
点坐标
Figure 866650DEST_PATH_IMAGE008
Figure 332267DEST_PATH_IMAGE009
点坐标
Figure 60051DEST_PATH_IMAGE010
,如图6所示,为标注有最小外接矩形的对 角位置的两个顶点的坐标(
Figure 611118DEST_PATH_IMAGE011
点坐标
Figure 348130DEST_PATH_IMAGE012
Figure 402674DEST_PATH_IMAGE013
点坐标
Figure 832518DEST_PATH_IMAGE014
)的最小外接矩形的示意图, 根据两个顶点坐标,采用如下公式计算第i个子微血管图像的排列方向值
Figure 808564DEST_PATH_IMAGE015
Figure 880425DEST_PATH_IMAGE016
对于微血管图像,根据各个子微血管图像的排列方向值
Figure 258317DEST_PATH_IMAGE017
和子微血管图像的微 血管数量n,采用如下公式计算微血管方向对应的微血管特征值
Figure 390221DEST_PATH_IMAGE018
Figure 853564DEST_PATH_IMAGE019
最后,计算各个子微血管图像的微血管面积,基于微血管面积和微血管数量,确定微血管单位面积对应的微血管特征值。
根据微血管连通区域,采用opencv自带的cv2.contourArea()工具包求出第i个子 微血管图像的面积
Figure 729116DEST_PATH_IMAGE020
,也即微血管面积,微血管单位面积对应的微血管特征值
Figure 961514DEST_PATH_IMAGE021
通过 如下公式计算得到:
Figure 529899DEST_PATH_IMAGE022
本实施例中,通过对微血管图像中的每根微血管的像素点进行分析并对微血管直径比、微血管方向及微血管单位面积进行量化计算,实现了对微血管图像的形态分析,使得微血管特征值更加准确丰富,有利于提高后续的图像处理的精度。
在一个实施例中,微结构特征的特征类型包括微结构密度、微结构孔洞方向及微结构孔洞单位面积;从微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值的步骤,包括:基于微结构图像确定微结构连通区域,从微结构连通区域中提取单根微结构对应的子微结构图像,并计算每个子微结构图像的微结构面积;根据各个微结构面积及微结构图像的面积,计算微结构密度对应的微结构特征值;将微结构图像进行黑白反转处理,得到微结构背景孔洞图像,并从微结构背景孔洞图像中提取单个子孔洞对应的子孔洞图像,基于所述微结构背景孔洞图像确定对应的孔洞连通区域,在所述孔洞连通区域上对各个所述子孔洞图像进行遍历,得到各个所述子孔洞图像的连通域,作为孔洞子连通域;基于孔洞子连通域确定各自对应的最小外接矩形;基于最小外接矩形确定所述微结构孔洞方向对应的微结构特征值;获取子孔洞图像的孔洞数量,并计算各个子孔洞图像的孔洞面积,基于孔洞面积和所述孔洞数量,确定微结构孔洞单位面积对应的微结构特征值。
具体地,可以通过Two-Pass或者Seed-Filling种子填充法对微结构图像进行分 析,确定微结构连通区域,从微结构连通区域中提取单根微结构对应的子微结构图像,然 后,通过opencv自带的cv2.connectedComponentsWithStats()工具包求出第j个子微结构 图像的微结构面积
Figure 214958DEST_PATH_IMAGE023
微结构密度对应的微结构特征值通过如下计算公式得到:
Figure 894201DEST_PATH_IMAGE024
其中,
Figure 981106DEST_PATH_IMAGE025
为微结构密度对应的微结构特征值,
Figure 720391DEST_PATH_IMAGE026
为第j个子微结构图像的微 结构面积,
Figure 892747DEST_PATH_IMAGE027
分别为微结构图像的宽度和高度,m为子微结构图像的数量。
将微结构图进行黑白反转处理,得到微结构背景孔洞图像,并从微结构背景孔洞 图像中提取单个子孔洞对应的子孔洞图像,基于微结构背景孔洞图像确定对应的孔洞连通 区域,在孔洞连通区域上对各个子孔洞图像进行遍历,得到各个子孔洞图像的连通域,作为 孔洞子连通域,然后,基于孔洞子连通域,确定各自对应的最小外接矩形,采用opencv自带 的
Figure 110101DEST_PATH_IMAGE028
函数确定最小外接矩形的对角位置的两个顶点的坐标,
Figure 317092DEST_PATH_IMAGE029
点坐标
Figure 227279DEST_PATH_IMAGE030
Figure 886931DEST_PATH_IMAGE031
点坐标
Figure 907976DEST_PATH_IMAGE032
,根据两个顶点坐标,采用如下公式计算第j个子孔洞图像 的排列方向值
Figure 703894DEST_PATH_IMAGE033
Figure 784982DEST_PATH_IMAGE034
对于微结构背景孔洞图像,根据各个子孔洞图像的排列方向值
Figure 931930DEST_PATH_IMAGE035
和子孔洞图像 的孔洞数量m,采用如下公式计算微结构孔洞方向对应的微结构特征值
Figure 756666DEST_PATH_IMAGE036
Figure 672670DEST_PATH_IMAGE037
最后,计算各个子孔洞图像的孔洞面积,基于孔洞面积和孔洞数量m,确定微结构孔洞单位面积对应的微结构特征值。如图7所示,为微结构图像中的一个孔洞的示意图,其中,71为孔洞的示意图。
根据微结构背景孔洞图像的连通区域,采用opencv自带的cv2.contourArea()工 具包求出第j个子孔洞图像的面积
Figure 659080DEST_PATH_IMAGE038
,也即孔洞面积,微结构孔洞单位面积对应的微结 构特征值
Figure 293324DEST_PATH_IMAGE039
通过如下公式计算得到:
Figure 656172DEST_PATH_IMAGE040
本实施例中,通过对微结构图像中的各个微结构区域的像素点进行分析,并对微结构密度、微结构孔洞方向及微结构孔洞单位面积进行量化计算,实现了对各个微结构区域的形状分析,使得微结构特征值更加准确丰富,有利于提高后续的图像处理的精度。
在一个实施例中,图像特征的特征类型包括叠加图黑白交替值、叠加图伪血管密度及叠加图熵;从叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值的步骤,包括:对叠加图像进行二值化处理,得到掩码图,掩码图包含有像素值为0和像素值为1的像素点;基于掩码图,计算每行像素点的像素值从1变化为0的次数,作为第一次数,并计算每列像素点的像素值从1变化为0的次数,作为第二次数,基于第一次数和第二次数确定叠加图黑白交替值对应的叠加图特征值;基于叠加图像确定叠加连通区域,从叠加连通区域中提取单根微结构和单根微血管的叠加图对应的子叠加图像,并计算每个子叠加图像的叠加面积;根据各个叠加面积、叠加图像的面积及微结构密度对应的微结构特征值,计算叠加图伪血管密度对应的叠加图特征值;将叠加图像转换为灰度模式,并计算转换后的叠加图像的二维熵,确定叠加图熵对应的叠加图特征值。
其中,像素值为0,表明像素点为黑色,像素值为1表明像素点为白色,对叠加图像 进行二值化处理,得到掩码图,且该掩码图中的像素点的像素值为0或者1,如图8所示,为计 算掩码图中像素值变化的示意图,计算掩码图的每行像素点的像素值从1变化为0的次数
Figure 692261DEST_PATH_IMAGE041
,即第一次数,其中,
Figure 849573DEST_PATH_IMAGE042
Figure 971113DEST_PATH_IMAGE043
表示叠加图像的高度。计算掩码图的每列像素点的 像素值从1变化为0的次数
Figure 137652DEST_PATH_IMAGE044
,即第二次数,其中,
Figure 762669DEST_PATH_IMAGE045
Figure 356461DEST_PATH_IMAGE046
表示叠加图像的宽度。叠 加图黑白交替值对应的叠加图特征值
Figure 699718DEST_PATH_IMAGE047
通过如下公式计算得到:
Figure 669948DEST_PATH_IMAGE048
具体地,基于叠加图像确定叠加连通区域,从叠加连通区域中提取叠加图对应的子叠加图像,并计算每个子叠加图像的叠加面积;根据各个叠加面积、叠加图像的面积及微结构密度对应的微结构特征值,计算叠加图伪血管密度对应的叠加图特征值;
其中,叠加图伪血管密度是指非真正微血管的密度。具体地,可以通过Two-Pass或 者Seed-Filling种子填充法对叠加图像进行分析,确定叠加连通区域,从叠加连通区域中 提取叠加图对应的子叠加图像,然后,通过opencv自带的cv2.connectedComponentsWithS tats()工具包求出第t个子叠加图像的叠加面积
Figure 211787DEST_PATH_IMAGE049
,叠加图像的密度通过如下计算公 式得到:
Figure 914164DEST_PATH_IMAGE050
其中,
Figure 807034DEST_PATH_IMAGE051
为叠加图像的密度,
Figure 253059DEST_PATH_IMAGE052
为第t个子叠加图像的叠加面积,R、S分别为 叠加图像的宽度和高度,l为子叠加图像的数量。叠加图伪血管密度对应的叠加图特征值
Figure 914984DEST_PATH_IMAGE053
可以通过如下公式计算得到:
Figure 788262DEST_PATH_IMAGE054
其中,将叠加图像转换为灰度模式,并计算转换后的叠加图像的二维熵,采用如下公式计算叠加图熵对应的叠加图特征值:
Figure 168428DEST_PATH_IMAGE055
其中,
Figure 152565DEST_PATH_IMAGE056
表示的是灰度i所出现的概率,图像的一维熵可以表示图像灰度分布的 聚集特征,却不能反映图像灰度分布的空间特征。为了表征这种空间特征,在一维熵的基础 上引入能够反映灰度分布空间特征的特征量来组成图像的二维熵。选择图像的邻域灰度均 值作为灰度分布的空间特征量,与图像的像素灰度组成特征二元组,记为
Figure 934576DEST_PATH_IMAGE057
,其中i表示 像素的灰度值,j表示邻域灰度均值,此时
Figure 978755DEST_PATH_IMAGE058
其中,
Figure 846217DEST_PATH_IMAGE059
为特征二元组
Figure 634044DEST_PATH_IMAGE060
出现的频数,T为HSV颜色空间图像的尺寸,在一 具体实施方式中,T=512。
本实施例中,通过叠加图像的像素点进行分析,并对叠加图黑白交替值、叠加图伪血管密度及叠加图熵进行量化计算,实现了叠加图像的颜色特征、纹理特征、亮度特征的分析,使得叠加图像的叠加图特征值更加准确丰富,有利于提高后续的图像处理的精度。
在一个实施例中,图像特征的特征类型包括背景粘膜平整度、背景粘膜边界性、背景粘膜中血管排列规则性;从胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值的步骤,包括:将胃黏膜放大图像输入训练后的背景粘膜平整度分类器中进行识别,得到的平整度结果确定为背景粘膜平整度对应的图像特征值;将胃黏膜放大图像输入训练后的背景粘膜边界性分类器中进行分类,得到的边界性结果确定为背景粘膜边界性对应的图像特征值;将胃黏膜放大图像输入训练后的背景粘膜规则性分类器中进行识别,得到的规则性结果确定为背景粘膜中血管排列规则性对应的图像特征值。
其中,训练后的背景粘膜平整度分类器是一种用于判断胃黏膜放大图像的背景粘膜是否平整的深度学习模型,具体地,该训练后的背景粘膜平整度分类器可以是通过Resnet50网络模型实现,如图9所示,为Resnet50网络结构示意图,总共有50层,其网络结构如下:首先输入胃黏膜放大图像,例如,其规格为3×224×224,也即3个通道,图片尺寸为224×224,通过ZEROPAD(零填充)层进行zero padding,进入第一个卷积层(CONV),卷积核大小为7*7,卷积核个数为64,步长为2,padding为3;所以输出应该是(224-7+2×3)/2+1=112.5,向下取整得到112,所以输出是 64 ×112 ×112;到此进入包含有重复叠加卷积块(CONV BLOCK)和识别块(ID BLOCK),先通过1×1的卷积进行降维,进行一次3×3的卷积操作,再通过1×1卷积恢复维度,继续进入批正则化(Batch Norm)和ReLU激活层(Relu),将最大池化层(MAX POOL)输出降维,最后经过平均池化(AVG POOL)、维度拉平(Flatten)和全连接(FC)处理,确定背景粘膜平整度属性对应的平整度结果(平坦、凹陷和隆起),然后针对不同的平整度结果,赋予每个平整性结果一个图像特征值,在一具体实施方式中,可以将平整度结果为平坦的背景粘膜平整度对应的图像特征值PT赋值为0,将平整度结果为凹陷的背景粘膜平整度对应的图像特征值PT赋值为1,将平整度结果为隆起的背景粘膜平整度对应的图像特征值PT赋值为2。
其中,训练后的背景粘膜边界性分类器是一种用于判断胃黏膜放大图像的背景粘膜是否有边界的深度学习模型,具体地,该训练后的背景粘膜边界性分类器可以是通过VGG16网络模型实现,如图10所示,为VGG16网络结构示意图,总共有16层,13个卷积层(CONV)和3个全连接层,第一次经过64个卷积核的两次卷积后,采用一次池化(pooling),第二次经过两次128个卷积核卷积后,再采用池化,再重复两次三个512个卷积核卷积后,再池化,最后经过三次全连接(FC),确定背景粘膜平整度属性对应的边界性结果(有边界和无边界),然后针对不同的边界性结果,赋予每个边界性结果一个图像特征值,在一具体实施方式中,可以将边界性结果为有边界的背景粘膜边界性对应的图像特征值BJ赋值为1,将边界性结果为无边界的背景粘膜边界性对应的图像特征值BJ赋值为0。
其中,训练后的背景粘膜规则性分类器是一种用于判断胃黏膜放大图像的背景粘膜中的血管排列是否规则的深度学习模型,具体地,该训练后的背景粘膜规则性分类器可以是通过VGG16网络模型实现,在一具体实施方式中,可以将规则性结果为规则的背景粘膜中血管排列规则性对应的图像特征值VP赋值为0,将规则性结果为无规则的背景粘膜中血管排列规则性对应的图像特征值VP赋值为1。
本实施例中,通过对胃黏膜放大图像的像素点进行分析,并对背景粘膜平整度、背景粘膜边界性、背景粘膜中血管排列规则性进行深度学习特征提取及分类,实现了对胃黏膜放大图像的颜色特征、纹理特征、亮度特征的分析,使得胃黏膜放大图像的图像特征值更加准确丰富,有利于提高后续的图像处理的精度。
在一个实施例中,已训练的机器学习分类器包括特征拟合子网络和分类子网络;该方法还包括:采用特征拟合子网络对各个微血管特征值、微结构特征值、叠加图特征值以及图像特征值进行拟合处理,得到判定系数;基于判定系数,采用子分类网络进行分析,得到分类结果。
具体地,通过特征拟合子网络对各个微血管特征值、微结构特征值、图像特征值以 及叠加图特征值进行拟合处理进行拟合处理,根据拟合结果确定各个微血管特征值、微结 构特征值以及叠加图特征值进行拟合处理的对应的权重,继续以上述实施例中的12个特征 值
Figure 270562DEST_PATH_IMAGE061
Figure 751222DEST_PATH_IMAGE062
Figure 778084DEST_PATH_IMAGE063
Figure 431919DEST_PATH_IMAGE064
Figure 657364DEST_PATH_IMAGE065
Figure 43346DEST_PATH_IMAGE066
Figure 88662DEST_PATH_IMAGE067
Figure 280609DEST_PATH_IMAGE068
Figure 563823DEST_PATH_IMAGE069
Figure 448603DEST_PATH_IMAGE070
Figure 450057DEST_PATH_IMAGE071
Figure 445694DEST_PATH_IMAGE072
为例,利用决策树、随机森 林等确定
Figure 583415DEST_PATH_IMAGE073
Figure 639095DEST_PATH_IMAGE062
Figure 127846DEST_PATH_IMAGE074
Figure 661595DEST_PATH_IMAGE075
Figure 919401DEST_PATH_IMAGE065
Figure 145983DEST_PATH_IMAGE076
Figure 856450DEST_PATH_IMAGE077
Figure 193891DEST_PATH_IMAGE078
Figure 571782DEST_PATH_IMAGE079
Figure 703686DEST_PATH_IMAGE080
Figure 167029DEST_PATH_IMAGE081
Figure 42581DEST_PATH_IMAGE072
对应的权重分别为
Figure 540558DEST_PATH_IMAGE082
,则此时融合特征值为:
Figure 781047DEST_PATH_IMAGE083
本实施例中,通过对各个微血管特征值、微结构特征值、叠加图特征值进行融合计算,使得胃黏膜放大图像的信息特征更加丰富,且量化更加精准,有利于提高后续的图像处理效率。
在一个实施例中,分类结果包括正常结果或异常结果,其中,异常结果表征胃黏膜存在异物的概率大于或者等于预设阈值,正常结果表征胃黏膜存在异物的概率小于预设阈值,分类子网络包括标准系数,在采用特征拟合子网络对各个微血管特征值、微结构特征值以及叠加图特征值进行拟合处理,得到判定系数的步骤之后,还包括:获取分类结果为正常结果对应的判定系数作为第一判定系数,并获取识别结果为异常结果对应的判定系数作为第二判定系数;根据第一判定系数和第二判定系数确定标准系数。
具体地,获取多个正常结果对应的判定系数确定为第一判定系数,例如,有U个第 一判定系数
Figure 794002DEST_PATH_IMAGE084
,有V个第二判定系数
Figure 410928DEST_PATH_IMAGE085
,则根据U个第一判定系数和V 个第二判定系数确定标准系数,可以是分别计算第一判定系数和第二判定系数的平均值, 根据各自的平均值确定标准系数,例如,通过如下公式计算各自的平均值:
Figure 560150DEST_PATH_IMAGE086
Figure 237119DEST_PATH_IMAGE087
Figure 471791DEST_PATH_IMAGE088
分别为第一判定系数的平均值、第二判定系数的平均值,标准系数可以计 算
Figure 626829DEST_PATH_IMAGE087
Figure 896136DEST_PATH_IMAGE089
的平均值得到,即
Figure 478427DEST_PATH_IMAGE090
Figure 200396DEST_PATH_IMAGE091
为标准系数,该标准系数即为分类子网络中 的用于根据判定系数进行分类的判定系数的临界值。
在一个实施例中,在根据第一判定系数和第二判定系数确定标准系数的步骤之后,还包括:获取训练图像样本中的正样本图像对应的第一判定系数及负样本图像对应的第二判定系数;按照预设的校准规则分别对第一判定系数和第二判定系数进行校准;基于校准后第一判定系数和校准后的第二判定系数的对标准系数进行更新,得到更新后的标准系数。
其中,正样本图像为正常结果对应的训练图像样本,负样本图像为异常结果对应的训练图像样本。具体地,按照如下步骤S1-S2,获取校准后的第一判定系数:
S1:新增一定数量的正样本图像(如正样本数量为P,且
Figure 424704DEST_PATH_IMAGE092
)确定对应的第一 判定系数
Figure 486201DEST_PATH_IMAGE093
为:
Figure 567289DEST_PATH_IMAGE094
S2:当第一判定系数满足如下条件时,
Figure 714237DEST_PATH_IMAGE095
,确定为校准后的第一判定系数;
继续按照上述步骤S1-S2对第二判定系数进行校准,得到校准后的第二判定系数,计算校准后第一判定系数和校准后的第二判定系数的平均值,作为更新后的标准系数,本实施例中通过对标准系数进行更新,进一步提高了图像的分类结果的精度。
如图11所示,在一个实施例中,提出了一种图像处理装置,包括:
剪裁模块1102,用于获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;
分割模块1104,用于采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;
框选模块1106,用于按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;
第一确定模块1108,用于从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;
第二确定模块1110,用于从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;
第三确定模块1112,用于将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;
第四确定模块1114,用于从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
在一个实施例中,第一确定模块包括:
第一确定单元,用于通过迭代算法提取所述微血管图像的中心线,基于所述中心线的各个像素值确定所述微血管直径比对应的微血管特征值;
第二确定单元,用于基于所述微血管图像确定微血管连通区域,从所述微血管连通区域提取单根微血管对应的子微血管图像,在所述微血管连通区域上对各个所述子微血管图像进行遍历,得到各个所述子微血管图像的连通域,作为微血管子连通域;
第三确定单元,用于基于所述微血管子连通域确定各自对应的最小外接矩形;
第四确定单元,用于获取子微血管图像的微血管数量,并基于所述最小外接矩形确定所述微血管方向对应的微血管特征值;
第五确定单元,用于计算各个所述子微血管图像的微血管面积,基于所述微血管面积和所述微血管数量,确定所述微血管单位面积对应的微血管特征值。
在一个实施例中,第二确定模块包括:
第一计算单元,用于基于所述微结构图像确定微结构连通区域,从所述微结构连通区域中提取单根微结构对应的子微结构图像,并计算每个所述子微结构图像的微结构面积;
第二计算单元,用于根据各个所述微结构面积及所述微结构图像的面积,计算所述微结构密度对应的微结构特征值;
第六确定单元,用于将所述微结构图像进行黑白反转处理,得到微结构背景孔洞图像,并从所述微结构背景孔洞图像中提取单个子孔洞对应的子孔洞图像,基于所述微结构背景孔洞图像确定对应的孔洞连通区域,在所述孔洞连通区域上对各个所述子孔洞图像进行遍历,得到各个所述子孔洞图像的连通域,作为孔洞子连通域;
第七确定单元,用于基于所述孔洞子连通域确定各自对应的最小外接矩形;
第八确定单元,用于基于所述最小外接矩形确定所述微结构孔洞方向对应的微结构特征值;
第九确定单元,用于获取所述子孔洞图像的孔洞数量,并计算各个所述子孔洞图像的孔洞面积,基于所述孔洞面积和所述孔洞数量,确定所述微结构孔洞单位面积对应的微结构特征值。
在一个实施例中,第三确定模块包括:
处理单元,用于对所述叠加图像进行二值化处理,得到掩码图,所述掩码图包含有像素值为0和像素值为1的像素点;
第三计算单元,用于基于所述掩码图,计算每行像素点的像素值从1变化为0的次数,作为第一次数,并计算每列像素点的像素值从1变化为0的次数,作为第二次数,基于所述第一次数和第二次数确定所述叠加图黑白交替值对应的叠加图特征值;
第四计算单元,用于基于所述叠加图像确定叠加连通区域,从所述叠加连通区域中提取叠加图对应的子叠加图像,并计算每个所述子叠加图像的叠加面积;
第五计算单元,用于根据各个所述叠加面积、所述叠加图像的面积及所述微结构密度对应的微结构特征值,计算所述叠加图伪血管密度对应的叠加图特征值;
第十确定单元,用于将所述叠加图像转换为灰度模式,并基于转换后的叠加图像的二维熵确定所述叠加图熵对应的叠加图特征值。
在一个实施例中,第四确定模块包括:
第一识别单元,用于将所述胃黏膜放大图像输入训练后的背景粘膜平整度分类器中进行识别,得到的平整度结果确定为所述背景粘膜平整度对应的图像特征值;
第二识别单元,用于将所述胃黏膜放大图像输入训练后的背景粘膜边界性分类器中进行分类,得到的边界性结果确定为所述背景粘膜边界性对应的图像特征值;
第三识别单元,用于将所述胃黏膜放大图像输入训练后的背景粘膜规则性分类器中进行识别,得到的规则性结果确定为所述背景粘膜中血管排列规则性对应的图像特征值。
在一个实施例中,该图像处理装置还包括:
拟合模块,用于采用所述特征拟合子网络对各个所述微血管特征值、所述微结构特征值、所述叠加图特征值以及所述图像特征值进行拟合处理,得到判定系数;
分类模块,用于基于所述判定系数,采用所述子分类网络进行分析,得到所述分类结果。
在一个实施例中,该图像处理装置还包括:
第一获取模块,用于获取分类结果为所述正常结果对应的判定系数作为第一判定系数,并获取识别结果为所述异常结果对应的判定系数作为第二判定系数;
第四确定模块,用于根据所述第一判定系数和所述第二判定系数确定所述标准系数。
在一个实施例中,该图像处理装置还包括:
第二获取模块,用于获取训练图像样本中的正样本图像对应的第一判定系数及负样本图像对应的第二判定系数;
校准模块,用于按照预设的校准规则分别对所述第一判定系数和所述第二判定系数进行校准;
更新模块,用于基于校准后第一判定系数和校准后的第二判定系数的对所述标准系数进行更新,得到更新后的标准系数。
图12示出了一个实施例中计算机设备的内部结构图。该计算机设备具体可以是服务器,所述服务器包括但不限于高性能计算机和高性能计算机集群。如图12所示,该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,存储器包括非易失性存储介质和内存储器。该计算机设备的非易失性存储介质存储有操作系统,还可存储有计算机程序,该计算机程序被处理器执行时,可使得处理器实现图像处理方法。该内存储器中也可储存有计算机程序,该计算机程序被处理器执行时,可使得处理器执行图像处理方法。本领域技术人员可以理解,图12中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,本申请提供的图像处理方法可以实现为一种计算机程序的形式,计算机程序可在如图12所示的计算机设备上运行。计算机设备的存储器中可存储组成图像处理装置的各个程序模板。比如,剪裁模块1102,分割模块1104,框选模块1106,第一确定模块1108,第二确定模块1110,第三确定模块1112、第四确定模块1114。
一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如下步骤:获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值,所述微血管特征值、微结构特征值、叠加图特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如下步骤:获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值,所述微血管特征值、微结构特征值、叠加图特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink) DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种图像处理方法,其特征在于,包括:
获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;
采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;
按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;
从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;
从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;
将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;
从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
2.如权利要求1所述的图像处理方法,其特征在于,所述微血管特征的特征类型包括微血管直径比、微血管方向及微血管单位面积;所述从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值的步骤,包括:
通过迭代算法提取所述微血管图像的中心线,基于所述中心线的各个像素值确定所述微血管直径比对应的微血管特征值;
基于所述微血管图像确定微血管连通区域,从所述微血管连通区域提取单根微血管对应的子微血管图像,在所述微血管连通区域上对各个所述子微血管图像进行遍历,得到各个所述子微血管图像的连通域,作为微血管子连通域;
基于所述微血管子连通域确定各自对应的最小外接矩形;
获取子微血管图像的微血管数量,并基于所述最小外接矩形确定所述微血管方向对应的微血管特征值;
计算各个所述子微血管图像的微血管面积,基于所述微血管面积和所述微血管数量,确定所述微血管单位面积对应的微血管特征值。
3.如权利要求1所述的图像处理方法,其特征在于,所述微结构特征的特征类型包括微结构密度、微结构孔洞方向及微结构孔洞单位面积;所述从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值的步骤,包括:
基于所述微结构图像确定微结构连通区域,从所述微结构连通区域中提取单根微结构对应的子微结构图像,并计算每个所述子微结构图像的微结构面积;
根据各个所述微结构面积及所述微结构图像的面积,计算所述微结构密度对应的微结构特征值;
将所述微结构图像进行黑白反转处理,得到微结构背景孔洞图像,并从所述微结构背景孔洞图像中提取单个子孔洞对应的子孔洞图像,基于所述微结构背景孔洞图像确定对应的孔洞连通区域,在所述孔洞连通区域上对各个所述子孔洞图像进行遍历,得到各个所述子孔洞图像的连通域,作为孔洞子连通域;
基于所述孔洞子连通域确定各自对应的最小外接矩形;
基于所述最小外接矩形确定所述微结构孔洞方向对应的微结构特征值;
获取所述子孔洞图像的孔洞数量,并计算各个所述子孔洞图像的孔洞面积,基于所述孔洞面积和所述孔洞数量,确定所述微结构孔洞单位面积对应的微结构特征值。
4.如权利要求1所述的图像处理方法,其特征在于,所述从所述叠加图像中提取多个特征类型的图像特征的特征类型包括叠加图黑白交替值、叠加图伪血管密度及叠加图熵;所述从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值的步骤,包括:
对所述叠加图像进行二值化处理,得到掩码图,所述掩码图包含有像素值为0和像素值为1的像素点;
基于所述掩码图,计算每行像素点的像素值从1变化为0的次数,作为第一次数,并计算每列像素点的像素值从1变化为0的次数,作为第二次数,基于所述第一次数和第二次数确定所述叠加图黑白交替值对应的叠加图特征值;
基于所述叠加图像确定叠加连通区域,从所述叠加连通区域中提取单根微结构和单根微血管的叠加图对应的子叠加图像,并计算每个所述子叠加图像的叠加面积;
根据各个所述叠加面积、所述叠加图像的面积及所述微结构密度对应的微结构特征值,计算所述叠加图伪血管密度对应的叠加图特征值;
将所述叠加图像转换为灰度模式,并基于转换后的叠加图像的二维熵确定所述叠加图熵对应的叠加图特征值。
5.如权利要求1所述的图像处理方法,其特征在于,所述从所述胃黏膜放大图像中提取多个特征类型的图像特征的特征类型包括背景粘膜平整度、背景粘膜边界性、背景粘膜中血管排列规则性;所述从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值的步骤,包括:
将所述胃黏膜放大图像输入训练后的背景粘膜平整度分类器中进行识别,得到的平整度结果确定为所述背景粘膜平整度对应的图像特征值;
将所述胃黏膜放大图像输入训练后的背景粘膜边界性分类器中进行分类,得到的边界性结果确定为所述背景粘膜边界性对应的图像特征值;
将所述胃黏膜放大图像输入训练后的背景粘膜规则性分类器中进行识别,得到的规则性结果确定为所述背景粘膜中血管排列规则性对应的图像特征值。
6.如权利要求1所述的图像处理方法,其特征在于,所述已训练的机器学习分类器包括特征拟合子网络和分类子网络;所述方法还包括:
采用所述特征拟合子网络对各个所述微血管特征值、所述微结构特征值、所述叠加图特征值以及所述图像特征值进行拟合处理,得到判定系数;
基于所述判定系数,采用所述分类子网络进行分析,得到所述分类结果。
7.如权利要求6所述的图像处理方法,其特征在于,所述分类结果包括正常结果或异常结果,其中,异常结果表征胃黏膜存在异物的概率大于或者等于预设阈值,正常结果表征胃黏膜存在异物的概率小于预设阈值,所述分类子网络包括标准系数,在所述采用所述特征拟合子网络对各个所述微血管特征值、所述微结构特征值以及所述叠加图特征值进行拟合处理,得到判定系数的步骤之后,还包括:
获取分类结果为所述正常结果对应的判定系数作为第一判定系数,并获取识别结果为所述异常结果对应的判定系数作为第二判定系数;
根据所述第一判定系数和所述第二判定系数确定所述标准系数。
8.如权利要求7所述的图像处理方法,其特征在于,在所述根据所述第一判定系数和所述第二判定系数确定所述标准系数的步骤之后,还包括:
获取训练图像样本中的正样本图像对应的第一判定系数及负样本图像对应的第二判定系数;
按照预设的校准规则分别对所述第一判定系数和所述第二判定系数进行校准;
基于校准后第一判定系数和校准后的第二判定系数的对所述标准系数进行更新,得到更新后的标准系数。
9.一种图像处理装置,其特征在于,包括:
剪裁模块,用于获取胃黏膜放大图像,从所述胃黏膜放大图像中剪裁出清晰度大于预设清晰度阈值的清晰区域,并获取所述清晰区域的边界坐标;
分割模块,用于采用预设的图像分割模型对所述胃黏膜放大图像进行分割,得到微血管区域及微结构区域;
框选模块,用于按照所述清晰区域的边界坐标对应的最小外接矩形分别在所述胃黏膜放大图像的所述微血管区域、所述微结构区域上进行框选,得到对应的微血管图像和微结构图像;
第一确定模块,用于从所述微血管图像中提取多个特征类型的微血管特征,得到多个微血管特征值;
第二确定模块,用于从所述微结构图像中提取多个特征类型的微结构特征,得到多个微结构特征值;
第三确定模块,用于将所述微血管图像和微结构图像进行叠加处理,得到叠加图像,从所述叠加图像中提取多个特征类型的图像特征,得到多个叠加图特征值;
第四确定模块,用于从所述胃黏膜放大图像中提取多个特征类型的图像特征,得到多个图像特征值,所述微血管特征值、微结构特征值、叠加图特征值、图像特征值用于输入已训练的机器学习分类器进行分类,得到所述胃黏膜放大图像的分类结果。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8任一项所述图像处理方法的步骤。
CN202210267537.9A 2022-03-18 2022-03-18 图像处理方法、装置、计算机设备及存储介质 Active CN114359279B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210267537.9A CN114359279B (zh) 2022-03-18 2022-03-18 图像处理方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210267537.9A CN114359279B (zh) 2022-03-18 2022-03-18 图像处理方法、装置、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN114359279A CN114359279A (zh) 2022-04-15
CN114359279B true CN114359279B (zh) 2022-06-03

Family

ID=81095096

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210267537.9A Active CN114359279B (zh) 2022-03-18 2022-03-18 图像处理方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN114359279B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115375674B (zh) * 2022-10-21 2023-02-03 武汉楚精灵医疗科技有限公司 胃白光瘤变图像识别方法、装置及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108615051A (zh) * 2018-04-13 2018-10-02 博众精工科技股份有限公司 基于深度学习的糖尿病视网膜图像分类方法及系统
CN110189303A (zh) * 2019-05-07 2019-08-30 上海珍灵医疗科技有限公司 一种基于深度学习和图像增强的nbi图像处理方法及其应用
CN110517256A (zh) * 2019-08-30 2019-11-29 重庆大学附属肿瘤医院 一种基于人工智能的早期癌辅助诊断系统
CN111899229A (zh) * 2020-07-14 2020-11-06 武汉楚精灵医疗科技有限公司 一种基于深度学习多模型融合技术的胃早癌辅助诊断方法
JP2021037239A (ja) * 2019-09-05 2021-03-11 キヤノン株式会社 領域分類方法
CN113205492A (zh) * 2021-04-26 2021-08-03 武汉大学 胃粘膜染色放大成像的微血管扭曲程度量化方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113706533B (zh) * 2021-10-28 2022-02-08 武汉大学 图像处理方法、装置、计算机设备及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108615051A (zh) * 2018-04-13 2018-10-02 博众精工科技股份有限公司 基于深度学习的糖尿病视网膜图像分类方法及系统
CN110189303A (zh) * 2019-05-07 2019-08-30 上海珍灵医疗科技有限公司 一种基于深度学习和图像增强的nbi图像处理方法及其应用
CN110517256A (zh) * 2019-08-30 2019-11-29 重庆大学附属肿瘤医院 一种基于人工智能的早期癌辅助诊断系统
JP2021037239A (ja) * 2019-09-05 2021-03-11 キヤノン株式会社 領域分類方法
CN111899229A (zh) * 2020-07-14 2020-11-06 武汉楚精灵医疗科技有限公司 一种基于深度学习多模型融合技术的胃早癌辅助诊断方法
CN113205492A (zh) * 2021-04-26 2021-08-03 武汉大学 胃粘膜染色放大成像的微血管扭曲程度量化方法

Also Published As

Publication number Publication date
CN114359279A (zh) 2022-04-15

Similar Documents

Publication Publication Date Title
CN110120040B (zh) 切片图像处理方法、装置、计算机设备和存储介质
Dharmawan et al. A new hybrid algorithm for retinal vessels segmentation on fundus images
US10839510B2 (en) Methods and systems for human tissue analysis using shearlet transforms
CN111985536B (zh) 一种基于弱监督学习的胃镜病理图像分类方法
CN111524137B (zh) 基于图像识别的细胞识别计数方法、装置和计算机设备
CN107451615A (zh) 基于Faster RCNN的甲状腺乳头状癌超声图像识别方法及系统
CN114187277B (zh) 基于深度学习的甲状腺细胞学多种类型细胞的检测方法
Xu et al. Computerized classification of prostate cancer gleason scores from whole slide images
CN113962976B (zh) 用于病理玻片数字图像的质量评估方法
CN112862808A (zh) 一种基于深度学习的乳腺癌超声图像的可解释性识别方法
US20230005140A1 (en) Automated detection of tumors based on image processing
CN114266794B (zh) 基于全卷积神经网络的病理切片图像癌症区域分割系统
CN114529516A (zh) 基于多注意力与多任务特征融合的肺结节检测与分类方法
CN113609984A (zh) 一种指针式仪表读数识别方法、装置及电子设备
CN114359279B (zh) 图像处理方法、装置、计算机设备及存储介质
US20210209755A1 (en) Automatic lesion border selection based on morphology and color features
CN116468690B (zh) 基于深度学习的浸润性非粘液性肺腺癌的亚型分析系统
CN113129281A (zh) 一种基于深度学习的小麦茎秆截面参数检测方法
US11887355B2 (en) System and method for analysis of microscopic image data and for generating an annotated data set for classifier training
CN115423806B (zh) 一种基于多尺度跨路径特征融合的乳腺肿块检测方法
CN115375674B (zh) 胃白光瘤变图像识别方法、装置及存储介质
CN114170224B (zh) 应用生成式染色归一化的细胞病理分类的系统及方法
CN116228709A (zh) 一种胰腺实性占位病灶的交互式超声内镜图像识别方法
CN113706515B (zh) 舌像异常确定方法、装置、计算机设备和存储介质
Zhao et al. Learning-based automatic defect recognition with computed tomographic imaging

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant