CN116703798A - 基于自适应干扰抑制的食管多模态内镜图像增强融合方法 - Google Patents

基于自适应干扰抑制的食管多模态内镜图像增强融合方法 Download PDF

Info

Publication number
CN116703798A
CN116703798A CN202310989853.1A CN202310989853A CN116703798A CN 116703798 A CN116703798 A CN 116703798A CN 202310989853 A CN202310989853 A CN 202310989853A CN 116703798 A CN116703798 A CN 116703798A
Authority
CN
China
Prior art keywords
image
mode
specular reflection
channel
fusing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310989853.1A
Other languages
English (en)
Other versions
CN116703798B (zh
Inventor
万维佳
刘爽利
张锦宝
秦佳敏
文黎明
张华�
王姮
王利
李小霞
周颖玥
尚鑫
彭万婷
黄雪莉
刘磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southwest University of Science and Technology
Original Assignee
Southwest University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southwest University of Science and Technology filed Critical Southwest University of Science and Technology
Priority to CN202310989853.1A priority Critical patent/CN116703798B/zh
Publication of CN116703798A publication Critical patent/CN116703798A/zh
Application granted granted Critical
Publication of CN116703798B publication Critical patent/CN116703798B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法,涉及医学图像的多模态融合技术领域。该方法包括获取食管内不同类别病变组织的多模态图像数据;对获取的多模态图像数据进行预处理,以调整亮度细节并去除镜面反射干扰;对预处理后的多模态图像数据进行图像配准和融合,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。本发明基于自适应亮度均衡和镜面反射抑制的食管多模态图像增强融合方法,将多种成像方式的图像进行配准和融合后形成一张新的图像,提高了内镜图像的质量。

Description

基于自适应干扰抑制的食管多模态内镜图像增强融合方法
技术领域
本发明涉及医学图像的多模态融合技术领域,具体涉及一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法。
背景技术
在常规内镜检查中,内窥镜摄像头拍摄的图像被显示出来,以帮助医生观察食管内部情况。内镜图像的质量在很大程度上影响着医生对病灶的判断。但由于在图像采集时存在光源照射以及组织液等影响因素,使得图像存在曝光、阴影和镜面反射区域,这种干扰可能会导致病灶区域被遮盖而造成误诊。提出一种高效的抗干扰方法对于提高病灶识别率有重大意义。
目前临床用于消化道病变诊断的内镜大多包括三种模态:白光内镜(whitelightendoscopy,WLE)、卢戈液染色内镜(Lugol’s chromoendoscopy,LCE)和窄带成像内镜(narrow-band imaging,NBI),不同模态在不同类别的病灶上表现出各自的优势,多模态医学影像设备为患者提供了不同纹理细节的图像,不同数据间既存在冗余信息,又充斥着大量的互补信息。图像融合技术可以将多种数据的优势结合在一起,提取其中清晰、互补的信息加以整合,有效弥补单一模态中存在的信息缺失。与单一模态的图像相比,融合图像能更全面的反映组织病变、结构变化和功能异常情况,使图像的可靠性大幅提升。现有图像融合技术对于内窥镜单模态光学图像融合过程中在色彩融合中存在细节不足,导致融合图像存在失真,影响诊断精度。
然而三种模态图像之间由于成像和滤波特性的差异,使得其采集到的图像存在着亮度不均衡的问题。例如,WLE采集的图像偏亮,图像整体偏亮,且存在较多过曝区域;NBI由于其滤波特性,仅留下了蓝绿窄带光,图像整体偏暗。在融合前需要将多模态图像进行亮度均衡处理,以免在融合过程中出现亮度失衡的情况。
发明内容
针对现有技术中的上述不足,本发明提供了一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法,已解决现有内窥镜单模态光学图像存在的细节不足的问题,提高病灶识别精度。
为了达到上述发明目的,本发明采用的技术方案为:
一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法,包括以下步骤:
S1、获取食管内不同类别病变组织的多模态图像数据;
S2、对多模态图像数据进行预处理,以调整亮度细节并去除镜面反射干扰;
S3、对预处理后的多模态图像数据进行图像配准和融合,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
进一步地,步骤S2中对多模态图像数据进行预处理具体包括:
对多模态图像数据进行数据清洗、图像增强、镜面反射检测和镜面反射修复。
进一步地,步骤S2中对多模态图像数据进行图像增强具体包括以下步骤:
A1、将数据清洗后的多模态图像从RGB颜色空间转换到YUV颜色空间;
A2、从多模态图像的YUV颜色空间中提取Y通道的分量,并确定Y通道分量的全局最大元素值;
A3、根据确定的Y通道分量的全局最大元素值以及对数平均值对多模态图像进行亮度自适应调节;
A4、根据多模态图像调节后的亮度分量对多模态图像的RGB颜色分量进行色彩修正,得到图像增强后的多模态图像。
进一步地,步骤A3中对多模态图像进行亮度自适应调节的方法具体为:
其中,为多模态图像调节后的亮度分量,/>为多模态图像的原始亮度值,/>为确定的Y通道分量值的全局最大元素值,/>为确定的Y通道分量的对数平均值。
进一步地,步骤A4中对多模态图像的RGB颜色分量进行色彩修正的方法为:
其中,为多模态图像色彩修正后的RGB颜色分量,/>为多模态图像的原始RGB颜色分量,Y为多模态图像的Y通道分量,/>为多模态图像调节后的亮度分量。
进一步地,步骤S2中对多模态图像数据进行镜面反射检测具体包括以下步骤:
B1、获取图像增强后的多模态图像的G通道分量、B通道分量以及图像灰度值,根据设置的颜色平衡比率以及高反射强度阈值确定高强度镜面反射区域;
B2、设置一个小于高反射强度阈值的低反射强度阈值,并按照步骤B1的方式确定低强度待测区域,对低强度待测区域采用两种不同半径的膨胀操作获取两个掩膜,将两个掩膜相减后得到镜面反射的外围区域,分别计算外围区域的行列均值和像素均值作为该外围区域的质心位置和颜色,对低强度待测区域进行填充;
B3、将对低强度待测区域填充后的多模态图像进行中值滤波,根据图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值确定最终的低强度镜面反射区域。
进一步地,步骤B3中图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值的计算方法为:
其中,为图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值,max为取最大值函数,/>分别为图像增强后的多模态图像中像素点x 0的R通道分量、G通道分量、B通道分量,/>分别为中值滤波图像中像素点x 0的R通道颜色强度、G通道颜色强度、B通道颜色强度,/>分别为R通道、G通道、B通道的对比度系数。
进一步地,步骤S2中对多模态图像数据进行镜面反射修复具体包括以下步骤:
C1、将对多模态图像进行镜面反射检测得到的所有镜面反射区域进行Imfilter滤波,得到图像权值;
C2、将镜面反射检测后的多模态图像进行高斯滤波,得到无镜面反射的平滑图像;
C3、根据图像权值将无镜面反射的平滑图像与图像增强后的多模态图像进行融合,得到图像修复后的多模态图像。
进一步地,步骤C3中将无镜面反射的平滑图像与图像增强后的多模态图像进行融合的方法为:
其中,为图像修复后的多模态图像,/>为图像权值,/>为无镜面反射的平滑图像,/>为图像增强后的多模态图像。
进一步地,步骤S3具体包括以下步骤:
S31、选取预处理后的多模态图像分别作为参考图像和浮动图像,采用Demons配准算法对参考图像与浮动图像进行配准;
S32、将配准后的浮动图像转换为灰度图;
S33、将浮动图像的灰度图和参考图像从RGB颜色空间转换到LAB颜色空间;
S34、将参考图像的亮度通道分量与浮动图像的灰度图的亮度通道分量进行亮度通道融合,生成初始融合图像;
S34、将初始融合图像从LAB颜色空间转换回RGB颜色空间,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
本发明具有以下有益效果:
1.本发明通过多模态图像的增强和修复,对图像进行了亮度细节调整以及镜面反射的干扰去除,使图像中局部暗区得到改善,整体达到一个亮度自平衡的效果,并且消除了图像中的干扰因素,提高了内镜图像的质量,从而更容易发现病灶。
2.本发明综合利用多模态图像数据具有的各自呈现优势并相互弥补各自的缺陷。WLE更好的还原了食管内壁的真实颜色,但大多数早期的食管病变在WLE下表现不明显,误诊率高;LCE由于其着色反应,使得病灶与正常黏膜组织在颜色上形成对比,相比于WLE可以更清晰的显示出病灶区域;NBI是一种新兴的内镜技术,它通过一种窄带滤波片滤过宽带光波,仅留下窄带蓝光(440~460nm)和绿光(540~560nm)光波,可以提高毛细血管、静脉等组织结构的可见度。本发明融合多模态图像可以拓宽数据所包含信息的覆盖范围,适用人群也更多
3.本发明基于自适应亮度均衡和镜面反射抑制的食管多模态图像增强融合方法,将多种成像方式的图像进行配准和融合后形成一张新的图像,具有较强的通用性,可以省去模态切换的麻烦。
附图说明
图1为本发明中基于自适应干扰抑制的食管多模态内镜图像增强融合方法的流程示意图;
图2为本发明中低强度待测区域填充示意图;
图3为本发明中进行图像增强和修复后的食管图像对比示意图;WLE表示白光内镜图像,NBI表示窄带成像内镜图像,LCE表示卢戈液染色内镜图像;
图4为本发明中图像融合流程示意图;
图5为本发明中图像融合结果示意图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
如图1所示,本发明实施例提供了一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法,包括以下步骤S1至S3:
S1、获取食管内不同类别病变组织的多模态图像数据;
在本发明的一个可选实施例中,本实施例中涉及的食管内不同类别病变组织包括食管炎症、巴雷特食管、癌前病变和食管早癌四类,获取的食管内不同类别病变组织的多模态图像数据包括白光内镜(whitelightendoscopy,WLE)、卢戈液染色内镜(Lugol’schromoendoscopy,LCE)和窄带成像内镜(narrow-band imaging,NBI)三种模态采集到的图像。采集方式为同一病灶同一位置分别采集该三种模态作为一组多模态数据。
具体而言,在消化道内可疑区域,首先采用传统白光内镜获取消化道内壁在可见光下的图像;再切换到窄带光,由于其滤光特性,获取到的图像其黏膜表面结构和微血管系统纹理较为明显;随后在同一病灶位置喷散卢戈液,获取卢戈液染色图像,利用糖原遇碘呈棕色的着色反应,病变黏膜与正常黏膜的着色形成鲜明对比。数据采集完毕,构建多模态图像数据集。
S2、对多模态图像数据进行预处理,以调整亮度细节并去除镜面反射干扰;
在本发明的一个可选实施例中,步骤S2中对多模态图像数据进行预处理具体包括:
对步骤S1获取的多模态图像数据依次进行数据清洗、图像增强、镜面反射检测和镜面反射修复。其中数据清洗主要是为了筛选出符合要求的数据;本发明采用一种自适应局部色调映射算法进行图像增强,解决图像亮度细节不足的问题;镜面反射检测与修复主要是为了去除掉图像中由于光源照射、组织液以及金属尖端等因素造成的镜面反射,强烈的镜面反射会干扰医生和计算机的诊断,本发明采用一种颜色平衡自适应的阈值方法检测图像中的镜面反射区域,并采用一种按权重插值的颜色填充算法对镜面反射区域进行修复。
本实施例首先对获取的多模态图像数据进行数据清洗,去除掉低质量数据。
本实施例在对获取的多模态图像数据进行数据清洗后,采用一种自适应局部色调映射算法对数据清洗后的多模态图像进行图像增强,具体包括以下步骤:
A1、将数据清洗后的多模态图像从RGB颜色空间转换到YUV颜色空间;
A2、从多模态图像的YUV颜色空间中提取Y通道的分量,并确定Y通道分量的全局最大元素值和最小元素值以及对应的位置;
A3、根据确定的Y通道分量的全局最大元素值以及对数平均值对多模态图像进行亮度自适应调节;
具体而言,本实施例根据确定的Y通道分量的全局最大元素值构建亮度自适应函数,对多模态图像进行亮度自适应调节;其中构建的亮度自适应函数具体为:
其中,为多模态图像调节后的亮度分量,/>为多模态图像的原始亮度值,/>为确定的Y通道分量值的全局最大元素值,/>为确定的Y通道分量的对数平均值。
其中Y通道分量的对数平均值的计算方式为:
其中,N为多模态图像的像素总数,为为避免输入像素点为0时函数无意义而设置的极小值。
A4、根据多模态图像调节后的亮度分量对多模态图像的RGB颜色分量进行色彩修正,得到图像增强后的多模态图像。
具体而言,由于只改变了图片YUV颜色空间上的Y通道值,输出的图片因为仅明度的提升而存在色彩饱和度表达不足的问题,因此本实施例为了弥补色彩上的不足,根据多模态图像调节后的亮度分量对多模态图像的RGB颜色分量进行色彩修正,具体为:
其中,为多模态图像色彩修正后的RGB颜色分量,/>为多模态图像的原始RGB颜色分量,Y为多模态图像的Y通道分量,/>为多模态图像调节后的亮度分量。
本实施例在对多模态图像进行图像增强后,再对多模态图像数据进行镜面反射检测,具体包括以下步骤:
B1、获取图像增强后的多模态图像的G通道分量、B通道分量以及图像灰度值,根据设置的颜色平衡比率以及高反射强度阈值确定高强度镜面反射区域;
具体而言,本实施例首先采用一种颜色平衡自适应的阈值方法用于检测高强度镜面反射区域,考虑到只有在高强度范围时才需要补偿颜色平衡,因此获取RGB通道以及图像灰度值E的第95个百分位数来设置颜色平衡比率,具体为:
其中,为G通道的颜色平衡比率,/>为G通道的第95个百分位数,/>为图像灰度值E的第95个百分位数,/>为B通道的颜色平衡比率,/>为B通道的第95个百分位数,/>为图像中像素点x 0的G通道分量,/>为图像中像素点x 0的B通道分量,/>为图像灰度值中像素点x 0的灰度值,/>为高反射强度阈值,/>表示并集。
本实施例将满足上述颜色平衡比率条件的所有像素点标记为高强度镜面反射区域。没有设置R通道的阈值是因为红色在内镜图像中较为常见,接近饱和的红色强度在内镜图像中不一定是镜面反射区域。
B2、设置一个小于高反射强度阈值的低反射强度阈值,并按照步骤B1的方式确定低强度待测区域,对低强度待测区域采用两种不同半径的膨胀操作获取两个掩膜,将两个掩膜相减后得到镜面反射的外围区域,分别计算外围区域的行列均值和像素均值作为该外围区域的质心位置和颜色,对低强度待测区域进行填充;
具体而言,本实施例接下来检测镜面反射中颜色强度较小的部分,首先设置一个稍低于高反射强度阈值的低反射强度阈值/>,按照步骤B1的方式检测出低强度待测区域的像素点,对检测出的低强度待测区域使用两种不同半径的膨胀操作来获取两个掩膜,将两个掩膜相减后得到镜面反射的外围区域,分别计算每个外围区域的行列均值和像素均值作为该区域的质心位置和颜色,将每个检测到的低强度待测区域用该区域范围内的质心像素颜色值进行填充。如图2所示,低强度待测区域1分别采用两种半径的膨胀操作获取第一掩膜2和第二掩膜3,相减后得到环状区域4,对环状区域4内所有的像素点取均值,得到的值作为低强度待测区域的填充值,所有像素点的坐标均值作为该区域的质心坐标。
B3、将对低强度待测区域填充后的多模态图像进行中值滤波,根据图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值确定最终的低强度镜面反射区域。
具体而言,本实施例接下来对步骤B2进行低强度待测区域填充后的多模态图像进行中值滤波,接着比较图像增强后的多模态图像和中值滤波图像的像素值,镜面反射为正颜色异常值,采用图像增强后的多模态图像和中值滤波图像中RGB三通道颜色强度的最大比值进行计算,具体为:
其中,为图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值,max为取最大值函数,/>分别为图像增强后的多模态图像中像素点x 0的R通道分量、G通道分量、B通道分量,/>分别为中值滤波图像中像素点x 0的R通道颜色强度、G通道颜色强度、B通道颜色强度,/>分别为R通道、G通道、B通道的对比度系数。
本实施例通过加入了一个对比度系数来补偿图像颜色平衡和对比度,/>为颜色通道i中所有像素强度的样本均值,/>为样本标准差,计算公式如下:
本实施例使用阈值作为相对测度,如果像素点/>处满足以下条件:
则像素点被视为低强度镜面反射区域。
本实施例首先使用全局阈值检测非常突出和明亮的镜面反射点,然后通过观察相对特征来检测不太突出的特征,从而提高镜面反射去除的效果。
本实施例在对多模态图像数据进行镜面反射检测后,再对多模态图像数据进行镜面反射修复,具体包括以下步骤:
C1、将对多模态图像进行镜面反射检测得到的所有镜面反射区域进行Imfilter滤波,得到图像权值;
C2、将镜面反射检测后的多模态图像进行高斯滤波,得到无镜面反射的平滑图像;
C3、根据图像权值将无镜面反射的平滑图像与图像增强后的多模态图像进行融合,得到图像修复后的多模态图像。
具体而言,本实施例对检测出的所有镜面反射区域,包括高强度镜面反射区域和低强度镜面反射区域,采用Imfilter滤波获得图像权值,越靠近镜面反射中心的权重越大。此外,使用高斯滤波对镜面反射检测时初步填充后的多模态图像进行滤波,得到无镜面反射的平滑图像/>,最后根据权重比例将/>和图像增强后的多模态图像/>进行混合,填充颜色逐渐过渡,具体为:
其中,为图像修复后的多模态图像,/>为图像权值,/>为无镜面反射的平滑图像,/>为图像增强后的多模态图像。
图3展示了对三种模态图像的预处理效果,可见在图像增强后图像局部暗区的亮度有了明显提升,在镜面反射修复后原图中存在的镜面反射区域得到了较好的修复,图像质量提升。
S3、对预处理后的多模态图像数据进行图像配准和融合,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
在本发明的一个可选实施例中,如图4所示,步骤S3具体包括以下步骤:
S31、选取预处理后的多模态图像分别作为参考图像和浮动图像,采用Demons配准算法对参考图像与浮动图像进行配准;
具体而言,本实施例采用的Demons配准算法是一种全局坐标变换模型的配准算法,该算法使用参考图像的梯度以及参考图像与浮动图像的灰度差值来计算每一个点的坐标偏移量,从而得到参考图像与浮动图像的整幅图的坐标偏移量,并使用坐标偏移量对浮动图像进行重采样和插值,重复迭代此过程直到迭代次数达到设定次数或参考图像与浮动图像相似度达到设定阈值为止,本发明将WLE作为参考图像,LCE和NBI作为浮动图像,进行配准,配准后的图像会在原图像的基础上发生一定程度的形变,已达到契合基础图像的目的。
S32、将配准后的浮动图像转换为灰度图;
具体而言,本实施例将配准后的LCE和NBI图像转为灰度图,灰度值计算公式为:
其中,E为图像灰度值,R,G,B分别为图像的RGB三通道分量值。
S33、将浮动图像的灰度图和参考图像从RGB颜色空间转换到LAB颜色空间;
具体而言,本实施例在融合前需要进行颜色空间的转换,首先将亮度通道分离出来,本发明采用的是RGB转LAB,转换公式为:
其中,L,A,B分别为图像的LAB三通道分量值。
S34、将参考图像的亮度通道分量与浮动图像的灰度图的亮度通道分量进行亮度通道融合,生成初始融合图像;
具体而言,本实施例颜色空间转换后,将WLE图像的L通道与LCE和NBI灰度图的L通道进行加权平均,计算公式为:
其中,、/>、/>分别表示WLE、LCE和NBI三个模态的L通道分量值,/>表示融合后的L通道分量值。
由于A、B通道表达了图像的颜色信息,而本实施例只需要融合多模态的纹理细节,因此本实施例只对L通道进行融合,而A、B通道采用WLE模态的对应分量值,从而根据融合后的L通道分量值和WLE模态的A、B通道分量值得到融合后的初始融合图像。
S34、将初始融合图像从LAB颜色空间转换回RGB颜色空间,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
具体而言,本实施例最后将初始融合图像从LAB空间转换回RGB颜色空间,转换公式为:
其中,、/>、/>表示融合后的RGB通道分量值,融合后的数据是保留WLE图像色彩但包含更多LCE和NBI图像细节的彩色图像。
本发明采用的上述图像融合方法将保留WLE模态下的颜色信息,使融合后的图像保留食管内壁的真实色彩,将LCE和NBI图像转灰度图后根据灰度值大小提取纹理信息,在WLE的基础上添加LCE模态下病灶边缘形态细节纹理信息,以及NBI模态下食管黏膜上皮和上皮血管网的形态信息,最终实现多模态医学图像信息的有效结合。
图5展示了步骤S3部分将达到的效果,保留WLE模态的颜色信息,并添加LCE模态在病灶轮廓上的呈现细节以及NBI模态的组织结构纹理细节。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
本领域的普通技术人员将会意识到,这里所述的实施例是为了帮助读者理解本发明的原理,应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合,这些变形和组合仍然在本发明的保护范围内。

Claims (10)

1.一种基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,包括以下步骤:
S1、获取食管内不同类别病变组织的多模态图像数据;
S2、对多模态图像数据进行预处理,以调整亮度细节并去除镜面反射干扰;
S3、对预处理后的多模态图像数据进行图像配准和融合,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
2.根据权利要求1所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤S2中对多模态图像数据进行预处理具体包括:
对多模态图像数据进行数据清洗、图像增强、镜面反射检测和镜面反射修复。
3.根据权利要求2所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤S2中对多模态图像数据进行图像增强具体包括以下步骤:
A1、将数据清洗后的多模态图像从RGB颜色空间转换到YUV颜色空间;
A2、从多模态图像的YUV颜色空间中提取Y通道的分量,并确定Y通道分量的全局最大元素值;
A3、根据确定的Y通道分量的全局最大元素值以及对数平均值对多模态图像进行亮度自适应调节;
A4、根据多模态图像调节后的亮度分量对多模态图像的RGB颜色分量进行色彩修正,得到图像增强后的多模态图像。
4.根据权利要求3所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤A3中对多模态图像进行亮度自适应调节的方法具体为:
其中,为多模态图像调节后的亮度分量,/>为多模态图像的原始亮度值,为确定的Y通道分量值的全局最大元素值,/>为确定的Y通道分量的对数平均值。
5.根据权利要求3所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤A4中对多模态图像的RGB颜色分量进行色彩修正的方法为:
其中,为多模态图像色彩修正后的RGB颜色分量,/>为多模态图像的原始RGB颜色分量,Y为多模态图像的Y通道分量,/>为多模态图像调节后的亮度分量。
6.根据权利要求2所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤S2中对多模态图像数据进行镜面反射检测具体包括以下步骤:
B1、获取图像增强后的多模态图像的G通道分量、B通道分量以及图像灰度值,根据设置的颜色平衡比率以及高反射强度阈值确定高强度镜面反射区域;
B2、设置一个小于高反射强度阈值的低反射强度阈值,并按照步骤B1的方式确定低强度待测区域,对低强度待测区域采用两种不同半径的膨胀操作获取两个掩膜,将两个掩膜相减后得到镜面反射的外围区域,分别计算外围区域的行列均值和像素均值作为该外围区域的质心位置和颜色,对低强度待测区域进行填充;
B3、将对低强度待测区域填充后的多模态图像进行中值滤波,根据图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值确定最终的低强度镜面反射区域。
7.根据权利要求6所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤B3中图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值的计算方法为:
其中,为图像增强后的多模态图像与中值滤波图像的RGB三通道颜色强度的最大比值,max为取最大值函数,/>分别为图像增强后的多模态图像中像素点x 0的R通道分量、G通道分量、B通道分量,/>分别为中值滤波图像中像素点x 0的R通道颜色强度、G通道颜色强度、B通道颜色强度,/>分别为R通道、G通道、B通道的对比度系数。
8.根据权利要求2所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤S2中对多模态图像数据进行镜面反射修复具体包括以下步骤:
C1、将对多模态图像进行镜面反射检测得到的所有镜面反射区域进行Imfilter滤波,得到图像权值;
C2、将镜面反射检测后的多模态图像进行高斯滤波,得到无镜面反射的平滑图像;
C3、根据图像权值将无镜面反射的平滑图像与图像增强后的多模态图像进行融合,得到图像修复后的多模态图像。
9.根据权利要求8所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤C3中将无镜面反射的平滑图像与图像增强后的多模态图像进行融合的方法为:
其中,为图像修复后的多模态图像,/>为图像权值,/>为无镜面反射的平滑图像,/>为图像增强后的多模态图像。
10.根据权利要求1所述的基于自适应干扰抑制的食管多模态内镜图像增强融合方法,其特征在于,步骤S3具体包括以下步骤:
S31、选取预处理后的多模态图像分别作为参考图像和浮动图像,采用Demons配准算法对参考图像与浮动图像进行配准;
S32、将配准后的浮动图像转换为灰度图;
S33、将浮动图像的灰度图和参考图像从RGB颜色空间转换到LAB颜色空间;
S34、将参考图像的亮度通道分量与浮动图像的灰度图的亮度通道分量进行亮度通道融合,生成初始融合图像;
S34、将初始融合图像从LAB颜色空间转换回RGB颜色空间,得到融合病灶边缘形态细节纹理信息和组织结构形态信息的融合图像。
CN202310989853.1A 2023-08-08 2023-08-08 基于自适应干扰抑制的食管多模态内镜图像增强融合方法 Active CN116703798B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310989853.1A CN116703798B (zh) 2023-08-08 2023-08-08 基于自适应干扰抑制的食管多模态内镜图像增强融合方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310989853.1A CN116703798B (zh) 2023-08-08 2023-08-08 基于自适应干扰抑制的食管多模态内镜图像增强融合方法

Publications (2)

Publication Number Publication Date
CN116703798A true CN116703798A (zh) 2023-09-05
CN116703798B CN116703798B (zh) 2023-10-13

Family

ID=87829747

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310989853.1A Active CN116703798B (zh) 2023-08-08 2023-08-08 基于自适应干扰抑制的食管多模态内镜图像增强融合方法

Country Status (1)

Country Link
CN (1) CN116703798B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117479019A (zh) * 2023-12-28 2024-01-30 深圳市安佳威视信息技术有限公司 一种网络摄像机视频质量提升方法及系统
CN118351123A (zh) * 2024-06-20 2024-07-16 四川省肿瘤医院 多特征融合的内窥镜图像质量评估方法

Citations (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101797182A (zh) * 2010-05-20 2010-08-11 北京理工大学 一种基于增强现实技术的鼻内镜微创手术导航系统
CN103854259A (zh) * 2012-12-03 2014-06-11 三星泰科威株式会社 图像处理设备以及处理图像的方法
WO2015077684A1 (en) * 2013-11-22 2015-05-28 Duke University Colposcopes having light emitters and image capture devices and associated methods
WO2017046747A1 (en) * 2015-09-15 2017-03-23 Acerta Pharma B.V. Therapeutic combinations of a cd19 inhibitor and a btk inhibitor
CN109124586A (zh) * 2018-08-15 2019-01-04 南京航空航天大学 一种多模式荧光内窥实时成像系统
US20190021580A1 (en) * 2016-03-29 2019-01-24 Fujifilm Corporation Image processing apparatus, method for operating image processing apparatus, and image processing program
CN109410126A (zh) * 2017-08-30 2019-03-01 中山大学 一种细节增强与亮度自适应的高动态范围图像的色调映射方法
KR20190079187A (ko) * 2017-12-27 2019-07-05 재단법인대구경북과학기술원 다중 모달 융합 내시경 시스템
US20190340733A1 (en) * 2018-05-03 2019-11-07 Canon Virginia, Inc. Devices, systems, and methods for enhancing images
CN110600122A (zh) * 2019-08-23 2019-12-20 腾讯医疗健康(深圳)有限公司 一种消化道影像的处理方法、装置、以及医疗系统
CN111915519A (zh) * 2020-07-29 2020-11-10 同济大学 一种基于空谱径向基函数插值的条带修复方法
WO2021031458A1 (zh) * 2019-08-16 2021-02-25 域鑫科技(惠州)有限公司 适用于内窥镜的图像颜色校正方法、装置和存储介质
CN113139929A (zh) * 2021-03-17 2021-07-20 浙江工业大学 包含信息筛选与融合修复的胃肠道内窥镜图像预处理方法
CN113256572A (zh) * 2021-05-12 2021-08-13 中国科学院自动化研究所 基于修复和选择性增强的胃镜图像分析系统、方法及设备
CN113521470A (zh) * 2021-07-27 2021-10-22 上海理工大学 一种多模态气管插管导引方法
WO2022088311A1 (zh) * 2020-10-26 2022-05-05 Oppo广东移动通信有限公司 图像处理方法、摄像头组件及移动终端
CN114627009A (zh) * 2022-03-02 2022-06-14 安徽大学 一种基于亮度校正和融合通道先验的图像增强方法及系统
CN114897094A (zh) * 2022-06-01 2022-08-12 西南科技大学 一种基于注意力双支路特征融合的食管早癌病灶分割方法
CN115460968A (zh) * 2020-04-27 2022-12-09 公益财团法人癌研究会 图像诊断装置、图像诊断方法、图像诊断程序和学习完毕模型
CN115660990A (zh) * 2022-10-31 2023-01-31 安徽大学 基于亮度分类的内窥镜图像镜面反射检测与修复方法
US20230058876A1 (en) * 2021-03-18 2023-02-23 Tencent Technology (Shenzhen) Company Limited Image processing method and apparatus based on image processing model, electronic device, storage medium, and computer program product
WO2023061104A1 (zh) * 2021-10-13 2023-04-20 山东大学 一种基于多模态信息的颈动脉超声报告生成系统
US11672614B1 (en) * 2022-05-18 2023-06-13 Ix Innovation Llc Robotic surgical systems with multi-modality imaging for performing surgical steps
WO2023103467A1 (zh) * 2021-12-09 2023-06-15 杭州海康慧影科技有限公司 图像处理方法、装置及设备

Patent Citations (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101797182A (zh) * 2010-05-20 2010-08-11 北京理工大学 一种基于增强现实技术的鼻内镜微创手术导航系统
CN103854259A (zh) * 2012-12-03 2014-06-11 三星泰科威株式会社 图像处理设备以及处理图像的方法
WO2015077684A1 (en) * 2013-11-22 2015-05-28 Duke University Colposcopes having light emitters and image capture devices and associated methods
WO2017046747A1 (en) * 2015-09-15 2017-03-23 Acerta Pharma B.V. Therapeutic combinations of a cd19 inhibitor and a btk inhibitor
US20190021580A1 (en) * 2016-03-29 2019-01-24 Fujifilm Corporation Image processing apparatus, method for operating image processing apparatus, and image processing program
CN109410126A (zh) * 2017-08-30 2019-03-01 中山大学 一种细节增强与亮度自适应的高动态范围图像的色调映射方法
KR20190079187A (ko) * 2017-12-27 2019-07-05 재단법인대구경북과학기술원 다중 모달 융합 내시경 시스템
US20190340733A1 (en) * 2018-05-03 2019-11-07 Canon Virginia, Inc. Devices, systems, and methods for enhancing images
CN109124586A (zh) * 2018-08-15 2019-01-04 南京航空航天大学 一种多模式荧光内窥实时成像系统
WO2021031458A1 (zh) * 2019-08-16 2021-02-25 域鑫科技(惠州)有限公司 适用于内窥镜的图像颜色校正方法、装置和存储介质
CN110600122A (zh) * 2019-08-23 2019-12-20 腾讯医疗健康(深圳)有限公司 一种消化道影像的处理方法、装置、以及医疗系统
CN115460968A (zh) * 2020-04-27 2022-12-09 公益财团法人癌研究会 图像诊断装置、图像诊断方法、图像诊断程序和学习完毕模型
CN111915519A (zh) * 2020-07-29 2020-11-10 同济大学 一种基于空谱径向基函数插值的条带修复方法
WO2022088311A1 (zh) * 2020-10-26 2022-05-05 Oppo广东移动通信有限公司 图像处理方法、摄像头组件及移动终端
CN113139929A (zh) * 2021-03-17 2021-07-20 浙江工业大学 包含信息筛选与融合修复的胃肠道内窥镜图像预处理方法
US20230058876A1 (en) * 2021-03-18 2023-02-23 Tencent Technology (Shenzhen) Company Limited Image processing method and apparatus based on image processing model, electronic device, storage medium, and computer program product
CN113256572A (zh) * 2021-05-12 2021-08-13 中国科学院自动化研究所 基于修复和选择性增强的胃镜图像分析系统、方法及设备
CN113521470A (zh) * 2021-07-27 2021-10-22 上海理工大学 一种多模态气管插管导引方法
WO2023061104A1 (zh) * 2021-10-13 2023-04-20 山东大学 一种基于多模态信息的颈动脉超声报告生成系统
WO2023103467A1 (zh) * 2021-12-09 2023-06-15 杭州海康慧影科技有限公司 图像处理方法、装置及设备
CN114627009A (zh) * 2022-03-02 2022-06-14 安徽大学 一种基于亮度校正和融合通道先验的图像增强方法及系统
US11672614B1 (en) * 2022-05-18 2023-06-13 Ix Innovation Llc Robotic surgical systems with multi-modality imaging for performing surgical steps
CN114897094A (zh) * 2022-06-01 2022-08-12 西南科技大学 一种基于注意力双支路特征融合的食管早癌病灶分割方法
CN115660990A (zh) * 2022-10-31 2023-01-31 安徽大学 基于亮度分类的内窥镜图像镜面反射检测与修复方法

Non-Patent Citations (10)

* Cited by examiner, † Cited by third party
Title
ARTHUR HOFFMAN 等: "A guide to multimodal endoscopy imaging for gastrointestinal malignancy — an early indicator", NATURE REVIEWS GASTROENTEROLOGY & HEPATOLOGY, vol. 14, pages 421 *
ITAI G 等: "Development of a multimodal machine-learning fusion model to non-invasively assess ileal Crohn\'s disease endoscopic activity", COMPUTER METHODS AND PROGRAMS IN BIOMEDICINE, vol. 227, pages 107207 - 107207 *
JIMMY SO 等: "Endoscopic Tri-Modal Imaging Improves Detection of Gastric Intestinal Metaplasia Among a High-Risk Patient Population in Singapore", DIGESTIVE DISEASES AND SCIENCES, vol. 58, pages 3566 *
MUHAMMAD ADEEL AZAM等: "A review on multimodal medical image fusion: Compendious analysis of medical modalities, multimodal databases, fusion techniques and quality metrics", COMPUTERS IN BIOLOGY AND MEDICINE, vol. 14, pages 105253 *
冯永辉 等: "多模态影像融合技术在神经内镜经鼻手术治疗前颅底肿瘤中的临床应用效果", 医学理论与实践, vol. 34, no. 21, pages 3736 - 3738 *
李驰 等: "食道病灶检测的多尺度细节增强金字塔网络", 计算机工程与应用 网络首发, pages 1 - 10 *
池月: "内窥镜图像高光移除算法研究", 万方 在线出版, pages 1 - 56 *
王东 等: "前庭神经鞘瘤面神经功能保护策略及治疗研究进展", 中国现代神经疾病杂志, vol. 21, no. 12, pages 1111 - 1117 *
陈晔;郑嘉岗;: "内镜成像新技术在消化道早癌诊断中应用", 外科研究与新技术, no. 04 *
龙其刚: "基于深度学习的早期食管鳞癌辅助筛查技术研究", 中国优秀硕士学位论文全文数据库 (医药卫生科技辑), no. 2023, pages 072 - 189 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117479019A (zh) * 2023-12-28 2024-01-30 深圳市安佳威视信息技术有限公司 一种网络摄像机视频质量提升方法及系统
CN117479019B (zh) * 2023-12-28 2024-03-22 深圳市安佳威视信息技术有限公司 一种网络摄像机视频质量提升方法及系统
CN118351123A (zh) * 2024-06-20 2024-07-16 四川省肿瘤医院 多特征融合的内窥镜图像质量评估方法

Also Published As

Publication number Publication date
CN116703798B (zh) 2023-10-13

Similar Documents

Publication Publication Date Title
CN116703798B (zh) 基于自适应干扰抑制的食管多模态内镜图像增强融合方法
CN107252299B (zh) 内窥镜装置以及内窥镜装置的工作方法
US9554097B2 (en) Endoscope image processing device, endoscope system, and image processing method
US8711252B2 (en) Image processing device and information storage medium including motion vector information calculation
CN103764013B (zh) 自动曝光控制装置、控制装置、内窥镜装置和自动曝光控制方法
US20150294463A1 (en) Image processing device, endoscope apparatus, image processing method, and information storage device
CN106102556B (zh) 图像处理装置
CN107847117A (zh) 图像处理装置、方法及程序
CN114529475B (zh) 基于二维伽马校正和色调映射的图像增强方法及系统
JP2017113185A (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
CN107451963B (zh) 多光谱鼻腔内窥镜实时图像增强方法及内窥镜成像系统
EP1650982A1 (en) Electronic endoscope apparatus
CN113139929B (zh) 包含信息筛选与融合修复的胃肠道内窥镜图像预处理方法
CN110599418B (zh) 一种变换域融合的全局色调映射方法
CN111626962A (zh) 一种cmos内窥镜图像增强方法
CN106714651A (zh) 评价值计算装置以及电子内窥镜系统
JP4933766B2 (ja) 電子内視鏡装置
JP5173130B2 (ja) 電子内視鏡装置
CN114881896A (zh) 内窥镜图像实时去雾方法、装置、电子设备、存储介质
US20230255443A1 (en) Apparatuses, systems, and methods for discounting an object while managing auto-exposure of image frames depicting the object
JP5622903B2 (ja) 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JPH03105483A (ja) 内視鏡装置
CN115661122B (zh) 一种图像网格纹去除方法及系统
CN115330651A (zh) 一种内窥镜荧光与可见光图像融合方法
CN115063321A (zh) 一种微创手术镜下模糊图像的规避与补偿方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant