CN117764847A - 一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 - Google Patents
一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 Download PDFInfo
- Publication number
- CN117764847A CN117764847A CN202311742149.2A CN202311742149A CN117764847A CN 117764847 A CN117764847 A CN 117764847A CN 202311742149 A CN202311742149 A CN 202311742149A CN 117764847 A CN117764847 A CN 117764847A
- Authority
- CN
- China
- Prior art keywords
- white light
- images
- frames
- image
- fluorescent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000003384 imaging method Methods 0.000 claims abstract description 20
- 230000004927 fusion Effects 0.000 claims abstract description 12
- 238000001514 detection method Methods 0.000 claims abstract description 8
- 238000012632 fluorescent imaging Methods 0.000 claims abstract description 4
- 238000012937 correction Methods 0.000 claims description 30
- 238000002073 fluorescence micrograph Methods 0.000 claims description 22
- 238000005286 illumination Methods 0.000 claims description 21
- 238000001914 filtration Methods 0.000 claims description 7
- 238000011156 evaluation Methods 0.000 claims description 6
- 238000000799 fluorescence microscopy Methods 0.000 claims description 5
- 238000007499 fusion processing Methods 0.000 claims description 5
- 238000012886 linear function Methods 0.000 claims description 3
- 238000012417 linear regression Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 230000003902 lesion Effects 0.000 abstract description 4
- 230000002708 enhancing effect Effects 0.000 abstract description 2
- 238000007781 pre-processing Methods 0.000 abstract description 2
- 239000000835 fiber Substances 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 210000001198 duodenum Anatomy 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002575 gastroscopy Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000002324 minimally invasive surgery Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 208000008918 voyeurism Diseases 0.000 description 1
Landscapes
- Endoscopes (AREA)
Abstract
本发明公开了一种用于3D内窥镜白光图像和荧光图像齐焦的方法及系统,包括:同时采集若干帧白光图像和荧光图像;对若干帧白光图像和荧光图像进行预处理,得到预处理后的若干帧白光图像和荧光图像;获取预处理后的若干帧白光图像和荧光图像的清晰度值,并进行线性加权融合,得到融合后的清晰度值后,应用于预处理后的若干帧白光图像和荧光图像,以生成白光焦点清晰度和荧光焦点清晰度分值图,并确定分值最高的位置,得到最佳白光和荧光焦点位置;根据最佳白光和荧光焦点位置调整成像设备,实现自动对焦。本发明用于解决现有技术由于白光和荧光成像存在焦距差异,无法同时成像的技术问题,从而达到提升图像质量,增强对病变的检测能力的目的。
Description
技术领域
本发明涉及内窥镜图像对焦技术领域,具体涉及一种用于3D内窥镜白光图像和荧光图像齐焦的方法及系统。
背景技术
人类探索自身体内奥秘的兴趣丝毫不亚于探索周围环境奥秘的兴趣,内窥镜就是人类窥视自身体内器官的重要工具。被认为最早的内窥镜原型是在罗马的庞培遗迹中发现的,这些诊视器曾用于阴道与子宫颈、直肠的检查。内窥镜真正的发展还是始于近代,一般可将其发展阶段分为:硬管式窥镜、半可屈式内窥镜、纤维内窥镜,超声与电子内窥镜阶段。内窥镜发展史上最具有突破性是1957年Hirschowitz和他的研究组制成了世界上第一个用于检查胃、十二指肠的光导纤维内镜原型并在美国胃镜学会上展示了自行研制的光导纤维内镜。1983年美国WelchAllyn公司研制并应用微型图像CCD(charge coupled device)传感器代替了内镜的光导纤维导像,宣告了电子内镜的诞生。内窥镜的前端装有高敏感度微型摄像机,将所记录下的图像以电讯号方式传至电视信息处理系统,然后把信号转变成为电视显像机上可看到的图像。内窥镜在200年里其结构发生了4次大的改进,从最初的硬管式内镜、半曲式内镜到纤维内镜,又到如今的电子内镜。随着科技的进步,影像质量也发生了一次次质的飞跃。
目前,内窥镜摄像系统在医疗、工业和科学领域中均有广泛应用,用于观察和记录难以直接访问的区域的图像和视频。其中,荧光成像技术在医疗领域中具有重要的应用,例如用于癌症检测和治疗。
然而,在传统的内窥镜摄像系统中,白光成像和荧光成像通常是分开的过程,这意味着医生或操作者需要在观察过程中切换不同的模式,这将导致操作不便以及效率低下。若对白光和荧光进行同时成像,则会由于白光和荧光成像存在焦距差异,从而导致图像不清晰或不准确的问题。
发明内容
为了克服现有技术的不足,本发明提供一种用于3D内窥镜白光图像和荧光图像齐焦的方法及系统,用于解决现有技术由于白光和荧光成像存在焦距差异,无法同时成像的技术问题,从而达到提升图像质量,增强对病变的检测能力的目的。
为解决上述问题,本发明所采用的技术方案如下:
一种用于3D内窥镜白光图像和荧光图像齐焦的方法,包括以下步骤:
通过3D内窥镜荧光摄像系统中的成像设备同时采集若干帧白光图像和若干帧荧光图像;
对所述若干帧白光图像和所述若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像;
获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值;
将所述清晰度值进行线性加权融合,得到融合后的清晰度值,并将所述融合后的清晰度值应用于所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图;
获取所述白光焦点清晰度分值图和所述荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置;
根据所述最佳白光焦点位置和所述最佳荧光焦点位置调整所述成像设备,实现自动对焦。
作为本发明优选的实施方式,在对所述若干帧白光图像和所述若干帧荧光图像进行去噪时,包括:
通过导向滤波对所述若干帧白光图像和所述若干帧荧光图像进行滤波,如公式1所示:
式中,q为引导图像,l为滤波窗口的中心位置,o为窗口中像素的索引,s和n表示线性函数的常数系数;
定义一损失函数,如公式2所示:
式中,μ为正则项;
利用线性回归得到sl和nl的值,如公式3和公式4所示:
式中,νl和为分别为窗口中引导图像q的均值和方差,|σ|为窗口中像素的个数,为输入图像O的均值;
获取输出的滤波图像p的均值,得到滤波后的图像,如公式5所示:
将所述若干帧白光图像和所述若干帧荧光图像减去滤波后的图像,得到边缘细节图像;
将所述边缘细节图像和所述滤波后的图像进行重构,得到若干帧去噪后的白光图像和若干帧去噪后的荧光图像。
作为本发明优选的实施方式,在对所述若干帧白光图像和所述若干帧荧光图像进行亮度校正时,包括:
将所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的亮度值归一化到区间[0,1];
获取暗通道图Odark,并在所述暗通道图中选取亮度值大于阈值的像素点,并将所述亮度值大于阈值的像素点构成一集合Φ,则每个颜色通道的光照强度Sv,v∈{r,g,b},如公式6所示:
式中,Ov(q)表示所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的v颜色通道图在像素点q处的值,num(Φ)表示集合Φ中元素的个数;
获取所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的全局光照S,如公式7所示:
作为本发明优选的实施方式,在得到全局光照S后,包括:
根据所述全局光照S对所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像进行亮度校正,如公式8所示:
式中,Olow表示若干帧亮度校正后的白光图像和若干帧亮度校正后的荧光图像,Y为预设的光照阈值,O为所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像,表示对O中的每个元素乘以/>
作为本发明优选的实施方式,在对所述若干帧白光图像和所述若干帧荧光图像进行色彩校正时,包括:
通过所述若干帧亮度校正后的白光图像和所述若干帧亮度校正后的荧光图像RGB三通道之和进行无色差点的提取,以获得无色差像素集,如公式9所示:
E={g(xo)Do>Y} (9);
式中,o为像素的下标,g(xo)为图像函数,Do为RGB三通道之和,即Do=Ro+Go+Bo,Y为无色差像素检测的阈值;
获取所述无色差像素集的各通道加权平均值,如公式10所示:
作为本发明优选的实施方式,在得到所述无色差像素集的各通道加权平均值后,包括:
根据所述各通道加权平均值获取光照色度估计值,如公式11所示:
根据对角模型对所述若干帧亮度校正后的白光图像和所述若干帧亮度校正后的荧光图像RGB三通道值进行线性变化,校正图像色彩,如公式12所示:
式中,gR0(x)、gG0(x)、gB0(x)和gR(x)、gG(x)、gB(x)分别代表校正前后图像的R、G、B三通道值,qR、qG、qB分别为调节R、G、B三通道值的增益系数;
保持G分量不变,即qG=1,而R通道和B通道的增益如公式13和公式14所示:
作为本发明优选的实施方式,在获取清晰度值时,包括:
设所述预处理后的白光图像和所述预处理后的荧光图像的数量场i=i(x,y,z)在场中S点的方向导数,在某一方向q上取得最大值,则称max(i)为S点的梯度大小,方向为q;
给定一函数g(x,y),在坐标(x,y)上的梯度定义为一个矢量,如公式15所示:
式中,grad[g(x,y)]为g(x,y)最大增率的方向;
通过Grad[g(x,y)]表示grad[g(x,y)]的幅值,则梯度的模如公式16所示:
用差分运算替代微分运算,以采用离散形式处理所述预处理后的白光图像和所述预处理后的荧光图像,如公式17所示:
在进行梯度运算时,采用绝对值运算,如公式18所示:
G[g(x,y)]≈|g(x,y)-g(x+1,y)+|g(x,y)-g(x,y+1) (18);
采用四邻域灰度差值绝对值之和评价函数来作为M×M图像区域的清晰度评价函数,如公式19所示:
通过所述清晰度评价函数获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值。
作为本发明优选的实施方式,在将所述清晰度值进行线性加权融合时,包括:
基于所述清晰度值,对所述预处理后的白光图像和所述预处理后的荧光图像进行清晰度顺序排序,筛选出清晰度排序结果中满足预设帧数阈值的若干帧目标帧图像;
确定每一帧目标帧图像的加权值,如公式20所示:
式中,Em表示第m帧目标帧图像的加权值,dm表示第m帧目标帧图像的清晰度值,E表示所述帧数阈值。
作为本发明优选的实施方式,在确定每一帧目标帧图像的加权值后,包括:
利用加权融合公式对所述若干帧目标帧图像进行多帧加权融合处理,如公
式21所示:
式中,width表示Z帧目标帧图像的宽度,height表示Z帧目标帧图像的高度,o表示当前帧的目标帧的宽度,k表示当前帧的目标帧的高度,Uo,k表示Z帧图像宽度o和高度k区域内加权融合后的清晰度值。
一种用于3D内窥镜白光图像和荧光图像齐焦的系统,包括:
预处理单元:用于对若干帧白光图像和若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像;
清晰度值获取单元:用于获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值;
分值图生成单元:用于将所述清晰度值进行线性加权融合,得到融合后的清晰度值,并将所述融合后的清晰度值应用于所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图;
对焦位置获取单元:用于获取所述白光焦点清晰度分值图和所述荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置;
自动对焦单元:用于根据所述最佳白光焦点位置和所述最佳荧光焦点位置调整所述成像设备,实现自动对焦;
其中,所述若干帧白光图像和所述若干帧荧光图像通过通过3D内窥镜荧光摄像系统中的成像设备同时采集。
相比现有技术,本发明的有益效果在于:
(1)提高病灶检测率:三维内窥镜白光荧光齐焦设计可以同时利用白光和荧光成像,提升图像质量,从而增强了对病变的检测能力;
(2)辅助导航和定位:这种设计还可以用于辅助医生进行导航和定位,特别是在微创手术中,医生可以更准确地定位和定向治疗区域,减少误差和损伤周围健康组织的风险;
(3)提高手术效果:通过提供更清晰的可视化和对病变的更精确诊断,三维内窥镜白光荧光齐焦设计有助于提高手术的效果,减少手术并发症的风险,缩短康复时间。
下面结合附图和具体实施方式对本发明作进一步详细说明。
附图说明
图1是本发明所提供的用于3D内窥镜白光图像和荧光图像齐焦的方法步骤图。
具体实施方式
本发明所提供的用于3D内窥镜白光图像和荧光图像齐焦的方法,如图1所示,包括以下步骤:
步骤S1:通过3D内窥镜荧光摄像系统中的成像设备同时采集若干帧白光图像和若干帧荧光图像;
步骤S2:对若干帧白光图像和若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像;
步骤S3:获取预处理后的若干帧白光图像和预处理后的若干帧荧光图像的清晰度值;
步骤S4:将清晰度值进行线性加权融合,得到融合后的清晰度值,并将融合后的清晰度值应用于预处理后的若干帧白光图像和预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图;
步骤S5:获取白光焦点清晰度分值图和荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置;
步骤S6:根据最佳白光焦点位置和最佳荧光焦点位置调整成像设备,实现自动对焦。
具体地,若需要在动态环境中进行成像,则可以通过本发明所提供的齐焦方法实时更新最佳焦点位置,以适应物体和场景的移动。
在上述步骤S2中,在对若干帧白光图像和若干帧荧光图像进行去噪时,包括:
通过导向滤波对若干帧白光图像和若干帧荧光图像进行滤波,如公式1所示:
式中,q为引导图像,l为滤波窗口的中心位置,o为窗口中像素的索引,s和n表示线性函数的常数系数;
定义一损失函数,如公式2所示:
式中,μ为正则项;
利用线性回归得到sl和nl的值,如公式3和公式4所示:
式中,νl和为分别为窗口中引导图像q的均值和方差,|σ|为窗口中像素的个数,为输入图像O的均值;
获取输出的滤波图像p的均值,得到滤波后的图像,如公式5所示:
将若干帧白光图像和若干帧荧光图像减去滤波后的图像,得到边缘细节图像;
将边缘细节图像和滤波后的图像进行重构,得到若干帧去噪后的白光图像和若干帧去噪后的荧光图像。
具体地,本发明采用导向滤波算法的最大优势在于:滤波窗口的大小并不会影响算法的时间复杂度,因此在处理大型图像时可以选择较大的滤波窗口。
在上述步骤S2中,在对若干帧白光图像和若干帧荧光图像进行亮度校正时,包括:
将若干帧去噪后的白光图像和若干帧去噪后的荧光图像的亮度值归一化到区间[0,1];
获取暗通道图Odark,并在暗通道图中选取亮度值大于阈值的像素点,并将亮度值大于阈值的像素点构成一集合Φ,则每个颜色通道的光照强度Sv,v∈{r,g,b},如公式6所示:
式中,Ov(q)表示若干帧去噪后的白光图像和若干帧去噪后的荧光图像的v颜色通道图在像素点q处的值,num(Φ)表示集合Φ中元素的个数;
获取若干帧去噪后的白光图像和若干帧去噪后的荧光图像的全局光照S,如公式7所示:
进一步地,在得到全局光照S后,包括:
根据全局光照S对若干帧去噪后的白光图像和若干帧去噪后的荧光图像进行亮度校正,如公式8所示:
式中,Olow表示若干帧亮度校正后的白光图像和若干帧亮度校正后的荧光图像,Y为预设的光照阈值,O为若干帧去噪后的白光图像和若干帧去噪后的荧光图像,表示对O中的每个元素乘以/>
优选地,预设的光照阈值Y为0.5。
在上述步骤S2中,在对若干帧白光图像和若干帧荧光图像进行色彩校正时,包括:
通过若干帧亮度校正后的白光图像和若干帧亮度校正后的荧光图像RGB三通道之和进行无色差点的提取,以获得无色差像素集,如公式9所示:
E={g(xo)Do>Y} (9);
式中,o为像素的下标,g(xo)为图像函数,Do为RGB三通道之和,即Do=Ro+Go+Bo,Y为无色差像素检测的阈值;
具体地,在灰度世界算法中,图像中RGB各通道的平均值是相等的,因此假设整幅图像的每个像素点都是无色差点,则利用上述得到的无色差像素集做均值计算,得到无色差像素集上的平均颜色。由于无色差表面可以反映光照色度,因此无色差像素集的平均颜色可以准确地估计光照色度。
获取无色差像素集的各通道加权平均值,如公式10所示:
进一步地,在得到无色差像素集的各通道加权平均值后,包括:
根据各通道加权平均值获取光照色度估计值,如公式11所示:
根据对角模型对若干帧亮度校正后的白光图像和若干帧亮度校正后的荧光图像RGB三通道值进行线性变化,校正图像色彩,如公式12所示:
式中,gR0(x)、gG0(x)、gB0(x)和gR(x)、gG(x)、gB(x)分别代表校正前后图像的R、G、B三通道值,qR、qG、qB分别为调节R、G、B三通道值的增益系数;
由于人眼对绿色更为敏感,因此保持G分量不变,即qG=1,而R通道和B通道的增益如公式13和公式14所示:
在上述步骤S3中,在获取清晰度值时,包括:
设预处理后的白光图像和预处理后的荧光图像的数量场i=i(x,y,z)在场中S点的方向导数,在某一方向q上取得最大值,则称max(i)为S点的梯度大小,方向为q;
给定一函数g(x,y),在坐标(x,y)上的梯度定义为一个矢量,如公式15所示:
式中,grad[g(x,y)]为g(x,y)最大增率的方向;
通过Grad[g(x,y)]表示grad[g(x,y)]的幅值,则梯度的模如公式16所示:
用差分运算替代微分运算,以采用离散形式处理预处理后的白光图像和预处理后的荧光图像,如公式17所示:
在进行梯度运算时,采用绝对值运算,如公式18所示:
G[g(x,y)]≈|g(x,y)-g(x+1,y)+|g(x,y)-g(x,y+1) (18);
具体地,公式18像素间的关系,如表1所示:
表1像素关系
f(x,y) | f(x,y+1) |
f(x+1,y) | f(x+1,y+1) |
具体地,由公式18可知,梯度近似值和相邻像素灰度差成正比,梯度值可近似表示出相邻图像的尖锐程度,由此可推导整个M×M图像区域,将各个邻域图像区域的梯度进行求和,得到图像对比度,从而表征图像的尖锐程度。
采用四邻域灰度差值绝对值之和评价函数来作为M×M图像区域的清晰度评价函数,如公式19所示:
通过清晰度评价函数获取预处理后的若干帧白光图像和预处理后的若干帧荧光图像的清晰度值。
在上述步骤S4中,在将清晰度值进行线性加权融合时,包括:
基于清晰度值,对预处理后的白光图像和预处理后的荧光图像进行清晰度顺序排序,筛选出清晰度排序结果中满足预设帧数阈值的若干帧目标帧图像;
确定每一帧目标帧图像的加权值,如公式20所示:
式中,Em表示第m帧目标帧图像的加权值,dm表示第m帧目标帧图像的清晰度值,E表示帧数阈值。
进一步地,在确定每一帧目标帧图像的加权值后,包括:
利用加权融合公式对若干帧目标帧图像进行多帧加权融合处理,如公式21所示:
式中,width表示Z帧目标帧图像的宽度,height表示Z帧目标帧图像的高度,o表示当前帧的目标帧的宽度,k表示当前帧的目标帧的高度,Uo,k表示Z帧图像宽度o和高度k区域内加权融合后的清晰度值。
本发明所提供的用于3D内窥镜白光图像和荧光图像齐焦的系统,包括:预处理单元、清晰度值获取单元、分值图生成单元、对焦位置获取单元以及自动对焦单元。
预处理单元:用于对若干帧白光图像和若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像。
清晰度值获取单元:用于获取预处理后的若干帧白光图像和预处理后的若干帧荧光图像的清晰度值。
分值图生成单元:用于将清晰度值进行线性加权融合,得到融合后的清晰度值,并将融合后的清晰度值应用于预处理后的若干帧白光图像和预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图。
对焦位置获取单元:用于获取白光焦点清晰度分值图和荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置。
自动对焦单元:用于根据最佳白光焦点位置和最佳荧光焦点位置调整成像设备,实现自动对焦。
其中,若干帧白光图像和若干帧荧光图像通过通过3D内窥镜荧光摄像系统中的成像设备同时采集。
上述实施方式仅为本发明的优选实施方式,不能以此来限定本发明保护的范围,本领域的技术人员在本发明的基础上所做的任何非实质性的变化及替换均属于本发明所要求保护的范围。
Claims (10)
1.一种用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,包括以下步骤:
通过3D内窥镜荧光摄像系统中的成像设备同时采集若干帧白光图像和若干帧荧光图像;
对所述若干帧白光图像和所述若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像;
获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值;
将所述清晰度值进行线性加权融合,得到融合后的清晰度值,并将所述融合后的清晰度值应用于所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图;
获取所述白光焦点清晰度分值图和所述荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置;
根据所述最佳白光焦点位置和所述最佳荧光焦点位置调整所述成像设备,实现自动对焦。
2.根据权利要求1所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在对所述若干帧白光图像和所述若干帧荧光图像进行去噪时,包括:
通过导向滤波对所述若干帧白光图像和所述若干帧荧光图像进行滤波,如公式1所示:
式中,q为引导图像,l为滤波窗口的中心位置,o为窗口中像素的索引,s和n表示线性函数的常数系数;
定义一损失函数,如公式2所示:
式中,μ为正则项;
利用线性回归得到sl和nl的值,如公式3和公式4所示:
式中,νl和为分别为窗口中引导图像q的均值和方差,|σ|为窗口中像素的个数,/>为输入图像O的均值;
获取输出的滤波图像p的均值,得到滤波后的图像,如公式5所示:
将所述若干帧白光图像和所述若干帧荧光图像减去滤波后的图像,得到边缘细节图像;
将所述边缘细节图像和所述滤波后的图像进行重构,得到若干帧去噪后的白光图像和若干帧去噪后的荧光图像。
3.根据权利要求2所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在对所述若干帧白光图像和所述若干帧荧光图像进行亮度校正时,包括:
将所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的亮度值归一化到区间[0,1];
获取暗通道图Odark,并在所述暗通道图中选取亮度值大于阈值的像素点,并将所述亮度值大于阈值的像素点构成一集合Φ,则每个颜色通道的光照强度Sv,v∈{r,g,b},如公式6所示:
式中,Ov(q)表示所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的v颜色通道图在像素点q处的值,num(Φ)表示集合Φ中元素的个数;
获取所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像的全局光照S,如公式7所示:
4.根据权利要求3所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在得到全局光照S后,包括:
根据所述全局光照S对所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像进行亮度校正,如公式8所示:
式中,Olow表示若干帧亮度校正后的白光图像和若干帧亮度校正后的荧光图像,Y为预设的光照阈值,O为所述若干帧去噪后的白光图像和所述若干帧去噪后的荧光图像,表示对O中的每个元素乘以/>
5.根据权利要求4所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在对所述若干帧白光图像和所述若干帧荧光图像进行色彩校正时,包括:
通过所述若干帧亮度校正后的白光图像和所述若干帧亮度校正后的荧光图像RGB三通道之和进行无色差点的提取,以获得无色差像素集,如公式9所示:
E={g(xo)|Do>Y} (9);
式中,o为像素的下标,g(xo)为图像函数,Do为RGB三通道之和,即Do=Ro+Go+Bo,Y为无色差像素检测的阈值;
获取所述无色差像素集的各通道加权平均值,如公式10所示:
6.根据权利要求5所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在得到所述无色差像素集的各通道加权平均值后,包括:
根据所述各通道加权平均值获取光照色度估计值,如公式11所示:
根据对角模型对所述若干帧亮度校正后的白光图像和所述若干帧亮度校正后的荧光图像RGB三通道值进行线性变化,校正图像色彩,如公式12所示:
式中,gR0(x)、gG0(x)、gB0(x)和gR(x)、gG(x)、gB(x)分别代表校正前后图像的R、G、B三通道值,qR、qG、qB分别为调节R、G、B三通道值的增益系数;
保持G分量不变,即qG=1,而R通道和B通道的增益如公式13和公式14所示:
7.根据权利要求1所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在获取清晰度值时,包括:
设所述预处理后的白光图像和所述预处理后的荧光图像的数量场i=i(x,y,z)在场中S点的方向导数,在某一方向q上取得最大值,则称max(i)为S点的梯度大小,方向为q;
给定一函数g(x,y),在坐标(x,y)上的梯度定义为一个矢量,如公式15所示:
式中,grad[g(x,y)]为g(x,y)最大增率的方向;
通过Grad[g(x,y)]表示grad[g(x,y)]的幅值,则梯度的模如公式16所示:
用差分运算替代微分运算,以采用离散形式处理所述预处理后的白光图像和所述预处理后的荧光图像,如公式17所示:
在进行梯度运算时,采用绝对值运算,如公式18所示:
G[g(x,y)]≈|g(x,y)-g(x+1,y)+|g(x,y)-g(x,y+1)(18);
采用四邻域灰度差值绝对值之和评价函数来作为M×M图像区域的清晰度评价函数,如公式19所示:
通过所述清晰度评价函数获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值。
8.根据权利要求1所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在将所述清晰度值进行线性加权融合时,包括:
基于所述清晰度值,对所述预处理后的白光图像和所述预处理后的荧光图像进行清晰度顺序排序,筛选出清晰度排序结果中满足预设帧数阈值的若干帧目标帧图像;
确定每一帧目标帧图像的加权值,如公式20所示:
式中,Em表示第m帧目标帧图像的加权值,dm表示第m帧目标帧图像的清晰度值,E表示所述帧数阈值。
9.根据权利要求6所述的用于3D内窥镜白光图像和荧光图像齐焦的方法,其特征在于,在确定每一帧目标帧图像的加权值后,包括:
利用加权融合公式对所述若干帧目标帧图像进行多帧加权融合处理,如公式21所示:
式中,width表示Z帧目标帧图像的宽度,height表示Z帧目标帧图像的高度,o表示当前帧的目标帧的宽度,k表示当前帧的目标帧的高度,Uo,k表示Z帧图像宽度o和高度k区域内加权融合后的清晰度值。
10.一种用于3D内窥镜白光图像和荧光图像齐焦的系统,其特征在于,包括:
预处理单元:用于对若干帧白光图像和若干帧荧光图像进行去噪、亮度校正以及色彩校正,得到预处理后的若干帧白光图像和预处理后的若干帧荧光图像;
清晰度值获取单元:用于获取所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像的清晰度值;
分值图生成单元:用于将所述清晰度值进行线性加权融合,得到融合后的清晰度值,并将所述融合后的清晰度值应用于所述预处理后的若干帧白光图像和所述预处理后的若干帧荧光图像,以生成白光焦点清晰度分值图和荧光焦点清晰度分值图;
对焦位置获取单元:用于获取所述白光焦点清晰度分值图和所述荧光焦点清晰度分值图中分值最高的位置,得到最佳白光焦点位置和最佳荧光焦点位置;
自动对焦单元:用于根据所述最佳白光焦点位置和所述最佳荧光焦点位置调整所述成像设备,实现自动对焦;
其中,所述若干帧白光图像和所述若干帧荧光图像通过通过3D内窥镜荧光摄像系统中的成像设备同时采集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311742149.2A CN117764847A (zh) | 2023-12-18 | 2023-12-18 | 一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311742149.2A CN117764847A (zh) | 2023-12-18 | 2023-12-18 | 一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117764847A true CN117764847A (zh) | 2024-03-26 |
Family
ID=90311678
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311742149.2A Pending CN117764847A (zh) | 2023-12-18 | 2023-12-18 | 一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117764847A (zh) |
-
2023
- 2023-12-18 CN CN202311742149.2A patent/CN117764847A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106102557B (zh) | 图像处理装置 | |
JP5855358B2 (ja) | 内視鏡装置及び内視鏡装置の作動方法 | |
CN106102556B (zh) | 图像处理装置 | |
CN111308690B (zh) | 一种光场电子内窥设备及其成像方法 | |
US9635343B2 (en) | Stereoscopic endoscopic image processing apparatus | |
JP6401800B2 (ja) | 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラムおよび内視鏡装置 | |
US20130208958A1 (en) | Image processing apparatus | |
US20190045170A1 (en) | Medical image processing device, system, method, and program | |
JPH03165732A (ja) | 内視鏡の暗部領域の検出方法 | |
CN109068035B (zh) | 一种智能微相机阵列内窥成像系统 | |
CN114549368A (zh) | 一种基于图像传感器的内窥镜成像系统及方法 | |
CN109091099A (zh) | 双目视觉的高清微型电子内窥镜系统 | |
US20080165247A1 (en) | Image processing apparatus and method | |
JP3931792B2 (ja) | 時系列処理画像の表示装置及び表示方法 | |
CN115908190B (zh) | 一种用于视频图像画质增强的方法及系统 | |
CN117764847A (zh) | 一种用于3d内窥镜白光图像和荧光图像齐焦的方法及系统 | |
JP6346501B2 (ja) | 内視鏡装置 | |
WO2019203006A1 (ja) | 内視鏡装置、内視鏡プロセッサ装置及び内視鏡画像表示方法 | |
EP3119264B1 (en) | Optically adaptive endoscope | |
CN114418920B (zh) | 一种内窥镜多焦点图像融合方法 | |
CN114387191B (zh) | 一种内窥镜图像增强方法及内窥镜装置 | |
JPH04314181A (ja) | 内視鏡画像の処理方法 | |
AU2022230997B2 (en) | Method of image enhancement for distraction deduction in endoscopic procedures | |
JP2005095478A (ja) | 医療用画像処理装置、医療用画像処理方法及び医療用画像処理プログラム | |
CN114943722A (zh) | 内窥镜微创手术空间成像高清图像同步精度重构方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |