CN114936994A - 一种显微手术中的多景深拍照融合方法及系统 - Google Patents
一种显微手术中的多景深拍照融合方法及系统 Download PDFInfo
- Publication number
- CN114936994A CN114936994A CN202210557889.8A CN202210557889A CN114936994A CN 114936994 A CN114936994 A CN 114936994A CN 202210557889 A CN202210557889 A CN 202210557889A CN 114936994 A CN114936994 A CN 114936994A
- Authority
- CN
- China
- Prior art keywords
- image
- frequency
- low
- sequence
- fusion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000002406 microsurgery Methods 0.000 title claims abstract description 24
- 238000007500 overflow downdraw method Methods 0.000 title claims abstract description 20
- 230000004927 fusion Effects 0.000 claims abstract description 116
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000012545 processing Methods 0.000 claims abstract description 23
- 238000001514 detection method Methods 0.000 claims abstract description 17
- 238000000354 decomposition reaction Methods 0.000 claims description 36
- 238000001914 filtration Methods 0.000 claims description 14
- 238000012935 Averaging Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 3
- 238000012800 visualization Methods 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4023—Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明提出了一种显微手术中的多景深拍照融合方法及系统,涉及图像融合技术领域。通过获取高倍率下的多景深图像序列并分解,得到各自对应的多层高频图像序列和低频图像序列,然后对低频图像序列进行显著性检测并计算得到高频融合权重值序列。然后,获取低倍率下的图像并进行相应处理,得到对应的待置换高频图像和待置换低频图像,接着用待置换高频图像取代每张多景深图像的最高层的高频图像,用待置换低频图像取代每张多景深图像的最高层的低频图像,得到对应的待融合高频图像序列和待融合低频图像序列。最后,将待融合高频图像序列和待融合低频图像序列分别进行融合,再进行总融合得到最终的融合图像,使得融合图像更加清晰准确,融合效果更好。
Description
技术领域
本发明涉及图像融合技术领域,具体而言,涉及一种显微手术中的多景深拍照融合方法及系统。
背景技术
手术显微镜是耳鼻喉,神经外科,眼科等不可缺少的手术观察工具。但是当前利用手术显微镜拍照时存在一定的问题,以耳显微手术为例,手术暴露过程中,视野存在较大的深度范围。显微镜的景深即清晰成像范围有限,不能完全覆盖景深范围。因此无法通过单次成像,呈现手术视野全貌。这极大地限制了手术的操作范围,影响了手术效率,并为术野观察或者手术教学等带来诸多不便。
面对此现状,业内相关专业人员多采用多景深融合方法,获取不同景深的图像序列并对图像进行多景深融合。常用的多景深融合方法,其具有明显的缺陷导致其不能很好的适用于显微手术中。传统的多景深图像融合方法一般采用不同对焦点的同放大倍数图像,通过识别图像中的清晰部分,并计算不同的融合权值,最后根据融合权值对图像进行融合。但是此种融合方法并未没有充分利用显微图像的成像特性,其融合速度比较慢且复杂场景下容易出现融合不准确等问题。
发明内容
本发明的目的在于提供一种显微手术中的多景深拍照融合方法及系统,其能够充分利用手术显微镜的成像原理和特点,使得最终的融合图像更加清晰准确,同时具有计算实时性高的有益效果。
本发明的实施例是这样实现的:
第一方面,本申请实施例提供一种显微手术中的多景深拍照融合方法,其包括以下步骤:
将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1;
将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2;
将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL;
利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
将每张图像的待融合高频图像序列按照上述高频融合权重值序列Wn L进行融合,得到高频融合图像D;
将每张图像的待融合低频图像序列进行融合,得到低频融合图像B;
将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
计算图像分解层数L;
对每张低频图像Bi进行高斯低通滤波,得到滤波后的图像Bg;
基于第一方面,在本发明的一些实施例中,上述将待处理图像IZ2依次进行裁剪、分解和向上插值处理的步骤具体包括:
获取待处理图像IZ2的原始宽W0和高H0;
将图像IZ2crop进行分解,得到对应的高频图像和低频图像;
基于第一方面,在本发明的一些实施例中,上述将每张图像的待融合低频图像序列进行融合,得到低频融合图像B的步骤具体包括:
第二方面,本申请实施例提供一种显微手术中的多景深拍照融合系统,其包括:
第一多景深拍照模块,用于将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1;
第二多景深拍照模块,用于将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2;
图像分解模块,用于将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL;
图像替换模块,用于利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
低频图像融合模块,用于将每张图像的待融合低频图像序列进行融合,得到低频融合图像B;
图像融合模块,用于将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
第三方面,本申请实施例提供一种电子设备,其包括存储器,用于存储一个或多个程序;处理器。当上述一个或多个程序被上述处理器执行时,实现如上述第一方面中任一项上述的方法。
第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述第一方面中任一项上述的方法。
相对于现有技术,本发明的实施例至少具有如下优点或有益效果:
本发明实施例提供一种显微手术中的多景深拍照融合方法及系统,首先将显微镜调整至高倍率,使需要观测的局部区域清晰成像并拍照,以得到多景深图像序列,然后对其进行多尺度图像分解,得到对应图像的高频图像序列和低频图像序列。此时高频图像序列反映了该图像的局部细节特点,低频图像序列反映了该图像的轮廓边缘特点。接着,对每张图像的低频图像序列进行显著性检测,得到对应的显著性图像序列并计算每张显著性图像的权重,得到高频融合权重值序列以用于高频图像的融合。然后,将显微镜调整至低倍率下进行拍照,使需要观测的区域全部成像清晰,以得到一张待处理图像,并对其依次进行裁剪、分解和向上插值处理,得到待处理图像对应的待置换高频图像和待置换低频图像。然后,再用待置换高频图像取代每张图像的高频图像序列中的最高层的高频图像,用待置换低频图像取代每张图像的低频图像序列中的最高层的低频图像,分别得到待融合高频图像序列、待融合低频图像序列,使得低倍率下的图像信息能够无缝融合到高放大倍数的图像中,以增强融合效果。最后,将待融合高频图像序列按照高频融合权重值序列进行融合,得到高频融合图像,将待融合低频图像序列按照平均法进行融合,得到低频融合图像,再将高频融合图像和低频融合图像进行融合,得到最终的融合图像。本方法通过先取代,再分别融合,最后再总融合的方式,使得融合图像更加清晰准确,同时计算的效率高、实时性强。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明提供的一种显微手术中的多景深拍照融合方法一实施例的流程图;
图4为本发明提供的一种显微手术中的多景深拍照融合系统的结构框图;
图5为本发明实施例提供的一种电子设备的结构框图。
图标:1、存储器;2、处理器;3、通信接口;11、第一多景深拍照模块;12、多尺度图像分解模块;13、显著性检测模块;14、第二多景深拍照模块;15、图像分解模块;16、图像替换模块;17、高频图像融合模块;18、低频图像融合模块;19、图像融合模块。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的各个实施例及实施例中的各个特征可以相互组合。
请参阅图1,图1所示为本申请实施例提供的一种显微手术中的多景深拍照融合方法的流程图,该方法包括以下步骤:
步骤S1:将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1。
上述步骤中,首先将显微镜对准术野区域,并调试显微镜至合适的观察位置。然后将显微镜调至所需的大倍率Z1下,并调整显微镜的对焦控制装置,使需要观测的局部区域清晰成像,并记录此时的放大倍数Z1。接着,调节显微镜的对焦控制装置,将显微镜的对焦点按照调节步长S自术野景深的最低点调节至最高点。过程中每一次调节则进行一次显微镜拍照操作,以获得一系列多景深图像序列I1,I2,I3,...,In,共计N幅。其中调节步长S,其由景深尺测量获得的显微镜在放大倍率Z1下的景深范围d确定,例如调节步长示例性的,在鼓室成形手术中,放大倍数Z1取8倍,自景深范围180mm-210mm内,按照调节步长S=1mm从景深180mm处至景深210mm依次进行拍照,即可获得一系列多景深图像序列I1,I2,I3,...,I30,为后续进行图像融合做准备。
步骤S2:对多景深图像序列In中的每张图像进行多尺度图像分解,得到对应图像的高频图像序列和低频图像序列其中L表示图像分解的层数,L≥1。在此步骤中,对每张图像进行多尺度图像分解后,得到的对应图像的高频图像序列反应了图像的细节信息,比如边缘、纹理等,低频图像序列反应了图像的整体信息,包括组成区域等。
请参阅图2,对多景深图像序列In中的每张图像进行多尺度图像分解的具体步骤包括:
示例性的,对于多景深图像I1,按照公式Bk=Bk-1*A进行3次滤波处理,其中A表示低通滤波卷积核,Bk表示低通滤波结果。具体的,首先将原图I1输入低通滤波器中,经处理后得到第一次滤波图像B1,并将其作为多景深图像I1的第一层低频图像再将第一次滤波图像B1作为输入图像输入低通滤波器中,得到第二次滤波图像B2,并将其作为多景深图像I1的第二层低频图像再将第二次滤波图像B2输入,得到第三次滤波图像B3,并将其作为多景深图像I1的第三层低频图像统计三次滤波得到的低频图像 即得到多景深图像I1对应的低频图像序列依次对多景深图像序列In中的每张图像进行上述L次低通滤波操作,得到每张图像所对应的低频图像序列可选的,上述低通滤波处理可以采用均值滤波,均值滤波可以去除图像中的颗粒噪声,使图像变得更平滑。
示例性的,对于多景深图像I1,按照公式Dk=Bk-1-Bk计算相邻两低频图像对应像素点之间的像素差值,以得到高频图像Dk。具体的,先计算原图像I1与第一次滤波图像B1之间的像素差值,得到高频图像D1,并将其作为多景深图像I1的第一层高频图像再计算第一次滤波图像B1与第二次滤波图像B2之间的像素差值,得到高频图像D2,并将其作为多景深图像I1的第二层高频图像再计算第二次滤波图像B2与第三次滤波图像B3之间的像素差值,得到高频图像D3,并将其作为多景深图像I1的第三层高频图像统计三层高频图像即得到多景深图像I1对应的高频图像序列依次对多景深图像序列In中的每张图像进行上述操作,得到每张图像所对应的高频图像序列
步骤S3:对每张图像的低频图像序列进行显著性检测,得到对应的显著性图像序列并计算每张显著性图像的权重,得到高频融合权重值序列在此步骤中,得到的显著性图像序列可以更好的表征图像全局的灰度特征,有利于在复杂背景下进一步识别出图像的边界。然后再按照不同的权重对高频图像进行融合,可以使得后期图像的融合效果更好。
步骤S3-2:对每张低频图像Bi进行高斯低通滤波,得到滤波后的图像Bg。
示例性的,将多景深图像I1的第一层低频图像进行高斯低通滤波,得到第一层低频图像所对应的滤波后的图像Bg。进行高斯低通滤波的目的是为了消除图像中的高斯噪声,使图像更平滑,同时又不丢失细节,能够较好的保留图像中的边界信息,有利于后续图像的融合。
然后,对多景深图像I1的第二层低频图像和第三层低频图像均执行上述步骤S3-1至步骤S3-3,得到多景深图像I1的低频图像序列 所对应的显著性图像序列然后,再依次对多景深图像序列In中的每张图像按照上述步骤S3-1至步骤S3-3进行处理,得到各张多景深图像对应的低频图像序列所对应的显著性图像序列
示例性的,按照上述步骤得到多景深图像I1的低频图像序列所对应的显著性图像序列之后,按照公式计算每张显著性图像对应的权重。具体的,对于显著性图像用其像素值除以三张显著性图像的像素值之和,得到显著性图像对应的权重W1,即W1 1。然后,依次计算显著性图像对应的权重W2、W3,即可统计得到多景深图像I1的低频图像序列对应的显著性图像序列 所对应的权重值序列W1、W2、W3,并将其作为多景深图像I1的高频图像序列的高频融合权重值序列W1 1、W1 2、W1 3。
步骤S4:将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2。
此步骤中,需将显微镜调至所需的小倍率Z2下,使需要观测的区域全部成像清晰,并记录此时的放大倍数Z2,然后进行显微镜拍照操作,获得当前视野下的图像,即待处理图像IZ2。示例性的,Z2的值可按以下公式确定:即小倍率成像模式下的放大倍数Z2为大倍率成像模式下的放大倍数Z1的三分之一。
步骤S5:将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL。
此步骤中,首先对上述待处理图像IZ2进行裁剪,具体的,先获取待处理图像IZ2的原始宽W0和高H0,然后按照公式分别计算裁剪的矩形区域的宽W和高H,得到裁剪后的图像IZ2crop。例如,获取的待处理图像IZ2的原始宽W0和高H0构成的原始像素为3840*2160,然后以其图像中心为中心裁剪出像素为1280*720的矩形区域,即得到裁剪后的图像IZ2crop。然后,将图像IZ2crop按照上述步骤S2-2和步骤S2-3进行分解,得到图像IZ2crop对应的高频图像和低频图像,并将分解后得到的高频图像和低频图像进行向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL。对图像进行向上插值可以在不生成像素的情况下增加图像的像素大小,提高图像的分辨率,使得图像更清晰,以提高后续图像融合的效果,其属于现有技术,此处不再赘述。
步骤S6:利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列Dn L中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
示例性的,对于多景深图像I1的高频图像序列和低频图像序列用上述待置换高频图像IZ2cropfullH取代第三层高频图像得到多景深图像I1的待融合高频图像序列,并用待置换低频图像IZ2cropfullL取代第三层低频图像得到多景深图像I1的待融合低频图像序列。依次对多景深图像序列In中的每张图像执行此操作,以得到每张多景深图像对应的待融合高频图像序列和待融合低频图像序列。这种取代方式可以将低倍率Z2下采集的图像信息无缝融合至高放大倍数Z1的图像中,增强整体的融合效果。
由于各张多景深图像的待融合高频图像序列中的每张高频图像包含了该多景深图像对应的细节信息,并且每张高频图像所包含的有用信息的重要程度不同,所以通过将每张高频图像按照各自对应的高频融合权重值进行融合,可以达到更好的融合效果,得到的高频融合图像D所包含的细节信息也更加全面,图像更加清晰、准确。具体的,可以依据公式将所有多景深图像的所有待融合高频图像按照对应的高频融合权重进行融合,得到多景深图像序列In的高频融合图像D,其中k≤L,N表示多景深图像序列的个数。
步骤S8:将每张图像的待融合低频图像序列进行融合,得到低频融合图像B。
由于各张多景深图像的待融合高频图像序列中的低频图像反应了图像的整体信息,其中主要包含了图像的区域、边界等信息,所以通过对各张多景深图像的待融合高频图像序列进行融合,可以使得到的低频融合图像B所包含的区域、边界信息更加全面,图像轮廓更加清晰。具体的,可以利用平均法计算公式对待融合低频图像序列进行融合,得到多景深图像序列In低频融合图像B。平均法的计算方式简单,可以减少计算量,在一定程度上提高图像融合的速度。
步骤S9:将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
将经过上述步骤S1-S8得到的多景深图像序列In的高频融合图像D和低频融合图像B的像素值,按照公式F=B+D进行计算,得到最终的融合图像F。
基于同样的发明构思,本发明还提出一种显微手术中的多景深拍照融合系统,请参阅图4,图4所示为本发明实施例提供的一种显微手术中的多景深拍照融合系统的结构框图。该系统包括:
第一多景深拍照模块11,用于将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1;
第二多景深拍照模块14,用于将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2;
图像分解模块15,用于将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL;
图像替换模块16,用于利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
低频图像融合模块18,用于将每张图像的待融合低频图像序列进行融合,得到低频融合图像B;
图像融合模块19,用于将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
请参阅图5,图5为本申请实施例提供的电子设备的一种示意性结构框图。该电子设备包括存储器1、处理器2和通信接口3,该存储器1、处理器2和通信接口3相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器1可用于存储软件程序及模块,如本申请实施例所提供的一种显微手术中的多景深拍照融合系统对应的程序指令/模块,处理器2通过执行存储在存储器1内的软件程序及模块,从而执行各种功能应用以及数据处理。该通信接口3可用于与其他节点设备进行信令或数据的通信。
其中,存储器1可以是但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。
处理器2可以是一种集成电路芯片,具有信号处理能力。该处理器2可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(NetworkProcessor,NP)等;还可以是数字信号处理器(Digital Signal Processing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
可以理解,图5所示的结构仅为示意,电子设备还可包括比图5中所示更多或者更少的组件,或者具有与图1所示不同的配置。图5中所示的各组件可以采用硬件、软件或其组合实现。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
综上所述,本申请实施例提供的一种显微手术中的多景深拍照融合方法及系统,首先将显微镜调整至高倍率,使需要观测的局部区域清晰成像并拍照,以得到多景深图像序列,然后对其进行多尺度图像分解,得到对应图像的高频图像序列和低频图像序列。此时高频图像序列反映了该图像的局部细节特点,低频图像序列反映了该图像的轮廓边缘特点。接着,对每张图像的低频图像序列Bn L进行显著性检测,得到对应的显著性图像序列Sn L,并计算每张显著性图像的权重,得到高频融合权重值序列Wn L,以用于高频图像的融合。然后,将显微镜调整至低倍率下进行拍照,使需要观测的区域全部成像清晰,以得到一张待处理图像,并对其依次进行裁剪、分解和向上插值处理,得到待处理图像对应的待置换高频图像和待置换低频图像。然后,再用待置换高频图像取代每张图像的高频图像序列中的最高层的高频图像,用待置换低频图像取代每张图像的低频图像序列中的最高层的低频图像,分别得到待融合高频图像序列、待融合低频图像序列,使得低倍率下的图像信息能够无缝融合到高放大倍数的图像中,以增强融合效果。最后,将待融合高频图像序列按照高频融合权重值序列进行融合,得到高频融合图像,将待融合低频图像序列按照平均法进行融合,得到低频融合图像,再将高频融合图像和低频融合图像进行融合,得到最终的融合图像。本方法通过先取代,再分别融合,最后再总融合的方式,使得融合图像更加清晰准确,同时计算的效率高、实时性强。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
对于本领域技术人员而言,显然本申请不限于上述示范性实施例的细节,而且在不背离本申请的精神或基本特征的情况下,能够以其它的具体形式实现本申请。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本申请的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
Claims (10)
1.一种显微手术中的多景深拍照融合方法,其特征在于,包括:
将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1;
将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2;
将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL;
利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
将每张图像的待融合低频图像序列进行融合,得到低频融合图像B;
将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
8.一种显微手术中的多景深拍照融合系统,其特征在于,包括:
第一多景深拍照模块,用于将显微镜调整至Z1倍率,并按步长S作为调焦步长进行拍照,得到多景深图像序列In,其中n表示多景深图像序列中的某一幅图像的序号,n≥1;
第二多景深拍照模块,用于将显微镜调整至Z2倍率下进行拍照,得到待处理图像IZ2;
图像分解模块,用于将待处理图像IZ2依次进行裁剪、分解和向上插值处理,得到待处理图像IZ2对应的待置换高频图像IZ2cropfullH和待置换低频图像IZ2cropfullL;
图像替换模块,用于利用待置换高频图像IZ2cropfullH取代每张图像的高频图像序列中的第L层高频图像,得到待融合高频图像序列,并利用待置换低频图像IZ2cropfullL取代每张图像的低频图像序列中的第L层低频图像,得到待融合低频图像序列;
低频图像融合模块,用于将每张图像的待融合低频图像序列进行融合,得到低频融合图像B;
图像融合模块,用于将高频融合图像D和低频融合图像B相加,得到最终的融合图像F。
9.一种电子设备,其特征在于,包括:
存储器,用于存储一个或多个程序;
处理器;
当所述一个或多个程序被所述处理器执行时,实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210557889.8A CN114936994A (zh) | 2022-05-19 | 2022-05-19 | 一种显微手术中的多景深拍照融合方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210557889.8A CN114936994A (zh) | 2022-05-19 | 2022-05-19 | 一种显微手术中的多景深拍照融合方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114936994A true CN114936994A (zh) | 2022-08-23 |
Family
ID=82863581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210557889.8A Pending CN114936994A (zh) | 2022-05-19 | 2022-05-19 | 一种显微手术中的多景深拍照融合方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114936994A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116630220A (zh) * | 2023-07-25 | 2023-08-22 | 江苏美克医学技术有限公司 | 一种荧光图像景深融合成像方法、装置及存储介质 |
-
2022
- 2022-05-19 CN CN202210557889.8A patent/CN114936994A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116630220A (zh) * | 2023-07-25 | 2023-08-22 | 江苏美克医学技术有限公司 | 一种荧光图像景深融合成像方法、装置及存储介质 |
CN116630220B (zh) * | 2023-07-25 | 2023-11-21 | 江苏美克医学技术有限公司 | 一种荧光图像景深融合成像方法、装置及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111275626B (zh) | 一种基于模糊度的视频去模糊方法、装置及设备 | |
CN103119927B (zh) | 图像处理装置、摄像装置及图像处理方法 | |
US20010013895A1 (en) | Arbitrarily focused image synthesizing apparatus and multi-image simultaneous capturing camera for use therein | |
EP3620989A1 (en) | Information processing method, information processing apparatus, and program | |
EP3067858B1 (en) | Image noise reduction | |
Chen et al. | An empirical identification method of Gaussian blur parameter for image deblurring | |
CN110910330B (zh) | 图像处理方法、图像处理装置、电子设备和可读存储介质 | |
US6289133B1 (en) | Image processing method and apparatus | |
EP3067863B1 (en) | Image noise reduction | |
CN108234826B (zh) | 图像处理方法及装置 | |
CN114936994A (zh) | 一种显微手术中的多景深拍照融合方法及系统 | |
CN111105370B (zh) | 图像处理方法、图像处理装置、电子设备和可读存储介质 | |
Chang et al. | Beyond camera motion blur removing: How to handle outliers in deblurring | |
CN114742875A (zh) | 基于多尺度特征提取和自适应聚合的双目立体匹配方法 | |
CN105574823B (zh) | 一种失焦模糊图像的去模糊方法和装置 | |
CN111083359B (zh) | 图像处理方法及其装置、电子设备和计算机可读存储介质 | |
CN116012517B (zh) | 一种正则化的图像渲染方法及装置 | |
CN111899318A (zh) | 数据的处理方法、装置及计算机可读存储介质 | |
CN112001940A (zh) | 图像处理方法及装置、终端及可读存储介质 | |
CN113409375B (zh) | 图像处理方法、装置以及非易失性存储介质 | |
CN112733624B (zh) | 室内密集场景的人流密度检测方法、系统存储介质及终端 | |
JP4104475B2 (ja) | 輪郭補正装置 | |
CN110942442B (zh) | 图像通透度计算方法及装置 | |
Kubota et al. | Cauchy aperture and perfect reconstruction filters for extending depth-of-field from focal stack | |
Moses et al. | Area efficient lagrange image up scaling architecture for multimedia applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |