CN112488925A - 用于减少图像中的烟雾的系统和方法 - Google Patents
用于减少图像中的烟雾的系统和方法 Download PDFInfo
- Publication number
- CN112488925A CN112488925A CN202010950577.4A CN202010950577A CN112488925A CN 112488925 A CN112488925 A CN 112488925A CN 202010950577 A CN202010950577 A CN 202010950577A CN 112488925 A CN112488925 A CN 112488925A
- Authority
- CN
- China
- Prior art keywords
- image
- pixel
- pixels
- value
- atmospheric light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 239000000779 smoke Substances 0.000 title claims abstract description 34
- 239000011159 matrix material Substances 0.000 claims abstract description 45
- 230000005540 biological transmission Effects 0.000 claims abstract description 29
- 230000015654 memory Effects 0.000 claims description 21
- 238000003384 imaging method Methods 0.000 claims description 16
- 238000012545 processing Methods 0.000 description 10
- 239000000835 fiber Substances 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000001356 surgical procedure Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000012800 visualization Methods 0.000 description 5
- 239000003595 mist Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000002245 particle Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 101100248200 Arabidopsis thaliana RGGB gene Proteins 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000002674 endoscopic surgery Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 238000002357 laparoscopic surgery Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
一种用于减少图像中的烟雾的方法包括:访问被烟雾遮住的物体的RGB图像;确定所述RGB图像的暗通道矩阵;基于所述暗通道估计所述RGB图像的大气光矩阵;基于所述大气光矩阵和所述暗通道矩阵确定透射图;基于所述透射图对所述RGB图像进行去雾,以减少所述RGB图像中的所述烟雾;以及在显示设备上显示被去雾的RGB图像。所述RGB图像包括多个像素。对于所述多个像素中的每个像素,所述暗通道矩阵包括以相应像素为中心的相应像素区域的最小颜色分量强度。所述大气光矩阵包括所述多个像素中的每一个的大气光分量值。
Description
技术领域
本公开涉及用于减少图像中的烟雾的设备、系统和方法,更具体地,涉及在外科手术期间减少图像中的烟雾。
背景技术
通过切口或天然身体孔口引入内窥镜来观察身体的内部特征。常规内窥镜用于内窥镜或腹腔镜外科手术期间的可视化。在这类外科手术期间,当使用能量外科手术器械时,例如在外科手术期间用电外科手术能量切割组织时,可能会生成烟雾。因此,内窥镜获取的图像可能由于这种烟雾而变得模糊。当外科医生等待烟雾消散时,烟雾可能会遮住外科手术部位的特征并延迟外科手术。其它过程可能会遇到类似的问题,即在图像捕获期间存在烟雾。因此,人们对改进成像技术感兴趣。
发明内容
本公开涉及用于减少图像中的烟雾的设备、系统和方法。根据本公开的各方面,一种用于减少图像中的烟雾的方法包括:访问被烟雾遮住的物体的RGB图像;确定RGB图像的暗通道矩阵;基于暗通道估计RGB图像的大气光矩阵;基于大气光矩阵和暗通道矩阵确定透射图;基于透射图对RGB图像进行去雾,以减少RGB图像中的烟雾;以及在显示设备上显示被去雾的RGB图像。RGB图像包括多个像素。对于多个像素中的每个像素,暗通道矩阵包括以相应像素为中心的相应像素区域的最小颜色分量强度。大气光矩阵包括多个像素中的每一个的大气光分量值。
在本公开的一方面,对RGB图像进行去雾包括将RGB图像转换为YUV图像;对YUV图像执行去雾操作以提供Y'UV图像;以及将Y'UV图像转换为被去雾的RGB图像。
在本公开的另一方面,对YUV图像执行去雾操作还包括用所确定的Y'替换YUV图像的Y通道,以提供Y'UV图像。
在本公开的一方面,对于多个像素中的每个像素x,估计大气光矩阵包括:将像素x的大气光分量值确定为:A(x)=max(min(Ic(y)))*coef,其中所有y∈Ω(x),其中Ω(x)为以像素x为中心的像素区域,y为像素区域Ω(x)的像素,Ic(y)为像素y的颜色分量c的强度值,并且coef为预定系数值。
根据本公开的各方面,提出了一种用于减少图像中的烟雾的方法。所述方法包括访问被烟雾遮住的图像;对于多个像素中的每个像素:(i)将相应像素的暗通道矩阵值确定为以相应像素为中心的相应像素区域的最小颜色分量强度值,以及(ii)基于像素区域的每个像素的最小颜色分量强度值估计像素x的大气光分量值;基于多个像素的大气光分量值对图像进行去雾;以及在显示设备上显示被去雾的图像。图像包括多个像素,其中图像的每个像素包括多个颜色分量。
在本公开的另一方面,对图像进行去雾包括将多个像素中的每个像素x的透射图值确定为:将图像转换为YUV图像;将多个像素中每个像素x的Y'确定为以及用所确定的Y'替换YUV图像的Y通道,以提供Y'UV图像,其中ω为预定常数,I_DARK(x)为像素x的暗通道矩阵值,并且A(x)为像素x的大气光分量值。
在本公开的一方面,对图像进行去雾还包括将Y'UV图像转换为被去雾的图像。
在本公开的另一方面,所述图像包括RGB图像、CMYK图像、CIELAB图像或CIEXYZ图像中的至少一个。
在本公开的一方面,对于多个像素中的每个像素x,估计大气光矩阵包括:将像素x的大气光分量值确定为A(x)=max(min(Ic(y)))*coef,其中所有y∈Ω(x),其中Ω(x)为以像素x为中心的像素区域,y为像素区域Ω(x)的像素,Ic(y)为像素y的颜色分量c的强度值,并且coef为预定系数值。
根据本公开的各方面,提出了一种用于减少图像中的烟雾的系统。所述系统可包括光源,其被配置为提供光;成像设备,其被配置为获取图像;成像设备控制单元,其被配置为控制成像设备。图像包括多个像素,其中图像的每个像素可包括多个颜色分量。控制单元可包括处理器和存储指令的存储器。所述指令在由处理器执行时使系统访问图像,对于像素中的每一个:将相应像素的暗通道矩阵值确定为以相应像素为中心的相应像素区域的最小颜色分量强度值;以及基于像素区域的每个像素的最小颜色分量强度值估计每个像素的大气光分量值;基于像素中的每一个的大气光分量值对图像进行去雾;以及在显示设备上显示被去雾的图像。
在本公开的另一方面,所述指令在对图像进行去雾时还可使系统将多个像素中的每个像素x的透射图值确定为将图像转换为YUV图像;将Y'确定为以及用所确定的Y'替换YUV图像的Y通道,以提供Y'UV图像,其中ω为预定常数,I_DARK(x)为像素x的暗通道矩阵值,并且A(x)为像素x的大气光分量值。
在本公开的又一方面,所述指令在对图像进行去雾时还可使系统将Y'UV图像转换为被去雾的图像。
在本公开的另一方面,所述图像包括RGB图像、CMYK图像、CIELAB图像或CIEXYZ图像中的至少一个。
在本公开的一方面,估计大气光矩阵包括将像素x的大气光分量值确定为A(x)=max(min(Ic(y)))*coef,其中所有y∈Ω(x)。其中y为像素,Ic(y)为像素y的颜色分量c的强度值,并且coef为预定系数值。
下文参考附图更详细地描述了本公开的各种实施例的另外的细节和方面。
附图说明
在本文中参考附图描述本公开的实施例,其中:
图1为根据本公开的示例性可视化或内窥镜系统的图;
图2为图1的可视化或内窥镜系统的示意性配置;
图3为图示图1的系统的光学系统的另一示意性配置的图;
图4为根据本公开的实施例的可视化或内窥镜系统的示意性配置;
图5为根据本公开的示例性实施例的用于减少烟雾的方法的流程图;
图6为根据本公开的包括像素区域的示例性输入图像;
图7为根据本公开的用于执行去雾的方法的流程图;
图8为根据本公开的具有烟雾的示例性图像;
图9为具有恒定大气光的示例性的被去雾的图像;和
图10为根据本公开计算的具有大气光的示例性的被去雾的图像。
下面参考附图更详细地描述本公开的示例性实施例的另外的细节和方面。在不脱离本公开的范围的情况下,可组合本公开的以上方面和实施例中的任一项。
具体实施方式
参考附图详细描述了目前公开的设备、系统和处理方法的实施例,其中在若干视图中的每一个中,相同附图标号指定相同或对应元件。如本文所用,术语“远侧”指距使用者较远的结构的那部分,而术语“近侧”指距使用者较近的结构的那部分。术语“临床医师”指医生、护士或其它护理提供者,并且可包括辅助人员。
本公开适用于捕获外科手术部位的图像的情况。提供内窥镜系统作为示例,但应理解,这类描述为示例性的,并且不将本公开的范围和适用性限制于其它系统和过程。
首先参考图1-3,根据本公开,内窥镜系统1包括内窥镜10、光源20、视频系统30和显示设备40。继续参考图1,经由纤维引导件22将光源20(如LED光源/氙光源)连接到内窥镜10,所述纤维引导件可操作地耦接到光源20并耦接到内耦接器16,所述内耦接器安置在内窥镜10的手柄18上或邻近所述手柄安置。纤维引导件22包括例如光纤电缆,所述光纤电缆延伸穿过内窥镜10的细长主体12并终止于内窥镜10的远端14处。因此,光从光源20透射通过纤维引导件22,并且离开内窥镜10的远端14朝向患者身体的靶向内部特征(如组织或器官)发射。由于这类配置中的光透射路径相对较长(例如,纤维引导件22的长度可为约1.0m至约1.5m),因此从光源20发射的光通量的仅约15%(或更少)从内窥镜10的远端14输出。
参考图2和图3,视频系统30可操作地连接到图像传感器32,所述图像传感器经由数据电缆34安装到内窥镜10的手柄18或安置在所述手柄内。物镜36安置在内窥镜10的细长主体12的远端14处,并且一系列间隔开的中继透镜38(如棒状透镜)沿细长主体12的长度定位在物镜36与图像传感器32之间。由物镜36捕获的图像经由中继透镜38通过内窥镜10的细长主体12转发到图像传感器32,然后传送给视频系统30进行处理并经由电缆39输出到显示设备40。图像传感器32定位在内窥镜10的手柄18内或安装到所述手柄上,所述手柄可距内窥镜10的远端14高达约30cm。
参考图4-7,流程图包括按有序顺序描述的各种框。然而,本领域技术人员将理解,在不脱离本公开的范围的情况下,流程图的一个或多个框可按不同的顺序执行、重复和/或省略。流程图的以下描述涉及由一个或多个视频系统30执行的各种动作或任务,但本领域技术人员将理解,视频系统30为示例性的。在各种实施例中,所公开的操作可由另一组件、设备或系统执行。在各种实施例中,视频系统30或其它组件/设备经由在处理器上执行的一个或多个软件应用来执行动作或任务。在各种实施例中,操作中的至少一些可由固件、可编程逻辑设备和/或硬件电路来实施。其它实施方式被认为在本公开的范围内。
参考图4,示出了系统的示意性配置,所述系统可为图1的内窥镜系统或可为不同类型的系统(例如,可视化系统等)。根据本公开,所述系统包括成像设备410、光源420、视频系统430和显示设备440。光源420被配置为经由纤维引导件422通过成像设备410向外科手术部位提供光。成像设备410的远端414包括用于在外科手术部位处捕获图像的物镜436。物镜436将图像转发到图像传感器432。然后将图像传送到视频系统430以进行处理。视频系统430包括用于控制内窥镜和处理图像的成像设备控制器450。成像设备控制器450包括处理器452,所述处理器连接到计算机可读存储介质或存储器454,所述存储器可为易失性型存储器(如RAM)或非易失性型存储器(如闪存介质、磁盘介质)或其它类型的存储器。在各种实施例中,处理器452可为另一种类型的处理器,如但不限于数字信号处理器、微处理器、ASIC、图形处理单元(GPU)、现场可编程门阵列(FPGA)或中央处理单元(CPU)。
在各种实施例中,存储器454可为随机存取存储器、只读存储器、磁盘存储器、固态存储器、光盘存储器和/或另一种类型的存储器。在各种实施例中,存储器454可与成像设备控制器450分离,并且可通过电路板的通信总线和/或通过如串行ATA电缆或其它类型的电缆的通信电缆与处理器452通信。存储器454包括可由处理器452执行以操作成像设备控制器450的计算机可读指令。在各种实施例中,成像设备控制器450可包括网络接口540,以与其它计算机或服务器通信。
现在参考图5,示出了用于图像中的烟雾减少的操作。在各种实施例中,图5的操作可由在本文上面描述的内窥镜系统1来执行。在各种实施例中,图5的操作可由另一种类型的系统和/或在另一种类型的过程期间执行。以下描述将涉及内窥镜系统,但应理解,这类描述为示例性的,并且不将本公开的范围和适用性限制于其它系统和过程。以下描述将涉及RGB(红色、绿色、蓝色)图像或RGB颜色模型,但应理解,这类描述为示例性的,并且不将本公开的范围和适用性限制于其它类型的图像或颜色模型(例如,CMYK(青色、洋红色、黄色、关键色)、CIELAB或CIEXYZ)。图像传感器32可捕获原始数据。原始数据的格式可为RGGB、RGBG、GRGB或BGGR。视频系统30可使用去马赛克算法将原始数据转换为RGB。去马赛克算法为一种数字图像处理,用来从覆盖有滤色镜阵列(CFA)的图像传感器输出的不完整颜色样本中重建全色图像。它也称为CFA插值或颜色重建。可通过视频系统30将RGB图像进一步转换为另一种颜色模型,如CMYK、CIELAB或CIEXYZ。
最初,在步骤502,经由物镜36捕获外科手术部位的图像,并且将其转发到内窥镜系统1的图像传感器32。如本文所用,术语“图像”可包括静止图像或运动图像(例如,视频)。在各种实施例中,捕获的图像被传送到视频系统30以进行处理。举例来说,在内窥镜检查期间,外科医生可用电外科手术器械切割组织。在此切割期间,可能会生成烟雾。当捕获到图像时,它可能包括烟雾。烟雾通常为大气中的混浊介质(如粒子、水滴)。物镜36从场景点接收的辐照度被视线衰减。这种入射光与环境光(空气光)混合,并且被大气粒子(如烟雾)反射到视线中。这种烟雾会降低图像质量,使其失去对比度和色彩保真度。
图6示出了在步骤502中捕获的图像的示例性像素表示。在各种实施例中,在捕获过程期间或在捕获过程之后,所捕获的图像可被处理或可不被处理。在各种实施例中,图像600包括多个像素,并且图像600的尺寸通常被表示为X乘Y格式的像素量,例如500×500个像素。根据本公开的各方面,并且如本文稍后将更详细地解释,可基于以所述像素为中心的像素区域602、610来处理图像600的每个像素,所述像素区域在本文中也被称为色块。在各种实施例中,图像的每个色块/像素区域可具有相同的大小。在各种实施例中,不同的像素区域或色块可具有不同的大小。每个像素区域或色块可表示为Ω(x),其为以特定像素x作为其中心像素的像素区域/色块。在图6的说明性示例中,像素区域602的大小为3×3个像素,并且以特定像素x1 606为中心。如果图像具有18乘18个像素,则色块大小可为3×3个像素。图示的图像大小和色块大小为示例性的,并且其它图像大小和色块大小也被认为在本公开的范围内。
继续参考图6,图像600中的每个像素601可具有颜色分量612的组合,如红色、绿色和蓝色,它们在本文中也称为颜色通道。Ic(y)在本文中用来表示图像600中特定像素y的颜色分量c的强度值。对于像素601,颜色分量612中的每一个具有代表所述颜色分量的亮度强度的强度值。举例来说,对于24位RGB图像,颜色分量612中的每一个具有8位,这对应于具有256个可能的强度值的每个颜色分量。
再次参考图5,在步骤504,视频系统30确定图像600的暗通道矩阵。如本文所用,像素的短语“暗通道”指以特定像素x为中心的色块Ω(x)602的所有像素中的最低颜色分量强度值。如本文所用,术语图像的“暗通道矩阵”指图像的每个像素的暗通道的矩阵。像素x的暗通道将表示为I_DARK(x)。在各种实施例中,视频系统30如下计算像素的暗通道:
I_DARK(x)=min(min(Ic(y))),,其中所有c∈{r,g,b}y∈Ω(x)
其中y表示色块Ω(x)的像素,c表示颜色分量,并且Ic(y)表示像素y的颜色分量c的强度值。因此,像素x的暗通道为跨两个变量c和y的两次最小运算的结果,这两个变量共同确定以像素x为中心的色块的所有像素中的最低颜色分量强度值。在各种实施例中,视频系统30可通过获取色块中每个像素的最低颜色分量强度值,然后在所有这些值中找到最小值来计算像素的暗通道。对于色块的中心像素在图像边缘处或图像边缘附近的情况,仅使用图像中色块的一部分。
举例来说,参考图6,对于在步骤502中捕获的图像600,图像600的高度和宽度可为18×18个像素,像素区域(色块)大小可为3×3个像素。举例来说,以x1 606为中心的3×3像素区域Ω(x1)602对于色块中9个像素中的每一个的R、G和B通道可具有以下强度:
在此示例中,对于像素区域Ω(x1)602中的左上像素,R通道的强度可为1,G通道的强度可为3,并且B通道的强度可为6。在此,R通道具有所述像素的RGB通道的最小强度值(值为1)。
将确定每个像素的最小颜色分量强度值。举例来说,对于以x1为中心的3×3像素区域Ω(x1)602,像素区域Ω(x1)602中像素中的每一个的最小颜色分量强度值为:
因此,对于以x1为中心的示例性3×3像素区域Ω(x)602,像素的暗通道的强度值为0。
再次参考图5,在步骤506,视频系统30估计每个像素的大气光分量,并且所有像素的大气光分量在本文中统称为“大气光矩阵”。像素x的估计大气光分量在本文中将被表示为A(x)。在各种实施例中,可基于像素区域Ω(x)602中每个像素y 604的最低颜色分量强度值来确定A(x),其可表示为:
A(x)=f(min(Ic(y))),其中所有c∈{r,g,b}y∈Ω(x),
其中f()为用于基于色块Ω(x1)602中每个像素y 604的最低颜色分量强度值估计大气光分量的运算。在各种实施例中,运算f()可确定min(Ic(y))中的最大值,对于y∈Ω(x)。在各种实施例中,最大值可由系数“coef”缩放,所述系数在各种实施例中的值可介于0和1之间,如0.85。上述大气光分量的实施例可如下提供:
A(x)=f(min(Ic(y)))=max(min(Ic(y)))*coef,其中所有c∈{r,g,b}y∈Ω(x)
举例来说,对于色块Ω(x1)602中的强度值,使用与上述相同的示例,视频系统30将大气光分量A(x1)确定为9*coef。
在步骤508,视频系统30确定在本文中被称为透射图T的内容。基于在步骤504和506中确定的暗通道矩阵和大气光矩阵来确定透射图T。透射图包括每个像素x的透射分量T(x)。在各种实施例中,透射分量可如下确定:
其中ω为值介于0和1之间(如0.85)的参数。实际上,即使在清晰的图像中,也会有一些粒子。因此,当观察到远处的物体时存在一些薄雾。薄雾的存在暗示着人类对深度的感知。如果消除所有薄雾,则可能会失去深度的感知。因此,为了保留一些薄雾,引入参数ω(0<ω<=1)。在各种实施例中,ω的值可基于特定应用而变化。因此,透射图等于1减去ω乘以像素的暗通道(I-DARK(x))除以像素的大气光分量A(x)。
在步骤510,视频系统30基于透射图对图像进行去雾。图7图示了执行去雾操作的一种方式。
参考图7,所图示的操作假设原始图像为RGB图像。所述操作尝试在去雾过程中尽可能多地保留原始RGB图像600的颜色。在各种实施例中,去雾操作将图像600从RGB颜色空间转换为YUV颜色空间(Y为亮度,U和V为色度或颜色),并且在Y(亮度)通道上应用去雾,所述Y(亮度)通道通常为RGB颜色通道的加权和。
最初,在步骤702,视频系统30将RGB图像600转换为表示为I-YUV的YUV图像。每个像素从RGB和YUV的转换可如下执行:
接下来,在步骤704,视频系统30对I-YUV图像的通道Y(亮度)执行去雾操作。根据本公开的各方面,去雾操作如下:
其中Y′(x)为模糊图像I-Y′UV的Y(亮度)通道。A(x)为像素x的估计大气光分量,并且T(x)为像素x的透射图值。因此,被去雾的图像I-Y′UV的Y(亮度)通道等于图像I-YUV的Y(亮度)通道与在步骤506中计算出的估计大气光分量A(x)之差,除以在步骤508中确定的透射图值T(x)。
最后,在步骤706,视频系统30将YUV图像I-Y′UV转换为去雾RGB图像,从YUV到RGB的转换如下:
在各种实施例中,视频系统30可在显示设备40上传送所得的被去雾的RGB图像,或者将其保存到存储器或外部存储设备,以供以后调用或进一步处理。尽管图7的操作关于RGB图像而描述,但应理解,所公开的操作也可应用于其它颜色空间。
图8-10示出了前面各节中描述的方法的示例结果。图8示出了在使用内窥镜系统1的外科手术期间捕获的烟雾的图像800。举例来说,在内窥镜检查期间,外科医生可用电外科手术器械802切割组织804。在此切割期间,可能生成烟雾806。所述烟雾806将被捕获在图像800中。
图9示出了被去雾的图像900,其中来自图8的图像800基于恒定的大气光值进行去雾。仍然有点被烟雾806遮住的图像1000可包括电外科手术器械802和组织804。举例来说,在使用恒定的大气光值A代替由步骤506中使用的公式估计的大气光矩阵A的情况下。
图10示出了使用图5和7的方法进行去雾的被去雾的RGB图像1000,如本文所述。被去雾的RGB图像1000可包括电外科手术器械802和组织804。所述方法可从在外科手术期间捕获图8的图像800开始,如在步骤502中使用内窥镜系统1。举例来说,图像可为大约20×20个像素。接下来,如在步骤504中,视频系统30确定图像的暗通道矩阵。举例来说,像素区域Ω(x)的大小可被设定为大约3×3个像素。
如在步骤506中,视频系统30通过估计像素区域中每个像素的最小颜色分量强度中的最大值,并将此最大值乘以系数(例如,0.85),而使用图8的图像的所确定的暗通道矩阵来估计大气光矩阵。接下来,如在步骤508中,视频系统30根据暗通道矩阵和估计大气光矩阵来计算透射图(T)。
透射图(T)被用于如图7所描述的去雾操作中。在步骤702,视频系统30将RGB图像I转换为YUV图像I-YUV。接下来,在步骤704,视频系统30通过从Y(亮度)通道中减去估计大气光分量A(x),然后将此差除以所确定的透射图,对I-YUV图像的通道Y(亮度)应用去雾操作,从而产生图像I-Y′UV。最后,在步骤706中,将I-Y′UV图像转换为被去雾的RGB图像1000(参见图10)。
本文中所公开的实施例为本公开的示例,并且可以各种形式实施。例如,尽管本文中的某些实施例被描述为单独的实施例,但本文中的实施例中的每一个可与本文中的一个或多个其它实施例组合。因此,本文中所公开的具体结构和功能细节不应被解释为限制性的,而仅仅是作为权利要求的基础和作为教导本领域技术人员以实际上任何适当的详细结构不同地采用本公开的代表基础。在关于附图的整个描述中,相同的附图标号指相似或相同的元件。
短语“在一个实施例中”、“在实施例中”、“在一些实施例中”或“在其它实施例中”可各自指根据本公开的相同或不同实施例中的一个或多个。“A或B”形式的短语意指“(A)、(B)或(A和B)”。“A、B或C中的至少一个”形式的短语意指“(A);(B);(C);(A和B);(A和C);(B和C);或(A、B和C)”。术语“临床医师”可指临床医师或执行医疗过程的任何医疗专业人员,如医生、护士、技术人员、医疗助手等。
本文中所描述的系统还可利用一个或多个控制器来接收各种信息并转换所接收的信息以生成输出。控制器可包括任何类型的计算设备、计算电路或能够执行存储在存储器中的一系列指令的任何类型的处理器或处理电路。控制器可包括多个处理器和/或多核中央处理单元(CPU),并且可包括如微处理器、数字信号处理器、微控制器、可编程逻辑设备(PLD)、现场可编程门阵列(FPGA)等任何类型的处理器。控制器还可包括用于存储数据和/或指令的存储器,所述数据和/或指令在由一个或多个处理器执行时使所述一个或多个处理器执行一种或多种方法和/或算法。
本文描述的任何方法、程序、算法或代码可被转换为编程语言或计算机程序,或者以编程语言或计算机程序表达。如本文所用,术语“编程语言”和“计算机程序”各自包括用来指定计算机指令的任何语言,并且包括(但不限于)以下语言及其派生词:汇编程序、Basic、批处理文件、BCPL、C、C+、C++、Delphi、Fortran、Java、JavaScript、机器代码、操作系统命令语言、Pascal、Perl、PL1、脚本语言、可视化Basic、自指定程序的元语言以及所有第一代、第二代、第三代、第四代、第五代或下一代计算机语言。还包括数据库和其它数据模式以及任何其它元语言。解译、编译或使用编译和解译方法两者的语言之间没有区别。程序的编译版本与源版本之间没有区别。因此,对其中编程语言可以多于一种状态(如源、编译、物体或链接)存在的程序的引用是对任何和所有这类状态的引用。对程序的引用可涵盖实际指令和/或那些指令的意图。
本文描述的任何方法、程序、算法或代码可含在一个或多个机器可读介质或存储器上。术语"存储器"可包括以机器(如处理器、计算机或数字处理设备)可读的形式提供(例如,存储和/或传输)信息的机构。举例来说,存储器可包括只读存储器(ROM)、随机存取存储器(RAM)、磁盘存储介质、光学存储介质、快闪存储器设备或任何其它易失性或非易失性存储器存储设备。含在其上的代码或指令可由载波信号、红外信号、数字信号和其它类似信号表示。
应理解,前文的描述仅仅为对本公开的说明。在不脱离本公开的情况下,本领域技术人员可设计出各种替代方案和修改。因此,本公开旨在涵盖所有这类替代方案、修改和变型。参考附图描述的实施例仅用于展示本公开的某些示例。与上述和/或所附权利要求中所描述的那些没有实质性不同的其它元件、步骤、方法和技术也旨在落入本公开的范围内。
Claims (16)
1.一种用于减少图像中的烟雾的方法,其包含:
访问被烟雾遮住的物体的RGB图像,所述RGB图像包括多个像素;
确定所述RGB图像的暗通道矩阵,其中对于所述多个像素中的每个像素,所述暗通道矩阵包括以相应像素为中心的相应像素区域的最小颜色分量强度;
基于所述暗通道矩阵估计所述RGB图像的大气光矩阵,其中所述大气光矩阵包括所述多个像素中的每一个的大气光分量值;
基于所述大气光矩阵和所述暗通道矩阵确定透射图;
基于所述透射图对所述RGB图像进行去雾,以减少所述RGB图像中的所述烟雾;和
在显示设备上显示被去雾的RGB图像。
2.根据权利要求1所述的方法,其中所述对所述RGB图像进行去雾包括:
将所述RGB图像转换为YUV图像;
对所述YUV图像执行去雾操作以提供Y'UV图像;和
将所述Y'UV图像转换为所述被去雾的RGB图像。
4.根据权利要求3所述的方法,其中所述对所述YUV图像执行所述去雾操作还包括用所确定的Y'替换所述YUV图像的Y通道,以提供Y'UV图像。
5.根据权利要求1所述的方法,其中对于所述多个像素中的每个像素x,所述估计所述大气光矩阵包括:
将所述像素x的大气光分量值确定为:
A(x)=max(min(Ic(y)))*coef,其中所有y∈Ω(x),
其中:
Ω(x)为以像素x为中心的像素区域,
y为所述像素区域Ω(x)的像素,
Ic(y)为所述像素y的颜色分量c的强度值,且
coef为预定系数值。
7.一种用于减少图像中的烟雾的方法,其包含:
访问被烟雾遮住的图像,所述图像包括多个像素,其中所述图像的每个像素包括多个颜色分量;
对于所述多个像素中的每个像素:
将相应像素的暗矩阵通道值确定为以所述相应像素为中心的相应像素区域的最小颜色分量强度值;和
基于所述像素区域的每个像素的所述最小颜色分量强度值估计像素x的大气光分量值;
基于所述多个像素中的每一个的所述大气光分量值对所述图像进行去雾;和
在显示设备上显示被去雾的图像。
9.根据权利要求8所述的方法,其中所述对图像进行去雾还包括将所述Y'UV图像转换为被去雾的图像。
10.根据权利要求9所述的方法,其中所述图像包括RGB图像、CMYK图像、CIELAB图像或CIEXYZ图像中的至少一个。
11.根据权利要求7所述的方法,其中对于所述多个像素中的每个像素x,所述估计所述大气光分量值包括:
将所述像素x的所述大气光分量值确定为:
A(x)=max(min(Ic(y)))*coef,其中所有y∈Ω(x),
其中:
Ω(x)为以像素x为中心的像素区域,
y为所述像素区域Ω(x)的像素,
Ic(y)为所述像素y的颜色分量c的强度值,且
coef为预定系数值。
12.一种用于减少图像中的烟雾的系统,其包含:
光源,其被配置为提供光;
成像设备,其被配置为获取图像;
成像设备控制单元,其被配置为控制所述成像设备,所述控制单元包含:
处理器;和
存储指令的存储器,所述指令在由所述处理器执行时使所述系统:
由所述成像设备捕获被烟雾遮住的物体的图像,所述图像包括多个像素,其中所述图像的每个像素包括多个颜色分量;
访问所述图像;
对于所述像素中的每一个:
将相应像素的暗通道矩阵值确定为以所述相应像素为中心的相应像素区域的最小颜色分量强度值;和
基于所述像素区域的每个像素的所述最小颜色分量强度值估计每个像素的大气光分量值;
基于所述像素中的每一个的所述大气光分量值对所述图像进行去雾;和
在显示设备上显示被去雾的图像。
14.根据权利要求13所述的系统,其中所述指令在对所述图像进行去雾时还使所述系统将所述Y'UV图像转换为被去雾的图像。
15.根据权利要求14所述的系统,其中所述图像包括RGB图像、CMYK图像、CIELAB图像或CIEXYZ图像中的至少一个。
16.根据权利要求12所述的系统,其中所述指令在估计所述图像的所述大气光分量时还使所述系统:
将所述像素x的所述大气光分量值确定为:
A(x)=max(min(Ic(y)))*coef,
其中:
y为像素,
Ic为所述像素y的颜色分量,且
coef为预定系数。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNPCT/CN2019/105311 | 2019-09-11 | ||
PCT/CN2019/105311 WO2021046743A1 (en) | 2019-09-11 | 2019-09-11 | Systems and methods for smoke-reduction in images |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112488925A true CN112488925A (zh) | 2021-03-12 |
Family
ID=74867147
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010950577.4A Pending CN112488925A (zh) | 2019-09-11 | 2020-09-11 | 用于减少图像中的烟雾的系统和方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220392022A1 (zh) |
EP (1) | EP4028986A4 (zh) |
CN (1) | CN112488925A (zh) |
WO (1) | WO2021046743A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117078562B (zh) * | 2023-10-16 | 2023-12-26 | 四川中科友成科技有限公司 | 一种视频图像去雾方法、装置、计算机设备及介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102982513B (zh) * | 2012-12-04 | 2015-08-19 | 电子科技大学 | 一种基于纹理的自适应图像去雾方法 |
CN104392417A (zh) * | 2014-11-28 | 2015-03-04 | 嘉应学院 | 基于像素暗通道和各向异性扩散滤波的图像去雾方法 |
CN106023092B (zh) * | 2016-05-04 | 2020-12-11 | 中国农业大学 | 一种图像去雾方法及装置 |
US10026160B2 (en) * | 2016-08-20 | 2018-07-17 | Adobe Systems Incorporated | Systems and techniques for automatic image haze removal across multiple video frames |
CN106846259A (zh) * | 2016-12-15 | 2017-06-13 | 上海交通大学 | 一种腹腔镜手术视频帧率自适应的实时去烟雾方法 |
CN109754372B (zh) * | 2018-12-03 | 2020-12-08 | 浙江大华技术股份有限公司 | 一种图像去雾处理方法及装置 |
-
2019
- 2019-09-11 US US17/641,452 patent/US20220392022A1/en active Pending
- 2019-09-11 WO PCT/CN2019/105311 patent/WO2021046743A1/en unknown
- 2019-09-11 EP EP19945282.2A patent/EP4028986A4/en not_active Withdrawn
-
2020
- 2020-09-11 CN CN202010950577.4A patent/CN112488925A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4028986A4 (en) | 2023-06-07 |
WO2021046743A1 (en) | 2021-03-18 |
EP4028986A1 (en) | 2022-07-20 |
US20220392022A1 (en) | 2022-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10335014B2 (en) | Endoscope system, processor device, and method for operating endoscope system | |
JP5438571B2 (ja) | 電子内視鏡システム | |
US11045079B2 (en) | Endoscope device, image processing apparatus, image processing method, and program | |
JP7166430B2 (ja) | 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム | |
JP5269921B2 (ja) | 電子内視鏡システム及び電子内視鏡システムの作動方法 | |
US20120209287A1 (en) | Method and structure for image local contrast enhancement | |
WO2016084257A1 (ja) | 内視鏡装置 | |
US20190124258A1 (en) | Image processing apparatus, image processing method, and computer readable recording medium | |
JP7122328B2 (ja) | 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム | |
CN112508797A (zh) | 用于图像中实时去雾的系统和方法 | |
CN112788978A (zh) | 内窥镜用处理器、信息处理装置、内窥镜系统、程序以及信息处理方法 | |
CN112488926A (zh) | 用于基于神经网络的色彩还原的系统和方法 | |
CN112488925A (zh) | 用于减少图像中的烟雾的系统和方法 | |
US10863149B2 (en) | Image processing apparatus, image processing method, and computer readable recording medium | |
JP7137629B2 (ja) | 医用画像処理装置、プロセッサ装置、医用画像処理装置の作動方法、及びプログラム | |
JP2023014288A (ja) | 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム | |
US20190122344A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable recording medium | |
WO2020017211A1 (ja) | 医用画像学習装置、医用画像学習方法、及びプログラム | |
JP5528122B2 (ja) | 内視鏡装置 | |
JP2011139732A (ja) | 内視鏡装置 | |
JP7148625B2 (ja) | 医用画像処理装置、プロセッサ装置、医用画像処理装置の作動方法、及びプログラム | |
CN115587942A (zh) | 内窥镜图像的去雾方法及装置 | |
CN116471974A (zh) | 图像处理系统及其使用方法 | |
JP2014094175A (ja) | 電子内視鏡用画像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |