CN117611486B - 一种非正则自监督的低光图像增强方法 - Google Patents
一种非正则自监督的低光图像增强方法 Download PDFInfo
- Publication number
- CN117611486B CN117611486B CN202410097957.6A CN202410097957A CN117611486B CN 117611486 B CN117611486 B CN 117611486B CN 202410097957 A CN202410097957 A CN 202410097957A CN 117611486 B CN117611486 B CN 117611486B
- Authority
- CN
- China
- Prior art keywords
- bilateral
- map
- illumination
- light image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000001788 irregular Effects 0.000 title claims abstract description 18
- 230000002146 bilateral effect Effects 0.000 claims abstract description 99
- 238000005286 illumination Methods 0.000 claims abstract description 95
- 238000013528 artificial neural network Methods 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims abstract description 8
- 238000005070 sampling Methods 0.000 claims abstract description 6
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims abstract description 5
- 230000006870 function Effects 0.000 claims description 17
- 238000012937 correction Methods 0.000 claims description 9
- 230000001419 dependent effect Effects 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 4
- 238000003860 storage Methods 0.000 claims description 4
- 230000008447 perception Effects 0.000 description 8
- 238000012544 monitoring process Methods 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000013461 design Methods 0.000 description 6
- 230000008878 coupling Effects 0.000 description 5
- 238000010168 coupling process Methods 0.000 description 5
- 238000005859 coupling reaction Methods 0.000 description 5
- 238000000354 decomposition reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003902 lesion Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种非正则自监督的低光图像增强方法,涉及图像处理技术领域,该方法包括:建立光照的3D双边网格,所述3D双边网格包括空间位置和光照强度;采用神经网络对3D双边网格进行参数化处理,以使3D双边网格中的仿射系数在空间位置和光照强度方向上均平滑;获取低光图像,并对低光图像进行下采样处理和灰度化处理,生成单通道的灰度引导图;将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图;对二维光照图进行上采样处理和调整后生成增强图像。本发明直接从低光图像预测光照图,从而消除对正则化项的需求,简化了参数微调程序,更加灵活。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种非正则自监督的低光图像增强方法。
背景技术
低光图像在人们的日常生活和特殊场景中十分常见。在夜间、室内光线较暗、逆光或阴天等条件下获取的低光图像中,许多细节都会淹没在黑暗中,这不仅影响人眼的视觉体验,还限制了计算机视觉算法的应用场景。低光增强技术的目标是提高图像的亮度和对比度、进行颜色矫正以及去除噪声,以恢复隐藏的细节。因此,低光增强在改善人眼感知图像信息、提高医学图像中病变可识别度以及拓展计算机视觉模型应用范围等方面具有重要意义。
目前,主流的低光增强技术主要基于Retinex的优化方法,Retinex模型将图像建模为反射图和光照图的点乘,其基本思想是首先估计光照图和反射图,然后调整光照图并对反射图去噪,最终生成增强图像。因此,Retinex分解是这类方法的关键,Retinex分解通常在变分框架内进行,通过解决最小化问题将低光图像分解为反射分量和光照分量两部分。然而,这是一个高度不适定的问题,为了缓解这种不适定性,需要对两个分量施加多个正则约束项。然而,这会带来两个新问题:(1)光照分量和反射分量相互耦合,随着引入更多正则项,耦合关系将加强,导致难以分解;(2)调节这些正则项平衡参数使算法缺乏灵活性。
发明内容
本发明旨在至少在一定程度上解决现有技术中的技术问题之一。为此,本发明的目的在于提供了一种非正则自监督的低光图像增强方法,直接从低光图像预测光照图,从而消除对正则化项的需求,简化了参数微调程序,更加灵活。
技术方案:第一方面,本发明提供了一种非正则自监督的低光图像增强方法,包括:
建立光照的3D双边网格,所述3D双边网格包括空间位置和光照强度;
采用神经网络对3D双边网格进行参数化处理,以使3D双边网格中的仿射系数在空间位置和光照强度方向上均平滑;
获取低光图像,并对低光图像进行下采样处理和灰度化处理,生成单通道的灰度引导图;
将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图;
对二维光照图进行上采样处理和调整后生成增强图像;
所述采用神经网络对3D双边网格进行参数化处理包括:采用包含解码器的深度图像先验网络架构对3D双边网格的平滑度进行建模,进行参数化处理后的3D双边网格表示为B=G(θ),其中G是生成编码器,θ是其相应的网络参数;
所述将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图的过程可表示为I=F(B,g),其中,I是二维光照图,F(·)代表切片操作符,g是灰度引导图;
所述切片操作符F(·)通过双线性插值3D双边网格在由灰度引导图定义的位置进行数据依赖查找:
其中sx和sy分别是3D双边网格维度与低光图像维度的宽度和高度的比率,表示线性插值核函数:/>,d是3D双边网格B的深度,(x,y) 是空间坐标,i和j表示双边网格的横坐标和纵坐标,k是3D双边网格里面的高度。
进一步的,所述3D双边网格以随机噪声作为输入,噪声服从高斯分布:,其中,δ为噪声方差。
进一步的,损失函数表示为:
其中,是Frobenious范数,S代表输入图像。
进一步的,所述对二维光照图进行上采样处理和调整后生成增强图像包括:
对二维光照图I进行上采样处理生成光照图一I’,对光照图一I’进行伽马校正生成光照图二Iadj,根据Retinex模型对光照图二Iadj进行光照强度放大生成增强图像,其中,Iadj=(I)γ,γ是Gamma校正因子,Iadj表示光照图二;
增强图像表示为:
其中,表示空域除法运算符,/>代表增强图像,c表示低光图像的R、G、B通道,Sc表示相应c通道的输入图像。
第二方面,本申请提供一种电子设备,包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令,所述计算机指令被处理器运行时,完成上述任一项所述的方法。
第三方面,本申请提供一种计算机可读存储介质,用于存储计算机指令,所述计算机指令被处理器执行时,完成上述任一项所述的方法。
有益效果:本发明绕过了Retinex分解,直接从低光图像预测光照图,通过预测光照图的双边网格表示,充分利用了双边网格结构固有的边缘感知特性,这种表示方法无需设计专门针对光照图的平滑约束项,同时简化了正则项平衡参数的调整,从而更加灵活。
附图说明
图1为本发明提供的一种非正则自监督的低光图像增强方法的流程示意图;
图2为本发明提供的一种非正则自监督的低光图像增强方法的流程图;
图3为本发明提供的一种非正则自监督的低光图像增强方法的整体框架图;
图4为本发明提供的一种非正则自监督的低光图像增强方法中3D双边网格系数图的可视化表示;
图5为本发明提供的一种非正则自监督的低光图像增强方法中神经双边网格参数化网络。
具体实施方式
下面结合附图对本发明的具体实施方式作进一步的详细说明。
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
如图1所示,本发明提供的第一种实施例,一种非正则自监督的低光图像增强方法,包括:
S101、建立光照的3D双边网格,所述3D双边网格包括空间位置和光照强度;
S102、采用神经网络对3D双边网格进行参数化处理,以使3D双边网格中的仿射系数在空间位置和光照强度方向上均平滑;
S103、获取低光图像,并对低光图像进行下采样处理和灰度化处理,生成单通道的灰度引导图;
S104、将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图;
S105、对二维光照图进行上采样处理和调整后生成增强图像。
本发明绕过了Retinex分解,直接从低光图像预测光照图,通过预测光照图的双边网格表示,充分利用了双边网格结构固有的边缘感知特性,这种表示方法无需设计专门针对光照图的平滑约束项,同时简化了正则项平衡参数的调整,从而更加灵活。
进一步的,所述采用神经网络对3D双边网格进行参数化处理包括:采用包含解码器的深度图像先验网络架构对3D双边网格的平滑度进行建模,进行参数化处理后的3D双边网格表示为B=G(θ),其中G是生成编码器,θ是其相应的网络参数。
进一步的,所述3D双边网格以随机噪声作为输入,噪声服从高斯分布:,其中,δ为噪声方差。
进一步的,所述将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图的过程可表示为I=F(B,g),其中,I是二维光照图,F(·)代表切片操作符,g是灰度引导图。
进一步的,所述切片操作符F(·)通过双线性插值3D双边网格在由灰度引导图g定义的位置进行数据依赖查找:
其中sx和sy分别是3D双边网格维度与低光图像维度的宽度和高度的比率,表示线性插值核函数:/>,d是3D双边网格B的深度,(x,y) 是空间坐标,i和j表示双边网格的横坐标和纵坐标,k是3D双边网格里面的高度。
进一步的,损失函数表示为:
其中,是Frobenious范数,S代表输入图像。
进一步的,所述对二维光照图进行上采样处理和调整后生成增强图像包括:
对二维光照图I进行上采样处理生成光照图一I’,对光照图一I’进行伽马校正生成光照图二Iadj,根据Retinex模型对光照图二Iadj进行光照强度放大生成增强图像,其中,Iadj=(I)γ,γ是Gamma校正因子,Iadj表示光照图二;
增强图像表示为:
其中,表示空域除法运算符,/>代表增强图像,c表示低光图像的R、G、B通道,Sc表示相应c通道的输入图像。
本发明的关键挑战是估计光照图,因为本方案的增强方法涉及去除光照。以往的方法要么采用Retinex分解,要么在最大后验(MAP)框架中完善初始光照图。而在本方案的创新中,本方案通过拟合低光图像来估计光照度,无需计算初始光照度图。本方案的目标并非完美匹配低光图像,而是希望光照图在边缘感知的情况下接近输入图像,因此,正则化项变得至关重要。在MAP框架中,通过拟合低光图像来估计光照度,最小化问题可表述为:
(1)
其中,S表示输入的低光图像,I是相应的照明图。为了在优化过程中引导实现边缘感知的平滑光照,人们提出了各种手工制作的正则项来对光照图施加约束,并必须微调平衡参数λ来调整约束的强度。然而,本方案的目标是从公式(1)中移除正则化项。为此,本方案通过在自监督Retinex模型中融入双边学习的边缘感知平滑特性来实现上述目标。
如图2和图3所示,图2为本发明非正则自监督低光图像增强方法的流程图,图3为本发明非正则自监督低光图像增强方法的整体框架图,本发明旨在解决两个问题:正则项增加Retinex分量的耦合关系,以及正则项的平衡参数调节复杂性。具体包括:
S1、双边网格表示,包括初始化光照图,以及双边网格的光照图压缩表示。
首先,本方案建立一个3D双边网格。神经网络Encoder输出为4D的Tensor,其形状为(1, c, x, y),其中 1,c,x,y分别为Tensor的一次训练的样本数、通道、高度和宽度。为了将其转换为深度为d的双边网格,使用Pytorch中split函数沿着第二个维度将其分裂,在这里本方案设置每个双边网格中系数为c,故分裂操作为:torch.split(Tensor, c//d,1),这样该Tensor由d个形状为(1,c,x, y)的tensor块组成。然后,使用stack函数将这个分裂后的Tensor在增加的第三个新维度进行堆叠:stack(Tensor,2),得到的输出形状为(1,c,d,x,y)。这个Tensor可被看作是一个c通道的,沿第c通道维度展开的双边网格:
(2)
其中,d和c是3D双边网格的深度和通道,在本方案的实验中,d=8,c=3。单通道的双边网格空间大小为[x, y, z],深度为d。其中前两个维度(x, y)表示空间位置,第三个维度z表示强度范围。在实验中,由于神经网络的输出Tensor形状为(1,24,16,16),故最终经过分裂和堆叠转换后的tensor大小为(1,3,8,16,16)。因此,B是一个16x16x8的双边网格,每个网格单元有3个数值,可以看作是一个3x1的系数向量。这相当于说每个系数向量是双边空间中的局部平滑算子。3D双边网格中系数图的可视化示例见图4。
S2、生成网络初始化,包括神经网络结构以及优化设置,噪声参数设置。
接下来,本方案建立一个以空间位置和光照强度为索引的网格。本方案希望双边网格中的仿射系数在空间和光照强度方向上都平滑。然而,双边网格本身并不受到平滑度正则项的约束,也不会通过重叠窗口进行平滑。因此,本方案采用神经网络来对双边网格进行参数化,本方案选择了只包含解码器的深度图像先验网络架构,用于对双边网格的平滑度进行建模。这使得本方案能够将光照的双边网格参数化为:B=G(θ),其中G是生成编码器,θ是其相应的网络参数。本方案的光照图神经双边网格参数化网络如图5所示。双边网格网络以随机噪声作为输入,噪声服从高斯分布:,其中δ为噪声方差。
S3、双边网格参数化,包括编码器生成网络,参数化光照图的双边网格表示。
本方案已对光照图进行了双边网格参数化。现在,本方案将从步骤S2中得到的双边网格中重建光照图。本方案利用了双边引导上采样的原理,采用基于双边切片操作的可训练层,将三维双边网格转换为二维光照图。因此,切片层将双边网格和引导图作为输入,并输出一个二维光照图。在这里,本方案使用低光照图的灰度作为引导图。考虑到本方案的目标是从目标函数中去除正则化项,本方案跳过使用另一个网络来预测引导图,因为这将需要引入额外的正则化项。注意,引导图只需要计算一次。
从数学角度看,重建过程可表示为I=F(B,g),其中F(·)代表切片操作符,g是引导图。在以前的双边学习方法中,切片操作符的结果是一个新的特征图。然而,在本方案的切片层中,切片操作的结果是与引导图g具有相同空间分辨率的光照图。切片操作符将输入图像的像素分成不同的切片,这是基于引导图的像素值进行的,这些切片代表不同的像素值范围。然后,学习到的系数分别应用于这些切片。最后,来自每个切片的结果被合并以产生最终的输出光照,其主要结构与引导图相似。切片操作F(·)通过双线性插值双边网格在由引导图g定义的位置进行数据依赖查找:
(3)
其中sx和sy分别是网格维度与低分辨率图像维度的宽度和高度比率。表示线性插值核函数:/>,d是双边网格B的深度,(x,y) 是空间坐标,(x,y,k) 表示网格中单元格的索引。请注意,双边网格B的空间分辨率远低于引导图。切片节点根据引导图在双边网格中的强度值进行数据依赖查找。最后,引导图的每个像素被分配到其在网格中的深度向量,该深度向量由强度值g(x,y)给出。这样的设计可以使生成的光照图更加平滑,同时保留了引导图中的边缘特征。这种方法可以促使光照图向边缘感知的解的方向进行优化,即使边缘保留约束并没有得到显式处理。
S4、光照图重建,包括编码器参数更新,引导图查表重建全分辨率光照图。
到目前为止,本方案已经介绍了光照的双边网格参数化网络,并使用可训练切片层将双边网格直接重建为边缘感知的平滑光照图。因此,本方案能够从目标函数(1)中去除正则化项,不再需要微调平衡参数。最后,本方案的损失函数具有非常简洁的形式:
(3)
其中是Frobenious范数,S代表输入图像,F(·)是切片节点,它将光照的双边网格B和引导图g作为输入。B是通过生成编码器G(θ)参数化的。
S5、低光增强,包括光照图上采样,光照图伽马矫正,根据Retinex模型计算增强结果。
所获得的光照图I在用于后续增强之前需要进行调整。本方案使用简单的伽马校正(Gamma Correction, GC)来调整获得的光照图:
Iadj=(I)γ
其中,γ是Gamma校正因子,Iadj表示调整后的光照图。
根据Retinex理论,调整后的反射图可以被视为通过调整后的光照去除增强方法生成的增强图像。换句话说,本方案将R视为增强图像。这种增强是在空间域中执行的。由于通过空间除法得到的增强后的反射图的强度值范围为[0,1],因此本方案需要放大强度值以进行可视化。因此,低光图像增强最终被表述如下:
其中,表示空域除法运算符,/>代表增强图像,c表示低光图像的R、G、B通道,Sc表示相应c通道的输入图像。
本发明绕过了Retinex分解,直接从低光图像预测光照图。通过预测光照图的双边网格表示,充分利用了双边网格结构固有的边缘感知特性。这种表示方法使得无需设计专门针对光照图的平滑约束项,同时简化了正则项平衡参数的调整,从而更加灵活。另外,采用编码器作为生成网络对光照图的双边网格进行参数化。为了优化双边网格中的系数,生成网络以随机噪声为输入,利用网络结构编码的图像先验生成平滑的双边网格。在双边网格生成和光照图重建过程中,无需依赖外部图像进行训练,仅通过单张图像就能够优化神经网络参数,克服了数据集收集的挑战。
第二方面,本申请提供一种电子设备,包括处理器和存储有程序指令的存储器,所述处理器被配置为在执行所述程序指令时,实现本申请实施例提供的任一可选的实现方式中的鉴权方法,以实现以下功能:直接从低光图像预测光照图,通过预测光照图的双边网格表示,充分利用了双边网格结构固有的边缘感知特性,这种表示方法无需设计专门针对光照图的平滑约束项,同时简化了正则项平衡参数的调整,从而更加灵活。
第三方面,本申请提供一种计算机存储介质,其上存储有计算机可读指令,所述计算机可读指令被处理器执行以实现本申请实施例提供的任一可选的实现方式中的鉴权方法,以实现以下功能:直接从低光图像预测光照图,通过预测光照图的双边网格表示,充分利用了双边网格结构固有的边缘感知特性,这种表示方法无需设计专门针对光照图的平滑约束项,同时简化了正则项平衡参数的调整,从而更加灵活。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质上实施的计算机程序产品的形式。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
Claims (6)
1.一种非正则自监督的低光图像增强方法,其特征在于,包括:
建立光照的3D双边网格,所述3D双边网格包括空间位置和光照强度;
采用神经网络对3D双边网格进行参数化处理,以使3D双边网格中的仿射系数在空间位置和光照强度方向上均平滑;
获取低光图像,并对低光图像进行下采样处理和灰度化处理,生成单通道的灰度引导图;
将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图;
对二维光照图进行上采样处理和调整后生成增强图像;
所述采用神经网络对3D双边网格进行参数化处理包括:采用包含解码器的深度图像先验网络架构对3D双边网格的平滑度进行建模,进行参数化处理后的3D双边网格表示为B=G(θ),其中G是生成编码器,θ是其相应的网络参数;
所述将所述灰度引导图和3D双边网格输入至可训练的切片层,并输出二维光照图的过程可表示为I=F(B,g),其中,I是二维光照图,F(·)代表切片操作符,g是灰度引导图;
所述切片操作符F(·)通过双线性插值3D双边网格在由灰度引导图g定义的位置进行数据依赖查找:
其中sx和sy分别是3D双边网格维度与低光图像维度的宽度和高度的比率,表示线性插值核函数:/>,d是3D双边网格B的深度,(x,y) 是空间坐标,i和j表示双边网格的横坐标和纵坐标,k是3D双边网格里面的高度。
2.根据权利要求1所述的一种非正则自监督的低光图像增强方法,其特征在于,所述3D双边网格以随机噪声作为输入,噪声服从高斯分布:,其中,δ为噪声方差。
3.根据权利要求2所述的一种非正则自监督的低光图像增强方法,其特征在于,损失函数表示为:
其中,是Frobenious范数,S代表输入图像。
4.根据权利要求3所述的一种非正则自监督的低光图像增强方法,其特征在于,所述对二维光照图进行上采样处理和调整后生成增强图像包括:
对二维光照图I进行上采样处理生成光照图一I’,对光照图一I’进行伽马校正生成光照图二Iadj,根据Retinex模型对光照图二Iadj进行光照强度放大生成增强图像,其中,Iadj=(I)γ,γ是Gamma校正因子,Iadj表示光照图二;
增强图像表示为:
其中,表示空域除法运算符,/>代表增强图像,c表示低光图像的R、G、B通道,Sc表示相应c通道的输入图像。
5.一种电子设备,其特征在于,包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令,所述计算机指令被处理器运行时,完成权利要求1-4任一项所述的方法。
6.一种计算机可读存储介质,其特征在于,用于存储计算机指令,所述计算机指令被处理器执行时,完成权利要求1-4任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410097957.6A CN117611486B (zh) | 2024-01-24 | 2024-01-24 | 一种非正则自监督的低光图像增强方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410097957.6A CN117611486B (zh) | 2024-01-24 | 2024-01-24 | 一种非正则自监督的低光图像增强方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117611486A CN117611486A (zh) | 2024-02-27 |
CN117611486B true CN117611486B (zh) | 2024-04-02 |
Family
ID=89953911
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410097957.6A Active CN117611486B (zh) | 2024-01-24 | 2024-01-24 | 一种非正则自监督的低光图像增强方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117611486B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115527133A (zh) * | 2022-10-19 | 2022-12-27 | 中国人民解放军国防科技大学 | 一种基于目标密度信息的高分图像背景优化方法 |
WO2023236445A1 (zh) * | 2022-06-09 | 2023-12-14 | 北京大学 | 一种使用长曝光补偿的低光照图像增强方法 |
CN117422653A (zh) * | 2023-10-23 | 2024-01-19 | 南京邮电大学 | 一种基于权重共享和迭代数据优化的低光照图像增强方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230105322A1 (en) * | 2021-10-05 | 2023-04-06 | Salesforce.Com, Inc. | Systems and methods for learning rich nearest neighbor representations from self-supervised ensembles |
-
2024
- 2024-01-24 CN CN202410097957.6A patent/CN117611486B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023236445A1 (zh) * | 2022-06-09 | 2023-12-14 | 北京大学 | 一种使用长曝光补偿的低光照图像增强方法 |
CN115527133A (zh) * | 2022-10-19 | 2022-12-27 | 中国人民解放军国防科技大学 | 一种基于目标密度信息的高分图像背景优化方法 |
CN117422653A (zh) * | 2023-10-23 | 2024-01-19 | 南京邮电大学 | 一种基于权重共享和迭代数据优化的低光照图像增强方法 |
Non-Patent Citations (1)
Title |
---|
低光照彩色图像增强算法研究;黄丽雯;王勃;宋涛;黄俊木;;重庆理工大学学报(自然科学);20200115(01);第225-231页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117611486A (zh) | 2024-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112734650B (zh) | 一种基于虚拟多曝光融合的不均匀光照图像增强方法 | |
CN107798661B (zh) | 一种自适应的图像增强方法 | |
Panetta et al. | Tmo-net: A parameter-free tone mapping operator using generative adversarial network, and performance benchmarking on large scale hdr dataset | |
CN116309232B (zh) | 一种结合物理先验与深度学习的水下图像增强方法 | |
CN113344773B (zh) | 基于多级对偶反馈的单张图片重构hdr方法 | |
CN109285133A (zh) | 一种细节增强的遥感图像数据时空谱一体化融合方法 | |
CN117197627B (zh) | 一种基于高阶退化模型的多模态图像融合方法 | |
Dai et al. | Dual-purpose method for underwater and low-light image enhancement via image layer separation | |
CN115035011B (zh) | 一种融合策略下自适应RetinexNet的低照度图像增强方法 | |
Ma et al. | Underwater image restoration through a combination of improved dark channel prior and gray world algorithms | |
Lei et al. | Low-light image enhancement using the cell vibration model | |
CN118365548B (zh) | 一种基于定制展开增强器的低光照图像增强方法及系统 | |
Wang et al. | Single Underwater Image Enhancement Based on $ L_ {P} $-Norm Decomposition | |
CN107451974B (zh) | 一种高动态范围图像的自适应再现显示方法 | |
Sekeroglu | Time-shift image enhancement method | |
CN117611486B (zh) | 一种非正则自监督的低光图像增强方法 | |
CN117391987A (zh) | 基于多阶段联合增强机制的暗光图像处理方法 | |
CN116912419A (zh) | 基于扩散模型的三维人体重建方法、系统、设备及介质 | |
CN111861940A (zh) | 一种基于条件连续调节的图像调色增强方法 | |
CN103618904B (zh) | 基于像素的运动估计方法及装置 | |
CN115082296A (zh) | 一种基于小波域图像生成框架的图像生成方法 | |
CN110796609B (zh) | 基于尺度感知和细节增强模型的低光图像增强方法 | |
CN110738612B (zh) | X光透视图像的降噪方法及计算机可读存储介质 | |
Liu et al. | An adaptive tone mapping algorithm based on gaussian filter | |
Subramani et al. | Pixel intensity optimization and detail-preserving contextual contrast enhancement for underwater images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |