CN109978802A - 基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 - Google Patents
基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 Download PDFInfo
- Publication number
- CN109978802A CN109978802A CN201910116436.XA CN201910116436A CN109978802A CN 109978802 A CN109978802 A CN 109978802A CN 201910116436 A CN201910116436 A CN 201910116436A CN 109978802 A CN109978802 A CN 109978802A
- Authority
- CN
- China
- Prior art keywords
- image
- nsct
- follows
- pcnn
- dynamic range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007500 overflow downdraw method Methods 0.000 title claims abstract description 8
- 238000000034 method Methods 0.000 claims abstract description 42
- 238000005070 sampling Methods 0.000 claims abstract description 26
- 230000009466 transformation Effects 0.000 claims abstract description 20
- 238000005316 response function Methods 0.000 claims abstract description 13
- 230000006835 compression Effects 0.000 claims abstract description 11
- 238000007906 compression Methods 0.000 claims abstract description 11
- 238000005086 pumping Methods 0.000 claims abstract description 4
- 239000011159 matrix material Substances 0.000 claims description 43
- 238000000354 decomposition reaction Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 22
- 210000002569 neuron Anatomy 0.000 claims description 13
- 230000004927 fusion Effects 0.000 claims description 12
- 238000013507 mapping Methods 0.000 claims description 12
- 238000002156 mixing Methods 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 5
- 230000007423 decrease Effects 0.000 claims description 4
- 101100379079 Emericella variicolor andA gene Proteins 0.000 claims description 3
- 230000015572 biosynthetic process Effects 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000010304 firing Methods 0.000 claims description 3
- 238000005286 illumination Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 3
- 238000003786 synthesis reaction Methods 0.000 claims description 3
- 230000015556 catabolic process Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 description 5
- 238000007499 fusion processing Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004925 denaturation Methods 0.000 description 2
- 230000036425 denaturation Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000155 melt Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20052—Discrete cosine transform [DCT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,包括如下步骤:1)对输入多曝光图像序列进行归一化处理;2)对归一化处理后的多曝光图像序列使用相机响应函数进行辐射校准;3)对辐射校准后的多曝光图像序列进行NSCT变换得到各图像的低、高频系数;4)对各图像的高频系数进行压缩采样;5)计算各图像低、高频系数的空间频率作为PCNN网络的激励信号,通过最大值决策进行融合;6)对融合后的高频系数进行压缩感知重构;7)对融合后的低、高频系数进行NSCT逆变换,得到目标高动态范围图像。利用NSCT、PCNN和压缩感知方法完成对多曝光的低动态范围图像序列在压缩感知重构的同时融合,最后生成一幅包含丰富细节的高动态范围图像。
Description
技术领域
本发明涉及图像处理技术领域,更具体地,涉及一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法。
背景技术
数字图像广泛应用于各个领域,一般要求获取到的图像尽可能还原丰富的场景细节。然而场景宽广动态范围所呈现的成千上万的色彩变化对数字图像提出了巨大的挑战。受限于成像传感器的有限动态范围,往往无法捕捉到真实场景的完整动态范围的亮度,因此高动态范围图像成像与显示技术应运而生。当前多采用多曝光图像融合的方法来获取高动态范围图像,即融合一系列在同一场景不同曝光时间拍摄下的图像,由此可有效的扩展图像动态范围。但传统的图像获取方法需先采集含冗余的大量数据,压缩处理后再提取有用信息,且融合过程中要求每幅图像的所有像素点都参与,效率低并且存储空间消耗大。
发明内容
本发明现有技术存在融合过程中的冗余采样和计算复杂度高的问题,提供了一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法。
为实现以上发明目的,而采用的技术手段是:
一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,包括有如下步骤:
1)对输入多曝光图像序列进行归一化处理;
2)对归一化处理后的多曝光图像序列使用相机响应函数进行辐射校准;
3)对辐射校准后的多曝光图像序列进行NSCT变换得到各图像的低、高频系数;
4)对各图像的高频系数进行压缩采样;
5)计算各图像低、高频系数的空间频率作为PCNN网络的激励信号,通过最大值决策进行融合;
6)对融合后的高频系数进行压缩感知重构;
7)对融合后的低、高频系数进行NSCT逆变换,得到目标高动态范围图像。
上述方案中,通过对高频系数压缩感知,避免对冗余数据的采样,在远低于奈奎斯特采样率的条件下,随机采样获取离散信号。并对压缩测量的数据进行融合,进一步降低融合过程中的计算复杂度和数据融合。最后将融合后的数据通过重构方法高概率的重建,得到一幅包含丰富细节的高动态范围图像。
优选的,所述步骤1)与步骤2)之间还包括:
12)对数字图像采集设备的相机响应函数进行标定,相机响应函数定义为场景亮度通过透镜系统入射到传感器表面的辐射照度映射到最终采集设备获取的数字图像像素值的关系。该函数属于采集设备的特征曲线且为递增函数,必定存在逆映射。也可以拍摄多幅线性映射的多曝光图像。辐射校正使得图像的亮度都为线性映射关系,增加融合图像的准确性。
优选的,所述步骤1)的具体实现过程为:
11)定义输入图像序列M,对图像M进行归一化处理得到图像I,则图像I与图像M对应像素的灰度值的关系为:
I=M/255 (18)。
优选的,所述步骤2)的具体实现过程为:
21)定义标定的相机响应函数的逆映射为f-1,定义图像I对应的曝光时间参数为Δt,I-1表示辐射校正的图像:
其中,使用图像采集设备的曝光环绕方法拍摄多幅不同曝光的图像,以中间曝光时间参数的图像作为参考图像,其曝光时间参数为Δtref。
优选的,所述步骤3)的具体实现过程为:
31)判断当前图像是否为灰度图像,若不是,则转换为灰度图像;
32)初始化NSCT变换的参数,包括:
待输入图像的灰度图;
levels:一维向量,定义了每一层图像金字塔中方向滤波器组的分解层数,如果层数为0,则对图像进行临界采样的二维小波分解;
dfilt:为字符串形式,定义方向分解步骤中使用的滤波器形式;
pfilt:为字符串形式,定义金字塔分解步骤中使用的滤波器形式;
此外NSCT中约定如下:
分解层数向量nlevs定义为[lj,...,l2,l1],其中lj≥2,表示尺度j下的方向分解级数,则对j=1,...,J和尺度2j,方向k处的轮廓波系数为Imgnsct{J+2-j}{k}(n1,n2);其中Imgnsct为NSCT变换的结果,位置(n1,n2)的具体取值如下:
当时,为
当时,为
当k从1变化到时,方向k的变化如下:
当时,方向k从135°按照cotan从-1到1的均匀增量顺时针旋转;
当时,方向k从135°按照tan从1到-1均匀递减;
33)NSCT变换包含以下步骤:
首先由非下采样金字塔(NSP)对于输入图像进行塔形分解,分解为低通子带图像和带通子带图像以实现图像的多尺度分解;然后由非下采样方向滤波器组(NSDFB)将带通子带图像分解为多个方向子带,以实现图像的多方向分解;对每一层的低通子带图像重复上述步骤;
其中NSP除去上、下采样,降低了在滤波器中采样造成的失真,以此得到了平移不变性;NSDFB是一个双通道滤波器,通过一个l层的方向分解,可得到2l个与原始输入图像大小相同的子带图像,频带分割为锲形,NSDFB将分布在同方向的奇异点合成NSCT的系数;
经过J级NSCT分解后最终得到1个低频子带图像和个高频方向子带图像。
优选的,所述步骤4)的具体实现过程为:
41)对经过NSCT变换的各图像的高频系数矩阵,记为Coef_H,进行稀疏表示,得到Coef_H=ψθ,其中ψ为稀疏表示基,设计观测矩阵Φ,则压缩采样的过程重写为:
y=ΦCoef_H=Φψθ=Θθ (20)。
优选的,所述步骤41)还包括如下内容:
411)设计稀疏表示基,采用DCT基,定义图像的长度和宽度分别为row、col,则DCT的大小为row*row,通过如下方式生成:
设有数据序列Data(n),n=0,1,...,(N-1),则DCT基生成方式为:
得到变换矩阵ψ:
412)观测矩阵Φ的行数为row乘上采样率,列数大小为row;传感矩阵Θ=Φψ应满足RIP性质:保证观测矩阵不会把两个不同的稀疏信号映射到同一个集合中,保证原空间到稀疏空间的一一映射关系,定义观测矩阵Φ的RIP常数δh为满足下式的最小值:
其中高频系数矩阵Coef_H为h稀疏的,即含有h个非零元素,若δh≤1,测成矩阵满则h阶RIP条件。
优选的,所述步骤5)的具体实现过程为:
51)定义第l层中第k个方向子带(i,j)的系数为则NSCT域内的空间频率定义为:
52)初始化PCNN参数如下:
迭代次数n:200;链接范围:3;衰变常数:αl=1、αθ=0.2;链接强度:β=3;振幅增益:VL=1.0、Vθ=20;链接权矩阵为
53)将计算出的空间频率作为PCNN的输入以刺激神经元产生脉冲响应,计算公式如下所示:
其中等于空间频率的大小,为链接范围内神经元点火次数总和,Wij,pq为链接权重,p,q为PCNN中链接范围大小,分别为神经元的内部状态信号的外部输出,为阈值;如果则神经元将产生一个脉冲称为一次点火;
54)计算点火次数,得到点火图,点火次数的计算如下:
设定为两幅图像,定义点火图如下:
55)设定为两幅图像,选取具有最大点火次数的系数作为最终融合图像的系数:
其中和分别表示融合图像及两幅图像的系数。
优选的,所述步骤6)的具体实现过程为:
61)初始化:令标签索引集残差向量r0=y,y即为步骤41)中所获得的观测向量,迭代次数t=1;
62)辨识:在传感矩阵Θ中求出与残差向量rt-1最相关的所对应的列向量λt,即内积值最大时所对应的索引:
其中row为传感矩阵的列数,Θc表示传感矩阵的第c列;
63)更新:更新标签索引集Λt=Λt-1∪{λt},将找到的原子所对应的列向量添加到集合其中,t>0,Λt表示t次迭代的索引,Θt表示按索引Λt选出的矩阵Θ的列集合;
64)估计:求y=Θθ的最小二乘解:
65)更新残差向量
66)令t=t+1;并不断重复步骤62)至步骤66),若满足某个迭代停止条件,则停止迭代并进入第67)步;
67)求得输出系数向量
优选的,步骤66)中所述迭代停止条件包括3种情况:
661)当运行到t>s时,迭代停止,其中,s表示固定的迭代步数;
662)残差向量的能量值小于某个预先给定的常数;
||rt||2≤ε (33)
663)当传感矩阵Θ的任何一列都没有残差向量rt的明显能量时:
||ΘTrt||∞≤ε (34)。
与现有技术相比,本发明技术方案的有益效果是:
本发明通过标定相机响应函数先对输入图像序列进行辐射校准,得到在相同亮度域的图像序列;通过NSCT变换将图像分解为低通和高通部分,分解的最终结果为一幅低频子带图像和一系列不同方向的带通子带图像,对高频部分进行压缩感知,压缩感知突破了奈奎斯特采样率的限制,边采样变压缩,实现的不再是模拟数字转换,而是模拟信息转换,极大的减少了采样率,降低了数据存储和传输的代价。接着计算低、高频系数的空间频率作为PCNN网络的激励,得到点火图,通过最大值决策决定融合图像中的系数。NSCT变换提供了灵活的多分辨率、各向异性和方向扩展能力。相比于轮廓波变换,NSCT的平移不变性可克服伪吉布斯现象。PCNN广泛应用于数字图像处理领域中,是由神经相互连接形成一个二维矩阵的网格结构,特点为该网络的神经元数目与图像中的像素数目相同并且一一对应。
本发明能在极大降低采样率的同时,丰富融合图像的细节,有效降低融合过程中的冗余采样和计算复杂度,节约存储空间。
附图说明
图1为本发明的方法框图;
图2为本发明的方法流程图;
图3为实施例中memorial多曝光图像序列;
图4为融合后的高动态范围图像。
具体实施方式
附图仅用于示例性说明,不能理解为对本专利的限制;
为了更好说明本实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;
对于本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
下面结合附图和实施例对本发明的技术方案做进一步的说明。
如图1所示,一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,包括有如下步骤:
1)如图3所示为待输入的多曝光图像序列,对输入多曝光图像序列进行归一化处理;
2)对归一化处理后的多曝光图像序列使用相机响应函数进行辐射校准;
3)对辐射校准后的多曝光图像序列进行NSCT变换得到各图像的低、高频系数;
4)对各图像的高频系数进行压缩采样;
5)计算各图像低、高频系数的空间频率作为PCNN网络的激励信号,通过最大值决策进行融合;
6)对融合后的高频系数进行压缩感知重构;
7)对融合后的低、高频系数进行NSCT逆变换,得到目标高动态范围图像,如图4所示。
如图2所示为本发明方法的具体实施流程。
其中,所述步骤1)与步骤2)之间还包括:
12)对数字图像采集设备的相机响应函数进行标定,相机响应函数定义为场景亮度通过透镜系统入射到传感器表面的辐射照度映射到最终采集设备获取的数字图像像素值的关系。该函数属于采集设备的特征曲线且为递增函数,必定存在逆映射。也可以拍摄多幅线性映射的多曝光图像。辐射校正使得图像的亮度都为线性映射关系,增加融合图像的准确性。
其中,所述步骤1)的具体实现过程为:
11)定义输入图像序列M,对图像M进行归一化处理得到图像I,则图像I与图像M对应像素的灰度值的关系为:
I=M/255 (35)。
其中,所述步骤2)的具体实现过程为:
21)定义标定的相机响应函数的逆映射为f-1,定义图像I对应的曝光时间参数为Δt,I-1表示辐射校正的图像:
其中,使用图像采集设备的曝光环绕方法拍摄多幅不同曝光的图像,以中间曝光时间参数的图像作为参考图像,其曝光时间参数为Δtref。
其中,所述步骤3)的具体实现过程为:
31)判断当前图像是否为灰度图像,若不是,则转换为灰度图像;
32)初始化NSCT变换的参数,包括:
待输入图像的灰度图;
levels:一维向量,定义了每一层图像金字塔中方向滤波器组的分解层数,如果层数为0,则对图像进行临界采样的二维小波分解;本实施例中的取值为[0,1,3,4,4];
dfilt:为字符串形式,定义方向分解步骤中使用的滤波器形式;本实施例中采用的为pkva方向滤波器;
pfilt:为字符串形式,定义金字塔分解步骤中使用的滤波器形式;本实施例中采用的CDF9/7塔状小波滤波器。
此外NSCT中约定如下:
分解层数向量nlevs定义为[lj,...,l2,l1],其中lj≥2,表示尺度j下的方向分解级数,则对j=1,...,J和尺度2j,方向k处的轮廓波系数为Imgnsct{J+2-j}{k}(n1,n2);其中Imgnsct为NSCT变换的结果,位置(n1,n2)的具体取值如下:
当时,为
当时,为
当k从1变化到时,方向k的变化如下:
当时,方向k从135°按照cotan从-1到1的均匀增量顺时针旋转;
当时,方向k从135°按照tan从1到-1均匀递减;
33)NSCT变换包含以下步骤:
首先由非下采样金字塔(NSP)对于输入图像进行塔形分解,分解为低通子带图像和带通子带图像以实现图像的多尺度分解;然后由非下采样方向滤波器组(NSDFB)将带通子带图像分解为多个方向子带,以实现图像的多方向分解;对每一层的低通子带图像重复上述步骤;
其中NSP除去上、下采样,降低了在滤波器中采样造成的失真,以此得到了平移不变性。NSDFB是一个双通道滤波器,通过一个l层的方向分解,可得到2l个与原始输入图像大小相同的子带图像,频带分割为锲形,NSDFB将分布在同方向的奇异点合成NSCT的系数;
经过J级NSCT分解后最终得到1个低频子带图像和个高频方向子带图像。
其中,所述步骤4)的具体实现过程为:
41)对经过NSCT变换的各图像的高频系数矩阵,记为Coef_H,进行稀疏表示,得到Coef_H=ψθ,其中ψ为稀疏表示基,设计观测矩阵Φ,则压缩采样的过程重写为:
y=ΦCoef_H=Φψθ=Θθ (37)。
其中,所述步骤41)还包括如下内容:
411)设计稀疏表示基,采用DCT基,定义图像的长度和宽度分别为row、col,则DCT的大小为row*row,通过如下方式生成:
设有数据序列Data(n),n=0,1,...,(N-1),则DCT基生成方式为:
得到变换矩阵ψ:
412)观测矩阵Φ的行数为row乘上采样率,列数大小为row;传感矩阵Θ=Φψ应满足RIP性质:保证观测矩阵不会把两个不同的稀疏信号映射到同一个集合中,保证原空间到稀疏空间的一一映射关系,定义观测矩阵Φ的RIP常数δh为满足下式的最小值:
其中高频系数矩阵Coef_H为h稀疏的,即含有h个非零元素,若δh≤1,测成矩阵满则h阶RIP条件。
其中,所述步骤5)的具体实现过程为:
51)定义第l层中第k个方向子带(i,j)的系数为则NSCT域内的空间频率定义为:
52)初始化PCNN参数如下:
迭代次数n:200;链接范围:3;衰变常数:αl=1、αθ=0.2;链接强度:β=3;振幅增益:VL=1.0、Vθ=20;链接权矩阵为
53)将计算出的空间频率作为PCNN的输入以刺激神经元产生脉冲响应,计算公式如下所示:
其中等于空间频率的大小,为链接范围内神经元点火次数总和,Wij,pq为链接权重,p,q为PCNN中链接范围大小,分别为神经元的内部状态信号的外部输出,为阈值;如果则神经元将产生一个脉冲称为一次点火;
54)计算点火次数,得到点火图,点火次数的计算如下:
设定为两幅图像,定义点火图如下:
55)设定为两幅图像,选取具有最大点火次数的系数作为最终融合图像的系数:
其中和分别表示融合图像及两幅图像的系数。
其中,所述步骤6)的具体实现过程为:
61)初始化:令标签索引集残差向量r0=y,y即为步骤41)中所获得的观测向量,迭代次数t=1;
62)辨识:在传感矩阵Θ中求出与残差向量rt-1最相关的所对应的列向量λt,即内积值最大时所对应的索引:
其中row为传感矩阵的列数,Θc表示传感矩阵的第c列;
63)更新:更新标签索引集Λt=Λt-1∪{λt},将找到的原子所对应的列向量添加到集合其中,t>0,Λt表示t次迭代的索引,Θt表示按索引Λt选出的矩阵Θ的列集合;
64)估计:求y=Θθ的最小二乘解:
65)更新残差向量
66)令t=t+1;并不断重复步骤62)至步骤66),若满足某个迭代停止条件,则停止迭代并进入第67)步;
67)求得输出系数向量
其中,步骤66)中所述迭代停止条件包括3种情况:
661)当运行到t>s时,迭代停止,其中,s表示固定的迭代步数;
662)残差向量的能量值小于某个预先给定的常数ε,本实施例取1e-6;
||rt||2≤ε (50)
663)当传感矩阵Θ的任何一列都没有残差向量rt的明显能量时:
||ΘTrt||∞≤ε (51)。
附图中描述位置关系的用语仅用于示例性说明,不能理解为对本专利的限制;
显然,本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。
Claims (10)
1.一种基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,包括有如下步骤:
1)对输入多曝光图像序列进行归一化处理;
2)对归一化处理后的多曝光图像序列使用相机响应函数进行辐射校准;
3)对辐射校准后的多曝光图像序列进行NSCT变换得到各图像的低、高频系数;
4)对各图像的高频系数进行压缩采样;
5)计算各图像低、高频系数的空间频率作为PCNN网络的激励信号,通过最大值决策进行融合;
6)对融合后的高频系数进行压缩感知重构;
7)对融合后的低、高频系数进行NSCT逆变换,得到目标高动态范围图像。
2.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤1)与步骤2)之间还包括:
12)对数字图像采集设备的相机响应函数进行标定,相机响应函数定义为场景亮度通过透镜系统入射到传感器表面的辐射照度映射到最终采集设备获取的数字图像像素值的关系。
3.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤1)的具体实现过程为:
11)定义输入图像序列M,对图像M进行归一化处理得到图像I,则图像I与图像M对应像素的灰度值的关系为:
I=M/255 (1)。
4.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤2)的具体实现过程为:
21)定义标定的相机响应函数的逆映射为f-1,定义图像I对应的曝光时间参数为Δt,I-1表示辐射校正的图像:
其中,使用图像采集设备的曝光环绕方法拍摄多幅不同曝光的图像,以中间曝光时间参数的图像作为参考图像,其曝光时间参数为Δtref。
5.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤3)的具体实现过程为:
31)判断当前图像是否为灰度图像,若不是,则转换为灰度图像;
32)初始化NSCT变换的参数,包括:
待输入图像的灰度图;
levels:一维向量,定义了每一层图像金字塔中方向滤波器组的分解层数,如果层数为0,则对图像进行临界采样的二维小波分解;
dfilt:为字符串形式,定义方向分解步骤中使用的滤波器形式;
pfilt:为字符串形式,定义金字塔分解步骤中使用的滤波器形式;
此外NSCT中约定如下:
分解层数向量nlevs定义为[lj,...,l2,l1],其中lj≥2,表示尺度j下的方向分解级数,则对j=1,...,J和尺度2j,方向k处的轮廓波系数为Imgnsct{J+2-j}{k}(n1,n2);其中Imgnsct为NSCT变换的结果,位置(n1,n2)的具体取值如下:
当时,为
当时,为
当k从1变化到时,方向k的变化如下:
当时,方向k从135°按照cotan从-1到1的均匀增量顺时针旋转;
当时,方向k从135°按照tan从1到-1均匀递减;
33)NSCT变换包含以下步骤:
首先由非下采样金字塔(NSP)对于输入图像进行塔形分解,分解为低通子带图像和带通子带图像以实现图像的多尺度分解;然后由非下采样方向滤波器组(NSDFB)将带通子带图像分解为多个方向子带,以实现图像的多方向分解;对每一层的低通子带图像重复上述步骤;
其中NSP除去上、下采样;NSDFB通过一个l层的方向分解,得到2l个与原始输入图像大小相同的子带图像,频带分割为锲形,NSDFB将分布在同方向的奇异点合成NSCT的系数;
经过J级NSCT分解后最终得到1个低频子带图像和个高频方向子带图像。
6.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤4)的具体实现过程为:
41)对经过NSCT变换的各图像的高频系数矩阵,记为Coef_H,进行稀疏表示,得到Coef_H=ψθ,其中ψ为稀疏表示基,设计观测矩阵Φ,则压缩采样的过程重写为:
y=ΦCoef_H=Φψθ=Θθ (3)。
7.根据权利要求6所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤41)还包括如下内容:
411)设计稀疏表示基,采用DCT基,定义图像的长度和宽度分别为row、col,则DCT的大小为row*row,通过如下方式生成:
设有数据序列Data(n),n=0,1,...,(N-1),则DCT基生成方式为:
得到变换矩阵ψ:
412)观测矩阵Φ的行数为row乘上采样率,列数大小为row;传感矩阵Θ=Φψ应满足RIP性质:保证观测矩阵不会把两个不同的稀疏信号映射到同一个集合中,保证原空间到稀疏空间的一一映射关系,定义观测矩阵Φ的RIP常数δh为满足下式的最小值:
其中高频系数矩阵Coef_H为h稀疏的,即含有h个非零元素,若δh≤1,测成矩阵满则h阶RIP条件。
8.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤5)的具体实现过程为:
51)定义第l层中第k个方向子带(i,j)的系数为则NSCT域内的空间频率定义为:
52)初始化PCNN参数如下:
迭代次数n:200;链接范围:3;衰变常数:αl=1、αθ=0.2;链接强度:β=3;振幅增益:VL=1.0、Vθ=20;链接权矩阵为
53)将计算出的空间频率作为PCNN的输入以刺激神经元产生脉冲响应,计算公式如下所示:
其中等于空间频率的大小,为链接范围内神经元点火次数总和,Wij,pq为链接权重,p,q为PCNN中链接范围大小,分别为神经元的内部状态信号的外部输出,为阈值;如果则神经元将产生一个脉冲称为一次点火;
54)计算点火次数,得到点火图,点火次数的计算如下:
设定为两幅图像,定义点火图如下:
55)设定为两幅图像,选取具有最大点火次数的系数作为最终融合图像的系数:
其中 和分别表示融合图像及两幅图像的系数。
9.根据权利要求1所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,所述步骤6)的具体实现过程为:
61)初始化:令标签索引集残差向量r0=y,y即为步骤41)中所获得的观测向量,迭代次数t=1;
62)辨识:在传感矩阵Θ中求出与残差向量rt-1最相关的所对应的列向量λt,即内积值最大时所对应的索引:
其中row为传感矩阵的列数,Θc表示传感矩阵的第c列;
63)更新:更新标签索引集Λt=Λt-1∪{λt},将找到的原子所对应的列向量添加到集合其中,t>0,Λt表示t次迭代的索引,Θt表示按索引Λt选出的矩阵Θ的列集合;
64)估计:求y=Θθ的最小二乘解:
65)更新残差向量
66)令t=t+1;并不断重复步骤62)至步骤66),若满足某个迭代停止条件,则停止迭代并进入第67)步;
67)求得输出系数向量
10.根据权利要求9所述的基于NSCT和PCNN的压缩感知域内的高动态范围图像融合方法,其特征在于,步骤66)中所述迭代停止条件包括3种情况:
661)当运行到t>s时,迭代停止,其中,s表示固定的迭代步数;
662)残差向量的能量值小于某个预先给定的常数ε,例如取1e-6;
||rt||2≤ε (16)
663)当传感矩阵Θ的任何一列都没有残差向量rt的明显能量时:
||ΘTrt||∞≤ε (17)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910116436.XA CN109978802B (zh) | 2019-02-13 | 2019-02-13 | 基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910116436.XA CN109978802B (zh) | 2019-02-13 | 2019-02-13 | 基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109978802A true CN109978802A (zh) | 2019-07-05 |
CN109978802B CN109978802B (zh) | 2023-01-17 |
Family
ID=67076942
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910116436.XA Active CN109978802B (zh) | 2019-02-13 | 2019-02-13 | 基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109978802B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111667430A (zh) * | 2020-06-09 | 2020-09-15 | 展讯通信(上海)有限公司 | 图像的处理方法、装置、设备以及存储介质 |
CN116528058A (zh) * | 2023-05-26 | 2023-08-01 | 中国人民解放军战略支援部队航天工程大学 | 一种基于压缩重构的高动态成像方法和系统 |
CN116665101A (zh) * | 2023-05-30 | 2023-08-29 | 石家庄铁道大学 | 基于轮廓波变换的监控视频关键帧提取方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103700075A (zh) * | 2013-12-25 | 2014-04-02 | 浙江师范大学 | 基于Tetrolet变换的多通道卫星云图融合方法 |
CN105551010A (zh) * | 2016-01-20 | 2016-05-04 | 中国矿业大学 | 基于nsct及深度信息激励pcnn的多聚焦图像融合方法 |
CN105894483A (zh) * | 2016-03-30 | 2016-08-24 | 昆明理工大学 | 一种基于多尺度图像分析和块一致性验证的多聚焦图像融合方法 |
CN106981059A (zh) * | 2017-03-30 | 2017-07-25 | 中国矿业大学 | 结合pcnn和压缩感知的二维经验模态分解图像融合方法 |
CN107194904A (zh) * | 2017-05-09 | 2017-09-22 | 西北工业大学 | 基于增补机制和pcnn的nsct域图像融合方法 |
CN107451984A (zh) * | 2017-07-27 | 2017-12-08 | 桂林电子科技大学 | 一种基于混合多尺度分析的红外与可见光图像融合算法 |
CN109308691A (zh) * | 2017-07-28 | 2019-02-05 | 南京理工大学 | 基于图像增强与nsct的红外和可见光图像融合方法 |
-
2019
- 2019-02-13 CN CN201910116436.XA patent/CN109978802B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103700075A (zh) * | 2013-12-25 | 2014-04-02 | 浙江师范大学 | 基于Tetrolet变换的多通道卫星云图融合方法 |
CN105551010A (zh) * | 2016-01-20 | 2016-05-04 | 中国矿业大学 | 基于nsct及深度信息激励pcnn的多聚焦图像融合方法 |
CN105894483A (zh) * | 2016-03-30 | 2016-08-24 | 昆明理工大学 | 一种基于多尺度图像分析和块一致性验证的多聚焦图像融合方法 |
CN106981059A (zh) * | 2017-03-30 | 2017-07-25 | 中国矿业大学 | 结合pcnn和压缩感知的二维经验模态分解图像融合方法 |
CN107194904A (zh) * | 2017-05-09 | 2017-09-22 | 西北工业大学 | 基于增补机制和pcnn的nsct域图像融合方法 |
CN107451984A (zh) * | 2017-07-27 | 2017-12-08 | 桂林电子科技大学 | 一种基于混合多尺度分析的红外与可见光图像融合算法 |
CN109308691A (zh) * | 2017-07-28 | 2019-02-05 | 南京理工大学 | 基于图像增强与nsct的红外和可见光图像融合方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111667430A (zh) * | 2020-06-09 | 2020-09-15 | 展讯通信(上海)有限公司 | 图像的处理方法、装置、设备以及存储介质 |
CN111667430B (zh) * | 2020-06-09 | 2022-11-22 | 展讯通信(上海)有限公司 | 图像的处理方法、装置、设备以及存储介质 |
CN116528058A (zh) * | 2023-05-26 | 2023-08-01 | 中国人民解放军战略支援部队航天工程大学 | 一种基于压缩重构的高动态成像方法和系统 |
CN116528058B (zh) * | 2023-05-26 | 2023-10-31 | 中国人民解放军战略支援部队航天工程大学 | 一种基于压缩重构的高动态成像方法和系统 |
CN116665101A (zh) * | 2023-05-30 | 2023-08-29 | 石家庄铁道大学 | 基于轮廓波变换的监控视频关键帧提取方法 |
CN116665101B (zh) * | 2023-05-30 | 2024-01-26 | 石家庄铁道大学 | 基于轮廓波变换的监控视频关键帧提取方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109978802B (zh) | 2023-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109741256B (zh) | 基于稀疏表示和深度学习的图像超分辨率重建方法 | |
CN110501072B (zh) | 一种基于张量低秩约束的快照式光谱成像系统的重构方法 | |
Xiao et al. | Removing stripe noise from infrared cloud images via deep convolutional networks | |
CN111080567A (zh) | 基于多尺度动态卷积神经网络的遥感图像融合方法及系统 | |
CN109978802A (zh) | 基于nsct和pcnn的压缩感知域内的高动态范围图像融合方法 | |
CN107730479A (zh) | 基于压缩感知的高动态范围图像去伪影融合方法 | |
US20220301114A1 (en) | Noise Reconstruction For Image Denoising | |
CN110211044B (zh) | 基于去马赛克算法和主成分分析的多光谱成像方法及装置 | |
CN108765280A (zh) | 一种高光谱图像空间分辨率增强方法 | |
Fischer et al. | Sparse overcomplete Gabor wavelet representation based on local competitions | |
CN109741407A (zh) | 一种基于卷积神经网络的光谱成像系统的高质量重构方法 | |
CN109447891A (zh) | 一种基于卷积神经网络的光谱成像系统的高质量成像方法 | |
CN110443865B (zh) | 基于rgb相机和深度神经网络的多光谱成像方法和装置 | |
CN109886898B (zh) | 基于优化启发的神经网络的光谱成像系统的成像方法 | |
CN111598962B (zh) | 基于矩阵草图分析的单像素成像方法和装置 | |
CN111652815B (zh) | 一种基于深度学习的掩膜板相机图像复原方法 | |
CN111932452B (zh) | 基于可见光图像增强的红外图像卷积神经网络超分辨方法 | |
CN116245726A (zh) | 基于深度学习框架的压缩感知偏振超分辨成像方法 | |
CN116029930A (zh) | 一种基于卷积神经网络的多光谱图像去马赛克方法 | |
CN109087262B (zh) | 一种多视图光谱图像的重建方法、存储介质 | |
Zhao et al. | FOV expansion of bioinspired multiband polarimetric imagers with convolutional neural networks | |
WO2023241188A1 (zh) | 一种无人机定量遥感应用的数据压缩方法 | |
Shin et al. | LoGSRN: Deep super resolution network for digital elevation model | |
CN112989593B (zh) | 基于双相机的高光谱低秩张量融合计算成像方法 | |
CN108765350A (zh) | 一种面向航天光学遥感图像量子化滤波方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |