CN113487487B - 一种异构立体图像的超分辨率重建方法及系统 - Google Patents
一种异构立体图像的超分辨率重建方法及系统 Download PDFInfo
- Publication number
- CN113487487B CN113487487B CN202110855912.7A CN202110855912A CN113487487B CN 113487487 B CN113487487 B CN 113487487B CN 202110855912 A CN202110855912 A CN 202110855912A CN 113487487 B CN113487487 B CN 113487487B
- Authority
- CN
- China
- Prior art keywords
- resolution image
- low
- image
- frequency information
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 230000009466 transformation Effects 0.000 claims abstract description 12
- 230000006835 compression Effects 0.000 claims abstract description 9
- 238000007906 compression Methods 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 claims description 28
- 238000006243 chemical reaction Methods 0.000 claims description 19
- 238000003708 edge detection Methods 0.000 claims description 18
- 238000004364 calculation method Methods 0.000 claims description 17
- 238000010586 diagram Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 11
- 230000001629 suppression Effects 0.000 claims description 10
- 238000003672 processing method Methods 0.000 claims description 8
- 238000012937 correction Methods 0.000 claims description 6
- 238000006073 displacement reaction Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 5
- 230000009467 reduction Effects 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 17
- 238000004422 calculation algorithm Methods 0.000 description 12
- 238000004590 computer program Methods 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 241000282414 Homo sapiens Species 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000845077 Iare Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
- G06T3/4061—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution by injecting details from different spectral ranges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种异构立体图像的超分辨率重建方法及系统,获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;缩小高分辨率图像和低分辨图像的搜索区域;分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息。优点:能够直接利用异构立体图像中高分辨率图像的先验知识来对低分辨率图像的高频信息进行恢复。能够利用立体图像的空间相关性和视点相关性,从高分辨率图像中为低分辨率图像寻找对应子块,高效率地对立体图像之间的异质性进行补偿。
Description
技术领域
本发明涉及一种异构立体图像的超分辨率重建方法及系统,属于计算机视觉技术领域。
背景技术
计算机视觉的任务是要为计算机和机器人开发与人类具有同等的视觉能力,立体视觉是计算机领域的一个重要研究方向。双目立体视觉相比声呐和激光能够提供丰富的场景颜色信息和三维坐标信息,使得基于几何信息的研究方法和基于视觉特征点的研究方法能够结合,采用这些信息能够在计算机中重建出三维的场景或模型。双目视觉借鉴了人类双眼的“视差”原理,即左、右眼对于真实世界中某一物体的观测是存在差异的,人类的大脑正是利用了左、右眼的差异,才能够辨识物体的远近。左、右眼的差异在立体视觉技术中被称作视差。从两个或者多个点观察一个物体,获取在不同视角下的图像,根据图像之间像素的匹配关系,通过三角测量原理计算出像素之间的偏移来获取物体的三维信息。得到了物体的景深信息,就可以计算出物体与相机之间的实际距离及物体实际大小。
由于双目视觉系统成本低,精度高,并且能够呈现使人身临其境的环境信息等优点,在公共交通场景的安防监控领域的应用最为广泛,如机场、公交站、地铁站等。在安防监控领域,摄像机通常24小时持续工作,且双目图像所需的存储空间和传输带宽是普通单路图像的两倍。因此对图像的存储方式有较高的要求。为了减少立体图像的传输和存储成本,常采用非对称压缩方法对立体图像进行压缩,也就是两个图像用不同的分辨率或不同的质量进行编码。然而,这会导致两张图像之间存在异质性,这为后续利用立体图像进行三维重构及其他信息融合工作带来了极大困难。
为了使两个图像质量一致,可以采用图像超分辨率重建算法来恢复低分辨率图像的细节。超分辨率重建是计算机视觉领域另一研究热点,常被应用于行人检测、视频监控、遥感图像处理等。但是,直接采用单图像超分辨率重建算法处理立体图像,会破坏左右视图之间的联系,因此探索立体图像的超分辨率重建算法具有重大的理论意义和实际意义。
发明内容
本发明所要解决的技术问题是克服现有技术的缺陷,提供一种异构立体图像的超分辨率重建方法及系统,能够利用立体图像的空间相关性和视点相关性,从高分辨率图像中为低分辨率图像寻找对应子块,高效率地对立体图像之间的异质性进行补偿。不受限于特定的图像压缩方法,具有良好的鲁棒性和普适性,同时无需耗费大量时间训练卷积神经网络的权重和偏移量。
为解决上述技术问题,本发明提供一种异构立体图像的超分辨率重建方法,包括:
获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;
缩小高分辨率图像和低分辨图像的搜索区域;
分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;
将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息。
进一步的,采用边缘检测方法缩小高分辨率图像和低分辨图像的搜索区域。
进一步的,所述采用边缘检测方法缩小高分辨率图像中的搜索区域的过程包括:
利用高斯滤波器与高分辨率图像和低分辨图像进行卷积,得到去噪后的高分辨率图像和低分辨图像;
分别计算去噪后的高分辨率图像和低分辨图像的梯度强度G和方向θ;
根据高分辨率图像的梯度强度G和方向θ、低分辨率图像梯度强度G和方向θ分别计算初始边缘;
对初始边缘采用非极大值抑制方法进行边缘稀疏;
在边缘稀疏之后,根据预先设置的高低阈值抑制弱边缘像素,得到最终的理想边缘,根据理想边缘确定所述搜索区域。
进一步的,采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息。
进一步的,所述采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息,包括:
将高分辨率图像的搜索区域和与该搜索区域相匹配的低分辨率图像对应区域分别划分为N个子块和/>
对N个子块和/>中的每个子块si和ti使用五个梯度算子提取梯度特征,五个梯度算子的表示形式为:
f1=[-1,0,1]
f2=f1 T
f3=[1,0,-2,0,1]
f4=f3 T
f5=[1,0,-1;0;-1,0,1]
使用五个梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异Di用公式表示为:
其中:
确定高分辨率图像或低分辨率图像的高频信息,包括:
使用五个梯度算子提取出对应图像的每个子块的特征向量,根据提取出的特征向量计算子块的特征差异,将所有的特征差异按大小顺序排列起来,形成一个数列,寻找处于数列中间位置的特征差异,该特征差异对应的子块为高频信息的子块。
进一步的,所述将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息,包括:
获取成本函数;
成本函数的表达形式为:
Ti为转换参数,为立体图像对的像素索引,Eu(ti,si,Hi)表示欧几里得距离,其表达形式为:
其中,P(ti)为低分辨率图像中像素i在子块ti的强度,S(si,Ti)为高分辨率图像中像素i在子块si的强度;
根据成本函数计算转换参数Ti,包括:
获取用于对场景中的平面进行校正的同构图同构图/>的三个向量分别为h1,h2,h3,则校正后的源补丁和目标补丁表示为:
t'i=[h1ti,h2ti,h3ti]T
s'i=[h1si,h2si,h3si]T
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量,源补丁s'i的位置表示为:
则高分辨率图像中像素i在子块si表示为:
令
使用上述公式求得转换参数Ti,根据转换参数Ti将高分辨率图像的高频信息粘贴到低分辨率图像的高频信息上。
一种异构立体图像的超分辨率重建系统,包括:
获取模块,用于获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;
缩小模块,用于缩小高分辨率图像和低分辨图像的搜索区域;
确定模块,用于分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;
处理模块,用于将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息。
进一步的,所述缩小模块采用边缘检测方法缩小高分辨率图像和低分辨图像的搜索区域,包括:
去噪模块,用于利用高斯滤波器与高分辨率图像和低分辨图像进行卷积,得到去噪后的高分辨率图像和低分辨图像;
第一计算模块,用于分别计算去噪后的高分辨率图像和低分辨图像的梯度强度G和方向θ;
第二计算模块,用于根据高分辨率图像的梯度强度G和方向θ、低分辨率图像梯度强度G和方向θ分别计算初始边缘;
边缘稀疏模块,用于对初始边缘采用非极大值抑制方法进行边缘稀疏;
抑制模块,用于在边缘稀疏之后,根据预先设置的高低阈值抑制弱边缘像素,得到最终的理想边缘,根据理想边缘确定所述搜索区域。
进一步的,所述确定模块采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息,包括:
划分模块,用于将高分辨率图像的搜索区域和与该搜索区域相匹配的低分辨率图像对应区域分别划分为N个子块和/>
提取模块,用于对N个子块和/>中的每个子块si和ti使用五个梯度算子提取梯度特征,五个梯度算子的表示形式为:
f1=[-1,0,1]
f2=f1 T
f3=[1,0,-2,0,1]
f4=f3 T
f5=[1,0,-1;0;-1,0,1]
特征差异计算模块,用于使用五个梯度算子提取出的特征向量计算特征差异Di,五个梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异Di用公式表示为:
其中:
高频信息确定模块,用于使用五个梯度算子提取出对应图像的每个子块的特征向量,根据提取出的特征向量计算子块的特征差异,将所有的特征差异按大小顺序排列起来,形成一个数列,寻找处于数列中间位置的特征差异,该特征差异对应的子块为高频信息的子块。
进一步的,所述处理模块包括:
函数获取模块,用于获取成本函数;
成本函数的表达形式为:
Ti为转换参数,为立体图像对的像素索引,Eu(ti,si,Hi)表示欧几里得距离,其表达形式为:
其中,P(ti)为低分辨率图像中像素i在子块ti的强度,S(si,Ti)为高分辨率图像中像素i在子块si的强度;
转换参数计算模块,用于根据成本函数计算转换参数Ti,包括:
获取用于对场景中的平面进行校正的同构图同构图/>的三个向量分别为h1,h2,h3,则校正后的源补丁和目标补丁表示为:
t'i=[h1ti,h2ti,h3ti]T
s'i=[h1si,h2si,h3si]T
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量,源补丁s'i的位置表示为:
则高分辨率图像中像素i在子块si表示为:
转换参数Ti为:
粘贴模块,用于根据转换参数Ti将高分辨率图像的高频信息粘贴到低分辨率图像的高频信息上。
本发明所达到的有益效果:
能够直接利用异构立体图像中高分辨率图像的先验知识来对低分辨率图像的高频信息进行恢复。能够利用立体图像的空间相关性和视点相关性,从高分辨率图像中为低分辨率图像寻找对应子块,高效率地对立体图像之间的异质性进行补偿。不受限于特定的图像压缩方法,具有良好的鲁棒性和普适性,同时无需耗费大量时间训练卷积神经网络的权重和偏移量。
附图说明
图1是异构立体图像超分辨率重建方法流程图;
图2是边缘检测示意图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
一种异构立体图像超分辨率重建方法,框图如图1所示。输入是高分辨率的右视图图像和低分辨率的左视图图像。输出是重构的高分辨率左视图图像。所提出的方法框架包括三个步骤:边缘检测,信息补丁选择,最近邻域(NNF)估计。算法为了获得与低分辨率图像的每一部分对应的高频信息,首先采用边缘检测方法来约束高分辨率图像中的搜索区域,接着采用选择性补丁处理方法从相应搜索区域中获得匹配的高频信息,这能够有效地提高高频补丁的搜索效率。最后,来自高分辨率图像的补丁通过参数变换粘贴到低分辨率图像的目标位置,从而实现对低质量信息的覆盖每个步骤将在以下各节中详细描述。
1.边缘检测
边缘检测的结果用来缩小补丁片段的搜索范围,只有纹理趋于一致的片段才能被入选为搜索区域,以此用来提高方法的效率。边缘检测算法采用Canny边缘检测算法。该算法有着过程简单和效果好的优势。为了避免由于噪声引起的边缘错误检测,在边缘检测之前要对图像集进行去噪处理。去噪方法我们选择高斯滤波器与图像进行卷积。用于生成高斯卷积核的方程定义为:
其中1≤i,j≤(2k+1),也就是说该高斯卷积核的大小为(2k+1)×(2k+1)。高斯卷积核的大小十分重要,它影响着算法的效果。很多基于Canny的边缘检测算法有自适应卷积核大小的性能,但综合考虑到算法的复杂度和算法效果,本算法将卷积核的大小设置为5×5。接下来计算图像的梯度强度G和方向θ,可以用公式表示为
θ=arctan(Gy/Gx)
其中Gx和Gy分别为图像水平方向和垂直方向的导数,可以通过Sobel算子求得。
如果只采用梯度导数来求边缘,那么边缘还是很模糊。为了解决这个问题,然后采用非极大值抑制进行边缘稀疏,能够使边缘在局部有唯一最大值。在进行非极大值抑制之后,还是会存在细小噪声和颜色变化而引起的杂散响应。因此需要定义高低阈值来过滤边缘像素。最后通过抑制弱边缘像素就能够得到最终的理想边缘。边缘检测之后对填充像素分类示意图如图2所示。图2左图为原视图,图2右图为边缘检测结果。
3.搜索高分辨率补丁片段
将输入的立体图像对Xl和Xh分别划分为N个子块和/>以获得更好的对应性。为了获取具有高频分量的图像块,采用高通滤波器来表示特征。高通滤波器用于锐化图像或提取图像的边缘,纹理和噪声。最简单的滤波器是理想的高通滤波器。同时采用一阶和二阶导数用作梯度算子。
通过使用五个梯度算子提取梯度特征,五个梯度算子的表示形式为:
f1=[-1,0,1] (3)
f2=f1 T
f3=[1,0,-2,0,1]
f4=f3 T
f5=[1,0,-1;0;-1,0,1]
使用梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异用公式表示为:
其中:
通过这五个梯度算子,采用用五个特征向量表示每个补丁,这些特征向量被转换为一个
代表性向量。不同的特征值表示来自图像的不同信息:
1)从区域分析,边缘的|fi ε|较大但较小。
2)从光滑性分析,|fi ε|和较小。
3)从噪音分析,|fi ε|和都较大。
本方法的目标是选择具有高频信息的子块,因此寻求使Di为中值的特征向量。基于此分析,该方法不仅使低频基础结构的距离最小化,而且还精确地保留了高频详细结构。
4.最邻近区域估计
为了获取高分辨率补丁覆盖低分辨率信息的变换参数,本方法采用最邻近区域估计。成本函数的关键思想是计算欧几里德距离的平方和,经典特征检测算法SIFT也采用了它。成本函数可以用公式表示为:
Ti为源片段的变换参数,也就是需要求得得变换参数。为立体图像对的像素索引。Eu(ti,si,Hi)可以用公式表示为:
其中,P(ti)为低分辨率图像中像素i在片段ti的强度,S(si,Ti)为高分辨率图像中像素i在片段si的强度。求解Ti即求解令Eu(ti,si,Hi)为最小的Ti参数。假设是对场景中的平面进行校正的同构图。h1,h2,h3是/>的三个向量。校正后的源补丁和目标补丁可以表示为:
t'i=[h1ti,h2ti,h3ti]T (10)
s'i=[h1si,h2si,h3si]T (11)
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量。因此,源补丁s'i的位置可以表述为:
令
使用上述公式求得转换参数Ti即可将源补丁粘贴到目标补丁上。
一种异构立体图像的超分辨率重建系统,包括:
获取模块,用于获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;
缩小模块,用于缩小高分辨率图像和低分辨图像的搜索区域;
确定模块,用于分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;
处理模块,用于将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息。
进一步的,所述缩小模块采用边缘检测方法缩小高分辨率图像和低分辨图像的搜索区域,包括:
去噪模块,用于分别对高分辨率图像和低分辨图像进行去噪处理,包括:利用高斯滤波器与高分辨率图像和低分辨图像进行卷积,得到去噪后的高分辨率图像和低分辨图像;
第一计算模块,用于分别计算去噪后的高分辨率图像和低分辨图像的梯度强度G和方向θ;
第二计算模块,用于根据高分辨率图像的梯度强度G和方向θ、低分辨率图像梯度强度G和方向θ分别计算初始边缘;
边缘稀疏模块,用于对初始边缘采用非极大值抑制方法进行边缘稀疏;
抑制模块,用于在边缘稀疏之后,根据预先设置的高低阈值抑制弱边缘像素,得到最终的理想边缘,根据理想边缘确定所述搜索区域。
进一步的,所述确定模块采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息,包括:
划分模块,用于将高分辨率图像的搜索区域和与该搜索区域相匹配的低分辨率图像对应区域分别划分为N个子块和/>
提取模块,用于对N个子块和/>中的每个子块si和ti使用五个梯度算子提取梯度特征,五个梯度算子的表示形式为:
f1=[-1,0,1]
f2=f1 T
f3=[1,0,-2,0,1]
f4=f3 T
f5=[1,0,-1;0;-1,0,1]
特征差异计算模块,用于使用五个梯度算子提取出的特征向量计算特征差异Di,五个梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异Di用公式表示为:
其中:
高频信息确定模块,用于使用五个梯度算子提取出对应图像的每个子块的特征向量,根据提取出的特征向量计算子块的特征差异,将所有的特征差异按大小顺序排列起来,形成一个数列,寻找处于数列中间位置的特征差异,该特征差异对应的子块为高频信息的子块。
进一步的,所述处理模块包括:
函数获取模块,用于获取成本函数;
成本函数的表达形式为:
Ti为转换参数,为立体图像对的像素索引,Eu(ti,si,Hi)表示欧几里得距离,其表达形式为:
其中,P(ti)为低分辨率图像中像素i在子块ti的强度,S(si,Ti)为高分辨率图像中像素i在子块si的强度;
转换参数计算模块,用于根据成本函数计算转换参数Ti,包括:
获取用于对场景中的平面进行校正的同构图同构图/>的三个向量分别为h1,h2,h3,则校正后的源补丁和目标补丁表示为:
t'i=[h1ti,h2ti,h3ti]T
s'i=[h1si,h2si,h3si]T
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量,源补丁s'i的位置表示为:
则高分辨率图像中像素i在子块si表示为:
转换参数Ti为:
粘贴模块,用于根据转换参数Ti将高分辨率图像的高频信息粘贴到低分辨率图像的高频信息上。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
Claims (8)
1.一种异构立体图像的超分辨率重建方法,其特征在于,包括:
获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;
缩小高分辨率图像和低分辨图像的搜索区域;
分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;
将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息;
所述将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息,包括:
获取成本函数;
成本函数的表达形式为:
Ti为转换参数,为立体图像对的像素索引,Eu(ti,si,Ti)表示欧几里得距离,其表达形式为:
其中,P(ti)为低分辨率图像中像素i在子块ti的强度,S(si,Ti)为高分辨率图像中像素i在子块si的强度;
根据成本函数计算转换参数Ti,包括:
获取用于对场景中的平面进行校正的同构图同构图/>的三个向量分别为h1,h2,h3,则校正后的源补丁和目标补丁表示为:
t'i=[h1ti,h2ti,h3ti]T
s'i=[h1si,h2si,h3si]T
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量,源补丁s'i的位置表示为:
则高分辨率图像中像素i在子块si表示为:
令
使用上述公式求得转换参数Ti,根据转换参数Ti将高分辨率图像的高频信息粘贴到低分辨率图像的高频信息上。
2.根据权利要求1所述的异构立体图像的超分辨率重建方法,其特征在于,采用边缘检测方法缩小高分辨率图像和低分辨图像的搜索区域。
3.根据权利要求2所述的异构立体图像的超分辨率重建方法,其特征在于,所述采用边缘检测方法缩小高分辨率图像中的搜索区域的过程包括:
利用高斯滤波器与高分辨率图像和低分辨图像进行卷积,得到去噪后的高分辨率图像和低分辨图像;
分别计算去噪后的高分辨率图像和低分辨图像的梯度强度G和方向θ;
根据高分辨率图像的梯度强度G和方向θ、低分辨率图像梯度强度G和方向θ分别计算初始边缘;
对初始边缘采用非极大值抑制方法进行边缘稀疏;
在边缘稀疏之后,根据预先设置的高低阈值抑制弱边缘像素,得到最终的理想边缘,根据理想边缘确定所述搜索区域。
4.根据权利要求1所述的异构立体图像的超分辨率重建方法,其特征在于,采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息。
5.根据权利要求4所述的异构立体图像的超分辨率重建方法,其特征在于,所述采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息,包括:
将高分辨率图像的搜索区域和与该搜索区域相匹配的低分辨率图像对应区域分别划分为N个子块和/>
对N个子块和/>中的每个子块si和ti使用五个梯度算子提取梯度特
征,五个梯度算子的表示形式为:
f1=[-1,0,1]
f2=f1 T
f3=[1,0,-2,0,1]
f5=[1,0,-1;0;-1,0,1]
使用五个梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异Di用公式表示为:
其中:
确定高分辨率图像或低分辨率图像的高频信息,包括:
使用五个梯度算子提取出对应图像的每个子块的特征向量,根据提取出的特征向量计算子块的特征差异,将所有的特征差异按大小顺序排列起来,形成一个数列,寻找处于数列中间位置的特征差异,该特征差异对应的子块为高频信息的子块。
6.一种异构立体图像的超分辨率重建系统,其特征在于,包括:
获取模块,用于获取双目视觉系统中利用非对称压缩方法压缩的某个时刻的立体图像对,立体图像对包括两个视图,其中一个视图为高分辨率图像,另一个为低分辨图像;
缩小模块,用于缩小高分辨率图像和低分辨图像的搜索区域;
确定模块,用于分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息;
处理模块,用于将高分辨率图像的高频信息通过参数变换粘贴到低分辨率图像的高频信息;
所述处理模块包括:
函数获取模块,用于获取成本函数;
成本函数的表达形式为:
Ti为转换参数,为立体图像对的像素索引,Eu(ti,si,Ti)表示欧几里得距离,其表达形式为:
其中,P(ti)为低分辨率图像中像素i在子块ti的强度,S(si,Ti)为高分辨率图像中像素i在子块si的强度;
转换参数计算模块,用于根据成本函数计算转换参数Ti,包括:
获取用于对场景中的平面进行校正的同构图同构图/>的三个向量分别为h1,h2,h3,则校正后的源补丁和目标补丁表示为:
t'i=[h1ti,h2ti,h3ti]T
s'i=[h1si,h2si,h3si]T
令(dx,dy)为目标空间到校正空间中源补丁位置的位移向量,源补丁s'i的位置表示为:
则高分辨率图像中像素i在子块si表示为:
转换参数Ti为:
粘贴模块,用于根据转换参数Ti将高分辨率图像的高频信息粘贴到低分辨率图像的高频信息上。
7.根据权利要求6所述的异构立体图像的超分辨率重建系统,其特征在于,所述缩小模块采用边缘检测方法缩小高分辨率图像和低分辨图像的搜索区域,包括:
去噪模块,用于利用高斯滤波器与高分辨率图像和低分辨图像进行卷积,得到去噪后的高分辨率图像和低分辨图像;
第一计算模块,用于分别计算去噪后的高分辨率图像和低分辨图像的梯度强度G和方向θ;
第二计算模块,用于根据高分辨率图像的梯度强度G和方向θ、低分辨率图像梯度强度G和方向θ分别计算初始边缘;
边缘稀疏模块,用于对初始边缘采用非极大值抑制方法进行边缘稀疏;
抑制模块,用于在边缘稀疏之后,根据预先设置的高低阈值抑制弱边缘像素,得到最终的理想边缘,根据理想边缘确定所述搜索区域。
8.根据权利要求6所述的异构立体图像的超分辨率重建系统,其特征在于,所述确定模块采用选择性补丁处理方法分别从高分辨率图像和低分辨图像的搜索区域中确定高分辨率图像和低分辨图像的高频信息,包括:
划分模块,用于将高分辨率图像的搜索区域和与该搜索区域相匹配的低分辨率图像对应区域分别划分为N个子块和/>
提取模块,用于对N个子块和/>中的每个子块si和ti使用五个梯度算子提取梯度特征,五个梯度算子的表示形式为:
f1=[-1,0,1]
f2=f1 T
f3=[1,0,-2,0,1]
f5=[1,0,-1;0;-1,0,1]
特征差异计算模块,用于使用五个梯度算子提取出的特征向量计算特征差异Di,五个梯度算子提取出的特征向量分别记作fx,fy,fxx,fyy和fxy,特征差异Di用公式表示为:
其中:
高频信息确定模块,用于使用五个梯度算子提取出对应图像的每个子块的特征向量,根据提取出的特征向量计算子块的特征差异,将所有的特征差异按大小顺序排列起来,形成一个数列,寻找处于数列中间位置的特征差异,该特征差异对应的子块为高频信息的子块。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110855912.7A CN113487487B (zh) | 2021-07-28 | 2021-07-28 | 一种异构立体图像的超分辨率重建方法及系统 |
EP22185424.3A EP4148658A1 (en) | 2021-07-28 | 2022-07-18 | Method and system for super-resolution reconstruction of heterogeneous stereoscopic images |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110855912.7A CN113487487B (zh) | 2021-07-28 | 2021-07-28 | 一种异构立体图像的超分辨率重建方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113487487A CN113487487A (zh) | 2021-10-08 |
CN113487487B true CN113487487B (zh) | 2024-03-19 |
Family
ID=77944303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110855912.7A Active CN113487487B (zh) | 2021-07-28 | 2021-07-28 | 一种异构立体图像的超分辨率重建方法及系统 |
Country Status (2)
Country | Link |
---|---|
EP (1) | EP4148658A1 (zh) |
CN (1) | CN113487487B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116611995A (zh) * | 2023-04-06 | 2023-08-18 | 江苏大学 | 一种基于深度展开网络的手写文本图像超分辨率重建方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104933678A (zh) * | 2015-06-30 | 2015-09-23 | 西安理工大学 | 一种基于像素强度的图像超分辨率重建方法 |
CN106558022A (zh) * | 2016-11-30 | 2017-04-05 | 重庆大学 | 一种基于边缘差异约束的单幅图像超分辨率重建方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI624804B (zh) * | 2016-11-07 | 2018-05-21 | 盾心科技股份有限公司 | 利用超解析重建法生成高解析度影像的方法與系統 |
US10600154B2 (en) * | 2018-06-26 | 2020-03-24 | Applied Research, LLC | System and method for generating high-resolution stereo image and depth map |
-
2021
- 2021-07-28 CN CN202110855912.7A patent/CN113487487B/zh active Active
-
2022
- 2022-07-18 EP EP22185424.3A patent/EP4148658A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104933678A (zh) * | 2015-06-30 | 2015-09-23 | 西安理工大学 | 一种基于像素强度的图像超分辨率重建方法 |
CN106558022A (zh) * | 2016-11-30 | 2017-04-05 | 重庆大学 | 一种基于边缘差异约束的单幅图像超分辨率重建方法 |
Non-Patent Citations (2)
Title |
---|
基于局部结构相似与稀疏表示的超分辨率图像重建;蔡蒙琪;《中国优秀硕士学位论文全文数据库 信息科技辑》;第二章 * |
异构立体视觉系统的三维重建关键技术研究;范冰;《中国博士学位论文全文数据库信息科技辑》;第一,五章 * |
Also Published As
Publication number | Publication date |
---|---|
EP4148658A1 (en) | 2023-03-15 |
CN113487487A (zh) | 2021-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11983893B2 (en) | Systems and methods for hybrid depth regularization | |
US20220044375A1 (en) | Saliency Map Enhancement-Based Infrared and Visible Light Fusion Method | |
CN108076338B (zh) | 图像视觉处理方法、装置及设备 | |
CN105100640B (zh) | 一种局部配准并行视频拼接方法及系统 | |
US11037308B2 (en) | Intelligent method for viewing surveillance videos with improved efficiency | |
CN110853151A (zh) | 一种基于视频的三维立体点集恢复方法 | |
Konrad et al. | Automatic 2d-to-3d image conversion using 3d examples from the internet | |
WO2015108996A1 (en) | Object tracking using occluding contours | |
KR20130112311A (ko) | 고밀도 삼차원 영상 재구성 장치 및 방법 | |
CN104346833A (zh) | 一种基于单目视觉的车辆重构算法 | |
CN113538569A (zh) | 一种弱纹理物体位姿估计方法和系统 | |
Yuan et al. | Multiview scene image inpainting based on conditional generative adversarial networks | |
CN112734914A (zh) | 一种增强现实视觉的图像立体重建方法及装置 | |
CN113487487B (zh) | 一种异构立体图像的超分辨率重建方法及系统 | |
KR101125061B1 (ko) | Ldi 기법 깊이맵을 참조한 2d 동영상의 3d 동영상 전환방법 | |
US11044399B2 (en) | Video surveillance system | |
CN112541930A (zh) | 基于级联式的图像超像素目标行人分割方法 | |
An et al. | Object segmentation using stereo images | |
Liang et al. | Multi-scale and multi-patch transformer for sandstorm image enhancement | |
Alhatami et al. | Image Fusion Based on Discrete Cosine Transform with High Compression | |
CN111630569B (zh) | 双目匹配的方法、视觉成像装置及具有存储功能的装置 | |
CN103295220A (zh) | 一种双目视觉技术在康复理疗系统中的应用方法 | |
Bai | Overview of image mosaic technology by computer vision and digital image processing | |
Thevenon et al. | Dense pixel matching between unrectified and distorted images using dynamic programming | |
Patmawati et al. | Quality image enhancement from low resolution camera using convolutional neural network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |