CN111476714B - 基于psv神经网络的跨尺度图像拼接方法及装置 - Google Patents
基于psv神经网络的跨尺度图像拼接方法及装置 Download PDFInfo
- Publication number
- CN111476714B CN111476714B CN202010238702.9A CN202010238702A CN111476714B CN 111476714 B CN111476714 B CN 111476714B CN 202010238702 A CN202010238702 A CN 202010238702A CN 111476714 B CN111476714 B CN 111476714B
- Authority
- CN
- China
- Prior art keywords
- image
- psv
- neural network
- splicing
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 60
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 42
- 238000000605 extraction Methods 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 7
- 238000007781 pre-processing Methods 0.000 claims description 6
- 230000000694 effects Effects 0.000 abstract description 15
- 238000004364 calculation method Methods 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000007547 defect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000000386 microscopy Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于PSV神经网络的跨尺度图像拼接方法及装置，其中，方法包括以下步骤：对图像进行扫描，生成图像PSV；将图像PSV送入神经网络，以提取图像特征，并计算权重；根据权重进行加权组合，获得拼接结果图像。该方法具有拼接效果好，一致性好，能够处理大视差、大尺寸图像，计算速度快，可用于实时拼接等特点，在处理大尺寸图像和现实场景图像方面具有独特的优势。
Description
技术领域
本发明涉及数字图像及视频的处理技术领域，特别涉及一种基于PSV神经网络的跨尺度图像拼接方法及装置。
背景技术
随着计算机视觉技术的不断发展和对高质量图像视频的需求越来越大，而单相机的图像分辨率提升困难，难以满足图像分辨率需求，因此催生了单相机扫描、相机阵列等多种亿级像素图像的获取技术，而基于低分辨率全局参考图像的跨尺度相机阵列则是当前最受关注的一种高分辨率图像获取方法。多尺度相机阵列在传统相机阵列的基础上增加了一个短焦距的全局参考相机，以其获取的全局画面为参考，将其他局部画面拼接在一起，形成最终的高分辨率图像。然而，由于相机阵列中各个相机位置存在差异，不同相机采集的图像之间存在视差，传统的基于稀疏特征和图像扭转的图像拼接技术具有受视差影响大、无法保持图像一致性等固有缺陷，难以实现高质量的拼接效果和实时拼接。因此，寻找能够消除视差影响，实现高质量实时拼接的算法成为十亿像素技术发展和工程化应用的迫切需求。此外，由于这一技术所处理的图像具有大尺寸，大视差的特点，现有的基于神经网络的拼接算法也难以应用。
近年来，使用卷积神经网络实现基于参考图的图像超分辨率重建取得了较好的效果，产生了多种实现方法和网络结构。
一是基于图像块的匹配和拼接。郑海天等人提出了使用卷积神经网络实现基于参考图的图像超分辨率重建。首先将低分辨率图像和高分辨率参考图像拆分成多个小图像块，然后通过CC-Net提取每个小图像块的多尺度特征，并在其邻域内寻找其最佳匹配，最后通过SS-Net将小图像块拼接起来生成结果图像。这种方法类似于网格化非均匀扭转算法，通过卷积神经网络使图像块尺寸更小，匹配精度更高。之后又有多篇文章对这一方法进行了不同改进，使重建结果更加精确和稳定，但是这种基于小图像块的方法会使重建图像具有无法避免的与非均匀扭转算法类似的网格效应。
二是基于像素的扭转。为了消除网格效应，郑海天等人提出了CrossNet，抛弃了基于图像块匹配拼接的思路，采用了基于像素扭转的方法，使用全卷积跨尺度扭转模块将每个点进行扭转对齐，最后再通过卷积层生成目标图像。通过这一方法，在消除网格效应，提升图像质量的同时，有效提高了计算效率，计算速度较RefSR提高了100倍。
以上两种方法基本沿用了传统图像拼接中匹配、拼接的思想，通过卷积神经网络实现了基于小图像块或像素点的匹配、拼接，有效改善了拼接效果，提升了拼接速度。然而，现有的跨尺度图像拼接方法存在如下缺陷：
(1)传统拼接方法，主要通过两个图像之间的稀疏特征点提取与匹配，对图像进行扭转对齐，该方法的主要问题是拼接过程复杂，结果图像存在统一性差或网格效应；(2)利用神经网络进行图像的特征提取与匹配，进行基于像素的扭转匹配，这种方法可以提高结果图像的统一性，消除网格效应，提高拼接速度，但是难以实现大视差的图像拼接。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此，本发明的一个目的在于提出一种基于PSV神经网络的跨尺度图像拼接方法，该方法具有拼接效果好，一致性好，能够处理大视差、大尺寸图像，计算速度快，可用于实时拼接等特点，在处理大尺寸图像和现实场景图像方面具有独特的优势。
本发明的另一个目的在于提出一种基于PSV神经网络的跨尺度图像拼接装置。
为达到上述目的，本发明一方面实施例提出了一种基于PSV神经网络的跨尺度图像拼接方法，包括以下步骤：对图像进行扫描，生成图像PSV；将所述图像PSV送入神经网络，以提取图像特征，并计算权重；根据所述权重进行加权组合，获得拼接结果图像。
本发明实施例的基于PSV神经网络的跨尺度图像拼接方法，首先对图像进行扫描形成图像PSV，然后将其送入神经网络提取特征，计算权重，最后加权组合获得结果图像，从而通过PSV处理和特殊的网络结构，一方面使网络能够处理大视差的图像对，一方面减少了网络信息承载量和网络参数，提高了网络性能，进而在提高拼接速度和图像统一性的前提下，有效提高了对大视差图像的处理能力，在处理大尺寸图像和现实场景图像方面具有独特的优势。
另外，根据本发明上述实施例的基于PSV神经网络的跨尺度图像拼接方法还可以具有以下附加的技术特征：
进一步地，在本发明的一个实施例中，在对所述图像进行扫描之前，还包括：将待处理的所述图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；将所述待处理的图像对进行颜色匹配校准。
进一步地，在本发明的一个实施例中，所述对图像进行扫描，生成图像PSV，包括：以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；将每个子图像堆叠起来，形成平面扫描体。
进一步地，在本发明的一个实施例中，所述将所述图像PSV送入神经网络，以提取图像特征，并计算权重，包括：将所述图像PSV与所述低于第二预设分辨率全局图像送入所述神经网络进行特征提取和处理，生成多张权重图。
进一步地，在本发明的一个实施例中，所述根据所述权重进行加权组合，获得拼接结果图像，包括：将所述多张权重图与所述PSV进行加权组合，获得大于所述第三分辨率的结果图像；将所述结果图像进行基线反变换处理，拼接后生成所述拼接结果图像。
为达到上述目的，本发明另一方面实施例提出了一种基于PSV神经网络的跨尺度图像拼接装置，包括：PSV处理模块，用于对图像进行扫描，生成图像PSV；输入模块，用于将所述图像PSV送入神经网络，以提取图像特征，并计算权重；加权组合模块，用于根据所述权重进行加权组合，获得拼接结果图像。
本发明实施例的基于PSV神经网络的跨尺度图像拼接装置，首先对图像进行扫描形成图像PSV，然后将其送入神经网络提取特征，计算权重，最后加权组合获得结果图像，从而通过PSV处理和特殊的网络结构，一方面使网络能够处理大视差的图像对，一方面减少了网络信息承载量和网络参数，提高了网络性能，进而在提高拼接速度和图像统一性的前提下，有效提高了对大视差图像的处理能力，在处理大尺寸图像和现实场景图像方面具有独特的优势。
另外，根据本发明上述实施例的基于PSV神经网络的跨尺度图像拼接装置还可以具有以下附加的技术特征：
进一步地，在本发明的一个实施例中，还包括：预处理模块，用于在对所述图像进行扫描之前，将待处理的所述图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；将所述待处理的图像对进行颜色匹配校准。
进一步地，在本发明的一个实施例中，所述PSV处理模块进一步用于以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；将每个子图像堆叠起来，形成平面扫描体。
进一步地，在本发明的一个实施例中，所述输入模块进一步用于将所述图像PSV与所述低于第二预设分辨率全局图像送入所述神经网络进行特征提取和处理，生成多张权重图。
进一步地，在本发明的一个实施例中，所述加权组合模块进一步用于将所述多张权重图与所述PSV进行加权组合，获得大于所述第三分辨率的结果图像；将所述结果图像进行基线反变换处理，拼接后生成所述拼接结果图像。
本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本发明实施例的基于PSV神经网络的跨尺度图像拼接方法的流程图；
图2为根据本发明实施例的基于PSV神经网络的输入示意图；
图3为根据本发明实施例的基于PSV神经网络的PSV生成示意图；
图4为根据本发明实施例的基于PSV神经网络的PSV与权重图加权组合的示意图；
图5为根据本发明实施例的基于PSV神经网络的网络结构示意图；
图6为根据本发明实施例的基于PSV神经网络的拼接效果示意图；
图7为根据本发明实施例的基于PSV神经网络的跨尺度图像拼接装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
本发明实施例所提出的方法及装置的目标是实现跨尺度图像拼接，即利用低分辨率图像和相似视角高分辨率图像，经神经网络提取特征和计算，生成高分辨率的目标图像。
下面参照附图描述根据本发明实施例提出的基于PSV神经网络的跨尺度图像拼接方法及装置，首先将参照附图描述根据本发明实施例提出的基于PSV神经网络的跨尺度图像拼接方法。
图1是本发明一个实施例的基于PSV神经网络的跨尺度图像拼接方法的流程图。
如图1所示，该基于PSV神经网络的跨尺度图像拼接方法，利用多尺度相机阵列获取的低分辨率全局图像和相似视角高分辨率局部图像，其中，方法包括以下步骤：
在步骤S101中，对图像进行扫描，生成图像PSV。
可以理解的是，如图2所示，本发明实施例对高分辨率局部图像进行PSV处理。
在本发明的一个实施例中，对图像进行扫描，生成图像PSV，包括：以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；将每个子图像堆叠起来，形成平面扫描体。
可以理解的是，如图3所示，以低分辨率全局图像大小为视窗在局部图像水平方向进行滑动扫描，生成d个与全局图像相同大小的局部子图像，再将各个子图像堆叠起来形成平面扫描体(PSV)。
举例而言，生成PSV的具体步骤如下：
(1)以步长1生成PSV151；
(2)以步长5生成PSV31；
(3)PSV31和PSV151分别与低分辨率全局图像堆叠形成PSV31+LG和PSV151+LG。
进一步地，采用本发明实施例的生成PSV方法可以减少网络输入量，减少计算量，提高网络效率。
进一步地，在本发明的一个实施例中，在对图像进行扫描之前，还包括：将待处理的图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；将待处理的图像对进行颜色匹配校准。
可以理解的是，如图2所示，在对图像进行扫描之前，本发明实施例对图像进行预处理，具体地：将待处理的图像对进行基线校准，使视差分布在水平方向，并设置高分辨率局部图像输入的水平方向尺寸略大；颜色校准，将待处理图像对进行颜色匹配校准。其中，本发明实施例可以设置全局图像和局部图像的水平方向像素差为150个像素。
在步骤S102中，将图像PSV送入神经网络，以提取图像特征，并计算权重。
在本发明的一个实施例中，将图像PSV送入神经网络，以提取图像特征，并计算权重，包括：将图像PSV与低于第二预设分辨率全局图像送入神经网络进行特征提取和处理，生成多张权重图。
可以理解的是，如图2所示，本发明实施例将PSV与低分辨率全局图像一起送入卷积神经网络进行特征提取和处理，生成d张权重图，其中，网络结构如图4所示。
举例而言，将PSV与低分辨率全局图像一起送入卷积神经网络进行特征提取和处理，生成d张权重图的具体步骤如下：
(1)将PSV31+LG送入网络卷积层进行特征筛选和提取，生成152张权重图；
(2)将PSV151+LG与生成的权重图进行加权组合，生成高分辨率结果图像。
进一步地，步骤S102中的网络卷积层包括4个全连接卷积模块，每个全连接卷积模块包括4层全连接卷积层，每个卷积层包括32个卷积核。除最后一层使用softmax外，其他卷积层均使用relu作为激活函数。
优选的，本发明实施例提出的基于PSV的神经网络在训练时的损失函数包括两部分，一是目标图像损失，二是权重约束。目标图像损失部分采用目标图像与真值的均方差；权重约束部分主要包括以三点：一是在目标图像中，来自LG的像素数量应尽可能少；二是目标图像中的一个点应该来自HL中的一个点；三是HL中的每个点应该被使用1次或0次，即每个点的权重应为“1”或“0”。
优选的，本发明实施例提出的基于PSV的神经网络的训练使用KITTI的city数据集，该数据集中的图片为双相机拍摄的城市实景图像。
在步骤S103中，根据权重进行加权组合，获得拼接结果图像。
在本发明的一个实施例中，根据权重进行加权组合，获得拼接结果图像，包括：将多张权重图与PSV进行加权组合，获得大于第三分辨率的结果图像；将结果图像进行基线反变换处理，拼接后生成拼接结果图像。
可以理解的是，本发明实施例将d张权重图与PSV进行加权组合，获得输出的高分辨率结果图像，加权组合示意如图5所示。然后，将获得的高分辨率结果图像进行后处理，即基线反变换，完成拼接，拼接效果示意图如图6所示。
综上，本发明实施例根据跨尺度相机阵列的嵌入式拼接特点，引入在光场重建和显微领域广泛应用的超分辨率重建思想，采用基于PSV的卷积神经网络实现以高分辨率局部图像为参考的低分辨率全局图像的超分辨率重建，进而实现跨尺度嵌入式拼接。相较于传统拼接技术，该方法可以在实现嵌入式拼接的同时完成视角转换，消除视差影响，保持目标图像一致性，并有效提高拼接速度，为实时拼接提供可能。
根据本发明实施例提出的基于PSV神经网络的跨尺度图像拼接方法，首先对图像进行扫描形成图像PSV，然后将其送入神经网络提取特征，计算权重，最后加权组合获得结果图像，从而通过PSV处理和特殊的网络结构，一方面使网络能够处理大视差的图像对，一方面减少了网络信息承载量和网络参数，提高了网络性能，进而在提高拼接速度和图像统一性的前提下，有效提高了对大视差图像的处理能力，在处理大尺寸图像和现实场景图像方面具有独特的优势。
其次参照附图描述根据本发明实施例提出的基于PSV神经网络的跨尺度图像拼接装置。
图7是本发明一个实施例的基于PSV神经网络的跨尺度图像拼接装置的结构示意图。
如图7所示，该基于PSV神经网络的跨尺度图像拼接装置10包括：PSV处理模块100、输入模块200和加权组合模块300。
其中，PSV处理模块100用于对图像进行扫描，生成图像PSV；输入模块200用于将图像PSV送入神经网络，以提取图像特征，并计算权重；加权组合模块300用于根据权重进行加权组合，获得拼接结果图像。本发明实施例的装置10具有拼接效果好，一致性好，能够处理大视差、大尺寸图像，计算速度快，可用于实时拼接等特点，在处理大尺寸图像和现实场景图像方面具有独特的优势。
进一步地，在本发明的一个实施例中，本发明实施例的装置10还包括：预处理模块。其中，预处理模块用于在对图像进行扫描之前，将待处理的图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；将待处理的图像对进行颜色匹配校准。
进一步地，在本发明的一个实施例中，PSV处理模块100进一步用于以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；将每个子图像堆叠起来，形成平面扫描体。
进一步地，在本发明的一个实施例中，输入模块200进一步用于将图像PSV与低于第二预设分辨率全局图像送入神经网络进行特征提取和处理，生成多张权重图。
进一步地，在本发明的一个实施例中，加权组合模块300进一步用于将多张权重图与PSV进行加权组合，获得大于第三分辨率的结果图像；将结果图像进行基线反变换处理，拼接后生成拼接结果图像。
需要说明的是，前述对基于PSV神经网络的跨尺度图像拼接方法实施例的解释说明也适用于该实施例的基于PSV神经网络的跨尺度图像拼接装置，此处不再赘述。
根据本发明实施例提出的基于PSV神经网络的跨尺度图像拼接装置，首先对图像进行扫描形成图像PSV，然后将其送入神经网络提取特征，计算权重，最后加权组合获得结果图像，从而通过PSV处理和特殊的网络结构，一方面使网络能够处理大视差的图像对，一方面减少了网络信息承载量和网络参数，提高了网络性能，进而在提高拼接速度和图像统一性的前提下，有效提高了对大视差图像的处理能力，在处理大尺寸图像和现实场景图像方面具有独特的优势。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (4)
1.一种基于PSV神经网络的跨尺度图像拼接方法，其特征在于，包括以下步骤：
对图像进行扫描，生成图像PSV；
将所述图像PSV送入神经网络，以提取图像特征，并计算权重；以及
根据所述权重进行加权组合，获得拼接结果图像；
其中，所述对图像进行扫描，生成图像PSV，包括：
以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；
将每个子图像堆叠起来，形成平面扫描体；
其中，所述将所述图像PSV送入神经网络，以提取图像特征，并计算权重，包括：
将所述图像PSV与所述低于第二预设分辨率全局图像送入所述神经网络进行特征提取和处理，生成多张权重图；
其中，所述根据所述权重进行加权组合，获得拼接结果图像，包括：
将所述多张权重图与所述PSV进行加权组合，获得大于第三分辨率的结果图像；
将所述结果图像进行基线反变换处理，拼接后生成所述拼接结果图像。
2.根据权利要求1所述的方法，其特征在于，在对所述图像进行扫描之前，还包括：
将待处理的所述图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；
将所述待处理的图像对进行颜色匹配校准。
3.一种基于PSV神经网络的跨尺度图像拼接装置，其特征在于，包括：
PSV处理模块，用于对图像进行扫描，生成图像PSV；
输入模块，用于将所述图像PSV送入神经网络，以提取图像特征，并计算权重；以及
加权组合模块，用于根据所述权重进行加权组合，获得拼接结果图像；
其中，所述PSV处理模块进一步用于以低于第二预设分辨率全局图像大小为视窗，在局部图像水平方向进行滑动扫描，生成多个与全局图像相同大小的局部子图像；将每个子图像堆叠起来，形成平面扫描体；
其中，所述输入模块进一步用于将所述图像PSV与所述低于第二预设分辨率全局图像送入所述神经网络进行特征提取和处理，生成多张权重图；
其中，所述加权组合模块进一步用于将所述多张权重图与所述PSV进行加权组合，获得大于第三分辨率的结果图像；将所述结果图像进行基线反变换处理，拼接后生成所述拼接结果图像。
4.根据权利要求3所述的装置，其特征在于，还包括：
预处理模块，用于在对所述图像进行扫描之前，将待处理的所述图像对进行基线校准，使视差分布在水平方向，并设置第一预设分辨率局部图像输入的水平方向尺寸满足预设条件；将所述待处理的图像对进行颜色匹配校准。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010238702.9A CN111476714B (zh) | 2020-03-30 | 2020-03-30 | 基于psv神经网络的跨尺度图像拼接方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010238702.9A CN111476714B (zh) | 2020-03-30 | 2020-03-30 | 基于psv神经网络的跨尺度图像拼接方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111476714A CN111476714A (zh) | 2020-07-31 |
| CN111476714B true CN111476714B (zh) | 2022-10-28 |
Family
ID=71749308
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010238702.9A Active CN111476714B (zh) | 2020-03-30 | 2020-03-30 | 基于psv神经网络的跨尺度图像拼接方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111476714B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111932594B (zh) * | 2020-09-18 | 2023-12-19 | 西安拙河安见信息科技有限公司 | 一种基于光流的十亿像素视频对齐方法及装置、介质 |
| CN112203023B (zh) * | 2020-09-18 | 2023-09-12 | 西安拙河安见信息科技有限公司 | 一种十亿像素视频生成方法及装置、设备、介质 |
| CN113269237B (zh) * | 2021-05-10 | 2022-12-27 | 青岛理工大学 | 基于注意力机制的装配体变化检测方法、设备和介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106600538A (zh) * | 2016-12-15 | 2017-04-26 | 武汉工程大学 | 一种基于区域深度卷积神经网络的人脸超分辨率算法 |
| CN108734660A (zh) * | 2018-05-25 | 2018-11-02 | 上海通途半导体科技有限公司 | 一种基于深度学习的图像超分辨率重建方法及装置 |
| CN110728707A (zh) * | 2019-10-18 | 2020-01-24 | 陕西师范大学 | 基于非对称深度卷积神经网络的多视角深度预测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017075768A1 (zh) * | 2015-11-04 | 2017-05-11 | 北京大学深圳研究生院 | 一种基于字典匹配的图像超分辨率重建方法及装置 |
-
2020
- 2020-03-30 CN CN202010238702.9A patent/CN111476714B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106600538A (zh) * | 2016-12-15 | 2017-04-26 | 武汉工程大学 | 一种基于区域深度卷积神经网络的人脸超分辨率算法 |
| CN108734660A (zh) * | 2018-05-25 | 2018-11-02 | 上海通途半导体科技有限公司 | 一种基于深度学习的图像超分辨率重建方法及装置 |
| CN110728707A (zh) * | 2019-10-18 | 2020-01-24 | 陕西师范大学 | 基于非对称深度卷积神经网络的多视角深度预测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111476714A (zh) | 2020-07-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111476714B (zh) | 基于psv神经网络的跨尺度图像拼接方法及装置 | |
| CN109447919B (zh) | 结合多视角与语义纹理特征的光场超分辨率重建方法 | |
| CN107085842B (zh) | 自学习多路图像融合的实时矫正方法及系统 | |
| CN108074218B (zh) | 基于光场采集装置的图像超分辨率方法及装置 | |
| CN110211043B (zh) | 一种用于全景图像拼接的基于网格优化的配准方法 | |
| CN111598778B (zh) | 一种绝缘子图像超分辨率重建方法 | |
| Zhao et al. | Pyramid global context network for image dehazing | |
| TW202004679A (zh) | 影像特徵提取方法及包含其顯著物體預測方法 | |
| CN106023230B (zh) | 一种适合变形图像的稠密匹配方法 | |
| CN103489173A (zh) | 一种视频图像超分辨率重建方法 | |
| CN109801215A (zh) | 基于对抗生成网络的红外超分辨率成像方法 | |
| CN109064410A (zh) | 一种基于超像素的光场图像拼接方法 | |
| CN112884650B (zh) | 一种基于自适应纹理蒸馏的图像混合超分辨率方法 | |
| CN112785502B (zh) | 一种基于纹理迁移的混合相机的光场图像超分辨率方法 | |
| CN113901928A (zh) | 一种基于动态超分辨率的目标检测方法、输电线路部件检测方法及系统 | |
| CN115526779A (zh) | 一种基于动态注意力机制的红外图像超分辨率重建方法 | |
| CN112767246B (zh) | 光场图像多倍率空间超分辨方法及装置 | |
| CN114897680A (zh) | 融合光场子孔径图像与宏像素图像的角度超分辨率方法 | |
| CN115511705A (zh) | 一种基于可变形残差卷积神经网络的图像超分辨率重建方法 | |
| JPWO2006033257A1 (ja) | 画像変換方法、画像変換装置、サーバークライアントシステム、携帯機器およびプログラム | |
| CN116468625A (zh) | 基于金字塔高效通道注意力机制的单幅图像去雾方法和系统 | |
| Li et al. | An improved method for underwater image super-resolution and enhancement | |
| CN116091319A (zh) | 基于长距离上下文依赖的图像超分辨率重建方法及系统 | |
| CN115578260A (zh) | 针对图像超分辨率的方向解耦的注意力方法和系统 | |
| Cao et al. | Multi-models fusion for light field angular super-resolution |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |