CN110223219B - 3d图像的生成方法及装置 - Google Patents

Abstract

本发明公开了一种3D图像的生成方法及装置。其中，该方法包括：基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；基于目标图像序列生成3D图像。本发明解决了相关技术中当摄像机环绕某个目标物体拍摄时，容易出现抖动影响拍摄效果的技术问题。

Description

3D图像的生成方法及装置

技术领域

本发明涉及图像处理技术领域，具体而言，涉及一种3D图像的生成方法及装置。

背景技术

目前，基于图像、视频方面的社交分享，大多是静态图像滤镜与特效(AI或传统图像技术)、短视频、全景图像VR浏览方面的分享。当摄像机以自己为中心、拍摄四周时，可以基于全景拼接技术计算全景图、并可以处理成VR浏览效果。但是，当拍摄者环绕某个目标物体拍摄时，视频容易出现抖动，并且目标物在图像上位置会随机变动，从而会影响拍摄效果。

针对上述相关技术中当摄像机环绕某个目标物体拍摄时容易出现抖动的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种3D图像的生成方法及装置，以至少解决相关技术中当摄像机环绕某个目标物体拍摄时，容易出现抖动影响拍摄效果的技术问题。

根据本发明实施例的一个方面，提供了一种3D图像的生成方法，包括：对待处理的原始图像序列的首帧图像进行特征提取，得到所述首帧图像的特征信息；基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对；基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数；基于所述相邻两帧图像之间的2D仿射参数确定所述待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理，得到目标图像序列；基于所述目标图像序列生成3D图像。

可选地，基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对包括：基于所述首帧图像的特征信息通过光流跟踪确定所述相邻两帧图像之间的匹配点对，其中，所述匹配点对包括：所述相邻两帧图像中前一帧图像中的特征点对应的坐标，所述相邻两帧图像中后一帧图像中的特征点对应的坐标。

可选地，在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，该3D图像的生成方法还包括：确定所述匹配点对的数量大于匹配点对数量阈值；根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

可选地，在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，该3D图像的生成方法还包括：确定所述匹配点对的数量不大于匹配点对数量阈值；确定所述相邻两帧图像中后一帧图像的特征信息一和所述相邻两帧图像中前一帧图像的特征信息二，并根据所述特征信息一中的描述子和所述特征信息二中的描述子匹配得到所述相邻两帧图像的匹配点对；根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

可选地，基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数包括：基于所述相邻两帧图像中每帧图像对应的目标物的中心点对所述每帧图像的匹配点坐标进行中心化，得到中心化后的所述每帧图像的匹配点坐标；利用所述中心化后的所述每帧图像的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数。

可选地，确定所述平滑的累积2D仿射参数包括：在所述相邻两帧图像之间的2D仿射参数的基础上，累积得到所述待处理的原始图像序列中预定帧图像到首帧图像的累积2D仿射参数，并通过滤波算法预测得到所述待处理的原始图像序列中预定帧图像到首帧图像之间的所述平滑的累积2D仿射参数。

可选地，对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理包括：将所述累积2D仿射参数到所述平滑的累积2D仿射参数进行仿射变换，以确定所述待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；基于所述仿射变换程度对所述待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

可选地，基于所述目标图像序列生成3D图像包括：确定所述仿射变换后的图像序列中每帧图像的有效区域；基于所述有效区域对所述仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到所述目标图像序列；基于所述目标图像序列生成所述3D图像。

根据本发明实施例的另外一个方面，还提供了一种3D图像的生成装置，包括：特征提取单元，用于对待处理的原始图像序列的首帧图像进行特征提取，得到所述首帧图像的特征信息；第一确定单元，用于基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对；第二确定单元，用于基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数；第三确定单元，用于基于所述相邻两帧图像之间的2D仿射参数确定所述待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；映射处理单元，用于对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理，得到目标图像序列；生成单元，用于基于所述目标图像序列生成3D图像。

可选地，所述第一确定单元包括：第一确定模块，用于基于所述首帧图像的特征信息通过光流跟踪确定所述相邻两帧图像之间的匹配点对，其中，所述匹配点对包括：所述相邻两帧图像中前一帧图像中的特征点对应的坐标，所述相邻两帧图像中后一帧图像中的特征点对应的坐标。

可选地，该3D图像的生成装置还包括：第四确定单元，用于在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，确定所述匹配点对的数量大于匹配点对数量阈值；第五确定单元，用于根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

可选地，该3D图像的生成装置还包括：第六确定单元，用于在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，确定所述匹配点对的数量不大于匹配点对数量阈值；第七确定单元，用于确定所述相邻两帧图像中后一帧图像的特征信息一和所述相邻两帧图像中前一帧图像的特征信息二，并根据所述特征信息一中的描述子和所述特征信息二中的描述子匹配得到所述相邻两帧图像的匹配点对；第八确定单元，用于根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

可选地，所述第二确定单元包括：中心化处理模块，用于基于所述相邻两帧图像中每帧图像对应的目标物的中心点对所述每帧图像的匹配点坐标进行中心化，得到中心化后的所述每帧图像的匹配点坐标；第二确定模块，用于利用所述中心化后的所述每帧图像的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数。

可选地，所述第三确定单元包括：第三确定模块，用于在所述相邻两帧图像之间的2D仿射参数的基础上，累积得到所述待处理的原始图像序列中预定帧图像到首帧图像的累积2D仿射参数，并通过滤波算法预测得到所述待处理的原始图像序列中预定帧图像到首帧图像之间的所述平滑的累积2D仿射参数。

可选地，所述映射处理单元包括：第四确定模块，用于将所述累积2D仿射参数到所述平滑的累积2D仿射参数进行仿射变换，以确定所述待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；第五确定模块，用于基于所述仿射变换程度对所述待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

可选地，所述生成单元包括：第六确定模块，用于确定所述仿射变换后的图像序列中每帧图像的有效区域；剪裁处理模块，用于基于所述有效区域对所述仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到所述目标图像序列；生成模块，用于基于所述目标图像序列生成所述3D图像。

根据本发明实施例的另外一个方面，还提供了一种存储介质，所述存储介质包括存储的程序，其中，所述程序执行上述中任意一项所述的3D图像的生成方法。

根据本发明实施例的另外一个方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述中任意一项所述的3D图像的生成方法。

在本发明实施例中，采用对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息；然后基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；接下来基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；并基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；再对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；以及基于目标图像序列生成3D图像的方式得到3D图像，实现了有效降低拍摄得到的视频的抖动程度以及观测目标中心化的目的，达到了去抖和3D视角的效果，进而解决了相关技术中当摄像机环绕某个目标物体拍摄时，容易出现抖动影响拍摄效果的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的3D图像的生成方法的流程图；

图2是根据本发明实施例的可选的3D图像的生成方法的流程图；

图3是根据本发明实施例的3D图像的生成装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例1

根据本发明实施例，提供了一种3D图像的生成方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本发明实施例的3D图像的生成方法的流程图，如图1所示，该3D图像的生成方法包括如下步骤：

步骤S102，对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息。

其中，上述特征信息可以包括：首帧图像的特征点和描述子。

传统的图像特征包含两部分：特征点和描述子。常见的特征点提取方法有：harris、hessian、DoG、LoG等，常见的描述子有：SIFT、LIOP、SURF等。常用的SIFT特征是多尺度空间(高斯金字塔)极值点LoG和128或256维SIFT描述子的组合。其中，在本发明实施例中使用了Harrislaplace(多尺度空间的Harris角点)作为特征点；对比多尺度空间(高斯金字塔)极值点，Harrislaplace提取特征点更严格，具有误检少的优点；对比Harris角点检测，具有漏检少的优点。

其中，在本发明实施例中，在进行特征提取的时候，是对待处理的原始图像序列的首帧图像进行特征提取。

步骤S104，基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对。

在上述步骤S104中，基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对可以包括：基于首帧图像的特征信息通过光流跟踪确定相邻两帧图像之间的匹配点对，其中，上述匹配点对可以包括：相邻两帧图像中前一帧图像中的特征点对应的坐标，相邻两帧图像中后一帧图像中的特征点对应的坐标。

以原始图像序列中的目标物为冰箱例进行说明。假如，冰箱在第2帧图像中的4个特征点为4个坐标，即，A、B、C、D；在第3帧图像中示出了冰箱的3个特征点，即，3个坐标，即，B′、C′、D＇。那么，基于第2帧图像和第3帧图像确定的匹配点对为(B、C、D、B′、C′、D＇)。

例如，通常在计算得到两帧图像序列的特征点和相应描述子之后，会先基于描述子距离匹配得到两帧图像的初始匹配点对，再基于ransac算法估计两帧图像序列之间的变换矩阵，并得到优化后的匹配点对。考虑计算效率，使用特征点光流跟踪。假定目标像素相邻帧亮度不变、帧间运动较小，且局部有相似运动。可以通过上一帧的特征点位置，预测到当前帧相应点的位置。第一帧图像序列计算Harrislaplace特征点，后面帧通过光流跟踪得到相应点的预测点。

步骤S106，基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数。

步骤S108，基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数。

步骤S110，对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列。

步骤S112，基于目标图像序列生成3D图像。

通过上述步骤，可以对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息；然后基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；再基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；接下来基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；并对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；以及基于目标图像序列生成3D图像。相对于相关技术中当拍摄者环绕某个目标物体拍摄时，拍摄得到的视频容易出现抖动，并且目标物在图像上位置会随机变动，影响拍摄效果的弊端。在本发明实施例中，可以在确定原始图像序列的首帧图像的特征信息后，对剩余帧的图像利用光流跟踪得到其特征点，进而得到原始图像序列中每帧图像的匹配点坐标，并基于匹配点坐标确定相邻两帧图像之间的2D仿射参数，以得到目标图像序列对应的3D图像，实现了有效降低拍摄得到的视频的抖动程度以及观测目标中心化的目的，达到了去抖和3D视角的效果，进而解决了相关技术中当摄像机环绕某个目标物体拍摄时，容易出现抖动影响拍摄效果的技术问题。

在一个可选的实施例中，在基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，该3D图像的生成方法还可以包括：确定匹配点对的数量大于匹配点对数量阈值；根据相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

例如，匹配点对数量阈值为10，如果确定的匹配点对的数量为11时，则根据相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

具体地，任一帧得到的特征点集都是相邻帧匹配的结果，且是一对一的关系。摄像机围绕一个目标物拍摄时，相邻的视角对应的图像都是共享一部分该目标物上的特征点，从第一帧与第二帧共享的特征点集，直到最后两帧图像共享的特征点集，都聚集在该拍摄目标物上，所以用当前帧图像所匹配点集最密集处的中心来近似当前帧图像中目标物的中心。相邻帧特征匹配后，计算当前帧匹配点集对应的图像区域，并对该区域进行分块，找到匹配点最密集的块，计算该块匹配点集的中心，将其作为该帧中目标物的中心。

另外，在基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，该3D图像的生成方法还可以包括：确定匹配点对的数量不大于匹配点对数量阈值；确定相邻两帧图像中后一帧图像的特征信息一和相邻两帧图像中前一帧图像的特征信息二，并根据特征信息一中的描述子和特征信息二中的描述子匹配得到相邻两帧图像的匹配点对；根据相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

即，当确定匹配点对的数量不大于匹配点对数量阈值时，数量不足的匹配点对不足以去估计仿射参数。此时，则需要对出现匹配点对的数量不大于匹配点对数量阈值时，则对相邻两帧图像进行特征提取，得到相邻两帧图像分别对应的特征信息一和特征信息二，并基于特征信息一和特征信息二对应的描述子一和描述子二匹配得到相邻两帧图像的匹配点对，再基于相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

在步骤S108中，基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数可以包括：基于相邻两帧图像中每帧图像对应的目标物的中心点对每帧图像的匹配点坐标进行中心化，得到中心化后的每帧图像的匹配点坐标；利用中心化后的每帧图像的匹配点坐标确定相邻两帧图像之间的2D仿射参数。

其中，确定平滑的累积2D仿射参数可以包括：在相邻两帧图像之间的2D仿射参数的基础上，累积得到待处理的原始图像序列中预定帧图像到首帧图像的累积2D仿射参数，并通过滤波算法预测得到待处理的原始图像序列中预定帧图像到首帧图像之间的平滑的累积2D仿射参数。

需要说明的是，在本发明实施例中对上述滤波算法不做具体限定，可以包括但不限于以下几种：卡尔曼滤波算法，消抖滤波算法。优选为，卡尔曼滤波算法。

在一个可选的实施例中，对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理可以包括：将累积2D仿射参数到平滑的累积2D仿射参数进行仿射变换，以确定待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；基于仿射变换程度对待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

在步骤S112中，基于目标图像序列生成3D图像可以包括：确定仿射变换后的图像序列中每帧图像的有效区域；基于有效区域对仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到目标图像序列；基于目标图像序列生成3D图像。

下面结合附图对本发明一个可选的实施例进行详细说明。

图2是根据本发明实施例的可选的3D图像的生成方法的流程图，如图2所示，在得到待处理的原始图像序列后，计算第1帧图像的特征信息，利用光流跟踪得到第i帧图像和第i+1帧图像的匹配点对，并判断匹配点对的数量是否大于匹配点对数量阈值；在判断结果为否的情况下，计算第i+1帧的Harrislaplace特征点和描述子，并计算第i帧的HarrisLaplace特征点和对应的描述子；基于描述子匹配得到第i+1帧到第i帧的匹配点对；基于匹配点对，估计第i帧图像中目标物的中心点，基于第i帧图像的中心点，对第i帧进行中心化得到第i帧的匹配点坐标；计算第i帧图像和第i+1帧图像之间的2D仿射参数；然后计算第i+1帧到首帧的累积2D仿射参数，同时利用滤波算法预测第i+1帧到首帧的平滑的累积2D仿射参数；对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；根据累积2D仿射参数和平滑的累积2D仿射参数确定每帧图像的仿射变换程度，利用仿射变换程度对待处理的原始图像序列进行过滤，并得到基于仿射变换参数进行仿射变换后的图像序列；确定仿射变换后的图像序列中每帧图像的有效区域，并基于有效区域对仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到目标图像序列；对目标图像序列进行交互，生成3D图像。

通过本发明实施例提供的3D图像的生成方法使用鲁棒性更好的Harrislaplace特征点检测，降低了特征点的误检、漏检；另外，在光流跟踪中断时，重新在中断处进行特征点检测和描述子计算，并基于描述子进行匹配，使用光流跟踪确定相邻两帧图像之间的匹配点对；并且也对每帧图像中的目标物的中心点进行了估计，中心化了每帧特征点的坐标，对2D拍摄轨迹进行了估计和平滑，将图像序列映射到了新的轨迹上，使得新图像序列达到了去抖和3D效果。

实施例2

根据本发明实施例还提供了一种3D图像的生成装置，需要说明的是，本发明实施例的3D图像的生成装置可以用于执行本发明实施例所提供的3D图像的生成方法。以下对本发明实施例提供的3D图像的生成装置进行介绍。

图3是根据本发明实施例的3D图像的生成装置的示意图，如图3所示，该3D图像的生成装置包括：特征提取单元31，第一确定单元32，第二确定单元33，第三确定单元34，映射处理单元35以及生成单元36。下面对该3D图像的生成装置进行详细说明。

其中，特征提取单元31，用于对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息。

第一确定单元32，用于基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对。

第二确定单元33，用于基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数。

第三确定单元34，用于基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数。

映射处理单元35，用于对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列。

生成单元36，用于基于目标图像序列生成3D图像。

需要说明的是，该实施例中的特征提取单元31可以用于执行本发明实施例中的步骤S102，该实施例中的第一确定单元32可以用于执行本发明实施例中的步骤S104，该实施例中的第二确定单元33可以用于执行本发明实施例中的步骤S106，该实施例中的第三确定单元34可以用于执行本发明实施例中的步骤S108，该实施例中的映射处理单元35可以用于执行本发明实施例中的步骤S110，该实施例中的生成单元36可以用于执行本发明实施例中的步骤S112。上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例所公开的内容。

由上可知，在本发明实施例中，可以利用特征提取单元对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息；然后利用第一确定单元基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；再利用第二确定单元基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；并利用第三确定单元基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；以及利用映射处理单元对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；并利用生成单元基于目标图像序列生成3D图像，实现了有效降低拍摄得到的视频的抖动程度以及观测目标中心化的目的，达到了去抖和3D视角的效果，进而解决了相关技术中当摄像机环绕某个目标物体拍摄时，容易出现抖动影响拍摄效果的技术问题。

作为一种可选的实施例，第一确定单元包括：第一确定模块，用于基于首帧图像的特征信息通过光流跟踪确定相邻两帧图像之间的匹配点对，其中，匹配点对包括：相邻两帧图像中前一帧图像中的特征点对应的坐标，相邻两帧图像中后一帧图像中的特征点对应的坐标。

作为一种可选的实施例，该3D图像的生成装置还包括：第四确定单元，用于在基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，确定匹配点对的数量大于匹配点对数量阈值；第五确定单元，用于根据相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

作为一种可选的实施例，该3D图像的生成装置还可以包括：第六确定单元，用于在基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，确定匹配点对的数量不大于匹配点对数量阈值；第七确定单元，用于确定相邻两帧图像中后一帧图像的特征信息一和相邻两帧图像中前一帧图像的特征信息二，并根据特征信息一中的描述子和特征信息二中的描述子匹配得到相邻两帧图像的匹配点对；第八确定单元，用于根据相邻两帧图像的匹配点对确定相邻图像中每帧图像的匹配点分布，以确定相邻两帧图像中每帧图像对应的目标物的中心点。

作为一种可选的实施例，第二确定单元包括：中心化处理模块，用于基于相邻两帧图像中每帧图像对应的目标物的中心点对每帧图像的匹配点坐标进行中心化，得到中心化后的每帧图像的匹配点坐标；第二确定模块，用于利用中心化后的每帧图像的匹配点坐标确定相邻两帧图像之间的2D仿射参数。

作为一种可选的实施例，第三确定单元包括：第三确定模块，用于在相邻两帧图像之间的2D仿射参数的基础上，累积得到待处理的原始图像序列中预定帧图像到首帧图像的累积2D仿射参数，并通过滤波算法预测得到待处理的原始图像序列中预定帧图像到首帧图像之间的平滑的累积2D仿射参数。

作为一种可选的实施例，映射处理单元包括：第四确定模块，用于将累积2D仿射参数到平滑的累积2D仿射参数进行仿射变换，以确定待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；第五确定模块，用于基于仿射变换程度对待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

作为一种可选的实施例，生成单元包括：第六确定模块，用于确定仿射变换后的图像序列中每帧图像的有效区域；剪裁处理模块，用于基于有效区域对仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到所述目标图像序列；生成模块，用于基于目标图像序列生成3D图像。

上述3D图像的生成装置包括处理器和存储器，上述特征提取单元31，第一确定单元32，第二确定单元33，第三确定单元34，映射处理单元35以及生成单元36等均作为程序单元存储在存储器中，由处理器执行存储在存储器中的上述程序单元来实现相应的功能。

上述处理器中包含内核，由内核去存储器中调取相应的程序单元。内核可以设置一个或以上，通过调整内核参数基于目标图像序列生成3D图像。

上述存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器包括至少一个存储芯片。

根据本发明实施例的另外一个方面，还提供了一种存储介质，存储介质包括存储的程序，其中，程序执行上述中任意一项的3D图像的生成方法。

根据本发明实施例的另外一个方面，还提供了一种处理器，处理器用于运行程序，其中，程序运行时执行上述中任意一项的3D图像的生成方法。

在本发明实施例中还提供了一种设备，该设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息；基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；基于目标图像序列生成3D图像。

在本发明实施例中还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序：对待处理的原始图像序列的首帧图像进行特征提取，得到首帧图像的特征信息；基于首帧图像的特征信息确定待处理的原始图像序列中相邻两帧图像之间的匹配点对；基于相邻两帧图像之间的匹配点对对应的匹配点坐标确定相邻两帧图像之间的2D仿射参数；基于相邻两帧图像之间的2D仿射参数确定待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；对累积2D仿射参数进行向平滑的累积2D仿射参数的映射处理，得到目标图像序列；基于目标图像序列生成3D图像。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (9)

1.一种3D图像的生成方法，其特征在于，包括：

对待处理的原始图像序列的首帧图像进行特征提取，得到所述首帧图像的特征信息；

基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对；

基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数；

基于所述相邻两帧图像之间的2D仿射参数确定所述待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；

对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理，得到目标图像序列；

基于所述目标图像序列生成3D图像；

其中，对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理包括：将所述累积2D仿射参数到所述平滑的累积2D仿射参数进行仿射变换，以确定所述待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；基于所述仿射变换程度对所述待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

2.根据权利要求1所述的方法，其特征在于，基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对包括：

基于所述首帧图像的特征信息通过光流跟踪确定所述相邻两帧图像之间的匹配点对，其中，所述匹配点对包括：所述相邻两帧图像中前一帧图像中的特征点对应的坐标，所述相邻两帧图像中后一帧图像中的特征点对应的坐标。

3.根据权利要求1所述的方法，其特征在于，在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，还包括：

确定所述匹配点对的数量大于匹配点对数量阈值；

根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

4.根据权利要求1所述的方法，其特征在于，在基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对之后，还包括：

确定所述匹配点对的数量不大于匹配点对数量阈值；

确定所述相邻两帧图像中后一帧图像的特征信息一和所述相邻两帧图像中前一帧图像的特征信息二，并根据所述特征信息一中的描述子和所述特征信息二中的描述子匹配得到所述相邻两帧图像的匹配点对；

根据所述相邻两帧图像的匹配点对确定所述相邻两帧图像中每帧图像的匹配点分布，以确定所述相邻两帧图像中每帧图像对应的目标物的中心点。

5.根据权利要求3或4所述的方法，其特征在于，基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数包括：

基于所述相邻两帧图像中每帧图像对应的目标物的中心点对所述每帧图像的匹配点坐标进行中心化，得到中心化后的所述每帧图像的匹配点坐标；

利用所述中心化后的所述每帧图像的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数。

6.根据权利要求5所述的方法，其特征在于，确定所述平滑的累积2D仿射参数包括：

在所述相邻两帧图像之间的2D仿射参数的基础上，累积得到所述待处理的原始图像序列中预定帧图像到首帧图像的累积2D仿射参数，并通过滤波算法预测得到所述待处理的原始图像序列中预定帧图像到首帧图像之间的所述平滑的累积2D仿射参数。

7.根据权利要求1所述的方法，其特征在于，基于所述目标图像序列生成3D图像包括：

确定所述仿射变换后的图像序列中每帧图像的有效区域；

基于所述有效区域对所述仿射变换后的图像序列中的每帧图像进行剪裁处理，以得到所述目标图像序列；

基于所述目标图像序列生成所述3D图像。

8.一种3D图像的生成装置，其特征在于，包括：

特征提取单元，用于对待处理的原始图像序列的首帧图像进行特征提取，得到所述首帧图像的特征信息；

第一确定单元，用于基于所述首帧图像的特征信息确定所述待处理的原始图像序列中相邻两帧图像之间的匹配点对；

第二确定单元，用于基于所述相邻两帧图像之间的匹配点对对应的匹配点坐标确定所述相邻两帧图像之间的2D仿射参数；

第三确定单元，用于基于所述相邻两帧图像之间的2D仿射参数确定所述待处理的原始图像序列中预定帧图像到首帧图像之间的累积2D仿射参数以及平滑的累积2D仿射参数；

映射处理单元，用于对所述累积2D仿射参数进行向所述平滑的累积2D仿射参数的映射处理，得到目标图像序列；

生成单元，用于基于所述目标图像序列生成3D图像；

其中，所述映射处理单元包括：第四确定模块，用于将所述累积2D仿射参数到所述平滑的累积2D仿射参数进行仿射变换，以确定所述待处理的原始图像序列中每帧图像的仿射变换参数和仿射变换程度；第五确定模块，用于基于所述仿射变换程度对所述待处理的原始图像序列进行过滤，并对过滤后的所述待处理的原始图像序列基于所述仿射变换参数进行仿射变换，以得到仿射变换后的图像序列。

9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，所述程序执行权利要求1至7中任意一项所述的3D图像的生成方法。

Images