CN113763545A - 图像确定方法、装置、电子设备和计算机可读存储介质 - Google Patents

图像确定方法、装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN113763545A
CN113763545A CN202111109155.5A CN202111109155A CN113763545A CN 113763545 A CN113763545 A CN 113763545A CN 202111109155 A CN202111109155 A CN 202111109155A CN 113763545 A CN113763545 A CN 113763545A
Authority
CN
China
Prior art keywords
camera
cameras
image
parameters
frame group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111109155.5A
Other languages
English (en)
Inventor
吴垒
段柳云
闵伟
张金钟
施杰
王佳军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rajax Network Technology Co Ltd
Original Assignee
Rajax Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rajax Network Technology Co Ltd filed Critical Rajax Network Technology Co Ltd
Priority to CN202111109155.5A priority Critical patent/CN113763545A/zh
Publication of CN113763545A publication Critical patent/CN113763545A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明实施例公开了一种图像确定方法、装置、电子设备和计算机可读存储介质,通过确定至少一个第一摄像头和至少一个第二摄像头分别对应的同步帧组,并对各所述摄像头进行相机标定,以确定各所述摄像头的参数,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型,根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像,由此,可以提高图像建模的准确性。

Description

图像确定方法、装置、电子设备和计算机可读存储介质
技术领域
本发明涉及计算机技术领域,更具体地,涉及一种图像确定方法、装置、电子设备和计算机可读存储介质。
背景技术
随着三维数字技术的发展,三维模型的动画、游戏、虚拟现实、3D打印等领域有着越来越多的应用,因此,如何更准确地进行图像建模是亟待解决的问题。
发明内容
有鉴于此,本发明实施例提供了一种图像确定方法、装置、电子设备和计算机可读存储介质,以提高图像建模的准确性。
第一方面,本发明实施例公开了一种图像确定方法,所述方法包括:
确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
可选的,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
可选的,对各所述摄像头进行相机标定,以确定各所述摄像头的参数包括:
计算各所述摄像机的内参;
计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
可选的,对各所述摄像头进行相机标定,以确定各所述摄像头的参数还包括:
对所述内参和外参进行微调,以确定各所述摄像头的参数。
可选的,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型包括:
对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据;
根据所述参数对所述点云数据进行融合,以获取所述几何模型。
可选的,根据所述参数对所述点云数据进行融合,以获取所述几何模型包括:
根据所述参数对所述点云数据进行融合,确定初始模型;
对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
可选的,确定多个摄像头分别对应的同步帧组包括:
获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得;
对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧;
从各所述图像帧组中确定各所述摄像头对应的同步帧组。
可选的,所述目标对象相对于各所述摄像头周期性处于静止状态;
所述图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
可选的,从各所述图像帧组中确定各所述摄像头对应的同步帧组包括:
获取各所述图像帧组中的各静止周期内的中间帧,以确定各所述摄像头对应的同步帧组。
可选的,对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组包括:
基于光流法对多组所述视频数据进行处理,获得各视频数据分别对应的图像帧组。
可选的,多个所述摄像头固定连接。
可选的,所述目标对象设置于旋转台上,所述旋转台受控每旋转预定角度后静止预定时间直至旋转一周。
第二方面,本发明实施例公开了一种图像确定装置,所述装置包括:
同步帧确定单元,被配置为确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
相机标定单元,被配置为对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
模型构建单元,被配置为根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
贴图单元,被配置为根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
可选的,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
可选的,所述相机标定单元包括:
内参计算子单元,被配置为计算各所述摄像机的内参;
外参计算子单元,被配置为计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
可选的,所述相机标定单元还包括:
微调子单元,被配置为对所述内参和外参进行微调,以确定各所述摄像头的参数。
可选的,所述模型构建单元包括:
特征提取子单元,被配置为对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据;
模型构建子单元,被配置为根据所述参数对所述点云数据进行融合,以获取所述几何模型。
可选的,所述模型构建子单元包括:
融合模块,被配置为根据所述参数对所述点云数据进行融合,确定初始模型;
预处理模块,被配置为对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
可选的,所述同步帧确定单元包括:
视频获取子单元,被配置为获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得;
视频处理子单元,被配置为对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧;
同步帧确定子单元,被配置为从各所述图像帧组中确定各所述摄像头对应的同步帧组。
可选的,所述目标对象相对于各所述摄像头周期性处于静止状态;
所述图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
可选的,所述同步帧确定子单元包括:
同步帧确定模块,被配置为获取各所述图像帧组中的各静止周期内的中间帧,以确定各所述摄像头对应的同步帧组。
可选的,所述视频处理子单元进一步被配置为基于光流法对多组所述视频数据进行处理,获得各视频数据分别对应的图像帧组。
可选的,多个所述摄像头固定连接。
可选的,所述目标对象设置于旋转台上,所述旋转台受控每旋转预定角度后静止预定时间直至旋转一周。
第三方面,本发明实施例提供一种电子设备,包括存储器和处理器,所述存储器用于存储一条或多条计算机程序指令,其中,所述一条或多条计算机程序指令被所述处理器执行以实现如本发明实施例第一方面所述的方法。
第四方面,本发明实施例提供一种计算机可读存储介质,其上存储计算机程序指令,所述计算机程序指令在被处理器执行时以实现如本发明实施例第一方面所述的方法。
本发明实施例通过确定至少一个第一摄像头和至少一个第二摄像头分别对应的同步帧组,并对各所述摄像头进行相机标定,以确定各所述摄像头的参数,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型,根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像,由此,可以提高图像建模的准确性。
附图说明
通过以下参照附图对本发明实施例的描述,本发明的上述以及其它目的、特征和优点将更为清楚,在附图中:
图1是本发明实施例的图像确定方法的示意图;
图2是本发明实施例的同步帧确定方法的流程图;
图3是本发明实施例的视频采集过程示意图;
图4是本发明实施例的图像帧组的获取过程示意图;
图5是本发明实施例的同步帧组的获取过程示意图;
图6是本发明实施例的参数微调的过程示意图;
图7是本发明实施例的几何模型预处理过程的示意图;
图8是本发明实施例的贴图的过程示意图;
图9是本发明实施例的图像确定装置的示意图;
图10是本发明实施例的电子设备的示意图。
具体实施方式
以下基于实施例对本发明进行描述,但是本发明并不仅仅限于这些实施例。在下文对本发明的细节描述中,详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本发明。为了避免混淆本发明的实质,公知的方法、过程、流程、元件和电路并没有详细叙述。
此外,本领域普通技术人员应当理解,在此提供的附图都是为了说明的目的,并且附图不一定是按比例绘制的。
除非上下文明确要求,否则在说明书的“包括”、“包含”等类似词语应当解释为包含的含义而不是排他或穷举的含义;也就是说,是“包括但不限于”的含义。
在本发明的描述中,需要理解的是,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性。此外,在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
图1是本发明实施例的图像确定方法的示意图。如图1所示,本发明实施例的图像确定方法包括以下步骤:
步骤S110,确定多个摄像头分别对应的同步帧组。其中,多个摄像头包括至少一个第一摄像头和至少一个第二摄像头。可选的,多个摄像头固定连接,以避免各摄像头发生相对移动造成的视频相对拍摄偏移的情况,进而避免同步率降低的情况。可选的,第一摄像头为深度摄像头,第二摄像头为分辨率大于预定值的高清摄像头(例如内置在移动设备中的摄像头等)。深度摄像头也即具有深度检测功能的摄像头,可以提取目标对象的平面图像、三维信息等,也即其扫描到的每帧图像包括场景中的点的彩色RGB图像以及每个点到深度摄像头所在的垂直平面的距离值。
图2是本发明实施例的同步帧确定方法的流程图。在一种可选的实现方式中,如图2所示,步骤S110可以包括以下步骤:
步骤S111,获取多组视频数据。其中,多组视频数据通过多个所述摄像头采集获得。可选的,在本实施例中,多个摄像头对目标对象进行同时拍摄,以获取多组视频数据。
在一种可选的实现方式中,在采集目标对象的视频数据时,将目标对象设置于旋转台上,并受控旋转台每旋转预定角度后静止预定时间直至旋转一周,由此,使得目标对象相对于各摄像头周期性处于静止状态。
图3是本发明实施例的视频采集过程示意图。如图3所示,本实施例以两个摄像头为例进行描述。在本实施例中,采用旋转台31承载目标对象32,控制旋转台31每旋转预定角度后静止预定时间直至旋转一周,摄像头33和34刚性固定连接,通过录制旋转台31旋转一周的视频以获取两组视频数据。可选的,摄像头33可以为深度摄像头,摄像头34可以为智能设备中内置的分辨率大于预定值的高清摄像头。如图3所示,摄像头33和34上下固定放置,应理解,本实施例并不对摄像头33和34的相互设置位置进行限制,在摄像头33和34的相互设置位置固定后,通过相机标定(也即调节相机内外参数)使得摄像头33和34所录制的视频数据相对应。
可选的,上述静止周期的预定时间大于等于各摄像头的曝光时间。应理解,本实施例并不对上述预定角度和预定时间进行限制,其可以根据目标对象的类别进行设置。
步骤S112,对多组视频数据进行处理,获得各视频数据分别对应的图像帧组。其中,图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧。
在一种可选的实现方式中,如上所述,目标对象相对于各摄像头周期性处于静止状态,由此,图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
在一种可选的实现方式中,步骤112具体可以为:基于光流法对多组视频数据进行处理,获得各视频数据分别对应的图像帧组。
光流是空间运动物体在观察成像平面上的像素运动的瞬时速度,其可以根据目标对象本身的移动、摄像头的移动、或者两者的共同运动产生。光流法是利用图像序列中像素在时间域上的变化以及相邻帧之间的相关性来找到上一帧与当前帧之间存在的对应关系,从而计算出相邻帧之间物体的运动信息的一种方法。
光流法的基本约束方程为:
Ixu+Iyv+It=0
其中,Ix、Iy和It分别表征图像中的像素点的灰度沿x轴、y轴和t轴(时间轴)方向上的变化,均可由相邻帧的图像数据确定,(u,v)为光流矢量。
上述基本约束方程包括两个未知量u、v,因此,通常需要引入其他约束条件,例如基于梯度(微分)的方法(例如Hom-Schunck算法、Lucas-Kanade算法等)、基于匹配的方法、基于能量(频率)的方法、基于相位的方法和基于神经动力学方法等来计算光流矢量。
可选的,本实施例可以采用opencv(计算机视觉库)中的光流处理函数(例如Lucas-Kanade算法等)来处理视频数据。应理解,本实施例并不对光流计算方法进行限制。
摄像头在静止周期内采集的视频数据中,相邻帧基本是相同的图像,由此,可以通过上述任意光流法计算满足相邻帧基本相同,也即像素点的灰度沿x轴、y轴和t轴(时间轴)方向上基本不变,光流矢量基本为
Figure BDA0003273645820000081
的相邻帧,以获取各组视频数据中的目标对象处于静止状态的图像帧组。
图4是本发明实施例的图像帧组的获取过程示意图。本实施例以图3中摄像头33和34获取的视频数据为例。如图4所示,视频数据41包括时间周期t0、时间周期t1、时间周期t2、时间周期t3内的视频帧,采用上述任一光流法计算视频数据41中的相邻帧的像素点沿各轴方向的变化以及光流矢量,从而确定连续相同的图像帧,以确定静止状态下的图像帧。如图4所示,可以确定在时间周期t1和t3内目标对象处于静止状态,将时间周期t1和t3内的视频帧确定为图像帧组42。应理解,在视频采集过程中,目标对象的静止周期和非静止周期的时间可以相同也可以不同,本实施例并不对此进行限制。
步骤S113,从各图像帧组中确定各摄像头对应的同步帧组。在一种可选的实现方式中,将各图像帧组中相同位置的图像帧确定为对应的同步帧。可选的,将各图像帧组中的位于各静止周期内的相同位置的图像帧确定为对应的同步帧组。可选的,获取各图像帧组中的各静止周期内的中间帧,以确定各摄像头对应的同步帧组。
图5是本发明实施例的同步帧组的获取过程示意图。本实施例以图4所示的图像帧组42为例进行说明。如图5所示,假设各图像帧组包括有N(N≥1)个静止周期t1、t3等,获取各图像帧组中的第1个静止周期t1内的中间帧p1、第2个静止周期t3内的中间帧p2以及其他静止周期内的中间帧,以确定对应的同步帧组。由于在视频采集过程中,目标对象是旋转的,由此,同步帧组包括多个角度的目标对象图像帧。
在其他可选的实现方式中,可以将静止周期内其他位置的图像帧确定为同步帧。例如将位于3/5位置的图像帧确定为同步帧,也即假设一静止周期包括10个图像帧,则将第6个图像帧确定为同步帧。
在其他可选的实现方式中,可以将静止周期内位于中间位置的连续预定帧确定为同步帧。例如将位于中间位置的连续3帧确定为同步帧。假设静止周期包括11个图像帧,则将第5-7个图像帧确定为同步帧。应理解,本实施例并不对获取同步帧的方式进行限制。
本实施例通过从静止状态下的图像帧中确定同步帧,可以进一步提高获取的视频帧的同步率,进而提高图像建模的准确性。
步骤S120,对各摄像头进行相机标定,以确定各摄像头的参数。在一种可选的实现方式中,步骤S120可以包括:计算各摄像机的内参,计算各摄像机之间的相机坐标转换,确定各摄像机的外参。可选的,在本实施例中,可以采用任意深度摄像头对应的3D重建方法进行摄像头内外参的调节。可选的,采用高斯牛顿法或交替优化法等进行摄像头内外参的优化。应理解,本实施例并不对相机标定的方法(也即内外参计算方法)进行限制。
在本实施例中,可以采用上述同步帧进行相机标定,获取各摄像头的内外参,也可以采用另外拍摄的图像,本实施例并不对此进行限制。可选的,本实施例通过设置标定板来进行相机标定,以确定各摄像头的内外参。可选的,标定板可以采用棋盘格、对称圆形或非对称圆形特征图等标定图案,本实施例并不对此进行限制。
在一种可选的实现方式中,多个摄像头包括深度摄像头和分辨率大于预定值的高清摄像头,通过标定板可以得到多个对应的世界坐标三维点和对应的图像坐标二维点,计算这些三维点到二维点的转换确定各摄像头的内参,计算深度摄像头的相机坐标到高清摄像头的相机坐标的转换(高清摄像头的相机坐标到深度摄像头的相机坐标的转换),以确定深度摄像头到高清摄像头的相机外参(高清摄像头到深度摄像头的相机外参)。应理解,本实施例并不对多摄像头的相机标定方法进行限制。
在在一种可选的实现方式中,上述相机的自动标定完成后,标定板上可能依旧存在重影的情况。由此,在本实施例中,步骤S120还包括:对各摄像头内参和外参进行微调,以确定各摄像头的参数。可选的,在本实施例中,基于标定板的显示状态,例如是否有重影等,对采用上述方式确定的各摄像机内外参进行自动微调或手动微调,以尽可能避免标定板上存在重影等现象,从而可以进一步提高构建的几何模型的准确性,进而提高目标图像的清晰度。
图6是本发明实施例的参数微调的过程示意图。可选的,如图6所示,在控制设备显示屏6上展示标定板图片61、标定板的显示状态62和相机的内外参f1、f2等,其中相机的内外参具有对应的可编辑框63,接收相机内外参修改后的数据或变化量(例如+x、-x等),并基于修改后的相机内外参进行标定,确定此时标定板的显示状态,若重影情况改善,则表征此前的修改为正向修改,否则为负向修改。由此,本实施例可以通过观测标定板的实时显示状态来对相机的内外参进行微调,从而可以进一步提高几何建模的准确性。在其他可选的实现方式中,例如可以通过预先设置的微调方式(逐一按照预定步长增加或减小内外参)并实时检测标定板的显示状态进行自动微调等,本实施例并不对此进行限制。
步骤S130,根据摄像头的参数和第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型。其中,第一同步帧组也即基于第一摄像头拍摄的视频数据获取的同步帧组。可选的,第一摄像头为深度摄像头。
在一种可选的实现方式中,步骤S130具体可以包括:对第一同步帧组进行特征点提取,确定第一同步帧组中的各同步帧的点云数据,根据对应摄像头的参数(至少包括第一摄像头的内外参)对点云数据进行融合,以获取几何模型。可选的,根据对应摄像头的参数对点云数据进行融合,确定初始模型,对初始模型进行移除非目标对象部分、和/或移除孤立点、和/或补充空缺点等处理,以获取目标对象的几何模型。
图7是本发明实施例的几何模型预处理过程的示意图。如图7所示,根据对应摄像头的参数对点云数据进行融合,确定初始模型71,在初始模型71中,存在非目标对象部分711(例如前述的转台)、孤立点712以及空缺点713。在本实施例中,对初始模型71进行初始化处理,以移除非目标对象部分711和孤立点712、并基于空缺点周围的点对空缺处进行数据填充,从而得到几何模型72。由此,可以提高几何模型构建的准确性,进而可以提高由几何模型确定的目标图像的清晰度。
步骤S140,根据第二摄像头对应的第二同步帧组对几何模型进行贴图,确定目标图像。可选的,根据第二摄像头对应的第二同步帧组对几何模型进行纹理贴图(例如添加颜色或纹理)、或光泽贴图(例如添加光照形成的高亮)等,以确定目标图像。如图8所示,在本实施例中,根据第二摄像头对应的第二同步帧组的纹理特征82对几何模型81进行纹理贴图,以确定目标图像83。
纹理是一种针对物体表面属性进行建模的高校技术,图像纹理中的像素通常被称为纹素。贴图的核心思路是通过建立一定的映射方法,将片段所对应的物体表面的某一属性和数据源的某一位置的数据对应起来,再通过一定的应用方法,利用从数据源中获取的数据来改变物体表面的某一属性值,从而影响当前片段或是其他片段的着色计算,以及对合并输出阶段的结果产生影响,使物体表面外观发生一定的变化。
可选的,在本实施例中,通过投影函数将高清摄像头对应的同步帧中的三维点转化为纹理坐标,并将其投影到参数空间中,得到一组参数空间坐标,采用一个或多个映射函数将参数空间坐标转换到纹理空间位置,将纹理空间位置与获取的几何模型相结合,以确定目标图像。
在一种可选的实现方式中,在对几何模型进行贴图过程中,可以通过对对摄像头的参数进行优化,以目标图像进行全局优化、和/或局部优化、和/或顶点优化以提高目标图像的清晰度,同时可以通过加入非刚性形变进行局部扭曲,以更好地进行边缘对接,从而可以进一步提高目标图像的清晰度。
本发明实施例通过确定至少一个第一摄像头和至少一个第二摄像头分别对应的同步帧组,并对各所述摄像头进行相机标定,以确定各所述摄像头的参数,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型,根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像,由此,可以提高图像建模的准确性。同时,本实施例可以采用深度摄像头和智能设备内置的摄像头即可较为准确地实现视频帧的同步,相对于纯硬件的密集相机阵列同步方法,极大地减小了成本。
图9是本发明实施例的图像确定装置的示意图。如图9所示,本发明实施例的图像确定装置9包括同步帧确定单元91、相机标定单元92、模型构建单元93和贴图单元94。
同步帧确定单元91被配置为确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头。可选的,多个所述摄像头固定连接。可选的,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
在一种可选的实现方式中,同步帧确定单元91包括视频获取子单元、视频处理子单元和同步帧确定子单元。视频获取子单元被配置为获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得。视频处理子单元被配置为对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧。同步帧确定子单元被配置为从各所述图像帧组中确定各所述摄像头对应的同步帧组。
在一种可选的实现方式中,所述目标对象相对于各所述摄像头周期性处于静止状态,所述图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
在一种可选的实现方式中,所述同步帧确定子单元包括同步帧确定模块。同步帧确定模块被配置为获取各所述图像帧组中的各静止周期内的中间帧,以确定各所述摄像头对应的同步帧组。
在一种可选的实现方式中,所述视频处理子单元进一步被配置为基于光流法对多组所述视频数据进行处理,获得各视频数据分别对应的图像帧组。
在一种可选的实现方式中,所述目标对象设置于旋转台上,所述旋转台受控每旋转预定角度后静止预定时间直至旋转一周。
相机标定单元92被配置为对各所述摄像头进行相机标定,以确定各所述摄像头的参数。
在一种可选的实现方式中,所述相机标定单元92包括内参计算子单元和外参计算子单元。内参计算子单元被配置为计算各所述摄像机的内参。外参计算子单元被配置为计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
在一种可选的实现方式中,所述相机标定单元92还包括微调子单元。微调子单元被配置为对所述内参和外参进行微调,以确定各所述摄像头的参数。
模型构建单元93被配置为根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型。
在一种可选的实现方式中,所述模型构建单元93包括特征提取子单元和模型构建子单元。特征提取子单元被配置为对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据。模型构建子单元被配置为根据所述参数对所述点云数据进行融合,以获取所述几何模型。
在一种可选的实现方式中,所述模型构建子单元包括融合模块和预处理模块。融合模块被配置为根据所述参数对所述点云数据进行融合,确定初始模型。预处理模块被配置为对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
贴图单元94被配置为根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
本发明实施例通过确定至少一个第一摄像头和至少一个第二摄像头分别对应的同步帧组,并对各所述摄像头进行相机标定,以确定各所述摄像头的参数,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型,根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像,由此,可以提高图像建模的准确性。同时,本实施例可以采用深度摄像头和智能设备内置的摄像头即可较为准确地实现视频帧的同步,相对于纯硬件的密集相机阵列同步方法,极大地减小了成本。
图10是本发明实施例的电子设备的示意图。在本实施例中,电子设备10包括服务器、终端等。如图10所示,该电子设备10:至少包括一个处理器101;以及,与至少一个处理器101通信连接的存储器102;以及,与扫描装置通信连接的通信组件103,通信组件103在处理器101的控制下接收和发送数据;其中,存储器102存储有可被至少一个处理器101执行的指令,指令被至少一个处理器101执行以实现上述图像确定方法。
具体地,该电子设备包括:一个或多个处理器101以及存储器102,图10中以一个处理器101为例。处理器101、存储器102可以通过总线或者其他方式连接,图10中以通过总线连接为例。存储器102作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块。处理器101通过运行存储在存储器102中的非易失性软件程序、指令以及模块,从而执行设备的各种功能应用以及数据处理,即实现上述图像确定方法。
存储器102可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储选项列表等。此外,存储器102可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器102可选包括相对于处理器101远程设置的存储器,这些远程存储器可以通过网络连接至外接设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一个或者多个模块存储在存储器102中,当被一个或者多个处理器101执行时,执行上述任意方法实施例中的图像确定方法。
上述产品可执行本申请实施例所提供的方法,具备执行方法相应的功能模块和有益效果,未在本实施例中详尽描述的技术细节,可参见本申请实施例所提供的方法。
本发明实施例通过确定至少一个第一摄像头和至少一个第二摄像头分别对应的同步帧组,并对各所述摄像头进行相机标定,以确定各所述摄像头的参数,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型,根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像,由此,可以提高图像建模的准确性。同时,本实施例可以采用深度摄像头和智能设备内置的摄像头即可较为准确地实现视频帧的同步,相对于纯硬件的密集相机阵列同步方法,极大地减小了成本。
本发明的另一个实施例涉及一种非易失性存储介质,用于存储计算机可读程序,所述计算机可读程序用于供计算机执行上述部分或全部的方法实施例。
即,本领域技术人员可以理解,实现上述实施例方法中的全部或部分步骤是可以通过程序来指定相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明实施例公开了A1、一种图像确定方法,所述方法包括:
确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
A2、根据A1所述的方法,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
A3、根据A1或A2所述的方法,对各所述摄像头进行相机标定,以确定各所述摄像头的参数包括:
计算各所述摄像机的内参;
计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
A4、根据A3所述的方法,对各所述摄像头进行相机标定,以确定各所述摄像头的参数还包括:
对所述内参和外参进行微调,以确定各所述摄像头的参数。
A5、根据A1或A2所述的方法,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型包括:
对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据;
根据所述参数对所述点云数据进行融合,以获取所述几何模型。
A6、根据A5所述的方法,根据所述参数对所述点云数据进行融合,以获取所述几何模型包括:
根据所述参数对所述点云数据进行融合,确定初始模型;
对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
A7、根据A1所述的方法,确定多个摄像头分别对应的同步帧组包括:
获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得;
对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧;
从各所述图像帧组中确定各所述摄像头对应的同步帧组。
A8、根据A7所述的方法,所述目标对象相对于各所述摄像头周期性处于静止状态;
所述图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
A9、根据A8所述的方法,从各所述图像帧组中确定各所述摄像头对应的同步帧组包括:
获取各所述图像帧组中的各静止周期内的中间帧,以确定各所述摄像头对应的同步帧组。
A10、根据A7-A9中任一项所述的方法,对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组包括:
基于光流法对多组所述视频数据进行处理,获得各视频数据分别对应的图像帧组。
A11、根据A1-A10中任一项所述的方法,多个所述摄像头固定连接。
A12、根据A7或A8所述的方法,所述目标对象设置于旋转台上,所述旋转台受控每旋转预定角度后静止预定时间直至旋转一周。
本发明实施例公开了B1、一种图像确定装置,所述装置包括:
同步帧确定单元,被配置为确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
相机标定单元,被配置为对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
模型构建单元,被配置为根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
贴图单元,被配置为根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
B2、根据B1所述的装置,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
B3、根据B1或B2所述的装置,所述相机标定单元包括:
内参计算子单元,被配置为计算各所述摄像机的内参;
外参计算子单元,被配置为计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
B4、根据B3所述的装置,所述相机标定单元还包括:
微调子单元,被配置为对所述内参和外参进行微调,以确定各所述摄像头的参数。
B5、根据B1或B2所述的装置,所述模型构建单元包括:
特征提取子单元,被配置为对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据;
模型构建子单元,被配置为根据所述参数对所述点云数据进行融合,以获取所述几何模型。
B6、根据B5所述的装置,所述模型构建子单元包括:
融合模块,被配置为根据所述参数对所述点云数据进行融合,确定初始模型;
预处理模块,被配置为对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
B7、根据B1所述的装置,所述同步帧确定单元包括:
视频获取子单元,被配置为获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得;
视频处理子单元,被配置为对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧;
同步帧确定子单元,被配置为从各所述图像帧组中确定各所述摄像头对应的同步帧组。
B8、根据B7所述的装置,所述目标对象相对于各所述摄像头周期性处于静止状态;
所述图像帧组包括对应视频数据中的目标对象处于各静止周期内的图像帧。
B9、根据B8所述的装置,所述同步帧确定子单元包括:
同步帧确定模块,被配置为获取各所述图像帧组中的各静止周期内的中间帧,以确定各所述摄像头对应的同步帧组。
B10、根据B7-B9中任一项所述的装置,所述视频处理子单元进一步被配置为基于光流法对多组所述视频数据进行处理,获得各视频数据分别对应的图像帧组。
B11、根据B1-B11中任一项所述的装置,多个所述摄像头固定连接。
B12、根据B7或B8所述的装置,所述目标对象设置于旋转台上,所述旋转台受控每旋转预定角度后静止预定时间直至旋转一周。
本发明实施例公开了C1、一种电子设备,包括存储器和处理器,所述存储器用于存储一条或多条计算机程序指令,其中,所述一条或多条计算机程序指令被所述处理器执行以实现如A1-A12中任一项所述的方法。
本发明实施例公开了D1、一种计算机可读存储介质,其上存储计算机程序指令,所述计算机程序指令在被处理器执行时以实现如A1-A12中任一项所述的方法。
以上所述仅为本发明的优选实施例,并不用于限制本发明,对于本领域技术人员而言,本发明可以有各种改动和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种图像确定方法,其特征在于,所述方法包括:
确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
2.根据权利要求1所述的方法,其特征在于,所述第一摄像头为深度摄像头,所述第二摄像头为分辨率大于预定值的摄像头。
3.根据权利要求1或2所述的方法,其特征在于,对各所述摄像头进行相机标定,以确定各所述摄像头的参数包括:
计算各所述摄像机的内参;
计算各所述摄像机之间的相机坐标转换,确定各所述摄像机的外参。
4.根据权利要求3所述的方法,其特征在于,对各所述摄像头进行相机标定,以确定各所述摄像头的参数还包括:
对所述内参和外参进行微调,以确定各所述摄像头的参数。
5.根据权利要求1或2所述的方法,其特征在于,根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型包括:
对所述第一同步帧组进行特征点提取,确定所述第一同步帧组中的各同步帧的点云数据;
根据所述参数对所述点云数据进行融合,以获取所述几何模型。
6.根据权利要求5所述的方法,其特征在于,根据所述参数对所述点云数据进行融合,以获取所述几何模型包括:
根据所述参数对所述点云数据进行融合,确定初始模型;
对所述初始模型进行预处理,获得所述几何模型,所述预处理包括移除非目标对象部分、和/或移除孤立点、和/或补充空缺点。
7.根据权利要求1所述的方法,其特征在于,确定多个摄像头分别对应的同步帧组包括:
获取多组视频数据,多组所述视频数据通过多个所述摄像头采集获得;
对多组所述视频数据进行处理,获得各所述视频数据分别对应的图像帧组,所述图像帧组包括对应视频数据中的目标对象处于静止状态下的图像帧;
从各所述图像帧组中确定各所述摄像头对应的同步帧组。
8.一种图像确定装置,其特征在于,所述装置包括:
同步帧确定单元,被配置为确定多个摄像头分别对应的同步帧组,所述多个摄像头包括至少一个第一摄像头和至少一个第二摄像头;
相机标定单元,被配置为对各所述摄像头进行相机标定,以确定各所述摄像头的参数;
模型构建单元,被配置为根据所述参数和所述第一摄像头对应的第一同步帧组进行图像建模,获取目标对象的几何模型;
贴图单元,被配置为根据所述第二摄像头对应的第二同步帧组对所述几何模型进行贴图,确定目标图像。
9.一种电子设备,包括存储器和处理器,其特征在于,所述存储器用于存储一条或多条计算机程序指令,其中,所述一条或多条计算机程序指令被所述处理器执行以实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储计算机程序指令,其特征在于,所述计算机程序指令在被处理器执行时以实现如权利要求1-7中任一项所述的方法。
CN202111109155.5A 2021-09-22 2021-09-22 图像确定方法、装置、电子设备和计算机可读存储介质 Pending CN113763545A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111109155.5A CN113763545A (zh) 2021-09-22 2021-09-22 图像确定方法、装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111109155.5A CN113763545A (zh) 2021-09-22 2021-09-22 图像确定方法、装置、电子设备和计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN113763545A true CN113763545A (zh) 2021-12-07

Family

ID=78796776

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111109155.5A Pending CN113763545A (zh) 2021-09-22 2021-09-22 图像确定方法、装置、电子设备和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113763545A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117893695A (zh) * 2024-03-15 2024-04-16 浙江托普云农科技股份有限公司 任意株高三维重建方法、系统及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1374620A (zh) * 2002-03-27 2002-10-16 深圳市特得维技术有限公司 计算机视觉三维彩色扫描系统及其扫描方式
CN102298797A (zh) * 2011-08-31 2011-12-28 深圳市美丽同盟科技有限公司 三维虚拟试衣的方法、装置及系统
CN103281507A (zh) * 2013-05-06 2013-09-04 上海大学 基于真三维显示的可视电话系统及方法
CN104346822A (zh) * 2013-07-23 2015-02-11 富士通株式会社 纹理贴图方法及装置
CN107742318A (zh) * 2017-09-28 2018-02-27 江门市金佣网有限公司 商品实时三维成像方法及基于实时三维展示的交易系统
CN109615686A (zh) * 2018-12-07 2019-04-12 腾讯科技(深圳)有限公司 潜在可视集合的确定方法、装置、设备及存储介质
CN110599586A (zh) * 2019-08-06 2019-12-20 湖北亿咖通科技有限公司 一种半稠密场景重建方法、装置、电子设备及存储介质
CN111566437A (zh) * 2018-02-14 2020-08-21 欧姆龙株式会社 三维测量系统以及三维测量方法
CN112470192A (zh) * 2018-06-08 2021-03-09 Oppo广东移动通信有限公司 双摄像头标定方法、电子设备、计算机可读存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1374620A (zh) * 2002-03-27 2002-10-16 深圳市特得维技术有限公司 计算机视觉三维彩色扫描系统及其扫描方式
CN102298797A (zh) * 2011-08-31 2011-12-28 深圳市美丽同盟科技有限公司 三维虚拟试衣的方法、装置及系统
CN103281507A (zh) * 2013-05-06 2013-09-04 上海大学 基于真三维显示的可视电话系统及方法
CN104346822A (zh) * 2013-07-23 2015-02-11 富士通株式会社 纹理贴图方法及装置
CN107742318A (zh) * 2017-09-28 2018-02-27 江门市金佣网有限公司 商品实时三维成像方法及基于实时三维展示的交易系统
CN111566437A (zh) * 2018-02-14 2020-08-21 欧姆龙株式会社 三维测量系统以及三维测量方法
CN112470192A (zh) * 2018-06-08 2021-03-09 Oppo广东移动通信有限公司 双摄像头标定方法、电子设备、计算机可读存储介质
CN109615686A (zh) * 2018-12-07 2019-04-12 腾讯科技(深圳)有限公司 潜在可视集合的确定方法、装置、设备及存储介质
CN110599586A (zh) * 2019-08-06 2019-12-20 湖北亿咖通科技有限公司 一种半稠密场景重建方法、装置、电子设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117893695A (zh) * 2024-03-15 2024-04-16 浙江托普云农科技股份有限公司 任意株高三维重建方法、系统及装置
CN117893695B (zh) * 2024-03-15 2024-06-04 浙江托普云农科技股份有限公司 任意株高三维重建方法、系统及装置

Similar Documents

Publication Publication Date Title
US11830163B2 (en) Method and system for image generation
US10609282B2 (en) Wide-area image acquiring method and apparatus
KR101121034B1 (ko) 복수의 이미지들로부터 카메라 파라미터를 얻기 위한 시스템과 방법 및 이들의 컴퓨터 프로그램 제품
US9117310B2 (en) Virtual camera system
Niem et al. Automatic reconstruction of 3D objects using a mobile monoscopic camera
US20030012410A1 (en) Tracking and pose estimation for augmented reality using real features
CN107798702B (zh) 一种用于增强现实的实时图像叠加方法以及装置
KR20110078175A (ko) 영상 데이터 생성 방법 및 장치
US20200058167A1 (en) Generation device, generation method and storage medium for three-dimensional model
KR101853269B1 (ko) 스테레오 이미지들에 관한 깊이 맵 스티칭 장치
US11798233B2 (en) Generation device, generation method and storage medium for three-dimensional model that remove a portion of the three-dimensional model
JP2018207252A (ja) 画像処理システム、画像処理システムの制御方法、及び、プログラム
US11328436B2 (en) Using camera effect in the generation of custom synthetic data for use in training an artificial intelligence model to produce an image depth map
CN113763544A (zh) 图像确定方法、装置、电子设备和计算机可读存储介质
KR20190044439A (ko) 스테레오 이미지들에 관한 깊이 맵 스티칭 방법
JP6403862B1 (ja) 3次元モデルの生成装置、生成方法及びプログラム
JP2008217593A (ja) 被写体領域抽出装置及び被写体領域抽出プログラム
JP7374582B2 (ja) 画像処理装置、画像生成方法およびプログラム
JP7500512B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6799468B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
CN113763545A (zh) 图像确定方法、装置、电子设备和计算机可读存储介质
JP2016114445A (ja) 3次元位置算出装置およびそのプログラム、ならびに、cg合成装置
JP7192526B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2005123823A (ja) 距離情報付加装置、付加映像生成装置、付加映像生成方法及び距離情報付加プログラム
JP2011146762A (ja) 立体モデル生成装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination